Verantwortungsvolle KI5 Min. Lesezeit

KI-Antworten prüfen: So gehen Sie bei der Arbeit vor

Eine praktische Fünf-Schritte-Methode zur Prüfung KI-generierter Aussagen, Quellen und Kontexte — ohne jede Aussage auf die gleiche Weise zu kontrollieren.

Bokili EditorialVeröffentlicht am 8. August 2026

An AI-generated stream of fragments passing through a human-held transparent prism and emerging as three orderly evidence cards.

Eine KI-Antwort kann auf die unangenehmste Weise falsch sein: ganz unauffällig. Die Grammatik ist einwandfrei, die Argumentation logisch und die Quellenliste beruhigend. Diese scheinbare Qualität kann dazu führen, dass wir unsere Wachsamkeit genau dann senken, wenn wir sie erhöhen sollten.

Bei der Arbeit bedeutet Verifizierung nicht, jeden Satz pauschal zu verdächtigen. Entscheidend ist die Frage, was passieren würde, wenn die Antwort falsch wäre. Für ein Brainstorming mit geringer Tragweite reicht eine kurze Prüfung. Eine Lieferantenempfehlung, eine rechtliche Zusammenfassung, eine Finanzprognose oder eine interne Richtlinie verlangt deutlich mehr. Gefragt ist kein grundsätzliches Misstrauen, sondern ein angemessenes Urteilsvermögen.

NIST bezeichnet selbstbewusst formulierte, aber fehlerhafte Inhalte als „Konfabulation“ und warnt davor, dass Automatisierungsverzerrungen zu übermäßigem Vertrauen in generierte Antworten führen können. Das Generative AI Profile empfiehlt, Quellen und Zitate zu prüfen. Die Leitlinien der Europäischen Kommission zur KI-Kompetenz betonen, dass Schulungen Kontext und Risiko berücksichtigen müssen, und nennen Halluzinationen ausdrücklich als ein Phänomen, das Beschäftigte beim Einsatz alltäglicher Tools verstehen sollten. Auch das KI-Handbuch der britischen Regierung rät dazu, Ausgaben generativer KI nicht unkritisch zu vertrauen.

Verifizierung ist kein zweiter Prompt

Die Frage „Bist du sicher?“ kann eine Korrektur auslösen. Sie belegt jedoch nicht unabhängig, dass die überarbeitete Antwort zutrifft. Das System kann denselben Fehler mit neuer Sicherheit wiederholen, ihn durch einen anderen ersetzen oder eine Quelle nennen, die überzeugend wirkt, bis man sie tatsächlich öffnet.

	Plausibilitätscheck	Belegprüfung
Frage	Das Modell bitten, sich selbst zu prüfen	Wichtige Aussagen herauslösen und unabhängig prüfen
Quelle	Prüfen, ob überhaupt eine Quelle genannt wird	Originalquelle öffnen und Urheber, Datum, Geltungsbereich und Wortlaut prüfen
Argumentation	Eine plausible Erklärung akzeptieren	Wichtige Zahlen nachrechnen und Annahmen hinterfragen
Kontext	Prüfen, ob der Text relevant klingt	Prüfen, ob die Schlussfolgerung zur tatsächlichen Zielgruppe, zu den Einschränkungen und zur Entscheidung passt
Menschliche Prüfung	Jemand klickt auf „Freigeben“	Eine benannte prüfende Person versteht die Belege und die Folgen eines Fehlers

KI kann bei der Verifizierung helfen. Sie kann Behauptungen extrahieren, Fragen vorschlagen und fehlende Informationen identifizieren. Sie sollte jedoch nicht der einzige Richter über ihre eigene Antwort sein.

Die TRACE-Methode anwenden

TRACE: Fünf Schritte von plausibel zu nutzbar

1. Konsequenzen einschätzen (Triage)

Entscheiden Sie, was passiert, wenn die Ausgabe falsch ist. Je größer die finanziellen, rechtlichen, menschlichen, sicherheitsbezogenen oder Reputationsfolgen sind, desto gründlicher muss die Prüfung ausfallen.

2. Behauptungen aufdecken (Reveal)

Trennen Sie Fakten, Berechnungen, Interpretationen, Vorhersagen und verborgene Annahmen. Überprüfen Sie die Behauptungen, die die Schlussfolgerung tragen – nicht jeden harmlosen Satz.

3. Mit Belegen verankern (Anchor)

Öffnen Sie die beste verfügbare Primärquelle. Prüfen Sie, ob sie existiert, aktuell ist, denselben Geltungsbereich abdeckt und die Aussage tatsächlich stützt.

4. Kontext prüfen (Check)

Prüfen Sie, ob die Antwort Ihre realen Daten, Zielgruppe, Geografie, Richtlinien, den Zeitrahmen und Einschränkungen berücksichtigt. Eine wahre Tatsache kann trotzdem zu einer schlechten Entscheidung führen.

5. Eskalieren bei Bedarf (Escalate)

Ziehen Sie einen Fachexperten oder einen verantwortlichen Entscheidungsträger hinzu, wenn die Risiken Ihre Expertise übersteigen. Halten Sie Unsicherheiten fest, anstatt sie zu ignorieren.

TRACE ist keine Wahrheitsgarantie. Es ist eine wiederholbare Methode, um Unsicherheiten sichtbar zu machen und zu verhindern, dass eine ausgefeilte Antwort direkt in die reale Arbeit einfließt.

Ein Praxisbeispiel: die allzu überzeugende Lieferantenempfehlung

Stellen Sie sich vor, ein Einkaufsmanager bittet einen KI-Assistenten, zwei Lieferanten anhand hochgeladener Dokumente und öffentlicher Informationen zu vergleichen. Die Antwort empfiehlt Lieferant B, weil er „18 % günstiger“ ist, eine im nächsten Quartal in Kraft tretende Vorschrift erfüllt und alle erforderlichen Märkte bedient. Diese Zahlen sind hypothetisch, aber das Verifizierungsmuster ist real.

Schätzen Sie zuerst die Folgen ein. Die Empfehlung beeinflusst Ausgaben und Compliance und verlangt deshalb eine gründliche Prüfung. Legen Sie dann die tragenden Aussagen offen: die Einsparung von 18 %, die regulatorische Frist und die geografische Abdeckung. Verankern Sie jede Aussage in Belegen. Berechnen Sie die Kosten anhand vergleichbarer Angebote und Mengen neu, nutzen Sie die Veröffentlichung der Regulierungsbehörde für die Frist und vertragliche oder offizielle Lieferanteninformationen für die Abdeckung.

Lesen ist der Anfang. Üben macht den Unterschied.

Jetzt starten

Prüfen Sie nun den Kontext. Sind Fracht, Zölle, Mindestmengen, Zahlungsbedingungen und Währung in der Einsparung enthalten? Gilt die Vorschrift für dieses Produkt und diesen Markt? Bedeutet „Abdeckung“ eine juristische Einheit, ein Lager oder verlässliche Lieferfähigkeit? Lassen Sie schließlich die rechtliche Auslegung und die geschäftliche Entscheidung von den zuständigen Personen prüfen. Die KI-Antwort bleibt nützlich: Sie hat die Analyse beschleunigt, aber nicht ersetzt.

KI für ein Aussageninventar nutzen — nicht zur Selbstzertifizierung

Sie haben die folgende Empfehlung formuliert. Extrahieren Sie jede Aussage, deren Fehler erhebliche Folgen hätte. Erstellen Sie eine Tabelle mit: Aussage; Typ (Fakt, Berechnung, Interpretation oder Prognose); benötigter Beleg; beste Primärquelle; Folge eines Fehlers. Führen Sie Annahmen separat auf. Entscheiden Sie nicht, ob eine Aussage wahr ist.

[KI-ANTWORT EINFÜGEN]

Beispiel: „Lieferant B ist 18 % günstiger“ | Berechnung | Vergleichbare Angebote und Mengen, Fracht, Währung und Zahlungsbedingungen | Unterzeichnete Geschäftsunterlagen | Budgetfehler und falsche Beschaffungsentscheidung

Nutzen Sie den Prompt, um die Prüfung zu strukturieren. Öffnen und bewerten Sie die Belege selbst.

Prüfaufwand an die Tragweite anpassen

Geringe Tragweite — Brainstorming, Gliederungen oder Tonvarianten: Prüfen Sie Eignung, Datenschutz und offensichtliche Fehler, bevor Sie das Material verwenden.
Mittlere Tragweite — Kundentexte, Forschungszusammenfassungen oder interne Empfehlungen: Prüfen Sie Namen, Daten, Zahlen, Zitate, Quellen und die Aussagen, auf denen die Schlussfolgerung beruht.
Hohe Tragweite — Arbeit mit Auswirkungen auf Geld, Rechte, Sicherheit, Beschäftigung, Compliance oder IT-Sicherheit: Nutzen Sie maßgebliche Quellen, unabhängige Berechnungen und qualifizierte Fachprüfung. Verlassen Sie sich nie allein auf generierte Ausgaben.

Je höher der Einsatz, desto unabhängiger sollte die Überprüfung sein. Ein neuer Chat mit demselben Modell ist keine unabhängige Quelle. Ein zweites Modell kann ein nützlicher Quervergleich sein, aber die Übereinstimmung zwischen zwei Systemen ist immer noch kein Beweis.

Drei Fallen, die eine Prüfung stärker wirken lassen, als sie ist

Quellenkulisse: Eine lange Quellenliste schafft Vertrauen, doch niemand öffnet die Quellen oder prüft, ob sie die konkreten Aussagen tatsächlich stützen.
Polierte Vollständigkeit: Eine gut strukturierte Antwort verdeckt fehlende Einschränkungen, unbequeme Gegenbelege oder Unsicherheit.
Abnickende Aufsicht: Ein Mensch ist formal eingebunden, hat aber nicht die Zeit, Fachkenntnis oder Befugnis, die Ausgabe ernsthaft zu hinterfragen.

Gute Verifizierung zeigt sich im Verhalten: Die prüfende Person weiß, welche Aussagen entscheidend sind, nutzt dem Risiko angemessene Belege und kann erklären, warum das Ergebnis einsatzbereit ist — oder warum es gestoppt werden muss.

Wenden Sie TRACE auf eine echte Antwort an

Eine 10-minütige Verifizierungsübung

Wählen Sie eine KI-generierte Antwort, die Sie tatsächlich bei der Arbeit verwenden könnten.
Notieren Sie, welche Folge es hätte, wenn die zentrale Schlussfolgerung falsch wäre.
Markieren Sie jede Tatsachenbehauptung, Zahl, jedes Zitat und jede Annahme, auf denen die Schlussfolgerung beruht.
Öffnen Sie für die beiden wichtigsten Aussagen die stärkste Primärquelle und prüfen Sie Datum, Geltungsbereich und tatsächliche Aussagekraft.
Identifizieren Sie einen Kontextfaktor, den die Antwort möglicherweise übersehen hat.
Entscheiden Sie ausdrücklich: verwenden, überarbeiten, weiter prüfen oder eskalieren.

Die Gewohnheit ist einfach: Vertrauen muss nach der Generierung verdient werden, nicht schon bei der Generierung vorausgesetzt sein. Wenn Beschäftigte den Prüfaufwand an die möglichen Folgen anpassen können, wird KI nützlicher — nicht weniger — weil sie wissen, was schnell gehen darf und was gebremst werden muss.

Bokili macht aus Verhaltensweisen wie Aussagenprüfung, Quellenkontrolle und Risikobewertung kurze Übungsmissionen. Ziel ist nicht, Menschen Angst vor KI zu machen. Sie sollen KI mit genug Zuversicht zum Handeln nutzen — und mit genug Urteilsvermögen zum Innehalten.