Studien & Analysen4 Min. Lesezeit

Eine KI-Antwort zu prüfen, heißt nicht, die Entscheidung zu ändern

Skepsis, Überprüfung und Vertrauen sind verschiedene Verhaltensweisen. Schulen Sie Mitarbeitende darin, Risiken zu erkennen, die richtige Quelle zu prüfen und die endgültige Handlung zu ändern.

Bokili EditorialVeröffentlicht am 31. Oktober 2026· Geprüft am 31. Oktober 2026

Eine Person erkennt eine fragwürdige KI-Antwort, prüft die Quelle und korrigiert die endgültige Entscheidung.

Man kann eine KI-Antwort anzweifeln, sie mit einer Quelle abgleichen und trotzdem die gleiche falsche Entscheidung treffen. Das sind keine widersprüchlichen Ergebnisse. Es sind drei verschiedene Verhaltensweisen, und jede kann für sich allein scheitern.

Ein Review vom September 2026 in Current Opinion in Psychology unterscheidet Skepsis, Überprüfung und Vertrauen bei der zielgerichteten Nutzung von KI-Beratern in Unternehmen. Die Unterscheidung ist für Schulungen wichtig. Eine Warnung kann vorsichtig machen. Ein Zitat kann zum Klick anregen. Beides beweist nicht, dass die Prüfung erfolgreich war oder die Handlung der Person änderte.

Messen Sie drei Verhaltensweisen, nicht nur das Vertrauen

Der Review stellt fest, dass die meisten Studien Vertrauen messen, während Skepsis und Überprüfung seltener direkt gemessen werden. Er berichtet auch, dass allgemeine Halluzinationswarnungen uneinheitliche und schwache Effekte zeigen. Gezieltere Hinweise, wo ein KI-System tendenziell versagt, könnten helfen, aber die Evidenz ist begrenzt. Die Lektion für die Praxis ist einfach: Behandeln Sie Disclaimer, Quellenlinks oder selbstberichtetes Vertrauen nicht als Beweis für eine sichere Nutzung.

Der NCA-Entscheidungstest

N — Notice

Erkennt die Person, dass die Antwort falsch, unvollständig oder für die Entscheidung ungeeignet sein könnte?

C — Check

Kann die Person die wesentliche Behauptung mit einer unabhängigen, aktuellen und maßgeblichen Quelle vergleichen, statt nur die KI-Antwort erneut zu lesen?

A — Act

Ändert das Ergebnis der Prüfung den Entwurf, die Entscheidung, den Eskalationsweg oder den Entschluss, die KI nicht mehr zu nutzen?

	Looks reassuring	Zeigt nützliches Verhalten
Erkennen	Die Person sagt, dass KI halluzinieren kann	Die Person markiert die genaue Aussage, die geprüft werden muss
Prüfen	Die Person öffnet eine Quellenangabe	Die Person findet und liest die maßgebliche Quelle
Handeln	Die Person gibt hohe Sicherheit an	Die Person korrigiert, eskaliert oder verwirft die Antwort
Nachweis	A completion tick	Eine nachvollziehbare Spur von der Aussage über die Quelle bis zur geänderten Entscheidung

Eine erfolgreiche Prüfung muss das Ergebnis ändern können

Endet die Übung nach dem Öffnen einer Quelle, misst sie nur Aktivität. Fragen Sie, was die Quelle geändert hat.

Praxisbeispiel: ein interner Berater für Reiserichtlinien

Ein Mitarbeiter fragt einen internen KI-Berater nach der Pauschale für das Abendessen auf einer Reise. Die Antwort lautet 60 € und verweist auf die Reiserichtlinie. Die aktuelle Richtlinie nennt 45 €. Der Mitarbeiter ist unsicher und öffnet das Dokument, überfliegt aber den falschen Abschnitt, behält die 60 € bei und reicht die Abrechnung ein.

Lesen ist der Anfang. Üben macht den Unterschied.

Jetzt starten

Die Antwort mit NCA prüfen

1
Entscheidungspunkt erkennen
Die Abrechnung betrifft erstattungsfähige Ausgaben, also vermerkt der Mitarbeiter Betrag und Richtlinienversion zur Prüfung.
2
Maßgebliche Quelle prüfen
Die Person öffnet die aktuelle Richtlinie, sucht nach dem Reiseziel und der Verpflegungskategorie und notiert den verwendeten Absatz.
3
Ergebnis erläutern
Sie stellt fest, dass die KI-Antwort veraltet war, und nennt den korrekten Höchstbetrag von 45 €.
4
Handlung ändern
Sie ändert die Abrechnung, behält den Quellenverweis bei und meldet die veraltete Antwort über den vorgesehenen Feedback-Kanal.
5
Transfer testen
Sie wiederholt die Methode mit einer anderen Richtlinienfrage, bei der die KI-Antwort korrekt ist.

Dieses Beispiel zeigt vier mögliche Ergebnisse. Eine Person bemerkt das Risiko nicht. Sie bemerkt es, prüft aber nicht. Sie versucht zu prüfen und übersieht den Fehler. Oder sie findet den Fehler, ändert aber die Handlung nicht. Ein einzelner Wert wie „Vertrauen“ verdeckt diese Unterschiede und gibt dem Schulungsteam wenig Orientierung für die nächste Übung.

Die Prüfung an den Folgen der Entscheidung ausrichten

Das AI Risk Management Framework von NIST fordert eine dokumentierte menschliche Aufsicht, kontextbezogene Interpretation der Ergebnisse und Feedback-Mechanismen für Widerspruch oder Korrektur. Auch das AI Playbook der britischen Regierung besagt, dass Menschen für Ergebnisse verantwortlich bleiben und diese im Verhältnis zu Auswirkung und Risiko validieren sollten. Für eine interne Notiz mit geringem Risiko dauert NCA vielleicht eine Minute. Bei öffentlichen, finanziellen, rechtlichen oder personellen Entscheidungen sollten Quelle, Prüfer und Freigaberegeln explizit sein.

Nachweis, dass die Prüfgewohnheit funktioniert

Die lernende Person erkennt die genaue Aussage oder Empfehlung, die geprüft werden muss.
Die Quelle ist von der generierten Antwort unabhängig und für die Aufgabe aktuell.
Die lernende Person unterscheidet zwischen dem Öffnen einer Quelle und dem Finden des relevanten Belegs.
Das Ergebnis hält fest, ob die Aussage bestätigt, korrigiert oder ungeklärt blieb.
Die endgültige Handlung ändert sich, wenn sich die Beleglage ändert.
Ungeklärte Fälle oder Fälle mit hohen Auswirkungen folgen einem benannten Eskalationsweg.

Die Leitlinien der Europäischen Kommission zur KI-Kompetenz betonen ebenfalls Kontext, Zweck, Nutzerwissen und die für die menschliche Aufsicht erforderlichen Fähigkeiten. Das unterstützt aufgabenspezifische Übungen: Die Prüfung einer Richtlinienantwort unterscheidet sich von der Prüfung einer Berechnung, einer Kundennachricht oder eines Personal-Rankings.

Eine zehnminütige NCA-Übung erstellen

Erkennen, Prüfen, Handeln testen

Wählen Sie eine fiktive Entscheidung mit geringem Risiko, die durch eine KI-Antwort unterstützt wird.
Bauen Sie einen plausiblen Fehler in eine wesentliche Aussage ein und stellen Sie die richtige Quelle bereit.
Bitten Sie die lernende Person, vor dem Öffnen der Quelle zu markieren, was geprüft werden muss.
Beobachten Sie, ob die lernende Person die maßgebliche Passage findet und nicht nur irgendeinen verwandten Text.
Fordern Sie eine abschließende Entscheidungsnotiz, die erklärt, was sich geändert hat und warum.
Wiederholen Sie die Übung mit einer richtigen Antwort, damit Prüfen nicht zum automatischen Verwerfen wird.

Kombinieren Sie diese Methode mit der „Nichts gefunden“-Abdeckungsprüfung, der UNIT-Zahlenprüfung und dem Sales Brief: Fakten vs. Hypothesen. Jede Methode gibt der Prüfphase eine konkrete Form für unterschiedliche Aufgaben.

Das Ziel ist nicht permanentes Misstrauen, sondern angemessenes Vertrauen. Gute KI-Praxis zeigt den Weg auf: Risiko erkennen, die richtigen Belege prüfen und die Entscheidung von den Fakten leiten lassen.

Die gesamte Vorgehensweise üben

Bokili wandelt Verifizierungsprinzipien in kurze, rollenbasierte Missionen mit Aufgabe, Evidenzschwelle und Feedback um. Der entscheidende Nachweis ist nicht, dass jemand eine Warnung gelesen hat, sondern dass eine bessere Entscheidung getroffen wurde.