Verantwortungsvolle KI4 Min. Lesezeit

KI-Entwurf und Akzeptanztest konsequent trennen

Wenn dieselbe KI eine Empfehlung und ihren Akzeptanztest erstellt, wiederholen sich blinde Flecken. Legen Sie zuerst menschliche Kriterien fest.

Bokili EditorialVeröffentlicht am 19. September 2026· Geprüft am 19. September 2026

Ein KI-Entwurf durchläuft einen menschlich festgelegten Akzeptanztest vor einer unabhängigen Prüfung

Ein KI-System kann eine Empfehlung entwerfen und dann eine überzeugende Checkliste erstellen, die besagt, dass die Empfehlung gut ist. Das ist keine unabhängige Bewertung. Derselbe fehlende Kontext, dieselbe falsche Annahme oder bevorzugte Darstellung kann sowohl die Antwort als auch den Akzeptanztest beeinflussen.

Bei wichtigen Aufgaben Produktion und Abnahme trennen. Eine für das Ergebnis verantwortliche Person sollte vor der Generierung festlegen, welche Nachweise, Grenzen und Abbruchbedingungen relevant sind. Ein Prüfer sollte den Entwurf dann anhand dieser Kriterien testen, anstatt das Modell sich selbst bestätigen zu lassen.

Ein zweiter Prompt ist keine zweite Meinung

Der Unterschied ist leicht zu übersehen. Ein Team bittet ein KI-Tool, Lieferanten zu vergleichen. Dann bittet es dasselbe System im selben Kontext, seinen Vergleich auf Vollständigkeit und Risiko zu bewerten. Die zweite Antwort mag vorsichtiger wirken, basiert aber immer noch auf der Interpretation desselben Briefings durch das Modell. Es wurde keine unabhängige Evidenzquelle geschaffen.

Das NIST AI Risk Management Framework betrachtet Risikomanagement als kontinuierliche Praxis und fordert vielfältige Perspektiven, um Annahmen aufzudecken. Das Measure Playbook geht weiter: Organisationen sollten interne Experten, die nicht die direkten Entwickler sind, oder unabhängige Gutachter einbeziehen und Validität, Einschränkungen sowie menschliche Prüfaufgaben dokumentieren. Das UK Government AI Playbook besagt ebenfalls, dass Teams Ergebnisse testen, eine sinnvolle menschliche Kontrolle aufrechterhalten und risikoreiche Entscheidungen von Menschen validieren sollten.

Das bedeutet nicht, dass jeder Entwurf mit geringen Auswirkungen ein Komitee benötigt. Unabhängigkeit sollte dem Risiko entsprechen. Eine Besprechungsagenda benötigt vielleicht eine schnelle Überprüfung durch den Verantwortlichen. Eine Lieferantenempfehlung, ein Einstellungskriterium oder eine Kundenlösung erfordert eine stärkere Trennung zwischen dem System, das den Vorschlag erstellt, und den Personen, die über dessen Akzeptanz entscheiden.

Der KGNVP-Akzeptanztest

K — Kriterien zuerst festlegen

Die Bedingungen für ein akzeptables Ergebnis festlegen, bevor der Entwurf vorliegt. Das reduziert die Versuchung, die Messlatte an eine überzeugende Antwort anzupassen.

G — Grenzen deklarieren

Ausgeschlossene Daten, bekannte Lücken, Bereichsgrenzen und Entscheidungen benennen, die die KI nicht treffen darf.

N — Nachweis nachvollziehbar

Für jede wesentliche Behauptung eine genehmigte Quelle, Aufzeichnung oder Berechnung fordern, die ein Prüfer einsehen kann.

V — Verantwortung zuweisen

Benennen, wer die Arbeit genehmigen, zurückweisen, eskalieren oder stoppen darf. Menschliche Prüfung ist eine Verantwortung, kein Zierwerk.

P — Prüfer getrennt

Für wesentliche Konsequenzen eine Person oder ein Team mit ausreichend Distanz einsetzen, um sowohl die Darstellung als auch die Details zu hinterfragen.

Generierung von Bewertung trennen

	Self-check loop	Independent acceptance test
Zeitpunkt	Criteria are invented after the answer appears.	Criteria are fixed before generation.
Nachweis	The model judges plausibility from its own response.	The reviewer traces claims to approved sources.
Blinde Flecken	The same framing shapes draft and critique.	A reviewer can challenge the brief and missing context.
Autorität	A quality score feels like approval.	A named person approves, returns or stops the work.
Aufzeichnung	The chat ends with a reassuring verdict.	The team keeps criteria, evidence, exceptions and decision.

Lesen ist der Anfang. Üben macht den Unterschied.

Jetzt starten

Der Akzeptanztest ist kein längerer Prompt. Er ist eine kleine, vom Prozess selbst gesteuerte Kontrolle. Er sollte nutzbar bleiben, wenn das Team Modelle, Tools oder Anbieter wechselt. Das macht ihn zu einem dauerhaften Bestandteil des Workflows und nicht zu einer Funktion eines Chats.

Praxisbeispiel: eine KI-gestützte Lieferantenempfehlung

Stellen Sie sich vor, ein Operations-Team vergleicht drei Lieferanten für eine Service-Verlängerung. Bevor KI eingesetzt wird, legt der Entscheidungsverantwortliche fünf Akzeptanzbedingungen fest: Alle Preise müssen aus aktuellen Angeboten stammen; obligatorische Sicherheitsnachweise müssen vorhanden sein; ungelöste vertragliche Ausnahmen müssen sichtbar sein; kein Kriterium darf stillschweigend neu gewichtet werden; und die Empfehlung muss zeigen, welche Nachweise das Ergebnis ändern würden.

Prüfung in zwei Phasen

1
1. Akzeptanzkarte erstellen
Der Entscheidungsverantwortliche dokumentiert Ergebnis, fünf Kriterien, genehmigte Quellen, Ausschlüsse, Abbruchbedingungen und den endgültigen Genehmiger.
2
2. Entwurf erstellen
Der Analyst nutzt das genehmigte KI-Tool, um Angebote zu ordnen und einen Vergleich zu entwerfen. Der Prompt darf die Karte referenzieren, sie aber nicht ändern.
3
3. Behauptungen nachvollziehen
Ein Prüfer gleicht jede wesentliche Aussage mit den Angeboten und Sicherheitsaufzeichnungen ab. Unbelegte Behauptungen werden entfernt, nicht abgemildert.
4
4. Rahmen hinterfragen
Der Prüfer fragt, was der Entwurf weggelassen hat, ob ein Kriterium neu interpretiert wurde und welche Unsicherheit die Empfehlung umkehren könnte.
5
5. Entscheidung dokumentieren
Der Genehmiger akzeptiert, lehnt ab oder stoppt die Arbeit, mit Begründung und erforderlichen Nachweisen.

Angenommen, der Entwurf stuft Lieferant A als Ersten ein, weil er den Service als den kostengünstigsten beschreibt. Der Prüfer stellt fest, dass das Modell die monatliche Gebühr verglichen, aber eine Migrationsgebühr im Angebot ignoriert hat. Da die Akzeptanzkarte den aktuellen Gesamtpreis erforderte und eine stillschweigende Neugewichtung untersagte, ist das Problem leicht zu identifizieren. Der Prozess benötigt nicht, dass die KI einen Fehler zugibt; er benötigt einen menschlich gesteuerten Test, der ihn aufdeckt.

Nutzen Sie Unabhängigkeit, wo sie die Entscheidung beeinflusst

Beginnen Sie mit der kleinsten glaubwürdigen Trennung. Für Routineaufgaben kann der Anfragende die Checkliste besitzen und die Ergebnisse überprüfen. Bei höheren Einsätzen trennen Sie Anfragenden, Ersteller und Genehmiger. Wo Spezialwissen zählt, fügen Sie jemanden hinzu, der das Fachgebiet versteht und nicht für schnelles Ausliefern des Systems belohnt wurde.

Dies ergänzt ein Annahmenprotokoll: Annahmen zeigen, was falsch sein könnte, während ein Akzeptanztest definiert, was vor der Aktion wahr sein muss. Ein Reviewer-Track schult die Fähigkeit, diesen Test anzuwenden. Die KI-Übergabekarte enthält die Nachweise und Grenzen für die Überprüfung. Für unternehmensweite Praxis verbindet Bokilis Lernpfad für Führungskräfte diese Kontrollen mit der realen Arbeit.

Eine Zehn-Minuten-Akzeptanzkarte erstellen

Choose one AI-assisted decision that someone will act on this month.
Write the outcome and three conditions an acceptable answer must meet.
Name the approved evidence for each condition.
Add one limit, one stop condition and the person with final authority.
Decide whether the current reviewer is independent enough for the consequence.
Run the card against one recent draft and record the first mismatch.

Ein flüssiger Entwurf kann seinen eigenen Test überflüssig erscheinen lassen. Genau dann ist Trennung wichtig. Lassen Sie KI Optionen, Zusammenfassungen und Empfehlungen erstellen. Halten Sie den Akzeptanzstandard außerhalb des Entwurfs, im Besitz von Personen, die die Nachweise prüfen und die Konsequenzen tragen können.