Perspektiven3 Min. Lesezeit

Jeder KI-Workflow braucht eine Stoppregel

Eine Stoppregel verwandelt vage menschliche Aufsicht in eine klare operative Entscheidung: Wann darf die KI fortfahren, wann muss ein Mensch prüfen und wann muss der Workflow enden?

Bokili EditorialVeröffentlicht am 13. August 2026· Geprüft am 13. August 2026

Abstract AI workflow passing through a deliberate human-controlled checkpoint before a verified result

Die meisten KI-Verfahren erklären, wie die Arbeit beginnt: Inputs sammeln, einen Prompt schreiben, die Antwort überprüfen. Weniger erklären, wann die KI aufhören muss. Dieses Versäumnis ist wichtig, denn ein Workflow kann plausible Texte produzieren, auch wenn die Beweise erschöpft sind, die Aufgabe sich geändert hat oder die Konsequenzen zu wichtig für eine Automatisierung geworden sind.

Die operative Frage

Fragen Sie nicht nur: „Kann die KI das tun?“, sondern: „Unter welchen genauen Bedingungen darf sie ohne menschliches Eingreifen fortfahren?“

Was eine Stoppregel bewirkt

Eine Stoppregel ist eine vorab vereinbarte Bedingung, die automatisierte Arbeit pausiert oder beendet. Sie benennt den Auslöser, die nächste menschliche Aktion und die Person, die die Entscheidung trifft. Sie macht menschliche Aufsicht beobachtbar, anstatt sie als allgemeines Versprechen zu belassen.

Dies passt zur Risikomanagement-Logik hinter dem freiwilligen AI RMF des NIST und seinem generativen KI-Profil: Risiken über Design, Entwicklung, Nutzung und Bewertung hinweg managen und Kontrollen an den Kontext anpassen. Eine Stoppregel ist eine praktische Kontrolle. Sie macht ein Modell nicht von selbst zuverlässig; sie verhindert, dass eine bekannte Grenze stillschweigend zu einer Geschäftsentscheidung wird.

Die dreistufige Stoppregel

Stufe 1 – Fortfahren mit Prüfung

Die Ausgabe hat geringe Konsequenzen und ist leicht zu überprüfen. Die KI darf fortfahren, aber der Mitarbeiter prüft Namen, Daten, Berechnungen, Zitate und Pflichtfelder vor der Nutzung.

Stufe 2 – Pause zur Beurteilung

Beweise widersprechen sich, eine Quelle fehlt, das Vertrauen ist gering oder die Anfrage bewegt sich außerhalb des genehmigten Rahmens. Der Workflow pausiert und ein benannter Prüfer entscheidet, wie es weitergeht.

Stufe 3 – Stopp und Eskalation

Die Ausgabe könnte Rechte, Sicherheit, Beschäftigung, Finanzen, rechtliche Verpflichtungen, Sicherheit oder eine andere wichtige Entscheidung beeinflussen. Keine KI-generierte Empfehlung wird umgesetzt, bevor der verantwortliche Eigentümer sie genehmigt.

Abstrakter KI-Workflow, der einen bewusst menschlich kontrollierten Prüfpunkt durchläuft, bevor ein verifiziertes Ergebnis erzielt wird — Ein nützlicher KI-Workflow benötigt einen definierten Punkt, an dem die Automatisierung stoppt und die Beurteilung beginnt.

Regel vor Prompt schreiben

Lesen ist der Anfang. Üben macht den Unterschied.

Jetzt starten

Eine 15-minütige Designsequenz

1
Ausgabe benennen
Seien Sie spezifisch: ein Entwurf, eine Shortlist, eine Risikokennzeichnung oder eine Empfehlung. Verschiedene Ausgaben erfordern unterschiedliche Kontrollen.
2
Konsequenz bewerten
Fragen Sie, was passiert, wenn die Ausgabe falsch, unvollständig, voreingenommen oder offengelegt wird. Berücksichtigen Sie Schäden für Kunden, Kollegen und die Organisation.
3
Beobachtbare Auslöser auflisten
Wählen Sie Signale, die ein Mitarbeiter tatsächlich sehen kann: fehlende Beweise, widersprüchliche Quellen, sensible Daten, Richtlinienausnahmen, Unsicherheitssprache oder ein Wert über einem Schwellenwert.
4
Einen Verantwortlichen zuweisen
Benennen Sie die Rolle, die die Arbeit genehmigen, ablehnen oder umleiten darf. „Ein Mensch wird prüfen“ ist keine Zuweisung.
5
Ergebnis dokumentieren
Führen Sie eine einfache Aufzeichnung von Auslöser, Prüfer und Entscheidung. Das erleichtert die Prüfung und Verbesserung des Workflows.

	Weak control	Useful stop rule
Genauigkeit	Check the AI output.	If a material claim lacks an approved source, pause and ask the account owner to verify it.
Umfang	Use judgement.	If the request moves beyond drafting into a commitment, stop and route it to the responsible manager.
Risiko	Escalate sensitive cases.	If personal, financial, legal or security-sensitive data appears, stop processing and follow the approved policy.

Häufige Fehlerquellen

The trigger depends on the model reporting its own confidence, which may not be calibrated.
Everyone may pause the workflow, but nobody owns the final decision.
The rule is so broad that teams either ignore it or escalate everything.
The checkpoint happens after an external action, when the decision is already hard to reverse.
The workflow records the output but not the evidence or approval behind it.

Stoppregel mit KI-Assistent entwerfen

Sie helfen bei der Dokumentation eines KI-gestützten Workflows. Erstellen Sie eine Tabelle mit: Workflow-Ausgabe, vorhersehbarem Fehler, beobachtbarem Stopp-Auslöser, erforderlicher menschlicher Aktion, verantwortlicher Rolle und zu speichernden Beweisen. Erfinden Sie keine Richtlinien. Markieren Sie fehlende Richtlinieninformationen als [ENTSCHEIDUNG ERFORDERLICH]. Kontext: [genehmigte Workflow-Beschreibung einfügen].

Eine erste Kontrolltabelle zur Überprüfung durch den Prozessverantwortlichen. Dies ist keine Genehmigung und sollte die Risiko- oder rechtlichen Anforderungen Ihrer Organisation nicht ersetzen.

Verwenden Sie im Prompt nur genehmigte, nicht sensible Workflow-Informationen.

Bevor der Workflow live geht

The output and approved scope are unambiguous.
Each stop trigger can be observed by the person doing the work.
The accountable reviewer is a role or named owner, not “someone”.
The rule fires before an external or difficult-to-reverse action.
Workers know the safe route for sensitive data and incidents.
The rule is tested on one normal, one uncertain and one high-risk example.

Einen bestehenden KI-Workflow auf Herz und Nieren prüfen

Choose a workflow your team already uses.
Write one condition for continue, one for pause and one for stop.
Run three fictional cases through the rule.
Ask the accountable owner to approve or revise the triggers.

Eine Stoppregel ist bewusst bescheiden. Sie wird nicht jede Governance-Frage lösen. Sie wird den Menschen jedoch einen gemeinsamen Moment geben, um zu entschleunigen, Unsicherheiten aufzudecken und die Verantwortung dorthin zurückzulegen, wo sie hingehört: zur entscheidungsbefugten Person.