Ein Mensch bleibt im Ablauf und entscheidet, bestätigt oder greift ein. Die Formel steht in fast jedem Konzeptpapier und beschreibt zwei sehr verschiedene Dinge. Im einen Fall prüft jemand tatsächlich — er hat die Information, die Zeit und den Anlass, ein Ergebnis zu verwerfen, und tut es gelegentlich auch. Im anderen bestätigt er, was ohnehin dasteht, weil es bisher immer gestimmt hat und weil hundert Freigaben am Tag keine hundert Prüfungen erlauben. Formal ist die Kontrolle in beiden Fällen vorhanden; wirksam ist sie nur im ersten. Der Übergang vom einen zum anderen ist schleichend und hängt an der Menge: Sobald Prüfen spürbar Zeit kostet und Durchwinken folgenlos bleibt, kippt es. Wer die Kontrolle erhalten will, muss deshalb die Menge steuern, nicht die Vorschrift verschärfen.
Ein Beispiel
Ein Sachbearbeiter bekommt hundert vom System vorbereitete Gutschriften am Tag zur Freigabe. In der ersten Woche prüft er jede sorgfältig. In der vierten klickt er sie durch, weil bisher alle richtig waren. Formal ist der Mensch weiterhin in der Schleife. Tatsächlich hat er aufgehört, eine Kontrolle zu sein, und ist zu einem Bestätigungsklick geworden — genau in dem Moment, in dem die Zahl der Vorgänge groß genug wurde, dass ihn Prüfen Zeit kostet.
Genauer betrachtet
Der Mensch sitzt an definierten Stellen im Ablauf: vor folgenreichen Handlungen, bei niedriger Modellsicherheit, bei Ausnahmen. Damit das trägt, muss die Vorlage entscheidbar sein — mit Kontext, Begründung und einer echten Möglichkeit, Nein zu sagen.
Warum das zählt
Human-in-the-Loop steht in Konzepten häufiger, als es funktioniert. Damit die Kontrolle real bleibt, braucht sie drei Dinge: eine Auswahl, was überhaupt vorgelegt wird — nicht alles, sondern das Ungewöhnliche —, genug Information für ein Urteil in der zur Verfügung stehenden Zeit, und eine Rückmeldung, die zeigt, dass Prüfen etwas ändert. Fehlt eines davon, entsteht Automation Bias: Der Mensch übernimmt, was das System vorschlägt, und trägt formal die Verantwortung für eine Entscheidung, die er nicht mehr trifft.
Häufig missverstanden
Eine Freigabe, die im Minutentakt kommt, wird durchgewinkt. Zu viele Prüfpunkte erzeugen genau die Scheinkontrolle, die sie verhindern sollten.