Human in the Loop erklärt: Wann ein KI-Agent vorher fragen sollte

Kurz gesagt

Human in the Loop heißt: Ein KI-Agent kann eine Aktion vorbereiten, aber ein Mensch muss sie freigeben, bevor sie passiert. Das gehört vor alles, was unumkehrbar ist oder nach außen wirkt: Geld bewegen, Nachrichten senden, Rechte ändern, Daten löschen. Eine gute Freigabe zeigt die genaue Änderung, die Begründung des Agenten und die genutzten Belege; sie lässt sich leicht ablehnen, verfällt, wenn niemand reagiert, wird protokolliert und lässt sich nicht umgehen, weil der Agent den Schlüssel für die Aktion nie hält.

In the Loop, on the Loop, out of the Loop

In the Loop: Der Agent schlägt vor, ein Mensch entscheidet, dann passiert die Aktion. On the Loop: Der Agent handelt, ein Mensch schaut zu und kann stoppen. Out of the Loop: Der Agent handelt allein. Die meisten Unternehmen wollen Agenten „in the Loop“ für alles mit Folgen und „out of the Loop“ fürs Lesen und Vorbereiten.

Welche Aktionen einen Menschen brauchen

Geld: Erstattungen, Auszahlungen, Rechnungen, Rabatte, Abo-Änderungen.
Kommunikation nach außen: E-Mails, Nachrichten und Beiträge, die Kunden oder die Öffentlichkeit erreichen.
Rechte: Zugriff gewähren, Schlüssel rotieren, Nutzer hinzufügen.
Löschen und alles andere, was sich nicht rückgängig machen lässt.
Alles über einem Betrag, den Sie festlegen, auch wenn kleinere Aktionen allein laufen.

Wie eine gute Freigabe aussieht

Die genaue Änderung, keine Zusammenfassung: Betrag, Empfänger, Objekt.
Warum der Agent sie will, und was er dafür gelesen hat.
Ein bewusster Schritt zum Zustimmen, ein Klick zum Ablehnen.
Ein Ablaufdatum, damit vergessene Vorschläge nicht liegen bleiben.
Ein Protokoll von Vorschlag, Entscheidung und Ergebnis.
Kein Weg daran vorbei: Der Agent hält keinen Schlüssel, mit dem er die Aktion direkt ausführen könnte.

Muster, die scheitern

Das Modell zu bitten, sich selbst zu prüfen, ist keine Kontrolle; dasselbe Modell, das den Fehler gemacht hat, bestätigt ihn. Freigaben in einem Chatfenster, zwischen allem anderen, werden abgenickt. Und eine Schranke, die der Agent umgehen kann, weil er auch die echten Zugangsdaten hält, ist Dekoration.

Checkliste

Checkliste Human in the Loop

Wir haben aufgelistet, welche Aktionen von Agenten eine menschliche Freigabe brauchen.
Freigaben zeigen Änderung, Begründung und Belege.
Der Agent kann freigabepflichtige Aktionen nicht selbst ausführen.
Unbeantwortete Vorschläge verfallen.
Jeder Vorschlag und jede Entscheidung wird festgehalten.

Die Human Queue, in MoltenRock Connect

Goldcote hat dieses Muster in MoltenRock Connect eingebaut. Es ist live für Stripe: Agenten schlagen Erstattungen, Rechnungen und mehr vor, Sie stimmen mit Touch ID auf Ihrem Mac zu, und erst dann sendet Connect die Änderung. Cloudflare folgt als Nächstes.

Fragen

Bremst Human in the Loop alles aus?

Nur bei den Aktionen, die es brauchen. Agenten lesen, recherchieren und bereiten weiter mit voller Geschwindigkeit vor; die Person braucht Sekunden für eine gut vorbereitete Entscheidung.

Können wir Schwellenwerte setzen?

Ja, das ist ein gängiges Muster: kleine, umkehrbare Aktionen laufen allein, größere warten. Beginnen Sie streng und lockern Sie mit Erfahrung.

Reicht eine Freigabe in Slack oder im Chat?

Besser als nichts, aber Freigaben zwischen Gesprächen werden leicht abgenickt und lassen sich leicht fälschen. Eine eigene Warteschlange mit angehängten Belegen funktioniert besser.

Und wenn der Agent falsch liegt?

Genau darum geht es: Der Fehler endet beim Vorschlag. Lehnen Sie ihn ab, und das Protokoll hilft zu verstehen, wie es dazu kam.