Human in the Loop

Der Mensch bleibt im Ablauf – und muss wichtige Schritte eines Agenten freigeben.

Human in the Loop heißt: Ein Mensch prüft oder bestätigt an festgelegten Stellen, was eine KI tut. Typische Haltepunkte sind Käufe, verschickte Nachrichten, gelöschte Daten oder Änderungen an Code, der live geht.

Das Dilemma

Zu viele Rückfragen machen einen Agenten nutzlos – zu wenige machen ihn gefährlich. Und wer hundertmal „OK“ klickt, klickt irgendwann ohne hinzusehen.

Was in der Praxis hilft

Least Privilege: Der Agent bekommt nur die Rechte, die er für die Aufgabe braucht.
Freigabe nach Risiko: Lesen darf er frei, Geld ausgeben nur mit Bestätigung.
Nachvollziehbarkeit: Jeder Schritt wird protokolliert, damit man hinterher prüfen kann.

Mehr dazu im Podcast

Folge 1: Meta Muse – erscheint am Di, 29. Sep. 2026
Folge 4: Coding-Agenten mit Nebenwirkung – erscheint am Di, 29. Sep. 2026
Folge 6: Agenten unter sich – erscheint am Di, 6. Okt. 2026

Hängt zusammen mit

KI-Agent

Eine KI, die nicht nur antwortet, sondern selbst Schritte ausführt – klicken, buchen, Mails schreiben.

Prompt Injection

Versteckte Anweisungen in Texten, die eine KI dazu bringen, etwas anderes zu tun als gewollt.

Multi-Agenten-Systeme

Viele KI-Agenten, die sich Aufgaben teilen und miteinander reden – mit ganz eigenen Risiken.