Was ist Human-in-the-Loop?

Kurz gesagt

Human-in-the-Loop bedeutet, dass ein automatisiertes KI-System an kritischen Schritten innehält und auf einen Menschen wartet, der zustimmt, korrigiert oder entscheidet. Bei Coding-Agenten sind das meist Berechtigungsabfragen, bevor Dateien bearbeitet, Befehle ausgeführt oder etwas veröffentlicht wird.

Wie es bei Coding-Agenten aussieht

Die meisten Agenten fragen vor riskanten Aktionen nach, etwa vor dem Bearbeiten einer Datei, dem Ausführen eines Shell-Befehls oder dem Abruf aus dem Netzwerk. In Claude Code steuern Berechtigungsregeln (allow, ask, deny) und Berechtigungsmodi das; im Plan-Modus zum Beispiel plant der Agent nur und ändert keine Dateien. Codex hat eigene Freigabe- und Sandbox-Einstellungen.

Wo eine Freigabe Pflicht ist

Statt überall nachzufragen, setze Freigaben dort, wo Fehler teuer sind.

Unumkehrbare Aktionen: git push, Veröffentlichen, Daten löschen, Migrationen.
Aktionen, die nach außen wirken: E-Mail, Zahlungen, Produktionsserver.
Zugriff auf Secrets: .env-Dateien, Schlüssel, Kundendaten.
Der Plan: Ihn vor einer großen Änderung freizugeben, spart Stunden in die falsche Richtung.

Freigabe-Müdigkeit

Wenn jedes Lesen einer Datei einen Klick braucht, sagen Leute irgendwann ohne Hinsehen Ja, und die Freigabe verliert ihren Sinn. Die Lösung: sichere Arbeit wie Lesen und Tests automatisch freigeben und bei wirklich riskanten Aktionen immer nachfragen. Optionen, die alle Berechtigungen überspringen, etwa das Flag --dangerously-skip-permissions von Claude Code, gehören nur in isolierte Umgebungen.

Aus der Ferne freigeben

Bei langen Jobs bitten Agenten womöglich um Freigabe, während du nicht da bist. Benachrichtigungen und das Freigeben vom Handy verhindern, dass ein Agent stundenlang still steht, und alle wartenden Agenten in einer Warteschlange zu sehen, beschleunigt die Arbeit, wenn du viele gleichzeitig betreibst.

Menschliche Freigabe in AgentVera

AgentVera bündelt Freigaben an einem Ort und sorgt dafür, dass nur die wichtigen bei dir ankommen.

Freigabe-Warteschlange: Die Statusleiste zählt Agenten, die auf Freigabe warten, und ⇧⌘A springt zu dem, der am längsten wartet; dazu kommen Desktop-Benachrichtigungen und ein Dock-Badge.
Telegram: Flow-Schritte vom Handy aus freigeben oder ablehnen.
Auto approval beantwortet die Anfragen von Claude Code zu Lesen, Tests, Lint und rein lesendem Git ohne Rückfrage, während Befehle wie git push, rm und git reset --hard immer bei dir landen (Pro und Team).
Der Knoten „Human approval“ in Flows und die Plan-Freigabe eines über Telegram gestarteten Parallel Teams halten die Arbeit an, bis du zustimmst.

FAQ

Sollte ich einen Agenten alles ohne Freigabe erledigen lassen?

Meist nicht. Sichere, umkehrbare Arbeit automatisch freizugeben ist sinnvoll; Pushes, Löschungen und alles, was die Produktion berührt, sollten über dich laufen.

Was ist Freigabe-Müdigkeit?

Das ist, wenn Abfragen so häufig kommen, dass Leute ohne Lesen zustimmen. Werden die sicheren automatisiert, bekommen die verbleibenden Freigaben echte Aufmerksamkeit.

Was ist der Unterschied zwischen Human-in-the-Loop und Human-on-the-Loop?

Beim ersten hält das System an kritischen Schritten an und wartet auf Freigabe. Beim zweiten läuft das System selbstständig, während ein Mensch überwacht und bei Bedarf eingreift.