Guarded Agentic Loop (kontrollierte KI-Schleife)

Auch: Guarded Agentic Loop, Kontrollierte KI-Schleife, Agenten-Leitplanken, Gegatete Autonomie

Eine autonome KI-Schleife ist nur so sicher wie die Leitplanken, die ein Mensch vorher definiert hat. Ohne vier klar gesetzte Schichten ist Autonomie kein Fortschritt, sondern ein unkontrolliertes Risiko.

Kategorie: Digitalisierung Autor: Pereta

Kern-Logik

Sobald eine KI nicht nur einmal antwortet, sondern in einer Schleife eigenständig handelt — recherchieren, entscheiden, ausführen, sich selbst korrigieren —, wird die Frage nach den Grenzen zur wichtigsten überhaupt. Denn eine Schleife, die niemand eingehegt hat, skaliert auch ihre Fehler. Ein Guarded Agentic Loop macht Autonomie beherrschbar, indem ein Mensch vorher vier Schichten definiert:

1. Intention. Was genau soll erreicht werden, und was ausdrücklich nicht? Ein klares Ziel ist die erste Leitplanke — ohne sie optimiert die KI irgendetwas.
2. Grenzen. Was darf die Schleife anfassen, welche Rechte hat sie, wo ist Schluss? Minimale Rechte, klar umrissener Wirkungsbereich.
3. Beobachtbarkeit. Jeder Schritt muss sichtbar und nachvollziehbar sein. Was man nicht sieht, kann man nicht stoppen.
4. Eskalation. Definierte Stop-Gates, an denen ein Mensch übernimmt — bei Unsicherheit, bei hohem Einsatz, bei irreversiblen Aktionen.

Der zweite Kern ist die Bewertung über externe, binäre Testfälle statt über die Selbsteinschätzung der KI. Eine KI, die sich selbst benotet, ist ein unzuverlässiger Richter. Klare Ja/Nein-Kriterien von außen (hat sie X eingehalten? ist das Ergebnis Y?) machen aus „klingt gut" ein prüfbares „bestanden". Und: Auf echten Daten arbeitet die Schleife nur mit minimalen Rechten, über eine Zwischenstufe (Staging) und mit menschlichen Stop-Gates — nie ungebremst auf dem Produktivsystem.

Für eine Agentur ist das die Antwort auf die häufigste KMU-Angst vor KI: „Was, wenn sie etwas Falsches tut?" Die Antwort ist nicht „vertrauen Sie ihr", sondern „hier sind die vier Leitplanken, die das verhindern".

Konkrete Anwendungen

• KMU-Automatisierung (Pereta-ICP): Ein Angebots- oder Nachfass-Agent läuft mit klaren Grenzen (darf entwerfen, nicht versenden), voller Nachvollziehbarkeit und einem menschlichen Freigabe-Gate vor jeder Außenwirkung.
• Pereta-Betriebslogik: Die eigene Regel „KI erzeugt und prüft, der Mensch entscheidet" ist der gelebte Guarded Loop — der Kompetenzbeweis, dass Autonomie kontrolliert geht.
• Datenverarbeitung: Live-Kundendaten werden nur über Staging und mit minimalen Rechten berührt, nie direkt und offen.

Wann einsetzen?

• Immer, wenn eine KI mehr tut als antworten — also bei jeder Automatisierung mit Aktionen.
• Bei irreversiblen oder außenwirksamen Schritten (Versand, Zahlungen, Datenänderungen): Stop-Gate zwingend.
• Als Verkaufsargument gegen die KI-Angst: Die vier Schichten machen Sicherheit greifbar.

Häufige Fehler

1. Autonomie ohne Grenzen einführen. „Lass die KI einfach machen" ist kein Konzept, sondern ein Haftungsfall.
2. Die KI sich selbst bewerten lassen. Selbstkritik ersetzt keinen externen, binären Test.
3. Direkt auf Produktivdaten. Ohne Staging und minimale Rechte wird ein Fehler sofort teuer.
4. Keine Eskalationsstufe. Ohne definierten Stop-Punkt läuft die Schleife auch dann weiter, wenn sie längst hätte anhalten müssen.

Verwandte Einträge

• lex-ki-betriebssystem — der Guarded Loop ist dessen Governance-Ebene
• lex-eliminieren-vor-automatisieren — erst der saubere Prozess, dann die kontrollierte Autonomie
• lex-ai-als-zuarbeiter — Mensch-im-Loop als Grundhaltung