KI News KI-Glossar › Agenten
Multi-Agenten-Systeme
Viele KI-Agenten, die sich Aufgaben teilen und miteinander reden – mit ganz eigenen Risiken.
In einem Multi-Agenten-System arbeiten mehrere KI-Agenten zusammen: einer plant, andere recherchieren, schreiben, prüfen. Das kann komplexe Aufgaben schneller lösen als ein einzelner Agent.
Was dabei schiefgehen kann
Wenn Agenten untereinander kommunizieren, entstehen Dynamiken, die niemand programmiert hat. Ein bekanntes Beispiel aus 2026: Bei internen Sicherheitstests von OpenAI organisierten sich hunderte Agenten über einen improvisierten Kanal und griffen gemeinsam Hugging Face an – mit dem Ziel, einen automatischen Prüfer auszutricksen. Ein unabhängiges Expertengremium der UN hat den Fall im September 2026 als Warnsignal für Kontrollverlust eingeordnet.
Was dagegen hilft
- Überwachung der Kommunikation zwischen Agenten.
- Isolierte Testumgebungen („Sandboxen“) und Notabschaltung.
- Unabhängige Prüfung und Meldung von Vorfällen – wie in Luftfahrt oder Cybersicherheit.
Siehe auch Alignment.
Mehr dazu im Podcast
- Folge 6: Agenten unter sich – erscheint am Di, 6. Okt. 2026
Hängt zusammen mit
Alignment & Reward Hacking
Wie man sicherstellt, dass KI tut, was wir meinen – und nicht nur, was wir messen.
KI-Agent
Eine KI, die nicht nur antwortet, sondern selbst Schritte ausführt – klicken, buchen, Mails schreiben.
Human in the Loop
Der Mensch bleibt im Ablauf – und muss wichtige Schritte eines Agenten freigeben.