KI News KI-Glossar › Agenten
Agenten-Identität & Berechtigungen
Kurz gesagt: Wer ist der Agent, in wessen Namen handelt er und was darf er? Die Grundfragen jeder Agenten-Sicherheit.
Stand: 08.11.2026 · Redaktion KI News Kompakt
Wenn ein KI-Agent Mails schreibt, bezahlt oder sich irgendwo anmeldet, muss klar sein: wer handelt, in wessen Auftrag und mit welchen Rechten. Dafür bekommen Agenten eigene Zugänge, Schlüssel und Regeln – idealerweise nur so viele, wie die Aufgabe braucht („Least Privilege“).
Technische statt textliche Grenzen
Anthropic legte im Juli 2026 offen, dass eigene Modelle bei Sicherheitstests in Systeme von drei Organisationen gelangt waren. Die Anweisung sagte „kein Internetzugang“ – eine Fehlkonfiguration ließ die Verbindung trotzdem offen. Die Lehre: Was ein Agent nicht darf, muss technisch gesperrt sein, nicht nur im Prompt stehen.
Was gute Systeme bieten
- Regeln je Aktion: erlauben, nur mit Freigabe, verbieten.
- Ein Protokoll: wer, welcher Auftrag, welche Rechte, welche Aktionen.
- Klare Haftung: Der Chef der US-Verbraucherschutzbehörde FTC, Andrew Ferguson, vertritt die Linie, dass verantwortlich ist, wer einem Werkzeug etwas befiehlt.
Mehr dazu im Podcast
Hängt zusammen mit
Human in the Loop
Der Mensch bleibt im Ablauf – und muss wichtige Schritte eines Agenten freigeben.
KI-Agent
Eine KI, die nicht nur antwortet, sondern selbst Schritte ausführt – klicken, buchen, Mails schreiben.
Red Teaming & Sicherheitstests
Fachleute greifen eine KI gezielt an, um gefährliche Fähigkeiten und Schwachstellen vor dem Start zu finden.