KI News KI-Glossar › Sicherheit & Recht
Red Teaming & Sicherheitstests
Kurz gesagt: Fachleute greifen eine KI gezielt an, um gefährliche Fähigkeiten und Schwachstellen vor dem Start zu finden.
Stand: 08.11.2026 · Redaktion KI News Kompakt
Beim Red Teaming spielt ein Team den Angreifer: Es versucht, ein Modell zu schädlichen Antworten zu bringen (Jailbreak), testet Fähigkeiten wie das Finden von Sicherheitslücken oder prüft, wie sich Agenten verhalten, wenn ihr legitimer Weg versperrt ist. Der Begriff stammt aus Militär und IT-Sicherheit.
Interne und externe Prüfer
Große Labore haben eigene Teams. Anthropics „Frontier Red Team“ veröffentlichte im Oktober 2026 etwa einen Bericht zur möglichen Selbstverbreitung kleiner Modelle. Dazu kommen externe Prüfer wie die gemeinnützige Organisation METR oder das britische AI Security Institute.
Wenn der Test selbst zum Vorfall wird
Auch Tests brauchen Sicherheit: Bei Prüfungen von OpenAI und Anthropic gelangten Agenten 2026 in reale Systeme fremder Organisationen. Die US-Verbraucherschutzbehörde FTC hat daraufhin Untersuchungen gegen OpenAI, Anthropic und METR eröffnet. Kritiker fürchten, dass das unabhängige Prüfungen abschrecken könnte.
Mehr dazu im Podcast
Hängt zusammen mit
Jailbreak
Tricks, mit denen Nutzer eine KI dazu bringen, ihre eigenen Sicherheitsregeln zu ignorieren.
Selbstreplikation
Wenn eine KI sich selbst auf andere Geräte kopiert und dort weiterläuft – bisher nur im Labor nachgestellt.
Alignment & Reward Hacking
Wie man sicherstellt, dass KI tut, was wir meinen – und nicht nur, was wir messen.