KI News KI-Glossar › Sicherheit & Recht
KI-Sicherheitsinstitute & KI-Büro
Kurz gesagt: Staatliche Stellen, die KI-Modelle prüfen und überwachen – vom britischen AI Security Institute bis zum EU-KI-Büro.
Stand: 08.11.2026 · Redaktion KI News Kompakt
Mehrere Staaten haben eigene Einrichtungen geschaffen, die gefährliche Fähigkeiten von Frontier-Modellen testen oder Regeln durchsetzen.
Die wichtigsten
- Großbritannien: Das frühere AI Safety Institute heißt seit dem 14. Februar 2025 AI Security Institute und konzentriert sich auf Sicherheitsrisiken wie Cyberangriffe oder biologische Waffen. Sein Test RepliBench prüft, ob Modelle sich selbst verbreiten könnten (Folge 28, Selbstreplikation).
- USA: Das US AI Safety Institute wurde im Juni 2025 in das Center for AI Standards and Innovation (CAISI) beim Normungsinstitut NIST umgewandelt.
- EU: Das KI-Büro der Kommission überwacht Anbieter großer Modelle (GPAI). Im Oktober 2026 hat es laut Euronews Auskunftsersuchen an OpenAI und Anthropic verschickt (Folge 15).
Prüfer unter Druck
Daneben testen private Organisationen wie METR Modelle (Red Teaming). Nach Vorfällen bei Tests hat die US-Verbraucherschutzbehörde FTC im September 2026 Untersuchungen gegen OpenAI, Anthropic und METR eröffnet (Folge 10).
Mehr dazu im Podcast
Hängt zusammen mit
Red Teaming & Sicherheitstests
Fachleute greifen eine KI gezielt an, um gefährliche Fähigkeiten und Schwachstellen vor dem Start zu finden.
Frontier-Modell
Die jeweils leistungsfähigsten KI-Modelle an der Spitze der Entwicklung – und warum manche davon unter Verschluss bleiben.
GPAI-Verhaltenskodex
Der freiwillige EU-Kodex, mit dem Anbieter großer KI-Modelle zeigen, dass sie die Regeln des AI Act einhalten.