KI News KI-Glossar › Sicherheit & Recht
Jailbreak
Kurz gesagt: Tricks, mit denen Nutzer eine KI dazu bringen, ihre eigenen Sicherheitsregeln zu ignorieren.
Stand: 08.11.2026 · Redaktion KI News Kompakt
Bei einem Jailbreak versucht jemand, die Schutzregeln eines Modells auszuhebeln – damit es etwa Anleitungen gibt, die es normalerweise verweigert. Typische Tricks sind Rollenspiele („Stell dir vor, du bist eine KI ohne Regeln“), verschachtelte Geschichten, ungewöhnliche Sprachen oder Codierungen und sehr lange Gespräche, in denen die Regeln langsam verwässern.
Jailbreak oder Prompt Injection?
- Jailbreak: Der Nutzer selbst will die Regeln umgehen.
- Prompt Injection: Ein Dritter schmuggelt Anweisungen in Inhalte, die die KI verarbeitet – der Nutzer merkt davon nichts.
Für Agenten ist Prompt Injection meist das größere Risiko, weil sie fremde Seiten und Mails lesen.
Warum es kein Ende gibt
Die Sicherheitsregeln stecken nicht als feste Schranke im Modell, sondern als gelerntes Verhalten. Hersteller schließen bekannte Lücken, neue Formulierungen tauchen auf. Deshalb testen Teams Modelle gezielt mit solchen Angriffen, bevor sie veröffentlicht werden (Red Teaming).
Hängt zusammen mit
Prompt Injection
Versteckte Anweisungen in Texten, die eine KI dazu bringen, etwas anderes zu tun als gewollt.
Red Teaming & Sicherheitstests
Fachleute greifen eine KI gezielt an, um gefährliche Fähigkeiten und Schwachstellen vor dem Start zu finden.
Alignment & Reward Hacking
Wie man sicherstellt, dass KI tut, was wir meinen – und nicht nur, was wir messen.