KI-Glossar › Sicherheit & Recht

Hochrisiko-KI

Kurz gesagt: KI für Bewerbungen, Kredite oder Polizeiarbeit gilt im AI Act als Hochrisiko – mit strengen Pflichten ab Ende 2027.

Stand: 08.11.2026 · Redaktion KI News Kompakt

Der AI Act sortiert KI nach Risiko. Als Hochrisiko gelten Systeme, die über wichtige Lebenschancen oder Grundrechte mitentscheiden – Stand: November 2026, keine Rechtsberatung.

Welche Bereiche gemeint sind

• Anhang III: etwa Biometrie, kritische Infrastruktur, Bildung, Beschäftigung und Personalauswahl, Zugang zu wichtigen Leistungen wie Kreditwürdigkeit, Strafverfolgung, Migration und Justiz.
• Anhang I: KI als Sicherheitsbauteil von Produkten wie Medizingeräten oder Maschinen.

Was dann gilt

Anbieter brauchen unter anderem ein Risikomanagement, geprüfte Trainingsdaten, technische Dokumentation, Protokollierung und menschliche Aufsicht (Human in the Loop). Betreiber müssen das System bestimmungsgemäß einsetzen und ihr Personal schulen.

Wann

Nach dem KI-Omnibus greifen die Pflichten für Anhang III erst ab 2. Dezember 2027, für Anhang I ab 2. August 2028 (Folge 9). Lücken bleiben: Ortsbestimmung aus Fotos ist in der Liste für Polizei-KI nicht ausdrücklich genannt (Folge 27, Geolokalisierung).

Mehr dazu im Podcast

• Folge 9: EU AI Act
• Folge 27: Raven

Hängt zusammen mit