KI News KI-Glossar › Grundlagen
Erklärbare KI
Kurz gesagt: Warum hat die KI so entschieden? Methoden und Rechte, um Entscheidungen von KI-Systemen nachvollziehbar zu machen.
Stand: 08.11.2026 · Redaktion KI News Kompakt
Ein großes neuronales Netz besteht aus Milliarden Parametern. Warum es zu einer bestimmten Antwort kommt, lässt sich nicht einfach ablesen – man spricht von einer Blackbox. Erklärbare KI (Explainable AI, kurz XAI) umfasst Methoden, die das ändern sollen.
Ansätze
- Einflussfaktoren: Welche Merkmale haben eine Entscheidung am stärksten beeinflusst – etwa Einkommen oder Wohnort bei einer Kreditprüfung?
- Interpretierbarkeit: Forschende untersuchen, welche Muster im Inneren eines Modells für bestimmte Begriffe oder Verhaltensweisen stehen.
- Begründungen: Reasoning-Modelle zeigen Denkschritte. Ob diese den tatsächlichen Rechenweg wiedergeben, ist aber nicht gesichert.
Was das Recht verlangt
Bei automatisierten Entscheidungen mit erheblicher Wirkung haben Betroffene nach der DSGVO Anspruch auf aussagekräftige Informationen über die verwendete Logik (automatisierte Entscheidungen). Der AI Act sieht für Entscheidungen auf Basis bestimmter Hochrisiko-Systeme ein Recht auf Erläuterung vor. Stand: November 2026, keine Rechtsberatung.
Hängt zusammen mit
Bias (Verzerrung)
Wenn KI bestimmte Gruppen, Meinungen oder Antworten systematisch bevorzugt – und woher das kommt.
KI am Arbeitsplatz & automatisierte Entscheidungen
Darf der Chef KI-Nutzung verlangen, und darf eine KI über Einstellung oder Kündigung entscheiden? Ein Überblick.
Reasoning-Modell („Denkmodus“)
Modelle, die vor der Antwort erst intern nachdenken – besser bei kniffligen Aufgaben, aber langsamer und teurer.