KI-Glossar › Grundlagen

Modellkollaps

Kurz gesagt: Wenn KI immer mehr mit KI-erzeugten Daten trainiert wird, verarmen die Modelle – Seltenes geht zuerst verloren.

Stand: 08.11.2026 · Redaktion KI News Kompakt

Von Modellkollaps (Model Collapse) spricht man, wenn Modelle über mehrere Generationen mit Daten trainiert werden, die frühere Modelle erzeugt haben. Jede Generation gibt die Welt ein wenig vereinfacht wieder. Seltene Fälle, ungewöhnliche Formulierungen und Randgruppen verschwinden zuerst, am Ende wird das Ergebnis eintönig oder fehlerhaft.

Was die Forschung zeigt

Ein Team um Ilia Shumailov beschrieb den Effekt im Juli 2024 in der Fachzeitschrift Nature: Werden Sprachmodelle wiederholt mit eigenen Ausgaben trainiert, gehen zuerst die „Ränder“ der Verteilung verloren. Andere Studien zeigen, dass der Effekt deutlich schwächer ausfällt, wenn echte Daten erhalten bleiben und neue nur hinzukommen.

Warum das ein praktisches Problem ist

• Das Netz füllt sich mit KI-Texten, -Bildern und -Songs (KI-Musik). Wer neue Trainingsdaten sammelt, bekommt immer mehr davon mit.
• Von Menschen geschaffene Inhalte werden dadurch wertvoller – ein Argument in der Debatte um Lizenzen für Inhalte.

Gezielt erzeugte und geprüfte synthetische Daten sind dagegen ein anderes Thema – sie können Training sogar verbessern.

Hängt zusammen mit