KI-Glossar › Technik & Kosten

Datenvergiftung (Data Poisoning)

Kurz gesagt: Angreifer schmuggeln präparierte Inhalte in Trainingsdaten, um einem Modell heimlich Fehlverhalten beizubringen.

Stand: 08.11.2026 · Redaktion KI News Kompakt

Bei der Datenvergiftung manipuliert jemand die Daten, aus denen ein Modell lernt. Weil Sprachmodelle mit riesigen Mengen öffentlicher Webtexte trainiert werden (Pretraining), kann im Prinzip jeder, der etwas ins Netz stellt, das Training beeinflussen. Ziel kann eine Hintertür sein: Bei einem bestimmten Auslösewort verhält sich das Modell plötzlich anders.

Wenige Dokumente reichen

Anthropic hat im Oktober 2025 mit dem britischen AI Security Institute und dem Alan Turing Institute eine Studie veröffentlicht: Rund 250 präparierte Dokumente genügten, um in den getesteten Modellen eine einfache Hintertür zu verankern – unabhängig von der Modellgröße. Getestet wurde allerdings ein harmloses Fehlverhalten (sinnlosen Text ausgeben); ob das auf gefährlichere Hintertüren übertragbar ist, ist offen.

Abgrenzung

• Datenvergiftung wirkt beim Training, lange bevor jemand das Modell nutzt.
• Prompt Injection wirkt bei der Nutzung, über Inhalte, die das Modell gerade liest.

Gegenmittel sind sorgfältige Datenauswahl, Herkunftsnachweise und gezielte Tests (Red Teaming).

Hängt zusammen mit