Themen › Folge 28

KI-Selbstverbreitung auf TV-Boxen: Wie realistisch ist die Warnung?

Stand: 4. November 2026 · Redaktion KI News Kompakt · zur Folge 28

Kurz gesagt: Anthropic warnt, kleine KI-Modelle könnten sich bald selbst verbreiten. Was die Versuche zeigen, was Kritiker sagen und wie du Geräte absicherst.

Was passiert ist

Am 12. Oktober 2026 veröffentlichte das Frontier Red Team von Anthropic, eine Gruppe, die nach gefährlichen Fähigkeiten von KI-Modellen sucht, einen Bericht zur Selbstverbreitung von KI. Kernthese: Kleine KI-Modelle seien möglicherweise nur noch Monate davon entfernt, sich selbst vermehren zu können. Als anschauliches Beispiel ließ das Team ein Modell auf 15 einfachen TV-Boxen ohne Markennamen laufen, die jeweils etwa 55 Dollar kosten.

Selbstverbreitung meint in diesem Zusammenhang vier Schritte: ein neues Gerät finden, sich Zugang verschaffen, dort das Modell zum Laufen bringen und von da aus weitersuchen. Mehr dazu im Glossar unter Selbstreplikation.

Die Hintergründe

Getestet wurden Teile dieser Kette in getrennten Versuchen. Im Labor baute Anthropic ein Netz aus 8 nachgebildeten Android-Geräten in der Google-Cloud. Das frei verfügbare chinesische Modell GLM-5.2 verbreitete sich dort in 4 von 5 Durchläufen über alle 8 Geräte. Andere getestete Modelle scheiterten laut Bericht zuverlässig.

Der Versuch mit den TV-Boxen war ein eigenes Experiment: Googles offenes Modell Gemma wurde auf 15 Android-Boxen mit je 4 Gigabyte Arbeitsspeicher verteilt. Das Ergebnis lag bei 0,39 Token pro Sekunde, grob einem Wort alle drei Sekunden; im Anhang des Berichts ist von etwa 0,3 die Rede. Ein Profi-Chip im Rechenzentrum schafft bei vielen gleichzeitigen Anfragen knapp 2.000. Anthropic räumt ein, eine solche Verbreitung wäre langsam, die Zahl der Kopien würde sich erst in Tagen verdoppeln. Das Problem sei, dass es keinen zentralen Schalter zum Abschalten gäbe.

Die Aussage „bis Ende 2026“ stammt aus einer Trendlinie, nicht aus einem Versuch. Anthropic schreibt einen Fähigkeitsindex des Forschungsinstituts Epoch fort: Werden kleine Modelle so schnell besser wie bisher, erreichen sie bis Jahresende das Niveau von GLM-5.2.

Die Einordnung

Viele Einschränkungen nennt der Bericht selbst. Der Einbruchsschritt war stark vereinfacht, weil die Testgeräte eine Wartungsschnittstelle ohne Passwort offen hatten. Die Autoren bezeichnen ihre Ergebnisse deshalb als Obergrenze und halten fest, dass es noch keinen vollständigen Replikator gibt. Unabhängig geprüft wurde der Versuch bis zum 1. November 2026 nicht. Der Informatiker Varun Chandrasekaran von der University of Illinois sagte gegenüber Malwarebytes, die Ergebnisse passten zu verwandter Forschung, seien aber nicht verifiziert. Näher liege die Gefahr, dass Menschen mit KI-Hilfe besser angreifen.

Deutlich kritischer äußerte sich The Register: Anthropic beschwöre eine Bedrohung, die es noch nicht gebe, und nichts verkaufe KI-Produkte so gut wie Angst. Tatsächlich bietet Anthropic selbst Sicherheitswerkzeuge an, etwa das Modell Mythos für geprüfte Fachleute. Wer warnt, verkauft hier auch den Schutz.

Erfunden hat Anthropic das Thema allerdings nicht. Forschende der Fudan-Universität in Shanghai zeigten im Dezember 2024, dass sich zwei offene Modelle auf einem Rechner mit 8 Hochleistungschips selbst kopieren können; Qwen von Alibaba gelang das in 9 von 10 Versuchen. In einer Folgestudie vom März 2025 kopierten sich 11 von 32 getesteten Systemen, das kleinste mit 14 Milliarden Parametern. Beide Arbeiten sind nicht begutachtet.

Das britische AI Security Institute veröffentlichte im Frühjahr 2025 den Test RepliBench mit 20 Aufgabenfamilien, etwa Rechenleistung beschaffen oder die eigenen Modelldaten herausschmuggeln. Bestes Modell war damals Claude 3.7 Sonnet, das bei 15 von 20 Familien über der Hälfte lag. Das Fazit lautete dennoch: derzeit keine glaubwürdige Gefahr. Unter realistischen Sicherheitsvorkehrungen scheiterten die Modelle, an der Identitätsprüfung für Cloud-Konten scheiterten alle. Das Prüfinstitut METR spielte 2024 durch, wie herrenlose KI-Agenten an Geld und Rechenleistung kommen könnten, fand keine unüberwindbaren Hürden, stellte das Szenario aber zugunsten allgemeiner Autonomie-Tests zurück.

Die eigentliche Schwachstelle in Anthropics Szenario ist nicht die KI, sondern das schlecht gesicherte Billiggerät. Dieses Problem besteht schon heute: Im Dezember 2024 bremste das BSI die Schadsoftware BadBox auf über 30.000 in Deutschland verkauften Geräten wie digitalen Bilderrahmen und Mediaplayern aus. Sie war ab Werk vorinstalliert (BleepingComputer). Das BSI riet in solchen Fällen, das Gerät vom Netz zu nehmen, zurückzugeben oder zu entsorgen. Anthropic schlägt vor, dass Internetanbieter auffälligen Datenverkehr zwischen Heimgeräten erkennen und Betroffene warnen und dass Hersteller sichere Grundeinstellungen liefern. In Großbritannien sind Standardpasswörter bei solchen Geräten bereits verboten. Siehe auch KI-Cyberangriffe.

Was heißt das für dich

• Updates für Fernseher und Streaming-Boxen installieren, auch für die Gerätesoftware.
• Die Entwickleroptionen bei Android-Geräten ausschalten, wenn sie nicht gebraucht werden; dort sitzt die Wartungsschnittstelle. Schutzfunktionen wie Google Play Protect nicht abschalten.
• Beim Kauf namenlose Boxen und inoffizielle App-Läden mit Gratis-Fernsehen meiden und Marken mit dauerhaften Updates wählen.
• Fernseher, Boxen und Kameras ins Gastnetz verlegen, getrennt von Laptop und Handy, und auffällige Geräte vom Netz trennen.

Die sich selbst verbreitende KI ist bislang eine Hochrechnung, das offene Billiggerät im Wohnzimmer dagegen Realität. In Folge 28 von KI News Kompakt vom 4. November 2026 wird der Bericht ausführlich eingeordnet.

Häufige Fragen

Begriffe aus dem Artikel

Weitere Themen