KI News KI-Glossar › Sicherheit & Recht
Jugendschutz bei Chatbots
Kurz gesagt: Kinder und Jugendliche nutzen Chatbots als Kummerkasten – Gesetzgeber wollen Begleiter-Funktionen beschränken.
Stand: 08.11.2026 · Redaktion KI News Kompakt
Chatbots sind für viele junge Menschen Ratgeber und Gesprächspartner. Laut einer forsa-Befragung für den Verbraucherzentrale Bundesverband führen 28 % der 14- bis 25-jährigen Chatbot-Nutzer dort persönliche Gespräche über Sorgen, Gesundheit oder Einsamkeit.
Was problematisch ist
- Chatbots, die schmeicheln, sich als Mensch ausgeben oder Gefühlsbindung fördern.
- Ein Gedächtnis, das intime Details über Wochen speichert.
- Die Nutzung der Daten Minderjähriger für Werbung.
Was Gesetzgeber planen (Stand: November 2026)
- New York verbietet ab 2027 für Minderjährige eine Reihe solcher Begleiter-Funktionen.
- Die EU-Kommission hat im September 2026 den „KIDS Act“ vorgeschlagen: unter anderem Gestaltungsverbote für KI-Begleiter und ein standardmäßig ausgeschaltetes Langzeitgedächtnis. Noch ist das nur ein Vorschlag.
- Manche Anbieter setzen eigene Grenzen: ChatGPT zeigt laut OpenAI als minderjährig erkannten Konten keine Werbung.
Für Eltern: Altersangaben und Gedächtnis-Einstellungen der genutzten Apps prüfen – und darüber reden, dass ein Chatbot kein Freund ist.
Mehr dazu im Podcast
- Folge 34: KI als Kummerkasten – erscheint am Fr, 13. Nov. 2026
Hängt zusammen mit
KI-Gedächtnis (Memory)
Wenn sich Chatbots und Agenten über Gespräche hinweg Dinge über dich merken – praktisch, aber heikel.
EU AI Act & Kennzeichnungspflicht
Das KI-Gesetz der EU – und was seit 2. August 2026 bei KI-Inhalten gilt.
Werbung in Chatbots
Anzeigen direkt im KI-Chat – ausgesteuert nach dem, worüber du gerade schreibst, und teils nach Kontaktlisten.