KI News Alle Folgen › Folge 9
EU AI ActWas die neue KI-Kennzeichnungspflicht wirklich bringt
Seit dem 2. August 2026 muss sich ein Chatbot in der EU als KI zu erkennen geben, Deepfakes müssen gekennzeichnet werden. Paul und Paula erklären, was beschlossen und was verschoben ist, wer in Deutschland aufpasst und warum ein fehlendes Wasserzeichen noch lange nicht „echt" bedeutet.
Kurz erklärt
EU AI Act & Kennzeichnungspflicht
Das KI-Gesetz der EU – und was seit 2. August 2026 bei KI-Inhalten gilt.
Deepfake
Täuschend echte KI-Bilder, -Stimmen oder -Videos von realen Menschen oder Ereignissen.
Wasserzeichen & C2PA
Wie KI-Inhalte technisch markiert werden – und warum das allein nicht reicht.
Quellen zu dieser Folge
Jede Aussage der Folge haben wir vor der Aufnahme an diesen Quellen geprüft. Angaben von Herstellern kennzeichnen wir in der Folge als solche.
- AI Act = Verordnung (EU) 2024/1689, seit August 2024 in Kraft, gilt stufenweise
eur-lex.europa.euepthinktank.eu - Ab 2.8.2026 gilt Art. 50; KI-Büro und nationale Behörden beginnen mit der Durchsetzung
ec.europa.eudigital-strategy.ec.europa.eucooley.com - Art. 50(1): Hinweis, dass man mit einer KI interagiert, außer wenn offensichtlich; Art. 50(5): klar, spätestens bei erster Interaktion
artificialintelligenceact.eu - Art. 50(2): Anbieter generativer Systeme (Audio, Bild, Video, Text) müssen maschinenlesbar markieren; Lösungen „wirksam, interoperabel, robust und zuverlässig, soweit technisch machbar"
digital-strategy.ec.europa.eu - C2PA/Content Credentials als verbreiteter Metadaten-Standard; Metadaten gehen bei Screenshot/Neukomprimierung verloren
paulweiss.comgetactready.comarxiv.org - Verhaltenskodex zur Kennzeichnung KI-generierter Inhalte am 10.06.2026 veröffentlicht, freiwillig, anerkannter Weg zum Nachweis der Einhaltung
digital-strategy.ec.europa.euscl.org - Rund 190 Unterzeichner bis Ende Juli (95 Anbieter-Sektion, 192 Betreiber-Sektion), u. a. OpenAI, Google, Meta, Microsoft, Mistral, Aleph Alpha, Black Forest Labs
digital-strategy.ec.europa.eucadeproject.org - Unsichtbare Pixel-Wasserzeichen per Regenerations-Angriff entfernbar (Rauschen + Rekonstruktion durch generatives Modell), 2023, UC Santa Barbara u. a.
arxiv.orgarxiv.org - Bußgeld Art. 50-Verstöße bis 15 Mio. € oder 3 % des weltweiten Jahresumsatzes (höherer Wert); verbotene Praktiken bis 35 Mio. € / 7 %
artificialintelligenceact.eu - Deutschland: Gesetz zur Durchführung der KI-Verordnung (KI-MIG), Bundestag 11.06.2026, BGBl. 28.07.2026, in Kraft 29.07.2026; Bundesnetzagentur zentrale Marktüberwachung, soweit nicht Fachbehörden zuständig
bmds.bund.debundestag.dedatenschutzticker.degesetze-im-internet.de - Fachkräftemangel als Kernproblem der Aufsicht (sinngemäß)
bsg.ox.ac.uk - Digital-Omnibus: Kommissionsvorschlag 19.11.2025; Einigung Mai 2026 (EP: 7.5.); EP-Plenum 16.06.2026 (423/57/174); Rat final 29.06.2026; VO (EU) 2026/1744 im ABl. 24.07.2026, in Kraft 27.07.2026
europarl.europa.euconsilium.europa.eulawandtechnology.eu - Hochrisiko (Anhang III, z. B. Beschäftigung, Kreditwürdigkeit): neu 2.12.2027; in Produkte eingebettet (Anhang I): 2.8.2028
gibsondunn.com