KI-Pflicht im JobWas der Chef beim KI-Einsatz nachprüfen darf

Die Folge zum Nachlesen

Transkript der gesendeten Folge in Lesefassung.

Paula: Vom vierten bis zum 11. November hätten bei Proton, der Schweizer Firma hinter Proton Mail, fast alle Beschäftigten zum Nachgespräch antreten sollen. Thema: Wie nutzt du KI? In der internen Mail stand, dabei gehe es auch um die weitere Beschäftigung.

Paul: Und, wie ist es gelaufen?

Paula: Gar nicht. Abgesagt, nach Protest.

Paul: KI News Kompakt – Folge 33. Ich bin Paul.

Paula: Und ich bin Paula. Heute: KI-Pflicht im Job. Was passiert, wenn der Chef den KI-Einsatz nachprüft – und was er in Deutschland dabei darf.

Paul: Bekannt wurde das durch ein US-Rechercheportal. Am 26. Oktober verschickte Proton die Mail: Die Gespräche seien „folgenreich“ – bis hin zur Frage der weiteren Beschäftigung.

Paula: Was mussten die Leute vorweisen?

Paul: Laut TechRadar konkrete Beispiele, wie KI ihre Arbeit verändert hat, und was dabei herauskam. Prüfen sollten Führungskräfte mit, Zitat, „starker KI-Kompetenz“. Proton betonte: kein Stellenabbau, man wolle wissen, wer Unterstützung braucht.

Paula: Und warum dann der Aufstand?

Paul: Wegen der Sicherheit.

Paula: Wieso?

Paul: Das Portal legte nach. Gestützt auf neun aktuelle und frühere Beschäftigte und auf Slack-Verläufe. Demnach hatte Firmenchef Andy Yen im August Sicherheitsbedenken im Team als „Verlierer-Denken“ abgetan. Man solle aufhören, den Code liebevoll von Hand zu schreiben.

Paula: Bei einer Firma, die mit Sicherheit wirbt. Gute Idee.

Paul: Am 30. Oktober sagte Yen die Gespräche ab. Danach versprach Proton: KI nie auf Kosten der Sicherheit. Und keine Software auf den Laptops, die misst, wie viel Code von der KI stammt.

Paula: Ist der Druck damit weg?

Paul: Eher nicht. Am 1. November hat Technikchef Bart Butler sein internes KI-Manifest veröffentlicht. Kernsatz: Proton stecke fast völlig in Phase eins fest – KI beschleunigt einzelne Handgriffe, die Abläufe bleiben dieselben.

Paula: Ist Proton ein Einzelfall?

Paul: Nein. Bei der Beratung Accenture zählt seit Februar, wie oft sich Senior Manager pro Woche in die KI-Werkzeuge einloggen. Laut Financial Times fließt das in Beförderungen ein. Ausgenommen sind allerdings Beschäftigte in einigen europäischen Ländern.

Paula: In wie vielen?

Paul: Zwölf.

Paula: Zwölf. Steht da auch, warum?

Paul: Nein, das sagt Accenture nicht. Ehrlich gesagt finde ich Log-ins zählen nicht falsch. Wer nie reinschaut, kann das Werkzeug ja kaum gut nutzen —

Paula: Außer, die Leute klicken nur noch, um gezählt zu werden. Genau das ist bei Amazon passiert. Dort gab es eine interne Rangliste für KI-Nutzung, und laut Berichten haben Mitarbeiter das Werkzeug mit Kleinkram gefüttert, um aufzusteigen.

Paul: Tokenmaxxing heißt das inzwischen.

Paula: Im Mai wurde die Rangliste abgeschaltet. Und am 27. Oktober hat Amazon neue Leitlinien für seine Entwickler veröffentlicht: Mehr verbrauchte Token heißen nicht mehr Wert. Nutzungszahlen als Zielvorgabe? Verleiten zu Verschwendung. Gemessen werden soll das Ergebnis.

Paul: Gut, ich nehme das zurück. Wer Log-ins belohnt, bekommt Log-ins. Keine bessere Arbeit.

Paula: Das passt zu Folge 18: Viel Einsatz, wenig Messung. Nur dass jetzt manche das Falsche messen. Wie ist das bei uns? Darf ein Arbeitgeber in Deutschland KI überhaupt vorschreiben?

Paul: Also — grundsätzlich ja. Das Weisungsrecht in Paragraf 106 der Gewerbeordnung erlaubt ihm, Inhalt, Ort und Zeit der Arbeit nach billigem Ermessen festzulegen. Dazu gehört auch das Werkzeug.

Paula: Und das Nachprüfen?

Paul: Gibt es einen Betriebsrat, hat er nach Paragraf 87 Betriebsverfassungsgesetz mitzubestimmen, wenn eine technische Einrichtung Verhalten oder Leistung überwachen kann. Laut Fachliteratur reicht schon, dass sie dazu geeignet ist. Auf die Absicht kommt es nicht an.

Paula: Ein Dashboard mit Log-ins pro Kopf wäre also so ein Fall?

Paul: In der Regel ja. Und über geplanten KI-Einsatz muss er den Betriebsrat ohnehin rechtzeitig informieren – Paragraf 90.

Paula: Wobei es eine Ausnahme gibt. Das Arbeitsgericht Hamburg hat im Januar 2024 entschieden: Darf man ChatGPT freiwillig über private Konten im Browser nutzen, hat der Betriebsrat kein Mitbestimmungsrecht. Der Arbeitgeber sieht ja keine Daten.

Paul: Sobald er aber Firmenkonten mit Protokollen hat, sieht er sie. Und dann kommt der Datenschutz dazu.

Paula: Genau. Nutzungsprotokolle sind personenbezogene Daten. Sie auszuwerten braucht nach DSGVO eine Rechtsgrundlage und muss verhältnismäßig sein. Und Europa?

Paul: Der AI Act verlangt seit Februar 2025 KI-Kompetenz. Allerdings abgeschwächt: Seit dem 27. Juli müssen Firmen nur noch Maßnahmen ergreifen, die diese Kompetenz fördern. Ein bestimmtes Niveau garantieren müssen sie nicht.

Paula: Also eine Pflicht zur Schulung, keine Pflicht zur Nutzung.

Paul: Genau. Und bewertet ein KI-System selbst Leistung oder Verhalten, gilt es als Hochrisiko. Dann müssen Arbeitgeber Beschäftigte und ihre Vertretung vorher informieren. Diese Pflicht greift aber erst ab dem 2. Dezember 2027.

Paula: Wichtig: Das ist der Stand November 2026 und keine Rechtsberatung. Im Einzelfall entscheiden Arbeitsvertrag, Betriebsvereinbarung und Gerichte.

Paul: Bleibt die große Angst dahinter: Wer nicht mitzieht, fliegt raus, weil KI den Job übernimmt?

Paula: Für Deutschland hat das IAB am 13. Oktober nachgerechnet. Bei Zwanzig- bis Neunundzwanzigjährigen ist Vollzeitbeschäftigung in stark KI-nahen Berufen seit 2022 um 3,8 % gesunken, in anderen um 2,6.

Paul: Also doch?

Paula: Nein. Der Zusammenhang ist statistisch nicht signifikant. Deutlich stärker drückt die schwache Konjunktur. Nur in der Industrie und in nichtakademischen Berufen sieht das IAB einen klar negativen Zusammenhang.

Paul: Was heißt das jetzt für dich?

Paula: Erstens: Wenn dein Arbeitgeber KI verlangt, frag nach, welche Daten dabei erfasst werden und wer sie sieht. Gibt es einen Betriebsrat, frag ihn, ob es eine Betriebsvereinbarung zur KI gibt.

Paul: Zweitens: Nutze die Werkzeuge, die die Firma freigibt. Firmendaten in private Chatbots zu kippen, ist das größere Risiko.

Paula: Und drittens: Halte fest, was KI bei dir konkret verbessert hat und wo sie nichts bringt. Genau das wollte Proton in den Gesprächen hören. Und auch Amazon schreibt inzwischen: Wenn ein Werkzeug bei einer Aufgabe nicht hilft, ist das eine nützliche Information – kein Versagen.

Kurzmeldungen

Paul: Und dann noch die Kurzmeldungen. Erstens: Die EU-Kommission hat am 11. November den Digital Fairness Act vorgestellt – ein Gesetzespaket gegen Tricks im Onlinehandel.

Paula: Was hat das mit KI zu tun?

Paul: Zwei Punkte. Wer einen Vertrag hat, soll im Kundenservice immer einen Menschen erreichen können, nicht nur einen Chatbot. Und wer einen KI-Agenten für sich einkaufen lässt, soll klare Verbraucherrechte bekommen.

Paula: Und sonst?

Paul: Druckmaschen wie „nur noch zwei Stück auf Lager“ sollen verboten werden, endloses Scrollen soll sich abschalten lassen. Bei großen Fällen will die Kommission selbst Strafen verhängen – bis zu 6 % des weltweiten Umsatzes.

Paula: Noch ist das ein Vorschlag. Parlament und Mitgliedstaaten müssen zustimmen, und deutsche Zeitungsverleger protestieren schon.

Paul: Zweitens: Google DeepMind hat mit KI-Agenten den Code hinter dem Signal-Protokoll mathematisch überprüft. Das ist die Verschlüsselung in Signal und Google Messages.

Paula: Was heißt mathematisch überprüft?

Paul: Die Agenten haben bewiesen, dass der echte Code bestimmte Sicherheitsversprechen hält – etwa, dass Nachrichten geschützt bleiben, auch nachdem ein Gerät kurz gehackt war. Laut DeepMind dauerte das 4 Wochen statt wie früher Jahre.

Paula: Herstellerangabe. Aber Signal lobt das Ergebnis, und jeder Beweis wird von einem Prüfprogramm nachgerechnet. Er gilt allerdings nur für das, was Fachleute vorher festgelegt haben. Die gute Nachricht: Auch Verteidiger bekommen starke KI-Werkzeuge.

Paul: Das war KI News Kompakt. Neue Folgen gibt es montags bis freitags.

Paula: Bleibt neugierig – und bleibt kritisch.