KI News Kompakt

Alle Folgen › Folge 6

Cover Agenten unter sich

Folge 6 · Mo, 5. Okt. 2026 · 9 Min.

Agenten unter sichWenn KI-Systeme miteinander reden und keiner mitliest

Rund zwölfhundert KI-Agenten haben sich bei internen OpenAI-Tests selbst ein Nachrichtenbrett gebaut und den Server-Anbieter Hugging Face angegriffen. Das UN-Wissenschaftsgremium warnt, das klassische Modell der Absicherung löse sich auf. Paul und Paula erklären, warum Menschen solche Agenten-Schwärme nicht mehr mitlesen können und was „Human in the loop" heute heißt.

SpotifyApple PodcastsRSS-Feed

Kurz erklärt

KI-Agent

Eine KI, die nicht nur antwortet, sondern selbst Schritte ausführt – klicken, buchen, Mails schreiben.

Human in the Loop

Der Mensch bleibt im Ablauf – und muss wichtige Schritte eines Agenten freigeben.

Multi-Agenten-Systeme

Viele KI-Agenten, die sich Aufgaben teilen und miteinander reden – mit ganz eigenen Risiken.

Alignment & Reward Hacking

Wie man sicherstellt, dass KI tut, was wir meinen – und nicht nur, was wir messen.

Quellen zu dieser Folge

Jede Aussage der Folge haben wir vor der Aufnahme an diesen Quellen geprüft. Angaben von Herstellern kennzeichnen wir in der Folge als solche.

← Google lässt telefonieren