KI News Kompakt

Alle Folgen › Folge 7

Cover Spitzen-KI auf dem Laptop

Folge 7 · Di, 6. Okt. 2026 · 10 Min.

Spitzen-KI auf dem LaptopBrauchen wir die Cloud noch?

Ein Modell mit 550 Milliarden Parametern passt auf ein MacBook mit 128 GB – das zeigt die Gruppe um Tim Dettmers. Paul und Paula erklären, was Quantisierung damit zu tun hat, warum der Arbeitsspeicher der Flaschenhals ist und wann sich KI auf dem eigenen Rechner schon lohnt.

SpotifyApple PodcastsAmazon MusicRSS-Feed

Kurz erklärt

Open-Weight-Modell

Ein KI-Modell, dessen Gewichte frei herunterladbar sind – und das man selbst betreiben kann.

Lokale KI & Quantisierung

Wie große Sprachmodelle auf Laptop oder Handy laufen – ohne Cloud.

Large Language Model (LLM)

Das Sprachmodell hinter ChatGPT, Claude, Gemini & Co. – ein Textvorhersage-System im Riesenformat.

Training & Inferenz

Einmal lernen, millionenfach anwenden – die zwei Phasen im Leben eines KI-Modells.

Benchmark

Standardisierte Tests, mit denen Hersteller ihre Modelle vergleichen – und warum man ihnen nicht blind trauen sollte.

Mixture of Experts (MoE)

Ein Modell aus vielen Spezialisten, von denen pro Wort nur wenige arbeiten – groß, aber sparsam.

Quellen zu dieser Folge

Jede Aussage der Folge haben wir vor der Aufnahme an diesen Quellen geprüft. Angaben von Herstellern kennzeichnen wir in der Folge als solche.

← Agenten unter sich