KI News KI-Glossar › Technik & Kosten
Kleines Sprachmodell (SLM)
Kurz gesagt: Kompakte Sprachmodelle, die billig, schnell und teils auf dem eigenen Gerät laufen – mit weniger Wissen als die Großen.
Stand: 08.11.2026 · Redaktion KI News Kompakt
Ein Small Language Model ist ein Sprachmodell mit vergleichsweise wenigen Parametern – grob von unter einer bis zu einigen zehn Milliarden. Eine feste Grenze gibt es nicht. Fast jeder große Anbieter hat neben seinem Spitzenmodell eine kleine, günstige Variante.
Wofür sie taugen
- Kosten: OpenAIs kleines Modell GPT-6 Luna kostet über die API 0,10 Dollar pro Million Eingabe-Tokens (Stand: September 2026).
- Tempo: kurze Latenz, ideal für einfache Routineaufgaben in Masse.
- Lokal: Mit Quantisierung laufen sie auf Laptop oder Handy (On-Device-KI).
Die Grenzen
Weniger Parameter heißt weniger gespeichertes Wissen und häufiger Fehler bei komplexen, mehrstufigen Aufgaben. Viele kleine Modelle entstehen per Destillation aus großen.
Klein heißt nicht harmlos
Anthropic rechnete im Oktober 2026 einen Trend fort: Werden kleine Modelle weiter so schnell besser, könnten sie bald Fähigkeiten erreichen, die im Labor für Selbstverbreitung nötig waren – eine Hochrechnung, kein Versuchsergebnis.
Mehr dazu im Podcast
Hängt zusammen mit
Lokale KI & Quantisierung
Wie große Sprachmodelle auf Laptop oder Handy laufen – ohne Cloud.
Destillation
Ein kleines Modell lernt von einem großen – und wird so fast so gut, aber viel billiger im Betrieb.
On-Device-KI
KI, die direkt auf Handy, Laptop oder Smart-Speaker rechnet – schneller, privater, aber begrenzter als die Cloud.