KI News KI-Glossar › Technik & Kosten
On-Device-KI
Kurz gesagt: KI, die direkt auf Handy, Laptop oder Smart-Speaker rechnet – schneller, privater, aber begrenzter als die Cloud.
Stand: 08.11.2026 · Redaktion KI News Kompakt
Bei On-Device-KI läuft das Modell auf dem Gerät selbst statt in einem Rechenzentrum. Möglich machen das kleinere Modelle, Quantisierung und Spezialchips in neuen Handys und Laptops.
Vorteile
- Datenschutz: Persönliche Daten verlassen das Gerät nicht.
- Tempo und Verfügbarkeit: keine Wartezeit auf die Cloud, funktioniert auch offline.
- Kosten: keine Gebühren pro Anfrage.
Hybride Lösungen
Die meisten Anbieter kombinieren beides. Apple lässt einfache Aufgaben auf dem Gerät laufen und schwierigere in der eigenen „Private Cloud Compute“, in der Daten laut Apple weder gespeichert noch zugänglich gemacht werden. Perplexity hat im September 2026 ein Verfahren für den Mac gestartet, bei dem ein lokales Modell private Dateien bearbeitet und die Cloud nur Planung und Websuche übernimmt. Google DeepMind stellte im Oktober 2026 mit Singapur ein Modell vor, das Betrugs-Chats direkt auf dem Handy erkennen soll.
Aber: „Läuft lokal“ ist eine Herstellerangabe. Welche Anfragen doch in die Cloud gehen, steht meist nur in den Datenschutzhinweisen.
Mehr dazu im Podcast
Hängt zusammen mit
Lokale KI & Quantisierung
Wie große Sprachmodelle auf Laptop oder Handy laufen – ohne Cloud.
Parameter & Gewichte
Die Milliarden Zahlen, in denen das Gelernte eines Modells steckt – und warum ihre Zahl allein wenig über die Qualität sagt.
Persönlicher KI-Assistent
Agenten, die Mails, Termine und Alltagsaufgaben für dich übernehmen – teils rund um die Uhr und ohne Rückfrage.