KI auf dem Gerät · 6 Min. Lesezeit

Was ist ein E-Reader mit lokaler KI – und was bringt er dir?

Die meisten Lese-Apps, die dir Wörter „erklären“, tun das anderswo. Ein E-Reader mit lokaler KI tut es auf dem Gerät in deiner Hand. Dieser eine Unterschied entscheidet darüber, was die App im Flugzeug kann, was ihr Betrieb kostet und was jemand jemals darüber erfahren kann, was du liest.

Die kurze Definition

Ein E-Reader mit lokaler KI ist eine Lese-App, die ein Sprachmodell direkt auf deinem Handy oder Tablet ausführt, statt Text an einen Server zu schicken. Wenn du ein Wort antippst, entsteht die Erklärung auf dem Gerät, aus einer Modelldatei auf dem Gerät, mit dem Prozessor des Geräts.

Nichts von dem Satz, in dem du ein Wort angetippt hast, verlässt die Hardware. Es gibt keinen API-Aufruf, kein Anfrageprotokoll, kein Konto, das am Nachschlagen hängt.

Warum der Unterschied zählt

1. Es funktioniert, wenn das Netz nicht funktioniert

Nachschlagen über die Cloud scheitert genau da, wo Lesen am schönsten ist: im Flugzeug, in der U-Bahn, im Hotel mit feindseligem WLAN, im Ausland ohne Datentarif. Einem lokalen Modell ist deine Verbindung egal. Das Wörterbuch in deiner Tasche brauchte kein Signal, und sein Nachfolger sollte es auch nicht brauchen.

2. Deine Lesegeschichte wird nicht zu Daten

Die Wörter, die jemand nachschlägt, verraten ungewöhnlich viel. Sie zeigen, welche Sprache du lernst, wie gut du ungefähr bist, was du spätnachts liest, zu welchen Themen du still recherchierst. In einem Cloud-Produkt ist dieser Strom standardmäßig eine Aufzeichnung auf dem Server – nicht weil jemand Böses im Sinn hätte, sondern weil Server nun einmal Anfragen protokollieren.

Läuft das Modell lokal, gibt es diese Aufzeichnung gar nicht: nichts, was gespeichert, geleakt, beschlagnahmt oder verkauft werden könnte. Das ist eine stärkere Garantie als eine Datenschutzerklärung, weil sie in der Architektur liegt und nicht in einem Versprechen.

Ein Versprechen, deine Daten nicht anzusehen, hängt daran, dass das Unternehmen es hält. Eine Architektur, die deine Daten nie bekommt, hängt an nichts.

3. Keine Abrechnung, keine Kosten pro Nachschlagen

Inferenz in der Cloud kostet den Entwickler bei jedem einzelnen Tippen Geld, deshalb kommen Lese-Apps mit Cloud-Anbindung meist mit Abos, Guthaben oder Tageslimits. Lokale Inferenz kostet den Entwickler zur Laufzeit nichts. Du kannst an einem Abend zweihundert Wörter antippen, an der Rechnung ändert das nichts.

Worauf du verzichtest

Lokale KI hat ihren Preis, und wer etwas anderes behauptet, will dir etwas verkaufen.

• Speicherplatz. Ein brauchbares Modell misst sich in Gigabyte, nicht in Megabyte. Auf einem ohnehin vollen Handy fällt das wirklich ins Gewicht.
• Reine Leistungsfähigkeit. Ein Modell, das klein genug fürs Handy ist, ist nicht das größte Modell der Welt. Um ein Wort im Kontext zu erklären, reicht es mehr als aus, für einen ganzen Aufsatz ist es das falsche Werkzeug.
• Mindestanforderungen an die Hardware. Ein Sprachmodell lokal auszuführen ist anspruchsvoll. Ältere Geräte oder solche mit wenig Speicher schaffen es nicht oder zu langsam, um Spaß zu machen.
• Wärme und Akku. Dauerhafte Inferenz macht ein Handy warm. Gut gebaute lokale Apps takten ihre Arbeit, statt den Prozessor am Anschlag laufen zu lassen.

Kurz erklärt, wie es funktioniert

Das Modell kommt als quantisierte Datei – meist im GGUF-Format –, also als komprimierte Darstellung seiner Gewichte. Quantisierung gibt ein wenig Genauigkeit her und spart dafür viel Größe und Arbeitsspeicher; erst das macht ein Modell in Handygröße überhaupt möglich.

Eine Laufzeitumgebung wie llama.cpp lädt diese Datei, bildet sie in den Speicher ab und rechnet auf der CPU oder dem neuronalen Beschleuniger des Geräts. Die App übergibt ihr das angetippte Wort samt umgebendem Satz und bekommt die Antwort Token für Token zurück – deshalb zeigt ein guter lokaler Reader die Erklärung nach und nach statt auf einen Schlag.

Worauf du achten solltest

Wenn du eine App prüfst, die von sich sagt, sie arbeite lokal, trennen diese Fragen die Substanz vom Marketing:

• Funktioniert das Nachschlagen im Flugmodus? Das ist der ehrliche Test.
• Gibt es ein Konto? Lokale Verarbeitung und Pflichtanmeldung passen schlecht zusammen.
• Was verlässt laut Datenschutzerklärung konkret das Gerät – und wird das Modell beim Namen genannt?
• Gibt es Limits oder Guthaben pro Nachschlagen? Das deutet meist auf ein abgerechnetes Backend hin.
• Funktioniert sie mit deinen eigenen Dateien oder nur mit einem Shop, in dem du kaufen musst?

Wo ClickBook steht

ClickBook ist bewusst so gebaut. Das Modell läuft auf dem Gerät, deine Bücher sind Dateien, die dir schon gehören, es gibt kein Konto, und der Text, den du liest, wird nirgendwohin zur Verarbeitung in der Cloud geschickt. Lesen und Nachschlagen funktionieren mit komplett abgeschaltetem Netz.