IA embarquée · 6 min de lecture

Qu'est-ce qu'une liseuse à IA locale, et pourquoi en vouloir une ?

La plupart des applications de lecture qui « expliquent » les mots le font ailleurs. Une liseuse à IA locale le fait sur l'appareil que vous tenez en main. Cette seule différence change ce que l'application peut faire en avion, ce qu'elle coûte à faire tourner, et ce que quiconque pourra jamais apprendre de vos lectures.

La définition courte

Une liseuse à IA locale est une application de lecture qui exécute un modèle de langage directement sur votre téléphone ou votre tablette, au lieu d'envoyer du texte à un serveur. Quand vous touchez un mot, l'explication est générée sur l'appareil, à partir d'un fichier de modèle stocké sur l'appareil, par le processeur de l'appareil lui-même.

Rien de la phrase que vous avez touchée ne quitte le matériel. Pas d'appel d'API, pas de journal de requêtes, aucun compte rattaché à la recherche.

Pourquoi la distinction compte

1. Ça marche quand le réseau ne marche pas

Les recherches dans le cloud échouent précisément dans les situations où lire est le plus tentant : en avion, dans le métro, dans un hôtel au Wi-Fi hostile, à l'étranger sans forfait data. Un modèle local n'a aucun avis sur votre connexion. Le dictionnaire dans votre poche n'a pas besoin de réseau, et ce qui l'a remplacé ne devrait pas en avoir besoin non plus.

2. Votre historique de lecture cesse d'être une donnée

Les mots qu'une personne cherche en disent étonnamment long. Ils révèlent quelle langue vous apprenez, à peu près votre niveau, ce que vous lisez tard le soir, les sujets sur lesquels vous vous renseignez discrètement. Dans un produit cloud, ce flux devient par défaut un enregistrement côté serveur — non par malveillance, mais parce que les journaux de requêtes sont simplement le fonctionnement normal d'un serveur.

Quand le modèle tourne en local, cet enregistrement n'existe pas : il ne peut être ni conservé, ni divulgué, ni réquisitionné, ni vendu. C'est une garantie plus forte qu'une politique de confidentialité, parce qu'elle est structurelle et non déclarative.

La promesse de ne pas regarder vos données dépend de l'entreprise qui la tient. Une architecture qui ne reçoit jamais vos données, non.

3. Pas de compteur, pas de coût par recherche

L'inférence dans le cloud coûte de l'argent au développeur à chaque pression, et c'est pourquoi les applications de lecture adossées au cloud arrivent souvent avec des abonnements, des crédits ou des limites quotidiennes. L'inférence locale ne lui coûte rien à l'exécution. Vous pouvez toucher deux cents mots dans une soirée sans que l'équation change.

Ce à quoi vous renoncez

L'IA locale n'est pas sans compromis, et quiconque prétend le contraire a quelque chose à vendre.

• Le stockage. Un modèle utile se mesure en gigaoctets, pas en mégaoctets. C'est un vrai coût sur un téléphone déjà plein.
• La puissance brute. Un modèle assez petit pour tourner sur un téléphone n'est pas le plus grand modèle du monde. Pour définir un mot en contexte, il est plus que suffisant ; pour vous rédiger une dissertation, ce n'est pas l'outil.
• Un minimum matériel. Exécuter un modèle de langage en local est exigeant. Les appareils anciens ou peu dotés en mémoire en sont incapables, ou le font trop lentement pour que ce soit agréable.
• La chaleur et la batterie. Une inférence soutenue fait chauffer un téléphone. Les bonnes applications locales étalent leur travail plutôt que de faire tourner le processeur à fond.

Comment ça marche, en bref

Le modèle est livré sous forme de fichier quantifié — généralement au format GGUF — qui est une représentation compressée des poids du modèle. La quantification échange un peu de précision contre une forte réduction de taille et de mémoire, et c'est ce qui rend possible un modèle à l'échelle d'un téléphone.

Un moteur d'exécution comme llama.cpp charge ce fichier, le projette en mémoire et exécute l'inférence sur le processeur ou l'accélérateur neuronal de l'appareil. L'application lui transmet le mot touché et la phrase qui l'entoure, puis reçoit la réponse token par token — c'est pourquoi une bonne liseuse locale affiche l'explication au fur et à mesure plutôt que d'un seul coup.

À quoi faire attention

Si vous évaluez une application qui se dit locale, ces questions séparent le vrai du marketing :

• La recherche de mots fonctionne-t-elle encore en mode avion ? C'est le test honnête.
• Y a-t-il un compte ? Traitement local et inscription obligatoire vont mal ensemble.
• Que dit la politique de confidentialité sur ce qui quitte précisément l'appareil — et nomme-t-elle le modèle ?
• Y a-t-il des limites ou des crédits par recherche ? Cela suppose en général un serveur facturé à l'usage.
• Fonctionne-t-elle avec vos propres fichiers, ou seulement avec une boutique où vous devez acheter ?

Où se situe ClickBook

ClickBook est construit ainsi délibérément. Le modèle tourne sur l'appareil, vos livres sont des fichiers que vous possédez déjà, il n'y a pas de compte, et le texte que vous lisez n'est envoyé nulle part pour un traitement dans le cloud. La lecture et la recherche de mots fonctionnent réseau entièrement coupé.