IA en el dispositivo · 6 min de lectura

¿Qué es un lector con IA local y por qué querrías uno?

La mayoría de las apps de lectura que te «explican» palabras lo hacen en otro sitio. Un lector con IA local lo hace en el dispositivo que tienes en la mano. Esa única diferencia cambia lo que la app puede hacer en un avión, lo que cuesta mantenerla y lo que alguien puede llegar a saber sobre lo que lees.

La definición corta

Un lector con IA local es una app de lectura que ejecuta un modelo de lenguaje directamente en tu teléfono o tu tableta, en lugar de enviar el texto a un servidor. Cuando tocas una palabra, la explicación se genera en el dispositivo, a partir de un archivo de modelo guardado en el dispositivo, usando el procesador del propio dispositivo.

Nada de la frase que has tocado sale del hardware. No hay llamada a una API, ni registro de peticiones, ni cuenta asociada a la consulta.

Por qué importa la distinción

1. Funciona cuando la red no

Las consultas en la nube fallan justo en las situaciones en las que leer resulta más apetecible: en un avión, en el metro, en un hotel con un wifi hostil, en el extranjero sin plan de datos. A un modelo local le da igual tu conexión. El diccionario que llevas en el bolsillo no necesita cobertura, y lo que lo ha sustituido tampoco debería.

2. Tu historial de lectura deja de ser un dato

Las palabras que consulta una persona son inusualmente reveladoras. Muestran qué idioma estás aprendiendo, más o menos lo bueno que eres en él, qué lees de madrugada, qué temas investigas en silencio. En un producto en la nube, ese flujo queda registrado en el servidor por defecto; no porque nadie tenga malas intenciones, sino porque los registros de peticiones son sencillamente cómo funcionan los servidores.

Cuando el modelo se ejecuta en local, ese registro no existe para poder guardarse, filtrarse, requerirse judicialmente o venderse. Es una garantía más fuerte que una política de privacidad, porque es estructural en lugar de una promesa.

Una promesa de no mirar tus datos depende de que la empresa la cumpla. Una arquitectura que nunca recibe tus datos, no.

3. Sin contadores ni pago por consulta

La inferencia en la nube le cuesta dinero al desarrollador en cada toque, y por eso las apps de lectura respaldadas por la nube suelen llegar con suscripciones, créditos o límites diarios. La inferencia local no le cuesta nada al desarrollador durante la ejecución. Puedes tocar doscientas palabras en una tarde y las cuentas no cambian.

A qué renuncias

La IA local no está libre de contrapartidas, y quien diga lo contrario está vendiendo algo.

• Almacenamiento. Un modelo útil se mide en gigabytes, no en megabytes. Ese es un coste real en un teléfono que ya está lleno.
• Capacidad bruta. Un modelo lo bastante pequeño para funcionar en un teléfono no es el modelo más grande del mundo. Para definir una palabra en contexto sobra; para escribirte un ensayo no es la herramienta.
• Mínimo de hardware. Ejecutar un modelo de lenguaje en local es exigente. Los dispositivos antiguos o con poca memoria no pueden hacerlo, o lo hacen demasiado despacio para que resulte agradable.
• Calor y batería. La inferencia sostenida calienta un teléfono. Las apps locales bien hechas dosifican su trabajo en lugar de poner el procesador a tope.

Cómo funciona, en breve

El modelo se distribuye como un archivo cuantizado, normalmente en formato GGUF, que es una representación comprimida de los pesos del modelo. La cuantización cambia un poco de precisión por una gran reducción de tamaño y de memoria, que es lo que hace posible un modelo del tamaño de un teléfono.

Un runtime como llama.cpp carga ese archivo, lo mapea en memoria y ejecuta la inferencia contra la CPU o el acelerador neuronal del dispositivo. La app le pasa la palabra tocada más la frase que la rodea y recibe la respuesta token a token, y por eso un buen lector local muestra la explicación apareciendo poco a poco en lugar de toda de golpe.

En qué fijarse

Si estás evaluando un lector que dice ser local, estas preguntas separan lo real del marketing:

• ¿La consulta de palabras sigue funcionando en modo avión? Esta es la prueba honesta.
• ¿Hay que crear una cuenta? El procesamiento local y el registro obligatorio encajan mal.
• ¿Qué dice exactamente la política de privacidad que sale del dispositivo? ¿Y nombra el modelo?
• ¿Hay límites o créditos por consulta? Eso suele implicar un servidor con contador.
• ¿Funciona con tus propios archivos, o solo con una tienda en la que tienes que comprar?

Dónde encaja ClickBook

ClickBook está hecho así a propósito. El modelo se ejecuta en el dispositivo, tus libros son archivos que ya tienes, no hay cuenta y el texto que lees no se envía a ningún sitio para procesarlo en la nube. La lectura y las consultas de palabras funcionan con la red completamente apagada.