IA no dispositivo · 6 min de leitura

O que é um leitor de e-books com IA local e por que ter um?

A maioria dos apps de leitura que “explicam” palavras faz isso em outro lugar. Um leitor de e-books com IA local faz no aparelho que está na sua mão. Essa única diferença muda o que o app consegue fazer num avião, quanto custa mantê-lo e o que alguém pode vir a saber sobre o que você lê.

A definição curta

Um leitor de e-books com IA local é um app de leitura que roda um modelo de linguagem direto no seu celular ou tablet, em vez de mandar texto para um servidor. Quando você toca numa palavra, a explicação é gerada no aparelho, a partir de um arquivo de modelo guardado no aparelho, usando o processador do próprio aparelho.

Nada da frase em que você tocou sai do hardware. Não há chamada de API, nem registro de requisição, nem conta vinculada à consulta.

Por que essa distinção importa

1. Funciona quando a rede não funciona

Consultas na nuvem falham exatamente nas situações em que ler é mais atraente: no avião, no metrô, num hotel com Wi-Fi hostil, no exterior sem plano de dados. Um modelo local não tem opinião sobre a sua conexão. O dicionário no seu bolso não precisa de sinal, e o que o substituiu também não deveria precisar.

2. Seu histórico de leitura deixa de ser dado

As palavras que uma pessoa consulta revelam muito. Elas mostram qual idioma você está aprendendo, mais ou menos o quanto você sabe dele, o que você lê tarde da noite, quais assuntos você anda pesquisando em silêncio. Num produto em nuvem, esse fluxo vira um registro no servidor por padrão — não porque alguém seja mal-intencionado, mas porque registros de requisição são simplesmente como servidores funcionam.

Quando o modelo roda localmente, esse registro não existe para ser guardado, vazado, intimado judicialmente ou vendido. É uma garantia mais forte do que uma política de privacidade, porque é estrutural, não uma promessa.

Uma promessa de não olhar os seus dados depende de a empresa cumpri-la. Uma arquitetura que nunca recebe os seus dados não depende.

3. Sem medição, sem custo por consulta

A inferência na nuvem custa dinheiro ao desenvolvedor a cada toque, e é por isso que apps de leitura apoiados na nuvem costumam vir com assinaturas, créditos ou limites diários. A inferência local não custa nada ao desenvolvedor em tempo de execução. Você pode tocar em duzentas palavras numa noite e a conta não muda.

Do que você abre mão

A IA local não é isenta de compromissos, e quem diz o contrário está vendendo alguma coisa.

• Armazenamento. Um modelo útil se mede em gigabytes, não em megabytes. Esse é um custo real num celular que já está cheio.
• Capacidade bruta. Um modelo pequeno o bastante para rodar num celular não é o maior modelo do mundo. Para definir uma palavra em contexto ele é mais que suficiente; para escrever uma redação, não é a ferramenta.
• Piso de hardware. Rodar um modelo de linguagem localmente é exigente. Aparelhos antigos ou com pouca memória ou não conseguem, ou conseguem devagar demais para ser agradável.
• Calor e bateria. Inferência contínua esquenta o celular. Apps locais bem-feitos dosam o trabalho em vez de deixar o processador a todo vapor.

Como funciona, em resumo

O modelo vem como um arquivo quantizado — normalmente no formato GGUF —, que é uma representação comprimida dos pesos do modelo. A quantização troca um pouco de precisão por uma grande redução de tamanho e memória, e é isso que torna possível um modelo do tamanho de um celular.

Um runtime como o llama.cpp carrega esse arquivo, mapeia-o em memória e roda a inferência na CPU ou no acelerador neural do aparelho. O app entrega a ele a palavra tocada mais a frase ao redor e recebe a resposta token a token — e é por isso que um bom leitor local mostra a explicação surgindo aos poucos, em vez de tudo de uma vez.

O que observar

Se você está avaliando um leitor que se diz local, estas perguntas separam a coisa real do marketing:

• A consulta de palavras continua funcionando em modo avião? Esse é o teste honesto.
• Existe conta? Processamento local e cadastro obrigatório combinam mal.
• O que a política de privacidade diz que sai do aparelho — e ela diz o nome do modelo?
• Há limites ou créditos por consulta? Isso costuma indicar um back-end tarifado.
• Funciona com os seus próprios arquivos, ou só com uma loja onde você tem que comprar?

Onde o ClickBook se encaixa

O ClickBook foi feito assim de propósito. O modelo roda no aparelho, seus livros são arquivos que você já tem, não existe conta e o texto que você lê não é enviado a lugar nenhum para processamento na nuvem. A leitura e a consulta de palavras funcionam com a rede totalmente desligada.