A IA no dispositivo está mudando silenciosamente o que os smartphones podem fazer — sem necessidade de internet

As demonstrações de IA que chamam a atenção envolvem servidores em nuvem, bilhões de parâmetros e uma conexão rápida de internet. A IA que realmente está mudando a forma como centenas de milhões de pessoas usam seus dispositivos é menor, mais rápida e funciona inteiramente no silício dentro de seus bolsos.

Cada smartphone topo de linha lançado desde 2024 contém uma Unidade de Processamento Neural (Neural Processing Unit) — um bloco de hardware dedicado projetado especificamente para executar operações matriciais e inferência de redes neurais em alta velocidade e baixo consumo. O Apple A18 Pro na série iPhone 16, o Qualcomm Snapdragon 8 Elite e o Samsung Exynos 2500 vêm todos com NPUs capazes de realizar de 10 a 38 trilhões de operações por segundo. Não são processadores de propósito geral reaproveitados para IA — são silício personalizado projetado desde o início para os padrões computacionais específicos que as redes neurais exigem.

O que as NPUs realmente fazem

As unidades de processamento neural são otimizadas para as operações de multiplicação de matrizes e convolução que dominam as cargas de trabalho de redes neurais. Uma CPU pode executar essas operações, mas de forma ineficiente — ela precisa carregar dados da memória, realizar operações sequencialmente e escrever os resultados, muitas vezes deixando a maior parte de sua capacidade computacional ociosa. Uma GPU paraleliza melhor, mas consome muito mais energia do que é sustentável em um dispositivo alimentado por bateria. Uma NPU é construída sob medida: possui matrizes de memória local posicionadas adjacentes a unidades de multiplicação-acumulação, processa dados em blocos que maximizam a reutilização e opera com uma fração do orçamento de energia de uma GPU.

O Apple Neural Engine no A18 Pro processa 38 trilhões de operações por segundo com um consumo de energia que permite inferência sustentada sem redução de desempenho. O Hexagon NPU da Qualcomm no Snapdragon 8 Elite atinge 45 TOPS (trilhões de operações por segundo) — o mais alto em qualquer chip móvel a partir de 2026. A NPU do Exynos 2500 da Samsung atinge 34.4 TOPS. Esses números representam uma melhoria de 3 a 4 vezes em relação à mesma geração dois anos antes, seguindo uma trajetória que sugere que o desempenho da NPU móvel está aproximadamente dobrando a cada 18 meses.

O que é executado no dispositivo em 2026

As aplicações práticas que funcionam localmente nos smartphones topo de linha em 2026 vão muito além do simples reconhecimento de fala e categorização de fotos das gerações anteriores. A tradução ao vivo agora funciona inteiramente no dispositivo: o modo intérprete do Pixel 9 Pro traduz conversas faladas em tempo real entre 48 pares de idiomas sem qualquer conexão de rede, processando áudio, convertendo em texto, traduzindo e sintetizando a fala em menos de 400 milissegundos. O modelo de tradução no dispositivo do Google é um modelo destilado de 1,5 bilhão de parâmetros que cabe em 600 MB de memória e funciona inteiramente na NPU do Tensor G4.

O pacote Galaxy AI da Samsung, executado no Snapdragon 8 Elite, inclui edição de fotos no dispositivo que pode remover objetos, estender fundos e recompor imagens usando um modelo de difusão comprimido para ser executado dentro das restrições de memória da NPU. Os modelos de edição de fotos são substancialmente menores que os equivalentes na nuvem — cerca de 500 milhões de parâmetros contra 3 a 8 bilhões nas ferramentas de fotos na nuvem — mas produzem resultados indistinguíveis para a maioria dos casos de uso.

Apple Intelligence, introduzido no iOS 18 e refinado ao longo de 2025 e 2026, executa uma coleção de modelos no dispositivo: um assistente de escrita, um sistema de geração de imagens chamado Image Playground, um mecanismo de resumo e a Siri aprimorada que pode realizar tarefas de várias etapas entre aplicativos. Os modelos no dispositivo atingem no máximo cerca de 3 bilhões de parâmetros e são executados no Neural Engine; tarefas que exigem capacidades de modelo maiores são roteadas para o Private Cloud Compute da Apple, que processa solicitações em servidores Apple Silicon e garante criptograficamente que os dados não sejam retidos ou registrados.

A vantagem da privacidade

Processar dados localmente muda a equação da privacidade de maneiras que a linguagem de marketing muitas vezes obscurece, mas as implicações técnicas são reais. Quando seu telefone transcreve uma nota de voz no dispositivo, esse áudio nunca sai do dispositivo. Quando um modelo no dispositivo resume um e-mail, o conteúdo do e-mail nunca atravessa uma rede. Quando a edição de fotos é executada localmente, as fotos não são enviadas para um servidor de terceiros para processamento.

Isso importa em contextos onde o processamento em nuvem cria exposição legal ou prática: profissionais médicos ditando notas, advogados discutindo assuntos de clientes, jornalistas protegendo fontes e qualquer pessoa em uma jurisdição com leis agressivas de retenção de dados. O benefício prático é que o processamento no dispositivo contorna completamente as questões de política de privacidade — não há dados a coletar porque nada sai do dispositivo.

A limitação é a capacidade: os modelos no dispositivo são necessariamente menores e menos capazes que suas contrapartes na nuvem. Um modelo no dispositivo de 3 bilhões de parâmetros escreverá uma redação pior do que um modelo na nuvem de 70 bilhões de parâmetros. A lacuna vem se estreitando — as técnicas de destilação e quantização melhoraram significativamente — mas não foi fechada, e para tarefas de raciocínio complexas, os modelos na nuvem permanecem substancialmente melhores.

O caso da confiabilidade offline

A IA no dispositivo também aborda um problema de confiabilidade que é fácil de subestimar: dependência da nuvem. Um recurso de IA que requer uma conexão com o servidor fica indisponível em um avião, em um prédio com recepção ruim, em um país onde os servidores do provedor estão bloqueados e durante qualquer interrupção na infraestrutura do provedor.

O Google aprendeu essa lição com o aplicativo de mensagens Allo em 2016: os recursos de IA que exigiam processamento em nuvem simplesmente não estavam disponíveis quando os usuários estavam offline, o que limitou a adoção. A transição para o processamento no dispositivo para a maioria dos recursos comuns tem sido uma mudança estratégica deliberada em todas as três principais plataformas de telefone. O objetivo é que os recursos de IA pareçam recursos do dispositivo, não recursos de um serviço — disponíveis de forma previsível, independentemente da conectividade.

A corrida de compressão de modelos

A lacuna de capacidade entre IA no dispositivo e na nuvem está diminuindo através de uma combinação de melhorias de hardware e pesquisa em compressão de modelos. A quantização — reduzir a precisão dos pesos do modelo de ponto flutuante de 32 ou 16 bits para inteiros de 8 ou 4 bits — reduz os requisitos de memória do modelo em 4 a 8 vezes com penalidades modestas de precisão. A destilação de conhecimento treina modelos menores para imitar o comportamento dos maiores. A poda estruturada remove neurônios e camadas que menos contribuem para a saída do modelo.

O resultado é que modelos projetados especificamente para implantação no dispositivo em 2026 alcançam capacidades que exigiriam processamento em nuvem em 2023. O Qualcomm AI Model Efficiency Toolkit e o framework Core ML da Apple incluem ferramentas para pegar arquiteturas de modelo padrão e otimizá-las para implantação no dispositivo. A Meta abriu como Open Source suas pesquisas MobileVision e MobileNLP voltadas especificamente para inferência no dispositivo.

A trajetória aponta para um futuro próximo onde os benefícios de latência, privacidade e confiabilidade da IA no dispositivo — combinados com melhorias contínuas de hardware — a tornam a opção padrão para a maioria das tarefas comuns, com o processamento em nuvem reservado para os casos exigentes que realmente precisam dele. Para os usuários, isso significa recursos de IA que parecem instantâneos e funcionam em todos os lugares. A mudança subjacente é que a inteligência está se tornando uma propriedade do dispositivo, não um serviço acessado a partir dele.