Huawei detalha como o Kirin 9050 roda um modelo de 30 bilhões de parâmetros no aparelho

A Huawei detalhou nesta semana como o Kirin 9050 consegue rodar, inteiramente no aparelho e sem conexão com a internet, um modelo de inteligência artificial↳Inteligência artificial440 conteúdosUX e IA: Transformando Experiências Digitais com Inteligência ArtificialProduto & UX · jan 2025MCP: O que é e por que você vai ouvir falar disso em breve?AI · jul 2025IA generativa e a urgência de reconstruir nossa relação com a verdadeAI · jun 2025Ver tudo em AI → com 30 bilhões de parâmetros. A explicação veio em material técnico divulgado pela fabricante chinesa e reportado pelo site TechNode, que também cita cobertura do site chinês IT Home sobre o mesmo chip.

O ponto central é a unidade de processamento neural (NPU) Da Vinci, nova versão embarcada no Kirin 9050, que combina quantização de baixa precisão com uma coordenação mais apertada entre memória e capacidade de cálculo. Na prática, isso é o que permite encaixar um modelo desse tamanho dentro das restrições de energia e espaço de um smartphone, algo que normalmente exigiria uma GPU de servidor rodando na nuvem.

Por que 30 bilhões de parâmetros cabem num celular

O modelo citado pela Huawei usa arquitetura de mixture-of-experts (MoE), técnica em que a rede neural é dividida em vários sub-modelos especializados (os "experts") e apenas uma fração deles é ativada a cada consulta. Segundo a Huawei, cerca de 2 bilhões de parâmetros do total de 30 bilhões são ativados por vez, o que reduz drasticamente o custo computacional de cada inferência sem abrir mão do tamanho total do modelo.

Esse número, os 2 bilhões de parâmetros ativos, já havia sido divulgado pela própria Huawei em outubro, durante um briefing técnico sobre o chip. O que a empresa detalhou agora é como o NPU Da Vinci sustenta essa arquitetura na prática: usando quantização de baixa precisão e coordenando memória e capacidade de cálculo para viabilizar a execução do modelo no aparelho, sem que a Huawei tenha detalhado publicamente, na divulgação reportada pela TechNode, o mecanismo exato por trás dessa coordenação.

Em resumo: o truque não é encolher o modelo, é rodar só o pedaço dele que a tarefa do momento realmente precisa.

Quantização de baixa precisão faz o resto do trabalho

Além da ativação parcial via MoE, a Huawei descreveu o uso de quantização de baixa precisão (low-bit quantization) para reduzir ainda mais a pegada de memória do modelo. Quantização é a técnica de representar os pesos da rede neural com menos bits do que o padrão de treinamento, trocando alguma precisão numérica por ganho de velocidade e economia de memória.

A combinação das duas técnicas, menos parâmetros ativos por vez e cada parâmetro ocupando menos espaço, é o que a Huawei aponta como viabilizador de rodar um modelo de 30 bilhões de parâmetros num hardware mobile. A empresa não detalhou, na divulgação reportada pela TechNode, o número exato de bits usado na quantização nem benchmarks de latência ou consumo de bateria para essa carga de trabalho.

Os recursos que a Huawei já mostra funcionando

O mesmo processador, segundo a Huawei, já sustenta recursos voltados ao usuário final que dependem dessa capacidade de IA local:

• Leitura de tela assistida por IA (AI screen reading), que interpreta o conteúdo exibido sem precisar enviar dados a um servidor;
• Virada de página por rastreamento ocular (eye-tracked page turning), que usa a câmera para detectar o movimento dos olhos do usuário e avançar o conteúdo lido.

Ambos os recursos dependem de inferência rápida e constante, exatamente o cenário em que rodar o modelo na nuvem introduziria latência perceptível e exigiria conexão de internet permanente, o que frisa o motivo de a Huawei investir em manter o processamento no próprio chip.

O que isso significa para quem desenvolve

Para quem constrói aplicações com IA no Brasil, o caso do Kirin 9050 é um retrato de uma tendência maior: modelos grandes deixando de ser sinônimo de API na nuvem. A arquitetura MoE combinada com quantização agressiva é a mesma estratégia que outros fabricantes de chips mobile vêm perseguindo para rodar modelos de linguagem e de visão computacional direto no dispositivo, sem o custo recorrente de chamadas a servidores externos.

Na prática, isso abre caminho para apps que funcionam sem internet, reduzem exposição de dados sensíveis do usuário (já que nada sai do aparelho) e não dependem de latência de rede para responder. Para quem desenvolve features de IA embarcada, o ponto de atenção é que esse tipo de ganho normalmente exige adaptar o modelo à arquitetura MoE e aplicar quantização específica para o hardware-alvo, não é algo que se obtém só rodando um modelo genérico de 30 bilhões de parâmetros baixado da internet num NPU qualquer.

O que ainda fica em aberto

A divulgação da Huawei, como reportada pela TechNode, não inclui benchmarks independentes de desempenho, consumo de bateria durante inferência sustentada ou comparação direta com chips concorrentes de outras fabricantes que também investem em IA on-device. Também não há, nas fontes disponíveis, detalhes sobre qual modelo de 30 bilhões de parâmetros é esse, se é um modelo proprietário da Huawei ou uma adaptação de um modelo aberto, nem cronograma de disponibilidade mais ampla dos recursos de leitura de tela e rastreamento ocular para desenvolvedores externos construírem em cima deles.

Fonte 1: TechNode (China) (https://technode.com/2026/11/11/huawei-details-how-kirin-9050-runs-a-30-billion-parameter-model-on-device/)

Huawei details how Kirin 9050 runs a 30-billion-parameter model on device · TechNode

Huawei on Wednesday detailed how the Kirin 9050 series runs a 30-billion-parameter AI model locally without an internet connection. The chip’s new Da Vinci neural processing unit uses low-bit quantization and coordinates memory and compute to run the model on a phone.

The mixture-of-experts model activates about 2 billion parameters at a time. Huawei previously disclosed that figure at its October chip briefing and this week described how the same processor supports features such as AI screen reading and eye-tracked page turning. [IT Home, in Chinese] [October briefing, in Chinese]

Fonte: TechNode (China)