DeepSeek abre código do DeepInfer, framework de inferência que roda em GPUs Nvidia e chips Huawei Ascend

O que é o DeepInfer

A DeepSeek lançou em código aberto↳Open source71 conteúdosComo o Open Source Está Liberando o Poder da Automação para TodosDev (Back & Front) · out 2025Código aberto: programadores criam software da NASA sem saberDev (Back & Front) · abr 2021N8N: O que é a ferramenta open source que está revolucionando a automação em TI?Dev (Back & Front) · dez 2025Ver tudo em Dev (Back & Front) →, no dia 20 de outubro de 2026, o framework de inferência que roda por trás dos próprios serviços de modelos de grande escala da empresa, batizado de DeepInfer, segundo a TechNode. O framework é a peça que decide como um modelo treinado responde a cada requisição em produção: como distribuir o processamento entre máquinas, como acelerar a geração de texto e como entregar saída em formato estruturado. Até a véspera do anúncio, essa camada ficava fechada dentro da infraestrutura da própria DeepSeek.

Contexto: do modelo ao motor que roda o modelo

A DeepSeek já tinha histórico de abrir o peso de seus modelos, como aconteceu com a família R1 e com versões da série V, movimento que ajudou a popularizar a ideia de modelo de peso aberto competindo com produtos fechados da OpenAI e do Google. O que muda agora é a camada abaixo do modelo: não é mais só "aqui está o peso para você baixar", é "aqui está o motor que a gente usa para servir esse peso em escala". Essa costuma ser a parte guardada a sete chaves, porque é onde moram os ganhos de eficiência que definem o custo por token cobrado ao cliente final.

Dois chips, uma só pilha de inferência

Diferentemente de frameworks de inferência pensados só para a arquitetura da Nvidia, o DeepInfer suporta tanto GPUs Nvidia quanto os processadores Ascend, da Huawei. O suporte a Ascend tem motivo concreto: restrições de exportação dos Estados Unidos limitam o acesso de empresas chinesas aos chips mais avançados da Nvidia, o que empurra parte do ecossistema local para hardware da Huawei como alternativa viável em escala.

Entre os recursos liberados estão inferência distribuída, decodificação especulativa (técnica que usa um modelo menor para prever tokens e acelerar a geração do modelo principal) e saída estruturada, formato pensado para integrações que exigem JSON ou esquemas previsíveis na resposta, como function calling. Segundo a DeepSeek, o objetivo declarado é ajudar desenvolvedores e empresas a melhorar vazão e latência reduzindo, ao mesmo tempo, custo computacional e consumo de energia.

O framework hoje dá suporte ao modelo DeepSeek-V4.1-Flash-1017, e a empresa afirma que vai continuar publicando código de inferência e otimizações para os próximos modelos da família pelo mesmo projeto.

O pacote vem com deepseek-recipe

Junto com o framework principal, a DeepSeek abriu também o deepseek-recipe, componente que converte requisições de API e trata entrada e saída do modelo seguindo o mesmo padrão usado no serviço comercial da empresa. Na prática, é a camada que fala a língua da API pública da DeepSeek, útil para quem quer reproduzir localmente o comportamento exato do serviço hospedado, sem reescrever do zero o parsing de prompts e respostas.

Por que isso importa para quem roda IA no Brasil

Em resumo: quem monta infraestrutura de inferência em GPU no Brasil enfrenta dois problemas do mesmo tamanho: preço de GPU Nvidia inflado por imposto de importação e demanda global, e dependência de um único fornecedor de hardware. Um framework de inferência aberto que já nasce testado em Ascend não resolve o problema de disponibilidade desse hardware por aqui (a Ascend ainda não tem distribuição relevante no mercado brasileiro), mas abre um precedente técnico: o código que converte modelo treinado em serviço de produção deixa de estar amarrado a uma única arquitetura de chip.

Para equipes que já rodam modelos da própria DeepSeek, como o DeepSeek-V4.1-Flash-1017, ou pretendem adotar a família em produção, o ganho mais direto é poder trocar a camada de serving sem depender de forks de terceiros em cima de projetos como vLLM, SGLang ou TensorRT-LLM↳LLMs48 conteúdosConsiderações básicas de hardware para modelos de linguagem em código aberto: Memória, Desempenho e ViabilidadeMarketing Tech · out 2025Modelos de linguagem sob ataque: o lado obscuro da IA generativaDevSecOps · mai 2025Criando um LLM – modelo de linguagem de grande escala – do zero com TransformersAI · abr 2024Ver tudo em AI →, hoje as opções mais usadas nesse espaço. Ter o código oficial de quem treinou o modelo reduz o risco de divergência entre o comportamento que a DeepSeek publica como referência e o que roda de fato no servidor de produção.

O que ainda não está claro

A TechNode não detalha a licença de código aberto escolhida pela DeepSeek, nem traz comparações de desempenho entre o DeepInfer e frameworks concorrentes. Também não há, na publicação, números de ganho de vazão ou de redução de custo computacional: a empresa fala em melhorar essas métricas, sem benchmark publicado até o momento. Resta ver se a comunidade de inferência vai adotar o projeto como opção viável ao lado de vLLM e SGLang, ou se ele vai ficar restrito a quem roda especificamente modelos da própria DeepSeek.

Fonte: TechNode (China)