IBM: US$ 240 milhões em inferência e joga a conta dentro da nuvem

IBM e Together AI fecharam um acordo plurianual de US$ 240 milhões para erguer um cluster de IA em larga escala na IBM Cloud. O anúncio saiu em 11 de agosto de 2026. Além disso, a estrutura já nasce com endereço certo: modelos de código aberto. Ou seja, a conta vai para a etapa que mais pesa no seu mês, a inferência.

IBM Cloud ganha um cluster desenhado para a hora da resposta

A IBM quer capacidade para inferência, ou seja, para o momento em que o modelo já treinado gera resposta. Esse é o trecho que roda toda vez que alguém aperta enter no seu produto. Treino acontece de vez em quando. Inferência acontece o dia inteiro. Por isso, a demanda por capacidade computacional migrou de vez para esse lado da régua. Assim, provedores de nuvem e fabricantes de chips ampliam investimentos em infraestrutura, segundo a Reuters.

HGX B300 e Spectrum X: onde a latência do seu endpoint vai morar

O cluster usará sistemas HGX B300, da Nvidia. Eles conectam os processadores Blackwell mais recentes à rede Ethernet Spectrum X. A Nvidia afirma que o Blackwell foi otimizado para tarefas de inferência. Na prática, o gargalo raramente mora só na GPU. A rede também decide o seu p99. Quando o modelo passa a ocupar várias placas, cada token depende de tráfego entre elas. Portanto, vale olhar a topologia antes de culpar o seu código de serving.

Together AI coloca DeepSeek, MiniMax e Kimi no cardápio

A Together AI fica em São Francisco. A empresa oferece uma plataforma para treinar e executar cargas de IA em modelos abertos, como DeepSeek, MiniMax e Kimi. Além disso, a avaliação da companhia chegou a US$ 8,3 bilhões em julho. Para quem escreve código, o detalhe relevante está no nome dos modelos. Pesos abertos permitem fixar versão. Também permitem medir custo por token com previsibilidade. Inclusive, dá para levar o mesmo modelo para outro provedor quando o preço apertar.

IBM: Por que a inferência virou o item mais caro do seu roadmap

Modelos abertos ganharam espaço porque reduzem custo de desenvolvimento e operação. Esse movimento aparece no acordo de forma bem direta. Primeiro, a IBM garante capacidade dedicada. Depois, a Together AI leva a demanda de quem já roda modelo aberto em produção. Enquanto isso, times de engenharia seguem tentando espremer throughput de clusters compartilhados. Se o seu produto tem pico previsível, capacidade reservada muda a conversa de arquitetura.

Segurança entra na sala junto com o contrato

O setor avalia preocupações com incidentes de segurança cibernética envolvendo modelos de empresas como Anthropic, OpenAI e Meta. Esse ponto pesa em qualquer decisão de infraestrutura. Afinal, um endpoint de inferência recebe entrada de usuário o tempo todo. Por isso, trate prompt como dado não confiável. Valide saída antes de entregar a uma ferramenta com permissão de escrita. Além disso, registre payload, versão do modelo e latência em log estruturado.

O que dá para fazer na sua próxima sprint

O acordo é gigante, contudo a lição prática cabe em poucas linhas. Comece medindo custo por mil tokens no seu caso real, com o seu prompt e o seu contexto. Depois, compare esse número entre um modelo aberto hospedado e uma API fechada. Em seguida, teste quantização e batching antes de pedir mais GPU. Assim, a decisão deixa de depender de manchete e passa a depender de métrica. Por fim, escreva a camada de serving atrás de uma interface simples. Dessa forma, trocar de provedor vira tarefa de configuração.

IBM sinaliza para onde a nuvem de IA está indo

IBM e Together AI apostam que inferência com modelo aberto vira commodity de nuvem. Quando isso acontece, o diferencial migra para quem orquestra melhor. Ou seja, o valor volta para a engenharia do seu time.

Acompanhe nosso perfil no Instagram!