AMD MI455X com 432 GB de HBM4 e muda conta da sua inferência

A AMD anunciou o Instinct MI455X, seu novo acelerador para data centers. O chip nasce em processos de 2 e 3 nanômetros da TSMC. Além disso, reúne mais de 320 bilhões de transistores sob a arquitetura CDNA 5. Para quem escreve código, porém, o número mais interessante aparece na memória. São 432 GB de HBM4 com 23,3 TB/s de largura de banda.

AMD e Nvidia agora disputam largura de banda, e isso importa para você

O modelo Rubin, da Nvidia, leva vantagem em transistores, com cerca de 16 bilhões a mais. Ainda assim, a AMD sai na frente na banda de memória, já que a Rubin entrega 22 TB/s. Essa diferença parece modesta no papel. Na prática, porém, ela define quantos parâmetros cabem em uma única GPU. Ou seja, muda o desenho do seu paralelismo. Quando o modelo cabe em menos placas, você corta comunicação entre nós. Consequentemente, a latência cai e o código de orquestração fica mais simples.

Helios transforma o rack inteiro na sua unidade de projeto

O MI455X chega dentro da solução de rack chamada Helios. A configuração combina 72 GPUs com 18 processadores EPYC da geração Venice. Segundo a AMD, o conjunto oferece 50% mais capacidade de memória que o NVL72 da Nvidia. A empresa também promete 30% de vantagem na relação entre tokens e dólar. Vale lembrar que esses números vêm do próprio fabricante. Portanto, trate tudo como hipótese até a primeira rodada de benchmarks independentes.

Tokens por dólar entram de vez na sua planilha de arquitetura

A AMD afirma que o rendimento de tokens pode chegar a 18 vezes o da geração anterior. Se metade disso se confirmar, o cálculo de custo por requisição muda bastante. Muitos times escolhem o modelo pela qualidade e só depois descobrem a conta da inferência. Com mais memória por placa, dá para servir modelos maiores dentro do mesmo orçamento. Além disso, o batch cresce e a taxa de ocupação melhora. Em resumo, a escolha entre quantizar ou manter precisão total volta para a mesa de discussão.

MI430X mira quem calcula, e não apenas quem gera texto

A AMD também apresentou o Instinct MI430X. O foco aqui está em supercomputação governamental, pesquisa científica e cálculo de alta precisão. Enquanto o MI455X persegue throughput de tokens, o MI430X persegue exatidão numérica. Por isso, quem trabalha com simulação, clima ou dinâmica de fluidos deve olhar essa variante primeiro. A distinção evita compra errada e frustração no primeiro job.

CDNA 5 fica no data center, enquanto a UDNA promete unificar tudo

A arquitetura CDNA 5 permanece longe das placas Radeon RX. Contudo, a AMD já levou recursos como o Wave32 para os aceleradores. Esse detalhe sugere aproximação entre as duas linhas. O plano de longo prazo atende pelo nome de UDNA. A ideia é unir o CDNA, dos servidores, com o RDNA, das placas de consumo. Para o desenvolvedor, isso significaria um alvo único de compilação. Enquanto esse dia não chega, o kernel escrito para o data center segue exigindo ajuste na sua estação local.

AMD: EPYC com Zen 6 fecha o outro lado da equação

A sexta geração EPYC usará a microarquitetura Zen 6. Esses processadores também adotam 2 nm da TSMC, com litografia de nanosheets. As configurações chegam a 256 núcleos por soquete. Depois, em 2028, entra a sétima geração, chamada Florence, com novo nó de fabricação e novas memórias. A partir de 2030, aparece a linha Ravenna, ainda sem detalhes públicos. Ou seja, o roteiro cobre quatro anos de planejamento de infraestrutura.

O gargalo continua no software, e você faz parte dele

Hardware potente resolve metade do problema. A outra metade mora no ecossistema. A pilha ROCm evoluiu bastante nos últimos ciclos, principalmente em PyTorch e em servidores de inferência. Mesmo assim, muita biblioteca de nicho ainda assume CUDA por padrão. Antes de migrar, portanto, faça um inventário honesto das suas dependências. Verifique kernels customizados, bibliotecas de atenção e ferramentas de profiling. Se tudo passar no teste, compare throughput real com o seu tráfego de produção.

Por onde começar ainda esta semana

1. Meça o tamanho do seu modelo em memória e compare com os 432 GB anunciados.
2. Liste as dependências que exigem CUDA e procure equivalentes na pilha ROCm.
3. Calcule seu custo atual por mil tokens, porque essa métrica guiará qualquer negociação.
4. Peça acesso antecipado a provedores de nuvem que já operam a linha Instinct.
5. Documente a latência aceitável do seu produto antes de trocar de plataforma.

AMD: O que fica para quem desenvolve

A AMD deixou claro onde pretende competir. A aposta combina memória abundante, densidade de rack e preço por token. Se o software acompanhar, a escolha de plataforma deixa de ser automática. Para quem escreve código, isso abre espaço para testar, medir e negociar. Enquanto isso, o melhor investimento continua sendo portabilidade.

Acompanhe nosso perfil no Instagram!