Nvidia desenvolve Nemotron 4, sua nova família de modelos open-source

A Nvidia está desenvolvendo uma nova família de modelos de IA chamada Nemotron 4, com o objetivo de rivalizar com os principais modelos open-source do mundo. A informação foi publicada pela The Information e reproduzida pela Reuters, citando pessoas que trabalham no projeto.

Segundo o relato, o maior modelo da família Nemotron 4 deve ter ao menos 1 trilhão de parâmetros, de acordo com múltiplos funcionários envolvidos no desenvolvimento. A Nvidia ainda não definiu data de lançamento e não concluiu o treinamento final, mas colaboradores afirmaram que o modelo pode estar pronto já no fim do outono (no hemisfério norte). A empresa não respondeu de imediato ao pedido de comentário da Reuters.

Uma das poucas grandes empresas dos EUA no open-source

A Nvidia é uma das poucas grandes companhias americanas a liberar modelos open-source, uma categoria que ganhou mais atenção neste ano. Segundo a reportagem, o interesse cresceu conforme os custos de IA disparam e modelos chineses de baixo custo se aproximam da capacidade dos sistemas de laboratórios líderes americanos, como Anthropic e OpenAI.

Uma série de ataques recentes envolvendo agentes de IA autônomos também colocou os holofotes sobre o tema, especialmente porque modelos abertos não têm barreiras que impeçam seu uso em cibersegurança, aponta o texto.

No mês anterior à reportagem, a Nvidia havia formado uma coalizão com outras empresas para desenvolver e compartilhar ferramentas de segurança e cibersegurança em IA. A companhia também assinou uma carta aberta ao lado de pesos-pesados como a Microsoft em defesa dos modelos de pesos abertos (open-weight), argumentando que a inovação não deveria migrar para fora dos EUA.

Nemotron 3.5 Lightning e NeMo Switchyard

No mesmo dia, a Nvidia apresentou o Nemotron 3.5 Lightning, uma adição ao seu portfólio voltada para tarefas como revisão de código, uso de ferramentas, monitoramento de alertas de segurança e respostas a questões de cobrança.

A empresa também lançou o NeMo Switchyard, uma biblioteca open-source de roteamento de modelos projetada para direcionar automaticamente tarefas de IA ao modelo mais adequado.

O Nemotron 4 seria a quarta geração da família de modelos abertos da Nvidia. No fim do ano anterior, a fabricante de chips já havia revelado a terceira geração, em meio à proliferação de ofertas de laboratórios de IA chineses.

O que isso muda para quem constrói software no Brasil

Para o desenvolvedor brasileiro, mais uma família de modelos open-source de peso significa mais opções fora do modelo pago por API das grandes labs. Modelos abertos podem ser rodados em infraestrutura própria, ajustados (fine-tuning) para domínios específicos e usados sem depender de conexão constante com serviços estrangeiros, o que pode ajudar em cenários com restrições de custo, latência ou requisitos de dados sensíveis.

Vale, porém, o realismo: um modelo com 1 trilhão de parâmetros exige hardware substancial para inferência, o que na prática limita quem consegue rodá-lo localmente sem recorrer a nuvem. Como toda a informação parte de um relato baseado em fontes anônimas, o tamanho final, a licença exata e a data de lançamento ainda não foram confirmados oficialmente pela Nvidia, e devem ser acompanhados quando a empresa fizer o anúncio.

Fonte: ET Tech (Índia)