Meta lança Muse Glimmer, modelo agentic de 30B com pesos abertos que roda localmente

A Meta anunciou o Muse Glimmer, um modelo de 30 bilhões de parâmetros voltado a fluxos de agentes locais e sempre ativos. Segundo a empresa, os pesos foram liberados sob licença Apache 2.0 e estão disponíveis no Hugging Face, junto de documentação para desenvolvedores.

O principal argumento da Meta é que o modelo é pequeno o suficiente para rodar em um Mac ou PC com uma única GPU de consumo. A empresa cita casos de uso que vão de agentes locais e function calling a geração de código e avaliação no formato LLM-as-a-judge. De acordo com o blog, o Muse Glimmer foi comparado a Gemma4-31B e Qwen3.6-27B e apresenta desempenho forte para sua faixa de tamanho em benchmarks amplamente usados.

Por que rodar localmente importa

A Meta observa que, embora modelos de fundação tenham avançado em raciocínio, geração de código e uso de ferramentas, a maioria das implantações ainda depende de infraestrutura em nuvem e acesso à rede. Rodar o modelo localmente, segundo a empresa, permite usar IA em qualquer lugar, com ou sem conexão à internet.

Esse é o ponto que mais interessa a quem constrói software no Brasil. Para times que lidam com dados sensíveis, exigências da LGPD ou custos de API em dólar, um modelo de pesos abertos que processa tudo na máquina do desenvolvedor reduz tanto a exposição de dados quanto a dependência de provedores externos. Não há chamadas a APIs proprietárias no caminho crítico.

Requisitos de hardware e otimizações

A Meta detalha que, em precisão total, um modelo de 30B exigiria mais de 55 GB de memória, acima do que qualquer GPU de consumo oferece. Para contornar isso, a empresa aplicou quantização para comprimir os pesos a cerca de 4 bits, reduzindo o modelo de linguagem para menos de 20 GB. Segundo o blog, isso deixa margem para o KV cache, o encoder de percepção (para entender imagens) e o drafter de decodificação especulativa rodarem dentro de um envelope de 24 GB ou 32 GB.

A velocidade de geração vem de uma técnica de decodificação especulativa: o Muse Glimmer acompanha um modelo drafter leve baseado em DFlash, que propõe blocos inteiros de tokens de uma vez, enquanto o modelo principal verifica as propostas em paralelo. A Meta afirma que isso gera texto significativamente mais rápido do que a geração token a token, com qualidade de saída idêntica. As medições de velocidade citadas foram feitas em MacBooks M4-Max e M5-Max e em uma RTX 5090.

O que o modelo faz

Segundo a Meta, o Muse Glimmer foi treinado e avaliado em várias capacidades agentic:

• Conclusão de tarefas ponta a ponta, com avaliação em benchmarks como DeepSearch QA, MCP-Atlas, 𝛕-Bench e SWE-Bench.
• Uso confiável de ferramentas, com chamadas de função em esquemas precisos ao longo de fluxos extensos.
• Raciocínio em múltiplas etapas e planos coerentes em fluxos longos.
• Recuperação de falhas: quando uma chamada de ferramenta falha, o modelo é treinado para diagnosticar o erro e tentar de novo em vez de parar.
• Entrada multimodal, aceitando texto e imagens intercalados via um encoder de percepção dedicado.
• Suporte multilíngue, com treino em dados de mais de 100 idiomas.

O treinamento, conforme a empresa, combinou pré-treino por logit distillation a partir das saídas do modelo Muse Spark, um estágio intermediário com dados mais longos e voltados a agentes, e pós-treino unindo supervised fine-tuning, destilação on-policy e aprendizado por reforço. A Meta afirma ainda que o modelo foi avaliado sob o Advanced AI Scaling Framework da empresa antes da liberação dos pesos.

Como começar

Os pesos já estão disponíveis no Hugging Face. Nos próximos dias, segundo a Meta, o modelo deve rodar via parceiros como Ollama, LM Studio e Unsloth, com implantação em edge por llama.cpp, ExecuTorch e MLX, e serviço em escala por vLLM e SGLang. Também haverá acesso via Together AI, Fireworks AI e OpenRouter. Para customização, a empresa cita o uso do recurso TorchTitan do PyTorch.

A Meta afirma trabalhar com AMD, Arm, Dell, Intel e NVIDIA para otimizar o desempenho entre dispositivos. Mais recursos estão no AI Developer Center da empresa.

Fonte: Hacker News