LFM2.5-2.6B: a Liquid AI aposta em agentes locais rodando até no celular

A Liquid AI lançou o LFM2.5-2.6B, um modelo desenhado desde o início para rodar agentes inteiros no dispositivo: laptop, desktop modesto e até celular. O anúncio no blog da Hugging Face coloca a proposta de forma direta: manter o modelo pequeno e rápido o suficiente para hardware do dia a dia, com dados ficando na máquina e sem fatura de inferência na nuvem.

Para o dev brasileiro que quer experimentar agentes sem investir numa placa de vídeo cara, essa é a parte que interessa. Vamos aos números e aos trade-offs.

O que muda: agente que cabe em 2,5 GB

O ponto central é a combinação entre tamanho e capacidade agêntica. Segundo a fonte, o LFM2.5-2.6B roda em menos de 2,5 GB de memória e entrega:

• 220 tokens/s num Apple M5 Max
• 113 tokens/s num AMD Ryzen AI Max+ 395 (CPU)
• cerca de 30 tokens/s rodando em celular

Trinta tokens por segundo não é velocidade de servidor, mas é suficiente para um agente responder de forma utilizável offline. E o modelo já chega com suporte no dia do lançamento a llama.cpp, MLX, vLLM, SGLang e ONNX, o que reduz o atrito para colocar ele pra rodar no seu stack.

Onde ele é forte (e onde não é)

A Liquid AI comparou o modelo contra concorrentes de até ~4x seu tamanho (Gemma e Qwen nas faixas de 5B a 9,7B). Sendo o menor do grupo, ele se sai surpreendentemente bem, mas o desempenho é irregular por categoria, e é aí que mora a decisão de engenharia.

Instruction following e tool use são os pontos altos. Ele lidera todos os benchmarks de seguimento de instrução citados (IFBench, Multi-IF, IFStruct) e quase todos os de uso de ferramentas, perdendo só no BFCLv4 para o Qwen de 9,7B. No ToolSandbox marca 77,83, à frente dos dois Gemma.

Em tarefas agênticas, empata com os Qwen maiores e supera os Gemma. Em conhecimento (AA Omniscience) ele lidera com folga, e em matemática (AIME25, 51,87) fica competitivo.

O calcanhar de aquiles é código. No LiveCodeBenchv6 ele marca 59,41, atrás do Qwen3.5-9B (69,86) e até do Gemma-4-E4B (63,77). A própria fonte é honesta: "Coding is the one place the larger models keep a clear lead, so reach for something bigger there." Ou seja, se o seu agente precisa gerar código pesado, esse não é o modelo. Para orquestrar ferramentas e seguir instruções, sim.

Como foi treinado

Vale entender o pipeline, porque ele explica o perfil de força do modelo. A base é pré-treinada em ~34T tokens, com uma fase intermediária que estende a janela de contexto para 128K. O pós-treino tem quatro estágios, com peso forte em dados agênticos:

1. SFT em duas rodadas, priorizando tool use, web search e trajetórias de harness
2. Especialização de professores por domínio (matemática, código, ferramentas)
3. Destilação on-policy multi-domínio (MOPD) juntando os especialistas num único aluno
4. Agentic RL: RL multi-turno dentro de harnesses reais de agente

Esse último estágio é o diferencial declarado. O modelo aprendeu dentro de harnesses populares (a fonte cita OpenClaw e Hermes Agent), com um "Harness Proxy" que trata cada harness como caixa-preta e captura as trajetórias em nível de token. Traduzindo: o modelo foi treinado no ambiente em que vai operar, o que tende a melhorar a compatibilidade com ferramentas reais em vez de só passar em benchmark.

Rodando na prática

O uso via transformers exige a versão 5.0.0 ou superior:

pip install -U transformers

O carregamento segue o padrão de qualquer causal LM na HF, com device_map="auto" e dtype="bfloat16". A fonte sugere temperature=0.2, top_k=80 e repetition_penalty=1.05 como ponto de partida. Para experimentar sem instalar nada, há uma demo WebGPU no navegador de um agente de pesquisa, e um guia oficial para rodar agentes locais como OpenClaw, Hermes Agent e Pi.

Veredito para quem constrói

Como sempre, benchmark de fabricante pede ceticismo: os números vêm da própria Liquid AI e os concorrentes citados aparecem com versões que convém à comparação. O teste real é colocar no seu harness com suas ferramentas. Mas a proposta é honesta e o nicho é claro: agentes on-device de alto volume, onde privacidade dos dados e custo zero de inferência importam mais do que gerar código de produção. Para MVPs offline, automações locais e prototipagem sem GPU, é um candidato que merece um pip install.

Fonte: Hugging Face Blog