LFM2.5-VL-3B: o modelo de visão de 3B da Liquid AI que roda no edge

A Liquid AI publicou no blog da Hugging Face o LFM2.5-VL-3B, um modelo vision-language que a empresa descreve como o mais capaz da linha que dá para rodar em hardware próprio. O detalhe que interessa a quem constrói produto é o tamanho: são 3,1B de parâmetros que cabem em cerca de 3 GB de memória, o que abre espaço para IA visual em dispositivos de borda e projetos sem orçamento de nuvem.

O ângulo prático aqui é justamente esse. Rodar um modelo de visão localmente significa não pagar por token de API, não mandar imagem de documento ou tela para servidor de terceiros e ter latência previsível. Para o cenário brasileiro, onde custo de inferência em dólar pesa e requisitos de privacidade (LGPD) complicam envio de dados sensíveis, um modelo que processa imagem on-device muda a conta.

O que ele faz

Segundo a fonte, o LFM2.5-VL-3B responde direto, sem cadeia de raciocínio, para manter a resposta rápida em apps de tempo real. A Liquid AI destaca quatro melhorias sobre a geração anterior:

• Entendimento de telas/UI: leitura de interfaces em desktop, mobile e web.
• Grounding: detecção de objetos a partir de consultas em linguagem natural.
• Múltiplas imagens: raciocínio comparando várias imagens de entrada.
• Function calling: chamada de ferramentas bem mais forte, tanto em texto quanto em texto+imagem.

A arquitetura combina um encoder de visão SigLIP2 400M NaFlex com o mesmo backbone do modelo de texto LFM2.5-2.6B. O pré-treino usou cerca de 34T tokens, com 4x mais dados visuais que antes. Um ponto útil para quem trabalha com português: o vocabulário foi dobrado para 128K tokens, estendendo o tokenizer no lugar para melhorar suporte a scripts não latinos.

O que os benchmarks mostram (e o que não mostram)

A tabela da fonte compara o modelo com Gemma 4, InternVL 3.5 e Qwen3.5 em faixas de 2B a 8B. Vale ler com cuidado o que "lidera a classe de tamanho" significa.

Em média geral de tarefas de visão, o LFM2.5-VL-3B marca 69,4, empatado com o InternVL 3.5 4B e um pouco atrás do Qwen3.5-4B (70,1), ambos com mais parâmetros ativos. Ou seja: ele entrega desempenho de topo com footprint menor, não bate todo mundo em números absolutos.

Onde ele se destaca de verdade:

• Grounding (RefCOCO-avg): pulou de 57,1 na geração anterior para 87,9.
• Leitura de tela (ScreenSpot-v2): saltos brutais em desktop (6,0 → 78,7), mobile (7,6 → 81,2) e web (2,5 → 82,2). O modelo antigo praticamente não fazia isso.
• Multi-imagem (MuirBench): de 34,9 para 58,3.

Já em document/OCR ele é competitivo mas não campeão: DocVQA de 91,1 fica abaixo do Qwen3.5-4B (94,8). Em tool use (ToolSandbox, BFCL V4), a própria Liquid AI admite que ele fica "no mesmo patamar" do Gemma-4-E2B e do Qwen3.5-2B, não acima. Bom para automação simples, mas quem depende muito de function calling deve testar contra alternativas antes de fechar.

Velocidade no edge

Os números de inferência sustentam o posicionamento. A fonte reporta:

• 228 tokens/s num M5 Max e 116 tokens/s num Ryzen AI Max+ 395.
• 20 tokens/s num Galaxy S26 Ultra, rodando totalmente no celular.
• No servidor, cerca de 11K tokens/s em alta concorrência num único H100, aproximadamente 2x os modelos da classe 4B.

Há suporte day-one para llama.cpp, MLX, vLLM, SGLang e ONNX, o que evita o atrito comum de esperar semanas até o modelo virar utilizável no seu runtime.

Como testar

O uso via transformers (>=5.0.0) é direto. Instalação:

pip install -q torch torchvision accelerate "transformers>=5.10.1"

O carregamento usa AutoModelForImageTextToText e AutoProcessor, com apply_chat_template recebendo uma lista de mensagens onde cada content mistura itens {"type": "image"} e {"type": "text"}. A fonte usa dtype="bfloat16" e device_map="auto", e sugere temperature=0.2 para respostas mais estáveis.

Para quem quer só ver funcionando, há uma demo WebGPU que roda no navegador sem setup, com upload de múltiplas imagens, grounding, OCR e tool use. O modelo está disponível na Hugging Face hoje, com tutoriais de fine-tuning para adaptar a tarefas específicas.

A leitura honesta: o LFM2.5-VL-3B não é o melhor modelo de visão que existe, é um dos melhores por unidade de memória. Para leitura de tela, grounding e apps que precisam rodar offline ou barato, ele merece um lugar na sua bateria de testes.

Fonte: Hugging Face Blog