Fine-tune de US$ 500 em modelo aberto de 9B supera modelos de fronteira em revisão de catálogo

Um relatório publicado pela Fermisense e discutido no Hacker News detalha um experimento em que um modelo aberto de 9 bilhões de parâmetros, ajustado com aprendizado por reforço, superou cinco configurações de modelos de fronteira numa tarefa de revisão de catálogo de e-commerce. O custo do treinamento: cerca de US$ 500 em tempo de GPU.

O número que importa

Segundo a fonte, o modelo treinado com GRPO atingiu 87,3% da pontuação máxima possível na tarefa de revisão de listings, contra 76,9% da melhor configuração de fronteira. Isso representa uma melhora relativa de 13,5% sobre o modelo de fronteira e de 36% sobre o próprio modelo base sem treino (que marcava 64,2%).

Os cinco modelos de fronteira testados (GPT-5.5, GPT-5.6-sol, Gemini 3.1 Pro, Claude Opus 4.8 e Claude Fable 5) estagnaram, segundo o relatório, dentro de um décimo de ponto uns dos outros, mesmo com prompts otimizados de 2.800 caracteres. O especialista treinado ultrapassou esse teto.

No custo por decisão, a fonte reporta US$ 0,50 por mil listings com o modelo especialista contra US$ 34 com o modelo de fronteira mais forte: uma vantagem de 68 vezes, e ainda 40 vezes mais barato que a opção de fronteira mais econômica.

Como foi montado o experimento

A equipe reconstruiu o fluxo de revisão de catálogo como um "gêmeo digital": um ambiente simulado com os mesmos listings, ferramentas e critérios do processo real. A matéria-prima foi o dataset público Amazon Berkeley Objects, transformado em 177.767 episódios de revisão, cada um com imagem, título, descrição, marca declarada e região.

Dentro do ambiente, o agente podia buscar numa taxonomia de cerca de 13 mil categorias, checar se uma marca estava registrada e protegida, e recuperar o schema de atributos. Um avaliador pontuava cada episódio segundo a fórmula 0.3·categoria + 0.3·atributos + 0.4·política − tool_overage, com uma regra de negócio embutida: perder uma violação real custava 7 vezes mais que um alarme falso.

O setup de treino foi modesto

Pelos dados da fonte, a infraestrutura foi enxuta: duas GPUs RTX PRO 6000 alugadas (uma gerando rollouts, outra aplicando atualizações de gradiente), rodando o framework open source prime-rl. A execução completa foram 1.000 passos de otimização, levou cerca de três dias e meio e custou aproximadamente US$ 500 em GPU.

O relatório observa que o modelo cruzou a faixa dos modelos de fronteira após cerca de 250 passos (aproximadamente um dia de treino); o resto foi para espremer desempenho máximo.

Casos citados no relatório

A Fermisense enquadra o experimento dentro de um padrão que diz observar em empresas: modelo aberto + dados proprietários da tarefa + etapa de aprendizado por reforço contra uma cópia pontuada do workflow. Entre os casos citados:

• Bridgewater Associates teria treinado um modelo aberto com rótulos de seus próprios analistas, cometendo cerca de 30% menos erros que o melhor modelo de fronteira.
• Harvey, que constrói agentes para escritórios de advocacia, reporta um agente jurídico que supera GPT-5.5 e Claude Opus 4.8 nos próprios critérios.
• Intercom pós-treinou seu modelo vertical de suporte, o Fin Apex, sobre bilhões de interações, resolvendo mais casos a custo menor.

Segundo a fonte, a Shopify classifica produtos com modelos abertos ajustados a cerca de 40 milhões de inferências por dia, volume que a empresa afirma não ser economicamente viável com APIs comerciais.

O que muda para quem constrói software no Brasil

Para times de desenvolvimento no Brasil, onde o custo em dólar de APIs de fronteira pesa no orçamento e o câmbio amplia qualquer conta por token, o experimento aponta um caminho concreto: para tarefas repetitivas e bem definidas (classificação, extração estruturada, moderação de catálogo), um modelo aberto menor treinado sobre dados próprios pode sair mais barato e mais preciso que depender de uma API externa cobrada por chamada.

Vale a ressalva editorial: os números vêm de um único relatório de uma empresa que vende esse tipo de solução, com métricas sobre uma tarefa específica. Os resultados de terceiros (Bridgewater, Harvey, Intercom) estão linkados na fonte original para quem quiser conferir. O relatório também reconhece que o fluxo costuma começar com modelos de fronteira para estabelecer baseline e gerar os dados que depois treinam o especialista.

Fonte: Hacker News