Vercel reduz custo das sessões do Agent em 67% com cache de prompt e gestão de contexto

A Vercel publicou em seu changelog oficial que as sessões do Vercel Agent, tanto no dashboard quanto na integração com Slack, agora custam em média 67% menos para rodar. A mudança não envolveu nenhuma alteração nas taxas cobradas: o modelo de billing continua o mesmo, com a tarifa de inferência repassada do provedor do modelo mais uma taxa fixa da própria Vercel de $0.25 por milhão de tokens. A redução veio inteira do lado da engenharia: menos tokens consumidos para entregar o mesmo resultado.

Para quem acompanha agentes de IA↳Agentes de IA42 conteúdosOpera passa a integrar ChatGPT, Claude e outros agentes de IADev (Back & Front) · mar 2026Operações mais inteligentes, decisões mais rápidas: o impacto da IA agêntica na rotina de TIAI · abr 2026Adobe aposta em orquestração de agentes de IA: o que muda para devsDev (Back & Front) · abr 2026Ver tudo em AI → em produção, esse tipo de anúncio costuma ser mais interessante pelo "como" do que pelo número em si. A Vercel listou quatro frentes de otimização no changelog, e todas elas são técnicas genéricas o suficiente para servir de checklist em qualquer stack de agentes, seja construída sobre LangChain, sobre um orquestrador próprio ou sobre a API de um provedor direto.

O que a Vercel mudou, item por item

O changelog descreve quatro mudanças concretas no funcionamento do Agent:

• Skills de CLI baseadas em workflow: as instruções que o agente usa para operar a Vercel CLI foram reescritas com foco em fluxos comuns e recuperação de erro, o que reduz tentativa e erro (e, consequentemente, tokens gastos em loops de correção).
• Gestão incremental de contexto: o agente passou a gerenciar o contexto de forma mais eficiente à medida que a conversa cresce, incluindo threads longas no Slack, em vez de reenviar ou reprocessar o histórico inteiro a cada turno.
• Cache de prompt melhorado: o agente preserva mais contexto reutilizável entre turnos, o que aumenta a fração da conversa que pode ser lida do cache em vez de reprocessada do zero.
• Codificação e planejamento mais eficientes: as instruções que guiam o agente ao planejar mudanças e escrever código foram ajustadas para exigir menos tokens no processo.

Nenhuma dessas mudanças exige ação do usuário: a Vercel aplicou as otimizações no backend↳Back-end49 conteúdosIntegração front-end com backend: 7 decisões que evitam caos entre APIs, BFF e GraphQLDev (Back & Front) · abr 2026Como criar uma FAKE API REST para testes — JSONPlaceholderDev (Back & Front) · set 2025Construindo um aplicativo de bate-papo de IA simples com Spring AI e AngularDev (Back & Front) · jul 2025Ver tudo em Dev (Back & Front) → do Agent e elas já estão em produção.

Por que cache de prompt move tanto a agulha

A peça mais relevante tecnicamente aqui é o cache de prompt, porque é também a que mais generaliza para fora da Vercel. Provedores de modelo como Anthropic e OpenAI cobram significativamente menos por tokens que vêm de um prefixo de prompt já visto antes (cache hit) do que por tokens processados do zero. A diferença de preço entre um token em cache e um token novo costuma ser de uma ordem de grandeza.

O problema é que cache de prompt só funciona se o prefixo da conversa for estável. Cada vez que o agente reordena, reescreve ou insere algo no meio do contexto anterior, o cache "quebra" a partir daquele ponto, e tudo depois volta a ser cobrado como token novo. É exatamente esse o tipo de desperdício que a gestão incremental de contexto ataca: em vez de reconstruir o prompt inteiro a cada turno, o sistema preserva o que já foi processado e só acrescenta o delta.

Em resumo: um agente mal projetado pode estar pagando o preço de token novo em toda conversa longa, mesmo quando 90% do contexto é repetido turno a turno. Corrigir isso não depende de trocar de modelo nem de reduzir a qualidade das respostas, depende de como o contexto é montado e reaproveitado.

O que muda para quem está construindo agentes próprios

Quem está rodando agentes em produção fora do ecossistema Vercel, seja um assistente interno, um bot de suporte ou um copiloto de código, pode usar os quatro pontos do changelog como roteiro de auditoria:

1. Revisar se as instruções do sistema (equivalentes às "skills") estão escritas para fluxos específicos ou se são genéricas demais, forçando o modelo a gastar tokens descobrindo o que fazer.
2. Checar se o histórico de conversa é reconstruído do zero a cada chamada ou se o pipeline preserva e reaproveita o prefixo processado anteriormente.
3. Verificar, nos headers de resposta da API do provedor, a proporção de tokens de entrada que vieram de cache hit; a maioria dos provedores já expõe essa métrica.
4. Medir o custo médio por sessão antes e depois de qualquer mudança de prompt, porque alterações pequenas no template podem invalidar o cache sem que isso seja óbvio no teste funcional.

Esse tipo de otimização tem um trade-off que o changelog da Vercel não discute: prompts mais rígidos e workflow-based tendem a ser menos flexíveis para casos fora do padrão. Um agente otimizado para um conjunto fechado de comandos da CLI pode degradar em cenários que fogem do roteiro esperado, exigindo fallback explícito para não quebrar a experiência.

Onde essa economia não se aplica

Vale notar os limites do anúncio. A redução de 67% é uma média, não uma garantia por sessão: conversas curtas e de baixa repetição de contexto tendem a se beneficiar menos do cache de prompt do que threads longas no Slack, que é justamente o cenário citado pela Vercel. Sessões que mudam de assunto constantemente, sem reaproveitar contexto anterior, não ganham o mesmo desconto.

Também é importante separar o que é otimização de engenharia do que é redução de preço: as taxas por token continuam as mesmas, tanto a parte repassada do provedor do modelo quanto a taxa de $0.25 por milhão de tokens cobrada pela própria Vercel. Quem já monitorava gasto por sessão no dashboard do Agent deve ver a conta cair sem precisar mudar nada na configuração, mas quem espera um corte explícito de preço na tabela vai encontrar os mesmos valores publicados antes.

Fonte: Vercel Changelog