Um dos blocos mais técnicos do dia trouxe uma demonstração prática de arquitetura multi-agente aplicada a e-commerce, misturando conceitos de RAG, orquestração de modelos e observabilidade — temas que já viraram dor de cabeça recorrente para quem constrói produtos de IA em produção.
O ponto de partida foi o conceito que o palestrante chamou de A-RAG (agente + RAG): "quanto menos informação e mais [qualidade de] informação você passa para o seu modelo, melhor ele faz o trabalho dele com menos contexto". Na prática, isso significa janelas de contexto menores, menos memória RAM e requisitos de hardware mais enxutos — um argumento direto para quem sofre com custo de inferência.
A demo ao vivo mostrou um catálogo de produtos sendo consumido por quatro agentes coordenados — busca, recomendação, promoção e um agente de reasoning — cada um rodando modelos diferentes, não um único LLM monolítico. Segundo o palestrante, "você não tem uma grande blob que você consome por um único endpoint. São várias caixinhas: embeddings, [modelos de] reasoning, modelos visuais". Isso abre espaço para arquiteturas híbridas: um modelo de fronteira via API para interpretar a intenção do cliente, e um modelo proprietário, treinado internamente, para lidar com dados sensíveis do catálogo — inclusive citando o conceito de aprendizado federado como caminho para quem tem restrições de privacidade.
O trecho mais relevante para devs, porém, foi sobre observabilidade. Ao mostrar métricas de uma interação — taxa de conversão de 50%, mas latência de agente de quase nove segundos — o palestrante fez a pergunta que resume o problema: "quem é a culpa de você não ter essa conversão? É o seu embedding que não foi bom? [...] Você teve um labeling errado?". Sem rastreamento de traços por agente, equipes de negócio enxergam métricas de resultado (revenue, conversão), mas ninguém consegue apontar qual subagente falhou no meio do caminho — um problema comparado à migração de monolitos para microsserviços, só que mais complexo porque envolve decisões probabilísticas, não apenas falhas determinísticas de serviço.
O bloco também tocou em governança: agentes especializados podem inadvertidamente correlacionar dados sensíveis (CPF, endereço, padrões de consumo familiar), reforçando a necessidade de guardrails e anonimização com preservação de correlação semântica — ferramentas citadas como parte de um toolkit open source (não restrito a GPU, segundo o palestrante).
Como case de aplicação real, foi mencionado o Royal Bank of Canada, que teria reduzido processamento de documentos de 40 horas para 15 minutos usando RAG e fine-tuning dentro desse tipo de pipeline.
Para times de engenharia que já rodam agentes em produção com LangChain, LangGraph ou Semantic Kernel, a mensagem prática foi: instrumentar observabilidade e avaliação antes de decidir trocar de modelo, porque "não é o modelo" costuma ser a resposta errada para um problema de arquitetura mal monitorada.