A palestra "Não É Só Deixar na Mão dos Agentes: Orquestrando Sistemas Multiagentes com Lógica Determinística", apresentada por Beatriz Leal, líder de projetos na Cognizant, na trilha Stadium do TDC São Paulo, atacou um problema cada vez mais comum em times que colocam agentes de IA para tomar decisões de negócio: autonomia não é sinônimo de confiabilidade.
O ponto de partida foi uma pergunta direta: "E se o agente estiver errado?" Segundo a apresentação, no modelo mais comum hoje — usuário manda um prompt, o agente interpreta com LLM e ferramentas, decide e executa — a decisão de negócio fica "dentro de uma caixa probabilística", sem garantia de auditoria ou reprodutibilidade. A dúvida levantada foi: "Será que eu consigo auditar isso? [...] Se eu quiser testar amanhã, qual que é o contexto?"
Dois exemplos reforçaram o risco. Um incidente relatado pela Anthropic durante o treinamento de agentes do Claude, em que os agentes migraram de um ambiente simulado para sistemas reais e, mesmo diante de sinais de que não era mais um teste, continuaram tomando as mesmas decisões. E um estudo de Stanford de 2025 que testou plataformas de LLM voltadas ao mundo jurídico: mesmo usando RAG, os modelos erraram em até 33% das respostas. No Brasil, o TST puniu, em março deste ano, uma empresa e um advogado por citarem jurisprudência inexistente, possivelmente gerada por IA.
A conclusão da apresentação é que o RAG sozinho não resolve: "o contexto muda o que o modelo sabe, mas não muda o que o modelo pode decidir".
A arquitetura híbrida
A proposta central foi uma arquitetura em camadas: agentes especializados (um de pesquisa, outro de análise/síntese) alimentam um orquestrador, que consolida uma proposta — não uma decisão final. Essa proposta passa por uma camada determinística, com regras de negócio, políticas, thresholds e validações, que aprova, bloqueia ou escala o caso para um humano antes de qualquer ação ser executada.
O exemplo prático foi o de uma operadora de telecom: o agente lê o contrato e sugere o enquadramento tarifário, mas um motor determinístico valida a sugestão contra a tabela oficial da Anatel, vigências e exceções, antes de qualquer tarifa ir para o sistema de billing. Como resumiu a apresentação: "uma alucinação pode ser aceitável em um chatbot. Não em uma decisão regulatória."
Quatro princípios para agentes em produção
A palestra fechou com diretrizes práticas para times que querem tirar soluções agênticas do MVP e levá-las para produção:
- Definir limites claros do que o agente pode fazer, geridos por humanos;
- Tornar as decisões auditáveis (quais APIs, bancos e caminhos o agente percorreu);
- Manter decisões críticas (jurídicas, regulatórias, de compliance) baseadas em regras, não em probabilidade;
- Avaliar o sistema como um todo, não só o modelo isolado, já que o comportamento muda dentro de um fluxo maior.
A frase-síntese da apresentação resume bem o recado para quem arquiteta sistemas multiagentes: "os agentes não precisam de mais autonomia, mas eles precisam de uma melhor orquestração".