- Leitura
- 5 min
Uma das coisas que aprendi trabalhando com tecnologia é que os maiores problemas de uma solução nem sempre aparecem naquilo que ela faz, mas naquilo que exige das pessoas para continuar funcionando.
Essa lembrança voltou recentemente, quando analisava algumas propostas de utilização de agentes de IA↳Agentes de IA42 conteúdosOpera passa a integrar ChatGPT, Claude e outros agentes de IADev (Back & Front) · mar 2026Operações mais inteligentes, decisões mais rápidas: o impacto da IA agêntica na rotina de TIAI · abr 2026Adobe aposta em orquestração de agentes de IA: o que muda para devsDev (Back & Front) · abr 2026Ver tudo em AI → em processos empresariais para uma empresa. Os projetos prometiam ganhos expressivos de produtividade, redução de custos e maior autonomia operacional. Mas havia um detalhe que me chamou a atenção: em praticamente todas as situações de maior risco, a resposta era colocar um humano para supervisionar ou aprovar.
O curioso é que a capacidade desse humano de acompanhar o trabalho dos agentes não havia sido dimensionada. O tempo necessário para analisar exceções também não. Muito menos o custo de reconstruir o contexto de decisões que o sistema tomou sem participação humana. Estávamos discutindo a escalabilidade da IA sem discutir a escalabilidade da supervisão.
E esse é um problema bem maior do que parece. Imagine um agente responsável por analisar pedidos de crédito, consultar informações financeiras, verificar políticas internas e recomendar aprovações. Ele processa centenas de solicitações, cruza dados e identifica exceções. Quando encontra uma situação considerada crítica, encaminha a decisão para um funcionário.
O problema é que esse funcionário não acompanhou o processo. Recebe uma recomendação, talvez acompanhada de uma justificativa produzida pelo próprio modelo, e precisa reconstruir rapidamente o contexto para decidir. Se aprovar sem compreender, a supervisão é fictícia. Se investigar tudo novamente, parte importante do ganho de produtividade desaparece. E, se o volume de decisões aumentar dez vezes, não existe garantia de que a capacidade humana de supervisioná-las acompanhará esse crescimento.
Human-in-the-loop não é, por si só, uma arquitetura de governança. É um mecanismo de controle cuja eficácia e custo dependem de como foi projetado. A supervisão humana pode ser indispensável em decisões de alto impacto, mas não pode ser tratada como solução universal para compensar a imprevisibilidade dos modelos.
Há uma diferença fundamental entre automatizar tarefas e delegar decisões. Automatizamos processos há décadas com sistemas convencionais. Quando as regras são conhecidas, os limites estão definidos e as exceções podem ser identificadas, a automação funciona sem exigir que alguém interprete continuamente cada execução.
Com agentes baseados em LLMs, a situação pode ser diferente. Eles conseguem interpretar instruções, consultar ferramentas e selecionar caminhos de execução, mas isso não significa que mantenham uma representação confiável e atualizada de todas as dependências do ambiente empresarial. Uma decisão aparentemente simples pode produzir consequências relevantes quando combinada com outras ações, permissões ou condições operacionais.
O erro é imaginar que basta acrescentar mais agentes, mais ferramentas e mais etapas de aprovação para resolver esse problema. Na realidade, podemos estar construindo sistemas cada vez mais complexos, caros e difíceis de supervisionar.
A questão, portanto, não é simplesmente colocar um humano no processo. É projetar uma supervisão proporcional ao risco e tecnicamente verificável.
Isso começa pela definição de alçadas. Um agente pode consultar informações e preparar uma recomendação, mas executar pagamentos, conceder crédito acima de determinado limite ou alterar permissões deve depender de autorizações específicas, aplicadas pelo sistema e não apenas descritas em um prompt.
Também precisamos de verificações independentes. Regras determinísticas devem validar limites financeiros, consistência de dados, permissões e condições obrigatórias antes da execução. Não faz sentido depender exclusivamente de outro LLM para confirmar que o primeiro está correto.
A intervenção humana precisa receber um pacote de evidências: dados utilizados, fontes, regras aplicáveis, ações anteriores, exceções identificadas e consequências potenciais. Sem isso, o aprovador apenas legitima uma decisão que não consegue avaliar.
Outro controle essencial é estabelecer limites de execução: quantidade máxima de operações, valores financeiros, sistemas acessíveis, tempo de execução e orçamento por agente. Ao ultrapassá-los, o sistema deve interromper a ação ou encaminhá-la para uma instância autorizada.
Precisamos ainda de rastreabilidade. Cada decisão relevante deve permitir identificar o agente, sua versão, as ferramentas utilizadas, a identidade sob a qual atuou, os dados consultados e quem autorizou a execução.
E não basta registrar. É necessário monitorar taxas de erro, exceções, intervenções humanas, incidentes, mudanças de comportamento e custo por tarefa concluída corretamente. Desvios relevantes devem acionar revisão, suspensão ou redução das permissões.
Mecanismos de interrupção e reversão também são indispensáveis, embora seja preciso reconhecer que algumas consequências, como pagamentos efetivados ou dados divulgados, não podem ser simplesmente desfeitas por um rollback.
Esses controles precisam ser testados antes da produção e revalidados quando mudam modelos, ferramentas, permissões ou processos.
É nesse ponto que a discussão se torna econômica. O custo real de um agente não é apenas o consumo de tokens, a infraestrutura ou as chamadas às ferramentas. Inclui o tempo necessário para investigar exceções, validar decisões, corrigir erros e reconstruir contextos.
Se a empresa precisa manter especialistas permanentemente ocupados supervisionando o trabalho dos agentes, a economia prometida pode ser muito menor do que a apresentada no business case.
Pior: podemos substituir atividades operacionais relativamente previsíveis por um trabalho humano mais fragmentado, cognitivamente exigente e sujeito a erros de avaliação.
Não defendo eliminar a supervisão humana. Defendoo que ela seja reservada às decisões em que realmente acrescenta valor, enquanto controles automatizados e independentes tratam aquilo que pode ser verificado objetivamente.
Também precisamos reconhecer que algumas atividades sequer necessitam de agentes. Uma automação convencional, determinística e bem construída pode entregar resultados superiores, com menor custo e risco.
O importante não é quantas pessoas um agente consegue substituir, mas quanto trabalho humano ele realmente elimina depois de contabilizarmos supervisão, exceções, retrabalho e riscos. Uma empresa não se torna mais eficiente simplesmente transferindo decisões para a IA e devolvendo aos funcionários a responsabilidade de descobrir, às pressas, quando ela está errada.
Supervisão humana que não consegue compreender, contestar e interromper uma decisão não é governança. É apenas uma assinatura humana em um processo que ninguém controla de verdade.
