Human-in-the-loop: supervisão humana ou apenas um clique para dividir a culpa?

Ouço uma expressão com frequência crescente quando discutimos riscos de IA↳Inteligência artificial440 conteúdosUX e IA: Transformando Experiências Digitais com Inteligência ArtificialProduto & UX · jan 2025MCP: O que é e por que você vai ouvir falar disso em breve?AI · jul 2025IA generativa e a urgência de reconstruir nossa relação com a verdadeAI · jun 2025Ver tudo em AI →: “não se preocupe, haverá um humano no loop”. Mas, essa frase começa a me preocupar quase tanto quanto o risco que deveria mitigar.

Simplesmente colocar uma pessoa em algum ponto do processo não significa criar supervisão humana efetiva. Em alguns casos, pode significar apenas acrescentar um clique humano entre a recomendação da máquina e sua execução.

Imagine um banco utilizando um agente para analisar contestações de compras feitas com cartão.

Uma cliente contesta uma transação de R$ 8.500 realizada durante uma viagem. O agente consulta histórico de compras, localização, autenticação, comportamento transacional e padrões conhecidos de fraude. Identifica que o cartão físico foi utilizado com senha e que outras compras legítimas haviam ocorrido naquela cidade. A partir desses sinais, atribui baixa probabilidade de fraude e recomenda rejeitar a contestação. O analista recebe uma tela muito bem construída: recomendação, score de confiança e um resumo convincente das evidências.

Mas existem complicações. Horas antes da compra, a cliente havia comunicado pelo call center que sua bolsa fora furtada. O registro está em outro sistema e não foi recuperado pelo agente. Além disso, a utilização de senha, embora seja um sinal relevante, não elimina outras hipóteses que precisariam ser investigadas.

O analista, entretanto, precisa revisar centenas de casos. O agente historicamente apresenta bom desempenho e aquela é talvez a quadragésima recomendação de rejeição que ele analisa naquele turno. Ele clica em “aprovar”. A contestação é rejeitada e a decisão segue automaticamente para os sistemas seguintes.

Formalmente, havia um humano no loop.

Mas o que exatamente esse fato garante? O analista não recebeu todo o contexto. Tinha poucos minutos para decidir. A interface apresentava primeiro a conclusão do agente, potencialmente criando um efeito de ancoragem. O sistema havia acertado repetidamente, favorecendo automation bias. E talvez a própria meta operacional do analista fosse incompatível com uma investigação realmente independente.

O problema, portanto, não é apenas ter um humano. É saber se existem condições para que esse humano exerça julgamento. Por isso prefiro pensar em níveis de supervisão humana, escolhidos conforme o risco, em vez de tratar human-in-the-loop como uma configuração única.

Em um primeiro nível, o humano apenas monitora. A IA executa e pessoas acompanham indicadores, alertas e resultados. Pode fazer sentido para ações de baixo impacto, suficientemente observáveis e facilmente reversíveis. Mas isso não deveria ser descrito como aprovação humana.

Em outro nível, temos intervenção por exceção. O sistema atua autonomamente dentro de limites predefinidos, mas determinados valores, níveis de incerteza, anomalias ou categorias de risco provocam escalonamento obrigatório.

Há situações em que a autorização precisa ocorrer antes da execução. A IA analisa, organiza evidências e recomenda, mas a ação somente produz efeito depois que uma pessoa com competência, contexto e autoridade decide aprovar, rejeitar ou modificar a recomendação.

E há uma quarta possibilidade frequentemente esquecida: determinadas decisões simplesmente não deveriam ser delegadas ao sistema. A IA pode apoiar pesquisa, análise e preparação, enquanto julgamento e execução permanecem sob responsabilidade humana.

Não considero esses níveis uma taxonomia universal. O importante é o princípio: a intensidade e a forma da supervisão precisam acompanhar o risco.

E risco também não é simplesmente o valor financeiro da operação. Precisamos considerar impacto potencial, incerteza, reversibilidade, urgência, capacidade de detectar posteriormente um erro, consequências acumuladas e possibilidade de propagação da decisão para outros sistemas.

Voltemos ao banco. Uma contestação pequena, rotineira e facilmente reversível poderia eventualmente ser processada automaticamente dentro de regras estabelecidas. Um caso com sinais conflitantes seria escalado. Uma decisão com impacto elevado exigiria autorização prévia. E determinadas ações poderiam permanecer inteiramente fora da autonomia do agente.

Mas existe uma fragilidade ainda mais profunda no conceito simplista de human-in-the-loop. O humano também falha.

Pode não compreender a recomendação. Pode confiar excessivamente no sistema. Pode sofrer fadiga. Pode não ter acesso aos dados necessários. Pode não possuir competência específica para contestar o modelo. Pode ter autoridade formal, mas sofrer pressão organizacional para não utilizá-la. Pode simplesmente não conseguir analisar adequadamente centenas de decisões por dia.

E temos um paradoxo interessante: quanto melhor o sistema funciona, menos atenção podemos dedicar justamente às poucas situações em que ele falha. Isso já é conhecido em estudos sobre automação. Sistemas altamente confiáveis podem favorecer complacência e automation bias. Portanto, não devemos assumir automaticamente que colocar uma pessoa depois da IA produz uma camada independente de segurança.

Existe ainda o problema da velocidade. Um agente pode tomar milhares de decisões enquanto uma pessoa consegue revisar algumas dezenas. Nesse cenário, afirmar que existe supervisão humana pode ser tecnicamente verdadeiro e operacionalmente irrelevante.

Há também o problema da reversibilidade. Um humano que percebe o erro depois que um agente transferiu dinheiro, bloqueou uma conta, enviou uma comunicação, alterou um cadastro ou acionou outro sistema não exerce o mesmo tipo de controle daquele que consegue impedir a ação antes que ela aconteça.

Por isso considero perigoso transformar HITL em uma espécie de resposta universal para governança de agentes. Supervisão humana é apenas uma camada da arquitetura de controle.

Limites de autorização, regras determinísticas, segregação de funções, validações independentes, restrições de ferramentas, limites financeiros, observabilidade↳Observabilidade11 conteúdosObservabilidade para APIs: os desafios e benefícios dessa abordagemDev (Back & Front) · jan 2025Falhas em Observabilidade afetam os Apps e a Segurança das OrganizaçõesDev (Back & Front) · nov 2023ADK Java 1.0: O Google quer que você pare de gambiarra Python no seu backendMarketing Tech · abr 2026Ver tudo em DevSecOps →, logs, detecção de anomalias, fallback, reversibilidade, rate limits, circuit breakers e kill switches podem ser tão ou mais importantes em determinadas situações.

Devemos abandonar a pergunta simplista “existe um humano no loop?” e nos concentrarmos em quando ele entra? O que consegue ver? Sabe o que não consegue ver? Quanto tempo possui? Tem competência para contestar o sistema? Possui autoridade real para fazê-lo? Consegue impedir a execução? Consegue revertê-la? E quantas decisões precisa supervisionar simultaneamente?

Um log registrando que alguém clicou em “aprovar” comprova participação humana. Não comprova supervisão efetiva. Sem essas distinções, human-in-the-loop corre o risco de se transformar em algo bastante conveniente: a máquina recomenda, o humano confirma e, quando algo dá errado, a organização possui uma pessoa para quem transferir a responsabilidade.