Especial · EmTech Brasil 2026

Quem paga a conta quando o agente de IA erra? Painel debate confiança e transparência em pagamentos autônomos

No palco Human do EmTech Brasil 2026, painel com representantes do PicPay discutiu o que muda quando agentes de IA passam a pesquisar, decidir e pagar em nome do usuário — e por que esconder que é um bot pode sair caro.

Palco Human16 de novembro de 2026 às 16:15cobertura assistida por IA, revisada pela redação
Imagem gerada por IA

A palestra "Quando o agente de IA paga a conta", no Palco Human do EmTech Brasil 2026, reuniu Igor Puga (CMO, PicPay) e Alexandre Roldão (moderação) para discutir um cenário que já bate à porta de quem constrói software de pagamentos: agentes de IA fazendo compras e transações financeiras em nome de usuários humanos.

Segurança não é uma batalha vencida de uma vez

O painel traçou a evolução dos modelos de risco em pagamentos — de modelos que olham para fraude, passando por modelos de comportamento de uso, até modelos de comportamento de fraude propriamente dito. A conclusão é que essa evolução não tem ponto final: "isso não é uma luta ganha. É um trabalho que se constrói dia a dia", já que quem busca fragilidades usa as mesmas ferramentas e tecnologias para avançar.

As duas palavras-chave: confiança e transparência

Para o painel, dois conceitos resumem o desafio de colocar agentes autônomos para operar dinheiro de terceiros. O primeiro é a confiança: "É fundamental que esse processo traga confiança. Como é que eu tenho certeza de que aquela relação, de fato, é confiável?" — a pergunta central é se o agente que executa a operação em nome do portador está, de fato, autorizado e livre de comprometimento.

A segunda é a transparência, discutida a partir de um caso concreto do próprio PicPay no atendimento ao cliente. Segundo a apresentação, ser literal ao informar que o cliente estava falando com um bot (e não disfarçar isso) teve efeito prático direto: "o grau de tolerância para o erro dos nossos clientes subiu muito". Por isso, segundo o painel, a empresa optou por não dar nome humano ao seu modelo conversacional, deixando explícito que se trata de um modelo artificial. A visão exposta é que ninguém quer, de fato, uma fluidez que torne imperceptível se está falando com um algoritmo ou uma pessoa.

A conta chega na hora do erro

O ponto mais direto para quem programa fluxos de pagamento autônomo foi a pergunta levantada no próprio título da palestra: se um agente comete um erro em uma situação de risco financeiro, "quem é que paga essa conta?". O painel não ofereceu uma resposta fechada, mas deixou claro que ambiente conversacional (um chatbot de atendimento) e ambiente de agência (um sistema que decide e executa transações) são camadas muito distintas — e tratá-las como a mesma coisa é um erro comum.

Para quem desenvolve

O recado prático para devs e arquitetos de produtos financeiros: a humanidade residual no atendimento (ter uma pessoa real disponível quando o processo falha) ainda reduz fricção e legitima a operação perante o cliente, mesmo em uma era de agentes autônomos. Identidade, autorização explícita e rastreabilidade de decisões tomadas por agentes devem ser tratadas como requisitos de produto, não como detalhe de implementação — porque, na prática, é isso que vai determinar quem assume a conta quando algo sai errado.

Cobertura completaEmTech Brasil 2026Ver tempo real, programação e análises →

Mais desta cobertura