Seu agente não é tão autônomo quanto parece

Quanto mais trabalho com projetos de IA↳Inteligência artificial440 conteúdosUX e IA: Transformando Experiências Digitais com Inteligência ArtificialProduto & UX · jan 2025MCP: O que é e por que você vai ouvir falar disso em breve?AI · jul 2025IA generativa e a urgência de reconstruir nossa relação com a verdadeAI · jun 2025Ver tudo em AI → e discuto agentes com empresas, mais questiono uma simplificação que começa a ganhar espaço: atribuir ao modelo toda a autonomia que vemos em um sistema agêntico.

O agente não é o LLM. E confundir os dois pode levar a decisões ruins de arquitetura, segurança e governança.

Quando vejo uma demonstração impressionante de um “agente autônomo”, minha atenção hoje vai menos para o modelo isoladamente e mais para tudo aquilo que permite que ele opere ao longo do tempo.

Memória persistente, gerenciamento de estado, retrieval, ferramentas, identidade, permissões, políticas, observabilidade↳Observabilidade11 conteúdosObservabilidade para APIs: os desafios e benefícios dessa abordagemDev (Back & Front) · jan 2025Falhas em Observabilidade afetam os Apps e a Segurança das OrganizaçõesDev (Back & Front) · nov 2023ADK Java 1.0: O Google quer que você pare de gambiarra Python no seu backendMarketing Tech · abr 2026Ver tudo em DevSecOps →, verificações e mecanismos de interrupção fazem parte da arquitetura do sistema. O modelo tem um papel central. Ele pode interpretar o contexto, propor planos, selecionar ferramentas e influenciar dinamicamente os próximos passos. É justamente isso que diferencia muitos agentes de workflows rigidamente predefinidos.

Mas isso não significa que toda a agência esteja dentro do modelo. Em uma arquitetura típica, alguma infraestrutura mantém ou recupera estado, fornece contexto, disponibiliza ferramentas, executa ações, devolve seus resultados ao modelo e decide quando o ciclo deve continuar, ser interrompido ou exigir aprovação.

Quando adicionamos memória persistente, portanto, não significa necessariamente que alteramos os pesos do modelo ou que ele “aprendeu a lembrar” como uma pessoa. Frequentemente criamos mecanismos externos para armazenar, selecionar, resumir e reinserir informações no contexto.

Quando conectamos ferramentas, ampliamos enormemente o que o sistema pode fazer. Mas a ação concreta continua dependendo de software, APIs, credenciais, permissões e ambientes de execução.

E um loop agêntico não deveria ser confundido automaticamente com uma espécie de reflexão mental persistente. Temos sucessivas inferências, ações e observações coordenadas por uma arquitetura.

É exatamente aí que encontro o paradoxo interessante de quanto mais autonomia operacional concedemos a um agente, mais engenharia de controle precisamos construir ao redor dessa autonomia.

Adicionamos retrieval para buscar informação. Memória para preservar contexto relevante. Verificadores porque saídas podem estar erradas. Guardrails porque determinadas ações não devem ocorrer. Checkpoints e aprovações porque alguns erros têm consequências maiores. Observabilidade para reconstruir o que aconteceu. Limites de execução e mecanismos de interrupção porque loops precisam terminar.

Não estamos eliminando engenharia ao criar agentes. Estamos criando uma nova camada de engenharia para tornar sistemas probabilísticos capazes de agir de maneira administrável.

Por isso, nos projetos dos quais participo, tenho insistido em não governar apenas o modelo. Precisamos governar o sistema inteiro. Modelo, instruções, contexto, memória, dados, ferramentas, identidade, credenciais, permissões, orquestração, verificadores, políticas e limites de execução fazem parte da superfície de risco.

É nessa cadeia que uma saída probabilística pode se transformar em uma ação com consequências reais.

Também procuro evitar antropomorfização excessiva. Dizer que o agente “lembrou”, “decidiu”, “percebeu” ou “quis continuar” pode ser um atalho linguístico conveniente. O problema começa quando o atalho passa a substituir a explicação da arquitetura.

Minha percepção é que estamos reencontrando, com componentes muito mais poderosos, uma ideia antiga da computação e da própria IA: capacidades sofisticadas podem emergir da composição de componentes especializados, e não necessariamente de uma inteligência monolítica.

O LLM é extraordinariamente importante. Mas não é o sistema inteiro. Por isso, diante de um “agente autônomo”, quero entender muito mais do que o modelo usado.

Quero saber quem mantém o estado, quais ferramentas podem ser acionadas, com quais credenciais, quem concede as permissões, o que é verificado antes de uma ação, onde existem aprovações, como reconstruímos uma execução e quem pode interrompê-la.

Para mim fica claro que quanto mais autônomo um agente parece na superfície, mais engenharia de controle pode ser necessária por baixo dela. E a maturidade em IA começa justamente quando deixamos de perguntar apenas “qual modelo vocês estão usando?” e começamos a examinar o sistema que transforma inferências probabilísticas em ações no mundo real.