Enquanto discutimos a AGI, o risco real da IA já está operando
Tenho lido muito sobre os hipotéticos riscos futuros da IA↳Inteligência artificial440 conteúdosUX e IA: Transformando Experiências Digitais com Inteligência ArtificialProduto & UX · jan 2025MCP: O que é e por que você vai ouvir falar disso em breve?AI · jul 2025IA generativa e a urgência de reconstruir nossa relação com a verdadeAI · jun 2025Ver tudo em AI →, como o surgimento da: superinteligência, perda de controle, máquinas desenvolvendo objetivos próprios e até cenários de extinção humana. Não acredito nessas possibilidades.
Mas um relatório recente sobre uso malicioso de IA, publicado pela Anthropic, “Detecting and countering misuse of AI: September 2026”, me faz pensar em algo bem menos cinematográfico e, por isso, mais urgente.
Para mim o risco mais relevante no curto prazo não é a IA se voltar contra nós, mas pessoas usando IA para ampliar aquilo que já faziam antes. Os exemplos do relatório são bastante concretos.
Em um conjunto de ataques, criminosos usaram IA para acelerar invasões e roubo de dados. Em um dos casos, um único token comprometido teria levado ao controle administrativo de um ambiente de nuvem em aproximadamente três horas. Em outro, o comprometimento de um fornecedor SaaS permitiu alcançar dados de centenas de organizações clientes.
Há um exemplo ainda mais impressionante de escala: uma operação automatizada baixou e analisou 1,8 milhão de aplicativos Android↳Android46 conteúdosAndroid push notifications com Quasar Framework, Firebase e integração com WordPressDev (Back & Front) · mai 2019O X do Xamarin Forms – O guia das funcionalidades nativas - Parte 02: AndroidDev (Back & Front) · abr 2019Modularização de AndroidDev (Back & Front) · ago 2019Ver tudo em Dev (Back & Front) → em busca de credenciais e segredos expostos.
No campo da vigilância, um único consultor teria usado IA como principal força de engenharia para desenvolver uma plataforma nacional capaz de monitorar aproximadamente 25 milhões de SIM cards de todas as operadoras móveis de um país.
Outro grupo utilizou IA para analisar centenas de milhares de publicações em redes sociais e selecionar contas de opositores para monitoramento. Em outra operação, o modelo ajudou a classificar conteúdo por sensibilidade política e identificar possíveis alvos.
Há também operações de influência. A IA não era usada apenas para escrever posts. Produzia manuais de doutrina, dossiês sobre opositores, sistemas de personas, bancos de alvos e critérios para organizar a própria operação. Ou seja, começava a funcionar como parte da infraestrutura organizacional da campanha.
O relatório chega também à área militar. Em diferentes casos, IA teria sido utilizada para auxiliar no desenvolvimento de software relacionado a foguetes guiados, enxames de drones e sistemas de targeting.
E há casos ainda mais delicados em biologia. Pesquisadores utilizaram modelos em trabalhos envolvendo adaptação viral, evasão imunológica, toxinas e outras pesquisas de uso dual. O próprio relatório é cuidadoso aqui: não afirma que esses pesquisadores necessariamente pretendiam desenvolver armas biológicas.
O padrão que atravessa esses exemplos me parece mais importante que qualquer caso isolado. A IA não precisa inventar uma nova forma de ataque. Basta reduzir o número de pessoas, o conhecimento especializado ou o tempo necessários para executar atividades que já existiam.
Isso não significa que qualquer pessoa com um chatbot se transforme em hacker, espião ou engenheiro militar. Seria uma conclusão que o próprio relatório não permite. Também não significa que capacidade seja sinônimo de impacto. Algumas operações de influência produziram conteúdo em escala e tiveram pouco ou nenhum engajamento autêntico.
Existe uma ressalva importante. O relatório foi produzido pela própria fornecedora dos modelos, com acesso privilegiado ao que acontece em sua plataforma, mas utilizando seus próprios critérios de detecção e seleção. Os casos foram escolhidos justamente por serem particularmente relevantes ou novos. Não constituem uma amostra estatística do uso de IA.
Mesmo com essas ressalvas, considero o relatório importante para as empresas. Estamos fazendo exatamente aquilo que aumenta o poder operacional desses sistemas: conectando modelos a dados, APIs, ferramentas, credenciais e sistemas corporativos.
É aí que o risco muda de natureza. Governança deixa de ser apenas política de uso e passa a fazer parte da arquitetura. Cada agente precisa de identidade própria, privilégio mínimo e limites explícitos de autonomia. Ações críticas podem exigir segregação de funções ou aprovação humana.
Tudo o que o agente acessa e executa precisa ser rastreável. Comportamentos anômalos devem gerar alertas. Operações críticas precisam ser reversíveis quando possível. E deve existir um mecanismo para restringir ou interromper rapidamente sua atuação.
Um chatbot que responde errado é um problema. Um agente que responde errado, possui credenciais e pode agir é um incidente em potencial. Para CEO, CIO, CISO e conselho, a discussão torna-se muito concreta: quem pode instruir o agente, a quais dados ele tem acesso, quais sistemas pode acionar, o que está autorizado a executar e quem consegue pará-lo.
Ficamos olhando e discutindo demais para uma hipotética futura IA que decidirá agir contra nós e de menos para o que já está acontecendo: humanos continuam definindo os objetivos. A IA está ampliando sua capacidade de executá-los.
Não precisamos esperar pela AGI. O risco já mudou de natureza. A governança também precisa mudar.
O link para o relatório:https://www.anthropic.com/threat-intelligence-report-september-2026
É CEO da Litteris Consulting. Profissional e estudioso de Tecnologia da Informação desde fins da década de 70, com educação formal diversificada, em Economia, mestrado em Ciência da Computação e MBA em Marketing de Serviços, e experiência profissional moldada pela passagem em empresas de porte mundial. Escreve constantemente sobre tecnologia da informação em publicações especializadas como CIO Magazine, Mundo Java, além do iMasters, e apresenta palestras em eventos e conferências de renome. É autor de sete livros que abordam assuntos como Software Livre, Grid Computing, Software Embarcado, Cloud Computing e Big data.
