Anthropic bloqueia uso do Claude em pesquisa que poderia virar arma biológica

A Anthropic publicou nesta semana seu terceiro relatório sobre uso indevido de IA↳Inteligência artificial440 conteúdosUX e IA: Transformando Experiências Digitais com Inteligência ArtificialProduto & UX · jan 2025MCP: O que é e por que você vai ouvir falar disso em breve?AI · jul 2025IA generativa e a urgência de reconstruir nossa relação com a verdadeAI · jun 2025Ver tudo em AI → desde março de 2025, e o caso que mais chamou atenção envolve pesquisa que poderia levar a armas biológicas. Segundo a reportagem da AP publicada pelo ET Tech, a empresa afirma ter bloqueado tentativas de usar seus modelos Claude para ataques cibernéticos, vigilância e pesquisa biológica de uso dual.

O ponto que interessa a quem constrói software não é o alarme sobre superinteligência que a imprensa costuma destacar, e sim o mecanismo: o que uma fabricante de modelo faz, na prática, quando detecta que alguém está tentando usar sua API para algo perigoso, e como isso se traduz em regras que afetam qualquer chamada legítima de quem trabalha com esses models.

O caso concreto: o pedido bloqueado

Entre dezembro de 2025 e agosto de 2026, pesquisadores da Anthropic identificaram usos indevidos que vão de fornecedores de spyware e "indivíduos politicamente motivados" a grupos patrocinados por Estados espalhando propaganda. O exemplo mais específico do relatório é o bloqueio de um pedido para que o Claude ajudasse a redigir uma proposta de financiamento científico.

O trabalho descrito na proposta envolvia pesquisa de ganho de função (isto é, pesquisa que altera geneticamente um organismo para criar uma propriedade biológica nova ou aprimorada) sobre o vírus chikungunya. Essa pesquisa de ganho de função visava a transmissibilidade e as propriedades de evasão imunológica do vírus.

Relatório de uso indevido da Anthropic

O chikungunya é um vírus transmitido por mosquitos que causa dor intensa e febre, um problema conhecido no Brasil. A própria Anthropic reconhece a ambiguidade: esse tipo de pesquisa "certamente" pode ser usado para desenvolver vacinas e tratamentos melhores, mas "também pode ser usado para tornar o patógeno mais perigoso". É exatamente essa a definição de uso dual, e é o que torna a decisão de bloquear difícil de automatizar.

Por que os models antigos passavam e os novos não

O detalhe técnico mais relevante do relatório é a mudança de régua conforme os modelos ganham capacidade. A Anthropic diz que seus modelos mais antigos, como o Claude Opus 4 e o Claude Sonnet 4.5 de 2025, estavam "bem abaixo do limiar em que poderiam ajudar de forma significativa um usuário sofisticado a realizar pesquisa biológica perigosa".

Naquele momento, as salvaguardas eram menos rígidas, voltadas sobretudo a impedir que novatos recriassem armas biológicas já conhecidas. Com os modelos atuais, capazes de auxiliar em uma gama de tarefas científicas complexas, a empresa afirma que "a evidência já não é certa" e que não dá mais para oferecer a mesma garantia.

A consequência prática: nos modelos mais recentes, como o Claude Fable 5, a Anthropic aplicou "salvaguardas mais fortes que restringem o acesso a uma ampla gama de consultas de pesquisa biológica de uso dual". Nenhum dos casos do relatório usava os modelos novos e mais potentes (Fable e Mythos), com uma exceção: uma campanha "em escala industrial" para extrair e replicar as capacidades de um modelo sem autorização, um caso de destilação ilícita.

O que isso muda para o dev que trabalha com models

Se você integra a API do Claude, ou de qualquer provedor grande, esse relatório é o retrato do processo que decide o que sua aplicação consegue ou não fazer. Alguns pontos concretos para levar em conta:

• Salvaguardas são versionadas junto com o modelo. Trocar de um modelo antigo para um mais novo pode mudar o comportamento de recusa em domínios sensíveis, mesmo que seu prompt seja o mesmo. Quem tem aplicação em áreas como biotecnologia, saúde, química ou segurança precisa testar recusas ao subir de versão, não só qualidade de resposta.
• Uso dual não é só "pedido malicioso". O caso da proposta de financiamento mostra que a fronteira é borrada: um prompt legítimo de um pesquisador acadêmico pode cair na mesma faixa de bloqueio de um ator mal-intencionado. Aplicações científicas legítimas podem esbarrar em falsos positivos.
• O provedor monitora e reporta. A Anthropic diz ter compartilhado informações com autoridades governamentais e parceiros de indústria. Para quem manda dados sensíveis via API, vale entender a política de retenção e monitoramento de cada fornecedor.
• Detecção antes da publicação. A empresa aponta uma vantagem de estar na camada de geração: sobre operações de influência, afirma que "podemos vê-la no Claude enquanto a operação ainda está sendo montada", antes de qualquer post circular. Foram nove casos descritos, com origem em Rússia, Irã, Turquia e regiões do Golfo Pérsico, Sul da Ásia, África e Europa.

O debate de fundo: quem define o que é seguro

A Anthropic é explícita ao dizer que não pode afirmar que seus modelos não causam dano. A empresa enquadra a publicação como responsabilidade de divulgação: "À medida que os modelos se tornam mais capazes, seus riscos aumentam, a menos que os desenvolvedores de IA e os defensores da sociedade ajam para torná-los mais seguros."

Mas o relatório escancara uma questão de governança que não tem resposta técnica. John Thickstun, professor assistente de ciência da computação em Cornell citado pela AP, resume o incômodo: é uma posição desconfortável para empresas como Anthropic e OpenAI serem as que determinam o que é comportamento seguro e inseguro, fazendo "julgamentos de valor em escala social sem nenhum tipo de supervisão democrática ou deliberativa".

O contexto reforça o clima: o relatório saiu dois dias depois de um pesquisador da Anthropic, Jacob Coxon, anunciar sua saída alegando que a empresa e a rival OpenAI "estão correndo direto para a superinteligência autoaperfeiçoável e apostando com nossas vidas". A Anthropic, que planeja abrir capital neste outono, respondeu que bloqueou cada atividade maliciosa identificada e usou a experiência para reforçar salvaguardas.

O que fica em aberto

Para o desenvolvedor brasileiro, o recado prático é que a camada de segurança dos models não é estática nem transparente: ela é definida por cada fabricante, muda a cada versão e vai apertar em domínios sensíveis. Ainda não há um padrão de indústria nem regulação que diga quando um bloqueio é legítimo e quando é excessivo, o que deixa aplicações legítimas em áreas científicas na mão da política interna de cada provedor.

A Anthropic diz esperar que o relatório ajude outros desenvolvedores a reconhecer padrões semelhantes em suas plataformas. O documento traz trechos de código malicioso e prompts encontrados, e o convite é para que concorrentes e governos façam o mesmo tipo de detecção. Quem constrói em cima dessas APIs faz bem em ler os relatórios de uso indevido dos provedores como parte da documentação técnica, e não como material de relações públicas.

Fonte: ET Tech (Índia)