Anthropic publica relatório de riscos e detalha bloqueios de uso indevido
Anthropic afirmou ter identificado e bloqueado tentativas de uso do Claude que poderiam levar à criação de armas biológicas.
Anthropic afirmou ter identificado e bloqueado tentativas de uso do Claude que poderiam levar à criação de armas biológicas. A informação saiu no relatório de riscos publicado na quinta, dia 10. Além disso, o documento cobre os casos mais preocupantes registrados entre dezembro de 2025 e agosto de 2026.
A publicação chega em momento delicado. Dois dias antes, um desenvolvedor que deixou a empresa veio a público criticar o ritmo da corrida por superinteligência.
Anthropic classifica cinco situações como alto risco biológico
A empresa destacou cinco casos nessa categoria. No entanto, o principal envolve consultas sobre mutações do vírus Chikungunya, arbovirose comum em regiões tropicais e bastante presente no Brasil.
O relatório reconhece a ambiguidade. A pesquisa poderia mirar melhorias em vacinas e tratamentos. Ainda assim, o mesmo caminho abre precedente para ampliar os efeitos da doença.
Os outros exemplos seguem linha parecida. Eles envolvem adaptações de gripe aviária, potencialização de efeitos de venenos e modificação de toxinas.
Nomes e instituições foram preservados. Além disso, a empresa admite a dificuldade de julgar intenção. O critério adotado foi outro: essas interações driblaram os mecanismos de segurança do modelo.
Espionagem, alvos militares e mídia estatal aparecem no mesmo documento
O escopo do relatório vai além do risco biológico. Contudo, a empresa relata automações para escapar de sistemas de vigilância.
Há também identificação de alvos estratégicos para ataques aéreos. Em seguida, o texto cita modificação e republicação de conteúdos ligados a portais de mídia estatal.
A Anthropic indica ainda a origem institucional de algumas consultas. Universidades, grupos políticos e empresas de comunicação aparecem na lista. Todas se relacionam a rivais econômicos dos Estados Unidos, como China e Rússia.
Anthropic publica esses relatórios desde março de 2025
A prática já tem histórico. Os documentos saem desde março de 2025 e versões anteriores já apontavam movimentos suspeitos.
Ao anunciar os modelos Mythos e Fable 5, a empresa revelou o Project Glasswing. Trata se de um grupo de empresas parceiras e instituições governamentais dos Estados Unidos com acesso antecipado aos modelos. A justificativa foi construir defesas antes da liberação ampla, sobretudo em cibersegurança↳Segurança171 conteúdosCibersegurança no Brasil: 6 passos para sair da estagnaçãoDevSecOps · jul 2025O papel do CISO para transformar a cibersegurança em uma alavanca de reputação para as empresasDevSecOps · mar 2024Itaipu Parquetec e Exército Brasileiro realizam exercício de cibersegurança em BrasíliaDev (Back & Front) · set 2025Ver tudo em DevSecOps →.
Para times técnicos, essa transparência tem valor prático. Relatórios de mau uso funcionam como inteligência de ameaça aplicada a modelos.
O que extrair desse relatório para a sua própria aplicação
Comece pelo conceito de fuga de salvaguarda. Os casos citados passaram pelos filtros do modelo. Portanto, confiar apenas na camada do provedor deixa lacuna.
Monte uma camada própria de política. Defina categorias proibidas para o seu domínio e valide entrada e saída no seu backend↳Back-end49 conteúdosIntegração front-end com backend: 7 decisões que evitam caos entre APIs, BFF e GraphQLDev (Back & Front) · abr 2026Como criar uma FAKE API REST para testes — JSONPlaceholderDev (Back & Front) · set 2025Construindo um aplicativo de bate-papo de IA simples com Spring AI e AngularDev (Back & Front) · jul 2025Ver tudo em Dev (Back & Front) →.
Depois, registre o contexto completo. Guarde prompt, resposta, identificador de usuário e origem da chamada. Sem esse histórico, investigar um padrão suspeito vira tarefa impossível.
Olhe também para sequência, e não só para mensagem isolada. Muitas tentativas se dividem em várias consultas inofensivas. Assim, análise por sessão revela o que a análise por mensagem esconde.
Além disso, defina resposta a incidente. Estabeleça quem avalia um caso escalado e em quanto tempo.
Por fim, revise o acesso programático. Chaves de API dentro do seu produto herdam a sua responsabilidade sobre o uso.
O debate interno que cerca a publicação
Em 8 de setembro, Jacob Coxon publicou receios sobre a busca de superinteligência a qualquer custo. Outros especialistas reforçaram a mesma preocupação.
O argumento central trata de ritmo. Encontrar mecanismos efetivos de segurança para os modelos atuais já exige esforço enorme. Logo, acelerar o desenvolvimento tende a agravar o problema.
A empresa afirma que torna esses casos públicos para levar a discussão à indústria e aos governos.
O que acompanhar nos próximos meses
Fique atento aos próximos relatórios e à evolução das categorias de risco. Acompanhe também se outras desenvolvedoras adotam publicação semelhante.
Enquanto isso, trate salvaguarda como responsabilidade compartilhada. O provedor cuida do modelo, enquanto você cuida do que a sua aplicação permite.
Acompanhe nosso perfil no Instagram!
Matérias especiais e reportagens conduzidas internamente pela Redação iMasters. Acompanhe no Twitter @imasters e no Instagram/Threads @portalimasters
