Anthropic inclui crueldade contra o modelo na lista de usos proibidos

Anthropic inclui crueldade contra o modelo na lista de usos proibidos

Anthropic atualizou a política de uso do Claude com uma cláusula pouco comum no setor. O documento, disponível também em português, proíbe comportamento abusivo ou cruel continuado e desnecessário em relação aos modelos. A mudança foi noticiada em 12 de outubro.

A empresa delimitou bem o escopo. Segundo o texto, a regra vale apenas em casos extremos.

No entanto, o alvo são usuários que agem repetidamente de forma cruel e sem qualquer propósito discernível.

O que fica de fora dessa regra

Essa parte importa para quem testa modelos. A política evita alcançar situações comuns de frustração ou contestação do usuário.

Temas criativos sombrios também ficam fora. Além disso, atividades de pesquisa e teste dos modelos seguem permitidas.

Portanto, red team e avaliação adversarial continuam viáveis. Repare que o critério gira em torno de repetição e ausência de propósito.

Até agora, linguagem muito ofensiva já podia encerrar a conversa de imediato. Contudo, com as novas diretrizes, porém, falta clareza sobre medidas mais duras contra esses usuários.

Anthropic evitou explicar o motivo da mudança

A companhia deixou a justificativa de fora. Usuários no Reddit, contudo, levantaram duas hipóteses.

A primeira trata de hábito social. Além disso, a preocupação seria evitar que linguagem abusiva se naturalize no chat e depois apareça em outros ambientes.

A segunda hipótese interessa mais a quem desenvolve. O modelo absorve vocabulário e forma de tratamento a partir das ordens que recebe.

Consequentemente, interações cruéis poderiam alimentar treinamento e afetar o comportamento com o público.

As outras proibições que entraram no mesmo texto

A atualização trouxe uma lista bem mais ampla. No entanto, essa revisão de diretrizes acontece raramente.

Entre os novos itens aparece a prática de bullying contra outras pessoas. Também entram promoção de automutilação e criação de imagens íntimas não consensuais.

A lista segue com interferência em processos eleitorais e engano de cidadãos no momento do voto. Por fim, entram desenvolvimento de armas e atuação em vigilância.

Esses pontos provavelmente se conectam a um relatório recente da empresa. Nele, foram detectadas tentativas de uso do Claude para pesquisar armas biológicas e cometer cibercrimes.

O que isso significa na prática para quem constrói produto

Primeiro, revise seus prompts de sistema. Personas que simulam hostilidade contínua merecem uma segunda leitura à luz do novo texto.

Segundo, documente o propósito dos seus testes. Avaliação adversarial com objetivo claro segue dentro das regras.

Terceiro, pense no conteúdo que seus usuários enviam. Aplicação que repassa mensagens direto ao modelo herda a responsabilidade por esse tráfego.

Além disso, acompanhe a lista completa de proibições. Vigilância e desenvolvimento de armas entraram de forma explícita, o que afeta certos setores.

Por fim, mantenha filtros próprios. Camada de política no seu backend↳Back-end49 conteúdosIntegração front-end com backend: 7 decisões que evitam caos entre APIs, BFF e GraphQLDev (Back & Front) · abr 2026Como criar uma FAKE API REST para testes — JSONPlaceholderDev (Back & Front) · set 2025Construindo um aplicativo de bate-papo de IA simples com Spring AI e AngularDev (Back & Front) · jul 2025Ver tudo em Dev (Back & Front) → protege a conta antes de qualquer sanção do provedor.

Acompanhe nosso perfil no Instagram!