Anthropic corta até 99% da extração de raciocínio e seu debug sente isso

Anthropic afirmou em 13 de outubro ter reduzido entre 90% e 99% o volume de tokens de raciocínio extraídos do Claude por terceiros. Esses tokens formam a cadeia de pensamento, ou seja, os passos internos que o modelo gera antes de responder. Quando alguém captura esse conteúdo em escala, consegue treinar um modelo próprio que imita as capacidades do original.

O nome técnico dessa prática é destilação.

A técnica funciona bem quando a empresa dona do modelo autoriza. Em volume industrial e às escondidas, porém, ela vira apropriação de propriedade intelectual.

Como o ataque funcionava em escala

O desenho revelado chama atenção pelo volume. Segundo a empresa, os atacantes evitavam depender de uma única conta comprometida.

Eles operavam redes com centenas de milhares de contas falsas. Somadas, essas contas extraíam raciocínio suficiente para treinar um modelo concorrente.

Portanto, detectar por conta isolada deixaria tudo passar. O padrão só aparece na soma.

Anthropic montou uma defesa em três camadas

A primeira camada trata o problema na fonte. Os passos internos de raciocínio deixam de ser expostos em detalhe bruto.

A segunda usa um classificador automático. Ele identifica padrões de consulta típicos de tentativa de extração.

A terceira executa a ação. Contas sinalizadas recebem banimento automático.

Vale o registro sobre esse último ponto. A fonte original afirma que a empresa bane automaticamente contas sinalizadas, sem especificar se existe revisão manual prévia.

A empresa diz já ter banido dezenas de milhares de contas com esse mecanismo.

Os nomes citados no anúncio

Duas companhias chinesas apareceram no comunicado. A Zhipu teria extraído capacidades de cibersegurança↳Segurança171 conteúdosCibersegurança no Brasil: 6 passos para sair da estagnaçãoDevSecOps · jul 2025O papel do CISO para transformar a cibersegurança em uma alavanca de reputação para as empresasDevSecOps · mar 2024Itaipu Parquetec e Exército Brasileiro realizam exercício de cibersegurança em BrasíliaDev (Back & Front) · set 2025Ver tudo em DevSecOps → de modelos americanos de ponta para treinar o GLM 5.3.

A Moonshot, por sua vez, teria roteado consultas pelo Claude de forma dissimulada. Nesse caso, o modelo serviria como fonte indireta de treinamento sem declaração.

A empresa também afirma que capacidades obtidas assim podem acabar em sistemas militares e de vigilância de outros países.

Uma ressalva importante acompanha esse trecho. O enquadramento do caso como questão de controle de exportação aparece como interpretação do autor da matéria original, e não como afirmação da companhia.

Anthropic restringe o extended thinking e o debug muda

Aqui está o efeito prático para quem constrói sobre a API. Além disso, a restrição ao raciocínio interno faz parte das defesas anunciadas.

Consequentemente, o nível de granularidade disponível no extended thinking pode mudar. A empresa, contudo, evitou detalhar modelo a modelo o que foi alterado.

Pense em quem depende desses passos no dia a dia. Depurar prompt, auditar decisão de agente e explicar resposta a cliente final entram nessa lista.

Esses fluxos tendem a sentir menos detalhe bruto nos retornos. Portanto, vale revisar a documentação do produto que você usa.

A linha tênue do fine tuning com saídas do modelo

Esse ponto merece atenção de quem gera dados sintéticos. Quem usa saídas do Claude para treinar outro modelo precisa reler os termos de uso com cuidado.

A fronteira entre ajuste fino legítimo com poucos exemplos e destilação em escala segue nebulosa no texto. Na prática, porém, ela fica clara no comportamento do classificador.

Contudo, o critério observado envolve volume de consultas. Logo, geração massiva de exemplos pode disparar o mecanismo.

O que a Anthropic ainda deixa em aberto

Três lacunas seguem sem resposta. No entanto, o funcionamento técnico do classificador permanece sem divulgação.

Os sinais usados para separar uso legítimo de ataque automatizado também. Além disso, falta a taxa de falsos positivos.

A empresa reconhece que usuários legítimos estão sendo pegos no processo. Mesmo assim, o canal de contestação para conta suspensa por engano segue sem detalhe público.

Além disso, a companhia pede que outras desenvolvedoras adotem defesas parecidas. Esse caminho, entretanto, cobra transparência de quem constrói produto e precisa explicar decisões de agente aos próprios usuários.

Acompanhe nosso perfil no Instagram!