Anthropic reduz em até 99% dados extraídos de Claude por ataques de destilação

Resumo

• A Anthropic afirma que novos métodos reduziram em cerca de 90% a 99% a quantidade de dados extraídos de Claude em ataques de destilação.

  A redução limita a capacidade de terceiros de copiar as capacidades do modelo para treinar sistemas próprios.

• A Anthropic afirma que empresas usam redes de contas fraudulentas para extrair capacidades de modelos e reproduzi-las em outros sistemas sem autorização.

  A prática permite que empresas copiem capacidades de modelos avançados sem arcar com o mesmo tempo e custo de desenvolvimento.

• A Anthropic atribui a Zhipu a extração de capacidades cibernéticas de modelos dos Estados Unidos durante o desenvolvimento do GLM-5.3.

  O caso é apresentado como exemplo de uso de destilação para incorporar capacidades de modelos de terceiros em outro produto.

• A Anthropic restringe o acesso às etapas internas de raciocínio de Claude, usa um classificador para detectar tentativas de extração e bane automaticamente contas sinalizadas.

  As medidas procuram dificultar a coleta de dados do modelo, embora a cobertura informe que usuários legítimos também podem ser afetados.

• A Anthropic afirma que dezenas de milhares de contas já foram banidas, e que usuários legítimos também acabam sendo afetados pelas medidas.

  Os bloqueios podem atingir tanto contas suspeitas quanto pessoas que usam os modelos legitimamente.

Dados

Redução mínima dos dados extraídos

cerca de 90%

Redução máxima dos dados extraídos

99%

Contas banidas

dezenas de milhares de contas

Citações

• “Early evidence suggests that these methods have reduced the amount of data harvested by distillers by around 90 to 99%.”

  A redução limita a capacidade de terceiros de copiar as capacidades do modelo para treinar sistemas próprios.

  — Anthropic, empresa de inteligência artificial · ver em Anthropic (News, via sitemap) ↗

• “Distillation attacks are covert, industrial-scale campaigns to extract the capabilities of one model and replicate them in another, without the authorization of the original model’s developers.”

  A prática permite que empresas copiem capacidades de modelos avançados sem arcar com o mesmo tempo e custo de desenvolvimento.

  — Anthropic, empresa de inteligência artificial · ver em Anthropic (News, via sitemap) ↗

• “Zhipu, for example, distilled the cyber capabilities of leading US models during the development of GLM-5.3.”

  O caso é apresentado como exemplo de uso de destilação para incorporar capacidades de modelos de terceiros em outro produto.

  — Anthropic, empresa de inteligência artificial · ver em Anthropic (News, via sitemap) ↗