Anthropic adiciona marca d'água invisível ao Claude para cumprir lei da UE

Resumo

• A Anthropic está adicionando marca d'água nos textos gerados por seus modelos, incluindo Claude, para cumprir regulamentações europeias.

  Essa é a principal motivação da medida: atender à exigência do AI Act da UE, que desde 2 de agosto obriga a identificação de conteúdo sintético.

• A marca d'água será aplicada globalmente, não apenas na União Europeia, e será imperceptível aos leitores, mas legível por máquinas.

  A medida tem alcance mundial, o que amplia o impacto sobre usuários de todos os países, não só os europeus.

• A técnica usada pela Anthropic é uma variante do método SynthID-Text, publicado pelo Google DeepMind em 2024.

  A escolha por uma técnica conhecida da indústria pode facilitar a interoperabilidade e a aceitação do método.

• A marca d'água é menos confiável em textos curtos, trechos com muitos fatos e código, e pode ser removida por reescrita pesada.

  Isso significa que nem todo texto gerado terá a marca de forma robusta, o que limita a eficácia da detecção em certos contextos.

• A Anthropic anunciou uma API de detecção de marca d'água para que terceiros possam integrar a verificação de texto do Claude em seus aplicativos.

  Isso permitirá que plataformas e empresas identifiquem conteúdo gerado pelo Claude de forma automatizada, aumentando a transparência.

• Usuários do Claude reagiram negativamente à marca d'água, com relatos de cancelamento de assinaturas e críticas nas redes sociais.

  A insatisfação demonstra o receio de que a marca exponha o uso da IA em situações como trabalho e estudo, levantando debates sobre privacidade e autonomia.

Dados

Ano de publicação do método SynthID-Text

2024