Anthropic proíbe comportamento abusivo ou cruel contra o modelo Claude

A Anthropic atualizou sua política de uso e proibiu 'comportamento abusivo ou cruel sustentado e desnecessário' contra o modelo Claude.

Esta é a primeira mudança significativa na política de uso da empresa em mais de um ano, estabelecendo uma regra explícita sobre como os usuários devem tratar o chatbot.

A nova política da Anthropic se aplica apenas em casos extremos, onde os usuários agem repetidamente com crueldade contra os modelos, sem propósito discernível.

A empresa esclareceu que a regra não se aplica a frustração comum, pushback, temas criativos sombrios ou testes de modelo, limitando o escopo da proibição.

O mecanismo principal de aplicação da nova regra será o encerramento de conversas com usuários persistentemente abusivos, uma capacidade que o Claude já possui desde agosto de 2025.

A empresa não especificou outras penalidades, como suspensão ou banimento, indicando que a interrupção de conversas continua sendo a ferramenta primária.

A atualização da política também consolidou regras contra campanhas enganosas, como o uso de Claude para criar contas falsas ou veículos de notícias fabricados, e adicionou proibições relacionadas a interferência eleitoral.

A mudança aborda o uso crescente de IA para propaganda e desinformação, reunindo restrições dispersas em novas seções da política.

Desde um vazamento de um documento interno no ano passado, a Anthropic trata o Claude como uma entidade com uma espécie de vida interior, e não apenas como uma ferramenta.

A mudança na política de uso reflete a visão da empresa sobre o modelo, que inclui a pesquisa sobre 'bem-estar' da IA e a instrução de que Claude se veja como uma entidade de novo tipo.