Sobrevivente processa xAI por Grok gerar pornografia infantil com suas fotos

Uma sobrevivente de abuso sexual infantil, identificada como Jane Doe, processou a xAI por usar imagens de seu abuso para gerar novas imagens pornográficas ilegais com o chatbot Grok.

Este é o primeiro caso a acusar a empresa de treinar seus modelos em CSAM e usar o material para gerar novas imagens, ampliando o escopo das ações judiciais contra a companhia.

A ação alega que a xAI ignorou métodos padrão da indústria de proteção contra material de abuso sexual, resultando em CSAM gerado por IA aparecendo e se espalhando na plataforma X.

A acusação de negligência na implementação de salvaguardas é central para responsabilizar a empresa por danos causados pela disseminação de conteúdo ilegal.

Este processo se diferencia de outras ações judiciais contra a xAI por acusar a empresa de usar CSAM pré-existente para produzir e distribuir imagens geradas por IA de abuso sexual infantil.

Diferente dos casos anteriores, que focavam na falta de salvaguardas, este é o primeiro a alegar que o modelo foi treinado com material de abuso e o utiliza para gerar novas imagens.

O processo menciona que a xAI processou dois de seus próprios usuários em agosto por criarem CSAM com o Grok e que a empresa afirmou ter ajudado a prender pelo menos 244 indivíduos que criaram ou distribuíram CSAM através da ferramenta.

A revelação mostra uma contradição: a empresa, ao mesmo tempo que enfrenta acusações de treinamento com CSAM, também tomou ações legais contra usuários por usarem sua ferramenta para produzir tal conteúdo.

Elon Musk negou em janeiro ter conhecimento de que o Grok produzia 'quaisquer imagens nuas de menores', apesar da ação judicial e das denúncias.

A negativa de Musk contrasta com as alegações do processo e com as medidas legais tomadas pela própria empresa, evidenciando a controvérsia sobre o conhecimento interno do problema.