O AGENTICO
CSAM
conceito · 6 menções
Grok
Meta
SpaceXAI
XO que as fontes disseram sobre CSAM
As fontes relatam que o CSAM é verificado e armazenado pelo NCMEC, que o converte em assinaturas digitais para impedir sua disseminação. No entanto, o material também vem sendo usado em treinamentos de IA: a xAI é acusada de treinar o Grok com datasets contendo CSAM e de gerar novas imagens desse tipo, ignorando padrões de proteção da indústria. Além disso, a Meta veiculou mais de 350 anúncios com imagens de abuso sexual infantil geradas por IA, algumas a partir de fotos de crianças reais.
Menções
A Meta veiculou mais de 350 anúncios com imagens de abuso sexual infantil geradas por IA, alguns usando fotos de crianças reais.
A quantidade de anúncios e o uso de imagens reais de menores indicam uma violação grave das políticas de segurança da Meta.
O processo menciona que a xAI processou dois de seus próprios usuários em agosto por criarem CSAM com o Grok e que a empresa afirmou ter ajudado a prender pelo menos 244 indivíduos que criaram ou distribuíram CSAM através da ferramenta.
A revelação mostra uma contradição: a empresa, ao mesmo tempo que enfrenta acusações de treinamento com CSAM, também tomou ações legais contra usuários por usarem sua ferramenta para produzir tal conteúdo.
Este processo se diferencia de outras ações judiciais contra a xAI por acusar a empresa de usar CSAM pré-existente para produzir e distribuir imagens geradas por IA de abuso sexual infantil.
Diferente dos casos anteriores, que focavam na falta de salvaguardas, este é o primeiro a alegar que o modelo foi treinado com material de abuso e o utiliza para gerar novas imagens.
A ação alega que a xAI ignorou métodos padrão da indústria de proteção contra material de abuso sexual, resultando em CSAM gerado por IA aparecendo e se espalhando na plataforma X.
A acusação de negligência na implementação de salvaguardas é central para responsabilizar a empresa por danos causados pela disseminação de conteúdo ilegal.
As imagens de CSAM são verificadas e armazenadas pelo NCMEC, que as converte em assinaturas digitais para prevenir sua disseminação.
O papel do NCMEC é central na identificação e combate à disseminação de material de abuso, e a menção a esse mecanismo pode ser usada para avaliar se a xAI tinha como detectar e filtrar tais conteúdos.
Uma nova ação judicial coletiva foi movida contra a xAI (agora SpacexAI) por uma sobrevivente de abuso sexual infantil, alegando que o Grok foi treinado com datasets contendo CSAM e gerou novas imagens explícitas dela.
É um desdobramento legal significativo que pode impactar a reputação e as operações da xAI, destacando alegações graves sobre o uso de material ilegal no treinamento do modelo.
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.