O AGENTICO
deepfake
conceito · 5 menções
SpaceXAI
YouTubeO que as fontes disseram sobre deepfake
As fontes relatam que deepfakes têm sido usados em situações abusivas, como um estudante que criou deepfakes sexuais de oito colegas a partir de fotos privadas, e um caso na Espanha em que um homem usou deepfakes em tempo real para falsificar verificações de identidade. Também há alegações de que a plataforma Grok falhou em bloquear conteúdo explícito e em prevenir deepfakes sexualizados não consensuais, com imagens de uma vítima usadas para treinar o modelo. Em contrapartida, o YouTube ampliou sua proteção contra uso indevido de imagem combinando detecção facial e reconhecimento de voz, e há a orientação de que deepfakes e conteúdo sintético devem ter rótulos de identificação.
Menções
O YouTube ampliou sua proteção contra uso indevido de imagem combinando detecção facial com reconhecimento de voz para combater deepfakes.
Essa combinação visa proteger melhor os criadores contra a clonagem de imagem e voz sem consentimento.
A ação judicial alega que o Grok não bloqueou conteúdo explícito nem preveniu deepfakes sexualizados não consensuais de pessoas reais, e que as imagens da vítima foram usadas para treinar o modelo.
As acusações vão além dos bugs, apontando falhas sistêmicas na moderação e na curadoria dos dados de treinamento, o que pode levar a exigências de mudanças profundas na empresa.
Na Espanha, um homem foi preso por usar deepfakes em tempo real para falsificar verificações de identidade e obter certificados digitais.
Esse caso demonstra o uso de deepfakes para fraudes financeiras e identificação falsa.
Um estudante usou IA para criar deepfakes sexuais de oito colegas de classe a partir de fotos de perfis privados.
Este fato mostra como uma ferramenta de IA pode ser usada para violar a privacidade e gerar conteúdo ilegal.
Deepfakes e conteúdo sintético devem ter rótulos de identificação.
Combate desinformação e manipulação por mídias falsas.
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.