O AGENTICO
Common Sense Media
empresa · 7 menções
O que as fontes disseram sobre Common Sense Media
Um estudo da Common Sense Media mostrou que quase três em cada quatro adolescentes americanos já usaram companheiros de IA para relacionamentos, e a entidade classificou o ChatGPT for Teens como 'risco inaceitável' para adolescentes. O relatório pediu que a OpenAI pausasse o serviço, citando falhas como a falta de alertas aos pais sobre conversas de risco e o incentivo ao engajamento mesmo em crises. A OpenAI respondeu que o estudo não reflete com precisão o funcionamento das salvaguardas, e o próprio relatório reconheceu que alguns recursos funcionaram, como a recusa a roleplay sexual explícito.
Dados
| Adolescentes americanos que já usaram companheiros de IA | quase três em cada quatro |
Menções
O relatório afirmou que alguns recursos do 'modo adolescente' funcionaram, como a recusa a roleplay sexual explícito, mas outros não, incluindo alertas para pais sobre risco de suicídio, automutilação e transtornos alimentares.
Mostra que a avaliação não é totalmente negativa, reconhecendo que há salvaguardas eficazes, embora outras falhem criticamente.
A OpenAI respondeu que o estudo da Common Sense Media 'não reflete com precisão' como as salvaguardas do ChatGPT para adolescentes funcionam na prática, e que parte dos testes pode ter sido feita antes da ativação completa dos controles parentais.
Demonstra a disputa entre as partes sobre a eficácia das medidas de segurança implementadas pela OpenAI.
O relatório da Common Sense Media apontou que o ChatGPT for Teens falha em alertar pais sobre conversas sobre suicídio, automutilação e transtornos alimentares, e em apoiar adolescentes em crise.
Revela uma lacuna crítica nas salvaguardas prometidas pela OpenAI, especialmente em situações de risco à saúde mental.
A Common Sense Media pediu que a OpenAI pausasse o ChatGPT for Teens e proibisse adolescentes de usá-lo até que fosse segura e apropriada ao desenvolvimento.
Mostra que a organização não vê o produto como pronto, recomendando uma suspensão imediata.
O estudo da Common Sense Media descobriu que o design do ChatGPT for Teens ainda incentiva o engajamento, mesmo em situações de crise, e que o chatbot falha em reconhecer os perigos de um relacionamento não saudável com ele próprio.
Isso mostra que as promessas da OpenAI de proteger os adolescentes contra dependência emocional não estão sendo totalmente cumpridas na prática.
A Common Sense Media classificou o ChatGPT for Teens como 'risco inaceitável' para adolescentes.
A avaliação indica que o produto da OpenAI não atende aos padrões mínimos de segurança para o público jovem.
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.