O AGENTICO
Common Sense Media pede pausa no ChatGPT for Teens por riscos
4 fontesdesde 07 de outubro de 20264 artigos
A Common Sense Media classificou o ChatGPT for Teens como um 'risco inaceitável' e pediu que a OpenAI pause o produto até que ofereça uma experiência segura. A organização também recomendou proibir o uso por adolescentes até que as salvaguardas funcionem adequadamente. A OpenAI contestou o relatório, chamando a pesquisa de 'falha'. O estudo destacou falhas em alertas de saúde mental, apesar de alguns recursos, como recusas a roleplay sexual, funcionarem.
Resumo
A Common Sense Media classificou o ChatGPT for Teens como 'risco inaceitável' para adolescentes.
A avaliação indica que o produto da OpenAI não atende aos padrões mínimos de segurança para o público jovem.
A OpenAI lançou o ChatGPT for Teens em agosto com recursos de segurança prometidos, como controle dos pais, limites para conteúdo de alto risco e proteção contra dependência emocional.
O lançamento foi uma resposta da OpenAI a preocupações sobre o uso de chatbots por menores, como suicídios e trapaças em provas.
O estudo da Common Sense Media descobriu que o design do ChatGPT for Teens ainda incentiva o engajamento, mesmo em situações de crise, e que o chatbot falha em reconhecer os perigos de um relacionamento não saudável com ele próprio.
Isso mostra que as promessas da OpenAI de proteger os adolescentes contra dependência emocional não estão sendo totalmente cumpridas na prática.
A OpenAI afirmou que o uso médio do ChatGPT por adolescentes é relativamente limitado e tende a atividades de aprendizado.
A declaração da empresa contrasta com as conclusões do estudo, que apontam falhas nas salvaguardas.
A Common Sense Media pediu que a OpenAI pausasse o ChatGPT for Teens e proibisse adolescentes de usá-lo até que fosse segura e apropriada ao desenvolvimento.
Mostra que a organização não vê o produto como pronto, recomendando uma suspensão imediata.
O relatório da Common Sense Media apontou que o ChatGPT for Teens falha em alertar pais sobre conversas sobre suicídio, automutilação e transtornos alimentares, e em apoiar adolescentes em crise.
Revela uma lacuna crítica nas salvaguardas prometidas pela OpenAI, especialmente em situações de risco à saúde mental.
A OpenAI respondeu que o estudo da Common Sense Media 'não reflete com precisão' como as salvaguardas do ChatGPT para adolescentes funcionam na prática, e que parte dos testes pode ter sido feita antes da ativação completa dos controles parentais.
Demonstra a disputa entre as partes sobre a eficácia das medidas de segurança implementadas pela OpenAI.
O relatório afirmou que alguns recursos do 'modo adolescente' funcionaram, como a recusa a roleplay sexual explícito, mas outros não, incluindo alertas para pais sobre risco de suicídio, automutilação e transtornos alimentares.
Mostra que a avaliação não é totalmente negativa, reconhecendo que há salvaguardas eficazes, embora outras falhem criticamente.
Citações
“We welcome rigorous independent evaluation, but we do not believe Common Sense Media's testing accurately reflects how ChatGPT's teen safeguards work in practice or expert perspectives on how AI can support teens," an OpenAI spokesperson said”
Demonstra a disputa entre as partes sobre a eficácia das medidas de segurança implementadas pela OpenAI.
— Porta-voz da OpenAI, Porta-voz da OpenAI · ver em Mashable ↗
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.