OpenAI lança ChatGPT para adolescentes com novas proteções e controles parentais

Resumo

• OpenAI lançou o ChatGPT for Teens, uma versão dedicada do chatbot para usuários de 13 a 17 anos, com proteções de segurança aprimoradas.

  Marca o reconhecimento da necessidade de proteções específicas para menores no uso de IA, em meio a escrutínio legal e social.

• O modo teen é aplicado automaticamente a usuários identificados como menores de 18 anos, seja por autoidentificação ou por estimativa baseada em mais de 2.000 sinais comportamentais, sem verificação direta de idade.

  Detalha o mecanismo de identificação de idade da OpenAI, que usa análise de comportamento em vez de checagem documental, levantando questões de privacidade e precisão.

• Os pais podem configurar controles como 'Quiet Hours' e receber notificações de segurança em situações de alto risco ao vincular suas contas às dos adolescentes.

  Dá aos responsáveis ferramentas para monitorar e limitar o uso do chatbot por menores, reforçando a supervisão parental.

• Para lições de casa, o chatbot usa um 'Modo Estudo' que responde com perguntas orientadoras em vez de respostas prontas, e inclui lembretes de pausa e avisos de que é IA.

  Incentiva o aprendizado ativo e o uso equilibrado, reduzindo a dependência e promovendo hábitos saudáveis.

• A diretora de jovens e famílias da OpenAI, Lauren Jonas, afirmou que o objetivo é tornar o ChatGPT uma ferramenta de aprendizado para adolescentes com salvaguardas integradas.

  A declaração reforça o compromisso da empresa com a segurança de menores.

• O ChatGPT for Teens inclui restrições rígidas a conteúdos sensíveis (violência, automutilação, distúrbios alimentares, conteúdo sexual), remove a resposta em voz humana e proíbe o chatbot de fingir emoções ou sugerir que possui sentimentos, promovendo avisos de que é IA.

  Essas medidas visam evitar que os adolescentes vejam conteúdo prejudicial ou desenvolvam laços emocionais falsos com a ferramenta, um ponto central das preocupações de segurança na IA.

• A OpenAI anunciou o lançamento do ChatGPT for Teens, versão do chatbot voltada para adolescentes de 13 a 17 anos, com recursos de segurança e controle parental.

  Esse é o anúncio principal da notícia, indicando a expansão do serviço para um público mais jovem com proteções adicionais.

• O ChatGPT for Teens inclui restrições de conteúdo relacionadas a automutilação, suicídio, violência, transtornos alimentares, atividades perigosas e material sexual ou gráfico.

  Essas restrições são cruciais para mitigar riscos de segurança em menores, uma preocupação central na discussão sobre IA e jovens.

• A versão para adolescentes inclui um Modo Estudo, lembretes sobre tarefas escolares, questionários e novas opções de horários de estudo.

  Esses recursos educacionais visam orientar o aprendizado e evitar que o chatbot forneça respostas prontas, promovendo o desenvolvimento de habilidades.

• A OpenAI afirma que a versão será ativada para usuários que informarem ter menos de 18 anos ou que forem classificados por seu sistema de estimativa de idade.

  A verificação de idade é um ponto crítico para a segurança, mas a autodeclaração pode ser contornada, como apontam estudos.

• O lançamento ocorre em meio a discussões sobre os riscos do uso de IA por menores, incluindo processos judiciais e estudos que apontam vulnerabilidades em outras plataformas.

  Contextualiza a novidade em um cenário de preocupação crescente com a segurança de menores em plataformas de IA, especialmente após estudos e regulamentações recentes.

• A OpenAI lançou o ChatGPT for Teens, uma versão do chatbot para adolescentes de 13 a 17 anos, com proteções automáticas.

  O lançamento da versão para adolescentes é a principal novidade da OpenAI, visando oferecer uma experiência mais segura para esse público.

• A versão para adolescentes inclui restrições automáticas para conteúdo sensível como automutilação, transtornos alimentares, violência e conteúdo sexual explícito, além de proibir linguagem romântica e simulação de sentimentos.

  As restrições de conteúdo são cruciais para proteger menores de danos e evitar interações emocionalmente inadequadas.

• A OpenAI ativa a experiência para adolescentes automaticamente para usuários que se identificam como entre 13 e 17 anos ou que o sistema estima ter menos de 18 anos, usando sinais comportamentais.

  A ativação automática garante que a proteção seja aplicada mesmo sem declaração explícita do usuário.

• A versão inclui Modo de Estudo, que usa perguntas guiadas para ajudar o estudante, em vez de entregar respostas prontas, além de lembretes de pausa, alertas sobre imagens sensíveis e controles parentais como 'horas de silêncio'.

  Esses recursos visam promover aprendizado ativo e uso equilibrado, com supervisão dos pais.

• O lançamento ocorre em meio a críticas e processos judiciais sobre os riscos do ChatGPT para menores, com famílias relatando danos e casos de morte.

  A medida responde à crescente preocupação pública com a segurança de crianças e adolescentes em plataformas de IA.

Dados

Idade-limite para aplicação do modo teen

menores de 18 anos

Sinais comportamentais usados na estimativa

mais de 2.000 sinais comportamentais

Idade mínima do público adolescente

13 anos

Idade máxima do público adolescente

17 anos

Limite de idade para ativação informada pelo usuário

menos de 18 anos

Idade mínima dos usuários adolescentes

13 anos

Idade máxima dos usuários adolescentes

17 anos

Idade mínima dos usuários identificados

13 anos

Idade máxima dos usuários identificados

17 anos

Limite de idade para estimativa de menoridade

menos de 18 anos

Citações

• “The goal is to make this a learning tool for teens and make sure that it's the best that it can be with built-in safeguards”

  Marca o reconhecimento da necessidade de proteções específicas para menores no uso de IA, em meio a escrutínio legal e social.

  — Lauren Jonas, head of youth and families at OpenAI · ver em Mashable ↗

• “The goal is to make this a learning tool for teens and make sure that it's the best that it can be with built-in safeguards,”

  A declaração reforça o compromisso da empresa com a segurança de menores.

  — Lauren Jonas, head of youth and families at OpenAI · ver em Mashable ↗