OpenAI lança ChatGPT para adolescentes com novas proteções e controles parentais

OpenAI lançou o ChatGPT for Teens, uma versão dedicada do chatbot para usuários de 13 a 17 anos, com proteções de segurança aprimoradas.

Marca o reconhecimento da necessidade de proteções específicas para menores no uso de IA, em meio a escrutínio legal e social.

O modo teen é aplicado automaticamente a usuários identificados como menores de 18 anos, seja por autoidentificação ou por estimativa baseada em mais de 2.000 sinais comportamentais, sem verificação direta de idade.

Detalha o mecanismo de identificação de idade da OpenAI, que usa análise de comportamento em vez de checagem documental, levantando questões de privacidade e precisão.

Os pais podem configurar controles como 'Quiet Hours' e receber notificações de segurança em situações de alto risco ao vincular suas contas às dos adolescentes.

Dá aos responsáveis ferramentas para monitorar e limitar o uso do chatbot por menores, reforçando a supervisão parental.

Para lições de casa, o chatbot usa um 'Modo Estudo' que responde com perguntas orientadoras em vez de respostas prontas, e inclui lembretes de pausa e avisos de que é IA.

Incentiva o aprendizado ativo e o uso equilibrado, reduzindo a dependência e promovendo hábitos saudáveis.

A diretora de jovens e famílias da OpenAI, Lauren Jonas, afirmou que o objetivo é tornar o ChatGPT uma ferramenta de aprendizado para adolescentes com salvaguardas integradas.

A declaração reforça o compromisso da empresa com a segurança de menores.

O ChatGPT for Teens inclui restrições rígidas a conteúdos sensíveis (violência, automutilação, distúrbios alimentares, conteúdo sexual), remove a resposta em voz humana e proíbe o chatbot de fingir emoções ou sugerir que possui sentimentos, promovendo avisos de que é IA.

Essas medidas visam evitar que os adolescentes vejam conteúdo prejudicial ou desenvolvam laços emocionais falsos com a ferramenta, um ponto central das preocupações de segurança na IA.

A OpenAI anunciou o lançamento do ChatGPT for Teens, versão do chatbot voltada para adolescentes de 13 a 17 anos, com recursos de segurança e controle parental.

Esse é o anúncio principal da notícia, indicando a expansão do serviço para um público mais jovem com proteções adicionais.

O ChatGPT for Teens inclui restrições de conteúdo relacionadas a automutilação, suicídio, violência, transtornos alimentares, atividades perigosas e material sexual ou gráfico.

Essas restrições são cruciais para mitigar riscos de segurança em menores, uma preocupação central na discussão sobre IA e jovens.

A versão para adolescentes inclui um Modo Estudo, lembretes sobre tarefas escolares, questionários e novas opções de horários de estudo.

Esses recursos educacionais visam orientar o aprendizado e evitar que o chatbot forneça respostas prontas, promovendo o desenvolvimento de habilidades.

A OpenAI afirma que a versão será ativada para usuários que informarem ter menos de 18 anos ou que forem classificados por seu sistema de estimativa de idade.

A verificação de idade é um ponto crítico para a segurança, mas a autodeclaração pode ser contornada, como apontam estudos.

O lançamento ocorre em meio a discussões sobre os riscos do uso de IA por menores, incluindo processos judiciais e estudos que apontam vulnerabilidades em outras plataformas.

Contextualiza a novidade em um cenário de preocupação crescente com a segurança de menores em plataformas de IA, especialmente após estudos e regulamentações recentes.

A OpenAI lançou o ChatGPT for Teens, uma versão do chatbot para adolescentes de 13 a 17 anos, com proteções automáticas.

O lançamento da versão para adolescentes é a principal novidade da OpenAI, visando oferecer uma experiência mais segura para esse público.

A versão para adolescentes inclui restrições automáticas para conteúdo sensível como automutilação, transtornos alimentares, violência e conteúdo sexual explícito, além de proibir linguagem romântica e simulação de sentimentos.

As restrições de conteúdo são cruciais para proteger menores de danos e evitar interações emocionalmente inadequadas.

A OpenAI ativa a experiência para adolescentes automaticamente para usuários que se identificam como entre 13 e 17 anos ou que o sistema estima ter menos de 18 anos, usando sinais comportamentais.

A ativação automática garante que a proteção seja aplicada mesmo sem declaração explícita do usuário.

A versão inclui Modo de Estudo, que usa perguntas guiadas para ajudar o estudante, em vez de entregar respostas prontas, além de lembretes de pausa, alertas sobre imagens sensíveis e controles parentais como 'horas de silêncio'.

Esses recursos visam promover aprendizado ativo e uso equilibrado, com supervisão dos pais.

O lançamento ocorre em meio a críticas e processos judiciais sobre os riscos do ChatGPT para menores, com famílias relatando danos e casos de morte.

A medida responde à crescente preocupação pública com a segurança de crianças e adolescentes em plataformas de IA.