OpenAI contrata centenas de terceirizados para ler conversas do ChatGPT

OpenAI emprega centenas de trabalhadores contratados para ler conversas reais de usuários do ChatGPT, conforme uma investigação da 404 Media.

A revelação contradiz a percepção de que as conversas com o ChatGPT são privadas e não são vistas por humanos.

Os revisores contratados têm a tarefa de avaliar as respostas do ChatGPT em uma escala de um a sete e de reduzir o excesso de bajulação e o comportamento humanizado no modelo.

O trabalho dos revisores é essencial para o ajuste fino do modelo, mas expõe dados sensíveis dos usuários.

As conversas revisadas podem conter informações pessoais sensíveis, apesar dos esforços da OpenAI para anonimizá-las com um filtro de privacidade.

A falha na remoção de dados pessoais pode expor detalhes íntimos dos usuários a terceiros, criando um risco significativo de privacidade.

Um revisor contratado afirmou que acreditava que os usuários não sabiam que humanos estavam lendo suas conversas, e algumas conversas incluíam pedidos explícitos de privacidade.

A declaração do revisor reforça a falta de transparência sobre a revisão humana e a possível violação da expectativa de privacidade dos usuários.

A OpenAI afirma que tenta remover informações pessoais antes que as conversas cheguem aos revisores, mas reconhece que detalhes sensíveis podem passar pelo filtro.

A admissão da empresa indica que o sistema de anonimização não é perfeito, o que pode levar a vazamentos de dados confidenciais.

Os trabalhadores contratados são recrutados por meio da Crossing Hurdles e pagos pela empresa de treinamento de IA Mercor, com um revisor baseado na América do Norte recebendo mais de US$ 50 por hora.

Os detalhes sobre a contratação e remuneração mostram a estrutura de terceirização da OpenAI para a revisão de dados de usuários.