OpenAI usa seus modelos para identificar funcionário suspeito de espionagem

Abdulrahman Alfozan, engenheiro da OpenAI, foi preso em 9 de outubro sob acusação de plantar dispositivo de gravação escondido na sala de reunião executiva da empresa.

A prisão, confirmada pelo DOJ, revela um caso de espionagem interna em uma das principais empresas de IA do mundo.

OpenAI usou seus próprios modelos de IA para identificar o funcionário que plantou o dispositivo, que foi encontrado escondido em rolo de papel higiênico em uma TV na sala de reunião.

A empresa destacou o uso de sua tecnologia para resolver o caso, reforçando a narrativa de que a IA pode ser usada para segurança.

Alfozan não tinha autorização para acessar a sala de reunião executiva e foi demitido após a descoberta do dispositivo.

A demissão e a falta de autorização indicam violação clara das políticas internas da empresa.

Até o momento, não há indicações de que Alfozan tenha acessado ou exfiltrado pesos de modelos, código-fonte ou dados de clientes da OpenAI.

A informação tranquiliza sobre a extensão do dano potencial, embora a investigação continue.

O dispositivo, segundo a OpenAI, era sofisticado, usava criptografia, monitorava áudio e podia transferir dados, tendo sido instalado em ou por volta de 28 de setembro.

Os detalhes técnicos mostram a complexidade do equipamento e a intenção de espionagem.

Promotores afirmam que Alfozan consultou por semanas um agente de produtividade e um chatbot para planejar a operação de vigilância.

O uso de ferramentas de IA para planejar a operação amplia o escopo do caso para além da instalação do dispositivo.

Alfozan usou uma ferramenta interna da OpenAI para perguntar sobre reuniões previstas na sala de conferência visada.

A consulta poderia ter fornecido informações sobre quando a sala seria usada.

Segundo promotores, Alfozan usou uma conta de chatbot associada à esposa para fazer perguntas técnicas sobre como montar um dispositivo oculto de gravação de áudio.

As perguntas descritas pelos promotores relacionam a conta a preparativos técnicos para a vigilância alegada.

A equipe de segurança da OpenAI teria encontrado outro dispositivo de gravação, ainda não instalado, dentro da bolsa de Alfozan no escritório.

A descoberta relatada sugere que havia um dispositivo adicional além daquele encontrado na sala de conferência.

Se condenado, Alfozan pode enfrentar até cinco anos de prisão.

A pena potencial indica a gravidade jurídica da acusação, sem representar uma condenação.

A equipe de segurança da OpenAI encontrou outro dispositivo de gravação, ainda não instalado, dentro da bolsa de Abdulrahman Alfozan no escritório.

O achado sugere que havia um segundo aparelho além do dispositivo já encontrado na sala de reunião.

Procuradores afirmam que Alfozan comprou passagens só de ida para a Arábia Saudita antes de ser preso; a viagem estava prevista para 12 de outubro com a esposa e outro familiar.

A compra das passagens foi apresentada pelos procuradores como indício de risco de fuga.

A defesa de Alfozan afirmou que contestará as acusações e a manutenção da prisão, e declarou que ele é inocente e tem direito ao devido processo legal.

A posição da defesa contrapõe-se às acusações e à justificativa de risco de fuga apresentada pelos procuradores.

Promotores dos EUA afirmaram em petição judicial que Alfozan tinha “considerável apoio” do governo saudita e mantinha comunicação frequente com um integrante da família real saudita.

A alegação foi usada pelos promotores para sustentar preocupações sobre os vínculos de Alfozan com a Arábia Saudita.

Segundo os promotores, um integrante das forças armadas sauditas pagou, após a prisão de Alfozan, uma passagem só de ida para a Arábia Saudita para a esposa e o filho dele.

A alegação foi apresentada no processo como parte do argumento de que Alfozan poderia fugir.

Promotores afirmam que Alfozan usou um agente de produtividade e um chatbot para planejar a operação de vigilância e consultou uma ferramenta interna da OpenAI sobre reuniões na sala visada.

As consultas descritas pelos promotores vinculam ferramentas de IA ao planejamento alegado da vigilância.

Promotores afirmaram em petição judicial que Alfozan tinha considerável apoio do governo saudita e mantinha comunicação frequente com um integrante da família real; segundo a petição, um militar saudita pagou passagem para a esposa e o filho após a prisão dele.

As alegações foram apresentadas para sustentar que Alfozan representava risco de fuga e deveria permanecer detido.

Promotores afirmam que Alfozan usou uma ferramenta interna da OpenAI para perguntar sobre reuniões previstas na sala visada.

A consulta pode indicar como ele teria planejado a vigilância no escritório.

Em 5 de outubro, uma câmera instalada na sala filmou Alfozan entrando e aparentando olhar atrás da televisão onde o gravador havia sido colocado.

As imagens são apresentadas na petição como evidência que liga Alfozan ao dispositivo.

A sala onde o dispositivo foi encontrado era usada para reuniões sobre informações técnicas, comerciais e estratégicas confidenciais, além de assuntos governamentais da OpenAI.

O uso da sala ajuda a explicar a relevância da investigação sobre a gravação.

Alfozan afirmou em uma entrevista a um podcast em árabe que ele e outros profissionais sauditas de tecnologia no Vale do Silício formaram um grupo que aconselhava organizações sauditas, incluindo a agência de seguro social do reino.

A informação acrescenta contexto sobre as relações profissionais de Alfozan com organizações sauditas, sem comprovar envolvimento do governo no caso.

A OpenAI usou seus próprios modelos de IA para analisar imagens forenses do armazenamento do dispositivo e alterações nos dados, em um processo que, combinado à análise de investigadores, levou a empresa a um suspeito.

O uso de modelos próprios na investigação é um aspecto incomum do caso e mostra como a empresa aplicou sua tecnologia para apurar uma ameaça interna.

A OpenAI demitiu Abdulrahman Alfozan após acusá-lo de instalar um dispositivo de gravação oculto em uma sala executiva.

A demissão foi uma medida da empresa após a descoberta do gravador e a identificação do funcionário como suspeito.

A equipe de segurança da OpenAI encontrou evidências de que Alfozan planejava instalar outros dispositivos de gravação.

A alegação sugere que a investigação não se limitava ao aparelho encontrado já instalado.