O AGENTICO
OpenAI interrompe campanha de extração de raciocínio ligada à Moonshot AI
7 fontesdesde 01 de outubro de 20267 artigos
A OpenAI identificou e interrompeu uma campanha coordenada para extrair o raciocínio protegido de seus modelos de IA, atribuída a indivíduos associados à Moonshot AI. A atividade, descrita como "distilação adversária", começou em julho e foi totalmente interrompida em 28 de julho, sem violar criptografia ou bancos de dados. A Moonshot AI não respondeu imediatamente aos pedidos de comentário.
Resumo
A OpenAI interrompeu uma campanha coordenada para extrair raciocínio protegido de seus modelos de IA, atribuída a indivíduos associados à Moonshot AI.
O caso mostra a preocupação das empresas de IA dos EUA com a espionagem industrial por rivais chinesas.
Os operadores não violaram criptografia, bancos de dados ou conversas armazenadas, mas manipularam interações com o modelo para reproduzir o raciocínio protegido em forma visível.
A técnica explorada não envolveu invasão de sistemas, mas manipulação de entradas para extrair informações.
A OpenAI classificou a atividade como 'distilação adversária', que permite a terceiros reproduzir capacidades avançadas sem o mesmo investimento em desenvolvimento.
A distilação adversária é vista como risco à segurança nacional e à vantagem competitiva das empresas de IA.
A OpenAI não forneceu evidências técnicas para sustentar a atribuição do ataque à Moonshot AI.
A falta de evidências públicas pode enfraquecer a acusação, algo relevante para avaliar a credibilidade da afirmativa da OpenAI.
As tentaTivas de extração ocorreram em julho, com pico de 16 mil solicitações de mais de 4 mil usuários em 24 e 25 de julho; a OpenAI interrompeu a campanha em 28 de julho, identificando mais de 15 mil usuários envolvidos.
Mostra a escala da operação e o prazo em que a OpenAI agiu para conter o ataque.
Citações
“The operators did not break our encryption, compromise a database, or gain direct access to stored user conversations," OpenAI said. "Instead, they manipulated model interactions so that protected reasoning could be reproduced in forms visible to the requester in a coordinated, scaled manner that violated our terms of service.”
A técnica explorada não envolveu invasão de sistemas, mas manipulação de entradas para extrair informações.
— OpenAI, Empresa de tecnologia · ver em The Hacker News ↗
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.