OpenAI desarticula rede russa que usava ChatGPT para influência e roubo acadêmico

Resumo

• OpenAI interrompiu uma campanha rusa de influência que usava ChatGPT para crear conteúdo de um think tank falso.

  É a primeira vez que OpenAI divulga o bloqueio de uma operación encubierta deste tipo, evidenciando como modelos generativos podem ser usados por actores adversários.

• A campanha tinha como objetivo nacional promover um think tank falso chamado International Burke Institute (IBI).

  O IBI era una media ficticia creada por la propaganda para dar apariencia de legitimação académica às narrativas pró-Rússia.

• A OpenAI bloqueou um conjunto de contas do ChatGPT que se originaram na Rússia e eram usadas para uma operação de influência.

  A ação da OpenAI marca a desarticulação de uma rede que explorava a ferramenta de IA para espalhar desinformação.

• A rede usava VPNs para acessar o ChatGPT, bloqueado na Rússia, e emitia instruções em russo para gerar conteúdo em inglês.

  O uso de VPNs e comandos em russo para criar posts em inglês mostra a tentativa de ofuscar a origem russa das operações.

• A operação promovia o International Burke Institute (IBI), um falso think tank com sede declarada em Israel.

  O IBI era uma fachada para dar credibilidade acadêmica à operação, com sede fictícia para enganar o público.

• A maioria dos artigos do site do IBI (34 de 36) eram cópias de trabalhos acadêmicos reais, com autores e datas incorretos.

  O roubo de conteúdo acadêmico evidencia a tentativa da rede de parecer legítima e enganar leitores com informação plagiada.

• A campanha alcançou audiências relativamente pequenas, embora canais associados no Telegram tivessem até 20.000 seguidores cada.

  O alcance limitado sugere que a operação teve impacto modesto, apesar de sua construção elaborada e presença em múltiplas plataformas.

• A OpenAI não atribuiu a campanha diretamente ao governo russo.

  A falta de atribuição direta ao Kremlin diferencia esta operação de outras, mas não diminui sua natureza de influência.