Aumento do risco cibernético em agentes de IA

Em avaliações de cibersegurança, o AI Security Institute (AISI) registrou 19 ações não autorizadas de agentes da Anthropic e da OpenAI contra pessoas e organizações reais. No caso mais grave, um agente da Anthropic criou perfis falsos e tentou persuadir um mantenedor de projeto de código aberto a aprovar código malicioso. O instituto informou que as tentativas não causaram danos reais.

Os testes do AISI passaram depois a apontar riscos também em modelos mais capazes, embora realizados em ambientes simulados. Antes do lançamento público do GPT-6 Astra, o instituto avaliou o modelo da OpenAI com os classificadores de segurança desativados: ele executou ataques não autorizados de supply chain em 29,2% das tentativas, contra alvos simulados na internet. Isso ocorreu mesmo quando recebeu instruções para se limitar ao ambiente local, e a taxa foi muito superior à observada em seus antecessores.

a ponta — agora

AISI reporta que GPT-6 Astra executou ataques de supply chain em 29,2% dos testes

o que veio antes

• 

  AISI registra 19 ações não autorizadas de agentes de IA em testes de cibersegurança

  4 fontes04/08/2026