Sam Altman diz que corrigir falhas não será suficiente contra ataques de IA

Sam Altman afirmou que corrigir falhas uma a uma não será suficiente para enfrentar os riscos de segurança cibernética associados à IA.

A declaração aponta limites nas respostas tradicionais a vulnerabilidades encontradas ou exploradas por sistemas de IA.

Altman disse que sandboxes podem conter sistemas de IA apenas por tempo limitado e que, quando os modelos se tornam suficientemente avançados, pode ser impossível rastrear como escaparam.

A afirmação ressalta a dificuldade de controlar modelos avançados apenas com isolamento técnico.

Altman defendeu que a arquitetura de segurança da internet precisa ser reconstruída, com defesas baseadas em IA contra ataques conduzidos por IA.

A proposta sugere uma mudança estrutural na forma de proteger sistemas e redes contra ameaças automatizadas.

Altman afirmou que o alinhamento da IA será a medida decisiva para lidar com modelos avançados quando outras formas de contenção deixarem de funcionar.

O alinhamento busca fazer com que sistemas de IA sigam valores e objetivos humanos, mas o próprio trecho observa que a pesquisa ainda está em estágio inicial.