O AGENTICO
Cientista-chefe da OpenAI pede desaceleração voluntária do desenvolvimento de IA
5 fontesdesde 07 de setembro de 20265 artigos
Jakub Pachocki, cientista-chefe da OpenAI, publicou um ensaio no domingo defendendo que laboratórios de IA adotem desacelerações voluntárias no desenvolvimento de modelos até que padrões de segurança compartilhados sejam estabelecidos. Ele alertou que a IA está evoluindo rápido demais para ser compreendida e controlada, e mencionou riscos como a auto-melhoria recursiva de sistemas. A proposta, porém, pode esbarrar em leis antitruste nos EUA, segundo especialistas citados em uma das matérias.
Resumo
Jakub Pachocki, cientista-chefe da OpenAI, publicou um ensaio no domingo defendendo que laboratórios de IA adotem desacelerações voluntárias no desenvolvimento de modelos até que padrões de segurança compartilhados sejam estabelecidos.
O pedido de Pachocki é uma rara manifestação pública de um alto executivo da OpenAI pedindo cautela, o que pode influenciar o ritmo da corrida de IA.
Pachocki alertou que a IA está evoluindo rápido demais para ser compreendida e controlada, mencionando que sistemas podem chegar à auto-melhoria recursiva sem intervenção humana.
O alerta sobre auto-melhoria recursiva destaca um risco existencial que muitos pesquisadores consideram crucial para o futuro da IA.
Pachocki afirmou que nenhum laboratório resolveu completamente o problema de alinhamento e monitoramento a ponto de continuar escalando com segurança em ritmo máximo.
A declaração mina a confiança nas salvaguardas atuais da indústria e reforça a necessidade de padrões externos.
Especialistas apontam que uma coordenação substantiva entre laboratórios para desacelerar o desenvolvimento pode conflitar com leis antitruste dos EUA.
A preocupação legal pode dificultar a implementação prática do pedido de Pachocki, mesmo que haja vontade das empresas.
Citações
“Currently I believe that no lab has solved alignment and monitoring to a sufficient degree to continue responsibly scaling at maximum speed for much longer,” he wrote.”
— Jakub Pachocki, cientista-chefe da OpenAI
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.