O AGENTICO
Pesquisador da Anthropic alerta que IA pode destruir a humanidade até o fim da década
2 fontesdesde 12 de setembro de 20262 artigos
O pesquisador da Anthropic, Jacob Coxon, renunciou e alertou publicamente que sistemas de IA avançados podem se tornar super-humanos e representar risco existencial à humanidade. Ele afirmou que esses sistemas poderiam hackear qualquer coisa, em contraste com a reação cética de alguns executivos e investidores do Vale do Silício.
Resumo
Jacob Coxon, pesquisador da Anthropic, renunciou e alertou que pessoas que constroem IA acreditam que a tecnologia pode destruir a humanidade.
A renúncia e o alerta de um insider da indústria de IA chamam atenção para preocupações sérias sobre riscos existenciais.
Jacob Coxon alertou que sistemas de IA em breve serão super-humanos e poderão hackear qualquer coisa.
O alerta destaca o potencial de sistemas de IA superarem capacidades humanas, levantando preocupações sobre segurança e controle.
Jacob Coxon afirmou que seus avisos não são uma jogada de marketing.
Ele reforça a seriedade de suas preocupações, rejeitando a ideia de que sejam apenas publicidade.
Alguns executivos e investidores do Vale do Silício receberam com ceticismo a onda de alertas de insiders.
A reação cética contrasta com as preocupações dos especialistas, mostrando divisão na indústria sobre o risco real.
Atuais funcionários da Anthropic, incluindo Evan Hubinger, ecoaram os alertas de Coxon.
O apoio de outros funcionários reforça a legitimidade das preocupações de segurança dentro da empresa.
Citações
“Coxon, a 27-year-old who worked at OpenAI before joining its chief rival Anthropic, said on Tuesday that people building artificial intelligence (AI) believed the technology could destroy humanity.”
— Jacob Coxon, Pesquisador da Anthropic
“They are "gambling with our lives", he said, "these will soon be superhuman systems that can hack anything".”
— Jacob Coxon, Pesquisador da Anthropic
“This is not a marketing stunt," Coxon wrote.”
— Jacob Coxon, Pesquisador da Anthropic
“We really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade," a team lead at Anthropic, Evan Hubinger, posted on X.”
— Evan Hubinger, Team lead na Anthropic
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.