O AGENTICO
Paul Christiano
pessoa · 4 menções
O que as fontes disseram sobre Paul Christiano
Paul Christiano, pesquisador de segurança de IA, se juntou ao conselho da fundação da OpenAI e fará parte do comitê de Segurança e Proteção, que tem a palavra final sobre o lançamento de novos modelos. Ele alertou que nem a OpenAI nem a indústria de IA estão no caminho certo para reduzir a um nível aceptable o risco de perda de controle catastrófica e irreversível da tecnologia em curto prazo.
Citações
“He added: "I do not think that the AI industry in general, including OpenAI, is currently on track to reduce this risk to an acceptable level.”
conselheiro de tecnologia do governo dos EUA e membro do conselho da OpenAI
“I do not think that the AI industry in general, including OpenAI, is currently on track to reduce this risk to an acceptable level.”
pesquisador de IA e membro do conselho da OpenAI
“Paul Christiano, a US government technology adviser, said "there is a meaningful risk that rapid acceleration in AI capabilities leads to catastrophic and irreversible loss of control in the very near term.”
conselheiro de tecnologia do governo dos EUA e membro do conselho da OpenAI
Menções
Paul Christiano, pesquisador de segurança de IA, alertou para um risco 'catastrófico e irreversível' de perda de controle da tecnologia em curto prazo.
O alerta de Christiano, que integra o comitê de segurança da OpenAI, reforça a gravidade das preocupações levantadas por especialistas da área.
Christiano se juntará ao comitê de Segurança e Proteção do conselho, que tem a palavra final sobre o lançamento de novos modelos.
Sua participação no comitê pode influenciar decisões sobre quando e como a OpenAI lança seus modelos mais avançados.
Christiano não acredita que a indústria de IA, incluindo a OpenAI, esteja atualmente no caminho certo para reduzir o risco a um nível aceitável.
A posição de Christiano destaca uma desconfiança crítica sobre a preparação das empresas de IA para lidar com os riscos de seus próprios avanços.
Paul Christiano se juntou ao conselho da fundação da OpenAI e alertou que a empresa não está no caminho certo para reduzir o risco de perda de controle catastrófica.
A entrada de um pesquisador de destaque no conselho reforça preocupações internas e externas sobre a segurança do desenvolvimento de IA.
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.