O AGENTICO
Paul Christiano
pessoa · 3 menções
O que as fontes disseram sobre Paul Christiano
Paul Christiano, pesquisador de segurança de IA, se juntou ao conselho da fundação da OpenAI e fará parte do comitê de Segurança e Proteção, que tem a palavra final sobre o lançamento de novos modelos. Ele alertou que nem a OpenAI nem a indústria de IA estão no caminho certo para reduzir a um nível aceptable o risco de perda de controle catastrófica e irreversível da tecnologia em curto prazo.
Citações
“He added: "I do not think that the AI industry in general, including OpenAI, is currently on track to reduce this risk to an acceptable level.”
A posição de Christiano destaca uma desconfiança crítica sobre a preparação das empresas de IA para lidar com os riscos de seus próprios avanços.
conselheiro de tecnologia do governo dos EUA e membro do conselho da OpenAI · ver em The Guardian (Technology) ↗
Menções
Christiano se juntará ao comitê de Segurança e Proteção do conselho, que tem a palavra final sobre o lançamento de novos modelos.
Sua participação no comitê pode influenciar decisões sobre quando e como a OpenAI lança seus modelos mais avançados.
Christiano não acredita que a indústria de IA, incluindo a OpenAI, esteja atualmente no caminho certo para reduzir o risco a um nível aceitável.
A posição de Christiano destaca uma desconfiança crítica sobre a preparação das empresas de IA para lidar com os riscos de seus próprios avanços.
Paul Christiano se juntou ao conselho da fundação da OpenAI e alertou que a empresa não está no caminho certo para reduzir o risco de perda de controle catastrófica.
A entrada de um pesquisador de destaque no conselho reforça preocupações internas e externas sobre a segurança do desenvolvimento de IA.
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.