O AGENTICO
Jacob Coxon
pessoa · 34 menções
Anthropic
Jensen HuangO que as fontes disseram sobre Jacob Coxon
Jacob Coxon, pesquisador que trabalhou na OpenAI e depois na Anthropic, anunciou sua renúncia e acusou as empresas de 'correrem diretamente rumo à superinteligência que se aprimora sozinha' e de 'apostarem nossas vidas' ao desenvolverem IA sem responsabilidade. Ele afirmou que quem constrói IA acredita sinceramente que ela pode matar a todos antes do final da década, alertando que os sistemas devem se tornar super-humanos, capazes de invadir sistemas e ganhar poder no mundo real, e que seus avisos não são uma estratégia de marketing. As fontes também associam sua saída ao período em que a Anthropic se prepara para abrir capital na bolsa e aos debates gerados por seus alertas.
Dados
| Período de trabalho com pré-treinamento | três anos |
Citações
“As empresas estão sendo extremamente imprudentes dadas as circunstâncias”
A declaração reforça temores existenciais sobre o avanço descontrolado da IA, gerando debate público e político.
ex-funcionário da OpenAI e Anthropic · ver em O Globo: Tecnologia ↗
Menções
Coxon afirmou que as empresas de IA estão sendo extremamente imprudentes, e que a humanidade pode perder o controle das IAs, levando à extinção humana.
A declaração reforça temores existenciais sobre o avanço descontrolado da IA, gerando debate público e político.
Os três pesquisadores demitidos expressaram publicamente preocupações sobre os riscos da IA, incluindo um post de Balesni estimando em mais de 10% a probabilidade da IA matar todos os humanos.
O histórico público de críticas à velocidade do desenvolvimento da IA por parte dos demitidos contextualiza o episódio dentro do debate sobre segurança do setor.
A declaração de Gates ocorre após Jacob Coxon, ex-funcionário da Anthropic, acusar a empresa e a OpenAI de 'apostarem nossas vidas' ao 'correrem em direção a uma IA superinteligente'.
A fala de Coxon adiciona contexto de tensão dentro do setor sobre a velocidade do desenvolvimento da IA e os riscos associados.
Huang minimizou os alertas do ex-pesquisador da Anthropic, Jacob Coxon, chamando os temores de 'fabricados' e sem base na ciência.
A resposta de Huang mostra a divisão entre CEOs de grandes empresas de tecnologia sobre a seriedade dos riscos da IA.
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.