Coxon renuncia e acusa Anthropic e OpenAI de 'brincar com nossas vidas'

Resumo

• A saída de Coxon ocorre enquanto a Anthropic se prepara para abrir capital na bolsa.

  A demissão pode gerar impacto na imagem da empresa e levantar questionamentos sobre suas práticas.

• Coxon afirmou que a Anthropic e a OpenAI estão 'correndo diretamente rumo à superinteligência que se aprimora sozinha e apostando nossas vidas'.

  A acusação de Coxon ressalta o risco de as empresas priorizarem velocidade sobre segurança.

• A renúncia de Coxon ocorre em meio à preparação da Anthropic para sua oferta pública inicial de ações.

  O momento da saída coincide com um período de expansão comercial, aumentando a atenção pública sobre o caso.

• Jacob Coxon afirmou que as pessoas que constroem IA acreditam sinceramente que ela pode matar a todos antes do final da década, e que isso não é uma estratégia de marketing.

  A fala de Coxon reforça a gravidade do alerta interno sobre os riscos existenciais da IA.

• Coxon trabalhou nos últimos três anos com pré-treinamento, incluindo trabalho em GPT-4o, primeiro na OpenAI e depois na Anthropic, antes de anunciar sua renúncia.

  A trajetória de Coxon mostra que ele viu de perto o desenvolvimento dos principais modelos de IA, o que dá credibilidade ao seu alerta.

• Jacob Coxon, pesquisador da Anthropic e ex-funcionário da OpenAI, anunciou sua demissão e acusou as empresas de apostar com as vidas humanas ao desenvolverem IA.

  A demissão de um pesquisador de segurança gerou repercussão e incentivou outros alertas sobre riscos da tecnologia.

• Evan Hubinger disse que a Anthropic ainda não tem um plano para lidar com os riscos de uma superinteligência.

  A falta de plano para alinhar a superinteligência é um ponto central no debate sobre segurança da IA.

• O alerta de Coxon provocou reação de parlamentares dos EUA, que pediram novas regras para governar a IA, incluindo contribuições de legisladores que raramente se envolvem no debate.

  A pressão política aumentou após as declarações, mostrando o impacto do caso na agenda regulatória.

• Evan Hubinger, líder de alinhamento da Anthropic, escreveu no X que acredita "pessoalmente haver mais de 10% de chance de a IA matar todos os humanos" na próxima década.

  A estimativa de um especialista em segurança reforça a gravidade do risco existencial da IA.

• Jacob Coxon deixou a Anthropic e acusou a empresa e a OpenAI de 'brincarem com nossas vidas' no desenvolvimento acelerado de IA.

  A renúncia pública de um pesquisador de destaque com críticas diretas às duas maiores empresas do setor repercutiu amplamente.

• Jacob Coxon renunciou à Anthropic e acusou a OpenAI e a Anthropic de 'brincar com nossas vidas' ao correrem para uma superinteligência que se aprimora sozinha.

  A renúncia e a acusação pública de Coxon evidenciam o conflito interno na indústria de IA sobre a velocidade do desenvolvimento em relação à segurança.

• Evan Hubinger, líder de ciência de alinhamento da Anthropic, declarou que a empresa ainda não tem um plano para manter uma superinteligência sob controle humano.

  A falta de um plano de controle para superinteligência é um risco central levantado por pesquisadores da própria empresa.

• Geoffrey Hinton, ganhador do Prêmio Nobel de 2024, comentou que a estimativa de 10% de risco de extinção humana por IA não parece ser uma estimativa ir

  A opinião de Hinton, referência em IA, reforça a credibilidade do alerta sobre riscos existenciais.

Dados

Período de trabalho com pré-treinamento

três anos

Citações

• “Eles estão correndo diretamente rumo à superinteligência que se aprimora sozinha e apostando nossas vidas”, escreveu.”

  A acusação de Coxon ressalta o risco de as empresas priorizarem velocidade sobre segurança.

  — Jacob Coxon, pesquisador de IA · ver em Olhar Digital ↗

• “Nenhuma das empresas está agindo com responsabilidade. Elas estão correndo a toda velocidade rumo a uma superinteligência que se aprimora sozinha e estão brincando com nossas vidas”

  A acusação de Coxon ressalta o risco de as empresas priorizarem velocidade sobre segurança.

  — Jacob Coxon, Pesquisador de IA, ex-Anthropic e ex-OpenAI · ver em O Globo: Tecnologia ↗

• “As pessoas que desenvolvem IA acreditam sinceramente que ela pode nos matar a todos antes do final da década. Isso não é uma estratégia de marketing", acrescentou.”

  A fala de Coxon reforça a gravidade do alerta interno sobre os riscos existenciais da IA.

  — Jacob Coxon, Pesquisador de pré-treinamento de IA · ver em O Globo: Tecnologia ↗

• “As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing", acrescentou Coxon.”

  A fala de Coxon reforça a gravidade do alerta interno sobre os riscos existenciais da IA.

  — Jacob Coxon, Pesquisador de pré-treinamento de IA · ver em G1: Tecnologia ↗

• “The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt.”

  A fala de Coxon reforça a gravidade do alerta interno sobre os riscos existenciais da IA.

  — Jacob Coxon, Pesquisador de IA, ex-Anthropic e ex-OpenAI · ver em The Independent ↗

• “Acreditamos sinceramente que a IA pode matar todos os humanos”

  A estimativa de um especialista em segurança reforça a gravidade do risco existencial da IA.

  — Evan Hubinger, líder de teste de alinhamento da Anthropic · ver em UOL Tecnologia ↗

• “Elas estão correndo a toda velocidade rumo a uma superinteligência que se aprimora sozinha e estão brincando com nossas vidas”

  A renúncia e a acusação pública de Coxon evidenciam o conflito interno na indústria de IA sobre a velocidade do desenvolvimento em relação à segurança.

  — Jacob Coxon, Ex-pesquisador da Anthropic e da OpenAI · ver em O Globo: Tecnologia ↗

• “Ele disse que a empresa não tem um plano para resolver a questão do “alinhamento com a superinteligência” e que não há um caminho claro para isso.”

  A falta de um plano de controle para superinteligência é um risco central levantado por pesquisadores da própria empresa.

  — Evan Hubinger, Líder de ciência de alinhamento da Anthropic · ver em O Globo: Tecnologia ↗

• “Geoffrey Hinton, ganhador do Prêmio Nobel em 2024, disse à BBC que é difícil estimar a probabilidade de extinção humana por IAs, mas afirmou que “10% não parece ser uma estimativa ir”

  A opinião de Hinton, referência em IA, reforça a credibilidade do alerta sobre riscos existenciais.

  — Geoffrey Hinton, Ganhador do Prêmio Nobel de 2024 · ver em O Globo: Tecnologia ↗