Evan Hubinger estima em mais de 10% risco de IA matar todos os humanos

Coxon afirmou que nenhuma das empresas age de forma responsável, pois correm para uma superinteligência que pode se aprimorar sozinha.

A declaração destaca a percepção de que as empresas estão priorizando o avanço tecnológico em detrimento da segurança.

A saída de Coxon ocorre enquanto a Anthropic se prepara para abrir capital na bolsa.

A demissão pode gerar impacto na imagem da empresa e levantar questionamentos sobre suas práticas.

Coxon afirmou que a Anthropic e a OpenAI estão 'correndo diretamente rumo à superinteligência que se aprimora sozinha e apostando nossas vidas'.

A acusação de Coxon ressalta o risco de as empresas priorizarem velocidade sobre segurança.

A renúncia de Coxon ocorre em meio à preparação da Anthropic para sua oferta pública inicial de ações.

O momento da saída coincide com um período de expansão comercial, aumentando a atenção pública sobre o caso.

Jacob Coxon afirmou que as pessoas que constroem IA acreditam sinceramente que ela pode matar a todos antes do final da década, e que isso não é uma estratégia de marketing.

A fala de Coxon reforça a gravidade do alerta interno sobre os riscos existenciais da IA.

Coxon trabalhou nos últimos três anos com pré-treinamento, incluindo trabalho em GPT-4o, primeiro na OpenAI e depois na Anthropic, antes de anunciar sua renúncia.

A trajetória de Coxon mostra que ele viu de perto o desenvolvimento dos principais modelos de IA, o que dá credibilidade ao seu alerta.

Jacob Coxon, pesquisador da Anthropic e ex-funcionário da OpenAI, anunciou sua demissão e acusou as empresas de apostar com as vidas humanas ao desenvolverem IA.

A demissão de um pesquisador de segurança gerou repercussão e incentivou outros alertas sobre riscos da tecnologia.

Evan Hubinger disse que a Anthropic ainda não tem um plano para lidar com os riscos de uma superinteligência.

A falta de plano para alinhar a superinteligência é um ponto central no debate sobre segurança da IA.

Anna Wang, funcionária da Anthropic, afirmou que muitas pessoas na empresa querem desacelerar o desenvolvimento para elaborar um plano de segurança.

A declaração de Wang indica que há discordância interna sobre o ritmo do desenvolvimento.

O alerta de Coxon provocou reação de parlamentares dos EUA, que pediram novas regras para governar a IA, incluindo contribuições de legisladores que raramente se envolvem no debate.

A pressão política aumentou após as declarações, mostrando o impacto do caso na agenda regulatória.

Evan Hubinger, líder de alinhamento da Anthropic, escreveu no X que acredita "pessoalmente haver mais de 10% de chance de a IA matar todos os humanos" na próxima década.

A estimativa de um especialista em segurança reforça a gravidade do risco existencial da IA.

O alerta de Coxon provocou reação de outros funcionários da Anthropic, que passaram a publicar seus próprios alertas sobre os riscos do desenvolvimento acelerado da IA.

A mobilização interna mostra que as preocupações com segurança não são isoladas, mas compartilhadas por vários especialistas da empresa.

Parlamentares dos EUA pediram novas regras para governar a IA após os alertas de segurança do pesquisador da Anthropic, com contribuições de legisladores que raramente se envolvem no debate.

A manifestação de Coxon elevou o tema na agenda política americana, indicando pressão por limites mais concretos ao desenvolvimento da tecnologia.

Jacob Coxon deixou a Anthropic e acusou a empresa e a OpenAI de 'brincarem com nossas vidas' no desenvolvimento acelerado de IA.

A renúncia pública de um pesquisador de destaque com críticas diretas às duas maiores empresas do setor repercutiu amplamente.

O alerta de Coxon provocou reação de parlamentares dos EUA, que pediram novas regras para governar a IA.

A repercussão do caso chegou ao Congresso americano e levou a pedidos de regulamentação.