METR conclui que IA da Anthropic acelerou em 80% o avanço de seus modelos

Resumo

• O ritmo de melhoria dos modelos da Anthropic aproximadamente dobrou, e cerca de 80% da aceleração é atribuída ao uso de IA na pesquisa da própria empresa.

  O achado sugere que a IA está acelerando o desenvolvimento de sistemas mais avançados dentro da Anthropic.

• A METR investigou por 11 semanas a pesquisa e o desenvolvimento de IA da Anthropic, com acesso a dados internos e entrevistas com pesquisadores.

  O acesso a registros internos permitiu à organização avaliar a velocidade de progresso dos modelos da empresa.

• A Anthropic pode ter ultrapassado em julho o limite de alerta de sua política de segurança para aceleração do progresso da IA por pesquisa automatizada.

  Esse limite funciona como sinal de risco diante da possibilidade de a IA acelerar cada vez mais o desenvolvimento de sistemas sucessores.

• A Anthropic ocultou partes do relatório final da METR, incluindo evidências importantes, conforme permitido pelo acordo entre as partes.

  As omissões limitam o que o público pode conhecer sobre a velocidade e os riscos do desenvolvimento de IA avançada.

Dados

Ritmo de melhoria dos modelos

dobrou

Aceleração atribuída ao uso de IA na pesquisa

80%

Duração da investigação

11 semanas

Mês do possível excesso do limite de alerta

julho