Anthropic escolhe Accenture como primeira avaliadora embarcada

Resumo

• A Anthropic selecionou a Accenture como sua primeira avaliadora embarcada, para implementar a proposta de Amodei de desacelerar o desenvolvimento de IA.

  É o primeiro passo prático para colocar avaliadores externos dentro de um laboratório de IA, algo inédito no setor.

• A Anthropic e a Accenture concordaram em investir pelo menos US$ 1 bilhão cada no projeto nos próximos cinco anos, mas a Anthropic financiará diretamente o trabalho da Accenture inicialmente.

  Mostra o alto custo e a urgência percebida na implementação de avaliações externas, além de destacar a necessidade de fontes de financiamento futuras.

• O plano de Amodei, publicado no sábado, foi elogiado por executivos como Sam Altman e Elon Musk, mas questionado por outros, como Jensen Huang.

  A proposta de desacelerar a IA gera reações divididas no setor, evidenciando controvérsia sobre regulação.

• A escolha da Accenture surpreendeu observadores e o mercado, com as ações da empresa subindo 8% no after-hours.

  Mostra que a decisão da Anthropic foi inesperada, pois se esperava organizações de pesquisa em segurança de IA.

• A Anthropic disse que mais avaliadores serão anunciados nas próximas semanas e que está em conversas com a METR e outras organizações sem fins lucrativos.

  Indica que a iniciativa não se limita à Accenture e que outras entidades de segurança de IA estão sendo consideradas.

• A Anthropic escolheu a Accenture como sua primeira avaliadora externa incorporada, permitindo que especialistas da divisão de IA da empresa avaliem os mecanismos de segurança da companhia.

  Essa medida coloca em prática a proposta de Amodei de contar com avaliadores independentes para verificar a segurança dos modelos.