O AGENTICO
METR
empresa · 9 menções
AnthropicO que as fontes disseram sobre METR
A METR participou, junto com a Redwood Research, de uma investigação da OpenAI, com acesso às instalações e a dados internos da empresa. A Anthropic concedeu a seis pesquisadores da METR acesso a recursos internos para avaliar seus modelos, práticas de segurança e gestão de riscos, incluindo laptops, espaço de escritório e ferramentas semelhantes às usadas por equipes de avaliação de risco. A METR poderá publicar suas avaliações sem veto da Anthropic, embora a empresa possa solicitar remoções em categorias predefinidas e mantenha certos dados e informações fora do alcance dos pesquisadores.
Menções
A Anthropic mantém fora do alcance da METR dados de clientes, informações protegidas por sigilo entre advogado e cliente e detalhes da arquitetura dos modelos.
Essas restrições delimitam quais informações confidenciais os avaliadores externos podem examinar.
A METR poderá publicar suas avaliações de forma independente, sem que a Anthropic tenha direito de vetar a publicação, embora possa solicitar remoções em categorias predefinidas.
A independência editorial da METR permite que suas conclusões sejam divulgadas, com limites para proteger informações específicas.
Os seis pesquisadores da METR receberam laptops da Anthropic, espaço de escritório e acesso a ferramentas internas em nível semelhante ao das equipes de avaliação de risco da empresa.
Esses recursos dão aos avaliadores condições de trabalho próximas às das equipes internas da Anthropic.
A Anthropic concedeu a seis pesquisadores da METR acesso interno a recursos da empresa para avaliar seus modelos, práticas de segurança e gestão de riscos.
O acesso permite que avaliadores externos examinem aspectos da segurança e do gerenciamento de riscos da Anthropic.
A FTC planeja emitir intimações formais e exigir depoimentos de executivos de empresas como OpenAI, Anthropic e METR, com as ordens devendo ser enviadas nas próximas semanas.
As intimações formais tornam a investigação mais rigorosa e podem levar a consequências legais para as empresas se forem encontradas violações.
A Anthropic disse que mais avaliadores serão anunciados nas próximas semanas e que está em conversas com a METR e outras organizações sem fins lucrativos.
Indica que a iniciativa não se limita à Accenture e que outras entidades de segurança de IA estão sendo consideradas.
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.