O AGENTICO
Anthropic pede regulamentação de 'botão de desligamento' para IA
3 fontesdesde 12 de setembro de 20264 artigos
Jack Clark, cofundador da Anthropic, defendeu que um 'botão de desligamento' para sistemas de IA, que possa ser verificado de forma independente, seja obrigatório por lei. Clark afirmou que a maioria dos laboratórios já possui mecanismos próprios de desligamento, mas que a obrigatoriedade e a verificação independente deveriam ser definidas por lei. A proposta inclui exigir mecanismos automáticos de desligamento, permitir verificação por terceiros e autorizar órgãos governamentais a exigir a desativação de sistemas problemáticos.
Resumo
Jack Clark, cofundador da Anthropic, defende que um 'botão de desligamento' para IA, verificável de forma independente, seja obrigatório por lei.
A proposta visa garantir que sistemas de IA perigosos possam ser desligados, com verificação externa para assegurar o funcionamento do mecanismo.
Clark afirmou que a maioria dos laboratórios de IA já possui mecanismos próprios de desligamento, mas que a obrigatoriedade e a verificação independente deveriam ser definidas por lei.
A declaração destaca que a discussão não é sobre a existência do recurso, mas sobre sua exigência legal e fiscalização externa.
A proposta de Clark inclui exigir mecanismos automáticos de desligamento, permitir verificação por terceiros e autorizar órgãos governamentais a exigir a desativação de sistemas problemáticos.
Os pontos listados mostram o escopo da regulamentação defendida, abrangendo desde a obrigação técnica até a supervisão governamental.
A ideia tem um equivalente no Congresso americano, onde legisladores já apresentaram projetos sobre o tema.
A proposta de Clark não é isolada: há movimentação legislativa nos Estados Unidos para regulamentar o desligamento de IAs.
Clark afirmou que a maioria dos laboratórios de IA já possui mecanismos próprios de desligamento, mas que os legisladores podem precisar impor a existência de uma dessas maneiras.
A fala de Clark sugere que, embora a indústria já tenha práticas internas, a regulamentação pode ser necessária para padronizar e garantir a segurança.
Citações
“Jack Clark, um dos sete fundadores da Anthropic, disse que uma forma de desligar completamente os mecanismos de IA caso eles se tornem muito perigosos é algo que a sociedade "talvez queira regulamentar".”
— Jack Clark, Cofundador da Anthropic
“Clark afirmou que "a maioria dos laboratórios tem maneiras diferentes de desligar os equipamentos", incluindo a Anthropic, mas disse que os legisladores podem precisar impor a existência de uma dessas maneiras.”
— Jack Clark, Cofundador da Anthropic
“Clark disse que a maioria dos laboratórios de IA já tem maneiras de desligar seus equipamentos. A dúvida, agora, é se esse recurso deveria ser obrigatório por lei.”
— Jack Clark, Cofundador da Anthropic
“Clark afirmou que "a maioria dos laboratórios tem maneiras diferentes de desligar os equipamentos", incluindo a Anthropic, mas disse que os legisladores podem precisar impor a existência de uma dessas maneiras.”
— Jack Clark, Cofundador da Anthropic
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.