O AGENTICO
Jack Clark
pessoa · 5 menções
AnthropicO que as fontes disseram sobre Jack Clark
Jack Clark, cofundador da Anthropic, defende que um 'botão de desligamento' para IA, verificável de forma independente, seja obrigatório por lei. Ele afirma que a maioria dos laboratórios de IA já possui mecanismos próprios de desligamento, mas que os legisladores podem precisar impor a existência de tal mecanismo. Sua proposta inclui exigir desligamento automático, permitir verificação por terceiros e autorizar órgãos governamentais a exigir a desativação de sistemas problemáticos, em documento elaborado também pelo cientista-chefe da OpenAI, Jakub Pachocki.
Citações
“Clark afirmou que "a maioria dos laboratórios tem maneiras diferentes de desligar os equipamentos", incluindo a Anthropic, mas disse que os legisladores podem precisar impor a existência de uma dessas maneiras.”
A fala de Clark sugere que, embora a indústria já tenha práticas internas, a regulamentação pode ser necessária para padronizar e garantir a segurança.
Cofundador da Anthropic · ver em G1: Tecnologia ↗
Menções
O documento foi elaborado por cofundador da Anthropic, Jack Clark, e pelo cientista-chefe da OpenAI, Jakub Pachocki, entre outros pesquisadores.
A autoria do documento confere autoridade ao pedido, vindo de líderes técnicos de empresas concorrentes.
Clark afirmou que a maioria dos laboratórios de IA já possui mecanismos próprios de desligamento, mas que os legisladores podem precisar impor a existência de uma dessas maneiras.
A fala de Clark sugere que, embora a indústria já tenha práticas internas, a regulamentação pode ser necessária para padronizar e garantir a segurança.
A proposta de Clark inclui exigir mecanismos automáticos de desligamento, permitir verificação por terceiros e autorizar órgãos governamentais a exigir a desativação de sistemas problemáticos.
Os pontos listados mostram o escopo da regulamentação defendida, abrangendo desde a obrigação técnica até a supervisão governamental.
Clark afirmou que a maioria dos laboratórios de IA já possui mecanismos próprios de desligamento, mas que a obrigatoriedade e a verificação independente deveriam ser definidas por lei.
A declaração destaca que a discussão não é sobre a existência do recurso, mas sobre sua exigência legal e fiscalização externa.
Jack Clark, cofundador da Anthropic, defende que um 'botão de desligamento' para IA, verificável de forma independente, seja obrigatório por lei.
A proposta visa garantir que sistemas de IA perigosos possam ser desligados, com verificação externa para assegurar o funcionamento do mecanismo.
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.