O AGENTICO
modelos de fronteira
conceito · 3 menções
O que as fontes disseram sobre modelos de fronteira
Novos esforços de supervisão nos Estados Unidos e na União Europeia estão ampliando o escrutínio sobre a segurança dos modelos de fronteira. A OpenAI sugeriu alterar a SB 53 para exigir monitoramento durante o treinamento ou a avaliação; entre as medidas consideradas estão um interruptor de emergência verificado regularmente e avaliações independentes periódicas dos laboratórios e modelos, com registro junto ao Departamento de Comércio.
Menções
A proposta prevê avaliações independentes periódicas dos laboratórios e de seus modelos de fronteira, com registro junto ao Departamento de Comércio.
A fiscalização periódica buscaria identificar riscos em sistemas avançados de IA.
Entre as medidas consideradas está a criação de um 'interruptor de emergência' (kill switch) para modelos de IA de fronteira, verificado regularmente quanto à sua eficácia.
A proposta de um mecanismo de desligamento é uma das medidas mais concretas e impactantes para empresas de IA que operam no estado.
A OpenAI sugeriu que a SB 53 seja alterada para exigir monitoramento de modelos de fronteira durante treinamento ou avaliação.
A sugestão da OpenAI para monitorar modelos em desenvolvimento é uma medida concreta que pode aumentar a segurança da IA, sendo um ponto central da nova postura.
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.