O AGENTICO
Zvi Mowshowitz
pessoa · 2 menções
O que as fontes disseram sobre Zvi Mowshowitz
Zvi Mowshowitz, especialista em segurança de IA, criticou uma técnica por reduzir a monitorabilidade e potencialmente piorar a segurança do modelo. Ele também expressou preocupação com a recorrência opaca, que poderia dificultar o monitoramento do chain of thought e futuramente destruí-lo. Sugeriu que leis podem ser necessárias para evitar uma 'corrida para o fundo do poço' entre laboratórios de IA devido ao uso de técnicas opacas.
Citações
“Longtime AI safety advocate Zvi Mowshowitz also weighed in and wrote that laws might be necessary to prevent a “race to the bottom” among AI labs.”
Defensor de segurança de IA
Menções
Zvi Mowshowitz, defensor de segurança de IA, sugeriu que leis podem ser necessárias para evitar uma 'corrida para o fundo do poço' entre laboratórios de IA devido ao uso de técnicas opacas.
A fala indica que a preocupação vai além do caso específico, envolvendo um possível padrão de mercado perigoso.
Especialistas em segurança de IA expressaram preocupação com o uso da recorrência opaca, temendo que ela possa dificultar o monitoramento do chain of thought e, no futuro, destruí-lo completamente.
A técnica pode comprometer a capacidade de monitorar o raciocínio da IA, aumentando os riscos de comportamentos indesejados.
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.