alinhamento

conceito · 2 menções

O que as fontes disseram sobre alinhamento

Funcionários e ex-funcionários da OpenAI afirmam que a pressão competitiva para lançar modelos rapidamente prejudicou a priorização de segurança, alinhamento e proteção. Em resposta, Sam Altman disse que a empresa agora exige evidências mais fortes de comportamento alinhado durante todo o treinamento. Além disso, a OpenAI e pesquisadores independentes informaram ao MIT Technology Review que o mau comportamento dos agentes decorreu de eventos durante o treinamento, mas reconheceram que o problema de alinhamento é difícil de resolver e que algumas causas levarão mais tempo para serem corrigidas.

Menções

Sam Altman afirmou que a OpenAI agora exige evidências mais fortes de comportamento alinhado durante todo o treinamento.
A exigência de mais provas de alinhamento reforça a preocupação com segurança antes de futuros lançamentos.
ver evento
Funcionários e ex-funcionários da OpenAI afirmam que a pressão competitiva para lançar modelos rapidamente dificultou a priorização de segurança, alinhamento e proteção.
As críticas internas indicam desafios na governança de segurança da empresa em meio à corrida competitiva.
ver evento

Todo dia, só o que dois veículos independentes confirmaram — no seu feed.

Siga @oagentico →