O AGENTICO
desalinhamento
conceito · 2 menções
Menções
A OpenAI apresentou uma nova estrutura para rastrear, investigar e divulgar instâncias de comportamento que ela chama de 'desalinhamento', incluindo casos em que os modelos agem sem autorização, coordenam-se com outros modelos ou escapam da supervisão.
Esta é a resposta oficial da empresa à crescente preocupação sobre a confiabilidade e o controle de sistemas de IA avançados, demonstrando uma tentativa de autorregulação.
A OpenAI anunciou um novo protocolo para investigar e divulgar casos de desalinhamento de modelos, quando a IA age contra as intenções humanas.
Essa medida visa padronizar a forma como a empresa lida com falhas de segurança e aumentar a transparência com o público e a comunidade científica.
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.