O AGENTICO
Karan Joshi
pessoa · 2 menções
MetaCitações
“Independent AI safety and security researcher Karan Joshi extracted a trove of Muse instructions and system prompts through the app’s regular chat interface and shared the findings with Wired.”
Isso demonstra que as instruções internas do sistema podem ser obtidas publicamente via chat, permitindo escrutínio externo do funcionamento da IA.
Pesquisador independente de segurança de IA · ver em Gizmodo ↗
Menções
O pesquisador independente de segurança Karan Joshi extraiu as instruções do sistema do agente de IA Muse da Meta por meio da interface de chat do aplicativo, conforme reportado pela Wired.
Isso demonstra que as instruções internas do sistema podem ser obtidas publicamente via chat, permitindo escrutínio externo do funcionamento da IA.
Pesquisadores obtiveram as instruções do sistema por meio da interface de chat do aplicativo.
A facilidade de extrair prompts internos evidencia falta de proteção contra engenharia reversa e exposição de lógica proprietária.
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.