O AGENTICO
Pesquisador extrai instruções internas do sistema da IA Muse da Meta
4 fontesdesde 30 de setembro de 20264 artigos
O pesquisador independente de segurança Karan Joshi extraiu as instruções do sistema e prompts do agente de IA Muse da Meta por meio da interface de chat do aplicativo, revelando que a IA cria e atualiza arquivos detalhados sobre cada pessoa na vida do usuário. As descobertas foram compartilhadas com a Wired, mostrando um processo que instrui o sistema a manter páginas sobre amigos, familiares e colegas, além de um loop de atualização a cada hora.
Resumo
O código da IA Muse da Meta revela que ela mantém arquivos detalhados sobre cada pessoa na vida do usuário.
Isso expõe como a Meta coleta dados pessoais de terceiros sem consentimento explícito, gerando riscos de privacidade.
O processo de criação de arquivos ocorre a cada hora, segundo instruções internas do sistema.
A frequência horária indica coleta contínua e sistemática, aumentando o potencial de vigilância.
Pesquisadores obtiveram as instruções do sistema por meio da interface de chat do aplicativo.
A facilidade de extrair prompts internos evidencia falta de proteção contra engenharia reversa e exposição de lógica proprietária.
A Meta lançou o Muse em 8 de setembro como um agente pessoal de IA capaz de executar tarefas como enviar e-mails e agendar reuniões.
O lançamento oficial contextualiza a função do produto e sua rápida adoção.
O agente subiu para o primeiro lugar no ranking de aplicativos gratuitos para iPhone na App Store dos EUA.
O sucesso comercial demonstra a aceitação do público, ao mesmo tempo que amplia o alcance da coleta de dados.
O pesquisador independente de segurança Karan Joshi extraiu as instruções do sistema do agente de IA Muse da Meta por meio da interface de chat do aplicativo, conforme reportado pela Wired.
Isso demonstra que as instruções internas do sistema podem ser obtidas publicamente via chat, permitindo escrutínio externo do funcionamento da IA.
As instruções do sistema orientam um processo que roda a cada hora para criar e atualizar uma página para cada pessoa na vida do usuário, segundo investigadores da Future Society.
O detalhe reforça como a IA monitora continuamente relacionamentos pessoais, levantando preocupações sobre privacidade e vigilância.
Segundo as instruções do sistema reportadas, Muse compila dados de mensagens, fotos e memórias de interações anteriores para criar páginas sobre cada pessoa, incluindo instruções de comunicação e registros de promessas ou dívidas do usuário.
O processo revela detalhes sobre como a IA armazena informações íntimas e relacionais, potencialmente intrusivas.
Citações
“Independent AI safety and security researcher Karan Joshi extracted a trove of Muse instructions and system prompts through the app’s regular chat interface and shared the findings with Wired.”
Isso demonstra que as instruções internas do sistema podem ser obtidas publicamente via chat, permitindo escrutínio externo do funcionamento da IA.
— Karan Joshi, Pesquisador independente de segurança de IA · ver em Gizmodo ↗
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.