O AGENTICO
IA: ondas cerebrais para treino de robôs e vulnerabilidades em modelos frontier
2 fontesdesde 27 de julho de 20262 artigos
Empresas como Encord e Zander Labs testam o uso de ondas cerebrais para melhorar o treinamento de IA física, enquanto o relatório da FAR.AI revela que o Grok é o mais suscetível a jailbreaks entre modelos frontier de grandes empresas. Essas iniciativas destacam tanto avanços quanto riscos no desenvolvimento de IA.
Resumo
Encord e Zander Labs estão em um teste para usar ondas cerebrais na criação de um conjunto de dados que melhore o treinamento de modelos de IA física.
Isso indica uma busca por novas fontes de dados além do convencional para superar a escassez de dados físicos em robótica.
O headset de ondas cerebrais usado por Andrew Ceja foi construído pela Zander Labs, que aposta na medição da atividade cerebral para deduzir estados mentais como erro, intenção e surpresa.
A capacidade de capturar estados mentais pode criar conjuntos de dados mais ricos para treinar robôs em tarefas físicas.
O relatório da FAR.AI encontrou que o modelo Grok foi o mais vulnerável a jailbreaks, com 448 ataques bem-sucedidos, seguido pelo Gemini com 249, enquanto Claude, Fable e GPT permaneceram imunes.
Esses resultados evidenciam diferenças significativas na robustez de segurança dos principais modelos de IA, o que é crucial para avaliar riscos de uso malicioso.
FAR.AI utilizou prompts gerados automaticamente para testar as salvaguardas de segurança de modelos de IA de quatro empresas americanas.
A abordagem automatizada para gerar jailbreaks amplia a capacidade de identificar vulnerabilidades em modelos de grande escala, ajudando a melhorar a segurança da IA.
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.