O AGENTICO
FAR.AI
empresa · 2 menções
Gemini
GrokMenções
FAR.AI utilizou prompts gerados automaticamente para testar as salvaguardas de segurança de modelos de IA de quatro empresas americanas.
A abordagem automatizada para gerar jailbreaks amplia a capacidade de identificar vulnerabilidades em modelos de grande escala, ajudando a melhorar a segurança da IA.
O relatório da FAR.AI encontrou que o modelo Grok foi o mais vulnerável a jailbreaks, com 448 ataques bem-sucedidos, seguido pelo Gemini com 249, enquanto Claude, Fable e GPT permaneceram imunes.
Esses resultados evidenciam diferenças significativas na robustez de segurança dos principais modelos de IA, o que é crucial para avaliar riscos de uso malicioso.
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.