O AGENTICO
prompt injection
conceito · 2 menções
NaturaO que as fontes disseram sobre prompt injection
A Natura foi condenada por litigação de má-fé ao usar prompt injection em documentos judiciais, resultando em multa de R$ 5 mil e remoção da consumidora do cadastro de inadimplentes. A Anthropic adicionou proteções contra esse tipo de ataque e regras de negação personalizadas ao modo automático do Claude Code. Já a plataforma da Alice testa, defende e monitora modelos de IA contra ataques como jailbreaks e injeção de prompts.
Dados
| Multa por litigação de má-fé | R$ 5 mil |
Menções
A plataforma da Alice testa, defende e monitora modelos de IA contra ataques como jailbreaks e injeção de prompts.
Isso é crucial porque vulnerabilidades em modelos de IA podem levar a usos indevidos e falhas de segurança.
A Natura foi condenada por litigação de má-fé após usar prompt injection em documentos de um processo judicial, com multa de R$ 5 mil e remoção da consumidora do cadastro de inadimplentes.
O caso destaca os riscos legais do uso de técnicas de manipulação de IA no ambiente jurídico brasileiro.
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.