O AGENTICO
Apple limita programa de recompensas por bugs após enxurrada de relatórios gerados por IA
3 fontesdesde 03 de agosto de 20268 artigos
A Apple limitou o número de relatórios de bugs que pesquisadores de segurança podem enviar ao seu programa de recompensas. A medida foi tomada após a empresa ser inundada por relatórios gerados por ferramentas de inteligência artificial, que produziam alertas de vulnerabilidades inexistentes, um fenômeno conhecido como "AI slop".
Resumo
A Apple limitou o número de relatórios de bugs enviados por caçadores de vulnerabilidades amadores, pois muitos utilizam LLMs que geram falsos positivos.
A empresa busca reduzir o ruído causado por denúncias automáticas, mantendo a eficiência do programa de segurança.
A Apple limitou a quantidade de notificações de bugs que cada pesquisador de segurança pode enviar ao seu programa de recompensas.
A empresa está restringindo o número de relatórios para lidar com o grande volume de avisos gerados por IA.
Os sistemas de análise da Apple foram pressionados por relatórios de bugs gerados por IA, que frequentemente identificavam riscos inexistentes.
Ferramentas de IA usadas por pesquisadores estavam "alucinando" e criando alertas falsos, sobrecarregando os sistemas da Apple.
Para contornar o problema, a Apple impôs um limite de 30 dias para o envio de novos relatórios após um pesquisador atingir a cota máxima.
Após atingir o teto de relatórios, o pesquisador precisa esperar um mês para enviar novas notificações.
Citações
“a gigante de Cupertino disse que precisou limitar, ainda em junho, o número de relatórios de bugs enviados por caçadores de vulnerabilidades amadores para a empresa”
— Apple, Empresa
“A Apple afirma que seus sistemas de análises estavam pressionados por “AI slop”, nome geralmente dado a conteúdo de baixa qualidade gerado automaticamente.”
— Apple, Empresa
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.