O AGENTICO
Especialistas dos EUA e da China pedem veto a IA em armas nucleares
2 fontesdesde 17 de setembro de 20262 artigos
Especialistas em segurança dos Estados Unidos e da China, ligados à Brookings Institution e à Universidade de Fudan, propuseram regras para impedir que sistemas de inteligência artificial tomem decisões autônomas sobre o uso de armas nucleares ou ataques cibernéticos contra sistemas de comando nuclear. A proposta, divulgada antes de uma reunião entre os presidentes Donald Trump e Xi Jinping, sugere, entre outras medidas, a criação de uma linha direta para incidentes envolvendo IA.
Resumo
Especialistas de segurança dos EUA e da China propõem 'linhas vermelhas' que proíbem a IA de atacar sistemas de comando nuclear ou decidir usar armas nucleares.
A proposta busca estabelecer limites claros para o uso de IA em áreas militares críticas, evitando escaladas acidentais ou decisões autônomas com consequências catastróficas.
A proposta inclui a criação de uma linha direta de comunicação entre os dois países para resolver incidentes envolvendo IA.
Uma linha direta permitiria que os governos esclarecessem rapidamente se um incidente com IA foi acidental, evitando que uma resposta automática fosse interpretada como ataque e levasse a uma escalada.
A recomendação baseia-se em um acordo anterior entre os presidentes Joe Biden e Xi Jinping, de novembro de 2024, sobre controle humano de armas nucleares.
O acordo de 2024 serviu como base para a nova proposta, mostrando um compromisso contínuo dos dois países em relação ao controle humano sobre armas nucleares no contexto da IA.
Especialistas como Carla Freeman, da Universidade Johns Hopkins, questionam a eficácia de tais linhas diretas, citando o incidente do balão espião em 2023.
A dúvida sobre a efetividade das medidas propostas é relevante, pois mostra que, mesmo com canais de comunicação, a cooperação pode falhar em momentos de tensão.
Citações
“Jiang also proposes a hotline for AI incidents. If a defensive AI system automatically responds to suspicious activity, the other side might read it as an attack. A direct line would let one government clarify that an incident was accidental before the situation escalates.”
— Tianjiao Jiang, Especialista da Universidade de Fudan
“Carla Freeman of Johns Hopkins University questions whether such hotlines would even work. During the spy balloon crisis in 2023, China didn't pick up when the US called.”
— Carla Freeman, Especialista da Universidade Johns Hopkins
Todo dia, só o que dois veículos independentes confirmaram — no seu feed.