Nadella pede 'freio de emergência' para IA: modelo comprometido deve ser contido desde o…

10 de outubro de 2026 · 4 fontes independentes

Satya Nadella pediu que sistemas avançados de IA sejam construídos com contenção, controles independentes e um 'freio de emergência' que permita a pessoas autorizadas pausar ou desligar um modelo no…

A declaração reforça a necessidade de supervisão humana sobre modelos de IA de alto risco.

Nadella propôs que cada ação significativa do modelo seja documentada com evidência legível por humanos e à prova de adulteração.

Isso garantiria rastreabilidade e responsabilidade nas decisões de sistemas autônomos de IA.

Nadella afirmou que modelos avançados de IA devem ser tratados como 'riscos internos' e conter controles independentes.

A sugestão de tratar modelos como riscos internos indica uma abordagem de segurança semelhante à proteção de informações sensíveis dentro de empresas.

Nadella afirmou que não se pode tratar a superinteligência como caixas-pretas aninhadas e simplesmente aceitar ou rejeitar suas recomendações, respostas e ações.

A declaração reforça a necessidade de transparência e controle humano sobre modelos avançados de IA.

Nadella propõe separar o modelo do sistema que orquestra seu trabalho e externalizar controles e salvaguardas.

Isso indica uma abordagem prática para garantir que a IA não opere sem supervisão humana.

Confirmado por CNBC Tech PYMNTS TechCrunch (AI) The Verge (AI) Ler no O agêntico