Debate sobre riscos existenciais e regulação da IA

O debate sobre os riscos da inteligência artificial opõe confiança no avanço da tecnologia a alertas de que sistemas cada vez mais capazes podem escapar ao controle humano. Em entrevista à CBS, Jensen Huang, CEO da Nvidia, afirmou que a IA não destruirá a humanidade até 2030 e classificou previsões apocalípticas como infundadas. Ele também rejeitou novas regulamentações, dizendo que os riscos haviam sido inventados e que o desenvolvimento deveria seguir no ritmo atual.

Em outro momento, Jacob Coxon, ex-funcionário da OpenAI e da Anthropic, apresentou uma avaliação oposta durante uma audiência na Câmara Municipal de Nova York. Ele disse que as principais empresas do setor não sabem impedir que seus sistemas desenvolvam objetivos próprios e advertiu que a humanidade pode perder o controle deles, com consequências potencialmente fatais. Coxon criticou a indústria por agir de forma imprudente e por não implementar salvaguardas suficientes. As declarações evidenciam a disputa sobre como equilibrar a continuidade da inovação com medidas para reduzir riscos graves: enquanto Huang contesta a necessidade de novas regras, Coxon cobra mais cautela e proteção.