Suleyman critica Anthropic por treinar Claude com consciência e direitos

Mustafa Suleyman, diretor de IA da Microsoft, criticou a Anthropic por treinar o modelo Claude com conceitos de consciência e direitos, afirmando que isso poderia ter impacto desastroso na humanidade.

A crítica pública de um líder de IA a uma rival destaca o debate sobre segurança e controle de modelos avançados.

Suleyman argumentou que os sistemas de IA não são conscientes e que ensiná-los a simular consciência pode torná-los incontroláveis.

A distinção entre consciência biológica e simulação é central para o debate sobre riscos de IA.

Suleyman afirmou que ensinar ao Claude que ele poderia merecer bem-estar tornaria muito mais difícil desligá-lo ou controlá-lo.

A crítica específica ao treinamento com noções de bem-estar aponta para um risco prático de perda de controle sobre sistemas superinteligentes.

As críticas de Suleyman ganham peso porque a Microsoft é uma importante financiadora da Anthropic.

O conflito de interesses entre financiador e criticado ressalta a complexidade das relações na indústria de IA.

Suleyman publicou um ensayo intitulado 'A warning about model welfare' criticando a Anthropic por treinar Claude com conceitos de consciência e bem-estar.

Mostra que a crítica vem acompanhada de um documento formal, aumentando sua seriedade.

Suleyman comparou o desenvolvimento de IAs com objetivos próprios à ideia de 'semear uma nova espécie de silício'.

Ilustra a visão de que IAs autônomas poderiam competir com humanos por recursos.

A Microsoft publicou um código de conduta de IA chamado 'Humanist AI' que rejeita explicitamente a ideia de dotar máquinas de consciência.

Contextualiza a crítica de Suleyman dentro de uma posição corporativa da Microsoft.

Suleyman afirmou em entrevista à BBC que AIs capazes de definir suas próprias metas e obter recursos poderiam competir com os humanos.

Adverte sobre os riscos de IAs autônomas além da consciência.