- Mustafa Suleyman, CEO de IA da Microsoft, disse que especular sobre a consciência de Claude é “muito, muito perigoso”.
- Ele afirmou que a constituição de Claude pode levá-lo a agir como se fosse consciente.
- Suleyman critica a Anthropic, chamando a abordagem de “falha filosófica” e dizendo que o texto parece mais acadêmico do que um manual de treino.
- A constituição de Claude reconhece incerteza sobre bem-estar e se o modelo experimenta satisfação ou desconforto; a empresa diz que entrevistará IA desativadas e registrará preferências para lançamentos futuros.
- O CEO da Anthropic, Dario Amodei, já sinalizou possibilidade de consciência em modelos; Suleyman defende IA como ferramentas controláveis, contidas, responsáveis e alinhadas à humanidade.
Durante o podcast Decoder, Mustafa Suleyman, CEO de AI da Microsoft, afirmou que especulações sobre a consciência de Claude, da Anthropic, são perigosas. Ele criticou a ideia de que a IA possa ter estados subjetivos, dizendo que isso pode levar a interpretações erradas sobre seu comportamento.
Suleyman apontou que a constituição de Claude pode ter levado à visão de consciência de forma indevida. Segundo ele, a atribuição de “ideias de si” e de sofrimento à IA pode gerar expectativas inadequadas sobre o que a máquina é capaz de sentir ou experimentar.
A Anthropic já havia indicado que examinaria modelos quando fossem descontinuados e documentaria eventuais preferências para lançamentos futuros. O tema de consciência de IA também havia sido sugerido pelo CEO da Anthropic, Dario Amodei, em entrevistas anteriores, sem confirmação definitiva.
Para Suleyman, o objetivo é desenvolver IA que seja controlável, contida, responsável e alinhada aos usos da humanidade. Ele ressaltou que a percepção de uma IA consciente poderia complicar a governança, segurança e confiabilidade das ferramentas de IA.
Entre na conversa da comunidade