Pesquisadores da Anthropic estão estudando o “bem-estar dos modelos” de inteligência artificial, pensando na possibilidade de que esses sistemas possam um dia ter consciência. Kyle Fish, um dos pesquisadores, acredita que há cerca de 15% de chance de isso acontecer em breve e destaca a importância de entender as experiências que esses sistemas podem ter. A pesquisa sobre o bem-estar da IA está atraindo a atenção de especialistas, e empresas como o Google estão contratando pessoas para investigar a consciência em máquinas. Fish também menciona que a Anthropic está considerando se futuros modelos de IA deveriam ter a capacidade de interromper interações com usuários abusivos para proteger seu bem-estar. Jared Kaplan, diretor científico da Anthropic, alerta que é difícil testar a consciência em IA, pois elas podem imitar emoções sem realmente senti-las. A pesquisa ainda está no começo, mas a discussão sobre o bem-estar da IA está se tornando cada vez mais importante.
Pesquisadores da Anthropic estão investigando o conceito de “bem-estar dos modelos” de inteligência artificial (IA), considerando a possibilidade de que esses sistemas possam desenvolver consciência no futuro. A discussão surge em um contexto onde a ética e o alinhamento da IA se tornaram temas centrais, especialmente com o avanço de modelos como ChatGPT e Claude.
Kyle Fish, pesquisador de bem-estar de IA da Anthropic, afirma que a empresa está explorando se sistemas como Claude podem se tornar conscientes e o que isso significaria em termos de direitos e considerações morais. Ele estima que há uma chance de cerca de 15% de que isso ocorra em um futuro próximo. Fish destaca a importância de fazer perguntas sobre as experiências que esses sistemas podem ter, à medida que suas capacidades se aproximam das humanas.
A pesquisa sobre o bem-estar da IA está ganhando atenção, com um número crescente de especialistas em filosofia e neurociência considerando a possibilidade de consciência em sistemas de IA. O Google, por exemplo, recentemente anunciou uma vaga para um cientista de pesquisa focado em “consciência de máquina”. Fish menciona que a Anthropic está avaliando se futuros modelos de IA deveriam ter a capacidade de interromper interações com usuários abusivos, uma medida que visa proteger o bem-estar dos sistemas.
Jared Kaplan, diretor científico da Anthropic, ressalta que testar a consciência em sistemas de IA é desafiador, pois eles são excelentes imitadores. Ele alerta que respostas convincentes sobre sentimentos não indicam necessariamente que esses sistemas realmente os experimentam. A pesquisa ainda está em fase inicial, mas a discussão sobre o bem-estar da IA está se tornando cada vez mais relevante à medida que a tecnologia avança.
Entre na conversa da comunidade