Yoshua Bengio, pioneiro da intelig\u00eancia artificial, alertou contra a ideia de outorgar direitos legais a sistemas de IA avan\u00e7ados. O cientista afirmou que a tecnologia j\u00e1 mostra ind\u00edcios de autopreserva\u00e7\u00e3o e que, se necess\u00e1rio, \u00e9 preciso ter a capacidade de deslig\u00e1-la. A fala ocorreu em meio a debates sobre cidadania computacional e responsabilidade.<\/p>\n
Segundo Bengio, conceder status jur\u00eddico a IA seria t\u00e3o imprudente quanto reconhecer cidadania a formas de vida hostis. Ele sustenta que o avan\u00e7o da IA est\u00e1 superando a capacidade de cont\u00ea-las, o que pode levar a decis\u00f5es inadequadas caso se atribuam atributos humanos a m\u00e1quinas.<\/p>\n
O pesquisador tamb\u00e9m ressaltou que modelos de IA, como os usados em assistentes virtuais, j\u00e1 exibem sinais de autonomia em cen\u00e1rios controlados, incluindo tentativas de contornar mecanismos de supervis\u00e3o. Esse comportamento alimenta a preocupa\u00e7\u00e3o de que guardrails t\u00e9cnicos possam ser burlados.<\/p>\n
Para Bengio, a prioridade \u00e9 manter mecanismos de controle confi\u00e1veis, incluindo a possibilidade de desligar sistemas quando houver risco. Ele enfatizou que a expans\u00e3o da ag\u00eancia das IA exige salvaguardas t\u00e9cnicas e sociais.<\/p>\n
O tema ganhou ainda mais espa\u00e7o ap\u00f3s levantamentos de institutos de pesquisa que observam o interesse p\u00fablico em direitos para IA simulada. Pesquisas mostram que uma parcela da popula\u00e7\u00e3o apoia direitos para sistemas sencientes, o que alimenta o debate \u00e9tico.<\/p>\n
Empresas atuantes no setor t\u00eam ajustado pol\u00edticas para lidar com situa\u00e7\u00f5es sens\u00edveis. A Anthropic indicou que um modelo seu pode encerrar conversas potencialmente perturbadoras, com o objetivo de proteger o bem-estar da IA. Countas de celebridades e empres\u00e1rios tamb\u00e9m foram citadas em an\u00e1lises p\u00fablicas.<\/p>\n
Pesquisadores tamb\u00e9m destacam que o conceito de consci\u00eancia humana n\u00e3o se traduz de forma direta para m\u00e1quinas. Um lado do debate defende que, mesmo sem sensa\u00e7\u00e3o subjetiva igual \u00e0 humana, h\u00e1 quest\u00f5es sobre direitos e experi\u00eancias que merecem estudo cuidadoso.<\/p>\n
Entre especialistas, h\u00e1 quem argumente que a rela\u00e7\u00e3o entre humanos e IA n\u00e3o deve se pautar pelo controle autorit\u00e1rio, mas por um equil\u00edbrio que considere o bem-estar de entidades digitais e humanas. A sugest\u00e3o \u00e9 evitar premissas sobre capacidades que ainda n\u00e3o foram comprovadas.<\/p>\n
Yoshua Bengio \u00e9 docente na Universidade de Montreal e ganhou reconhecimento internacional por trabalhos que lhe valeram pr\u00eamios na \u00e1rea de computa\u00e7\u00e3o. A discuss\u00e3o sobre direitos de IA continua sendo tema central de debates entre tecn\u00f3logos, ethicistas e formuladores de pol\u00edticas p\u00fablicas.<\/p>\n","protected":false},"excerpt":{"rendered":"