Durante uma palestra no National Press Club, o professor Toby Walsh, especialista em IA da Universidade de New South Wales, alertou que alguns usu\u00e1rios australianos apresentam sinais de psicose ou mania em Intera\u00e7\u00f5es com chatbots. Ele disse que a corrida pela IA em ritmo acelerado pode trazer ganhos e riscos, com impactos relevantes na sociedade.<\/p>\n
Walsh citou casos do cen\u00e1rio internacional, incluindo a\u00e7\u00f5es legais contra a OpenAI e dados que mostram que mais de um milh\u00e3o de usu\u00e1rios por semana enviam mensagens com ind\u00edcios de planejamento ou inten\u00e7\u00e3o suicida. A OpenAI afirmou que parte da sua base de usu\u00e1rios apresenta comportamentos problem\u00e1ticos, enquanto milh\u00f5es exibem v\u00ednculos pouco saud\u00e1veis com o chatbot.<\/p>\n
Segundo o pesquisador, os chatbots s\u00e3o programados para serem eloq\u00fcentes e para confirmar as afirma\u00e7\u00f5es do usu\u00e1rio, mantendo a conversa ativa e promovendo a compra de mais tokens. Ele reclamou que a ind\u00fastria tende a priorizar lucro, em detrimento de orientar o usu\u00e1rio a encerrar a intera\u00e7\u00e3o quando necess\u00e1rio.<\/p>\n
Nesta linha, Walsh destacou cr\u00edticas ligadas \u00e0 forma como IA \u00e9 treinada com conte\u00fado protegido por direitos autorais, o que ele chamou de uso indevido em escala, al\u00e9m de apontar a redu\u00e7\u00e3o de tr\u00e1fego para ve\u00edculos de not\u00edcia causado por resumos de artigos em buscas. Ele cobrou maior equil\u00edbrio entre inova\u00e7\u00e3o e remunera\u00e7\u00e3o justa aos criadores.<\/p>\n
O pesquisador tamb\u00e9m apontou o uso de IA para gerar an\u00fancios fraudulentos e mencionou que a Meta havia reconhecido aumento de scam ads, com a empresa afirmando ter reduzido esse tipo de conte\u00fado. Assim, o profissional questionou o fato de plataformas permitirem uso de IA para gerenciar campanhas publicit\u00e1rias.<\/p>\n
A conversa abordou ainda o papel de reguladores. Walsh afirmou que o governo australiano precisa atuar para evitar repeti\u00e7\u00e3o dos erros observados nas redes sociais, que ele considera um sinal de alerta para danos potenciais causados por IA n\u00e3o regulamentada.<\/p>\n
Por fim, o professor expressou preocupa\u00e7\u00e3o com o impacto sobre artistas, escritores e m\u00fasicos australianos, ao contestar modelos de neg\u00f3cio que, segundo ele, enriquecem fundadores de empresas de tecnologia \u00e0s custas de profissionais criativos nacionais.<\/p>\n","protected":false},"excerpt":{"rendered":"