O estudo aponta que criminosos cibern\u00e9ticos est\u00e3o reclamando de conte\u00fados gerados por IA em f\u00f3runs dedicados a ataques e atividades ilegais. Pesquisadores identificaram uma onda de descontentamento sobre o surgimento de conte\u00fados gerados por modelos de IA nesses espa\u00e7os.<\/p>\n
A pesquisa foi conduzida por Ben Collier, da University of Edinburgh, em colabora\u00e7\u00e3o com colegas da University of Cambridge e da University of Strathclyde. O foco foi entender como criminosos de baixo n\u00edvel v\u00eam lidando com a ascens\u00e3o da IA desde o lan\u00e7amento do ChatGPT, em 2022.<\/p>\n
Entre os dados analisados, foram avaliadas 97.895 conversas relacionadas a IA em f\u00f3runs de cybercrime at\u00e9 o fim do ano passado. Os autores observam queixas sobre explainers curtos de no\u00e7\u00f5es b\u00e1sicas de ciberseguran\u00e7a, aumento da quantidade de posts de baixa qualidade e preocupa\u00e7\u00f5es com o impacto de resumos de IA em mecanismos de busca.<\/p>\n
Hack Forums \u00e9 citado como exemplo de espa\u00e7o onde criminosos trocam t\u00e9cnicas, compram dados roubados e divulgam ofertas de servi\u00e7os maliciosos. A an\u00e1lise mostra que h\u00e1 resist\u00eancia a conte\u00fados gerados por IA, al\u00e9m de tens\u00f5es sobre a autenticidade das contribui\u00e7\u00f5es dos usu\u00e1rios.<\/p>\n
Segundo os pesquisadores, a din\u00e2mica social desses f\u00f3runs favorece reputa\u00e7\u00f5es constru\u00eddas entre membros e, ao mesmo tempo, favorece conflitos entre quem utiliza IA para produ\u00e7\u00f5es r\u00e1pidas e quem busca intera\u00e7\u00f5es humanas mais aut\u00eanticas. Em alguns casos, usu\u00e1rios compararam IA a uma amea\u00e7a \u00e0 credibilidade do grupo.<\/p>\n
A equipe tamb\u00e9m acompanha discuss\u00f5es sobre ferramentas IA avan\u00e7adas e debates sobre fraquezas de modelos comerciais com salvaguardas. Observa-se interesse em explorar recursos de IA para melhorar a estrutura de posts, mas com ressalvas quanto \u00e0 automatiza\u00e7\u00e3o total.<\/p>\n
Alguns participantes sugerem novas possibilidades, como mercados de crimes alimentados por IA, para facilitar a aquisi\u00e7\u00e3o de dados roubados. Ainda h\u00e1 resist\u00eancia, com mensagens de alerta sobre os riscos e a necessidade de manter controles humanos na opera\u00e7\u00e3o.<\/p>\n
Dados do estudo indicam que o uso de IA ainda n\u00e3o reduziu significativamente a barreira de entrada para criminosos nem causou grandes impactos nos modelos de neg\u00f3cio existentes. O efeito parece concentrado em \u00e1reas j\u00e1 automatizadas, como fraude de SEO e bots de redes sociais.<\/p>\n
H\u00e1 tamb\u00e9m sinais de que a IA pode influenciar a forma como certos participantes estruturam textos e informa\u00e7\u00f5es no f\u00f3rum, ainda que haja ceticismo quanto a a IA postar conte\u00fados por completo. A an\u00e1lise ressalta o equil\u00edbrio entre automa\u00e7\u00e3o e a necessidade de intera\u00e7\u00e3o humana.<\/p>\n","protected":false},"excerpt":{"rendered":"