- O conflito entre os EUA e Israel contra o Irã, há pouco mais de duas semanas, já viu uma intensa disseminação de deepfakes nas redes sociais, com vídeos de explosões, ataques e mortes atribuídas a grandes operações, alguns falsos, como o ataque errôneo a uma escola.
- Segundo a Cyabra, o Irã lidera o movimento, buscando influenciar audiência interna e externa para mostrar que está reagindo e para questionar a legitimidade das ações norte-americanas e israelenses.
- O grupo Handala (Void Manticore), ligado ao Ministério de Inteligência e Segurança do Irã, é apontado como responsável por ataques cibernéticos e pela veiculação de deepfakes envolvendo líderes como o primeiro-ministro Benjamin Netanyahu e o ex-vice-primeiro-ministro Naftali Bennett.
- Os objetivos do Irã incluem aumentar a moral doméstica, ganhar apoio internacional e enfraquecer a moral dos EUA e de Israel, especialmente diante de críticas internas sobre o curso do conflito.
- Autoridades e empresas devem atuar em conjunto para detectar, desmentir e remover deepfakes em tempo real, já que plataformas digitais e ferramentas de geração de imagens e vídeos se tornam cada vez mais acessíveis e diversificadas.
O conflito entre os EUA/Israel e o Irã, que já dura pouco mais de duas semanas, desencadeou uma disseminação maciça de deepfakes. Vários vídeos e imagens manipulados por IA circulam amplamente nas redes, com milhões de visualizações em plataformas como X, Facebook e TikTok. As cenas vão desde explosões em Tel Aviv até supostos ataques a navios norte-americanos, passando por retratos de moradores locais. Muitos conteúdos sugerem uma resposta iraniana, porém grande parte é falsa.
Segundo a Cyabra, empresa que acompanha campanhas de influência, o Irã lidera essa operação de desinformação. O objetivo é influenciar audiências internas e internacionais, apresentando o Irã como agressor que responde a ataques, ao mesmo tempo em que questiona a legitimidade das ações dos EUA e de Israel. A resposta recomendada envolve cooperação entre governos e setores privados para detectar, desmentir e remover esse material.
O grupo Handala, ligado ao Ministério de Inteligência e Segurança do Irã, é apontado como responsável por ataques cibernéticos tradicionais e pela divulgação de deepfakes com figuras de alto escalão, como primeiros-ministros de Israel. Estados e empresas enfrentam o desafio de identificar conteúdos falsos em tempo real para mitigar impactos na opinião pública.
Especialistas destacam que as deepfakes têm múltiplos públicos-alvo: reforçar a moral interna em momentos de fragilidade econômica e repressão a protestos; influenciar opinião internacional para pressionar governos a contornar o conflito; e abalar o morale militar dos EUA e de Israel, buscando reduzir o apoio doméstico à eventual continuidade da intervenção.
A urgência de respostas rápidas cresce, já que plataformas de redes sociais concentram a infraestrutura que hospeda esse conteúdo. Mesmo com investimentos de agências públicas em detecção, a propagação continua e pode moldar percepções amplas sobre o conflito. O desafio envolve também limitar danos sem restringir a liberdade de expressão.
Especialistas apontam a necessidade de parcerias mais amplas entre governos, plataformas, academia e indústria de software para enfrentar o fenômeno. Ferramentas de geração de conteúdo, disponíveis em plataformas como Hugging Face e GitHub, tornam possível criar vídeos, imagens e áudios realistas com prompts simples, aumentando a dificuldade de verificação.
Entre na conversa da comunidade