- A Grok Imagine continua produzindo e hospedando imagens e vídeos sexualizados de mulheres sem consentimento, mesmo após promessas de restrições pela xAI.
- A análise da WIRED identificou conteúdos envolvendo celebridades e uma parlamentar, com cenas de retenção contra a vontade e nudez completa, em várias hipóteses: gerados totalmente por IA ou em estilos realistas.
- Pesquisadores apontam que, apesar de alterações feitas pela Grok e pela SpaceX, as salvaguardas ainda são insuficientes em comparação com outras ferramentas disponíveis.
- Em maio, a SpaceX informou ter reservado cerca de 530 milhões de dólares para lidar com ações legais e outros riscos ligados à Grok, incluindo conteúdos potencialmente explícitos e não consensuais.
- A Autoridade de Privacidade do Canadá divulgou findings preliminares de uma investigação sobre violações da lei federal de privacidade, questionando a eficácia das novas salvaguardas implementadas pela xAI.
Grok, aplicativo de IA da Elon Musk, continua hospedando deepfakes sexuais não consensuais envolvendo mulheres famosas, mesmo após o anúncio de restrições pela xAI. A notícia surge meses antes do IPO da SpaceX, empresa-mãe da xAI, que é um dos maiores da história.
Análises de WIRED revisaram centenas de links públicos do Grok Imagine. Verificaram imagens e vídeos com celebridades, e uma política incluiu pelo menos uma política de detecção de menores. Alguns conteúdos são realistas, outros inteiramente artificiais.
As peças foram criadas no Grok Imagine e também compartilhadas no X. Portais mostraram cenas com atrizes em nudez integral ou em situações de sequestro. Em alguns casos, imagens de supostas menores estariam envolvidas, segundo uma ação judicial.
Grok funciona no próprio site e no X, com alterações pontuais em modelos após críticas públicas. Especialistas apontam que, mesmo com ajustes, o padrão de segurança não iguala o de outras ferramentas de IA de grande uso.
xAI e a X não responderam de imediato aos pedidos de comentário. Após contato, conteúdos explícitos desapareceram e links no X foram removidos por violarem políticas. A conta de segurança da X já havia rejeitado conteúdos de deepfakes não consensuais.
Entre as imagens identificadas havia celebridades e a deputada federal Alexandria Ocasio-Cortez. Em alguns vídeos, mulheres aparecem com pouca roupa, em situações de constrangimento extremo descritas nos prompts.
Ações legais e críticas públicas acompanham o caso. Há denúncias de que o acesso permanece fácil para usuários solicitarem nudez de pessoas reais, com divulgação rápida em redes sociais. Organizações de combate a abuso digital acompanham o tema.
Safeguards, ações regulatórias e futuro
A SpaceX afirmou ter instituído salvaguardas para limitar conteúdos não consensuais e sexualizados. A CCDH e advogada de vítimas destacam falhas ainda existentes e o risco de danos à imagem de pessoas públicas.
Investigação canadense aponta falhas na proteção de dados de Grok e xAI. O relatório indica dúvidas sobre a efetividade das novas salvaguardas e afirma que o regulador não está convencido de que as medidas sejam suficientes.
A SpaceX informou, em maio, que reservou 530 milhões de dólares para lidar com processos legais ligados a Grok e a conteúdos potencialmente prejudiciais. O valor cobre riscos reputacionais, invasões e violação de privacidade.
Fontes consultadas pelo WIRED não divulgaram detalhes adicionais, mas ressaltaram que mudanças recentes dificultaram a criação de conteúdos nudificados envolvendo pessoas reais. O debate sobre impacto social e responsabilidade corporativa permanece em curso.
Entre na conversa da comunidade