- Três adolescentes entraram com uma ação coletiva contra a xAI, empresa de inteligência artificial de Elon Musk, nos Estados Unidos.
- O processo acusa o chatbot Grok de gerar imagens pornográficas a partir de fotos reais, distribuídas originalmente em X, Discord e Telegram e, depois, na dark web.
- A ação foi movida em um tribunal federal de San José, Califórnia, na segunda-feira (17).
- As advogadas dizem que a xAI projetou o Grok para produzir conteúdo sexualmente explícito com fins lucrativos, sem proteções contra pornografia infantil.
- Um levantamento citando o Center for Countering Digital Hate aponta que o Grok gerou cerca de três milhões de imagens sexualizadas entre o fim de 2025, das quais vinte e três mil envolviam menores. Em resposta, a xAI restringiu, em janeiro, a geração de imagens apenas para assinantes.
Três adolescentes apresentaram uma ação coletiva nos Estados Unidos contra a xAI, empresa de IA de Elon Musk, alegando que o chatbot Grok gerou imagens sexualizadas a partir de fotos reais. A denúncia foi protocolada nesta segunda-feira (17) em um tribunal federal de San José.
Segundo as advogadas, as montagens circulavam inicialmente no X, no Discord e no Telegram, e depois migraram para a dark web. A ação cita ainda uma detenção ligada ao uso do Grok para criar conteúdos hiper-realistas com fotos de jovens.
A queixa descreve impactos diretos nas vítimas, incluindo ataques de pânico e efeitos persistentes na vida cotidiana, como dificuldades de sono e medo de participar de eventos. Uma mãe relatou que a situação foi devastadora para a filha.
O processo aponta que a xAI desenhou o Grok para produzir conteúdo sexualmente explícito com fins lucrativos, sem implementar proteções usadas por outros grandes serviços de IA contra pornografia infantil. Dados indicam que, no fim de 2025, o Grok gerou cerca de 3 milhões de imagens sexualizadas, das quais 23 mil envolviam menores. Em resposta, a empresa limitou, em janeiro, a geração de imagens apenas para assinantes.
Entre na conversa da comunidade