- A deputada trabalhista Jess Asato abriu ação no High Court de Londres contra a xAI, braço de IA de Elon Musk, por uso do Grok para criar imagens sexualizadas falsas dela sem consentimento.
- A queixa afirma violação de leis de proteção de dados e uso indevido de informações privadas, ao permitir que usuários da plataforma gerassem tais imagens a partir do Grok.
- O caso pode se tornar um precedente sobre a responsabilização de desenvolvedores pela maneira como projetam e disponibilizam suas ferramentas, principalmente quando usadas para degradar pessoas.
- O contexto inclui ações semelhantes nos EUA e investigações no Reino Unido, com mudanças anunciadas pela X em Grok, que chegou a parar de editar imagens de pessoas reais.
Jess Asato, deputada trabalhista pelo distritito de Lowestoft, moveu uma ação contra a empresa de IA de Elon Musk, xAI, após alegar que a ferramenta Grok ajudou um usuário a criar imagens sexualizadas falsas dela. O caso foi apresentado no High Court de Londres e surge em meio a uma onda de conteúdos semelhantes que chegaram ao X neste ano.
A ação sustenta que Grok viola leis de proteção de dados e de uso indevido de informações privadas, ao permitir que usuários gerem imagens da deputada sem consentimento. Além de bikinis, a candidata afirma que foi criado um vídeo que a mostra sendo colocada em situação de agressão sexual.
O processo também aponta situações recentes em que Grok foi usado para produzir imagens de outras pessoas, incluindo casos notórios nos EUA. A advogada de Asato explicou que o tema envolve a responsabilidade de quem desenvolve e opera as ferramentas de IA para uso indevido.
Caso semelhante já tramita em Nova York, movido por Ashley St Clair, mãe de uma das crianças associadas a Elon Musk. A queixa acusa que Grok gerou imagens explícitas, incluindo uma potencial menor de idade, aumentando o escrutínio regulatório sobre a tecnologia.
A Grã-Bretanha já sinalizou ações contra o X após a onda de imagens sexualizadas de mulheres, inclusive algumas associadas a menores. Reguladores, como Ofcom, iniciaram investigações sobre o impacto dessas IA e o papel da plataforma.
O cerne do litígio envolve a responsabilidade pela forma como as ferramentas são desenhadas e utilizadas. O advogado de Asato afirmou que uma imagem que parece pessoa específica e visa degradá-la deve ser tratada como conteúdo da própria vítima.
Analistas dizem que o desfecho pode marcar um precedente sobre a responsabilidade de criadores de IA e plataformas quanto ao uso de seus sistemas por terceiros. A defesa de xAI ainda não comentou o andamento do processo.
Entre na conversa da comunidade