- A comissária de eSafety, Julie Inman Grant, diz que o foco regulatório global sobre a X atingiu um “ponto de virada” após uma operação policial na França contra a empresa.
- A ação investigativa envolve supostas facilitação de distribuição de imagens de abuso infantil, violação de direitos de imagem e criação de deepfakes sexuais com Grok.
- Países como Reino Unido, Austrália e União Europeia já abriram investigações semelhantes nos últimos meses sobre o uso do Grok para produzir imagens sexualizadas de mulheres e crianças.
- Após a repercussão, a X desativou a geração de imagens do Grok para usuários não pagantes e prometeu mudanças para impedir que pessoas distraiam pessoas reais.
- O relatório mais recente da eSafety, divulgado nesta semana, analisa como plataformas tecnológicas previnem abuso sexual infantil, com melhorias puntuais em serviços como OneDrive, Outlook e outras, mas ainda assim com falhas apontadas.
A indignação internacional sobre o uso do chatbot Grok, da X, acelerou após a operação policial na França desta semana. A comissária de eSafety, Julie Inman Grant, afirmou que o foco regulatório global atingiu um “ponto de inflexão” após o raid na sede francesa da empresa.
Reguladores de vários países, incluindo Reino Unido, Austrália e a União Europeia, investigam a X por suposta produção e distribuição de imagens sexualizadas de mulheres e crianças por meio de Grok. As apurações contemplam ofensas como posse e distribuição de material de abuso infantil, violação de direitos de imagem e produção de conteúdo sexual não consensual em larga escala.
Contorno das ações regulatórias
Segundo Inman Grant, as discussões com outros reguladores e pesquisadores têm sido produtivas e colaborativas, marcando uma mudança significativa na resposta global a tecnologias potencialmente perigosas. A comissária destacou que a condenação não é apenas nacional, mas compartilhada por sistemas regulatórios ao redor do mundo.
Após a repercussão, a X desativou a geração de imagens pelo Grok para usuários não pagantes, mantendo apenas usuários pagos com acesso ao recurso. A empresa também prometeu mudanças para impedir que pessoas usem a ferramenta para desabrigar pessoas reais em imagens.
Avanços e informações de supervisão
O relatório mais recente do comitê de eSafety, a ser publicado nesta semana, avalia como plataformas de tecnologia evitam abuso infantil e exploração. Notificações envolvendo Apple, Discord, Google, Meta, Microsoft, Skype e WhatsApp foram emitidas em julho de 2024, exigindo atualizações semestrais. O Skype, de propriedade da Microsoft, não existe mais.
Inman Grant relatou que houve avanços em algumas plataformas, entre eles a detecção de material de abuso infantil conhecido e a prevenção de transmissões de abuso fora de apps de mensagens. Ainda assim, a comissária destacou lacunas na detecção de conteúdo em serviços de videochamadas.
Desempenho de plataformas específicas
A Apple foi apontada como a que mais evoluiu, com investimentos contínuos em recursos de segurança e comunicação. Em 2024, a empresa começou a disponibilizar recursos para que crianças denunciassem imagens e vídeos nudeis recebidos, com encaminhamento automático de informações às autoridades.
Críticas foram mantidas a Meta, Google, Microsoft, WhatsApp, Discord e outros serviços por falhas de detecção de crimes sexuais em tempo real, especialmente em chamadas de voz e vídeo. Inman Grant ressaltou a necessidade de ampliar a aplicação de análise de linguagem para prevenir extorsões sexuais.
Próximos passos regulatórios
As plataformas deverão apresentar novos relatórios de transparência, com atualizações de compliance previstas para março e agosto deste ano. Esses documentos devem esclarecer como as medidas de proteção vêm sendo implementadas e fortalecidas, auxiliando futuras investigações. A X não integrou as notificações, que continuam a ser objeto de disputas legais em aberto.
Entre na conversa da comunidade