- MPF, ANPD e Senacon avaliam respostas da plataforma X e dizem que providências apresentadas para a ferramenta Grok foram insuficientes para barrar conteúdos sexualizados gerados pela IA.
- Recomendações anteriores pediam procedimentos para identificar, revisar e remover conteúdos gerados pelo Grok; X informou ter removido milhares de publicações e suspendido centenas de contas, mas sem evidências técnicas que comprovem a efetividade.
- Em 11 de março, as três instituições determinaram medidas imediatas para impedir a produção de conteúdo sexualizado envolvendo menores e adultos sem consentimento, além de exigir informações sobre as ações já adotadas.
- MPF exige relatórios mensais sobre atuação do X, incluindo números de postagens nocivas derrubadas e de contas suspensas, sob risco de multa diária e responsabilização por desobediência.
- ANPD, MPF e Senacon seguem cooperando na apuração; pedido inclui medidas que abrangem todas as versões do Grok e relatório métrico detalhado de moderação e remoção de conteúdos.
O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Senacon concluíram que as respostas da plataforma X são insuficientes para conter o uso inadequado da ferramenta de IA Grok. O objetivo é impedir a geração de imagens sexualizadas envolvendo pessoas sem consentimento.
As instituições já haviam emitido recomendações ao X no mês anterior, cobrando identificação, revisão e remoção de conteúdos gerados pelo Grok. A avaliação indica que não houve evidências técnicas suficientes de monitoramento e eficácia das medidas anunciadas pela plataforma.
Em nova manifestação, divulgada nesta quarta-feira, 11, as três entidades exigiram medidas imediatas para impedir a produção de conteúdos sexualizados de menores e de adultos sem consentimento a partir do Grok. Também foi solicitada transparência sobre as providências adotadas.
O MPF requisitou que o X apresente relatórios mensais com dados sobre ações contra deepfakes envolvendo crianças, adolescentes e adultos sem autorização, incluindo números de postagens removidas e contas suspensas. A ANPD e a Senacon reforçaram a necessidade de abrangência de medidas para todas as versões do Grok.
A medida cautelar administrativa da Senacon exigiu comprovação de providências e o envio de relatório métrico detalhado. O documento deve trazer dados verificáveis sobre identificação, moderação e indisponibilização de conteúdos, além de prazos de resposta e critérios técnicos utilizados.
Cada órgão atua de forma coordenada na apuração do uso indevido da ferramenta Grok, com procedimentos administrativos abertos. A plataforma pode enfrentar sanções administrativas, multas diárias e ações legais caso haja descumprimento.
A redação busca aprofundar como as instituições avaliam o alcance das medidas e quais impactos potenciais podem advir para a plataforma caso persista a violação das recomendações. A equipe do X não se pronunciou até o momento.
Entre na conversa da comunidade