- Oficiais do grupo ICAC dos EUA dizem que o software de IA da Meta para moderação envia milhares de dicas de abuso infantil de baixa qualidade, consumindo recursos e atrasando investigações.
- As tipicações recebidas, vindas do Instagram, Facebook e WhatsApp, em alguns casos não descrevem crimes, ou faltam imagens/téx tos relevantes para avanço das apurações.
- A quantidade de cybertips recebidos pela ICAC teria dobrado de 2024 para 2025, segundo relatos de agentes, com picos de dicas de menor qualidade, especialmente nos últimos meses.
- Em resposta, a Meta destacou cooperação com autoridades e citou dados de 2024 sobre solicitações emergenciais e prazos de resposta, além de mencionar melhorias no encaminhamento de casos envolvendo menores e suicídio.
- Documentos internos de 2019 indicam preocupações da Meta com criptografia de mensagens no Messenger, tema que gerou críticas de grupos de proteção infantil e levou à implementação de novas funcionalidades de segurança.
O uso de inteligência artificial pela Meta para moderar suas plataformas estaria gerando um volume considerável de relatos inúteis sobre casos de abuso infantil, segundo agentes da rede ICAC dos EUA. Oficiais afirmam que a enxurrada de tip-offs está sugando recursos e retardando investigações em meio a um processo na Justiça do Novo México.
Especialistas da ICAC afirmam receber milhares de dicas por mês que não ajudam a avançar a investigação. Em relatório apresentado em tribunal, um agente descreveu a qualidade ruim dos relatos recebidos, destacando que o número de cybertips quase dobrou de 2024 para 2025.
Também segundo agentes, muitos relatos envolvendo Instagram, Facebook e WhatsApp não contêm elementos criminosos ou estão com imagens, vídeos ou textos ausentes ou censurados. Em alguns casos, informações sugerem crime potencial, mas não permitem identificar o autor.
Filings e alarmes internos
A Meta afirmou que coopera com autoridades para prender criminosos há anos e citou elogios do DoJ e da NCMEC, além de mencionar que, em 2024, recebeu mais de 9 mil pedidos emergenciais de fontes americanas e resolveu a média de 67 minutos. A empresa destacou que reporta imagens de exploração de crianças à NCMEC e ajuda a priorizar relatos.
Trechos de documentos internos de 2019 revelam preocupações da Meta sobre criptografia no Messenger, que poderia dificultar o acesso a conteúdos relevantes para investigações. Em mensagens, executivos discutiram impactos da criptografia na identificação de exploração infantil e em operações de segurança.
Criptografia do Messenger
Em 2019, a empresa estimou que a criptografia poderia deixar de fornecer dados proativamente em centenas de casos de exploração infantil e sextorsão, além de casos ligados a terrorismo. A Meta disse que esses temores motivaram o desenvolvimento de novas ferramentas de segurança para detectar abusos, mesmo em conversas criptografadas.
O processo em curso no Novo México envolve o estado questionando se a empresa priorizou lucro sobre a proteção de crianças. A Meta sustenta que adotou medidas de proteção, como contas de adolescentes com proteções padrão. O caso também envolve reconhecimento público de cooperação com autoridades.
Entre na conversa da comunidade