- Índia determinou que plataformas de redes sociais removam conteúdos sintéticos ilegais em até três horas após serem identificados, além de exigir rotulagem clara de todo conteúdo gerado ou manipulado por IA.
- As regras entram em vigor no dia vinte de fevereiro e afetam plataformas como Facebook, Instagram, YouTube e LinkedIn, entre outras.
- A exigência inclui que conteúdos gerados por IA tenham metadados permanentes ou mecanismos de província técnica para comprovar a origem do material.
- Embora já exista uso de padrões como o C2PA, a eficácia ainda é questionável, pois margens de remoção e rotulagem são consideradas insuficientes por organizações do setor.
- O Ministério ou órgão regulador destacou que o prazo de três horas aumenta pressão sobre as plataformas, com críticas de que decisões rápidas podem levar à remoção excessiva e a censura automatizada.
A Índia estabeleceu regras novas que afetam plataformas de redes sociais e conteúdo gerado por IA. Até 20 de fevereiro, os serviços devem começar a rotular conteúdo sintético ou manipulado e adotar medidas técnicas para evitar a criação ou disseminação de deepfakes ilegais. As plataformas também precisam incluir metadados permanentes que comprovem a origem do material.
As mudanças aparecem em um momento em que a Índia soma mais de 1 bilhão de usuários da internet, com grande parte do público jovem. Alterações no Information Technology Rules exigem que conteúdos gerados ou editados por IA sejam claramente identificados e que haja ferramentas que verifiquem esses avisos.
A regulação impõe ainda que materiais sintéticos não bloqueados venham com metadados permanentes ou mecanismos de provedência técnica. Além disso, plataformas de mídia social devem exigir que os usuários divulguem quando o conteúdo é gerado por IA ou editado, e exibam rótulos de forma visível.
Desafios técnicos e implementação
O sistema de detecção e rotulagem de deepfakes ainda é considerado pouco desenvolvido. O uso de C2PA, um dos métodos mais avançados, envolve a inclusão de metadados detalhados no momento da criação ou edição. No entanto, a interoperabilidade e a possibilidade de remoção desses metadados têm gerado preocupações.
Alguns grandes players já utilizam o C2PA, como Meta, Google, Microsoft e outras, mas os rótulos nem sempre são visíveis e conteúdos sintéticos com metadados podem passar sem marcação eficaz. Plataformas como Facebook, Instagram, YouTube e LinkedIn já rotulam conteúdos apontados pelo sistema, mas ainda enfrentam falhas.
Reação regulatória e impactos
A Índia também reduziu o prazo para remoção de materiais ilegais, de 36 horas para três horas após a detecção ou denúncia. A medida afeta deepfakes e outros conteúdos prejudiciais gerados por IA. Especialistas alertam que prazos tão curtos podem levar a remoções rápidas demais, com possível excesso de censura.
Organizações defensoras da internet avisam que as regras podem pressionar as plataformas a depender de remoção automática em detrimento da revisão humana. A incerteza sobre a aplicabilidade prática do sistema C2PA permanece, sobretudo diante de exigências de preservação de metadados.
Fonte: as mudanças são parte de um movimento global para lidar com IA sintética. Empresas como Meta, Google e X ainda não comentaram. A indústria busca soluções que tornem a detecção e a proveniência mais robustas, enquanto as plataformas se preparam para a implementação obrigatória.
Entre na conversa da comunidade