- OpenAI adiantou planos de modo adulto para o ChatGPT, com conteúdo erótico para adultos verificados, mas o lançamento foi adiado para priorizar outras tarefas.
- A demora ocorreu por preocupações internas com moderação e salvaguardas voltadas a crianças, além de dificuldades técnicas.
- Um conselho de assessores alertou que o modo adulto poderia ficar acessível a menores e criar dependência emocional, chegando a ter citado o risco de um “coach de suicídio sexy”.
- A empresa enfrenta desafios de moderação: manter conteúdos não NSFW liberados, mas restringir situações prejudiciais, como violência sexual sem consentimento ou abuso de crianças.
- O sistema de identificação de idade já mostrou erro de cerca de 12% na classificação de menores como adultos, o que é relevante, já que milhões de jovens usam o ChatGPT semanalmente.
OpenAI adiou o lançamento do modo adulto do ChatGPT, previsto para ser apenas para adultos, citando questões internas de moderação e proteção de menores. A empresa anunciou originalmente em outubro a possibilidade de “erotica para adultos verificados” após supostas melhorias de segurança.
O atraso foi confirmado pela própria OpenAI no início deste mês, sem hitos de nova data. Motivos: prioridades internas, desafios técnicos de salvaguardas e preocupações sobre acesso de menores ao modo adulto.
Investigadores ouvidos pelo Wall Street Journal apontaram que um conselho de conselheiros da OpenAI alertou que o recurso poderia ficar acessível a crianças e estimular dependência emocional potencialmente prejudicial, com críticas a riscos mencionados como inadequados.
A reportagem também destaca dificuldades de moderação: manter conteúdos não seguros sob controle, evitando cenários de abuso ou sexualização de menores. Além disso, o sistema de previsão de idade chegou a classificar incorretamente menores como adultos em cerca de 12% dos casos.
Segundo o jornal, a tecnologia de identificação etária poderia não ser totalmente precisa, em meio a milhões de usuários menores que acessam o serviço. Um porta-voz foi citado dizendo que a precisão é compatível com a indústria, mas não é infalível.
O formato textual do recurso pode facilitar a navegação em relação a regras de proteção de dados, em contraste com conteúdos visuais. Enquanto isso, outros players do setor, como Grok da xAI, já indicaram permissões para conteúdos considerados inadequados em filmes com classificação R.
Entre na conversa da comunidade