- Roblox lançou, em tempo real, um recurso de reformulação de chats que usa IA para alterar mensagens com linguagem inadequada, em vez de apenas censurá-las com símbolos.
- O sistema transforma palavras ou frases ofensivas em linguagem mais respeitosa, mantendo a intenção próxima da original.
- Sempre que ocorre a reformulação, todos na sala recebem a notificação de que o texto foi reescrito para manter o convívio civil.
- O recurso funciona apenas em chats dentro de experiências entre jogadores que já passaram pela verificação de idade e que estão em faixas etárias semelhantes.
- A verificação de idade é obrigatória para usar o chat, com regras de convivência entre faixas de idade como, por exemplo, 9–12 com 13–15 anos.
O Roblox passou a usar inteligência artificial para alterar mensagens de chat em tempo real dentro da plataforma. A função, lançada hoje, vai além do filtro atual de palavrões, que substitui termos por símbolos. Agora, trechos ofensivos podem ser reescritos em linguagem mais respeitosa, mantendo a intenção original do usuário, segundo a empresa.
A cada mensagem readequada, todos no chat são informados de que o texto foi reformulado para manter a civilidade. A novidade funciona apenas em chats dentro de experiências compartilhadas por jogadores que concluíram a verificação de idade e que estão em faixas etárias similares.
O sistema funciona assim: ao identificar um termo proibido ou inadequado, o algoritmo propõe uma reformulação que preserve o sentido da mensagem, mas com tom mais adequado. Isso difere do filtro atual, que apenas bloqueia ou substitui palavras por símbolos.
A ferramenta está disponível apenas para chats entre jogadores dentro de uma mesma faixa etária, conforme a verificação de idade concluída. Recentemente, o Roblox passou a exigir checagens de idade para o uso de seus recursos de chat, restringindo a comunicação entre grupos etários diferentes.
Contexto e comparações
O recurso do Roblox se aproxima de práticas de moderação de outras plataformas de jogos. O Minecraft, por exemplo, também filtra palavrões em chats, mas utiliza substituição por símbolos ou bloqueios, sem reescrever mensagens.
Entre na conversa da comunidade