Roblox substitui censura tradicional por IA que reescreve xingamentos automaticamente no chat

A moderação de conteúdo em jogos online sempre foi um desafio delicado. De um lado, empresas precisam proteger jogadores mais jovens de linguagem inadequada. Do outro, sistemas tradicionais de censura costumam ser frustrantes e limitados. Agora, Roblox está mudando completamente essa dinâmica ao usar inteligência artificial não para bloquear, mas para reescrever mensagens com palavrões antes que elas cheguem ao chat.

A plataforma de criação de jogos, que reúne milhões de jogadores diariamente — muitos deles crianças e adolescentes — anunciou que está implementando um sistema de IA capaz de reformular frases inteiras. Em vez de transformar “oh shit, are you OK?” naquele clássico “oh ####, are you OK?”, a mensagem aparece simplesmente como “are you OK?”. O palavrão some, mas a intenção da frase permanece intacta.

Como a IA entende o contexto e reformula as frases

Rajiv Bhatia, vice-presidente de Produto de Usuário e Descoberta da Roblox, explicou em um post oficial que a empresa sempre usou filtros baseados em IA para bloquear texto problemático — aqueles famosos sinais de cerquilha (#####) que todo jogador conhece. “Hoje, estamos adicionando um recurso adicional para ajudar a manter o chat civilizado: estamos usando IA para reformular mensagens automaticamente, começando com palavrões”, disse.

O sistema funciona em tempo real. Quando um jogador digita algo como “hurry tf up”, a IA identifica a sigla problemática e reformula a mensagem para “hurry up” antes de enviá-la ao chat público. Todos os participantes veem que a mensagem foi reformulada pela IA, mas apenas o autor recebe um aviso sobre o uso de linguagem inadequada.

Isso representa uma evolução significativa em relação aos métodos tradicionais. Em vez de simplesmente apagar palavras e deixar buracos incompreensíveis nas frases, a IA mantém a comunicação fluida e compreensível, enquanto ainda aplica as diretrizes da comunidade.

IA aprende com gírias e tenta se adaptar constantemente

O grande diferencial dessa abordagem está na capacidade de aprendizado contínuo. A linguagem online evolui rapidamente — novas gírias e formas de contornar filtros surgem o tempo todo. Para lidar com isso, Roblox treinou o sistema com modelos especializados baseados em amostras reais de conversas do jogo.

Quando a IA encontra uma palavra ou expressão que não consegue classificar imediatamente, ela recorre a um modelo maior e mais sofisticado, capaz de deduzir o significado pelo contexto. Isso ajuda o sistema a identificar tentativas de burlar os filtros, como o uso de leet-speak (substituição de letras por números ou símbolos).

“Nossos experimentos mostram que essa abordagem combinada melhorou significativamente nossos filtros”, afirmou Bhatia. “Os filtros agora conseguem detectar melhor leet-speak e tentativas mais sofisticadas de contornar nosso sistema.”

Por que isso importa além dos jogos

Essa mudança não acontece no vácuo. Roblox está sob pressão crescente de autoridades sobre segurança infantil. Apenas dois meses atrás, a plataforma introduziu reconhecimento facial para separar usuários por faixa etária e limitar interações entre crianças e adultos.

Mesmo com essas medidas, processos judiciais continuam surgindo. Nebraska entrou com uma ação judicial contra a empresa na quarta-feira, acusando a Roblox de falhas na proteção de menores — juntando-se a Texas, Flórida, Louisiana, Kentucky e outros municípios que já moveram ações semelhantes.

Nesse contexto, a implementação de uma IA capaz de moderar conversas em tempo real sem destruir a experiência de jogo é estratégica. Mostra investimento em segurança sem prejudicar a interação social que mantém os jogadores engajados.

O que muda para os jogadores

Na prática, quem joga Roblox verá menos mensagens fragmentadas e confusas no chat. A comunicação fica mais natural, mesmo quando alguém comete um deslize verbal. Isso é especialmente importante em situações de jogo onde timing e clareza são essenciais — como em partidas competitivas ou momentos de cooperação que exigem coordenação rápida.

Porém, o sistema não é carta branca para tentar burlar as regras. Jogadores que insistirem em usar linguagem proibida ou tentarem contornar repetidamente o filtro ainda enfrentarão punições conforme as diretrizes de Padrões da Comunidade. A diferença é que agora há uma camada adicional de educação: o jogador é avisado imediatamente quando a IA reformula sua mensagem, criando um momento de aprendizado em vez de apenas frustração.

A Roblox admite que falsos positivos ainda podem ocorrer e que o sistema precisará de tempo para aprender novas expressões. Mas a expectativa é que a IA acerte na maioria dos casos, tornando-se mais precisa com o tempo.

Uma nova era na moderação de conteúdo

O que Roblox está fazendo vai além de uma simples atualização técnica. Representa uma mudança filosófica sobre como plataformas podem equilibrar liberdade de expressão com responsabilidade, especialmente em ambientes frequentados por menores de idade.

Durante anos, a indústria de jogos tratou moderação como um problema binário: bloquear ou permitir. Essa nova abordagem sugere um caminho intermediário, onde a tecnologia atua mais como um editor discreto do que como um censor rígido. É uma solução que reconhece a natureza humana de cometer erros verbais sem transformar cada deslize em uma barreira para comunicação.

Se funcionar conforme o prometido, esse modelo pode se tornar referência para outras plataformas que lutam com os mesmos desafios. Afinal, o problema de moderar milhões de conversas simultâneas não é exclusivo do Roblox — é universal na era digital. E soluções que conseguem escalar sem sacrificar nem segurança nem experiência do usuário são raras.

Resta saber se a IA conseguirá acompanhar a criatividade infinita dos jogadores em inventar novas formas de falar o que não devem. Mas pelo menos agora, quando alguém perguntar “are you OK?”, a resposta não será “#### ## ##”.

Fonte: https://www.cnet.com/tech/gaming/roblox-taps-ai-to-censor-all-of-those-dirty-words/