Roblox внедряет ИИ для перефразирования чатов и смягчения нецензурной лексики
Roblox обновил систему фильтрации чата, заменяя привычные цензурные «#####», которые закрывали запрещённые слова, на автоматическое перефразирование сообщений с использованием искусственного интеллекта. Теперь вместо того чтобы просто вычёркивать ругательства и оскорбления, ИИ переписывает сообщения так, чтобы сохранить смысл, но исключить нецензурные выражения. Например, фраза «oh shit, are you OK?» превратится в «are you OK?», а «hurry tf up» — в «hurry up», даже если грубое слово лишь подразумевается.
Вся переписка с «зачищенными» сообщениями остаётся видимой в изменённом виде для всех участников чата, при этом отправителю приходит предупреждение о нарушении правил. Этот подход меняет игру в области онлайн-безопасности — вместо резких блокировок и полной цензуры Roblox заботится о более деликатном взаимодействии, пытаясь сохранить естественность общения.
Как работает AI-перефразирование в Roblox
Новая система базируется на специализированных моделях ИИ, обученных на огромных массивах чатов из игрового сообщества. Если модель не может однозначно оценить значение нового сленга или неясного выражения, оно передаётся на рассмотрение более сложной продвинутой нейросети, анализирующей контекст. Это помогает Roblox оперативно блокировать не только устаревшие, но и свежие способы обхода цензуры, включая хитрые сокращения и замены букв цифрами.
За попытки систематически обходить фильтры или повторное употребление запрещённых слов предусмотрены стандартные меры наказания согласно правилам сообщества. При этом компания признаёт, что новая технология может ошибаться с false positives — однако считает, что ИИ уже значительно улучшил точность фильтрации по сравнению с традиционным подходом.
Игровой контекст и проблемы безопасности
Обновление системы чата происходит в критический момент для Roblox. Летом компания внедрила технологию распознавания лиц для разделения пользователей по возрастным группам и защиты детей от контактов со взрослыми, однако юридические претензии не прекратились — власти нескольких американских штатов, включая Небраску, предъявляют Roblox обвинения в недостаточной защите детской аудитории.
Именно на фоне судебных исков Roblox активно развивается в сфере safety-tech: от блокировок неприемлемого контента к более интеллектуальным системам, способным не только запрещать, но и смягчать высказывания пользователей, что, по задумке разработчиков, снижает агрессию и конфликтность в чате, делая общение более приемлемым для аудитории всех возрастов.
По сути, решение с ИИ-перефразированием — следующий шаг после механического удаления слов и попытка учесть нюансы живого общения, где простое удаление может портить смысл или приводить к непонятным сообщениям с многочисленными символами. Такой подход близок к тому, что применяют и другие крупные платформы, работающие с пользовательским контентом в реальном времени.
Перспективы автоматической модерации с помощью ИИ
Автоматизация и применение искусственного интеллекта в контент-модерации давно не новость, но Roblox, пожалуй, стоит на пороге важного экспериментального этапа. Умение ИИ не просто блокировать, а адекватно переписывать и смягчать высказывания, сохраняя логику и уважая контекст, может стать ориентиром для других онлайн-платформ.
Однако успех зависит от способности модели быстро обучаться новым видам сленга и обходным манёврам пользователей, не превращая общение в шаблонную и чрезмерно формальную переписку. Наблюдать, как Roblox будет балансировать между свободой слова и безопасностью, будет интересно не только геймерам, но и специалистам в области цифровой этики и технологий безопасности.
