Roblox начал использовать ИИ для умного редактирования нецензурной лексики в чате
В Roblox теперь не просто блокируют нецензурную лексику в игровом чате — искусственный интеллект переписывает такие сообщения, чтобы сохранить их читаемость без запрещённых слов. Этот шаг стал логичным развитием системы фильтрации, которая раньше заменяла брань на решётки. Новый подход делает игровой процесс более вежливым без грубых обрывков текста.
Раньше Roblox, как и многие другие игры, просто удалял или маскировал проблемные слова, заменяя их набором символов «#####». Теперь же сообщения, содержащие неприличные выражения, автоматически переписываются ИИ: например, фраза «oh shit, are you OK?» превращается в нейтральное «are you OK?», а «hurry tf up» — в «hurry up», причём система понимает даже неявные вариации.
Отличие нового механизма ещё в том, что все участники чата видят только итоговое переформулированное сообщение, без громоздких #####, а отправитель дополнительно получает предупреждение о нарушении правил. Так Roblox не только очищает коммуникацию, но и учит игроков контролировать язык.
Как работает новая система и что с новым сленгом
ИИ-фильтр обучается на основе крупных языковых моделей, дообученных на примерах игровых чатов и специальных словарей нецензурных выражений. При столкновении с новым сленгом или двусмысленными словами система обращается к более мощной модели, чтобы понять контекст и решить, стоит ли скрывать или переписывать сообщение.
Roblox признаёт, что новые сленговые выражения появляются быстро, и фильтр не сразу может всё распознавать, что значит возможные ложные срабатывания или пропуски. Тем не менее именно сочетание нескольких уровней ИИ позволило заметно улучшить точность по сравнению с предыдущими системами.
Также в компании подчёркивают, что за повторные попытки обойти фильтры игроков ждут обычные санкции в соответствии с Правилами сообщества Roblox. Это не просто технология, а часть комплексной стратегии по поддержанию безопасности и вежливости в игровом пространстве, особенно важной для платформы с большой аудиторией детей.
Нововведение появилось спустя всего пару месяцев после внедрения в Roblox системы распознавания лиц для разделения пользователей по возрастным категориям, что резко ограничило взаимодействие детей и взрослых внутри платформы. Но юридическая сторона остаётся непростой: сразу несколько штатов США подали иски к Roblox из-за жалоб на плохую защиту детской аудитории.
Новый AI-фильтр с переформулировкой не отменяет проблем, но показывает, что Roblox стремится сделать общение максимально доступным и цивилизованным без лишней цензуры. Это важно, ведь от качества общения напрямую зависит атмосфера и безопасность миллионов игроков, особенно молодых.
