Roblox внедряет AI-фильтрацию чата для безопасности

Популярная игровая платформа Roblox представила новую систему перефразирования сообщений в чате, работающую на базе искусственного интеллекта. Это решение призвано сделать общение в игре более вежливым и безопасным.

Ранее, при обнаружении запрещенных слов и фраз, система просто заменяла их на символы решетки (####), что часто затрудняло восприятие диалога. Теперь же текст будет автоматически перефразирован в более корректную форму, сохраняя при этом первоначальный смысл сообщения.

Например, грубое выражение 'Hurry TF up!' будет автоматически преобразовано в 'Hurry up!', при этом все участники чата получат уведомление об изменении сообщения. Это позволяет поддерживать гражданскую беседу без потери логики общения.

Раджив Бхатия, вице-президент по продуктам взаимодействия и поиска в Roblox, отметил: 'Чат играет ключевую роль в том, как люди общаются, координируют действия и играют на платформе. Реальное время перефразирования помогает поддерживать беседу и направлять язык в приемлемое русло, уменьшая трение в чате при сохранении стандартов вежливости'.

Компания подчеркивает, что хотя новая функция уменьшает некоторые помехи в общении, основная система безопасности остается активной для борьбы с более серьезными нарушениями.

Инновация поддерживается на всех языках, доступных через автоматические инструменты перевода Roblox. Кроме того, компания улучшила свою систему фильтрации текста, повысив способность распознавать вариации запрещенной лексики, включая leetspeak и другие попытки обойти фильтры. Это позволило уменьшить количество ложных срабатываний при распространении личной информации в 20 раз.

Интересно, что данное обновление было представлено вскоре после того, как Roblox ввел обязательную проверку лиц для доступа к чату на своей платформе. Это произошло в ответ на волну судебных исков от генеральных прокуроров нескольких штатов США по поводу безопасности несовершеннолетних пользователей.

Нововведение направлено на создание более безопасной и дружелюбной среды для всех пользователей платформы, особенно для молодого поколения геймеров.