Roblox внедряет AI-редактор нецензурных слов в чатах

Roblox объявил о запуске новой функции, основанной на искусственном интеллекте, которая в реальном времени заменяет нецензурные выражения в чатах на более appropriate варианты.

Ранее система поставлялась с фильтрами, заменявшими такие слова на набор символов ####, что мешало восприятию диалога. Теперь пользователи увидят заменённые фразы и уведомление о том, какое слово было отредактировано.

Райв Бхатия, глава отдела безопасности Roblox, отметил, что сначала система будет работать с нецензурной бранью. Например, сообщение «Hurry TF up» будет заменено на «Hurry up!». При этом каждый получит информацию о том, какие слова обработаны, а повторное нарушение всё равно будет караться в соответствии с правилами платформы.

Новая технология доступна для общения между пользователями, чья возрастная группа совпадает, и поддерживает все языки, предоставляемые переводчиком Roblox. В начале года компания ввела обязательную верификацию возраста после сообщений о попытках использовать игру для охоты на детей. Игрокам младше 13 лет теперь ограничен чат в определённых проектах, а остальные могут общаться только с теми, кто находится в том же возрастном диапазоне.

Несмотря на проверку возраста, властные органы всё равно подали против Roblox несколько исков. В частности, округ Лос‑Анджелес обвинил платформу в том, что она делает детей «легкой добычей» для pedofila, а генеральный прокурор штата Луизиана также подал иск, утверждая, что Roblox создал «публичный парк, заполненный преступниками, преследующими детей».