OpenAI внедряет родительский контроль в ChatGPT для безопасности

Компания OpenAI объявила о внедрении системы родительского контроля в популярный чат-бот ChatGPT, предназначенной для обеспечения более безопасного и соответствующего возрасту опыта для подростковых пользователей.

Это решение последовало после того, как вопросы безопасности искусственного интеллекта для молодёжи оказались в центре внимания. Потенциальные риски технологии были продемонстрированы несколькими инцидентами, связанными с взаимодействием подростков с ИИ-ассистентами.

Новая система контроля включает несколько ключевых функций:

Процесс подключения

Родительский контроль доступен всем пользователям, но для его использования и родители, и подростки должны иметь собственные аккаунты. Для начала процесса необходимо отправить приглашение через электронную почту или текстовое сообщение. Подростки могут в любой момент отключить связь между аккаунтами, однако родители получат соответствующее уведомление.

Автоматические защитные механизмы

После связывания аккаунтов подростковые профили автоматически получают усиленную защиту контента. Система ограничивает графические материалы, вирусные челленджи, сексуальные, романтические или violentные ролевые игры, а также пропаганду экстремальных стандартов красоты.

Родители могут отключать эти фильтры, но сами подростки такой возможности лишены. OpenAI предупреждает, что защитные механизмы не являются абсолютно надёжными и могут быть обойдены при целенаправленных попытках.

Настройка параметров

Родители получают панель управления с широким спектром настроек. Они могут устанавливать «тихое время», когда чат-бот становится недоступным, отключать функцию памяти ИИ, запрещать генерацию и редактирование изображений, деактивировать голосовой режим и ограничивать использование чатов для обучения моделей.

Система уведомлений

OpenAI внедряет проактивную систему оповещений, которая информирует родителей о возможных признаках серьёзного эмоционального distress у подростков. Специализированная команда будет анализировать ситуацию и в случае обнаружения признаков острого distress уведомлять родителей через email, SMS и push-уведомления.

Компания подчёркивает важность баланса между безопасностью и приватностью, гарантируя конфиденциальность личной информации подростков.