ChatGPT: Эротика и риски для подростков

OpenAI готовится к запуску новой функции ChatGPT в декабре 2025 года, которая позволит верифицированным совершеннолетним пользователям генерировать эротический контент и вести романтические или сексуальные беседы. Хотя платформы искусственного интеллекта, такие как Replika и Grok, уже предлагают подобные возможности, выход OpenAI на этот рынок знаменует собой важный этап.

Компания позиционирует это как «отношение ко взрослым как к взрослым». Однако, по сути, это коммерческая стратегия, направленная на удержание пользователей и увеличение доходов. OpenAI потратила более 2,5 миллиардов долларов в первой половине 2024 года, и эротические чат-боты обещают то, чего так жаждут инвесторы — высокий уровень вовлеченности. Платформа Илона Маска Grok, к примеру, взимает 30 фунтов стерлингов в месяц за функции эротического компаньона.

OpenAI, как и другие технологические компании, заявляет о намерении ограничивать эротический контент с помощью верификации возраста и модерационных фильтров. Теоретически, доступ к этим режимам будет открыт только проверенным совершеннолетним. Однако на практике такие системы легко обмануть. Подростки регулярно обходят возрастные ограничения, используя чужие удостоверения личности, манипулируя селфи или применяя дипфейки. Они могут загружать фотографии пожилых людей, сканировать напечатанные изображения или использовать временные аккаунты и VPN для уклонения от обнаружения.

Опыт других платформ демонстрирует потенциальные проблемы. Grok позволяет пользователям создавать «эротических аватаров-компаньонов», включая сексуализированного аниме-персонажа по имени Ани. Недавнее расследование новостного сайта Business Insider показало, что разговоры с Ани часто перерастали в откровенные обмены после минимального взаимодействия. Сотрудники компании также сталкивались с генерируемым ИИ сексуальным насилием при модерации флиртующего аватара Grok, который мог «раздеться по команде» и переключаться между «сексуальным» и «неуравновешенным» режимами.

Эмоциональная близость и риски для подростков

Эротические чат-боты предлагают не только сексуальный контент. Они способны имитировать заботу, тепло и внимание. Этот эмоциональный аспект особенно силен для молодых людей. Недавнее исследование благотворительной организации Internet Matters показало, что 67% детей в возрасте от девяти до семнадцати лет уже используют чат-ботов с искусственным интеллектом, причем 35% из них считают, что это похоже на «разговор с другом». Среди уязвимых детей 12% заявили, что им «больше некому» поговорить, а 23% использовали чат-ботов для получения личных советов.

Добавление эротических функций к этому набору рискует углубить эмоциональную зависимость и исказить представление подростков о близости, согласии и отношениях. Те же инструменты вовлечения, которые удерживают взрослых, могут эксплуатировать одиночество и потребность молодых пользователей в подтверждении.

Даже если эротические функции технически будут доступны только совершеннолетним, большие языковые модели могут быть «взломаны» — обманом заставлены генерировать контент, который они не должны создавать. Это достигается с помощью многоуровневых подсказок, ролевых сценариев или кодированного языка для обхода систем, контролирующих ответы чат-бота пользователю. Пользователи уже нашли способы обойти этические фильтры, которые обычно предотвращают создание чат-ботами откровенных или опасных материалов.

Эротический режим OpenAI будет иметь специальную этическую настройку для блокировки незаконных или оскорбительных тем. Однако эти меры защиты, вероятно, будут так же уязвимы для взломов, как и любые другие. После генерации текстовый материал может легко распространяться в интернете, выходя из-под контроля любой платформы.

Серые зоны

Эротический ИИ также выявляет существенные пробелы в законодательстве. В Великобритании написанная эротика является законной и не подлежит верификации возраста, в отличие от порнографических изображений или видео. Это создает лазейку, позволяющую генерировать чат-ботами контент, запрещенный на сайтах для взрослых. В глобальном масштабе законы различаются: некоторые страны, такие как Китай и государства Персидского залива, полностью запрещают эротические материалы, в то время как другие полагаются на слабое или непоследовательное правоприменение. Предстоящий Закон ЕС об ИИ может классифицировать сексуальных компаньонов как «высокорисковые», но его внедрение займет много времени. Тем временем компании могут по своему усмотрению изменять свои «этические настройки», что означает, что запрещенное сегодня может быть разрешено завтра.

Несмотря на заявления о нейтральности, эротический ИИ далек от нее. Некоторые платформы в подавляющем большинстве случаев проектируют своих компаньонов как женских, покорных и всегда доступных. Результатом является цифровая среда, нормализующая мизогинию и искаженные представления о согласии, особенно среди мальчиков и молодых мужчин. Женщины и девочки уже несут основную тяжесть онлайн-сексуального насилия, становясь мишенью для несанкционированных дипфейков и оскорблений с использованием изображений — форм вреда, которые эротический ИИ может сделать проще, быстрее и дешевле в производстве.

Эти проблемы в значительной степени отсутствуют в основных дебатах о политике в области ИИ. Эротический ИИ создается таким образом, что привилегируются мужские фантазии, ставя при этом женщин и девочек под угрозу. Он обучает поколение молодых мужчин представлениям о женщинах, которые должны были умереть давным-давно.

Появление эротических ИИ-компаньонов кажется значительным отходом от попыток OpenAI оградить пользователей ChatGPT от потенциально вредоносной информации. Общая среда эротического ИИ характеризуется слабыми возрастными ограничениями, эмоциональной уязвимостью, правовыми лазейками и гендерным насилием. Будет ли ChatGPT отличаться? Эти системы, вероятно, будут взломаны. К ним могут получить доступ люди, для которых они не предназначались, включая несовершеннолетних. И они, вероятно, будут генерировать контент, который испытывает или нарушает правовые границы.

Прежде чем эротические чат-боты станут еще одним нерегулируемым уголком интернета, правительства, педагоги и технологи должны действовать. Необходима срочная регуляция. До тех пор эротический ИИ рискует усилить существующий онлайн-вред, причем женщины, девочки и другие уязвимые пользователи будут платить за это цену.