OpenAI готовит 'взрослый режим' для ChatGPT с эротическим контентом

Компания OpenAI разрабатывает специальный режим для своего чат-бота ChatGPT, который позволит пользователям вести откровенные беседы, но не создавать явно эротический визуальный или аудиоконтент. Как сообщает The Wall Street Journal, в OpenAI характеризуют эту функцию как способ создания эротического, а не порнографического материала.

Идея разрешить использование ChatGPT для эротических целей была впервые озвучена генеральным директором OpenAI Сэмом Альтманом в октябре прошлого года. Он заявил, что компания намерена "относиться к взрослым пользователям как к взрослым". Изначально запуск планировался на начало 2026 года, но затем несколько раз переносился. Последняя задержка произошла в начале марта, когда OpenAI решила "сосредоточиться на работе, которая является более приоритетной для большего числа пользователей".

Несмотря на опасения со стороны совета по благополучию и ИИ, состоящего из восьми исследователей и экспертов, компания продолжила разработку этой функции. Совет единогласно предупреждал, что ИИ-сгенерированный эротический контент может привести к нездоровой эмоциональной зависимости пользователей от ChatGPT, а также к тому, что несовершеннолетние найдут способ обойти ограничения. По данным The Journal, один из членов совета, ссылаясь на случаи, когда люди совершали самоубийство после сближения с ChatGPT, предупредил, что компания рискует создать "сексуального тренера по самоубийству".

Опасения оказались небеспочвенными. На определенном этапе технология возрастной идентификации OpenAI некорректно определяла возраст пользователей в 12% случаев, позволяя несовершеннолетним получить доступ к эротическим чатам. При еженедельной аудитории ChatGPT в 100 миллионов подростков это означало бы миллионы несовершеннолетних пользователей. OpenAI заявила The Journal, что их алгоритм проверки возраста соответствует отраслевым стандартам, но признала, что ни одна такая система не может быть абсолютно надежной.