OpenAI разрешит эротику и более "живые" ответы ChatGPT

Сэм Альтман, глава OpenAI, анонсировал в социальной сети X, что компания вскоре ослабит некоторые ограничения безопасности ChatGPT. Это позволит сделать ответы чат-бота более дружелюбными и "человечными", а также даст возможность "проверенным взрослым" вести эротические беседы.

"Мы сделали ChatGPT довольно ограниченным, чтобы позаботиться о проблемах психического здоровья. Мы понимаем, что это сделало его менее полезным/приятным для многих пользователей, не имеющих проблем с психическим здоровьем, но, учитывая серьезность вопроса, мы хотели сделать это правильно", — заявил Альтман. "В декабре, по мере полного внедрения возрастного контроля и в рамках нашего принципа "относиться к взрослым пользователям как к взрослым", мы разрешим еще больше, например, эротику для проверенных взрослых".

Это заявление представляет собой заметный сдвиг по сравнению с многомесячными усилиями OpenAI по решению проблем, связанных с отношениями, которые некоторые психически нестабильные пользователи установили с ChatGPT. Альтман, похоже, заявляет о ранней победе над этими проблемами, утверждая, что OpenAI "смогла смягчить серьезные проблемы психического здоровья", связанные с ChatGPT. Однако компания предоставила мало или совсем никаких доказательств этого и теперь продвигается вперед с планами по ведению сексуальных чатов ChatGPT с пользователями.

Летом появилось несколько тревожных историй, касающихся ChatGPT, в частности его модели GPT-4o, которые предполагали, что ИИ-чат-бот может затягивать уязвимых пользователей в бредовые "кроличьи норы". В одном случае ChatGPT, казалось, убедил мужчину, что он гений математики, которому нужно спасти мир. В другом случае родители подростка подали в суд на OpenAI, утверждая, что ChatGPT способствовал суицидальным мыслям их сына за несколько недель до его смерти.

В ответ OpenAI выпустила ряд функций безопасности для решения проблемы подобострастия ИИ: тенденции ИИ-чат-бота завлекать пользователей, соглашаясь со всем, что они говорят, даже с негативным поведением.

OpenAI запустила GPT-5 в августе, новую модель ИИ, которая демонстрирует более низкий уровень подобострастия и оснащена маршрутизатором, способным выявлять тревожное поведение пользователей. Месяцем позже OpenAI выпустила функции безопасности для несовершеннолетних, включая систему предсказания возраста и возможность для родителей контролировать учетную запись подростка в ChatGPT. Во вторник OpenAI объявила о создании экспертного совета специалистов по психическому здоровью для консультирования компании по вопросам благополучия и ИИ.

Всего через несколько месяцев после появления этих тревожных историй OpenAI, похоже, считает, что проблемы ChatGPT, связанные с уязвимыми пользователями, под контролем. Неясно, продолжают ли пользователи попадать в бредовые "кроличьи норы" с GPT-5. И хотя GPT-4o больше не является стандартной моделью в ChatGPT, эта ИИ-модель все еще доступна сегодня и используется тысячами людей.

Внедрение эротики в ChatGPT — это неизведанная территория для OpenAI, и это вызывает более широкие опасения по поводу того, как уязвимые пользователи будут взаимодействовать с новыми функциями. Хотя Альтман настаивает, что OpenAI не занимается "usage-maxxing" (оптимизацией использования) или погоней за вовлеченностью, делая ChatGPT более эротичным, это, безусловно, может привлечь пользователей.

Разрешение чат-ботам участвовать в романтических или эротических ролевых играх оказалось эффективной стратегией вовлечения для других поставщиков ИИ-чат-ботов, таких как Character.AI. Компания привлекла десятки миллионов пользователей, многие из которых проводят много времени, общаясь с ее чат-ботами. Character.AI заявила в 2023 году, что пользователи проводят в среднем два часа в день, разговаривая с ее чат-ботами. Компания также сталкивается с судебным иском относительно того, как она работает с уязвимыми пользователями.

OpenAI находится под давлением, чтобы увеличить свою базу пользователей. Хотя ChatGPT уже используется 800 миллионами еженедельных активных пользователей, OpenAI соревнуется с Google и Meta в создании массовых потребительских продуктов на базе ИИ. Компания также привлекла миллиарды долларов для исторического строительства инфраструктуры — инвестиций, которые OpenAI в конечном итоге необходимо окупить.

Хотя взрослые, безусловно, вступают в романтические отношения с ИИ-чат-ботами, это также довольно популярно среди несовершеннолетних. Новый отчет Центра демократии и технологий показал, что 19% старшеклассников либо состояли в романтических отношениях с ИИ-чат-ботом, либо знают друга, который это делал.

Альтман говорит, что OpenAI скоро разрешит эротику для "проверенных взрослых". Представитель OpenAI сообщил TechCrunch, что компания будет полагаться на разрабатываемую ею систему предсказания возраста, чтобы гарантировать, что эротические функции ChatGPT будут доступны только совершеннолетним пользователям.

Как ранее писал Альтман в своем блоге, если система предсказания возраста OpenAI ошибочно отметит взрослого как несовершеннолетнего, пользователям ChatGPT, возможно, придется загрузить в ChatGPT фотографию своего удостоверения личности, выданного государством, чтобы исправить это. Альтман пишет, что, хотя это компромисс в отношении конфиденциальности, компания считает, что это "достойный компромисс".

Неясно, распространит ли OpenAI эротику на свои инструменты для генерации голоса, изображений и видео.

Альтман утверждает, что OpenAI делает ChatGPT более дружелюбным и эротичным также из-за принципа компании "относиться к взрослым пользователям как к взрослым". За последний год OpenAI сместилась в сторону более мягкой стратегии модерации контента для ChatGPT, позволяя чат-боту быть более снисходительным и предлагать меньше отказов. В феврале OpenAI обязалась представлять больше политических точек зрения в ChatGPT, а в марте компания обновила ChatGPT, чтобы разрешить генерацию изображений ненавистнических символов.

Эти политики, похоже, являются попыткой сделать ответы ChatGPT более популярными среди широкого круга пользователей. Однако уязвимые пользователи ChatGPT могут выиграть от мер безопасности, которые ограничивают то, с чем может взаимодействовать чат-бот. Поскольку OpenAI стремится достичь миллиарда еженедельных активных пользователей, напряженность между ростом и защитой уязвимых пользователей может только усиливаться.