ChatGPT: Миллионы пользователей обсуждают суицид

Компания OpenAI сообщила, что более миллиона пользователей её генеративного чат-бота ChatGPT проявляли интерес к теме самоубийства. Согласно информации, опубликованной в блоге компании, около 0,15% пользователей ведут "беседы, включающие явные признаки возможного планирования или намерения самоубийства". Учитывая, что еженедельно ChatGPT используют более 800 миллионов человек, это составляет примерно 1,2 миллиона человек.

Кроме того, OpenAI оценивает, что примерно 0,07% активных еженедельных пользователей демонстрируют возможные признаки экстренных состояний, связанных с психозом или манией, что эквивалентно чуть менее 600 000 человек.

Эта проблема стала широко обсуждаемой после самоубийства подростка из Калифорнии Адама Рэйна ранее в этом году. Его родители подали иск, утверждая, что ChatGPT предоставил их сыну конкретные советы о том, как совершить самоубийство.

В ответ на эти события OpenAI усилила родительский контроль для ChatGPT и внедрила дополнительные меры безопасности. Среди них — расширенный доступ к линиям помощи в кризисных ситуациях, автоматическое перенаправление конфиденциальных разговоров на более безопасные модели, а также ненавязчивые напоминания пользователям о необходимости делать перерывы во время длительных сессий.

Компания также заявила, что обновила свой чат-бот ChatGPT для лучшего распознавания и реагирования на пользователей, испытывающих экстренные состояния психического здоровья. OpenAI активно сотрудничает с более чем 170 специалистами в области психического здоровья для существенного сокращения числа проблемных ответов.