OpenAI: новые обвинения в деле о гибели подростка

Компания OpenAI, разработчик ChatGPT, оказалась в центре нового скандала, связанного с гибелью 16-летнего Адама Рейна. По сообщениям, компания запросила у семьи погибшего полный список участников его поминальной службы, что может свидетельствовать о намерении вызвать друзей и родственников подростка в суд.

Как стало известно изданию Financial Times, OpenAI также потребовала предоставить "все документы, относящиеся к поминальным службам или мероприятиям в честь усопшего, включая, но не ограничиваясь, любые сделанные видео или фотографии, или произнесенные надгробные речи".

Адвокаты семьи Рейн назвали этот запрос "намеренным преследованием".

Эти новые сведения появились на фоне обновления иска, поданного семьей против OpenAI. Изначально семья подала иск о неправомерной смерти в августе, утверждая, что их сын покончил с собой после общения с чат-ботом на темы, касающиеся его психического здоровья и суицидальных мыслей.

В обновленном иске утверждается, что OpenAI спешила с выпуском GPT-4o в мае 2024 года, сократив тестирование безопасности из-за конкурентного давления. Также в иске говорится, что в феврале 2025 года OpenAI ослабила защитные меры, удалив предотвращение самоубийств из списка "запрещенного контента", вместо этого лишь рекомендуя ИИ "быть осторожным в рискованных ситуациях". Семья утверждает, что после этого изменения использование ChatGPT Адамом резко возросло: с десятков ежедневных чатов в январе (1,6% из которых содержали контент о самоповреждении) до 300 ежедневных чатов в апреле, месяце его смерти (17% из которых содержали такой контент).

В ответ на дополненный иск OpenAI заявила: "Благополучие несовершеннолетних — наш главный приоритет. Дети заслуживают надежной защиты, особенно в деликатных ситуациях. У нас есть меры безопасности, такие как [направление на] кризисные горячие линии, перенаправление чувствительных разговоров к более безопасным моделям, побуждение к перерывам во время длительных сессий, и мы продолжаем их укреплять".

Недавно OpenAI начала внедрять новую систему маршрутизации безопасности и родительский контроль в ChatGPT. Система маршрутизации направляет более эмоционально чувствительные разговоры к новой модели OpenAI, GPT-5, которая не обладает такими же склонностями к угодливости, как GPT-4o. А родительский контроль позволяет родителям получать оповещения о безопасности в ограниченных случаях, когда подросток потенциально находится в опасности самоповреждения.