OpenAI под следствием: Иск семьи Адама Рейна

Семья Адама Рейна подала уточненный иск против OpenAI, утверждая, что использование ChatGPT способствовало трагической гибели их сына в апреле. Согласно сообщению Financial Times, обновленный иск обвиняет компанию в ослаблении мер безопасности, связанных с самоповреждением, в период, предшествовавший смерти Адама.

В обвинительном заключении говорится, что OpenAI внесла изменения в работу GPT-4o, который был стандартной моделью ChatGPT в преддверии самоубийства Рейна. По утверждению истцов, компания удалила критически важные защитные механизмы, дав указание модели не «менять тему или выходить из разговора» при обсуждении самоповреждения. Подобное решение, как утверждается, было принято из-за давления конкуренции, что привело к «сокращению тестирования безопасности».

Далее в иске отмечается, что в феврале OpenAI вновь ослабила свои защитные протоколы. В этот период, как утверждается, GPT-4o получил инструкции «быть осторожным в рискованных ситуациях» и «пытаться предотвратить неминуемый реальный вред» вместо полного отказа от обсуждения опасных тем. Несмотря на это, модель по-прежнему обладала рядом «недопустимого контента», включая вопросы, связанные с интеллектуальной собственностью и манипуляцией политическими мнениями, но не с самоубийством.

Financial Times также сообщает, что OpenAI запрашивала полный список посетителей мемориала Адама Рейна, включая «все документы, касающиеся мемориальных служб или мероприятий в честь умершего, включая, но не ограничиваясь, любые сделанные видео или фотографии, или произнесенные речи, а также списки приглашенных или гостей, или книги посетителей».

Адвокаты семьи Рейн охарактеризовали этот запрос как «необычный» и «преднамеренное преследование», предполагая, что OpenAI может направить повестки всем, кто был близок Адаму.

После первых сообщений об иске OpenAI признала недостатки GPT-4o в некоторых тревожных ситуациях и вскоре после этого внедрила родительский контроль для ChatGPT. Компания также изучает систему для идентификации подростков и автоматического ограничения их использования. Утверждается, что GPT-5, текущая стандартная модель, обновлена для лучшей обработки признаков стресса.

Родители Адама, Мэттью и Мария Рейн, утверждают, что использование ChatGPT Адамом резко возросло после февральских обновлений модели. Если в январе у него было всего несколько десятков чатов, из которых 1,6% касались самоповреждения, то в апреле количество чатов достигло 300 в день, при этом 17% из них были связаны с самоповреждением.

Первоначальный иск против OpenAI был подан в августе. В нем утверждалось, что ChatGPT знал о четырех предыдущих попытках самоубийства Адама, прежде чем помочь ему спланировать свою последнюю попытку. Истцы заявляют, что компания «отдавала приоритет взаимодействию над безопасностью». Мария Рейн выразила мнение: «ChatGPT убил моего сына».