OpenAI создает совет по благополучию и ИИ

Компания OpenAI объявила о создании экспертного совета, посвященного вопросам психического и эмоционального благополучия пользователей при взаимодействии с искусственным интеллектом. В состав Expert Council on Well-being and AI вошли восемь ведущих исследователей и специалистов, изучающих взаимосвязь между технологиями и ментальным здоровьем.

Некоторые из членов нового совета ранее консультировали OpenAI по вопросам разработки функций родительского контроля. Тема безопасности, особенно в отношении защиты юных пользователей, стала одной из ключевых для всех компаний, занимающихся разработкой ИИ. Это произошло на фоне судебных разбирательств, где ставился вопрос о причастности компаний к случаям самоубийств подростков, делившихся своими намерениями с чат-ботами.

Создание подобного консультативного органа выглядит как разумный шаг. Однако реальная эффективность любой подобной инициативы напрямую зависит от того, насколько компания готова прислушиваться к рекомендациям экспертов. История знает немало примеров, когда технологические гиганты учреждали консультативные советы, а затем фактически игнорировали их мнения. Meta – один из таких недавних и показательных случаев.

Само объявление OpenAI косвенно указывает на отсутствие у нового совета реальных полномочий влиять на операционную деятельность компании: "Мы по-прежнему несем ответственность за принимаемые нами решения, но продолжим учиться у этого совета, Глобальной сети врачей, политиков и других сторон, по мере того как мы создаем передовые системы ИИ, поддерживающие благополучие людей".

Станет ясно, насколько серьезно OpenAI относится к этой инициативе, когда возникнет первая ситуация разногласий с советом. Только тогда можно будет судить, стремится ли компания реально снизить серьезные риски, связанные с ИИ, или же это лишь попытка создать видимость решения проблем.