OpenAI ограничивает использование ИИ для создания видео с Мартином Лютером Кингом

Компания OpenAI приостановила возможность пользователей создавать видео с изображением Мартина Лютера Кинга-младшего с помощью своего ИИ-видеомодели Sora. Данное ограничение введено по запросу наследников доктора Кинга после того, как некоторые пользователи создали "неуважительные изображения" его образа.

"Хотя существуют веские аргументы в пользу свободы слова при изображении исторических личностей, OpenAI считает, что общественные деятели и их семьи должны иметь возможность контролировать использование своего образа", — говорится в сообщении OpenAI в X.

Это ограничение появилось всего через несколько недель после запуска платформы Sora, позволяющей создавать реалистичные ИИ-видео с участием исторических личностей, их друзей и пользователей, выбравших воссоздание своего образа. Запуск вызвал бурные общественные дебаты о рисках, связанных с ИИ-видео, и о том, как платформы должны внедрять защитные механизмы.

Дочь доктора Кинга, Бернис Кинг, обратилась к пользователям с просьбой прекратить отправлять ей ИИ-видео с изображением отца. Ранее дочь Робина Уильямса также обратилась с аналогичной просьбой.

По сообщениям СМИ, пользователи Sora создавали видео, где доктор Кинг издавал звуки обезьяны и боролся с Малкольмом Иксом. В приложении Sora также можно найти грубые видео с изображением других известных личностей, таких как Боб Росс, Уитни Хьюстон и Джон Ф. Кеннеди.

Запуск Sora также поднял вопросы об ответственности социальных медиа-платформ за ИИ-видео с использованием защищенных авторским правом произведений. В приложении Sora также присутствуют видео с популярными мультперсонажами.

OpenAI добавила и другие ограничения для Sora. Ранее компания заявила о планах предоставить правообладателям более детальный контроль над созданием ИИ-видео с их изображением. Это, возможно, стало реакцией на неоднозначную реакцию Голливуда на запуск Sora.

В то время как OpenAI вводит ограничения для Sora, компания, похоже, занимает более пассивную позицию в отношении модерации контента в ChatGPT. Недавно было объявлено, что в ближайшие месяцы пользователям ChatGPT будет разрешен "эротический" чат.

С Sora OpenAI, похоже, сталкивается с вызовами, связанными с созданием видео с помощью ИИ. Некоторые исследователи OpenAI публично выражали сомнения относительно первого ИИ-видеоплатформы компании и ее соответствия миссии некоммерческой организации. Генеральный директор OpenAI Сэм Альтман признал, что компания испытывала "трепет" при запуске Sora.

Руководитель ChatGPT Ник Тёрли считает, что лучший способ познакомить мир с новой технологией — это вывод ее на рынок. По его словам, компания извлекла этот урок из опыта с ChatGPT, и теперь этот подход применяется и к Sora.