OpenAI приостанавливает видео с Мартином Лютером Кингом из-за дипфейков

Компания OpenAI временно прекратила возможность создания видеороликов с участием борца за гражданские права Мартина Лютера Кинга младшего через свой инструмент Sora 2. Такое решение было принято после того, как поместье Кинга выразило недовольство неуважительными изображениями.

Поместье Кинга и OpenAI совместно заявили, что генерация видео с изображением Кинга будет приостановлена, пока компания не «укрепит механизмы защиты для исторических личностей».

Этот шаг последовал за возмущением семей умерших знаменитостей и лидеров, вызванным инструментом Sora 2 от OpenAI, который позволяет создавать реалистичные клипы с участием исторических фигур без их согласия.

Согласно сообщениям, некоторые пользователи создавали видео, на которых Кинг издавал обезьяньи звуки во время своей речи «У меня есть мечта», а также другой унизительный контент. Подобные ролики с участием Малкольма Икс, Майкла Джексона, Элвиса Пресли и Эми Уайнхаус также заполонили социальные сети с момента запуска Sora 2.

«Хотя существуют сильные интересы в области свободы слова, касающиеся изображения исторических личностей, OpenAI считает, что общественные деятели и их семьи должны иметь полный контроль над использованием своего образа», — говорится в совместном заявлении. Теперь уполномоченные представители или владельцы поместий могут запросить, чтобы их образы не использовались в видео, созданных искусственным интеллектом, известных как «Sora cameos».

OpenAI выразила благодарность Бернис Кинг, дочери Мартина Лютера Кинга, за обращение, а также бизнесмену Джону Хоупу Брайанту и Совету по этике ИИ за содействие в проведении таких обсуждений.

Инструмент для создания видео из текста, несмотря на свою популярность, сразу же вызвал споры. Дочь актера Робина Уильямса, Зельда Уильямс, умоляла пользователей прекратить отправлять ей ИИ-видео с ее отцом, называя контент «сводящим с ума». Ильяса Шабазз, дочь Малкольма Икс, назвала использование образа ее отца в грубых и бестактных ИИ-видео «глубоко неуважительным».

Изначально OpenAI освободила «исторических деятелей» от требований получения согласия при запуске Sora 2, разрешая любому создавать фейковые видео с воскрешением известных личностей. Однако из-за активного противодействия, в том числе со стороны Голливуда, который был возмущен политикой отказа от участия OpenAI в отношении использования своих защищенных авторским правом персонажей и контента, компания пообещала предоставить более «гранулярный контроль» правообладателям. После запуска приложения Sora 2, инструмент, как сообщается, начал отклонять запросы на видео с персонажами Disney или Marvel, хотя клипы с персонажами других американских франшиз и японскими героями из популярных игр и аниме продолжали широко распространяться.