Sora: ИИ-видео и кризис доверия в интернете

Приложение Sora от OpenAI, создателя ChatGPT, погружает пользователей в мир гиперреалистичных видео, сгенерированных искусственным интеллектом. От Майкла Джексона, выступающего в стендап-шоу, до оленей, врывающихся в дома, — возможности ИИ поражают воображение. Однако эта завораживающая реальность быстро порождает сомнения: где правда, а где искусно созданная иллюзия?

Эксперты, включая Сэма Грегори из WITNESS, выражают серьезную обеспокоенность. "Sora делает практически невозможным опровержение подделок и подрывает нашу способность отличать подлинное от синтетического", — отмечает он. По его словам, "главный ущерб — это туман сомнений, окутывающий все, что мы видим".

Несмотря на то, что все видео на платформе Sora создаются ИИ, приложение стремительно набирает популярность. Менее чем за неделю после запуска 30 сентября, Sora преодолела отметку в миллион загрузок, обогнав даже ChatGPT. Приложение доступно пользователям iOS в США при наличии пригласительного кода.

Процесс создания видео включает верификацию пользователя через сканирование лица и запись голоса. Затем, с помощью текстовых запросов, пользователи могут генерировать 10-секундные ролики с реалистичным изображением, звуком и диалогами.

Функция "Cameos" позволяет накладывать лица пользователей или их друзей на существующие видео. И хотя все выходные данные содержат водяные знаки, существуют сервисы для их удаления.

На старте OpenAI применял менее строгую политику в отношении авторских прав, позволяя воссоздавать защищенные материалы. Это привело к появлению видео с персонажами "Губки Боба", "Южного Парка" и "Во все тяжкие", а также в стиле шоу "Цена на удачу" и сериала "Друзья".

Ситуация обострилась с появлением видео с умершими знаменитостями: Тупак Шакур, Адольф Гитлер, Майкл Джексон, Мартин Лютер Кинг-младший — их образы были использованы в самых неожиданных контекстах. Дочь Робина Уильямса, Зельда, резко раскритиковала подобное "перерабатывание" жизней и творчества людей, назвав это "отвратительными, переработанными хот-догами".

Семья Фреда Роджерса также выразила разочарование видео, искажающими образ ведущего детских программ. "Эти видео прямо противоречат намерениям и принципам развития детей, которые Фред Роджерс вкладывал в каждую серию "Соседства мистера Роджерса", — заявили представители. Они обратились к OpenAI с просьбой заблокировать использование голоса и образа мистера Роджерса на платформе.

Голливудские агентства и профсоюзы, включая SAG-AFTRA, обвиняют OpenAI в неправомерном использовании образов. Основная проблема — контроль над использованием likenesses актеров и лицензированных персонажей, а также справедливая компенсация за их применение в ИИ-видео.

В ответ на опасения, Сэм Альтман пообещал предоставить правообладателям больший контроль над использованием их персонажей в ИИ-видео и изучить возможности разделения доходов. Также студии теперь могут "оптимизировать" использование своих персонажей в ИИ-реконструкциях, что является отказом от предыдущей политики OpenAI.

Альянс Альтмана видит будущее в персонализированном контенте для узкой аудитории или даже для одного зрителя, называя это "интерактивной фанфикцией".

Тем временем, наследники умерших знаменитостей активно защищают свои права. CMG Worldwide, представляющая интересы многих скончавшихся звезд, заключила партнерство с Loti AI для борьбы с несанкционированным цифровым использованием их образов. Loti AI будет отслеживать ИИ-имитации 20 личностей, включая Берта Рейнольдса и Розу Паркс.

"После запуска Sora 2 мы наблюдаем 30-кратный рост обращений", — говорит Люк Арригони, соучредитель Loti AI. С января компания удалила тысячи случаев несанкционированного контента.

OpenAI приостановил генерацию видео с образом Мартина Лютера Кинга-младшего по просьбе его наследников, признав, что публичные фигуры и их семьи должны иметь контроль над использованием их likenesses.

В условиях юридического давления Sora ужесточает правила использования персонажей. Создание образов персонажей Disney теперь вызывает предупреждение о нарушении политики контента. Пользователи, недовольные ограничениями, создают мемы о "AI slop" — контенте, созданном для вирусности, часто без глубокого смысла, но привлекающем внимание.

Критики опасаются, что даже при наличии защит для знаменитостей, "присвоение likenesses" обычных людей может привести к общественной путанице, дезинформации и эрозии доверия. По мнению Грегори, мощь ИИ может быть использована для создания пропаганды, фальсификации доказательств и введения людей в заблуждение, заставляя сомневаться даже в реальных фактах.