YouTube борется с дипфейками: новая защита для политиков и журналистов

YouTube расширяет применение своей технологии обнаружения дипфейков, способной идентифицировать контент, созданный искусственным интеллектом. Теперь инструмент станет доступен для пилотной группы, включающей государственных служащих, политических кандидатов и журналистов. Эта инициатива направлена на борьбу с дезинформацией и манипуляциями, возникающими в результате использования технологии AI для создания поддельных видео.

Участники пилотной программы получат доступ к инструменту, который сможет обнаруживать несанкционированный контент, сгенерированный искусственным интеллектом. В случае выявления нарушений политики YouTube, пользователи смогут отправить запрос на удаление такого контента.

Технология обнаружения дипфейков была запущена в прошлом году для широкого круга авторов на YouTube, входящих в Партнерскую программу. Подобно существующей системе Content ID, которая отслеживает материалы, защищенные авторским правом, новая функция ищет имитации лиц, созданные с помощью AI-инструментов. Эти инструменты могут использоваться для распространения ложной информации, формируя у аудитории искаженное представление о реальности, в особенности, когда в качестве объектов для дипфейков выбираются известные личности, такие как политики.

В рамках новой пилотной программы YouTube стремится найти баланс между свободой выражения мнений пользователей и рисками, связанными с технологиями искусственного интеллекта, способными создавать убедительные подделки личностей публичных деятелей. Цель этого расширения – обеспечение целостности общественных дискуссий.

Представители YouTube подчеркивают, что не все обнаруженные совпадения будут удаляться по запросу. Каждое обращение будет рассматриваться в соответствии с действующими правилами конфиденциальности, чтобы определить, является ли контент пародией или политической критикой, которые подпадают под защиту свободы слова.

Компания также активно поддерживает законодательные инициативы, такие как NO FAKES Act, направленные на регулирование использования AI для создания несанкционированных копий голоса и визуального образа человека.

Для использования нового инструмента участникам пилотной программы необходимо будет подтвердить свою личность, предоставив селфи и документ, удостоверяющий личность. После этого они смогут создавать профиль, просматривать обнаруженные совпадения и, при необходимости, запрашивать их удаление. В будущем YouTube планирует предоставить пользователям возможность предотвращать загрузку нарушающего правила контента до его публикации, а возможно, и монетизировать такие видео, по аналогии с работой системы Content ID.

YouTube не раскрывает, какие именно политики и государственные служащие войдут в первоначальную группу тестировщиков, но заявляет о намерении со временем сделать технологию доступной для более широкого круга пользователей.

Видео, сгенерированные с помощью AI, будут маркироваться соответствующим образом. Однако местоположение этих меток может варьироваться: в некоторых случаях метка будет размещена в описании видео, а для материалов, касающихся более «чувствительных тем», — непосредственно на самом видео.

YouTube пока не предоставляет статистику по количеству удаленных дипфейков, выявленных с помощью данной технологии, однако отмечает, что объем удаленного контента на данный момент «очень мал». Зачастую создатели контента используют эту возможность для повышения осведомленности о существующих технологиях, а не для массового удаления материалов, поскольку большинство из них носят безобидный характер.

В дальнейшем YouTube планирует распространить свою технологию обнаружения дипфейков на другие области, включая распознавание узнаваемых голосов и защиту других видов интеллектуальной собственности, таких как популярные персонажи.