ИИ-дипфейс подрывает выборы: Meta удаляет фейк

Социальная сеть Meta оперативно удалила дипфейк-видео с ирландским кандидатом в президенты Кэтрин Коннолли. На сфабрикованном ролике политик ложно заявляла о снятии своей кандидатуры с выборов. По данным The Irish Times, это ИИ-сгенерированное видео распространилось в Facebook почти 30 000 раз всего за несколько дней до выборов в Ирландии, назначенных на 24 октября.

Сама Кэтрин Коннолли назвала ролик «позорной попыткой ввести избирателей в заблуждение и подорвать ирландскую демократию» и заверила, что по-прежнему является кандидатом на пост президента.

Видео было опубликовано аккаунтом с названием RTÉ News AI, который не имеет никакого отношения к реальному ирландскому общественному вещателю Raidió Teilifís Éireann. Фейковый аккаунт использовал не только внешность Коннолли, но и образы известных журналистов RTÉ – Шэрон Ни Бхеолан и Пола Каннингема.

«С большим сожалением объявляю о снятии своей кандидатуры и завершении моей избирательной кампании», – говорила ИИ-копия Коннолли в поддельном видео. Затем ИИ-версия Ни Бхеолан сообщала о снятии кандидата с выборов, а ИИ-Каннингем объявлял об отмене выборов и автоматической победе оппонента Коннолли – Хизер Хамфрис. Стоит отметить, что независимый кандидат Коннолли лидирует в последних опросах с 44% поддержки.

Meta полностью заблокировала аккаунт RTÉ News AI после обращения издания Irish Independent. Компания заявила, что удалила видео и аккаунт за нарушение своих правил сообщества, в частности, политики, запрещающей контент, который выдает себя за другое лицо или ложно представляет людей. Ирландский медиарегулятор Coimisiún na Meán заявил, что осведомлен об инциденте и запросил у Meta информацию о принятых мерах.

Meta уже не первый год борется с распространением дипфейков и намеренно отредактированных видео с участием знаменитостей и политиков. Ранее в этом году Наблюдательный совет компании предупредил Meta о недостаточных усилиях по соблюдению собственных правил и рекомендовал обучить модераторов контента распознавать «признаки» манипулированного с помощью ИИ контента.