Распознавание фейковых лиц: 5 минут обучения решают

Всего пять минут обучения могут существенно повысить способность людей распознавать фальшивые лица, созданные искусственным интеллектом. Об этом свидетельствуют новые исследования.

Ученые из университетов Рединга, Гринвича, Лидса и Линкольна протестировали 664 участника, оценивая их умение отличать реальные человеческие лица от тех, что сгенерированы компьютерной программой StyleGAN3. Исследование было опубликовано в журнале Royal Society Open Science.

Без предварительной подготовки, так называемые «супер-распознаватели» (люди, показывающие значительно лучшие результаты в тестах на распознавание лиц, чем в среднем) правильно определяли поддельные лица в 41% случаев. Участники с обычными способностями показали результат всего в 31%. Стоит отметить, что если бы люди просто угадывали с закрытыми глазами, их точность составила бы около 50% — случайный уровень.

Новая группа участников, прошедших краткий курс обучения, в ходе которого им указывали на распространенные ошибки компьютерной генерации, такие как необычные узоры волос или некорректное количество зубов, продемонстрировала более высокую точность. «Супер-распознаватели» достигли 64% точности в выявлении фальшивых лиц, в то время как обычные участники показали 51%.

Доктор Кэти Грей, ведущий исследователь из Университета Рединга, подчеркнула: «Компьютерно-сгенерированные лица представляют реальные угрозы безопасности. Они использовались для создания фейковых профилей в социальных сетях, обхода систем верификации личности и изготовления фальшивых документов. Лица, созданные новейшим поколением программ искусственного интеллекта, выглядят чрезвычайно реалистично. Часто люди считают AI-сгенерированные лица более правдоподобными, чем реальные человеческие».

«Наша процедура обучения кратка и проста в применении. Результаты предполагают, что сочетание этого обучения с природными способностями «супер-распознавателей» может помочь решить реальные проблемы, такие как проверка подлинности личности в Интернете», — добавила она.

Прогресс программного обеспечения представляет сложную задачу

Обучение одинаково повлияло на обе группы, что указывает на то, что «супер-распознаватели», возможно, используют иные визуальные сигналы при идентификации синтетических лиц, чем обычные наблюдатели, а не просто лучше замечают ошибки рендеринга.

Исследование фокусировалось на лицах, созданных StyleGAN3 — самой передовой системой на момент проведения исследования. Это представляет собой значительный вызов по сравнению с предыдущими работами, использовавшими более старое программное обеспечение, поскольку участники данного исследования, как правило, показывали худшие результаты, чем в предыдущих работах.

Будущие исследования будут направлены на изучение того, сохраняются ли эффекты обучения с течением времени, и как навыки «супер-распознавателей» могут дополнить инструменты обнаружения контента, созданного искусственным интеллектом.