Цифровой яд: ИИ-инструмент против дипфейков и вредоносного контента

Университет Монаша и Австралийская федеральная полиция (AFP) объединяют усилия, чтобы противостоять киберпреступникам с помощью цифрового «отравления» данных.

Лаборатория «ИИ для правоохранительных органов и общественной безопасности» (AiLECS), созданная в рамках сотрудничества AFP и Университета Монаша, разрабатывает новый инструмент, способный замедлять и останавливать преступников, производящих материалы с детским насилием, экстремистскую пропаганду и дипфейки с использованием искусственного интеллекта.

Технология «отравления данных» заключается в тонком изменении исходных данных. Это делает процесс создания и манипулирования изображениями или видео с помощью ИИ-программ значительно более сложным. Поскольку ИИ-инструменты и системы машинного обучения требуют огромных объемов данных из интернета для генерации контента, «отравленные» данные приводят к неточным, искаженным или испорченным результатам. Это также облегчает обнаружение поддельных изображений или видео, созданных злоумышленниками.

Разрабатываемый инструмент, получивший название «Silverer», находится на стадии прототипа. Над ним в течение последнего года работала исследователь AiLECS и руководитель проекта, кандидат наук Элизабет Перри. По словам Перри, название инструмента отсылает к серебру, используемому для изготовления зеркал. Аналогично, «Silverer» создает своего рода отражение исходного изображения, но с подвохом: «Это похоже на то, как если бы вы подложили серебряную пленку за стекло, и когда кто-то попытается посмотреть сквозь него, он увидит лишь совершенно бесполезное отражение», — пояснила она.

«Перед тем как человек загрузит изображения в социальные сети или интернет, он сможет изменить их с помощью Silverer. Это изменит пиксели таким образом, что ИИ-модели будут обмануты, а полученные результаты окажутся очень низкого качества, покрытыми размытыми узорами или полностью неузнаваемыми», — добавила Перри.

Эксперт в области цифровой криминалистики и содиректор AiLECS, доцент Кэмпбелл Уилсон, отметил, что проблема генерации поддельных и вредоносных изображений становится всё более острой. «В настоящее время эти вредоносные изображения и видео, созданные с помощью ИИ, создаются относительно легко с использованием открытых технологий, и барьер для входа для людей, желающих использовать эти алгоритмы, очень низок», — заявил Уилсон.

AFP зафиксировала рост использования ИИ для создания материалов с детским насилием, поскольку преступники используют эту технологию для производства и распространения большого количества поддельного откровенного контента в сети.

Командир AFP Роб Нельсон подчеркнул, что технологии «отравления данных» находятся на ранней стадии разработки и тестирования, но уже демонстрируют многообещающие результаты в плане возможностей для правоохранительных органов. «Мы видим сильные перспективы в борьбе с злонамеренным использованием технологий ИИ. Например, если преступник попытается сгенерировать изображения с помощью ИИ, используя «отравленные» данные, выходное изображение будет искажено или совершенно отличаться от оригинала. Отравляя данные, мы, по сути, защищаем их от преобразования во вредоносный контент», — сказал Нельсон.

По словам Нельсона, инструмент-деструктор также может помочь следователям, сокращая объем фальшивого материала, который им приходится анализировать. «Существует ряд алгоритмов «отравления данных», и, как мы видим в других областях кибербезопасности, новые методы их обхода появляются вскоре после их создания. Мы не ожидаем, что какой-либо один метод сможет полностью остановить злонамеренное использование или воссоздание данных, однако наша работа подобна установке «лежачих полицейских» на трассе для нелегальных гонок. Мы создаем препятствия, чтобы затруднить злоумышленникам использование этих технологий», — заключил он.

Основная цель исследовательского проекта Silverer — разработка и постоянное совершенствование технологии, которая будет проста в использовании для обычных австралийцев, желающих защитить свои данные в социальных сетях. Прототип инструмента в настоящее время обсуждается для внутреннего использования в AFP.