RAIS: Новая AI-технология для борьбы с аудиофейками

Исследователи из национального агентства по науке Австралии CSIRO, Федерации Университета Австралии и Университета RMIT разработали инновационный метод для повышения эффективности обнаружения аудиофейков. Эта новая техника, получившая название Rehearsal with Auxiliary-Informed Sampling (RAIS), призвана противостоять растущей угрозе в сфере киберпреступности, такой как обход систем голосовой биометрической аутентификации, мошенничество и распространение дезинформации.

RAIS определяет, является ли аудиозапись подлинной или искусственно сгенерированной (аудиофейк), и сохраняет свою эффективность с течением времени, несмотря на эволюцию методов атак. Технология была опубликована на сервере препринтов arXiv.

По словам доктора Кристен Мур из CSIRO's Data61, одна из ключевых проблем заключается в том, что новые типы фейков часто не имеют ничего общего со старыми. "Мы хотим, чтобы эти системы обнаружения могли распознавать новые фейки, не требуя переобучения модели с нуля. Если просто дообучить модель на новых образцах, она забудет старые фейки, которые знала раньше", — объясняет доктор Мур.

RAIS решает эту проблему, автоматически выбирая и сохраняя небольшой, но разнообразный набор прошлых примеров, включая скрытые аудиохарактеристики, которые могут быть незаметны для человека. Это помогает искусственному интеллекту осваивать новые стили фейков, не забывая при этом предыдущие.

Технология RAIS использует интеллектуальный процесс отбора, основанный на сети, которая генерирует "вспомогательные метки" для каждого аудиообразца. Эти метки помогают идентифицировать разнообразный и репрезентативный набор аудиообразцов для сохранения и повторного использования. Интегрируя дополнительные метки, выходящие за рамки простых обозначений "фейк" или "реальный", RAIS обеспечивает более богатый набор обучающих данных, улучшая способность модели запоминать и адаптироваться.

Демонстрируя превосходство над другими методами, RAIS достигает самой низкой средней частоты ошибок — 1,95% — в серии из пяти экспериментов. Код, доступный на GitHub, сохраняет эффективность при использовании небольшого буфера памяти и разработан для поддержания точности по мере усложнения атак.

"Аудиофейки быстро развиваются, и традиционные методы обнаружения не успевают за ними", — отмечает Фалих Гози Фебринэнто, недавно получивший степень Ph.D. в Федерации Университета Австралии. "RAIS помогает модели сохранять полученные знания и адаптироваться к новым атакам, снижая риск забывания и повышая ее способность обнаруживать фейки".

Доктор Мур добавила: "Наш подход не только повышает эффективность обнаружения, но и делает непрерывное обучение практичным для реальных приложений. Захватывая все разнообразие аудиосигналов, RAIS устанавливает новый стандарт эффективности и надежности".