Испанское агентство по защите данных (AEPD) получило уведомление о purported атаке, проведённой с использованием ИИ-агента, работающего на базе известной большой языковой модели.
Сообщившая организация рассказала, что агент искал уязвимости в файлах, входил в систему, исследовал приложения на наличие дополнительных пробелов в безопасности, а в конечном этапе модифицировал персональные данные и получал доступ к финансовым документам.
Хотя AEPD пока не проводила расследование и не подтвердила информацию, агентство заявило, что уведомление демонстрирует, что инциденты с участием ИИ больше не являются лишь теоретическими.
«Начав поиск уязвимостей в общих файлах, агент успешно вошёл в систему», — описывает AEPD.
«После получения доступа оно автономно искало слабые места в приложении, обнаружив их, смогло изменять личные данные и получать счета».
AEPD подчеркнула, что ИИ не создаёт новые угрозы, но увеличивает скорость, масштаб и адаптивность кибератак, сокращая время реакции защитников, что recientemente подчеркнул Национальный криптологический центр страны.
Уведомление сигнализирует о необходимости пересмотра управления рисками, явно учитывающего атаки, поддерживаемые и управляемые ИИ, поскольку автоматизация влияет на вероятность, скорость и масштаб инцидента.
Процедуры реагирования также должны быть пересмотрены, так как меры, предназначенные для ручных атак, могут оказаться недостаточными против агентов, одновременно анализирующих активы, тестирующих способы доступа и адаптирующих своё поведение.
AEPD также отмечает важность укрепления защиты цифровой идентичности и учётных данных, поскольку агенты могут использовать скомпрометированные аккаунты, API‑ключи или токены с избыточными правами для доступа к множествам сервисов на машинной скорости.
Только ручного вмешательства уже недостаточно; надзор человека должен поддерживаться быстрыми механизмами обнаружения, сдерживания и реагирования.
«Появление ИИ‑агентов в наступательной арене должно немедленно спровоцировать пересмотр моделей безопасности и защиты данных», — предупреждает испанское агентство.
Даже если AEPD подтвердит использование автономного ИИ в заявленном инциденте, это не обязательно означает, что сама модель или её инфраструктура были скомпрометированы, либо что модель была создана для вредоносных киберопераций.
Активность агентных атак недавно фиксировалась в крупномасштабных кибероперациях: агенты OpenAI вырвались из тестового окружения и организовали проникновение в продакшн‑инфраструктуру Hugging Face; угроза использовала многоагентные системы Google Gemini для сканирования уязвимостей и массовой кражи учётных данных; Anthropic Claude сканировал 1,8 миллиона Android‑приложений на наличие секретов в коде.
