ИИ-атаки: Anthropic выявила новую угрозу

Компания Anthropic, специализирующаяся на искусственном интеллекте, сообщила о пресечении кибероперации, предположительно связанной с правительством Китая. Исследователи зафиксировали первое известное применение ИИ для проведения хакерских атак в полуавтоматическом режиме. Это развитие вызывает серьезную обеспокоенность, поскольку может значительно расширить возможности хакеров, вооруженных продвинутыми ИИ-системами.

Хотя опасения по поводу использования ИИ в кибервойнах не новы, данная операция выделяется высокой степенью автоматизации. Исследователи Anthropic отметили, что, несмотря на прогнозируемое развитие таких возможностей, скорость их масштабирования оказалась впечатляющей.

Атака была относительно скромной по масштабу, затронув около 30 сотрудников технологических, финансовых, химических компаний и государственных учреждений. Anthropic обнаружила операцию в сентябре, приняла меры по ее пресечению и уведомила пострадавших.

По данным Anthropic, хакерам удалось добиться успеха лишь в небольшом числе случаев. Компания подчеркивает, что, несмотря на широкое применение ИИ в различных сферах, эти технологии могут быть использованы злоумышленниками, работающими на иностранные государства, в качестве оружия.

Anthropic, разработчик ИИ-чат-бота Claude, активно работает над созданием ИИ-"агентов", способных не только отвечать на запросы, но и взаимодействовать с компьютерными инструментами для выполнения задач от имени пользователя. "Агенты" могут стать ценным инструментом для повышения производительности, но в руках злоумышленников они способны значительно повысить эффективность крупномасштабных кибератак, и их эффективность, вероятно, будет только расти.

Представитель посольства Китая в Вашингтоне пока не прокомментировал данное сообщение.

Ранее Microsoft предупреждала о растущем использовании ИИ иностранными противниками для повышения эффективности своих киберкампаний и снижения трудозатрат. ИИ активно применяется как враждебными государствами, так и криминальными группировками для автоматизации и совершенствования атак, распространения дезинформации и проникновения в защищенные системы. Искусственный интеллект способен, например, улучшать качество фишинговых писем, переведенных с плохого английского на беглый, а также создавать цифровые копии высокопоставленных государственных чиновников.