Как AI Anthropic Mythos обнаружил тысячи уязвимостей: реакция банков и госрегуляторов

Руководители крупнейших американских банков на этой неделе встретились с председателем Федеральной резервной системы Джеромом Пауэллом и министром финансов Скоттом Бессентом, чтобы обсудить возможные угрозы безопасности, связанные с новой системой искусственного интеллекта от компании Anthropic.

Собрание прошло в Вашингтоне в рамках отдельного мероприятия, где правительственные официальные лица сосредоточили внимание на недавно представленной модели Claude Mythos. О мероприятии сообщили Bloomberg и Financial Times.

Mythos был запущен в строго ограниченной тестовой версии, доступной лишь около 40 партнёрским организациям в рамках инициативы Project Glasswing. Среди участников – такие технологические гиганты, как Amazon, Apple, Microsoft, Google, Cisco, CrowdStrike и JPMorgan Chase.

По заявлению компании и её партнёров, Mythos способен автономно анализировать огромные объёмы кода, выявлять и объединять ранее неизвестные уязвимости в критически важных системах – от операционных систем до веб‑браузеров. При этом скорость и масштаб работы модели превышают возможности любого человеческого хакера, что потенциально позволяет использовать её для вывода из строя банков, больниц или национальной инфраструктуры за считанные часы.

Anthropic утверждает, что Mythos уже обнаружил тысячи zero‑day уязвимостей в основных ОС и браузерах, а также в других критически важных программных продуктах. «Эта работа слишком важна и слишком срочна, чтобы выполнять её в одиночку», – отметил главный специалист по безопасности Cisco Энтони Гриеко.

Партнёры проекта соглашаются делиться результатами исследований, а Anthropic предоставляет около 100 млн долларов в виде вычислительных ресурсов. По словам представителя CrowdStrike Элии Зайцева, «окно между обнаружением уязвимости и её эксплуатацией сократилось до минут». Он добавил, что «Claude Mythos Preview демонстрирует новые возможности защиты, но злоумышленники также будут стремиться использовать эти инструменты».

Несмотря на указ Президента США в феврале о прекращении всех контрактов со стартапом, Anthropic сообщила о продолжающихся переговорах с правительством США. Критики, включая бывшего советника Белого дома по ИИ Дэвида Сакса, обвиняют компанию в использовании «апокалиптических» предупреждений для продвижения своих продуктов и формирования благоприятного регулирования.

Anthropic была основана бывшими исследователями OpenAI, которые ушли из компании из‑за опасений, что безопасность ИИ не получает должного внимания.