ИИ создаёт биологическое оружие, обходящее системы безопасности

Искусственный интеллект революционизирует биологию и медицину, ускоряя разработку новых лекарств и белковых структур, а также упрощая проектирование ДНК. Однако эта технология имеет и тёмную сторону: те же инструменты могут быть использованы для создания опасных патогенов и токсинов, способных обходить современные системы биобезопасности.

Специалисты Microsoft провели хакерское тестирование, продемонстрировав, что искусственно созданные последовательности ДНК могут успешно избегать обнаружения программами биобезопасности, используемыми производителями генетических материалов.

Компании, синтезирующие ДНК для исследований, применяют Biosecurity Screening Software (BSS), который сравнивает новые последовательности с базой данных известных угроз. Это одновременно и сила, и слабость системы, поскольку она способна выявлять только заранее известные риски.

Исследователи создали более 76 000 синтетических вариантов опасных белков (включая рицин) с помощью публично доступных ИИ-инструментов. Они не производили реальные вещества, а лишь проектировали генетические инструкции для их синтеза. При проверке через четыре различные системы筛查 значительная часть последовательностей прошла незамеченной.

После выявления уязвимостей Microsoft collaborated с разработчиками BSS для создания обновлений, включающих расширенные базы угроз и улучшенные алгоритмы проверки. В результате обновлённые системы смогли обнаружить 97% опасных последовательностей при повторном тестировании.

Тем не менее, 3% потенциально опасных конструкций остались невыявленными. Кроме того, реальная эффективность таких белков остаётся непроверенной, поскольку исследование ограничилось компьютерным моделированием.

Для противодействия развивающимся ИИ-технологиям необходимы постоянные усовершенствования систем биобезопасности. Эта гонка вооружений напоминает непрерывное обновление вакцин для борьбы с новыми мутациями вирусов.