Вредоносное ПО в open source проекте LiteLLM и проблема сертификаций

Инцидент в проекте LiteLLM, разработанном выпускником Y Combinator, напоминает сюжет из сатирического сериала. Этот популярный инструмент, обеспечивающий доступ к сотням AI-моделей и управление расходами, ежедневно скачивается до 3,4 миллиона раз и имеет 40 тысяч звёзд на GitHub.

Вредоносное ПО проникло в проект через внедрение зависимости — стороннего open source компонента. После инсталции оно commencing кражу учётных данных со всех систем, к которым получало доступ, используя их для дальнейшего распространения. Инцидент был обнаружен после неожиданного отключения машины исследователя, что свидетельствует о низком качестве и хаотичности вредоносного кода, возможно, созданного с помощью AI-инструментов.

Разработчики LiteLLM оперативно отреагировали, а инцидент был обнаружен, вероятно, в течение нескольких часов. Однако ситуация усугубляется информацией о сертификатах безопасности SOC 2 и ISO 27001, которые LiteLLM proudly демонстрирует на своём сайте. Эти сертификаты были получены через стартап Delve, который ранее подвергался обвинениям в предоставлении ложных данных и использовании недобросовестных аудиторов.

Важно понимать: сертификации типа SOC 2 подтверждают наличие политик безопасности, но не гарантируют иммунитет к атакам через зависимости. Как отмечают эксперты, наличие подобного сертификата не предотвращает проникновения вредоносного кода, что и произошло в данном случае.

В настоящее время LiteLLM проводит расследование совместно с компанией Mandiant и планирует поделиться выводами с разработчическим сообществом. Комментарий от CEO Krrish Dholakia был сосредоточен на ликвидации последствий атаки.