Страхование ошибок ИИ‑агентов: риски и возможности

Страховые компании всё осторожнее начинают предлагать полисы, покрывающие ошибки, совершаемые автономными искусственными интеллектами‑агентами, работающими в центрах обработки данных. По мере того как бизнесы всё чаще доверяют ИИ‑агентам самостоятельное увеличение доходов, некоторые страховщики готовы брать на себя связанные риски, в то время как другие предпочитают держаться в стороне.

Фил Дawsон, руководитель направления AI‑политики и партнёрств в страховой компании Armilla, отметил, что главная цель использования передовых ИИ — значительно сократить необходимость человеческого контроля в принятии решений. Однако такой подход ставит под сомнение базовые принципы существующих страховых полисов.

«Агентный» ИИ уже активно применяется: боты выполняют компьютерные задачи без участия человека, а компании сокращают штат сотрудников. По словам Дawsона, это создаёт новые вызовы для традиционного страхового покрытия, поскольку риски, связанные с галлюцинациями и другими сбоями ИИ, часто учитываются лишь неявно — в рамках так называемого «молчаливого» покрытия.

Аналитик Sonal Madhok и профессор Anat Lior из Willis Towers Watson указывают, что ситуация аналогична ранним этапам регулирования киберпреступности. Они прогнозируют, что в ближайшем будущем полисы будут прямо упоминать искусственный интеллект, завершив эпоху неявного покрытия.

Некоторые страховщики уже перешли от выжидательной позиции к конкретным действиям. Например, брокерская компания Founder Shield включила в свои профессиональные полисы специальные пункты о защите от сбоев и галлюцинаций ИИ, позволяя покрывать убытки, причинённые технологии клиентам. При необходимости такие полисы можно расширить, включив в них реальный ущерб — например, ошибочный заказ излишнего количества товара.

Armilla тестирует модели ИИ на уязвимости перед выдачей полиса и проверяет, соответствует ли система управления рисками клиента международным стандартам. Тем не менее компания отказывается страховать риски, связанные с медицинской диагностикой и приложениями для психического здоровья.

Munich Re, глобальный лидер в страховании и перестраховании, предоставляет покрытие как разработчикам ИИ‑моделей, так и их пользователям. Согласно Михаэлю фон Габленцу, руководителю направления AI‑страхования в Munich Re, полностью исключить возможность ошибок или галлюцинаций у статистических моделей невозможно, поскольку любая такая модель неизбежно содержит элемент неопределённости.

При этом эксперты видят большой потенциал роста рынка страхования ИИ‑рисков. По оценкам von Gablenz, его объём может превзойти рынок кибербезопасного страхования, а аналитический центр Deloitte предсказывает, что к 2032 году глобальный рынок страховых премий в сфере искусственного интеллекта может достичь 4,8 миллиарда долларов.