Регулирование ИИ в Великобритании: подход ICO к защите данных

Технологии искусственного интеллекта стремительно развиваются, проникая во все сферы жизни и промышленности. В этих условиях возрастает значение регулирующих органов, таких как Управление комиссара по информации Великобритании.

Эксперт по политике ИИ София Игнатиду подробно рассказывает о комплексном подходе ведомства к управлению развитием технологий искусственного интеллекта. Особое внимание уделяется возможностям для экономического роста, потенциальным рискам внедрения и этическим аспектам, которые должны учитывать организации.

Каковы функции Управления комиссара по информации в сфере ИИ и как осуществляется контроль за соблюдением законодательства?

ICO выступает независимым органом по защите данных с горизонтальной юрисдикцией, охватывающей как государственный, так и частный сектор. Регулятор контролирует обработку персональных данных на всех этапах жизненного цикла систем ИИ — от сбора информации до обучения моделей и их практического применения.

Подход сочетает проактивное взаимодействие с регуляторным контролем. Специалисты работают с бизнесом через отделы по предприятиям и инновациям, а с госсектором — через коллег по публичной политике. Применяются инновационные сервисы для поддержки ответственной разработки ИИ, а enforcement используется при серьезных нарушениях.

Как совместить инновационный потенциал ИИ с надежной защитой информации?

Искусственный интеллект открывает значительные возможности для повышения эффективности, снижения административной нагрузки и ускорения принятия решений за счет автоматизации процессов. Однако эти преимущества реализуются только при условии решения реальных проблем, а не поиска применений для готовых решений.

Великобритания обладает мировым кадровым потенциалом в области ИИ и продолжает привлекать ведущих специалистов. Междисциплинарный подход, сочетающий технические знания с достижениями социальных наук и экономики, необходим для отражения сложности человеческого опыта в разработке ИИ.

Важно отметить, что защита данных не является препятствием для инноваций. Напротив, она служит основой устойчивого развития технологий и экономического роста. Как ремни безопасности способствовали безопасному расширению автомобильной промышленности, так и надежная защита информации формирует доверие к системам ИИ.

Какие риски связаны с искусственным интеллектом и как их оценивает регулятор?

ИИ представляет собой совокупность статистических моделей с различной сложностью, точностью и требованиями к данным. Риски зависят от контекста и целей применения технологий.

При выявлении случаев высокорискового использования ИИ организация обязана провести оценку воздействия на защиту данных. Этот документ должен описывать риски и меры по их снижению. ICO оценивает адекватность таких оценок, фокусируясь на серьезности и вероятности причинения вреда. Непредоставление корректной оценки может привести к регуляторным мерам.

Как новые технологии помогают решать вопросы защиты информации?

Федеративное обучение позволяет тренировать модели без централизации исходных данных, что снижает риски масштабных утечек и ограничивает раскрытие персональной информации. В сочетании с другими технологиями повышения конфиденциальности оно дополнительно снижает риск вывода чувствительных данных злоумышленниками.

Блокчейн при грамотной реализации может усилить целостность и подотчетность благодаря защите от несанкционированного изменения записей. При этом важно избегать ненужного раскрытия информации в цепи.

Какие этические аспекты связаны с ИИ и как организациям следует их учитывать?

Законодательство о защите данных включает семь основных принципов: законность, справедливость и прозрачность; ограничение цели; минимизация данных; точность; ограничение хранения; безопасность; подотчетность. Согласно требованию «защиты данных по проектированию и по умолчанию», организации должны интегрировать эти принципы в системы ИИ с самого начала.

Стратегия ICO по ИИ и биометрии определяет четыре приоритетных направления: контроль автоматизированного принятия решений в госуправлении и рекрутинге, надзор за обучением генеративных моделей, регулирование технологии распознавания лиц в правоохранительных органах и разработка нормативного кодекса практики по ИИ.

Как Великобритания может сохранять лидерство в условиях быстрого развития технологий?

Правительственный план возможностей ИИ справедливо подчеркивает необходимость усиления потенциала регуляторов для надзора за искусственным интеллектом. Развитие экспертизы и ресурсов в регуляторной среде необходимо для соответствия темпам технологических изменений.

Поскольку цепочки поставок ИИ носят глобальный характер, международное сотрудничество играет ключевую роль. ICO поддерживает активные связи с коллегами через форумы G7, ОЭСР, Глобальную ассамблею по конфиденциальности и Европейскую комиссию. Ведомство внимательно следит за такими инициативами, как Закон об ИИ ЕС, сохраняя уверенность в подходе Великобритании по наделению полномочиями отраслевых регуляторов вместо создания единого органа.

Закон о данных обязывает ICO разработать нормативный кодекс практики по ИИ и автоматизированному принятию решений. Этот документ будет основываться на существующих рекомендациях и включит последние позиции, включая ожидания относительно генеративного ИИ и совместные руководства по закупкам ИИ. Кодекс предоставит большую ясность по вопросам исследований и подотчетности в сложных цепочках поставок.

Великобритания уже играет ведущую роль в глобальных дискуссиях по регулированию ИИ. Например, Форум цифрового регулирования, объединяющий ICO, Ofcom, CMA и FCA, был воспроизведен на международном уровне. ICO также стало первым органом по защите данных, предоставившим ясность в отношении генеративного ИИ.

Среди основных вызовов на будущее — привлечение и удержание специалистов по ИИ, обеспечение регуляторной определенности в условиях быстрых технических и законодательных изменений, а также соответствие масштабам внедрения искусственного интеллекта.