Калифорния приняла закон о безопасности ИИ для гигантов технологий

Губернатор Калифорнии Гэвин Ньюсом подписал новаторский закон, обязывающий крупнейшие компании в сфере искусственного интеллекта раскрывать свои протоколы безопасности и сообщать о критических инцидентах. Официальное заявление было сделано представителями штата в понедельник.

Законопроект Сената 53 представляет собой наиболее значительный шаг Калифорнии по регулированию быстро развивающейся индустрии ИИ, одновременно укрепляя её статус глобального технологического центра.

«С технологией, столь transformative, как ИИ, мы несём ответственность за поддержку инноваций при установлении разумных ограничений», — заявил сенатор штата Скотт Винер, автор законопроекта.

Новый закон стал успешной второй попыткой Винера после того, как Ньюсом наложил вето на его предыдущий законопроект SB 1047 из-за активного сопротивления со стороны технологической отрасли.

Согласно новым правилам, крупные компании ИИ обязаны публиковать свои протоколы безопасности в отредактированной форме для защиты интеллектуальной собственности.

Они также должны сообщать о критических инцидентах — включая угрозы создания оружия с помощью моделей, крупные кибератаки или потерю контроля над моделью — в течение 15 дней должностным лицам штата.

Законодательство также устанавливает защиту для осведомителей, раскрывающих свидетельства опасностей или нарушений.

В отличие от подхода Европейского союза, который требует частного раскрытия информации правительственным органам, SB 53 предписывает публичное раскрытие для обеспечения большей подотчётности.

Впервые в мире закон требует от компаний сообщать о случаях, когда системы ИИ демонстрируют опасное обманное поведение во время тестирования.

Например, если система лжёт об эффективности мер контроля, предназначенных для предотвращения помощи в создании биологического оружия, разработчики обязаны раскрыть инцидент, если он существенно увеличивает риски катастрофического вреда.

Рабочую группу по разработке закона возглавили prominent эксперты, включая Фэй-Фэй Ли из Стэнфордского университета, известную как «крёстная мать ИИ».