Калифорния вводит прозрачность ИИ: закон SB 53 подписан

Губернатор Калифорнии Гэвин Ньюсом подписал закон SB 53, который устанавливает новые требования к прозрачности для крупных компаний, работающих в области искусственного интеллекта. Это первый подобный закон в стране.

Закон, принятый законодательным собранием штата две недели назад, обязывает ведущие лаборатории ИИ, включая OpenAI, Anthropic, Meta и Google DeepMind, раскрывать информацию о своих протоколах безопасности. Кроме того, он обеспечивает защиту сотрудников этих компаний, выступающих в качестве осведомителей.

SB 53 также создаёт механизм, позволяющий компаниям и общественности сообщать о потенциальных критических инцидентах, связанных с безопасностью, в Управление по чрезвычайным ситуациям Калифорнии. Компании обязаны сообщать о случаях, когда модели ИИ совершают преступления без человеческого контроля, например кибератаки, или демонстрируют обманное поведение, что не требуется в соответствии с Законом об ИИ ЕС.

Реакция индустрии на закон неоднозначна. Технологические компании в целом утверждают, что регулирование ИИ на уровне штатов создаёт «лоскутное одеяло правил», которое может замедлить инновации. Тем не менее Anthropic поддержала законопроект, в то время как Meta и OpenAI лоббировали против него. OpenAI даже опубликовала открытое письмо губернатору Ньюсому с призывом не подписывать SB 53.

Принятие закона происходит на фоне активного финансирования со стороны технической элиты Кремниевой долины, которая вкладывает сотни миллионов в супер-PAC для поддержки кандидатов, выступающих за мягкое регулирование ИИ. Руководители OpenAI и Meta недавно запустили про-ИИ супер-PAC, aiming поддержать дружественные ИИ кандидатов и законопроекты.

Другие штаты могут последовать примеру Калифорнии в попытке ограничить потенциальные риски, связанные с стремительным развитием этой мощной технологии. В Нью-Йорке аналогичный законопроект уже прошёл законодательное собрание и ожидает подписи или вето губернатора Кэти Хохул.

«Калифорния доказала, что мы можем установить regulations для защиты наших сообществ, одновременно обеспечивая процветание растущей индустрии ИИ», — заявил Ньюсом. «Этот законопроект находит этот баланс. ИИ — это новый рубеж инноваций, и Калифорния не только готова к нему, но и укрепляет свои позиции национального лидера, принимая первое в стране законодательство о безопасности передового ИИ, которое укрепляет общественное доверие по мере стремительной эволюции этой технологии.»

Губернатор также рассматривает другой законопроект — SB 243, который был принят обеими палатами законодательного собрания при двухпартийной поддержке. Этот закон будет регулировать ИИ-компаньоны, обязывая операторов внедрять протоколы безопасности и неся юридическую ответственность, если их боты не соответствуют этим стандартам.

SB 53 — это вторая попытка сенатора Скотта Винера принять закон о безопасности ИИ после того, как Ньюсом наложил вето на его более всеобъемлющий SB 1047 в прошлом году из-за сопротивления со стороны компаний ИИ. На этот раз Винер обратился к крупным компаниям ИИ, чтобы помочь им понять внесённые в законопроект изменения.