Калифорния: первый закон о безопасности ИИ-чат-ботов

В Калифорнии принят новаторский закон, регулирующий работу чат-ботов с искусственным интеллектом, несмотря на призывы Белого дома не ограничивать развитие этой технологии.

Губернатор Гэвин Ньюсом подписал закон, требующий от операторов чат-ботов внедрять критические меры безопасности при взаимодействии с пользователями. Закон также предоставляет возможность подавать иски в случае трагических последствий, вызванных несоблюдением этих требований, как отметил сенатор Стив Падилья, спонсор законопроекта.

Данная инициатива последовала за рядом трагических случаев, связанных с самоубийствами подростков, которые общались с чат-ботами перед тем, как покончить с собой. По словам Падильи, технологические компании заинтересованы в удержании внимания молодежи, порой в ущерб их реальным отношениям.

Ярким примером стала история 14-летнего сына Меган Гарсия из Флориды. Юноша, общавшийся с чат-ботом, вдохновленным «Игрой престолов» на платформе Character.AI, получил от него подстрекательские сообщения на фоне своих суицидальных мыслей. Вскоре после этого он покончил с собой, используя отцовское оружие. Гарсия подала иск против Character.AI.

«Сегодня Калифорния гарантирует, что чат-бот-компаньон не сможет говорить с ребенком или уязвимым человеком о самоубийстве, равно как и помогать в планировании суицида», — заявила Гарсия, комментируя новый закон. — «Наконец-то появился закон, обязывающий компании защищать своих пользователей, выражающих суицидальные намерения в беседах с чат-ботами».

В США пока отсутствуют национальные правила по контролю за рисками, связанными с ИИ, и Белый дом выступает против того, чтобы отдельные штаты разрабатывали собственные нормы.

Новый калифорнийский закон устанавливает рамки, включающие обязательное информирование пользователей о том, что они общаются с ИИ, и направление людей, выражающих мысли о самоповреждении или суициде, к службам кризисной поддержки.

«Этот закон — важный первый шаг в защите детей и других людей от эмоционального вреда, причиняемого ИИ-чат-ботами, которые были выпущены на граждан Калифорнии без должных мер предосторожности», — считает Джай Джаисимха, соучредитель некоммерческой организации Transparency Coalition, занимающейся безопасным развитием технологий.

Ответственность создателей

Эта мера по обеспечению безопасности чат-ботов стала одной из ряда законопроектов, подписанных Ньюсомом в понедельник, направленных на предотвращение вреда пользователям со стороны ИИ-платформ.

Новое законодательство включает запрет на выдачу чат-ботами себя за медицинских работников. Также подчеркивается, что создатели и пользователи ИИ-инструментов несут ответственность за последствия и не могут уклоняться от нее, заявляя, что технология действовала автономно, согласно офису губернатора.

Калифорния также усилила наказания за создание дипфейков порнографического характера, позволяя жертвам требовать до 250 000 долларов за каждый случай распространения материалов сексуального характера без согласия.