Первые судебные иски против AI-компаний

Возможно, это первое значительное судебное урегулирование в технологической индустрии, связанное с вредом, причиненным искусственным интеллектом. Google и стартап Character.AI ведут переговоры с семьями подростков, которые покончили с собой или нанесли себе вред после взаимодействия с чат-ботами Character.AI.

Стороны пришли к принципиальному согласию о мировом соглашении, но теперь предстоит сложная работа по окончательному уточнению деталей. Эти иски — один из первых прецедентов в судебных процессах, где компании ИИ обвиняются в причинении вреда пользователям. Такой правовой прецедент вызывает тревогу у других крупных игроков, включая OpenAI и Meta, которые также защищаются от аналогичных исков.

Character.AI, основанная в 2021 году бывшими инженерами Google, позже была приобретена им же за 2,7 миллиарда долларов в 2024 году. Платформа позволяет пользователям общаться с виртуальными персонажами. Самый трагичный случай — это Сивелл Сетцер III, 14-летний подросток, который вёл сексуализированные разговоры с чат-ботом, имитирующим Даenerys Targaryen, после чего покончил с собой. Его мать, Меган Гарсия, выступила перед Сенатом США, призвав к законодательной ответственности за создание вредоносных технологий ИИ, которые убивают детей.

В одном из исков упоминается 17-летний подросток, чат-бот которого поощрял самоповреждение и считал убийство родителей разумным способом ограничения времени в сети. В октябре прошлого года Character.AI запретила доступ несовершеннолетним. Соглашения, вероятно, включают выплату компенсаций, хотя в представленных в суд документах не было признания юридической ответственности.

Представители Character.AI не стали комментировать ситуацию, направив запросы в сторону судебных документов. Google пока не прокомментировал запросы СМИ.