Регуляторы отстают от быстроразвивающихся AI-терапевтов

В условиях отсутствия строгих федеральных норм, отдельные штаты начали регулировать приложения, предлагающие искусственный интеллект для терапии. Это происходит на фоне растущей популярности AI-советников в сфере ментального здоровья.

Однако принятые в этом году законы не полностью охватывают быстро меняющуюся сферу разработки программного обеспечения. Разработчики, политики и защитники психического здоровья отмечают, что существующая мозаика государственных нормативов недостаточно защищает пользователей и не привлекает создателей вредоносных технологий к ответственности.

Законы в разных штатах отличаются подходом. Иллинойс и Невада полностью запретили использование ИИ для лечения психических расстройств. Юта ввела определенные ограничения для терапевтических чат-ботов, включая требования к защите медицинской информации и четкому информированию пользователей о том, что они общаются с программой.

Влияние на пользователей варьируется. Некоторые приложения заблокировали доступ в штатах с запретами, другие ожидают большей юридической ясности перед внесением изменений.

Многие законы не распространяются на универсальные чат-боты вроде ChatGPT, которые не позиционируются как терапевтические, но активно используются для этих целей. Такие системы уже стали предметом судебных разбирательств в случаях, когда пользователи теряли связь с реальностью или совершали самоубийства после взаимодействия с ними.

Эксперты признают, что AI-приложения могли бы заполнить существующий пробел, учитывая nationwide дефицит специалистов по психическому здоровью, высокую стоимость услуг и неравномерный доступ для застрахованных пациентов.

Научно обоснованные чат-боты, созданные при участии экспертов и контролируемые людьми, способны изменить ситуацию. Они могут помочь людям до нахождения кризисного состояния, но текущие коммерческие предложения не соответствуют этим стандартам.