Сделка США-Великобритания по ИИ: риски и перспективы

Правительство Великобритании представило недавний визит американской делегации как важную веху для экономики. Было объявлено о рекордных инвестициях в размере 150 миллиардов фунтов, включая 31 миллиард, направленный на развитие искусственного интеллекта.

Эти средства охватят работу с большими языковыми моделями — технологией, лежащей в основе чат-ботов и генеративного ИИ. Также инвестиции пойдут на создание необходимой суперкомпьютерной инфраструктуры.

Компания Microsoft выделила 30 миллиардов долларов на четыре года, половина из которых предназначена для строительства новых дата-центров. Компания Nvidia инвестирует 11 миллиардов фунтов с планами развернуть 120 000 графических процессоров в британских проектах.

Однако за политической риторикой скрывается более сложный вопрос: какое будущее ИИ мы хотим создать? Будет ли процветание распределено среди широкой публики или контроль останется в руках частных компаний и иностранных интересов?

Большие языковые модели, похоже, достигают своих технических ограничений. Несмотря на увеличение вычислительной мощности, прогресс замедляется, а затраты растут. Ключевой проблемой остаются «галлюцинации» ИИ — уверенные, но ложные выводы систем.

Исследования показывают, что пользователи часто безосновательно доверяют языковым моделям, приписывая им человеческое мышление. Простые логические тесты выявляют слабости, требующие постоянного человеческого контроля.

Все модели ИИ требуют последующей корректировки для предотвращения вредоносных или предвзятых ответов. Но в отличие от людей, которые развивают этические границы через социальное взаимодействие, ИИ не может саморегулироваться. Их настройка осуществляется теми, кто ими управляет.

Британско-американское соглашение также охватывает другие области применения ИИ: от автономных транспортных средств до систем здравоохранения. Однако технологии автономного вождения десятилетиями остаются на стадии пилотных проектов с многочисленными проблемами безопасности.

Прогресс в области ИИ реален, но неравномерен. Без прозрачного контроля эти системы рискуют быть настроенными в пользу корпоративной прибыли, а не общественного блага.

Чьё будущее ИИ мы выбираем? Будущее, основанное на прозрачности и подотчётности, или то, где частные корпорации определяют, что считать истиной? Только эффективное управление и ответственность могут гарантировать, что развитие искусственного интеллекта принесёт пользу обществу.