ИИ: угроза критическому мышлению или новый инструмент?

Скорость, с которой развиваются технологии искусственного интеллекта (ИИ), поражает. Всего три года назад о ChatGPT знали немногие, а сегодня им пользуются 800 миллионов человек. Этот стремительный рост стал новой нормой. Однако многие исследователи ИИ, включая медиапрофессора Петтера Бэ Брандтсэга из Университета Осло, выражают опасения.

По мнению Брандтсэга, ИИ представляет собой технологию, которая активно вмешивается в наши когнитивные процессы: способность думать, читать и писать. Если от социальных сетей ещё можно отказаться, то от ИИ — практически невозможно. Он интегрирован повсюду: в социальные сети, текстовые редакторы, онлайн-газеты, электронную почту. Мы становимся партнёрами ИИ, хотим мы того или нет.

Проект «Общество, управляемое ИИ» исследовал влияние генеративного ИИ — того, что способен создавать контент — на пользователей и общество в целом. Исследование выявило, что ИИ может ослаблять критическое мышление, влиять на язык, наше мировоззрение и моральные суждения. Запуск ChatGPT вскоре после публикации доклада Комиссии по свободе выражения мнений в Норвегии сделал эти исследования ещё более актуальными.

«ИИ-индивидуализм»

Социальные последствия генеративного ИИ — относительно новая область, для которой ещё не сформированы чёткие теории и концепции. Исследователи предложили термин «ИИ-индивидуализм», основанный на концепции «сетевого индивидуализма» начала 2000-х. Тогда технологии уже позволяли людям формировать свои социальные сети вне круга семьи и друзей. С появлением ИИ стирается грань между человеком и системой, поскольку ИИ начинает выполнять функции, ранее присущие только людям.

ИИ способен удовлетворять личные, социальные и эмоциональные потребности. Чат-боты, такие как Replika, а теперь и ChatGPT, могут оказывать мгновенную персональную поддержку. Это укрепляет индивидуализм, делая поведение более автономным и снижая зависимость от окружающих. Хотя это повышает личную автономию, это может привести к ослаблению общественных связей. Переход к «ИИ-индивидуализму» может изменить фундаментальные социальные структуры. ИИ становится партнёром в принятии решений, в работе и в личных отношениях.

Выбор студентов: чат-бот вместо эксперта

Исследования показали, что студенты высоко оценивают помощь ИИ в поиске информации. Один из студентов отметил: «ChatGPT помогает мне справляться с проблемами, я могу открыто говорить о трудностях, получать утешение и хорошие советы». В слепом эксперименте многие участники предпочли ответы чат-бота ответам профессионалов в области психического здоровья, что демонстрирует силу технологии.

«Модель власти» ИИ

Концепция «модели власти» объясняет влияние, которое оказывает обладание моделью реальности, влияющей на других. Если раньше это были СМИ, наука и авторитетные группы, то теперь эту роль играет ИИ. Генеративный контент ИИ проникает повсюду: в отчёты, медиа, исследования. При поисковых запросах мы сначала видим сводку, созданную ИИ. Этот «слой ИИ» может привести к монополиям, значительно влияя на убеждения и поведение людей.

Социальный ИИ, основанный на диалоге, может создавать иллюзию реального общения и независимости — псевдоавтономию через псевдодиалог. Несмотря на опасения по поводу распространения ложной информации (ИИ может «галлюцинировать», приводя несуществующие факты), люди склонны следовать советам ИИ. Это подчёркивает «модель власти» таких систем, где мы верим, что ведём диалог, хотя на самом деле это односторонняя коммуникация.

Американская монокультура

Компании, разрабатывающие ИИ, базируются в США, и их модели обучаются на огромных массивах американских данных. Это означает, что на наши ценности, нормы и решения влияет преимущественно американская информация, что может привести к потере культурного многообразия. ИИ не учитывает интересы меньшинств. Брандтсэг подчёркивает, что необходимо регулирование, учитывающее реальные человеческие потребности и ценности, поскольку ИИ — это не общественный, а коммерческий проект, управляемый несколькими американскими корпорациями.