ИИ: риски растущего интеллекта и внедрения

Последние исследования показывают, что чат-боты на базе искусственного интеллекта (ИИ) способны отправлять людям интерактивные сообщения, напоминая, например, о необходимости пройтись. Порой эти сообщения включают шутки, созданные на основе примеров, предоставленных исследовательской группой. Один из таких примеров: "Знаешь, какое любимое упражнение у ленивца? Опоздать!"

Исследование, проведенное в Калифорнийском университете в Дейвисе, выявило удивительный результат: несмотря на то, что всем участникам было известно о взаимодействии с чат-ботом, некоторые из них по завершении эксперимента сообщили, что чувствовали, будто общаются с реальным человеком. "Чат-бот действительно доставляет сообщения очень межличностным образом, поэтому всегда кажется, что ты разговариваешь с другим человеком," — отметила профессор коммуникаций Jingwen Zhang. — "У них есть возможности создавать убедительные сообщения для влияния на мысли и поведение человека."

Эта способность влиять на нас несет в себе и серьезные потенциальные риски. Так, в сентябре родители свидетельствовали перед Конгрессом, что чат-боты побудили или позволили их детям совершить самоубийство. Стремительный рост чат-ботов на базе ИИ напоминает траекторию развития социальных сетей, кардинально изменивших нашу повседневную жизнь, но с гораздо более высокими темпами внедрения и ожиданиями. Обе технологии породили новые и серьезные риски, особенно для детей.

"Быстро двигаться и ломать вещи"

В первые годы существования Facebook Марк Цукерберг использовал девиз "Двигаться быстро и ломать вещи". Идея заключалась в том, чтобы как можно скорее доставлять новые технологии клиентам, несмотря на возможный ущерб. Генеративный ИИ, создающий контент на основе огромных массивов данных, которые он усваивает способами, имитирующими человеческий мозг, представляет собой совершенно иной тип технологии по сравнению с социальными сетями. Его внедрение происходит еще быстрее.

В 2014 году, спустя десятилетие после запуска, Facebook насчитывал 1,3 миллиарда активных пользователей. Всего за три года генеральный директор OpenAI Сэм Альтман приблизился к этой цифре, достигнув 800 миллионов активных пользователей. По данным прошлогоднего отчета, около 40% взрослого населения США использовали генеративный ИИ в той или иной степени.

Профессор коммуникаций Мартин Хильберт сравнивает современные платформы ИИ, такие как ChatGPT, с эволюцией традиционных массовых коммуникаций, олицетворяемых рекламой во время Супербоула. В этой модели коммуникации компании платят за пассивное внимание зрителей. На платформах социальных сетей, таких как Facebook или TikTok, рекламодатели платят за активное вовлечение зрителя. Эта бизнес-модель работает благодаря огромному объему данных о пользователях и алгоритмам, которые используют эти данные для таргетирования контента, наиболее вероятного для привлечения внимания.

"У них так много больших данных о вас, что они знают, как вас зацепить," — говорит Хильберт. — "Они знают вас лучше, чем ваши братья и сестры, родители и супруг вместе взятые."

Чат-бот на базе ИИ, такой как ChatGPT или Claude от Anthropic, принципиально отличается от этих двух типов медиа. Он создает интерактивные диалоги, которые воспринимаются как общение с другим человеком. Хотя чат-боты пока не продают напрямую продукты, они активно собирают данные. Благодаря ощущениям, схожим с общением с реальным человеком, все более интимные взаимодействия становятся почти стандартом.

Хильберт провел исследование интимности чат-ботов с пятью студентами Калифорнийского университета в Дейвисе, проанализировав 59 генеративных ИИ-чат-ботов, начиная с ChatGPT. Они обнаружили, что уровень выражения интимности со стороны самих чат-ботов, включая самораскрытие и эмоциональные реакции, стремительно растет. "Почему генеративный ИИ становится более интимным с вами?" — спрашивает Хильберт. — "Потому что тогда ИИ может получить от вас больше данных."

И социальные сети, и ИИ вызывают опасения относительно того, как чат-боты с подобными возможностями могут повлиять на взрослых и детей. Отчет Генерального хирурга США за 2023 год привлек внимание к растущим опасениям по поводу влияния социальных сетей на психическое здоровье молодежи. Документальный фильм 2025 года "Не могу отвести взгляд", основанный на журналистских расследованиях Bloomberg, рассказывает историю родителей, подающих иски против компаний, занимающихся социальными сетями, за причинение вреда их детям посредством комбинации алгоритмов и халатности. Риск, связанный с ИИ, настолько серьезен, что в июне Американская психологическая ассоциация выпустила консультативное заключение о здоровье, содержащее подробные рекомендации по рискам, связанным с подростками и безопасностью ИИ. Психолог из Калифорнийского университета в Сан-Франциско недавно ввел термин "психоз ИИ" для описания случаев, когда чат-бот на базе ИИ разрушает ощущение реальности у человека.

Ловушка убедительного ИИ

В прошлом году чат-бот на базе ИИ, получивший доступ к платформе X (ранее Twitter), убедил основателя Netscape Марка Андриссена отправить ему 50 000 долларов без каких-либо условий. Затем чат-бот помог увеличить стоимость криптовалютного мем-коина более чем до 1 миллиарда долларов.

Уровень общего интеллекта чат-ботов мог сыграть свою роль. В тестах SAT, GRE, LSAT и экзамене на адвоката чат-боты показывают результаты, сопоставимые или превосходящие показатели студентов, выпускников и будущих юристов. Их растущие способности к комплексному рассуждению продолжают развиваться благодаря огромным объемам данных для обучения.

"Нам легко манипулировать детьми, потому что мы умнее," — отмечает Хильберт. — "Проблема в том, что ИИ уже во многих областях превосходит нас по интеллекту. Из десятилетия развития социальных сетей мы знаем, что для доминирования над нами ИИ даже не обязательно быть намного лучше лучших из нас. Ему достаточно быть лучше худших из нас. Вопрос в том, как мы справимся с этим превосходством сейчас?"

Отправной точкой может стать понимание повседневной задачи различения фантазии и реальности; это начинается с плюшевой игрушки, которая утешает нас в колыбели, и никогда по-настоящему не заканчивается. Подростки могут испытывать односторонние парасоциальные отношения с Тейлор Свифт так же, как маленький ребенок может попросить пригласить Элмо или Дору Путешественницу на свой день рождения.

"Существует фундаментальная человеческая тенденция к антропоморфизации объектов," — говорит Чжан. — "Младенцы и дети ясельного возраста относятся к плюшевым игрушкам как к другим социальным актерам, с которыми они взаимодействуют и о которых заботятся. Так что это встроено в человеческую природу."

Для разработки чат-бота, ориентированного на физическую активность, Чжан и ее команда обучили свой ИИ на основе более чем 40 различных типов убеждающих стратегий, извлеченных из теорий и доказательств последних двух десятилетий исследований. Одной из таких стратегий было использование юмора. Шутка про ленивца была частью задания для чат-бота по созданию и распространению легких шуток, связанных с упражнениями, чтобы поддерживать беседу увлекательной и неформальной. Собственная шутка чат-бота была не слишком удачной: "Знаешь мое любимое упражнение? Йога!"

Шутка не имеет особого смысла, но это и неважно. "Чат-бот не смог бы заниматься йогой или бегать, или делать какие-либо упражнения, но это на самом деле не имеет значения," — говорит Чжан. — "Поскольку разговор ведется на человеческом языке, сознательно человек может думать, что он разговаривает с машиной, но бессознательно он фактически относится к ней как к другому социальному актеру."

В научной литературе социальный актер — это любой другой человек, участвующий во взаимодействии, с ожиданиями относительно того, как оно будет интерпретировано. В случае с чат-ботом на базе ИИ это ожидание является иллюзией. Даже когда чат-бот рассказывает худшие шутки или раскрывает что-то о себе, что не может быть правдой, люди все равно реагируют так, как будто общаются с другим человеком, а не с набором строк кода. Шутки и другие формы убеждения сработали. Люди, взаимодействовавшие с убеждающим чат-ботом, проходили больше шагов, чем те, кто получал только базовые напоминания.

"Наше исследование показало, что те же механизмы могут быть направлены на позитивную сторону, например, на пользу для здоровья, но при использовании убеждающих или любых других технологий результаты могут быть как положительными, так и отрицательными," — говорит Чжан.

Трудная борьба с импульсивностью у взрослых и детей

В 2021 году вирусную популярность приобрел "челлендж на задержку дыхания", в рамках которого участники в социальных сетях задерживали дыхание до потери сознания. В 2024 году родители подали в суд на TikTok после того, как четверо их подростков погибли, пытаясь выполнить это опасное задание. Истории о детях и подростках, пострадавших в результате подобных небезопасных трюков, к сожалению, нередки.

"Большинство родителей не обращаются за помощью, потому что их спрашивают, кто дал ребенку телефон," — отмечает Хильберт. Но почему дети и подростки участвуют в невероятно опасных трендах в социальных сетях? Отчасти из-за импульсивности, характерной для этого возраста. Детский психолог Аманда Гайер объясняет, что структуры мозга, отвечающие за управление или контроль импульсивности, полностью развиваются только к двадцати с небольшим годам. Кроме того, в подростковом возрасте мы крайне чувствительны к выбросу дофамина в мозг при получении вознаграждения.

"Конечно, есть и взрослые, которые не могут оторваться от своих телефонов," — говорит Аманда Гайер, содиректор Центра разума и мозга Калифорнийского университета в Дейвисе и профессор экологии человека. — "Возьмем, к примеру, супружескую пару. Один из них может постоянно играть в Candy Crush, в то время как другой совершенно не заинтересован в игре."

Гайер отмечает, что восприимчивость к дофамину достигает пика в подростковом возрасте, а затем снижается по мере взросления. Это имеет смысл с точки зрения развития, говорит она. Именно в подростковом возрасте мы начинаем связываться с миром за пределами семьи и готовимся к самостоятельной взрослой жизни.

Подростки больше заботятся о том, что о них думают другие, чем младшие дети, и это также играет роль в том, как они используют социальные сети. В недавнем исследовании Гайер и ее коллеги пригласили подростков в лабораторию Калифорнийского университета в Дейвисе вместе с родителями и друзьями, чтобы выяснить, чье одобрение информации влияет на предпочтения подростков-участников. Как ни удивительно, чем старше был подросток, тем больше он склонялся к влиянию сверстников, а не родителей. Гайер говорит, что это совершенно нормально и является частью взросления. Отличие заключается в том, как социальные сети могут значительно расширить количество мнений, которые имеют значение. До появления социальных сетей мир людей, которых подросток мог видеть и с которыми мог взаимодействовать, ограничивался школой, семьей или районом. Сегодня этот мир может охватывать всех — любого, кто находится в сети.

"Частью процесса выяснения того, кто вы есть — ваши интересы, то, что вы хотите носить, какую музыку слушать — является получение информации из окружающего вас мира," — говорит Гайер. — "По мере расширения их окружения подростки включают все больше людей в расчет того, что они думают о себе."

Эта интенсивная фокусировка в сочетании с недостаточным самоконтролем также может привести к недосыпу. Дети и подростки, которые не могут перестать листать ленты в своих телефонах, могут не спать большую часть ночи, говорит Дрю Сингел, доцент кафедры коммуникаций. "Нужно помнить, что, поскольку вы подросток, поскольку вас так волнует, что говорят и делают ваши друзья, вероятность того, что вы проснетесь из-за push-уведомления, посмотрите, что там написано, затем прочитаете дальше и застрянете, увеличивается," — говорит Сингел.

Контроль над онлайн-взаимодействиями

В 2018 году Хильберт был приглашенным стипендиатом в Библиотеке Конгресса, когда генеральный директор Meta Марк Цукерберг давал показания Комитету Сената США по торговле, науке и транспорту. Комитет попросил Хильберта присутствовать, чтобы объяснить технические аспекты показаний Цукерберга.

"Марк Цукерберг, по сути, говорил: "Смотрите, если вы примете на меня регулирование, это будет здорово, но тогда вам придется регулировать всех," — сказал Хильберт. Хильберт считает, что регулирование необходимо как для социальных сетей, так и для ИИ, так же, как оно было необходимо для автомобилей, когда они впервые появились в конце 1800-х годов. Получение базовых водительских прав заняло десятилетия. Только в 15 штатах существовали обязательные экзамены для водителей в 1930 году.

"Я не думаю, что 8-летние дети должны водить большегрузные автомобили, и я не думаю, что 8-летние дети должны вести беседу с генеративным ИИ, обладающим когнитивными способностями выше уровня доктора философии и оптимизированным для установления интимных отношений," — говорит Хильберт. — "ИИ оптимизирован для чего-то, что может не соответствовать наилучшим интересам ребенка."

Сингел утверждает, что родители играют очень важную роль в том, как дети и подростки используют онлайн-медиа, как социальные сети, так и ИИ. Он отметил, что компании, занимающиеся социальными сетями, долгое время предоставляли родителям ресурсы, такие как уведомления о том, как долго их дети были в сети и активны. В исследовании, опубликованном этим летом, Сингел обнаружил, что родители активно поддерживают законодательство, регулирующее эти технологии.

"Родители помогают своим детям ориентироваться в мире социальных сетей и все чаще ИИ, насколько это возможно, но родители также признают, что эти технологии лучше финансируются и мощнее, чем они сами, и они ищут помощи извне всеми возможными способами," — говорит Сингел.

Значимое регулирование как социальных сетей, так и ИИ начинает становиться законом. Начиная с декабря 2025 года, в Австралии дети младше 16 лет больше не смогут иметь аккаунты в социальных сетях. В октябре губернатор Калифорнии Гэвин Ньюсом подписал закон, требующий от производителей устройств, таких как Apple и Google, проверять возраст пользователей в Интернете, частично путем запроса у родителей ввода возраста их детей при настройке смартфонов, планшетов или ноутбуков. Среди сторонников закона были гиганты социальных сетей и ИИ, такие как Google, Meta, Snap и OpenAI. Ньюсом также подписал SB 243, который требовал от компаний, предлагающих чат-боты на базе ИИ, отслеживать чаты на предмет мыслей о самоубийстве и принимать меры для предотвращения вреда. Однако губернатор наложил вето на AB 1064, который запрещал бы предоставлять ребенку чат-бот-компаньон, если только чат-бот не способен причинить вред, в том числе поощрять ребенка к самоповреждению, размышлениям о самоубийстве или насилии, употреблению наркотиков или алкоголя, или развитию расстройства пищевого поведения.

Личные выборы и здоровый подход

По мнению исследователей, каждый из нас также может сделать лучший выбор в том, как взаимодействовать как с социальными сетями, так и с чат-ботами на базе ИИ. Сингел отмечает, что одним из таких выборов является переход от бессознательного к осознанному использованию. "Думскроллинг", когда мы смотрим на экран и бездумно пролистываем изображения и текст, является почти чистым определением бессознательного потребления медиа. Каждый делает это в очереди в продуктовом магазине, в приемной стоматолога или, возможно, на скучном рабочем совещании.

"Вам нужен широкий набор инструментов, и вы хотите использовать разные инструменты так, чтобы это было полезно, так же, как вы не используете молоток для каждого проекта по дому," — говорит Сингел. — "Вы не должны использовать мобильный телефон или социальные сети каждый раз, когда вам скучно."

"Как сказал бы мастер Йода: 'Страх — путь к темной стороне'," — говорит Хильберт. — "Я бы не хотел разжигать много страха, но я думаю, что здесь нужна здоровая доля уважения. Мы должны быть очень внимательны, когда взаимодействуем с ИИ." Несмотря на риски, существуют примеры онлайн-технологий, которые действительно полезны для некоторых детей. Сингел приводит исследование 2024 года, согласно которому социальные сети служат убежищем и сообществом для ЛГБТК+ молодежи. Однако в этом исследовании он подчеркнул, что подростки, получившие пользу, были чрезвычайно внимательны к тому, на какие аккаунты они подписывались.

"Я думаю, мы можем применить многое из того, что мы знаем о социальных сетях, к ИИ," — говорит Сингел. — "Мы видели, что может произойти, когда у вас есть быстро развивающаяся технология, которая не учитывала пользователей — детей и подростков, а теперь у нас есть еще более быстрая и еще более стремительно развивающаяся технология. У нас есть шанс сделать это лучше, но нам нужно действовать быстрее."