ИИ стирает грани: угроза когнитивному разнообразию человечества

Современные большие языковые модели (LLM) оказывают глубокое влияние на то, как мы выражаем свои мысли, пишем и даже мыслим. Ученые-компьютерщики и психологи выражают обеспокоенность тем, что повсеместное использование этих технологий ведет к унификации человеческого выражения и мышления. Если эта тенденция сохранится, она может привести к снижению коллективной мудрости человечества и его способности к адаптации.

Исследователи предлагают разработчикам ИИ активнее включать в обучающие наборы данных реальное разнообразие человеческого опыта. Это не только поможет сохранить когнитивное разнообразие, но и улучшит способности чат-ботов к рассуждению.

Как ИИ меняет человеческое самовыражение

«Каждый человек обладает уникальным стилем письма, мышления и видения мира», — отмечает Живар Сорати, ведущий автор исследования и специалист по компьютерным наукам из Университета Южной Калифорнии. «Когда эти индивидуальные особенности обрабатываются одними и теми же LLM, их отличительные языковые стили, перспективы и стратегии рассуждения унифицируются, что приводит к стандартизированным выражениям и мыслям у всех пользователей».

Когнитивное разнообразие, как подчеркивают исследователи, способствует творчеству и решению проблем в группах и обществах. Однако, по мере того как миллиарды людей все чаще используют одни и те же чат-боты для решения множества задач, когнитивное разнообразие в мире сокращается.

Например, когда люди используют чат-боты для улучшения своих текстов, их письменная речь теряет свою стилистическую индивидуальность, а сами авторы ощущают меньшую творческую вовлеченность в созданный контент.

«Опасение вызывает не только то, как LLM формируют нашу речь и письмо, но и то, как они незаметно переопределяют, что считается достоверной речью, правильной точкой зрения или даже разумным рассуждением», — добавляет Сорати.

Свидетельства сужения перспектив и стилей

Команда исследователей ссылается на многочисленные исследования, демонстрирующие, что результаты работы LLM менее разнообразны, чем тексты, созданные людьми. Кроме того, выходные данные LLM, как правило, отражают язык, ценности и стили рассуждения западных, образованных, индустриализированных, богатых и демократических обществ.

«Поскольку LLM обучены улавливать и воспроизводить статистические закономерности в своих обучающих данных, которые часто перепредставлены доминирующими языками и идеологиями, их результаты часто отражают узкий и искаженный срез человеческого опыта», — поясняет Сорати.

Хотя исследования показывают, что люди генерируют больше идей с большей детализацией при использовании LLM, группы людей, напротив, производят меньше и менее креативных идей, когда пользуются LLM, по сравнению с тем, когда они просто объединяют свои коллективные усилия.

«Даже если люди не являются прямыми пользователями LLM, эти модели все равно будут влиять на них косвенно», — отмечает Сорати. «Если многие люди вокруг меня думают и говорят определенным образом, а я поступаю иначе, я буду чувствовать давление, чтобы привести себя в соответствие, поскольку это будет казаться более достоверным или социально приемлемым способом выражения моих идей».

Изменения в рассуждениях и человеческой активности

Помимо языка, исследования показали, что после взаимодействия с предвзятыми LLM мнения людей становятся более схожими с мнением использованной ими модели. LLM также отдают предпочтение линейным методам рассуждения, таким как «цепочка мыслей», требующая от моделей пошагового объяснения.

Это подчеркивание снижает использование интуитивных или абстрактных стилей рассуждения, которые иногда более эффективны, чем линейные, утверждают исследователи. Они также отмечают, что LLM могут изменять ожидания людей, что может незаметно менять направление работы человека.

«Вместо того чтобы активно направлять генерацию, пользователи часто полагаются на предлагаемые моделью продолжения, выбирая варианты, которые кажутся «достаточно хорошими», вместо того чтобы создавать свои собственные, что постепенно смещает активность от пользователя к модели», — говорит Сорати.

Создание более разнообразного и полезного ИИ

Исследователи считают, что разработчики ИИ должны сознательно включать разнообразие в язык, перспективы и методы рассуждения в свои модели. Они подчеркивают, что это разнообразие должно быть основано на существующем в мире человеческом разнообразии, а не вносить случайные вариации.

«Если бы LLM имели больше разнообразных способов подхода к идеям и проблемам, они бы лучше поддерживали коллективный интеллект и возможности решения проблем наших обществ», — заявил Сорати. «Нам необходимо диверсифицировать сами модели ИИ, а также корректировать способы взаимодействия с ними, особенно учитывая их широкое применение в различных задачах и контекстах, чтобы защитить когнитивное разнообразие и потенциал для генерации идей будущих поколений».