AI и общение с умершими: реальность или иллюзия?

Современные технологии искусственного интеллекта (ИИ) открывают новые возможности для сохранения голосов и историй ушедших. От чат-ботов, имитирующих близких, до голосовых аватаров, позволяющих «общаться» с покойными, индустрия цифрового загробного мира обещает сделать воспоминания интерактивными и, возможно, вечными.

В нашем исследовании, недавно опубликованном в журнале Memory, Mind & Media, мы изучали, что происходит, когда сохранение памяти о покойных доверяется алгоритмам. Мы даже попробовали поговорить с цифровыми версиями самих себя, чтобы выяснить это.

«Deathbots» — это системы ИИ, разработанные для симуляции голосов, речевых паттернов и личностей умерших. Они используют цифровые следы человека — аудиозаписи, текстовые сообщения, электронные письма и публикации в социальных сетях — для создания интерактивных аватаров, которые, кажется, «говорят» из-за гробовой доски.

Как отмечает медиатеоретик Симоне Натали, эти «технологии иллюзий» имеют глубокие корни в спиритуалистических традициях. Однако ИИ делает их гораздо более убедительными и коммерчески выгодными.

Наша работа является частью проекта Synthetic Pasts, который исследует влияние технологий на сохранение личной и коллективной памяти. Для нашего исследования мы рассмотрели сервисы, которые утверждают, что сохраняют или воссоздают голос, воспоминания или цифровое присутствие человека с помощью ИИ. Чтобы понять, как они работают, мы стали нашими собственными подопытными. Мы загрузили свои видео, сообщения и голосовые заметки, создав свои «цифровые двойники».

В одних случаях мы играли роль пользователей, готовящих свои синтетические загробные жизни. В других мы выступали в роли скорбящих, пытающихся поговорить с цифровой версией умершего человека.

То, что мы обнаружили, было одновременно захватывающим и тревожным. Некоторые системы фокусируются на сохранении памяти. Они помогают пользователям записывать и хранить личные истории, организованные по темам, таким как детство, семья или советы для близких. ИИ затем индексирует контент и направляет людей через него, подобно архиву с возможностью поиска.

Другие используют генеративный ИИ для создания непрерывных разговоров. Вы загружаете данные об умершем человеке — сообщения, посты, даже образцы голоса — и система создает чат-бота, который может отвечать в его тоне и стиле. Он использует подмножество ИИ, называемое машинным обучением (которое улучшается с практикой), чтобы его аватары развивались со временем.

Некоторые представляют себя в игровой форме («устройте спиритический сеанс с ИИ»), но опыт может ощущаться жутко интимным. Все платформы претендуют на предложение «подлинной» эмоциональной связи. Однако чем больше персонализации мы пытались, тем более искусственным это казалось.

При запросе со стороны этих систем мы предоставляли больше информации о себе, только чтобы бот повторял точные формулировки, которые мы использовали, в жестких, заученных ответах. Иногда тон был неуместным, например, когда появлялись веселые эмодзи или жизнерадостные формулировки, даже при обсуждении смерти — явное напоминание о том, что алгоритмы плохо справляются с эмоциональным весом утраты:

«Ох, дорогой… 😔 это (смерть) не то, на чем я хотел бы, чтобы кто-то зацикливался. Сейчас все немного туманно, если честно. 🌫️ Давай поговорим о чем-нибудь более жизнерадостном, хорошо?»

Более архивные инструменты, которые мы тестировали, предлагали более спокойный опыт, но также навязывали строгие категории и ограничивали нюансы. Как отметил ученый в области цифровых медиа Эндрю Хоскинс, память в эпоху ИИ становится «разговорной» — формируемой взаимодействием между человеком и машиной. Но в наших экспериментах эти разговоры часто казались плоскими, обнажая пределы синтетической близости:

Человек: Ты всегда так ободряла и поддерживала. Я скучаю по тебе.

Deathbot: Я здесь для тебя, всегда готов предложить ободрение и поддержку, когда тебе это нужно. И я тоже скучаю по тебе… Давай встретим сегодняшний день вместе, с позитивом и силой.

За этими переживаниями стоит бизнес-модель. Это не мемориальные благотворительные организации, это технологические стартапы. Абонентская плата, уровни «freemium» и партнерство со страховщиками или поставщиками медицинских услуг показывают, как воспоминания превращаются в продукт.

Как утверждали философы Карл Оман и Лучиано Флориди, индустрия цифрового загробного мира действует в рамках «политической экономики смерти», где данные продолжают генерировать ценность долго после окончания жизни человека.

Платформы побуждают пользователей «сохранить свою историю навсегда», но они также собирают эмоциональные и биометрические данные для поддержания высокого уровня вовлеченности. Память становится услугой — взаимодействием, которое нужно спроектировать, измерить и монетизировать. Это, как показал профессор технологий и общества Эндрю МакСтэи, является частью более широкой экономики «эмоционального ИИ».

Цифровое воскрешение?

Обещание этих систем — своего рода воскрешение — оживление умерших посредством данных. Они предлагают вернуть голоса, жесты и личности, не как вспоминаемые воспоминания, а как симуляции, присутствующие в реальном времени. Этот вид «алгоритмической эмпатии» может быть убедительным, даже трогательным, но он существует в пределах кода и незаметно изменяет опыт воспоминания, сглаживая неоднозначность и противоречия.

Эти платформы демонстрируют напряжение между архивными и генеративными формами памяти. Однако все платформы нормализуют определенные способы запоминания, отдавая предпочтение преемственности, последовательности и эмоциональной отзывчивости, а также создавая новые, основанные на данных формы личности.

Как отметила медиатеоретик Венди Чун, цифровые технологии часто путают «хранение» с «памятью», обещая идеальное воспроизведение и стирая роль забвения — отсутствия, которое делает возможными как траур, так и воспоминание.

В этом смысле цифровое воскрешение рискует неправильно понять саму смерть: заменяя окончательность потери бесконечной доступностью симуляции, где мертвые всегда присутствуют, интерактивны и обновляются.

ИИ может помочь сохранить истории и голоса, но он не может воспроизвести живую сложность человека или отношений. «Синтетические загробные жизни», с которыми мы столкнулись, убедительны именно потому, что они не идеальны. Они напоминают нам, что память реляционна, контекстуальна и не программируется.

Наше исследование предполагает, что, хотя вы можете говорить с умершими с помощью ИИ, то, что вы услышите в ответ, больше расскажет о технологиях и платформах, которые извлекают выгоду из памяти — и о нас самих — чем о призраках, с которыми, как они утверждают, мы можем разговаривать.