Новый век техно-спиритуализма: приближаемся к отрасли "после смерти"

Растущий рынок ИИ продуктов обещает пользователям почти невозможный опыт: коммуникации и «воссоединение» с умершими. ИИ боты уже зашли на рынок психологического благополучия и предлагают ИИ компаньонов. Рынок так называемого ИИ «после смерти» также развивается. Лидируют на рынке ИИ «после смерти» - США, Китай и Южная Корея. Компании позиционируют свои продукты как помогающие людям «пережить горе» или потерю путем разговоров с умершим. Такие заявления основываются на ошибочном, но общепринятом представлении, что горе - это линейный процесс или состоит из дискретных этапов, и прохождение каждого этапа означает некий прогресс. Однако эти ИИ боты могут создать препятствие для осознания реальности мира, отрывая нас от переживания горя и траура, который мы переживаем в общности. Мы нуждаемся в «прожитии» нашего горя из-за утраты и принятия своих чувств, а не избегания их. Самое тревожное в том, что возможности ИИ сегодня – это только верхушка айсберга. Ближайшее будущее принесет нам более реалистичные и соблазнительные способы игнорировать нашу реальность или создать свою, но другую. Таким образом, мы изолируем себя в нашем горе, а не справимся с ним и продолжим жить полноценной жизнью.

Пожилой кореец по имени г-н Lee, одетый в пиджак и брюки, наклонился к своей жене и сказал: «Дорогая, это я. Прошло много времени».

«Я не ожидала, что такое со мной случится. Я счастлива».

Г-н Lee мертв. Его вдова разговаривала с образом, сгенерированным ИИ. ИИ проекция г-на Lee: «Не забывай, что я всегда с тобой. Будь здорова, пока мы не встретимся снова».

Этот разговор был снят для промо ролика Re;memory, инструмента ИИ, созданного корейским стартапом DeepBrain AI. Стартап предлагает услуги профессиональной студии записи и экранирующего проектора для создания образа умерших людей.

Этот растущий рынок ИИ продуктов обещает пользователям почти невозможный опыт: коммуникации и «воссоединение» с умершими. Некоторые из образов, которые также воссоздают умерших, например, стартапы HereAfter AI и StoryFile, восстанавливают историческую ценность образа. Они создают образ на основе воспоминаний и голоса покойного, что позволяет показать реалистичную голограмму или чат-бота, с которым члены семьи умершего смогут разговаривать.

Стремление наладить связь между жизнью и смертью всегда было драйвером интереса человека. Тысячелетиями религии и мистики предлагали разные способы найти эту связь, размывая границу между логикой в пользу веры в вечную жизнь.

Почти сто лет назад Томас Эдисон объявил, что попытается создать «аппарат», способный «помочь тем, кто ушел из нашего мира, общаться с живыми». Эдисон был известен своими проектами в телеграфии, лампочках накаливания и двигающимися картинками. По словам Эдисона, его аппарат будет функционировать не с помощью «оккультных сил» или «колдовства», а с помощью «науки».

По мере развития науки и технологий развивались и способы, с помощью которых делались попытки выйти в мир мертвых. В 19м и 20м веках спиритуалисты и псевдонаучные деятели пытались связаться с мертвыми с помощью спиритических сеансов, вызова духов и эдисоновского «спиритического телефона».

ИИ аватары сегодня ознаменовали новую эпоху техно-спиритуализма. Машины уже играют большую роль в нашей жизни и определяют многие наши решения. Алгоритмы предоставляют нам новости и музыку. Таргетированная реклама предсказывает наши желания. Приложения мониторинга сна и умные часы превращают нашу физическую форму в игру. До недавнего времени горе и смерть оставались тем немногим из нашей жизни, что не подлежало оптимизации, эффективности и продуктивности.

Индустрия технологий смерти начинает развиваться, и ИИ становится все более вездесущим. Даже такое состояние как горе не может более оставаться за рамками. ИИ для психологического благополучия становится все более распространенным.

Такие компании как Replika предлагают чат-ботов или «компаньонов». Пользователи создают аватаров, которые оказывают им эмоциональную поддержку. Самая последняя волна технологии устремилась на горе и утрату.

Многие производители ИИ аватаров и чат-ботов живут в парадигме оптимизации. Они позиционируют свои продукты как помогающие людям «пережить горе» или потерю путем разговоров с умершим. Такие заявления основываются на ошибочном, но общепринятом представлении, что горе - это линейный процесс или состоит из дискретных этапов, прохождение каждого означает некий прогресс.

На сайте Re;memory бросается в глаза цитата, приписываемая Конфуцию: «Если вы не скорбите над значительной утратой, то что же может вызвать вашу скорбь?». Имеется в виду, что, вернув умершего с помощью технологии, можно скорбеть правильно.

Потенциальные риски ИИ инструментов для горевания довольно значительные и не потому, что компании получают прибыль за счет горевания пользователя, а то, что они поощряют желание горевать и заблуждения, а последние могут быть совсем не полезные пользователям.

В недавнем исследовании Кембриджского университета оценили этическую сторону индустрии «после смерти» (digital afterlife industry) и установили, что компании этой отрасли могут начать делать больше денег, если предложат клиентам подписку или заставят смотреть их рекламу ради возможности коммуницировать с аватаром умершего.

Риск особенно высокий, если компаниям удастся уловить зависимость пользователей от общения с аватаром умершего. ИИ бот также может предлагать пользователям делать покупки спонсорской рекламы, например, заказать любимую еду умершего с помощью определенной службы доставки.

Исследователи из Кэмбриджа нарисовали еще один сценарий, когда компании по какой-то причине не смогут деактивировать свои ИИ ботов, и пользователи будут продолжать получать уведомления. Пользователь может начать ощущать, что «его преследует умерший».

Спиритический сеанс Викторианской эпохи создавал временную иллюзию связи с потусторонним миром. Сегодня ИИ боты предлагают более страшную историю: постоянное взаимодействие с мертвыми, что не дает человеку возможность пережить утрату и справиться с утратой.

В некоторых обстоятельствах аватары и чат-боты могут быть полезными. Если они используются как определенное пространство для воспоминаний, например, как дневник. Однако в современной культуре, ориентированной на эффективность, которая поощряет пропускать неприятное, болезненное и беспорядочное, полезность ботов может быть только тогда, когда пользователь точно осознает, что говорит с ИИ ботом.

Загадочная правдоподобность этих аватаров усложняет осознание, что они не реальны, а это значит, что человек не переживает утрату, а убегает от нее.

Чем больше мы используем инструментов, чтобы избежать горя, тем сильнее они могут навредить. Эти ИИ инструменты могут создать препятствие для осознания реальности мира, отрывая нас от переживания горя и траура, который мы переживаем в общности. Если мы действительно будем считать такие инст��ументы способом пережить горе, то нас просто надули.

Пока неясно, насколько эти инструменты «после смерти» станут популярны, но большое количество компаний создает и продает их. Лидируют на рынке ИИ «после смерти» - США, Китай и Южная Корея.

Можно предположить, что эти ИИ чат-боты станут частью нашего будущего.Что значит принять самые тяжелые чувства, которые сопровождают потерю? Что, если мы будем считать, что в этих делах нет места эффективности и оптимизации?

Мы вступаем в новую эпоху техно-спиритуализма, и вопрос не в том, когда парадигма оптимизации придет в такую тонкую материю как горе, а в том, когда мы решим бороться с ней и не впускать ее в нашу скорбь.

Начиная от спиритического телефона до ИИ бота-образа умершего, мы будем пытаться связаться технологически с миром мертвых. Самое тревожное в том, что возможности ИИ сегодня – это только верхушка айсберга.

Ближайшее будущее принесет нам более реалистичные и соблазнительные способы игнорировать нашу реальность или создать свою, но другую. Таким образом, мы изолируем себя в нашем горе. Мы не можем контролировать технологический прогресс. Но мы можем контролировать то, как мы сталкиваемся и справляемся с неприятными и болезненными чувствами даже в самых тяжелых ситуациях.

Ссылка на статью:

Исследование Griefbots, Deadbots, Postmortem Avatars: on Responsible Applications of Generative AI in the Digital Afterlife Industry: