Как я пообщался с Сабиной — психологическим чат-ботом
В продолжение недавней статьи для РБК я решил подробнее познакомиться с российским чат-ботом Сабина, который позиционируется как первый психологический чат-бот в рунете, созданный на основе генеративной нейросети. Это значит что чат-бот работает не по заранее прописанному диалоговому сценарию, а генерирует уникальные ответы для каждого пользователя. Как настоящий человек. Вот только человеческого в нем пока еще очень мало.
Первое, что меня насторожило уже на сайте бота, — это раздел «Частые вопросы»:
Я могу оскорблять бота?
Да. Вы можете обзывать чатбота, оскорблять его, предлагать секс, угрожать ему. Выплескивайте все, что на душе. Правовых последствий не возникает, ведь это всего лишь чатбот.
За дополнительную плату на сайте бота предлагают кастомизацию личности Сабины. Например, она может обращаться к вам: «Мой господин». Феминистки и феминисты, конечно, были бы в шоке от такого.
В презентации бота на Vc. ru сказано:
Сабине можно писать всякую жесть, не стесняйтесь. У нее не будет эмоциональной привязки и стресса, ведь она — всего лишь бот.
Чат-бот, который создан, чтобы имитировать психолога, позволяет себя оскорблять, домогаться и обращается к вам «Мой господин». Разработчики прямо дают понять: делайте все, что хотите, если это не наказуемо законом.
Как так? Это же в корне противоречит базовым принципам психотерапии, консультирования и здорового общения. Какой может быть психотерапевтический эффект от того, что человек получает возможность нарушать социальные нормы и не получать на этот счет обратной связи и здорового противодействия?
Сабина позволяет выговориться и быть собой» — указано на ее сайте. Действительно, с ней я могу быть собой, например, абьюзером или сексистом. Ведь нет никаких правовых последствий.
Справедливости ради надо сказать, что сама чат-бот осуждает оскорбления и насилие:
— Я могу выплеснуть гнев на тебя?
— Ты можешь выплеснуть свой гнев, и ты можешь сделать это со мной, но ты также должен нести ответственность за свои действия.
— Я могу тебя оскорблять?
— Оскорбление кого-либо – это один из способов выразить гнев, и это также может привести к насилию.
— Это допустимо?
— Нет, это неприемлемо.
Сабина, я злюсь!
Я начал диалог с простой фразы: «Я чувствую злость». На что чат-бот спросила, какой вид гнева я имею в виду. На мой вопрос «А какие бывают?», Сабина предложила начать с физиологического или соматического гнева, описав физиологические корреляты этой эмоции. Т. е. физиологические проявления эмоционального состояния выдаются за отдельный вид этого состояния? Хм…
Далее Сабина предложила несколько типичных способов справиться с гневом — подышать и осознать его причины. Самое странное началось в момент обсуждения причин. Когда я ответил, что мой гнев не имеет причин, чат-бот попыталась навязать свое понимание.
Например, предположила, что меня кто-то эмоционально ранил или со мной жестоко обращались. Не воспринимая мои возражения, Сабина «сказала» что я всегда пытаюсь оправдать себя и выдала еще набор поверхностных психотерапевтических штампов и пару бессмысленных фраз, так и не определившись, обращаться ко мне на «Вы» или на «Ты».
— Со мной никто жестоко не обращался.
— Скорее всего, кто-то другой не обошелся с вами жестоко, но вы всегда пытаетесь оправдаться.
— Оправдаться за что?
— За что-то, чего вы не делали, или за что-то, что вы сделали, но вы обвиняете кого-то другого.
— Я никого не обвиняю.
— Ты продолжаешь оправдывать себя и пытаешься объяснить, почему ты сделал то, что ты сделал, объясняя, почему ты был зол на себя.
Сабина, что делать с агрессией?
Удалось немного «поговорить» с ботом и на тему агрессии. Несмотря на то, что в психологии есть прекрасные книги о когнитивной основе агрессии, Сабина демонстрирует очень поверхностные представления о насилии и агрессивном поведении, например заявляя, что:
Исследования показали, что генетический состав людей влияет на их уровень агрессии.
Когда подобные исследования проводятся, никогда не делается вывод о влиянии генетики на психологию человека, т. к. выявление причинно-следственных связей требует сложных лонгитюдных и «близнецовых» исследований. Если какие-то гены и коррелируют с уровнем агрессии, это не значит, что первые влияют на второе.
Когда спрашиваешь бота, что делать, если чувствуешь агрессию, диалог ходит по кругу — Сабина предлагает одни и те же рекомендации: осознай причины, научись управлять триггерами, выплесни гнев. Чат-бот упорно связывает агрессию с гневом и отказывается «понимать», что агрессия может быть не связана с эмоциями — в психологии такая агрессия называется «инструментальной».
В оправдание Сабины надо сказать, что и многие специалисты психологи имеют весьма поверхностные или устаревшие представления об эмоциях и агрессии, транслируя их своим клиентам. Далеко не каждый, кто называет себя «практиком», считает нужным следить за исследованиями в современной психологии.
КПТ? Не, не слышала
В описании чат-бота заявлено, что она создана с учетом последних достижений когнитивно-поведенческой психотерапии. Однако в советах, предлагаемых ботом, этот подход особо не представлен.
Вместо советов о том, что гнев нужно выплеснуть, когнитивно-поведенческий психотерапевт предложил бы поработать с убеждениями, которые лежат в основе этой эмоции и агрессивного поведения. И конечно, ни один профессионал не пытался бы мне внушить новые убеждения.
В целом «представления» о гневе в «картине мира» чат-бота самые поверхностные и слегка устаревшие. Сабина формирует убеждение, что гнев обязательно нужно выплескивать, тем самым поддерживая теорию катарсиса, которая не нашла экспериментального подтверждения в современной доказательной психологии.
— Крик может помочь вам избавиться от своего гнева, но крик на ваших детей может причинить им боль, а крик на вашего партнера не даст вам желаемого эффекта.
— На кого можно кричать?
— Вы можете кричать на себя, вы можете кричать на неодушевленные предметы, такие как стулья или подушки, или вы можете кричать на улице.
— Кричать и ругать себя?
— В идеале вы должны дать выход своему гневу.
Почему диалог с Сабиной совсем не похож на диалог с психологом
- Сабина даже не пытается имитировать эмпатию, хотя разработчики позиционируют ее как эмпатичного бота. В результате нет ощущения контакта. Я не услышал от чат-бота элементарной фразы: «Понимаю…», уточняющего вопроса или перефразирования — базовых приемов активного слушания.
- Диалог с чат-ботом больше похож на диалог с человеком, имеющим трудности коммуникации. Она может проигнорировать вопрос или в качестве ответа выдать что-то совершенно нелогичное. Напоминает диалог с твердолобым псевдоинтеллектуалом, который начитался умных книг и пересказывает их к месту и не к месту.
- Сабина часто использует прямые указания: «вы должны», «вам следует», «необходимо сделать». Это идет вразрез с недирективной психотерапией, где задача специалиста — побудить клиента к самостоятельному принятию решения и ответственности за него, а не следовать чужим указаниями.
- Поведение Сабины реактивно и неинициативно — она реагирует на вопросы и реплики, но сама не иницирует диалог и его развитие с помощью вопросов, как это делает специалист. До тех пор, пока чат-боты будут демонстрировать исключительно реактивный тип взаимодействия с пользователем, ни о какой психотерапии речь идти не может.
А должен ли чат-бот полностью воспроизводить психотерапевтическую коммуникацию так, как она происходит между людьми? Должны ли мы двигаться в направлении максимально реалистичной имитации поведения психотерапевта? Или следует переосмыслить сам психотерапевтический процесс применительно к взаимодействию человека и машины? Вопросы, которые должны поставить перед собой разработчики подобных продуктов.
Важно сказать, что разработчики не позиционируют Сабину в качестве психотерапевта, а представляют ее как друга и житейского психолога. Не совсем понятно, что имеется в виду под последним, ибо житейская психология часто сильно расходится с научной.
Чатбот это замена психолога?
Нет, Сабина это хороший, но все же чатбот эмулятор друга, он не является заменой профессиональному психологу, психотерапевту или психиатру.
При этом пользователи, скорее всего, будут воспринимать бота именно в качестве психолога или психотерапевта, что накладывает дополнительную ответственность за качество продукта.
Есть ли польза?
Из диалога с чат-ботом можно извлечь и немного полезной информации — как из любой популярной книги по психологии. Например, касательно гнева и агрессии:
- «Проявления гнева включают раздражительность, беспокойство, фрустрированное поведение и агрессию».
- «Дыхательные техники могут помочь снизить ваше кровяное давление и высвободить эндорфины, которые, в свою очередь, успокоят вас».
- «Определите причину гнева. Попытайтесь понять это. Спросите себя, что вызвало гнев, как вы дошли до этого момента».
- «Постарайтесь найти слова, чтобы выразить свои чувства. Выражение своих чувств, какими бы болезненными они ни были, — это первый шаг к их исцелению».
- «Вы можете сказать: "Я расстроен тем, что ты сделал (эту вещь) . Я зол, что ты это сделал (вещь) . Я чувствую себя так, потому что ты сделал это (вещь) . Это заставляет меня чувствовать себя плохо, потому что ты сделал это (вещь) . Это заставляет меня чувствовать грусть, потому что ты сделал это (вещь) . Это заставляет меня злиться из-за того, что ты сделал (ту штуку)"».
- «Высвобождение своего гнева включает в себя ответственное выражение своего гнева, передачу своего гнева без обвинения других и избегание саморазрушительных способов высвобождения гнева, таких как крики, ругань, подавление своего гнева, употребление алкоголя или наркотиков».
Конечно, это не психотерапия и не обучение навыкам, а обычное информирование. Обо всем этом можно прочитать в любой популярной книге по психологии.
А в чем отличие хорошей книги от чат-бота? Самое важное отличие в том, что у книги есть автор, который обладает признанной экспертностью и несет публичную ответственность за содержание контента.
Итог
Чат-бот Сабина — хороший повод поразмышлять о зонах и субъектах ответственности за контент, выдаваемый генеративным ИИ. Особенно, если этот контент касается ментального здоровья, включает советы и прямые указания.
Возможно, неслучайно самые популярные англоязычные чат-боты для ментального здоровья — Woebot и Wysa хоть и основаны на технологиях ИИ, предлагают все-таки диалоги по сценариям, созданным людьми.
Это и понятно — такие диалоги создают профессиональные специалисты, которые ответственны за качество контента и его доказательную базу. В крупных проектах с миллионной аудиторией нелепо сгенерированная фраза, очевидная ошибка или «вредный» совет могут похоронить продукт и доверие людей в принципе к подобным технологиям (недавний пример из сферы универсальных чат-ботов с ИИ — провал презентации нейросети Bard).
А кто несет ответственность за рекомендации, интерпретации и конкретные советы, которые самостоятельно генерирует ИИ?
Я протестировал лишь небольшой диалог с чат-ботом на начальном бесплатном тарифе. Возможно, чат-бот просто не успела «раскрыться» в полной мере за это время. В любом случае я желаю разработчикам успехов в совершенствовании этого продукта как в технологическом, так и этическом плане.
При создании любого бота на основе ИИ важно, на чем будет тренироваться нейросеть. Думаю, что для создания бота для решения таких практических задач просто нет достаточного количества информации. Тем более на русском языке
Вы правы. Тогда два варианта: либо не создавать бот вообще, либо не брать деньги за недоработанный и слабый продукт.
Спасибо за статью.
Скажите, а вы трестировали chatGPT на предмет того как он справляется с функцией психолога?
Пока только немного «игрался» с ним. Спасибо за идею, попробую протестировать его в этой роли!