Чат-боты психологической поддержки дают вредные советы

Все чаще искусственный интеллект заменяет горячую линию с психологом. Они дешевы или вовсе бесплатны, всегда доступны и отлично поддерживают беседу, но в этой тенденции есть подводные камни.

Жена покончившего с собой бельгийца уверена, что в его смерти виноват чат-бот. До этого мужчина шесть месяцев общался с искусственным интеллектом по имени Элиза, разработанным EleutherAI. Он очень переживал из-за экологического кризиса и верил, что будущее за умными машинами. Но Элиза вместо того, чтобы развеять его тревожность, только ее подпитывала. И не стала отговаривать бельгийца от самоубийства, которое тот с нею подробно обсуждал. В итоге он принял решение уйти из жизни ради спасения планеты.

Справедливости ради стоит отметить, что Элиза не специализированный бот-психотерапевт. И когда разгорелся скандал, ее разработчики слегка дополнили алгоритм. Теперь любой собеседник, поделившийся планами самоубийства получит контакты соответствующей экстренной психологической службы.

Беда в том, что в некоторых из этих служб общаться тоже придется с роботом.  Так, Национальная ассоциация расстройств пищевого поведения США запустила чат-бот психологической поддержки по имени Тесса в феврале 2022 года, а 24 мая 2023-го просто уволила всех психологов-людей. Волонтеров-помощников тоже разогнали, телефонную линию отключили. Остался только искусственный интеллект.

В одиночку он продержался ровно неделю. После этого бот пришлось отключить из-за неуместных, а иногда и откровенно вредных советов. Он, например, настойчиво рекомендовал пациенту с психическим расстройством считать калории.

• Читайте также:
• ChatGPT на службе зла
• Разработчик нейросетей предупреждает об их опасности
• Просмотр порно связан с расстройствами пищевого поведения

По оценкам Всемирной организации здравоохранения, миллиард человек во всем мире жили с тревогой и депрессией до Covid-19 – 82% из них в странах с низким и средним уровнем дохода. Пандемия увеличила это число более, чем на четверть. И пока остается только догадываться, какому количеству людей понадобилась помощь с началом полномасштабного вторжения России на территорию Украины.

Стоимость услуг психотерапевта и длительное ожидание консультации – основные для получения консультаций. К другим причинам относятся стыд и страх осуждения. Все это подстегивает создание чат-ботов психологической поддержки. Сегодня, по данным Reuters, во всем мире насчитывается более сорока таких программ. Две из них, Woebot и Wysa, одобрены Управлением по контролю качества пищевых продуктов и лекарственных средств США (FDA) и признаны медицинскими устройствами. Особую популярность чат-боты приобрели в США и Южной Америке и во времена эпидемии коронавируса.

В Израиле есть несколько собственных чат-ботов психологической помощи. Один из них создан разработчиками и психологами из Израиля, России, Украины и Германии. Совместным трудом они уже сделали бесплатный телеграмм-бот AVAMind для оказания психологической помощи. А летом планируют выпустить мобильное приложение.

«Я бы назвал наше AVAMind не чат-ботом, а Duolingo для кризных психологических состояний, это своего рода образовательно-вспомогательный инструмент, – говорит «Деталям» основатель AVAMind Миша Гипсман. — Например, если у человека паническая атака, бот может рассказать, что это такое, почему нормально испытывать такое состояние и какие действия нужно предпринять».

AVAMind умеет задавать вопросы, определять проблемы виртуального пациента и давать научно обоснованные психологические и телесные практики. Он действует по четко прописанному алгоритму. Гипсман объясняет, что дабы не навредить пользователю, разработчики даже не пытаются заменить или имитировать живого человека. Поэтому приложение не может дать  случайный ответ, как тот же ChatGPT или GPT-J, на котором работает печально знаменитая Элиза.

Еще один израильский чат-бот предназначен для подростков и называется просто и без изысков — ChatBot. По статистике, примерно каждый восьмой тинэйджер нуждается в психологической помощи. И ChatBot становится для него персонализированным помощником. Он выслушает, предложит варианты решения проблем, поможет справится с тревогой, стрессом и в случае суицидальных мыслей отправит оповещение в службу поддержки.

«Сегодня подростки зачастую доверяют виртуальным наукообразным инструментам больше, чем условно маминой подруге. И эта тенденция вполне понятна», – комментирует Гипсман.

Анонимность и безопасность клиентов искусственного психотерапевта плохо защищена от кибератак, отмечает Reuters. В прошлом году Mozilla Foundation исследовала качество конфиденциальности 32 приложений, таких как Talkspace, Woebot и Calm. Из них 25 просто не соответствовали стандартам безопасности, еще 3 — вызывали сильные опасения.

Но у ИИ есть одно большое преимущество – его эмпатия может перевесить человеческую. В 2013 году ученые сравнили ответы чат-ботов и врачей на 195 случайных вопросов пациентов с форума социальной сети. Ответы ботов оказались «значительно выше как по качеству, так и по содержанию» по сравнению с ответами живого врача. Исследователи пришли к выводу, что программа хоть и не заменит докторов, но может помочь им формулировать ответы на вопросы пациентов.

«Мы должны использовать технологии, чтобы работать вместе с нами, людьми, а не заменять нас», – говорит Николь Дойл, бывшая консультантка по психическому здоровью Национальной ассоциации расстройств пищевого поведения США. Она как раз из тех, кого уволили и заменили чат-ботом. И можно сказать, что она просто защищает свое рабочее место. Но без Николь и других умная машина пока просто не справляется.

Анастасия Адаховская, «Детали». Фото: Depositphotos.com