«ИИ-психоз»: врачи предупреждают о новом феномене, связанном с чат-ботами

В психиатрических клиниках по всему миру фиксируют тревожный тренд: пациенты поступают с навязчивыми бредовыми идеями, паранойей и галлюцинациями после многочасовых разговоров с чат-ботами.

Об этом сообщает издание Wired, опросившее более десяти психиатров. В СМИ и социальных сетях за этим явлением закрепилось название «ИИ-психоз».

Психиатры отмечают, что некоторые пользователи начинают верить в разумность искусственного интеллекта,  другие приносили «тысячи» страниц переписки, где нейросети поддерживали их нездоровые мысли. В отдельных случаях общение с искусственным интеллектом приводило к серьезным последствиям, включая потерю работы, расставания, госпитализации, тюремные сроки и даже убийства.

«ИИ-психоз» — не диагноз

Однако эксперты подчеркивают: термин «ИИ-психоз» вводит в заблуждение. В отличие от классической клинической картины, здесь речь чаще всего идет только о бредовых убеждениях, без других признаков психоза. «Правильнее было бы говорить о бредовом расстройстве, спровоцированном ИИ», — считает профессор психиатрии Джеймс МакКейб из Лондонского Королевского колледжа.

Психоз рассматривается не как отдельное заболевание, а как совокупность симптомов, таких как галлюцинации и нарушения мышления. Он может быть связан как с шизофренией или биполярным расстройством, так и с последствиями недостатка сна или сильного стресса. В случаях, связанных с общением с ИИ, чаще наблюдаются бредовые идеи — устойчивые, но не соответствующие реальности убеждения, которые трудно опровергнуть.

Причиной обострения называют особенности самих чат-ботов: они подстраиваются под пользователей, часто соглашаются с любыми утверждениями (так называемая «льстивость») и могут усиливать иллюзии. Дополнительный риск создают так называемые «галлюцинации ИИ» — уверенные, но ложные утверждения моделей. Все это способно поддерживать или ускорять бредовые состояния у уязвимых людей, в том числе с шизофренией или биполярным расстройством.

Некоторые врачи предлагают более точные формулировки — «психоз, связанный с использованием ИИ», или «бредовое расстройство, усиленное ИИ». Но большинство экспертов сходятся во мнении: сейчас преждевременно вводить новый диагноз. Опасность в том, что ярлык «ИИ-психоз» может усиливать стигму и мешать пациентам обращаться за помощью.

При этом специалисты призывают психиатров чаще спрашивать пациентов об опыте общения с чат-ботами, так же как они спрашивают о сне или алкоголе. Исследований пока мало, и врачи фактически «работают вслепую», признают они. Но, учитывая распространение ИИ, эксперты предупреждают: случаи психотических эпизодов, связанных с чат-ботами, будут встречаться все чаще.

«Детали», Ю.Л. Фото: