Пациенты все чаще доверяют чат-ботам больше, чем врачам: чем это грозит?

Согласно недавнему опросу, проведенному в США, примерно каждый шестой взрослый человек хотя бы раз в месяц пользуется услугами чат-ботов на основе искусственного интеллекта для получения медицинских консультаций. При этом исследователи очень мало знают о том, как пациенты используют генеративный ИИ для ответа на свои медицинские вопросы, и видят в этом большие риски.

Сьюзен Шеридан, соучредитель организации по защите безопасности пациентов, слышала о ChatGPT, но никогда им не пользовалась, пишет The New York Times, поэтому первый вопрос, который она задала чат-боту на основе ИИ, был немного искажен: «Опущение лица, лицевая боль и лечение зубов».

Она обратилась к ChatGPT в момент отчаяния. Правая сторона ее лица обвисла, она спотыкалась, когда говорила, а голова болела так сильно, что она не могла положить ее на подушку. Днем ранее, когда ее муж впервые заметил опущение лица, пара три часа ехала в отделение неотложной помощи, но врач отправил ее домой, охарактеризовав симптомы как доброкачественные.

ChatGPT не согласился. Он сообщил Сьюзен, что одним из возможных объяснений ее симптомов является паралич Белла, который требует срочного лечения, чтобы избежать осложнений. Она снова поехала в клинику, где врач подтвердил подозрения чат-бота и прописал ей стероиды и противовирусные препараты. В результате она почти выздоровела.

«Я не хочу отменять врачей — я верю в отношения между врачом и пациентом, я верю в систему здравоохранения , — сказала 64-летняя Шеридан. — Но иногда это не срабатывает. Когда медицина нас подвела, мы обратились к ChatGPT».

• Читайте также:
• Стартап Neuralink Илона Маска представил имплант, возвращающий зрение слепым
• Разработчик нейросетей предупреждает об их опасности
• ChatGPT диагностирует заболевания не хуже врачей, но заменить их пока не может

Такие люди, как Сьюзен Шеридан, все чаще обращаются к чат-ботам на основе искусственного интеллекта, чтобы объяснить новые симптомы, оценить варианты лечения и проверить заключения своих врачей. По данным недавнего опроса KFF, некоммерческой организации, занимающейся исследованиями политики здравоохранения, примерно каждый шестой взрослый человек и около четверти взрослых моложе 30 лет используют чат-боты для поиска медицинских консультаций и информации не реже раза в месяц.

Сторонники надеются, что ИИ расширит возможности пациентов, предоставив им более исчерпывающие медицинские объяснения, чем простой поиск в интернете. «Google дает вам доступ к информации. ИИ дает доступ к клинической мысли», — говорит Дэйв де Бронкарт, защитник прав пациентов и блогер.

При этом ученые очень мало знают о том, как пациенты используют генеративный ИИ для ответа на свои медицинские вопросы. Доктор Атив Меротра, профессор Университета Брауна, изучающий использование пациентами чат-ботов на основе ИИ, полагает, что эксперты не осознают, сколько людей уже используют эту технологию для ответа на вопросы о здоровье. «Мы всегда думали, что это будет в ходу, но не в таких больших количествах, — говорит он. — Я был весьма поражен таким высоким показателем в исследовании KFF».

Доктор Бенджамин Толчин, биоэтик и невролог из Йельской школы медицины, рассказал, что с тех пор, как ChatGPT стал общедоступным в 2022 году, несколько пациентов каждый месяц рассказывали ему, что использовали чат-бот для исследования своего состояния. По его мнению, инструмент в основном помог информировать пациентов об их состоянии и доступных вариантах лечения. Но он также увидел недостатки чат-бота.

Проблема не только в том, что ИИ может предоставлять неверную или неполную медицинскую информацию, а в том, что чат-боты отвечают на вопросы с видом авторитета, что может дать пациентам ложную уверенность в их советах, считает доктор Толчин: «Это может быть гораздо более убедительно и показаться пациентам более полным, чем разрозненные данные, которые они могут найти с помощью Google».

Так, один из его пациентов использовал чат-бот, чтобы найти варианты лечения приступов, которые больше не купировались лекарствами. Среди предложенных методов лечения была трансплантация стволовых клеток — вариант, который пациент еще не рассматривал. Доктору Толчину пришлось объяснить семье, которая надеялась на этот метод, что трансплантация стволовых клеток — это полностью экспериментальное лечение, а не вариант, который порекомендовал бы любой невролог, о чем чат-бот не упомянул.

В исследовании KFF менее 10 процентов респондентов заявили, что они «полностью уверены» в том, что могут отличить правдивую информацию, генерируемую чат-ботами на основе искусственного интеллекта, от ложной.

Доктор де Бронкарт полагает, что, как и с любым другим инструментом, существуют верные способы использовать ChatGPT для информации о здоровье: вопросы должны быть тщательно составлены, а ответы должны рассматриваться скептически, сказал он. «Это мощные инструменты, которые помогут вам развить свое мышление, — говорит он. — Но мы не хотим, чтобы люди решили, что это дает мгновенные ответы, поэтому им больше не нужно думать».

The New York Times, «Детали», Ю.Б. Фото: Depositphotos.com √