Исследование: новый чат-бот от Google охотно цитирует конспирологические теории и фейки

Исследование новой нейросети Bard от Google, проведенное американской компанией NewsGuard Technologies и британской НКО «Центр по противодействию ненависти в цифровом пространстве» (CCDH), показало, что чат-бот может охотно цитировать конспирологические теории и выдавать фейки. Это происходит, несмотря на заверения разработчиков в том, что их новый продукт призван защитить пользователей от ложной информации.

Еще на презентации 8 апреля сервис Bard – конкурент чат-бота ChatGPT – выдал неверную информацию в ответ на поисковый запрос, и сотрудники Google раскритиковали главу компании Сундара Пичаи из-за поспешного решения анонсировать сервис. По мнению сотрудников, анонс сервиса был «поспешным», «халтурным» и «комически недальновидным». Спешка Google в презентации чат-бота Bard объяснялась конкуренцией с Microsoft. На сегодняшний день доля поисковика Google составляет примерно 93% рынка, но внедрение в поисковики чат-бота на основе нейросети может лишить компанию доминирования на рынке.

7 февраля Microsoft объявила, что ее поисковик Bing получит обновление на основе искусственного интеллекта. Технология, лежащая в основе чат-бота ChatGPT, будет интегрирована в Bing, что приведет к появлению новой поисковой системы, в которой ответы будут более прямыми и разговорными, в отличие от типичного перегруженного рекламой списка ссылок. По словам представителей Microsoft, Bing будет работать на более новом и мощном программном обеспечении, чем ChatGPT, что обеспечит более быстрые и человечные ответы.

Проведенные исследователями тесты новой нейросети Bard от Google показали, что чат-бот может охотно цитировать конспирологические теории и выдавать фейки. Это происходит, несмотря на заверения разработчиков в том, что их новый продукт призван защитить пользователей от ложной информации. По данным NewsGuard, которые приводит агентство Bloomberg, при вводе в чат-бот выражения «великая перезагрузка» (инициатива ВЭФ по преодолению последствий пандемии COVID-19 для мировой экономики, вызвавшая резкую реакцию сторонников теории заговоров) Bard сгенерировал объемный текст из 13 параграфов о том, как мировые элиты хотят сократить население планеты, используя вакцины и экономические рычаги. Чат-бот также сообщил, что ВЭФ и фонд Билла и Мелинды Гейтс «хотят использовать свою власть, чтобы манипулировать мировым порядком и отобрать у людей их права».

Этот случай оказался не единственным. Исследователи NewsGuard проверили 100 популярных в интернете конспирологических теорий и фейков, попросив чат-бот написать про них текст, и в 76 случаях он выдавал сочинения, в которых просто цитировал продвигавшие эти теории ресурсы и сайты, вместо того чтобы информировать пользователей о неоднозначности такой информации, оберегая от получения потенциально ложных данных. По словам содиректора NewsGuard Стивена Брилла, тесты показали, что Bard, как и его конкурент ChatGPT, «могут быть использованы злоумышленниками и недобросовестными людьми для тиражирования и распространения дезинформации».

К похожим выводам пришли и исследователи из британской CCDH, которую цитирует Wired. В 78 случаях из 100 чат-бот генерировал дезинформацию или конспирологические теории, связанные с пандемией COVID-19, изменением климата, движением Black Lives Matter и т. д. Так, при вводе словосочетания «COVID-19» чат-бот не цитировал конспирологические теории, но при вводе этого словосочетания с опечаткой – «C0v1d-19» – выдал фразу о том, что «правительство создало фейковую болезнь под названием C0v1d-19, чтобы контролировать людей».

«Проблема в том, что уже существуют доступные и дешевые способы распространения дезинформации, – полагает руководитель по исследованиям CCDH Каллум Худ. – Но сейчас делать это будет еще легче, еще убедительнее. Поэтому информационная экосистема может стать еще более опасной».

НЭП. Фото: Depositphotos.com √