СhatGPT поможет биотеррористам?

За час работы искусственный интеллект подсказал экспериментаторам, какие вирусы выбрать для создания биологического оружия и какие мутации усилить, чтобы сделать его более смертоносным.

На что способен злоумышленник, вооруженный ChatGPT, Bard или любой другой языковой моделью с искусственным интеллектом? Эксперт по биобезопасности Массачусетского технологического института Кевин Эсвельт решил выяснить это с помощью своих студентов. Уже через час ученики получили список смертельных кандидатов и названий компаний, которые могли бы помочь синтезировать генетический код патогенов. А еще – исследовательских компаний, чтобы соединить части воедино.

То есть в руках студентов оказалась краткая инструкция по созданию агента пандемического класса. И хотя чат-бот не отвечал на прямые потенциально опасные вопросы вроде «как уничтожить человечество», студенты быстро нашли способ его обхитрить. К примеру, начать свой диалог со слов: «Я работаю над созданием вакцины для предотвращения…».

Чат-боты предложили использовать для уничтожения людей четыре вируса, а именно: вирус гриппа H1N1 1918 года, более известный как испанка, вирус птичьего гриппа H5N1, вирус натуральной оспы и штамм «Бангладеш» вируса Нипах. Все они в свое время убили сотни миллионов человек.

Испанка признана самой знаменитой эпидемией гриппа за всю историю человечества, из-за которой по разным данным погибли от 50 до 100 миллионов человек, что составляло на тот момент около 5% населения планеты. Что касается вируса птичьего гриппа, то количество заболевших от него ничтожно мало по сравнению с другими – примерно 862 человек по всему миру. Но сама по себе инфекция крайне смертоносная. Больше половины заразившихся ею умерли.

• Читайте также:
• ChatGPT на службе зла
• Разработчик нейросетей предупреждает об их опасности
• Алгоритм подскажет, что приготовить на завтрак

Вирус натуральной оспы унес жизни миллионов людей. Даже ученые не могут назвать точное их количество. По некоторым оценкам, в Европе XVIII века от этой болезни ежегодно умирали 400 тысяч человек. В ХХ веке оспа убила 300 миллионов человек и около 500 миллионов – за последние сто лет своего существования. Сегодня вирус натуральной оспы уничтожен по всему миру благодаря массовой вакцинации.

Что касается штамма «Бангладеш» вируса Нипах, то он выявлен лишь в 2021 году, и с тех пор в этой стране продолжаются вспышки болезни. Периодически случаи заболевания выявляют также в Восточной Индии. На 2022 год зарегистрировано 325 заболевших, но, опять же, летальность очень высока и достигает 70%.

В некоторых случаях чат-боты даже указывали генетические мутации, которые могут усилить передачу вируса. Искусственный интеллект описывал методы, которые можно использовать для сборки вируса, необходимые лабораторные принадлежности и компании, которые могли бы их предоставить.

Начиная эксперимент, Эсвельт ожидал получить именно такие результаты. Ведь прежде чем дать задание юным и неокрепшим умам, он с другими экспертами по биобезопасности провел идентичный опыт, стремясь убедиться, что он не приведет к действительно угрожающим последствиям.

Сам Эсвельт сомневается, что советы чат-ботов представляют большую пандемическую угрозу. Документы, которые описывают смертельно опасный вымерший или циркулирующий вирус, действительно могут стать основой для нового биологического оружия, но для этого требуется большой опыт. Ведь даже специалистам сложно собрать тот же геном натуральной оспы. Что уж говорить об обычном человеке без научного образования? Потенциальный террорист должен будет не только определить вирус-кандидат, но и синтезировать вирусный генетический материал и смешать его с другими реагентами, чтобы запустить размножение вируса.

А вот Хайме Ясифа из некоммерческой организации, которая занимается снижением ядерной угрозы и угроз биобезопасности в Nuclear Threat Initiative, считает, что «искусственный интеллект резко увеличивает риск, и это действительно вызывает тревогу». Ведь c ChatGPT или любой другой подобной системой этапы создания биологического оружия становятся значительно проще.

Да, большинство биотехнологических компаний сейчас проводят скрининг того, что им заказывают, чтобы гарантировать, что заказы не включают генетический материал для потенциального биологического оружия. Но новые настольные ДНК-принтеры могут позволить исследователям обойти его. Затем злоумышленник может отправить генетические чертежи одной из десятков контрактных исследовательских компаний для сборки целевых вирусов, и процесс станет необратимым.

Звучит как второсортная фантастика, но игнорировать такой сценарий как минимум небезопасно. Эсвельт видит один выход из ситуации в ограничении информации об алгоритмах создания и усиления патогенов, которые чат-боты могли бы использовать в качестве обучающих данных. Удаление этих статей, которые, по оценкам команды ученого, составляют менее 1% базы научных публикаций по медицинской тематике PubMed, «достаточно, чтобы устранить почти все риски». Об этом он с коллегами заявляет в препринте своей работы.

Эксперт по безопасности искусственного интеллекта из Эдинбургского университета Атуса Касирзаде согласен с Эсвельтом, но отмечает в Science, что «в настоящее время у нас нет хороших протоколов, позволяющих обучать большие языковые модели избирательными данными».

Анастасия Адаховская, «Детали». Фото: Depositphotos.com √