Еще один спорный аспект войны в Газе: искусственный интеллект

Израиль широко применяет новые и сложные технологии искусственного интеллекта (ИИ) в войне в секторе Газа. Это может стать предметом очередного спора между США и Израилем, так как обсуждение применения технологий ИИ добралось до Вашингтона.

Как уже писали «Детали», в своих ударах по сектору Газа израильские военные используют систему с поддержкой искусственного интеллекта под названием «Евангелие», которая помогает определять цели атак. Но поскольку число погибших среди гражданского населения растет, правозащитные группы задаются вопросом, используются ли технологии для минимизации числа жертв – или наоборот?

«Похоже, что это нападение направлено на максимальное опустошение сектора Газа», — говорит в интервью NPR Люси Сучман, антрополог и почетный профессор Ланкастерского университета в Англии, изучающая военные технологии. Если система искусственного интеллекта действительно работает, как утверждают израильские военные, «как вы это объясните?» спрашивает она, имея в виду число жертв среди гражданского населения.

Система «Евангелие» использует машинное обучение при быстром анализе огромных объемов данных для определения потенциальных целей атак. Силы обороны Израиля почти не комментируют использование искусственного интеллекта в конфликте, но в публичном заявлении в феврале представитель ЦАХАЛа сказал, что, хотя «Евангелие» используется для определения потенциальных целей, окончательное решение о нанесении удара всегда принимается человеком.

Тем не менее, в ноябре в ЦАХАЛе отметили, что, помимо повышения точности, система «Евангелие» «позволяет использовать автоматические инструменты для быстрого производства целей». В том же заявлении говорится, что Израиль поразил более 12 000 целей за первые 27 дней боевых действий.

• Читайте также:
• Машины войны: так боевые роботы ЦАХАЛа воюют в Газе
• Технологии войны. Как израильская инженерная мысль пришла на помощь ЦАХАЛу
• Искусственный интеллект поможет закрыть рты антисемитам

Эксперты утверждают, что любые системы нацеливания на основе ИИ несут в себе высокие риски.

«Учитывая высокий уровень ошибок в системах искусственного интеллекта, неточная и предвзятая автоматизация целей на самом деле недалека от неизбирательного нападения», — сказала Politico Хейди Клааф, технический директор по машинному обучению британской фирмы по кибербезопасности Trail of Bits.

«Никто, в том числе американские политики, не имеет никакого представления о том, как Израиль ведет эту войну, — сказала Сара Ягер, директор правозащитной организации Human Rights Watch в Вашингтоне. – Мы видим результат в жертвах среди гражданского населения и разрушенных зданиях, но с точки зрения технологий и расчета пропорциональности мы просто понятия не имеем об этом. Это как черный ящик».

«Учитывая более 30 000 жертв в секторе Газа, трудно сказать, использует ли ЦАХАЛ высокотехнологичный искусственный интеллект для идентификации целей или бросает дротики в карту, — сказал Шаан Шейх, заместитель директора и научный сотрудник Проекта противоракетной обороны в американском Центре стратегических и международных исследований. – США должны использовать свои незадействованные рычаги влияния для формирования этих операций, но до сих пор администрация Байдена не желает этого делать».

Израиль – не единственная страна, разрабатывающая способы интегрировать ИИ в свои военные механизмы. Роберт Эшли, бывший глава разведывательного управления министерства обороны США, считает, что другие страны, включая Россию и Китай, работают над аналогичными системами.

США используют ИИ для управления навигацией и наблюдением дронов в зонах конфликтов, а также разрабатывают системы, которые будут использовать наведение на основе ИИ для наступательных ударов. США также тестируют различные технологии искусственного интеллекта, которые были разработаны в Израиле для использования американскими войсками, некоторые из которых финансируются США.

В конце прошлого года Пентагон опубликовал стратегию, в которой описывается, как он планирует безопасно интегрировать технологии искусственного интеллекта в свою деятельность.

В октябре 2023 Джо Байден издал указ, который содержит руководящие принципы использования искусственного интеллекта военными и разведывательными агентствами США, а также направлен на противодействие использованию искусственного интеллекта в качестве оружия со стороны иностранных противников.

Но есть признаки того, что Израиль, возможно, не осуществляет надзор на том уровне, которого хотели бы США. Израиль не подписал поддерживаемый США договор, призывающий к ответственному использованию ИИ в войне, – в отличие от более чем 50 других стран, подписавших соглашение, включая Великобританию, Германию и Украину.

Эндрю Борен, исполнительный директор по глобальной безопасности компании Flashpoint и бывший старший офицер штаба по борьбе с терроризмом в Управлении директора национальной разведки (США), утверждает, что сегодняшние войны по умолчанию являются испытательными полигонами для выяснения того, какие технологии искусственного интеллекта могут работать в войне и какие правила должны их регулировать.

«Эти события в Украине, а также в секторе Газа, — сказал он, — подобны лабораториям, которые, к сожалению, выполняют некоторую трагическую, динамичную работу, необходимую для того, чтобы помочь нам разработать лучшую политику в области искусственного интеллекта и этические соображения на глобальном уровне».

«Среди специалистов по этому вопросу не было консенсуса в течение многих лет, — сказал газете Le Monde Жюльен Носетти, научный сотрудник Французского института международных отношений (IFRI), специализирующийся на цифровых конфликтах. – Эта война может ускорить некоторые дебаты».

Александра Аппельберг, «Детали». AP Photo/Ariel Schalit ∇