Искусственный интеллект поможет закрыть рты антисемитам

Израильская некоммерческая организация CyberWell начала применять искусственный интеллект для отслеживания антисемитских выпадов в социальных сетях Facebook, Twitter, TikTok, YouTube и Instagram. Ими создана первая в истории (по их утверждению) база данных по онлайн-антисемитизму. Она интерактивна, доступна для публичного просмотра и ориентирована на контент на английском и арабском языках.

Выяснилось, что совокупная масса стереотипов в отношении евреев разнится в зависимости от соцсети. «Пользователи Facebook, скорее всего, узнают, что евреи контролируют мир. В “X” (бывший «Твиттер») прочтут, что евреи помешаны на деньгах. А YouTube – место для теории заговора о мифической «Синагоге Сатаны», – рассказала «Деталям» Таль-Ор Коэн Монтемайор, основатель и исполнительный директор CyberWell.

Худшей из платформ по уровню открытого антисемитизма, по ее мнению, стала “X” Илона Маска. У TikTok другая проблема – очень агрессивный механизм усиления предвзятости. Здесь антиеврейского или антиизраильского контента больше, чем на других платформах. Но, с другой стороны, TikTok выражает готовность к сотрудничеству с CyberWell даже большую, чем другие социальные платформы.

«Данные, которыми мы делимся с соцсетями, направлены в первую очередь на соблюдение ими их же собственных правил. Именно это позволяет нам сотрудничать», – говорит Таль-Ор.

– Но ведь у всех платформ существуют технологии, позволяющие отслеживать, например, детскую порнографию. Или проверять по базам данных, не присвоена ли чужая интеллектуальная собственность. Так почему же для борьбы с антисемитским и террористическим контентом им нужна внешняя помощь?

– Местное законодательство в Европе и Израиле позволяет привлекать к ответственности распространителей ненависти. Но в США к антисемитам, в отличие от распространителей террористического контента, фактически не применяется серьезных юридических санкций – из-за доктрины свободы слова. В США существует множество законодательных инициатив, но это не алгоритмы противодействия разжиганию ненависти, в отличие от Евросоюза, где язык ненависти криминализован.

Соцсети захвачены ХАМАСом. Любая западная демократия уязвима для подобной атаки, но поскольку доктрина свободы слова фактически защищает большинство пользователей и платформы социальных сетей от какой-либо юридической ответственности, они и не вкладывают достаточно средств в инструменты для автоматического выявления антисемитского контента. А кибернетика — создание решений, выходящих за рамки простого удаления постов. Это требует обучения алгоритмов самих платформ определять автоматически, какой пост является антисемитским.

Возьмем распространенное заявление: «Я не против евреев. Я осуждаю Израиль за его агрессивную политику, за Газу и палестинцев. И думаю, что акция 7 октября была просто акцией сопротивления». Можно утверждать, что это заявление является антисемитским, но оно не нарушает политику сетей. Почему это антисемитизм? Потому что оправдывает убийства и причинение вреда евреям. А 7 октября было абсолютно, без сомнения, направлено на убийство и причинение вреда евреям. Таков устав ХАМАСа. Это было реализацией этого устава, и это был один из крупнейших погромов еврейского населения со времен Холокоста. Так что если кто-то на какой-то платформе защищает события 7 октября – он, несомненно, пропагандирует ненависть к евреям. Сказать «события 7 октября оправданы как сопротивление оккупации» интеллектуально нечестно и поощряет антисемитизм.

Но есть еще и политические высказывания. «От реки до моря Палестина будет свободной» – речь об изгнании евреев из Израиля, потому очевидно, что эта концепция антисемитская. Возникает вопрос: действительно ли каждый человек, использующий эту фразу, пропагандирует антисемитизм?

Самая большая проблема в работе с соцсетями – в непрозрачности их алгоритмов. Открою секрет: в системах социальных медиа-платформ массовые сообщения на самом деле не работают. Жалуетесь на антисемитский пост? Предполагается, что после определенного количества сообщений система перестает реагировать. То есть нет разницы, пожаловались на что-то дважды, или 500 раз, или тысячу. Представьте, для аналогии, что еврей позвонил в службу скорой помощи, но амбуланс приезжает лишь в одном из пяти случаев…  Все уже устали нажимать кнопку «сообщить», тогда как антисемиты помещают старейшую в мире ненависть в алгоритм, транслирующий ее в массы.

• Читайте также:
• Как и почему Россия стала отрицателем Холокоста
• Антиизраильская волна в США? Все не так плохо, как кажется
• 80% американцев поддерживают Израиль и выступают против мира с ХАМАСом

CyberWell отметила после 7 октября, что почти вдвое выросло количество не только антисемитского контента, но и призывов к насилию, призывов в поддержку терроризма. Антисемитские всплески активизируются во время крупных событий, точнее – когда Израиль попадает в новости. После того, как Ноа Кирел выступила на Евровидении, в «X» писали, что евреи контролируют этот конкурс; что его контролирует семья Ротшильдов, как и прочий мир; что евреи используют Евровидение, чтобы уничтожить христианство. Во время ЧМ-2022 года по футболу тоже произошел всплеск антисемитских выпадов. А в период с 7 по 24 октября технология мониторинга CyberWell выявила и некоторые новые тенденции. В отчете компании отмечено:

1. Инфраструктура, позволяющая пропагандировать ненависть к евреям в социальных сетях, была создана до резни 7 октября.
2. Социальные медиа-платформы не вложили необходимые ресурсы в мониторинг и удаление контента, нарушающего их собственные стандарты – в целом, но особенно, когда столкнулись с масштабной кампанией ненависти, насильственного антисемитизма и распространения дезинформации. Еще год назад, в январе 2023 года, CyberWell заявляла, что онлайн-платформы недостаточно инвестируют в мониторинг ненависти к евреям и отрицания Холокоста и удаляют только 20% антисемитского контента.

Таль-Ор уверена: компании, владеющие и управляющие социальными сетями, стали соучастниками распространения ненависти к евреям и  подстрекательства к насилию против них и должны быть привлечены к ответственности за неадекватную модерацию такого контента, способную приводить к тяжелым последствиям.

Необходимо менять весь подход к проблеме

– В интервью Jerusalem Post вы говорили о мощной и организованной антисемитской кампании с участием Human Rights Watch, UN и прочих организаций мирового уровня. Надо действовать против них, или вы надеетесь на изменение протокола соцсетей?

– Cуществует некий призыв не подавлять голоса палестинцев в Интернете. И я думаю, что вопросы, заданные в письме американского сенатора Уоррен, на самом деле очень важны. (Речь идет о сенаторе Элизабет Уоррен, которая в декабре 2023 года обратилась к Марку Цукербергу с требованием предоставить информацию, касающуюся обвинений в подавлении пропалестинского контента на платформах Meta. Уоррен сослалась на заявление, подписанное более чем 90 правозащитными и гражданскими организациями, перечислила сообщения в СМИ и опасения по поводу цензуры, удаления и неправильного перевода компанией Meta контента, связанного с Палестиной с тех пор, как атака ХАМАСа на Израиль вызвала эскалацию конфликта).

Совет по надзору, независимая организация, значимая для Facebook и Meta, должна до конца января 2024 года вынести решение об использовании слова шахид («мученик») и о связи этого термина с пропагандой террора или террористической деятельности на платформах социальных сетей, – рассказывает Таль-Ор. – Претензия по этому поводу выражена организациями, якобы выступающими за Палестину, но на самом деле имеющими связи с террористическими группировками. Например, 7amleh, которая продвигает эту кампанию, имеет связи с ООП, и ее публично поддерживал ХАМАС.

В феврале мы отметим 20 лет со дня появления Facebook. С какого-томомента его начали использовать именно так. Тридцатилетний человек сегодня проводит в соцсетях по 40-50 часов в неделю, он получает из них 50% новостей. В итоге у него формируется искаженное, негативное и антисемитское представление о том, кто такие евреи и что такое Израиль. Минувшее десятилетие стало временем промывания мозгов. Это должно стать отправной точкой для нас. Не только платформы социальных сетей, но и компании, занимающиеся ИИ, имеют направление работы под названием «доверие и безопасность»: они не хотят, чтобы ими управлял кто-то извне. И мы помогаем этим частным компаниям обеспечить соблюдение правил, когда речь идет об удалении антисемитского контента в больших масштабах.

Социальные сети и цифровое пространство — призма, через которую следующее поколение смотрит на мир. Они будут формировать градус ненависти к евреям и нашу реальность в ближайшие десятилетия. Мы не должны исправлять социальные сети, перекрикивая ненавистников. Евреи составляют лишь 0,2% населения планеты, эта стратегия не сработает. Как и вбрасывание миллионов долларов в очередную информационную кампанию.

Как дискурс антисемитизма распространяется на платформе, и как пользователи, распространяющие ненависть, избегают закрытия своих аккаунтов – вот две проблемы, справиться с которыми помогает ИИ. Ошибка думать, что все инвестиции должны быть направлены на обучение истории Холокоста. Антисемитизм в современной демократии выглядит совсем иначе, чем Холокост в период его расцвета. Образование в области Холокоста основано на конечном результате – шести миллионах системно убитых евреев. А необходимо сосредоточиться на всем, что предшествовало этому.

Наша задача – навалиться всем миром. Поэтому сейчас CyberWell ищет людей, заинтересованных поддержать нас в работе, включая расширение платформы на русский, украинский и другие языки. Мы открыты для этого.

Нателла Болтянская, «Детали». На фото: комана CyberWell за работой. Фото предоставлено CyberWell ∇