Что нельзя писать в «Фэйсбук»

«Белые мужики – мрази» или «черные дети – мрази» – что разрешено писать? Какое утверждение, по вашему мнению, может быть опубликовано в Facebook, а какое будет удалено?

Когда у Facebook было всего несколько миллионов активных пользователей, он создал отдел под названием Site Integrity Team, состоящий из дюжины сотрудников, в основном, выпускников колледжей. Эта группа занималась изучением разного рода выражений, и ей приходилось решать, принимать ли жалобы и удалять высказывания, или отклонять их и оставлять высказывания в сети. Не имея другого выбора, Facebook пришлось разработать внутренний свод правил, который помогал команде решать, когда конкретная фраза нарушает «правила сообщества Facebook», то есть внутренние правила, которые она сама составляла, и поэтому ее следует удалить.

15 апреля 2013 года два самодельных устройства взорвались в 200 метрах от финишной прямой Бостонского марафона, убив трех человек и ранив сотни. Вскоре после атаки снимки с места преступления начали поступать в Facebook и, как можно понять, были шокирующими. У одного из раненых одна нога была полностью оторвана, а от другой осталась голая кость. Это фото произвело фурор в Facebook.

В то время, как некоторые члены группы по фильтрации фотографий утверждали, что этот снимок нарушает все правила, установленные до этого момента, и его следует удалить, другие утверждали, что он уже во всех газетах, на телевидении и на веб-сайтах, и нелепо удалять его из Facebook. Более того, эта фотография стала иконой, символом ужаса и шока, испытанного многими американцами. Дилемма дошла до руководства компании, и в итоге было принято решение: «Мы не будем удалять снимок. Он останется».

Но через полгода решение Facebook было полностью противоположным. В октябре 2013 года пользователи начали публиковать и делиться видеозаписью, в которой человек с закрытым лицом перерезал горло женщине, заставив ее опуститься на колени. Ролик был снят в Мексике, где шли жестокие и затяжные войны с наркокартелями, которые двумя годами ранее убили 27 213 человек. В то время, как многие пользователи и политики внутри и за пределами Мексики требовали, чтобы видео было удалено, как «восхваляющее насилие» и наносящее ущерб чувствам общественности, и, конечно же, чувствам несовершеннолетних, другие заявили, что оно привлекает внимание правительства Мексики и всего мира к тяжелому положению мексиканцев. Они утверждали, что единственный способ сделать это – показать террор, который наркокартели применяют против мирного населения. Facebook поддержал первую группу. Видео удалялось всякий раз, когда кто-то его публиковал.

А как насчет текстов? Вот два утверждения:

1.«Белые мужики – мрази».

2.«Черные дети – мрази».

Какое заявление, по вашему мнению, разрешено публиковать в Facebook, а какое будет удалено?

Ответ в том, что первое утверждение будет удалено, а второе Facebook оставит нетронутым. Является ли политика сайта расистской? Нет.

Политика компании заключается в защите определенных категорий. Первое утверждение включает в себя две защищенные категории – мужчин (пол) и белых (происхождение). Поэтому оно воспринимается, как поощряющее ненависть ко всем лицам, включенным в категорию, и будет удалено. Второе утверждение включает ссылку на происхождение – черные – это защищенная категория, но также и на возраст, детей, которые входят в незащищенную категорию. Согласно политике Facebook, в таком заявлении неясно, являются ли дети, в данном случае – черные, мразями или что конкретно черные дети – мрази. Поскольку неясно, что имеет в виду автор, заявление не будет удалено.

Роль 12 молодых людей, которые приняли такое решение при зарождении Facebook, сегодня выполняют более 7000 сотрудников, большинство которых являются внештатными, которые в рамках подготовки к работе проходят инструктаж и смотрят фотографии и видео шокирующего содержания. Некоторые сотрудники говорят, что ничто не могло подготовить их к ужасам, которые их ожидали.

Это – не единственная проблема. Сотрудники должны принимать решение в среднем раз в четыре секунды. Это означает, что в течение восьмичасового рабочего дня каждый сотрудник сталкивается с тысячами дилемм. В дополнение к необходимости формулировать правила, которые позволят принимать последовательные решения, и в дополнение к короткому времени, отводимому для решения любой проблемы, количество спорных фраз, представляемых в Facebook каждую минуту, час и день, только увеличивается. Цифры чудовищные.

Facebook не единственный, кто занимается этой проблемой. На самом деле, все платформы соцсетей сталкиваются с проблемой свободы слова. Например, в начале августа 2018 года Apple, Facebook, YouTube и Spectipi объявили о своем решении удалить со своих платформ все материалы теоретика заговора Алекса Джонса, который публикует свои заявления под ником Infowars. Причина: материалы Джонса, будь то видео или тексты, нарушают правила и нормы сообщества, запрещающие разжигание ненависти. Неделю спустя Twitter присоединился и объявил о временном отстранении Джонса от использования услуг этой платформы. Через месяц отстранение стало постоянным.

Все эти случаи и многие другие должны беспокоить нас по трем основным причинам.

Во-первых, Facebook (которому также принадлежит Instagram), Google (которому принадлежит YouTube), Twitter и другие компании, работающие в соцсетях, утверждают, что они являются «платформой», а не «издательством». Это определение позволяет им освободиться от ответственности за то, что рекламируется в их сервисе. «Мы не решаем, что публиковать, – утверждают они. – Мы просто платформа». Но, как видно из многих случаев, Facebook принимает четкие редакционные решения. Он изучает общественный интерес, а затем решает, публиковать ли материал или удалить его. В Британии уже поняли, что «платформный аргумент» Facebook » сомнителен. Летом 2018 года специальный комитет британского парламента предложил создать новый правовой тип, который будет стоять между «платформой» и «издательством», и нести большую ответственность за материалы.

Во-вторых, социальные медиа-платформы стали глобальными редакторами и цензорами. Способность нескольких компаний стереть сразу все материалы такого человека, как Алекс Джонс, указывает на их огромную силу и беспрецедентность. Эти компании создают законы, в соответствии с которыми они определяют, что разрешено и что запрещено говорить, а затем решают, когда, как и при каких обстоятельствах обеспечивать их соблюдение.

Марк Цукерберг, Сергей Брин, Ларри Пейдж и все другие основатели новых медиа-компаний не являются выборными должностными лицами или даже журналистами, которые нарушают какую-либо этику. Директора компаний получают прибыль для владельцев акций. Хотим ли мы, чтобы они были теми, кто формулирует правила свободы слова?

В-третьих, по словам британского антрополога Роберта Данбара, наш мозг построен так, что мы можем поддерживать социальную связь не более чем со 148 людьми, число которых удобно округлять до 150. Даже если мы не примем числовое утверждение Данбара, мы не сможем оспорить тот факт, что люди развивались небольшими группами, в деревнях и племенах. Но еще в 1960-х годах Маршалл Маклюэн объяснил, что мы находимся на пороге эпохи, когда мы станем частью глобальной деревни. Он объяснил, что с помощью технологий мы можем связаться с кем угодно, независимо от того, насколько он далеко от нас. Мы можем знать в режиме реального времени, что происходит на другом конце света.

Похоже, что Цукерберг взял на заметку прогноз Маршалла Маклюэна и хотел его реализовать. В течение многих лет он объяснял, что миссия Facebook заключается в том, чтобы «сделать мир более открытым». Это утверждение содержало аксиому, что открытый мир обязательно – лучший. Но любой, кто знаком с высказываниями Маклюэна, знает, что он предупреждал о том, что такое глобальная деревня. «Любят ли люди друг друга больше, когда становятся ближе друг к другу?» – об этом Маклюэн задумался в телеинтервью в 1977 году. И ответил: «Этому нет никаких доказательств. Когда люди становятся ближе друг к другу, они и более нетерпимы друг к другу». Он добавил, что глобальная деревня является причиной потери личной идентичности, и это может подтолкнуть людей к насильственным действиям.

Самый актуальный пример этому, по крайней мере, на данном этапе – это то, что происходит в Мьянме. В 2012 году только один процент населения этой страны был подключен к интернету. Три года спустя, после смены режима, доля интернет-пользователей подскочила до 25 процентов. Согласно многим свидетельствам, с 2013 по 2018 год экстремисты-буддисты используют Facebook для распространения ненавистнических высказываний против мусульман-рохинджа, которые составляют всего 5 процентов местного населения. Когда чиновники ООН начали изучать ситуацию в стране, они обнаружили свидетельства геноцида рохинджа силами безопасности в Мьянме и бегства более 700 000 мусульман в соседний Бангладеш.

Представители ООН не оставили места для сомнений относительно роли Facebook, заявив, что он сыграл ключевую роль в геноциде, и один из них даже заявил, что Facebook «стал монстром». В докладе говорится, что Facebook реагировал медленно и неэффективно, хотя получал все большее количество свидетельств об использовании своего сервиса для поощрения насилия. После сообщения Facebook начал блокировать деятельность высокопоставленных военных чиновников Мьянмы, но только в середине 2018 года. Это было слишком мало и слишком поздно.

Такие вопросы, как свобода слова, вместе с тем, как люди используют Facebook, Twitter, YouTube и аналогичные услуги для распространения порнографии или ненависти, подстрекательства и поощрения насилия, указывают на дилемму компаний, осуществляющих свое видение глобальной деревни. Здесь есть фундаментальные вопросы: может ли одна корпорация быть в состоянии создать единую структуру, которая приемлема для 2,5 миллиардов человек? Вписывается ли структура американского мышления в отношении того или иного выражения в рамки мексиканского, русского, египетского, китайского или израильского мышления? Можно ли заставить разные народы разных культур иметь одинаковый набор ценностей? Построили ли эти компании технологическую инфраструктуру для глобальной деревни только для того, чтобы обнаружить, что теперь они не могут даже справиться с побочными эффектами ее существования? Является ли это просто совпадением, что все больше и больше людей, участвующих в создании этих компаний, сожалеют о своей роли в разработке продуктов и услуг, которые разрывают общества и страны изнутри?

Похоже, нам следует серьезно рассмотреть возможность вскрытия ящика Пандоры и утешить себя тем фактом, что, согласно греческой мифологии, в нижней части ящика была «надежда».

Сегодня Facebook находится между молотом и наковальней.

Молот состоит из политиков в Соединенных Штатах, Великобритании, Франции и других странах, которые видели, как россияне и их партнеры по всему миру использовали Facebook и распределительную машину Google для распространения слухов, лжи и дезинформации, чтобы сеять хаос, недоверие и растерянность среди граждан непосредственно перед выборами и референдумами. Эти действия подрывают доверие, которое граждане оказывают своей политической системе, а иногда и сводят на нет результаты выборов . Теперь политики требуют, чтобы Facebook усилил контроль над своей платформой, чтобы ей нельзя было злоупотреблять.

А что такое наковальня? Алгоритмы Facebook, его бизнес-модель, способ работы. Facebook создал систему, питаемую информацией, которую мы ей передаем, и мы знаем, что компании и организации, включая коммерческие и политические, платят Facebook, чтобы использовать его в своих целях. Этим Facebook зарабатывает миллиарды.

Поэтому любой, кто считает, что частичные меры, о которых недавно объявил Facebook, решат проблему лживых новостей, подстрекательства и экстремизма, которая постоянно усугубляется, должен понимать, что Facebook – это бизнес-корпорация, действующая из соображений прибыли и убытков.

Если этого недостаточно, существует другая проблема в Израиле: правящая партия «Ликуд» и ее лидер Биньямин Нетаниягу выступают против закона, который потребует прозрачности в онлайн-пропаганде, даже если Facebook к этому готов. Граждане в Израиле должны задать себе один вопрос: почему?

Юваль Дрор, «ХаАрец», Л.К.

Фото: Pixabay


Реклама

Анонс

Реклама



Партнёры

Загрузка…

Реклама

Send this to a friend