Оруэлл уже здесь!

В последние годы Китай стал воистину страной эффективного мониторинга, используя современные технологии искусственного интеллекта, чтобы следить за своими гражданами.

Десятки миллионов видеокамер вкупе с технологией распознавания лиц позволяют отслеживать даже малейшие преступления, правонарушителей презирают, а их изображения проецируются на гигантские экраны.

Правительство ввело систему «социального кредита» (или, как ее еще называют – систему социального рейтинга), которая, по замыслу инициаторов, должна стать тотальной к 2020 году. Она представляет собой систему оценки отдельных граждан или организаций по различным параметрам. Совокупность параметров определяется с помощью инструментов массового наблюдения, включая также технологию анализа больших данных. Иначе говоря, система способна «измерить» поведенческие мотивы каждого китайца и проанализировать их соответствие закону. Скажем, от попытки перейти улицу на красный свет до проявленной небрежности при сортировке мусора. На основе полученных данных система определяет, где конкретные граждане могут жить и могут ли они пойти в отпуск.

Так, в прошлом месяце в качестве наказания система «социального кредита» блокировала – за ненадлежащее поведение – двадцати трем миллионам китайцам возможность приобрести авиабилеты. И это — только начало. В китайских компаниях используют специальные шлемы, измеряющие мозговую активность сотрудников, что позволяет менеджерам повышать производительность труда. Все эти технологии призваны предотвращать преступления, а также подрыв основ государства, и препятствуют возможности наносить ущерб экономике — еще на стадии появления подобных мыслей.

Материалы о китайской системе социального контроля нередки в западной прессе. Немецкая газета Die Zeit назвала Китай «новым рабовладельческим обществом». Но что действительно пугает, так это ощущение, что подобные технологии могут выйти далеко за пределы КНР. Речь идет о масштабном эксперименте с применением технологий контроля и управления народонаселением, который – не исключено – доберется до всего остального мира.

Безусловно, существует принципиальное различие между авторитарным Китаем и демократическими странами, где поддерживается разделение властей и приоритетным считается защита прав и частной жизни граждан. Однако, на практике, подавляющая часть современного мира готова узаконить идеологию защиты и безопасности, затрагивающую чуть ли не все аспекты жизни человека. Сохранение личной безопасности – это цель, оправданная совокупностью мер, которые в прошлом несомненно вызвали бы протест и сопротивление. Таковы, к примеру, камеры видеонаблюдения, установленные на любом участке по всей стране или биометрические паспорта.

Во многих случаях обеспечение безопасности куда опаснее, чем угроза, которую оно якобы должно предотвратить.

Философ Жан Бодрийяр справедливо утверждал, что опасность для ядерных реакторов заключается в механизмах безопасности: зона, расположенная в радиусе нескольких километров от реактора, объявляется стерильной, она окружена защитными ограждениями, ее охраняют специальные подразделения, повсюду – камеры наблюдения и прочие системы слежения. Жизнь внутри данного объекта регламентирована бесчисленными правилами и инструкциями, определяющими действия сотрудников, а также поставщиков различных услуг. Добавьте к этому и возможную угрозу ядерной аварии, создающую универсальную систему безопасности в виде блокировки и контроля. По словам Бодрийяра, главная проблема ядерного века такова: «Никакая прямая угроза атомного разрушения не парализует нашу жизнь так, как устрашение. Устрашение – вот, что вызывает рак крови».

В прошлом веке в результате ядерных аварий погибло всего несколько тысяч человек. Но сработавшие механизмы безопасности и сдерживания затронули миллионы.

Нечто подобное можно сказать и о воздушном терроризме. Риск быть убитым в результате террористической атаки на самолет или аэропорт минимален. С другой стороны, принцип предупреждения работает и здесь; безопасность — или забота о безопасности — превратила авиасообщение в изнурительный и неприятный процесс. Но те, кто отвечает за этот процесс — это лица, принимающие решения, и они выбрали максимальную безопасность, в ущерб свободе и благополучию пассажиров.

«Всюду, где идея обеспечения безопасности стала превалирующей, — писал Бодрийяр, — выросла система сдерживания и устрашения, а вокруг нее — историческая, социальная и политическая пустыня». Философ писал эти строки в начале 80-х годов прошлого века, но за прошедшие с тех пор десятилетия логика безопасности и сдерживания распространилась, подобно метастазам. Мы живем в защищенном обществе, где все контролируется и фиксируется. Это — поистине тотальный репрессивный режим, которому мы подчиняемся, не сопротивляясь. Этот тип надзора не воспринимается, как прямое подавление, поскольку он якобы предназначен для защиты граждан. Но со временем это создает социальное единство, которое становится все более и более конформистским.

В сообщениях из Китая подчеркивается, что новые средства контроля приветствуются многими гражданами, выражающими удовлетворение безопасностью сетей наблюдения.

В статье, опубликованной в этом месяце в New York Times, китайская писательница Джанан Цянь пояснила, что китайцы, на самом деле, давно обучены выбору между безопасностью и свободой; многие из них также убеждены, что «бояться должны только преступники».

Но проблема состоит в том, что аргументы, которыми руководствуются китайцы, вполне соотносятся с аргументами, звучащими, как оправдание, и исходящими от законопослушных граждан в других странах, где работают надзорные механизмы. Может сложиться и так, что те же граждане впоследствии оправдают появление в их государствах «социальных рейтингов», подобных китайскому, утверждая, что в выигрыше будут все, а рейтинги необходимы, чтобы нормально функционировала экономика или для защиты детей.

Действительно, технологии безопасности и наблюдения не несли бы в себе опасность, если бы их не приветствовало большинство населения. Когда в городах появились первые видеокамеры, это вызвало удивление, если не подозрение. Однако общественное мнение довольно быстро пришло к согласию, что камеры способствуют профилактике безопасности и «беспокоиться должны только преступники». Во имя святости безопасности также быстро были принесены в жертву возражения, выраженные, к примеру, по поводу биометрических паспортов.

Похоже, наступает время, когда мы по доброй воле отказываемся от свободы и личной автономии. В крайнем случае, придется признать: мы стали зависимыми от безопасности за счет свободы. Мы – рабы алогизма «Нет выбора!». Если так, предпочтительнее не говорить о свободе.

Офри Илани, «ХаАрец», М.К. К.В. 

На фото: Мао Цзе Дун, 1938. Фото: Wikipedia public domain


Анонс

Реклама



Партнёры

Загрузка…

Реклама

Send this to a friend