Антиутопия в современной реальности: как технологии воссоздают мир Оруэлла в Китае

Все началось еще при прежнем председателе КНР Ху Цзиньтао, стоявшего у власти с 2002 по 2012 год. В 2007 году были опубликованы «Некоторые замечания канцелярии Госсовета КНР о создании системы социального кредита»: проект, похожий на расширенную систему оценки платежеспособности заемщика, которую используют в США. Нововведения распространялись на юридические лица. После прихода к власти Си Цзиньпина (который занялся активной борьбой с коррупцией во власти) был опубликован новый документ – «Программа создания системы социального кредита (2014–2020)». Он предполагает распространение системы оценки не только на компании, но и на простых граждан: к 2020 году планируется отслеживать и оценивать каждого в режиме реального времени. Рейтинг доверия будет привязан к внутреннему паспорту, а данные о рейтинге всех граждан будут опубликованы в централизованной базе данных в интернете в свободном доступе.
Заявление Си Цзиньпина на заседании Политбюро ЦК КПК, декабрь 2016 года:
«Для борьбы с острой проблемой недостатка доверия нужно крепко взяться за создание системы оценки надежности, покрывающей все общество. Нужно совершенствовать как механизмы поощрения законопослушных и добросовестных граждан, так и механизмы наказания тех, кто нарушает закон и утратил доверие, чтобы человек просто не осмеливался, просто не мог потерять доверие».
В городе Жунчэн систему оценки уже внедрили в качестве эксперимента. Изначально каждому жителю дается 1000 баллов, в зависимости от поведения гражданина его рейтинг растет или падает. Рейтинг больше 1050 баллов — маркировка ААА, 1000 баллов – АА, 900 баллов – B, ниже 849 баллов – C, 599 баллов и ниже – D. Люди с рейтингом ААА – практически святые образцовые граждане, имеют приоритетное право на обслуживание в государственных и муниципальных структурах, получают медицинскую помощь без очереди и с большими льготами и т.п. Рейтинг А+ позволяет пользоваться многими услугами без залоговой суммы, упрощается процедура банковских операций и прочее. Начиная с маркировки С, граждане считаются подозрительными и «берутся на карандаш», их увольняют или лишают возможности трудоустройства в государственные и муниципальные структуры. Жизнь жителей с рейтингом D похожа на сущий кошмар: они настоящие изгои, их не берут почти ни на какую работу, не дают кредиты, не продают билеты на скоростные поезда и самолеты, не дают в аренду автомобиль и велосипед без залога. Общение с людьми для таких граждан становится проблемой, поскольку для всех остальных любые контакты с человеком D приводят к стремительному падению рейтинга.
Одна из самых эффективных форм социального контроля в рамках этой системы – доносы. За них активные граждане получают минимум 5 баллов.
Эта система уходит корнями в далекие времена: около 400 до н.э. великий китайский реформатор Шан Ян создал систему, при которой народ делился на группы по 5–10 семей, которые наблюдали друг за другом и несли за преступления коллективную ответственность. Управление обществом осуществлялось с помощью жесткой системы поощрений и наказаний. Происходящее сегодня в Жунчэне сильно напоминает прежние устои, только группы стали более многочисленными (по 400 семей), но сохранились «надзиратели», регулярно собирающие информацию о членах этих блоков и отправляющие ее куда следует.
Точные критерии, по которым оцениваются граждане, в полном объеме доподлинно неизвестны. Однако в программе Госсовета сказано, откуда будут браться данные для оценок: из различных государственных структур, правоохранительных и муниципальных органов, а также их сбором будут заниматься 8 частных компаний.
Две из них – это Alibaba и Tencent: первая компания — крупнейшая платформа интернет-торговли, среди ее пользователей 448 миллионов китайцев, объем продаж — 23 миллиардов долларов, вторая — владелец мессенджера «WeChat», которым пользуются 500 миллионов человек. На сервисы мобильных платежей этих компаний приходится 90% рынка всех мобильных платежей в Китае, их объем — 5,5 триллионов долларов. Ценность информации, которой владеют эти компании, колоссальна: категории закупаемых товаров, финансовые возможности, местонахождение (не только где, но и когда), предпочтения по контенту, круг общения и многое другое.
Так, например, Alibaba уже подготавливает китайское общество к внедрению рейтинговой системы по всей стране и вырабатывает у них привычку делиться своими персональными данными. У компании есть свой рейтинговый сервис Sesame Credit, участие в котором пока добровольное. На рост рейтинга влияет реальность имени в соцсетях, круг общения (чем выше рейтинг твоих онлайн-друзей, тем выше твой собственный), потребляемый контент. Полноценный список критериев на данный момент остается в тайне. Даже в китайском приложении для знакомств «Байхэ» создатели обещают поднять анкету пользователя в результатах поиска, если у него высокий рейтинг в Sesame Credit. Несмотря на добровольность использования этого сервиса и тестовый режим его функционирования, последствия могут быть реальными и весьма плачевными: по данным на конец 2015 года Верховный суд КНР, основываясь на данных Sesame Credit, наложил санкции, прописанные в инструкциях Госсовета, на 5300 человек. На конец июня 2017 года под санкции попали уже 7,3 миллионов граждан.
На фоне всего этого рождается вопрос: если все население рано или поздно окажется «под колпаком», кто же будет контролировать самих чиновников? Не превратится ли Китай в олицетворение оруэлловского мира во главе с Большим Братом с безграничной властью?
С целью избежать такой ситуации на данный момент разрабатывается система рейтингов и оценки надежности для чиновников низового уровня — «Умное красное облако». Она будет оценивать доходы самого чиновника, членов его семьи, сделанные покупки и активность в соцсетях. Все это, по задумке создателей, позволит оценить уровень политической благонадежности и выявлять коррупционеров на ранней стадии, чтобы лишить их возможности попасть в круг политической элиты страны.
Очевидная на первый взгляд польза от внедрения рейтинговой системы при более детальном рассмотрении уходит на второй план, обнажая уязвимые стороны. В первую очередь, настороженность вызывает попадание людей в зависимость от новой формы общественного устройства, контролируемого технологиями искусственного интеллекта и big data. Технологии могут дать сбой, в то время как на кону судьбы более чем миллиарда людей. Но в деле оценки граждан и присвоения им рейтинга участвуют в том числе судебные и правоохранительные органы, а также так называемые «надзиратели» над группами, со стороны которых человеческий фактор, способный повлечь за собой ошибку и намеренное «очернение» того или иного гражданина, исключить невозможно.
Внешне совершенное с морально-этической стороны общество строится на фундаменте эгоизма и принципу «человек человеку волк» – та же система доносов основана на росте рейтинга доносчика и его падении у объекта доноса. «Заложить» другого человека с целью набрать баллы – путь наименьшего сопротивления, который, исходя из человеческой природы, потенциально может выбрать большинство жителей Китая. В любом случае, искренность добродетельных порывов остается в стороне от выгоды, которую можно получить, выполняя то или иное действие.