Приватность как новая роскошь

Китайское общество искренности

В Китае уже больше четырех лет на гражданах испытывают систему социального кредита. Разбираемся, для чего она нужна, как устроена и почему ее называют «кошмаром»

© Couleur / Pixabay
Текст: Дмитрий Левин

Новости из Китая заставляют поежиться – в стране, кажется, вот-вот установится цифровая диктатура. Полным ходом реализуется жутковатый проект национальной системы социального кредита (Social Credit System, SCS). С его помощью правительство Китайской Народной Республики обещает сделать так, чтобы «оправдавшие доверие пользовались всеми благами, а утратившие его не могли сделать ни шагу». И держит слово: миллионы нечистых на руку жителей страны лишены базовых привилегий свободного гражданина.

Указания партии

Государственный совет КНР в 2014 году опубликовал «Программу создания системы социального кредита». Суть документа можно сформулировать коротко: Китаю необходима рейтинговая система, определяющая ценность и надежность каждого гражданина или компании в стране.

Партия распорядилась запустить 30 пилотных программ в избранных городах. На протяжении 4 лет миллионы жителей добровольно обкатывают вариации будущей системы. Своих планов коммунистическая партия не меняет: предполагается, что единая система социального кредита (ССК) станет обязательной для всех и официально заработает уже в 2020 году.

Принципиально новой идею не назовешь. В Америке давно работает похожий механизм – балльный рейтинг от компании FICO. Количество очков в нем оценивается через платежеспособность, место в рейтинге определяет шанс получить кредит и величину процентной ставки. Изначально китайцы тоже планировали создать нечто подобное. Потом, однако, их амбиции выросли, а замысел стал не в пример масштабнее. Система социального кредита в Китае, в отличие от FICO, призвана взять под контроль общество целиком: наблюдать за гражданами страны, фиксировать поступки и оценивать их. За полезные действия она будет награждать баллами, за вредные – наказывать, вычитая их. Потерять очки, а уж тем более оказаться в самом низу рейтинговой таблицы не хочется никому – будут последствия.

Жизнь по балльной системе

От баллов в ССК зависит многое. Возможность пользоваться транспортом и брать ипотеку, шанс поступить в престижное учебное заведение или устроить туда своих детей – все это и многое другое определяет рейтинг. Доходит до смешного: количество «очков доверия» может влиять на выдачу профиля в приложении для знакомств, тем самым соединяя с лучшими вариантами – если человек хорошо себя вел, или с худшими – если плохо.

© Couleur / Pixabay

В документе «Руководящие рекомендации Госсовета КНР по становлению и совершенствованию механизмов поощрений лиц с высоким рейтингом доверия, и наказаний лиц, утративших доверие, для ускорения создания системы социального кредита», опубликованном 25 сентября 2016 года, список наказаний расширился. В том же документе правительство уточнило: когда гражданин нарушает доверие в одной сфере – санкции накладываются и во всех остальных сферах тоже.

За несоблюдение закона государство может снизить скорость интернет-соединения, ограничить доступ китайцев в некоторые рестораны и отели и даже выдать запрет на выезд из страны. Жители с низким рейтингом в каком-то смысле становятся изгоями. Большинство возможностей для ник закрыто. Таких людей не допускают к работе на государственной службе, в журналистике и банках. Свои критерии есть и для юридических лиц. Например, рейтинг компании опускается, если она не заботится об экологии, не контролирует уровень безопасности служащих и достоверность финансовой отчетности.

Хотя действующие системы – только прототипы, за проступки граждан наказывают уже сейчас. По официальным данным, в марте 2018 года правительство запретило 9 миллионам жителей с низким рейтингом пользоваться внутренними рейсами. Ещё 3 миллиона человек не могут покупать билеты бизнес-класса на поезда. Известно также, что 17 уклонистов от военной службы лишились возможности поступить в высшие учебные заведения.

Никуда без Big Data

Для эффективной работы системе социального кредита требуются огромные объемы информации. Согласно замыслу партии, предоставить их могут технологические гиганты. Китайское правительство поручило проводить испытания восьми частным компаниям. Доподлинно известно о двух из них: первая – Tencent, которая владеет мессенджером WeChat c пользовательской базой в 850 миллионов человек, и вторая – Alibaba, владелец китайского аналога Uber и Baihe – самого популярного сервиса для знакомств в стране. О китайцах они знают всё: о чем те говорят, что и где покупают, с кем дружат и встречаются.

При этом алгоритмы, благодаря которым высчитывается итоговая цифра в рейтинговой таблице, держатся в секрете. Создатели одной из пилотных систем Sesame Credit – ей владеет Alibaba – не раскрывают подробности журналистам. Известно только, что в основе системы лежат 5 критериев, а граждане оцениваются по шкале от 350 до 950 очков.

Так, Sesame Credit смотрит на «поведение и предпочтения» пользователя. Если человек тратит много времени на видеоигры, спускает деньги на безделушки (поди пойми, что это может означать), он автоматически определяется как «праздный». Иначе говоря, не слишком ответственный – значит, его рейтинг понижается. Совершенно непонятно, почему система так ненавидит геймеров. Что делать тем, кто стримит и тем самым зарабатывает себе на жизнь, тоже не уточняется. С другой стороны, вот кто-то покупает подгузники. Скорее всего, думает система, это ответственный родитель. Его нужно наградить – рейтинг ползет вверх.

Есть информация, что помимо покупок система мониторит социальные сети на предмет «положительной активности». По словам представителей Alibaba, негативные высказывания в интернете никак не влияют на рейтинг пользователя. Однако точно известно, что количество баллов пользователя зависит не только от него самого, но и от поведения его друзей. Не трудно догадаться, что это означает: от тех, кто понижает рейтинг, выгоднее будет избавиться. Любители «отрицательной активности» превращаются в угрозу для своих знакомых.

© Meditations / Pixabay

В городе Жунчэн (RONGCHENG), который считается образчиком вожделенного общества будущего, система работает немного по-другому. Каждому из 740 тысяч взрослых жителей изначально дается 1000 баллов. Тут так же, как и у Sesame Credit: за проступки их вычитают, за гражданскую активность и заботу о городе – начисляют. Размер штрафа или поощрения разнится. Например, за вождение в пьяном виде снимают на порядок больше баллов, чем за превышение скорости. По-настоящему героические поступки удостаиваются щедрой награды и фотографии на стенде почета в центре города – чтобы все видели и гордились соседями.

Рейтинг жителей измеряется по шкале от A+++ до D. За отличный результат (выше 1050 баллов) им полагаются награды. До уровня «D» (от 599 баллов и ниже) лучше не опускаться. Недобросовестному гражданину жить в Жунчэне становится трудно. Он не устроится на работу даже в такси, не купит билет на самолет или поезд и не получит самый скромный кредит.

Заместитель директора местного управления системой социального кредита Хэ Джюнин (He Junning) уточняет: «Оказывающие влияние на рейтинг поступки всегда должны быть подкреплены фактами и подтверждены официальными документами».

Зачем цифровой системе возня с бумагами? Так шанс обмануть её или несправедливо наказать кого-то понижается до известного минимума. В будущем вся собранная информация будет аккумулироваться во Всекитайской объединенной платформе кредитной информации. Она-то в конечном итоге и должна сформировать публичный рейтинг гражданина.

Глаза режима

Зафиксировать нарушения или гражданские подвиги ССК поможет огромная сеть из 176 миллионов камер слежения. Их количество удвоится к 2020 году. Устройства оснащаются системами распознавания лиц и акустического сканирования. Согласно «Программе развития искусственного интеллекта нового поколения» капитализация отрасли искусственного интеллекта в Китае к 2025 году выйдет на первое место в мире и составит $60 млрд.

© staffordgreen0 / Pixabay

Камеры с системой распознавания лиц хорошо проявляют себя в полицейской работе, позволяя обнаружить преступника в 70-тысячной толпе. Кроме того, они находят себе применение в исследовании поведения покупателей торговых центров, а теперь – и в учебном процессе.

Издание The Telegraph 17 мая рассказало, что система распознавания лиц контролирует поведение китайских школьников. Пока это всего лишь эксперимент, который проводится в единственном месте – школе города Ханчжоу. Три камеры непрерывно наблюдают за лицами учеников во время занятий. Они распознают семь эмоций: злость, спокойствие, разочарование, грусть, испуг, радость и удивление. Когда система видит, что школьник отвлекся, она отправляет преподавателю уведомление. Любопытно, что в зависимости от поведения класс делится на две группы: «А» – прилежные дети и «B» – их невнимательные одноклассники.

Директор школы Ни Цзыюань (Ni Ziyuan) не видит здесь проблем, даже наоборот, считает, что система помогает повысить качество преподавания. Ученики признаются: теперь приходится ответственнее вести себя на уроках.

Непрозрачная логика

Китай планирует запустить систему социального кредита (ССК) уже очень скоро – в 2020-м году. Тем не менее к ней остается много вопросов. Если в Жунчэне для начисления или снятия баллов нужно документальное подтверждение, то в Sesame Credit этого не требуется. В разговоре с Foreign Policy генеральный директор компании Ху Тао (Hu Tao) отрицает некоторые факты о Sesame Credit. По ее словам, система не следит за профилями в социальных сетях и не пытается оценивать качества пользователя. Кроме того, утверждает она, их разработка не делится данными с государственными структурами. Тем не менее компания входит в список восьми избранных правительством для разработки пилотных систем рейтингования технологических гигантов.

Нужно помнить, что даже самая совершенная разработка не учитывает всех обстоятельств. Правила нарушаются как осознанно, так и по независящим от человека причинам. Скажем, если он попал в больницу и не смог оплатить счета за коммунальные услуги, должен ли он быть наказан за это? Теоретически, несовершенная в этом смысле программа натурально разрушит жизни невиновных, исходя из неверных предположений.

Другой популярный вопрос к ССК – будут ли чиновники в высших государственных структурах жить по тем же правилам, что и все остальные? На данный момент, несмотря на открытый характер документов, критически не хватает подробностей об алгоритмах, которыми пользуются пилотные системы. С одной стороны, чтобы люди были спокойны, их логика должна быть максимально прозрачной. С другой, раскрытие этой информации ставит их под удар: становится намного легче обмануть систему, зная принципы ее работы.

Лекарство для общества

В западной прессе китайский проект часто называют «кошмарным». Сами китайцы, кажется, напуганы куда меньше, если не сказать довольны. Доказательство тому – хотя бы количество волонтеров, участвующих в испытаниях. Можно предположить, что местные власти их не спрашивают вообще: некоторые жители Жунчэня с удивлением обнаруживают, что подключены к системе и зависят от рейтинга. С другой стороны, надо помнить, что за хорошее поведение полагаются бонусы: кредиты, аренда автомобиля без депозита, отдельное обслуживание в аэропортах, визовых центрах, дешевые билеты и лучшие номера в отелях.

Самое главное – на систему социального кредита есть запрос в обществе. «В результате десятилетий тотального контроля китайское общество страдает от недостатка доверия. Люди ожидают обмана и боятся попасть в неприятности, не сделав ничего плохого», – рассказал изданию Foreign Policy социолог Чжан Лифань (Zhang Lifan). Китайцы не доверяют друг другу, и проблема эта появилась не из воздуха. По мнению Лифаня, вину за нездоровое состояние социума несет действующий режим. Этот же режим, с помощью внедрения системы социального кредита, сейчас пытается все исправить.

Только половина договоров, заключенных между китайцами, соблюдается беспрекословно. На потребительском рынке полно некачественных товаров: по данным OECD, около 63% всей мировой контрафактной продукции производится в Китае. Специалист по китайскому праву и государственному управлению из Лейденского университета Роджир Кримерс (Rogier Creemers) утверждает, что «уровень микро-коррупции в Китае гигантский». Система, которая напрямую определяет надежность человека или компании, должна помочь разрешить актуальные проблемы: повальное финансовое мошенничество, засилье контрафакта и антисанитарии.

Короткое интервью изданию Foreign Policy дал 32-летнии предприниматель Чень (Chen) из Жунчэня. «Я чувствую, что за последние шесть месяцев люди стали вести себя лучше. Например, находясь за рулем, мы всегда останавливаемся перед пешеходными переходами. Не остановитесь – потеряете очки. Сперва мы переживали, но теперь привыкли к этому», – рассказал он. Выходит, подобные меры контроля эффективно формируют поведение людей. Однако когда жители хором расхваливают систему, старательно избегая критики, которая, вполне вероятно, скажется на их рейтинге, это кажется подозрительным.

Препятствия на пути к новому обществу

Национальная система социального кредита должна будет объединить институции и акторов разного масштаба: от муниципальных и государственных систем вместе с провайдерами онлайн-услуг до местных предприятий и библиотек. Вместе их свяжет единая информационная сеть. Разработка системы, которая распределяет баллы для 1,4 миллиарда человек, невозможна ни с технической, ни с политической точки зрения, утверждает Роджир Кримерс. Скорее, это будет расширение и автоматизация бюрократического контроля: система упростит и формализует мониторинг жизни китайцев, но, вероятно, не превратится в тоталитарный кошмар.

© Couleur / Pixabay

Критики проекта предсказывают множество проблем, с которыми он столкнется на пути к реализации. По состоянию на май 2016 года в пилотных программах было зарегистрировано 26 миллионов человек. Тем не менее, упор до сих пор делается на привлечение волонтеров, в то время как сбору информации и данных уделяется значительно меньше времени. Добровольцам, которые борются за место в рейтинге, обещают награду,  однако не ясно, как именно работодатели или поставщики услуг будут взаимодействовать с системой и обеспечивать лучших жителей наградой, и какую выгоду извлекут сами.

Сомнения вызывает также намерение собрать данные с помощью крупных IT-компаний. В июле 2017 года правительство Китая отложило выдачу лицензий восьми кандидатам, выбранным в 2015 году, сообщает Financial Times. В этом списке находятся уже упомянутые Tencent и Alibaba. Причина – возможный конфликт интересов между компаниями. Кроме того, владея собственным инструментами и информацией, компании отказываются делиться ей с конкурентами.

Словом, проблем хватает. И есть подозрения, что Коммунистическая партия Китая не сможет закончить работу над системой к назначенному сроку.

***

Скандалы с утечками информации заставляют в очередной раз обеспокоиться уязвимостью личных данных. При этом новости о краже данных пользователей и слежке государства за своими гражданми все чаще приходят с запада, а не с востока. Лицемерием кажется алармистский тон подавляющего большинства публикаций западной прессы. Отсюда вопрос: так ли сильно демократические общества далеки от идеи тоталитарной цифровой диктатуры?

Согласно официальным заявлениям, Государственный совет КНР стремится увеличить степень доверия внутри общества. Программа социального кредита, хоть фактически является инструментом слежки за населением, делает это открыто. Мы плохо знаем о том, какие данные о нас собирают частные компании и государство. А вспоминаем об этом, когда информация уже находится в руках злоумышленников и спасать ее уже слишком поздно.

Главный специалист по вопросам конфиденциальности в компании Private Internet Access Рик Фалквиндж (Rick Falkvinge) считает, что китайское правительство, вводя подобную систему, искореняет в обществе критическое и независимое мышление, вне зависимости от целей, которые преследует на самом деле. Популярная точка зрения. Многие боятся, что система, которая тщательно готовится все эти годы, начнет припоминать китайцам их слова и поступки, в том числе не самые лестные отзывы о государстве.

Блогер из Шанхая Расул Маджид (Rasul Majid) не спешит с выводами и предлагает порассуждать: «Что лучше? Знать о том, что именно находится под контролем, и использовать это знание, чтобы лучше соблюдать правила? Или жить в неведении – верить и надеяться, что ещё существует личная жизнь, и правительство знает о нас недостаточно, чтобы воспользоваться этим?».