В России внедряют китайские системы, следящие за благонадежностью граждан
Система социального рейтинга, следящая за благонадежностью граждан в Китае, постепенно проникает и в Россию. В начале марта Минстрой РФ утвердил всероссийский проект «Умный город», который предполагает оснащение всей страны интеллектуальной системой слежения за людьми. Москва и Петербург стали пилотными площадками, где smart city уже заработал – при участии китайцев. Чем гражданам грозит использование китайского опыта?
Smart city по-китайски
В течение трех лет в России будет повсеместно внедрена интеллектуальная система распознавания лиц, заявляют в Минстрое, ответственном за реализацию проекта. По словам замглавы ведомства Андрея Чибиса, министерство изучило китайский опыт и намерено привлечь китайские компании к внедрению «технологии биометрии и анализа событий» в городах РФ.
Системы слежения, интегрированные в нейросети, в КНР используются довольно давно. С их помощью китайцы научились не только раскрывать преступления, но даже прогнозировать, где и когда будет совершено очередное злодейство. И даже ловить потенциальных (т.е. будущих) преступников. В некоторых китайских провинциях полицейские оснащены очками дополненной реальности с технологией распознавания лиц.
В настоящее время в Китае установлено более 176 миллионов камер, а к 2020 году добавят еще почти 500 миллионов. И это – не предел. В некоторых регионах под наблюдением находятся буквально все жители и вся территория.
В нестабильном Синьцзян-Уйгурском автономном районе, где проживают более 10 миллионов уйгур-мусульман, власти внедрили комплекс видеонаблюдения, оснащенный искусственным интеллектом.
Система распознает людей на улицах и предупреждает полицию, если подозрительные личности отклоняются от привычных маршрутов более чем на 300 метров. Более того, у всех жителей отсканированы радужные оболочки глаз, а на каждый автомобиль установлены геометки. Под видом бесплатной диспансеризации у населения взяли образцы ДНК, с помощью которых нейросеть быстро может вычислить разыскиваемого человека.
Полицейские оснащены анализаторами мобильного контента, способными мгновенно прочитать «содержимое» любого смартфона и выявить запрещенное.
– Если в телефоне обнаружится, например, расписание намазов, мусульманские имена и прочий контент, связанный с мусульманской религиозной практикой, владельца гаджета внесут в список неблагонадежных и могут забрать в лагерь перевоспитания, – рассказала «Городу 812» директор Лаборатории изучения китайского туризма Полина Рысакова.
По ее словам, в список нежелательного контента в Китае также попали, например, Винни-Пух и свинка Пеппа. Считается, глава КНР Си Цзиньпин похож на Винни-Пуха в диснеевском варианте, а Пеппа – символ неодобряемой молодежной субкультуры.
– Новый тренд: под запрет на использование в соцсетях попал иероглиф, обозначающий «печаль», «уныние». Он стал символом бунта китайской молодежи, которая не хочет соответствовать ожиданиям и требованиям, предъявляемым обществом. И от этого они пребывают в унынии и разочаровании, – рассказала Полина Рысакова.
Интеллектуальная система в КНР отслеживает все, даже самые мелкие нарушения граждан. Например, фиксирует, как люди перебегают дорогу на красный свет или рвут цветы на клумбе. Их лица мгновенно распознаются, устанавливаются фамилии, адреса и т.д.
Камеры используются даже при входе в общественные туалеты – чтобы никто не воровал туалетную бумагу. Лица входящих запоминает камера, каждому выдается около 60 см бумаги. Следующую порцию пипифакса то же лицо может получить лишь через 9 минут.
Китайцы научили систему наблюдения распознавать не только лица, но и анализировать покупки, поступки, знакомства, места пребывания конкретного человека. В зависимости от собранной информации система может сделать вывод о его неблагонадежности.
Как пишет китаист Леонид Ковачич на портале московского Центра Карнеги, если китаец купит кухонный нож, система возьмет его на заметку, хотя ничего криминального нет. Но если затем этот же человек приобретет мешок и молоток – система отметит его как «потенциально опасного».
Систему умного видеонаблюдения, названную ECU911, Китай бесплатно поставил в Эквадор. В результате за два года преступность там упала на 24% и Эквадор стал одним из самых безопасных государств Латинской Америки.
Граждане разных сортов
На основе умной системы слежения в Китае начали внедрять систему социального рейтинга – SCS (Social Credit Score). По сути, SCS представляет собой инструмент, разделяющий всех китайцев на разные «сорта» в зависимости от их благонадежности.
Поступки людей оцениваются в баллах, из баллов формируется персональный рейтинг. За плохое поведение баллы снимают, за хорошее – добавляют. Чем больше баллов, тем выше рейтинг. Чем выше рейтинг, тем больше льгот и благ.
Инициатива была озвучена Госсоветом КНР в 2014 году. Цель проекта – улучшить моральный облик граждан, повысить патриотизм, снизить преступность. В 45 городах Китая SCS уже действует в пилотном режиме, и пока участие в ней добровольное.
Несмотря на то что система тестируется уже в течение пяти лет, информация об этом масштабном социальном эксперименте за пределами Китая практически отсутствует.
Как пишет русско-китайский канал EKD.ME со ссылкой на South China Morning Post, в тестовом режиме баллы за хорошие и плохие поступки в каждой провинции Китая до сих пор начислялись по-разному. Жительница деревни Цзякуан Мацзя 52-летняя Ян Цююнь, работающая информатором SCS, поделилась, как она записывает в блокнот хорошие и плохие поступки односельчан и начисляет за них баллы. Например, ее сосед Ма Шаоцзюнь бесплатно установил баскетбольное кольцо на детской площадке. За это ему начислили два балла. Гражданка Ма Хунъюнь пожертвовала местному дому культуры телевизор за 3000 юаней ($ 445) и заработала 30 баллов. Юноши, которые отправились служить в армию, получили по 10 баллов. Ян Цююнь считает, что система помогает людям становиться лучше. К тому же жители с высоким рейтингом получают больше риса и растительного масла, а также могут рассчитывать на денежное вознаграждение от сельского комитета. Портреты высокорейтинговых передовиков вешают на местные «доски почета».
В городе Жунчэн рейтинговые баллы начисляются и снимаются компьютерной системой. За донорство крови, волонтерство, сообщения о контрабанде и прочие добрые дела баллы добавляются. За нарушения правил дорожного движения, долги по кредитам, неуплату налогов или алиментов, баллы снимаются.
В зависимости от суммы баллов формируется рейтинг. Горожане получают статус от ААА (много баллов, высокий рейтинг) до D (мало баллов, низкий рейтинг). «А-жители» имеют привилегии в виде бесплатных медосмотров, скидки в 300 юаней ($ 44) на оплату отопления, 30 кубометров бесплатной воды в год и льготы по кредитам.
«D-жителям» могут отказать в государственных субсидиях, в приеме на работу или в выдаче кредита. На получение госдолжности могут рассчитывать только «А-горожане», а в охранники берут начиная с В-статуса.
К 2020 году в КНР планируют создать централизованную систему, которая в режиме реального времени будет измерять рейтинг каждого жителя страны.
По словам Полины Рысаковой, недавно в Китае появилось мобильное приложение, с помощью которого сознательные граждане будут доносить на несознательных.
– В приложении будут размещаться фотографии тех, кто не платит налоги, алименты или кредиты. Если должника кто-то заметит в дорогом магазине покупающим дорогие вещи, то его нужно сфотографировать и направить фото через приложение в систему. За это отправитель получит баллы к рейтингу, – говорит китаевед.
Рейтинг повышается, если человек покупает в магазинах детские подгузники и не покупает алкоголь. Если смотрит нравственные фильмы и не смотрит порнопродукцию. Если на своих страницах в соцсетях публикует посты патриотического содержания и не дружит с неблагонадежными блогерами.
Тем, у кого плохой рейтинг благонадежности, могут отказать в выезде за рубеж. Также низкорейтинговым гражданам запрещено передвигаться на скоростных поездах и самолетах. В 2018 году из-за низкой благонадежности не смогли воспользоваться самолетом более 9 млн китайцев, а скоростным поездом – 3 миллиона китайцев.
Решения нейросети неоспоримы
В КНР отношение к Системе социального рейтинга, по словам Полины Рысаковой, в целом положительное. Большинство китайцев поддерживают идею, так как считают, что государство – не враг, а наоборот, заботится о каждом гражданине.
– В Китае дискуссии о правах человека, в принципе, нет. Вопросы о защите персональных данных не обсуждаются. Внедрение системы стало возможным в том числе и потому, что она воспроизводит типичные для китайского общества системы самонаблюдения. Традиционно общество было разбито на микроячейки, в которых люди наблюдали друг за другом и регулировали поведение друг друга. Сейчас происходит, по сути, то же самое, но в электронном виде, – говорит Полина Рысакова.
Пока SCS довольно часто дает осечки: наказывает невиновных, поощряет непричастных. У граждан пока нет возможности оспорить решения умной нейросети. В Китае стал широко известен случай, когда китаянке приходили огромные штрафы за неправильный переход улицы. Хотя ничего такого она не совершала. Оказалось, что система слежения приняла портреты женщины, наклеенные на автобусах, за ее саму. Женщина – актриса, снимавшаяся в рекламе.
В большинстве развитых стран китайскую систему рейтингования граждан осуждают как нарушающую права человека. Однако некоторые государства – например, Канада, Сингапур, Люксембург – дают китайцам с рейтингом выше 750 баллов визу по упрощенной схеме.
SCS уже в России
Возможно ли внедрение китайского опыта социальных рейтингов в России? Эксперты считают, что пока это утопия. По мнению доцента НИУ ВШЭ в Петербурге Елены Кудрявцевой, в масштабах государства такой опыт вряд ли получится внедрить.
– В частных компаниях давно рейтингуют и клиентов, и сотрудников, и даже отслеживают поведенческие модели. Вполне вероятно, что и вся страна движется в этом направлении, но реализовать проект в масштабах страны – невозможно. Во-первых, из-за слабой технической базы, во-вторых – из-за коррупции. Систем слежения навесить можно, но что они будут отслеживать, и главное – кто и как будет этим пользоваться? У нас даже когда ЧП происходят, по камерам слежения ничего не могут разобрать. Нужна система и технически и по-человечески безупречная. А у нас же чуть что случилось – особенно когда речь о громких делах, – что говорят?«Ой, камера была на ремонте! Ой, она работала, но файл куда-то исчез». Локальные задачи системы слежения могут выполнять. Например, камеры на дорогах фиксируют нарушения скорости. Но интеграция всех систем сопряжена с очень многими проблемами, – считает Елена Кудрявцева.
По мнению Полины Рысаковой, публичное внедрение китайской SCS в России встретит протесты со стороны локальной политической культуры.
– Но мы не знаем: возможно, за нашей спиной это уже делает государство, – предполагает она.
Решения, которые публично озвучиваются в правительстве РФ, заставляют сомневаться в том, что в России «опыт Китая» так уж невозможен. Похоже, что SCS уже здесь. Замминстроя Андрей Чибис привлек китайские корпорации во всероссийский проект «Умный город». Не публично, а через компанию «Ростелеком», которая заключила договор о долгосрочном сотрудничестве с корпорацией Huawei. Huawei будет помогать внедрять «на территории России инновационные продукты в отрасли информационных технологий и телекоммуникаций».
Ранее Huawei приняла участие в реализации проекта в Петербурге «Безопасный город», являющимся частью «Умного города».
В конце февраля концерн «Калашников» заявил, что готов адаптировать и внедрить во всероссийский «Умный город» систему распознавания поведения человека, которая используется спецслужбами. Например, по реакциям, походке, взглядам система может определить, вооружен ли человек, не замышляет ли чего дурного.
В феврале этого года Департамент информационных технологий Москвы заказал для столичных полицейских очки дополненной реальности с технологией распознавания лиц (такие очки есть у полицейских в Китае). Китайские корпорации приняли участие в создании столичной системы интеллектуального распознавания лиц.
В конце прошлого года зампред правительства РФ Максим Акимов заявил, что никаких проектов, основанных на оценке поведения граждан, в правительстве «на сегодняшний день нет».
– Правительство России сейчас не обсуждает вопрос создания системы социального рейтинга, – добавил он.
Опыт новейшей истории России показывает, что если чиновник публично заявил, что в стране чего-то не произойдет, значит, именно к этому народу и нужно готовиться.
Елена Роткевич
