Технократия Китая использует систему социального кредитования для стимулирования научной диктатуры

Ключевые результаты

• Правительство Китая одобрило пилотное тестирование системы социального кредитования, которая использует личные данные граждан для присвоения неофициальных кредитных баллов, которые сопровождаются льготами и штрафами, которыми управляют частные компании и государственные бюро.
• Пять параметров данных о кредитных рейтингах - это «кредитная история пользователей, поведенческие привычки, способность расплачиваться с долгами, личная информация и социальные сети».
• Алгоритмы, которые получают кредитные оценки, являются коммерческой тайной, запрещающей формы тестирования, которые могут определить, как они работают.
• Правительственные черные списки должников передаются частным и государственным службам кредитного скоринга, чтобы запретить отдельным лицам совершать определенные операции.

Этот пост, второй в серия о мобильных платежных системах исследует функцию китайского мобильного платежного приложения, которая все чаще освещается в зарубежных СМИ: тестирование того, что может однажды стать общенациональной официальной системой социального кредита, которая заменит ее традиционный аналоговый аналог. Наиболее популярные общедоступные социальные кредитные рейтинги в настоящее время выдаются через Sesame Credit, компанию, основанную Ant Financial, дочерней компанией Alibaba. В сообщениях западных СМИ о системе социального кредита описывается феномен, похожий на научную фантастику, когда гражданам присваиваются баллы, основанные на их поведении в Интернете, финансовой информации и правительственных отчетах. Раскрытие информации представителями Ant Financial предполагает, что просмотр веб-страниц поздно ночью, часы, проведенные за видеоиграми, и определенные приобретенные предметы могут снизить результат. Независимо от того, верны ли эти утверждения, механизмы оценки Sesame Credit все еще находятся в экспериментальной фазе и, следовательно, могут быть изменены. Наше исследование потенциальной безопасности, конфиденциальности и других проблем такой системы призвано поднять вопросы, которые могут послужить основой для дискуссий о том, как она будет развиваться.

Уже в 2003 Правительство Китая выразило заинтересованность в создании комплексных средств присвоения кредитных баллов гражданам, что будет улучшением по сравнению с системой кредитных рейтингов страны. Государственный совет недавно утвердил «Краткое изложение правил построения системы социального кредита (2014-2020)» и в настоящее время восемь компаний получили разрешение центрального банка на проведение пилотное тестирование собственных систем социального кредитаСродни потребительским кредитным рейтингам Fair, Isaac and Company (FICO). Частью того, что делает такое усилие уникальным в Китае, является неопределенность, а в некоторых случаях полное отсутствие правил, касающихся сбора больших данных для целей кредитного скоринга, потенциального использования таких баллов третьими лицами и защиты конфиденциальности пользовательских данных, которая учитывает кредитный балл. расчеты. новый закон о кибербезопасности Выпущенный в ноябре 7, 2016 содержит язык, касающийся защиты конфиденциальности, но не будет реализован до июня 2017.

Эта статья касается службы социального кредитования Sesame Credit, которую пользователи Alipay в настоящее время могут выбрать для получения в приложении. Оценки «Сезам Кредит» являются наиболее популярным примером того, как национальная китайская система социального кредитования может когда-нибудь функционировать, и дают представление о том, какие соображения должны учитывать китайские компании, граждане и государство в такой системе. Это один из компонентов более широкого стремления китайского правительства использовать большие данные в качестве ресурса для социального контроля. Кредитные баллы разбиты на пять измерений: «Кредитная история пользователей, поведенческие привычки, способность расплачиваться с долгами, личная информация и социальные сети». Краткие описания каждой из этих категорий включены в функцию «Кунжутные кредиты» Alipay, однако они не проливают свет на то, какие конкретные действия изменил бы счет.

Согласно информации Бумага«Поведенческие предпочтения» относятся к таким действиям, как своевременная оплата счетов, а «личная информация» включает возраст, пол, род занятий и историю образования. Еще большее беспокойство вызывают нечеткие «концепции стабильности», которые, как утверждается, «Сезам Кредит» принимает во внимание, на что представители компании ссылались без четкого определения. По-видимому, это очень субъективные показатели финансового и социального положения, которые способствуют созданию механизма кредитного скоринга. та же статья от Бумага утверждает, что «если ваш адрес часто меняется, ваша кредитоспособность соответственно снизится. Кроме того, кредитные записи ваших друзей также будут влиять на ваши баллы «Сезам». Возможности для искажения фактов, а также дискриминации на основе таких факторов очень широки, и лежащие в их основе стимулы для изменения поведения также имеют значение. Главный научный сотрудник Ant Financial Ю Юйцзе сказал: «Если вы будете регулярно жертвовать на благотворительность, ваш кредитный рейтинг будет выше, но он не скажет вам, сколько платежей вам нужно делать каждый месяц ... но [развитие] в этом направлении [осуществляется с] надеждой, что каждый пожертвует ». Более того, Директор по технологиям Ant Financial, Ли Инюнь, заявил, что «Тот, кто играет в видеоигры по часам 10, например, будет считаться праздным человеком, а тот, кто часто покупает подгузники, будет считаться, вероятно, родителем, у которого на балансе, скорее всего, есть чувство ответственности ». Эти заявления подпитывают осуждающее освещение социальных кредитов в западных СМИ до сих пор, хотя следует отметить, что единственный способ с уверенностью знать, что факторы, на которые ссылаются представители компании, действительно могут повышать или понижать оценки, состоит в деконструкции алгоритмов. которые определяют их, которые были помечены торговые секреты.

Без способности проводить статическое или динамическое тестирование алгоритмов социального кредита, что мы можем сделать вывод о том, как они работают? Дэн Имин, директор по развитию бизнеса Сезам Кредит, сказал, что только от 30 до 40 процентов данных Используется для получения кредитных баллов от компаний и служб, принадлежащих Alibaba. Помимо данных, собранных в результате действий пользователей в приложении Alipay, Sesame Credit вычисляет индивидуальные оценки на основе данных, собранных с сайтов электронной коммерции Alibaba, приложений для обмена информацией о поездках и ресторанов, подключенных к Alipay, и из правительственные бюро с участием закона, образования и торговли. Одним из наиболее ярких примеров такого обмена данными является Связь Сезам Кредита с Верховным народным судом, который, как сообщается, поделился своим черным списком должников и других лиц, которые нарушили судебные решения с компанией, чтобы помешать этим людям совершать так называемые роскошные покупки в Taobao и Tmall. Эта договоренность ставит вопрос о том, передает ли «Сезам Кредит» данные в обратном направлении, возможно, предоставляя своим партнерским правительственным бюро информацию о транзакциях пользователей. Это сотрудничество, как правило, затмевается теми, в которых «Сезам Кредит» работает с частным сектором, чтобы обеспечить преимущества для обладателей высоких баллов.

В настоящее время привилегии иметь высокий социальный кредитный рейтинг могут включать в себя бронирование автомобиля на прокат или номер в отеле без внесения депозита, получение займов по более низким процентным ставкам, отправку покупок в Интернете для опробования перед их оплатой и получение виз. в Люксембург и Сингапур через ускоренный процесс. Другие страны, которые выразили заинтересованность в участии в этом ускоренная выдача виз включают Японию, Южную Корею, Шри-Ланку и Великобританию. Было обсуждено будущее использование высоких кредитных баллов, распространяющееся на сватовство и набор рабочих мест, что подчеркивает степень, в которой предвзятые вклады могут создать новые социальные барьеры.

Представление китайского правительства о системе социальных кредитов рассматривает ее как средство восстановления доверия между гражданами и местными предприятиями, такими как рестораны, которые будут контролироваться на предмет соблюдения санитарных норм. Еще один аргумент в пользу создания системы социального кредитования заключается в том, что она позволит людям, которые традиционно не могут получить кредит, сделать это: студенты, рабочие, владельцы малого бизнеса и тому подобное. Тем не менее, до сих пор кажется, что преимущества наличия высокого балла (о котором было предположено, что на самом деле немногие пользователи достигли) те, которые предпочитают тех, кто находится в лучшем финансовом положении, чтобы делать щедрые и частые расходы. Одна критика заключалась в том, что «Сезам Кредит» повышает оценки людей, которые проводят больше транзакций с Alipay, что компания категорически опровергла. Примеры более высоких оценок для покупок, связанных с людьми, которые являются родителями, и более низкие оценки для людей, которые меняют домашние адреса, часто также указывают на то, что отсутствие контекста может привести к искажению представлений о действиях людей, что может привести к непропорциональным последствиям.

Существует опасность объяснения инициатив больших данных как принятия «объективных» мер пользовательских данных, частично потому, что в случаях, когда индикатор является неточным, становится трудно оспаривать этот момент. Один пример из последний Wall Street Journal гайд включает в себя женщину, которая использовала проездной билет своего сына и была оштрафована за деяние, которое, по алгоритму, казалось бы, было воровством. Этот незначительный инцидент вызывает обеспокоенность в связи с тем, как может быть рассчитан социальный кредитный скоринговый метод, из-за которого он не работает. Какие, если таковые имеются, средства правовой защиты доступны для гораздо более серьезных ошибок в рамках системы социального кредитования?

Состояние текущих экспериментов в этой области поднимает много вопросов о защите пользователей. Что касается конфиденциальности пользователей, мало обсуждается вопрос о том, как сделать оценки людей доступными для других. Alipay предлагает игра, в которой друзья могут угадать кредитные баллы друг друга и раскрывать их друг другу, например. Помимо других пользователей, сторонним компаниям, предоставляющим специальные услуги держателям с высоким кредитным рейтингом, и партнерским правительственным бюро приложения, с которыми третьи стороны будут обмениваться данными «Сезам Кредит»? Централизация механизмов сбора данных для социального кредитования dang'anПодобные досье людей онлайн и оффлайн жизни становятся все более портативными, как отмечалось в нескольких сообщениях СМИ. Какие существуют процедуры безопасности для защиты этих хранилищ ценной личной информации?

По иронии судьбы, от которой страдают многие устройства наблюдения, распространение системы социального кредита и связанных с ней датчиков, QR-кодов и других инструментов для считывания следов может создать новые проблемы безопасности, отличные от тех, которые якобы преследует цель уменьшить с помощью почти повсеместного мониторинга. поведения. Эти новые угрозы включают способы подделки данных кредитных баллов и цели, к которым могут быть использованы поддельные кредитные баллы. ускоренная проверка безопасности в пекинском аэропорту для пассажиров «Сезам Кредит» с достаточно высокими баллами, которые путешествуют на внутренних рейсах, является одним из примеров ситуации, когда фальсифицированный высокий балл может позволить кому-либо обойти более строгие проверки безопасности, которые могут представлять угрозу для национальной безопасности со стороны квалифицированных специалистов. и определился достаточно актер. Чем шире будет использоваться система социального кредитования и чем больше будет вознаграждение, которое она может обеспечить, тем больше будет стимулов для выяснения, как ее взломать. Статьи и темы о том, как повысить свои кредитные баллы, уже на подъеме, и до сих пор неясно, насколько легко можно взломать конкретный аккаунт и подделать информацию.

Как подробно рассказывалось в предыдущем посте, в Alibaba происходили утечки данных от сотрудников компании, а также внешние взломы. Совершенно необходимо задаться вопросом, какие меры предосторожности они принимают, учитывая, что быстрое развитие системы социального кредитования, скорее всего, сделает компании, которые являются ее руководителями, жертвами кражи данных и вымогательства. Более того, по мере того, как в Китае продается множество устройств Интернета вещей (IoT) для сбора данных, детализированные возможности отслеживания каждого шага граждан и извлечения этой информации по мере того, как вклад в социальный кредит будет только расти, и потребуют работы со стороны производителей Интернета вещей для решения этих проблем. Одним из событий, который может сделать компании социального кредитования более прозрачными, стало заявление Национальной комиссии по развитию и реформам о том, что услуги по оценке кредита будут открыты для иностранных инвестиций, который может как минимум предоставить больше информации о том, как проводится оценка социального кредита предприятия (для ресторанов и местных предприятий).

Последней проблемой безопасности и цензуры, которую мы предлагаем рассмотреть, является возможность социального кредита и мобильного финансирования. доступ быть заблокированным, чтобы наказать граждан за акты протеста, как только один пример. Если обе эти услуги станут незаменимыми в повседневной жизни, возможность санкционированного правительством замораживания учетных записей пользователей может нанести серьезный ущерб гражданским свободам. По мере развертывания системы важно помнить, что, хотя алгоритмы, определяющие кредитные баллы, могут быстро измениться так, что пользователи и исследователи не смогут их воспринимать, сила государства и компаний, формирующих развитие системы социального кредитования, гораздо более укоренившийся и в конечном счете ответственный за реальные результаты, которые может дать система социального кредита.

Читать статью полностью…