Китайская антиутопическая разработка искусственного интеллекта включает в себя контроль населения

С момента его создания люди беспокоились, что искусственный интеллект обернется против человечества и угрожает нашей жизни. Хотя этого можно опасаться через несколько лет в будущем, сейчас более серьезная опасность представляет собой ИИ, используемый для угнетения миллионов людей и усиления угрозы контролирующего режима.

Находясь дома в условиях карантина по пандемии, мы с дочерью пересматривали Человек Проценты на Netflix.

По сути, предыдущий сетевой сериал рассказывает о человеке, который создал почти всеведущий искусственный интеллект, который наблюдает за каждым через сети камер, компьютеров и смартфонов. Каждую неделю наша команда героев, собранная создателем ИИ, пытается помочь человеку, которого ИИ определил как вероятную жертву убийства. Поскольку этот ИИ был изобретен главным героем шоу, он демонстрирует сочувствие и ценит человеческую жизнь.

Однако в третьем сезоне второй ИИ работает от имени правительства, и этот ИИ не ценит человеческую жизнь. Он работает по приказу и на благо теневой корпорации, которая начинает организовывать жизнь людей для своих собственных целей, включая убийство людей, которые не вписываются в ее программу. Это страшно.

Это шоу - хорошее телевидение, и я рекомендую его всем, кто регулярно читает этот блог и поэтому интересуется тем, как технологии могут повлиять на нашу жизнь. Человек Проценты может также познакомить вас с тем, что сейчас происходит в самой густонаселенной стране мира.

У меня есть письменный очень недавно на видеонаблюдение и распознавание лиц в США, но американская полиция ограничена конституционными требованиями и легко может быть rулес применен к новым технологиям, которые ограничат возможности правительства использовать их без разбора. США также могут похвастаться защитой прав людей на собрания и протесты, правительством, которое можно регулярно менять, и судебной системой, которая в целом защищает эти права. Независимая пресса освещает поведение правительства, которое считается нарушением этих прав.

Так что подумайте о стране без какой-либо из этих сдержек и противовесов, без индивидуальных прав, гарантированных законом, без свободной прессы, без независимо действующей судебной системы и без однопартийной диктатуры, обладающей всей властью. А теперь подумайте, что произойдет, если вы предоставите этой стране неограниченное электронное и физическое наблюдение - от сотен миллионов камер до дронов, чтобы фиксировать весь телефонный, текстовый и интернет-трафик, включая поисковые запросы и социальные сети. Затем придайте этому обществу все возрастающую изощренность в искусственном интеллекте, чтобы управлять потоком информации и придать смысл всем актам, которые он фиксирует, даже объедините полное представление о поведении человека в счет, который определяет все важные аспекты жизни человека. Получите хорошую оценку от правительства, и вы получите желаемую квартиру или разрешение на рождение ребенка. Плохая оценка означает препятствия в вашей жизни. Это то, чем быстро становится Китай.

Китай не только создает общество наблюдения, включая систему социальной оценки для каждого жителя, но и вкладывает значительные средства в искусственный интеллект, необходимый для управления всем этим и оценки того, что захватывают камеры, биометрические считыватели и интернет-фильтры. В соответствии с Военные оценки США, Китай потратит 70 миллиардов долларов из государственных средств на разработку ИИ в 2020 году по сравнению с 17 миллиардами долларов в 2017 году. Необоронные расходы США на ИИ в этом году составят около один миллиард долларов.

Китай не только строит правительственные лаборатории для разработки следующих нескольких поколений ИИ, но и тесная координация правительства с такими компаниями, как Huawei и Alibaba, также обеспечивает государству наблюдения ведущие частные коммерческие исследования. Все это обеспечивается за счет сверхмассивных объемов данных, производимых крупнейшим в мире государством наблюдения, поскольку огромные наборы данных являются строительными блоками эффективного ИИ. Китай, как The Economist недавно заметил, Саудовская Аравия данных.

Другая рекомендация, которую я сделаю в этой колонке, - это прочитать статью Росс Андерсон в The Atlantic под названием Паноптикум уже здесь, который объясняет, как слежка, ИИ, социальная оценка, однопартийное государство и политическое угнетение объединяются в Китае, чтобы создать первую всезнающую социальную систему и экспортировать ее в другие страны. Андерсон сообщает, что сейчас вся система проходит испытания в «тюрьме под открытым небом» в провинции Синьцзян, где уйгуры-мусульмане находятся под наблюдением каждую минуту их жизни.

Андерсон пишет о президенте Китая, партийном лидере и эффективном диктаторе Си Цзиньпине: «С помощью ИИ Си может построить самый деспотичный авторитарный аппарат в истории, без людских ресурсов, необходимых Мао для хранения информации о несогласии, поступающей в единый централизованный узел. В самых известных китайских стартапах в области искусственного интеллекта - SenseTime, CloudWalk, Megvii, Hikvision, iFlytek, Meiya Pico - Си нашел готовых коммерческих партнеров. И в мусульманском меньшинстве Синьцзяна он нашел свою тестовую популяцию ».

Более миллиона уйгуров были заключены в тюрьмы, а это больше политических заключенных, чем когда-либо со времен нацистских концлагерей. Джон Оливер обсуждается жизнь в этих тюрьмах и лагерях перевоспитания в его шоу на этой неделе. Но уйгуры, все еще живущие в провинции Синьцзян, подвергаются контрольно-пропускным пунктам, постоянному видеонаблюдению и другому наблюдению, а также введению ханьских «старших братьев и сестер» китайцев для наблюдения за принудительной ассимиляцией в коммунистическую культуру. По словам Андерсона, «На этих проверках полиция извлекает все данные из тел уйгуров. Они измеряют рост и берут образец крови. Они записывают голоса и берут мазки ДНК ».

И этот полигон для наблюдения и политического соответствия можно легко экспортировать в остальную часть страны. Андерсон отмечает: «Как только Си усовершенствует эту систему в Синьцзяне, никакие технологические ограничения не помешают ему распространить слежку с ИИ по всему Китаю. Он также мог экспортировать его за пределы страны, укрепляя власть целого поколения автократов ».

Инвестиции в AI управляют всем процессом. В Атлантика В статье говорится: «Большая часть видеоматериалов, собранных камерами Китая, анализируется алгоритмами на предмет угроз безопасности того или иного типа. В ближайшем будущем каждого человека, который входит в общественное пространство, можно будет мгновенно идентифицировать с помощью ИИ, сопоставив его с океаном личных данных, включая каждое их текстовое общение и уникальную схему построения белков в их организме. Со временем алгоритмы смогут объединить точки данных из широкого диапазона источников - записи о поездках, друзей и знакомых, читательские привычки, покупки - для прогнозирования политического сопротивления до того, как оно произойдет. Правительство Китая вскоре сможет установить беспрецедентную политическую хватку более чем на 1 миллиард человек ».

Итак, новые инструменты наблюдения, такие как робот наблюдение за птицами дроныдостаточно хороши, чтобы заставить других птиц летать с ними, уже внедряются в Китае, чтобы передавать больше данных о поведении людей в государственный ИИ. Как заявил  C / NET, «Китай также нанимает распознавания лиц, искусственный интеллект, умные очки и другие технологии для наблюдения за 1.4 миллиардами граждан с целью дать каждому из них за один день личный счет в зависимости от того, как они себя ведут ».

Представьте себе кредитный рейтинг, который вместо простого измерения финансового поведения и возможностей измеряет все аспекты вашей жизни и взаимодействия с обществом. А затем представьте, что ваша оценка может определить, какую квартиру вам разрешено иметь - или разрешит ли вам правительство вообще жить в ней. То же верно и в отношении вашей работы, возможностей получения образования, репродукции и других основных аспектов вашей жизни. Это социальный рейтинг Китая. Как указано в Проводной ВеликобританииХотя часть нынешней системы является добровольной, существуют стимулы за участие и штрафы за неучастие.

Наконец, что, возможно, наиболее пугающе, Китай использует свое экономическое влияние и частную промышленность для экспорта технологий контроля над населением диктаторам по всему миру. Андерсон отмечает: «Китай уже разрабатывает новые мощные инструменты наблюдения и экспортирует их в десятки существующих и потенциальных автократий мира. В течение следующих нескольких лет эти технологии будут усовершенствованы и интегрированы во всеохватывающие системы наблюдения, которые диктаторы смогут подключать и играть ».

Прочитайте полную историю здесь…