Атлантика: почему технология способствует тирании

I. Растущий страх неуместности

Ничего нет неизбежно о демократии. Несмотря на все успехи, достигнутые демократиями за прошедшее столетие или более, они являются историческими ошибками. Монархии, олигархии и другие формы авторитарного правления были гораздо более распространенными способами управления людьми.

Появление либеральных демократий связано с идеалами свободы и равенства, которые могут показаться очевидными и необратимыми. Но эти идеалы гораздо более хрупкие, чем мы думаем. Их успех в 20-м веке зависел от уникальных технологических условий, которые могут оказаться эфемерными.

Во втором десятилетии 21st века либерализм начал терять доверие. Вопросы о способности либеральной демократии обеспечить средний класс стали громче; политика стала более племенной; и во все большем числе стран лидеры проявляют склонность к демагогии и самодержавию. Причины этого политического сдвига сложны, но, похоже, они тесно связаны с современными технологическими разработками. Технология, которая поддерживала демократию, меняется, и по мере развития искусственного интеллекта она может измениться дальше.

Информационные технологии продолжают развиваться; Биотехнология начинает обеспечивать окно в нашу внутреннюю жизнь - наши эмоции, мысли и выбор. Вместе, инфотехнология и биотехнология создадут беспрецедентные потрясения в человеческом обществе, разрушая человеческую свободу действий и, возможно, подрывая человеческие желания. В таких условиях либеральная демократия и экономика свободного рынка могут устареть.

Обычные люди могут не понимать искусственный интеллект и биотехнологию в любых деталях, но они могут чувствовать, что будущее проходит мимо них. В 1938 состояние обычного человека в Советском Союзе, Германии или Соединенных Штатах могло быть мрачным, но ему постоянно говорили, что он - самая важная вещь в мире, и что он - будущее (при условии, конечно, что он был «обычным мужчиной», а не, скажем, евреем или женщиной). Он посмотрел на агитационные плакаты - которые, как правило, изображали шахтеров и сталелитейщиков в героических позах - и увидел себя там: «Я на этом плакате! Я герой будущего! »

В 2018 обычный человек чувствует себя все более и более неактуальным. Множество загадочных терминов взволнованно рассуждают в беседах Теда, в правительственных аналитических центрах и на конференциях по высоким технологиям - глобализация, блокчейн, генная инженерия, искусственный интеллект, машинное обучение - и простые люди, как мужчины, так и женщины, вполне могут заподозрить, что никто из этих терминов о них.

В 20-м веке массы восстали против эксплуатации и стремились превратить свою жизненно важную роль в экономике в политическую власть. Сейчас массы боятся неуместности и безумно используют свою оставшуюся политическую власть, пока не стало слишком поздно. Поэтому Брексит и взлет Дональда Трампа могут продемонстрировать траекторию, противоположную траектории традиционных социалистических революций. Русские, китайские и кубинские революции были сделаны людьми, которые были жизненно важны для экономики, но не имели политической власти; в 2016 Трампа и Брексита поддерживали многие люди, которые все еще обладали политической властью, но боялись, что теряют свою экономическую ценность. Возможно, в 21-м веке восстания популистов будут организованы не против экономической элиты, которая эксплуатирует людей, а против экономической элиты, которая в них больше не нуждается. Это вполне может быть проигрышной битвой. Гораздо сложнее бороться с неуместностью, чем с эксплуатацией.

Революции в области информационных технологий и биотехнологий все еще находятся в зачаточном состоянии, и степень их ответственности за нынешний кризис либерализма является дискуссионной. Большинство людей в Бирмингеме, Стамбуле, Санкт-Петербурге и Мумбаи лишь смутно осознают, если они вообще знают, о росте ИИ и его потенциальном влиянии на их жизнь. Несомненно, однако, что технологические революции, набирающие силу сейчас, в ближайшие несколько десятилетий столкнут человечество с самыми трудными испытаниями, с которыми оно еще сталкивалось.

II. Новый бесполезный класс?

Давайте начнем с рабочих мест и доходов, потому что, независимо от философской привлекательности либеральной демократии, она набрала силу в немалой степени благодаря практическому преимуществу: децентрализованный подход к принятию решений, характерный для либерализма - как в политике, так и в экономике - позволил либеральным демократиям вытеснить другие штаты и обеспечить растущее благосостояние их народа.

Либерализм примирил пролетариат с буржуазией, верный с атеистами, уроженцы с иммигрантами и европейцы с азиатами, пообещав всем большую часть пирога. С постоянно растущим пирогом это было возможно. И пирог вполне может продолжать расти. Тем не менее, экономический рост может не решить социальные проблемы, которые в настоящее время возникают в результате технологического сбоя, поскольку такой рост все в большей степени зависит от изобретения все более разрушительных технологий.

Страх перед машинами, выталкивающими людей с рынка труда, конечно, не является чем-то новым, и в прошлом такие опасения оказывались необоснованными. Но искусственный интеллект отличается от старых машин. В прошлом машины соревновались с людьми в основном в ручном труде. Теперь они начинают конкурировать с нами в когнитивных навыках. И мы не знаем ни одного третьего вида навыка - помимо учебного и познавательного - в котором люди всегда будут иметь преимущество.

По крайней мере, еще несколько десятилетий человеческий интеллект, вероятно, будет намного превосходить компьютерный интеллект во многих областях. Следовательно, поскольку компьютеры берут на себя больше рутинных познавательных заданий, новые творческие задания для людей будут продолжать появляться. Многие из этих новых рабочих мест, вероятно, будут зависеть от сотрудничества, а не от конкуренции между людьми и ИИ. Команды Human-AI, вероятно, окажутся лучше не только людей, но и компьютеров, работающих самостоятельно.

Тем не менее, большинство новых рабочих мест, вероятно, потребует высокого уровня знаний и изобретательности, и, следовательно, может не дать ответа на проблему безработных неквалифицированных рабочих или работников, работающих по найму только за чрезвычайно низкую заработную плату. Более того, по мере того, как ИИ будет улучшаться, даже работы, требующие высокого интеллекта и творчества, могут постепенно исчезнуть. Мир шахмат служит примером того, куда могут идти дела. В течение нескольких лет после того, как компьютер IBM Deep Blue победил Гарри Каспарова в 1997, шахматисты продолжали процветать; ИИ использовался для обучения вундеркиндов, и команды, состоящие из людей и компьютеров, оказались лучше компьютеров, играющих в одиночку.

...

III. Взлет цифровых диктатур

Aмного людей потерять свою экономическую ценность, они также могут потерять свою политическую власть. Те же технологии, которые могут сделать миллиарды людей экономически несущественными, могут также облегчить их мониторинг и контроль.

ИИ пугает многих людей, потому что они не верят, что они остаются послушными. Научная фантастика делает большую часть вероятности того, что компьютеры или роботы разовьют сознание - и вскоре после этого попытаются убить всех людей. Но нет особой причины полагать, что ИИ будет развивать сознание по мере того, как он станет более интеллектуальным. Вместо этого мы должны бояться ИИ, потому что он, вероятно, всегда будет подчиняться своим человеческим хозяевам и никогда не будет бунтовать. ИИ - это инструмент и оружие, не похожее ни на одно другое, разработанное людьми; это почти наверняка позволит и без того сильным укрепить свою власть дальше.

Прочитайте полную историю здесь…