Приближается всеобщее насилие, а мир еще не готов

In Будущее насилия, Бенджамин Виттес и Габриэлла Блюм обсуждают тревожный гипотетический сценарий. Одинокий актер в Нигерии, «являющейся домом для большого количества спама и онлайн-мошенничества», обманывает женщин и девочек-подростков в загрузке вредоносных программ, которые позволяют ему отслеживать и регистрировать их деятельность в целях шантажа.

Реальная история касалась человека из Калифорнии, которого ФБР в конечном итоге поймали и отправили в тюрьму на шесть лет, но если бы он был где-то в мире, он мог бы сойти с рук. Многие страны, как отмечают Виттес и Блум, «не имеют ни воли, ни средств для наблюдения за киберпреступностью, преследования преступников или выдачи подозреваемых в Соединенные Штаты». 

Другими словами, технология позволяет преступникам преследовать кого угодно и где бы то ни было, благодаря демократизации. Новые био-, нано- и кибер-технологии становятся все более доступными. У политолога Дэниела Додни есть слово для того, что может закончиться: «всеядность».

Отношение убийц к убитым, или «отношение К / К», падает. Например, компьютерный ученый Стюарт Рассел имеет ярко описано как небольшая группа злонамеренных агентов может участвовать во всеядности: «Очень, очень маленький квадрокоптер диаметром один дюйм может нести заряд в форме одной или двух граммов», - говорит он. «Вы можете заказать их у производителя дронов в Китае. Вы можете запрограммировать код так: «Вот тысячи фотографий того, на что я хочу ориентироваться». Один грамм кумулятивный заряд можно пробить отверстие в девять миллиметров стали, так что, вероятно, вы также можете пробить дыру в чьей-то голове.

Вы можете разместить около трех миллионов человек в полуприцепе. Вы можете управлять I-95 тремя грузовиками и иметь миллион оружия 10, атакующий Нью-Йорк. Они не должны быть очень эффективными, только 5 или 10% из них должны найти цель ». Производители будут производить миллионы таких дронов, которые можно приобрести так же, как и сейчас с оружием, отмечает Рассел,« за исключением миллионов оружие не имеет значения, если у вас нет миллиона солдат. Чтобы написать программу и запустить ее, нужно всего три человека ». В этом сценарии отношение K / K может быть, возможно, 3 / 1,000,000, при условии точности 10 в процентах и ​​только одного кумулятивного заряда в 1 г на дрон. 

Предупреждение: это видео театрализовано и не произошло!

Это совершенно - и ужасающе - беспрецедентно. У террориста или психопата будущего, однако, будут не только Интернет или дроны - так называемые «бойни» в здесь от Института Будущего Жизни - но также синтетическая биология, нанотехнологии и передовые системы искусственного интеллекта в их распоряжении. Эти инструменты делают хаос в международных границах тривиальным, что ставит вопрос: сделает ли новые технологии государственную систему устаревшей?

Трудно понять, почему нет. Английский философ Томас Гоббс утверждал, что существование государства оправдывает «общественный договор». Люди отказываются от определенных свобод в обмен на обеспеченную государством безопасность, при которой государство выступает в роли нейтрального «рефери», который может вмешиваться, когда люди получают в споры, наказывать людей, которые крадут и убивают, и обеспечивать соблюдение контрактов, подписанных сторонами с конкурирующими интересами. 

Проблема в том, что если кто-либо где-либо может напасть на кого-либо еще, то государства станут - и становятся - неспособными выполнять свои основные обязанности в качестве рефери. Это тенденция к анархии, «войне всех против всех», как выразился Гоббс, иными словами, состояние каждого человека, живущего в постоянном страхе быть причиненным вредом со стороны своих соседей. Действительно, в недавнем бумаги«Гипотеза об уязвимом мире», опубликованная в Глобальная политикаОксфордский философ Ник Бостром утверждает, что единственный способ защититься от глобальной катастрофы - это использовать универсальную и инвазивную систему наблюдения, которую он называет «высокотехнологичным паноптикумом».

Звучит антиутопно? Это действительно относится ко мне. «Создание и эксплуатация высокотехнологичного Panopticon потребует значительных инвестиций, - пишет Бостром, - но благодаря падению цен на камеры, передачу данных, хранение и вычисления, а также быстрому прогрессу в анализе контента с поддержкой AI, он может скоро стать одновременно технологически осуществимым и доступным ». Бостром хорошо осведомлен о недостатках: коррумпированные субъекты в государстве могут использовать это наблюдение для тоталитарных целей, или хакеры могут шантажировать ничего не подозревающих жертв. Тем не менее, факт заключается в том, что это может быть лучшим вариантом, чем страдать от одной глобальной катастрофы за другой. 

Как общества могут контратаковать всеядность? Один стратегия может быть сверхразумной машиной - по сути, чрезвычайно мощным алгоритмом - который специально разработан для справедливого управления. Затем мы могли бы поставить алгоритм под политический контроль и, поскольку он действует как нечто вроде «короля-философа», не беспокоиться постоянно о том, что собранные данные будут неправильно использованы или злоупотреблены. Конечно, это фантастическое предложение. Даже реальное использование ИИ в системе правосудия чревато проблемы, Но на данный момент, у нас есть лучшая идея для предотвращения краха государственной системы под тяжестью широких технологических возможностей?

Прочитайте полную историю здесь…