Военные создают системы вооружения с искусственным интеллектом, которые будут `` готовы на бойню ''

Видео просто потрясающее. Двое угрожающих мужчин стоят рядом с белым фургоном в поле с пультами дистанционного управления. Они открывают задние двери фургона, и воющий звук дронов квадрокоптера крещендо. Они щелкают выключателем, и дроны вылетают, как летучие мыши из пещеры. Через несколько секунд мы переходим к классу колледжа. Роботы-убийцы проникают внутрь через окна и вентиляционные отверстия. Студенты кричат ​​от ужаса, оказавшись в ловушке внутри, когда дроны атакуют со смертельной силой. Урок, что фильм, Slaughterbots, Ясно: крошечные роботы-убийцы либо здесь, либо в небольшом технологическом прогрессе. Террористы легко могли их развернуть. А существующие защиты слабы или отсутствуют.

Некоторые военные эксперты утверждали, что Slaughterbots, созданный Институтом будущего жизни, исследовательской организацией экзистенциальные угрозы человечеству - сенсация серьезной проблемы, разжигающая страх там, где требовалось спокойное размышление. Но когда дело доходит до войны будущего, граница между научной фантастикой и промышленными фактами часто размыта. Военно-воздушные силы США предсказали будущее, в котором «группы спецназа будут посылать механических насекомых, оснащенных видеокамерами, чтобы они заползли внутрь здания во время противостояния с заложниками». Одно из совместных предприятий микросистем уже выпустило Octoroach, «чрезвычайно маленького робота с камерой и радиопередатчиком, который может покрывать до 100 метров на земле». Это только один из многих «биомиметический», Или оружие, имитирующее природу, появившееся на горизонте.

Кто знает, сколько других ядовитых существ теперь являются моделями для авангардных военных теоретиков. Недавний роман П. У. Сингера и Августа Коула, действие которого происходит в недалеком будущем, когда США находятся в состоянии войны с Китаем и Россией, представляет калейдоскопическое видение автономных дронов, лазеров и захваченных спутников. Книгу нельзя считать военно-техническим фэнтези: она включает сотни сносок, документирующих развитие каждого описываемого оборудования и программного обеспечения.

Не менее тревожны достижения в области моделирования роботов-машин для убийства. В русской фантастической сказке 60-х годов «Крабы на острове» описываются своего рода голодные игры для ИИ, в которых роботы сражаются друг с другом за ресурсы. Проигравшие будут отброшены, а победители будут появляться, пока некоторые из них не станут лучшими машинами для убийства. Когда ведущий компьютерный ученый Агентство перспективных оборонных исследовательских проектов США (Darpa) упомянуло аналогичный сценарий, назвав его «парком юрского периода для роботов», а один из руководителей назвал его «осуществимым». Не требуется много размышлений, чтобы понять, что такой эксперимент может выйти из-под контроля. Расходы - это главное препятствие для экспериментов с такими потенциально разрушительными машинами. Программное моделирование может устранить даже этот барьер, позволяя проводить виртуальные испытания в боевых условиях, чтобы стимулировать будущие военные инвестиции.

В прошлом национальные государства объединились, чтобы запретить особенно ужасное или устрашающее новое оружие. К середине 20-го века международные конвенции запретили биологическое и химическое оружие. Сообщество наций запретило использование ослепляющая лазерная технология, тоже. Сильная сеть НПО успешно призвала ООН собрать государства-члены для согласия на аналогичный запрет на роботов-убийц и другое оружие, которое может действовать самостоятельно, без прямого контроля человека, для уничтожения цели (также известной как летальные автономные системы оружия. , или Законы). И хотя по поводу определения такой технологии ведутся споры, мы все можем представить себе некоторые особенно ужасающие виды оружия, которые все государства должны соглашаться никогда не производить и не развертывать. Дрон, который постепенно нагревают вражеских солдат до смерти нарушит международные конвенции против пыток; звуковое оружие, предназначенное для нарушения слуха или равновесия противника, заслуживает аналогичного обращения. Страна, разработавшая и применившая такое оружие, должна быть изгнана из международного сообщества.

Говоря абстрактно, мы, вероятно, можем согласиться с тем, что остракизм - и более суровое наказание - также заслуживают разработчиков и пользователей роботов-убийц. Сама идея машины, брошенной на бойню, пугает. И все же некоторые из крупнейших вооруженных сил мира, похоже, ползут к разработке такого оружия, следуя логике сдерживания: они опасаются, что их сокрушит ИИ соперников, если они не смогут высвободить столь же мощную силу. Ключ к решению такой непреодолимой гонки вооружений может лежать не столько в глобальных договорах, сколько в осторожном переосмыслении того, для чего может использоваться боевой ИИ. Как "война возвращается домой”, Развертывание сил военного уровня в таких странах, как США и Китай, является строгим предупреждением для их граждан: какие бы технологии контроля и разрушения вы ни позволили своему правительству покупать для использования за границей сейчас, вполне могут быть использованы против вас в будущем.

Прочитайте полную историю здесь…