Быстро развивающаяся гонка вооружений ИИ для создания автономных машин для убийства - это безумие технократов на пике. По мнению технократа, каждая проблема имеет научное решение; так почему бы не позволить вооруженному и смертельному роботу ИИ выполнять всю работу человеческих солдат? ⁃ TN Editor
Когда дело доходит до принятия решения убить человека во время войны, должен ли механизм принимать это решение или другой человек?
Вопрос моральный, выдвинутый на передний план методами и стимулами современных технологий. Это вопрос, сфера действия которого прямо подпадает под покровительство международного права, и вопрос, который нации обсуждали годами. Тем не менее, это также проблема коллективных действий, которая требует, чтобы не только государства, но и компании и работники компаний пришли к соглашению, чтобы отказаться от ощутимого преимущества. Опасность заключается не столько в создании оружия, сколько в создании оружия, которое может выбирать цели независимо от человека, ответственного за его начало.
В майском отчете 8 Пакса - некоммерческой организации с явной целью защиты гражданских лиц от насилия, сокращения вооруженных конфликтов и построения справедливого мира - авторы рассматривают существующее состояние искусственного интеллекта в области вооружений и призывают страны, компании и работников думать о том, как предотвратить гонку вооружений ИИ, а не думать о том, как ее победить. В докладе предупреждается, что без корректирующих действий статус-кво может привести всех участников к безвыходной ситуации с любым преимуществом, полученным от разработки автономного оружия, временным и ограниченным.
«Мы видим эту новую гонку вооружений ИИ и думаем, что если ничего не произойдет, то это является серьезной угрозой человечеству», - сказал один из авторов на Фрэнке Слайпере. доклад, «Есть возможность остановить гонку вооружений ИИ. Государства должны попытаться предотвратить гонку вооружений ИИ и работать в направлении международного регулирования. Между тем, компании и исследовательские институты сами несут главную ответственность за то, чтобы работа в области искусственного интеллекта и смежных областях не способствовала созданию потенциального смертоносного автономного оружия ».
Отчет написан с особым вниманием к семи ведущим силам ИИ. К ним относятся пять постоянных членов Совета безопасности ООН: Китай, Франция, Россия, Великобритания и США. Кроме того, в докладе подробно рассматриваются исследования искусственного интеллекта Израиля и Южной Кореи, обеих стран, чьи географические и политические позиции способствовали развитию военного искусственного интеллекта.
«Мы определили основных игроков с точки зрения использования ИИ и исследований и разработок в области ИИ и военного использования ИИ для все более автономного оружия. Я не мог думать ни о ком, ни о каком состоянии мы бы пропустили из этих семи », - говорит Слайпер. «Конечно, всегда есть номер восемь и номер девять».
Для каждой охватываемой силы ИИ в отчете рассматривается состояние ИИ, роль ИИ в армии и то, что известно о сотрудничестве между разработчиками ИИ в частном секторе или университетах и вооруженных силах. В таких странах, как Соединенные Штаты, где названы программы военного ИИ, можно указать на руководящую политику и известны дебаты об отношении коммерческого ИИ к военному использованию, в отчете подробно описывается этот процесс. Тщательность исследования используется для того, чтобы подчеркнуть явно активную миссию Пакса, хотя она также предоставляет ценный обзор состояния ИИ в мире.
Как говорится в отчете, эта роль ИИ в вооружении - не просто вопрос для правительств. Это вопрос для людей, отвечающих за компании, и вопрос для работников, создающих ИИ для компаний.
«Во многом это связано с довольно уникальным характером технологии вооружения с использованием ИИ», - говорит Слайджер. «Традиционно многие компании, которые сейчас работают над ИИ, работали над этим с чисто гражданской точки зрения, чтобы делать добро и помогать человечеству. Эти компании традиционно не были военными производителями или доминирующими поставщиками для военных. Если вы работаете в оружейной компании, вы знаете, на что работаете ».
В Соединенных Штатах было выражено сопротивление участию в контрактах Пентагона со стороны рабочих в техническом секторе. После протеста работника Google, узнав о приверженности компании к Проект Maven, который разработал ИИ обработки дронов для военных, руководство компании согласилось завершить проект. (Project Maven теперь управляется Питер Тиль при поддержке Андруила.)
Microsoft тоже опытная сопротивление рабочих к военному использованию его инструмента дополненной реальности HoloLens, когда некоторые работники написали письмо, в котором говорилось, что в руках Пентагона сенсоры и обработка гарнитуры сделали его опасно близким к компоненту оружия. Рабочие особо отметили, что они построил HoloLens «Чтобы помочь людям научиться выполнять операции или играть на пианино, раздвинуть границы игры и установить связь с марсоходом», и все это далеко от помощи военным в идентификации угроз при патрулировании.
«И я думаю, что для многих людей, работающих в технологическом секторе, весьма тревожно то, что, хотя изначально эта компания в основном или только работала над гражданским применением этой технологии, сейчас все больше и больше они видят, что эти технологии также используются в военных целях. проекты или даже смертоносное оружие », - сказал Слайпер.
Слайпер указывает на Протокол о слепом оружии как способ, которым международное сообщество регулирует технологию, применяемую как в гражданских, так и в военных целях, для обеспечения того, чтобы ее применение соответствовало военным законам.
Ну, ага. По крайней мере, сотрудники получили отпор после того, как подтвердили, что их используют. Но на самом деле подумайте об этом. Вы работаете над компонентами искусственного интеллекта для известных контролируемых государством и финансируемых организаций и не думаете, что основной целью является превращение этой технологии в оружие для военной машины? ПРОБУЖДЕНИЕ, ДЕТИ! Они не раздают финансирование, потому что они милые. Вся история государственного / военного / разведывательного комплекса и того, что они финансируют, замалчивается и забывается теми, кто не хочет видеть.
wpDiscuz
Ну, ага. По крайней мере, сотрудники получили отпор после того, как подтвердили, что их используют. Но на самом деле подумайте об этом. Вы работаете над компонентами искусственного интеллекта для известных контролируемых государством и финансируемых организаций и не думаете, что основной целью является превращение этой технологии в оружие для военной машины? ПРОБУЖДЕНИЕ, ДЕТИ! Они не раздают финансирование, потому что они милые. Вся история государственного / военного / разведывательного комплекса и того, что они финансируют, замалчивается и забывается теми, кто не хочет видеть.