Всемирный экономический форум думает о роботах-убийцах, которых технократы поставят к их ногам: будут ли они использовать их или отвергать? ⁃ TN Editor
Новые технологии могут заставить людей отказаться от контроля над решениями о применении смертоносной силы. По мере развития искусственного интеллекта вероятность того, что машины смогут самостоятельно выбирать и стрелять по целям, быстро приближается, Полностью автономное оружие, также известное как «роботы-убийцы», быстро перемещается из области научной фантастики в реальность.
Это оружие, которое может действовать на суше, в воздухе или на море, угрожающе угрожает революционизировать вооруженные конфликты и правоохранительные органы. Сторонники говорят, что эти роботы-убийцы необходимы потому что современные боевые действия движутся так быстро, и потому, что бои ведут роботы, уберегут солдат и полицейских от опасности. Но угрозы человечеству перевесят любые военные или правоохранительные выгоды.
Удаление людей из решения о нацеливании создаст опасный мир. Машины будут определять жизнь и смерть вне человеческого контроля. Риск непропорционального вреда или ошибочного нападения на гражданских лиц увеличится. Никто не может быть привлечен к ответственности.
Учитывая моральные, юридические и подотчетные риски полностью автономного оружия, предотвращая его разработку, производство и использование не может ждать. Лучший способ справиться с этой угрозой - международный юридически обязательный запрет на оружие, которое лишено значимого человеческого контроля.
Сохранение контроля над оружием со стороны человека является нравственным императивом, Поскольку они обладают сочувствием, люди могут чувствовать эмоциональный вес причинения вреда другому человеку. Их уважение к человеческому достоинству может и должно служить проверкой убийства.
Роботам, напротив, не хватает настоящих эмоций, в том числе сострадания. Кроме того, неодушевленные машины не могли по-настоящему понять ценность любой человеческой жизни, которую они выбрали. Разрешение им определять, когда применять силу, подорвало бы человеческое достоинство.
Контроль над людьми также способствует соблюдению международного права, которое призвано защищать как гражданских лиц, так и солдат. Например, законы войны запретить непропорциональные атаки в котором ожидаемый ущерб от гражданского населения перевешивает ожидаемое военное преимущество. Люди могут применять свои суждения, основываясь на прошлом опыте и моральных соображениях, и принимать индивидуальные решения о соразмерности.
wpDiscuz