В конце концов, технологически насыщенные технократы, а не программы создают античеловеческую политику и результаты, которые наносят вред человечеству. Они будут прятаться за ИИ, чтобы избежать ответственности, и все будут думать, что алгоритмы сделали это.⁃ TN Editor
Идея о том, что небольшие группы людей контролируют некоторые из самых мощных видов оружия, которые когда-либо создавались, страшна, но это реальность, в которой мы живем. В не столь отдаленном будущем эту невероятную силу и ответственность можно передать ИИ и роботизированные системы, которые уже находятся в активной разработке. В паре открытых писем премьер-министрам Австралии и Канады сотни исследователей ИИ умоляют, чтобы этого не произошло.
Они говорят, что страх состоит в том, что удаление человеческого элемента из решений о жизни и смерти может привести к разрушительному периоду, который в конечном итоге означает конец человечества. Системы искусственного интеллекта - это, как говорят исследователи, «оружие массового уничтожения», которое должно быть полностью запрещено, прежде чем оно сможет нанести какой-либо серьезный ущерб.
«Передача решений о жизни или смерти машинам пересекает фундаментальную моральную линию - независимо от того, какая сторона их создает или использует», - говорится в письме. объясняет,, «Игра в русскую рулетку с жизнями других людей никогда не может быть оправдана просто на основе эффективности. Это не только фундаментальная проблема прав человека. Решение о запрете или использовании автономного оружия лежит в основе нашего человечества ».
В условиях, когда компьютеры имеют решающее значение в том, участвовать или нет в враждебных действиях - даже под маской защиты своих собственных территорий или защиты населения, которое они запрограммированы для защиты - конфликты могут обостриться гораздо быстрее, чем когда-либо видели люди. Недели, месяцы или даже годы позерства и дипломатии могут превратиться в минуты или даже секунды, когда ракеты летят до того, как люди могут начать вмешиваться. И затем, конечно, есть проблема с ИИ, которой манипулируют непредвиденными способами.
«Это будет оружие массового уничтожения», - говорят ученые. «Один программист сможет управлять целой армией. Запрещено любое другое оружие массового уничтожения: химическое оружие, биологическое оружие, даже ядерное оружие. Мы должны добавить автономное оружие в список оружия, которое морально неприемлемо для использования ».
wpDiscuz