Джинн уже вышел из бутылки, но продвинутые исследователи ИИ сейчас очень обеспокоены тем, как их творения будут использоваться в автономной войне. ИИ близок к самовоспроизводящемуся, а это означает, что мошеннические приложения, стремящиеся убивать людей, могут размножаться, пока человечество не исчезнет. ⁃ Редактор TN
Тысячи ученых, которые специализируются на искусственном интеллекте (ИИ), заявили, что они не будут участвовать в разработке или производстве роботов, которые могут идентифицировать и атаковать людей без человеческого надзора.
Демис Хассабис из Google DeepMind и Элон Маск из американской ракетной компании SpaceX входят в число более чем 2,400 подписавшие залог которая намеревается удержать военные фирмы и страны от создания смертоносных автономных систем оружия, также известных как законы.
Этот шаг является последним из заинтересованных ученых и организаций, чтобы подчеркнуть опасность передачи решений о жизни и смерти машинам с улучшенным ИИ. Следует призывам к упреждающий запрет о технологиях, которые, по мнению участников кампании, могут открыть новое поколение оружия массового уничтожения.
Организованный базирующейся в Бостоне организацией The Future of Life Institute, данное обязательство призывает правительства согласовать нормы, законы и правила, которые стигматизируют и эффективно запрещают разработку роботов-убийц. В отсутствие таких мер сегодня подписавшиеся обязуются «не участвовать и не поддерживать разработку, производство, торговлю или использование смертоносного автономного оружия». Более чем фирмы и организации, связанные с 150 AI, добавили свои названия к обещанию Объявлено сегодня на Международной совместной конференции по искусственному интеллекту в Стокгольме.
Йошуа Бенжио, пионер ИИ в Монреальском институте алгоритмов обучения, сказал Guardian, что, если обещание может позорить те компании и военные организации, которые создают автономное оружие, общественное мнение будет против них. «Этот подход действительно работал для наземных мин, благодаря международным договорам и публичному позору, хотя такие крупные страны, как США, не подписали договор о запрещении наземных мин. Американские компании прекратили строительство наземных мин », - сказал он. Бенжио подписал обязательство озвучить свою «серьезную озабоченность по поводу смертоносного автономного оружия».
Военные являются одним из крупнейших спонсоров и последователей технологии искусственного интеллекта. С помощью современных компьютерных систем роботы могут выполнять миссии на враждебной местности, перемещаться по земле и патрулировать в морях. Более сложные системы оружия находятся в стадии разработки. В понедельник министр обороны Гэвин Уильямсон обнародовал план в размере £ 2bn новый истребитель RAFБуря, которая сможет летать без пилота.
Министры Великобритании заявили, что Великобритания не разрабатывает смертоносные автономные системы оружия и что ее войска всегда будут контролировать и контролировать оружие, которое она развертывает. Но участники кампании предупреждают, что быстрое продвижение в области ИИ и других областях означает, что теперь возможно создавать сложное оружие, которое может идентифицировать, отслеживать и стрелять по человеческим целям без согласия человека-контролера. Для многих исследователей принятие решений о том, кто живет и умирает, пересекает моральную линию.
«Мы должны сделать международную норму, что автономное оружие неприемлемо. Человек всегда должен быть в курсе событий », - сказал Тоби Уолш, профессор искусственного интеллекта в Университете Нового Южного Уэльса в Сиднее, подписавший обязательство
wpDiscuz
дети, основанные на реальной истории о реальных детях, которые изменили мир