Эксперты: единственная защита от убийцы ИИ не развивает ее

Недавний анализ будущего войны показывает, что страны, которые продолжают разрабатывать ИИ для военного использования, рискуют потерять контроль над полем битвы. Те, которые не рискуют уничтожить. Будь вы за или против гонки вооружений ИИ: это происходит. Вот что это значит, по мнению трио экспертов.

Исследователи из ASRC Federal, частная компания, которая оказывает поддержку разведывательным и оборонным сообществам, а Университет Мэриленда недавно опубликовал статью о сервере предварительной печати ArXivобсуждение потенциальных последствий интеграции систем искусственного интеллекта в современную войну.

Бумага - прочитайте здесь - фокусируется на ближайших последствиях гонки вооружений ИИ в предположении, что ИИ будет не так или иначе, разозлиться или поглотить. По сути, это короткий, трезвый и пугающий взгляд на то, как будут развиваться все эти различные технологии машинного обучения на основе анализа современных передовых технологий военного ИИ и прогнозируемой интеграции в масштабе.

Статья начинается с предупреждения о надвигающейся катастрофе, объясняющей, что почти наверняка произойдет «нормальная авария» в отношении ИИ - ожидаемый инцидент природы и масштабов, которые мы не можем предсказать. По сути, военные всего мира разбьют несколько гражданских яиц, сделав омлет гонки ИИ:

Исследование этой области началось с таких аварий, как Три-Майл-Айленд, но технологии искусственного интеллекта сопряжены с аналогичными рисками. Обнаружение и использование этих слабых мест для побуждения к некорректному поведению станет постоянной чертой военной стратегии.

Если вы думаете, что роботы-убийцы бросают его в наших городах, в то время как мирные жители кричат ​​о убежище, вы не ошибаетесь, но роботы как прокси для солдат - не самая большая проблема человечества, когда дело доходит до войны с ИИ. В этой статье обсуждается, что происходит после того, как мы достигаем точки, когда становится очевидным, что люди удерживают машины в войне.

По словам исследователей, проблема не та, которую мы можем назвать добром и злом. Конечно, легко сказать, что мы не должны позволять роботам убивать людей с автономией, но это не то, как будет работать процесс принятия решений в будущем.

Исследователи описывают это как скользкий склон:

Если системы искусственного интеллекта эффективны, давление на повышение уровня помощи военному истребителю было бы неизбежным. Непрерывный успех будет означать постепенное выталкивание человека из цикла, сначала на руководящую роль, а затем, наконец, на роль «оператора убийцы», следящего за постоянно действующими ЗАКОНАМИ.

LAWS, или смертоносные автономные системы оружия, почти сразу вырастут за пределы способности людей работать с компьютерами и машинами - и, вероятно, раньше, чем думает большинство людей. К примеру, рукопашный бой между машинами по необходимости будет полностью автономным:

Со временем, когда ИИ станет более способным к рефлексивному и интегративному мышлению, человеческий компонент придется полностью исключить, так как скорость и размерность станут непостижимыми, даже с учетом когнитивной помощи.

И, в конце концов, тактика и отзывчивость, необходимые для обмена ударами с ИИ, будут совершенно недоступны людям:

Учитывая, что пространство сражений настолько подавляющее, что люди не могут вручную взаимодействовать с системой, человеческая роль будет ограничена последующим криминалистическим анализом после прекращения военных действий или подписания договоров.

Если это звучит немного мрачно, это потому, что это так. Как Импорт ИИ Джек Кларк отмечает: «Это краткий документ, в котором излагаются проблемы AI + War от сообщества, о котором мы не часто слышим: люди, которые работают в качестве прямых поставщиков правительственных технологий».

Может быть, в общих интересах уделять пристальное внимание тому, как академики и правительство продолжают определять проблему в будущем.

Прочитайте полную историю здесь…