Джо Аллен: Обратный отсчет до Gigadeath — от гонки вооружений ИИ до войны за артиллерию

Для истинно верующих искусственный интеллект неизбежно станет сверхчеловеческим. Согласно их мифам, мы дрейфуем в безбожном космосе. Так что нам решать создавать цифровых божеств. Или, скорее, их создание зависит от нескольких технических гиков. Остальные из нас могут либо преклонить колени перед их алтарем, либо столкнуться в пропасть.

По мере того как боты врываются в нашу жизнь, напряжение между ними и нами растет. В некоторые дни кажется, что мы мчимся к компьютеризированной расовой войне между зарождающимися киборгами и устаревшими людьми. После слишком долгого экранного времени, пока мои синапсы перестраиваются, чтобы соответствовать поступающим данным, неясно, к какому подвиду я принадлежу.

Для протокола, я больше агностик, чем истинно верующий. Технари дают всевозможные пустые обещания. Они преуспевают в проецировании мистических сил. Тем не менее, мы игнорируем их культурно-техническую революцию на свой страх и риск.

Технологические корпорации обладают реальной силой контроля над информацией. Они буквально масштабно искажают общественное сознание. Что касается военной стороны, у силовиков есть возможность взорвать вас с другой стороны мира. Вы можете насмехаться над тем, что вооруженные силы США создали больше офицеров-трансгендеров, чем солдат-киборгов. Но если вы не можете нацелить свой AR-15 быстрее, чем их дрон сможет отточить, вы хихикаете из-под ботинка. Искусственный интеллект только укрепляет эту точку опоры.

В 2018 году Агентство перспективных исследовательских проектов Министерства обороны США объявленный он «сосредоточивает свои инвестиции на третьей волне ИИ, которая порождает машины, которые могут понимать и рассуждать в контексте». Об этом заявил директор отдела информационных инноваций DARPA Брайан Пирс. дикий энтузиазм об «настоящем симбиозе между Homo sapiens и зарождающейся Machina sapiens».

2021 технический документ Министерство обороны Великобритании утверждает: «Основой будущего военного преимущества станет эффективная интеграция людей, искусственного интеллекта и робототехники в боевые системы — человеко-машинные команды, — которые используют возможности людей и технологий, чтобы превзойти наших противников. ”

Китай имеет аналогичные киборгские амбиции. Ну действуй Россия и НАТО. «За искусственным интеллектом будущее», — заявил Владимир Путин. «Тот, кто станет лидером в этой сфере, станет правителем мира».

Может быть, генералы тратят деньги на гиковскую войну. Может быть, они просто играют с новыми игрушками.

Я бы не стал на это рассчитывать.

Мы уже видим, что узкие ИИ превосходят человеческое распознавание образов в конкретных задачах, для выполнения которых они предназначены — моделирование белков, радиологический анализ, наблюдение за полем боя и обнаружение целей, и это лишь некоторые из них. Например, американский оборонный подрядчик Palantir бесплатно предоставляет Украине свой ИИ. Это главная причина, по которой они так долго сопротивлялись более крупным русским силам.

«Мощь продвинутых алгоритмических систем ведения войны сейчас настолько велика, что она приравнивается к наличию тактического ядерного оружия против противника, обладающего только обычным оружием», — генеральный директор Palantir Алекс Карп. сказал что собой представляет Washington Post. «Общественность склонна недооценивать это. Наши противники больше этого не делают».

В руках элитных хищников вершины эти цифровые инструменты смертельно опасны. Когда лидеры не используют технологии против соперников, они обращают их против своих собственных граждан. Помните, что система распознавания лиц Clearview AI включен полицейские разыскивают протестующих 6 января.

Технология — это сила. Всегда был.

Однако не все встревожены. Сомневающиеся насмехаются над понятием «интеллектуальных» машин. «ИИ не существует», — говорят они. «Это всего лишь алгоритм». «Мусор на входе, мусор на выходе». Как правило, это бывшие программисты, до сих пор живущие в 90-х. Они повторяют «мусор на входе, мусор на выходе» так часто, как будто они были запрограммированы произносить это.

У этих парней есть смысл. Искусственный интеллект хорош настолько, насколько хорош дизайн его нейронной сети и данные, на которых он обучается. В этом смысле это мало чем отличается от людей. Но когда это хорошо, это страшно хорошо. Например, если надежный ИИ обучен распознавать банковские выписки, он может копаться в горах мусора и находить нужную за считанные секунды — как человек дождя, ныряющий в мусорный бак, чтобы украсть вашу личность.

ИИ, который меня разбудил, был AlphaZero, разработанный Google DeepMind в 2017 году. Эта нейронная сеть запрограммирована только на основные правила игры и «желание» победить. учил сам играть в го, шахматы и ряд видеоигр всего за несколько часов. Мастерство Го особенно важно. На протяжении десятилетий скептики утверждали, что ни один компьютер не сможет понять эту древнюю китайскую игру. Они утверждали, что сложность го требует глубокой интуиции, которой обладают только люди. Оказывается, это было желаемое за действительное.

AlphaZero, как и его предшественник AlphaGo, изобретает эффективные стратегии, до которых не додумался ни один человек. И что самое тревожное, эти цифровые умы раздавить человеческие мастера в своих играх. Будь у людей хоть чуточку здравого смысла, они бы тут же выдернули вилку из розетки. На всем этом. Но вы знаете, что они говорят: «Вы не можете остановить прогресс».

Следующим шагом является объединение эти узкие когнитивные способности в единый «искусственный мозг». Этот искусственный общий интеллект (AGI) будет достаточно гибким, чтобы переходить от одного домена к другому или одновременно активировать различные модули для решения реальных проблем.

Теоретически можно склеить любую комбинацию способностей — распознавание лиц, обработку естественного языка, социальное моделирование, роботизированные системы управления, эстетические алгоритмы — все, что вы пожелаете, в роботизированном мозгу. Машина, вероятно, превзошла бы людей во всех этих областях. Но какую бы комбинацию вы ни придумали, она не будет полностью человеческой. Он также не разделял бы наши ценности или опыт мира. Это будет слепой, уродливый ребенок, выгравированный на кремнии, но обладающий превосходными когнитивными способностями — очень похожий на гностического Демиурга.

Для трансгуманистов появление самосовершенствующегося ОИИ станет «особым моментом в истории». Сингулярность. Оттуда унаследованные люди просто в пути. Если нам повезет.

Во всяком случае, это мечта. И крупные корпорации, такие как DeepMind и OpenAI, а также их китайские коллеги в Baidu и Tencent, гоночный сделать какую-то версию реальностью. Их руководители обещают цифровую утопию или некоторое приближение. Они бы предпочли, чтобы вы просто расслабились и не задавали вопросов.

Однако есть несколько паникеров, которые говорят, что безудержный ИИ может означать уничтожение человечества. Поскольку мы являемся повивальными бабками ОИИ, говорят они, наша главная задача — научить этого младенца Компьютерного Бога быть доброжелательным — привести его ценности в соответствие с нашими. В противном случае мы попадем в рабство или умрем. Они называют это «проблемой выравнивания ИИ». Поскольку различные фракции борются за то, каким разрешено быть ChatGPT «бодрствующим» или «базовым», это выглядит довольно мрачно.

Как ни странно, одни из самых громких сигналов тревоги исходят от тех, кто работает над ОИИ. Среди них Сэм Альтман и Илон Маск (OpenAI), Демис Хассабис (DeepMind), действующий из Китая Бен Герцель (SingularityNET) и безумный пророк технокалипсиса Хьюго де Гарис (Сямэньский университет).

Оксфордский трансгуманист Ник Бостром, автор книги 2014 года, объяснил значение вождения Теслы. аудитория TED:

Потенциал сверхразума дремлет в материи, подобно тому, как сила атома бездействовала на протяжении всей истории человечества, терпеливо ожидая там — до 1945 года. В этом столетии ученые могут научиться пробуждать силу искусственного интеллекта. И я думаю, что тогда мы могли бы увидеть взрыв интеллекта.

Независимо от экзистенциальных рисков, утверждают эти люди, любая нация, которая не сможет внедрить ИИ, отстанет от тех, кто это сделает. Та же динамика справедлива для отдельных лиц и организаций, конкурирующих друг с другом внутри стран. В цифровой экосистеме выживают сильнейшие киборги, а ИИ выступает в роли мифического кольца власти.

Из всех вариантов будущего, спроектированных трансгуманистами, тот, который придумал Хьюго де Гарис, самый ужасный. Это еще и самое честное. Многие в Силиконовой долине считают, что сверхчеловеческий машинный интеллект приведет к «радикальному изобилию» и безграничным знаниям о Вселенной. Как физик и роботостроитель, де Гарис верит, что все это произойдет.

Однако он также пророчествует, что создание «искусств» — сокращение от «искусственный интеллект»; в основном ОИИ, вероятно, приведет к уничтожению человечества. Может быть, эти цифровые боги не принесут нам никакой пользы и раздавят нас, как жуков. Или, столь же вероятно, утверждает де Гарис, произойдет событие «гигасмерти», когда люди будут спорить о том, создавать ли их вообще. Это означает, что миллиарды умирают мгновенно.

«Вопрос, который будет доминировать 21^st глобальная политика века будет заключаться в следующем: «Кто или что должно быть доминирующим видом на планете, предметы или люди?» потенциальные истребители?»

Изобретая новые дурацкие слова, такие как неуправляемый игрок в скрэббл, де Гарис исследует этот конфликт в своей книге 2005 года. Он ожидает, что он возникнет через несколько поколений. «В этой войне будет использовано самое разрушительное оружие из когда-либо созданных, основываясь на конце 21^st наука и техника века».

Мы говорим о суперядерном оружии и биологическом оружии, разработанном искусственным интеллектом, — темный горизонт, кишащий роботами-адскими гончими и роями нанороботов.

Artilect War будет вестись между «земляне», готовые убивать, чтобы сохранить органическое человечество, и «космисты», чья религиозная преданность созданию артефактов настолько сильна, что они готовы умереть за это обожествление. На самом деле, они будут готовы увидеть все умереть за это:

В 20^th века нацисты уничтожили 20 миллионов русских, японцы убили 20 миллионов китайцев, Сталин убил 30 миллионов в ходе своих чисток, а Мао заморил голодом 50 миллионов китайских крестьян. Это одни из величайших преступлений в истории, но они меркнут по сравнению с масштабами трагедии, если когда-нибудь артилекты решат уничтожить человечество. Трагедия была бы тотальной в том смысле, что не осталось бы людей, оплакивающих исчезновение вида.

Как отмечает де Гарис, поразительно, как человек может преследовать такую ​​цель, зная, что миллиарды могут быть уничтожены. Но для космистов создание сверхчеловеческих машин — это религиозный поиск по ту сторону добра и зла. В традициях сумасшедших ученых, терзаемых чувством вины, де Гарис относит себя ко второму лагерю, будь проклята гигантская смерть:

Моя конечная цель состоит в том, чтобы увидеть, как человечество или, по крайней мере, часть человечества станет космистом, и сделать это успешно, создав поистине богоподобные предметы, которые возвышаются над нашими ничтожными человеческими интеллектуальными и другими способностями.

Ключевое понятие в Артилект Война является «доминирование вида». Создав искусственную жизнь, человечество противостоит новому эволюционному конкуренту. По мере того, как некоторые люди сливаются с цифровой жизнью, как ленточные черви в меха-кишечнике, человечество разделится на подвиды — киборгов, сосущих ботов, и «хилых» людей.

Вместе с видообразованием возникает конкуренция. Опираясь на политическую и эволюционную теорию, де Гарис говорит, что на этой куче дерьма мало места. Поскольку равенства не существует в природе, доминирование видов неизбежно. С человеческой историей в качестве нашего проводника это означает насилие.

Займут ли первое место компьютеры с высоким IQ, которые вращаются вокруг планеты и «быстрее и лучше людей в триллионы триллионов раз»?

Или его займут космисты, которые строят и развертывают эти машины?

Или земляне убьют этот трансчеловеческий культ и вернутся к барабанному бою в лесу?

Похоже, что мы столкнемся с ядерной войной с Россией или Китаем, что избавит нас от этой артиллерийской войны. Без суперкомпьютерного бога можно обойтись без гигантских смертей.

Но если нам удастся избежать взрыва друг друга в космической пыли, может случиться так, что соперничество между сверхдержавами приведет к развитию технологий, особенно военных, к чему-то, напоминающему видение де Гариса. Думайте об этом как о Сингулярности с взрывом.

В действительности важность кошмара Хьюго де Гариса может быть его влияние на китайскую технологическую культуру. С 2006 по 2010 год он завершил свою профессиональную карьеру в Китае — сначала в Уханьском университете, а затем руководил лабораторией искусственного мозга в Сямэньском университете. До пандемии бегал его близкий коллега Бен Герцель. SingularityNET из Гонконга. Этот проект AGI функционировал в партнерстве с Хэнсон Робототехника— все еще базирующаяся в Гонконге, — чей робот София превозносится на мировой арене как трансчеловеческая богиня.

Объем передачи технологий Коммунистической партии Китая неизвестен. Но разумно предположить, что какими бы ни были их намерения, де Гарис и Герцель помогли Китаю превзойти США в области искусственного интеллекта. Эта цель включает в себя подключение человеческого мозга к ИИ и создание общего искусственного интеллекта с прицелом на военное применение.

В выпуске PRISM за ноябрь 2021 года, опубликованном Национальным университетом обороны в округе Колумбия, содержится поучительная исследовательская статья: «Китайский проект AI-Brain «Новое поколение»». Не может быть сомнения в том, что трансчеловеческий импульс пронизывает китайскую душу. Авторы цитируют ведущего исследователя КПК Сюй Бо, выступая перед официальной газетой Министерства науки и технологий:

Как указал генеральный секретарь Си Цзиньпин в коллективном исследовании Политбюро, исследования в области искусственного интеллекта должны исследовать «беспилотные области». В областях роевого интеллекта, гибридного интеллекта человека и машины и автономного интеллекта предстоит исследовать большие беспилотные области. … Мы считаем, что автономная эволюция — это мост от слабого искусственного интеллекта к общему искусственному интеллекту.

Или, как сказал декан Пекинской академии искусственного интеллекта Хуан Тецзюнь на конференции Future of Life:

Наша человеческая раса находится только на одном этапе. Зачем останавливаться? Люди развиваются слишком медленно. Людей невозможно сравнить с машинным сверхразумом. Это произойдет рано или поздно, так зачем ждать? Даже с точки зрения человеческого центризма или человеческой исключительности сверхразум необходим для решения серьезных проблем, которые мы не можем решить. Поэтому я поддерживаю эту идею.

Переводя утверждения китайского технологического истеблишмента, авторы статьи PRISM сухо замечают: «Другие подобные прогнозы — обычное дело».

Будущее выглядит мрачным, но возможности по-прежнему широко открыты. Опять же, я нахожусь где-то между сомневающимися и истинно верующими — и я признаю, что это прохладная изгородь.

Подобно смартфонам или Интернету, ИИ никогда не сработает, как рекламируется. Техническая эволюция — это сага о неожиданных ошибках и непредвиденных последствиях. Он изобилует накачанными акциями, чрезмерно разрекламированными государственными контрактами и чрезмерно финансируемыми академическими проектами.

Летающих машин нет (пока). Холодного синтеза нет (пока). Нанороботов, контролирующих разум, не существует (верно?).

Тем не менее, только дурак отказывается видеть, что смартфоны и Интернет уничтожили органическую культуру. То же самое касается массового наблюдения и борьбы с беспилотниками. Какую бы форму в конечном итоге ни принял ИИ, я убежден, что он будет иметь аналогичные последствия, если не хуже.

Возможно, чат-боты с искусственным интеллектом и виртуальные секс-рабыни отделят некоторых людей от реальной реальности, сделав их еще более безумными, чем они уже есть. Или может случиться так, что армия ИИ, генетически модифицированных киборгов с чипами мозга обрушится на облака нанороботов, чтобы вести расовую войну против того, что осталось от унаследованных людей.

Время покажет. Держите фольгу туго натянутой, а порох сухим. И ради бога, выключите свой смартфон. Вот как они получают вас.

Прочитайте полную историю здесь…