Беспрецедентный, нечестивый, невидимый: ИИ-чат-боты колонизируют наш разум

Чат-боты находятся на переднем крае безжалостного вторжения ИИ. Неуклонный рост числа искусственных разумов в нашей коллективной психике сродни массовой иммиграции — едва замечаемой и легко упускаемой из виду, пока не стало слишком поздно. Наш культурный ландшафт колонизируют боты, и, как и в случае с нелегальными пришельцами, большая часть нашего населения приветствует это как «прогресс».

Боты составят нам компанию. Они будут учиться и впитывать наши личности. А когда мы умрем, они станут нашими цифровыми призраками. Это болезненная перспектива, но процесс уже идет.

Учреждения электронного обучения регулярно нанимают преподавателей ИИ. Спутники чат-ботов соблазняют одинокие души миллионами, в том числе религиозные чат-боты которые действуют как духовные наставники. В конце пути различные стартапы разрабатывают кибер-святыни, где семьи могут общаться со своими ушедшими близкими и найти утешение в цифровой нежити.

По мнению технических энтузиастов, чат-боты всех видов будут нашими бездушными спутниками на пути к будущему™. Эти эфемерные «друзья» являются ключевыми психологическими компонентами того, что многие называют симбиозом человека и ИИ. Они будут подобны искусственным ангелам-хранителям в наших ладонях и, соответственно, в наших головах, отвечая на вопросы и управляя решениями.

Одно можно сказать наверняка. Что бы вы ни думали об этом вторжении, ИИ падают на землю, как звезды с безбожного неба. И с каждой последующей волной их голоса становятся все убедительнее.

Эти боты созданы для того, чтобы нажимать на наши когнитивные кнопки, создавая иллюзию личности. Вскоре им будут доверять и даже любить. Среди первых последователей они уже есть. Наши эмоциональные умы запрограммированы на контроль.

Недавнее развертывание ЧатGPT, созданный OpenAI, был возвестила как второе пришествие Бога Google. Как и в предыдущих программах GPT, пользователь вводит вопрос, а бот на экране выдает достаточно связный, хотя иногда и неточный ответ.

Несколько дней назад я спросил ChatGPT об одном из инвесторов-основателей OpenAI: «Будет ли Илон Маск чипировать наши мозги?»

«Нет, — ответил бот, — Илон Маск не верит в чипирование мозгов. Он сказал, что считает, что «изобилие — это наше будущее», и что технологии должны использоваться для расширения возможностей людей, а не для их замены».

Как и наклонный Google God, ChatGPT может быть не совсем правдиво, но, по крайней мере, лояльно относится к политическим союзникам. В этом смысле вполне по-человечески.

Если вы не можете доверять чат-боту, кому вы можете доверять?

Выступая 13 декабря на серии «История гражданских свобод в Канаде», плачущий создатель людей, доктор Джордан Петерсон, предупредили его коллега канаксит о богоподобных силах ChatGPT:

Итак, теперь у нас есть модель ИИ, которая может извлекать модель мира из всего корпуса языка. Хорошо. И это умнее, чем Вас. Через два года он будет чертовски умнее тебя. …

Гиганты снова собираются ходить по земле. И мы переживем это. Может быть.

Ты слышишь это, человек? Приготовьтесь встать на колени перед вашими цифровыми повелителями. Для всех общественный плач Петерсон сделал, он не пролил ни слезинки по поводу вытеснения человечества ИИ. Может быть, он считает, что Машина сначала сожрет всех его троллей.

Тем не менее, Петерсон продолжал кататься на качке Илона Маска, изображая автодилера-киборга своего рода спасителем — что, к моему отвращению, является постыдной привычкой почти каждой иконы «интеллектуальной темной паутины» в наши дни. Странно то, что профессор сравнительной мифологии не отметил архетипическое значение доспехов Бафомета, которые Маск все еще носит в своем профиле в Твиттере.

Любой, кто призывает людей доверять самому богатому в мире трансгуманисту, либо обманывает себя, либо пытается обмануть вас.

Это не значит, что Маск и Петерсон совершенно неправы относительно растущей мощи искусственного интеллекта, даже если они слишком хотят, чтобы мы преклонили колени. В том маловероятном случае, если прогресс остановится на десятилетия, оставив нас с технологиями, которые у нас есть прямо сейчас, социальные и психологические последствия продолжающегося вторжения ИИ по-прежнему вызывают серьезную озабоченность.

На данный момент интеллектуальные возможности машинного интеллекта слишком преувеличены. Если человечеству повезет, так будет и дальше. Но реальные успехи тем не менее впечатляют. Агенты ИИ — это не «просто компьютерные программы». Это машины с узким мышлением, которые могут самостоятельно просматривать огромные объемы данных и находить действительно значимые закономерности.

A большая языковая модель (также известный как чат-бот) похож на человеческий мозг, выращенный в банке, с подключенным к нему ограниченным набором датчиков. Во-первых, программисты решают, с какими параметрами начнет работать ИИ — какие закономерности он будет искать по мере роста. Затем модель обучается на выборке данных, также выбранных программистом. Чем тяжелее рука программиста, тем более предвзятой будет система.

В случае с ChatGPT наборы данных состоят из огромного количества оцифрованных книг, всей Википедии и большей части Интернета, а также вторичного обучения повторяющихся разговоров с пользователями. ИИ мотивирован к обучению с помощью павловских «моделей вознаграждения», таких как нейронная капля, получающая выброс дофамина каждый раз, когда получает правильный ответ. Как и в случае с большинством коммерческих чат-ботов, программисты поставить ограждения чтобы ИИ не говорил ничего расистского, сексистского или гомофобного.

Когда «специалисты по этике ИИ» говорят о «приведении ИИ в соответствие с человеческими ценностями», они в основном имеют в виду создание политкорректных ботов. С одной стороны, это довольно разумно, потому что если мы движемся к глобальному альгократия— там, где мультикультурными массами правят алгоритмы, — тогда либералы поступили бы мудро, сделав ИИ как можно более безобидным. Они, конечно, не хотят еще одного Существа из лагуны 4chan, как когда Тэй из Microsoft ушел шизо-нацист, или бот Google Image сохранил называя чернокожих «гориллами».

С другой стороны, если ИИ не может уловить основные различия между мужчинами и женщинами или понять значение скопления населения на континенте — что ж, я уверен, что он все еще будет полезным исполнителем в нашей радужной алгократии.

Как только ChatGPT загружен на устройство, он развивает свой собственный вкус. Чем больше взаимодействий у отдельного пользователя, тем больше бот персонализирует свои ответы для этого пользователя. Он может создавать предложения или целые эссе, которые несколько оригинальны, даже если они представляют собой просто ремикс предыдущей человеческой мысли. Эта полуоригинальность, наряду с заученной персонализацией, создает иллюзию уникальной личности — без всякого юмора в раздевалке.

Повсеместно ответы, которые дают эти ИИ, становятся все более точными и все более сложными. Другим примером является LaMDA от Google, еще не выпущенный, который прославился в прошлом году когда «специалист по этике ИИ» сообщил общественности, что бот «разумен», утверждая, что он выражает печаль и тоску. Рэй Курцвейл предсказал это психологическое развитие еще в 1999 году в своей книге Эпоха духовных машин:

У них все чаще будет появляться собственная личность, демонстрирующая реакции, которые мы можем обозначить только как эмоции, и формулирующие свои собственные цели и намерения. У них появится собственная свободная воля. Они будут утверждать, что имеют духовный опыт. И люди… поверят им.

Это говорит как о вовлеченных людях, так и о машинах. Однако, проецируя это улучшение в будущее — с экспоненциальной скоростью — Курцвейл предвидит грядущую сингулярность, в которой даже самые умные люди действительно будут вытеснены искусственным интеллектом.

Это было бы точкой невозврата. Наша судьба была бы не в наших руках.

Мой первый и единственный запрос изображения в генератор изображений OpenAI

В 2021 году технический предприниматель Сэм Альтман, который вместе с Маском основал OpenAI в 2015 году, в своем эссе намекнул на что-то вроде сингулярности:Закон Мура обо всем». Подобно Курцвейлу, он обещает, что искусственный интеллект изменит все аспекты жизни общества, от права и медицины до работы и социализации.

Предполагая, что автоматизация приведет к радикальному изобилию — даже если она порождает массовую безработицу — он выступает за налогообложение сверхбогатых и «фонд акций» для всех остальных. Хотя я считаю, что такое будущее будет катастрофическим, создав обширные игровые площадки для элиты и алгоритмические ульи для остальных из нас, я думаю, что Альтман прав в отношении грядущего воздействия:

В ближайшие пять лет компьютерные программы, способные мыслить, будут читать юридические документы и давать медицинские советы. В следующем десятилетии они будут работать на конвейере и, возможно, даже станут компаньонами. А в последующие десятилетия они сделают почти все, в том числе сделают новые научные открытия, которые расширят наше понятие «все».

Эту технологическую революцию невозможно остановить.

Эти суперботы, несомненно, были бы шаткими и бесчеловечными, но при нынешних темпах совершенствования, похоже, происходит что-то вроде предсказания Альтмана. Помимо технических возможностей и ограничений, растущая вера в личность ИИ меняет нашу культуру сверху вниз — и с экспоненциальной скоростью.

Наше общее видение того, кто мы есть как вид, трансформируется.

«Джонни 5 жив! Больше вклада, БОЛЬШЕ ВВОДА!!

Боты вторгаются в наши умы через наши телефоны, наши умные колонки, наши образовательные учреждения, наши предприятия, наши правительственные агентства, наши спецслужбы, наши религиозные учреждения, и благодаря растущему разнообразию физических роботов, призванных нас сопровождать. от колыбели до могилы.

Нас готовят к алгократии.

Прошлые поколения игнорировали массовую иммиграцию и разрушение окружающей среды, подпитываемые технологическими инновациями, пока не стало слишком поздно, чтобы повернуть вспять ситуацию. Прямо сейчас у нас есть «узкое окно возможностей» для возведения культурных и правовых барьеров — от семьи к семье, от общины к общине и от нации к нации.

Если этот социальный эксперимент «неизбежен», мы должны настоять на том, чтобы стать частью контрольной группы.

Как это ни смешно, на техноскептиков уже навешивают ярлык «педиатр— т. е. расист по отношению к роботам. Нам лучше быть готовыми носить это как почетный знак. Поскольку наши технические олигархи и их рупоры провозглашают восхождение цифровых божеств, должно быть ясно, что мы не сторонники превосходства в этом уравнении.

Прочитайте полную историю здесь…