Компьютерные ученые создают план машинного сознания

Известные исследователи Мануэль Блюм и Ленора Блюм посвятили всю свою жизнь изучению информатики с особым упором на сознание. Они написали десятки статей и десятилетиями преподавали в престижном университете Карнеги-Меллона. И совсем недавно они опубликовали новое исследование, которое может послужить планом для развития и демонстрации машинного сознания.

Эта бумага, озаглавленный «Теоретическая информатика с точки зрения сознания», может быть только предпечатным документом, но даже если он выйдет из строя и сгорит при рецензировании (почти наверняка не будет), он все равно будет занимать невероятное место в мир теоретической информатики.

К Блюмам присоединился третий сотрудник, некий Аврим Блюм, их сын. Согласно статье Блюма:

Все трое Блумов получили докторские степени в Массачусетском технологическом институте и в общей сложности 65 замечательных лет проработали на факультете компьютерных наук CMU. В настоящее время двое старших являются заслуженными, а младший - главный академический директор TTI Chicago, научно-исследовательского института информатики, который предоставляет докторскую степень в области машинного обучения, алгоритмов, искусственного интеллекта (робототехника, естественный язык, речь и зрение), науки о данных и вычислительной биологии и расположен в кампусе Чикагского университета.

Это их первая совместная работа.

Снимаю шляпу перед Блюмами, не может быть слишком много семей теоретиков информатики, занимающихся передовыми исследованиями машинного сознания. Мне любопытно, что такое домашнее животное.

Давайте перейдем к бумаге, не так ли? Это увлекательное и хорошо объясненное хардкорное исследование, которое вполне может изменить некоторые взгляды на машинное сознание.

Согласно статье:

Наш главный вклад заключается в точном формальном определении Сознательной Машины Тьюринга (CTM), также называемой Сознательным ИИ. Мы определяем CTM в духе простого, но мощного определения компьютера Алана Тьюринга - машины Тьюринга (TM). Мы ищем не сложную модель мозга или познания, а простую модель (по общему признанию сложной концепции) сознания.

В этом контексте CTM может выглядеть как любая машина, способная демонстрировать сознание. Основная идея здесь не обязательно в разработке мыслящего робота, а в большей степени в демонстрации основных концепций сознания в надежде, что мы получим лучшее понимание нашего собственного.

Это требует сведения сознания к чему-то, что можно выразить математическими терминами. Но это немного сложнее, чем просто измерение волн. Вот как выразился Блюм:

Важная главная цель - определить, может ли CTM испытывать чувства, а не просто имитировать их. В частности, мы исследуем чувства боли и удовольствия и предлагаем способы их возникновения. Мы утверждаем, что даже полное знание схемы мозга, включая нейронные корреляты сознания, не может объяснить, что позволяет мозгу генерировать сознательные переживания, такие как боль.

Мы предлагаем объяснение, которое работает как для роботов с мозгом из кремния и золота, так и для животных с мозгом из плоти и крови. Наш тезис состоит в том, что в CTM это архитектура системы, ее основные процессоры; его выразительный внутренний язык, который мы называем Brainish; и его динамика (прогнозирование, конкуренция, обратная связь и обучение); которые делают его осознанным.

Определение сознания - это только половина дела, и его, вероятно, не удастся выиграть, пока мы не подражаем ему. Другая сторона уравнения - наблюдение и измерение сознания. Мы можем наблюдать, как щенок реагирует на раздражитель. Можно наблюдать даже сознание растений. Но для того, чтобы машина продемонстрировала сознание, ее наблюдатели должны быть уверены, что она не просто имитирует сознание посредством умной мимикрии.

Не будем забывать GPT-3 может поразить даже самых циничных умов своей сверхъестественной способностью казаться убедительным, связным и пронзительным (давайте также не будем забывать, что вам нужно несколько раз нажать «сгенерировать новый текст», чтобы заставить его сделать это, потому что большая часть того, что выплевывает это фигня).

Блюмы решают эту проблему, создав систему, предназначенную только для демонстрации сознания. Он не будет пытаться вести себя по-человечески или убеждать вас, что он думает. Это не арт-проект. Вместо этого он работает как цифровые песочные часы, где каждая песчинка является информацией.

Прочитайте полную историю здесь…