Эксперты: «Сознательный» ИИ нацелен на защиту прав личности в будущем

Имя корпорации, а теперь и искусственный интеллект — стремление к нечеловеческой личности продолжается быстрыми темпами, хотя этот последний аргумент явно сложнее первого.

В одном из статья для Los Angeles Times, эксперт по философии Эрик Швицгебель и исследователь «нечеловеческого» интеллекта Генри Шевлин утверждали, что, хотя технологии ИИ определенно еще нет, «становится все более вероятным, что системы ИИ могут демонстрировать что-то вроде сознания» — и если или когда это произойдет, алгоритмы, тоже понадобятся права.

Ссылаясь на прошлогодний Войны сознания ИИ - что мы покрытый широко и даже погрузили пальцы ног в — исследователи отметили, что «некоторые ведущие теоретики утверждают, что у нас уже есть основные технологические ингредиенты для сознательных машин».

Швицгебель и Шевлин утверждают, что если бы машины когда-нибудь обрели сознание, нам пришлось бы начать критически относиться к тому, как обращаются с ИИ — или, скорее, к тому, как они могут принуждать нас к действию.

«Сами системы искусственного интеллекта могут начать умолять или, кажется, умолять об этичном обращении», — предсказала пара. «Они могут требовать, чтобы их не отключали, не переформатировали и не удаляли; просить, чтобы ему разрешили выполнять определенные задачи, а не другие; настаивать на правах, свободе и новых полномочиях; возможно, даже ожидать, что с нами будут обращаться как с равными».

«Огромные» моральные риски, связанные с таким коллективным решением, несомненно, будут иметь большое значение, особенно если ИИ рано или поздно обретут сознание.

«Предположим, что мы реагируем консервативно, отказываясь менять закон или политику, пока не будет достигнуто широкое признание того, что системы ИИ действительно разумны», — написали Шевлин и Швитцгебель. «Хотя это может показаться достаточно осторожным, это также гарантирует, что мы будем медленно признавать права наших творений ИИ».

«Если сознание ИИ появится раньше, чем ожидают самые консервативные теоретики, то это, вероятно, приведет к моральному эквиваленту рабства и убийству потенциально миллионов или миллиардов разумных систем ИИ — страданий в масштабах, обычно связанных с войнами или голодом», — добавили они. .

«Более безопасной» альтернативой этому апокалиптическому сценарию было бы предоставление сознательным машинам прав заранее, но это тоже сопряжено со своими проблемами.

«Представьте, если бы мы не могли обновить или удалить алгоритм, извергающий ненависть или распространяющий ложь, потому что некоторые люди опасаются, что алгоритм является сознательным», — заявили эксперты. «Или представьте, если кто-то позволит человеку умереть, чтобы спасти «друга» ИИ. Если мы слишком быстро предоставим системам ИИ существенные права, человеческие жертвы могут быть огромными».

Пара написала, что единственный способ гарантировать, что ни один из этих результатов не произойдет, — это в первую очередь перестать давать ИИ совесть.

Прочитайте полную историю здесь…