Примечание TN: доктор Иден, возможно, смотрел слишком много научно-фантастических фильмов, но его биография впечатляет. Он спрашивает ниже: «Не станет ли эпоха сверхчеловеческой эры, когда понятие человека прошло?» TN публикует такие истории, чтобы зритель понял, что многие выдающиеся ученые и инженеры действительно верят в это; или они просто сошли с рельсов.
Ученые предупредили, что роботы ИИ со свободным мышлением могут в конечном итоге уничтожить человечество или даже полностью изменить то, что значит быть человеком, если мы позволим им думать самим.
Д-р Амнон Иден сказал, что необходимо сделать еще больше, чтобы оценить риски продолжения работы в мире ИИ.
Он предупредил, что мы приближаемся к точке невозврата с точки зрения ИИ, без должного понимания последствий.
Д-р Иден сказал: «В новом году этот необоснованный спор должен быть заменен более информированным анализом потенциального воздействия ИИ и его приложений.
«В 2016 году экспертный анализ рисков должен играть гораздо более важную роль в мышлении политиков и лиц, принимающих решения, правительств и корпораций».
Доктор Иден является руководителем проекта Sapience, мозгового центра, который был создан для изучения возможного разрушительного воздействия искусственного интеллекта ИИ.
Научная фантастика регулярно исследует, могут ли роботы уничтожить человечество, наиболее известные фильмы о Терминаторе с Арнольдом Шварценеггером в главных ролях.
Позиция доктора Идена появилась после того, как оксфордский профессор Ник Бостром сказал, что ИИ со сверхразумом может «продвинуться до точки, в которой его цели несовместимы с целями людей».
Он утверждал, что в отличие от изменения климата и генной инженерии, где, по его словам, правительства по всему миру вводят механизмы для минимизации рисков того, что есть, «ничего не делается для контроля за развитием ИИ».
Г-н Бостром сказал: «Существует политический вакуум, который необходимо заполнить, если мы хотим использовать этот неизбежный прогресс с умом».
Обсуждая потенциальные риски, он сказал: «Компьютер - это, по сути, коробка, и в него входит все, что он может использовать, поэтому, если мы не скажем ему, что люди в холодных странах могут умереть, если у них нет отопления, и это плохо, как он будет знать? Как мы можем определить, что на самом деле «хорошо» или «дружелюбно»?
«Результатом этой сингулярности может быть не то, что ИИ злонамерен, но вполне может быть, что он не способен« мыслить нестандартно »и не имеет представления о человеческой морали.
«Другая проблема искусственного интеллекта - это то, что Голливуд использует в качестве темы в течение многих лет, и это рост типа« Терминатора »и борьба за выживание против армии враждебных роботов-оборотней, которыми управляет самосознающий AI позвонил в Скайнет ».
