Технократы, которые строят только потому, что могут, в конечном итоге создают гораздо больше проблем, чем решают изначально. Возрастающая сложность неизменно приводит к «перегрузке системы», когда все выходит из-под контроля. ⁃ TN Editor
Что отличает людей от машин, так это скорость, с которой мы можем учиться из нашего окружения.
Но ученые успешно обучили компьютеры использовать искусственный интеллект, чтобы учиться на собственном опыте - и однажды они могут быть умнее своих создателей.
Теперь ученые признали, что они уже сбиты с толку созданным ими механическим мозгом, что повышает вероятность того, что мы можем полностью потерять контроль над ними.
Компьютеры уже совершают невероятные подвиги - такие как вождение автомобилей и предсказание болезней - но их создатели говорят, что они не полностью контролируют свои творения.
Технические эксперты предупреждают, что это может иметь катастрофические последствия для цивилизации.
Возьмите странную машину без водителя, которая появилась в прошлом году на улицах Нью-Джерси, США.
Он отличался от автономных автомобилей Google, Tesla или Uber, которые следуют правилам, установленным разработчиками технологий для реагирования на сценарии в дороге.
Этот автомобиль мог принимать собственные решения после того, как люди научились водить машину.
И его создатели, исследователи из компании по производству микросхем Nvidia (которая поставляет некоторым из крупнейших автопроизводителей чипы для суперкомпьютеров), заявили, что они не на 100 процентов уверены, как это удалось, MIT Technology Review сообщает.
Его таинственный разум мог быть признаком наступления темных времен, страха скептиков.
Базовая технология автомобиля, получившая название «глубокое обучение», является мощным инструментом для решения проблем.
Он помогает нам отмечать наших друзей в Facebook, предоставляет помощь на наших смартфонах с помощью Siri, Cortana или Google.
Глубокое обучение помогло компьютерам лучше распознавать объекты, чем человека.
Военные вкладывают миллионы в эту технологию, чтобы использовать ее для управления кораблями, управления дронами и уничтожения целей.
И есть надежда, что он сможет диагностировать смертельные заболевания, сделать трейдеров миллиардерами, читая фондовый рынок, и полностью изменить мир, в котором мы живем.
Но если мы не уверены, что создатели полностью понимают, как это работает, у нас большие проблемы, утверждают ученые.
Если они не могут понять, как работают алгоритмы (формулы, которые заставляют компьютеры выполнять задачи, которые мы им просим), они не смогут предсказать, когда они потерпят неудачу.
Томми Яаккола, профессор MIT, работающий над приложениями машинного обучения, предупреждает: «Если бы у вас была очень маленькая нейронная сеть [алгоритм глубокого обучения], вы могли бы ее понять».
«Но как только он становится очень большим и имеет тысячи единиц на слой и, возможно, сотни слоев, он становится совершенно непонятным».
Это означает, что автомобиль без водителя, такой как у Nvidia, мог взлететь головой в дерево, и мы не знали бы, почему он решил это сделать.
wpDiscuz