Те самые технократы, которые в первую очередь принесли нам ИИ, теперь размышляют, может ли внезапно появиться «супер-ИИ», который разрушит цивилизацию. Для более надежного ответа, возможно, им следует спросить Алексу. ⁃ Редактор TN
Генеральный директор Института искусственного интеллекта Аллена, профессор Орен Эциони, издал ряд потенциальных предупреждающих знаков, которые будут предупреждать нас о том, что «сверхразум» не за горами.
Люди должны быть готовы к признакам роботизированного супер-интеллекта, но у них должно быть достаточно времени для их устранения, предупредил один из ведущих компьютерных специалистов.
Орен Эциони, генеральный директор Института искусственного интеллекта Аллена, написал недавнюю статью под названием: «Как узнать, искусственный интеллект вот-вот уничтожит цивилизацию ».
Он написал: «Можем ли мы однажды утром проснуться в тупике от того, что появился сверхмощный ИИ с катастрофическими последствиями?
«В таких книгах, как« Суперинтеллект »Ника Бострома и« Жизнь 3.0 »Макса Тегмарка, а также в более поздних статьях утверждается, что злонамеренный сверхразум представляет собой существенный риск для человечества.
«Но спекулировать можно бесконечно. Лучше задать более конкретный, эмпирический вопрос: что может предупредить нас о том, что сверхразум действительно не за горами? »
Он сравнил предупреждающие знаки с канарейками в угольных шахтах, которые использовались для обнаружения окиси углерода, потому что они разрушались.
Профессор Эциони утверждал, что эти предупреждающие знаки появляются, когда программы ИИ развивают новую способность.
Он продолжил для MIT Review: «Может ли знаменитый тест Тьюринга служить канарейкой? Тест, изобретенный Аланом Тьюрингом в 1950 году, утверждает, что ИИ человеческого уровня будет достигнут, когда человек не сможет отличить разговор с человеком от разговора с компьютером.
«Это важный тест, но это не канарейка; это, скорее, знак того, что ИИ человеческого уровня уже появился.
«Многие компьютерные ученые считают, что если этот момент действительно наступит, сверхразум последует быстро. Нам нужно больше промежуточных этапов ».
Но он предупредил, что «автоматическая формулировка задач обучения» будет первой канарейкой, за которой последуют беспилотные автомобили.
wpDiscuz
Что такое «автоматическая постановка задач обучения»? Пошел по ссылке, но сайт хочет получить информацию, которую я не хотел предоставлять.