Технократы создали монстра, который, как они теперь понимают, может повернуть и уничтожить своих создателей; таким образом, созданы «военные игры», чтобы научиться победить его - искусственный интеллект. Это еще один пример того, как попытка «спасти мир» превратилась в сценарий «уничтожить мир». ⁃ TN Editor
Бустеры искусственного интеллекта предсказывают дивный новый мир летающих автомобилей и лекарств от рака. Недоброжелатели беспокоятся о будущем, в котором люди будут порабощены злой расой роботов-повелителей. Ветеран искусственного интеллекта Эрик Хорвиц и гуру Часов Судного дня Лоуренс Краусс, ища золотую середину, собрали группу экспертов в пустыне Аризоны, чтобы обсудить худшее, что могло произойти, и как это остановить.
Их семинар прошел в прошлые выходные в Университете штата Аризона при финансовой поддержке соучредителя Tesla Inc. Илона Маска и соучредителя Skype Яана Таллинна. Официально получившая название «Предвидение и устранение неблагоприятных последствий ИИ», это была своего рода игра Судного дня ИИ, в которой около 40 ученых, экспертов по кибербезопасности и политиков были объединены в группы атакующих (красная команда) и защитников (синяя команда), разыгрывающих ИИ. - крайне неверные сценарии - от манипуляций на фондовом рынке до глобальной войны.
Хорвиц настроен оптимистично - это хорошо, потому что машинный интеллект - дело его жизни, - но некоторые другие, более антиутопически настроенные сторонники проекта, казалось, сочли его взгляды слишком позитивными, когда планы на это мероприятие начались около двух лет назад, сказал Краусс, теоретик. физик, который руководит проектом «Истоки» ASU, программой семинара. Тем не менее, Хорвиц сказал, что для того, чтобы эти технологии успешно развивались и завоевали доверие широкой общественности, все проблемы должны быть полностью озвучены и решены.
«У искусственного интеллекта есть огромный потенциал для преобразования многих аспектов нашего общества во многих отношениях. В то же время, как и у любой технологии, есть острые углы и потенциальные недостатки », - сказал Хорвиц, управляющий директор исследовательской лаборатории Microsoft в Редмонде, штат Вашингтон. «Чтобы получить максимальную выгоду, мы также должны продумать возможные результаты более подробно, чем раньше, и подумать о том, как мы с ними справимся».
Участникам было предложено «домашнее задание» подать заявки на наихудший сценарий. Они должны были быть реалистичными - основанными на нынешних технологиях или на тех, которые кажутся возможными - и рассчитаны на 25-XNUMX лет вперед. Участники с «победными» кошмарами были выбраны, чтобы возглавить группы, в которых приняли участие около четырех экспертов от каждой из двух команд, чтобы обсудить атаку и способы ее предотвращения.
wpDiscuz