Ученые AI собирают решения для сценариев Судного дня

Википедия общин
Пожалуйста, поделитесь этой историей!
image_pdfimage_print

Технократы создали монстра, который, как они теперь понимают, может повернуть и уничтожить их создателей; таким образом, «военные игры» созданы, чтобы научиться побеждать - искусственный интеллект. Это еще один пример попытки «спасти мир», превратившейся в сценарий «уничтожить мир». TN Editor

Усилители искусственного интеллекта предсказывают дивный новый мир летающих машин и лекарств от рака. Недоброжелатели беспокоятся о будущем, где люди будут порабощены злой расой повелителей роботов. Ветеран искусственного интеллекта Эрик Хорвиц и гуру Судного дня Лоуренс Краусс, ища золотую середину, собрали группу экспертов в пустыне Аризоны, чтобы обсудить самое худшее, что может случиться, - и как это остановить.

Их семинар проходил в минувшие выходные в Университете штата Аризона при финансировании соучредителя Tesla Inc. Элона Маск и соучредителя Skype Яана Таллинна. Официально названный «Предвидение и устранение неблагоприятных результатов ИИ», это были своего рода игры конца света ИИ, в которых некоторые ученые 40, эксперты по кибербезопасности и политические деятели были объединены в группы атакующих - красная команда - и защитники - голубая команда - разыгрывая ИИ очень неправильные сценарии, начиная от манипулирования на фондовом рынке и заканчивая глобальными войнами.

Хорвиц настроен оптимистично - это хорошо, потому что искусственный интеллект - дело всей его жизни, - но некоторые другие, более склонные к антиутопии сторонники проекта, похоже, считают его взгляды слишком позитивными, когда планы на это событие начались около двух лет назад, сказал Краусс, теоретик физик, который руководит проектом ASU Origins, программой, управляющей семинаром. Тем не менее, Хорвиц сказал, что для того, чтобы эти технологии успешно развивались и завоевали широкое общественное доверие, все проблемы должны быть полностью переданы и решены.

«ИИ обладает огромным потенциалом для трансформации многих аспектов нашего общества во многих отношениях. В то же время, как и у любой технологии, есть серьезные недостатки и потенциальные недостатки », - сказал Хорвиц, управляющий директор исследовательской лаборатории Microsoft в Редмонде, штат Вашингтон. «Чтобы извлечь максимальную выгоду из роста, мы также должны продумать возможные результаты более подробно, чем раньше, и подумать о том, как с ними справиться».

Участникам было предоставлено «домашнее задание» для подачи заявок на наихудший сценарий. Они должны были быть реалистичными - основанными на существующих технологиях или тех, которые кажутся возможными - и через пять - 25 лет в будущем. Участники с «победными» кошмарами были выбраны, чтобы возглавить группы, в которых было по четыре эксперта в каждой из двух команд, чтобы обсудить атаку и способы ее предотвращения.

Прочитайте полную историю здесь…

Присоединиться к нашему списку рассылки!


аватар
Подписаться
Уведомление о