Изобретатель Интернета: бедствия вырисовываются, когда ИИ управляет экономикой

Архитектор всемирной паутины сэр Тим Бернерс-Ли сегодня рассказал о некоторых из своих опасений по поводу Интернета в ближайшие годы, в том числе о кошмарном сценарии, когда искусственный интеллект (ИИ) может стать новыми «хозяевами вселенной», создавая и управляют собственными компаниями.

«Мастера вселенной» - это отсылка к роману Тома Вулфа «Костер тщеславия» 1987 года, в котором говорится о мужчинах (а они были мужчинами), которые начали получать многомиллионные зарплаты и оказали большое влияние на своих финансовых должностях на Уолл-стрит и в Лондоне во время компьютеризированного торгового бума перед Черным понедельником.

Выступая на Глобальный Саммит Innovate Finance сегодня Бернерс-Ли представил мир, в котором системы ИИ начинают развивать способности к принятию решений и влияние, которое это окажет на справедливость наших экономических систем.

Он изложил сценарий, по которому ИИ может решать, какие компании приобретать, и довел это до логического завершения: «Итак, когда ИИ начинает принимать решения, например, кто получает ипотеку, это очень важно. Или какие компании приобретать, и когда ИИ начинает создавать свои собственные компании, создавать холдинговые компании, генерировать новые версии себя для управления этими компаниями.

«Таким образом, у вас будет выживание сильнейших между этими компаниями, занимающимися ИИ, пока вы не достигнете точки, когда вы задаетесь вопросом, становится ли возможно понять, как обеспечить их справедливость, и как вы описываете компьютер что это вообще значит? "

Хотя трудно представить, чтобы пролить слишком много слез из-за потери лица, принимающие решения ответственный за крах 2007, этот сценарий грозит уничтожить всю отрасль и поднимает некоторые серьезные вопросы о том, насколько справедливой может быть финансовая система без участия человека.

Это похоже на страх, который недавно вынудил AI-скептик Элон Маск Ярмарка тщеславия: «Допустим, вы создали самоулучшающийся ИИ, чтобы собирать клубнику, и он становится все лучше и лучше собирает клубнику и собирает все больше и больше, и он самосовершенствуется, поэтому все, что он действительно хочет делать, это собирать клубнику. Значит, весь мир будет клубничными полями. Земляничные поля навсегда ». Нет места для людей.

Бернерс-Ли был удостоен награды AM Turing от Ассоциации вычислительной техники на прошлой неделе, и он привлек внимание СМИ, чтобы критиковать отказ администрации Трампа от защиты сетевого нейтралитета в интервью Хранитель.

Бернерс-Ли также недавно опубликовал письмо в связи с 28-й годовщиной всемирной паутины, рассказав о трех основных проблемах, которые он рассматривает: потерю контроля над личными данными, распространение дезинформации в сети и необходимость прозрачности в политической рекламе в Интернете.

Прочитайте полную историю здесь…