Технократия и скрытая опасность больших данных

В теории игр «цена анархии» описывает, как индивиды, действующие в собственных интересах в рамках более крупной системы, имеют тенденцию снижать эффективность этой более крупной системы. Это повсеместное явление, с которым почти все мы сталкиваемся регулярно.

Например, если вы городской планировщик и отвечаете за управление дорожным движением, есть два способа решить проблему транспортных потоков. Как правило, централизованный, нисходящий подход, который охватывает всю систему, определяет узкие места и вносит изменения для их устранения, будет более эффективным, чем просто позволить отдельным водителям делать свой собственный выбор на дороге, предполагая, что эти варианты приведет к приемлемому результату. Первый подход снижает стоимость анархии и позволяет лучше использовать всю доступную информацию.

Мир наводнен данными. В прошлом году мы собрали столько данных, сколько было создано за все предыдущие годы человеческой цивилизации. Мы быстро приближаемся к тому, что итальянский писатель Итало Кальвино прозорливо назвал «памятью мира»: полной цифровой копией нашей физической вселенной.

По мере того как Интернет расширяется в новые сферы физического пространства через Интернет вещей, цена анархии станет критически важной метрикой, и соблазн ее устранить с помощью аналитики больших данных будет усиливаться.

Примеров этого предостаточно. Рассмотрим Амазонку. У него есть масса информации обо всех своих пользователях, которую он использует, чтобы предсказать, что они, возможно, захотят купить дальше. Как и во всех формах централизованного искусственного интеллекта, прошлые модели используются для прогнозирования будущих. Amazon может просмотреть последние купленные вами книги 10 и с большей точностью предложить, что вы захотите прочитать дальше.

Но здесь мы должны рассмотреть, что теряется, когда мы снижаем уровень анархии. Самая значимая книга, которую вы должны прочитать после предыдущих 10, - это книга, которая не вписывается в устоявшуюся модель, а книга, которая удивляет или заставляет вас взглянуть на мир по-другому.

Вопреки сценарию потока трафика, оптимизированные предложения могут быть не лучшей парадигмой для просмотра книг в Интернете. Большие данные могут умножить наши параметры, отфильтровывая то, что мы не хотим видеть, но есть что сказать, чтобы открыть эту 11-ю книгу через чистую случайность.

То, что верно в отношении покупки книг, верно и для многих других систем, которые переводятся в цифровую форму, например, в наших городах. Централизованные муниципальные системы теперь используют алгоритмы для мониторинга городской инфраструктуры, от использования светофоров и метро до утилизации отходов и доставки энергии. Многие мэры во всем мире очарованы идеей центральной диспетчерской, такой как операционный центр Рио-де-Жанейро, спроектированный IBM, где городские менеджеры могут реагировать на новую информацию в режиме реального времени.

Но с централизованными алгоритмами, управляющими каждой стороной общества, управляемая данными технократия угрожает сокрушить инновации и демократию. Этого результата следует избегать. Децентрализованное принятие решений имеет решающее значение для обогащения общества. Оптимизация, основанная на данных, наоборот, выводит решения из заранее определенной парадигмы, которая в своей нынешней форме часто исключает трансформационные или противоречивые идеи, которые продвигают человечество вперед.

Определенная случайность в нашей жизни допускает новые идеи или способы мышления, которые иначе были бы упущены. И на макроуровне это необходимо для самой жизни. Если бы природа использовала прогностические алгоритмы, которые предотвращали случайные мутации в репликации ДНК, наша планета, вероятно, все еще находилась бы на стадии очень оптимизированного одноклеточного организма.

Децентрализованное принятие решений может создать синергизм между человеческим и машинным интеллектом посредством процессов естественной и искусственной коэволюции. Распределенный интеллект может иногда снижать эффективность в краткосрочной перспективе, но в конечном итоге это приведет к более творческому, разнообразному и устойчивому обществу. Цена анархии - это цена, которую стоит заплатить, если мы хотим сохранить инновации благодаря счастливой случайности.

Прочитайте полную историю здесь…

• Карло Ратти руководит лабораторией Senseable City в Массачусетском технологическом институте и возглавляет Совет по глобальной повестке дня Всемирного экономического форума по городам будущего. Дирк Хелбинг - профессор вычислительной социологии Швейцарского федерального технологического института в Цюрихе.