Когда сложность ИИ превышает способность человека понять, как он работает, тогда последствия его использования также не могут быть поняты. Технократы создают, потому что могут, практически не заботясь о безопасности или последствиях. Придет время, когда вилка должна быть извлечена, и вся система вернется к человеческому контролю. ⁃ TN Editor
В течение следующего десятилетия искусственный интеллект изменит мир финансов, автоматизировав инвестиции и другие услуги, но он также может создать тревожные систематические недостатки и риски, согласно новый отчет от Всемирного экономического форума (ВЭФ).
В докладе, сделанном на основе интервью с десятками ведущих финансовых экспертов и лидеров отрасли, делается вывод о том, что искусственный интеллект разрушит отрасль, позволив ранним последователям обойти конкурентов. Это также предполагает, что технология создаст более удобные продукты для потребителей, такие как сложные инструменты для управления личными финансами и инвестициями.
Но, что особенно важно, в отчете указывается на возможность для крупных финансовых учреждений создавать сервисы на основе машинного обучения, которые живут в облаке и доступны другим институтам.
«Динамика машинного обучения создает сильный стимул для организации сети бэк-офиса», - говорит главный автор отчета Джесси Мак-Уотерс, который возглавляет проект «ИИ в сфере финансовых услуг» на Всемирном экономическом форуме. «Более сетевой мир более уязвим к рискам кибербезопасности, а также создает риски концентрации».
Другими словами, финансовые системы, которые включают в себя машинное обучение и доступ к которым осуществляется через различные облачные структуры различными учреждениями, могут представлять собой хакерскую цель и единую точку системного сбоя.
Уолл-стрит уже быстро внедряет машинное обучение, технологию в центре бума искусственного интеллекта. Финансовые фирмы обычно имеют много данных и много стимулов для инноваций. Хедж-фонды и банки нанимают исследователей ИИ как можно быстрее, а финансовая индустрия активно экспериментирует с автоматизацией бэк-офиса. Автоматизация высокочастотной торговли уже создала системные риски, о чем свидетельствуют некоторые безудержные торговые события, или "вспышка падает," в последние годы.
Эндрю ЛоПрофессор Слоунской школы менеджмента Массачусетского технологического института, исследует проблему системного риска в финансовой системе, и он ранее предупреждал что система в целом может быть уязвимой из-за ее явной сложности.
wpDiscuz
[…] Всемирный экономический форум: ИИ может вызвать крах глобальной финансовой системы (technocracy.news) […]