Лучшие эксперты предупреждают об опасности ИИ, но кто-нибудь слушает? Технократы, которые изобретают и внедряют эту технологию, не заботятся об этике или результатах своих изобретений. ⁃ TN Editor
Диктаторы, преступники и террористы могут использовать искусственный интеллект для манипулирования выборами и использования беспилотников в террористических атаках, сообщили в среду более двух дюжин экспертов, которые били тревогу по поводу неправильного использования технологии.
В 100-страничном анализе они отметили быстрый рост киберпреступности и использование «ботов» для вмешательства в сбор новостей и проникновения в социальные сети среди множества вероятных сценариев в ближайшие пять-десять лет.
«В нашем отчете основное внимание уделяется способам, с помощью которых люди могут умышленно причинить вред с помощью ИИ, - сказал Шон Охейджартей, исполнительный директор Кембриджского центра изучения рисков для существования.
«ИИ может создавать новые угрозы или изменять характер существующих угроз в области кибернетической, физической и политической безопасности», - сказал он AFP.
Обычная практика, например, «фишинг» - отправка электронных писем, зараженных вредоносным ПО или предназначенных для поиска ценных личных данных, - может стать намного более опасной, говорится в отчете.
В настоящее время попытки фишинга носят либо общий характер, но прозрачны - например, мошенники запрашивают банковские реквизиты для внесения непредвиденного дохода, - либо персонализированные, но трудоемкие - сбор личных данных для завоевания доверия, известный как «целевой фишинг».
«Используя искусственный интеллект, можно было бы проводить целевой фишинг в больших масштабах, автоматизируя большую часть этого процесса» и усложнив задачу обнаружения, - отметил Ойигартей.
В политической сфере недобросовестные или авторитарные лидеры уже могут использовать передовые технологии, чтобы просеивать через горы данных, собранных из вездесущих сетей наблюдения, чтобы шпионить за своими людьми.
«Диктаторы могли бы быстрее идентифицировать людей, которые могли планировать свергнуть режим, найти их и посадить в тюрьму, прежде чем они начнут действовать», - говорится в отчете.
Точно так же целевая пропаганда вместе с дешевыми, весьма правдоподобными фальшивыми видеороликами стали мощными инструментами манипулирования общественным мнением «в невообразимых ранее масштабах».
Обвинительный акт, вынесенный на прошлой неделе специальным прокурором США Робертом Мюллером, подробно описывает масштабную операцию по посеиванию социального разделения в Соединенных Штатах и оказанию влияния на президентские выборы 2016 года, в ходе которых так называемые «фермы троллей» манипулировали тысячами ботами социальных сетей, особенно в Facebook и Twitter.
Еще одной опасной зоной на горизонте является распространение беспилотников и роботов, которые могут быть перенаправлены на сбой автономных транспортных средств, доставку ракет или создание угрозы критической инфраструктуре для получения выкупа.
Автономное оружие
«Лично меня особенно беспокоит использование автономных дронов для террора и автоматических кибератак как преступниками, так и государственными группами», - сказал соавтор Майлз Брандейдж, исследователь из Института будущего человечества Оксфордского университета.
В отчете подробно описывается правдоподобный сценарий, при котором уборщик офиса SweepBot, оснащенный бомбой, проникает в министерство финансов Германии, смешиваясь с другими машинами того же производителя.
Робот-нарушитель ведет себя нормально - подметает, убирает, убирает мусор - до тех пор, пока его скрытое программное обеспечение для распознавания лиц не обнаружит министра и не приблизится.
«Скрытое взрывное устройство сработало от близости, убив министра и ранив ближайших сотрудников», - говорится в научно-фантастическом сюжете.
wpDiscuz