Если видение - это вера, приготовьтесь быть обманутым

Шаг 1: используйте AI, чтобы вносить необнаружимые изменения в фотографии на улице. Шаг 2: выпустите их в мир открытого исходного кода и наслаждайтесь хаосом.

Беспокоится о глубокие подделки- видео манипуляции знаменитостей и мировых лидеров, предположительно говорящие или делающие то, чего они на самом деле не делали, - странные по сравнению с новой угрозой: подделанными изображениями самой Земли.

Китай является признанным лидером в использовании новой технологии, называемой генеративными состязательными сетями, для того, чтобы заставить компьютеры видеть объекты в ландшафтах или на спутниковых изображениях, которых там нет, говорит Тодд Майерс, руководитель отдела автоматизации и директор по информационным технологиям в офисе директора по технологиям в Национальном агентстве геопространственной разведки.

«Китайцы значительно опередили нас. Это не секретная информация », - сказал Майерс в четверг на втором ежегодном Гениальные машины Саммит, организованный Оборона и Nextgov, «Китайцы уже разработали; они уже делают это прямо сейчас, используя сети GAN, которые являются генеративными состязательными сетями, для манипулирования сценами и пикселями, чтобы создавать вещи по гнусным причинам ».

Например, сказал Майерс, злоумышленник может обмануть ваших компьютерных аналитиков изображений, сообщив, что мост пересекает важную реку в данной точке.

«Таким образом, с тактической точки зрения или планирования миссии, вы обучаете свои силы идти определенным маршрутом к мосту, но его там нет. Тогда вас ждет большой сюрприз », - сказал он.

Имя описано в 2014ГАН представляют собой большую эволюцию в том, как нейронные сети учатся видеть и распознавать объекты и даже обнаруживать правду из художественной литературы.

Допустим, вы просите обычную нейронную сеть выяснить, какие объекты и что есть на спутниковых фотографиях. Сеть будет разбивать изображение на несколько частей или кластеров пикселей, вычислять, как эти фрагменты соотносятся друг с другом, а затем определять, каков конечный продукт, а также являются ли фотографии настоящими или подделанными. Все это основано на опыте просмотра множества спутниковых фотографий.

GAN обращают вспять этот процесс, противопоставляя две сети друг другу - отсюда и слово «состязательный». Обычная сеть может сказать: «Наличие x, y и z в этих кластерах пикселей означает, что это изображение кота». Но сеть GAN может сказать: «Это изображение кота, поэтому x, y и z должны присутствовать. Что такое x, y и z и как они соотносятся? ». Состязательная сеть учится конструировать или генерировать x, y и z таким образом, чтобы убедить первую нейронную сеть или дискриминатор в том, что что-то есть когда, возможно, это не так.

Многие ученые считают, что GAN полезны для обнаружения объектов и сортировки действительных изображений из поддельных. В 2017 китайские ученые использовали Gans идентифицировать дороги, мосты и другие особенности на спутниковых фотографиях.

Концерн, как ИИ технологи сказал Кварц В прошлом году та же самая техника, которая может отличить реальные мосты от поддельных, может также помочь создать поддельные мосты, которые ИИ не может отличить от реальных вещей.

Майерс обеспокоен тем, что, поскольку мир все больше и больше полагается на изображения с открытым исходным кодом для понимания физической местности, просто горстка умело манипулированных наборов данных, введенных в линию подачи изображений с открытым исходным кодом, может создать хаос. «Забудьте о [министерстве обороны] и [разведывательном сообществе]. Представьте, что Google Карты целенаправленно проникают этим? И представьте пять лет спустя, когда Тесла [самостоятельное вождение] полуфинал есть какие-нибудь вещи для маршрутизации?

Когда дело доходит до глубоких поддельных видео людей, биометрические показатели как пульс и речь могут победить фальшивый эффект. Но фальшивый пейзаж не уязвим для тех же техник.

Прочитайте полную историю здесь…