Амазонская технология распознавания лиц «Надзиратели» Местная полиция

Когда работники Ace Hardware здесь сообщили, что женщина вышла из магазина с баком сварочного газа стоимостью 11.99 долларов, за который она не заплатила в своей большой сумке, началась сложная высокотехнологичная операция по борьбе с преступностью.

Детектив шерифа округа Вашингтон, работающий с отделом специальных расследований агентства, провел запись с камер наблюдения за магазином с помощью внутренней программы распознавания лиц, созданной Amazon, и выявил возможное совпадение.

Номерной знак этой женщины был помечен, и три месяца спустя офицер по борьбе с наркотиками на внедорожнике без опознавательных знаков заметил его и связал по рации с другими патрульными, чтобы они остановили ее. Депутат надел ей на запястья наручники, и в протоколе об аресте говорится. Она сказала, что ей нужен был бензин, чтобы починить машину.

Депутаты в этом уголке западного Орегона за пределами ультралиберального Портленда по старинке выслеживали преступников, отправляя факсимильные снимки подозреваемого по камере вокруг офиса в надежде, что кто-то может узнать лицо.

Затем, в конце 2017 года, офис шерифа округа Вашингтон стал первым правоохранительным органом в стране, который, как известно, использовал инструмент искусственного интеллекта Amazon Rekognition, превратив эти заросли лесов и пригородов в общественный полигон для новой волны экспериментального полицейского наблюдения. техники.

Почти в мгновение ока депутаты увидели, что их следственные полномочия возросли, что позволило им сканировать лица подозреваемых на более чем 300,000 2001 снимков, сделанных в окружной тюрьме с 1,000 года. Зернистое изображение чьего-то лица, снятое камерой наблюдения, в социальных сетях аккаунт или смартфон депутата - может быстро стать связующим звеном с его личностью, включая имя, семью и адрес. По словам депутатов, в прошлом году было зарегистрировано более XNUMX поисков по распознаванию лиц, которые иногда использовали результаты, чтобы найти страницу подозреваемого в Facebook или посетить их дом.

Но округ Вашингтон также стал эпицентром битвы с высокими ставками из-за нерегулируемого роста полицейской деятельности с помощью алгоритмов. Адвокаты защиты, исследователи искусственного интеллекта и эксперты по гражданским правам утверждают, что технология может привести к неправомерному аресту невинных людей, которые имеют только сходство с видеоизображением. Точность Rekognition также вызывает серьезные споры, и некоторые эксперты опасаются, что случай ошибочной идентификации вооруженными депутатами может иметь опасные последствия, угрожая частной жизни и жизни людей.

Некоторые полицейские агентства в последние годы проводят поиски по распознаванию лиц по базам данных штата или ФБР с использованием систем, созданных такими подрядчиками, как Cognitec, IDEMIA и NEC. Но откачка Амазонка отметил, возможно, самый большой шаг в принятии спорного лица технологии сканирование мейнстрит. Rekognition легко активируется, не требует большой технической инфраструктуры и предлагается практически всем по сниженным ценам. Округ Вашингтон потратил около $ 700 на загрузку своего первого большого количества фотографий, и теперь, за все свои поиски, он платит около $ 7 в месяц.

Однако невозможно сказать, насколько точной и эффективной была эта технология в течение первых 18 месяцев реальных испытаний. Депутаты не обязаны указывать в протоколах задержания, когда использовался поиск по распознаванию лиц, и точное количество раз, когда он приводил к аресту, неясно. Должностные лица шерифа заявили, что это программное обеспечение привело к десяткам арестов за кражи, насилие или другие преступления, но по запросу общественности было обнаружено девять отчетов о случаях, в которых упоминалось распознавание лиц.

«Как и любой из наших методов расследования, мы не говорим людям, как мы их ловим», - сказал Роберт Рукхейзен, детектив из группы по расследованию серьезных преступлений агентства, который сказал, что провел «несколько десятков» поисков и нашел их полезными примерно на 75%. времени. «Мы хотим, чтобы они продолжали гадать».

Власти шерифа говорят, что сканирование лица не всегда означает конец расследования: депутаты должны установить вероятную причину или найти доказательства, прежде чем обвинить подозреваемого в преступлении. Но офис шерифа устанавливает свои собственные правила использования распознавания лиц и позволяет депутатам использовать этот инструмент для идентификации тел, бессознательных подозреваемых и людей, которые отказались назвать свое имя.

Неидеальные результаты поискового инструмента повышают риск того, что невиновный человек будет помечен и арестован, особенно в случаях, когда отсканированные изображения размыты, низкого качества или частично скрыты. Депутатам также разрешено запускать эскизы художников в поиске, что, по мнению экспертов AI, может привести к ложному совпадению.

В рекомендациях Amazon для правоохранительных органов говорится, что чиновники должны использовать результаты Rekognition только тогда, когда система на 99% уверена в совпадении. Но депутатам здесь не показана эта поисковая мера при использовании инструмента. Вместо этого им дается пять возможных совпадений для каждого поиска, даже если уверенность системы в совпадении намного ниже.

После ответа на вопросы The Washington Post, Amazon добавила формулировку к этим руководящим принципам, заявив, что офицеры должны вручную проверять все совпадения, прежде чем задерживать подозреваемого, и что поиск «не должен использоваться в качестве единственного определяющего фактора для принятия мер».

Отношения между Amazon и третьим по величине правоохранительным органом штата Орегон взаимовыгодны: офис шерифа помогает усовершенствовать систему, которую Amazon надеется продавать по всей стране. Но стремление Amazon к продажам для правоохранительных органов встревожило некоторых адвокатов, которые говорят, что система представляет слишком много рисков для гражданских свобод. (Основатель и генеральный директор Amazon Джефф Безос владеет The Post.)

«Правительство невероятно могущественно, и они многое заставляют бороться против отдельного гражданина в деле», - сказала Мэри Бруингтон, директор Управления общественного защитника округа Вашингтон, представляющего обвиняемых, которые не могут позволить себе адвоката. «Вы соедините это с Amazon? Это мощное партнерство ».

Мэтт Вуд, генеральный менеджер по искусственному интеллекту подразделения облачных вычислений Amazon Web Services, заявил в своем заявлении, что Rekognition - это просто «еще один вклад среди многих других источников для расследования, на 100% управляемого человеком».

Тем не менее, компания сталкивается с критикой по многим направлениям: ведущие исследователи ИИ, члены Конгресса и групп по защите гражданских прав, а также некоторые собственные инвесторы и сотрудники Amazon призвали компанию прекратить предоставление технологии правоохранительным органам, указывая на исследования, обнаружили, что эта система менее точна для темнокожих лиц. Amazon оспорил это исследование.

Некоторые конкуренты Amazon отказались от подобных контрактов. Президент Microsoft Брэд Смит заявил в апреле, что компания недавно отказалась предоставить свое программное обеспечение для распознавания лиц правоохранительному органу Калифорнии, который хотел запускать сканирование лица каждый раз, когда его офицеры задерживали кого-то, но что компания одобрила сделку, по которой эта технология в тюрьме США. Microsoft отказалась сообщить подробности.

В мае инвесторы Amazon проголосуют за предложение, поддержанное группой акционеров-активистов, которое не позволит компании продавать Rekognition государственным органам, если совет директоров компании не определит, что это не представляет опасности для прав человека.

Офис шерифа позволил журналистам Post провести два дня в марте в служебных машинах, офисах детективов и окружной тюрьме, наблюдая за тем, как депутаты внедряют технологии в свои повседневные дела. Большинство опрошенных заявили, что программное обеспечение сэкономило им время, увеличило количество арестованных и помогло им обработать растущее изобилие визуальных доказательств. На сегодняшний день как депутаты, так и общественные защитники не обжаловали арест на том основании, что совпадение фотографий было ошибочным.

Но юристы в Орегоне заявили, что технология не должна быть, как считают многие, неизбежным шагом вперед для будущего полицейской деятельности, и они создают систему не как техническую веху, а как моральную: можно ли поймать больше плохих парней, если более хороших парней тоже могут арестовать?

«Люди любят всегда говорить:« Эй, если это ловит плохих людей, отлично, кого это волнует », - сказал Джошуа Кроутер, главный заместитель защитника в Орегоне, -« пока они не окажутся на другом конце провода ».

`` Неотличим от магии ''

Когда Amazon представила Rekognition в 2016 году, компания назвала это прорывом в создании мощного стиля глубокого обучения искусственного интеллекта, который показал результаты, «неотличимые от магии». В сообщении в блоге, проиллюстрированном фотографией собаки руководителя, компания предложила некоторые общие идеи о том, как люди могут начать ее использовать, в том числе для контрольно-пропускных пунктов или рекламных щитов, подключенных для сбора данных с лица зрителя.

Открытие привлекло внимание Криса Адзима, бывшего программиста eBay, которого наняли в офис шерифа округа Вашингтон для работы над приложением для iPhone, которое депутаты используют для отслеживания поведения заключенных. Его агентство уже разместило в сети сотни тысяч фотографий лиц, и у него нет реального способа их проанализировать. Используя искусственный интеллект Amazon, он установил и запустил систему менее чем за три недели.

«У них на самом деле не было твердого представления о каких-либо вариантах использования в реальном мире, но они знали, что у них есть мощный инструмент, который они создали», - сказал Адзима, старший аналитик информационных систем, который работает в небольшом кабинете в штаб шерифа. «Итак, вы знаете, я только начал его использовать».

Депутаты немедленно начали внедрять поиск по лицам в свою ежедневную работу полиции, и Адзима построил простой внутренний веб-сайт, который позволил им искать на своих патрульных машинах. Он отказался от процента достоверности поиска и спроектировал систему так, чтобы каждый раз возвращать пять результатов: когда система возвращала нулевые результаты, сказал он, депутаты задавались вопросом, не напортачили ли они. Чтобы оживить это, он также добавил ненужную фиолетовую анимацию «сканирования» всякий раз, когда депутат загружал фотографию - прикосновение, которое, по его словам, было вдохновлено полицейскими шоу, такими как «CSI».

Прочитайте полную историю здесь…