Алгоритм распознавания лиц вызвал неправильный арест

Пожалуйста, поделитесь этой историей!
image_pdfimage_print
Эта история показывает, почему Amazon, IBM и Microsoft вышли из бизнеса по распознаванию лиц, чтобы отразить определенную критику по поводу расовой предвзятости. В этом случае алгоритм прибил неправильного темнокожего человека за преступление, которое он не совершал. ⁃ TN Editor

В четверг в январе в четверг Роберт Джулиан-Борчак Уильямс находился в своем офисе в автомобильной компании по снабжению, когда ему позвонил из департамента полиции Детройта и попросил его прийти на станцию ​​для ареста. Сначала он подумал, что это была шутка.

Час спустя, когда он въехал на подъездную дорожку в тихом подразделении в Фармингтон-Хиллз, штат Мичиган, сзади подъехала полицейская машина, блокировавшая его. Двое полицейских вышли и надели наручники на мистера Уильямса на его лужайке перед его жена и две молодые дочери, которые были в смятении. Полиция не сказала бы, почему он был арестован, только показав ему листок бумаги с его фотографией и словами «ордер на уголовное преступление» и «воровство».

Его жена Мелисса спросила, куда его везут. «Google это», она вспоминает, как офицер отвечал.

Полиция отвезла мистера Уильямса в центр заключения. Ему сделали укол в кружку, сняли отпечатки пальцев и ДНК, и его продержали всю ночь. В пятницу около полудня два детектива отвели его в комнату для допросов и положили на стол три листка бумаги лицом вниз.

«Когда вы в последний раз ходили в магазин Shinola?» по воспоминаниям мистера Уильямса, спросил один из сыщиков. Shinola - это высококлассный бутик, в котором продаются часы, велосипеды и кожаные изделия в модном районе Мидтауна в Детройте. Г-н Уильямс сказал, что он и его жена проверили это, когда магазин впервые открылся в 2014 году.

Детектив перевернул первый лист бумаги. Это было неподвижное изображение с видео наблюдения, на котором изображен грузный мужчина, одетый в черное и в красной кепке «Сент-Луис Кардиналс», стоящий перед дисплеем часов. Пять часов стоимостью 3,800 долларов были украдены в магазинах.

"Это ты?" спросил детектив.

Второй лист бумаги был крупным планом. Фотография была размытой, но это был явно не мистер Уильямс. Он взял изображение и поднес его к лицу.

«Нет, это не я», - сказал мистер Уильямс. «Вы думаете, что все черные люди похожи друг на друга?»

Мистер Уильямс знал, что он не совершил данное преступление. Что он не мог знать, сидя в комнате для допросов, так это то, что его дело может быть первым известным сообщением о незаконном аресте американца на основании некорректного совпадения по алгоритму распознавания лиц, согласно экспертам в области технологий и права ,

Неисправная система

Общенациональные дебаты бушуют о расизм в правоохранительных органах, По всей стране миллионы протестуют не только против действий отдельных должностных лиц, но и за предвзятость в системах, используемых для наблюдения за сообществами и выявления людей для судебного преследования.

Системы распознавания лиц использовались полицией для более двух десятилетий, Недавние исследования MIT и горизонтальное распределение Национальный Институт Стандартов и Технологийили NIST обнаружили, что, хотя технология работает относительно хорошо на белых людях, результаты менее точны для других демографических данных, отчасти из-за отсутствия разнообразия в изображениях, используемых для разработки базовых баз данных.

В прошлом году во время публичных слушаний об использовании распознавание лиц в ДетройтеПомощник начальника полиции был среди тех, кто высказывал опасения. «По вопросу ложных срабатываний - это абсолютно факт, и это хорошо документировано», - сказал Джеймс Уайт. «Так что это касается меня как афро-американского мужчины».

Этот месяц, АмазонкаMicrosoft а так же IBM объявили, что они остановятся или Пауза их предложения по распознаванию лиц для правоохранительных органов. Жесты были в основном символическими, учитывая, что компании не являются крупными игроками в отрасли. Технологические подразделения полиции используют компании, которые не являются именами, известными как домохозяйства, такие как Vigilant Solutions, Cognitec, NEC, Rank One Computing и Clearview AI.

Прочитайте полную историю здесь…

Подписаться
Уведомление о
гость
2 Комментарии
Старые
Новые По голосам
Встроенные отзывы
Посмотреть все комментарии
DawnieR

Забудьте о черных ... Я бы сделал обоснованное предположение, что это НИКОГДА не сработает и для азиатов !!

dP_Ted

Это должно было случиться. Что меня привлекает, так это то, что человек, которого выбирает компьютер, иногда выглядит несколько иначе, чем реальный человек, но это то, что говорит компьютер. smh