Биометрическое понижение: отрицательная реакция растет против распознавания лица

Подросток подает в суд на Apple за миллиард долларов.  иск, Поданный понедельник, зависит от предполагаемого использования все более популярных - и спорных - технологий: распознавание лица. Технология может идентифицировать человека, анализируя его черты лица в изображениях, видео или в режиме реального времени.

Истец, 18-летний студент колледжа Усман Бах, утверждает, что компания инструмент распознавания лиц привел к его аресту за кражу в Apple Store он не совершил, ошибочно связав свое имя с лицом настоящего вора. Офицеры полиции Нью-Йорка пришли к дому Баха прошлой осенью, чтобы утром арестовать его в 4, только чтобы обнаружить, что у них явно не тот парень. Бах говорит, что все это испытание вызвало у него серьезные эмоциональные переживания. Между тем, Apple настаивает, что ее магазины не используют технологию распознавания лиц.

Независимо от того, что истина оказывается в этом случае, иск Баха - последний признак усиливающейся реакции против распознавания лиц. Поскольку технология внедряется во все большем количестве областей, она вызывает все больше противоречий. Взять, к примеру, чернокожих жильцов в Бруклине, которые недавно возражал против плана их арендодателя установить технологию в их стабилизированном арендной плате здании, Или путешественник, который жаловался через Twitter, что JetBlue проверил ее на рейс, используя распознавание лиц без ее согласия. (Авиакомпания объяснила, что для этого использовала данные Министерства внутренней безопасности, и принесла извинения.)

Это в дополнение к Исследователи, адвокаты  тысячи представителей общественностикоторые выражали беспокойство по поводу риска признания лица, которое может привести к незаконным арестам. Они опасаются, что определенные группы будут непропорционально затронуты. Технология распознавания лиц довольно хороша для идентификации белых мужских лиц, потому что это те виды лиц, на которых она обучалась. Но слишком часто это неверно определяет цветных людей и женщин, Такое предубеждение может привести к их несоразмерному задержанию для допроса, поскольку все больше правоохранительных органов применяют эту технологию.

Теперь мы достигли точки перегиба, когда крупные компании - не только Apple, но также Amazon и Microsoft - вынуждены серьезно относиться к таким жалобам. И хотя они наконец пытаются сообщить, что чувствуют озабоченность, может быть слишком поздно вернуть доверие. Общественное недовольство достигло такой высокой температуры, что некоторые, в том числе город Сан-Франциско, сейчас рассматриваем тотальные запреты на технологии распознавания лиц.

Голосование, чтобы запретить Amazon от продажи Rekognition

Амазонка точно не известна тем, что играет хорошо. У него есть репутация бороться с предложенными законами это не нравится и для агрессивно защищает свою работу с полицией и правительством, В течение многих лет он мог позволить себе вести себя таким образом. Тем не менее, шум из-за распознавания лиц делает эту позу более трудной для поддержания.

Инструмент распознавания лиц Amazon, Rekognition, уже продан правоохранительным органам и переданы в Иммиграционную и Таможенную Службу, Но ведущие исследователи ИИ недавно утверждали Открытое письмо что технология глубоко испорчена. (Показательный пример: в тесте в прошлом году, Rekognition сравнил членов Конгресса 28 с криминальными выстрелами.) А акционеры Amazon требуют голосования о том, следует ли компании прекратить продажу инструмента государственным органам до тех пор, пока она не пройдет независимый анализ влияния на гражданские права.

Амазонка изо всех сил старалась не допустить голосования, но Комиссия по ценным бумагам и биржам правил в этом месяце, что компания должна позволить этому идти вперед. Это произойдет в мае 22. Хотя результат будет в значительной степени символическим - решения акционеров не являются обязательными - голосование должно привлечь негативное внимание к Amazon.

В то же время, компания была пытаясь смягчить свой имидж например, набрав некоторые из своих агрессивных рекламных тактик. Картик Хосанагар, профессор Школы бизнеса Уортон, сказал Amazon предпринимает «упреждающие действия», чтобы придумать «прежде, чем один из [кандидатов в президенты] сделает Amazon плакатом ребенка, который они называют проблемами с Big Tech».

Смешанные сообщения Microsoft об этическом использовании распознавания лиц

В то время как Amazon все еще молодая компания, основанная в 1994, Microsoft достигла совершеннолетия - она ​​существует с 1975. Этот более продолжительный срок службы означает, что у него было больше времени на ошибки, но также и больше времени, чтобы учиться на них. Ким Харт из Axios утверждает, что именно поэтому Microsoft, по большей части, удалось избежать негативной реакции на большие технологии, «Microsoft, которая боролась за свою антимонопольную борьбу с Министерством юстиции в 90, обошла ошибки, допущенные ее младшими, более симпатичными братьями из Big Tech», - пишет она.

Тем не менее, Microsoft никоим образом не застрахована от негативной реакции. После того, как в этом месяце стало известно, что исследователи Microsoft выпустили три статьи об ИИ и распознавании лиц в военном университете в Китае, некоторые американские политики обвинили компанию в помощи режиму, который задерживает миллион уйгурских мусульман в лагерях для интернированных и исследуя еще миллионы, Сенатор Марко Рубио назвал его «Глубоко беспокоящий ... акт, который заставляет их участвовать в помощи тоталитарному аппарату цензуры коммунистического правительства Китая».

Пресса также указала, что компания продала свое программное обеспечение для распознавания лиц американская тюрьмаи что президент Microsoft Брэд Смит сказал, что это будет «Жестокий» вообще прекратить продажу программного обеспечения государственным органам.

Несколько дней спустя компания приложила все усилия, чтобы показать, что она заботится об этическом использовании ИИ. Смит объявил, что он отказался продавать свое программное обеспечение для распознавания лиц калифорнийским правоохранительным органам, которые хотели установить его в автомобили офицеров и камеры. Он сказал, что Microsoft отказалась по соображениям прав человека, зная, что использование программного обеспечения приведет к непропорциональным задержаниям цветных людей и женщин для допроса.

Толчок, чтобы полностью запретить технологии распознавания лиц

Этот месяц дал понять, что общественное давление работает, когда дело доходит до распознавания лиц. Компании-гиганты знают, что они больше не могут игнорировать критику - или, как они недавно сделали, просто говорят, что они приветствовали бы регулирование этой технологии. Критики ясно дают понять, что этого недостаточно, - они хотят, чтобы такие компании «вообще вышли из сферы наблюдения». как сказал Vox Американский союз гражданских свобод.

Прочитайте полную историю здесь…