Программное обеспечение Amazon для распознавания лиц является «ущербным, предвзятым и опасным»

В ходе проверки, проведенной Американским союзом гражданских свобод (ACLU), инструмент распознавания лиц, который Amazon.com Inc продает веб-разработчикам, ошибочно определил членов Конгресса 28 подозреваемыми в полиции.

В ответ Amazon заявила, что во время теста у нее возникли проблемы с настройками инструмента идентификации лица. Результаты, тем не менее, подчеркивают риски, с которыми люди могут столкнуться, если полиция использует технологии определенным образом для поимки преступников.

С мая ACLU и другие группы по защите гражданских прав оказывали давление на Amazon, чтобы она перестала продавать правительствам доступ к Rekognition, мощному программному обеспечению для идентификации изображений, представленному в 2016 году подразделением облачных вычислений компании.

Группы сослались на использование Rekognition правоохранительными органами в Орегоне и Флориде и предупредили, что этот инструмент может использоваться для несправедливого преследования иммигрантов и цветных людей.

Их активность вызвала общественные дебаты. Президент Microsoft Corp, конкурента Amazon, которая также использует технологию распознавания лиц, в начале этого месяца призвал Конгресс изучить возможные правила.

ACLU заявил, что хочет, чтобы Конгресс ввел мораторий на использование технологии правоохранительными органами.

Распознавание лиц уже широко используется в Китае в полиции, и ряд начинающих компаний - некоторые из которых оцениваются в миллиарды долларов - активно используют эту технологию.

Amazon рекламирует ряд применений Rekognition, от обнаружения оскорбительного контента в Интернете до выявления знаменитостей.

«Мы по-прежнему воодушевлены тем, как анализ изображений и видео может стать движущей силой добра в мире», - заявила пресс-секретарь Amazon Web Services, сославшись на его помощь в поиске пропавших детей и предотвращении преступлений. Она сказала, что Rekognition обычно используется для сужения поля для проверки человеком, а не для принятия окончательных решений.

ACLU заявил, что заплатил всего $ 12.33, чтобы Amazon Rekognition сравнил официальные фотографии каждого члена Палаты представителей и Сената США с базой данных публичных арестов 25,000.

По данным ACLU, технология выявила «совпадения» для 28 членов Конгресса с точностью не менее 80 процентов, что является настройкой Amazon по умолчанию.

Прочитайте полную историю здесь…