IBM перестает распознавать лица из-за предвзятости и неравенства

Wikimedia Commons, Розмаритуфи
Пожалуйста, поделитесь этой историей!
Какими бы ни были мотивы IBM отказаться от своего бизнеса по распознаванию лиц, она делает смелое заявление для всей отрасли, включая Amazon и Google, что этой технологии нет места в правоохранительных органах. ⁃ Редактор TN

Генеральный директор IBM Арвинд Кришна объявил сегодня, что компания больше не будет продавать услуги по распознаванию лиц, призвав к «национальному диалогу» о том, следует ли вообще его использовать. Он также высказался в поддержку нового законопроекта, направленного на уменьшение насилия со стороны полиции и повышение ответственности.

В письме сообщили CNBCнаписано в поддержку Закон о правосудии представил сегодня, Кришна объясняет выход компании из спорного бизнеса идентификации лица в качестве службы.

IBM решительно выступает против использования любых технологий, в том числе технологий распознавания лиц, предлагаемых другими поставщиками, для массового наблюдения, расового профилирования, нарушений основных прав и свобод человека или любых целей, которые не соответствуют нашим ценностям и принципам доверия, и не будет потворствовать им. и прозрачность. Мы считаем, что настало время начать национальный диалог о том, следует ли и как применять технологию распознавания лиц в местных правоохранительных органах.

Этот осторожный подход к разработке и развертыванию технологии не нов: IBM в прошлом году подчеркнула это новая база данных лиц это было более разнообразно, чем что-либо доступное в то время. В конце концов, как и любая программа, эти системы хороши только в той информации, которую вы им вводите.

Однако, по-видимому, распознавание лица не принесло компании много денег, если таковые имеются. Чтобы быть справедливым, технология действительно находится в зачаточном состоянии, и есть несколько приложений, в которых такой корпоративный поставщик, как IBM, имеет смысл. Спорный сервис Rekognition от Amazon, несмотря на то, что он был протестирован довольно многими правоохранительными органами, не очень хорошо продуман в этой области. IBM не сильно выиграет от попыток конкурировать с продуктом, который так же едва ли достаточно хорош для использования.

В письме Кришны также говорится, что «производители и пользователи систем Al несут общую ответственность за обеспечение того, чтобы Al проверялся на предвзятость, особенно при использовании в правоохранительных органах, и чтобы такое тестирование на предвзятость проверялось и сообщалось». Это что-то вроде расставания с теми, кто работает в этой области, в частности, с Amazon, которые были призваны из-за низкого качества систем распознавания лиц, но не перестали их продавать.

Неясно, будет ли компания продолжать исследования ИИ в этом направлении.

Прочитайте полную историю здесь…

Подписаться
Уведомление о
гость
0 Комментарии
Встроенные отзывы
Посмотреть все комментарии