Вся система уголовного правосудия по всей Америке коррумпирована вопиющим злоупотреблением технологиями ИИ. Полиция небезразлична, когда добивается желаемых результатов, а не объективных фактов. Это сравнимо с ложным научным сообществом о глобальном потеплении. ⁃ Редактор TN
В мае 2010, спровоцированный серией громких скандалов, мэр Нового Орлеана попросил министерство юстиции США провести расследование в городском полицейском управлении (NOPD). Десять месяцев спустя Министерство юстиции предложило анализ пузырейВ течение периода его рассмотрения, начиная с 2005, NOPD неоднократно нарушал конституционные и федеральные законы.
Он использовал чрезмерную силу и непропорционально против чернокожих жителей; целевые расовые меньшинства, не носители английского языка и представители ЛГБТК; и не удалось решить проблему насилия в отношении женщин. Проблемы, сказал В то время помощник генерального прокурора Томас Перес был «серьезным, разносторонним, системным и глубоко укоренившимся в культуре департамента».
Несмотря на тревожные находки, город вступил в тайное партнерство только через год с фирмой Palantir, занимающейся интеллектуальным анализом данных, была развернута система прогнозного контроля. Система использовала исторические данные, включая записи об арестах и электронные полицейские отчеты, для прогнозирования преступности и оказания помощи в разработке стратегий общественной безопасности, согласно Компания и Правительство города материалы. Ни в коем случае эти материалы не предлагали каких-либо попыток очистить или изменить данные для устранения нарушений, выявленных Министерством юстиции. По всей вероятности, поврежденные данные поступали непосредственно в систему, усиливая дискриминационную практику департамента.
Прогнозирующие алгоритмы полицейской работы становятся обычной практикой в городах по всей территории США. Хотя отсутствие прозрачности затрудняет точную статистику, PredPol, ведущий поставщик, хвастается что он помогает «защитить» 1 в американцах 33. Программное обеспечение часто рекламируется как способ помочь тонко растянутым полицейским управлениям принимать более эффективные решения, основанные на данных.
Но новое исследование показывает, что не только Новый Орлеан обучил эти системы «грязным данным». бумаги выпущенный сегодня для публикации в NYU Law Review, исследователи AI Now Institute, исследовательского центра, изучающего социальное влияние искусственного интеллекта, обнаружили, что проблема широко распространена среди юрисдикций, которые он изучал. Это имеет серьезные последствия для эффективности прогнозирующей работы полиции и других алгоритмов, используемых в системе уголовного правосудия.
«Ваша система хороша только теми данными, которые вы используете для обучения», - говорит Кейт Кроуфорд, соучредитель и со-директор AI Now и автор исследования. «Если сами данные неверны, это приведет к тому, что больше полицейских ресурсов будет сосредоточено на одних и тех же общинах с чрезмерным обследованием и зачастую на расовой основе. Поэтому то, что вы сделали, на самом деле является своего рода технологической стиркой, когда люди, которые используют эти системы, предполагают, что они как-то более нейтральны или объективны, но на самом деле они укоренились в форме неконституционности или незаконности ».
Исследователи изучили юрисдикции 13, сосредоточив внимание на тех, которые использовали системы прогнозного полицейского контроля и были предметом расследования по заказу правительства. Последнее требование гарантировало, что полицейская практика имела юридически проверяемую документацию. В девяти юрисдикциях они нашли убедительные доказательства того, что системы были обучены «грязным данным».
Проблема была не только в искажении данных из-за непропорционального преследования меньшинств, как в Новом Орлеане. В некоторых случаях в полицейских управлениях была целенаправленная манипуляция или фальсификация данных под сильным политическим давлением с целью снижения официальных показателей преступности. Например, в Нью-Йорке, чтобы искусственно снизить статистику преступности, участковые командиры регулярно просили жертв на местах преступлений не подавать жалобы. Некоторые полицейские даже подбрасывали наркотики ни в чем не повинным людям, чтобы выполнить свои квоты на аресты. В современных системах прогнозирующей полицейской деятельности, которые полагаются на машинное обучение для прогнозирования преступности, эти поврежденные данные становятся законными предикторами.
wpDiscuz
GIGO! Мусор в; Мусор вышел!