Алгоритмы: в чем несколько ошибок 90% Точность?

Пожалуйста, поделитесь этой историей!
image_pdfimage_print
Поскольку человек несовершенен, из этого следует, что все, что человек создает, также несовершенно, включая компьютерные программы, предназначенные для запуска всего в нашей жизни. Кроме того, закон энтропии предполагает, что все, что человек создает, будет более несовершенным, чем его создатель. Довериться своей жизни и богатству секретным алгоритмам глупо и опасно. ⁃ TN Editor

В 1603, Английские чиновники арестовали сэра Уолтера Рэли. Они обвиняли его в измене. Он был предположительно замешан в свержении и убийстве нового короля Джеймса I.

На суде прокуроры представили только одно доказательство. Это было признательное письмо, написанное человеком, который предположительно планировал заговорГосподь Cobham, Письмо по имени Роли соучастник.

Сэр Уолтер Рэли сказал, что одно признание не было надежным. Если бы он мог принести Cobham для дачи показаний в суде у него будет хотя бы шанс допросить единственного свидетеля против него.

Но английские суды на Время не было особенно заинтересовано в надлежащей правовой процедуре. Они осудили Роли остроумиечто позволяет ему противостоять или проверить свидетеля.

Он был заключен в тюрьму и в конце концов казнен.

Быстрая перемотка вперед США, 2017. Мужчина обвиняется в убийстве. И главный свидетель против него - компьютерный алгоритм.

Алгоритм анализы сложные образцы ДНК. Это решает if ДНК обвиняемого присутствует в образце.

Естественно, ответчик хочет знать как именно работает алгоритм.

И у него есть хороший повод для удивления. Его ранее осуждение за то же убийство опиралось на другая машина для тестирования ДНК.

Но сcientists позже решил алгоритм был не совсем прав. Тдоказательства, которые его осудили, были изменены с положительных на неубедительные.

Он сидел в тюрьме, осужден за убийство по неверному алгоритму!

Итак, на новом испытании, защита просит в изучить тАлгоритм новой машины. Но компания, которая разработал Алгоритм не нравится эта идея.

Это aАлгоритм является коммерческой тайной. Это было дорого для развития,и они не хотят, чтобы этот секрет раскрылся.

Мы жизнь in возраст алгоритмов.

Алгоритм выбирает, какую музыку вы слушаете. И Spotify делает довольно хорошую работу ... A Неправильный алгоритм может заставить вас слушать гангстерскую песню вместо гангстерского рэпа. Не самая большая сделка ...

Но что происходит, когда алгоритм для самостоятельного вождения автомобиля должен решить, ударить ли по группе или пешеходы или погрузиться в себя - и вы- с обрыва?

Алгоритм становится вопросом жизни и смерти.

Прежде чем садиться за рульбудем хочу немного узнать об алгоритме.

Какие решения за доли секунды были запрограммированы для принятия?

Какие входные данные рассматриваются?

И шho точно написал алгоритм? Помните, алгоритмы все ещеиметь человеческий компонентт. И люди по своей природе предвзяты. Их субъективные мнения неизбежно превратятся в алгоритм.

Когда алгоритм обвиняет подсудимого в деле об убийстве ... это тоже жизнь или смерть.

Некоторые службы защиты детей используют алгоритм, чтобы решить, какие дети взять. Алгоритм назначает оценка риска на основе таких данных, как количество звонков, полученных отделом, и враждебность родителей по отношению к соцработникам.

Другое суды уже используют алгоритм, чтобы выяснить, recidivism риск - если преступник может повторно обидеть. Чем выше риск, тем длиннее предложение.

Если я выкурил сустав или подрался в старшей школе, могу ли я на 40% чаще совершать a преступление?

WiБуду ли я признан виновным на основании вероятность в одиночестве? Как я могу быть уверен, что алгоритм не смещен?

когда ProPublica проанализировал рецидив алгоритм, они обнаружили, что это был расистски предвзято

О'Нил Риск Консалтинг и Алгоритмический Аудит это другая организация, которая изучает, насколько честны алгоритмы, используемые системой правосудия. Но они признают, что даже аудиты в определенной степени субъективны.

Довольно страшно иметь алгоритмы управления системой уголовного правосудия. Должный процесс может заменить на компьютерные процессоры.

Но алгоритмы не обязательно плохая вещь. Они могут анализировать обширные и сложные наборы данных. Требуется много работы, чтобы построить хороший алгоритм. Вы могу понять почему компания хотетьs защищать его секреты.

Прочитайте полную историю здесь…

Присоединиться к нашему списку рассылки!


Подписаться
Уведомление о
гость
0 Комментарии
Встроенные отзывы
Посмотреть все комментарии