Поскольку человек несовершенен, из этого следует, что все, что человек создает, также несовершенно, включая компьютерные программы, предназначенные для запуска всего в нашей жизни. Кроме того, закон энтропии предполагает, что все, что человек создает, будет более несовершенным, чем его создатель. Довериться своей жизни и богатству секретным алгоритмам глупо и опасно. ⁃ TN Editor
В 1603, Английские чиновники арестовали сэра Уолтера Рэли. Они обвиняли его в измене. Он был предположительно замешан в свержении и убийстве нового короля Джеймса I.
На суде прокуроры представили только одно доказательство. Это было признательное письмо, написанное человеком, который предположительно планировал заговорГосподь Cobham, Письмо по имени Роли соучастник.
Сэр Уолтер Рэли сказал, что одно признание не было надежным. Если бы он мог принести Cobham для дачи показаний в суде у него будет хотя бы шанс допросить единственного свидетеля против него.
Но английские суды на Время не было особенно заинтересовано в надлежащей правовой процедуре. Они осудили Роли остроумиечто позволяет ему противостоять или проверить свидетеля.
Он был заключен в тюрьму и в конце концов казнен.
Быстрая перемотка вперед США, 2017. Мужчина обвиняется в убийстве. И главный свидетель против него - компьютерный алгоритм.
Алгоритм анализы сложные образцы ДНК. Это решаетif ДНК обвиняемого присутствует в образце.
Естественно, ответчик хочет знать как именно работает алгоритм.
И у него есть хороший повод для удивления. Его ранее осуждение за то же убийство опиралось на другая машина для тестирования ДНК.
Но сcientists новее решил алгоритм был не совсем прав. Тдоказательства, которые его осудили, были изменены с положительных на неубедительные.
Он сидел в тюрьме, осужден за убийство по неверному алгоритму!
Итак, на новом испытании, защита просит в изучить тАлгоритм новой машины.Но компания, которая разработалАлгоритм не нравится эта идея.
Наблюдения и советы этой статьи мы подготовили на основании опыта команды aАлгоритм является коммерческой тайной. Это было дорого для развития,и они не хотят, чтобы этот секрет раскрылся.
Мы жизньin возраст алгоритмов.
Алгоритм выбирает, какую музыку вы слушаете. И Spotify делает довольно хорошую работу ... A Неправильный алгоритм может заставить вас слушать гангстерскую песню вместо гангстерского рэпа. Не самая большая сделка ...
Но что происходит, когда алгоритм для самостоятельного вождения автомобиля должен решить, ударить ли по группе или пешеходы или погрузиться в себя - и являетесь- с обрыва?
Алгоритм становится вопросом жизни и смерти.
Прежде чем садиться за рульбудем хочу немного узнать об алгоритме.
Какие решения за доли секунды были запрограммированы для принятия?
Какие входные данные рассматриваются?
И шho точно написал алгоритм? Помните, алгоритмы все ещеиметь человеческий компонентт. И люди по своей природе предвзяты. Их субъективные мнения неизбежно превратятся в алгоритм.
Когда алгоритм обвиняет подсудимого в деле об убийстве ... это тоже жизнь или смерть.
Некоторые службы защиты детей используют алгоритм, чтобы решить, какие дети взять. Алгоритм назначает оценка рискана основе таких данных, как количество звонков, полученных отделом, и враждебность родителей по отношению к соцработникам.
Другое суды уже используют алгоритм, чтобы выяснить, recidivism риск - если преступник может повторно обидеть. Чем выше риск, тем длиннее предложение.
Если я выкурил сустав или подрался в старшей школе, могу ли я на 40% чаще совершатьa преступление?
WiБуду ли я признан виновным на основании вероятность в одиночестве? Как я могу быть уверен, что алгоритм не смещен?
После появления ProPublica проанализировал рецидив алгоритм, они обнаружили, что это был расистски предвзято
O'Neil Risk Consulting & Algorithmic Auditing это другая организация, которая изучает, насколько честны алгоритмы, используемые системой правосудия. Но они признают, что даже аудиты в определенной степени субъективны.
Довольно страшно иметь алгоритмы управления системой уголовного правосудия. Должный процесс может заменить на компьютерные процессоры.
Но алгоритмы не обязательно плохая вещь. Они могут анализировать обширные и сложные наборы данных. Требуется много работы, чтобы построить хороший алгоритм. Вы могу понять почему компания хотетьs защищать его секреты.
wpDiscuz