Не требуется профессора, чтобы интуитивно понять, что программы, созданные людьми, не могут подняться над предубеждениями их создателей. Технократы упускают этот момент, полагая, что любое автоматизированное решение более эффективно и последовательно, чем человеческое суждение. ⁃ TN Editor
В будущем ваше будущее может зависеть от ряда тщательно рассчитанных нулей и единиц.
По мере совершенствования технологий люди все меньше участвуют в принятии решений, которые влияют на нашу жизнь, и это не совсем хорошо.
По мере развития искусственного интеллекта профессора колледжа Массачусетского университета в Амхерсте разработали программу для тестирования программного обеспечения на предвзятость и дискриминацию.
Да, расовая дискриминация. Но более того. Медицинские решения. Кредитные решения. Черт, даже то, как Amazon определяет скорость отправки посылок.
«Сегодня программное обеспечение определяет, кто получает кредит или нанимается, вычисляет баллы оценки риска, которые помогают определить, кто попадает в тюрьму, а кого освободить, и помогает в диагностике и лечении медицинских пациентов», в соответствии разработчикам программы.
При этом крайне важно, что «программное обеспечение не дискриминирует группы или отдельных лиц», утверждают исследователи, добавляя, что их область исследований «недооценена» и «появилось бесчисленное множество примеров несправедливого программного обеспечения».
В академической гайд опубликовано для будущей разработки программного обеспечения конференцияученые-компьютерщики Александра Мелиу и Юрий Брун, которые создали программу вместе со студентом-доктором наук Сайнямом Гальхотрой, подробно описывают «растущую обеспокоенность» дискриминацией программного обеспечения.
В статье два профессора предсказывают, что программное обеспечение будет развиваться и возрастать в будущем, и утверждают, что программное обеспечение в настоящее время играет огромную роль в обществе.
«В будущем важность обеспечения справедливости в программном обеспечении будет только возрастать», - говорится в документе.
Ученые использовали примеры, которые иллюстрируют предвзятость против богатых и угнетенных.
Одним из примеров дискриминации программного обеспечения, предоставленной Бруном и Мелиу, является программирование, используемое Amazon.com для определения того, какие географические районы будут получать бесплатную доставку в тот же день. После развертывания программы в прошлом году это было утверждаемый районы меньшинств получали перк с гораздо меньшей скоростью, чем преимущественно белые районы.
Авторы также подчеркивают, как программное обеспечение, используемое в государственном секторе, может прогнозировать предвзятость, освещая технологию, используемую в ряде штатов, которая рассчитывает баллы по вероятности того, что преступник может совершить дополнительные преступления. По словам исследователей, было установлено, что программное обеспечение «ложно помечает чернокожих обвиняемых как будущих преступников, ошибочно маркируя их таким образом почти вдвое чаще, чем белых обвиняемых».
wpDiscuz
В нашей экономической системе капитализма, основанной на «свободных» рынках, рыночная часть уже на 90% искусственна (HFT).