Технократы обращаются к специалистам по этике, чтобы «спасти свою душу»

Пятьдесят два этажа ниже верхней части башни Salesforce, я встречаю Паулу Голдман в конференц-зале со стеклянными панелями, где слова EQUALITY OFFICE написаны на лоскутном баннере, который можно купить на день рождения ребенка.

Гольдман имеет степень магистра Принстона и докторскую степень. из Гарварда, где она изучала, как противоречивые идеи становятся мейнстримом. Она пришла в Salesforce чуть больше года назад стать ее первым в истории главным специалистом по этике и гуманному использованию, получив беспрецедентное и решительно неоднозначное звание, которое было создано специально для ее беспрецедентной, неоднозначной, но в то же время весьма специфической работы: следите за тем, чтобы Salesforce делала мир лучше, а не хуже.

«Я думаю, что в отрасли мы находимся в точке перелома», - говорит мне Голдман. «Я думаю, что технологическая индустрия была здесь раньше, с безопасностью в 80-х. Внезапно появились вирусы и черви, и потребовался совершенно новый способ думать об этом и бороться с этим. И после этого вы увидели, как выросла индустрия безопасности. А теперь это просто стандартный протокол. Вы не стали бы выпускать крупный продукт, не объединив его или не убедившись, что в нем есть правильные меры безопасности ».

«Я думаю, что мы находимся в похожем моменте с этикой», - говорит она. «Для этого требуется не только набор инструментов для выполнения работы, но и набор норм, что важно. Так как же масштабировать эти нормы? »

Я спрашиваю ее, как эти нормы решаются в первую очередь.

«В некотором смысле это вопрос на миллиард долларов», - говорит она. «Все эти вопросы чрезвычайно сложны, и очень немногие из них, где ответ абсолютно ясен. Правильно? Во многом это сводится к тому, какие ценности вы придерживаетесь в своих расчетах больше всего? »

· · ·

После скандала с Cambridge Analytica, увольнений сотрудников и других политических инцидентов и инцидентов, связанных с конфиденциальностью, технические компании столкнулись с волной звонки в Наем то, что исследователи из Института исследований данных и общества называют «Владельцы этических норм», люди, ответственные за практическую и наглядную реализацию «древних, непреодолимых и неразрешимых споров о человеческих ценностях, лежащих в основе этических исследований».

Salesforce наняла Goldman от сети Omidyar в качестве кульминация о семимесячном процессе антикризисного управления, который начался после того, как сотрудники Salesforce опротестовали участие компании в иммиграционной работе администрации Трампа. Другие компании, реагируя на собственные кризисы и проблемы, наняли небольшую группу аналогичных профессионалов - философов, экспертов в области политики, лингвистов и художников - и все они должны были убедиться, что, обещая не быть злом, у них действительно есть четкое представление о том, что делать. что это влечет за собой.

Итак, что случилось?

В то время как некоторые технологические компании предприняли конкретные шаги по внедрению этического мышления в свои процессы, Кэтрин Миллер, временный генеральный директор консалтинговой компании Doteveryone по этическим вопросам, говорит, что эта тема также обсуждалась очень часто.

Критики отклоняют это как «Этика-стирка, »Практика простого поклонения моральным ценностям, чтобы избежать государственного регулирования и критики СМИ. Этот термин принадлежит к растущему лексикону технологической этики или «этики» - аббревиатуры, которая началась как сатира в телешоу «Кремниевая долина», но с тех пор время от времени перешла в серьезное употребление.

«Если вы не примените это в реальной практике и в своих структурах стимулирования, если у вас нет процессов проверки, ну, тогда это будет похоже на моральный паразит», - говорит Шеннон Валлор, философ технологий из Центра Марккула. по прикладной этике в университете Санта-Клары. «Это то, что вы обещали и хотели выполнить, но на самом деле этого так и не произошло».

Google, как известно, создал Совет AI, а затем, в апреле прошлого года, распустил его после сотрудники протестовали включение защитника анти-ЛГБТК. Сегодня подход Google к этике включает использование «Карточки моделей», Цель которых - объяснить свой ИИ.

«Это не то, что имеет зубы», - говорит Майкл Брент, специалист по этике данных в Enigma и профессор философии в Денверском университете. «Это как:« Вот действительно красивая открытка ».

Компания приложила более существенные усилия: Валлор только что завершила командировку в Google, где она провела семинары по этике для инженеров и помогла компании внедрить структуры управления для разработки продуктов. «Когда я говорю об этике в организационной среде, я часто представляю ее так, что это совокупность моральных знаний и моральных навыков, которые помогают людям и организациям выполнять свои обязанности перед другими», - говорит мне Валлор.

Более 100 сотрудников Google имеют присутствовал тренинги по этике, разработанные в центре Марккула. Компания также разработала модуль справедливости в рамках ускоренного курса машинного обучения, и обновления список «ответственных практик ИИ» ежеквартально. «Подавляющее большинство людей, входящих в эти компании, хотят создавать продукты, полезные для людей», - говорит Валлор. «Они действительно не хотят ломать демократию, и они действительно не хотят создавать угрозы благополучию людей, и они действительно не хотят снижать грамотность и осознание реальности в обществе. Они хотят делать то, чем гордятся. Итак, сделаю ли я все возможное, чтобы помочь им в этом? Да."

· · ·

Центр Markkula, где работает Валлор, назван в честь Майка Марккулы-младшего, «неизвестный”Соучредитель Apple, который, В 1986дал центру стартовый грант на семена таким же образом, как он дал молодому Стиву Джобсу первоначальный заем. Он никогда не хотел, чтобы его имя было на здании - это был сюрприз, знак благодарности от университета.

Марккула вернулся к спокойной жизни, работая в своем обширном закрытом поместье в Вудсайде. В наши дни у него не так много контактов с компанией, которую он основал - «только когда у меня что-то выходит из строя с моим компьютером», - говорит он мне. Но когда в середине 80-х он прибыл в кампус Санта-Клары для ознакомления со своей дочерью, он был председателем Apple и беспокоился о том, как идут дела в Долине. «Нам обоим, Линде [его жене] и мне было ясно, что было довольно много людей, которые занимали руководящие должности, у которых просто не было этических норм на экране их радаров», - говорит он. «Дело не в том, что они были неэтичными, просто у них не было инструментов для работы».

Прочитайте полную историю здесь…