Цензура антиутопических исследований Google, искажение знаний

После увольнения Тимнита Гебру и других известных исследователей искусственного интеллекта в Google, Alphabet объезжал фургоны и подъезжал к ним. Из Маунтин-Вью текут отчеты, в которых команды юристов подвергают цензуре научные исследования и действуют как неназванные сотрудники и рецензенты.

Совсем недавно Business Insider удалось интервью несколько исследователей, которые нарисовали поразительную и мрачную картину того, что значит пытаться проводить исследования в условиях такого антинаучного режима.

Согласно статье один исследователь сказал:

У вас есть десятки юристов - без сомнения, высококвалифицированных юристов - которые, тем не менее, на самом деле очень мало знают об этой технологии ... и они работают над вашими исследованиями, как английские старшекурсники, читающие стихотворение.

Проблема здесь в том, что Google не подвергает исследования цензуре, чтобы, скажем, не раскрыть свои секреты. Его юристы занимаются научными исследованиями, которые портят компанию.

Человек, процитированный выше, добавил, что они специально говорили о вычеркивании ссылок на «справедливость» и «предвзятость» и о том, что ученым было сказано изменить результаты своей работы. Это не только неэтично, но и невероятно опасно.

Чай: искусственный интеллект Google сломан. Это может быть компания с оборотом в триллион долларов и самая передовая система искусственного интеллекта на Земле, но ее алгоритмы предвзяты. И это опасный.

Как ни крути, искусственный интеллект Google не работает так же хорошо для людей, которые не похожи на подавляющее большинство сотрудников Google (белых парней), как для людей, которые это делают. Из поиска слияние чернокожих людей и животных к алгоритмам работы камеры на Pixel 6 невозможность правильно обработать небелые тона кожиПроблемы машинного обучения Google хорошо известны.

Это большая проблема, и исправить ее непросто. Представьте, что вы создаете машину, которая не работает так же хорошо для чернокожих и женщин, как для белых парней, продавая 200 миллионов, а затем люди постепенно узнают, что их автомобили были расистскими.

Было бы много чувств и эмоций по поводу того, что это будет значить.

Текущая ситуация с Google очень похожа. Его продукция есть повсюду. Он не может просто вспомнить поиск или приостановить работу Google Рекламы на несколько дней, пока он переосмысливает весь мир глубокого обучения, чтобы исключить предвзятость. Почему бы не избавиться от голода в мире и не сделать бессмертных щенков?

Итак, что вы делаете, когда вы одна из самых богатых компаний в мире и сталкиваетесь с истиной настолько ужасной, что ее существование заставляет вашу модель казаться злой?

Вы делаете то, что сделал большой табак. Вы находите людей, готовых сказать то, что отвечает интересам вашей компании, и используете их, чтобы помешать людям, говорящим правду, поделиться своими исследованиями.

В 2007 году Национальные институты здравоохранения опубликовали исследование, в котором описывалась роль юристов во время крупных юридических баталий, связанных с табаком, в предыдущие десятилетия.

В статье, озаглавленной «Юристы табачной индустрии как переносчик болезней, »Исследователи связывают распространение заболеваний, связанных с длительным употреблением табака, с тактикой, применяемой юристами отрасли.

Некоторые ключевые выводы из статьи включают в себя:

• Несмотря на свое обязательство делать это, табачные компании часто не проводили исследования безопасности продукции или, когда проводились исследования, не могли распространить результаты среди медицинского сообщества и общественности.
• Юристы табачных компаний участвовали в деятельности, которая мало или не имела ничего общего с юридической практикой, включая оценку и попытки повлиять на убеждения ученых компании, проверку внутренних научных исследований и указание штатным ученым не публиковать потенциально опасные результаты. .
• Кроме того, юристы компании предприняли шаги по созданию адвокатской тайны и покрытия рабочего продукта, чтобы помочь своим клиентам в защите конфиденциальных документов от разглашения, были вовлечены в сокрытие таких документов и использовали судебную тактику, которая в значительной степени помешала успешным судебным процессам. против компаний-клиентов.

Прочитайте полную историю здесь…