Бешеный против алгоритма: Google и убедительные технологии

Монстры и титаны разделяют стадию мифологии в разных культурах как необходимые реализации человеческого воображения. Тема от каменной пещеры до городского жилища - неослабная тема; хранящиеся в воображении, такие существа выполняют, достаточно невинно, добрые функции. Подвох здесь заключается в стремлении человека реализовать такие существа. Они принимают форму социальной инженерии и утопии. Безумно связанные, такие проекты и предприятия заканчиваются развращением и деградацией. Рождается чудовище, и на первый план выходит ужасная истина: концентрационный лагерь, состояние слежки, газетный пик, армии цензуры.

Технологические гиганты нынешней эпохи - это современные утописты, потворствующие человеческому голоду и интересам, формируя их. Одна компания дает нам архетип. Это Google, который отличается необычным существительным и глаголом, сущностью и действием. Власть Google непропорционально велика, жуткий рост, который лелеет прозрачность, в то время как ее не хватает, и хранит информацию, регулируя ее охват. Это также сущность, которая выходит за рамки простого хранилища запросов и данных, попытки вызвать поведенческие изменения со стороны пользователей.

У Google всегда создается впечатление, что его пользователи лидируют, автономны, независимы в зеленой стране цифрового дурачества. Мысль о том, что сама компания способствует таким изменениям, дразня изменения в поведении, отодвинута на одну сторону. В Googleland нет свенгалистов, потому что мы все свободны. Бесплатная, но нуждающаяся в помощи среди хаоса и «многозадачности».

Люди имеют то, что звонки компании «Микро-моменты», те, как поведенческий экономист Дэн Ариэли описывает как «мобильные моменты на ходу», когда пользователь принимает решения, одновременно занимаясь целым рядом задач: отели, которые нужно бронировать, выбор поездки, график работы. В то время как Арили пишет более широко с точки зрения вездесущего цифрового маркетолога, язык - чистый гуглис, порка частичного убеждения и частичного навязывания. «Хотите разработать стратегию для формирования ваших потребительских решений?» спрашивает Google, «Начните с понимания ключевых микро-моментов в их путешествии». Поймите их; питать свой разум; держать их за руку

Зависимость от Google приводит к тому, что больше нельзя рассматривать как замедление, а поощрение. Поколение растет без печатной библиотеки исследований, готового списка классиков и средств для поиска в записях, не прибегая к этим чертовым цифровым ключам. Должны быть проведены дебаты (некоторые уже загрязняют цифровое пространство) о том, является ли это условием для оплакивания. Примите цифровую амнезию! Для Google это существовать.

Что не вызывает сомнений в том, что средства для поиска информации - мгновенные, GLUT заполненных, отчаянно быстро - уже созданных пользователей, которые населяют пространство, которое направляет их мышление, упреждение, уговоры и регулировку. Можно было бы любезно сказать, что одна форма грамотности вытесняется другой: ненормальный Google на нас.

Учитывая природу таких эффектов, неудивительно, что политики считают, что Google угрожает их заплесневелости и коррозии. Заповедник политика - это здоровая или неправильная коммуникация; успех на следующих выборах зависит от того, что избиратели понимают и одобряют то, что им было передано (независимо от того, является ли этот материал фактическим, или нет, ложью или иным, не имеет значения: политик жаждет убедить в Чтобы выиграть).

В этом отношении старая поисковая система Titan дает некоторую загадку. С одной стороны, он предлагает политическим классам средства для охвата глобальной аудитории, способ кричать и продвигать следующую запутанную схему, которая приходит в голову политическому аппарату. Но что, если сообщение застопорилось на пути, находя задержки в средствах так называемой «поисковой оптимизации»? Виноват ли Google, или политическая стандартность со стороны политика?

Политики США считают, что у них есть ответ. Только им разрешено контролировать повествование и распространять ложь. В последнее время они пытались наметить путь, к которому они не привыкли: регулирование отраслей, которые когда-то были провозглашены стражами свободы, сторонниками свободы. Их жалобы имеют тенденцию быть непоследовательными. С одной стороны, они находят различные алгоритмы Google проблематичными (предпочтение отдают альт-правым сайтам, заговорщическая каша как разрушающая), но их уклон шаткий и искаженный. Если бы эти алгоритмы определяли удобные поисковые термины (конформистский, устойчивый, беспрекословный, анти-козырь), вопрос был бы непростым. Наше сообщение, они сказали бы, выходит там.

На этой неделе комитет Сената США по торговле, науке и транспорту попытался разобраться в «убедительных технологиях», довольно обличительно. Нанетт Бирнс снабжает мы с определением: «идея, что компьютеры, мобильные телефоны, веб-сайты и другие технологии могут быть разработаны таким образом, чтобы влиять на поведение людей и даже их отношение». Папа остается решительным католиком.

Наблюдения и советы этой статьи мы подготовили на основании опыта команды слушание комитета были высказаны такие мнения, как мнение сенатора Джона Тьюна (R-SD), который хотел использовать разбирательство для разработки законопроекта, который «требовал бы, чтобы интернет-платформы давали потребителям возможность взаимодействовать с платформой, не имея опыта, сформированного алгоритмами». Сенатор с радостью принимает тот факт, что искусственный интеллект «позволяет автоматизировать отображение контента для оптимизации взаимодействия», но видит в работе дьявола, поскольку «алгоритмы ИИ могут иметь непреднамеренный и, возможно, даже опасный недостаток». Это равносильно желанию получить Гран-при Формулы-1 без быстрых автомобилей и соревнования по легкой атлетике в замедленном темпе.

С сенатором от Google столкнулась Мэгги Стэнфилл, директор Google User Experience. Ее свидетельство было выражено словами, более схожими с глянцем туристической брошюры с бесплатной каплей кокаина. «Инициатива Google по цифровому благосостоянию - главная цель компании, которая направлена ​​на то, чтобы предоставить нашим пользователям представление об их цифровых привычках и инструментах для поддержки преднамеренных отношений с технологиями». Google просто «создает продукты, которые улучшают жизнь людей, которые их используют». Компания предоставила доступ, который «демократизировал информацию и предоставил услуги миллиардам людей во всем мире». Когда его спросили, действительно ли Google вносит свой вклад в дело убеждения, Стенфилл был однозначен. «Мы не используем убедительные технологии».

Тема сессии была ясна: куча и масса контента хороши, но должны быть уместны. В «Информационной утопии», где цифровые Адам и Ева по-прежнему бегают голыми, зло не будет допущено. Если люди хотят искать контент, который является «негативным» (этот ужасающий произвольный характер продолжает появляться), им нельзя позволять делать это. Кляп их, и убедитесь, что популярные термины являются белыми от любого оскорбительного или опасного импорта. Возложить на технических титанов ответственность за контроль над негативом.

Сенатор Брайан Шатц (D-Hawaii) жаловался на то, что эти компании «позволили этим алгоритмам взбеситься […], оставив людей навести порядок». Алгоритмы аморальны ». Тристан Харрис, соучредитель и исполнительный директор Центра гуманных технологий, говорил конкуренции между компаниями за использование алгоритмов, которые «более точно предсказывают, что будет держать пользователей там дольше всего». Если вы хотите максимизировать время, затрачиваемое на поиск терминов, или, в случае YouTube, смотреть видео, сфокусируйте «всю колонию муравьев» человечества к сумасшедшему городу ». Для Харриса« технология взламывает человеческие слабости ». Мораль? Не давайте людям то, что они хотят.

Ярость против алгоритма и убеждение в том, что в поисковых технологиях не происходит поведенческого толчка, неуместны по нескольким направлениям. На определенном уровне все признают, как работают такие способы получения информации. Возникают разногласия относительно их последствий, фактически уступка пользователю Google как ненормальному. Стэнфилл лукавит, полагая, что убедительные технологии не являются функцией работы Google (это очевидно, учитывая намерение компании улучшить «намеренные отношения с технологией»). В своем свидетельстве она говорила о создании «продуктов с конфиденциальностью, прозрачностью и контролем для пользователей, и мы строим пожизненные отношения с пользователем, что является первичным». Сенаторы, в свою очередь, обеспокоены тем, что пользователи, обремененные поощрениями в своих поисковых интересах неспособны составить собственное хрупкое мнение.

Природа управляемой информации в цифровом опыте, как показывают Google, YouTube и другие подобные компании, не является случаем расширения знаний, но подтверждает существующие предположения. Эхо-камера изобилует подтверждениями, а не проблемами, удобством предубеждения, а не неудобствами обучения тяжелой артиллерии. Но избранные граждане на Холме и кибер-утописты продолжают бороться и колебаться в цифровых джунглях, которые они рассматривали как информационную утопию, равную всем. Для гигантов Big Tech все довольно просто: зрелище, привлекающее внимание, задницы на сиденьях и множество загрузок.

Прочитайте полную историю здесь…