Утверждение: распознавание лиц ИИ может выявить вашу политическую партию

Исследователи создали систему машинного обучения, которая, как они утверждают, может определять политическую партию человека с разумной точностью только по его лицу. В исследовании, проведенном группой, которая также показала, что сексуальные предпочтения можно предположить таким образом, откровенно рассматриваются и тщательно избегаются ловушки «современной френологии», что приводит к неудобному выводу, что наша внешность может выражать больше личной информации, чем мы думаем.

Исследование, появившееся на этой неделе в журнале Nature Scientific Reportsпровел Михал Косински из Стэнфордского университета. В 2017 году Косински попал в заголовки газет своей работой, обнаружили, что сексуальные предпочтения человека можно предсказать по данным лица.

Исследование вызвало критику не столько за его методы, сколько за саму идею о том, что таким образом можно обнаружить что-то теоретически нефизическое. Но работа Косинского, как он объяснил тогда и впоследствии, была сделана специально для того, чтобы оспорить эти предположения, и вызвала у него такое же удивление и беспокойство, как и для других. Идея заключалась не в том, чтобы создать своего рода Гайдар с ИИ - по сути, как раз наоборот. Как писала команда в то время, публикация была необходима, чтобы предупредить других, что подобное может быть построено людьми, чьи интересы выходят за рамки академических:

Мы были очень обеспокоены этими результатами и потратили много времени на то, чтобы обнародовать их вообще. Мы не хотели задействовать те самые риски, о которых предупреждаем. Возможность контролировать, когда и кому раскрывать свою сексуальную ориентацию, имеет решающее значение не только для вашего благополучия, но и для вашей безопасности.

Мы чувствовали, что существует острая необходимость информировать политиков и ЛГБТ-сообщества о рисках, с которыми они сталкиваются. Мы не создавали инструмент, нарушающий конфиденциальность, а скорее показали, что основные и широко используемые методы представляют серьезную угрозу конфиденциальности.

Подобные предупреждения могут быть озвучены здесь, поскольку, хотя политическая принадлежность, по крайней мере, в США (и, по крайней мере, в настоящее время), не as чувствительный или личный элемент, как сексуальное предпочтение, он по-прежнему является деликатным и личным. Едва ли неделя не проходит, чтобы не прочитать об аресте или убийстве какого-либо политического или религиозного «диссидента» или другого человека. Если бы репрессивные режимы могли добиться того, что считается вероятной причиной, сказав, что «алгоритм пометил вас как возможного экстремиста», вместо, например, перехвата сообщений, это сделает такую ​​практику намного проще и более масштабируемой.

Сам алгоритм - это не какая-то сверхсовременная технология. В статье Косински описывается довольно обычный процесс загрузки в систему машинного обучения изображений более миллиона лиц, собранных с сайтов знакомств в США, Канаде и Великобритании, а также у американских пользователей Facebook. Люди, чьи лица использовались, идентифицировались как политически консервативные или либеральные в рамках анкеты сайта.

Алгоритм был основан на программном обеспечении для распознавания лиц с открытым исходным кодом, и после базовой обработки для обрезки только лица (таким образом, никакие элементы фона не вкрадываются в качестве факторов), лица уменьшаются до 2,048 баллов, представляющих различные функции - как и в случае с другим распознаванием лиц. алгоритмы, это не необходимые интуитивно понятные вещи, такие как «цвет бровей» и «тип носа», а скорее компьютерные концепции.

Системе были предоставлены данные о политической принадлежности, полученные от самих людей, и с их помощью она начала усердно изучать различия между чертами лица людей, идентифицирующих себя как консерваторов, и тех, кто идентифицирует себя как либералов. Потому что, оказывается, различия есть.

Конечно, это не так просто, как «у консерваторов более густые брови» или «либералы больше хмурятся». И дело не только в демографических данных, которые сделали бы все слишком легко и просто. В конце концов, если идентификация политической партии коррелирует и с возрастом, и с цветом кожи, это дает простой алгоритм прогнозирования. Но хотя программные механизмы, используемые Косинским, вполне стандартны, он старался прикрыть свои основы, чтобы это исследование, как и последнее, нельзя было сбрасывать со счетов как лженауку.

Самый очевидный способ решить эту проблему - сделать так, чтобы система предположила, что политическая партия состоит из людей того же возраста, пола и этнической принадлежности. Тест включал представление двух лиц, по одному от каждой стороны, и угадывание того, какое из них. Очевидно, вероятность точности составляет 50%. Люди не очень хорошо справляются с этой задачей, выполняя лишь чуть выше вероятности, с точностью около 55%.

Алгоритму удалось достичь 71% точности при прогнозировании политической партии между двумя похожими людьми, а 73% были представлены двумя людьми любого возраста, этнической принадлежности или пола (но все же гарантированно были один консерватор, один либерал).

Прочитайте полную историю здесь…