Yelp и все другие контент-провайдеры борются за свое существование за фильтрацию и удаление фальшивой информации. Как отличить поддельные данные от настоящих? По большей части вы этого не сделаете, но это станет постоянной частью вашего профиля. ⁃ TN Editor
Роботы собираются украсть ваши отзывы.
Исследователи из Чикагского университета подготовили нейронную сеть или систему искусственного интеллекта для написания фальшивых рецензий на Yelp - и их довольно сложно отличить от рецензии от человека.
Их изучение, которая будет представлена на конференции ACM по безопасности компьютеров и коммуникаций в октябре, чтобы показать, насколько легко эти системы могут имитировать отзывы людей - и насколько вредными они могут стать, если их не контролировать должным образом.
Поскольку многие малые предприятия полагаются на онлайн-обзоры, чтобы помочь расти и поддерживать свою репутацию, будущее, в котором кто-то - например, конкурент или злой клиент - мог бы гипотетически спамить на своей странице с помощью негативных отзывов, написанных машиной, - довольно тревожно.
И, по словам исследовательской группы, угроза выходит далеко за рамки ложных обзоров на Yelp.
«В общем, угроза больше», Бен Я. Чжао, один из авторов исследования, рассказал Business Insider. «Я думаю, что угроза обществу в целом и действительно разочарованным пользователям и поколебать нашу веру в то, что реально, а что нет, я думаю, что это будет еще более фундаментальным».
Чтобы проверить, насколько правдоподобны эти обзоры, исследователи наняли добровольцев 40 и заставили ИИ сгенерировать пять поддельных обзоров для реальных ресторанов 40. Добровольцев спросили, насколько они думают, насколько полезен этот обзор, и считают ли они его подделкой. Обзоры AI оцениваются как «эффективно неотличимые» от реальных обзоров, согласно исследованию. Кроме того, поддельные обзоры получили оценку «полезности» 3.15 по сравнению с оценкой 3.28 для отзывов людей.
Ниже приведены четыре пятизвездочных отзыва для одного и того же ресторана в Нью-Йорке. Можете ли вы выяснить, какие из них написаны человеком?
"Мне нравится это место. Я собираюсь сюда годами, и это отличное место, чтобы тусоваться с друзьями и семьей. Я люблю еду и обслуживание. У меня никогда не было плохого опыта, когда я там ».
«Легко мой любимый итальянский ресторан. Я люблю дегустационное меню, на нем все удивительно. Я предлагаю карпаччо и спаржу. К сожалению, это стало более широко известным и становится трудным получить резервирование для прайм-тайм.
«У меня был жареный вегетарианский бургер с картошкой фри !!!! Оооо и вкус. Omgggg! Очень ароматный! Это было так вкусно, что я не написала это по буквам !!
«Я и моя семья - большие поклонники этого места. Персонал супер хороший, и еда отличная. Курица очень хорошая, а чесночный соус идеален. Вкусное мороженое с фруктами. Настоятельно рекомендуется!"
Номер два - единственный обзор, написанный человеком; числа один, три и четыре были сгенерированы ИИ.
