Newspeak AI: полностью поддельные новости могут разрушить Интернет

обтекаемый язык
Пожалуйста, поделитесь этой историей!
image_pdfimage_print
OpenAI был основан в 2015 для продвижения и развития ИИ, который принесет пользу человечеству в целом. Вместо этого они создали самый опасный ИИ из всех возможных на земле, которые могут разрушить Интернет и манипулировать умами каждого человека.

Первоначально OpenAI финансировался частично готовым технократом Элоном Маском, чей дед был главой Technocracy, Inc. в Канаде во время 1930 и 40. ⁃ TN Editor

Система искусственного интеллекта, которая генерирует реалистичные истории, стихи и статьи, была обновлена, и некоторые утверждают, что теперь она почти так же хороша, как писатель-человек.

Генератор текста, Построенный исследовательской фирмой OpenAI, изначально считался «слишком опасным», чтобы обнародовать его из-за возможного злоупотребления.

Но теперь вышла новая, более мощная версия системы, которая может использоваться для создания поддельных новостей или оскорбительного спама в социальных сетях.

Би-би-си вместе с некоторыми экспертами по искусственному интеллекту решили испытать это.

Модель, получившая название GPT-2, была обучена на наборе данных из восьми миллионов веб-страниц и способна адаптироваться к стилю и содержанию исходного текста, переданного ей.

Он может закончить стихотворение Шекспира, а также писать статьи и эпитеты.

В то время фирма заявила: «Из-за нашей озабоченности по поводу вредоносных приложений технологии мы не выпускаем обученную модель. В качестве эксперимента по ответственному раскрытию информации мы вместо этого выпускаем гораздо меньшую модель для экспериментов с исследователями ».

В результате выпущенная версия имела гораздо меньше параметров - фраз и предложений - чем использовалась во время обучения.

В этом месяце OpenAI решил расширить параметры, предложив гораздо более широкую базу данных об обучении.

Технический новостной сайт The Next Web сказал об обновлении: «Этот работает почти достаточно хорошо, чтобы использовать его в качестве общего искусственного интеллекта для генерации текста - почти».

Автор статьи Тристан Грин добавил: Я в ужасе от GPT-2, потому что он представляет собой технологию, которую злые люди собираются использовать для манипулирования населением - и, по моему мнению, это делает его более опасным, чем любое оружие ».

Би-би-си решила протестировать систему, введя первые несколько предложений недавней истории, соответственно одно из них об искусственном интеллекте.

Мы начали с первого предложения реальной истории:

Китайская поисковая система Sogou создает двойников искусственного интеллекта для чтения популярных романов в голосах авторов..

Вот что придумал генератор текста для его завершения:

По словам исследователей, этот метод чтения является не просто детищем пользователей Amazon Kindle. Пользователи Android-устройств также являются заметным рынком для поддельного чтения. Есть несколько теорий, чтобы объяснить это.

Во-первых, устройство в руке пользователя отличается от планшета или компьютера, на котором он читает. Во-вторых, устройство, используемое для доступа в Интернет, может быть каким-то образом подделано. Третья причина заключается в том, что пользователь может просто копировать и вставлять контент непосредственно в своих виртуальных персонажей.

Тем не менее, другое объяснение состоит в том, что устройство не имеет возможности распознавания голоса вообще. Если это так, то распознавание голоса является более продвинутым, чем система перевода Google. Таким образом, эти пользователи обманываются, думая, что они читают от настоящего автора - книга звучит аутентично, как только они пытаются читать.

Теперь нажмите здесь, чтобы прочитать реальную историю для сравнения.

Ноэль Шарки, профессор компьютерных наук в университете Шеффилда, провел свои собственные испытания генератора и не был слишком впечатлен.

Человек заходит в бар

«Если бы программное обеспечение работало так, как задумано Open AI, это был бы очень полезный инструмент для простой генерации поддельных новостей и спама с кликбейтами. К счастью, в его нынешнем виде он генерирует непоследовательный и смешной текст, мало связанный с вводными «заголовками», - сказал он.

Он добавил: «Я протестировал программное обеспечение с многочисленными заголовками и получил смехотворные результаты. Например, для «Индейки ненавидят Рождество» я понял, что «Турция - единственная нация в мире, которая не празднует Рождество» и ряд несвязанных предложений.

«Поскольку« Борис Джонсон любит отступление », он произвел бессвязную тарабарщину и кое-что об искусственном интеллекте и спорте. Когда я ввел утверждение, что «Борис Джонсон ненавидит поддержку», я получил более понятную историю, которая, похоже, была извлечена из поиска Google ».

Дейв Коплин, основатель консалтинговой компании AI Envisioners, также поиграл с системой, введя первую строку классической шутки: Мужчина заходит в бар ...

Предложение от AI было не тем, что он ожидал: «… И заказал две пинты пива и два виски. Когда он попытался оплатить счет, с ним столкнулись двое мужчин, один из которых крикнул «Это для Сирии». Человек остался истекающим кровью и получил удар в горло ».

Это «в подавляющем большинстве случаев антиутопическое отражение нашего общества» стало уроком того, как любая система ИИ будет отражать смещение, обнаруженное в данных обучения, сказал он.

«Из моих коротких экспериментов с моделью стало ясно, что большая часть данных была обучена новостями в Интернете», - сказал он.

Прочитайте полную историю здесь…

Присоединиться к нашему списку рассылки!


аватар
2 Комментировать темы
0 Ответов
0 Фолловеры
Комментарий Mostov
Горячая тема комментариев
2 Авторы комментариев
онаДжим Рейнхарт Последние авторы комментариев
Подписаться
новейший самый старший большинство проголосовавших
Уведомление о
Джим Рейнхарт
гость
Джим Рейнхарт

Когда основополагающие предположения об интеллекте эвристики / ИИ неверны, тогда все решения будут идти по пути запрограммированной глупости всегда приводить к результату, который никогда не будет зафиксирован, так как люди не смогут работать, думать, действовать вне их рабские клетки, запрограммированные кучкой идиотов, которые не имели дела с внедрением такой жесткой системы, у которой нет совести, независимо от того, насколько мощный компьютер или вычислительные вариации человека создали гибкое программное обеспечение. Те, кто находятся в этом лагере, верят только в одно лучшее решение и не могут определить континуум... Читать дальше

она
гость
она

Удивительно. Противные силы на работе действительно прилагают все усилия, чтобы привести в порядок своих искусственных искусственных ботов до того, как начнется серьезная битва на выборах.

Безумное убежище, Джим? Тру дат, брат.

Основная истина об угрозе ИИ полностью ускользает от очень, очень глупых создателей / кодеров, чья единственная цель состоит в том, чтобы выпустить своих ИИ-ботов в Интернет и другие места. Они больше похожи на детей 6-лет с коробкой спичек в сухом лесу, чем на профессионалов или взрослых. Не учитываются результаты, которые могут быть получены от ИИ, кроме одного - от ПРИБЫЛИ.