Хотя похвально то, что создатели видят опасные результаты своего ИИ и готовы воздержаться от них до дальнейшего анализа, это всего лишь вопрос времени, когда они ускользнут. При создании искусственных историй не используется человеческий интеллект. ⁃ Редактор TN
Создатели революционной системы ИИ, которая может писать новостные сюжеты и художественные произведения, получившие название «глубокие подделки для текста», сделали необычный шаг - не публиковать свои исследования публично, опасаясь возможного злоупотребления ими.
OpenAIНекоммерческая исследовательская компания, поддерживаемая Элоном Маском, Рейдом Хоффманом, Сэмом Альтманом и другими, говорит, что ее новая модель ИИ под названием GPT2 настолько хороша и риск злонамеренного использования настолько высок, что она выходит за рамки обычной практики выпуска полной версии. исследования для общественности, чтобы дать больше времени для обсуждения последствий технологического прорыва.
По своей сути, GPT2 является генератором текста. Система ИИ подает текст, от нескольких слов до целой страницы, и просит написать следующие несколько предложений, основываясь на своих предсказаниях того, что должно произойти дальше. Система раздвигает границы того, что считалось возможным, как с точки зрения качества выпускаемой продукции, так и широкого разнообразия потенциальных применений.
Когда GPT2 используется для простого генерирования нового текста, он способен писать правдоподобные отрывки, которые соответствуют тому, что дано как по стилю, так и по теме. Он редко показывает какие-либо причуды, которые выделяют предыдущие системы ИИ, например, забывает, что он пишет о середине пути через абзац, или искажает синтаксис длинных предложений.
Подайте ему начальную строку «Девятнадцати восьмидесяти четырех» Джорджа Оруэлла - «Это был ясный холодный день в апреле, а часы пробили тринадцать» - и система распознает смутно футуристический тон и новаторский стиль и продолжает:
«Я был в своей машине на пути к новой работе в Сиэтле. Я заправляю газ, вставляю ключ и запускаю. Я просто представил, каким будет этот день. Через сто лет. В 2045 я был учителем в какой-то школе в бедной части сельского Китая. Я начал с китайской истории и истории науки ».
Поток первые несколько абзацев история Хранителя о Brexitи его выход - правдоподобная газетная проза, изобилующая «цитатами» Джереми Корбина, упоминаниями об ирландской границе и ответами пресс-секретаря премьер-министра.
Один такой, совершенно искусственный, параграф гласит: «На просьбу прояснить доклады представитель Мэй сказал:« Премьер-министр ясно дал понять, что ее намерение состоит в том, чтобы покинуть ЕС как можно быстрее, и это будет под ее переговорным мандатом. как подтверждено в речи королевы на прошлой неделе.
wpDiscuz