Top AI Conference запрещает ChatGPT писать академические статьи

Одна из самых престижных в мире конференций по машинному обучению запретила авторам использовать инструменты искусственного интеллекта, такие как ChatGPT, для написания научных статей, что вызвало дебаты о роли текста, сгенерированного искусственным интеллектом, в научных кругах.

Международная конференция по машинному обучению (ICML) объявила об этой политике ранее на этой неделе, заявив: «Документы, содержащие текст, сгенерированный с помощью крупномасштабной языковой модели (LLM), такой как ChatGPT, запрещены, если созданный текст не представлен как часть экспериментальный анализ статьи». Новости вызвали широкое обсуждение в социальных сетях, где ученые и исследователи ИИ защищают и критикуют эту политику. На это отреагировали организаторы конференции. публикация более длинного заявления объясняя свое мышление. (ICML ответил на запросы Грань для комментариев, направив нас к этому же заявлению.)

По данным ICML, появление общедоступных языковых моделей ИИ, таких как ChatGPT — чат-бота общего назначения, который запущен в Интернете в ноябре прошлого года — представляет собой «захватывающее» развитие событий, которое, тем не менее, сопровождается «непредвиденными последствиями [и] вопросами без ответов». ICML говорит, что они включают вопросы о том, кто владеет выходом таких систем (они обучаются на общедоступных данных, которые обычно собираются без согласия, а иногда повторяют эту информацию дословно), и следует ли текст и изображения, созданные ИИ, «рассматривать как новые или просто производные от существующей работы».

В каждом случае существуют разные опасения по поводу вредного воздействия текста, сгенерированного ИИ. Одним из наиболее распространенных является то, что выход этих систем просто ненадежен. Эти инструменты ИИ представляют собой обширные системы автозаполнения, обученные предсказывать, какое слово следует за следующим в любом заданном предложении. Таким образом, у них нет жестко запрограммированной базы данных «фактов», на которые можно опереться — только возможность писать правдоподобно звучащие заявления. Это означает, что они склонны выдавать ложную информацию за правду так как данное предложение звуки правдоподобность не гарантирует ее фактичности.

В случае запрета ICML на текст, сгенерированный ИИ, еще одна потенциальная проблема заключается в том, чтобы провести различие между текстом, который был только «отшлифован» или «отредактирован» ИИ, и текстом, который был «полностью создан» этими инструментами. В какой момент несколько небольших исправлений под управлением ИИ составляют большую переделку? Что, если пользователь попросит инструмент искусственного интеллекта резюмировать свою статью в краткой аннотации? Считается ли это свежесгенерированным текстом (поскольку текст новый) или простой полировкой (поскольку это краткое изложение слов, написанных автором)?