Разоблачение ChatGPT! По мере того, как тексты, сгенерированные ИИ, становятся все более распространенными в интернете, социальных сетях и электронных письмах, зачастую без какой-либо маркировки, пользователи Reddit делятся явными признаками, которые они используют для выявления текста, сгенерированного ChatGPT.
В теме, начатой пользователем PowerfulDev, которая собрала более 300 комментариев, пользователи обсуждали слова и фразы, которые можно использовать для лучшего выявления контента, сгенерированного ChatGPT. По мнению пользователей Reddit, ChatGPT имеет тенденцию непропорционально часто использовать определенные слова, такие как:
- Углубляться (Delve)
- Гобелен (Tapestry)
- Калейдоскоп (Kaleidoscope)
- Способствовать (Foster)
- Нюансированный (Nuanced)
- Ключевой (Crucial)
- Важнейший (Essential)
- Кроме того (Furthermore)
- Более того (Moreover)
Многие пользователи согласны с тем, что ChatGPT слишком часто делает выводы, даже когда они не нужны. «В заключение я думаю, что это очень полезный способ идентифицировать контент ChatGPT», — пишет пользователь MrSnowden.
Слегка более стилизованный язык и фразы, такие как «в этом цифровом мире» или «давайте углубимся», также считаются показателями текста ChatGPT.
Комментаторы также описывают ChatGPT как генерирующий чрезмерно интеллектуальные пассажи со словами «замысловатый», «нюансированный», «сложный» или «многогранный» для определенных тем.
Частое использование дефисов в сложных прилагательных, даже когда это грамматически не обязательно, также является потенциальным признаком ChatGPT. Freylaverse указывает на длинное тире без пробелов с обеих сторон, которое не так легко набрать на клавиатуре, как дефис. ChatGPT использует их правильно, в то время как ленивые люди обычно просто используют дефисы.
Предложения и абзацы единообразной длины и общий формальный стиль также характерны для ChatGPT. В электронных письмах такие фразы, как «Надеюсь, это письмо застанет вас в добром здравии» или чрезмерное использование «кроме того» или «более того», рассматриваются как тревожные признаки.
Разоблачение ChatGPT
ИИ-детективам легко распознать тексты, в которых ChatGPT пишет: «Как модель ИИ…». Некоторые люди игнорируют эту оговорку и все равно публикуют текст.
Однако некоторые пользователи Reddit предостерегают от восприятия отдельных слов как явного доказательства использования ChatGPT. В конце концов, люди могут использовать эти слова — иначе их не было бы в обучающих данных. Только в сочетании и в большом количестве они указывают на текст, сгенерированный ИИ.
Анекдотический анализ и зловещая долина коммуникации
Анализ, проведенный пользователем Reddit peyotebonsai в рамках исследовательского проекта, показывает, что посты в LinkedIn, написанные ИИ, в среднем показывают несколько лучшие результаты при анализе тональности с помощью таких инструментов, как TextBlob и Vader, чем посты, написанные авторами-людьми.
TextBlob и Vader — это программы, которые могут оценивать настроение и эмоции в тексте. Результаты показывают, что текст, сгенерированный ИИ, имеет тенденцию звучать более позитивно, чем текст, созданный человеком, из-за выбора слов, говорит Peyotebonsai.
Однако интересно, что сравнение других показателей, таких как репосты, комментарии и лайки, показало, что контент, сгенерированный ИИ, получает значительно меньше вовлеченности от пользователей, чем посты, написанные человеком.
Это говорит о том, что пользователи LinkedIn хорошо осознают тонкие, но заметные различия между человеческим и машинным выражением мыслей.
Конечно, к анализу следует относиться с долей скепсиса, поскольку peyotebonsai публикует анонимно и не публикует результаты подробно. Но это согласуется с моим личным опытом, насколько это возможно.
Или, как выразился пользователь opi098514: «Для меня дело не в слове. Это своего рода зловещая долина… Но в общении».
Если вы никогда не слышали об этом эффекте: Зловещая долина изначально описывает явление, когда роботы или человекоподобные фигуры часто воспринимаются как жуткие, потому что они выглядят похожими на человека, но недостаточно похожими. Это создает ощущение отчуждения.
Когда речь идет о коммуникации, аналогия предполагает, что едва уловимые, но заметные различия в том, как ИИ и люди выражают себя, могут создать подсознательное чувство дискомфорта у читателя, даже если тексты ИИ могут показаться более связными и позитивными на поверхности.
