Как отличить текст, написанный нейросетью, от человеческого: признаки, детекторы и практические советы

Почему проблема распознавания ИИ-текстов стала актуальной

Стремительное развитие больших языковых моделей привело к тому, что сгенерированные тексты заполонили интернет, учебные материалы и даже научные публикации. По данным исследований, лишь 6% пользователей доверяют контенту, созданному искусственным интеллектом, а 7 из 10 россиян уверены, что легко отличат нейроконтент от авторского. При этом 70–75 человек из ста покинут сайт, если распознают ИИ-текст и не найдут в нем признаков живого опыта.

Для бизнеса это критично: публикация некачественного машинного контента подрывает доверие аудитории и может привести к пессимизации в поисковых системах. Google и Яндекс не делят контент на «ИИ» и «человеческий», но оценивают его качество и полезность. Тексты, лишенные уникальной экспертизы, рискуют потерять позиции в выдаче.

Кроме того, проблема касается и заказчиков контента. Недобросовестные исполнители могут сдать сгенерированный текст как авторский, что обесценивает оплату труда и создает репутационные риски. Поэтому умение распознавать ИИ-текст становится базовым навыком для редакторов, маркетологов и владельцев сайтов.

Стилистические маркеры: как вычислить нейросеть «на глаз»

Хотя нейросети становятся все совершеннее, их тексты часто имеют характерные особенности. Один из главных признаков — «стерильность» стиля: идеальная грамматика при отсутствии живого языка. Человек может допустить опечатку, но выдать яркий образ, нейросеть же наоборот — безупречна, но безлика.

Обратите внимание на ритмику. Нейросетевые тексты часто напоминают плавный поток без акцентов: мало коротких фраз, мало сбоев ритма, свойственных живой речи. Структура «гамбургера» — введение, несколько абзацев с маркированными списками, заключение с «таким образом» — тоже выдает машину.

Еще один маркер — «токсичная вежливость». Модели обучены быть безопасными и обходительными, поэтому избегают жестких утверждений и используют смягчающие конструкции: «стоит отметить», «несомненно», «является важным аспектом». Такой текст пресен и не запоминается.

Нейросети также склонны к чрезмерной структурированности: если в тексте на 500 слов три маркированных списка, это подозрительно. А если каждый пункт начинается с заглавного слова жирным — почти гарантия машинной генерации.

Нейроартефакты: конкретные признаки, которые выдают ИИ

Опытные редакторы выработали набор «нейроартефактов» — специфических ошибок и клише, характерных для сгенерированных текстов. Вот основные из них:

• Противопоставления: конструкции вида «это не просто инструмент, а целая философия» или «не разовая акция, а проект». Один раз — допустимо, три на абзац — почти наверняка ИИ.
• Выдуманные слова: модель иногда собирает несуществующие лексемы, например «взаимодейственность».
• Буква «ё»: нейросети почти всегда пишут «всё», «ещё», «чёрный», тогда как большинство людей в неформальных текстах используют «е».
• Идеальный баланс абзацев: у живого автора есть перекосы — где-то длинный абзац, где-то короткая реплика. Нейросеть держит примерно одинаковую длину.
• Метафоры из ниоткуда: заезженные образы вроде «данные — это новая нефть» выглядят красиво, но не несут смысла.
• Закругленные концовки: каждый блок завершается фразами «таким образом», «это позволяет сделать вывод», «в конечном счете».

Отдельно стоит упомянуть ошибки с заглавными буквами после двоеточия. Нейросети часто пишут с большой буквы после двоеточия, что противоречит правилам русского языка. Также модели любят начинать новые строки с отглагольных существительных и заканчивать их двоеточием.

Проблемы с фактами и логикой: галлюцинации нейросетей

Один из самых опасных недостатков ИИ-текстов — галлюцинации. Модели не проверяют факты, они предсказывают следующее слово, поэтому могут придумать несуществующее исследование, перепутать даты или сослаться на закон, которого нет. В медицинских, юридических или финансовых текстах это может привести к реальным последствиям.

Например, нейросеть может выдумать несуществующую песню или перепутать федеральные законы, как это случилось в одном из экспериментов: модель назвала 223-ФЗ законом о теплоснабжении, хотя он регулирует закупки. Такие ошибки подрывают доверие к контенту и могут навредить читателям.

Кроме того, нейросети часто перерабатывают существующий контент, а поскольку 80% информации в интернете — «вода», они выдают ту же воду в новой упаковке. Это приводит к низкой информационной плотности: текст кажется содержательным, но на деле не несет новой информации. Если абзац можно сократить на 40% без потери смысла — скорее всего, его писала машина.

Технические детекторы: как работают и кому доверять

Для автоматической проверки текстов на ИИ-происхождение существуют специальные сервисы. Большинство из них анализируют два параметра: предсказуемость текста (перплексию) и вариативность длины предложений. Если каждое следующее слово легко угадать, а предложения ровные, как под линейку, — вероятность машинной генерации высока.

Среди популярных сервисов можно выделить Crossplag, GPTZero и PR-CY. Однако тесты показывают, что их надежность не абсолютна. Например, Crossplag часто ошибается на больших текстах, считая их человеческими, а маленькие — сгенерированными. GPTZero лучше справляется с плохо написанными текстами, но может ошибаться на качественно отредактированных. PR-CY, российский сервис, показал себя лучше других на русскоязычных текстах, но и он не идеален.

Важно понимать: детекторы дают вероятностную оценку, а не точный вердикт. Ни один сервис не гарантирует 100% точности. Поэтому полагаться только на автоматическую проверку не стоит — лучше комбинировать ее с ручным анализом.

Научный подход: как исследователи распознают ИИ-тексты

Ученые из Сколтеха, МФТИ и Института искусственного интеллекта AIRI разработали метод, который не просто отличает тексты, но и объясняет, по каким признакам классификатор принимает решение. Используя разреженные автокодировщики (SAE), они разложили внутренние состояния языковой модели на «атомарные» признаки, которые можно интерпретировать.

Например, признак №3608 отвечает за синтаксическую сложность: его усиление заставляет модель создавать чрезмерно запутанные предложения, а ослабление — короткие «рубленые» фразы. Признак №4645 связан со степенью уверенности текста, а №6587 — с многословными вступлениями и чрезмерно подробными объяснениями.

Исследователи также обнаружили, что стандартные запросы к ChatGPT приводят к генерации текстов с характерными чертами, которые легко обнаруживаются. Однако если дать модели персонализированное задание (например, попросить написать в необычном стиле), эти черты могут ослабнуть или исчезнуть, что усложняет детекцию. Этот подход открывает путь к созданию более прозрачных и надежных детекторов.

Практический эксперимент: проверка текстов детекторами

Чтобы понять, насколько можно доверять детекторам, был проведен эксперимент с тремя сервисами: Crossplag, GPTZero и PR-CY. Для теста использовались два текста: полностью сгенерированный нейросетью и отредактированный вручную.

Crossplag не справился с задачей: оба больших текста он посчитал человеческими, а при проверке по частям — сгенерированными. GPTZero показал результат 30% для сгенерированного текста и 37% для отредактированного, что говорит о его неспособности точно различать. PR-CY оказался лучше: он определил сгенерированный текст на 69% (короткий фрагмент), а отредактированный — на 21%.

Интересно, что при проверке статьи, написанной человеком, PR-CY уверенно заявил, что текст создан человеком. Это подтверждает, что российский сервис лучше адаптирован к русскому языку. Однако даже он не идеален: на больших текстах точность падает. Поэтому рекомендуется проверять небольшие фрагменты (до 1000 символов) и комбинировать результаты.

Как написать текст, который не захочется проверять

Лучший способ избежать проблем с ИИ-детекторами — создавать качественный контент с реальной экспертизой. Вот несколько рекомендаций:

• Добавляйте конкретные факты, цифры и личные кейсы. Вместо «реклама может быть эффективной» напишите «в июле 2023 года мы запустили рекламу в Дзене и получили CPA 340 рублей при бюджете 50 тысяч».
• Используйте живой язык: допускайте легкую небрежность, вводные слова, риторические вопросы. Это делает текст естественнее.
• Избегайте шаблонных структур: не начинайте каждый абзац с отглагольного существительного, не злоупотребляйте списками.
• Добавляйте уникальные элементы: цитаты экспертов, ссылки на исследования, скриншоты, личные наблюдения.
• Не бойтесь выражать мнение и занимать позицию. Нейросети избегают конфликтов, а человек может спорить.

Если вы используете нейросети как помощника, обязательно редактируйте текст: переписывайте абзацы, добавляйте свои мысли, меняйте структуру. Тогда даже при проверке детектором текст будет выглядеть человеческим.

Ограничения и риски: почему нельзя полагаться только на детекторы

Несмотря на развитие технологий, ни один детектор не дает 100% гарантии. Исследования показывают, что даже лучшие сервисы ошибаются, особенно на коротких текстах или при наличии стилистических правок. Более того, существуют способы «обмануть» детекторы: добавление лишних пробелов, артиклей или нестандартных символов может сбить алгоритмы.

Кроме того, ложные обвинения в использовании ИИ могут навредить невиновным авторам. Если детектор ошибочно пометит человеческий текст как сгенерированный, это подорвет доверие к автору. Поэтому важно использовать детекторы как вспомогательный инструмент, а не как единственный критерий.

Также стоит помнить, что поисковые системы не наказывают за использование ИИ как таковое, а за низкое качество контента. Если текст полезен, уникален и содержит реальный опыт, он будет ранжироваться хорошо, даже если создан с помощью нейросети. Главное — не публиковать сырую генерацию без редактуры.

Практические рекомендации для редакторов и заказчиков

Чтобы защитить свой бюджет и репутацию, следуйте простым правилам:

• Всегда проверяйте тексты на ИИ-происхождение, особенно если они заказаны у фрилансеров. Используйте несколько детекторов и сравнивайте результаты.
• Обращайте внимание на стилистические маркеры: если текст слишком «гладкий», без ошибок и с идеальной структурой — это повод насторожиться.
• Требуйте от исполнителей предоставить черновики или промежуточные версии. Это поможет убедиться, что текст действительно авторский.
• Если вы сами используете нейросети, обязательно редактируйте результат: добавляйте личный опыт, факты, меняйте структуру.
• Помните, что лучший способ отличить ИИ-текст — насмотренность. Чем больше вы читаете и человеческих, и машинных текстов, тем быстрее ваш мозг научится распознавать паттерны.

В конечном счете, главный критерий — полезность для читателя. Если текст отвечает на вопросы, содержит уникальную информацию и вызывает доверие, неважно, кто его написал. Но если вы хотите избежать рисков, связанных с ИИ-контентом, следуйте этим рекомендациям.

Вопросы и ответы