Ну вот и все: тексты, сгенерированные ИИ, теперь повсюду (даже если вам кажется, что это не так). И что делать? Как научиться отличать их от человеческих? Есть кое-какие способы, которые пока работают
Мы рассказываем честно не только про войну. Скачайте приложение.
Если вам кажется, что искусственный интеллект везде, вам, скорее всего, не кажется. В июле 2026 года ВЦИОМ опросил россиян, пользуются ли они ИИ: 78% ответили положительно. Сервис «Грамота.ру» в голосование на «Слово года» включает сразу несколько слов, которые так или иначе относятся к ИИ.
Значительная часть сгенерированного ИИ-контента — это текст. Искусственный интеллект пишет электронные письма, готовит рассылки или посты. Все больше людей жалуются, что нейрослоп откровенно бесит: тексты ИИ однообразны и поверхностны, а иногда и вовсе не имеют никакого отношения к реальности.
Тем важнее становится навык отличать тексты, написанные человеком, от тех, что сгенерированы искусственным интеллектом. Университеты по всему миру уже давно борются с ИИ-работами студентов; ученые признают, что чат-боты ухудшают способность критически мыслить, и предупреждают о беспрецедентном уровне мошенничества в науке с помощью ИИ. Но важно это, разумеется, не только в научной и образовательной сферах: работа с инструментами ИИ становится базовым навыком цифровой грамотности. Так как понять, человеческий или машинный текст перед вами?
ИИ учится на всем массиве данных в интернете. Разве он не научился полностью нас копировать?
Для начала стоит разобраться, как большие языковые модели (БЯМ, или LLM — от англ. Large Language Model) в принципе способны генерировать текст по запросу пользователя, выдавая на конкретные вопросы конкретные ответы (пусть и не всегда верные).
Искусственный интеллект действительно обучается на миллиардах доступных в интернете страниц и документов, где есть текстовая информация. Под обучением здесь понимается превращение обезличенного массива слов в числовые последовательности. Затем машина анализирует, как слова следуют друг за другом, и выделяет логические закономерности. Генерация текста — это как бы предсказание, какое следующее слово в предложении на заданную тему будет статистически наиболее вероятным.
Именно поэтому тексты, написанные человеком, и тексты, сгенерированные БЯМ, будут отличаться: человеческий мозг просто не обладает всем тем массивом языковых закономерностей, который есть в распоряжении ИИ, и не подстраивает свою речь под эти закономерности.
По некоторым таким закономерностям можно с большей или меньшей вероятностью определить, кто стоит за текстом: машина или человек.
И что это за закономерности?
Самый очевидный пример — галлюцинирование искусственного интеллекта, когда модель выдает ложную или попросту выдуманную информацию, не сомневаясь в ее правдивости. Если информации на заданную тему не хватает (или система не успела ее проанализировать), то ИИ начинает заполнять промежутки так, как это было бы наиболее вероятно математически.
«Языковые модели галлюцинируют, потому что стандартные методы обучения и оценки поощряют угадывание, а не признание неопределенности» — так этот феномен объясняют в OpenAI, материнской компании ChatGPT.
Галлюцинации, конечно, не единственный пример.
- «Поверхностные», «пустые» — так исследователи часто описывают тексты, целиком сгенерированные искусственным интеллектом. Профессор Университета Иллинойса Джон Галлахер вводит понятие орбитальной аргументации (orbital argumentation): по его наблюдениям, ИИ, пытаясь раскрыть какую-то тему или идею, не раскрывает их, а как будто вращается по орбите, использует ассоциации и метафоры. Он сравнивает это ощущение от текстов ИИ с тем, как будто кто-то пытается повторить текст, не читая его, но бегло пробежав глазами и, возможно, выделив важные фрагменты. В других публикациях авторы отмечают, что в текстах ИИ часто формальная структура преобладает над глубиной погружения в тему.
- Исследователи ИИ отмечают, что в сгенерированных текстах часто бывает слишком много символизма. БЯМ склонны переоценивать важность тех или иных подробностей: об этом пишут редакторы Википедии в руководстве по распознаванию статей, сгенерированных искусственным интеллектом. Маркерами, как они отмечают, служат клише вроде «играет важную/значительную/ключевую роль», «ключевой/поворотный момент», «неизгладимый след». В том же руководстве они пишут, что тексты ИИ часто выглядят слишком рекламными или похожими на пресс-релиз, как будто «убеждая читателя в ценности или важности предмета».
- Кроме того, в текстах ИИ часто много воды, то есть слов и предложений, которые не несут никакой смысловой нагрузки, но удлиняют текст. БЯМ также часто повторяют одну и ту же мысль разными словами, вставляют в предложения одни и те же синтаксические конструкции.
Как это все разглядеть, если я не профессиональный редактор?
Исследователи искусственного интеллекта также обращают внимание на речевые обороты и художественные приемы, которые выдают сгенерированный текст. Важно уточнить, что конкретные обороты или приемы сами по себе не уникальны для ИИ. Но эксперты говорят, что, когда в одном тексте их много, это может указывать на его машинное происхождение.
- Часто на генерацию текста, как считают исследователи и пользователи ИИ, указывает избыток длинного тире в предложениях. Однако все чаще это утверждение оспаривается: сама по себе корректная расстановка знаков препинания не может считаться доказательством искусственной природы текста. Студенты, писатели и журналисты жалуются, что их обвиняли в генерации текста только на основе этого признака, — и теперь, чтобы с такими обвинениями не столкнуться, в сети советуют его избегать.
- Еще один такой признак — это отрицательный параллелизм. «Дело не в A, а в B», «это не про X, это про Y». Издание The Atlantic пишет, что анализ таких оборотов позволил сделать вывод, что роман «Shy Girl» Мии Баллард сгенерирован искусственным интеллектом (Баллард обвинения отрицает). Однако и этот признак нельзя назвать стопроцентно достоверным. В той же статье The Atlantic иронизируют: если бы пьеса Уильяма Шекспира «Юлий Цезарь» вышла сейчас, британского классика тоже обвинили бы в злоупотреблении ИИ.
- Искусственный интеллект также часто использует три однородных члена предложения одновременно, например определения через прилагательные. Это так называемое правило трех: считается, что использование слов и конструкций группами по три делает их более запоминающимся, а сам текст — более убедительным. Такой прием эффектно выглядит в названиях («Ешь, молись, люби»), а фразы, построенные по такому принципу, часто становятся крылатыми («Пришел, увидел, победил»).
- Парцелляции. Так называют художественный прием, когда предложение искусственно разбивается на несколько частей. Педагог и автор блога о русском языке «Шпекачек и штраба» Александр Зубов в статье для издания «Правмир» пишет, что ИИ в своих текстах превращает парцелляции из эффектного приема в фон, из которого состоит основная масса контента.
- Еще одной особенностью текстов ИИ называют меризмы, то есть передачу целого через его крайние точки («от А до Я», «от корки до корки»), которые еще называют «ложными диапазонами». Однако, как отмечают на GitHub, БЯМ часто используют этот риторический прием довольно бессмысленно, и в конструкции «от и до» крайние точки часто никак не связаны друг с другом.
- Искусственный интеллект усиленно избегает тавтологии. Это приводит к тому, что в текстах ИИ будут использоваться все возможные синонимы — даже тогда, когда в этом нет большой необходимости. И если повтор лексики усиленно избегается, то повтор смысла регулярно проскакивает («Эта тема заслуживает внимания, потому что она важная») — так получаются банальные истины. Вместе с тем есть данные, что тексты ИИ с точки зрения словарного запаса в принципе более бедные, чем тексты, написанные людьми.
- Обтекаемые формулировки и отсутствие источников. Пытаясь придать своему тексту веса, искусственный интеллект ссылается на авторитет, но часто не указывает, чей именно. Поэтому в сгенерированных текстах можно увидеть формулировки вроде «по словам экспертов» или «ученые выяснили» без указания, что это за эксперты или ученые. То же самое касается источников, и иногда ИИ выдает абсолютно нерелевантные запросу или попросту их выдумывает. Их проверка тоже может натолкнуть на мысль, что текст сгенерирован машиной.
А есть какие-то программы, которые могут проанализировать текст?
Да. Самая известная из таких — Pangram. Проверить текст на генерацию можно также с помощью сервиса Grammarly; относительно популярным считается GPTZero. Есть и другие сервисы с подобным функционалом.
Принцип работы таких проектов схож. Создатели Pangram объясняют его так: программа-детектор — это тоже модель ИИ, которая сама должна пройти обучение. Детектору «скармливают» множество текстов, написанных как человеком, так и искусственным интеллектом, чтобы найти в них закономерности. Раньше, как пишут создатели Pangram, подобные модели пытались обнаружить высокую перплексию или высокую вариативность перплексии, но сегодня такой подход нерелевантен. Так, Pangram, по словам создателей, использует подход active learning в процессе работы.
После того как пользователь загружает текст, он разбивается на мелкие части (токены), которые затем превращаются в код. Цифры преобразуются в эмбеддинг (embedding) — вектор чисел, который представляет его смысловое содержание. Нейросеть анализирует полученный результат по самым разным параметрам и в конце преобразует его в предсказание 0 или 1, где значение 0 соответствует метке «человек», а 1 — «искусственный интеллект».
Насколько эти программы надежны?
Качество работы детекторов оценивается по количеству ложноположительных и ложноотрицательных результатов. На сегодня ни одна из существующих программ-детекторов не может со стопроцентной вероятностью и в 100% случаев отличить машинный текст от текста, который написал человек. Например, они называли сгенерированными искусственным интеллектом текст Конституции США, «Макбет» Шекспира и даже Книгу Бытия. Иногда, анализируя один и тот же текст, программы-детекторы выдавали абсолютно противоположные результаты.
По данным исследования 2023 года, ни один из 14 детекторов не достиг точности хотя бы 80% (то есть не больше 80% всех предложенных текстов были правильно определены). С развитием ИИ подобные программы, конечно, улучшают свои показатели — но их результаты все еще считают недостаточно надежными, чтобы выносить конкретные суждения. В конце концов, новые модели генеративного ИИ тоже становятся более продвинутыми и пишут тексты не так, как предыдущие.
Несмотря на это, польза от детекторов, безусловно, есть. Например, они могут помочь в поисках аккаунтов в соцсетях или сайтов, которые в больших количествах распространяют дезинформацию, считает известный исследователь искусственного интеллекта, профессор Университета Пенсильвании Крис Каллисон-Берч. Он отмечает, что такие программы должны быть частью проверочного процесса, но не заменять его полностью.
Есть сервисы, которые обещают очеловечить написанный ИИ текст. Они могут обмануть проверку?
Мы уже рассказывали, что авторы специально меняют свой язык, чтобы избежать обвинений в использовании ИИ. Некоторые из них, например, не исправляют опечатки, ведь искусственный интеллект генерирует орфографически грамотный текст. Но если текст действительно сгенерирован, то пользователи ИИ, чтобы обмануть детекторы, могут обращаться к программам, обещающим исправить текст так, чтобы он прошел проверку. В английском языке такие программы называют «AI humanizers»; мы будем называть их гуманайзерами.
Как они работают? Часто гуманайзеры меняют конкретные слова, повышая перплексию сгенерированного текста. Некоторые из них способны учитывать контекст не только конкретного предложения, но и всего абзаца. Также они меняют структуру предложения, стиль (например, добавляя разговорные слова), используют ИИ-модели для оценки полученного результата — и это далеко не полный список инструментов.
Исследования показывают, что использование гуманайзеров часто помогает обмануть детекторы ИИ. Однако разные детекторы по-разному реагируют на степень редактуры: например, GPTZero терял в эффективности уже после перефразирования сгенерированных предложений, в то время как Originality AI оказался восприимчив к омоглифам. Есть данные, что эффективность проверки через Pangram после использования гуманайзеров практически не меняется.
Имеет ли значение, на каком языке написан текст?
Да. Эффективность детекторов ИИ сильно зависит от того, на каком языке написан анализируемый текст. Это уловку используют гуманайзеры: некоторые из них переводят искомый текст на другой язык и обратно, чтобы обмануть системы проверки.
БЯМ учатся на доступной текстовой информации в интернете. А по разным оценкам, от 49 до 53% страниц в сети написаны на английском языке. Когда текст переводится, на другой язык экстраполируются и стиль, ритм, характерные речевые обороты, средняя длина предложения и любые другие показатели, характерные для английского. И это запутывает детекторы: они начинают подозревать в сгенерированности человеческий контент и, наоборот, воспринимать машинный текст как естественный.
Журналистка Карен Коуви, которая исследует ИИ, описывает, как без использования искусственного интеллекта перевела английский текст на пять языков: французский, немецкий, итальянский и корейский. Оригинальную версию на английском один детектор оценил как «вероятно, написано человеком»; французскую оценить не смог, немецкую — «создана частично с помощью ИИ», итальянская «вызвала большие подозрения», а корейская — «100% сгенерирована ИИ». Другая программа выдала противоположные результаты.
Более того, детекторы чувствительны к уровню английского языка авторов текста. Есть исследование, согласно которому больше половины сочинений людей, сдававших экзамен TOEFL, определялись как сгенерированные искусственным интеллектом. С подобной проблемой также сталкиваются нейроотличные люди с СДВГ, расстройством аутистического спектра или дислексией. У их письма есть особенности, которые сервисы проверки принимают за признаки генерации. Есть соответствующие исследования, которые в числе таких признаков называют прямолинейность и простоту формулировок, стремление к более строгой структуре, внимание к деталям и объяснениям.
А какие работают с русским языком?
Популярные детекторы ИИ вроде Pangram или ZeroGPT работают с русским языком. Кроме того, на рынке есть разработки, которые позиционируются как максимально приспособленные для русскоязычных пользователей.
Самая известная такая программа — это сервис проверки GigaCheck от «Сбера». Разработчики утверждают, что его точность составляет 94,7% при частоте ложных срабатываний 1%. Однако пользователи сервиса пишут, что он выдавал неправильные результаты гораздо чаще. Первый же текст, который автор этого материала сгенерировал ИИ, GigaCheck назвал написанным человеком. Pangram и ZeroGPT верно определили его природу.
Еще один сервис есть у платформы Text.ru, известной благодаря возможности проверить текст на плагиат. Он не бесплатный, тестового режима нет.
Борются ли с засильем ИИ-текстов разработчики моделей?
Да. В августе Anthropic, компания — разработчик чат-бота (и одноименного семейства БЯМ) Claude, объявила, что начнет маркировать текст водяными знаками — чтобы его невозможно было выдать за написанный человеком. В компании пояснили, что выполняют это требование согласно Регламенту ЕС об использовании искусственного интеллекта. В октябре об этом же объявила OpenAI, материнская компания ChatGPT.
В Anthropic объясняют: водяной знак в случае сгенерированного ИИ текста не влияет на его качество и не виден глазу читателя, а также не содержит какой-либо информации, которая позволит отследить конкретного человека или организацию. Это лишь определенный паттерн в выборе слов в процессе предсказания текста. Выбор слов становится псевдослучайным. «Этот шаблон незаметен для читателя, но его может обнаружить любой, у кого есть ключ для декодирования», — пишут в пресс-релизе компании.
Мы пока не знаем, насколько эффективным окажется этот способ маркировки: Anthropic признает, что замена и перестановка слов нарушат сложившийся паттерн, а значит, детекторам ИИ будет сложнее определить, что за ним стоит машина. Незначительную редактуру шаблон перенесет, а глубокий рерайт — вряд ли.
При этом водяные знаки могут быть устойчивы к воздействию программ-гуманайзеров. Результат очеловечивания — то есть финальный вердикт, прошел ли текст проверку детектором, — зависит от того, как именно они редактируют текст. Инструменты, которые позволяют не просто переписать текст, а прицельно удалить водяные знаки, доступны практически с того же момента, когда Anthropic объявил о внедрении этих самых знаков.
А теперь давайте попробуем отличить два маленьких текста. Как думаете, где ИИ, а где человек?
Бюджет «Одиссеи» огромен, вот все и ждали иллюстрации. Отсюда — побоище вокруг кастинга и бессмысленные разборки на предмет исторической точности. Зря Нолан, что ли, снимал на местах событий, задействовал многотысячную массовку, строил практические эффекты! «Одиссея» отвечает этим ожиданиям: это самый скрупулезный и тщательный перенос эпоса Гомера на киноэкран. Но и превосходит их: при всем уважении к Гомеру Нолан снял предельно личную и весьма смелую интерпретацию древней поэмы. Каждое авторское решение в ней продуманно и неслучайно. Что не помешает назвать его возмутительным как специалистам, так и публике.
«Одиссея» Нолана — это, кажется, попытка примирить античный миф с современной одержимостью зрелищем. Гомер когда-то рассказывал историю человека, который хотел вернуться домой, а теперь его странствия превращаются в грандиозное кинематографическое путешествие по пространству человеческой памяти, жестокости и вечного одиночества. Нолан, как обычно, мыслит масштабами Вселенной, даже когда речь идет о судьбе одного человека. Но за всей этой визуальной мощью скрывается вопрос куда более интимный: что именно делает нас людьми — победы, подвиги, бессмертие в чужих рассказах или способность наконец вернуться туда, где нас ждут? Возможно, главная интрига этой «Одиссеи» не в том, удастся ли герою преодолеть богов и чудовищ, а в том, сможет ли режиссер преодолеть самого себя и собственную тягу превращать каждую историю в событие планетарного масштаба.
Первый текст — отрывок из рецензии кинокритика Антона Долина.
Второй — полностью сгенерирован ИИ.
«Медуза»
(1) Что это за слова?
Вайбкодинг, генерить, ИИ-агент, иишка, дата-центр.
(2) Нейрослоп
От англ. slop, «помои». Так называют низкокачественный, лишенный смысла, шаблонный контент, сделанный ИИ. Его публикуют, чтобы заработать трафик, который впоследствии можно монетизировать.
(3) Что это?
Это продвинутые нейросети типа ChatGPT, Claude, Gemini, DeepSeek и других. Они обучаются на больших массивах текстовых данных для понимания, обработки и генерации человеческого языка.
(4) Что тут понимается под символизмом?
ИИ любит использовать такие слова, как «выделение», «обеспечение», «демонстрация», «отражение», «подчеркивание», — и через них приписывать символическое намерение неодушевленному предмету (случайное событие, например, так становится олицетворением какого-то явления, к которому на самом деле не имеет отношения; или какой-то реальный человек, информацию о котором ИИ обнаружил, начинает символизировать собой целую тенденцию, эпоху и т. п.).
(5) А это тире не сгенерированное?
Нет! В материалах «Медузы» мы используем длинное тире — и тщательно следим за тем, чтобы наши читатели не сталкивались со сгенерированными ИИ текстами.
(6) Почему именно эта пьеса?
В тексте Шекспир неоднократно использует отрицательный параллелизм. Например, The Atlantic приводит такие цитаты из пьесы: «Ошибка, дорогой Брут, не в наших звездах, а в нас самих»; «Не потому я восстал, что меньше любил Цезаря, а потому, что больше любил Рим».
(7) Что это?
Метрика качества вероятностной модели, которая показывает, насколько хорошо модель предсказывает текст или выборку. Перплексия показывает среднее число равновероятных вариантов, между которыми модель колеблется при выборе следующего слова. Низкая перплексия означает, что модель хорошо понимает структуру языка и точно угадывает следующее слово (текст получается более естественным). Высокая перплексия говорит о том, что модель плохо предсказывает данные, текст для нее выглядит хаотичным или неожиданным
(8) Что это?
Вариативность перплексии (Burstiness) — это степень изменения перплексии на протяжении всего документа.
(9) Что это значит?
Ложноположительный результат (False Positive Result, FPR) — это ситуация, когда детектор ошибочно определяет текст, написанный человеком, как текст, созданный искусственным интеллектом.
Ложноотрицательный результат (False Negative Result, FNR) — ситуация, когда детектор ошибочно определяет текст, сгенерированный ИИ, как написанный человеком.
(10) Что это?
Графически одинаковые или похожие друг на друга знаки (буквы, цифры или символы), которые имеют разное значение или принадлежат к разным алфавитам. Например, латинская a и кириллическая а выглядят одинаково, но имеют разные коды в Unicode.
Другой пример — латинская заглавная O, кириллическая О и цифра 0.
(11) Дислексия
Особенность, которая обычно проявляется в детском возрасте. Из-за нее человеку сложно дается чтение: он читает не то, что написано, делает это медленно и с трудом понимает прочитанное.
(12) Каким именно?
GPT-6 компании OpenAI.
(13) EU AI Act (Закон Евросоюза об использовании ИИ)
Первый в мире нормативный акт, регулирующий сферу искусственного интеллекта через оценку рисков его использования. Принят весной 2024 года.
(14) А у кого есть ключ?
У компании-разработчика. Но она делится программным интерфейсом (API) для проверки текстов с помощью водяных знаков с организациями, отвечающими требованиям законодательства, в рамках которого работает инструмент. Например, в случае ЕС это будут регулирующие и правоохранительные органы, СМИ, организации по проверке фактов, независимые исследователи, образовательные организации, группы гражданского общества и отдельные предприятия.
(15) Почему?
Потому что эти программы работают в первую очередь со стилем текста. А водяные знаки вшиты в математическую статистику выбора слов (токенов) на этапе генерации. Поскольку перефразирование сохраняет исходную структуру предложения (в понимании ИИ — криптографическую сигнатуру модели), детектор считывает машинное происхождение контента.