Ваш текст не прошел нейродетектор: как работают системы распознавания ИИ-контента
Рост популярности больших языковых моделей привел к тому, что машинных текстов в интернете стало больше, чем написанных людьми. В России нейродетекторы активно внедряются в вузах для проверки студенческих работ, однако точность таких систем вызывает споры. Разбираемся, как устроены детекторы и что показал эксперимент с шестью языковыми моделями и четырьмя сервисами проверки.
За последние несколько лет большие языковые модели превратились из научной диковинки в массовый инструмент, доступный любому пользователю. Это привело к лавинообразному росту сгенерированного контента: тексты, аудио и видео, созданные искусственным интеллектом, заполняют новостные ленты, блоги и образовательные среды. По данным исследования Graphite, уже в ноябре 2024 года доля англоязычных материалов, написанных нейросетями, превысила долю текстов, созданных людьми. Для этого вывода специалисты проанализировали 43 тысячи ссылок на статьи, опубликованные с января 2020 года по май 2025 года, а весной 2026 года выпустили расширенную версию работы, зафиксировав паритет. Ответом на этот тренд стало появление детекторов нейросетей, которые с той или иной вероятностью определяют, сгенерирован ли текст моделью.
В 2026 году нейродетекторы начали массово применяться в российских образовательных организациях для выявления использования ИИ в контрольных, курсовых и дипломных работах. В течение весны и лета в СМИ регулярно появлялись истории студентов, которые утверждали, что их самостоятельно написанные работы были ошибочно помечены как машинные. Типичный нейродетектор представляет собой классификатор, который статистически оценивает, насколько входной текст похож на известные ему примеры сгенерированных и человеческих материалов. Перед оценкой система извлекает признаки: синтаксис, порядок слов, повторяемость конструкций и предсказуемость лексики. Однако результат зависит от реализации: одни сервисы выдают бинарный вердикт, другие показывают долю машинного текста или подсвечивают подозрительные фрагменты.
Среди решений, доступных для русскоязычных текстов, выделяются Яндекс Нейродетектор, GigaCheck от Сбера, ИИ-детектор Текст.ру и зарубежный GPTZero. Яндекс отмечает фрагменты как AI, LIKELY AI, LIKELY HUMAN или HUMAN, тогда как Текст.ру возвращает процент предположительно сгенерированного текста. GigaCheck, ориентированный прежде всего на русский язык, оценивает текст по преобладающему содержимому и построен на дообученной языковой модели семейства Mistral, а для поиска границ сгенерированных кусков в смешанном тексте используется DETR-подобная архитектура. Разработчики заявляют точность 94,7 процента, хотя открытым остается вопрос о том, как этот показатель измерялся. Показательно, что OpenAI в 2023 году признала низкую точность собственного классификатора и свернула проект, сославшись на практическую невозможность достоверной проверки.
Чтобы оценить ситуацию на практике, был проведен эксперимент с участием четырех детекторов и шести больших языковых моделей: Claude Opus 5, Kimi K3, GPT-5.6 Sol, GLM 5.2, DeepSeek V4 Pro и GigaChat 3.5 Ultra. Базой для сравнения послужили три человеческих текста научного стиля, опубликованных до 2021 года, то есть заведомо не сгенерированных. С помощью каждой из шести моделей создали по три текста, после чего все материалы пропустили через выбранные детекторы. Такой дизайн позволил увидеть, насколько по-разному одни и те же по стилю и тематике работы могут оцениваться разными инструментами. Совпадение результатов между сервисами, вероятно, оказалось далеко не полным, что подтверждает известную проблему: один и тот же текст может получить противоположные оценки.
Интерес к автоматической классификации текстов возник задолго до появления современных LLM, еще в контексте почтового спама, фальшивых отзывов и машинного перевода. Поворотным моментом считается выход весной 2019 года инструмента Grover, который умел одновременно генерировать и распознавать ложные новости. Работа показала, что между генераторами и классификаторами идет непрерывная гонка: любое улучшение одной стороны требует доработки другой. Кроме того, исследователи выяснили, что длинные тексты обнаруживать легче, чем короткие, а сама генеративная модель может выступать эффективным детектором. Эти принципы до сих пор лежат в основе многих современных решений, включая те, что используются в российских вузах.
Главная претензия к нейродетекторам состоит в нестабильности их выводов: небольшое редактирование, перефразирование или изменение границ анализируемого фрагмента способно радикально изменить результат. Разработчики Текст.ру связывают ошибки с короткими текстами, канцелярским языком, обилием штампов и однотипными фразами, которые характерны и для живых авторов. В результате академические учреждения, внедрившие такие системы, оказываются в сложной ситуации: ложные обвинения могут испортить репутацию студентов, а полное доверие проверке делает процесс формальным. Отсутствие прозрачности усугубляет проблему, поскольку исходный код большинства детекторов закрыт, и невозможно воспроизвести логику конкретного решения. Исключением остается GigaCheck, который Сбер сделал открытым, что хотя бы частично позволяет исследователям оценить его работу.
Практическое применение нейродетекторов в образовании ставит перед отраслью ряд вопросов, на которые пока нет однозначных ответов. Нужно ли считать любой сгенерированный фрагмент нарушением, если студент использовал ИИ как вспомогательный инструмент, а не для полной замены собственного труда? Как обеспечить справедливость проверки, когда даже лучшие системы дают сбой на коротких и стилистически нейтральных текстах? Вероятно, в будущем детекторы станут лишь одним из элементов контроля, дополняясь защищенными устными экзаменами и черновиками. При этом гонка между генераторами и классификаторами продолжается, и сегодняшние точные модели могут оказаться уязвимыми уже завтра. Не исключено, что прохождение нейродетектора станет рутиной для каждого, кто публикует тексты в интернете или сдает работы в учебные заведения.