Перейти к содержанию
четверг, 15 октября 2026 г.

ИИ Вестник

Главные новости о развитии искусственного интеллекта в России

Дизайнер собрал сервис на Claude Code и обнаружил, что ИИ тихо теряет до 44% содержания

Источник: Все публикации в потоке Разработка
Designer at desk with laptop, video editing timeline, late night coding session.
Generated by Sourceful Riverflow (RouterAI)

Дизайнер без опыта программирования за месяц вечерней работы создал сервис Video Digest, преобразующий видео в структурированные документы. В процессе эксплуатации выяснилось, что языковая модель, отвечающая за очистку транскриптов, систематически удаляла до 44% предложений, а система не сигнализировала об ошибках. Этот случай обнажил фундаментальную проблему доверия к ИИ-инструментам в разработке.

Дизайнер, не написавший ни строки кода вручную, за месяц вечерних сессий собрал работающий сервис Video Digest, который превращает часовое видео в текстовый документ с таймкодами, выжимкой и цитатами. Проект был реализован с помощью трёх инструментов Anthropic: Claude Code писал код, Claude Design отвечал за интерфейс, а Claude в чате выполнял роль архитектора. Сервис доступен по адресу digest.inforobot.space и обрабатывает ссылки на YouTube, VK Видео, Rutube или загруженные файлы, включая диктофонные записи. Стоимость обработки часовой лекции составляет около 30 центов, а время — примерно шесть минут. Ключевой инцидент произошёл 17 сентября, когда автор сравнивал двух провайдеров распознавания речи. Чтобы обеспечить честность сравнения, он впервые подсчитал, сколько предложений исходного транскрипта сохраняется после этапа «чистки». Оказалось, что удержание составляет от 56 до 71 процента — то есть от 29 до 44 процентов предложений бесследно исчезали. Из лекции о сюрреалистах пропали конкретные факты, включая упоминания «Элен Смит на Марсе» и «шахтёра, услышавшего голос». Ни одна проверка не выявила потерь: валидатор контролировал лишь количество и длину абзацев, а инструкция модели прямо запрещала сокращать текст. Система не падала и не выдавала ошибок, но при этом уверенно предоставляла неполную информацию.

Техническая архитектура сервиса включает фронтенд на React за nginx, оркестратор n8n с шестью флоу, медиасервис на FastAPI с yt-dlp и ffmpeg, базу данных Postgres и внешние сервисы распознавания речи и модели OpenAI для текстовой обработки. Всё развёрнуто через один docker compose на небольшом VPS. Роли были чётко распределены: человек выступал продактом и арт-директором, Claude в чате — архитектором, Claude Code — разработчиком, Claude Design — дизайнером интерфейса. Все решения фиксировались в журнале, который к 13 октября насчитывал 249 записей при 203 коммитах в репозитории. Методология предполагала документы как источник правды, контракты раньше кода и маленькие шаги с приёмкой, что позволило трём частям системы состыковаться без переделок.

Помимо проблемы с чисткой, за месяц выявились ещё две ошибки того же класса. Провайдер распознавания речи возвращал пустой транскрипт с кодом 200 вместо ошибки. Нода Postgres в n8n тихо обрезала параметры запроса по запятым, превращая «subtitles, no STT» в два отдельных параметра. Во всех случаях система не падала, а выдавала правдоподобный результат. Тесты не могли поймать эти сбои, поскольку проверяли только то, что было заранее предусмотрено. Валидатор чистки контролировал форму ответа, но не его содержание. Для исправления было введено правило удержания: если очищенный текст сохраняет менее 92 процентов предложений входа или теряет хотя бы одно предложение длиннее десяти содержательных слов, фрагмент возвращается модели на исправление. На тестовой лекции удержание выросло с 56 до 89 процентов, вернулись потерянные имена. Однако пять кусков из восьми даже после повторной попытки не достигли порога, и это отображается читателю полосой «Транскрипт мог быть сокращён».

Вторая дыра касалась документов, которые считались источником правды. 21 сентября черновик политики обработки данных утверждал, что внутренний nginx не ведёт журнал запросов, но проверка контейнера показала 111 строк с адресами посетителей за пять минут. Директивы, отключающей логирование, в конфиге не было. Автор начал систематически фиксировать такие случаи и к дню деплоя насчитал девять расхождений между заявленным и фактическим: перевод отсутствовал в API, повтор запроса при сбое не срабатывал для кодов 429 и 5xx, событие не записывалось в базу, строки задач не удалялись, токен проверки на роботов принимался трижды, сервер находился в другой стране, импорт флоу не выполнялся. Документы описывали намерения как факты, что создавало иллюзию работающей системы.

Для российского рынка этот кейс имеет особое значение, поскольку отражает типичные проблемы при использовании ИИ-ассистентов в разработке. Многие команды воспринимают генерируемый код и документацию как готовый результат, не проверяя соответствие заявленного функционала реальному. История показывает, что даже при наличии архитектурных контрактов и журналирования, отсутствие сквозного контроля на стыках «вход-выход» приводит к накоплению скрытых дефектов. В условиях ограниченного доступа к зарубежным инструментам и растущей зависимости от локальных решений, российские разработчики могут столкнуться с аналогичными рисками, усугубляемыми меньшей прозрачностью некоторых моделей. Отраслевые эксперты отмечают, что подобные инциденты подрывают доверие к полностью автоматизированной разработке и требуют внедрения измеримых метрик качества на каждом этапе.

По сравнению с альтернативными подходами, где человек пишет код самостоятельно или использует ИИ только для фрагментарной помощи, метод с полным делегированием демонстрирует как высокую скорость, так и уязвимость к тихим ошибкам. Традиционное тестирование и код-ревью не всегда выявляют потери смысла, если проверяется только синтаксис или структура. Инструменты вроде Cursor или GitHub Copilot также могут допускать подобные сбои, но при участии человека в цикле разработки вероятность заметить аномалию выше. Кейс Video Digest показывает, что ключевым становится не замена человека, а создание механизмов, делающих невидимые потери видимыми — например, счётчиков удержания и автоматических отчётов о расхождениях.

Перспективы решения проблемы остаются туманными. Правило удержания не устранило причину, а лишь сделало деградацию заметной. Причины падения ниже 92 процентов — размер фрагмента, формулировка промпта или особенности модели — до сих пор не установлены. Открытым остаётся вопрос, как масштабировать такие проверки на все этапы пайплайна и интегрировать их в непрерывную доставку. Для российских команд, всё чаще обращающихся к ИИ-генерации, урок состоит в необходимости с первого дня измерять соотношение входных и выходных данных на каждом стыке. Будущее гибридной разработки зависит от того, насколько быстро индустрия научится доверять, но проверять.

Читайте также