Перейти к содержанию
суббота, 21 ноября 2026 г.

ИИ Вестник

Главные новости о развитии искусственного интеллекта в России

После блокировки Claude Code: локальные GLM 5.3 Flash и Qwen 3.8 Flash Next на двух DGX Spark

Two compact Nvidia DGX Spark servers on a desk running local AI models, glowing indicators, editorial tech scene.
Generated by Sourceful Riverflow (RouterAI)

Разработчик, потерявший доступ к Claude Code, продолжает эксперимент с моделями открытых весов на кластере из двух Nvidia DGX Spark. На второй неделе он протестировал GLM 5.3 Flash и Qwen 3.8 Flash Next в квантизации INT4-AR: первая показала неоднозначные результаты в кодинге, вторая стала новым фаворитом по скорости и качеству работы.

Автор публикации в потоке «Разработка» продолжил серию материалов о переходе на локальные языковые модели после блокировки аккаунта в Claude Code. На второй неделе эксперимента он развернул на кластере из двух Nvidia DGX Spark модель GLM 5.3 Flash по готовому рецепту GLM-5.3-Flash-DGX-Sparks-1104, а затем по совету читателя установил Qwen 3.8 Flash Next в квантизации INT4-AR с помощью рецепта Qwen3.8-Flash-Dual-DGX-Sparks-TensorFold. Обе модели использовались в pet-проектах и при доработке собственных инструментов разработки, а замеры производительности проводились по той же методике, что и неделей ранее: по 10 замеров на каждом размере контекста (2K, 8K, 32K, 64K, 128K, 256K) с уникальными промптами и случайной солью, чтобы исключить кэширование префикса. Профиль — code, maxTokens: 256, temperature: 0, thinking: off. Перед серией выполнялся один прогревочный запрос.

По итогам первых дней работы с GLM 5.3 Flash впечатления оказались смешанными. К сильным сторонам автор отнёс качество письменной речи: модель аккуратно строит предложения, не путает окончания и не смешивает языки, чего он часто не наблюдал у Qwen и DeepSeek. Кроме того, GLM дисциплинированно ведёт список задач TODO на уровнях high и max, своевременно перемещая отметку in_progress, и точно следует шаблонам и инструкциям в навыках. Однако на уровне low было зафиксировано застревание на первом пункте списка, что сближает поведение модели с конкурентами. К минусам отнесены засорение контекста комментариями в Bash, склонность к зацикливанию и путаница в собственных действиях при разрастании контекста.

Технические особенности GLM 5.3 Flash проявились в неожиданных местах. Модель оставляет в выводе Bash подробные пояснения к каждой команде, из-за чего до 90% вывода занимают комментарии и контекст расходуется очень быстро. В одной из первых задач кодинга агент зациклился и создал 119 копий файла вида /tmp/probe119.php, остановить его удалось только вручную. При превышении 130–150 тыс. токенов контекста модель начинает вести мини-расследования собственных ошибок, например предполагает, что ветку переключил кто-то другой, хотя причиной был ранее вызванный скрипт. В качестве защиты автор добавил в AGENTS.md правило останавливаться после трёх одинаковых результатов подряд и переформулировать гипотезу вместо запуска четвёртой попытки. Эти наблюдения важны для понимания границ применимости модели: она хорошо подходит для задач, где требуется аккуратный текст и следование шаблонам, но требует постоянного контроля при длительных сессиях кодинга.

Замеры производительности показали заметное расхождение между конфигурациями. GLM 5.3 Flash на двух Spark выдаёт 65–72 ток/с, что медленнее DeepSeek с его 99–109 ток/с на том же кластере и примерно соответствует Qwen на одном Spark. В пересчёте на один ускоритель это 33–36 ток/с — худший результат среди четырёх протестированных конфигураций. Prefill у GLM составил 1,5–1,8 тыс. ток/с против 2,3–2,5 тыс. у Qwen на одном Spark, а время до первого токена на контексте 128K достигло 75 секунд. На контексте 256K TTFT у GLM составил 86 секунд против 154 секунд у Qwen, что объясняется различиями в архитектуре и квантизации. Стоит отметить, что сравнение с одиночным Spark не совсем точно: там использовалась квантизация 4-бит NVFP4, а на кластере — INT4-AR, что даёт лишь порядок величин.

Qwen 3.8 Flash Next в квантизации INT4-AR на двух Spark превзошла ожидания. Генерация выросла до 97–117 ток/с, что на 34–59% больше, чем на одном ускорителе, TTFT на 128K снизился с 57 до 39 секунд, а prefill достиг 3,1–3,8 тыс. ток/с, прибавив 47–62% и показав лучший результат среди всех конфигураций. Удвоения скорости при переходе с одного Spark на два не произошло, но масштабирование prefill оказалось заметно эффективнее масштабирования генерации, что делает кластер сильным инструментом для холодного разбора длинного контекста. По сумме метрик Qwen на двух Spark стала самой быстрой конфигурацией из четырёх, а в практической работе хорошо и быстро провела диагностику бага, точечно его исправила и написала регрессионный тест; минусов автор пока не обнаружил. Это позволяет рассматривать Qwen 3.8 Flash Next как основного кандидата для локальной разработки, особенно в сценариях с большими объёмами кода и требованием высокой скорости отклика.

Контекст эксперимента важен для понимания тренда: Nvidia представила настольный суперкомпьютер DGX Spark HPC из четырёх мини-ПК, а доступность моделей открытых весов растёт на фоне ужесточения лимитов у облачных провайдеров. DeepSeek недавно ввела ограничения для бесплатных пользователей после рекордного роста нагрузки, что усиливает интерес разработчиков к локальным решениям. Для российского рынка такая связка выглядит особенно актуальной: кластер из двух DGX Spark остаётся дорогим, но предсказуемым вариантом, не зависящим от зарубежных аккаунтов и политики платформ. Сравнение с альтернативами показывает, что DeepSeek на двух Spark сохраняет лидерство по генерации токенов, Qwen выигрывает по prefill и TTFT, а GLM уступает по скорости, но компенсирует это качеством текста и дисциплиной в работе с задачами. В условиях санкционных ограничений и нестабильности доступа к зарубежным AI-сервисам локальные кластеры становятся не просто экспериментом, а реальной инфраструктурной необходимостью для команд, занимающихся разработкой ПО.

Дальнейшие шаги автор связывает с расширением плагина Pi для PhpStorm: добавлены удалённые сессии, уведомления в Telegram и инструмент ask_question, что должно упростить контроль над агентами. Открытым остаётся вопрос, насколько стабильно Qwen 3.8 Flash Next поведёт себя на длинных сессиях и больших проектах, а также как поведение моделей изменится при переходе на другие схемы квантизации. Пока же итог второй недели выглядит оптимистично: локальный кластер из двух DGX Spark способен закрыть значительную часть задач кодинга, хотя требует дисциплины в управлении контекстом и внимательного наблюдения за агентами. В перспективе подобные решения могут стать основой для полностью автономных сред разработки, не зависящих от внешних сервисов.

Читайте также