Sber выпустил GigaChat 3.5 Ultra — компактную, но более мощную модель с улучшенной архитектурой и открытым кодом
Sber представил новую open-source версию флагманской языковой модели GigaChat 3.5 Ultra с 432 миллиардами параметров. Несмотря на сокращение размера по сравнению с предыдущей версией (700 млрд параметров), модель демонстрирует повышенную эффективность благодаря революционной гибридной архитектуре и пересмотренному подходу к обучению на органических данных.
Компания Sber сделала важный шаг в развитии российских языковых моделей, представив GigaChat 3.5 Ultra с открытым исходным кодом. Эта модель с 432 миллиардами параметров стала ответом на ключевые вызовы современных ИИ-систем — необходимость баланса между вычислительной эффективностью и качеством генерации. По сравнению с предыдущей версией GigaChat 3.1 Ultra (700 млрд параметров) новая модель демонстрирует лучшие показатели при меньшем размере, что особенно важно для российского рынка с его ограниченными вычислительными ресурсами. Разработка велась с учётом специфики российского языкового пространства и цифровой экосистемы, что делает модель более релевантной для локальных задач по сравнению с западными аналогами.
Технические инновации GigaChat 3.5 Ultra включают гибридную архитектуру, сочетающую MLA-слои с GatedDeltaNet и стабилизирующими механизмами, что обеспечило устойчивость обучения на масштабах в сотни миллиардов параметров. Ключевым достижением стало четырёхкратное сокращение объёма KV-кеша на токен, что вдвое увеличило ёмкость контекста в памяти и на 20% повысило пропускную способность. Для ускорения генерации была внедрена технология self-speculative decoding с дополнительными MTP-головами, обеспечивающая ускорение в 2,2 раза по сравнению с предыдущими версиями. Эти решения особенно важны для российских компаний, работающих с ограниченными вычислительными мощностями.
Революционным стал пересмотр подхода к обучению модели: разработчики отказались от преимущественно синтетических данных в пользу органических текстов. Особое внимание уделялось обработке веб-контента — HTML-документы преобразовывались в чистый Markdown с сохранением структуры, формул и таблиц. Значительно расширился набор языков программирования в обучающих данных — с 16 до 600. Для фильтрации данных применялись комбинированные методы: сначала fasttext с высоким recall, затем LLM-классификаторы для точной отбраковки. Такой подход обеспечил более естественное и разнообразное обучение модели, что критически важно для российского контекста с его уникальной лингвистической спецификой.
Для российского ИИ-рынка выпуск GigaChat 3.5 Ultra имеет стратегическое значение. Модель демонстрирует, что можно создавать конкурентоспособные решения меньшего размера, что критически важно в условиях ограниченных ресурсов и санкционного давления. В отличие от западных аналогов (GPT-4, Claude), Sber делает ставку на оптимизацию архитектуры и данных, а не на простое увеличение параметров. Это открывает новые возможности для внедрения в бизнес-процессы, где важны как качество генерации, так и стоимость эксплуатации. Особенно актуально это для государственных структур и крупных корпораций, которым требуется независимость от зарубежных технологий.
Перспективы развития GigaChat связаны с дальнейшим расширением источников данных (включая самостоятельный сбор интернет-контента) и оптимизацией процессов обучения. Разработчики планируют эксперименты с крупномасштабными сетапами (120 млрд параметров на 2 трлн токенов) и улучшение работы модели в сложных областях — математике и программировании. Открытый доступ к модели ускорит её адаптацию в коммерческих и исследовательских проектах, что может изменить ландшафт российского ИИ-рынка в ближайшие годы. Уже сейчас модель находит применение в банковском секторе, телекоммуникациях и государственных сервисах.
Важным вопросом остаётся конкурентоспособность GigaChat на международной арене. Хотя модель демонстрирует впечатляющие результаты в российских условиях, её сравнение с последними версиями GPT и Claude требует дополнительных исследований. Также открытым остаётся вопрос масштабируемости подхода — сможет ли стратегия «меньше, но умнее» сохранить эффективность при дальнейшем увеличении параметров. Ответы на эти вопросы во многом определят место российских ИИ-разработок в глобальной экосистеме искусственного интеллекта. Успех GigaChat 3.5 Ultra может стать катализатором для развития всей отечественной ИИ-индустрии, включая образовательные программы и стартап-экосистему.
Особое значение имеет политика открытого кода, принятая Sber. Это решение позволяет российским разработчикам и исследователям адаптировать модель под конкретные задачи, что особенно важно в условиях технологического суверенитета. Уже сейчас модель интегрируется в образовательные платформы и используется для создания специализированных решений в медицине, юриспруденции и других отраслях. Такой подход создаёт основу для формирования полноценной экосистемы вокруг российских языковых моделей, что может стать ключевым фактором в развитии национальной ИИ-индустрии.