Q.ANT и AMD впервые запустили языковую модель на гибриде фотонного чипа и GPU
Немецкая компания Q.ANT совместно с AMD продемонстрировала инференс языковой модели объёмом около 1 млрд параметров, перенеся часть вычислений механизма внимания на фотонный сопроцессор NPU Gen 2+. Демонстрация прошла на конференции SC26 в Чикаго, однако громкое заявление о «первом в мире» запуске LLM на оптике требует уточнений: аналогичный результат ранее показал британский стартап Lumai.
Демонстрация гибридного инференса состоялась в рамках конференции SC26, прошедшей в Чикаго, где немецкая компания Q.ANT представила совместный с AMD эксперимент по запуску языковой модели на связке классического GPU и фотонного сопроцессора. Речь идёт о модели масштаба примерно 1 млрд параметров, работавшей на ускорителе AMD Instinct MI210, при этом часть слоёв трансформера была перенесена на оптический чип NPU Gen 2+. Вице-президент Q.ANT по программному обеспечению Ютц Бахер охарактеризовал разработку как ранний прототип и описал применённый подход формулой «Фурье-слои внимания в языковых моделях». Заявление компании о первом в мире запуске LLM на фотонном чипе было сделано в пресс-релизе, хотя в действительности приоритет в этой области принадлежит другому игроку.
Ключевая идея эксперимента строится вокруг замены механизма self-attention, который при росте длины контекста требует квадратично больше вычислений и раздувает KV-кэш в памяти видеокарты, на оптическое дискретное преобразование Фурье. Фотонный сопроцессор выполняет это преобразование светом за один проход, что, по замыслу разработчиков, должно ускорить инференс и существенно сжать KV-кэш. При этом в техническом отчёте и анонсе остались нераскрытыми важнейшие метрики: конкретная модель не названа, не описано, как решается проблема каузального маскирования при пошаговой генерации текста и какие именно слои остались на GPU. Компания не привела ни перплексию, ни результаты на стандартных LLM-бенчмарках, а выигрыш по скорости в токенах в секунду и итоговое сжатие KV-кэша не указаны вовсе; снижение энергозатрат описано лишь как «потенциально значительное».
С технической точки зрения гибридная схема предполагает разбиение графа вычислений между двумя типами ускорителей: математика преобразования Фурье отдаётся фотонному чипу, тогда как все остальные слои трансформера выполняет видеокарта AMD. Такой подход наследует архитектурную идею, впервые предложенную Google ещё в 2021 году в модели FNet, где замена внимания слоем Фурье ускоряла обучение на 70–80 процентов, но снижала качество: архитектура сохраняла 92–97 процентов точности BERT на тесте GLUE и при этом была энкодером, а не авторегрессионной генеративной моделью. Перенос этой математики на свет добавляет к исходной проблеме качества накладные расходы на конвертацию тензоров из цифрового представления в оптическое и обратно на каждом слое, а также на пересылку данных между GPU и сопроцессором, что может нивелировать выигрыш от оптических вычислений.
Контекст важен и с точки зрения истории самой Q.ANT: до ноябрьского запуска компания обкатывала фотонные вычисления на значительно более компактных задачах. В июне 2026 года на конференции ISC в Гамбурге она демонстрировала на чипе предыдущего поколения генерацию изображений через диффузионную модель на 59 млн параметров и работу архитектуры TiRex на базе xLSTM, заявляя о 30-кратной энергоэффективности на уровне самой оптической схемы, хотя эти цифры также были расчётными. Кроме того, в апреле 2026 года британский стартап Lumai запустил полноценную LLM на своём сервере Iris, сделав ставку на трёхмерную оптику с линзами и пучками света в свободном пространстве вместо плоских кремниевых волноводов, использованных Q.ANT, и обеспечив работу моделей уровня Llama 70B в реальном времени с экономией 90 процентов энергии. Таким образом, рынок фотонного инференса формируется из нескольких конкурирующих архитектурных школ, и немецкая компания в этом поле пока выступает догоняющей.
Для российского рынка и индустрии в целом значение подобных экспериментов лежит скорее в плоскости долгосрочных технологических трендов, чем в немедленной практической применимости. Отечественные разработчики и операторы инференса открытых моделей, включая сервисы вроде Token Factory с доступом к GLM, DeepSeek, Qwen и Kimi через OpenAI-совместимый API, ориентируются прежде всего на зрелые GPU-решения, и появление серийных фотонных ускорителей способно изменить экономику вычислений лишь через несколько лет. Отраслевые аналитики ожидают от фотонных проектов в первую очередь независимых замеров на реальных нагрузках, а не расчётных оценок энергоэффективности, поскольку именно соотношение качества генерации и стоимости токена определяет применимость технологии в продакшене.
Сравнение с альтернативами пока складывается не в пользу Q.ANT: решение Lumai уже работает с моделями масштаба 70B и заявляет конкретные показатели энергосбережения, тогда как немецкий прототип ограничен моделью на 1 млрд параметров и не раскрывает ни скорости, ни качества генерации. Помимо оптических стартапов, конкуренцию составляют классические GPU-ускорители, чья экосистема программного обеспечения несопоставимо богаче, а также специализированные ИИ-чипы, которые NVIDIA продолжает развивать, включая ускорение эмуляции FP64-вычислений на своих ИИ-ускорителях. Для фотоники барьером остаётся не только железо, но и необходимость переписывать модели и пайплайны под новую архитектуру, что требует убедительных доказательств выгоды.
Перспективы направления зависят от двух цифр, которые способны подтвердить или опровергнуть жизнеспособность гибрида: перплексии в сравнении с аналогичной моделью на 1 млрд параметров с классическим вниманием и честного прироста токенов в секунду на реальном инференсе. Q.ANT планирует вывести серийные системы с поддержкой таких вычислений на рынок во второй половине 2027 года, а уже сейчас в открытом доступе есть SDK с API на C и Python и эмуляцией на CPU, обновляемый под Фурье-слои Gen 2+. Доступ к ускорителям предыдущего поколения открыли 9 ноября в виде закрытой беты на выделенных серверах IONOS в Германии, ранее чипы передали в суперкомпьютерные центры LRZ и JSC, однако публичных независимых отчётов оттуда до сих пор не поступало. Открытым остаётся вопрос, что окажется сложнее: довести оптическое железо до серийного производства или убедить разработчиков переписать под него свои модели.