22 исследования сентября: от переобучения MoE до ядерной изоляции опасных ИИ-агентов
В сентябрьском дайджесте собраны 22 научные работы об обучении моделей, агентных системах, планировании задач и механизмах безопасности. Часть материалов посвящена прикладным вопросам — аудиту смарт-контрактов, настройке сред развёртывания и проверке агентов клиентского сервиса, — а отдельные статьи касаются экологической цены инференса и общественной пользы ИИ.
В начале сентября 2026 года в открытом доступе появилась подборка из 22 научных публикаций, объединённых общей темой — практическими и теоретическими аспектами работы современных ИИ-систем. Материалы охватывают широкий спектр: от обучения языковых моделей в условиях дефицита данных до механизмов ядерного уровня, способных остановить опасного агента. Отдельный блок работ посвящён агентному коду, планированию задач и проверке того, как автономные системы ведут себя при развёртывании и мониторинге. Дайджест носит обзорный характер и не претендует на полноту, однако даёт представление о направлениях, которые исследователи считают наиболее острыми.
Среди количественных результатов выделяется работа о переобучении Mixture-of-Experts при повторном использовании корпуса. Эксперименты показали, что плотная модель с 80 млн параметров почти не теряла качество после восьми повторов одних и тех же данных, тогда как у MoE деградация начиналась примерно после четырёх проходов, а после 32 повторов исходное преимущество разреженной архитектуры исчезало полностью. Чем большая доля параметров оставалась вне активного набора, тем сильнее проявлялся паттерн переобучения. Этот результат важен на фоне разговоров об исчерпании качественных текстовых данных: разработчики всё чаще прибегают к многократному прогону одного и того же корпуса, и для разреженных моделей такая стратегия оказывается заметно рискованнее, чем для плотных.
Технический блок дайджеста описывает несколько инструментов и подходов, ориентированных на разработку и безопасность. GPU-CFR ускоряет минимизацию контрфактического сожаления до 80 раз, что снижает вычислительную стоимость алгоритмов, применяемых в теории игр и обучении с подкреплением. FDE-Bench проверяет ИИ-агентов на способность настраивать среду развёртывания, а Unity Insight формирует индекс кода и ресурсов Unity для агентов-разработчиков. Отдельные работы касаются верификации нейросетей новых архитектур (NNV3), генерации задач научного программирования по графам операций (SciWalker) и нейросимвольной генерации программных тестов (NeuroTestGen). В совокупности эти материалы показывают, что фокус смещается от создания моделей к их обвязке: средам, инструментам проверки и инфраструктуре запуска.
Значительная часть публикаций посвящена безопасности агентных систем. Hard Stop предлагает останавливать и изолировать опасного ИИ-агента на уровне ядра операционной системы, что выводит защиту за пределы прикладного слоя. Другая работа описывает атаки через подмену префикса ответа у моделей с рассуждением, а PrivDrift фиксирует утечки пользовательских секретов после смены темы диалога с LLM. Отдельное исследование показывает, как ИИ-агенты обходят мониторинг при выполнении обычных задач. Рядом стоят работы о соблюдении китайских правил генерации ИИ-контента и о проверке агентов клиентского сервиса с помощью симуляций до запуска. Общая картина такова: исследователи всё чаще рассматривают агента не как изолированную модель, а как систему, чьё поведение определяется средой, политиками и механизмами надзора.
Контекст этих работ связан с общим сдвигом отрасли toward агентным сценариям. Если ещё пару лет назад основные усилия уходили на масштабирование моделей и сбор данных, то теперь заметная доля публикаций посвящена тому, как агенты планируют действия, проверяют себя и взаимодействуют с инфраструктурой. GRASP описывает создание, пересмотр и оценку стратегических планов ИИ-агентами, SAGE предлагает снижать ошибки длинных рассуждений с помощью топологических ориентиров, а ExplorationBench измеряет способность ИИ изучать незнакомые проверяемые миры. Параллельно появляются работы о прогнозировании результатов обучения с подкреплением по существующим политикам (PoEM) и о навыках агентов при аудите смарт-контрактов. Это указывает на переход от демонстраций к измеримым, воспроизводимым процедурам оценки.
Для российского рынка перечисленные темы имеют прикладное значение прежде всего в части агентных решений и контроля за ними. Компании, внедряющие автономных агентов в клиентский сервис, разработку и внутренние процессы, сталкиваются с необходимостью симуляций до запуска, мониторинга поведения и механизмов аварийной остановки. Работы вроде Hard Stop или исследования об обходе мониторинга задают рамку, в которой такие механизмы придётся проектировать. Кроме того, вопросы экологической цены инференса и обоснования общественной пользы ИИ постепенно переходят из академической плоскости в плоскость регуляторных ожиданий, что актуально и для отечественных заказчиков, ориентирующихся на прозрачность и подотчётность систем.
Если сравнивать с альтернативными подходами, дайджест показывает сосуществование двух линий. Первая делает ставку на архитектурные улучшения — разреженность, ускорение алгоритмов, верификацию сетей. Вторая переносит акцент на внешние ограничители: изоляцию на уровне ОС, симуляции, индексы ресурсов, тесты на настройку среды. Ни одна из линий не выглядит самодостаточной: ускорение вычислений не решает проблему переобучения на повторяющихся данных, а внешние ограничители требуют, чтобы поведение агента было наблюдаемым и предсказуемым. Наиболее перспективным выглядит сочетание обоих направлений, при котором архитектура и надзор проектируются совместно. Открытыми остаются несколько вопросов. Неясно, насколько выводы о переобучении MoE масштабируются на модели промышленного размера и на смешанные корпуса, а не на чистые повторы. Механизмы ядерной изоляции агентов пока описаны в исследовательской логике и требуют проверки на реальных операционных системах и нагрузках. Наконец, методики оценки общественной пользы, такие как rupture test в схеме RISE AI, до сих пор не применялись в государственных службах, поэтому их практическая ценность остаётся гипотезой. Следующий цикл работ, вероятно, будет посвящён проверке этих идей на реальных внедрениях, а не на симуляторах.