В центре внимания оказался небольшой, но показательный разрыв между стратегическим целеполаганием и прикладным регулированием в сфере искусственного интеллекта. Формально термин «доверенные технологии искусственного интеллекта» закреплён в подпункте «ц» пункта 5 Национальной стратегии развития ИИ до 2030 года, утверждённой указом президента от 10 октября 2019 года № 490. Однако сама формулировка появилась в документе лишь в 2024 году — её внёс указ от 15 февраля 2024 года № 124, то есть спустя почти пять лет после принятия стратегии. С этого момента термин существует, но не обрёл собственного нормативного продолжения. Логично было бы ожидать федерального закона или хотя бы постановления правительства, где были бы прописаны стандарты безопасности, а принципы объективности и недискриминации получили бы прикладную интерпретацию применительно к ИИ. Не описаны и механизмы подтверждения соответствия, а также порядок ведения возможного реестра доверенных решений. Без такой конкретики положение стратегии остаётся декларацией.

Согласно определению в стратегии, доверенные технологии ИИ — это технологии, отвечающие стандартам безопасности и разработанные с учётом принципов объективности, недискриминации и этичности, исключающие при использовании возможность причинения вреда человеку, нарушения его основополагающих прав и свобод, а также ущерба интересам общества и государства. Однако в тексте стратегии не уточняется, кто и на каком уровне будет задавать эти стандарты, как будет проверяться их соблюдение и какие санкции последуют за нарушение. Отсутствие правового механизма создаёт неопределённость для разработчиков и заказчиков систем ИИ, которые не могут однозначно подтвердить соответствие своих продуктов статусу «доверенных». В результате термин, призванный сигнализировать о безопасности и этичности, на практике оказывается лишь декларативным ориентиром.

Тем показательнее, что термин уже проник в прикладные акты. Приказ ФСТЭК России от 11 апреля 2025 года № 117, утвердивший требования о защите информации в государственных информационных системах, упоминает доверенные технологии ИИ в пункте 49 — при мониторинге информационной безопасности для анализа событий и признаков реализации угроз. Пункт 61 того же документа предписывает непосредственно включать доверенные технологии ИИ или их компоненты в состав информационных систем. В обеих сносках регулятор отсылает всё к тому же подпункту «ц» пункта 5 стратегии, то есть к документу стратегического планирования, а не к техническому регламенту. Получается, что практическое требование опирается на норму без операционализации.

На первый взгляд, заполнить пробел мог бы ГОСТ Р 59276-2020 «Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения», введённый в действие 1 марта 2021 года. Но здесь обнаруживается семантическое расхождение: стратегия говорит о «доверенных технологиях», а стандарт — о «доверии» и «системах». В пункте 3.4 ГОСТа доверенная система ИИ определяется через доверие потребителя и регуляторов, а в пункте 3.3 доверие к системе ИИ — как уверенность в способности системы выполнять задачи с требуемым качеством. Иными словами, ГОСТ описывает функциональное доверие к продукту, тогда как стратегия — свойства технологии и её соответствие требованиям безопасности. К тому же ГОСТ появился в 2021 году, а термин в стратегии — только в 2024-м, так что прямой преемственности между документами нет. Для рынка это означает практическую неопределённость: организация, которой предстоит выполнить положения приказа ФСТЭК № 117, не может обоснованно опереться на ГОСТ Р 59276-2020 — он описывает иную сущность.

Одновременно регулятор, судя по всему, сам осознаёт слабость конструкции. Подготовлен проект приказа ФСТЭК об изменениях в требования № 117 (ID проекта 01/02/08-26/00170500), который исключает слово «доверенных» в абзаце третьем пункта 49, а пункт 61 излагает в новой редакции. В проекте речь идёт уже не о доверенных технологиях, а о мерах защиты при применении агентов ИИ, включая автономных, и о контроле прав доступа к ресурсам информационной системы в соответствии с внутренними стандартами и регламентами оператора. Такая правка показывает, что у ФСТЭК формируется собственное видение регулирования ИИ в защите информации — через управление рисками, правами доступа и внутренние регламенты, а не через пока не определённую категорию доверенных технологий. Это прагматичный подход, но он оставляет открытым вопрос о том, кто и на каком уровне будет задавать стандарты безопасности, объективности и недискриминации, упомянутые в стратегии.

Для российского рынка ИИ эта ситуация имеет двоякое значение. С одной стороны, отсутствие чётких критериев доверенности тормозит внедрение отечественных решений в государственных информационных системах, поскольку заказчики не могут быть уверены в соответствии продуктов требованиям стратегии. С другой стороны, точечные правки ФСТЭК демонстрируют гибкость регулятора, который стремится избежать избыточных барьеров, но при этом не создаёт единой рамки. В условиях активного развития генеративных моделей и автономных агентов неопределённость в вопросах доверия и безопасности может стать существенным фактором риска. Пока же можно констатировать, что в отношении доверенных технологий ИИ обсуждать, по сути, нечего: термин есть, а правового механизма за ним нет. Дальнейшее развитие зависит от того, появится ли отдельный нормативный акт с критериями соответствия или регуляторы продолжат точечно править отраслевые требования, обходясь без общей рамки.