Сотрудники российских компаний всё чаще применяют публичные нейросети вроде ChatGPT, Gemini или DeepSeek для решения рабочих задач, часто в обход ИТ-службы. Это приводит к утечкам корпоративных данных и создаёт серьёзные риски для бизнеса. На вебинарах Directum эксперты разбирают, как защитить чувствительную информацию, не отказываясь от передовых технологий. Проблема усугубляется тем, что сотрудники не просто экспериментируют с ИИ, а делают пилотные внедрения, проверяют гипотезы и встраивают модели в повседневные процессы — и делают это в обход ИТ-контура компании. В результате корпоративные данные уходят в публичные сервисы, а ИТ- и ИБ-службы узнают об этом постфактум. Риски не исчезают даже после внедрения корпоративного ИИ: сотрудники всё равно могут обращаться к внешним моделям, если внутренние инструменты кажутся им менее удобными.

По данным исследований Directum, в 2023 году 85% компаний не были готовы использовать облачный ИИ из-за опасений за безопасность данных. Через год ситуация почти не изменилась: 81% респондентов по-прежнему не доверяли облачным моделям. При этом 60% сотрудников, применяющих нейросети на работе, делают это с личных аккаунтов. В 2025 году объём так называемого «серого» служебного трафика в публичные LLM вырос в 30 раз. Эти цифры подчёркивают масштаб проблемы, с которой сталкиваются организации. Показательно, что опасность заключается не только в самом факте передачи корпоративной информации: согласно лицензионной политике многих вендоров проприетарных моделей, все данные из диалогов могут быть использованы для дообучения. Это означает, что конфиденциальная информация может быть воспроизведена в ответах другим пользователям — это самая распространённая и потому самая опасная уязвимость. В российском контексте ситуация осложняется тем, что часть иностранных сервисов официально недоступна, но сотрудники находят обходные пути, а отечественные аналоги пока не всегда покрывают все потребности бизнеса. Тем не менее рынок локальных решений и инструментов защиты активно развивается, и компании, которые первыми выстроят управляемый контур ИИ, получат конкурентное преимущество.

Полный запрет на использование иностранных облачных моделей неэффективен: сотрудники всё равно будут обращаться к ним с личных устройств — по незнанию или умышленно, потому что это удобно. Эксперты советуют не запрещать, а управлять этим процессом. Необходимо разработать локальный нормативный акт, чётко регламентирующий применение ИИ, и ознакомить с ним сотрудников. В частности, для работы с персональными данными и коммерческой тайной рекомендуется развертывать локальные LLM на собственных серверах. С 1 сентября 2026 года вступает в силу 243-ФЗ, который законодательно ограничивает использование иностранных моделей для финансового и государственного секторов, а также для критической инфраструктуры. Таким образом, для части организаций переход на локальные решения становится не просто рекомендацией, а требованием регулятора. В более широкой перспективе это стимулирует развитие отечественных ИИ-технологий и формирует новый стандарт безопасности. Однако остаётся открытым вопрос, насколько быстро компании, не относящиеся к перечисленным отраслям, добровольно последуют этому примеру. Многие из них пока не готовы к инвестициям в локальную инфраструктуру, что сохраняет риски «серого» использования публичных моделей.

Локальное развертывание даёт полный контроль над данными и соответствие требованиям 152-ФЗ. Когда модель работает на собственных серверах, компания точно знает, куда уходят запросы и как формируются ответы, исключаются риски утечки данных и распространения нежелательного контента. Однако оно требует инвестиций в инфраструктуру и компетенции ИТ-отдела. В системе Directum RX (поставка Intelligence) LLM передаётся в локальное развертывание, что позволяет обрабатывать документы в закрытом контуре. Это решение становится всё более востребованным на фоне роста угроз. Помимо локальных моделей, для облачных сервисов можно применять инструменты защиты, анализирующие запросы и блокирующие передачу чувствительных данных. Минус локального пути очевиден — затраты на инфраструктуру и кадры, но альтернатива в виде бесконтрольного использования массовых онлайн-сервисов обходится бизнесу дороже. Для российского рынка это также означает необходимость наращивать собственные компетенции в области ИИ и снижать зависимость от иностранных вендоров, что в долгосрочной перспективе укрепляет технологический суверенитет.

Особую опасность представляет «серый» ИИ — использование публичных нейросетей без ведома ИТ-службы. Чтобы минимизировать риски, необходимо провести аудит уже утёкших данных, внедрить политику использования ИИ и развернуть локальную LLM. Для облачных моделей следует применять инструменты защиты, которые анализируют каждый запрос и блокируют попытки передачи чувствительных данных. Технология RAG (Retrieval-Augmented Generation) снижает число галлюцинаций примерно на 80%, но создаёт новые уязвимости. ИИ-агент может получить доступ к закрытым документам, если не настроено строгое разграничение прав. Важно, чтобы ИИ-сервисы были встроены в бизнес-процессы и получали только те права, что и пользователь. Промпт-инъекции позволяют злоумышленникам обмануть нейросеть и заставить её выполнить вредоносные действия, например удалить файлы или отправить платежи. Для защиты необходимо ограничить область действий агента и внедрить многоступенчатую проверку инструкций, а для юридически значимых действий — принцип Human-in-the-loop. В российских условиях эти меры особенно актуальны, поскольку киберугрозы растут, а регуляторные требования ужесточаются. Компаниям стоит рассматривать безопасность ИИ не как разовую акцию, а как непрерывный процесс, встроенный в общую систему управления информационной безопасностью.

Галлюцинации — это фундаментальное свойство LLM, а не ошибка. Модель не ищет истину, она предсказывает следующее слово, поэтому может генерировать ложные сведения. Бизнесу следует учитывать это при внедрении ИИ и всегда проверять критически важные ответы. В перспективе развитие локальных моделей и инструментов защиты позволит снизить риски, но полностью их исключить невозможно. Компаниям предстоит найти баланс между инновациями и безопасностью, а регуляторам — создать чёткие правила игры на рынке ИИ. Открытым остаётся вопрос, насколько быстро российские компании смогут нарастить компетенции для локального развертывания и как будет развиваться конкуренция между отечественными и иностранными моделями в условиях законодательных ограничений. Вероятно, в ближайшие годы мы увидим рост числа гибридных решений, сочетающих локальные модели для чувствительных данных и облачные сервисы для менее критичных задач. Однако без должного внимания к вопросам безопасности и обучения персонала даже самые совершенные технологии не гарантируют защиты от утечек.