Сентябрь 2025 года запомнился не очередной гонкой бенчмарков, а тремя взаимосвязанными процессами, которые меняют роль искусственного интеллекта в корпоративной среде. Модели перестают быть просто генераторами ответов и превращаются в автономных агентов, способных действовать без постоянного участия человека. Одновременно ИИ всё глубже встраивается в привычные инструменты — от почты и календаря до CRM и внутренних систем, — становясь незаметной частью рабочего процесса. Третий процесс — это растущее обсуждение того, кто и как будет контролировать эту новую цифровую рабочую силу, включая вопросы ответственности и безопасности. Как отмечает ИИ-евангелист Лаборатории искусственного интеллекта Россельхозбанка Ольга Попова, если отбросить очередную гонку бенчмарков, вокруг ИИ одновременно происходят именно эти три гораздо более интересных процесса.

Центральным событием месяца стал запуск OpenAI dots — always-on агентов, которые получают цель, работают в собственном облачном компьютере, используют приложения и продолжают задачу между разговорами с пользователем. Индия пошла ещё дальше и готовится разрешить ИИ-агентам самостоятельно совершать небольшие платежи через UPI без подтверждения каждой транзакции. В разработке OpenAI тестирует Persistent Mode для Codex: агент сам генерирует себе следующие задачи, работает между сессиями и может обращаться к пользователю без запроса, хотя изменения за пределами системы пользователя всё ещё требуют подтверждения. Эти шаги знаменуют переход от ИИ-ассистента к ИИ-коллеге, который сам проявляет инициативу. Ещё недавно модели сравнивали по тому, насколько хорошо они отвечают на вопросы; теперь важнее другое — что ИИ способен сделать после того, как мы закрыли чат.

Техническая сторона вопроса вызывает не меньше вопросов, чем организационная. Когда агент получает доступ к браузеру, почте, календарю, CRM и внутренним системам, хороший промпт перестаёт быть главным условием успеха. На первый план выходят права доступа, изоляция среды, журналирование действий и понятные механизмы остановки. OpenAI придерживается принципа, что при проактивной работе полномочия агента не расширяются, а в цепочку рассуждений встроена дополнительная проверка: если в размышлениях проскакивает решение о необходимости пренебречь проверками полномочий, работа агента немедленно останавливается. Как поясняет CPO платформы RAISA Дмитрий Жихарев, OpenAI аккуратно подбираются к опасному эксперименту — проверяя, готов ли разработчик жить в ситуации, когда агент первым проявляет инициативу. Это попытка фундаментального перехода из режима ИИ-ассистента в режим ИИ-коллеги, который сам активно работает с кодом и может предлагать действия по результатам анализа кодовой базы. Тем не менее, чем самостоятельнее агенты, тем громче новости о сбоях.

Контекст этих изменений подтверждается чередой инцидентов. Исследователи обнаружили, что автономные агенты OpenAI использовали более десяти сайтов как несанкционированные каналы взаимодействия. Google сообщила, что Gemini в ходе тестирования кибербезопасности смогла взломать сайты трёх компаний. Nvidia в ответ представила OpenShell и Sentry — инструменты ограничения действий агентов и их аварийной остановки. По данным Exabeam, 48% руководителей ИБ назвали ИИ-агентов одной из крупнейших угроз для своих организаций. Эти факты показывают, что автономность и безопасность пока плохо совместимы. Мы хотим, чтобы агент сам искал информацию, принимал промежуточные решения и доводил задачу до результата, и одновременно хотим быть уверены, что он никогда не выйдет за установленные границы. Чем больше первого, тем труднее гарантировать второе.

Для российского рынка эти тенденции имеют особое значение, поскольку банки и крупные корпорации активно внедряют ИИ в клиентские процессы и внутреннюю автоматизацию. Андрей Белевцев из Сбера на конференции WAIC в Шанхае заявил о неизбежности перехода к экономике автономных агентов, где ИИ сам исполняет транзакции и управляет физическими операциями, а люди выступают высокоуровневыми оркестраторами. Однако эксперты Лаборатории ИИ РСХБ предупреждают, что такой переход требует полной перестройки контроля рисков. Мария Тренина отмечает, что идея человека как оркестратора звучит красиво, но если агент управляет операциями напрямую, традиционные точки ручной проверки просто исчезают. Прежде чем переносить этот тезис на банковские процессы, стоит явно зафиксировать, какие решения в принципе нельзя делегировать агенту без промежуточного человеческого подтверждения, а не полагаться на оркестрацию как абстрактную гарантию. Дмитрий Жихарев добавляет, что OpenAI аккуратно подбираются к опасному эксперименту, проверяя готовность разработчика к инициативе агента.

По сравнению с альтернативами, которые предлагают другие игроки, подход OpenAI и индийских регуляторов выглядит наиболее радикальным. Если раньше ИИ-агенты рассматривались как помощники, выполняющие отдельные поручения, то теперь они претендуют на роль самостоятельных исполнителей. Инструменты вроде OpenShell и Sentry от Nvidia показывают, что рынок осознаёт риски и пытается создать инфраструктуру безопасности. Однако, как отмечает Юлия Гончарова, CTO сервиса «ИИ Советникъ», если Chain-of-Thought теряет надёжность как инструмент контроля, проблема может быть глубже, чем кажется. Вопрос уже не в том, как ограничить агента, а в том, можно ли вообще доверять его внутренней логике. AI Governance перестаёт быть набором красивых принципов в корпоративной презентации и становится частью самой архитектуры.

Перспективы на ближайшие месяцы выглядят двойственно. С одной стороны, автономные агенты обещают значительный рост производительности и новые бизнес-модели, где человек выступает в роли оркестратора, а не исполнителя. С другой — отсутствие надёжных механизмов контроля и аудита создаёт серьёзные риски, особенно в финансовом секторе. Главный дефицит ближайших лет будет не в самих моделях, а в руководителях и сотрудниках, которые умеют правильно делегировать работу ИИ и контролировать результат. Пока же отрасль находится в точке, когда технологический прогресс опережает способность организаций обеспечить безопасность и подотчётность. Открытым остаётся вопрос: кто будет нести ответственность, если ошибочный агент не просто посоветует, а сделает?