С момента появления ChatGPT в ноябре 2022 года, который Дженсен Хуанг из Nvidia назвал «моментом iPhone для ИИ», технологии искусственного интеллекта стремительно вошли в повседневную жизнь. Уже в январе 2023 года сервис насчитывал 100 миллионов активных пользователей в месяц, а по данным McKinsey, к 2025 году 88% компаний использовали ИИ хотя бы в одной бизнес-функции. Однако вместе с популярностью выросло и внимание злоумышленников, для которых ИИ стал одновременно и целью, и инструментом атак. Майский отчёт Google AI Threat Tracker подтверждает эту тенденцию, демонстрируя рост числа инцидентов, связанных с ИИ. В результате компании, внедрившие ИИ, вынуждены задуматься о безопасности, и ключевым шагом становится моделирование угроз, для чего необходимы надёжные источники данных о возможных атаках.

Одним из наиболее структурированных источников является матрица MITRE Atlas, созданная на основе популярной MITRE ATT&CK. Она регулярно обновляется примерно раз в месяц и включает 173 техники и подтехники, 35 способов митигации и 63 примера эксплуатации. Структура матрицы организована по тактикам, которые отражают этапы атаки — от разведки до воздействия. Каждая техника содержит идентификатор, ссылку на тактику, уровень зрелости (feasible, demonstrated, realized), целевую платформу (Predictive AI, Generative AI, Agentic AI, Enterprise), количество примеров эксплуатации и митигаций, а также даты создания и обновления. Это позволяет специалистам по безопасности оценивать покрытие своих инструментов и строить модели угроз, как это делает, например, Positive Technologies. Для автоматизации сбора данных MITRE Atlas предоставляет GitHub-репозиторий mitre-atlas/atlas-data, где техники, митигации и примеры реализации представлены в YAML-файлах. Репозиторий также содержит вспомогательные инструменты для парсинга и валидации данных. Благодаря удобному версионированию можно ссылаться на конкретные объекты разных версий, например, на технику AML.T0067. Веб-интерфейс Atlas удобен для быстрого ознакомления, но парсинг его затруднён, поэтому для автоматизации лучше использовать GitHub. Это делает Atlas одним из самых полных и удобных источников для технических специалистов и исследователей.

Другим важным источником является семейство документов OWASP Top 10, включающее версии для LLM, агентных систем, навыков агентов и MCP. Эти документы обновляются реже — например, OWASP Top 10 for LLM пересматривался в августе 2023 года, октябре 2023 года, ноябре 2024 года и августе 2026 года. Структура включает списки угроз с привязкой к стратегиям защиты, митигациям, примерам сценариев атак и ссылкам на релевантные ресурсы. OWASP известен своей практической направленностью и широко используется для быстрого ознакомления с основными рисками, хотя его глубина уступает MITRE Atlas. Для сравнения, MITRE Atlas предлагает более детальную и структурированную информацию, подходящую для построения моделей угроз и научных исследований, тогда как OWASP Top 10 является более доступным для быстрого понимания. Другие источники, такие как отчёты Google AI Threat Tracker, предоставляют актуальные данные о реальных инцидентах, но не имеют систематизированной структуры. Для специалистов, которым важна полнота и регулярность обновлений, Atlas выглядит предпочтительным выбором. Однако для первоначального знакомства с темой или для обучения OWASP может быть более удобным.

Для российского рынка вопрос безопасности ИИ становится особенно актуальным в связи с активным внедрением ИИ в различные отрасли, включая финансовый сектор и государственное управление. Российские компании, такие как Positive Technologies, уже используют MITRE ATT&CK для демонстрации покрытия своих продуктов, и аналогичный подход к Atlas может быть востребован. Однако доступность некоторых источников может быть ограничена из-за санкций или блокировок, что требует адаптации. Тем не менее, открытые данные MITRE Atlas и OWASP доступны для всех, что способствует развитию компетенций в области ИБ. Кроме того, в России наблюдается рост числа исследовательских групп и лабораторий, таких как ITMO AI Security Lab, которые активно изучают угрозы ИИ и разрабатывают методы защиты. Это создаёт благоприятную почву для применения международных стандартов и адаптации их к локальным условиям. Важно отметить, что российские специалисты могут вносить вклад в развитие этих источников, предлагая свои наработки и участвуя в обсуждениях, что укрепит позиции страны в области ИИ-безопасности.

В перспективе ожидается дальнейшее развитие этих источников, учитывая появление новых видов ИИ, таких как агентные системы. MITRE Atlas уже включает тактику для агентного ИИ, а OWASP выпустил отдельные документы для агентных навыков и MCP. Специалистам рекомендуется следить за обновлениями и использовать комбинацию источников для получения полной картины угроз. Открытым остаётся вопрос о стандартизации описания угроз и об унификации подходов к моделированию, что может стать темой для будущих исследований и разработок. В условиях быстрого развития технологий ИИ и роста числа кибератак, направленных на них, наличие надёжных и актуальных источников информации становится критически важным для построения эффективной защиты. Поэтому выбор подходящего источника или их комбинации должен основываться на конкретных потребностях организации, её ресурсах и уровне зрелости процессов ИБ.