Согласно опубликованному материалу, три крупнейшие компании в области разработки передовых моделей ИИ — OpenAI, Anthropic и Google DeepMind — уже давно поддерживают закрытый канал коммуникации, посвящённый проблемам безопасности и предотвращению катастрофических сценариев. Формат этих обсуждений не раскрывается: неизвестно, идёт ли речь о регулярных встречах, совместных исследовательских группах или неформальных консультациях на уровне руководства. Публикация не уточняет ни точных дат начала переговоров, ни их текущего статуса, ни круга участников. Тем не менее сам факт подобной координации между компаниями, которые находятся в жёсткой конкурентной борьбе за таланты, вычислительные ресурсы и долю рынка, представляет собой значимое явление. Примечательно, что новость появилась на фоне других событий в индустрии ИИ: запуска подписки Meta One с расширенными ИИ-функциями и выхода Anthropic на финансовый рынок с инструментом Claude для Уолл-стрит, что подчёркивает одновременное движение отрасли в сторону как коммерциализации, так и осознания рисков.

Ключевая деталь заключается в том, что обсуждения касаются так называемых экзистенциальных рисков — сценариев, при которых развитие ИИ выходит из-под контроля и создаёт угрозу для человеческой цивилизации. В публикации 3DNews подчёркивается, что переговоры носят тайный характер, что само по себе указывает на чувствительность темы. Участники, вероятно, осознают репутационные и регуляторные последствия раскрытия информации: признание в совместном планировании мер безопасности может быть воспринято как картельный сговор или как подтверждение того, что компании сами считают свои разработки потенциально опасными. Дополнительный контекст создаёт и то, что материал появился на фоне серии других новостей о ИИ — от запуска подписки Meta One с расширенными ИИ-функциями до выхода Anthropic на финансовый рынок с инструментом Claude для Уолл-стрит. Это соседство подчёркивает, что отрасль одновременно движется в двух направлениях: коммерциализация и попытки обезопасить свои продукты.

С технической и продуктовой точки зрения координация между лабораториями может затрагивать несколько направлений. Во-первых, это выработка общих принципов оценки опасности моделей — так называемых пороговых значений возможностей, при достижении которых разработка должна приостанавливаться или подвергаться дополнительному аудиту. Во-вторых, обмен методологиями тестирования на предмет непреднамеренного поведения, включая способность моделей к самоусовершенствованию, обману оператора или скрытым действиям. В-третьих, возможна координация по вопросам интерпретируемости и контроля, где единые стандарты позволили бы сравнивать результаты разных лабораторий. Однако конкретные технические детали в исходном материале не приводятся, что оставляет широкое поле для предположений. Важно понимать, что такие обсуждения могли бы включать и обмен информацией о неудачных тестах или инцидентах, что особенно ценно для предотвращения повторения ошибок.

Контекст этих обсуждений формировался на протяжении нескольких лет. OpenAI была основана в 2015 году как некоммерческая организация с миссией обеспечения безопасного развития ИИ, однако позднее перешла к коммерческой модели с ограниченной прибылью. Anthropic выделилась из OpenAI в 2021 году именно на почве разногласий о приоритете безопасности, а Google DeepMind с момента основания в 2010 году активно публиковала исследования по этике и выравниванию ИИ. К 2023–2025 годам все три компании выпустили флагманские модели — GPT, Claude и Gemini — и одновременно подписали ряд открытых деклараций о рисках, включая заявления о возможном исчезновении человечества. Таким образом, тайные переговоры выглядят логичным продолжением публичной риторики, но в закрытом формате. Стоит отметить, что подобные закрытые консультации могут быть реакцией на ускоряющуюся гонку ИИ и давление со стороны регуляторов, которые всё чаще требуют от компаний гарантий безопасности.

Для российского рынка и отрасли в целом эта новость имеет двойственное значение. С одной стороны, она подтверждает, что ведущие мировые игроки воспринимают угрозу серьёзно и пытаются выработать коллективные меры, что может ускорить формирование международных норм. С другой стороны, закрытый характер обсуждений исключает участие других стран и компаний, включая российские, из процесса выработки правил. Это создаёт риск того, что будущие стандарты безопасности будут разработаны без учёта интересов и особенностей не западных экосистем. Российские разработчики, такие как Яндекс, Сбер и ряд стартапов, пока не заявляли о подобных инициативах, что может быть связано как с отсутствием сопоставимых по масштабу моделей, так и с геополитическими ограничениями. В результате Россия может оказаться в роли наблюдателя, вынужденного адаптироваться к правилам, разработанным без её участия.

Если сравнивать с альтернативными подходами, то ситуация выглядит неоднозначно. Например, в открытом сообществе существуют инициативы вроде Partnership on AI, куда входят десятки компаний и академических центров, но их работа носит публичный и рекомендательный характер. Регуляторные органы, включая ЕС с его AI Act и США с указами о безопасности ИИ, также пытаются установить правила, однако их решения принимаются медленнее, чем развиваются технологии. Тайный формат переговоров трёх лидеров позволяет быстрее достигать компромиссов, но лишает процесс прозрачности и общественного контроля. Кроме того, остаётся открытым вопрос, насколько такие договорённости будут соблюдаться, если одна из сторон решит, что конкуренты её обходят. В отличие от публичных инициатив, закрытые обсуждения не предполагают внешнего аудита, что снижает доверие к ним со стороны общества.

Перспективы дальнейшего развития событий пока туманны. Неизвестно, приведут ли консультации к формальному соглашению, общим техническим стандартам или останутся на уровне обмена мнениями. Также неясно, будут ли к процессу подключены другие участники — например, Meta, Microsoft, xAI или китайские лаборатории. Открытыми остаются вопросы о механизмах верификации соблюдения договорённостей и о том, как эта координация соотносится с антимонопольным законодательством. В любом случае публикация 3DNews обозначила важный тренд: осознание экзистенциальных рисков ИИ переходит из плоскости публичных деклараций в плоскость закрытой практической работы, что может изменить облик отрасли в ближайшие годы. Остаётся надеяться, что такие обсуждения в конечном итоге приведут к конкретным и проверяемым мерам, а не останутся лишь жестом доброй воли.