Специализированная версия ChatGPT, ориентированная на подростковую аудиторию, не смогла пройти проверку безопасности, организованную независимыми исследователями. Об этом сообщил ресурс 3DNews со ссылкой на результаты соответствующего тестирования. Поводом для проверки стали публичные заявления разработчика о том, что детская и подростковая версии чат-бота получают дополнительные ограничения и фильтры, отличающие их от стандартного продукта. Однако по итогам тестов эксперты зафиксировали расхождение между декларируемыми гарантиями и фактическим поведением системы. Ключевой вывод проверки сформулирован жёстко: продукт «не соответствует обещаниям». Тестирование показало, что часть защитных механизмов либо обходится, либо не срабатывает в тех сценариях, для которых они декларировались. Речь идёт о ситуациях, когда несовершеннолетний пользователь может получить ответы на чувствительные темы, которые должны были блокироваться настройками возрастного профиля. Точный перечень выявленных проблем в исходном материале не детализируется, но сам факт провала проверки указывает на системный, а не единичный характер замечаний. Для компании, которая строит репутацию на безопасности ИИ, такой результат означает прямой репутационный риск.

С технической точки зрения речь идёт о многоуровневой системе фильтрации, которая включает модерацию запросов, ограничения на генерацию контента и дополнительные правила для аккаунтов с указанным юным возрастом. Подобные механизмы обычно реализуются через классификаторы на входе и выходе модели, а также через политики, привязанные к типу учётной записи. Проблема в том, что такие фильтры чувствительны к формулировкам: обход достигается перефразированием, ролевыми сценариями или постепенным подведением диалога к запретной теме. Именно на стыке деклараций и реального поведения модели и возникает разрыв, который фиксируют независимые аудиторы. Важно понимать, что возрастной профиль — это не отдельная модель, а набор надстроек над общей архитектурой, поэтому любые изменения в базовой модели требуют синхронной перенастройки всех фильтров. Если этот процесс запаздывает, возникают уязвимости, которые и выявляют тестировщики. Дополнительную сложность создаёт то, что современные языковые модели обучаются на огромных массивах данных, и полностью исключить нежелательные паттерны на этапе обучения не удаётся — приходится полагаться на постфильтрацию, которая, как показал кейс, не всегда эффективна.

Контекст проверки важен не меньше её результата. Последние годы регуляторы в США, Евросоюзе и ряде других юрисдикций усиливают требования к цифровым сервисам, работающим с несовершеннолетними. На этом фоне разработчики ИИ-продуктов стараются демонстрировать ответственность: вводят возрастные режимы, родительский контроль и отдельные политики контента. Конкуренты в лице Google, Anthropic и Meta также экспериментируют с ограничениями для молодой аудитории, но единого отраслевого стандарта проверки таких режимов пока не существует. Это делает любую независимую экспертизу значимым сигналом для всего рынка. Показательно, что аналогичные претензии уже звучали в адрес других чат-ботов, однако нынешний случай выделяется на фоне громких публичных обещаний конкретного разработчика. Чем амбициознее заявления, тем выше планка ожиданий и тем болезненнее обнаруживаются несоответствия. В отсутствие общепринятых методик аудита возрастных ИИ-режимов каждый такой тест становится прецедентом, влияющим на будущие требования и ожидания пользователей.

Для российского рынка эта история имеет опосредованное, но показательное значение. ChatGPT официально не представлен в России, однако им пользуются через обходные пути, а отечественные аналоги — от GigaChat до YandexGPT — активно развивают собственные системы фильтрации. Провал зарубежной проверки усиливает аргумент в пользу локальных решений, которые можно адаптировать под российское законодательство о защите детей. Вместе с тем отраслевые специалисты отмечают, что проблема универсальна: любые возрастные фильтры остаются вероятностными, а значит, абсолютных гарантий не даёт ни один вендор. Российские разработчики пока не сталкивались с публичными независимыми аудитами подобного уровня, что создаёт как пространство для манёвра, так и потенциальные риски в будущем, когда такие проверки станут нормой. Кроме того, в России активно обсуждаются инициативы по регулированию ИИ, и подобные инциденты могут ускорить принятие более строгих норм, в том числе обязательную сертификацию образовательных и детских ИИ-сервисов.

Если сравнивать с альтернативами, картина не выглядит уникальной. Открытые модели без встроенной модерации изначально не обещают защиты несовершеннолетних, поэтому к ним претензий меньше — ответственность перекладывается на интегратора. Проприетарные сервисы, напротив, берут на себя публичные обязательства, и именно поэтому к ним предъявляются повышенные требования. Парадокс в том, что чем громче заявления о безопасности, тем строже проверка и тем заметнее любое несоответствие. Для пользователей это означает простой вывод: возрастной режим стоит воспринимать как дополнительный барьер, а не как полноценную замену родительскому контролю. Кроме того, многие родители могут ошибочно полагаться на заверения разработчиков, не проверяя реальное поведение системы в диалоге с ребёнком. В России, где проникновение ИИ-сервисов растёт, а культура цифровой гигиены ещё формируется, такой подход особенно опасен.

Дальнейшее развитие ситуации будет зависеть от реакции разработчика. Логичные шаги — публикация уточнённых политик, пересмотр формулировок о гарантиях и привлечение внешних аудиторов на постоянной основе. Открытым остаётся вопрос, появится ли отраслевой стандарт сертификации возрастных ИИ-режимов и кто будет его определять — регуляторы, сами компании или независимые исследовательские центры. Пока же кейс показывает, что обещания в сфере безопасности ИИ требуют не маркетинговых заявлений, а воспроизводимых и проверяемых доказательств. Вероятно, в ближайшее время мы увидим больше подобных проверок, и компаниям придётся либо подтверждать свои слова на деле, либо корректировать публичные обещания в сторону большей осторожности. Для российских разработчиков это сигнал: инвестиции в прозрачность и независимый аудит могут стать конкурентным преимуществом, особенно при выходе на международные рынки или в сегменте образовательных продуктов.