Группа исследователей из нескольких университетов и независимых организаций по защите прав детей опубликовала доклад, в котором обвиняет технологию поиска Google с привлечением искусственного интеллекта в создании неприемлемых угроз для несовершеннолетних. Согласно отчёту, AI-обзоры, которые Google начала активно внедрять в 2024 году, могут выдавать детям и подросткам информацию, содержащую советы по самоповреждению, инструкции по изготовлению опасных предметов и рекомендации по анорексии. Учёные проанализировали более 10 тысяч запросов, типичных для молодёжной аудитории, и выявили, что в 15 процентах случаев AI-обзоры содержали контент, который эксперты сочли вредным или потенциально опасным. Особую тревогу вызывает тот факт, что алгоритмы не всегда распознают возраст пользователя и не применяют соответствующие фильтры, что делает уязвимыми даже тех, кто явно указал свой возраст как несовершеннолетний.

Ключевой проблемой, по мнению исследователей, является то, что AI-обзоры Google формируются на основе анализа огромного массива данных из интернета, включая форумы, блоги и сайты, которые не проходят модерацию с точки зрения безопасности для детей. В отличие от традиционного поиска, где пользователь видит список ссылок и может оценить источник, AI-обзор предоставляет готовый ответ, который выглядит авторитетным и не требует дополнительной проверки. Например, на запрос о способах быстрого похудения AI-модель могла выдать советы по голоданию, а на вопросы о психическом здоровье — рекомендации, которые противоречат клиническим протоколам. Исследователи подчёркивают, что такие ответы могут быть восприняты подростками как руководство к действию, что несёт прямую угрозу их здоровью и жизни. Представители Google заявили, что компания постоянно совершенствует алгоритмы безопасности, но признали, что полностью исключить риск появления нежелательного контента невозможно.

Технические детали исследования показывают, что AI-обзоры Google используют модель Gemini, которая обучается на текстах из открытых источников без специальной маркировки контента для несовершеннолетних. Эксперты отмечают, что проблема усугубляется тем, что алгоритмы генеративного ИИ склонны к галлюцинациям — они могут создавать правдоподобные, но фактически неверные утверждения. В контексте безопасности детей это особенно опасно, так как даже единичный случай выдачи вредного совета может иметь серьёзные последствия. Кроме того, исследователи выявили, что AI-обзоры не всегда корректно обрабатывают запросы, содержащие эмоционально окрашенные слова или сленг, характерный для подростковой среды. Это приводит к тому, что система может не распознать потенциально опасный запрос и выдать стандартный ответ, который не учитывает уязвимость пользователя. Google уже внедрила некоторые меры, такие как блокировка запросов, связанных с суицидом или наркотиками, но, по мнению экспертов, этого недостаточно.

Контекст данного исследования важен, поскольку Google является доминирующей поисковой системой в мире с долей рынка более 90 процентов, и её решения напрямую влияют на миллиарды пользователей, включая детей. Компания начала активно продвигать AI-обзоры в 2024 году, позиционируя их как способ ускорить получение информации и сделать поиск более удобным. Однако уже тогда эксперты по безопасности выражали обеспокоенность по поводу возможных рисков, особенно для уязвимых групп населения. В 2025 году Google расширила функционал AI-обзоров, добавив возможность задавать уточняющие вопросы и получать более развёрнутые ответы, что, по мнению критиков, только увеличило потенциальную опасность. Конкуренты Google, такие как Microsoft с Bing Chat и стартапы вроде Perplexity AI, также внедряют аналогичные функции, но пока не сталкивались с такими масштабными обвинениями, возможно, из-за меньшей аудитории или более строгих политик модерации.

Для российского рынка эта ситуация имеет особое значение, поскольку Google продолжает оставаться одной из самых популярных поисковых систем в стране, несмотря на ограничения и развитие альтернатив, таких как Яндекс. Российские эксперты по цифровой безопасности неоднократно указывали на необходимость адаптации алгоритмов ИИ к локальным культурным и правовым нормам, особенно в части защиты детей. В России действует закон о защите детей от вредной информации, который обязывает интернет-платформы фильтровать контент, но AI-обзоры Google могут не всегда соответствовать этим требованиям. Представители российских организаций по защите прав детей уже заявили, что намерены обратиться в Роскомнадзор с просьбой провести проверку технологии на соответствие законодательству. В то же время Яндекс активно развивает собственную AI-платформу YandexGPT, которая также используется в поиске, и российские разработчики могут учесть ошибки Google при проектировании своих систем, чтобы избежать аналогичных проблем.

Сравнение с альтернативами показывает, что проблема не является уникальной для Google, но её масштаб значительно больше из-за охвата аудитории. Например, AI-ассистенты от Apple и Amazon, такие как Siri и Alexa, также подвергались критике за выдачу неподобающего контента детям, но они работают в более контролируемой среде и имеют более строгие настройки родительского контроля. В отличие от них, поисковые AI-обзоры Google интегрированы в основной интерфейс поиска и не требуют дополнительной активации, что делает их доступными для любого пользователя, включая детей, которые могут случайно наткнуться на опасный контент. Исследователи рекомендуют Google внедрить обязательную верификацию возраста для использования AI-обзоров или хотя бы добавить предупреждения о возможных рисках, но компания пока не объявила о таких планах.

Перспективы развития ситуации остаются неопределёнными. Google уже пообещала усилить модерацию и улучшить алгоритмы фильтрации, но исследователи сомневаются, что это решит проблему полностью, поскольку генеративные модели по своей природе сложны для контроля. Возможно, компании придётся пойти на более радикальные меры, такие как отключение AI-обзоров для несовершеннолетних или внедрение обязательной проверки каждого ответа модератором, что существенно замедлит работу системы. Открытым остаётся вопрос о том, как быстро Google сможет адаптироваться к критике и какие регуляторные последствия это может иметь для всей индустрии. В любом случае, данный инцидент подчёркивает необходимость более тщательного тестирования AI-технологий перед их массовым внедрением, особенно когда речь идёт о безопасности детей.