В конце февраля 2026 года в нескольких регионах мира, включая Латинскую Америку и Юго-Восточную Азию, зафиксирована серия актов вандализма в отношении дорожных камер наблюдения. Местные жители, руководствуясь информацией, полученной от искусственного интеллекта в поисковой выдаче Google, разбивали корпуса устройств в надежде обнаружить внутри драгоценные металлы. По данным полиции, за две недели было повреждено более трёхсот камер, что нанесло ущерб городским бюджетам на сумму около двух миллионов долларов. Власти вынуждены были временно отключить часть оборудования на оживлённых трассах, что осложнило контроль за соблюдением правил дорожного движения и раскрытие мелких правонарушений. Этот инцидент стал беспрецедентным примером того, как ошибка алгоритма может привести к реальным разрушениям городской инфраструктуры и массовым противоправным действиям.

Причиной инцидента стала галлюцинация большой языковой модели, интегрированной в поисковую систему Google. При вводе запросов на испанском и португальском языках о принципах работы камер ИИ выдавал ответы, содержащие утверждение, что внутри устройств находятся золотые слитки, используемые для калибровки сенсоров. По-видимому, модель некорректно интерпретировала техническую документацию, где упоминались золотые контакты внутри электронных компонентов, и превратила эту информацию в ложный факт. Ответы сопровождались ссылками на несуществующие официальные документы, что создавало видимость достоверности. Представители Google подтвердили, что подобные ответы генерировались в экспериментальном режиме поиска с ИИ, который тестировался в ряде стран, и уже приняли меры по блокировке таких запросов. Однако это не снимает вопросов о том, почему механизмы проверки фактов не сработали до того, как информация стала доступна тысячам пользователей.

Технические особенности инцидента указывают на системную проблему с проверкой фактов в генеративных моделях. Даже при наличии ссылок на авторитетные источники, ИИ может создавать правдоподобные, но полностью вымышленные данные, особенно когда речь идёт о специализированных темах, таких как оборудование для наблюдения. В данном случае модель, вероятно, смешала информацию о золотом напылении на контактах с утверждениями о том, что камеры содержат ценные компоненты, и выдала это за факт. Эксперты по кибербезопасности отмечают, что подобные случаи становятся всё более распространёнными, поскольку пользователи склонны доверять ответам ИИ без перекрёстной проверки. Инцидент также подчёркивает уязвимость поисковых систем, которые внедряют ИИ без достаточных механизмов контроля достоверности. Особую тревогу вызывает то, что модель не только сгенерировала ложную информацию, но и создала убедительные ссылки на несуществующие документы, что усложняет выявление обмана даже для опытных пользователей.

Это не первый случай, когда ИИ-поиск вводит пользователей в заблуждение, однако предыдущие примеры касались менее серьёзных тем, таких как рецепты или исторические факты. В 2024 году Google уже сталкивалась с критикой из-за советов ИИ добавлять клей в пиццу, но тогда ущерб ограничивался кулинарными неудачами. Нынешний случай впервые привёл к реальным разрушениям инфраструктуры и материальным потерям, что вызывает вопросы о безопасности использования ИИ в общедоступных сервисах. Конкуренты Google, такие как Microsoft с Bing и Perplexity AI, также внедряют генеративные ответы в поиск, но пока не сообщали о подобных инцидентах. Тем не менее, эксперты предупреждают, что проблема носит отраслевой характер и требует единых стандартов проверки фактов. Возможно, именно этот случай станет катализатором для разработки обязательных протоколов тестирования ИИ-систем перед их массовым внедрением.

Для российского рынка этот случай имеет особое значение, поскольку отечественные поисковые системы, включая Яндекс, активно развивают собственные ИИ-ассистенты. Хотя инциденты произошли за рубежом, они демонстрируют потенциальные риски, с которыми могут столкнуться российские пользователи при использовании аналогичных технологий. В России уже обсуждается законопроект об обязательной маркировке контента, созданного ИИ, и этот случай может ускорить его принятие. Профильные ведомства, в том числе Роскомнадзор, внимательно следят за развитием ситуации, а операторы дорожных камер в крупных городах усиливают физическую защиту оборудования, опасаясь подражательных действий со стороны местных жителей. Показательно, что даже в странах с высоким уровнем цифровой грамотности люди склонны доверять ИИ без критической оценки, что делает проблему глобальной и требующей комплексного решения.

Сравнивая с альтернативными подходами, можно отметить, что традиционные поисковые системы без ИИ, такие как DuckDuckGo, не сталкиваются с подобными проблемами, поскольку предоставляют только ссылки на внешние источники. Однако пользователи всё чаще ожидают от поиска готовых ответов, и отказ от ИИ может снизить привлекательность сервиса. Некоторые компании, например OpenAI, внедряют механизмы самопроверки, когда модель оценивает достоверность своих ответов, но это не гарантирует полную защиту от ошибок. Эксперты предлагают использовать гибридные подходы, сочетающие генеративные ответы с обязательными ссылками на официальные источники и предупреждениями о возможной недостоверности. Также обсуждается идея внедрения «красных кнопок» для быстрой блокировки опасных тем, но это лишь временные меры, не решающие корневую проблему.

В ближайшей перспективе Google планирует расширить программу тестирования ИИ-поиска, однако после этого инцидента компания будет вынуждена пересмотреть свои протоколы безопасности. Представители корпорации заявили, что уже внесли изменения в алгоритмы, чтобы блокировать запросы, связанные с драгоценными металлами и дорожными камерами, а также усилили фильтрацию ответов на темы, касающиеся инфраструктуры. Тем не менее, открытым остаётся вопрос о том, как предотвратить подобные галлюцинации в будущем, особенно с учётом того, что модели постоянно обучаются на новых данных. Юристы уже готовят коллективные иски от пострадавших муниципалитетов, что может создать прецедент для привлечения технологических компаний к ответственности за действия ИИ. В конечном итоге, этот случай может стать поворотным моментом в регулировании искусственного интеллекта, заставив разработчиков уделять больше внимания не только качеству ответов, но и их потенциальному влиянию на реальный мир.