Перейти к содержанию
суббота, 21 ноября 2026 г.

ИИ Вестник

Главные новости о развитии искусственного интеллекта в России

ИИ в медицине: ответственность и инфраструктурные риски

Doctor reviewing AI diagnostic recommendations on screen in modern hospital, photorealistic editorial scene.
Generated by Sourceful Riverflow (RouterAI)

Российская платформа Webiomed, охватывающая более 4 тысяч медицинских организаций в 55 регионах, ежедневно обрабатывает до миллиона электронных медкарт, выдавая рекомендации врачам. Однако за удобство приходится платить: возникают вопросы об ответственности за ошибки ИИ и о надежности ИТ-инфраструктуры, особенно в части управления доступом.

Платформа Webiomed, разработанная компанией «К-Скай», работает в масштабе всей страны: её услугами пользуются свыше 300 тысяч врачей из более чем 4 тысяч медицинских организаций в 55 регионах. Ежедневно алгоритмы системы анализируют до миллиона электронных медицинских карт, формируя рекомендации по диагностике и лечению. При этом окончательное решение и ответственность остаются за врачом, который ставит последнюю подпись. Таким образом, ИИ выступает в роли советчика, но не самостоятельного субъекта принятия решений. Такая модель взаимодействия человека и алгоритма пока является основной в российской медицине, однако она порождает ряд нерешённых вопросов, касающихся как правовой ответственности, так и технической надежности.

Согласно информации от РЕД СОФТ, серверная инфраструктура Webiomed развернута на отечественной операционной системе РЕД ОС, сертифицированной ФСТЭК России и допущенной к использованию на объектах критической информационной инфраструктуры. Это подчеркивает важность импортозамещения и соответствия требованиям безопасности. Однако даже самая надежная ОС не застрахована от ошибок в управлении доступом. За централизованный доступ отвечает служба каталогов РЕД АДМ, которая обеспечивает аутентификацию врачей и их доступ к системам, где формируются рекомендации ИИ. Сбой в работе каталога может привести к тому, что медики потеряют возможность контролировать алгоритмы и проверять их выводы. Служба каталогов является инфраструктурой нулевого уровня, и оставлять её без инструментов восстановления нельзя. Как показывает практика, многие импортозамещающиеся компании считают, что «с нами такого не случится», поэтому средства на специализированные инструменты просто не закладывают в бюджет. Однако при возникновении инцидента затраты на восстановление могут оказаться значительно выше.

Технические особенности платформы таковы, что ИИ не устает и способен быстро обрабатывать большие объемы данных, что выгодно отличает его от человека. Однако чем убедительнее подсказка алгоритма, тем выше риск, что врач перестанет критически её оценивать. Возникает закономерный вопрос: где граница между ответственностью разработчика, медицинской организации и врача? Если рекомендация ошибочна, а система работала с неполными данными, кто ответит перед пациентом? Пока однозначного ответа нет, и это создает правовую неопределенность. По закону за вред при оказании медицинской помощи отвечает медицинская организация, но в случае сбоя инфраструктуры или ошибки алгоритма ответственность размывается. Возможна и персональная ответственность врача, в зависимости от обстоятельств. Для пациента же все это предстает единой системой, и если ошибка произошла на стыке алгоритма, медицинской системы и инфраструктуры, найти виновного крайне сложно.

Контекст проблемы выходит за рамки одной платформы. ИИ в медицине — лишь часть общего тренда цифровизации здравоохранения. В России уже действуют нормативные акты, определяющие понятие «технологии искусственного интеллекта», но они пока не регулируют вопросы ответственности за ошибки ИИ. На рынке появляются и другие решения, однако Webiomed является одним из самых масштабных. Конкуренты также сталкиваются с необходимостью обеспечения надежности инфраструктуры и защиты данных. В условиях импортозамещения многие компании экономят на инструментах восстановления, полагая, что сбои маловероятны. Но практика показывает обратное. Например, классические средства резервного копирования не всегда эффективны для восстановления служб каталогов, поскольку не позволяют выборочно восстанавливать отдельные объекты без остановки службы. Специализированные решения, такие как Granulex Recovery от МДИС, позволяют сравнивать состояние каталога с резервной копией и выборочно восстанавливать ошибочно изменённые объекты и атрибуты без остановки службы. Это подтверждено совместными испытаниями с РЕД СОФТ. Однако многие организации не закладывают бюджет на такие инструменты, надеясь на авось. В случае сбоя затраты на восстановление могут оказаться значительно выше.

Для российского рынка эта ситуация показательна. С одной стороны, внедрение ИИ повышает качество диагностики и снижает нагрузку на врачей. С другой — усиливает зависимость от ИТ-инфраструктуры. Как отметил автор исходного материала, лично он выбрал бы рекомендацию ИИ, а не уставшего врача поликлиники. Это отражает общественный запрос на технологичность, но одновременно поднимает вопросы доверия к алгоритмам. Отрасль реагирует неоднозначно: одни видят в ИИ панацею, другие указывают на риски. Важно, что ответственность за вред при оказании медицинской помощи по закону несет медицинская организация, но в случае сбоя инфраструктуры или ошибки алгоритма размывается. Кроме того, для контроля ИИ врачу нужны достоверные данные, доступ к системе и возможность проверить основания каждой рекомендации. Если, например, ошибка автоматической синхронизации изменит членство врачей в доменных группах, они потеряют доступ и, следовательно, контроль над ИИ. Поэтому надежность службы каталогов и наличие инструментов её восстановления становятся критически важными.

Сравнение с альтернативами показывает, что классические средства резервного копирования не всегда эффективны для восстановления служб каталогов. Решение Granulex Recovery, разработанное МДИС, позволяет сравнивать состояние каталога с резервной копией и выборочно восстанавливать ошибочно измененные объекты и атрибуты без остановки службы. Это подтверждено совместными испытаниями с РЕД СОФТ. Однако многие организации не закладывают бюджет на такие инструменты, надеясь на авось. В случае сбоя затраты на восстановление могут оказаться значительно выше. Таким образом, экономия на защите инфраструктуры может обернуться серьезными проблемами. В условиях импортозамещения, когда многие компании переходят на отечественные решения, важно не только обеспечить функциональность, но и позаботиться о средствах восстановления после сбоев.

Перспективы развития ситуации зависят от нескольких факторов. Во-первых, необходимо законодательно уточнить ответственность за ошибки ИИ в медицине. Во-вторых, важно обеспечить надежность инфраструктуры, включая службы каталогов, и внедрять инструменты восстановления. В-третьих, требуется повышать цифровую грамотность врачей, чтобы они могли критически оценивать рекомендации алгоритмов. Открытым остается вопрос: кто ответит перед пациентом, если ошибка произошла на стыке алгоритма, медицинской системы и инфраструктуры? Пока ясности нет, и это создает риски для всех участников процесса. Дальнейшее развитие событий будет зависеть от совместных усилий регуляторов, разработчиков и медицинского сообщества. Остается надеяться, что российский рынок ИИ в медицине сможет найти баланс между инновациями и безопасностью, обеспечив доверие как со стороны врачей, так и со стороны пациентов.

Читайте также