ЭКСПЕРТИЗА: врачебная тайна машинного разума — почти 60% медиков применяют ИИ, но ответственность за ошибки нейросети с них никто не снимает

Российские врачи осваивают нейросети быстрее, чем медицинские организации успевают встроить их в рабочие процессы. Почти 60% медиков используют искусственный интеллект в повседневной практике, но каждый второй не имеет доступа к таким инструментам через работодателя.

В поиске медицинской информации врачи чаще полагаются на зарубежные сервисы, прежде всего DeepSeek, а не на отечественные разработки. При этом около 30% неизменно перепроверяют ответы нейросетей: ошибочный совет может выдать машина, но перед пациентом за него придется отвечать врачу. До автоматизации бумажной рутины, которая отнимает у медиков больше всего сил, индустрия пока не добралась.

Практика на свой страх и риск

Искусственный интеллект уже проник в российскую медицину, но пока скорее как личный помощник врача, чем как полноценная часть клинической инфраструктуры. Согласно опросу мобильного приложения «Справочник врача», обнародованному Forbes, 59% респондентов используют нейросети в профессиональной деятельности. Однако регулярно обращаться к ним готовы далеко не все: 34,9% делают это редко, 15,9% — часто, 8,2% — почти ежедневно. Еще 41% медиков вовсе не используют ИИ в своей врачебной практике.

Исследование проводилось с 28 сентября по 6 октября 2026 года. В нем участвовали 1000 врачей из 80 регионов России и Белоруссии. Большинство респондентов работают в государственных медицинских организациях, медианный возраст участников — 39 лет.

Главная причина обращения к нейросетям — поиск медицинской информации. Эту возможность используют 46,1% опрошенных. Еще 29,9% проверяют совместимость препаратов, назначенных пациентам, а 26,5% прибегают к ИИ при ведении сложных клинических случаев. Обобщать медицинские публикации и анализировать данные с его помощью стараются 25,5% врачей, готовить статьи, доклады и другие материалы — 13,5%.

В работе непосредственно с пациентами нейросети задействованы заметно реже. Переводить сложные медицинские формулировки на более понятный язык при подготовке выписок и заключений с их помощью пытаются 10,3% респондентов. Создавать образовательные материалы для пациентов — 9,7%, формировать ответы на вопросы, поступающие дистанционно, — 6,9%.

Среди других задач, которые медики поручают ИИ, — поиск необходимых положений в приказах и федеральных законах, подготовка ответов на жалобы и оформление протоколов врачебных комиссий.

Пока речь идет преимущественно о вспомогательном инструменте: нейросеть помогает найти информацию или подготовить текст, но не становится самостоятельным участником лечебного процесса. И чем ближе ее рекомендации к конкретному назначению, тем выше цена ошибки.

DeepSeek обошел российские модели

В выборе ИИ-сервисов российские врачи ориентируются прежде всего на доступность и практическую пользу. Самая распространенная категория инструментов — нейросетевые модули поисковых систем «Яндекс» и Google, которыми пользуются 33,1% участников опроса. Среди отдельных чат-ботов лидирует китайский DeepSeek с долей 27,4%. Американский ChatGPT занимает второе место — 20,7%.

Отечественные модели пока уступают зарубежным. YandexGPT используют 15,3% опрошенных, GigaChat от «Сбера» — 12,2%. Gemini выбрали 8% врачей, Claude — 4,3%, Qwen — 3,7%, Grok — 3,1%. Еще 3,7% назвали другие решения, в том числе Perplexity и медицинский поисковик iqdoc. Поскольку респонденты могут обращаться сразу к нескольким сервисам, суммарная доля превышает 100%.

Популярность DeepSeek руководитель развития партнерской сети Synteris AI Константин Орехов объясняет вполне прикладными преимуществами: сервис бесплатный, доступен без VPN, в отличие от ChatGPT, и демонстрирует ход своих рассуждений. Российские модели, по его оценке, пока уступают по масштабу, а на медицинские вопросы нередко отвечают чрезмерно осторожно, предлагая обратиться к специалисту. Для врача, который сам является таким специалистом, подобная рекомендация бесполезна.

Однако первенство зарубежного чат-бота еще не доказывает превосходства его медицинских знаний. Генеральный директор компании «Цифровая медицина» Наталья Самойлова отмечает, что полные данные об обучающих массивах популярных моделей неизвестны. На выбор влияют в том числе доступность инструмента и качество его ответов.

У российских разработчиков есть и собственное системное ограничение — доступ к клиническим данным. Законодательство о персональных данных разрешает обрабатывать информацию только в целях, для которых она собиралась. Поэтому согласие пациента на обработку сведений в больнице само по себе не позволяет использовать его историю болезни для обучения коммерческой нейросети.

«Клинической информации у нас накоплено огромное количество, но использовать ее для обучения ИИ непросто», — указывает Самойлова.

Для сравнения она приводит американскую языковую модель GatorTronGPT, при обучении которой использовали около 290 млн реальных медицинских записей почти 2,5 млн пациентов.

Еще одна причина отставания — способ распространения отечественных решений. Основатель агентства «АдвертМед» Александр Шишмарев отмечает, что российские модели преимущественно встроены в экосистемы «Сбера» и «Яндекса» и реже воспринимаются врачами как самостоятельный рабочий инструмент. Но ситуация может измениться, если разработчики обеспечат профильное обучение на медицинских данных и интеграцию с программами, которыми пользуются клиники.

Доверие заканчивается там, где начинается ответственность

Врачи не склонны безоговорочно принимать ответы нейросетей на веру. Всегда перепроверяют результат, по возможности изучая источники и ссылки, 29,2% участников опроса. Еще столько же используют ИИ преимущественно в тех областях, где уже убедились в его надежности. Только при возникновении сомнений проверяют сгенерированные материалы 13,8% респондентов. Еще 3,2% признаются, что их раздражают частые ошибки нейросетей.

Самой осторожной модели взаимодействия с ИИ придерживается Наталья Самойлова. По ее мнению, опасность представляет не технология сама по себе, а использование несовершенного программного обеспечения без достаточной квалификации и критической оценки результата. Вопрос, таким образом, заключается не только в том, пользуется ли врач нейросетью, но и в том, способен ли он оценить качество ее рекомендаций.

Шишмарев считает, что правила работы с ИИ должны быть установлены на уровне медицинских организаций. Клиникам необходимо определить, какие сервисы разрешены, для каких задач их можно применять, какие сведения запрещено передавать и как документируется проверка результата. При наличии таких правил врач получает рабочий инструмент, а не источник дополнительной неопределенности. В противном случае он либо отказывается от технологии, либо использует ее неофициально.

Особенно остро вопрос доверия проявляется там, где нейросеть предлагает диагностическое или лечебное решение. Среди препятствий к регулярному применению ИИ 34,6% опрошенных назвали неопределенность ответственности за ошибочное решение. Почти столько же — 34,3% — указали на ошибки самих систем и отсутствие ссылок на источники. Еще 19,8% беспокоит недостаточная клиническая доказательность: нехватка исследований, подтверждающих точность и безопасность конкретного сервиса.

Юридическая сторона вопроса при этом гораздо определеннее, чем технологическая. Партнер экспертно-юридической группы «Медика Пруф» Иван Печерей поясняет: если врач воспользовался ошибочной рекомендацией нейросети, ответственность остается на нем и в зависимости от обстоятельств может быть уголовной. Ошибка также способна стать основанием для гражданско-правовой ответственности медицинской организации.

Самойлова сравнивает ИИ с диагностическим оборудованием. Врач не освобождается от ответственности за неверную интерпретацию результатов УЗИ только потому, что при постановке диагноза пользовался аппаратом. По той же логике нейросеть может предоставлять информацию, но не отвечать за конкретное клиническое решение.

Более того, создатели общедоступных чат-ботов обычно оговаривают в пользовательских соглашениях ограничения своей ответственности. Поэтому ссылка врача на рекомендацию машины не станет юридической защитой, предупреждает Константин Орехов.

Уверенный ответ не гарантирует правильного

Нейросети ошибаются регулярно, причем способны выдавать неверную информацию с убедительным видом. Один из участников опроса, психиатр из Приморского края, рассказал, что неоднократно находил неточности в ответах ИИ. Иногда после замечаний врача машина соглашалась с исправлениями, хотя в отдельных случаях первоначально оказывалась права.

Совладелец холдинга «Инвитро» Роман Мирончик объясняет этот эффект принципом работы универсальных моделей: они формируют наиболее вероятный ответ, а не гарантируют медицинскую достоверность каждого утверждения. Риск возникает, когда сгенерированный текст превращается в руководство к действию — определяет назначение, дозировку или оценку совместимости лекарств. Здесь даже небольшая неточность может дорого обойтись пациенту.

Есть и другая проблема: модель знает только те обстоятельства, которые врач включил в запрос. Медицинский директор клиники ранней реабилитации «Три сестры», невролог Антон Клочков обращает внимание, что у врача зачастую нет времени подробно изложить клиническую картину, приложить все данные пациента и описать особенности анамнеза. В ответ на неполный запрос нейросеть может построить развернутую версию событий, часть которой не подтверждается исходными сведениями.

Универсальные модели могут расходиться и с требованиями отечественных правил. Так, с 2022 года клинические рекомендации в России обязательны для врачей, тогда как общедоступные нейросети в значительной степени обучены на зарубежной медицинской литературе. Рекомендация, приемлемая для американской практики, не обязательно соответствует российским стандартам, отмечает Орехов.

Отдельный риск связан с конфиденциальностью. Информация о состоянии здоровья относится к специальной категории персональных данных и защищается врачебной тайной. Если врач передает зарубежному чат-боту описание клинического случая, по которому можно установить личность пациента, он фактически раскрывает эти сведения без необходимого согласия. Нарушением это может оказаться даже тогда, когда полученный ответ оказался правильным.

Опасения вызывает и регуляторный статус сервисов. Отсутствие регистрации или необходимых разрешений назвали препятствием 8,8% участников опроса. По словам Самойловой, ИИ-системы, которые по назначению относятся к медицинским изделиям, должны проходить регистрацию и подтверждать безопасность и эффективность. При этом эксперт считает существующие требования к присваиваемым им классам риска чрезмерными.

Мирончик предлагает решать проблему не запретами, а понятными правилами: обучать врачей, устанавливать регламенты клинического применения ИИ, маркировать решения, принятые с его помощью, и отдавать предпочтение проверенным медицинским системам перед универсальными чат-ботами там, где затрагивается безопасность пациента.

Бумажная нагрузка остается без нейросетей

Парадокс внедрения ИИ в медицине заключается в том, что врачи уже научились искать с его помощью информацию, но почти не используют технологию для устранения своей самой тяжелой повседневной нагрузки.

Основатель приложения «Справочник врача», терапевт Константин Хоманов считает главной потенциальной ценностью искусственного интеллекта экономию времени на рутинных операциях, прежде всего бюрократических. Результаты опроса это подтверждают: 59,6% участников назвали оформление медицинской документации одной из наиболее изматывающих обязанностей. На втором месте оказалась административная отчетность — 28,6%. Еще 25% указали на необходимость контролировать соответствие лечения клиническим рекомендациям.

Однако инструменты, способные взять на себя хотя бы часть этой работы, доступны немногим. Системы подготовки медицинских документов под диктовку используют на рабочем месте 6,8% опрошенных, программы, которые записывают разговор врача с пациентом и автоматически составляют документ, — 4,3%.

Главное препятствие — отсутствие связи между нейросетями и медицинскими информационными системами. На то, что ИИ не интегрирован с программами, в которых ведется документация, указали 39,1% респондентов. Еще 18,3% приходится повторно вводить одни и те же данные.

Проблема начинается даже раньше: у каждого второго врача просто нет предоставленных работодателем инструментов искусственного интеллекта. Об отсутствии таких сервисов сообщили 49,8% участников исследования.

Эксперт в области управления здравоохранением Сергей Арабаджян объясняет это ограниченным числом готовых решений и их высокой стоимостью, из-за которой они доступны не всем организациям. Дополнительное препятствие — необходимость обеспечить точное и законное обращение с персональными данными пациентов. Пока рынок и правила применения технологии не сформировались окончательно, внедрение ИИ нередко остается скорее модным веянием, чем устойчивой практикой.

Там, где клиники все же предоставляют такие инструменты, преобладают системы проверки и поддержки решений. Программы, сверяющие действия врача с клиническими рекомендациями и сигнализирующие об отклонениях, используют 21,5% опрошенных. Сервисы, предлагающие возможный диагноз и назначения на основе данных пациента, — 19,4%. Инструменты для предупреждения о неблагоприятном сочетании назначенных препаратов — 18,3%.

Но и здесь нейросеть остается советником, а не полноценным участником лечения: лишь 5,6% респондентов заявили, что ориентируются на ответы ИИ, полностью доверяя им.

Пока медицинские организации не встроят искусственный интеллект в реальные рабочие процессы, его возможности будут использоваться фрагментарно. Врачам приходится самостоятельно осваивать удобные сервисы, проверять каждый значимый ответ и одновременно помнить, что юридический риск не разделяется с нейросетью. Машинный разум уже вошел в медицинскую практику, но ответственность за его ошибки по-прежнему остается человеческой.

 

ЧИТАЙТЕ ТАКЖЕ:

ЭКСПЕРТИЗА: научат ли врачей новые клинреки лечить фетишизм и садомазохизм?

Related posts

ЭКСПЕРТИЗА: почему новый порядок терапии, подготовленный Минздравом, не прошел юридическую проверку?

ЭКСПЕРТИЗА: детская инвалидность в стране растет быстрее, чем возможности педиатрии

ОПРОС: общество требует бесплатной вакцинации детей от менингококка. Почему государственная программа отстает?