В ближайшие два-три года искусственный интеллект может радикально изменить медицинскую практику — от заполнения историй болезни до первичной диагностики и продления рецептов. Однако законодательство пока не поспевает за технологиями: эксперты предлагают пересмотреть классификацию рисков, определить границы ответственности за ошибки алгоритмов и установить требования к пациентским сервисам. В противном случае стремительное распространение ИИ может опередить создание правил его безопасного применения.
6 сценариев цифровой трансформации
Медицинские ИИ-сервисы вступают в период стремительного распространения. Уже в самое ближайшее время здравоохранение может пойти по одному из нескольких путей: от стихийного освоения технологий до последовательной трансформации отрасли. О возможных вариантах развития событий на XVII Всероссийском конгрессе пациентов рассказала руководитель Высшей школы организации и управления здравоохранением Гузель Улумбекова.
Как передает «Медвестник», эксперт представила 6 сценариев внедрения искусственного интеллекта в медицину и медобразование. Среди прогнозируемых событий — первое судебное разбирательство, в котором при рассмотрении дела о врачебной ошибке придется оценивать вклад ИИ.
Еще один вероятный поворот — массовое использование алгоритмов в неотложной помощи. При этом пациенты, по оценке Улумбековой, все чаще будут обращаться за рекомендациями к нейросетям, а не к медицинским работникам.
Изменится и сама медицинская документация. Эксперт полагает, что более 90% текста клинических записей в перспективе будет формироваться с помощью ИИ. Передовые языковые модели, вероятно, продолжат опережать человека при прохождении стандартных тестов — бенчмарков. Вместе с тем заметного продвижения в регистрации больших языковых моделей (LLM), по ее прогнозу, пока не произойдет.
Технологии способны повлиять не только на документооборот. Алгоритмы могут обнаруживать заболевания на более ранних стадиях, чем традиционные скрининговые процедуры, анализировать показатели дистанционного мониторинга и помогать людям следить за состоянием здоровья. В числе ожидаемых эффектов — сокращение очередей, снижение территориальных барьеров в получении помощи, подготовка эпикризов (врачебных заключений) и перенос части медицинских услуг на дом.
Еще одна область применения — разработка новых лекарственных препаратов.
Алгоритмы уже входят в клиническую практику
Масштаб происходящих изменений демонстрируют зарубежные медицинские платформы. В американской информационной системе Epic, по словам Улумбековой, используется более 125 решений на основе искусственного интеллекта. Собственная большая языковая модель компании обучена на массиве из 115 млрд событий, связанных с более чем 300 млн уникальных пациентов.
Развиваются и сервисы, которые непосредственно взаимодействуют с гражданами. Диалоговая система Emmie способна частично выполнять функции врача первичного звена и помогать пациенту подготовиться к консультации специалиста. Платформа Doctronic позволяет в автономном режиме продлевать рецепты на препараты, ранее назначенные врачом.
По прогнозу главы ВШОУЗ, распространение устройств дистанционного наблюдения за здоровьем со временем увеличит число людей, не нуждающихся в регулярном обращении за медицинской помощью. Однако рассчитывать на пропорциональное снижение нагрузки на систему не приходится: старение населения и тревожность пациентов будут поддерживать высокий спрос на медицинские услуги.
В долгосрочной перспективе повышение производительности труда за счет ИИ может привести к постепенному сокращению численности врачей. Одновременно планка профессиональной подготовки будет подниматься: специалистам потребуется более глубокое понимание медицинских технологий и умение работать в связке с алгоритмами.
Правила отстают от технологий
Пока ИИ осваивает все новые участки клинической практики, нормативная база остается разрозненной. Старший юрист юридической фирмы Verba Legal Анастасия Мырсина на том же конгрессе отметила, что отдельные вопросы применения искусственного интеллекта уже регулируются, однако действующие правовые режимы пока не согласованы между собой. Для устранения пробелов эксперты сформулировали четыре направления законодательных изменений.
Первое касается классификации медицинского программного обеспечения. Сейчас российское право автоматически относит ПО, созданное с применением технологий ИИ, к третьему классу риска — категории с высокой степенью потенциальной опасности. Юрист предлагает отказаться от универсального подхода и оценивать каждую систему с учетом ее назначения и возможных последствий использования.
При определении класса риска, по мнению Мырсиной, необходимо учитывать степень автономности алгоритма, тип обрабатываемых данных и то, насколько существенно его выводы способны повлиять на клиническое решение. Такой подход позволил бы отличать вспомогательные инструменты от программ, фактически участвующих в принятии медицинских решений. Вопрос пересмотра автоматического отнесения ИИ-разработок к третьему классу риска уже поднимали и производители медицинских изделий.
Второе предложение предполагает включение технологий искусственного интеллекта в систему клинических рекомендаций. Третье связано с пациентскими сервисами: для них необходимо установить требования к безопасности и прозрачности, а также четко разграничить предоставление справочной информации и выдачу персонализированных медицинских советов.
Четвертый блок — обращение медицинских данных. Речь идет об обмене информацией между организациями, ее вторичном использовании, обезличивании и защите. По словам Мырсиной, этот процесс должен строиться последовательно: сначала нужно установить законные основания для работы с данными и подготовить информационные массивы, затем провести обезличивание и проверить вероятность повторной идентификации пациентов. Только после этого информацию можно передавать в защищенный исследовательский контур.
Пациенты уже советуются с нейросетями
Расширение пациентского сегмента ИИ подтверждают результаты опроса, представленные заместителем председателя координационного совета движения «Движение против рака», членом Общественного совета при Минздраве РФ Галиной Маргевич. В исследовании участвовали 502 человека.
Чаще всего респонденты используют нейросети для поиска сведений о симптомах — так ответили 36,9% опрошенных. Еще 22,9% обращаются к алгоритмам, чтобы проверить диагнозы и назначения врачей, 19,5% выясняют совместимость лекарственных препаратов. Для 17,5% ИИ стал инструментом перевода медицинской терминологии на понятный язык.
Таким образом, нейросети уже превратились для части пациентов в дополнительный канал получения медицинской информации. При этом граница между справочной консультацией и рекомендацией, способной повлиять на лечение, остается одним из ключевых вопросов регулирования.
Глава Национальной ассоциации медицинских информатиков Борис Зингерман ранее обращал внимание на то, насколько быстро меняется отношение к доступу граждан к собственным медицинским сведениям. Еще недавно профессиональное сообщество обсуждало, стоит ли предоставлять пациентам такую возможность, тогда как теперь на этом настаивает Минздрав РФ.
По словам эксперта, у некоторых граждан информации о собственном здоровье уже больше, чем у медицинских организаций: они получают результаты обследований в частных клиниках, собирают показатели с носимых устройств и мобильных приложений. Одновременно множится число нейросетевых сервисов, готовых обрабатывать эти сведения.
Кто ответит за ошибку алгоритма
По мере проникновения ИИ в клиническую практику все острее будет вставать вопрос ответственности за последствия его применения. В Американской медицинской ассоциации ранее выступили за законодательные гарантии для врачей, использующих ИИ-инструменты.
Предлагается ограничить ответственность медицинских работников за вред, причиненный пациентам такими продуктами, при условии, что алгоритмы применялись по назначению, а врач соблюдал необходимую клиническую осмотрительность. Тем самым часть ответственности за дефекты технологий предлагается возложить на их разработчиков.
Российское медицинское сообщество пока демонстрирует осторожное отношение к цифровым помощникам. Согласно одному из опросов, положительно к внедрению ИИ относятся 20,5% врачей: они уже используют подобные решения или намерены начать работу с ними. Еще 33,1% в целом поддерживают технологию, но сохраняют сомнения в ее надежности.
В ближайшие годы именно разрыв между скоростью распространения ИИ и готовностью нормативной базы может стать главным источником проблем. Алгоритмы уже помогают пациентам разбираться в симптомах, врачам — оформлять документацию, а медицинским организациям — перестраивать процессы. Но без единых критериев безопасности, понятного распределения ответственности и правил обращения с данными технологическое наступление рискует превратиться в стихийное внедрение множества несогласованных решений. В таком случае отрасль будет вынуждена договариваться о правилах уже после того, как ошибки и конфликты станут частью клинической практики.