Сценарии применения искусственного интеллекта в медицине. Почему всё не так просто?

О разработках на базе машинного обучения для медицины в последнее время говорят много: искусственный интеллект (ИИ) анализирует снимки, ставит диагноз, разрабатывает новые лекарства, помогает проводить хирургические операции… Но почему мы всё ещё не наблюдаем массовое внедрение такой перспективной технологии в клиническую практику?

В этой статье расскажем, каким может быть применение ИИ в медицине, какие существуют преграды для его повсеместного внедрения и как (на наш взгляд) их можно преодолеть. Рассказывать будем на примере радиологии – поскольку именно в этой области медицины мы (команда «Цельс») ведём разработку своих ИИ-решений.

О каком ИИ пойдёт речь?

Когда говорят об ИИ в радиологии, обычно имеют в виду технологию «компьютерного зрения» (Computer Vision). Такие ИИ-системы помогают врачу анализировать медицинские исследования (рентген, КТ, МРТ и другие): сортируют список исследований по степени риска наличия патологий, подсвечивают «подозрительные» находки, автоматически формируют заключение. 

Но не стоит думать, что применение такого ИИ влияет только на работу врача. Бизнес-эффекты от его использования распространяются на весь процесс диагностики и затрагивает всех его участников – и само медицинское учреждение, и пациентов. Причём эффект для всех ожидается разный. Медицинское учреждение, например, заинтересовано в повышении эффективности рабочих процессов и сокращении расходов на диагностику. Врач – в избавлении от рутины и подстраховке от ошибок. Пациент – в своевременной и точной диагностике, эффективном лечении и получении человеческого внимания от врача.

Все эти цели гармонично сочетаются друг с другом. Если ИИ-система сможет сократить нагрузку на врача, то на один и тот же объём работ врач будет тратить меньше времени и сил. Благодаря этому он сможет уделить больше внимания пациенту или разобрать сложные случаи. Медучреждение, в свою очередь, выиграет от того, что рабочее время врача будет использоваться эффективнее.

В конечном итоге все остаются в выигрыше: рак диагностируется на более ранних стадиях, система здравоохранения тратит меньше денег на его лечение, а пациенты живут долго и счастливо. Звучит многообещающе, правда? Но как это может выглядеть в реальности?

Сценарии применения ИИ в радиологии могут рассматриваться в разных классификациях. Рассмотрим две из них.

Степень автономности

Такая классификация часто используется в сфере разработки беспилотных автомобилей. Минимальный (нулевой) уровень автономности присваивается, когда человек ведёт машину самостоятельно, без какой-либо помощи ИИ. Максимальный (пятый)  уровень свидетельствует о полной автономности ИИ: человек в таком случае выступает просто пассажиром и может даже не следить за дорогой.

Такую классификацию можно легко перенести на любую сферу применения машинного обучения – в том числе на радиологию. Предлагаем опустить нулевой уровень автономности, когда рентгенолог совсем не применяет ИИ в своей работе, и сразу начать с первого.

Уровень 1: помощь рентгенологу.

На этом уровне автономности решения всё ещё принимает врач, но у него появляются новые инструменты. ИИ может помогать ему в морфометрии и автоматически проводить различные измерения – например, измерить объём органа или размер новообразования. Это относится к довольно рутинным операциям в работе рентгенолога, и применение ИИ сможет сэкономить время врача.

Уровень 2: частичная автономность.

Именно на этом уровне сейчас находится большинство ИИ-систем для радиологии. Здесь решения также принимает врач, но помощь ИИ касается уже не только рутины. Он может обнаруживать и выделять на снимке локализацию патологий, а также оценивать динамику развития заболеваний.

Уровень 3: условная автономность.

Здесь ИИ принимает решения только в заданных случаях. Например, при большом потоке исследований (при скрининге) он может «отсеивать» те исследования, на которых с высокой степенью уверенности системы отсутствуют патологии, – и в этом случае врач на такие исследования даже не смотрит. Также ИИ с такой степенью автономности может применяться в экстренной медицине. Например, человек поступил в больницу с травмой, ИИ-система проанализировала его исследование и заключила, что с высокой долей вероятности у пациента может присутствовать опасная для жизни травма. Оповещение об этом приходит хирургу – и пациента сразу везут в операционную.

Уровень 4: высокая автономность.

В этом (довольно фантастическом на данный момент) сценарии ИИ принимает решения в большинстве случаев, и только в каких-то особых, сложных случаях может запросить мнение врача-рентгенолога.

Уровень 5: полная автономность.

Здесь все решения принимает сам ИИ, а врач никак не участвует в процессе. Этот сценарий – абсолютно из области научной фантастики. И мы сомневаемся, что такой уровень автономности ИИ когда-либо будет достигнут. Почему – расскажем немного позже.

Степень взаимодействия с врачом

Ещё одна классификация показывает, насколько «заметным» становится для врача внедрение в его работу ИИ-системы.

Уровень 1: отсутствие взаимодействия.

Это сценарий, при котором применение ИИ остаётся почти незаметным для рентгенолога. Например, врач приходит на работу и открывает список исследований, которые  которые ему предстоит проанализировать – и этот список отсортирован ИИ-системой не просто по дате или случайным образом, а по приоритетности. Сначала идут исследования, на которых с высокой вероятностью присутствуют признаки патологии, а уже после них врач просматривает те, на которых, по мнению ИИ, представлена "норма".

Уровень 2: низкая и средняя степень взаимодействия.

Здесь ИИ может выступать как «второе мнение» – то есть анализировать и описывать исследование параллельно с врачом. В случае расхождения их мнений конфликт может решаться, например, привлечением ещё одного врача. Кроме того, на этом уровне ИИ может выступать «подушкой безопасности»: если врач отметил какое-либо исследование как «норму», а ИИ нашёл на нём признаки патологий, врачу приходит оповещение от системы. Благодаря этому врач может ещё раз пересмотреть исследование, перепроверить себя и при необходимости изменить своё решение.

Уровень 3: высокая степень взаимодействия.

В данном сценарии врач сразу видит все результаты работы ИИ-системы – включая локализацию патологий и заключение. Он может использовать эти результаты, чтобы ускорить процесс анализа исследования.

Проблемы внедрения

Так что же мешает реализовать на практике перечисленные выше сценарии? Барьеров существует множество, но здесь мы опишем только те, которые нам – как разработчикам ИИ-систем для радиологии – кажутся наиболее существенными.

Итак, первая проблема заключается в том, что всё ещё не найдено экономически эффективных сценариев применения ИИ в радиологии и в медицине в целом, проведено мало исследований со сравнением разных сценариев. 

Да, если покопаться в научной литературе, можно найти разные статьи, описывающие результаты исследований эффективности ИИ – но, во-первых, их всё ещё довольно мало, а во-вторых, они часто ограничены по методологии и объёму. Кроме того, такие исследования часто проводятся на ретроспективных, а не проспективных данных (то есть, на уже проанализированных врачами медицинских исследованиях) – причём не всегда в должной степени верифицированных. И это нам мало что говорит о каком-то реальном, финальном эффекте от внедрения таких инструментов. Да и в чём его измерять – в деньгах, в спасённых жизнях?

И здесь возникает некоторое противоречие: чтобы проводить долгие, качественные исследования на проспективных данных, нужна заинтересованность медучреждений – но медучреждения не заинтересованы в их проведении, потому что им нужен понятный экономический эффект. Усложняется всё это дороговизной таких долгих исследований. Разработчику оплачивать такие исследования тоже часто не по силам: он сам пытается выжить на ещё не сформированном рынке медицинского ИИ. Разработка таких систем – это само по себе довольно дорого, долго и сложно.

Вторая большая сложность заключается в том, что в мире всё ещё не сформированы так называемые best practices – лучшие практики внедрения, а также в отсутствии практики расчёта экономического эффекта. А эффект, в свою очередь, будет зависеть от многих факторов: и от сценариев внедрения, и от метрик качества ИИ, и от особенностей медучреждения. Сложная задача заключается в том, чтобы найти баланс между прибылью разработчика, финансовыми интересами медицинской организации и общим социальным экономическим эффектом.

Ещё одна проблема заключается в отсутствии понятной системы сравнения ИИ-сервисов. Заявленные разработчиками метрики качества – такие как AUC, точность, чувствительность и специфичность – не дают гарантий, что система будет полезна конкретно этому медучреждению. А проведение тестирования на практике требует от организации много ресурсов: нужно провести IT-интеграцию, создать набор данных для тестов, обучить персонал и так далее. Далеко не каждое учреждение может себе это позволить.

И последняя большая проблема – это негативное отношение самих врачей к ИИ. Его причины могут быть разными: это и страх того, что ИИ заменит врача, и нежелание тратить время на внедрение технологии, и общее непонимание того, зачем это нужно. Дилемма для разработчиков здесь заключается в том, что сырые версии ИИ-систем действительно могут отпугивать врачей – но при этом без обратной связи от врачей и работы на реальных данных сделать сырой продукт действительно полезным и качественным невозможно.

Предлагаемые решения

Сразу оговоримся, что этот пункт – исключительно субъективный. Выделим главные, на наш взгляд, цели:

• поиск оптимальных сценариев применения ИИ;
• упрощение и удешевление тестирования и сравнения ИИ-систем;
• преодоление негативного отношения врачей.

Привести ИИ-системы к тому уровню, где они будут приносить настоящую пользу, можно только в одном случае: если разработчики, врачи, медучреждения и система здравоохранения в целом будут работать сообща. Что требуется от каждого из них? 

• От государства и системы здравоохранения – расширение экспериментов по применению ИИ. Такой интересный и довольно масштабный эксперимент в России уже проводится – но пока только в Москве. Кроме того, различные гранты должны выделяться не только на разработку ИИ-продуктов, но и на проведение полноценных контролируемых исследований. А для того, чтобы медучреждениям было легче тестировать конкурирующие сервисы, необходимо создание единой платформы, в которую будут интегрированы ИИ-решения – так организация сможет проверить, как каждый сервис работает на конкретно её данных, и выбрать тот, который нужен именно ей.

• От разработчика требуется расширение мониторинга своих ИИ-систем: быстрое реагирование на инциденты и публикация отчётов об ошибках. Открытость разработчика в сфере медицинского ИИ очень важна: ошибка системы может не только потратить время врача, но и нанести вред пациенту. Поэтому разработчику, на наш взгляд, стоит также публиковать открытые отчёты с примерами как корректной, так и некорректной работы сервиса. Кроме того, важно, чтобы в ежедневной деятельности разработчиков принимали участие медицинские эксперты (о том, какие роли врачей есть у нас в компании, мы рассказали в этой статье). 

• Со стороны медицинского сообщества необходимо создание программ по оптимальному и безопасному применению ИИ-систем. Необходимо, чтобы врач в полной мере понимал, в чём польза ИИ и какие «фичи» в нём действительно хорошо работают. И, конечно, важно донести до врачей, что ИИ – это их помощник, а не конкурент. Ведь именно для них и создаются такие продукты!

Иллюстрации к статье создавались на основе изображений с Freepik