«Не навреди» – старейший принцип медицинской этики, который не теряет актуальность даже в наше время бурного расцвета IT-технологий. Всё новое, что создаётся для здравоохранения – от вакцин до программного обеспечения – должно проходить строжайший контроль, прежде чем будет использоваться в клинической практике.

Машинное обучение и искусственный интеллект вызывают огромный интерес у журналистов, учёных и обывателей ещё с момента своего появления. Эти технологии уже сейчас применяются в самых разных сферах человеческой жизни и не обошли стороной консервативную область медицины. Но кто и как регулирует их применение в российской системе здравоохранения?

В каких направлениях здравоохранения внедряется ИИ

Прежде чем подробно осветить вопрос нормативного регулирования ИИ в медицине, разберёмся, что вообще называют искусственным интеллектом и как он может применяться в здравоохранении. 

Искусственный интеллект – обобщённое название технологий, которые позволяют «обучать» искусственные нейронные сети решению различных задач (в том числе таких, решение которых исторически считалось прерогативой человека). 

Для чего ИИ может применяться в медицине?

• Для анализа медицинских снимков. Эту технологию называют «компьютерным зрением» (Computer Vision). Наша компания Цельс работает как раз в этом направлении: мы разрабатываем искусственный интеллект, который выявляет на цифровых медицинских снимках (маммография, флюорография, КТ лёгких и КТ мозга) признаки различных патологий, в том числе онкологии на ранних стадиях. Его применение сокращает время на анализ снимков и не даёт врачу пропустить патологию.
• Для предиктивной аналитики. Так называемые «системы поддержки принятия врачебных решений» (СППВР) анализируют персонализированные медицинские данные и помогают врачу принять оптимальное решение о профилактике или лечении заболевания. 
• Для голосового ввода. Технологии распознавания естественной слитной речи могут применяться и в медицине – сокращать время на заполнение протоколов или помогать врачам, руки которых заняты во время осмотра или лечения пациентов. 

Перечисленными областями применения ИИ в медицине список не ограничивается. Главное: эти технологии помогают автоматизировать рутинные рабочие процессы, экономят время и подстраховывают врача.

Нормативно-правовая база РФ. Кто и как регулирует искусственный интеллект в медицине?

Медицинские IT-сервисы с применением технологий машинного обучения и их использование в практической деятельности медучреждений – новое явление в правовой сфере. Поэтому их регулированием в России занимаются сразу несколько ведомств и органов власти, среди них – Правительство РФ, Министерство здравоохранения и Росздравнадзор.

Так как медицинский ИИ обладает своей спецификой, к разработке нормативно-правовой базы привлекаются ведущие отечественные разработчики и представители медицинского сообщества. Так, разработкой национальных стандартов для искусственного интеллекта в медицине занимался специально учреждённый с этой целью Технический комитет по стандартизации ТК 164 «Искусственный интеллект». По состоянию на 25 сентября 2020 года, в его состав вошли 129 организаций – включая пользователей ИИ-систем, представителей технологических компаний, профильных ВУЗов, научных организаций, а также федеральных органов исполнительной власти. 

Список НПА по регулированию искусственного интеллекта

Начнём с уже упомянутых национальных стандартов. Они состоят из 6 частей.

1. ГОСТ Р 59921.1-2022 «Системы искусственного интеллекта в клинической медицине. Часть 1. Клиническая оценка».

   Документ описывает основные требования к организации и проведению клинических испытаний систем искусственного интеллекта – в том числе для дальнейшей регистрации сервисов в качестве медизделий.

2. ГОСТ Р 59921.2-2021 «Системы искусственного интеллекта в клинической медицине. Часть 2. Программа и методика технических испытаний».

   Документ устанавливает общие принципы проведения технических испытаний медицинских ИИ-систем.

3. ГОСТ Р 59921.3-2021 «Системы искусственного интеллекта в клинической медицине. Часть 3. Управление изменениями в системах искусственного интеллекта с непрерывным обучением».

   Документ содержит рекомендации для разработчиков медицинского ИИ, применяющих непрерывное обучение, по управлению изменениями – в части адаптации и корректного составления технической и эксплуатационной документации.

4. ГОСТ Р 59921.4-2021 «Системы искусственного интеллекта в клинической медицине. Часть 4. Оценка и контроль эксплуатационных параметров».

   Документ содержит требования к оценке и контролю эксплуатационных параметров систем искусственного интеллекта (как при вводе их в эксплуатацию, так и при последующем контроле). С их помощью можно будет проводить однозначно интерпретируемую оценку метрик и характеристик ИИ-сервисов. О том, почему так сложно оценивать качество медицинских нейронных сетей, мы писали в этой статье.

5. ГОСТ Р 59921.5-2022 «Системы искусственного интеллекта в клинической медицине. Часть 5. Требования к структуре и порядку применения набора данных для обучения и тестирования алгоритмов».

   Документ содержит требования к наборам данных, используемых для обучения и тестирования систем искусственного интеллекта.

6. ГОСТ Р 59921.6-2021 «Системы искусственного интеллекта в клинической медицине. Часть 6. Общие требования к эксплуатации».

   Документ содержит требования к эксплуатации систем искусственного интеллекта – в том числе требования к обучению пользователей и порядок проведения внутреннего и внешнего контроля качества.

Также нельзя не упомянуть приоритетный национальный проект «Здравоохранение». Помимо задач по снижению смертности и минимизации дефицита медицинских кадров, он включает в себя задачу по созданию единого цифрового контура на основе Единой государственной информационной системы в сфере здравоохранения (ЕГИСЗ).

Ещё один важный нормативно-правовой акт, без которого применение ИИ-технологий в клинической медицине было бы невозможным – это Постановление Правительства РФ №1906. Этот документ вносит изменения в правила государственной регистрации медизделий – включая программное обеспечение с применением технологий искусственного интеллекта. 

Согласно Приказу Минздрава РФ №686н, медицинские ИИ-сервисы должны проходить регистрацию по 3-му, наивысшему классу риска. Первой такой системой, зарегистрированной Росздравнадзором по всем актуальным требованиям законодательства, стала система для анализа медицинских рентгенографических изображений «Цельс» .