Межведомственная рабочая группа при Минздраве РФ одобрила документ под названием «Кодекс этики применения искусственного интеллекта в сфере охраны здоровья»^[1] в версии 2.1 и официально опубликовала его на своем сайте.

Кодекс утвержден Межведомственной рабочей группой при Минздраве России по вопросам создания, развития и внедрения в клиническую практику медицинских изделий и сервисов с использованием технологий искусственного интеллекта и носит рекомендательный характер, а не силу нормативного акта прямого действия, – пояснила статус документа для читателей TAdviser к.т.н Лидия Виткова, начальник аналитического центра кибербезопасности «Газинформсервис». – Хотя в текущей редакции могут присутствовать аспекты, требующие дальнейшего уточнения, его основная цель – найти баланс между стимулированием инноваций в области ИИ и обеспечением безопасности пациентов. По сути кодекс требует прозрачности ИИ, в том числе для врачей, информированного согласия от пациентов и контроля за данными.

Обсуждаемый кодекс определяет основные принципы этики применения СИИ. Они следующие:

1. Ограниченная автономность – все решения СИИ (при необходимости) должны быть проверены и одобрены субъектом ИИ с соответствующей ролью. Обеспечить требуемые параметры автономности должны разработчики СИИ в рамках своей роли на соответствующем этапе жизненного цикла СИИ.
2. Прозрачность и объяснимость – СИИ должны проектироваться и разрабатываться с ориентацией на понятность и объяснимость результатов функционирования, а также разработчики обязаны обеспечить доступность информации о применяемых в СИИ алгоритмах работы ИИ;
3. Конфиденциальность данных и безопасность пациентов – субъекты СИИ должны обеспечивать конфиденциальность данных и безопасность пациентов на всех этапах жизненного цикла СИИ в соответствии с законодательством.
4. Справедливость и равенство доступа – права всех субъектов СИИ, включая пациентов и представителей социально уязвимых групп населения (как субъектов СИИ), должны быть защищены и учтены при разработке и применении СИИ в соответствии с требованиями законодательства.
5. Научное партнерство и профессиональная ответственность – субъекты СИИ должны развивать и поддерживать научное партнерство, в том числе в рамках сотрудничества с международными организациями и научными центрами.
6. Информирование – субъекты СИИ в рамках своей роли должны обеспечивать максимальную прозрачность и правдивость в информировании об уровне развития СИИ, их возможностях и рисках, предоставлять достоверную информацию о допустимых областях применения, эффективных методах использования, потенциальном вреде, пользе и существующих ограничениях СИИ.
7. Проведение этической экспертизы и апробации СИИ – в рамках законодательства РФ.
8. Контроль – применение СИИ в сфере охраны здоровья граждан должны быть подотчетны и контролируемы.

Если контроль за соблюдением субъектами СИИ, скорее всего, будет проводить Минздрав через свои подведомственные организации, то для проведения этической экспертизы и апробации СИИ, видимо, придется создавать экспертные организации и лаборатории с принятием соответствующих нормативных документов и стандартов. Именно в них могут быть закреплены более конкретные и юридически обязывающие правила использования обсуждаемого кодекса.

Этический кодекс Минздрава соответствует действующей нормативно-правовой базе и охватывает базовые этические принципы применения медицинских продуктов с ИИ, – заявил для TAdviser к.м.н Хасанов Ильдар, сооснователь, исполнительный директор «Брейнфон». – При этом авторы подчеркивают, что приведенные общие положения могут быть расширены и конкретизированы в других отраслевых или локальных документах по этике в сфере ИИ. Так, в феврале 2025 года в рамках независимой Национальной комиссии по этике в сфере ИИ был разработан отдельный отраслевой «Кодекс этики в сфере искусственного интеллекта в медицине и здравоохранении» с фокусом на разработчиков продуктов. Как отраслевой документ он широко рассматривает вопросы, касающиеся разработки, исследований, применения и утилизации медицинских систем с ИИ. Два этих кодекса не противоречат, а дополняют друг друга. В своей работе разработчики могут руководствоваться обоими документами.

Текущий кодекс также был разработан с учетом международных инициатив и рекомендаций по этике в области искусственного интеллекта.

Кодекс гармонизирован с основными зарубежными инициативами по этике ИИ: рекомендации UNESCO (2021), принципы OECD (2019), руководство ВОЗ (2021), регламент ЕС об ИИ (AI Act, 2024), – пояснила для читателей TAdviser Татьяна Изутина, директор бизнес-направления «Госсектор» компании «Рексофт». – Хотя кодекс не является законом и изложенные в нем положения носят рекомендательный характер, тем не менее, он задаёт единые этические ориентиры для всех, кто причастен к разработке и применению ИИ-систем в медицине.

Кодекс также призван гармонизировать отечественный предварительный национальный стандарт Российской Федерации ПНСТ 961-2024 «Системы искусственного интеллекта в здравоохранении. Этические аспекты» с указанными выше международными документами, чтобы в результате разработать постоянный национальный стандарт. Поэтому практика использования данного кодекса, скорее всего, будет использована в работе над будущими нормативными документами и стандартами.

Кодекс этики применения искусственного интеллекта в сфере охраны здоровья в ближайшее время будет играть решающую роль в обеспечении безопасного, этического и эффективного использования технологий, – заявил TAdviser Сергей Карпович, заместитель руководителя направления «Т1 ИИ». – Он поможет сбалансировать потенциальные преимущества ИИ с необходимостью защищать права и интересы пациентов, поддерживать высокий уровень медицинской заботы и способствовать развитию инноваций в здравоохранении. Только при условии соблюдения этических норм ИИ сможет в полной мере реализовать свой потенциал для улучшения качества медицинского обслуживания.

Однако дерзкие эксперименты часто приводят к непродуктивному расходованию средств, что в текущей ситуации не совсем уместно. Поэтому общие для всех правила, такие как описаны в кодексе, помогают стартапам эффективно выработать востребованные и безопасные решения, а также оптимальным путем подойти к получению качественного результата.

С одной стороны, новые правила могут усложнить разработку и вывод на рынок ИИ-продуктов, поскольку придется соблюдать больше требований, – предположил Егоров Максим, операционный директор Softline Digital. – С другой – понятные и чёткие правила снижают риски для инвесторов и компаний, что в итоге может даже ускорить развитие рынка. Важно, чтобы кодекс не просто вводил ограничения, а помогал создавать безопасные и эффективные технологии, поддерживая инновации. Например, если появятся единые стандарты тестирования и сертификации ИИ-решений, это облегчит их внедрение в медицину.

Комментариев пока нет.