ВОЗ представила принципы регулирования технологий искусственного интеллекта в здравоохранении

Общество

news-factor.ru

22 октября /ООНинформ.рф/ Всемирная организация здравоохранения (ВОЗ) выпустила новую публикацию, в которой излагаются основные принципы регулирования технологий искусственного интеллекта (ИИ) в здравоохранении. В опубликованном документе подчеркивается важность экспертизы безопасности и эффективности систем на основе ИИ, своевременного обеспечения доступности соответствующих систем для нуждающихся в них людей и содействия диалогу между заинтересованными сторонами, включая разработчиков, органы регулирования, производителей, представителей сферы здравоохранения и пациентов, сообщает ВОЗ.

Благодаря накоплению больших массивов медицинских данных и быстрому развитию аналитических методов на основе машинного обучения, логических и статистических моделей средства ИИ могут коренным образом изменить ситуацию в секторе здравоохранения. ВОЗ признает, что ИИ может способствовать улучшению показателей здоровья населения, повышая качество клинических испытаний; позволяя более точно выбирать методы диагностики и лечения заболеваний, тактику самопомощи и индивидуальной помощи; и дополняя знания, умения и навыки профессиональных медицинских работников. В частности, технологии ИИ могут быть полезны в условиях нехватки медицинских специалистов, помогая интерпретировать результаты иридодиагностики и рентгенологических исследований и выполнять многие другие задачи.

Вместе с тем процесс освоения технологий искусственного интеллекта, в том числе больших языковых моделей, происходит стремительно, иногда без досконального понимания механизмов их работы, что может приносить как пользу, так и вред конечным пользователям, включая медицинских специалистов и пациентов. При работе с медицинскими данными системы ИИ могут задействовать чувствительную личную информацию, конфиденциальность и целостность которой должна быть защищена при помощи надежных правовых и нормативных механизмов; созданию и функционированию таких механизмов и посвящена данная публикация.

«Искусственный интеллект открывает огромные возможности в области охраны здоровья, но и порождает серьезные проблемы, такие как нарушения этических принципов при сборе данных, возникновение угроз кибербезопасности и распространение ошибок и дезинформации, – отметил Генеральный директор ВОЗ д-р Тедрос Адханом Гебрейесус. – Данное новое руководство поможет странам эффективно регулировать технологии ИИ, реализуя их потенциал в таких областях, как лечение рака и диагностика туберкулеза, при сведении к минимуму связанных с этим рисков».

В ответ на растущую потребность стран в ответственном освоении быстро развивающихся технологий на основе ИИ в публикации намечается шесть направлений регулирования этих технологий в сфере здравоохранения.

  • В публикации подчеркивается, что важное значение для укрепления доверия к новым технологиям имеет транспарентность и ведение документации, в том числе документальная регистрация всего жизненного цикла решений и отслеживание процессов их разработки.
  • В целях управления рисками необходимо комплексно решать вопросы, касающиеся целевого назначения технологий, непрерывного обучения, вмешательства человека, моделей обучения и угроз кибербезопасности на основе как можно более простых моделей.
  • Обеспечению безопасности и упрощению регулирования способствуют внешняя валидация данных и четкое определение целевого назначения технологий ИИ.
  • Во избежание распространения систематических погрешностей и ошибок необходим четкий порядок контроля качества данных, в том числе предусматривающий тщательную проверку систем перед их выпуском.
  • Для обеспечения конфиденциальности и защиты данных необходимо решать проблемы, связанные с применением наиболее важных комплексных режимов регулирования, в частности предусмотренных Общим регламентом по защите данных (GDPR) в Европе и Законом о мобильности и подотчётности медицинского страхования (HIPAA) в Соединенных Штатах Америки, четко определяя пределы действия юрисдикции этих режимов и устанавливаемые ими требования к получению согласий на обработку данных.
  • Укрепление сотрудничества между регулирующими органами, пациентами, медицинскими специалистами, представителями промышленности и партнерами из числа государственных структур помогает обеспечить соответствие продуктов и услуг нормативным требованиям на протяжении их жизненного цикла.

Системы ИИ имеют сложный характер, и их функционирование зависит не только от реализованного в них кода, но и от данных, которые используются в ходе обучения таких систем и накапливаются, например, в процессе работы медицинских учреждений и взаимодействия с пользователями. Чем качественнее регулирование, тем меньше риск того, что системы ИИ будут амплифицировать отклонения, присутствующие в тренировочных данных.

Например, в моделях ИИ бывает трудно обеспечить точную репрезентацию демографического состава населения, что приводит к систематическим погрешностям, неточностям и даже непригодности моделей. Для уменьшения подобных рисков могут применяться нормативные требования о раскрытии характеристик субъектов тренировочных данных (например, их половой, расовой и этнической принадлежности) и целенаправленной коррекции данных для обеспечения репрезентативности.

Новая публикация ВОЗ имеет целью изложить ключевые принципы, которыми могут руководствоваться правительства и регулирующие органы для разработки новых или адаптации существующих рекомендаций в отношении ИИ на национальном или региональном уровне.

Копировать ссылку на статью

Читайте также

Оценки МАИР, рассчитанные на основе наиболее полных и достоверных данных о ситуации в странах в 2022 г.

Мнение эксперта

Первая сделанная экспертами ВОЗ оценка экономического бремени смертей и болезней, вызванных загрязнением воздуха внутри и вне помещений в 53 странах, свидетельствует об ущербе, составляющем примерно десятую часть ВВП всего Европейского союза.