8 (8142) 67-20-10

Чт 15 Фев 2018 | 3956

Искусственный интеллект в национальной системе здравоохранения Великобритании: что мы об этом думаем

Гусев Александр,
Зам. директора по развитию, к.т.н.

В январе 2018 года исследовательская организация "Reform" выпустила отчет "Thinking on its own: AI in the NHS", что можно в свободном виде перевести как "Искусственный интеллект в национальной системе здравоохранения Великобритании: что мы об этом думаем". С любезного разрешения авторов мы публикуем переведенную на русский язык версию этой работы. Для того, чтобы отдельные моменты в тексе были более понятны читателю, мы в скобках курсивным текстом дали собственные пояснения или комментарии переводчика.

Исходная версия отчета доступна по адресу http://www.reform.uk/publication/thinking-on-its-own-ai-in-the-nhs/

Об авторах и "Reform"

Элеонора Харвич (Eleonora Harwich), Начальник отдела цифровых и технологических инноваций компании "Reform".Элеонора Харвич (Eleonora Harwich), Начальник отдела цифровых и технологических инноваций "Reform".

Кэйт Лейкок (Kate Laycock), Врач-эндокринолог, бывший старший научный сотрудник компании "Reform"Кэйт Лейкок (Kate Laycock), Врач-эндокринолог, бывший старший научный сотрудник "Reform"

"Reform" - независимое, внепартийное объединение ученых, миссией которого является определение наилучшего способа оказания услуг в сфере обслуживания населения и способствования экономическому процветанию. Наша цель - выполнить исключительно качественное исследование по ключевым вопросам экономики, здравоохранения, образования, социального обеспечения и уголовного судопроизводства с правильным уравновешиванием интересов правительства и отдельно взятого человека

Предисловие

Одним из приоритетов работы Комитета по вопросам науки и технологии, председателем которого я (Норман Лэмб, член Парламента, председатель, Комитет по вопросам науки и технологии) имею честь быть, является обеспечение общества всеми преимуществами от использования широчайших возможностей, предоставляемых новой технологией. Научные открытия и инновации дают надежду на более эффективное предоставление услуг населению, лучшее качество жизни и высокооплачиваемую работу, и эти преимущества нигде столь очевидны, как в активно назревающей революции в искусственном интеллекте.

Новая Промышленная Стратегия нацелена на то, чтобы Великобритания стояла на передовой линии инноваций в искусственном интеллекте, но для этого мы должны использовать по максимуму революционный потенциал искусственного интеллекта, алгоритмы и базы данных в сфере оказания медицинских услуг. Мы на краю важнейших изменений в том, как мы проводим диагностирование, лечение и даже предупреждение заболеваний. Такие достижения как носимые устройства, хирургические роботы с искусственным интеллектом или алгоритмы искусственного интеллекта, способные выявить определенные условия с беспрецедентной скоростью и точностью, имеют потенциал для продвижения вперед в 21 век системы здравоохранения и социальной помощи, улучшая оказание помощи как в больницах, так и на дому, и способствуя более эффективному использованию ресурсов. 

Однако Правительству (Великобритании) необходимо сделать многое, чтобы создать правильные условия для применения в полной мере искусственного интеллекта в системе медицинского обслуживания. Предыдущий отчет Комитета робототехники и искусственного интеллекта обращал внимание на большой потенциал искусственного интеллекта в здравоохранении, а также на некоторые трудности, связанные с данными и ключевым вопросом готовности.

В последнее время Комитет занимается проверкой увеличения объемов использования алгоритмов в процессе принятия решений, как в сфере бизнеса, так и в общественной жизни. Он начал исследование, цель которого понять, как они создаются, количество нежелательных искажений и возможное воздействие на отдельного человека. Необходимо сделать еще многое для того, чтобы искусственный  интеллект завоевал сердца всех работников здравоохранения, и это только несколько вопросов, решением которых займутся высшие должностные лица в предстоящие годы.

Исходя из этого, я рад, что "Reform" исследовал, как искусственный интеллект мог бы помочь национальной системе здравоохранения Великобритании разработать планы преобразования/трансформации своих услуг, а также выявила проблемы, требующие решения, чтобы это стало реальностью.  Инфраструктура сбора, обмена данными и доступа к ним должна быть усовершенствована.  Урегулирование вопросов этики в свете искусственного интеллекта в медицинских учреждениях имеет решающее значение, включая определение нормативно-правой базы.

Я рад, что этот отчет построен на последних разработках политики в сфере медико-биологических наук и стратегии развития промышленности, для предоставления реальных решений этих проблем. Комитет по вопросам науки и технологии признает важность работы ученых и исследовательских групп для предоставления глубокого анализа, постановки трудных задач для Правительства и предложении новых прогрессивных идей. Я надеюсь, что аналитические наработки и рекомендации этого отчета будут полезны высшим должностным лицам и тем, перед кем стоит задача внедрения инноваций в технологии и оказание медицинских услуг.

Норман Лэмб (Norman Lamb), член Парламента, председатель, Комитет по вопросам науки и технологииНорман Лэмб (Norman Lamb), член Парламента, председатель Комитета по вопросам науки и технологий

Пояснительная записка

Этот отчет освещает области, где искусственный интеллект (ИИ) мог бы помочь Национальной Системе здравоохранения (НСЗ, NHS) Великобритании стать более эффективной и обеспечивать лучший результат для пациентов. Он также выделяет основные препятствия для внедрения этой технологии и предлагает некоторые потенциальные решения.

Ранние последователи

Несмотря на ажиотаж вокруг ИИ в медицине, примеры его внедрения и использования в НСЗ редки. Вообще говоря, внедрение новых технологий в систему медицинского обслуживания возложено на отдельных представителей. Это привело к фрагментарному применению и частичной реализации преимуществ. Однако при другом подходе к внедрению технологии, который постепенно включил бы  ИИ в планы преобразования услуг, будущее выглядело бы иначе.

Потенциал ИИ в НСЗ в Великобритании

ИИ мог бы содействовать в реализации "Плана на пять лет вперед"  НСЗ, нацеленного на уменьшение трех разрывов  в предоставлении медицинских услуг.  ИИ мог бы взять на себя решение проблемы разрыва между здоровьем и благополучием, предсказав, какой человек или группа людей имеет риск заболевания, что позволит НСЗ более эффективно направить лечение именно по отношению к ним. Сокращение разрыва между медицинским обслуживанием и качеством могло бы поддерживаться средствами ИИ, так как они способны предоставить всем работникам здравоохранения и пациентам доступ к самой передовой технологии и лечению, спланированному по индивидуальной потребности. ИИ мог бы оказать помощь в решении вопроса сокращения разрыва между эффективностью и финансированием посредством автоматизации задач, сортировкой/установлением очередности пациентов для оказания наиболее надлежащих медицинских услуг, позволив им заниматься самопомощью.

Усиление поддержки

Для того чтобы ИИ поддерживал более эффективную систему здравоохранения, имеющую лучшие результаты работы, он должен преодолеть опасения и общественности, и медработников.  Общественное доверие и вера крайне важны для успешного развития ИИ. Это также означает повышение общественного доверия в отношении способа обмена данными внутри НСЗ и внешними организациями.

Этика создания ИИ

Общественная безопасность и вопросы этики, связанные с использованием ИИ в НСЗ в Великобритании должны быть центральным предметом заинтересованности для органов регулирования и надзора в сфере медицинских услуг, таких как Национальный институт здоровья и совершенствования медицинской помощи, Управление по контролю за лекарственными средствами и медицинской продукцией и Правительство.  Если промышленность использует данные НСЗ для создания ИИ, как это делается сейчас, должна быть уверенность, что НСЗ сможет получить от этого выгоду в долгосрочном варианте. Более того, здравоохранение - это область высокого риска, где ошибка может иметь значительные последствия для человеческой жизни. Системы ИИ - не без погрешностей и не свободны от ошибок. Важно обновление сегодняшних органов контроля и надзора для уверенности в том, что использование ИИ в здравоохранении приведет к лучшей и более эффективной НСЗ, что снизит неустойчивость в качестве обслуживания и результатах медицинской помощи.


Рекомендации

Рекомендация 1: NHS Digital (Информационный центр по вопросам здравоохранения и социального обеспечения, национальный поставщик информации, данных и IT систем для полномочных представителей, аналитиков и клинических врачей в области здравоохранения и социальной помощи в Великобритании) и 44 Партнерства в области устойчивого развития и трансформации (созданы по географическому принципу на основе 44 областей Объединенного Королевства) должны подумать о подготовке обзоров, раскрывающих, как можно постепенно и надлежащим образом интегрировать ИИ для обеспечения трансформации/преобразования услуг и лучших результатов для пациентов на местном уровне. Включение ИИ в планы трансформации услуг должно производиться с осторожностью. Он не должен рассматриваться как инструмент, который будет решать, какие задачи или результаты должны быть достигнуты. ИИ - инструмент реализации, а не видения.

Рекомендация  2: НСЗ Великобритании и Национальный институт здоровья и совершенствования медицинской помощи должны создать четкую структуру для приобретения систем ИИ и обеспечения их использования, и  исключения покупки  не интуитивно понятных  продуктов, так как они могут затормозить  преобразование услуг и стать обременительными для специалистов в области здравоохранения.   

Рекомендация 3: НСЗ Великобритании должна продолжить усилия для полной оцифровки своих данных и обеспечить генерирование всех перенесенных данных в машиночитаемый формат.

Рекомендация 4: Великобритании и Национальный институт  здоровья и совершенствования медицинской помощи должны рассмотреть вопрос включения в процесс получения систем сбора данных принцип удобства для пользователя IT систем и оказывать предпочтение интеллектуальным системам, сигнализирующим об ошибках в режиме настоящего времени.

Рекомендация 5: NHS Digital должен сделать обязательным предоставление Индекса Качества Данных (the Data Quality Maturity Index, ежеквартальные публикации о качестве данных в НСЗ Великобритании) для лучшего контроля за качеством данных во всей системе здравоохранения.

Рекомендация 6: В свете рекомендации обзора Wachter (Обзор профессора Роберта Вахтер и консультативного совета, опубликован в сентябре 2016г., содержит 10 рекомендаций по информированию подхода системы здравоохранения и медико-санитарной помощи Великобритании к дальнейшему внедрению ИТ в здравоохранение, особенно использованию электронных медицинских записей и других цифровых инструментов для получения системы без  бумажных носителей информации) всех поставщиков IT систем для здравоохранения следует обязать создавать операционно-совместимые системы с самого начала, чтобы медработники могли переносить данные из одной системы в другую.  Это позволит соответствовать принципу переносимости данных Положения о защите общих данных Евросоюза.

Рекомендация 7: NHS Digital следует провести исследование, целью которого является оценка того, как данные от технологий и устройств вне системы здравоохранения, такие как носимые устройства (аксессуары) или датчики, могут быть интегрированы или использованы в НСЗ.

Рекомендация 8: NHS Digital, Национальное управление хранителя данных и комиссара информации (the National Data Guardian and the Information Commissioner's Office) совместно с разработчиками должны найти цифровое и интерактивное решение, такое как чат-бот, чтобы помочь заинтересованным сторонам перемещаться в потоке данных НСЗ и структуре управления информации.

Рекомендация 9: NHS Digital должен создать перечень наборов данных для режима обучения, таких как наборы данных клинических отображений, которые должны стать более доступными для компаний, желающих выработать свои алгоритмы ИИ с целью предоставления более качественного обслуживания и достижения лучших результатов.  NHS Digital также должен разработать конкретную базу с определенными условиями для защищенного доступа к этим данным.          

Рекомендация 10: Департамент здравоохранения и Центр этики данных и инноваций должны создать национальную систему условий, при которых коммерческая ценность складывается из исходных данных выгодным для  НСЗ образом. Департамент здравоохранения должен способствовать работе NHS Digital с SPT и трастами (доверительными организациями) для использования этой системы и гарантировать, что коммерческие организации выступают на местах как полезные партнеры для НСЗ.

Рекомендация 11: Агентство по контролю качества лекарств и медицинской продукции  и Информационный центр NHS Digital должны создать группу для разработки основ патентованных и безопасных применений ИИ в  НСЗ.   Структура должна предусмотреть, какой тип испытаний пробной версии необходимо провести и как осуществлять постоянное управление алгоритмов ИИ.

Рекомендация 12: Информационный центр NHS Digital, Агентство по контролю качества лекарств и медицинской продукции  и  Совет  Caldicott Guardians должны работать совместно с целью создания основ объяснимости ИИ. Это потребует от каждой организации, использующей приложение ИИ в НСЗ четкого изложения на своем Web-сайте цели использования ими ИИ (включая преимущества для состояния здоровья по сравнению с существующем положением), указания типа используемых данных, как они используются и как обеспечивается анонимность.

Рекомендация 13: Агентство по контролю качества лекарств и медицинской продукции  должно потребовать в качестве своей процедуры сертификации доступ к  процедурам первичной обработки данных и  данным режима обучения.     

Рекомендация 14: Агентство по контролю качества лекарств и медицинской продукции  совместно с центром NHS Digital должно создать базу для тестирования систематических ошибок в системах ИИ. Эта база должна использоваться для тестирования систематических ошибок в данных режима обучения.

Рекомендация 15: Технологические компании (разработчики), использующие алгоритмы ИИ в  НСЗ должны нести ответственность за дефекты системы таким же образом, как несут ответственность  другие компании  медицинских приборов или фармацевтические компании  в соответствии с нормативами   Агентства по контролю за качеством лекарств и медицинской продукции.   

Рекомендация 16: Департамент здравоохранения совместно с Комиссией по контролю  медицинского обслуживания и Агентством по контролю качества лекарств и медицинской продукции  должны разработать руководящие принципы о том, как медперсонал должен взаимодействовать с ИИ как инструментом поддержки принятия решений.


Введение

Здравоохранение в Великобритании требует реформирования, если оно должно остаться высококачественной национальной услугой, бесплатной в смысле обслуживания. Рост финансирования пошел на спад и уже, очевидно, не будет соответствовать увеличивающимся потребностям, обусловленными стареющим населением с множеством хронических заболеваний.  Для сокращения этого разрыв между предложением и потребностью будет необходимо более чем "просто бросить больше ресурсов на здравоохранение", как подчеркнул Алан Милберн (бывший министр здравоохранения Великобритании).  Национальная система здравоохранения признает это и выдвигает на первый план технологию и лучшее использование данных для предоставления высококачественного медицинского обслуживания  и лучших результатов в ответ на  свои трудности с бюджетом.

В последнее время внимание было обращено на использование искусственного интеллекта в здравоохранении как на меру содействия приведению национальной системы здравоохранения в состояние готовности к будущему.  ИИ обещает повысить производительность труда и создать  значительные экономические  и социальные блага.  И "Промышленная стратегия медико-биологических наук", и  правительственный анализ "Растущая промышленность ИИ в Великобритании" обращают внимание на большой потенциал ИИ в здравоохранении, который может быть использован для улучшения результатов в НСЗ и в конечном итоге снижения затрат. Это богатое и разнообразное поле со многими областями применения,  начиная от инструментов поддержки принятия решений, помогающих практикующим врачам действовать при большей информированности  по диагностике и до интеллектуальных виртуальных помощников, способных помочь с более эффективным планированием.

Однако, прошлое у национальной системы здравоохранения имело трудности с реализацией технологических преимуществ, поскольку часто они просто накладывались поверх имеющихся структур.   При ажиотаже вокруг ИИ существует опасность повторения прошлых ошибок, когда необходим другой подход к внедрению новых технологий. Технология должна вписаться в планы трансформации услуг, а не быть дополнением к ним. По этой причине очень важно понять, как ИИ может помочь реформировать НСЗ и осознать трудности, которые будет необходимо преодолеть, чтобы получить преимущества от этой технологии.  

Данный отчет делает попытку выполнить именно это.  Он освещает области, где ИИ может помочь стать более эффективное здравоохранение и достичь лучших результатов благодаря лучшему прогнозу, распознаванию и управлению состоянием здоровья. Эти применения потенциально нацелены на снижение востребования системы, улучшение качества обслуживания и результатов лечения пациентов, с одновременным снижением затрат.   Отчет также раскрывает основные препятствия для внедрения этой технологии, такие как вопросы доступа к данным, качество данных и сертификацию  алгоритмов ИИ. И наконец, в отчете предлагаются потенциальные решения для преодоления этих трудностей.

1. Что такое искусственный интеллект?

ИИ описывает набор передовых технологий, позволяющих компьютеру эффективно решать весьма сложные задачи, которые потребовали бы интеллектуальной деятельности, если бы их должен был выполнить человек.   Однако, нет общепринятого определения интеллекта и нет однозначно согласованного определения ИИ.  Более того, граница между ИИ и другими технологиями, такими как анализ большого объема данных, может быть размыта.     

В этом отчете мы даем определение интеллекта как "способности субъекта достичь целей в широком диапазоне окружения", и ИИ, как искусственного (созданного руками человека) агента (т.е. программного обеспечения или робота), проявляющего разум.  В этой связи, в данном отчете ИИ  будет использоваться в самом широком смысле слова для описания набора методов, проиллюстрированных  на Рис. 1.

В широком обсуждении, ИИ часто характеризуется как разумные машины, обладающие человекоподобными способностями, хотя самый современный уровень развития остается вне этого видения. Сегодняшний ИИ - это "ограниченный интеллект", умеющий выполнять только определенные функции, без способности применения своего интеллекта в более общем плане.  Например, ИИ, обученный распознавать, выявляет ли сканер злокачественную опухоль, умеет выполнять только эту конкретную задачу.

Методы искусственного интеллекта 
Рисунок 1. Методы искусственного интеллекта

2. Состояние на сегодняшний день

В прошлом году тема ИИ и робототехники стала предметом интереса в правительстве. Digital Strategy ("Стратегия в цифровых технологиях"-документ, опубликованный в марте 2017г., раскрывает пути перехода Великобритании в бизнес на основе цифровых технологий) демонстрирует увлеченность  этими технологиями.  Этим документом Правительство выделило 17.3 млн. фун. стерл. на инженерно- технические разработки, и Исследовательский совет естественных наук дает согласие поддержать развитие ИИ и робототехники в университетах Великобритании.

"Промышленная стратегия медико-биологических наук" призывает к созданию новой нормативно-правовой базы для создания условий эффективности алгоритмов, полученных при использовании данных национальной системы здравоохранения Великобритании. В ней имеются положительные отзывы об улучшенных договорах коммерческого доступа и ясной национальной стратегии в отношении данных и стандартов совместимости в НСЗ, научном сообществе, благотворительной деятельности и промышленности. Более того, стратегия предлагает новую законодательную базу для алгоритмов, полученных при использовании данных НСЗ для оценки их безопасности и эффективности.  

Совсем недавно Венди Холл (профессор информатики) и Джером Пезенти (исследователь в области информатики, эксперт по коммерциализации ИИ) подготовили независимый анализ "Рост промышленности  ИИ в Великобритании", как часть Промышленной стратегии.  Этот анализ определяет приоритетность здравоохранения как области затрат на научные исследования и обращает внимание на отсутствие доверия в использовании конфиденциальных данных и сложной,  дорогостоящей системе доступа к данным, являющимися препятствиями для развития алгоритмов. В качестве потенциального решения предлагаются проверенные Доверительные трасты данных и  надежные базы и договоры.

Промышленная стратегия обязуется поставить Великобританию на передовую линию  революции в области ИИ и цифровых данных.   Новый Фонд Промышленной стратегии для решения проблемы определяет ИИ и робототехнику приоритетными областями для проведения исследования, которое получит 93 млн. фун.стерл.  из 1 триллиона фунт.стерл., имеющихся в первой волне инвестиций. Однако, это финансирование будет сфокусировано на использовании систем, которые могут быть задействованы в экстремальных условиях окружающей среды, а не в здравоохранении.  Во второй волне инвестиций 210 млн. фунт.стерл. из последующих 725 млн. фунт. стерл. будет предоставлено на развитие  программы данных для ранней диагностики и точности лекарственных средств.  Она уделит особое внимание использованию данных для ранней диагностики заболеваний, изменяющих образ жизни и на развитие точного подхода для их лечения.  Однако, в этой программе не было сделано никаких акцентов на использовании искусственного интеллекта.

Руководители НСЗ поддержали расширение использования ИИ в здравоохранении: Саймон Стивенс, главное должностное лицо НСЗ, объявил, что "НСЗ Великобритании должно инвестировать большие средства в ИИ в последующие 12 месяцев и реализовать новые региональные комплексы данных пациентов".  Он  определил патологию и визуализацию приоритетными вопросами для инвестиций, вслед за более ранними предложениями Национального совета информации  использовать ИИ для самопомощи и  усовершенствования систем установления очередности оказания медицинской помощи в общей практике и неотложной  медицинской помощи

2.1. Ранние последователи

Правительство хотело бы сделать Великобританию мировым лидером в инновациях в здравоохранении, чтобы обеспечить население по всей стране доступом к медицинскому обслуживанию  мирового класса.  Несмотря на эти намерения, Джордж Фриман, член Парламента, подчеркнул, что существует разрыв между нашей возможностью внедрить технические новшества  в Великобритании и превращением этих новшеств в блага для здоровья населения.  НСЗ признает значение ИИ, но отсутствует ясность в том и какое стратегическое направление взять, и с чего начать?  Тем не менее, попытки более ранних приверженцев ИИ окончились фрагментарным применением с достижением частичных преимуществ.

В настоящее время примеры ИИ в НСЗ редки.  Вообще говоря,  внедрение новых технологий в НСЗ скорее возложено  на отдельных поставщиков, чем на госорганы.  Корпорация Nuance Communications (Nuance Communications - транснациональная корпорация - производитель программного обеспечения, управляемая из Burlington, Massachusetts, США. Разрабатывает приложения, работающие с голосовыми данными и с изображениями) разослала запрос "Свобода информации" 45 трастовым компаниям, спрашивая об использовании ими ИИ, 30 из них ответили, 43 % вкладывали инвестиции в то, что они считали ИИ. Трастовые компании выбирали виртуальных помощников, технологию распознавания речи и чат-боты  для снижения давления со стороны работников здравоохранения.  Трастовые компании и промышленность поддерживались вмешательствами со стороны центральных организаций, включая:

Более известные партнерства существовали между трастами и мировыми лидерами в ИИ. Конкретно, офтальмологическая больница Moorfield Eye Hospital работает совместно с Google DeepMind,  используя алгоритм для определения заболевания по изображению на обратной стороне глаза. Babylon сотрудничала с группой Северного Центрального Лондона  (CCG North Central London) в испытаниях системы мгновенного установления очередности предоставления медицинской помощи , которая должна заменить систему 111.  IBM Watson сотрудничала с Советом Харроу в использовании системы Watson Care Manager, которая помогает пациентам и медработникам выбрать наиболее подходящего поcтавщика услуг. Эта компания также работала совместно с детской больницей Alder Hey Children Hospital  в разработке чат-бота, который позволяет детям задавать вопросы  Watson о приеме в больницу.

Несмотря на воодушевление центрального правительства в отношении ИИ, его применение в настоящее время в НСЗ фрагментарно. Следующая глава расскажет, как  НСЗ могла бы использовать ИИ для разработки планов трансформации своих услуг.

3. Потенциал искусственного интеллекта в национальной системе здравоохранения

Спрос на оказание медицинских услуг значительно изменился со времен создания системы здравоохранения. Люди стали жить дольше и хронические заболевания сейчас составляют 70% расходов на здравоохранение и социальную помощь. Более того, работники здравоохранения сталкиваются с  огромной проблемой знаний, поскольку скорость и сложность знаний в медицине сейчас превышает возможности человеческого интеллекта. При усилении давления в вопросах финансирования,  необходимо реформирование НСЗ, если она должна продолжить предоставлять медицинские услуги хорошего качества. ИИ мог бы стать инструментом реализации этих реформ.

Документ "Обзор на пять лет вперед" (The Five Year Forward View) дал видение такому преобразованию услуг. Оно нацелено на сокращение разрывов в обеспечении здоровья:  разрыв между здоровьем и благополучием, разрыв между  обслуживанием и качеством и разрыв между эффективностью и финансированием. Сокращение этих трех разрывов подразумевает смещение внимания на решение трех задач здравоохранения: повышение опыта обслуживания пациента, улучшение здоровья населения и снижение расходов на 1 человека. В этой главе даны примеры, как ИИ мог бы помочь реализовать  "Обзор на пять лет вперед" и сократить эти разрывы.

3.1 Разрыв между здоровьем и благополучием

Разрыв между здоровьем и благополучием фокусируется на препятствиях для увеличения  здоровой вероятной продолжительности жизни. ИИ мог бы прогнозировать отдельных людей или группы людей с риском заболевания и позволить НСЗ нацелить лечение в отношении их более эффективно

3.1.1  Оздоровление населения

Служба здравоохранения должна стремиться, чтобы пациенты продолжали чувствовать себя хорошо в сообществе, где только возможно.  Носимые устройства могут отслеживать информацию, связанную с состоянием здоровья и благополучием, такую как количество сделанных шагов или основные физиологические показатели, такие как частота сердечных сокращений.  ИИ может проработать эту информацию и предоставить людям более широкий доступ к знаниям о своем физическом состоянии.  Часть взрослого населения Великобритании имеет компактные отслеживающие фитнес устройства, что отражает стремление Великобритании к благополучию.  Данные, собранные с таких устройств, мог бы использовать ИИ для поддержания людей в хорошем физическом состоянии и изменения их поведения. Например, app Noom использует ИИ для анализа физической нагрузки человека и приемов пищи и предлагает индивидуализированную диету и планы фитнеса. Исследование в промышленности 35 921 пользователей выявило, что 77.9% отметили потерю веса за два года, 25% сбросили более 10% своего общего веса и около 80% сообщили, что они продолжали худеть в течение более 9 месяцев.

3.1.2 Профилактика

ИИ мог бы помочь врачам установить, у кого из здоровых людей вероятно развитие определенных осложнений. Школа вычислительной техники и Центр медицинской информатики в Университете Манчестера использовали данные о состоянии здоровья для объединения отдельных людей в группы людей со сходными характеристиками.  Они выявляют группы пациентов и новые признаки сопутствующих заболеваний, которые ни один центр или ни один специалист не выявил бы.  Группа в Манчестере сгруппировала пациентов с диабетом, сердечно-сосудистыми заболеваниями и заболеваниями органов дыхания и работает над созданием гипотезы, что если бы не было создано такого подхода, то он мог бы никогда и не сформироваться.  Объединение людей  в группы могло бы иметь очень большое значение, т.к. в данных обнаруживаются новые взаимозависимости, которые могли бы использоваться для превентивных вмешательств и более выверенных лекарственных средств, включая  использование новейшей диагностики и методов лечения.

3.2 Разрыв между  обслуживанием и качеством

Сокращение разрыва между обслуживанием и качеством нацелено на то, чтобы высококачественное медицинское обслуживание стало нормой. ИИ может дать доступ для всех специалистов здравоохранения и пациентов к самой передовой диагностике и лечению с индивидуальным подходом.  Алгоритмы ИИ со сверх точной диагностикой для врачей могут снизить непостоянство в качестве принятия решений, предложив повсеместное персонифицированное обслуживание.

3.2.1 Улучшение познавательных способностей

Темпы медицинских исследований и большое скопление данных означает, что врачи  не успевают полностью быть в курсе событий. Каждый год  в англоязычных журналах публикуется 2,5 млн. научных статей.  ИИ может быть  применен в здравоохранении, чтобы помочь врачам быть в курсе последних достижений. IBM's Watson использует обработку естественного языка, позволяющую компьютерам обрабатывать письменную информацию. Watson способна обработать имеющуюся литературу наряду с данными пациента для помощи в постановке диагноза, а затем рекомендовать врачам методы лечения. Это дает возможность сделать высококачественное медицинское обслуживание нормой, так как все работники здравоохранения получат более совершенный доступ к соответствующим исследованиям и ориентирам.

3.2.2 Усовершенствованная диагностика

В большинстве ситуаций точная и ранняя диагностика часто дает возможность начать лечение раньше с целью сокращения заболеваемости, смертности и возникновения осложнений. Например, женщинам в возрасте 50-70 лет рекомендуется делать маммографию каждые три года для проверки на предмет развития рака молочной железы. Свидетельства показывают, что большаое число сделанных маммограмм дает ложные положительные результаты, когда их рассматривают врачи-рентгенологи, что приводит к тому, что каждой второй здоровой женщине сообщается, что у нее может быть рак. ИИ дает возможность понять маммограммы в 30 раз быстрее, чем это делают люди и с большей точностью. Это способствует ранней диагностике со времени выполнения маммограммы, сокращая необходимость выполнения биопсий и снимая беспокойства с связи с неправильной постановкой диагноза.  Интервьюируемые в связи с этим отчетом сообщили, что похожие с вышеописанными технологии применяются для оценки изображения глаза, повреждений кожи, электрокардиограмм, рентгеновского исследования и кросс-секционных изображений, таких как компьютерная томография или МРТ.

3.2.3  Лечение

Робототехника проникает в хирургию. Экспериментальные исследования показали, что автономно работающие роботы могут накладывать швы лучше хирургов.  Verb использует ИИ для помощи хирургам с анатомическими данными через интернет, такими как границы опухоли во время операций. Titan Medical занимается разработкой роботизированной технологии Single Port Orifice Robotic Technology в надежде, что это позволит хирургам выполнять высокоточные хирургические операции  через один единственный разрез.

ИИ может также использоваться в лечении распространенных состояний психики, таких как депрессия, тревожный невроз и паническое расстройство. Например, НСЗ вкладывает средства в смартфон app leso для предоставления когнитивно-поведенческой терапии в режиме онлайн.  На сегодняшний день лечение получили 17.000 человек и есть подтверждение, что это на 50%  сокращает время лечения.

3.3  Разрыв между эффективностью и финансированием

Разрыв между эффективностью и финансированием адресует нас к неэффективности здравоохранения и ИИ здесь мог бы стать инструментом преобразования, так как он автоматизирует задачи, определяет приоритетность оказания наиболее надлежащих медицинских услуг пациентам  и позволяет им заниматься самопомощью. Как подчеркивается в Промышленной стратегии медико-биологических наук, ИИ может повысить эффективность НСЗ, сократив расходы и улучшив результаты.

3.3.1  Точное вмешательство в правильное время

Лечение людей в правильном месте, в правильное время - ключ к реализации "Плана на пять лет вперед" (the Five Year Forward View). Для повышения качества и контроля затрат очень важно, чтобы те, кто может оказывать себе помощь сам - делали это, а нуждающиеся в помощи в обществе не были бы отправлены в больницы.  Для этого у ИИ есть много возможностей применения.  Одна из возможностей - определение, где травматологические больные, в зависимости от тяжести травмы, должны получить помощь по прибытию в больницу с большей точностью. Модель использует определенные части данных, включая демографические, тип травмы, добольничную среду, медикаментозные средства, основные физиологические показатели и предрасположенности. Обеспечение того, что травматологические больные получают лечение в правильном месте означает, что присутствует эффективное использование ресурсов и оказывается обслуживание на должном уровне.
        
3.3.2 Высвобождение времени для организационной подготовки посредством автоматизации

ИИ обещает уменьшить бремя административной работы во многих секторах и здравоохранение в этом отношении не является исключением. Британская Медицинская Ассоциация обнаружила, что  врачи-стажеры 15% своего времени тратят на административную работу, другие указали более высокую цифру - 70%. Королевский колледж медсестринского дела заявил, что от 17 до 19% времени медсестры занимает "второстепенная" бумажная работа.

Интервьюируемые для этого отчета сообщили, что интеллектуальные виртуальные помощники, такие как Amelia также могли бы оказать помощь медперсоналу, заменив людей на рабочих местах: в регистратуре при записи на приемы,  автоматическом составлении писем и отправке напоминаний пациентам.  Более того, лучшее планирование  благодаря использованию ИИ могло бы помочь в вопросе существующей неэффективности. Недавно установлено, что 750 дополнительных штатных операций/сутки могло бы быть выполнено, если бы были лучше составлены графики работы.

3.3.3 Управление хроническими заболеваниями и самообслуживание
    
ИИ может дать возможность людям с хроническими заболеваниями улучшить их исход. Были разработаны приложения, использующие ИИ для обработки показаний сахара в крови у людей с диабетом. После изучения больного, программа отправляет рекомендации и информацию, чтобы помочь им справиться со своим заболеванием. Гемоглобин А1с - анализ крови, способный обнаружить концентрацию сахара в крови за трехмесячный период. Это стандартный анализ для оценки контроля диабета, контрольная цифра - менее 6.5%.  Данные компании для the Livongo app. показывают для гемоглобина А1с в среднем понижение с 8.0% при регистрации до 7.1% в течение 90 дней и 7.0% в течение 180 дней. На каждый 1% снижения гемоглобина А1с на 21%  падает количество связанных с диабетом смертельных исходов.  Свидетельства также подтверждают, что более низкий гемоглобин А1с снижает риск осложнений, таких как инфаркты миокарда, ампутации и инсульты.

Как уже говорилось в этой главе, существует много возможностей для улучшения предоставления медобслуживания и исходов для пациента.  Более того, как отметили интервьюируемые для этого отчета люди, алгоритмы ИИ могут быть затратными при их разработке, но дешевыми при  их применении и широком использовании. НСЗ в прошлом совершила ошибку, не включив технологию в планы трансформации своих услуг, вместо этого сконцентрировавшись на технологии ради технологии.

Продвигаясь вперед, НСЗ должна глубже выяснить, как ИИ может быть применен в различных областях на местах, так как потребности пациентов и персонала разные, также как и степени готовности ИИ (например, доступ к машинным данным). ИИ обладает потенциалом обеспечения реализации реформ, которые идут дальше предусмотренного в "Плане на пять лет вперед".  НСЗ должна рассмотреть, как задействовать ИИ для создания более эффективной системы, сфокусированной на достижении лучших результатов для пациентов в своих будущих планах трансформации услуг. Это необходимо сделать в поэтапном виде, чтобы проверить, какие решения сработают лучше на практике и поставить необходимые задачи.

Рекомендация 1. NHS Digital и 44 Партнерства в области устойчивого развития и трансформации должны подумать над предоставлением исследований, посвященных тому, как ИИ мог быть интегрирован должным образом и постепенно для обеспечения трансформации услуг и лучших результатов для пациентов на местном уровне.   Необходимо быть осмотрительными при включении ИИ в планы трансформации услуг.  Его не следует считать инструментом, решающим, какие задачи или результаты должны быть получены. ИИ - посредник, не концепция.

Для успешного внедрения ИИ в планы трансформации услуг НСЗ будет необходимо преодолеть несколько препятствий.  Следующая глава рассмотрит одно из этих  препятствий, проанализировав пути улучшения понимания ИИ для общественности и работников здравоохранения и обмен данными. 

4. Повышение поддержки

4.1 Степень доверия искусственному интеллекту

Венди Холл признает, что создание атмосферы доверия общественности и уверенности будет иметь важнейшее значение для успешного развития ИИ. В настоящее время мнение общественности об ИИ в здравоохранении не очень  высокое. В крупном исследовании отношения общественности к использованию ИИ и робототехники в здравоохранении 47% респондентов в Великобритании отметили, что хотели бы использовать интеллектуального помощника в сфере медицинских услуг через смартфон, планшет или ПК, из них большая доля респондентов - молодое поколение.  Отношение, однако, меняется, когда процедуры и мониторинг затрагивают более чувствительные области. Только 37% сказали, что они использовали бы ИИ для мониторинга состояния сердца, и только 3% использовали бы ИИ для отслеживания беременности.  Хотя много больше необходимо сделать, чтобы общественность поменяла свое мнение об ИИ, важно признать, что внедрение технологии требует времени и происходит поэтапно.  С ростом сторонников для людей это становится более привычно, и в конечном итоге новая технология полностью принимается.

Завоевать сердца профессионалов здравоохранения также важно. По мнению интервьюируемых для этого отчета, ИИ должен доказать, что он улучшает результаты для пациентов и что он безопасен.  Системы сертификации и нормативно-правового регулирования могли бы заняться этим, данный вопрос затронут в разделе 6.2.2.

Другой аспект, который мог бы повлиять на повышение доверия к ИИ профессионалов здравоохранения - удобство для пользователя систем ИИ. Интерфейсы, используемые для взаимодействия с этими системами должны быть интуитивными для персонала и упрощать существующие процессы, а не усложнять их. Как подчеркивается в обзоре Wachter, обучение не может компенсировать  неудобство и сложности при использовании.  Большой объем работ был проведен в вопросе взаимодействия человека и компьютера с целью создания виртуальных систем, выделяющих важную информацию, делающих информацию легко извлекаемой, облегчающих работу медицинского персонала и делающих общее восприятие жизни для пациентов  лучше.  Для привлечения практикующих врачей в процесс создания интерфейсов, которые они будут использовать, взаимодействие с системами ИИ очень важно.

Помимо этого, клиницистам необходима некоторая степень прозрачности и расшифровки результатов, полученных системами ИИ для понимания того, как был разработан план лечения, диагностика или прогноз.  Эти элементы - решающие для завоевания доверия медицинского персонала. WatsonPaths пыталась создать систему, взаимодействующую с практикующими врачами привычным для них образом для повышения занятости. Система объясняла свои решения и прилагала к рекомендациям процентное значение  для демонстрации своей уверенности в них. Однако, такой степени способности к выдаче объяснений, вероятно, в некоторых случаях достичь технически трудно, так как некоторые системы ИИ представляют собой "черный ящик" (смотрите раздел 6.2.2  для  дальнейших обсуждений).

Рекомендация 2. НСЗ Великобритании и Национальный институт здоровья и клинического совершенства Великобритании должны разработать ясную основу для приобретения систем ИИ с целью обеспечения того, чтобы не были закуплены сложные и не интуитивно понятные продукты, так как это могло бы затруднить трансформацию услуг и стать обременительным для работников системы здравоохранения.  

4.2    Обмен данными

Использование ИИ в системе здравоохранения зависит от доступа к личным массивам данных и массивам данных населения. Однако доступ к этим наборам данных может быть затруднен, так как когда встает вопрос о совместном использовании данных отсутствует согласие со стороны общественности и пациента. Человек не всегда понимает, что происходит с его данными, и это может привести к их сокрытию.  Это особенно верно при использовании персональных данных по причинам вне прямого обслуживания пациентов (смотрите Рис.2 и глоссарий). Третье исследование Caldicott признает огромный потенциал, который может возникнуть при совместном использовании этого типа информации и рекомендует модель более ясного согласия и возможности отказа, чтобы предоставить людям выбор и повысить доверие в том, как будут использоваться их персональные данные для целей вне их прямого обслуживания.

Уровень скрытности людей в отношении использования данных изменчив в зависимости от типа организации, с которой эти данные используются (см. Рис.2). Коммерческие компании, предоставляющие услуги в области здравоохранения пользуются недоверием у общественности, т.к. мотивация этих компаний ставиться под сомнение. Тем не менее, свыше 60% считают, что лучше, если коммерческие исследовательские организации будут иметь доступ к данным  в области здравоохранения,  чем общество упустит преимущества  работы этих компаний, которые они потенциально могут создать.  НСЗ и промышленность должны показать пациентам, что они могут ответственно и безопасно использовать данные на благо более широких кругов населения.

Отношение к обмену данными для конкретных целей в области здравоохранения, Источник Ipsos MORI, "Отношение общественности к использованию и передаче своих данных", июль 2014г.

Рисунок 2. Отношение к обмену данными для конкретных целей в области здравоохранения, Источник Ipsos MORI, "Отношение общественности к использованию и передаче своих данных", июль 2014г.


Скрытность в отношении обмена данными также происходит из-за отсутствия общественного доверия в том, как с данными будут обращаться и как они будут храниться. Только 41% населения уверены, что их данные приемов врачей общей практики используются надлежащим образом и 35% доверяют более широко НСЗ в этом отношении. Главные причины для опасений вокруг использования данных включают риск хакерских атак; учреждения, использующие данные для других целей; использование данных не для блага человека; потеря данных; ошибочные данные. Следуя рекомендациям, изложенным в "Росте промышленности искусственного интеллекта в Великобритании", Промышленная стратегия рекомендует использовать  доверительные трасты данных для обеспечения  легкого  и безопасного использования данных совместно с отраслью. Сохранение принципа защиты данных посредством минимизации и обеспечения безопасного окружения, где присутствует прозрачность в том, кто использовал и какую часть персональных данных, и для какой цели, будет решающим для повышения доверия.

Интервьюируемые для этого отчета отметили, что провал проекта данных по медицинскому обслуживанию оказал отрицательное влияние на желание работников сферы здравоохранения совместно пользоваться данными.  Это был план, предназначенный для улучшения эффекта от лечения путем увеличения количества данных, доступных для изучения специалистами. Он не удался из-за отсутствия надлежащих средств обеспечения защиты для сохранения конфиденциальности и плохой информированности персонала и пациентов о преимуществах совместного использования данных.  Кроме того, врачи общей практики были не уверены, что несут юридическую ответственность и это привело к плачевному результату. Ориентироваться в вопросах законодательства об обмене данными может быть трудно, об этом идет речь в разделе 6.1.2.2.  Однако, согласно Центру совершенствования обмена информации, существуют некоторые определенные барьеры, которые препятствуют совместному использованию данных.  Специалисты сферы здравоохранения и организации могут быть совсем не расположены к риску.

Создание безопасного и прозрачного окружения с ясностью и пониманием того, кто использовал данные и для какой цели, станет ключевой задачей для хорошего функционирования системы обмена данными.  Следующая глава рассмотрит, какие системные барьеры необходимо преодолеть, чтобы успешно включить ИИ в планы трансформации услуг НСЗ.

5. Преодоление трудностей системы

Интервьюируемые для этого отчета обратили внимание  на то, что энтузиазм в отношении ИИ в сфере здравоохранения должен удерживаться на этом раннем этапе, так как НСЗ необходимо задуматься о барьерах, которые необходимо преодолеть. Две основные трудности для НСЗ будут обсуждаться в данной главе : наличие соответствующих данных, на которых могут быть разработаны системы ИИ и сертификация этих систем.

Сэр Гордон Дафф, бывший председатель Агентства по контролю качества лекарственных средств  и медицинской продукции утверждал, что почти все разговоры об ИИ быстро вернуться к вопросу данных. Правильное получение данных очень важно для возрастания степени принятия этой технологии в НСЗ.  Это означает сбор правильного типа данных в правильном формате, повышение их качества и предоставление безопасного доступа к ним.

5.1.1 Правильное получение данных

5.1.1.1  Изучение систем здравоохранения

Данные - это топливо для ИИ , т.к. многие алгоритмы учатся используя примеры, найденные в данных, применяемых для их обучения. Однако важно отметить, что не у всех систем ИИ одинаковые требования к типу данных, некоторые из них более требовательны к данным, чем другие. Обучение машин - подкласс ИИ, позволяющий компьютерным системам обучаться, анализируя огромное количество данных и  создавая аналитическую картину на основе этого, а не просто следовать запрограммированным правилам.  Для функционирования, как показано на Рис.3,  требуется относительно специфический тип среды данных.  Контур обратной связи необходимо изучить, усилить положительные действия и не повторить отрицательные, обеспечив цикл самоусиления: использование данных, применение и обучение.

Механизм самоусиления данных и искусственного интеллекта

Рисунок 3. Механизм самоусиления данных и искусственного интеллекта

Общей темой всех опросов для создания этого отчета  было то, что НСЗ в настоящее время не обеспечивает наиболее пригодной среды для такого цикла самоусиления. Во многих случаях это потребует сбора данных новым путем, т.к. сейчас НСЗ не собирает данные таким образом. Тем не менее, это изменение могло бы способствовать продолжительному, в реальном времени повышению как полезности, так и эффективности медицинского обслуживания.

5.1.1.2  Ориентация на машиные данные

В соответствии с Промышленной стратегией медико-биологических наук, наиболее важные изменения в области здравоохранения произойдут при росте перевода в цифровую форму большого объема информации. Это означает уход от бумажных систем и развитие среды "ориентированных на машины" данных, т.е. данных, которые могут быть легко обработаны компьютером. НСЗ предстоит еще пройти путь для достижения этого, поскольку план правительства о переводе в цифровую форму здравоохранения был выполнен частично.

Перевод в цифровую форму первичной медицинской помощи оказался успешным с финансовым стимулированием со стороны Департамента здравоохранения. Электронные медицинские карты в первичной медицинской помощи теперь используются повсеместно. На контрасте, перевод в цифровую форму специализированной медицинской помощи далек от беспроблемного. Система по-прежнему в большей степени полагается на бумажные документы. Это сужает границы использования ИИ в специализированной медицинской помощи.

Тем не менее, программа перевода в цифровую форму Правительства кое в чем преуспела. Ее результат - обязательное использование единого национального идентификатора пациента, номер НСЗ, который предоставляет уникальные возможности для связи данных во всей системе здравоохранения.  Кроме того, это способствовало созданию системы архивации изображений и системы контроля во всей НСЗ, означая, что рентгенограммы и отчеты сейчас в цифровом виде. Это чрезвычайно ценный источник для ИИ. НСЗ продолжает свои усилия для перевода на цифру системы здравоохранения. В своем отчете "Персонализированное здоровье и уход 2020" приоритетом является НСЗ без бумажных носителей, с полностью взаимодействующими данными о здоровье и социальной помощи. Однако, как подчеркнуто в обзоре Wachter, это потенциально излишне амбициозные планы, и эти цели вначале должны быть достигнуты на региональном уровне.

Рекомендация 3. НСЗ должна продолжить свои усилия по полному переводу своей документации в цифровую форму и обеспечить, чтобы все полученные данные были в машиночитаемом формате.  

5.1.1.3  Вопросы качества данных
Академия медицинских наук обращает внимание на важность высококачественных данных для точности алгоритмов ИИ. Качество исходных данных будет диктовать качество результата, как в поговорке: "Что посеешь, то и пожнешь". На качество данных в здравоохранении влияют несколько факторов, как отражено на Рис.4 ниже.

Ракурсы качества данных, Источник: Адаптировано из "Услуги по предоставлению данных для уполномоченных", Руководство по качеству данных для поставщиков и уполномоченных, 6-7

Рисунок 4. Ракурсы качества данных, Источник: Адаптировано из "Услуги по предоставлению данных для уполномоченных", Руководство по качеству данных для поставщиков и уполномоченных, 6-7

Точность в процессах сбора данных может повлиять на целостность данных и это может произойти по различным причинам. Пример можно найти в механизмах кодирования важнейших данных, диагностировании и процедурах, используемых в первичной медицинской помощи, известных как Read-коды. Они подобны закодированному справочнику медицинских терминов. Хотя Read-коды будут отправлены в отставку и заменены единой терминологией SNOMED CT, отсутствие стандартизации Read-кодов в IT-системах может повлиять на целостность данных.

Разницы Read-кодов, вызванные разницей в кодировании, выполненном медицинскими работниками оказывают большое влияние на качество данных, доступных для исследования. Литература утверждает, что разницы в установке кодов могут привести почти к семикратной разнице в оценках ревматоидного артрита. Замена Read-кодов единой терминологической системой не решит вопроса ошибочной классификации и неточности более ранних данных. Это может отрицательно повлиять на результаты, выдаваемые алгоритмами ИИ, использовавшими старые данные.

На качество данных может также повлиять своевременность ввода данных. Вся информация, введенная в IT-системы, имеет временные метки. Эти временные метки используются алгоритмами по-разному. Другими словами, важно, чтобы информация записывалась во время события, а не позднее.

Охват и завершенность информации также могут повлиять на качество данных. В НСЗ охват означает степень, в которой были получены данные от всех ожидаемых поставщиков данных. Например, это может относиться к доле практикующих врачей, предоставляющих данные NHS Digital для "Системы качества и исходов". Завершенность относится к определенным переменным, таким пол, возраст или другим, отсутствию каких-либо пропущенных значений. В некоторых комплектах данных сбор такой информации может быть не обязательным требованием, что означает, на них может повлиять большое количество отсутствующих данных. Это может создать проблемы в точности и объективности алгоритмов ИИ. В других контекстах охват и завершенность данных часто касается репрезентативности выборки. Это имеет решающее значение для точности алгоритмов ИИ, так как они могут быть более подвержены ошибкам о суб-популяциях, где имеется низкая репрезентация в выборке.

5.1.1.4 Повышение качества данных

НСЗ признает, что данные высокого качества не являются опционными и они должны быть центральным вопросом каждой организации. Необходимо предпринимать действия, чтобы это видение будущего претворилось в практику. Данные хорошего качества чрезвычайно важны для того, чтобы алгоритмы ИИ давали точные результаты.

Конструктивное решение систем сбора данных и их удобство для пользователей может повлиять на качество данных. Как подчеркивается в обзоре Wachter, без конструкции с приоритетом удобства для пользователя IT-системы показали, что создаются возможности для новых  ошибок.   IT-системы не должны создавать дополнительные трудности для пользователя и должны быть достаточно интуитивно понятными, без необходимости интенсивного обучения. Такого в настоящее время нет.

Интервьюируемые для этого отчета также отметили важность структуры интерфейса и наличие точного понимания взаимодействия человек-компьютер, как способа создания программного обеспечения для сбора данных, удобного для пользователя. "Чем менее трудным и более удобным вы сделаете процесс сбора данных, тем больше снизятся шансы получения плохих данных", отмечалось интервьюируемыми для этого отчета.

IT-системы с лучшей конструкцией, имеющие больший акцент на визуализацию данных, могут раскрыть проблемы качества данных, которые затем могут быть исправлены. Это мнение разделяли многие интервьюируемые для данного отчета, предположившие, что интеллектуальные системы сбора данных могут обратить внимание на ошибки или противоречия в процессе сбора данных. Это позволило бы пользователю незамедлительно увидеть проблему и исправить ее, таким образом повысив качество данных.

Контроль качества данных и понимание ограничений комплектов данных очень важны. NHS Digital выдает Индекс степени качества данных (Data Quality Maturity Index), цель которого сделать именно это, однако, все зависит от добровольного предоставления данных. Это означает, что за качеством данных, собранных первичными и специализированными поставщиками медицинских услуг нет контроля.

Рекомендация 4. НСЗ Великобритании и Национальный институт здоровья и совершенствования медицинской помощи должны рассмотреть вопрос включения удобных для пользователя IT-систем в процесс приобретения систем сбора данных и оказывать предпочтение интеллектуальным системам, обращающим внимание на ошибки в режиме реального времени.

Рекомендация 5. NHS Digital должна сделать обязательным предоставление Индекс степени качества данных для лучшего контроля качества данных во всей системе здравоохранения.

    
5.1.2 Доступ к данным
Легкость доступа к данным НСЗ зависит от контекста, т.е. доступ может быть более или менее трудным в зависимости от типа необходимых данных и цели, для которой они нужны. Соединение между собой источников данных может быть затруднительным, так как могут существовать как технические, так и юридические препятствия. Этот раздел расскажет об этих препятствиях и решениях, которые должны быть найдены для их снятия.

5.1.2.1  Связывание данных   

Правовая комиссия утверждает, что связывание данных "выявляет взаимозависимости, которые иначе остались бы невидимыми и помогает разрешать многомерные трудности". Central New York Care Collaborative  внедрило 75 систем электронных историй болезни для своей "когнитивной платформы здоровья населения". Связывание данных о состоянии здоровья и данных о социальной помощи помогло создать "комплексное видение, включающее историю болезни, социальные решающие факторы и психическое здоровье". Это позволило платформе ИИ идентифицировать людей с повышенным риском заболевания и озаботить их вопросом о своем здоровье, предоставив планы мероприятий по уходу.

Один из главных технических барьеров для связывания источников данных является отсутствие функциональной совместимости IT-систем в здравоохранении, определенной как "способность систем к обмену и использованию электронной информации о состоянии здоровья с другими системами без особого усилия со стороны пользователя". Рис.5 показывает некоторые вопросы несовместимости внутри системы и между организациями, предоставляющими услуги в области здравоохранения. Например, трасты специализированной медпомощи используют ряд различных IT-систем, которые собирают и хранят информацию о разных видах деятельности, таких как приемы больных в стационар, работа реанимационного отделения, выполнение рентгенографии, томографии. Различные IT-системы не всегда надлежащим образом устанавливают связь друг с другом, что подтверждает, что процесс связывания данных является более трудным.

Вопросы совместимости медицинских информационных систем Великобритании 
Рисунок 5. Вопросы совместимости

Начинают появляться решения для вопросов совместимости. Через короткий промежуток времени должны начать использоваться стандарты совместимости для обмена информацией в здравоохранении, такие как Fast Healthcare Interoperability Resources (Ресурсы быстрой совместимости в здравоохранении), которые будут способствовать обмену, объединению, совместному использованию и поиску электронной информации о состоянии здоровья. Смотря вперед, приверженность к открытым стандартам будет иметь важнейшее значение для обеспечения совместимости IT-систем. НСЗ признает это и подчеркивает, что центром внимания стратегий совместимости должно стать создание открытого окружения для обмена информацией.

Открытые стандарты были решительно поддержаны интервьюируемыми для создания этого документа, в качестве решения вопросов совместимости и общих проблем с архитектурой данных НСЗ.  Большая совместимость электронных данных здравоохранения создала бы возможность соответствовать принципу переносимости данных Общих норм защиты информации Европейского Союза. Это означает, что пациенты имеют право забирать и переносить свои данные с собой между различными организациями, т.е. эти организации в сфере здравоохранения должны быть уверены, что они могут : а). найти информацию и б). сделать ее доступной в понятном формате.

Разговор вокруг связывания данных в НСЗ не должен ограничиваться уже имеющими и собранными в установленном порядке данными. Также очень важно понять возможность, вытекающую из соединения данных о состоянии здоровья и медицинского обслуживания с данными, полученными от персональных устройств и технологий (таких как приложения на смартфонах, носимых аксессуарах, датчиках в домашних и медицинских устройствах). Как подчеркивается в разделе 4.1.1 , носимые устройства дают возможность для сбора нового типа данных. Данные часто поступают непрерывно, вместо того, чтобы быть собранными в заданное время. Дополнительно, они отражают состояние пациента, когда он находится вне условий обслуживания. Связывание этой новой информации с имеющейся информацией, собранной в системе могло бы предоставить множество возможностей  для ИИ и расширения знаний в области медицины.

Рекомендация 6. В соответствии с рекомендациями отчета Wachter, от всех поставщиков информационных технологий необходимо потребовать достижения совместимости систем с самого начала, чтобы специалисты в области здравоохранения имели возможность переносить данные из одной системы в другую. Это обеспечит соответствие принципу переносимости данных Общих норм защиты информации Евросоюза.

Рекомендация 7. NHS Digital должен провести исследование с целью оценки, каким образом данные, полученные от технологий и устройств вне системы здравоохранения, таких как носимые аксессуары и датчики, могли бы быть объединены и использованы в НСЗ.     

5.1.2.2 Беспорядочность  потоков данных

Как отмечено в отчете Правительства "Рост промышленности ИИ в Великобритании", организации, пытающиеся работать с НСЗ по вопросу доступа к данным, считают, что это "неизмеримая задача". Это происходит не только из-за вопросов, затронутых в предыдущем разделе, но также из-за того, что для них может оказаться непонятным, где находятся данные, доступ к которым они хотели бы получить и с кем им необходимо связаться, чтобы получить доступ.

Рис. 6 отображает часть сложностей, появляющихся у организаций при попытке понять информационные потоки внутри НСЗ.  Данный рисунок  не является абсолютно точной картиной реальности, так как он не включает региональные различия и различия в узлах-операторах. Он создан ради отображения участников внутри системы здравоохранения, типа информации, собираемой ими, типа информации без обмена, и чтобы дать общее представление о замешательстве, в которое попадают те, кому необходим доступ к связанным массивам данных.

 Потоки данных в национальной системе здравоохранения Великобритании
Рисунок 6. Потоки данных в национальной системе здравоохранения Великобритании

5.1.2.3  Юридические барьеры ?

Доступ к данным здравоохранения может быть сложным из-за структур юридического и информационного руководства. Как отмечено в разделе 5.2, у общественности растет обеспокоенность о том, как используются и контролируются данные здравоохранения. Информационное руководство обеспечивает рамки для ослабления этой обеспокоенности и рекомендации о том, что может быть сделано с разными типами данных и для какой цели. Юридическое информационное руководство в значительной степени связано с мнением общественности о том, как должны использоваться их персональные данные и общественные ценности.  

Различные типы данных о пациенте (т.е. идентифицируемые - обезличенные) поступают с различными следствиями /смыслами для выполнения функций и ответственности контроллеров  данных и обработчиков.  Некоторые типы данных о пациенте получить легче, чем другие (см. Таблица 1).

Таблица 1.  Тип данных и требующееся согласие, Источник: Записка о понимании данных пациента, апрель 2017г.

Тип данных Определение Требующееся согласие
Персональные данные Любые данные, которые могли бы потенциально идентифицировать конкретного человека, сами по себе или вместе с другой информацией  Требуют явного согласия пациента на передачу для целей, отличных от прямого медицинского обслуживания пациента
Деперсонализованные данные Данные, лишенные идентификаторов, например ФИО, адреса, почтового индекса, номера НСЗ или даты рождения и замененные одним или более искусственным идентификатором или псевдонимом Нет необходимости в получении согласия, т.к. нет вероятности, что данные причинят нежелательный вред или расстройство
Анонимные данные Данные, которые сами по себе не идентифицируют никакого человека и едва ли  позволяющиеся идентифицировать человека по комбинации с другими данными Нет необходимости в получении согласия, поскольку нет вероятности, что данные причинят нежелательный вред или расстройство

 

Структура юридического и информационного руководства очень сложна и проистекает из различных международных стандартов информационной безопасности Евроюза, Великобритании, законодательства и практических требований в сфере здравоохранения (см. Приложение, таблица 2). Законодательная комиссия подчеркнула, что юридическое и информационное руководство и законодательство об обмене данных считаются трудным для ориентирования.  Об этом также говорили интервьюируемые для создания этого документа.  Однако, по мнению Центра по совершенствованию обмена данными, некоторые из этих барьеров существуют по большей мере из-за культуры уклонения от рисков, а не из-за настоящих юридических трудностей.

Необходимо выработать решения для того, чтобы помочь участникам быть более осведомленными о риске, а не стремящимися уйти от риска при обращении к структурам юридического и информационного руководства. Промышленная стратегия объявила о создании новых органов, которые могли бы помочь в преодолении этих барьеров, таких как Трасты данных и Центр по вопросам этики данных и инноваций. Однако Правительство должно разъяснить точную сферу компетенции этих организаций, так как не ясно, какая разница между ролью Центра     по вопросам этики данных и ролью Офиса уполномоченного по информации.

В настоящее время доступ и связывание имеющихся массивов данных в сфере здравоохранения затруднены из-за длительности процессов в месте доступа. Интервьюируемые отмечали, что необходимо сделать легкодоступными большее количество массивов данных с более быстрыми процессами получения разрешения или даже с открытыми источниками данных. Эти обучающие массивы данных, скрытые под псевдонимами способствовали бы разработке более эффективных алгоритмов ИИ, что в свою очередь, позволило бы предоставлять лучшее обслуживание.  Саймон Стивенс (генеральный директор правительственного органа NHS England) объявил ободряюще, что NHS England работает с NHS Digital с целью определения 3-4 региональных инновационных центров данных, каждый охватывающий 3-5 млн. человек. Центры должны будут производить обмен анонимными и идентифицируемыми данными пациентов на региональном уровне, а в некоторых случаях на национальном уровне для предоставления прямых услуг по медицинскому обслуживанию или усовершенствования таких услуг. Промышленная стратегия медико-биологических наук также поддерживает эту точку зрения, т.к. рекомендует проведение оцифровки и открытие доступа к обучающим массивам данных по обследованию патологий.    

Рекомендация 8. NHS Digital, the National Data Guardian и Офис уполномоченного по информации вместе с промышленностью должны найти цифровое и интерактивное решение, такое как чат-робот для содействия навигации участников в потоке данных НСЗ и структуре информационного руководства.

Рекомендация 9. NHS Digital должно создать перечень обучающих массивов данных, таких как клинические изображения, которые необходимо сделать более легкодоступными для компаний, желающих обучать свои алгоритмы ИИ предоставлять лучшее обслуживание и лучшие результаты.  Оно также должно разработать определенную базу, указав условия для безопасного доступа к этим данным.

5.2 Построение алгоритмов

Вокруг использования ИИ в здравоохранении имеется много этических вопросов. Некоторые из них касаются построения систем ИИ, где необходимо понести расходы и извлечь выгоду, другие вопросы сфокусированы на безопасности и процедурах сертификации для ИИ

5.2.1 Кто их создает и кто получает выгоду?

НСЗ может  извлечь выгоду от инвестиций в ИИ и разработать, например, свое собственное подразделение ИИ в NHS Digital .  Как говорилось выше, разработка систем ИИ затратная, но ее масштабное копирование дешево.  Однако с учетом ограничений бюджета, это решение едва ли жизнеспособно. Таким образом, НСЗ должна найти способ извлечь пользу от общественных/частных партнерств.   

Данные НСЗ - очень ценные активы. Это вызвало много споров о том, кто должен извлечь экономическую выгоду от продуктов, которых не было бы без использования данных пациентов.

Промышленная стратегия медико-биологических наук отмечает, что большинство соглашений об обмене данными НСЗ было заключено по месту, в основном могущественными более крупными компаниями, которые могут не разделить прибыль по справедливости.   Стратегия выдвигает ясную базу для лучшего понимания истинной ценности данных НСЗ на национальном уровне. Обзор Правительства, Рост промышленности ИИ в Великобритании, также обращает внимание на роль, которую могут играть организации поддержки данных трастов в обеспечении существования надежной основы обмена данными, "безопасной и взаимовыгодной" для тех, кто хочет обменяться и использовать данные. Сюда входят договоренности об условиях извлечения коммерческой выгоды от полученных данных.

Если промышленность должна использовать данные НСЗ для создания ИИ, как это делается сейчас, НСЗ должна обеспечить, что она сможет получать выгоду в долгосрочном плане. Правительство должно разработать взаимовыгодные договоры, такие как договоры о разделе прибыли и риска.

Рекомендация 10. Департамент здравоохранения и Центр по этике данных и инновациям должны создать национальную базу условий, на которых из данных пациента выгодным для НСЗ образом будет извлекаться коммерческая польза. Департамент здравоохранения должен способствовать работе NHS Digital с STP и трастами с целью использования этой базы и гарантировать, что коммерческие организации выступают на местах как полезные партнеры для НСЗ.

5.2.2 Сертификация ИИ

Регламентирование ИИ - щекотливый вопрос. Некоторые считают, что регулирование задушит инновацию, в то время как другие настаивают на том, что общественность и правительство должны не просто рассматривать эти инструменты как "машины, обрабатывающие холодные цифры", не обращая внимания на их склонность к систематическим ошибкам и погрешностям. Очень важно подчеркнуть, что в создание и внедрение систем ИИ вовлечен большой объем субъективного человеческого труда. Здравоохранение - область высокого риска, где ошибка может нести значительные последствия для человеческой жизни.   Общественная безопасность и вопросы этики, связанные с использованием ИИ в НСЗ должны стать центральным моментом заботы контролирующих организаций в области здравоохранения, таких как Национальный институт здоровья и клинического совершенствования, Агентство по контролю качества лекарственных средств и медицинской продукции и правительство

5.2.2.1 Верификация и аттестация

Герберт Саймон подчеркивал: "мы должны позаботиться о том, чтобы по конструкции и применению ИИ надежно служил желаемым целям". Это означает необходимость разработки методов для верификации правильного функционирования системы. Важно, чтобы люди, разрабатывающие алгоритмы ИИ, могли доказать, протестировать и подтвердить точность и исполнение своих алгоритмов. Более того, как отмечено Комитетом по науке и технологии, предотвращение нежелательного и непредсказуемого поведения должно стать одной из целей процедуры верификации и аттестации.

Fox and Gas следуют модели Boden и обращают внимание, что существуют четыре основные причины, почему интеллектуальные агенты могут иметь опасное или непреднамеренное побочное действие:

Авторы отмечают, что недостаточно доказать, что алгоритмы ИИ "технически верны", но также важно понять, как он обращается с"опасностями, которые могут возникнуть внезапно. Это подчеркивает важность настоящего стрессового тестирования этих систем до их применения в области здравоохранения.

Нормативная база Великобритании в здравоохранении признает, что все медицинское лечение или подход происходят с элементом риска, и что нормативная база должна обеспечить приемлемый уровень риска в пропорциональном порядке, без подавления инновации. В настоящее время Агентство по контролю качества лекарственных средств и медицинской продукции предоставляет рекомендации и медицинские директивы, которым должны следовать все разработчики алгоритмов и приложений для сферы здравоохранения. Некоторые интервьюируемые считают, что многие нормативные процедуры для медицинских устройств могут использоваться для регулирования алгоритмов ИИ без необходимости слишком большой адаптации.

Тем не менее, алгоритмы ИИ могут иногда отличаться от других форм медицинского программного обеспечения или устройств. В первую очередь степень их автономности может варьироваться по сравнению с другими медицинскими устройствами. Их задача выдать клиническое решение или они должны предоставить совет врачу или пациенту? Сейчас алгоритмы ИИ считаются инструментами поддержки решений, таким образом просто предоставляя совет, вместо выдачи клинических решений от лица врачей. Однако это может измениться в будущем, так как степени точности их диагностики превосходят диагностику, выполненную человеком в определенных медицинских областях, о чем говорится в главе 4.

Во-вторых, алгоритмы ИИ отличаются от существующих форм медицинских устройств, так как они постоянно развиваются. Некоторые алгоритмы, известные также как "живые или онлайн" не являются постоянными. С новыми данными они будут постоянно обновляться. Это представляет больший вызов регулированию, чем автономные (офф-лайн) алгоритмы, которые обучаются на массивах данных, а затем фиксируются, когда обучение завершено. Необходима будет разработка системы постоянного мониторинга, чтобы обеспечить, что с вводом новых данных безопасность пациента защищена и качество обслуживания не ухудшилось. Управление по контролю качества пищевых продуктов и лекарственных средств США недавно одобрило первый онлайн алгоритм глубокого обучения на основе облачных вычислений (см. глоссарий ниже) в здравоохранении.  Платформа медицинских изображений предназначена для помощи врачам в диагностике болезней сердца. Процесс одобрения Управления по контролю качества пищевых продуктов и лекарственных средств включал, помимо прочего, положение, что глубокие нейронные сети могут выдавать результаты, по крайней мере, так же точно, как способны в настоящее время люди.

Сейчас большая часть клинического программного обеспечения попадает в класс 1 (смотрите Приложение, таблица 3), подлежащий лишь незначительному регулированию. От разработчиков требуется заявить о себе, если они соответствуют перечню требований для получения сертификации Евросоюза. Однако, понимание того, куда внутри имеющейся ориентированной на цель нормативной базы вписывается множество инструментов поддержки решений, не является простым. Как подчеркивает Luxton, быстро меняющиеся технологии могут вырваться вперед… и тогда законам и нормативам придется догонять технологию.

Интересно, что Управление по надзору за качеством пищевых продуктов и лекарственных средств США недавно собрало группу для наблюдения и опережения будущих разработок в медицинском программном обеспечении на основе ИИ. Агентство по контролю качества лекарственных средств и медицинской продукции Великобритании должно последовать примеру  США и создать такую группу для обеспечения ясности в вопросе верификации и аттестации процесса систем ИИ в здравоохранении.  Как отметили интервьюируемые, необходима ясность в отношении того, что будет включать сертификация (т.е. протоколы испытаний, дискриминирующие испытания, протоколы первичной обработки данных, данные режима обучения). В настоящее время одобрение Управления по надзору за качеством пищевых продуктов и лекарственных средств США для систем машинного обучения, анализирующих медицинские изображения включает: информацию об алгоритме и его обучение, информацию об анализируемых характеристиках, используемые модель и классификаторы.

Рекомендация 11. Агентство по контролю качества лекарственных средств и медицинской продукции и   NHS Digital   должны создать группу, целью которой станет разработка базы для этического и безопасного применения ИИ в НСЗ.  Эта база должна включать: какой тип испытаний предварительного выпуска должен быть выполнен и каким образом должен проводиться постоянный мониторинг алгоритмов ИИ.

5.2.2.2 Прозрачность и объяснимость

Прозрачность и объяснимость алгоритмов ИИ важны для их верификации и аттестации, т.к. это способствует более тщательной проверке. Прозрачность может относиться к технической прозрачности алгоритмов ИИ. Другими словами, пониманию как система ИИ осмысливает исходные данные. Это может оказаться сложным в зависимости от выбранной методики. Чем сложнее методы ИИ, тем труднее их интерпретировать. Королевское общество отметило, что многие системы машинного обучения - это "черный ящик". Хотя и возможно проверить статистическую надежность результатов, произведенных алгоритмами ИИ, не всегда возможно объяснить, как эти результаты были созданы. Эта характерная непрозрачность связана с нейронными сетями глубокого машинного обучения. Однако важно отметить, что не все алгоритмы ИИ внутренне непрозрачны. Более того, сейчас проводится исследование для того, чтобы эти алгоритмы - черные ящики стали более прозрачны, в нем исследователи в обработке с использованием естественного языка пытаются разработать алгоритмы, способные писать логические обоснования для решения, которое они выдали. Исследование также подошло к вопросу предоставления объяснений для решений, выработанных алгоритмами ИИ без необходимости вскрытия черного ящика.

Прозрачность также может касаться раскрытия кода, поддерживающего алгоритм.  Этот тип прозрачности может быть проблемным в смысле коммерческой уязвимости или закона об интеллектуальной собственности.  Тем не менее, важно, чтобы во время процедуры сертификации об алгоритме ИИ была дана достаточная информация для его надлежащего тестирования с возрастающей нагрузкой. Некоторые интервьюируемые допускают, что достижение более объяснимых алгоритмов может быть более важным, чем достижение прозрачности. Однако, у стандартных алгоритмов машинного осмысления нет интереса к причинному осмыслению или "объяснению" сверх статистического смысла, где возможно измерить количество вариаций, объясненных прогнозирующим устройством. Это означает, что пока технически невозможно реально ответить на вопрос, почему алгоритм пришел к конкретному решению.

Рекомендация 12. NHS Digital, Агентство по контролю качества лекарственных средств и медицинской продукции Великобритании и Caldicott Guardians должны работать совместно  с целью создания структуры объяснимости ИИ. Эта цель потребует от каждой организации, использующей ИИ в НСЗ ясного объяснения на своем Интернет-сайте цели использования ими ИИ (включая преимущества для здоровья по сравнению с текущим моментом), типа используемых данных, каким образом данные используются и как обеспечена защита анонимности.

5.2.2.3 Сведение к минимуму систематических ошибок

Как подчеркивается Mittelstadt et al., одно из этических опасений, могущих иметь место от использования алгоритмов - непостижимость данных. Это означает отсутствие знаний об используемых данных, как они были предварительно обработаны и как алгоритмы использовали их для выработки своего заключении, ограничивающего возможность понимания процесса принятии решения алгоритмом. Процесс очистки и преобразования данных до использования заключает в себе множество субъективных решений, влияющих на результат алгоритмов ИИ.   
В контексте здравоохранения раскрытие процедуры предварительной обработки данных и использованных данных режима обучения - очень важные для принятия во внимание принципы.  Беспечный подход к ИИ в здравоохранении может укоренить несоответствие в сфере здравоохранения из-за упрочения ошибок, обнаруженных в данных здравоохранения.  Цель - использовать ИИ для решения задач, таких как вариативность результатов медицинского обслуживания и не сделать их хуже.

Исключение ошибок данных может быть чрезвычайно трудной задачей. Это потребует, например, корректировки несовпадений при выборке данных, что нелегкое дело. Каждое решение исправить систематическую ошибку несет субъективную нагрузку. Тем не менее, были разработаны способы для обнаружения и предотвращения появления систематических ошибок в методах машинного осмысления. Более того, некоторые из этих подходов позволяют обнаружить ошибки без удерживания конфиденциальных данных о людях. Реализация этих методов может положительно сказаться на внешней ценности этих систем ИИ, означая, что система, обученная на данных из больницы А, может предоставить точные результаты для больницы Б.  

Рекомендация 13. Агентство по контролю качества лекарственных средств и медицинской продукции  Великобритании должно потребовать, как часть своей процедуры сертификации, доступ к  процедурам предварительной обработки данных и данным режима обучения.

Рекомендация 14. Агентство по контролю качества лекарственных средств и медицинской продукции  Великобритании совместно с NHS Digital должно создать основу для тестирования систематических ошибок в системах ИИ. Эта основа должна быть применена к тестированию ошибок в данных режима обучения.

5.2.2.4 Ответственность

При нынешнем состоянии технологии применение ИИ в принятии решений в медицинской сфере описывается как расширение познавательных способностей врача, а не их замена. Это инструмент поддержки принятия решения, не агент, принимающий решения за людей. Это означает, что в настоящее время ответственность и юридическая ответственность по-прежнему лежит на плечах врача. В случае неудачи, необходимо следовать имеющимся нормативным базам, разработанным Агентством по контролю качества лекарственных средств и медицинской продукции Великобритании. Однако важно понимать, что персонал медицинских учреждений может оказаться под влиянием рекомендаций, выданных машиной, даже в противоречие со своим мнением. Это может быть очень проблематичным в случаях, когда машина выдает неправильные рекомендации. Необходимо разработать четкие инструкции о том, как медицинский персонал должен взаимодействовать с инструментами ИИ, машина должна восприниматься как инструмент поддержки принятия решения.

Рекомендация 15. На технические компании, работающие с алгоритмами ИИ в НСЗ должна быть возложена ответственность за сбои системы таким же образом, как несут ответственность другие компании медицинского оборудования или лекарственных средств в соответствии с нормами Агентства по контролю качества лекарственных средств и медицинской продукции.

Рекомендация 16. Департамент здравоохранения совместно с Комиссией по качеству медицинской помощи и Агентством по контролю качества лекарственных средств и медицинской продукции должны разработать четкие рекомендации о том, как медицинский персонал должен взаимодействовать с ИИ как с инструментами поддержки принятия решения. 

Заключение

ИИ предоставляет огромную возможность помочь НСЗ осуществить планы трансформации своих услуг. Он может помочь сократить разрывы, обозначенные в "Плане на пять лет вперед", повысив качество обслуживания, способствуя тому, что НСЗ из системы, сфокусированной на оказании неотложной помощи, стала системой, сфокусированной на профилактике и улучшении результатов для пациентов.  Он также может сделать более эффективными процессы внутри системы здравоохранения и снизить затраты. НСЗ должна подумать о постепенном внедрении этой технологи в планы трансформации услуг в будущем. 

Тем не менее, НСЗ должна пройти долгий путь до того, как ИИ может быть эффективно использован. Для усовершенствования необходима поддержка, как со стороны пациентов, так и со стороны специалистов в области здравоохранения.  Для того чтобы люди стали доверять этой технологии требуется время, а также частично это зависит от конструкции интерфейса ИИ и объяснимости. Повышение удобства для пользователя и ясное понимание взаимодействия человек-машина может повлиять на степень принятия этой технологии среди специалистов в области здравоохранения.

Как отметил Метью Свинделлс, национальный директор по работе и информации NHS England, одно из главных препятствий для реализации систем ИИ в здравоохранении - отсутствие доступа к "данным хорошего качества". НСЗ необходимо продвигаться вперед в своем плане перехода на цифру, повысить совместимость своих сегодняшних IT-систем и обеспечить, чтобы в будущем все они следовали открытым стандартам. НСЗ должна также разработать план для интегрирования новых форм данных, полученных от носимых аксессуаров и датчиков в домах. ИИ- не панацея для этих конечных задач, пожинать плоды этой технологии широкомасштабно будет невозможно, если эти препятствия не будут преодолены.

Очень важно, чтобы Департамент здравоохранения создал основу для обеспечения заключения НСЗ действительно взаимовыгодных договоров с частным сектором, разрабатывающим эти системы ИИ. Это уберегло бы НСЗ от несправедливых ситуаций, когда частные компании требуют чрезвычайно высокой платы за использование алгоритмов, которые бы никогда не были разработаны без использования данных пациентов НСЗ.

Агентство по контролю качества лекарственных средств и медицинской продукции  также должно привести в соответствие с требованиями современности свои процедуры сертификации, поскольку новые инструменты ИИ на основе методов машинного осмысления являются проблемой для сегодняшнего регулирования. Они очень отличаются от ИИ "старой школы", таких как экспертные системы (смотрите глоссарий), как отметил Джон Фокс.  Эти новейшие инструменты ИИ требуют другой процедуры сертификации и более пристального контроля, чем   старые системы ИИ. Будет очень важно обеспечить, чтобы они были объяснимы и минимизировали ошибки для снижения несоответствий в оказании медицинских услуг.

Приложения

Таблица 2. Управление информацией в национальной системе здравоохранения

Постановления Европейского Союза    

Директива Евросоюза о защите данных (1995г.)  Регулирует обработку персональных данных в Евросоюзе, основана на наборе прав для граждан и принципах, которым должны следовать организации.
Директива о базах данных (1996г.) Создает для создателей баз данных новое исключительное и уникальное право защиты вложенных ими времени, денег и усилий, независимо от того, является ли база данных инновационной или нет. Директива также упорядочивает авторское право, применимое к структуре и организации содержания баз данных.
 Акт о правах человека (1998г.) Статья 8 Конвенции - право соблюдение неприкосновенности частной и семейной жизни.
Положение о защите общих данных (2018г.)   Строится на имеющихся правах и принципах, но добавляет более строгий принцип ответственности , укрепляет имеющиеся права и вводит некоторые новые, например, "переносимость данных". Также стремиться к гармонизации режима защиты данных во всем Евросоюзе.

Постановления Великобритании

Общее право конфиденциальности и согласия Не закреплено Парламентским актом, но сформировалось из прецедентного права посредством личного суждения. Ключевой принцип: информация, данная доверительно не должна использоваться или раскрываться в дальнейшем, за исключением как первоначально понятая доверителем или с его последующего разрешения. Однако, некоторые мнения доказывают, что конфиденциальность может быть нарушена в интересах общественности, что концентрируется на рассмотрении в индивидуальном порядке исключительных обстоятельств
Акт о защите данных (1998г.) Основной документ законодательства, регулирующий защиту персональных данных в Великобритании.  Он реализует Директиву о защите данных Евросоюза 1995г. Он будет заменен Законопроектом  о защите данных.
Акт о свободе информации (2000г.) Обеспечивает открытый доступ к информации, имеющейся у органов государственной власти. Это осуществляется двумя способами: органы государственной власти обязаны опубликовывать определенную информацию о своей деятельности, а члены общества имеют право запросить эту информацию у органов государственной власти.
 Регламент повторного использования информации государственного сектора (2015г.) Предназначен стимулировать повторное использование информации государственного сектора и о разрешении на повторное использование информации государственного сектора и как его получить.
 Законопроект о цифровой экономике (2017г.)  Обеспечивает выполнение нескольких обязательств правительства о цифровой экономике, принятых в Манифесте Консервативной партии, таких как правила в отношении обмена данными и статистических данных.
Законопроект о защите данных   Направлен на получение людьми большего контроля над своими данными. Заменит Акт о защите данных 1998г. новым законом, обеспечивающим основу для защиты данных в Великобритании с более серьезным санкциями в случае нарушений. Обеспечивает выполнение стандартов GDPR.  

Нормативные акты национальной системы здравоохранения

Акт НСЗ 2006г. - Политика конфиденциальности Формулирует принципы, которые должны соблюдаться всеми, кто работает в НСЗ и имеют доступ к личной или конфиденциальной информации. Весь персонал должен понимать сою ответственность в сохранении конфиденциальности и обеспечении защищенности информации для соответствия обязательствам о конфиденциальности общего права и Практическому руководству о конфиденциальности НСЗ.
Раздел 251 Акта НСЗ обеспечивает законодательную базу для раскрытия в конкретных целях идентифицируемой информации пациента.  
Политика информационного обмена Обеспечивает, чтобы вся информация, хранящаяся или обработанная НСЗ была доступной при условии надлежащей защиты конфиденциальности и в соответствии с определениями и условиями, на основе которых произошел обмен этими данными с НСЗ.  Эта политика устанавливает, что необходимо обеспечить для создания законного и равного доступа к информации и описывает ряд процедур
Акт о здравоохранении и социальной помощи, 2012г. Дает право Информационному центру здравоохранения и социальной помощи создавать системы для сбора и анализа информации о здравоохранении и социальной помощи, когда поручено или затребовано сделать это.
Конституция НСЗ Определяет права для пациентов, общественности и персонала. Описывает обязательства НСЗ перед пациентами и персоналом и ответственность, которую общественность, пациенты и персонал несет в отношении друг друга для обеспечения честной и эффективной работы НСЗ.
Принципы Caldicott  1.    Детализация целей - объяснение цели (целей) использования или передачи конфиденциальных данных.
2.    Использовать персональные конфиденциальные данные только, если это абсолютно необходимо.
3.    Минимизация данных - использовать минимум необходимых персональных конфиденциальных данных.
4.    Доступ к персональным конфиденциальным данным должен быть только у тех людей, которым он необходим,  и они должны иметь доступ только к тем позициям данных , которые им необходимо посмотреть.
5.    Каждый, имеющий доступ к персональным конфиденциальным данным должен понимать свою ответственность.
6.    Соответствие закону.
7.    Обязанность обмена информацией может быть такой же важной, как обязанность защиты конфиденциальности пациента.

Источник: Британская Академия и Королевское Общество, "Руководство данными и использование: управление в 21 веке", 2017г.; NHS England "Информационное управление", Web-страница; NHS England "Политика управления информацией", 2016г.; Информационный центр здравоохранения и социальной помощи, "Руководство о конфиденциальности в здравоохранения и социальной помощи", 6.

Таблица 3. Регулирование медицинских устройств Агентством по контролю качества лекарственных средств и медицинской продукции

Классификация медицинского устройства Определение Предписания
Класс I: низкий риск Этот класс включает все неинвазивные устройства, если одно из правил, установленных в определении другого класса не указывает иначе. В целом этот класс включает аксессуары, но исключает устройства, предназначенные для клинических исследований Предписание основано на само-декларировании производителя.
Директива о медицинских устройствах предусматривает, что устройства должны отвечать декларации соответствия Евросоюза.  
Если производитель программного обеспечения удовлетворен тем, что медицинское устройство отвечает требованиям Директивы о медицинских устройствах, он должен :
1.    Написать официальный отчет, чтобы заявить об этом.
2.    Обратиться в уполномоченный орган для одобрения и сертификации произведенных частей, связанных со стерильностью или метрологией, если применимо.
При выполнении продукт может получить маркировку на соответствие требованиям СЕ.
Класс IIa: умеренно низкий риск Этот класс включает все неинвазивные устройства, предназначенные для переливания или хранения крови, жидкостей организма или тканей, жидкостей или газов для возможного вливания, введения или внесения в тело, например, позволяющие провести прямую диагностику важных физиологических процессов.  Изготовитель должен:
1.    Заявит (декларировать), что устройство соответствует требованиям Директивы о медицинских устройствах.
2.    Обратиться в уполномоченный орган для проведения оценки соответствия и одобрения своей декларации.
Вид оценки может быть следующим:
1.    Проверка и испытание каждого продукта или
2.    Аудит производственной системы контроля качества или
3.    Аудит заключительной инспекции и испытаний или
4.    Аудит всей системы контроля качества.
По завершении продукт получает маркировку СЕ.
Класс IIб: умеренно-высокий риск Этот класс включает все неинвазивные устройства, предназначенные для изменения биологического или химического состава крови, других жидкостей организма или других жидкостей , предназначенных для введения в тело, например, контрацепция или предотвращение передачи болезней, передаваемых половым путем Изготовитель должен выполнить одно из следующего :
1.     Аудит всей цепи контроля качества или
2.    Предоставить гарантию от уполномоченного органа, что показательный образец соответствующего производства отвечает требованиям Директивы о медицинских устройствах, плюс опциям 1,2 или 3, указанным для устройств класса IIа.
По завершении продукт может получить маркировку СЕ.
Класс III: высокий риск Этот класс включает все устройства, содержащие вещество, которое может быть лечебным продуктом и которое должно действовать на человеческое тело действием дополнительным к действию устройств, например, используемые для мониторинга или исправления порока сердца. Изготовитель должен выполнить одно из следующего:
1.    Аудит всей системы контроля качества, включая проверку пакета проектной документации или
2.    Предоставить гарантию от уполномоченного органа, что показательный образец соответствующего производства отвечает требованиям Директивы о медицинских устройствах, плюс опциям 1,2 или 3, указанным для устройств класса IIа.262
По завершении продукт может получить маркировку СЕ.

 

Глоссарий

 

Алгоритм: набор правил и инструкций, которым следует агент (т.е. компьютер, робот…) для решения проблемы.
Анонимные данные: данные об отдельных людях, но с удаленными идентифицирующими деталями.
Искусственный интеллект: любой созданный человеком агент (т.е. компьютерная программа или робот), который демонстрирует интеллект. Интеллект - это способность агента достичь целей в широких пределах окружающей среды.
Искусственные нейронные сети: набор искусственных нейронов, которые могут быть активированы исходными данными. Нейроны затем передают сообщения друг другу о вводе, что складывается в результат.
Согласие: одобрение или согласие, чтобы произошло что-то после обдумывания. Для юридически действительного согласия человек должен быть информирован, должен быть в состоянии принять требующееся решение и должен добровольно дать согласие. Ясно выраженное согласие: оно может быть дано в письменном виде или устно, или выражено другой формой коммуникации, такой как подпись.  Подразумеваемое согласие: применимо только в контексте прямой помощи отдельным людям. Оно относится к случаям, когда согласие отдельного пациента может подразумеваться без необходимости выполнения какого-либо позитивного действия, такого как устное согласие на конкретный аспект обмена информации для дальнейшей работы.
Контроллер данных: человек, который (в одиночку  или коллегиально, или совместно с другими людьми) определяет цели, для которых обрабатываются или должны быть обработаны любые персональные данные и метод  обработки данных.
Обработчик данных: любой человек (не работник контролера данных), который обрабатывает данные от лица контроллера данных.
Обработка данных: получение, запись или сохранение информации или данных, или выполнение любой операции или набора операций по информации или данным.
Субъект данных: означает отдельного человека, являющегося субъектом персональных данных.
Глубокая нейронная сеть: аналогична компьютерной системе для искусственных нейронных сетей, но имеет много слоев нейронов. Она использует свою слоевую конструкцию так, что выходная информация с одного слоя используются как вход в следующий слой.
Деидентификация данных: то же самое, что и данные под псевдонимом , за исключением того, что удалена дата рождения пациента. Кроме того, невозможно узнать, например, получил ли один и тот же человек лечение несколько раз, так как каждый раз это отражается каждый раз как одна запись.
Прямое обслуживание: клиническая, социальная или общественная деятельность, связанная с состоянием здоровья, касающаяся профилактики, исследования и лечения заболевания и облегчения страданий людей (вся деятельность, напрямую обеспечивающая диагностирование, уход и лечение отдельного человека).
Экспертные системы: компьютерные системы, имитирующие способность человека-эксперта принимать решения посредством сложных предварительно запрограммированных правил.
Персональные (идентифицируемые) данные: содержат детали, идентифицирующие людей.
Непрямое обслуживание пациента: виды деятельности, обеспечивающие  общее предоставление услуг населению в целом  или группе пациентов в определенном состоянии, вне объема прямого обслуживания. Оно охватывает руководство службы здравоохранения, профилактическую медицину и медицинские исследования.
Машинное обучение: подгруппа ИИ, позволяющая компьютерным системам обучаться, анализируя огромное количество данных и создавать аналитические картины из этого, а не следовать заранее запрограммированным правилам.
Автономные (офф-лайн) системы машинного обучения: эти системы обучают и протестированные статичные модели наборов данных затем "замораживают" до их использования в "живых" заданиях.
Он-лайн системы машинного обучения: это системы, постоянно обновляемые новыми данными.
Данные населения: анонимная информация, сгруппированная вместе , не идентифицирует отдельных людей.
Данные под псевдонимом: об отдельных людях, но  идентифицирующие детали (такие как фамилия или номер НСЗ) заменены уникальным кодом.
Особые (конфиденциальные) данные: относятся к персональным данным, включающих информацию о национальности, вероисповедании, физическом или умственном здоровье, сексуальной ориентации и поведении, политических убеждениях, членстве в профсоюзе, правонарушениях (даже под подозрением в совершении преступления)

 

Оцените статью

( 0 из 5,
оценили: 0)
Ваша оценка: Не ставилась

Темы статьи


мы в соц сетях


присоединяйтесь к нашим группам
в социальных сетях!

Изосин Артем Александрович,
Руководитель отдела разработки новых продуктов

читайте также


31 Янв 2018

2464

Топ 10 статей по теме искусственного интеллекта в медицине

16 Ноя 2017

8603

Искусственный интеллект в медицине

22 Май 2017

9917

О проекте «Цифровое здравоохранение»
Все статьи в блоге

Подписывайтесь на наш блог!