Искусственный интеллект подает надежды в медицине, однако есть признанные недостатки и риски
Легко представить себе потенциал искусственного интеллекта (ИИ) в деле оказания людям во всем мире помощи в укреплении здоровья.
Кое-где ИИ уже используется для быстрого выявления ранних признаков заболевания, о чем недавно сообщалось по итогам исследования, проведенного в городе Рангпур в Бангладеш. В ходе этого исследования некоммерческая организация Orbis International, которая работает над устранением предотвратимых причин слепоты, и местные врачи использовали систему LumineticsCore, разработанную компанией Digital Diagnostics, которая расположена в Коралвилле, штат Айова. В этой системе используется специальный вид камеры, предназначенной для получения изображений глаз, которые анализируются с помощью ИИ.
Этот продукт уже показал впечатляющие результаты. В 2018 году он стал первым управляемым искусственным интеллектом устройством, получившим разрешение Управления по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA) на диагностику диабетической ретинопатии. В 2020 году гигантская программа здравоохранения США Medicare согласилась оплачивать использование этого устройства в учреждениях первичной медицинской помощи.
В ходе проведенного в Бангладеш исследования ученые отслеживали результаты работы клиники по лечению сетчатки глаза, где больные диабетом пациенты были произвольно отнесены к группе ИИ или контрольной группе.
Что в результате? При использовании инструмента искусственного интеллекта примерно для 1,59 пациента в час прием был признан успешным по сравнению с 1,14 пациента в контрольной группе, говорится в статье основателя Digital Diagnostics Майкла Абрамоффа и его соавторов, опубликованной в октябре в журнале Nature Portfilio’s npj Digital Medicine.
Этот тест показал, что LumineticsCore может помочь большему количеству людей пройти диагностику на повреждение глаз при диабете, даже в развивающихся странах, сказал Абрамофф, который также является профессором офтальмологии и инженерного дела в Айовском университете.
Он проводит различие между тем, что он называет «влиятельным ИИ» в медицине, и «гламурным ИИ», то есть продуктами, которые фигурируют в сенсационных заголовках, но еще не продемонстрировали убедительных свидетельств того, что они полезны пациентам.
«Нам нравится то, что мы теперь называем влиятельным ИИ», который, как было доказано, помогает людям укреплять здоровье, сказал Абрамофф. «Я инженер, поэтому люблю технологии, но мы не должны платить за них слишком много, если они не улучшают результаты».
Кроме того, в отношении ИИ нужно проявлять бдительность, потому что его применение в медицине уже показало, что он способен как помочь людям, так и навредить им.
Например, в работе, опубликованной в журнале Science в 2019 году, сообщалось, что алгоритм, широко используемый крупными системами здравоохранения и страховыми компаниями, недооценивает тяжести болезни чернокожих пациентов, тем самым давая основание для отказа им в медицинской помощи. Исследователи и эксперты по вопросам политики выразили обеспокоенность по поводу разработки инструментов искусственного интеллекта на основе данных в основном об относительно обеспеченных людях, которые часто являются белыми и имеют хороший доступ к здравоохранению.
По словам Джерома Сингха, одного из консультантов, участвовавших в подготовке методического доклада Всемирной организации здравоохранения (ВОЗ) 2021 года по этике и руководству ИИ в области здравоохранения, необходимо большее разнообразие среди пациентов, данные о которых используются при обучении инструментов ИИ, а также среди людей, создающих эти продукты.
«Понадобятся программисты, представляющие разные расы, разные культуры, — сказал Сингх. — Интерпретация весьма важна. Искусственный интеллект хорош настолько, насколько хорош его код».
По словам Сингха, потребность в большем разнообразии является одной из основных задач, которые предстоит решить при попытках использовать ИИ в медицине во всем мире, особенно на Глобальном Юге.
Потребность в ИИ может быть более высокой в менее развитых странах, где соотношение медицинского персонала и пациентов, как правило, намного ниже, чем в богатых регионах. По данным ВОЗ, в США на каждые 10 000 человек приходится примерно 36 врачей, в Великобритании — примерно 32, а в Индии — около 7 на 10 000 человек.
Однако эти менее богатые страны также сталкиваются с проблемами, когда речь идет об инфраструктуре и институциональных знаниях, необходимых для успешного применения ИИ, сказал Сингх. Среди них нехватка электричества и серверов, а также недостаточное число сотрудников, способных провести эффективное лечение на основе диагноза, поставленного с помощью ИИ.
Как говорит Сингх, успешная интеграция ИИ в здравоохранение «в некоторых случаях будет больше похожа на спринт». «В других случаях это будет марафон».
«На данном этапе внедрение ИИ в медицинскую практику неизбежно», — сказал Парта Маджумдер, который был сопредседателем экспертной группы, представившей рекомендации по подготовке доклада ВОЗ 2021 года.
«Мы должны признать, что это реальность, — сказал он. — Система сдержек и противовесов должна быть выстроена таким образом, чтобы не было некорректных прогнозов и диагнозов. Это все, что мы можем сделать. В действительности мы не можем сдерживать внедрение методов искусственного интеллекта».
Регулирующие и директивные органы во всем мире пытаются найти способы обеспечения безопасного и эффективного применения ИИ в здравоохранении. Значительная часть этой работы заключается в том, чтобы устранить предвзятость в ходе разработки и обучения алгоритмов.
В октябре ВОЗ выпустила новый доклад, в котором излагаются проблемы, связанные с регулированием ИИ в медицине. В нем говорится, что особое беспокойство вызывает быстрое распространение чат-ботов и других инструментов, основанных на крупных языковых моделях, без полного понимания того, помогут ли эти программы пациентам или навредят. В опубликованном в прошлом году докладе Европейского парламента отмечается, что существуют также опасения по поводу отсутствия прозрачности, а также вопросов конфиденциальности и безопасности. FDA работает над совершенствованием своего подхода к регулированию ИИ в медицинских продуктах посредством официальных указаний. Они показывают компаниям, какого рода данные им нужно будет предоставить, чтобы получить одобрение FDA на выпуск продуктов.
По словам Талы Фахури, заместителя директора по анализу политики в Центре оценки лекарственных средств и Управлении исследований медицинской политики FDA, искусственный интеллект может устранить многие досадные неудачи, которые долгое время были отличительной чертой фармацевтических исследований. Становится легче уже на начальных этапах понять, как те или иные соединения будут действовать в организме, что снижает вероятность побочных эффектов, часто возникающих при последующих испытаниях. По ее словам, теперь исследователи могут быстро анализировать информацию, на синтез которой в прошлом ушли бы годы.
«В настоящее время эффективность исследований выросла в геометрической прогрессии, — сказала Фахури. — Поскольку эти препараты фактически разрабатываются с использованием технологии искусственного интеллекта, многие из них вскоре появятся на рынке».
КЕРРИ ДУЛИ ЯНГ — независимый журналист, специализирующийся на здравоохранении.
Мнения, выраженные в статьях и других материалах, принадлежат авторам и необязательно отражают политику МВФ.
