Искусственный интеллект способен взять на себя огромную часть первичного просмотра фотографий глазного дна. Но новое исследование показало важную обратную сторону такой эффективности – чем меньше исследований видит врач, тем критичнее становится цена ошибки алгоритма.
Ученые проанализировали 6904 фотографии глазного дна 2593 пациентов. ИИ искал признаки диабетической ретинопатии, окклюзии вен сетчатки и возрастной макулярной дегенерации (ВМД).
Сценарий был простым. Если ИИ считал снимок нормальным, врач его больше не видел. Если обнаруживал патологию – исследование передавалось офтальмологу.
Врачебная нагрузка уменьшилась радикально.
При скрининге диабетической ретинопатии врачу оставалось просмотреть только 7–8% снимков, при окклюзии вен сетчатки – около 12%, при ВМД – 14–17%.
При одновременном поиске всех трех заболеваний объем ручного просмотра уменьшался примерно на 70%.
Для массового скрининга это огромный потенциальный выигрыш.
Но появилась и цена.
Некоторые заболевания ИИ пропускал.
При диабетической ретинопатии чувствительность системы «ИИ + врач» снизилась с 91,7% до 88,4%.
При ВМД – с 85,7% до 84,5%.
Для окклюзии вен сетчатки такого снижения не обнаружили. На первый взгляд разница в несколько процентов кажется небольшой. Но в скрининге миллионов людей даже небольшой процент ложных отрицательных результатов превращается в реальных пациентов, которые могут получить диагноз позже, чем необходимо.
Именно поэтому главный вопрос уже не звучит как:
«Может ли ИИ распознавать патологию?»
Он звучит иначе:
«Какие решения мы можем безопасно доверить ИИ без обязательного контроля врача?»
ИИ должен освобождать врача, а не исключать его из системы
Это исследование не доказывает, что искусственный интеллект опасен. Наоборот – оно показывает его огромный потенциал для массового скрининга. Но алгоритм должен работать внутри правильно построенной системы контроля, где учитываются конкретное заболевание, качество изображения, допустимый уровень чувствительности и последствия возможного пропуска.
В 2016 году наша клиника участвовала в проекте по описанию патологии на фотографиях глазного дна для обучения искусственного интеллекта.
Уже тогда для меня смысл технологии заключался не в замене врача.
Идея была совершенно другой – провести через автоматизированный скрининг огромное количество людей, отделить очевидную норму и привлечь внимание врача к пациентам, у которых система обнаружила патологические изменения.
Если врач смотрит только положительные снимки, ложноотрицательное решение алгоритма становится конечным решением всей системы.
И здесь несколько процентов уже перестают быть красивой статистикой.
За каждым процентом стоят конкретные люди.
Я считаю, что ИИ должен освободить врача от огромного количества рутинной работы.
Медицинская сестра может выполнить фотографию глазного дна. Алгоритм способен обработать тысячи исследований и выделить пациентов повышенного риска. Врач получает возможность заниматься именно теми людьми, которым действительно необходимы его знания и время.
Это прекрасная модель.
Но она становится безопасной только тогда, когда мы знаем не только сколько времени экономим, но и кого рискуем пропустить.
Причем допустимый риск для разных заболеваний не может быть одинаковым.
«Мы начали работать с идеей автоматического анализа глазного дна еще в 2016 году, и мое отношение к искусственному интеллекту с тех пор принципиально не изменилось. Его задача – не заменить врача, а дать врачу возможность помочь большему количеству пациентов. Но сегодня мы должны научиться считать не только выигрыш. Если ИИ освобождает 90% врачебного времени, я хочу знать, какой ценой получены эти 90%. Сколько пациентов система пропустила, какие это заболевания и что произойдет с человеком из-за задержки диагноза. В медицине эффективность алгоритма заканчивается там, где цена его ошибки становится неприемлемой для пациента.»
Профессор В.В. Куренков