Минуточку
6 subscribers

Искусственный интеллект делает дурное лекарство еще хуже

источник фото: wired.com
источник фото: wired.com
источник фото: wired.com

Новое исследование от Google, кажется, показывает обещание медицинской помощи с помощью ИИ. На самом деле, это показывает угрозу.

В начале этого месяца исследователи Google сделали заголовки для исследования, в котором утверждается, что их система искусственного интеллекта может превзойти человеческих экспертов при обнаружении рака молочной железы на маммограммах. Это звучало как большая победа, и еще один пример того, как ИИ скоро изменит здравоохранение: обнаружено больше раковых заболеваний! Меньше ложных срабатываний! Лучший, более дешевый способ оказания качественной медицинской помощи!

Держись за свои восклицательные знаки. Медицинское обслуживание с использованием машин может принести нам много преимуществ в предстоящие годы, но они будут зависеть от способов их использования. Если врачи задают неправильные вопросы для начала - если они заставляют ИИ работать в погоне за неисправными помещениями - тогда эта технология станет крахом. Это может даже усилить наши ранние ошибки.

В некотором смысле, это то, что произошло с недавней газетой Google. Он пытается воспроизвести, а затем и превзойти человеческие достижения в том, что по своей сути является глубоко ошибочным медицинским вмешательством. Если вы не следите за многолетним спором по поводу скрининга рака, это сводится к следующему: когда вы подвергаете людей без симптомов маммографии и тому подобному, вы в конечном итоге найдете множество вещей, которые выглядят как рак но никогда не будет угрожать чьей-либо жизни. По мере развития науки биологии рака и широкого распространения скрининга исследователи узнали, что не каждая опухоль обречена стать смертельной. На самом деле, многие люди питаются безболезненными формами рака, которые на самом деле не представляют опасности для их здоровья. К сожалению, стандартные скрининговые тесты оказались наиболее подходящими для нахождения именно последних - медленнее растущих, которые лучше игнорировать.

Это не может быть так плохо, в теории. Когда скрининг-тест обнаруживает безвредный рак, вы можете просто проигнорировать его, верно? Проблема в том, что во время проверки практически невозможно узнать, окажется ли какое-либо конкретное поражение опасным или нет ничего страшного. На практике большинство врачей склонны лечить любой рак, который обнаружен как потенциальная угроза, и вопрос о том, действительно ли маммограммы действительно спасают жизни, является предметом интенсивных дебатов. Некоторые исследования предполагают, что они делают, другие находят, что они этого не делают, но даже если мы возьмем самые радужные интерпретации литературы за чистую монету, число жизней, спасенных этим массовым, широко распространенным вмешательством, невелико. Некоторые исследователи даже подсчитали, что маммография в целом вредна для здоровья пациентов; то есть, что его совокупный вред с точки зрения чрезмерного лечения, которое он вызывает, и опухолей, вызванных его излучением, перевешивают любые выгоды.

Другими словами, системы искусственного интеллекта, такие как Google, обещают объединить людей и машины для облегчения диагностики рака, но они также могут ухудшить существующие проблемы, такие как чрезмерное тестирование, гипердиагностика и чрезмерное лечение. Даже не ясно, применимы ли улучшения в показателях ложноположительных и ложноотрицательных, о которых сообщалось в этом месяце, в реальных условиях. Исследование Google показало, что ИИ показал лучшие результаты, чем рентгенологи, которые не были специально обучены изучению маммографии. Будет ли это победить против команды более специализированных экспертов? Трудно сказать без суда. Кроме того, большинство изображений, оцененных в исследовании, были созданы с помощью устройств визуализации, изготовленных одной компанией. Еще неизвестно, будут ли эти результаты обобщены для изображений с других машин.

Проблема не ограничивается только скринингом рака молочной железы. Часть привлекательности ИИ заключается в том, что он может сканировать через множество знакомых данных и выбирать переменные, которые мы никогда не осознавали важными. В принципе, эта сила может помочь нам диагностировать любое заболевание на ранней стадии, точно так же, как тонкие загогулины сейсмографа могут дать нам ранние предупреждения о землетрясении. (ИИ, кстати, там тоже помогает.) Но иногда эти скрытые переменные действительно не важны. Например, ваш набор данных может быть получен из клиники скрининга рака, которая открыта только для анализов рака легких по пятницам. В результате алгоритм искусственного интеллекта мог бы решить, что сканирование по пятницам с большей вероятностью связано с раком легких. Эти тривиальные отношения затем будут включены в формулу для постановки дальнейших диагнозов.

Даже если они точны, ранние диагнозы болезни не всегда могут быть благом. Другие недавние медицинские проекты ИИ были сосредоточены на раннем выявлении болезни Альцгеймера и аутизма, двух состояний, при которых более быстрое обнаружение, вероятно, в любом случае не сильно изменит исход пациента. Это уникальные возможности для демонстрации того, как алгоритм может научиться определять характеристики, которые мы учим его находить, но они не представляют собой улучшения, которые будут иметь значение в жизни пациентов.

Некоторые способы использования алгоритмов и машинного обучения могут также создавать новые и сложные проблемы для клиницистов. Рассмотрим функцию часов Apple для выявления мерцательной аритмии, типа сердечной аритмии, которая является фактором риска развития инсульта. Мерцательная аритмия лечится с помощью разжижителей крови, которые имеют побочные эффекты, которые могут превратить незначительное падение в опасную для жизни травму. Если вы действительно рискуете получить инсульт, риск стоит того. А как насчет людей, чья мерцательная аритмия была подхвачена их умными часами? Традиционно состояние диагностируется, когда кто-то приходит к врачу с жалобами на симптомы; теперь Apple следит за здоровыми людьми без симптомов и находит новые случаи, которые, возможно, никогда не обнаруживались в клинике. Не ясно, увидит ли эта группа пациентов такую ​​же чистую пользу от лечения.

«На самом деле мы не знаем, что эти две группы людей одинаковы», - говорит Венкатеш Мурти, кардиолог из сердечно-сосудистого центра Frankel в Анн-Арборе, штат Мичиган. Более плодотворный подход заключается в использовании ИИ для выявления людей, которые получают наибольшую выгоду от доступных методов лечения.

Если ИИ окажется действительно революционным, ему нужно будет сделать больше, чем просто восстановить статус-кво в медицине; и до того, как будет принят любой такой подход, важно решить пару фундаментальных вопросов: какую проблему пытается решить технология и как она улучшит результаты лечения пациентов? Это может занять некоторое время, чтобы найти необходимые ответы.

Вот почему знаменитый девиз Марка Цукерберга «Двигайся быстрее и ломай вещи» может подойти для Facebook, но он не очень хорош для медицины, с искусственным интеллектом или нет. По словам Виная Прасада, автора книги «Завершение медикаментозного лечения» и гематолога-онколога в Медицинском факультете Орегонского медицинского и научного университета, мышление в Силиконовой долине может быть опасным для врачей. Именно такое отношение - когда на карту поставлены жизни, нам нужно как можно быстрее реализовать новые многообещающие идеи - и в первую очередь втянуло нас в этот скрининговый анализ. Прасад говорит, что маммография была принята еще до того, как появились все доказательства, и как только медицинская практика стала стандартом, ее очень трудно вывести из употребления. «В культуре, которая привыкла к непосредственности и завышенным претензиям, трудно иметь смирение и терпение».