Даже для одной из самых известных американских компаний это предприятие было дерзким: IBM с помощью одной-единственной машины подрядилась обуздать наиболее мучительные для человечества болезни и революционизировать медицину.
Взахлёб рекламируя суперкомпьютер Watson, своё фирменное детище, IBM, дабы поразить воображение человечества, проворно сосредоточилась на решении глобальной проблемы: вступила в бой с онкологическими болезнями.
Но через три года после того, как началась продажа услуг «Ватсона» онкологам всего мира, исследование, проведённое сайтом STAT, показало, что суперкомпьютер IBM, разрекламированный как машина, рекомендующая лучшие методы лечения рака, не соответствует этой блестящей характеристике. Watson всё ещё пытается подняться на первую ступень: изучить различные формы онкологических заболеваний. Лишь несколько десятков больниц решили использовать его услуги, а значит цель IBM — добиться доминирования на рынке, где крутятся многие миллиарды долларов, — не достигнута. Кроме того, врачи зарубежных клиник недовольны тем, что, выдавая рекомендации, Watson явно питает слабость к американским пациентам и американским методам лечения.
STAT изучил применение, маркетинг и эффективность Watson for Oncology в больницах по всему миру: от Южной Кореи до Словакии и далее — до Южной Флориды. Репортёры опросили десятки врачей, работников IBM, экспертов по искусственному интеллекту и других специалистов, знакомых с базовой технологией и развёртыванием данной системы.
Согласно полученной в ходе опросов информации, IBM так спешила поддержать падающие доходы, что выпустила продукт, не проведя полномасштабную оценку проблем, связанных с его глобальным внедрением в медицинскую практику. Усиленно рекламируя лечение рака с помощью суперкомпьютера, компания не удосужилась опубликовать хотя бы одну научную статью, в которой было бы показано, как Watson влияет на врачей и пациентов. В результате недостатки данной технологии стали проявляться во врачебной и научно-исследовательской деятельности тех, кто работает на переднем крае борьбы с онкологическими заболеваниями. По мнению этих специалистов, система IBM, являясь многообещающей, до сих пор остаётся недоработанной.
«Watson for Oncology ещё младенец, и, чтобы сбылись наши надежды, нам нужно ждать и активно способствовать нормальному развитию этого малыша», — сказал доктор Тхэ-У Кан (кор. 강태우, англ. Taewoo Kang), южнокорейский онколог, использующий данный продукт.
В своей основе Watson for Oncology — это работающий на базе облачных технологий суперкомпьютер, предназначенный для обработки огромных массивов информации — от наблюдений врачей и данных медицинских исследований до клинических рекомендаций. Но медицинские советы «Ватсона» не являются результатом его собственного осмысления этой информации. Напротив, они всецело результат деятельности его наставников — людей, которые кропотливо учат суперкомпьютер тому, как лечить пациентов с конкретными характеристиками.
Руководители IBM признают, что Watson for Oncology, создававшийся почти шесть лет, пока что малыш. Но, по их мнению, он быстро взрослеет и к концу года сможет помогать в лечении 12 видов рака, на которые приходится 80% зарегистрированных случаев онкологических заболеваний. Это, считают представители компании, позволит экономить время врачей и гарантировать высококачественное обслуживание больных.
«К нам поступают письма, в которых пациенты пишут, что благодаря нашей системе им удалось обрести душевный покой, — говорит Дебора ДиСанзо (Deborah DiSanzo), генеральный менеджер Watson Health. — Это даёт нам изумительную возможность отчётливо ощутить, насколько важна наша деятельность для пациентов и лечащих их врачей».
В устах руководителей IBM Watson — цифровой вундеркинд, однако факты говорят о другом: у данной системы весьма ограниченные возможности.
Пожалуй, в наибольшей степени неумеренность, с которой IBM рекламирует свой продукт, проявляется тогда, когда компания утверждает, будто Watson for Oncology благодаря своему искусственному интеллекту способен, анализируя данные, генерировать новые идеи и даже находить, как заявил торговый представитель IBM, «новые подходы» к лечению рака. Однако суперкомпьютер IBM, как установил STAT, не создаёт новых знаний, и считать его интеллектуальным можно лишь с большой натяжкой.
Watson стал притчей во языцех, выиграв телевизионную игру Jeopardy! При этом мало кто знает, что его программное обеспечение сродни «Механическому турку» — шахматному «роботу» XVIII века. «Механический турок» поразил публику своим интеллектом, но потом выяснилось: внутри него был спрятан человек-оператор.
В случае с Watson for Oncology операторов несколько. Ими являются врачи всего одной, хотя и очень уважаемой, больницы США — Мемориального онкологического центра имени Слоуна — Кеттеринга (Memorial Sloan Kettering Cancer Center) в Нью-Йорке. Эти врачи имеют право вводить в суперкомпьютер Watson свои рекомендации даже при отсутствии солидного обоснования.
О реальных способностях Watson for Oncology не только публика, но и некоторые больницы, пользующиеся его услугами, имеют не очень ясное представление. Чтобы научить суперкомпьютер распознавать и лечить всего лишь семь видов рака, потребовалось почти шесть лет кропотливой работы инженеров-программистов и врачей. Кроме того, поскольку онкология не стоит на месте, систему пришлось постоянно обновлять.
«Честно говоря, производить обновление чрезвычайно трудно», — признался доктор Марк Крис (Mark Kris). В Мемориальном онкологическом центре Крис — ведущий наставник «Ватсона». Недавно, отметил он, после научно-исследовательской презентации на одной из онкологических конференций в течение одной недели во всём мире были изменены принципы лечения пациентов с метастатическим раком лёгких. «Систему когнитивных вычислений нельзя изменить так же быстро, — сказал Крис. — В неё нужно ввести литературу, конкретные случаи лечения».
Своим появлением на свет Watson обязан стремлению IBM превратиться из старой доброй компании по производству компьютерного «железа» в компанию, применяющую облачные технологии и занимающую передовые позиции в разработке искусственного интеллекта. Несмотря на то, что суперкомпьютер IBM используется во многих отраслях экономики — от банковской сферы до промышленности, — ему не удалось прервать серию из 21 квартала, в течение которых доходы IBM непрерывно снижались. В последнем квартале по сравнению с аналогичным периодом прошлого года несколько меньше прибыли принесло даже подразделение, отвечающее за когнитивные решения. С этим подразделением, вся работа которого вертится вокруг «Ватсона», связывают будущее компании.
Отвечая на вопросы STAT, IBM заявила, что значение «Ватсона» как в сфере здравоохранения, так и в других сферах неуклонно растёт и работа суперкомпьютера «уже сейчас является важной частью» аналитического бизнеса стоимостью 20 млрд долларов. Здравоохранение играет ключевую роль в коммерческом использовании «Ватсона». В штате Watson Health трудятся 7000 человек, и в ближайшие несколько лет это подразделение должно завоевать рынок с объёмом продаж 200 млрд долларов. Рынок финансовых услуг, оцениваемый в 300 млрд долларов США, также сулит компании блестящие перспективы.
От того, насколько эффективной окажется работа «Ватсона», зависит будущее не только знаменитой глобальной компании. И в мире медицины этот суперкомпьютер — нечто вроде цифровой канарейки: его появление в больницах — самая яркая попытка использовать искусственный интеллект для определения оптимальных способов профилактики и лечения болезней. По словам руководителей IBM, главная цель «Ватсона» состоит в том, чтобы демократизировать медицинские знания, чтобы каждый пациент, независимо от его географического положения или уровня дохода, получил доступ к медицинскому обслуживанию высшего уровня.
Но практика лечения рака пошатнула этот утопический идеал.
Исследование STAT сосредоточилось на Watson for Oncology, так как именно этот продукт наиболее глубоко внедрился в клиническую практику. Однако Watson оказывает врачам и другие услуги — в виде отдельных программ, позволяющих анализировать геномную информацию и определять соответствие пациентов клиническим испытаниям. Кроме того, Watson решает и другие задачи, включая оттачивание методов превентивной медицины и чтение медицинских снимков.
Степень доверия к Watson for Oncology в разных больницах разная. В тех учреждениях, где специалистов мало, эта система пользуется большим авторитетом, в других к ней относятся, как к помощнику юриста, чья роль сводится к исследованию существующих знаний.
Больницы оплачивают использование Watson for Oncology и других продуктов на базе суперкомпьютера IBM с учётом каждого обслуженного пациента. Согласно данным ДиСанзо, сумма зависит от количества купленных больницей продуктов и варьирует от 200 до 1000 долларов на одного пациента. В ряде случаев внедрение системы может обернуться дополнительными расходами на её сопровождение и обеспечение интеграции с электронными историями болезни. А в больницах, где не обеспечен интерфейс между Watson for Oncology и используемой системой ведения медицинской документации, персоналу требуется больше времени на заполнение информации о пациенте.
В Медицинском центре Юпитера (Jupiter Medical Center) во Флориде вводом информации о пациентах занимается медсестра Джин Томпсон (Jean Thompson). Она тратит на это около 90 минут в неделю. Загрузив данные, Джин, чтобы получить совет суперкомпьютера, нажимает кнопку Ask Watson.
Совет, полученный недавно утром, никого не впечатлил: для 73-летнего пациента с раком лёгких Watson рекомендовал химиотерапию, которая уже была назначена врачами.
«Прекрасно», — сказал об этом совете «Ватсона» доктор Суджал Шах (Sujal Shah), обсуждая лечение данного пациента с коллегами-онкологами.
Позже он заявил, что справочная информация, предоставленная «Ватсоном», включая статьи из медицинских журналов, оказалась полезной, так как вселила в него уверенность в том, что использовать химиотерапию было правильным решением. Но система IBM не помогла ему прийти к этому решению и не рассказала ему ничего такого, чего он не знал.
Центр в Юпитере является одной из двух больниц США, установивших контакт с Watson for Oncology. Однако более востребованной эта система оказалась в Индии и Юго-Восточной Азии. Многие тамошние врачи говорят о том, что Watson экономит время и помогает большему количеству пациентов получить качественное обслуживание. Но при этом они считают, что точность и общая полезность системы ограничены региональными особенностями медицинской деятельности и экономическими обстоятельствами.
Несколько лет подряд IBM усиленно рекламирует свой суперкомпьютер. В высококлассных рекламных роликах были задействованы звёзды первой величины: от Серены Уильямс (Serena Williams) и Боба Дилана (Bob Dylan) до Джона Хамма (Jon Hamm). Несмотря на этот маркетинговый блиц, руководство компании не испытывает полного удовлетворения. В интервью STAT оно признало, что у Watson for Oncology есть проблемы. Нужно улучшить интеграцию системы с электронными историями болезни. Чтобы обнаружить какие-то паттерны и предложить передовые методы лечения, нужно больше данных о реальных пациентах.
«По мере взросления Watson должен научиться давать некоторые рекомендации более автоматизированно, чтобы его предложения были своевременными, и позволять нам щёлкать переключателем» при появлении перспективного варианта лечения, сказал доктор Эндрю Норден (Andrew Norden), бывший заместитель главы Watson Health, покинувший IBM в начале августа. «Вы, вероятно, почувствовали, — добавил он, — что реализовать эту цель очень сложно и что здесь много нюансов».
Но в тщательно выстроенном IBM нарративе о «Ватсоне» нюансы отсутствуют.
Компания позаботилась о том, чтобы не было ни одного независимого, проведённого третьей стороной исследования, которое определило бы, в какой мере Watson for Oncology способен оправдать возлагаемые на него надежды. IBM не удосужилась провести клинические испытания, позволяющие оценить эффективность данного продукта, и оградила его от критического анализа со стороны независимых учёных.
Когда компании на ранних стадиях создания новой продукции стремятся избежать внешних проверок — обычное дело, но данный случай обычным не назовёшь, ибо Watson for Oncology не находится в разработке: он — уже развёрнут по всему миру.
Чхве Юн Соп (кор. 최윤섭, англ. Yoon Sup Choi), южнокорейский венчурный капиталист и исследователь, написавший книгу об искусственном интеллекте в сфере здравоохранения, утверждает, что в Южной Корее и Америке регулирующие органы не требуют от IBM клинических испытаний Watson for Oncology до продажи его услуг. И если больницы уже используют эту систему, то зачем её испытывать? Испытания вряд ли улучшат развитие бизнеса.
«Огромный риск, не так ли? — говорит Чхве. — Если результат клинических испытаний получится не очень хорошим, то есть клиническая польза от «Ватсона» окажется незначительной, это будет ударом для IBM».
Пилар Оссорио (Pilar Ossorio), профессор права и биоэтики Юридической школы Университета Висконсина, считает, что, учитывая ту роль, которую Watson играет в лечении пациентов, использование данной системы нужно регулировать более жёстко.
Эндрю Норден не согласен с тем, что IBM должна была осуществить коммерциализацию «Ватсона» только после его клинических испытаний. В медицине, отметил Норден, есть много методов, которые получили широкое распространение, не будучи проверенными в ходе рандомизированного контролируемого исследования.
«Проводилось ли рандомизированное исследование парашютов для десантников?» — вопрошает Норден, и сам же отвечает: «Конечно, нет, потому что ценность такого рода продукции очевидна. Столь же очевидно, на мой взгляд, и то, что для обеспечения эффективности медицинских решений следует привлекать наилучшую информацию».
IBM заявляет, что сотрудничает с исследовательским сообществом, что на отраслевых собраниях и в рецензируемых журналах она предоставляет ему данные о «Ватсоне». По мнению некоторых врачей, эта система, безусловно, полезна, поэтому проверять её ценность незачем. «В будущем искусственный интеллект будет работать во всех областях медицины, — говорит доктор Ли Ун (кор. 이운, англ. Uhn Lee), который руководит использованием «Ватсона» в Медицинском центре Гиль при Университете Гачон (Gachon University Gil Medical Center) в Южной Корее. — Если это движение, это изменение неизбежно, то почему бы нам не участвовать в нём уже сейчас?»
До сих пор единственными научными публикациями, посвящёнными Watson for Oncology, являются тезисы докладов, сделанных на конференциях, то есть краткие отчёты о проведённых исследованиях. Полных отчётов в рецензируемых журналах нет, причём все эти исследования, кроме одного, проводились либо клиентами Watson Health, либо сотрудниками IBM, либо и теми и другими вместе. В основном, тезисы трубят о положительных результатах, демонстрирующих, что Watson экономит время врачей и имеет высокий уровень согласованности с их рекомендациями.
Подавляющее большинство научных публикаций, посвящённых Watson for Oncology, являются «конкордансными». Врачи просят, чтобы Watson дал рекомендации для массы пациентов, а затем сравнивают его рекомендации с теми, что дали онкологи. В неопубликованном исследовании, проведённом на базе одной из датских больниц, уровень согласованности составил около 33%, в результате чего эта больница решила не заключать контракт с Watson Health. В других странах данный показатель иногда достигает 96% для некоторых видов рака. Но совпадение мнения Watson for Oncology с мнением врачей говорит лишь о том, что система IBM компетентна в применении существующих методов лечения. А вот о том, может ли она их улучшить, никаких данных нет.
Как утверждает руководство IBM, компания проводит исследования, посвящённые влиянию Watson for Oncology на врачей и пациентов, однако по сей день ни одно из них не завершено.
Публика всё больше стала посматривать в сторону «Ватсона» вопросительно, и это, в частности, отразилось в истории, опубликованной недавно на сайте Gizmodo под красноречивым заголовком «Почему все злословят об IBM Watson — в том числе люди, которые участвовали в его создании». Наиболее заметный удар по престижу компания получила в феврале прошлого года из Хьюстона (Техас), когда Онкологический центр имени М. Д. Андерсона (MD Anderson Cancer Center) при Техасском университете отменил своё партнёрство с «Ватсоном».
Центр имени Андерсона пошёл на союз с IBM тогда, когда Watson только-только появился в сфере здравоохранения. Хьюстонская больница, став одним из первых партнёров IBM, использовала суперкомпьютер этой компании для создания собственного эксперта-консультанта по онкологии, аналогичного онкологическому «Ватсону» — системе, которую IBM создала и развивает с помощью Мемориального центра им. Слоуна — Кеттеринга. Однако проект Центра имени Андерсона остался нереализованным из-за перерасходов, задержек и плохой организации. В общей сложности на реализацию этого проекта, пока он не был положен на полку, хьюстонская больница потратила более трёх лет и 60 миллионов долларов — в основном, на внешних консультантов.
Центр имени Андерсона отказался говорить о «Ватсоне», но руководитель нереализованного проекта доктор Линда Чин (Lynda Chin) согласилась, и это стало её первым интервью СМИ на данную тему. Чин рассказала STAT о проблемах, которые встали перед ней при работе с «Ватсоном». Центр имени Андерсона она покинула ещё до того, как тот отказался от реализации своего проекта. Осуществлённая позже проверка вскрыла несколько нарушений правил закупок, допущенных под её руководством.
По словам Чин, Watson — это мощная технология, но её чрезвычайно сложно приспособить к сфере здравоохранения. Чин и её команда столкнулись с многочисленными трудностями, часть из которых до сих пор головная боль для IBM.
Во-первых, хьюстонской больнице пришлось обучать систему IBM справляться с такими особенностями медицинских документов, как акронимы, грамматические ошибки, сокращённые фразы и разные стили письма. «Научить машину читать документы намного сложнее, чем обычно думают», — заявила Чин. Решая данную проблему, её команда потратила уйму времени: Watson for Oncology должен был научиться извлекать из медицинских документов ценную информацию, чтобы потом использовать её в своих рекомендациях.
По словам Чин, её команда, кроме того, пыталась противодействовать развёртыванию этой системы в клинической практике. В сфере здравоохранения машина, пусть и управляемая врачами, никогда не участвовала в выборе той или иной формы лечения для человеческих существ. Тут возникают заковыристые вопросы, например такие: как следить за тем, чтобы рекомендации цифрового консультанта не причиняли вреда, как обеспечить соблюдение им медицинских правил, как интегрировать его в повседневную работу врачей и медсестёр?
«Важно, — подчеркнула Чин, — чтобы в создаваемой нами среде не нарушался принцип «Не навреди!» — главный принцип медицины».
Наконец, ещё одна большая проблема, с которой пришлось иметь дело хьюстонской больнице, была такой: как, научив систему IBM учитывать особенности пациентов и давать компетентные медицинские рекомендации, предоставить ей доступ к максимальному количеству данных из максимального количества источников, чтобы, опираясь на этот массив информации, она смогла бы значительно повысить уровень медицинского обслуживания?
По словам Чин, её сильно удивило, что к «Ватсону» не подключена сеть учреждений, снабжающих его данными о конкретных когортах больных. «У вас может быть информация о 10 000 пациентов, страдающих от рака лёгких, но даже такого количества информации мало при обдумывании путей лечения этой болезни», — подчеркнула она.
«Имея гораздо больше информации, — говорит Чин, можно выделить паттерны — „подмножества [пациентов], для которых подходит определённый метод лечения, подмножества, для которых он не подходит, и подмножества, для которых применение данного метода сопряжено с риском“. Выделение паттернов позволяет сделать лечение более персонализированным и повысить его точность. Но мы не придём к этому, не имея реальной возможности собирать обширные данные».
IBM сообщила STAT, что Чин не участвовала в создании Watson for Oncology. Эту работу делали онкологи Мемориального центра им. Слоуна — Кеттеринга, которые ещё до развёртывания данной системы установили, что она вполне пригодна для использования. Как утверждает компания, Watson for Oncology, хоть и нуждается в контроле со стороны врачей, умеет извлекать и обобщать значимую информацию из историй болезней. Кроме того, чтобы улучшить его работу, удалось значительно увеличить количество поступающих в его распоряжение медицинских данных. Компания указала на наличие у неё партнёрских отношений с научным (в частности, медицинским) издательством Elsevier и аналитической фирмой Doctor Evidence.
На сегодняшний день более 50 больниц на пяти континентах имеют соглашения с IBM (или компаниями-посредниками) об использовании для лечения пациентов Watson for Oncology, а многие другие используют её продукты для работы с геномикой и клинических испытаний.
Однако партнёрство IBM с Мемориальным центром им. Слоуна — Кеттеринга и его плоды привели к осложнениям. Об их серьёзности говорят тщательно сформулированные заявления представителей компании и вводящий в заблуждение маркетинг.
Согласно пресс-релизам IBM, обучением Watson for Oncology занимается только Мемориальный центр им. Слоуна — Кеттеринга. Ну, в самом деле, кому ещё обучать эту систему, как не врачам одной из самых известных в мире онкологических больниц?
Но, по мнению некоторых врачей, исключительная роль Мемориального центра им. Слоуна — Кеттеринга в реализации проекта Watson for Oncology делает обучение суперкомпьютера предвзятым, ибо вводимые в него медицинские рекомендации не всегда соответствуют практике иностранных врачей.
Обсуждая определённый клинический сценарий, онкологи могут спорить — и часто спорят — о том, какой метод лечения является лучшим: хирургический, химиотерапевтический или какой-то ещё. Разногласия становятся особенно большими, когда дело касается лечения второй и третьей линии, то есть когда доказать правоту труднее, а консенсус не может быть прочным.
Вместо того чтобы признать эту проблему, руководство IBM в своих маркетинговых материалах и интервью пытается её затушевать. В интервью STAT ДиСанзо, глава Watson Health, заявила о том, что участие в проекте Watson for Oncology Мемориального центра им. Слоуна — Кеттеринга не делает рекомендации суперкомпьютера предвзятыми.
«Использование нами огромного количества данных не оставляет места для предвзятости», — сказала она, ссылаясь на истории болезней, а также на миллионы статей и исследований, загруженных в систему.
Однако в этом ответе то, как работает Watson for Oncology, преподносится неверно. (Позже IBM заявила, что ДиСанзо имела в виду систему Watson в целом.)
В сущности, Watson for Oncology — это Мемориальный центр им. Слоуна — Кеттеринга в чемоданчике, и всё, что рекомендует эта система, вложено в неё врачами центра. Именно они определяют, какую информацию должен использовать Watson при выработке рекомендаций, а также какими должны быть сами рекомендации.
Когда пользователи просят у «Ватсона» совета, система ищет ещё и опубликованную литературу, часть из которой издана под эгидой Мемориального центра им. Слоуна — Кеттеринга, чтобы подкрепить свои рекомендации соответствующими исследованиями и справочной информацией. Но сама рекомендация — плод обучения системы врачами-наставниками, а не обзора медицинской литературы, осуществлённого этой системой.
Медики Мемориального центра им. Слоуна — Кеттеринга признали своё влияние на советы «Ватсона». «Мы нисколько не стесняемся пускать в ход наши предпочтения, поскольку, по моему мнению, в их основе лежит огромный опыт, а это — отличная вещь, лучше которой разве что проспективные рандомизированные исследования, — сказал доктор Эндрю Сейдман (Andrew Seidman), один из ведущих наставников «Ватсона». — Так что наша предвзятость ничуть не нуждается в оправданиях».
Как утверждает Сейдман, Мемориальный центр строго следит за тем, чтобы обучение «Ватсона» базировалось на клинических доказательствах, но, если их нет, не стесняется загружать в систему свои рекомендации. «Мы хотим, чтобы лечение рака было демократизировано, — заявил он. — Мы не хотим, чтобы врачи, не успевшие, в отличие от нас, приобрести опыт лечения какой-то сравнительно редкой формы рака у тысяч и тысяч больных, чувствовали себя ущербными. Мы хотим поделиться своей базой знаний».
Во время недавнего сеанса обучения «Ватсона» в манхэттенском Верхнем Ист-Сайде напряжение, сопутствующее программированию системы, проявилось со всей очевидностью. Представители STAT были уже на месте, как появились врачи Мемориального центра им. Слоуна — Кеттеринга во главе с Сейдманом и инженеры IBM, чтобы приступить к обучению «Ватсона» лечению рака мочевого пузыря. По одну сторону стола сели пять инженеров IBM, по другую — три онколога: хирург, радиолог и специалист по химиотерапии и целевому назначению лекарств.
Несколько минут ушло на обсуждение вопроса о том, какое лечение следует рекомендовать, если после шести раундов химиотерапии рак не отступает. В подобных случаях различия в полезности предлагаемых вариантов обычно становятся почти эфемерными, как и доказательства, приводимые в обоснование. Должен ли Watson рекомендовать операцию по удалению мочевого пузыря? Онколог-хирург доктор Тим Донахью (Tim Donahue) отметил, что такая операция редко приводит к выздоровлению пациентов и, как свидетельствует его опыт, не повышает их шансы прожить дольше.
Тогда как насчёт ещё одного курса химиотерапии в сочетании с облучением?
Watson даёт свои рекомендации, используя разные цвета: для лучшего варианта лечения — зелёный, для альтернативных вариантов — оранжевый, для нерекомендуемых — красный.
Однако в некоторых случаях распределять цвета чрезвычайно тяжело.
«Это наиболее трудная часть всей нашей игры, — призналась в ходе обучения «Ватсона» доктор Мариса Коллмейер (Marisa Kollmeier), онколог-радиолог. — Отсутствуют доказательства. А как выделить что-то зелёным, не имея доказательств? У нас нет возможности подкрепить каждое наше решение рандомизированным исследованием».
Но задача поставлена, и врачи должны её решать. И они решают, продираясь сквозь массу клинических сценариев. В некоторых случаях им удаётся подкрепить свои решения солидным набором доказательств, однако во многих других они попадают в серую область или погружаются во мрак ввиду неустранимой неопределённости выбора.
Данная встреча специалистов была одной из многих за несколько месяцев обучения «Ватсона» методам лечения рака мочевого пузыря. В дальнейшем планируется загрузить в систему истории болезней пациентов Мемориального центра им. Слоуна — Кеттеринга и повторить процесс обучения с применением дополнительного массива информации.
Это натаскивание «Ватсона» не учит его давать рекомендации с учётом судьбы конкретных пациентов, то есть с учётом того, остались ли они живыми, или умерли, или жили дольше, чем аналогичные пациенты. Скорее, дело обстоит так: Watson даёт свои советы, основываясь на предпочтениях врачей Мемориального центра им. Слоуна — Кеттеринга.
О роли данного центра в работе онкологического «Ватсона» IBM говорит весьма туманно, что иногда сбивает с толку. В некоторых лечебных учреждениях, использующих эту систему, похоже, думают, что получают советы врачей со всех концов света.
«Действительно, всемирная, — заявила в том же ключе медсестра Джупитерского центра Керри Уорд (Kerri Ward). — Watson черпает информацию из 300 онкологических журналов, из национальной клинической базы данных, так что и национальная база данных, и журналы, и учебники, и центр им. Слоуна — Кеттеринга — всё это постоянно питает систему клинической [информацией]».
Роберт Гарретт (Robert Garrett), генеральный директор Hackensack Meridian Health, группы медицинских учреждений Нью-Джерси, взявшей на вооружение одну из версий онкологического «Ватсона», заявил, что информация, заложенная в эту систему, является «глобальной».
«Если у вас рак толстой кишки, то система, как я понимаю, задействует базу данных, в которой описано, как лечат рак толстой кишки во всём мире врачи разных клиник, и указано, какой метод лечения различных фаз рака толстой кишки является наиболее эффективным, — сказал Гарретт. — Вот о чём сообщает Watson».
Всё это весьма туманные представления о работе Watson for Oncology.
Несколько врачей, которые исследовали, как Watson обслуживает клиники других стран, сообщили STAT, что роль Мемориального центра им. Слоуна — Кеттеринга заставила их задуматься. Исследователи из Дании и Нидерландов заявили, что больницы в их странах не подписали контракт с «Ватсоном» из-за того, что эта система зациклена на предпочтениях нескольких американских врачей.
Мартейн ван Ойен (Martijn van Oijen), эпидемиолог и доцент Академического медицинского центра (Academic Medical Center) в Нидерландах, отметил, что, хотя Мемориальный центр им. Слоуна — Кеттеринга укомплектован специалистами высшей квалификации, он не имеет монополии на онкологическую экспертизу. «Плохо, что методы лечения этой американской больницы не совпадают с методами, которые применяются в ряде других клиник, существующих в мире», — добавил голландский врач. Ван Ойен является участником национальной инициативы по оценке технологий, подобных «Ватсону», и убеждён в необходимости использовать искусственный интеллект для помощи врачам-онкологам.
В Дании онкологи одной из клиник заявили, что они потеряли всякий интерес к онкологическому проекту IBM, узнав о 33-процентном совпадении мнения местных врачей с мнением «Ватсона».
«Мы указали [представителям IBM], что у них довольно пренебрежительное отношение к иностранной литературе, что, прежде всего, проявляется в выпячивании американских исследований и недооценке заграничных, в частности европейских», — сказал доктор Лейф Йенсен (Leif Jensen), руководитель центра с онкологическим отделением в копенгагенском «Ригсхоспиталет» (Rigshospitalet).
Watson for Oncology может оказаться очень полезным в тех странах, где врачи либо учились в Соединённых Штатах, либо используют методы лечения, сходные с методами Мемориального центра им. Слоуна — Кеттеринга. В тайваньских клиниках действуют те же рекомендации, что и в американских, поэтому здесь советы «Ватсона» будут как нельзя кстати, считает доктор Чжунфэн Чю (кит. 邱仲峯, англ. Jeng-Fong Chiou), вице-инспектор Онкологического центра Тайбэя в Медицинском университете Тайбэя. В июле в этом центре приступили к использованию «Ватсона».
Однако Чю отметил, что существуют и различия между американскими и тайваньскими пациентами (последним часто назначают более низкие дозы лекарств, чтобы минимизировать побочные эффекты) и что в связи с этим онкологам придётся вносить некоторые коррективы в рекомендации «Ватсона».
Весьма обеспеченная публика, которую обслуживает Мемориальный центр им. Слоуна — Кеттеринга, не отражает всего многообразия людей, существующего в мире. Поэтому истории болезней, которые используются для обучения «Ватсона», не учитывают экономические и социальные проблемы больных, живущих в бедных странах, отметила Оссорио, профессор права Университета Висконсина.
«„Ватсону“ надо бы изучать расовые, гендерные и классовые предубеждения, — считает она. — Мы поддерживаем социальные стратификации и делаем предубеждения всё менее очевидными и менее осознаваемыми».
Иногда рекомендации «Ватсона» могут резко расходиться с тем, что советуют врачи, по причинам, не имеющим ничего общего с наукой. Одна из таких причин — медицинская страховка. В 2017 года в Южной Корее прошла Глобальная конференция по раку молочной железы. В ходе этого форума было отмечено, что при данной форме рака Watson часто рекомендует лечение, которое просто-напросто не охвачено южнокорейской системой страхования.
Как заявило руководство IBM, компания созвала международную группу консультантов для сбора информации об эффективности «Ватсона». Помимо этого, оно известило о том, что систему можно настраивать с учётом конкретной практики медицинского обслуживания, доступности лекарств и финансовых соображений, а также о том, что недавно компания внедрила инструменты, благодаря которым адаптация «Ватсона» стала менее длительной и более дешёвой.
На вопрос STAT об использовании международных журналов при обучении «Ватсона» Мемориальный центр им. Слоуна — Кеттеринга ответил так: эти журналы, включая The Lancet, European Journal of Cancer, Annals of Oncology и BMJ, — обязательная часть литературы, загружаемой в систему. «Подобно тому, как это делается нами во всех сферах онкологических исследований, мы продолжим изучать влияние Watson for Oncology на медицинскую практику в международном масштабе, собирать факты и содействовать IBM в деле оптимизации системы», — заявило руководство Мемориального центра.
Некоторые зарубежные клиники настраивают систему IBM с учётом потребностей их пациентов, добавляя информацию о местных формах лечения. Нань Чэнь (Nan Chen), который руководит программой Watson for Oncology в Международном госпитале Бумрунград (Bumrungrad International Hospital) в Таиланде, сказал, что для лечения рака желудка онкологи его госпиталя используют не американские, а японские рекомендации.
Однако, добавил он, врачи могут счесть такую локализацию излишней или ненужной: они не заинтересованы в том, чтобы Watson советовал им лишь то, чему они сами его научили.
«Наши врачи говорят, что эта лечебная практика — наша собственная практика, мы её знаем, — объясняет Чэнь. — Нет смысла менять систему, загружая в неё наши формы практики, и ждать, когда Watson расскажет нам, какого рода лечение мы практикуем в нашем госпитале».
И всё же, говорит Чэнь, модифицированная система может оказаться невероятно выгодной, например, для больницы в столице Монголии, где работают онкологи нулевого уровня.
В госпитале UB Songdo, чей основной владелец — компания Чэня, врачи следуют рекомендациям «Ватсона» почти в 100% случаев. Не будь этого, лечением онкологических больных занимались бы лишь универсалы с ничтожными, а то и нулевыми, онкологическими знаниями, а ныне пациенты имеют возможность использовать преимущества высококлассной экспертизы.
«Это то, о чём мечтает IBM», — сказал Чэнь.
Южнокорейский врач Кан Тхэ-У, онколог-хирург госпиталя Пусанского национального университета (Pusan National University Hospital), специализирующийся на раке молочной железы, указал на ещё одну важную проблему, которую необходимо решать «Ватсону». В настоящее время эта система в подтверждение правильности её рекомендаций приводит соответствующие факты, но не даёт развёрнутого объяснения того, как она выбирает конкретные формы лечения для конкретных пациентов.
Кан рассказал, что иногда он просит, чтобы Watson посоветовал что-то онкологическим больным со здоровыми лимфатическими узлами, и Watson рекомендует химиотерапевтические препараты, называемые таксанами. Кану известно, что такую терапию обычно используют лишь тогда, когда рак добрался до лимфатических узлов. Однако Watson настаивает на своём, и в подтверждение своей правоты ссылается на исследование, демонстрирующее эффективность таксанов как раз в том случае, когда опухоль затронула лимфатические узлы.
Кан не понимает, почему Watson рекомендует таксаны таким больным, каким обычно эти препараты не рекомендуют, а Watson не может дать объяснение.
Несмотря на все проблемы, в разных концах мира есть врачи, которые имеют дело с «Ватсоном» и при этом убеждены, что однажды искусственный интеллект революционизирует здравоохранение. Они утверждают, что ИИ уже благотворно влияет на медицину: предоставляет врачам дополнительное время для научных исследований, просвещает пациентов и разрушает больничную иерархию, мешающую лечить больных методами доказательной медицины.
Тайваньский доктор Чю говорит, что Watson мгновенно предоставляет «лучшие данные» из медицинской литературы — например, показатели выживаемости, — избавляя врачей от необходимости искать эту литературу при выборе правильной формы лечения.
Вдобавок информация «Ватсона» даёт новые возможности пациентам, подчёркивает доктор Ли, который руководит программой Watson for Oncology в Медицинском центре Гиль в Южной Корее. Ранее врачи устно излагали пациентам разные варианты лечения. Теперь пациенты могут получить в свои руки подготовленный «Уотсоном» полный пакет информации, куда входят планы лечения и соответствующие научные статьи. Пациенты могут самостоятельно исследовать предлагаемые методы лечения и, возможно, даже поспорить с врачом о том, какую форму лечения следует предпочесть.
Кроме того, Watson заставляет старших врачей более ответственно относиться к медицинским фактам. В центре Гиль есть так называемый «центр „Ватсона“»: в одной комнате собираются вместе пациенты, пять врачей и сам Watson, интерфейс которого отображается на плоском экране телевизора. Ли утверждает, что присутствие «Ватсона» оказывает огромное влияние на процесс выработки врачами решения, разрушая иерархию, в соответствии с которой мнение старшего врача безусловно важнее того, что считают его младшие коллеги.
Watson даёт младшим врачам быстрый и лёгкий доступ к данным, которые могут показать, что те, кто старше, ошибаются. Например, какой-нибудь младший врач вместе с рекомендуемой им формой лечения, против которой возражают старшие, может вывести на экран соответствующий ей высокий коэффициент выживаемости. В свете этих данных, отмечает Ли, старшим врачам очень неловко настаивать на другом лечении.
По словам доктора С. П. Сомашехара (S. P. Somashekhar), в госпиталях «Манипал» (Manipal Hospitals, Индия) для пациентов с ректальным раком и раком молочной железы есть некоторые региональные отклонения от рекомендаций онкологического «Ватсона», но это — исключение из правила: в подавляющем большинстве случаев рекомендации «Ватсона» совпадают с рекомендациями совета онкологов (tumor board) — группы из 20 врачей. На изучение историй болезней члены совета обычно тратят неделю. Ещё час уходит у них на обсуждение.
Получается, что за несколько секунд Watson делает то, на что 20 врачам требуется неделя. «Это очень дорого и чрезвычайно ценно, — говорит Сомашехар. — Наши врачи не в состоянии обсуждать все случаи. На каждый случай, обсуждаемый в совете онкологов, приходится пять случаев, которые мы не обсуждаем».
Хотя достижения Watson for Oncology значительны, среди них нет революционных открытий, позволяющих предсказывать появление рака или покончить с ним раз и навсегда.
По мнению руководства IBM, это не означает, что её система не способна на такие подвиги. Норден, бывший заместитель главы Watson Health по онкологии и геномике, заявил, что цель состоит в полном объединении потока данных клинических испытаний с потоком данных о реальных пациентах, чтобы Watson перешёл к самостоятельному определению лучших методов лечения.
«Лично я убеждён в том, что со временем мы сможем лучше проводить измерения и сообщать о результатах, и эти данные будут всё более влиятельными, — сказал он. — Не думаю, что при сегодняшнем уровне лечения онкологических заболеваний какая-то компьютерная система способна работать в этой сфере без контроля со стороны врачей-экспертов».
Главным вопросом для IBM является не то, совершит ли искусственный интеллект революцию в медицине, а то, под чьим руководством это свершится.
Один из бывших сотрудников IBM считает, что компания может стать жертвой своего успешного маркетинга: нереалистичные ожидания, которые он породил, делают почти незаметными реальные достижения.
«IBM должна отказаться от попыток вылечить рак. Она позволила машине маркетинга работать без оглядки на то, как создаётся и конструируется продукт», — заявил Питер Гройлих (Peter Greulich), бывший менеджер брендов IBM, написавший несколько книг об истории и современных проблемах компании.
По мнению Гройлиха, чтобы Watson принёс компании успех, нужно вложить в него больше денег и нанять больше людей. В 1960-х годах, утверждает бывший менеджер IBM, на разработку своего главного компьютера, который и ныне приносит львиную долю прибыли, компания потратила 11 с половиной годовых доходов.
Если бы IBM решила сделать эквивалентные вложения в Watson, ей пришлось бы потратить 137 миллиардов долларов. «Единственное, на что компания не жалела денег, — это выкуп акций», — сказал Гройлих.
Как заявляет IBM, она создала рынок для искусственного интеллекта, и её вполне устраивают темпы роста прибыли, которую приносит Watson, ибо за последние три года он и другие новые бизнес-единицы обеспечили рост капитала более чем на 20 миллиардов долларов. «Компаниям Facebook и Amazon потребовалось более 13 лет, чтобы увеличить капитал на 20 млрд долларов», — сказано в заявлении IBM.
С тех пор, как Watson показал силу в игре Jeopardy! в 2011 г., сотни компаний начали разрабатывать медицинские продукты с использованием искусственного интеллекта. К ним относятся бесчисленные стартапы, но для IBM они не конкуренты, в отличие от таких титанов, как Amazon, Microsoft, Google и подразделение Optum компании UnitedHealth Group.
Например, DeepMind компании Google, следуя по стопам «Ватсона», недавно продемонстрировал своё собственное игровое мастерство: используя программу AlphaGo, он победил чемпиона мира по го — китайской настольной игре с 3000-летней историей.
DeepMind работает с больницами Лондона. Здесь он учится выявлять заболевания глаз и ускоряет процесс выбора формы лечения рака головы и шеи. Правда, при этом приходится решать проблему обеспечения конфиденциальности.
Тем временем Amazon запустила лабораторию здравоохранения, где изучает возможности извлечения данных из электронных медицинских документов и, вероятно, создания виртуального помощника врача.
Согласно недавнему отчёту финансовой фирмы Jefferies, IBM, теснимая конкурентами, быстро сдаёт свои позиции. «Похоже, IBM, оказалась почти безоружной в войне за таланты ИИ и, по всей видимости, её ждёт растущая конкуренция», — делает вывод финансовая фирма.
Не выделяя медицинские продукты, созданные на базе «Ватсона», авторы отчёта утверждают, что потенциальные клиенты отказываются от услуг этой системы из-за значительных затрат на консультации, связанные с её внедрением. Кроме того, отмечено в отчёте, списки вакансий Amazon в 10 раз больше, чем списки IBM. При этом последняя недавно не продлила контракты с небольшим количеством работников, оказавшихся в её рядах после приобретения ею компании Truven Health Analytics, купленной в прошлом году за 2,6 млрд долларов для получения доступа к 100 млн историй болезней.
В заявлении IBM сказано, что её контракты с работниками закончились и что компания продолжает активно нанимать сотрудников для Watson Health в Кембридже, штат Массачусетс, и для других подразделений, где только в США более 5000 открытых позиций.
Но перспективы Watson for Oncology далеко не безоблачны, говорят те, кто хорошо его знает. Крис, его ведущий наставник из Мемориального центра им. Слоуна — Кеттеринга, считает, что у этой системы неплохой потенциал для того, чтобы улучшить медицинское обслуживание и обеспечить большему количеству пациентов квалифицированное лечение. Но пока что Watson, словно студент-медик, всего лишь учится работать в сфере здравоохранения.
«Никто не хочет этого слышать, — сказал Крис. — Все хотят услышать лишь то, что Watson — это то, что надо. И что у него всегда есть правильный ответ, и вы сразу же его получите, и это будет очень дёшево. Но, как и любая другая интеллектуальная система, Watson похож на человека».
