Ольга Аржанцева: В последние годы искусственный интеллект все активнее внедряется в клиническую практику, и урология не остается в стороне. Однако до сих пор остается открытым вопрос: можно ли рассматривать ИИ не как вспомогательный, а как самостоятельный инструмент лечения различных заболеваний? В чем реальная ценность алгоритмов и какие этические барьеры здесь существуют? Антон Липовский: Да. На эти и другие вопросы ответим вместе с нашим экспертом. У нас в гостях Армаис Камалов, заведующий кафедрой урологии и андрологии факультета фундаментальной медицины Медицинского научно-образовательного института МГУ имени М.В. Ломоносова, академик РАН, профессор, заслуженный деятель науки Российской Федерации. Здравствуйте! Ольга Аржанцева: Здравствуйте! Армаис Камалов: Здравствуйте. Ольга Аржанцева: Армаис! Почему все-таки в последнее время все чаще пациенты обращаются к искусственному интеллекту, а не к врачу? Это что – стеснение, страх, лень? Антон Липовский: Мы то доверяем этому искусственному интеллекту, то не доверяем. А тут свое здоровье аж можем даже проверить. Армаис Камалов: Вы знаете, на сегодняшний день искусственный интеллект, конечно, демонстрирует впечатляющие возможности, в том числе и в медицине. Безусловно, он начинался с рутинных каких-то процессов в медицине. Например, на сегодняшний день благодаря автоматизации процессов у медицинского персонала освобождается больше времени для общения с пациентом, нежели заполнение огромного количество различных документов. Ну и, конечно, на сегодняшний день искусственный интеллект обладает совершенно уникальными возможностями в анализе различных медицинских изображений. И, конечно, если мы помним, когда была у нас пандемия ковида, тогда огромное количество приходилось выполнять врачам исследований, в том числе компьютерной томографии. И огромная масса этих всех анализов требовала, условно говоря, такого очень внимательного подхода врачей к каждому снимку. И это, в общем-то, привело к тому, что появилась возможность на фоне всех этих процессов создать искусственный интеллект, который мог бы определять характерные (например, для того времени, для ковида) изменения в легких: как матовые стекла. Так назывались. Антон Липовский: А точность такого анализа на сегодняшний день, она насколько велика? Чтоб было вот у аудитории понимание. Армаис Камалов: Вы знаете, это с точки зрения процентного соотношения достаточно очень высокое. Может быть, даже более 90%. Но очень важно еще определить, что, в общем-то, это стабильная производительность. Например, для врачей, условно говоря, возможна усталость. В то время было и перегорание, и так далее, и так далее. И могли быть какие-то ошибки. Искусственному интеллекту неподвластна ни усталость, ни перегорание. Он четко работает. Другое дело, что на фоне тех изменений, которые есть в легких, нельзя было пропустить в том числе и онкологические заболевания. И здесь уже, конечно, необходим пересмотр. Врачебный пересмотр всех этих данных для того, чтобы можно было бы уже с уверенностью говорить о диагнозе. Потому что, с моей точки зрения, все-таки искусственный интеллект – это вспомогательный интеллект, а не искусственный интеллект вместо врача. Мне кажется, здесь очень важно об этом помнить. Хотя на сегодняшний день в рутинной практике, например, даже в кардиологии, сегодня по электрокардиограммам искусственный интеллект может находить различные нарушения сердечных заболеваний, там с точностью до 95%. И по анализам – обычным, рутинным – может предопределять или прогнозировать возникновение рисков сердечно-сосудистых заболеваний. Но при этом опять-таки хочу сказать, что, знаете, в беседе с пациентом у искусственного интеллекта нет аргументации, почему такой диагноз. То есть он дает системный какой-то анализ. А для пациента очень важно обсудить с врачом, в общем-то, все нюансы: и почему именно этот диагноз был выставлен ему, и на основании чего. Поэтому здесь есть определенные и сложности в том числе. И я не согласился бы, например, с тем, что пациенты или наши люди идут сегодня к искусственному интеллекту. Они пока немножечко как-то скептически к этому относятся. Потому что встреча с врачом, обсуждение с врачом – это, в общем-то, является, наверное, основополагающая в медицине та вещь, без которой невозможно. Даже старые врачи говорят: «Надо у постели больного». Потому что масса дополнительных вещей, когда ты смотришь на пациента, когда ты с ним общаешься, появляются, всплывают в беседе. И это очень важно. Что не всегда может, конечно, как мы понимаем, искусственный интеллект в себя, так сказать, вбирать. Ольга Аржанцева: Если посмотреть в будущее. Лет через 20 способен ли искусственный интеллект заменить все-таки врача? Он же развивается, он растет, он совершенствуется, самообучается. Антон Липовский: Скажем так, на определенных, наверное, стадиях. На определенных должностях. Например, наверное, хирурга полностью заменить, может быть, и не получится. Но. Ольга Аржанцева: Но в хирургии же тоже используется искусственный интеллект. Армаис Камалов: Ну вот, если вы говорите, может или нет. Вот я даже могу сказать такую как бы аналогию: когда появились роботические системы, например, сказать, можно ли хирурга или того же уролога оперирующего. Ну, например, в том же роботе существует автоматизация процессов и искусственный интеллект, который предотвращает возникновение интраоперационных каких-то осложнений, делает эту операцию более прецизионной и так далее. Но! Это же не робот оперирует. А оперирует человек – врач. А робот в данном случае является неким манипулятором, который повторяет движения врача. Это вспомогательные, так сказать, вещи, которые, безусловно, очень важны в оперативной деятельности. Антон Липовский: А насколько точно он повторяет? Потому что вы же сказали, что самые сложные моменты на себя берет человек. И не только психологические, но прежде всего с точки зрения практики. И искусственный интеллект, и роботизация все-таки, вы сказали, побочную роль играет. В центре все-таки ядра – человек. А здесь мы доверяем уже сложные даже операции. То есть мы видим, что с каждым годом операции становятся все сложнее. Мы не боимся вот этих погрешностей, сбоев, которые до сих пор фиксируются в самых разных цифровых отраслях? Армаис Камалов: Вы знаете, конечно, в этом мы не можем быть на 100% гарантированы. Наверное, поэтому и врачебная составляющая в обеспечении от диагностики до лечения связаны все-таки с врачом, а не с искусственным интеллектом. Но тем не менее, я хотел бы сказать, вы несколько раз употребили слово «доверять». Да? Антон Липовский: Да. Армаис Камалов: И вот здесь появился такой термин, как «доверенный искусственный интеллект». Объясню. Ведь искусственный интеллект создается человеком. Это создается людьми, которые пропускают через большие данные. Но компетентность врача, который создает этот искусственный интеллект, должна быть очень высокой, для того чтобы можно было доверять ему. Например, у нас есть в клинике нашей, в университетской клинике МГУ, профессор Синицын – великолепный лучевой диагност. Если он создает и ... понимают, что этот искусственный интеллект связан с именем этого ученого, этого врача, то ему будут доверять. Потому что в один момент у нас появилось огромное количество разных искусственных интеллектов, направленных на одну и ту же, так сказать, задачу. И притом надо было бы выбирать, какой из них более точный. Поэтому, естественно, искусственный интеллект – это продукт человека, который создает вот эти алгоритмы и обучает машину на своих знаниях, на своих видениях тех или иных процессов в организме, для того чтобы диагноз был бы точен. Ольга Аржанцева: А кто тогда несет ошибки? Например, ошибочный диагноз, выданный искусственным интеллектом. Кто: клиника, врач, человек, разработчик? Армаис Камалов: Вот тоже вы хороший вопрос задали. Антон Липовский: Зона ответственности? Армаис Камалов: Вот зона ответственности здесь – врач. И поэтому никакой искусственный интеллект не будет нести ответственность перед пациентом за ошибку, может быть, в какой-то диагностике. Ольга Аржанцева: Доверяй, но проверяй. Армаис Камалов: Поэтому, безусловно, именно здесь как раз тоже кроется проблема искусственного интеллекта в медицине: кто на себя берет ответственность? Разработчик, медицинское учреждение или тот врач, который несет ответственность, который принимает окончательное решение? Конечно, врач. И поэтому, с моей точки зрения, искусственный интеллект – это должно быть, как вспомогательная, может быть, в какой-то степени упрощающая или помогающая врачу более быстро принимать эти решения. Например, искусственный интеллект обрабатывает анализы изображений в пять, а то и в десять раз быстрее врачей. То есть это, безусловно, очень быстрые процессы, которые позволяют врачу не тратить на это больше время. Но тем не менее взгляд врача на этот диагноз и сопоставление его со своим видением этого вопроса, мне кажется, пока это никто от нас не убирал. Антон Липовский: Здесь вопрос стандартный, но его можно задавать, мне кажется, каждый год заново. Потому что мы знаем, искусственный интеллект обучается. Вот с точки зрения такого творчества врачебного, искусственный интеллект – это большая аналитическая просто база данных. Как вы сказали, выдает результат. Но сейчас искусственный интеллект учат мыслить нестандартно. И вот прошло какое-то время. Искусственный интеллект способен вот как раз таки на такие серьезные врачебные поступки? Или нет? Он мыслит все-таки системно. И это пока только система? Армаис Камалов: Вы знаете, это все-таки в медицине пока система. Но в зависимости от того, какое количество информации вложено, например, для решения тех или иных задач. Например, это помощник в установке того или иного диагноза. И чем больше данных заложено в искусственный интеллект, тем больше вероятность точности искусственного интеллекта. И поэтому еще раз говорю: очень важно нам понимать, что искусственный интеллект – это продукт человеческой мысли, человеческого знания, своих компетенций. Например, я могу сказать: вот искусственный интеллект, мне кажется, даже не столько искусственный интеллект, но это, наверное, уже как автоматизация процесса. Например, есть электронный фармаколог. Ну, представьте себе, на прием у врача пациент коморбидный с различными заболеваниями приходит с какой-то конкретной проблемой. И по этой конкретной выявленной проблеме надо будет назначать лечение различными медикаментозными препаратами. Но при этом пациент уже до этого принимает огромное количество лекарственных препаратов по разным заболеваниям. И надо понимать, что существует несовместимость приема различных групп препаратов. И на достаточно быстром приеме у врача проанализировать это иногда бывает сложно. А если вы вбиваете в электронный фармаколог то, что он принимает, и то, что вы ему назначаете, и это вдруг оказывается недопустимо – тут появляется запрет. И это в определенной степени снижает, наверное, и врачебные ошибки на данном этапе в назначении уже медикаментозной терапии. Поэтому здесь можно сказать, что это действительно очень хорошее подспорье сегодня в медицине: в диагностике, в назначении лечения и даже в оперативном лечении. Дело в том, что, например, вы сказали, в урологии, так сказать. У нас, например, нами вместе с нашими индустриальными партнерами, с нашими физиками Московского университета было создан умный лазер, который имеет возможность интраоперационно определять перед собой ткань: камень либо слизистая. Например, мочеточник – тонкий полый орган. Любое перемещение с камня этого лазерного волокна (а понятно, что лазерная энергия очень мощная) может привести к повреждению мочеточника. И тут происходит в доли секунды остановка подачи лазерной энергии в зону операции, потому что он попадает на слизистую. И тем самым предотвращает интраоперационные осложнения. Быстрее, чем это даже увидит врач во время операции. Более того, этот умный лазер может определять состав камня, плотность камня. А, например, при... Антон Липовский: Даже состав камня? Армаис Камалов: Даже состав камня, где-то до 90% точности. Поэтому у нас уже появляется сразу в послеоперационном периоде понятие о составе камня. Потому что от этого зависит дальнейшее ведение и тактика лечения пациента. Антон Липовский: Хорошо. Если мы говорим про настолько сложный и высокоточный аппарат. Сколько он проходит такой период апробации и тестирования? Для того чтоб понять, что такие настолько сложные операции ему можно доверить. Это же невероятно. Армаис Камалов: Вы знаете, у нас это заняло где-то два года с момента тестирования, обучения и так далее, и внедрения уже непосредственно в сам уже рабочий лазер, который мы используем в операционной. Более того, этот лазер, например, при выполнении эндоскопического удаления опухоли мочевого пузыря может распознать зону между опухолевой тканью и здоровой тканью. Что также является достаточно серьезной оптимизацией выполнения самого оперативного вмешательства в пределах здоровых тканей. Что очень важно для удаления онкологических образований. Ольга Аржанцева: А есть ли какие-то рамки для искусственного интеллекта? Может быть, есть какие-то болезни, которым сложно обучить искусственный интеллект? Или какие-то операции? Что он категорически никогда не сможет сделать и никогда не будет в этом применим? Армаис Камалов: Ой, мне сложно сказать. Потому что знаете, как? Вот когда, я помню, в свое время мы читали фантастику, и нам казалось, что это так невозможно. Да? А проходит там 20–30 лет, и вся эта фантастика становится рутиной. Антон Липовский: Да даже то, что вы сейчас только что рассказали про этот лазер – это тоже фантастика. Армаис Камалов: Поэтому понимать границы искусственного интеллекта, конечно, сегодня очень сложно. Но с другой стороны, я понимаю, что в такой тонкой, деликатной теме, как медицина, искусственный интеллект, с моей точки зрения, все-таки должен быть вспомогательным, помогающим. Например, я вам скажу такую вещь: что в тех учреждениях, в которых искусственный интеллект дополняется врачебными решениями, эффективность значительно выше, чем по отдельности врач или искусственный интеллект. Поэтому, если говорить о симбиозе этих двух процессов, то он дает наиболее, с моей точки зрения, качественное оказание медицинской помощи. Именно качество он повышает. Поэтому здесь, мне кажется, мы должны использовать искусственный интеллект очень как бы вот рядом с врачом. Но не без него. Ольга Аржанцева: Есть такое опасение, что он может немножко расслабить врача. Допустим, это не может привести к снижению квалификации? Армаис Камалов: Вы знаете, очень хороший вопрос. Да, действительно, искусственный интеллект. Иногда врач – практика, вот эта рутина и так далее – он полагается, и, наверное, в какой-то степени эта острота клинического мышления может снижаться. Потому что мне все равно кажется, что у врача должно быть внутри вот это клиническое мышление. Потому что любое слово, любая жалоба, любой вид пациента и так далее – оно формирует у врача уже индивидуальный подход к лечению конкретного пациента. Искусственный интеллект все-таки это такая, знаете: всем одно как бы, так сказать. И без каких либо эмоциональностей. И без каких-то дополнительных вещей. Ольга Аржанцева: Еще про обучение врачей хочу сказать. Молодые кадры сейчас уже сразу, буквально с первых курсов готовят взаимодействовать с искусственным интеллектом? Армаис Камалов: Я считаю, что это важно. Это я считаю, что важно, чтобы в образовательном процессе в том числе и были те предметы, которые позволяют уже, наверное, студенту и уже начинающему врачу иметь навыки в этом направлении. Потому что я думаю, что все равно искусственный интеллект будет занимать свое пространство. Другое дело, что, например, тот же интерфейс, который разрабатывается, или все эти процессы – они должны быть очень простыми и быстрыми, несложными для врача. Антон Липовский: Ну конечно. Армаис Камалов: Потому что они не должны осложнять его жизнь, а наоборот, помогать ему в этом. Антон Липовский: Оптимизировать. Армаис Камалов: И поэтому разработчики, они должны в этом плане очень четко взаимодействовать с врачами. Антон Липовский: Армаис Альбертович, мы работаем в прямом эфире, и поднимать ту или иную достаточно сложную тему – наша задача. Мне кажется, еще правильно все-таки такую картину общую, объемную нарисовать. Вот хорошее сообщение из Ивановской области с точки зрения такого небольшого негатива: «Усилиями телепередач создается впечатление, что без искусственного интеллекта медицине уже никуда. Так скажите, что просто врачей не хватает». Вот давайте, наверное, развеем этот миф. Мы говорим, во-первых, про оптимизацию процесса. Во-вторых, я бы, наверное, отталкиваясь от этого сообщения, перешел бы к теме профилактики. Ведь смотрите, если мы нейросетку обучаем как умный архив (такая большая библиотека данных), то в теории человек, прежде чем пойти к врачу и встать там в очередь или записаться на прием, он уже может получить ценную консультацию, такую предконсультацию у искусственного интеллекта. Вот с точки зрения профилактики, насколько нейросетки могут нам помочь? И насколько могут они вообще сократить время, оптимизировать процесс? Как вы считаете? Армаис Камалов: Ну, я уже как-то немножко на этом сконцентрировал свое и наше внимание, когда говорил: в кардиологии, по электрокардиограммам, по рутинным анализам, когда можно прогнозировать риск возникновения, в том числе сердечно-сосудистых заболеваний, ну и в других направлениях медицины. Мне кажется, что, наверное, наши пациенты не должны бояться, что искусственный интеллект заменит врача. Мне кажется, искусственный интеллект не приходит на смену врачам, а приходит только в помощь врачам. И мне кажется, вот здесь как раз таки та ситуация, когда именно врач создает искусственный интеллект для решения своих рутинных вопросов. Другое дело, что когда встает вопрос об очень сложных заболеваниях, например, той же онкологии, когда от гистологического диагноза зависят совершенно различные направления лечения пациента: химиотерапия, оперативное лечение и так далее. И здесь это очень тонкие процессы. Мне кажется, эти тонкие процессы, они находятся только в руках врача. Но опять-таки, если искусственный интеллект сам по себе позволяет помочь врачу быстрее дойти до той истины, я считаю, что это только плюс. Антон Липовский: Но это именно врач. А вот именно как профилактику мы можем использовать? Когда человек уже приходит заранее подготовленный, потому что он к рекомендованной нейросетке обратился и получил определенные... Армаис Камалов: Да, я думаю, что это абсолютно возможно. И сегодня, наверное, эти процессы уже происходят. Когда перед тем, как зайти к врачу, у того же врача первичного звена уже есть данные по этому пациенту, который обратился с какими-то там своими жалобами, какими-то проблемами. Которые искусственный интеллект позволяет обработать, и у врача уже появляется какая-то направленность его мышления. Это, конечно, ускоряет процессы взаимодействия с пациентом и установкой окончательного диагноза. Ольга Аржанцева: Более того, пациент уже сам сам себе поставил дома диагноз при помощи своего искусственного интеллекта. Армаис Камалов: Но это, наверное, не лучшее. Антон Липовский: По крайней мере, подкованный. Давайте говорить так. Ольга Аржанцева: И приходит уже просто подтвердить или опровергнуть. Что касается регионов. Как сделать искусственный интеллект, вот решения в этой сфере, более доступными для тех больниц, где нет специального дорогого оборудования? Антон Липовский: Распространить опыт. Да. Армаис Камалов: Очень важный и хороший вопрос. Значит, я вам скажу о том, что вот, например, тоже в Московском университете мы со своими индустриальными партнерами создали автоматизированную станцию для определения до 20 параметров тех нарушений функций в организме, которые могут быть. В течение 15–20 минут этот аппарат позволяет в отсутствие врача, например. Вы правильно говорите: отдаленные регионы Российской Федерации. Их достаточно много. Не везде есть медицинские центры. Не везде их построишь. Но создать правильные фельдшерские пункты, которые могли бы быть автоматизированы такими станциями, которые могли бы передавать эту информацию на достаточно дальние расстояния до медицинского центра. Где уже врачами анализируются полученные данные по конкретному пациенту для возможного вызова в ту или иную клинику, которая располагается вблизи этих фельдшерских пунктов. Я считаю, эти процессы очень важные. И мне кажется, вот именно здесь эта автоматизация процессов. И благо, что у нас есть уже отечественное оборудование, которое совершенно уникальное с точки зрения предврачебных, вот этих всех диагностических алгоритмов. Ольга Аржанцева: На эту тему есть еще сообщение. Как раз здесь хотят будущее предвидеть и пишут, что: «Возможно, в скором времени в качестве домашнего доктора будет небольшой прибор в виде тонометра, например, который будет мгновенно определять набор проблем в организме хозяина. То есть надел прибор, посидел пять минут с ним, получил результат. И при этом прибор уже синхронизирован с больницей». Как вы думаете, это может стать реальностью? Армаис Камалов: Слушайте, сегодня даже я могу сказать, что анализ мочи можно без анализаторов определять. У нас есть такие тест-системы, которые определяют до 10–15%, изучают мочу и определяют... Ольга Аржанцева: В домашних условиях? Армаис Камалов: В домашних условиях. Просто в домашних условиях. И это на сегодняшний день реальность. И мы будем понимать, что, например, как тот же тонометр, или глюкометр, или все те приборы, которые существуют у нас в домашних условиях, это, конечно, помощники, которые позволяют определить. Ольга Аржанцева: Домашний маленький робот. Армаис Камалов: Да. А тут еще и моча. И, может быть, и другие будут процессы. Антон Липовский: Буквально 20 секунд. Очередное сообщение. Теперь из Калужской области: «Я думаю, что искусственный интеллект лучше подберет индивидуальное лекарство, чем врач». Давайте все-таки, наверное, это развеем. Что не стоит пока полностью доверять искусственному интеллекту. Армаис Камалов: Абсолютно. Но тем не менее, я сказал, что то количество лекарственных препаратов, которые сегодня существуют, оно требует очень четкого анализа: какие препараты с чем можно совмещать? Поэтому здесь искусственный интеллект и автоматизация процесса может помогать врачу. Но окончательное решение все-таки за врачом. Антон Липовский: Все-таки специалист. Да, это очень важно. Спасибо огромное за эту важную тему. Армаис Альбертович Камалов с нами был сегодня в студии, заведующий кафедрой урологии и андрологии факультета фундаментальной медицины Медицинского научно-образовательного института МГУ имени М.В. Ломоносова, академик РАН, профессор, заслуженный деятель науки Российской Федерации. Еще раз благодарим вас. Друзья! Мы вернемся в начале следующего часа.