Александр Денисов: Настоятель Ипатьевского монастыря в Костроме отец Петр (Ерышалов), помню, растолковывал мне в интервью, почему опасно на место Бога ставить в своем миропонимании человека, выстраивать все вокруг него, чтобы он жил удобно, безболезненно, вечно. Это доводит до фашизма, потому что такому человеку плевать на все; главное, чтобы он не страдал, а остальные – пускай. На Всемирном русском соборе патриарх Кирилл предостерег от так называемой философии трансгуманизма, которая развивает все те же идеи обеспечения безболезненного и вечного существования человека, чей путь освещен сиянием чистого искусственного разума. Кирилл, патриарх Московский и Всея Руси: Трансгуманизм – это идеология радикального изменения человеческой природы, предполагающая достижение актуального бессмертия, перенесение человеческого сознания за пределы биологического тела на иную материальную платформу. Звучит как фантастика, но это учение опасно и неприемлемо, потому что нацеливает общество на создание суррогата человека, способного в конечном счете полностью подменить собой подлинного человека. Поэтому сама связь этого техногенного андроида со своим прообразом, условно, по сути эта идеология подталкивает к системной замене человеческой личности искусственным интеллектом. Александр Денисов: Наступили ли времена, когда человек человеку – суррогат. Мы поговорим с Павлом Юрьевичем Волчковым, руководителем Лаборатории геномной инженерии МФТИ. Павел Юрьевич, добрый вечер. Павел Волчков: Добрый вечер. Александр Денисов: Павел Юрьевич, а как вы думаете, вот эта проблема, даже проблемы, о которых говорит патриарх Кирилл, они умозрительные или в данный момент уже нет? Павел Волчков: Вы знаете, и так, и так. Мне кажется, что в той постановке, в которой говорил патриарх, все-таки они слегка умозрительные, хотя мы действительно приближаемся к этой эре, когда все то, что было раньше фантастикой (собственно говоря, патриарх так и сказал – фантастика), многие из этих фантастических эпизодов начинают реализовываться в наши дни. И прогресс, текущий технологический прогресс действительно настолько неумолимый и так быстро, собственно говоря, наступает, что многие вещи, которых мы, в принципе, даже и не представляли или когда-то, в общем-то, писали о них в книжках, они на данный момент уже реализованы. Мне кажется, опасность здесь, если, собственно говоря, рассматривать опасность как таковую, в текущем моменте, то это, конечно, то, что действительно искусственный интеллект… Я здесь не про перенос человеческого сознания и так далее. Александр Денисов: За пределы. Павел Волчков: Да. Это все-таки действительно еще фантастика. А по факту – использование программного обеспечения на основе искусственного интеллекта и различных решений, оно уже очень сильно помогает. То есть все-таки пока это действительно огромный бенефит. Ну, все мы смотрели фантастические фильмы, когда искусственный интеллект по тем или иным причинам… в общем-то, что-то ломается, что-то идет не туда. Так или иначе, мы различные сбои в различных, скажем так, эпизодических системах наблюдаем – в работе каких-то чат-ботов или еще чего-то. И мы понимаем, что эти системы так или иначе, различные машинные системы, допустим… Я не говорю про андроидов, хотя телефон можно уже до некоторой степени нашим андроидом назвать. То есть операционная система, в общем-то, во многих из них так и называется – Android. Ну, допустим, представьте, что те самые решения, например, военные решения в виде беспилотных летательных аппаратов, которые либо просто наблюдают, либо, к сожалению, сейчас они используются и для нанесения, собственно говоря, ударов… Александр Денисов: Они полностью поменяли принцип ведения войны. Полностью. Павел Волчков: Революция произошла, да. Вот представьте, если они будут управляться не человеком, а искусственным интеллектом. И представьте, если это будет уже глобальная система, и у вас доля, скажем так, такой техники, таких технологий будет уже не 5% или 1%, как сейчас, а 99%. И вдруг у вас что-то не так пойдет. Допустим, такие беспилотники будут вооружены не какими-то маленькими тактическими зарядами, которые способны в лучшем случае дом разрушить или танк, а более мощными системами. Александр Денисов: Да, они с крючка там скидывают. Павел Волчков: И если это будет уже, допустим, собственно говоря, то, что предполагается и уже на самом деле воплощается, когда… Ну, если мы говорим про наши военные разработки, то у нас есть Су-57. Ему в пару сделают, насколько я помню, беспилотник. Александр Денисов: Они в паре работают. Если его сшибают, самолет это видит и уничтожает систему ПВО. Павел Волчков: Да-да-да. И это облака. На самом деле туда уже интегрируются системы машинного обучения, которые способны в автономном режиме до некоторой степени принимать решения. Ну, потому что невозможно управлять облаком, роем человеку. Все-таки у человека нет таких настолько развитых биологических свойств, функций. То есть он может в целом как-то стратегию регулировать, что что-то может идти туда, но как бы каждым в отдельности – вряд ли. И тут, собственно говоря, решения на основе искусственного интеллекта – это, конечно, гениальные решения. Они позволяют делать многое. Вы, наверное, видели… Если не видели, то посмотрите различные ролики в Интернете, когда с помощью дронов делают различные художественные картины. Фактически дроны взлетают и в ночном небе могут подсвечивать, могут буквы писать. Это русской из тысяч этих дронов. Александр Денисов: Китайцы любят такие шоу устраивать. Павел Волчков: Очень классно, выглядит потрясающе! Ну, это просто иллюстрация того, что может делать, в общем-то… Пока что это программируемые вещи, но, в принципе, если дать свободу этому, то это, собственно говоря, уже тот самый искусственный интеллект, который может уже жить до некоторой степени самостоятельно. Ну и в зависимости от машин, в которые вы подсаживаете этот искусственный интеллект, это будет жить либо минуты, часы или года, десятилетия. Александр Денисов: Павел Юрьевич, заметьте, я посмотрел на часы, вы вошли в студию примерно… Ну сколько там? 35 минут было, да? Посмотрели патриарха, я вам задал вопрос. И пары минут не прошло, как мы с вами от умозрительных проблем тут же шагнули в войну и в конфликт. Короткий путь от науки до ужасного, получается? Павел Волчков: Вы знаете… Александр Денисов: Причем не я вас наталкивал. Вы путем рассуждений дошли. Павел Волчков: Ну, мы все в этом информационном пространстве живем сейчас. И, к сожалению, мы так или иначе смотрим новости, читаем и так далее. И я думаю, что у среднестатистического человека так или иначе раз в день или раз в час, или у кого-то раз в пять минут приходит эта мысль в голову. В принципе, те или иные физические процессы или решения сами по себе – это инструмент, да? И как вы их примените – так и, собственно говоря, они будут, условно говоря, либо хорошими, либо условно плохими. Та же самая атомная энергия – понятно, что не мы ее изобретали, это как бы дано нам было либо свыше, либо по факту. Но фактически как использовать эту энергию, которая скрыта, собственно говоря, в ядре любого вещества, – это на усмотрение конкретного человека либо группы людей, либо стран и так далее. Александр Денисов: Я предполагал, что вы так ответите: «Наука ни при чем. Мы не виноваты, что вы такие». Павел Волчков: Ну, я себя здесь… Как бы я же человек, я являюсь частью этого большого сообщества. Смотрите. У нас есть кажущиеся, на самом деле кажущиеся, скажем так, возможности ограничить себя, но на самом деле мы не можем себя ограничить. Это все равно, что, знаете, допустим, какая-то планета движется по определенной траектории. Очевидно, что можно просчитать эту траекторию. И рано или поздно… Допустим, она движется по краю какой-нибудь черной дыры и в нее упадет. Александр Денисов: А вас просчитать нельзя. Павел Волчков: Я думаю, что теоретически можно, но… Дайте я сейчас закончу мысль. Александр Денисов: Давайте. Павел Волчков: Соответственно, научный прогресс – это примерно такая же траектория. Вопрос скорее: куда мы движемся – в черную дыру или все-таки по какой-нибудь более мирной и созидательной траектории? Но у нас нет машины времени. Мы можем сколько угодно долго просчитывать какие-то варианты, но это все равно будут варианты с какой-то вероятностью развития. Мы как ученые, наверное, как раз можем давать варианты развития, в частности варианты развития технологического прогресса. Мы можем просчитать наиболее вероятные варианты. И, скажем так, несмотря на различные запреты или ограничения, весь предыдущий опыт и вся история человечества показывают, что научный прогресс неумолимо будет двигаться вперед. Это просто факт, который как бы глупо отрицать, да? То есть мы сейчас сидим, у нас светит электрический свет, собственно говоря, нас передают по всей Российской Федерации с помощью технологий, которые буквально за последние 50 лет были созданы. У нас у всех есть планшеты, гаджеты различные, и мы пользуемся уже теми решениями, которые были созданы… какие-то 20 лет назад, а какие-то 10 лет назад. И это факт, который буквально в этой студии, даже не нужно иллюстрировать. Александр Денисов: Нас главное интересует – куда нас приведет этот прогресс? Павел Волчков: Ну, хотелось бы сказать: все в наших руках. Но есть ощущение, что ответ на вопрос, куда нас приведет этот прогресс, – это такая достаточно сильная стохастическая модель, где очень много параметров. Тем не менее, есть ощущение, что мы все равно будем двигаться, как бы патриарх ни сопротивлялся этому движению, к сожалению или к счастью (для одних – к сожалению, для других – к счастью), мы все равно будем двигаться именно в этом направлении. Более того, я вам скажу, что мы уже по нему движемся. Александр Денисов: То есть в сторону этого актуального бессмертия? Павел Волчков: Если бы у нас было больше времени, я бы вам просто сейчас конкретные примеры приводил и рассказывал бы, почему мы в этом направлении уже движемся. Александр Денисов: Ну приводите, приводите. Павел Волчков: Я надеюсь, что нас дети не смотрят. Тем не менее, самая банальная на самом деле составляющая. Мы должны понимать, что… Ну, религия, церковь нас все-таки немножко поправит, но, с точки зрения биологии и эволюции, движущим, собственно говоря, началом у человека есть две большие составляющие. Это его более индивидуальное – так называемая его безопасность. То есть каждый индивид старается выжить. И другая составляющая – это размножение. Они не всегда коллинеарные. Часто на самом деле они противонаправленные. То есть нужно понимать, что, допустим, размножение как минимум раньше, как минимум 100 или 200 лет назад, да и сейчас, в общем-то, во многих странах сопряжено с большой опасностью для женщины, для индивидуума. То есть раньше, собственно говоря, статистика говорила о том, что огромное количество женщин при родах умирали, огромное количество при родах умирали, а иногда и оба, в общем-то. И, как вы понимаете, в принципе, вот это полностью противоречащий факт самому инстинкту безопасности. Мы же все пытаемся себя… Но когда безопасность, в частности у женщины, преобладает, собственно говоря, над ее другим началом и движущей силой, размножением, она, может быть, сделает шаг и не будет участвовать в процессе размножения. Значит, вероятно, если бы она жила 200 или 300 лет назад, даже дольше бы прожила, скорее всего, поскольку как минимум этот риск она бы исключила из своей жизни. Но эволюция говорит нам о простом факте… Александр Денисов: Раньше больше рожали. Павел Волчков: Если ты не принял участие в размножении – значит, твои гены в следующем поколении отсутствуют. Фактически все присутствующие сейчас на Земле люди – это продукт, собственно говоря, тех самых авантюристически настроенных мам, пап, дедушек, бабушек. То есть мы таким образом отбираемся, мы отбираемся по принципу «оставить следующее поколение». Те, кто не пожелал участвовать в этом процессе, фактически генетически сейчас до некоторой степени не присутствуют в нашем конкретном поколении. Александр Денисов: То есть – кто подходил разумно? Павел Волчков: Да. Вы понимаете, да? И что сейчас происходит? Сейчас происходит очень интересная штука: мы фактически разобщили процесс размножения с процессом (и постепенно это происходит больше и больше), собственно говоря, извините… секс, получение удовольствия. Александр Денисов: Все? Павел Волчков: Ну, не все, но многие страны до сих пор, в общем-то, размножаются традиционным способом. Сейчас во многих развитых странах контрацепция – просто доминирующий фактор. Фактически большинство женщин так или иначе стараются планировать свою беременность. Более того, если вы посмотрите, во многих европейских странах (да и в России) средний возраст первого деторождения сильно сдвигается на возраст, когда уже биологически рожать достаточно проблематично, и это будут последствия. Многие женщины в этом возрасте – а это 35–40 – родить вместе со своим партнером естественным образом уже не могут, и они вынуждены прибегать к так называемому экстракорпоральному оплодотворению, то есть искусственному оплодотворению. То есть постепенно происходит разобщение естественной формы размножения, где секс является неотъемлемой частью, и искусственной формы размножения. И искусственная форма размножения становится все большей, большей и большей долей этого. Я думаю, что… Ну, в принципе, если посмотреть прогноз, то в скором будущем (опять же, это десятилетия) доля искусственного размножения будет доминирующей, как минимум в развивающихся странах. К чему это приводит? Конечно, с эволюционной точки зрения, достаточно долгим будет процесс эволюции, но тем не менее нужно понимать, что мы фактически убрали фактор получения удовольствия от секса. Раньше это было одно и то же, это фактически два совместимых факта. И это было… Александр Денисов: Раньше называли это «любовь». Павел Волчков: Любовь, да, эмоциональная составляющая. Просто убрав, мы фактически перестали делать естественный отбор по этому критерию. Поэтому фактически, если мы продолжим (а мы продолжим, это уже факт) размножаться с помощью искусственного размножения, то составляющая «получить удовольствие от общения между мужчиной и женщиной» постепенно уйдет, потому что не будет давления естественного отбора. Фактически женщины и мужчины, как сейчас, они со временем перестанут испытывать, извините, сексуальное увлечение друг к другу. Александр Денисов: По-моему, вы еще более худшую картину нарисовали, чем патриарх Кирилл. Он бы на это не решился, Павел Юрьевич. Павел Волчков: Он немножко про другие вещи говорил, а я вам говорю про то, что сейчас происходит. Я не то что картину будущего вам рисую, а это по факту происходит сейчас. Александр Денисов: В настоящем, да. Павел Волчков: Так что это моя иллюстрация происходящего. Но я не сторонник давать, собственно говоря, оценку – хорошо это или плохо. Я вообще стараюсь избегать критериев «хорошо» и «плохо». Хотя это неотъемлемая часть деятельности человечества и человека, индивидуума, потому что именно на основании «хорошо/плохо» он принимает решения, для него нужна бинарность. Здесь я не думаю, что со всей социальной, политической и экономической составляющей мы можем как-то воспрепятствовать тому, что происходит. Но мы можем попробовать переосмыслить и понять, в общем-то, а как мы с этим будем жить. Александр Денисов: А это естественный процесс? Потому что это ведь тоже уход (вернусь к мысли патриарха) от естественного, выход за пределы человеческих возможностей, перенос разума на какую-то платформу, актуальное бессмертие. Это же все ненормально. Точно так же, как и рожать, когда тебе не положено, когда часики уже протикали, тоже ненормально, уже поздно. Был же такой термин «старородящая». Павел Волчков: А вы знаете, что такое «нормально», с точки зрения статистики? Александр Денисов: Ну, это смотря в какой момент считать, Павел Юрьевич. Павел Волчков: Ну, до некоторой степени нормальность – это то, что делает большинство. Александр Денисов: Большинство, да-да-да. Павел Волчков: Когда мы обсуждаем будущее и что-то, что вероятно будет, то есть этого еще никто не делает, то, наверное, это ненормально, это фантастика. А по факту мы видим… Ну, просто можно ретроспективно посмотреть, как то, что было ненормально, становится абсолютно нормальным. Александр Денисов: Но у меня убеждение, что это неестественный процесс, а влияние культуры, определенной культуры. Павел Волчков: Смотрите, про естественность. Нюанс заключается в том, что как бы церковь по понятным причинам… Я сейчас не против церкви. Александр Денисов: Абсолютно. Павел Волчков: Я просто стараюсь максимально отстраниться. Вид сбоку, что называется. Понятно, что церковь всегда будет консервативно настроена к любым новшествам, а особенно… Это то, о чем говорил Кирилл. Фактически это же то, что церковь сама и провозглашает – скажем так, бессмертие. Александр Денисов: Но она не имеет в виду конкретное пребывание в физическом теле, а имеется в виду бессмертие души. Павел Волчков: А где это написано? Александр Денисов: Ну, Павел Юрьевич… Павел Волчков: Ну, это я так, чтобы подискутировать. Фактически к чему мы идем? Есть же разные взгляды на происхождение человека: есть религиозный, есть эволюционный, есть не противоречащий эволюционный, скажем так, занесение жизни извне. Я сейчас не хочу в эту часть углубляться, но тем не менее фактически… Кто-то считает, что люди – это машины, созданные кем-то. Ну и так далее. Я не хочу про это сейчас говорить, мы сейчас уйдем в совершенно другую область. Я сторонник доказательной базы. То есть если вы доказали, что это действительно так – ну, значит, это действительно так. Если нет этому доказательств – значит, это такая абстрактная, теоретическая дискуссия, но как бы бездоказательная. Поэтому мы здесь сколько угодно можем провести времени в прениях, но вряд ли придем к какому-то закономерному результату. С точки зрения естественности… То есть о чем говорит Кирилл? Фактически человечество сейчас может делать многие вещи, которые раньше не могло делать, в частности то, о чем он говорил. И он говорит, что это плохо. Как я сказал, я не сторонник разграничивать вещи на плохие и хорошие. Опять же, плохо со стороны кого? Человека как вида, да? Но мы знаем, что, с точки зрения эволюции, виды постоянно эволюционируют. Вот я, с точки зрения эволюции коронавируса, знаю, что коронавирус, блин, каждую минуту эволюционирует. Мы как вид, гораздо медленнее размножающийся (извините за «блин»), эволюционируем существенно медленнее, но с каждой генерацией фактически… Александр Денисов: Павел Юрьевич, вы сами все-таки напросились со своим коронавирусом. Все больше же этих сообщений – и Lancet, и прочие. И вот уже вскроются документы (там хакеры что-то украли), что все-таки в Ухане нахимичили и, так сказать, упустили его. Понимаю, банальность жуткая, но она обрастает все большим числом фактом. Опять же, вы не хотите делить на хорошее и плохое, но вот пожалуйста. Мы не делим на хорошее и плохое, а получаем в результате плохое. Вот что, казалось бы, плохого в исследовании коронавирусов? Павел Волчков: Нет, мы-то как раз делим. Александр Денисов: Делите, да? Павел Волчков: Ну, я имею в виду человечество в целом. И это основное. Это то, что мы делаем постоянно. Я стараюсь этого не делать, но на самом деле делаю. Это я пытаюсь этого не делать. Что касается синтетической формы… искусственности происхождения уханьского коронавируса, то я всегда высказывался в пользу именно синтетической его искусственности происхождения. На то был целый ряд, в общем-то, косвенных фактов, не аргументов, а фактов указывающих. Вот сейчас последнее… Я просто не буду все предыдущие факты в нашей передаче озвучивать. Из последнего – то, что сделал совместный коллектив из Германии и Америки. Они взяли банальную вещь на самом деле. Они откопали статью 2014 года, где буквально опубликован рецепт, как делать с помощью обратной генетики, собственно говоря, коронавирусы. Александр Денисов: Вот вам пример зла прогресса, зла науки в данный конкретный момент. Правда, у нас… Ну, бог с ним, договорим, Павел Юрьевич. Павел Волчков: И фактически они до некоторой степени… Опять же, это косвенное, но тем не менее доказательство, что вирус, скорее всего, был сделан искусственно, как минимум собран и заклонирован в виде конкретного вируса, из которого потом сделали вирусную частицу. Да, это обернулось пандемией. И, с общечеловеческого понимания, это очень плохо.С точки зрения, наверное, прогресса, который был, собственно говоря… Я не знаю, прогресс – это плохо или хорошо? Александр Денисов: Но это укладывается в то опасение, которое высказал патриарх Кирилл? По-моему, идеально! Павел Волчков: Безусловно, безусловно. Но, опять же, допустим… Ну, я не хочу… Но как не сказать про ядерное оружие и ядерную энергию? Вот есть как бы добро и то же самое зло. С точки зрения той же самой обратной инженерии, обратной генетики, геномной инженерии коронавирусов и любых других вирусов, безусловно, вы из них можно сделать терапию, а можете из них сделать биологическое оружие. Александр Денисов: Павел Юрьевич, спасибо вам большое. Обрываем разговор, конец эфира у нас. Спасибо, что были с нами. Пока! Павел Юрьевич, спасибо вам.