Ольга Орлова: Цифровая экономика, философия и риски. Почему власть так настаивает на цифре? Что делать с доступностью личных данных? И чему учить будущих специалистов? Об этом по гамбургскому счету будем говорить с директором Московского института электроники и математики имени Тихонова Высшей школы экономики Евгением Круком. Здравствуйте, Евгений Аврамович. Спасибо, что пришли к нам в программу. Евгений Крук: Спасибо. Ольга Орлова: Евгений Крук. Доктор технических наук. Профессор. Специалист по криптографии и теории связи. Директор Московского института электроники и математики имени Тихонова Высшей школы экономики. Евгений Аврамович, вот уже второй год в нашей стране действует национальная программа «Цифровая экономика». И между тем под этим понятием разные люди понимают разное. С одной стороны, с точки зрения обывательской, казалось бы, а зачем нужна эта национальная программа, если мы уже минимум лет 20 живем в цифровой среде? Зачем нужна цифровая программа и что включает в себя эта цифровая экономика? Евгений Крук: Наверное, главное здесь состоит в том, что цифровая экономика – это не экономика, в которой цифра – это такой инструмент, который используется, а это на самом деле экономика, в которой цифровые методы диктуют правила игры, диктуют логику, по которой существует экономика. Одно дело – цифровые сервисы существуют, для того чтобы улучшить работу, а другое дело – они существуют как некоторый набор правил и законов, по которым надо существовать. Вообще прежде всего, конечно, цифровая экономика сказывается в управлении. Я начну со своего знакомого декана, которому построили автоматизированную систему. И вдруг оказалось, что он не может делать привычных вещей. Ничего незаконного, страшного он не хотел делать. Но он хотел, например, принести какие-то сроки и не оставить при этом каких-то следов. Но оказалось, что это невозможно. Ольга Орлова: То есть речь идет о каких-то оперативных манипуляциях, когда тебе нужно поменять срок какого-то мероприятия? Евгений Крук: Да. Это совершенно безобидная вещь. Но это обязательно приводит к тому, что это видно во всей системе. То есть это требует системы согласования в разных подсистемах этой цифровой системы. Теперь смотрите. Я лоббирую какую-то отрасль. Опять-таки, я уверен в осмысленности этого своего действия. Но если я лоббирую, то это неизбежно приводит к тому, что я другие отрасли как-то ограничиваю. Потому что ресурс-то один на всех. И выясняется, что это приводит на самом деле в цифровой экономике к некоторому комплексу решений. Не к одному решению, а к комплексу решений. Всегда планирующие органы пытались все просчитывать. Но они просчитывали, и при этом, если это было действие не катастрофическое, то место политическому решению оставалось. Ольга Орлова: Получается, что одно из главных свойств цифровой экономики – это прозрачность? Евгений Крук: Это прозрачность и комплексность. Я не могу сделать действие в каком-то одном месте, что-то подкрутить. То есть фактически место для ручного управления, которым у нас очень много делается. Ольга Орлова: Пронизана наша жизнь. Я бы так сказала. Евгений Крук: Да. Оно становится по крайней мере видимым. Ольга Орлова: Это получается такая власть над властью? Власть над теми, кто управляет? Евгений Крук: Над теми, кто управляет. То есть вы ограничены в своих… Вы, конечно, все равно можете пойти на какое-то действие, но это действие, при котором останутся следы того, что вы сделали, это будет видно. Ольга Орлова: Евгений Аврамович, как вы объясняете такой факт, что на развитии цифровой экономики, на построении цифровой экономики настаивают руководители очень многих государств, включая Россию? Но ведь ни в какой стране никакая власть не хочет, чтобы над ней была другая власть. Какой политик стремится к прозрачности? Никто не хочет контроля над собой. Как это вяжется с цифровой экономикой? Евгений Крук: Понимаете, все равно власть должна хотеть в первую очередь некоторой оптимизации собственной работы. То есть понятно, что ты при этом что-то теряешь. Но если это нормальная власть, если это не власть, которая живет ради себя, а это власть, которая живет ради своего дела, то она все равно мирится с этими недостатками. Ольга Орлова: То есть вы хотите сказать, что профиты от эффективности цифровой экономики в любой власти сейчас кажутся большими, чем те минусы, которые несет контроль над нею же самой? Евгений Крук: Все, что я могу сказать – что я надеюсь на это. Я надеюсь, что это так. Вот сегодня вся власть… Я имел возможность убедиться, что люди, которые кажутся не самыми современными… Геннадий Зюганов, да? Он при этом понимает, что это та развилка, на которой мы можем отстать так, что потом будет уже не догнать. Ольга Орлова: То есть цифровая экономика привлекает абсолютно всех – даже тех, кто, кажется, идеологически опирается на систему ценностей прошлого. Евгений Крук: Да. Ольга Орлова: И все равно они делают ставку на цифровую экономику? Евгений Крук: Потому что это неизбежно. Это же путь… Нельзя это насадить сверху. Это придет в качестве того неизбежного результата, в котором либо мы остаемся в мировой экономике, либо не знаю, не хочу думать, что может быть еще. Ольга Орлова: Как цифровая экономика изменит обучение? Евгений Крук: С обучением все в значительной степени яснее, потому что мы сегодня должны… Это одна из… Я видел несколько дорожных карт в рамках национальных инициатив развития сквозных технологий. И у них у всех подготовка кадров начинается с года 2023. А начинать надо вчера. Потому что если у тебя нет кадров, которые будут обслуживать то, что ты создаешь сегодня, то завтра ничего не будет. Ольга Орлова: Смотрите, вот случился коронавирус. И совершенно неподготовленные педагогические кадры по всей стране одним приказом Министерства науки и высшего образования переводят свое обучение в онлайн. Причем это происходит за несколько дней. Просто приказом. И люди, плохо обученные, хорошо ли обученные, любят ли они этот Zoom, не любят ли они этот сервис, но они идут, и теперь все чешут затылок и думают: «Как же мне мою лекцию прочитать в онлайн?», - и приходится это делать. Это и есть наше будущее? Это и есть наша высшая школа? Евгений Крук: Нет преподавателя, у которого совсем нет никаких электронных средств. Потому что на самом деле заставить преподавательское сообщество перейти на… Знаете, все вместе сделали шаг и перешли. Да, действительно трудно или невозможно. Но при этом все к этому готовились. Но для меня самого это было некоторой неожиданностью. Ольга Орлова: Для вас это тоже был вызов? Евгений Крук: Конечно. Причем, если говорить о МИЭМе, то, естественно, готовиться к этому мы пытались очень давно, но мне казалось, что мы почти ничего не можем сделать. Почти нет продвижения. Когда это стало как реальность и мы бросились (совещания, как нам это организовать), то выяснилось, что первые преподаватели уже начали читать онлайн сами. Понимаете, преподаватели ведь все равно так или иначе – это очень продвинутая часть общества, и они ко многим вещам оказываются готовы. Даже те, кто кажется в возрасте, кто вроде бы такие… Ольга Орлова: Консерваторы. Евгений Крук: И ты их воспринимаешь как, прошу прощения, училок, на самом деле он не стоял в это время на месте. Ольга Орлова: Мы спросили студентов Вышки, МИЭМа и других факультетов Вышки, что для них в образовательной среде является признаком старого, архаичного, устаревшего, что для них кажется уже прошлым днем. ОПРОС Ольга Орлова: Вы видите? Ребята в основном рассматривают это как неудобный инструмент. Вот в таком ключе. Евгений Крук: В результате это тоже подвигает преподавателя. Куда же он денется? Ольга Орлова: Когда у тебя такие студенты. Евгений Крук: Когда они на нас давят, то тоже получается. Ольга Орлова: Евгений Аврамович, если говорить не об онлайн-инструментах в образовании, а о принципах обучения, какие должны быть умения и знания, вот это как меняется? Евгений Крук: На самом деле меняется очень принципиально, потому что меняется фактически труд по крайней мере инженера. Я не готов говорить о труде других профессий, но труд инженера меняется очень сильно. Как учились мы и как казалось вообще прогрессивным и правильным? Ты досконально изучаешь свой кусочек создаваемой системы. И ты умеешь здесь посчитать все. Что угодно. Вот источник питания. Ты берешь и ты знаешь, как его нужно менять, что там надо считать, как добиваться тех или иных результатов. А следующий человек уже использует этот источник для каких-то последующих целей. И казалось, что это правильно. Потому что в результате каждый умел делать свое дело досконально. Сегодня, когда у тебя есть фактически программное обеспечение, оно, конечно, написано чудовищными людьми, монстрами, которые действительно в состоянии это сделать и написать. Тебе не нужно так считать. Ты можешь множество вариантов просчитать за счет существующего программного обеспечения. Ольга Орлова: Так это означает, что этот принцип, когда каждый делает свое звено и знает свой участок очень хорошо, значит он уже бессмысленен? Евгений Крук: Он устарел. Ольга Орлова: Он устарел. Евгений Крук: Он устарел. Конечно, тот, кто пишет программное обеспечение – это те 10-15% людей, которые вообще научатся, даже если им не помогать. А вот что должны делать остальные? И у них здесь гораздо важнее становятся навыки, связанные с таким системным мышлением, с понимаем всей системы в целом, с отработкой… Ведь тебе все равно надо перебирать множество вариантов. И перебрать невозможно. Даже с использованием этого программного обеспечения. Значит, тебе нужен направленный поиск. А для этого тебе надо понимать, как менять входные параметры, какие-то еще. То есть гораздо в большей степени важными становятся эти системные навыки. Ольга Орлова: Евгений Аврамович, хорошо, а вот скажите. Мы говорили о том, что да, цифровая экономика, когда она будет построена, она изменит у нас управление, обучение. Но какие опасности и риски она с собой несет? Евгений Крук: Чем больше мы отдаем на откуп цифровым системам (а цифровая экономика именно это подразумевает), тем больше опасность внешних и внутренних воздействий. Потому что внутренние могут быть связаны с ошибками, но могут быть связаны со злой волей. То есть нарастание роли информационной защиты просто неизбежно для всей такой системы. Причем, вы понимаете, что риски становятся нешуточными. Какие-то веерные отключения целого штата или информационный захват города, когда никакие финансовые сервисы не работают. И такие примеры есть. Это результаты хакерских атак. Я оперирую данными в Соединенных Штатах. И, конечно, это требует серьезных усилий по защите информации. Ольга Орлова: Смотрите, то, что это требует гораздо больше технической защиты информации и совершенствования в этом смысле – это понятно. Требует ли это в связи с личной персональной ответственностью новой этики? Евгений Крук: Это, конечно, требует, но в это я не очень верю. Ольга Орлова: Вы больше верите в программу, чем в человека? Евгений Крук: В каких-то местах – да. Понимаете, с программой тоже не все так просто. И я с программой тоже объясню. У меня, скажем, был молодой человек, студент, который чему-то научился. И ему интересно было. Он влез в некую финансовую систему, проверил себя, вынув оттуда 100 рублей и положив обратно. Сумев при этом быть неузнанным. Видимо, его учили хорошо. Но дальше он идет и рассказывает об этом. Потому что он ребенок. Хотя ему 20 с лишним лет, но он ребенок. Он пришел рассказывать, что у вас есть такие дырки. Кончилось это судебным преследованием, и я безрадостно помню, как на защиту дипломных проектов пришла бригада из 6 силовиков, которые собирались его арестовывать. Сильно повезло, что он успел уже защититься. Они просто по времени не сориентировали. И дальше они его не нашли. А потом от этого всего отбивались с помощью адвокатов еще, наверное, год минимум. Причем, уверяю вас, что это одна из первых вещей, которые я рассказываю, когда встречаюсь с первокурсниками. Я говорю: «Ребята, у вас опасная профессия. В ней надо быть очень осторожным». Ольга Орлова: А они это осознают, когда вы это им говорите? Евгений Крук: Безусловно, нет. То есть это приходит потом, когда происходят вот такие разбирательства. Это не единственный случай. Ольга Орлова: Смотрите, мы тоже спросили студентов Вышки о том, какие риски цифровой среды они на себе ощущают, как они к ним относятся. Давайте послушаем, что они говорят. ОПРОС Евгений Крук: Понимаете, я все-таки профессиональный человек в области криптографии. Ведь криптография, особенно сегодняшняя, она ведь никаких гарантий защиты не дает. То есть на самом деле… Вот я когда-то, представляя одну из своих первых криптосистем, я сказал слова, которые мне нравятся до сих пор: «Я не могу утверждать, что ее нельзя вскрыть. Я только не знаю, как это делать». Вот это такая игра, в которой один защищается, другой нападает, и никаких гарантий нет. Ольга Орлова: Евгений Аврамович, скажите, вы и ваши старшие коллеги, когда вы занимались построением той самой цифровой среды, в которой мы теперь живем, но когда это начиналось с большой сложной математики, со сложных алгоритмов, во многом это было в Институте проблем передачи информации, часть работала в Ленинграде. Когда вы начинали это делать, вы осознавали, как это изменит жизнь каждого из вас лично и жизнь всего мира как это изменит? Вы, выражаясь словами Греты Тунберг, вообще понимали, что вы творите? Евгений Крук: Да нет, конечно. Россию можно считать одной из колыбелей искусственного интеллекта. И, в частности, проблемы узнавания. Просто название книги, которую написал такой удивительный человек, Михаил Моисеевич Бонгард. Его уже много лет как нет. Он погиб в горах. В конце 1960-х – начале 1970-х годов. Бонгард погиб в 1971-ом. Значит, это было не позднее этого момента. Они занимались проектом, который имел название «Животное». Не знаю, почему они его так назвали. Это была попытка моделировать поведение человека. И они добились довольно интересных результатов. И вот я недавно узнал, что как раз на этом рубеже 1970-х годов они вдруг встали и озаботились. И на протяжении нескольких месяцев обдумывали, изучали и спорили по этому поводу, можно ли продолжать это исследование, не будет ли какой-нибудь большой риск, если эти результаты попадут в какие-то не очень хорошие, но зато властные руки. Ольга Орлова: Они уперлись в этическую проблему. Евгений Крук: Видимо, да. Ольга Орлова: И они остановились? Евгений Крук: Нет. Они честно пришли к выводу, что это пока не опасно. Ольга Орлова: То есть с самого начала, когда только начинался этот новый цифровой мир, о том, что это будут большие этические вызовы для нас, ученые понимали. А сегодня мы все вместе их будем расхлебывать, будем решать. Спасибо большое. У нас в программе был директор Московского института электроники и математики имени Тихонова Высшей школы экономики Евгений Крук. А все выпуски нашей программы вы всегда можете посмотреть у нас на сайте или на ютьюб-канале Общественного телевидения России.