Константин Чуриков: Ну, сейчас будем говорить об искусственном интеллекте, какую пользу он мог бы принести нашей стране, вообще как он изменит нашу жизнь в самое ближайшее время. Дело в том, что вообще в эти дни в Москве проходит конференция, посвященная искусственному интеллекту и анализу данных, она называется AI Journey. Давайте сейчас обратимся к тому, что буквально несколько часов назад, несколько минут даже назад заявил президент, он тоже выступал на этой конференции. Он сказал, что просит как можно быстрее принять законодательные решения, которые обеспечат доступ российских разработчиков искусственного интеллекта, научных организаций и бизнеса к массивам обезличенных данных государства. В качестве следующего шага президент предложил правительству и Банку России подумать о возможности предоставить аналогичный доступ к массивам обезличенных данных крупнейших отечественных компаний... Видимо, все-таки «крупнейшим», все-таки быстро писали агентства. При этом уделить особое внимание безопасности персональной информации граждан. Марина Калинина: Ну, еще президент указал на важность запуска программ обучения отраслевых специалистов в сфере цифровизации. Константин Чуриков: И еще я бы сейчас обратил внимание на то, что предложил Герман Греф буквально вот тоже несколько часов назад. Герман Греф, собственно, было опубликовано его интервью агентству ТАСС, и вот что он сказал по поводу интернета и детей. Герман Греф, председатель правления Сбербанка: Я за строгий контроль того контента, который попадает к детям. В общем, это такая очень тонкая сфера, и я бы, единственное, призвал ее приоритизировать, ее нельзя откладывать. Мы сегодня находимся в ситуации, на мой взгляд, уже слабо приемлемой для дальнейшего промедления. Контента стало столько, что никакой государственной цензурой это не может быть решено, поэтому должны быть приняты нормы, проверку которых должен взять на себя тот же самый искусственный интеллект. Константин Чуриков: Ну и стоит заметить, что это говорит человек, который, в общем, руководит в том числе и крупнейшими IT-компаниями в стране, потому что Сбербанк – это не только банк. Сейчас мы приглашаем в эфир по Skype Андрея Масаловича, это президент Консорциума «Инфорус», специалист по кибербезопасности. Андрей Игоревич, здравствуйте. Андрей Масалович: Здравствуйте. Марина Калинина: Здравствуйте. Константин Чуриков: Мы с вами вчера беседовали, но сегодня такой вот особый повод. Андрей Масалович: Да, сегодня особый повод. Константин Чуриков: По поводу искусственного интеллекта, по поводу того, о чем говорит президент. Вы знаете, сложно так сразу, сходу понять, что конкретно, то есть какие будут последствия у вот этих, скажем так, решений. Массивы данных, предоставление доступа бизнесу, компаниям и т. д. – зачем это? Андрей Масалович: Ну, первое, давайте откатимся на год назад, к прошлогодней конференции, когда президенту задали прямой вопрос, сможет ли сейчас искусственный интеллект стать президентом, и Владимир Владимирович сказал: «Пока не сможет». Марина Калинина: Он сказал: «Надеюсь, что этого не случится». Андрей Масалович: Да, с этим можно быть спокойным. Второе. Сейчас, вот полчаса назад, его старшеклассник спросил, когда искусственный интеллект войдет во все сферы, и привел пример из торговли, на что Путин сказал, что уже входит во все сферы. Ну а там индусу, который перед этим задавал вопрос, он сказал, что нам пора вообще обратить внимание на то, чтобы учиться всем сферам искусственного интеллекта. Причем, смотрите, там произошло несколько таких слияний понятий, то есть Владимир Владимирович когда говорил об искусственном интеллекте, он все время его соединял с термином «робототехника» и приводил примеры из робототехники, хотя предложений гораздо больше. Когда говорил Греф, он все время приводил к задачам обработки больших данных, ну и, собственно, понятно, у Сбербанка есть проблема с большими данными, в том числе персональными, которые надо обезличивать. На самом деле сейчас сфер применения гораздо больше. Вы будете удивлены, сейчас есть целые сегменты экономики, где Россия может стать не просто лидером, а единственным лидером в мире. Например, все знают Касперского, но мало кто знает, что есть российская группа компаний Cognitive Technologies, которой, кстати, управляет женщина, ее зовут Ольга Ускова, которая делает роботы-комбайны. То есть Россия может стать первой страной, которая запустит в поля комбайны, управляемые роботами. И кстати, уже даже «зарплата» этого робота определена, ну точнее стоимость проката, и это дешевле, чем заплатить нормальному комбайнеру, который может еще уйти в запой. Константин Чуриков: Ха-ха. Марина Калинина: Ха-ха. Константин Чуриков: Прямо дивный новый мир, действительно дивный, действительно интересный. Но смотрите, мне кажется, что тут еще какая-то, ну как сказать, какие-то разъяснения нужны нам, обычным людям. Потому что вот у меня в том числе в голове подчас просто каша, потому что этот искусственный интеллект... Марина Калинина: Не очень укладывается, вот как это, что это. Константин Чуриков: ...отождествляется просто с цифровизацией. Это все вот одно, понимаете, интернет, искусственный интеллект, не знаю, звонки мошенников, это какой-то ад, какие-то пропуска цифровые... Разложите по полкам, что где находится. Марина Калинина: А самое главное – отсутствие интернета в 100 километрах от Москвы зачастую. Андрей Масалович: Да, и это тоже, а раньше еще и отсутствие электричества даже в некоторых деревнях. Значит, во-первых, искусственный интеллект, если там откинуть классические определения, ну есть определение Тьюринга, что создание искусственного интеллекта можно зафиксировать, когда наблюдатель не сможет понять, чей он разговор сейчас наблюдает, кто из собеседников человек, а кто робот. Это сейчас достаточно легко проходится, ну и, кстати, современная молодежь к этому руку приложила, сейчас уже робот может себя показать гораздо более умным старшеклассником, чем обычный старшеклассник. Марина Калинина: Ха-ха. Константин Чуриков: Ха-ха. Андрей Масалович: Но это не заслуга робота, вот. Если в бытовом смысле, робот, в отличие от компьютера, – это изделие, которое может на себя брать передачу цели. Мы ему ставим задачу, не объясняя деталей, он сам разберется. То есть он может посадить самолет с учетом, и это, кстати, правда, с учетом разных боковых ветров и сложных погодных условий. Даже были случаи, когда он это делал лучше человека. Он действительно лучше ориентируется на дороге, в сложной ситуации машина, управляемая роботами, уже давно по дорогам ездит. Уже накопилось некоторое количество ДТП, но каждый раз расследование показывало, что человек, ну кроме одного, когда на самой заре погиб пассажир, практически во всех случаях человек бы отреагировал хуже, ну то есть робот делал что мог и работал безаварийно. Мне кажется, мы на пороге появления таких полутакси, не знаю, полуавтобусиков, которые будут от метро развозить, шаттлов, которые будут от метро развозить людей по офисным зданиям, вот это, наверное, самое первое, что мы увидим среди роботов. То есть роботы стали реальностью, но возникло в связи с этим несколько проблем. Первая проблема – это ответственность, кто будет отвечать, если робот делает что-то не то. Второе – это военное или враждебное применение. Уже были случаи, когда дроны в Афганистане уничтожали людей, и вопрос, в том числе не тех, кого надо было уничтожать... Константин Чуриков: Да вот, кстати говоря, недавний случай, в Ираке, по-моему, как раз подлетел дрон, да, произвел атаку... Андрей Масалович: Да. Ну, на самом деле касательно случая в Ираке у меня такое впечатление, что там про дроны и самоуправление вспомнили именно потому, что это был косяк операторов, то есть там нужно было на кого-то свалить, решили попробовать свалить на робота, потому что там как раз вина операторов, управляющих дронами, была очевидной. Марина Калинина: Андрей Игоревич, а скажите, пожалуйста, можно ли полностью доверять, на 100%, этому роботу? Вот человек, например, в какой-то внештатной ситуации может принять какое-то вообще, совершенно непредсказуемое решение. Робот, насколько я понимаю, все-таки какие-то алгоритмы заложены. Вот как в этой ситуации? Андрей Масалович: Ну, в роботе заложены нейронные сети, которые в основе большинства роботов. Это не столько алгоритмы, сколько тысячекратно повторенный тренинг на похожих ситуациях. Марина Калинина: А вдруг что? Андрей Масалович: Вдруг что? Вот я вас огорчу, он не справится, то есть он может потерять ориентацию на ровном месте, то есть его надо... То есть недообученный робот может перестать адекватно реагировать, если столкнется с ситуацией, близкой к которой ему не попадалось. И уже были случаи печальные, когда Boeing 737 MAX несколько раз однотипно клевал носом и потом разбивался просто потому, что нейронная сеть в автопилоте не понимала, что происходит, и теряла адекватность. То есть это, к сожалению, пока правда, то есть роботов, которых мы будем выпускать в такую реальную промышленную эксплуатацию, надо тренировать и проверять стократно. Константин Чуриков: Нам звонит Елена из Воронежа. Елена, здравствуйте. Какой у вас вопрос или, может быть, мнение? Зритель: Добрый вечер. У меня мнение вот какое. Замечательно, что развиваются цифровые технологии. Правда, никакой защиты для населения от мошенников так и не придумано. Но о каких цифровых технологиях вы вообще говорите в пределах Москвы, если даже в Московской области не везде есть интернет и не везде берет мобильная связь? Это еще больший отрыв столицы от остальных 11 часовых поясов страны. Столице не нужна Россия, а нужна ли России такая столица, простите, которая в XXI веке, а вся остальная страна сидит в деревянных, извините, туалетах? Константин Чуриков: Спасибо за ваш вопрос. Марина Калинина: Да, спасибо. Константин Чуриков: В общем, и не лишен, так сказать, скажем так, почвы под ногами. Как вот избежать вот этого, знаете, такого не то что даже неравенства, а, как вы говорите, развитого феодализма, да, когда с одной стороны комбайн, который автоматически едет и все собирает, с другой стороны... Марина Калинина: ...туалет во дворе. Константин Чуриков: Да-да-да, мужик с косой и туалет деревянный. Марина Калинина: Перекос. Андрей Масалович: Ну, давайте разбираться. Первое: приход цифровой эпохи – это фантастическая возможность перетасовать карты и поменять лидеров. Напомню, если такой город Москва, в котором в метро Wi-Fi появился за годы до того, как он появился в Нью-Йорке, то есть мы опередили, крупный город России опередил крупный город США, более того, Wi-Fi в России сразу стал бесплатным, такой вот раздаваемый общественный, в Штатах это не так, то есть не все так плохо. Второе. Если где-то деревянный туалет, я полагаю, что это Обама мешает его поменять на нормальный. Ну не может же быть, чтобы сами взрослые люди начинали ныть, что а вот у нас туалеты деревянные, поменяйте кто-нибудь. Точно так же как в древнем мире, например, не было ни одного мошенничества с кредитными картами. Почему? Потому что человек, выходя из пещеры, знал, что, если ему откусят голову, виноват он сам, и за своей головой следил тоже сам, не надеясь на других. Поэтому все-таки проблемы у нас есть, их много, но давайте их решать, и технологии в этом плане только помогают. Константин Чуриков: Нам сейчас звонит Константин из Бурятии, наш зритель, давайте тоже дадим слово. Здравствуйте, добрый вечер, доброй ночи уже. Зритель: Доброй ночи, да, у нас в Улан-Удэ уже поздновато. Очень люблю Игоря Масаловича и его комментарии... Андрей Масалович: Андрея. Константин Чуриков: Андрея Игоревича. Зритель: Андрея Игоревича, да, прошу прощения. Скажите, пожалуйста, вот Андрей Игоревич говорит о том, что, например, автопилоты с недостатками, возможно, летальными для нескольких десятков человек, мы все равно будем выпускать. Я вспоминаю какой-то эфир, по-моему, «ОТРажения», где теоретик и практик-летчик спорили о том, кто лучше управляет самолетом, автопилот или летчик. Летчик говорил, что человек лучше, а теоретик говорил, что прогресс не остановить. Вот можно ли остановить прогресс и нужно ли нам засовывать искусственный интеллект вообще везде, даже понимая, что есть ряд отраслей, где человек справится лучше? В чем смысл? Спасибо вам большое. Константин Чуриков: Да, спасибо. Марина Калинина: Спасибо. Андрей Масалович: Ну, давайте откатимся в не такое далекое прошлое. В 1997 году был у меня такой эпизод, я стоял с маленьким стендом на выставке CeBIT в Ганновере, в сердце Европы. Слева стояла молодая Наталья Касперская, справа стоял Dr.Web, а у меня был стенд, на котором крутились программы, нейронные сети, подсказчики для врача, то есть медицинские нейронные сети, это был конец девяностых. И ко мне подходили люди, европейцы, на немецком и английском пытались разобраться, что я такого показываю, брали за пуговицу и говорили: «Ты чего, свихнулся? Никогда, запомни, никогда не будет момента, когда нейронные сети начнут использоваться в медицине, потому что никогда ничего не заменит человека». Вот сейчас я вижу, что они все-таки ошибались и зря они нас тогда не посмотрели и не послушали, потому что у нас эти программы работали уже 25 лет назад. Второе. Был случай, когда действительно в сложных условиях посадки пилот не нашел ничего другого, как все-таки включить посадочный автопилот, что очень редкая штука, он есть, то есть автоматика может посадить самолет, но до этого стараются никогда не доводить, потому что там очень много возможных непонятных... Константин Чуриков: Подождите, мы как раз слышали, извините, Андрей Игоревич, что, как правило, стараются, вообще раньше старались садиться в ручном режиме. Андрей Масалович: Да-да, я именно про это и говорю. Марина Калинина: Вот, про это и говорят. Константин Чуриков: Да-да-да. Андрей Масалович: И вот пилот от неизбежности включил автоматическую посадку, потому что он посадить не мог, и выяснилось, что автоматическая программа посадки посадила четко, хорошо, беспроблемно и справилась лучше него. То есть человеку обидно это сознавать, но рухнуло... То есть сначала рухнули шахматы, программа Deep Blue обыграла Каспарова, с тех пор человек компьютер обыграть не может... Константин Чуриков: Ну подождите, Андрей Игоревич, но вопрос-то был в принципе о безопасности. Вот сейчас, например, хорошо, беспилотники, «Яндекс.Такси», вот беспилотные вот эти машины. Ну хорошо, если это все так надежно, ну пустите это по городу, да? Нет, это где-то там, в Ясеневе, да, они катаются? В Ясеневе, где-то там в Татарстане, по-моему, в Иннополисе, где-то, чтобы, так сказать, боже сохрани, кто-то был рядом. Просто цена ошибки же здесь очень велика. Андрей Масалович: Я согласен, торопиться не надо. Но давайте перейдем к банальностям – прогресс не остановить, то есть натренированная машина, надо с этим смириться, будет решать задачи лучше, чем человек, а человеку надо будет переходить на то, чтобы заниматься творчеством, музыкой... Константин Чуриков: Самое стратегическое. Марина Калинина: Хочется сказать, помнишь, как Вовка в Тридесятом царстве: « А вы что, за меня и есть будете?» Константин Чуриков: Да-да-да, «И есть тоже я?». Подождите, если говорить о тех сферах, куда как раз вот это все пускать не надо, я говорю про, может быть, не знаю, какие-то военные разработки... Вот куда это дело лучше не пустить, чем пустить? Андрей Масалович: Смотрите, сейчас обсуждается, впервые всерьез обсуждается тема этики роботов, ну потому что три закона робототехники – это, конечно, красиво, но это такой маленький кусочек идеализма, нужно прописывать реальные правила ответственности, и это правила этики не для роботов, а для их разработчиков и для их операторов. Потому что уже есть, это самое, автоматическая собака фирмы Boston Robotics, которая может бегать, уже есть винтовка, которая прикручивается на спину этой собаки и бьет на полторы мили, уже есть чехол для этой винтовки керамический, то есть она становится невидимкой, ее не видно, ее тепловизор не видит... То есть появляется абсолютное оружие, которое за полторы тысячи метров, то есть за милю, может поразить движущуюся цель на скорости до 40 километров в час, ну то есть бегущего человека гарантированно поразит. Остается единственная, последняя надежда человека, что спусковой крючок нажимает все-таки палец, ну то есть кнопку на поражение, решение на поражение принимает оператор. Вот в таких вещах, в таких операциях нужно работать как можно медленнее, как можно оттянуть тот момент, когда кто-то, какая-то сторона догадается: а пусть у нас роботы теперь сами палят, если считают, что ситуация к тому способствует. То есть военное применение роботов должно быть крайне осторожно и, по-моему, минимальное. Действительно, те случаи, хоть это и бесчеловечно говорить про пару десятков пострадавших или жертв, наверное, первые жертвы все-таки будут, тем не менее достаточно быстро выяснится, что беспилотные автомобили надежнее людей, удобнее людей. Ну и потом, они не уходят в запой, не колются, не садятся под наркотой за руль... Марина Калинина: Давайте нашего зрителя послушаем из Екатеринбурга. Владимир, здравствуйте. Зритель: Здравствуйте. Ну... Вы меня слышите? Константин Чуриков: Да, внимательно, застыли. Марина Калинина: Да-да. Зритель: Ну, как говорил французский философ и физик Анри Декарт, давайте прежде всего договоримся о терминах. Значит, я не приемлю термин «искусственный интеллект», это наше русское изобретение, я считаю, потому что вот тот семинар, который начал вот это вот направление в информационных технологиях, он назывался так, он состоялся в 1954 году в… в Америке, он назывался artificial intelligence. Константин Чуриков: Да, intelligence, да, «искусственный интеллект». Зритель: Вот. Но дело в том, что в английском языке есть и слово intellect. Константин Чуриков: Да. Зритель: Поэтому вот на Западе, ну мне приходится, так иногда читаю их статьи, значит, это искусственное воспро... Ну, intelligence переводится как... Константин Чуриков: Intelligence, мы знаем английский, вы нам можете не переводить, это переводится «искусственный интеллект», «искусственный разум». Зритель: Вот. Но интеллект, никак это не пахнет. А вот, мне кажется, Норберт Винер, ну известный специалист в области, значит... Константин Чуриков: У нас мало времени просто, да. Так, давайте, все, послушаем специалиста. Андрей Игоревич, нас пытались запутать, мы себя запутать не дадим, потому что это все означает искусственный интеллект. Другой вопрос, что некоторые ваши коллеги говорят, что нет искусственного интеллекта, есть просто искусственное понимание, а это разные вещи. Андрей Масалович: Ну, я бы даже ослабил: это не интеллект, это не понимание, это способность обобщать и узнавать. Вот у нейронных сетей, которые лежат в основе большинства таких программ, никакой связи и никакого сходства с нейронами мозга нет, это рекламный термин журналистов «нейронные сети», тем не менее у них есть доказанное, проверенное и очень удобное свойство обобщать и узнавать ранее встреченные ситуации и адекватно реагировать. Это можно эксплуатировать, называя, если хотите, можете называть искусственным разумом, можете называть каким-нибудь автономным роботом. Ну, кстати, слово «робот» произошло от чешского слова «робота», что означает «барщина», ха-ха, вот, то есть это тот, кто за наш пашет. Константин Чуриков: Сейчас у нас есть возможность как раз-таки показать фрагмент выступления президента на сегодняшней конференции artificial intelligence про задачи государства в области искусственного интеллекта. Давайте посмотрим. Владимир Путин, президент РФ: Нам нужно повсеместно наращивать темпы цифровой трансформации, от отдельных экспериментов, пилотных инициатив в максимально короткие сроки перейти к запуску сквозных проектов внедрения искусственного интеллекта прежде всего в тех сферах, которые определяют качество жизни человека. Словом, нужно сделать так, чтобы технологии будущего уже сегодня становились доступными, служили всем гражданам страны, работали на достижение наших национальных целей развития. Именно в этом и состоит миссия государства, ученых, инженеров инновационного бизнеса. Константин Чуриков: Ну, чтобы служило на пользу стране, на пользу людям, Андрей Игоревич, как людей убедить в том, что это может служить им на пользу? И что нужно, чтобы, скажем так, понимание этого пришло, а не только, скажем так, отторжение, недоверие? Андрей Масалович: Ну, только, как по Марксу, общественно-историческая практика – основа познания. Я бы знаете, с чего начал? Я бы сейчас вместо «Алисы» сделал такую домашнюю медсестру, которая бы разговаривала с пенсионерками, напоминала им лекарства принимать, рассказывала новости, комментировала ситуации из интернета, ну то есть связывала, некоторого электронного собеседника, который связывал бы поколения такие более старшие с текущими реалиями... Марина Калинина: Так что вам мешает это сделать? Андрей Масалович: Делаем сейчас. Я бы в эту сторону... Уже мы в эту сторону смотрим, даже патент получили на эту самую девушку-медсестру электронную. Так что живем. Я говорю, единственное, что меня пугает, мне когда-то молодая «Алиса», мне показывали «Алису», когда ее еще отлаживали, и она меня не поняла... Я что-то с ней разговаривал, она меня не понимала, я спросил: «И что, выхода нет?» И «Алиса» мне смурным голосом сказала: «Выход есть всегда – в окно». Марина Калинина: Ужас какой. Константин Чуриков: Добрая, ха-ха-ха! Андрей Масалович: Я понял, что эту планету мы потеряли, роботы уже научились... Константин Чуриков: Нет, таких «Алис» нам не надо. Спасибо вам большое, спасибо, Андрей Игоревич. Марина Калинина: Спасибо. Константин Чуриков: Андрей Масалович, президент Консорциума «Инфорус», специалист по кибербезопасности. Говорили об искусственном интеллекте, о том, какие вообще очертания эта новая реальность может приобрести, тем более что президент сегодня сделал ряд важных заявлений на профильной конференции. Мы продолжим об одной примете времени, а, возможно, уже и будущего в том числе, – о принуждении к одиночеству. О чем это мы? Узнаете через 2 минуты.