Иван Князев: И еще одна тема нашего эфира – роботы все чаще вытесняют человека в разных сферах деятельности. Вот во Франции, к примеру, в Лионе уже работает целая ветка беспилотного метро. В Москве готовится испытание беспилотного такси, в Ясенево будет. Это тоже, кстати, отдельный момент, очень интересный, потому что жители Ясенево по-своему к этому относятся. Эксперты говорят: 10 лет и вот эти беспилотные автомобили уже вовсю будут ездить по городским магистралям. Доставка товаров у нас уже беспилотная. Про то, что роботы работают на телевидении, заменяют телеведущих, кстати, банковских работников, официантов, об этом... Тамара Шорникова: Сейчас придется доказывать, что мы живые. Иван Князев: Да, об этом уже даже говорить не хочется, к этому все привыкли. Тамара Шорникова: Да. Не слишком ли лихо человечество добровольно вытесняет само себя из разных сфер жизни и полагается на искусственный интеллект? Кто гарантирует безопасность? Примет ли робот в нужный момент правильное решение, если от него будет, к примеру, зависеть жизнь человека? И если искусственный разум заменит людей, чем будем заниматься мы? Поговорим об этом с экспертами и с вами, конечно. Ждем ваших звонков, пишите, звоните. У нас в студии Андрей Масалович, президент консорциума «Инфорус», специалист по кибербезопасности. Здравствуйте! Андрей Масалович: Здравствуйте! Иван Князев: Андрей Игоревич, не слишком ли я с десятью годами-то? Андрей Масалович: Ну, во-первых, хочу сказать, передо мной живые ведущие пока, могу подтвердить. Иван Князев: И живые гости у нас! Тамара Шорникова: Спасибо! Андрей Масалович: Да. Хотя, может, мы все боты уже. Нет, 10 лет только не потому, что нужна технология, технология уже работает. Кстати, беспилотное метро в Малайзии существует с начала 2000-х. В Куала-Лумпуре есть ветка, которая гоняет уже почти 20 лет. Иван Князев: Да у нас в Шереметьево между терминалами беспилотный, я вот недавно прокатился на этой... Андрей Масалович: Да, да, да. Тамара Шорникова: Но это все-таки по одной колее. Такси, у него больше вариантов для маневра. Андрей Масалович: Да. 10 лет нужно не для того, чтобы подготовились технологии, а для того, чтобы подготовились люди. То есть сначала они будут пытаться всеми способами вывести это из строя. Не буду неприличный анекдот про рельс рассказывать, который совали в западный станок, пытаясь его сломать. Но всяческими способами будут искать виды мошенничества и вандализма. Потом привыкнут, и это заработает. Иван Князев: Шайтан-машина, да? Андрей Масалович: Да, да, да, шайтан-арба. Точно. При этом первыми скорее я бы по рейтингу начал сначала не с беспилотных такси типа Яндекса, а с беспилотных машин, которые предлагал Сбер. Сбер предлагал такие коробочки, которые бы возили к офисным зданиям от метро, такие шаттлы. Это и проще сделать, и понятнее, и они почти по колее будут ехать. Потом такси, потом яндексовские коробки доставщики, они уже там по некоторым... Иван Князев: Ну, они уже гоняют по Москве. Андрей Масалович: Да, пару раз я их уже даже встречал. Потом разберутся с дронами. Ведь когда-то пытались начать доставку с дронов, и даже был случай, «Почта России» запустила дрон, но злые языки утверждают, что он подлетел к зданию... Тамара Шорникова: Не к тому, да? Андрей Масалович: Нет, увидел в отражении, что на нем написано «Почта России» и убился об стенку. Иван Князев: И решил разбиться, да. Андрей Масалович: Первый, да, он покончил самоубийством. И это как-то прекратили. Но я думаю, что тоже в каком-то виде это появится, т.е. да, нас все это ждет. Потому что спектр будет гораздо шире. Тамара Шорникова: Андрей Игоревич, а вы бы сели в беспилотное такси? Андрей Масалович: Ну, я ездил во многих аэропортах на этих самых беспилотных шаттлах и ничего. Если об этом не думаешь. Но вот в самом такси еще не был, но думаю, что сел бы. Иван Князев: Там, там, там же есть куча всяких нюансов. Во-первых, как минимум вот этот искусственный интеллект будет там каким-то образом управлять этим автомобилем. Он же самое простое не сможет, например, думать за дурака. Даже если он все дороги научится чистить в Москве зимой, например, или в других городах и разметка будет, то есть еще всякие человеческие вот такие элементы... Андрей Масалович: Это так. Это проблема. Статистику накапливают. Статистика выглядит следующим образом: инциденты с беспилотными автомобилями (началось это с Tesla, сейчас уже там много разных моделей, экспериментируют в этом направлении), так вот, статистика инцидентов уже накопилась и показывает, что практически во всех случаях, кроме одного самого первого, когда там человеку голову снесло из-за ошибки машины, во всех остальных случаях человек бы не справился. То есть там, где автомобиль попадал в инцидент, человек бы тоже не успел среагировать. Чаще всего это сбоку выскочивший предмет: или человек, или животное, или что-то еще при плохом освещении, т.е. где скорости реакции у человека тоже бы не хватило. Поэтому в бытовых ситуациях такие устройства могут реагировать адекватно. Но тут надо очень четко понимать: мы зря используем слово интеллект. Наш интеллект – это возможность сориентироваться и сработать в незнакомой ситуации. То, что называется машинным обучением – это другое, это попытка уменьшить число незнакомых ситуаций. Там есть возможность обобщения, но вот там плюс минус, шаг влево, шаг вправо. По крайней мере инциденты с самолетами мне сейчас представляются гораздо более, ну, когда автопилот ошибался и дважды там самолет «Боинг 737» клевал носом – это страшнее, т.е. ему что-то показалось незнакомым, и он среагировал неадекватно. То есть такие случаи будут, но... Иван Князев: Особенно в Ясенево. Тут нам Евгений просто пишет из Ясенево: «В прошлую пятницу такой вот беспилотник, видимо уже тестировали, врезался в трактор». Тамара Шорникова: В трактор? Иван Князев: В трактор. Видимо, что-то не туда свернул или разметка кончилась, неизвестно. Тамара Шорникова: Надо было эту историю нашим телезрителям, которые участвовали в опросе, рассказывать «до»; может быть, ответы бы были другими, но уже какие есть. Наши корреспонденты спросили у жителей Самары, Новокузнецка и Владикавказа: заказали бы они беспилотное такси? Вот какие ответы получили. ОПРОС Иван Князев: Ну, таких вот, «почему бы и нет», если я не ошибаюсь, более 10 тысяч заявок уже в Яндекс поступило, чтобы прокатиться на этом беспилотном такси. Тамара Шорникова: Ну, естественно, это «лиха беда начало», сначала беспилотное такси, потом беспилотные маршрутки, автобусы, транспорт между регионами. Да, хорошо, искусственный интеллект или машина обучения, как угодно можно называть это, автомат может оперативно среагировать, возможно, даже лучше, чем человек в какой-то опасной ситуации. Вопрос: а что с ответственностью? С выбором этическим? Условно, вот в той же «Газели» 18 человек и человек на дороге, кого? Въехать в кювет? Сбить человека? Вот как здесь будет машина принимать решение? На основании чего и кого потом винить в случае чего? Андрей Масалович: Ну, смотрите. С правовой базой в киберпространстве просто беда. Вот. И что делать там с оленями, которые выскакивают, я не очень понимаю, кто там будет виноват. Но уже существуют документы, которые имеют статус таких этических кодексов, их уже как минимум три. Об этом говорили в Давосе. Первый кодекс, кстати, принимал Ватикан, т.е. Ватикан первым задумался про этику общения между человеком и роботами. И вот в этих же стенах мы два месяца назад обсуждали кодекс, который приняли разработчики в России и предлагают его другим странам присоединиться. Кодекс касается в основном не поведения самого искусственного интеллекта, а поведения тех, кто его разрабатывает. И там есть одно из требований, это требование ответственности разработчика. То есть, условно говоря, если я в окошко высовываю руку и отпускаю кирпич, я виноват, и я отвечаю за то, на кого он там упадет. Если я в окошко высовываю руку и отпускаю дрон, который в кого-нибудь врежется или уронит кирпич, или гранату, тоже я должен отвечать, а не дрон. То есть как подходить понятно, но самих правил, правил игры еще нету. Иван Князев: Давайте послушаем телезрителей, что они думают по этому поводу. Андрей из Краснодара у нас на связи. Андрей, здравствуйте! Зритель: Здравствуйте! Тамара Шорникова: Да, слушаем вас. Зритель: Да, собственно, здесь проблема только в одном, что технологии еще недостаточно отработаны, и наши дороги не рассчитаны на такие инновации. Поэтому как-то наши люди тоже достаточно консервативны и вряд ли воспримут это на ура с ходу вот прям так вот, чтоб сказали, что это здорово все. Тамара Шорникова: Вот вы говорите, одна проблема, а уже не одна. И дороги плохие, и люди консервативные. Зритель: Да. Но есть на эту тему, извините, еще один старый анекдот про то, как двухэтажный автобус в Лондоне идет, и два наших туриста заходят. Один поднялся на второй этаж и в ужасе спускается вниз и говорит: «Вася, ты туда не ходи, там нет водителя». Иван Князев: Да, понятно. Бородатый анекдот. Хорошо, Андрей, спасибо вам большое! По поводу недоверия еще вот такого психологического. Давайте сейчас посмотрим одно видео. В Перми тестируют робота, который теоретически может работать в МФЦ. Вот я предлагаю сейчас нашим режиссерам показать этого замечательного андроида. Тамара Шорникова: Да, сейчас картинка появится на экранах. Он стрессоустойчив, как минимум. Иван Князев: Да, стрессоустойчив. Вот, да. Тамара Шорникова: Жутковато. Иван Князев: Ну, вот выглядит тут жутковато. Здесь не очень хорошо слышно, не очень хорошее качество звука, но он отвечает на вопросы человека. При этом у него там двигаются губы. Выглядит он, конечно, ну так, я не знаю... Андрей Масалович: Консервативно. Иван Князев: Да, консервативно. Я бы побоялся вот. А заявляется о том, что подобные андроиды будут работать в МФЦ и в торговых центрах, там советы какие-то давать, помогать с документами. Ну, страшновато же! Жутко. Это же вот этот еще психологический момент нужно будет преодолевать. Андрей Масалович: Ну, как раз такие моменты самые простые, потому что сделать его в девичьем обличье, обозвать Дуня, снабдить добрым голосом и все пройдет. Тамара Шорникова: Ну смотрите. Да, понятно, что, наверное, смотреть будет приятней, но вот тот самый человеческий фактор. Мы и сейчас-то у нас некоторые сотрудники похожи на роботов, хотя вполне себе живые, потому что отвечают по шаблону: «Значит вам в 388 комнату за такой-то бумажкой». – «У меня, значит, не хватает...» – «Вам в 388 комнату» и т.д. Но если появятся вот такие граждане в окошке напротив тебя, там вариантов договориться, получить какую-нибудь дополнительную информацию, просто чтобы вникли в твою конкретную ситуацию не будет вообще! Андрей Масалович: Такие ситуации уже есть, и это проблема. Я на самом деле вот с этой частью искусственного интеллекта сейчас достаточно сильно не согласен – она сырая. То есть голосовые помощники, секретари практически везде сырые. И меня долго удивляло, что нету в самой главное сфере таких секретарей, нету Алисы-медсестры, а она нужна. Сейчас думаю: «Слава богу! Рано!» Потому что если еще и медсестра начнет вот таким голосом говорить с таким лицом, будет совсем плохо. Тамара Шорникова: Инфарктов будет больше. Андрей Масалович: Да, смотрите. Первое, появится, уже появляется ответная реакция снизу, уже есть набор лайфхаков, как, какими словами заставить робота переключить на живого человека в Сбере, например, в Тинькоффе, в авиакомпаниях. То есть можно робота... Тамара Шорникова: Это в колл-центре, если тебе как-то программно отвечают. Андрей Масалович: Да-да-да. Если отвечает робот в колл-центре, он пробивается некоторым набором фраз. Тамара Шорникова: А как? Научите. Андрей Масалович: Ну, самое простое в Сбере «позовите человека, позовите оператора». Три раза повторить. Тамара Шорникова: Взрослые есть дома? Андрей Масалович: Да-да-да. Есть ли дома взрослые? Вот, кстати, хочу предостеречь. Новый год начался с нового витка банковского мошенничества, где мошенники сначала либо используют, либо изображают бота. То есть человеку звонит бот и говорит: «У вас проведен платеж. Если вы его проводили, нажмите 1, если не проводили, нажмите 2». Так что боты уже тоже на стороне темных сил используются. Ну, это тоже вопрос времени, просто более длинного. То есть сначала появятся беспилотные автомобили, потом появятся грамотные секретари и автоответчики. Тамара Шорникова: Сейчас точно в нашем эфире появится звонок. Иван Князев: Анатолий, живой человек из Тульской области. Анатолий, здравствуйте! Тамара Шорникова: Мы надеемся. Зритель: Добрый день, ведущие! Добрый день, эксперт! Беспокоит вас учитель из Тульской области. Я хотел бы сказать, что действия робота – это есть те программы, которые заложили специалисты. И хотел бы студии напомнить, что в 1989 году наш «Буран» совершил два витка вокруг Земли и совершил посадку. Но не просто посадку. Толбоев, сопровождая «Буран», вдруг увидел, что он меняет ситуацию, меняет направление. Почему? Ветер изменился, и «Буран» почти на 180 градусов развернулся. То есть те программы, которые были в него заложены, я понимаю так, выбрал наилучший вариант и совершил посадку. Да такую классную! Мы с вами это видели по телевизору в далеком 1989 году. И еще хотел бы напомнить, что есть у нас населенные пункты, где еще грунтовые дороги. И еще не забывайте о северах, где еще кроме человека другой водитель-механизатор с работой не справится. Иван Князев: Да, спасибо вам за ваш звонок, Анатолий! А по поводу того, где грунтовые дороги, у нас уже так же, как и в Китае, так же, как и в Японии аэротакси беспилотные тестируют. Ну во всяком случае у нас только разрабатывают, по-моему, еще. Андрей Масалович: Да. Ну, кстати, уже не за горами 8 Марта. Советую вам пригласить такую девушку по имени Ольга Ускова, которая делает беспилотные комбайны в российских условиях для огромных полей и претендует там... Ну, она уже в двойке в мире. На первом месте китайцы пока, на втором – наши русские комбайны, на третьем – американцы. Скоро, может быть, будут и на первом. Так что с механизаторами разговаривать научились. Тамара Шорникова: Да, спасибо за наводку! Позовем обязательно! Но все-таки в связи с такими новостями, которые приходят из сферы информационных технологий, мы смотрим, как развивается и видим примерное будущее, и вопрос – оно вас не пугает? В том смысле, такая тоже старая история, что человек благодаря труду произошел от обезьяны; вот мы как-то сейчас стараемся труд скинуть со своих плеч, больше доверить роботу. А что нам останется? Мы как вид не исчезнем без работы, труда и т.д.? Андрей Масалович: Ну, давайте по шагам. Первое, по одной из теорий, действительно, труд сделал человека из обезьяны. По другой теории, человек просто более удобно научился употреблять пищу, у него вот эти мышцы ослабли и перестали сдавливать череп. Череп позволит расти мозгу. Мозг разросся, ему надо было чем-то заняться, он начал думать. То есть все не от труда, а от еды, это раз. Второе, был такой мужчина по фамилии Зингер, который придумал горизонтальный шов на швейной машинке, на ножной педали горизонтальный шов. И у него освободилось столько свободного времени, что когда он умер, у него было 24 ребенка. То есть свободное время он тоже научился занимать. Теперь, если вернуться к нам. Вообще-то назначение человека – это не тяжелый труд, чтобы там было что поесть сегодня. На самом деле, большинству на «Доширак» уже давно хватает. По идее, человека надо как-то сейчас приспособить к тому, чтобы он занимался творчеством и саморазвитием. Другое дело... Тамара Шорникова: Мы не слишком хорошо о человеке думаем? Что вот как только у него появится свободное время, он будет заниматься исключительно творчеством и саморазвитием? У нас два года пандемии за плечами. Прям все пошли на курсы, саморазвиваться и т.д. Андрей Масалович: К сожалению, беда сейчас не в высоких технологиях. Беда в том, в чьих они руках. То есть все те, кто находится на гребне такого технологического прорыва, начинают на этом зарабатывать. И зарабатывать начинают на нас. А поскольку мы большую часть услуг потребляем бесплатно, а значит мы уже не субъекты в договоре, мы не можем требовать ничего, потому что нам это бесплатно дали, мы превращаемся в объекты и на нас катаются. То есть сейчас человек, как цифровое существо пока что бесправен. Вот когда он себя самоосознает, образует, может быть, я не знаю, как это будет выглядеть. Может быть, это будет общество цифровых хиппи, может быть, это будут какие-то цифровые партии, могут быть цифровые луддиты, которые будут сначала громить такси в Ясенево, а потом образумятся. Вот, но каким-то образом инициатива снизу приведет к тому, что у человека появится вектор развития. Я надеюсь. Я оптимист. Иван Князев: Тут нужно будет еще вот о какой проблеме подумать. Вы сами сказали, да, Зингер, 24 ребенка у него появилось после того, как он автоматизировал свой процесс. А кормить-то... Андрей Масалович: Нет, автоматизировал он работу... Иван Князев: Да, я понял, о чем Вы. Тамара Шорникова: Соберись. Иван Князев: Я про другое. Кормить-то мы чем будем? У нас население планеты выросло за последние 100 лет... Андрей Масалович: Планета может себя прокормить и обеспечить пресной водой, начиная с 80-х годов прошлого века. У нас проблема с распределением, это раз. Один алгоритм, так называемый Proof-of-work, который обслуживает две ведущих криптовалюты, способен обеспечить вместо майнера, который сейчас выжигает электричество на ... на биткоин, могут обеспечить пресной водой Африку или страну размером с Данию. То есть проблема только в распределении. Просто капитализм сейчас, к сожалению, очень несправедливо распределяет то, что мы добываем. Так на еду нам хватает. Иван Князев: Ну просто, смотрите, климат меняется... Вот мы тоже сегодня анализировали причины подорожания цен на продукты. Там в том числе было изменение климата. Климат теплеет, а посевных площадей становится меньше. Пока чем-то другим кормить еще не придумали. Точнее придумали, но не применяют. Андрей Масалович: Если вы смоделируете структуру динозавра, вы увидите, что в настоящей температуре он жить не может. Когда жили динозавры, климат был гораздо теплее. А в динозавре довольно много мяса, так что надо подождать просто. Станет тепло – появятся большие животные. Но, кроме того, я подозреваю, что самое простое, что можно сделать – это всякие биофабрики. Ну, то есть и мидии, и курицу; говядину уже выращивают в промышленных объемах в очень малых, в очень компактных заводах. И я думаю, мы в шаге от того, чтобы выращивали сразу биомясо, то есть сразу готовые кусочки курицы. Тамара Шорникова: Масса СМС: заменить чиновников на роботов все-таки хотят многие, мол, может быть... Иван Князев: Эффективней будет. Тамара Шорникова: Эффективней будет, хамить перестанут, взятки брать и т.д. Андрей Масалович: Нет, просто взятки криптой будут брать. Тамара Шорникова: Да, это не искоренить, видимо. Ленинградская область: «Это приведет к ненужности населения», – пишет телезритель. Вот мы говорим о том, что будут какие-то цифровые партии и т.д. А с чего мы взяли, что нам позволят, скажем так, те машины... Андрей Масалович: Нам не позволят. Тамара Шорникова: Которые мы сейчас по своему недоразумению создаем, обучаем, делаем умнее, обучаем, как реагировать эмоционально и т.д., и т.д. Андрей Масалович: Ну, пока еще машины не образовали там, не заседают в парламенте, не образовали партию. Вот, кстати, поэтому их в чиновники нельзя пускать, иначе они сядут в парламенте, начнут делать законы ради своих, цифровых. Иван Князев: Для роботов? Андрей Масалович: Да, роботы будут заносить цифровые взятки. Вот, пока этого не произошло, бояться, в общем, нечего. Бояться надо людей, а не машин. Совершенно точно. Иван Князев: Да. Спасибо вам большое! Андрей Масалович был с нами на связи, президент консорциума «Инфорус», специалист по кибербезопасности. Говорили мы о том, что уже в Москве начнут тестировать беспилотное такси. Рано или поздно мы будем на них ездить. Но только ли такси? Вообще чем закончится вся вот эта вот информатизация процессов и какое место останется человечеству и людям? Тамара Шорникова: В этом эфире мы точно и не узнаем этого. Будем еще о чем поговорить, слава богу, с вашим участием, живым, теплым. Спасибо вам за него! Иван Князев. Иван Князев: Тамара Шорникова. Да, друзья, благодарим вас! Увидимся завтра.