Тамара Шорникова: У борцов с коррупцией появится новое умное оружие. Генпрокурор Игорь Краснов рассказал: «В России начали тестировать систему искусственного интеллекта для проверки нормативных актов. Внедрение такой системы - часть цифровой трансформации ведомства». Машины выполняют все больше функций: не только облегчают нам работу, но и помогают нас контролировать. Снимают нас: как работаем, куда ходим, как ездим. Автоматически рассылают штрафы. Теперь вот в воровстве уличать будут. Ну или, как минимум, в дурных намерениях Мы, в общем, и раньше о таком слышали, правда, все больше в фильмах: «И восстали машины из пепла ядерного огня. И пошла война на уничтожение человечества. И шла она десятилетия. Но последнее сражение состоится не в будущем. Оно состоится здесь, в наше время». Да, это, конечно, известный фильм всем - «Терминатор», Кэмерон. 1984 год, между прочим. И, конечно же, Леонид Володарский - озвучка в… легендарная, в которой мы, в общем-то, познакомились с этим героем. Александр Денисов: А когда на нас машины наступят, Тамар, в каком году? Тамара Шорникова: 2029-й. Александр Денисов: В 2029-м, да? Ага, понятно. Ну интересно, пугает вот это вот кого-то сейчас или нет? Или пугает, например, когда в «Госуслуги» не можешь зайти? Вот это пугает. Или когда обнулился QR-код, например, да. Хопа - и нет. Вот это пугает. Цифровизация. Тамара Шорникова: Или когда умный холодильник заблокировался, да, и ты не можешь его ночью открыть. Александр Денисов: Умный холодильник? Понятно. У меня такого нет. Ну ладно. У Тамары есть. На связи с нами Роман Викторович Душкин, директор по науке и технологиям Агентства искусственного интеллекта. Роман Викторович, здравствуйте! Роман Душкин: Здравствуйте! Александр Денисов: Роман Викторович, вот про искусственный интеллект Тамара рассказала, что будет электронная совесть. Ну, наверное, Генпрокуратуре виднее, сработает она или нет. Как относиться к происходящему? Искусственный интеллект - это просто моргающий сервер или это уже новая цивилизация? Или просто сервер? Роман Душкин: Вот если бы мы поменьше верили фильму про терминатора и подобным, мы бы там не боялись фразы «искусственный интеллект». Поскольку это всего лишь техническое обозначение набора технологий, которые позволяют автоматизировать отдельные когнитивные – ну, умственные процессы, которые производит человек при помощи своей головы. Как раньше механизировали ручной труд, потом автоматизировали такой конвейерный труд на заводах. Ну сейчас как бы следующий этап этого процесса. Называется интеллектуализация. Тамара Шорникова: Роман Викторович, не хочется, конечно, быть действительно дикарями, которые камнем, булыжником кидаются в какую-то машину умную. Но тем не менее, мы сейчас говорим о том, что все больше функций берет на себя искусственный интеллект. Ну, вернее, мы доверяем пока что все больше функций машинам. И, действительно, там - это функции помощи, функции контроля. Вот проверять будут на коррупцию нормативные акты. Действительно, уже камеры… камерами обвешаны многие города и так далее. Возможно ли, что эта система контролирующая начнет за нас думать? Решать, сколько часов нам водить машину - такое уже сейчас, в принципе, есть для таксистов, - сколько нужно работать и можем ли мы отвлекаться на соцсети? Действительно, подойдешь к умному холодильнику, а он тебе скажет: «Отойди! Ты сегодня достаточно ел! Посмотри на себя, это никуда не годится. Как ты выглядишь!?» Роман Душкин: Так. И в чем вопрос? Тамара Шорникова: Вопрос в том, возможно ли такое в скором будущем, что система обновится, улучшится и начнет все больше решений принимать самостоятельно? Роман Душкин: Ну тут же нельзя говорить речь… нельзя вести речь о какой-то единой системе, которая там с таким… с единым мозговым центром начинает за каждого «человечишку» - она будет нас называть «человечишками», да - решать, чего ему делать, а чего не делать. Ну нет, конечно. Каждая система, которая внедряется сегодня в нашу жизнь во всех сферах жизни, будь то система фиксации правонарушений на дорогах автомобильных, или эта система контроля за работоспособностью таксистов и других водителей, которые возят там, на… в коммерческих перевозках участвуют. Это все отдельные системы, которую… которые внедряются для решения каких-то конкретных задач. Которые… или не может решить человек. Ну не посадишь же рядом с водителем второго как бы человека, который будет смотреть за первым. Кто тогда за вторым будет смотреть? Ну и, соответственно, любое внедрение таких систем производится на основе некоторых нормативно-правовых и нормативно-технических актов, которые регламентируют вот эти вот внедрения. И регламентирует те процессы, в которых эти системы участвуют. То есть в любом случае идет от человека и от государственных и муниципальных потребностей. От потребностей личности. Какие задачи мы можем доверять человеку? Если вы скажете, что вот… своему умному дому скажете, что «Вот теперь хочу следить за своим весом и калориями, и ты, умный дом - а чаще которым является холодильник - не позволяй мне лишнего». И вот только тогда ваш холодильник не будет вам позволять лишнего. Александр Денисов: Не давай мне жрать, короче говоря, ни при каких обстоятельствах. А вот сегодня министр транспорта Виталий Савельев Владимиру Путину говорил про беспилотные автомобили и так закончила свою речь словами, что «С этим уже ничего не поделаешь - это будущее, которое так уже наступило, и прогресс не остановить». Так остановить его или не остановить? Если вы, в общем, я так понял, согласились с моим утверждением, что искусственный интеллект - это просто «моргающий сервер». Его можно выдернуть из розетки - и привет. И жить как обычно. Это не цивилизация, которая построилась - и все, из нее не выйти. Роман Душкин: Ну тут тоже так как бы утрировать нельзя. Поскольку это не один сервер, а система распределенных ЦОДов - центров обработки данных - каждый из которых находится в защищенном режиме. Если один из них, например, выйдет из строя -один из вот этих «моргающих серверов», да, образно говоря, то резервный подхватит… Александр Денисов: То другой тебе не даст пожрать ночью, я понял, да. Роман Душкин: Да-да-да. То есть все очень надежно. Александр Денисов: Посложней. Остановить или не остановить прогресс? Роман Душкин: Остановить… Прогресс, не остановить. Ну зачем его восстанавливать? Возвратимся в пещеры, когда люди умирали в 30 лет от того, что у них зубов нет? Ну зачем это нужно? Тамара Шорникова: А мы понимаем четко, что есть прогресс? Для чего внедряется то или иное умное решение? Возможно, это просто для коммерческой выгоды какой-то компании? Роман Душкин: Возможно. Тамара Шорникова: Возможно, это приведет к тотальной безработице и ухудшению качества жизни большой прослойки населения? Тоже возможно. Мы точно понимаем, для чего, и что такое прогресс? Роман Душкин: Ну если экстраполировать то, что мы имеем в опыте, так скажем, - многосотлетнем, многовековом опыте развития нашей цивилизации, - то та же первая волна механизация оставила без работы огромное число людей. Я их называю «три к»: кучеры, кузнецы и еще кто-то на «к». Ну где… они что, все там сразу одномоментно умерли? Нет. Постоянно происходит такая… как бы перепрофилирование, переквалификация. И в будущем нас ждет появление огромного количества профессий, которые… про которые мы сегодня не можем даже предположить, какие они будут. И вся история научно-технического прогресса, который мы наблюдаем, она показывает только то, что качество жизни, продолжительность жизни каждого отдельного человека увеличивается, улучшается. Ну вспомните, как жили деды наших дедов и сравните их с сегодняшнею жизнью. О чем мы говорим? Александр Денисов: Да, ну вы говорите - не остановить. Хорошо, а если нам принудительно остановят? Вот беспилотные автомобили, они управляются ну вот этими, теми самыми, наверное, сетями 5G. Ну вот возникнут у нас сложности с программным обеспечением. Вот «рубанет» нам Запад эти сети. Все. Тачки встанут беспилотные. А своих таксистов мы пораспустили. Вот вам и пример, останавливать или не останавливать. Роман Душкин: Ну давайте начнем с того, что у нас тоже «не лаптем щи хлебают» инженеры. Александр Денисов: Ха-ха! Тамара Шорникова: Ха-ха! Роман Душкин: Ну извините уж, я… за такое прям… Александр Денисов: Мне нравится. Роман Душкин: Инженерная школа в России - одна из ведущих школ в мире. И те технические системы, которые у нас проектируются, - ну за них гордиться надо, а не думать там, что нам Запад 5G обрубит. 5G - это всего лишь канал распространения информации. Каналы так же резервируются как и система. Когда мы строим там те же интеллектуальные транспортные системы в городах, для того, чтобы обеспечивать связь между периферийным оборудованием, которое стоит на дорогах, и центром обработки данных (центром управления), создаются несколько каналов. И если один канал обрубит… обрубит какой-нибудь там «зловредный Запад», образно говоря, в кавычках, то сразу же поднимется второй канал, и никто без связи не останется. Александр Денисов: Роман, вы знаете, про лапоть вы сказали. Я вспомнил там. Помните, раньше такие частушки под баян пели, под гармонь вот, по телевизору, вот как сейчас по вечерам. И в «Москве слезам не верит»… в фильме «Москва слезам не верит» там пели: «Пусть нас лапотной Россией называет Вашингтон, мы сегодня там запустили лапоть свыше пяти тонн». Ну вот мы сегодня тоже «лапоть запустили». Точнее вчера. Сшибли там новейшим оружием спутник с орбиты. Так что, действительно, не лаптем щи хлебаем. Звонок у нас. Любовь из Саратовской области. Тамара Шорникова: Да, давайте подключим телезрителей к разговору. Любовь, здравствуйте! Зритель: Здравствуйте! Вот я хочу сказать. У нас с января этого города перешли вот на этот умный ваш интеллект – передавать показания воды, газа, света по телефону, там по еще по чем. Я так могу по телефону передать. Вот я говорю. «Лицевой счет» говорю и «дальше». А она мне говорит в ответ: «Я вас не поняла. Объясните в двух словах». А как я могу объяснить в двух словах? Только послать куда-нибудь в лес гулять. Больше чего? Я ей опять объясняю. Она опять мне: «Я вас не понимаю». И вот до конца года они мне вот с этими показаниями довели уже до тряски. Я уже нервно стала больная. И чего они не соображают – ваш эти интеллект. Чего им написали - то и они ответят. Чего им сказали - то они и тебе в ответ. А пока до диспетчера добраться – о, этот на 40 минут вот на телефоне сидит… Александр Денисов: Так как вы из ситуации выпутались, расскажите! Зритель: Как я вы… выпут… Я уже столько за это время напуталась с ними. Я даже не знаю, говорю, - до тряски. Я дозванивалась до диспетчера, и только тогда ей объясняла, что я хочу передать показания. Это такая путаница. Столько я пере… Александр Денисов: И диспетчер сама забивала ваши показания, правильно мы поняли, да? Зритель: Да-да. Ну вот показания просто записать напросто - и то они не могут… не могут. Тамара Шорникова: Понятно. Бессердечная машина пока человека не разумеет. Александр Денисов: Спасибо, да! Тамара Шорникова: Спасибо! Александр Денисов: Интересный рассказ, кстати говоря. Тамара Шорникова: Да, интересный пример. Поблагодарим нашего эксперта за разговор. Роман Душкин, директор по науке и технологиям Агентства искусственного интеллекта. Спасибо вам! Александр Денисов: Да, это вот нам как раз зрительница о будущем, рассказала в Саратовской области. Мы-то вот все – «восстание машин», - а восстали они в Саратовской области, как мы выяснили. И на связи Андрей Леонидович Андреев, доктор философских наук. Андрей Леонидович! Можем мы уже констатировать вот по жалобам зрительницы нашей из Саратовской области, что восстание машин свершилось? Вот восстали они и не хотят фиксировать правильно показания счетчиков воды. Андрей Андреев: Ну это вот… Добрый вечер! Это пока не восстание, конечно. Это ну просто элементарное непонимание и неспособность вступать в диалог. Но вообще проблема, которую наша вот слушательница только что поставила - это очень серьезная проблема. Надо сказать, что да, тут не надо никаких, так сказать, иллюзий питать: искусственный интеллект - это будущее. И никак мы его, так сказать, не закроем и назад уже не отработаем. То, что возникло, то возникло. Но это сложная очень система. И, надо сказать, что чем глубже, чем сложнее технология, - тем глубже она внедряется, тем выше риски. И вот чем хорош пример, который только что прозвучал? Он показывает, что внедрение такого рода систем, оно совсем вовсе не гарантирует нам хорошей и легкой жизни. По идее, все внедряется для того, чтобы как бы облегчить, чтобы, так сказать, все лучше функционировало, эффективнее было и так далее. Но, вообще говоря, во многих случаях получается наоборот. И связано это с тем, что, вообще говоря, все-таки вот все эти системы искусственного интеллекта цифровые, так сказать, системы, - они все определенным образом взаимодействуют с человеком. Здесь были сказаны ключевые слова о том, что - вот предыдущий эксперт говорил - о том, что, в сущности говоря, чего нам бояться? Все дело в законах: все будет регламентировано, законы будут приняты соответствующие. Как вот может этот искусственный интеллект функционировать. Что он может делать, что он не может, значит. Все идет от людей. Вот такие были сказаны слова. Вот именно: все идет от людей. Александр Денисов: Андрей Леонидович, а от каких людей? Вы верите в благую волю создателей, которые создают… Вот тот же самый пример с Саратовской областью. Ведь кому эта система удобна? Удобна создателям. Им не нужно нанимать на работу людей, которые будут контролировать, принимать звонки, проверять эти показания - все система. Начислять они начислят. Допустим, у тебя не пришли показания по воле этой системы, которую они установили. Они тебе по средней… по средней насчитают вот среднегодовой - и привет. Поэтому кому-то искусственный интеллект - это выгода. Именно создателю. Для всех остальных это антигуманная вещь. Андрей Андреев: Ну я бы так жестко не говорил, что это антигуманная вещь. Но опасность такая существует. И я должен сказать, что да, это может быть результат того, что люди облегчают себе жизнь. Вот создают такие системы, понимаете? Очень легко. Ты раньше, например… я мог пожаловаться главному врачу поликлиники. Вот у меня там, допустим, что-то, так сказать, ну там не направляют куда-нибудь или еще что-нибудь. Я мог позвонить главному врачу, пожаловаться, и он принимал меры. Ну если не принимал, я мог там еще кому-то позвонить там пожаловаться уже на главного врача. Сейчас я уже никому не могу позвонить. Со мной говорят роботы. И это действительно так. Я вот говорю: «Хочу соединиться с оператором». Потому что у меня вопрос сложный, его так вот, ну, так сказать, нужно обговорить с человеком. Ну мне система отвечает: «Я вас не понимаю, повторите!» Вот это такой же, так сказать, анекдотический случай, вот. Облегчение, так сказать, упра… система управления облегчает себе работу и заодно, так сказать, минимизирует контакты с людьми. Человек теперь не может достучаться до человека, который принимает решения. Он должен, так сказать, пройти через вот эти вот механические устройства, которые его никуда не допустят. Александр Денисов: Андрей Леонидович! Мы не роботы - звонок примем. Тоже зритель нам чтоб достучался. Дадим слово, да, и вернемся. Тамара Шорникова: Да. Константин, Бурятия. Здравствуйте! Зритель: Добрый… у нас ночь, а у вас вечер! Я вот чего хотел спросить. Вот мы обсуждаем частности. Вот предыдущий человек говорил там про резервные линии. Что все будет хорошо. Сейчас мы говорим о том, что закон будет регулировать. А мы вообще задаемся себе вопросом: а зачем нам все это нужно? Зачем мы хотим везде заменить человека? И что тогда будет человек делать, когда его везде заменят? Спасибо! Александр Денисов: Спасибо! Андрей Леонидович! Андрей Андреев: Это тоже, действительно, очень серьезный вопрос. Вопрос об ответственности. Вот, например, когда девочка тут вот, студентка, сбила на переходе двух маленьких детей… Александр Денисов: 5 лет дали. Да-да-да. Андрей Андреев: Да-да. Ей дали 5 лет. А вот представьте себе, что беспилотник, вот этот вот да, - автомобиль без шофера, о котором тоже сегодня говорили, - что он вот чего-то там не так сработало, - сбил человека. Может, человек там, не знаю, как-то, так сказать, не так среагировал. Ну, в общем, получилось, да, вот. И… и что? А кто будет ответственный? Ну тут студентка ответственная. Ее судили, дали ей срок там и так далее. И следующие… следующим будет, так сказать, неповадно. В общем, смысл наказания-то состоит в том, чтобы люди, вообще говоря, внимательней ездили, вот. А вот если такая вот, с кого спрашивать? С программиста? С завода, который это так сказать… беспилотный автомобиль там произвел. Вот с кого спрашивать? Александр Денисов: Андрей Леонидович, я вот знаю, что вы любите Достоевского точно так же, как я. Знаменитое его высказывание: «Если истина не во Христе - допустим такое - то я лучше останусь без истины, но с Христом». Андрей Леонидович, вот если мы этот… это… эту аксиому применим к сегодняшнему дню. Если истина не в прогрессе… Вот вы привели действительно шикарный пример: а если автопилот, с кого спрашивать? Если истины в этом нет? Ну давайте тогда останемся в старом мире, но не с прогрессом. Мы можем сейчас такое себе позволить, так сказать, и сделать такой выбор? Андрей Андреев: Ну это очень сложный вопрос. Вот я, кстати, вам хочу сказать. Вот пример, так сказать, который подкрепляет то, что я говорил. Вот у меня сейчас исчезло изображение, да. «Сервис Zoom позволит вам расширить охват рынка», - выскочила вот эта вот, так сказать… Я ее не просил. Это искусственный интеллект мне ведь подсовывает вот эти вот все штуки. Вот она мне, так сказать, перебила… она мне не дает видеть, так сказать, экран передо мной. Вот это вот рекламное объявление. Вот вам еще один, так сказать, маленький пример. Вы знаете, вот у нас национальная идея нашей страны, как правильно говорил об этом не так давно Президент - это разумный консерватизм. Разумный консерватизм состоит не в том, чтобы остановить прогресс. Не в том, чтобы, так сказать, вернуться в пещеры, как об этом тоже здесь недавно прозвучало. А в том, чтобы десять раз взвесить, нужно ли это? Дает ли это что-то или нет? Я вот с этим сталкиваюсь, например, в системе образования. Александр Денисов: Спасибо большое, Андрей Леонидович! Спасибо. Разумно, действительно, очень. Золотые слова, одним словом! Андрей Андреев, главный научный сотрудник Института социологии РАН, был у нас на связи. Будем консерваторами.