Искусственный разум: в чём он никогда не заменит человека?

Искусственный разум: в чём он никогда не заменит человека?
Наталья Агре: Долгие годы подготовка в автошколах была направлена не на безопасность движения, а на знание ПДД. А это очень разные вещи
Владимир Собкин: Не надо относиться к молодым, как к недоумкам, ждать, когда они вырастут - они уже выросли!
Борьба с курением превращается в борьбу с курильщиками?
Реальные цифры: борьба с курением
На больничный! Представители каких профессий в нашей стране болеют чаще всего?
Россия управляет соцсетями? Американские спецслужбы уже ждут российского вмешательства в выборы
У среднего класса дела средне. Россияне со средним доходом чаще других теряют работу. И ищут дольше
Родителей, чьи дети оскорбляют учителей, накажут рублем, а самим хулиганам может грозить тюрьма
Зачем такая пенсионная реформа? Прогрессивную шкалу придётся подождать. География роста зарплат. Путин об Украине. Налог на старые машины
Бюджетные траты на пенсионеров сократили, а их жизнь к лучшему не изменили. Об эффективности пенсионной реформы
Гости
Сергей Марков
специалист по машинному обучению и искусственному интеллекту, основатель портала 22century.ru
Роман Душкин
директор по науке и технологиям Агентства искусственного интеллекта

Ольга Арсланова: Мы продолжаем, это большая тема нашего дня. Поговорим об искусственном интеллекте. В России его нужно активно развивать, такие заявления регулярно делают российские власти на самом высоком уровне, включая президента, а простые россияне часто спрашивают, зачем нам это нужно.

Иван Князев: Ну как?

Ольга Арсланова: Может быть, это даже опасно? Роботы лишат нас рабочих мест?

Иван Князев: Ну как зачем, зачем, зачем? Например, скоро…

Ольга Арсланова: А денег потратим неимоверно на это развитие.

Иван Князев: Например, скоро искусственный интеллект будет управлять дорожным движением многих городов, на очереди Екатеринбург. Умная система будет анализировать обстановку на дорогах и бороться с пробками.

Ольга Арсланова: К искусственному интеллекту обратится и ВЦИОМ. Центр разрабатывает роботов для проведения массовых опросов по телефону. Прототип уже существует, но его хотят сделать хитрее, потому что сейчас искусственный разум успевает задать три вопроса, дальше россияне замечают, что это не человек, и просто вешают трубку.

Иван Князев: Ну а еще скоро в российских ВУЗах появится курс по искусственному интеллекту. Он научит студентов защите прав человека.

Ольга Арсланова: Парадоксально.

Иван Князев: Автор инициативы – омбудсмен Татьяна Москалькова. Ну представляешь, искусственный интеллект будет рассказывать, как нам, людям…

Ольга Арсланова: …друг друга правильно уважать, да.

Иван Князев: Да.

Ольга Арсланова: Указ о развитии искусственного интеллекта в России уже подписал президент, буквально недавно, в октябре это произошло. Ну и, кстати говоря, мы иронизируем часто об уровне развития цифровизации в России, а «Microsoft» признала Россию одним из лидеров в сфере практического внедрения цифровых технологий, по крайней мере отметила скорость этих процессов.

Иван Князев: Ну, этот наш потенциал подтверждают и зарубежные аналитики. В нашей стране можно заменить машинами 35,5 миллионов рабочих мест, то есть каждого второго сотрудника. Круче в этом плане только Китай и Индия.

Ольга Арсланова: Людей там больше, наверное, поэтому.

Иван Князев: Может быть.

Ольга Арсланова: Но несмотря на такие перспективы, роботизация в России пока остается экзотикой. Давайте посмотрим на расчеты. На 10 тысяч работников предприятий в 2017 году приходился 1 промышленный робот.

Иван Князев: Для сравнения, в Южной Корее на 10 тысяч приходится почти 550 роботов, в Сингапуре – 400, а вообще в среднем в мире на 10 тысяч сотрудников приходится 69 роботов, то есть в 69 раз больше, чем у нас.

Ольга Арсланова: И это довольно печально и жаль. Российской экономике роботы бы очень пригодились, считает сооснователь и генеральный директор «Роботостанции» Игорь Никитин, он был сегодня гостем дневного «ОТРажения».

Игорь Никитин: Роботы для этого и нужны, чтобы улучшать нашу жизнь и работать вместо нас. Если мы ставим роботов, все думают, что мы заменяем рабочие места, – мы создаем рабочие места. Робот создает в среднем на 1 робота 1,5 человека рабочих мест, то есть 2 робота поставил, 3 человека получили в другом месте работу, в России, но более высокооплачиваемую, более интеллектуальную. В целом для страны роботы, которые собирают урожай, роботы, которые шьют одежду, делают это все более дешевым и доступным. Только благодаря таким технологиям… Вот магазины начали внедрять технологию «умной» кассы, когда ты сам пробиваешь. Что с кассирами произойдет? Им придется найти новую работу. Все выиграют, кассиры не выиграют.

Иван Князев: Ну а сейчас представим гостей нашего сегодняшнего вечернего эфира. Сергей Марков, специалист по машинному обучению и искусственному интеллекту, основатель портала «22century.ru», здравствуйте.

Ольга Арсланова: Здравствуйте.

Иван Князев: И Роман Душкин, директор по науке и технологиям «Агентства Искусственного Интеллекта», – здравствуйте, Роман.

Ольга Арсланова: Здравствуйте.

Роман Душкин: Добрый вечер.

Иван Князев: Уважаемые гости, ну вот, знаете, помимо фантастических книг, фантастических фильмов я об искусственном интеллекте очень мало что знаю.

Ольга Арсланова: Хотя он каждый день присутствует в твоей в том числе жизни.

Иван Князев: Вот скажи мне, где.

Ольга Арсланова: Везде: вот, вот, вот!

Иван Князев: А, это… Так нет, это не искусственный интеллект, это компьютер. Искусственный интеллект, как мне кажется, как я читал в книжках в детстве, – это та машина, которая может не просто что-то сама считать, но еще сама думает и учится.

Ольга Арсланова: Хорошо. Слушай, это очень интересно, давайте вообще разберемся, что это такое.

Иван Князев: Да. Что это такое?

Ольга Арсланова: Это система программ? Это нейросеть? Это просто компьютер или два компьютера? Что такое искусственный интеллект сегодня?

Сергей Марков: Ну, вообще говоря, под искусственным интеллектом понимают направление в науке и технологии, которое занимается автоматизацией решения интеллектуальных задач.

Иван Князев: Это big data, нет?

Сергей Марков: Нет. Big data – это все, что связано с большими данными, искусственный интеллект совсем не обязательно связан с большими данными.

Иван Князев: Ну ладно.

Сергей Марков: Хотя, конечно, современные системы, безусловно, обычно используют большие данные. Здесь штука в том, что существует такой забавный эффект искусственного интеллекта, как его называют. Дело в том, что вот как отличить настоящий искусственный интеллект от ненастоящего?

Ольга Арсланова: От человеческого.

Иван Князев: Ну это Алан Тьюринг еще в свое время, по-моему, сделал такой алгоритм, да?

Сергей Марков: Ну, само понятие искусственного интеллекта появилось уже после смерти Тьюринга, его придумал Джон Маккарти.

Иван Князев: Но тест Тьюринга применяется до сих пор.

Сергей Марков: Да, тест Тьюринга, конечно, применяется. Но вот эффект искусственного интеллекта, как определить, настоящий искусственный интеллект или нет? Если какая-то задача уже решена, то это ненастоящий искусственный интеллект.

Иван Князев: Так.

Ольга Арсланова: Это очень сложно.

Иван Князев: А теперь попроще, да.

Сергей Марков: Ну, просто, понимаете, постоянно у людей смещается уровень, что ли, восприятия тех или иных систем. То, что вчера нам казалось чудом, условно говоря, сегодня для нас становится обыденностью и частью нашей жизни. То, что у нас на каждом углу сейчас система распознавания лиц, например, или речевые интерфейсы, при помощи которых вы взаимодействуете с устройствами различными, или когда вы приходите в банк за кредитом, то алгоритмы принимают решение о том, выдать вам, не выдать кредит, это все системы искусственного интеллекта. Но они для нас настолько привычными стали…

Иван Князев: Слушайте, я с таким помощником даже по утрам разговариваю, она мне анекдоты читает и песенки поет, правда, очень плохо.

Ольга Арсланова: Какое печальное будущее нас ждет.

Роман, давайте тогда сузим вопрос. Когда нам президент говорит, чиновники о том, что нужно в России развивать искусственный интеллект и вкладывать в это даже какие-то деньги, о чем идет речь? Мы хотим создать…

Иван Князев: …армию роботов?

Ольга Арсланова: …роботов, которые заменят живых россиян?

Роман Душкин: Я думаю, мы хотим создать роботов, которые будут защищать границы России. Помните те самые гигантские боевые человекоподобные роботы?

Ольга Арсланова: Слушайте, мне прямо страшно стало.

Роман Душкин: Не помните? Ну ладно.

Да нет, все очень банально. Дело в том, что в России школа искусственного интеллекта начала развиваться еще в середине XX века, с тех же самых времен, когда этот термин был придуман Джоном Маккарти в 1956 году, Джон Маккарти ввел термин «artificial intelligence», который потом на русский язык перевели как «искусственный интеллект». И в те годы под искусственным интеллектом понималось не что иное, как междисциплинарное направление научных исследований, основной целью которого, я вот сейчас, возможно, здесь буду повторяться, но я хотел бы, чтобы зрители наши очень четко себе прямо поняли, что основная цель искусственного интеллекта как науки – это познание природы нашего собственного разума, вот то, что находится у нас здесь, в голове. Почему? Потому что, если мы раскроем черепную коробку, мы кроме серого вещества и крови ничего там не найдем. И как все это коррелирует с наличием сознания у нас, наличием интеллекта и разума, не совсем понятно.

И тогда была предложена простая довольно идея: давайте мы смоделируем высшие психологические функции человека – познание, восприятие, воображения, мечтания, память и так далее – на компьютере и при помощи моделей будем пытаться познать природу. Так родилось это направление научное. Потом, уже в процессе развития, было придумано много технологий прикладных, которые сегодня нам помогают решать очень много важных когнитивных задач.

И в России это направление в рамках кибернетической школы, несколько параллельных школ было, в частности, вот одну из школ Лев Тимофеевич Кузин запустил, стимульная парадигма искусственного интеллекта и все такое, очень глубоко и мощно развивало именно вот это вот направление, как понимание природы нашего собственного разума, нашего собственного интеллекта. И в России очень глубокие традиции в области искусственного интеллекта.

То, что сейчас мы получили в свое распоряжение большое количество вычислительных мощностей, большое количество данных, которые, можно сказать, являются пищей для систем искусственного интеллекта, просто вывело нас на очередной виток развития. И нам сейчас нужно взять вот то наследие, которое у нас есть, и применить в новых условиях. И фактически…

Ольга Арсланова: Получить какую-то практическую выгоду все-таки из этого по большей части?

Роман Душкин: Естественно, экономический вопрос…

Ольга Арсланова: Мы же не ради фундаментальных каких-то задач это делаем в основном.

Роман Душкин: И ради них тоже. Но, естественно, экономический вопрос нельзя отрицать. И поэтому ответ на ваш вопрос, который вы задавали: мы должны взять все то, что есть у нас в наследии, и зарубежные аналитики не зря боятся Россию в этом отношении, потому что действительно школа искусственного интеллекта в России очень глубокая, математическая школа очень глубокая, и применить в новых условиях. И действительно, у нас есть очень большие шансы получить что-то достойное на мировой сцене.

Иван Князев: А что касается практики? Вот, понимаете, нас уже люди завалили SMS, Башкортостан спрашивает: «Кто бы нам прислал роботов пахать и сеять заросшие поля», Волгоградская область: «У нас есть деревни, жители которых живут, как до революции, а вы о роботизации». Практическое применение, то есть народ спрашивает, зачем нам это надо.

Ольга Арсланова: Лучше-то станем жить?

Иван Князев: Вот Ленинград спрашивает: «Зачем нам искусственный разум? Своего ума не хватает?» Чем он нам поможет? Зачем мы его создаем? Ну помимо того, чтобы он там чего-то познавал нас.

Сергей Марков: На самом деле применения этих технологий довольно много, и конечно, они отнюдь не ограничиваются одной только промышленной автоматизацией. Скажем, огромное количество людей задействовано сейчас в сфере обслуживания. Вообще если мы посмотрим на российскую экономику, то в ней сфера обслуживания довольно большую долю занимает. Скажем, мы активно заменяем операторов кол-центров на автоматизированные решения, это сфера, в которой сейчас работают десятки тысяч, а может быть, даже и сотни тысяч людей. На самом деле и в сельском хозяйстве в России тоже есть проекты по… Скажем, один мой товарищ активно занимается сельскохозяйственными дронами как раз, то есть которые приходят на смену сейчас малой авиации. То есть раньше у вас был кукурузник, который опылял поля, сейчас это беспилотные машины, которые…

Иван Князев: Ну Япония сейчас впереди планеты всей: у них там дроны и ЛЭП смотрят, и сельское хозяйство проверяют.

Сергей Марков: Это есть и в России, просто это происходит в крупных хозяйствах. Естественно, это происходит не там, где 10 соток и загибающиеся деревни, но в России есть вполне преуспевающие агрокомплексы, где эти технологии сейчас развиваются.

Иван Князев: Более того, я знаю, что сейчас в Японии тестируют дроны, которые будут летать по офису, замерять время, сколько вы находитесь на работе, и силком отправлять вас домой, потому что в Японии народ перерабатывает, очень большой процент самоубийств, у них даже специальная программа под это есть, наверное.

Ольга Арсланова: Все-таки с рабочими местами, многие волнуются, переживают. С одной стороны, робот, искусственный интеллект может заменить человека на каких-то опасных производствах, с одной стороны, это хорошо. С другой стороны, лишить человека физического труда, его рабочего места. Если посмотреть еще с другой стороны, создать новые рабочие места, мы сейчас доставку еды оформляем, и вот появилась целая куча людей, которые благодаря искусственному интеллекту получили работу курьеров, раньше в таком количестве не нужно их было. Так все-таки какие-то процессы будут доминировать? Будет ли робот порабощать человека в этом плане, лишать его рабочих мест, или создавать все-таки рабочие места?

Роман Душкин: Ну смотрите, можно я немножко терминологией сейчас займусь?

Иван Князев: Ага.

Роман Душкин: Значит, слово «робот», слово «искусственный интеллектуальный агент», вообще термин…

Ольга Арсланова: Агент – это робот, вот вы сейчас сказали?

Роман Душкин: Вот подождите, вообще слово «искусственный интеллект» не нужно употреблять в таком антропоморфном смысле, что вот есть искусственный интеллект, который там что-то делает, – нет искусственного интеллекта в принципе…

Ольга Арсланова: Ну это понятие, искусственный интеллект.

Роман Душкин: …потому что искусственный интеллект – это наука. Можно говорить про когнитивного агента или искусственного интеллектуального агента.

Ольга Арсланова: Носитель искусственного интеллекта, давайте так.

Роман Душкин: Да, вот. Есть когнитивный агент. Чтобы аналогию провести, когнитивный агент у нас сидит в голове как бы, я не буду сейчас углубляться в нейрофизиологию, философию сознания…

Ольга Арсланова: Когнитивный агент – это мы все, мы агенты?

Роман Душкин: Мы тоже когнитивные агенты. Есть искусственные когнитивные агенты, которых мы сейчас активно делаем. А робот – это как будто тело для когнитивного агента, как вот для нас организм, это наше тело. Конечно, человека нельзя отделить от его тела, и таких будущих когнитивных агентов, которые будут действовать в нашем мире, их тоже будет сложно отделить от этих робототехнических тел, это тоже там есть отдельное направление исследований. Но суть не в этом, давайте возвратимся к нашему вопросу, что делать.

Ольга Арсланова: Рынок труда, как он будет меняться?

Роман Душкин: Рынок труда. Я очень хорошо понимаю многих зрителей, которые беспокоятся именно за рабочие места, в том числе за свои рабочие места, потому что мы сейчас стоим на пороге такой третьей очень глобальной революции на рынке труда. И если первая была механизация, когда у нас массово заменяли ручной труд на механизмы, вторая была автоматизация, когда у нас начался конвейер, автоматические системы управления технологическими процессами и так далее. Сейчас у нас наяву происходит третья такая волна замещения людей именно уже искусственными когнитивными агентами.

Проблема в том, что меняется… Во-первых, срок замещения намного сузился, а во-вторых, меняются люди, когнитивные агенты приходят в те профессии, где используется умственный труд, рутинный умственный труд, не механический, что-то руками делать, потому что, когда люди стояли на конвейере и что-то руками делали, это очень легко заменить теми же руками-манипуляторами, которые все это намного точнее сделают. И тот процесс происходил намного длительнее, а сегодня у нас очень сужен горизонт принятия вот этих вот изменений, и меняются люди, которые заняты в умственном труде: бухгалтеры, водители, которые должны своим зрением оценивать обстановку, военные, полицейские, врачи и учителя. Все эти люди стоят в очереди на увольнение.

Что им делать? И конечно, они волнуются, не говоря уже об операторах кол-центров, которые сейчас уже тысячами теряют свою работу из-за внедрения вот этих агентов. Естественно, здесь каждому человеку надо, я могу дать совет исключительно в том, что каждый человек должен непрерывно обучаться в течение всей жизни, и чем шире будут его знания, именно шире, не глубже… Парадигма глубокого обучения уже устарела. Когда мы становимся очень узким и глубоким специалистом, мы становимся никому не нужны. Сейчас популярны широкие специалисты, которые знают, обладают широчайшими знаниями, такие эрудированные люди, которые могут сделать все и везде. Почему?

Иван Князев: Энциклопедические знания.

Ольга Арсланова: А чему точно учиться бесполезно? Что точно не будет востребовано в исполнении «человеческого агента»?

Роман Душкин: Да, смотрите, если вы выполняете какую-то работу, написанную по инструкции, где есть четкий регламент, – все, это уже не нужно, то есть это очень простой критерий.

Ольга Арсланова: Точный алгоритм.

Роман Душкин: Если есть четкий алгоритм выполнения какой-то работы, который даже задействует умственные операции, – все, это не нужно уже. И вот от таких работ я рекомендую держаться подальше.

Иван Князев: Давайте мнение нашего телезрителя послушаем…

Ольга Арсланова: …и продолжим.

Иван Князев: Александр нам дозвонился из Санкт-Петербурга. Здравствуйте, Александр.

Зритель: Добрый день. У меня по жизни так сложилось, что я более 30 лет проработал в космической отрасли. И вот как раз там с учетом подготовки специалистов, с учетом, так сказать, развития производства рождались новые технологии, потом они использовались в тем не менее народном хозяйстве. У нас была четко, ясно поставленная задача и цель, и очень хороший контакт с Академией наук СССР, и все было логично, потому что эти все, так сказать, разработки, которые использовались в космической отрасли, потом переносились на развитие промышленности, производства, других сфер народного хозяйства.

Иван Князев: Ага.

Зритель: Вот сейчас я немножко недопонимаю, может быть, так сказать, уже сам устарел, разговор вот эти ребята ведут в эфире. Они сами по себе, а страна сама по себе получается? Где, так сказать, потребность и необходимость, кто просил об этом, просило ли общество, которое готово к этой жизни и к этой работе, или это чей-то другой политический или какой-то экономический заказ?

Ольга Арсланова: Ага.

Зритель: Поэтому, ребята, давайте почестнее, вы там агентство какое-то возглавляете…

Ольга Арсланова: Хорошо.

Зритель: Откуда это все развилось?

Ольга Арсланова: Вообще максимально честно сейчас поговорим.

Зритель: И есть ли общественный заказ страны на этот вид работы в условиях нашей разрухи экономической?

Ольга Арсланова: Да, спасибо, об этом поговорим.

Вот Роман сейчас сказал, что давайте срочно все начинайте готовиться к своему скорейшему увольнению, учитесь, вас ждет тяжелее будущее.

Роман Душкин: Нет-нет-нет, я так не говорил.

Ольга Арсланова: А люди думают…

Иван Князев: Роман удивлен.

Ольга Арсланова: Но примерно… А что, мы не можем этим управлять? Вот если в обществе в целом нет консенсуса, оно говорит, что мы не хотим форсировать развитие искусственного интеллекта, мы хотим сохранить рабочие места, мы должны это сдерживать искусственно, потому что мы выполняем социальную определенную функцию, и это главное?

Сергей Марков: Вы знаете, я, наверное, с коллегой отчасти не соглашусь в том смысле, что здесь вот эти вот процессы, о которых мы говорим, на самом деле зачастую отнюдь не предполагают такой уж массовой замены людей на машины. Я объясню почему. Вот, скажем, если вы возьмете свой мобильный телефон, то в нем сосредоточены вычислительные мощности, которые гораздо больше, чем были в свое время у NASA, когда потребовалось запустить человека на Луну. Но мы сейчас эти вычислительные мощности за счет их такой баснословной доступности используем, ну не знаю, для того чтобы запускать птиц в свиней и решать другие «важные» народнохозяйственные задачи.

Иван Князев: Ну да.

Сергей Марков: Так вот здесь, когда приходят роботы, которые могут на себя взять рутинную работу определенную… То есть если мы посмотрим на тот же кол-центр, когда там появляется роботизированная система, это не значит, что тут же там всех операторов увольняют. Это означает совсем другое, это значит, что машины берут на себя вот эту вот рутинную однообразную работу, нестандартные кейсы по-прежнему остаются на стороне людей. И более того, появляется возможность теперь, не знаю, больше клиенту уделить времени. Раньше человек висел 20 или 30 минут на линии банка… Вот я работаю в крупном банке, к вопросу о том, существует ли народнохозяйственный заказ…

Ольга Арсланова: Да-да.

Сергей Марков: Вот. Разумеется, он существует со стороны крупных российских компаний, которые являются владельцами таких вот систем массового обслуживания, которые обслуживают десятки, сотни тысяч, миллионы клиентов по всей стране.

И вот я что хочу сказать? Здесь уровень безработицы… В свое время, не знаю, люди вручную считали в бухгалтерии, на производстве и так далее, и так далее. Пришли машины, калькуляторы появились, потом электронно-вычислительные машины. Уровень безработицы тем не менее, который был в начале 1920-х гг., несильно ниже, чем сейчас. Значит, появляются новые сферы деятельности, новые отрасли, новые… Не знаю, сфера развлечений, например, расширилась, люди используют крутейшие технологии искусственного интеллекта, для того чтобы, не знаю, состарить свое фото в телефоне и опубликовать его в Facebook. Кто бы мог подумать 20 лет назад, что это может людям понадобиться? Двадцать лет назад это было дорого и технологии не позволяли нам такие вещи делать.

Поэтому в краткосрочном промежутке времени да, безусловно, возникают определенные проблемы, связанные с тем, что людям нужно что-то менять в своей работе, переквалифицироваться и так далее. Но если мы посмотрим уже даже на среднесрочную перспективу, мы видим, как под влиянием развития технологий возникают новые отрасли, которые были раньше совершенно немыслимы, и они жадно впитывают, как губка, вот этот вот высвобождающийся человеческий труд.

Иван Князев: В какие сферы, в какие отрасли искусственный интеллект нельзя пускать вообще ни в коем случае?

Ольга Арсланова: «Нельзя пускать».

Роман Душкин: А можно я отвечу вот на этот грозный вопрос из Петербурга?

Ольга Арсланова: Да, кто заказывал эти изменения?

Роман Душкин: Дело в том, что иногда происходит так, что никто не заказывает изменения, а они происходят под влиянием внешних факторов. И ставить так вопрос, типа, ребята, а чем вы занимаетесь, почему, вас никто не просил, а вы этим занимаетесь. Это, знаете, то же самое, как муравейник стоит, своими делами занимается, а над ним уже нависла опасность лесного пожара, а муравьи там сидят, что-то делают.

Ольга Арсланова: И удивляются, кто санкционировал.

Роман Душкин: Да, кто санкционировал лесной пожар.

Ольга Арсланова: «Нас не спросили».

Роман Душкин: Дело в том, что во всем мире эти исследования ведутся очень интенсивно, и гонка вооружений в области искусственного интеллекта уже начата, она реально уже объявлена формально.

Ольга Арсланова: А кто в этой гонке пока выигрывает?

Роман Душкин: Ну, не могу сказать, кто выигрывает, но Китай и США прямо четко в гонке вооружений участвуют вот в этой конкретно. Ну и наш президент тоже такие же слова сказал. И здесь есть очень тонкий момент, есть такое понятие, как ИИ, искусственный интеллект, искусственно-интеллектуальный неоколониализм – это зависимость общества от чужих решений в области искусственного интеллекта. В частности, если мы не будем развивать свои технологии искусственного интеллекта, все наше общество станет в какой-то момент зависимым от других, от чужих решений, ну, например, китайских. И какое решение они заложили в свои системы, никто не знает. Мы будем поставлять им данные, биометрию, трекинг, где мы ходим, и так далее, а они будут как-то принимать решение на своей китайской логике. Кто за это ответит?

Ольга Арсланова: Например, какое может быть решение?

Роман Душкин: Ну не знаю, посадить всех голубоглазых блондинок в какие-нибудь места, потому что в Китае нет голубоглазых блондинок, и системы искусственного интеллекта, обученные на тех данных, которые там были, не предназначены для применения в качестве решающих здесь.

А теперь, если можно, перейду на тот вопрос, который вы задали.

Иван Князев: Да, я просто к тому, что многие считают, что как раз-таки в оборонку искусственный интеллект пускать не стоит, в безопасность, потому что есть возможность того, что данные будут украдены, что кто-нибудь со стороны может проникнуть и тому подобное.

Ольга Арсланова: Как раз все страшное, о чем вы говорите.

Роман Душкин: Ну да, ну да. Но смотрите, я всегда говорю, что искусственный интеллект, технология искусственного интеллекта – это всего лишь инструмент так же, как, например, ядерное оружие. В какие руки оно попадет? Проблема с искусственным интеллектом в том, что, для того чтобы сделать ядерное оружие, нам нужна большая инфраструктура, разветвленная инфраструктура, которую может позволить себе только большое, высокоразвитое государство. А систему искусственного интеллекта, серьезную, которая может наворотить дел, может сделать студент с ноутбуком, который имеет доступ в Сеть: скачает на GitHub исходники, скачает датасеты, наборы данных, обучит, и что он там при помощи нее сделает, одному ему известно. Это очень подрывная технология в том смысле, что, для того чтобы ее использовать, не нужно очень много инфраструктурных решений.

Иван Князев: Вот.

Роман Душкин: Вот. И поэтому есть так называемые области доверия – это те области, где люди должны доверять другим агентам, вот сейчас доверяют другим людям. Например, это области, связанные с безопасностью жизнедеятельности, с безопасностью в принципе…

Ольга Арсланова: Ну, условно доверяют, да.

Роман Душкин: Естественно. Мы, например, покупая еду в магазине, мы доверяем производителю, мы не сами выращиваем себе экологически чистую еду, нам приходится доверять. Мы уже настолько это делаем неосмысленно, что даже не думаем о том, что там, в этой еде. Или садясь в такси, мы доверяем чужому, совершенно незнакомому человеку, который, может быть, не спал, может быть, у него плохое настроение или еще что-то, а он нас везет и подвергает нашу жизнь серьезному риску. Но в области доверия в любом случае, если что-то произойдет, начнется разбирательство, и те люди, которые привели к какому-то, реализовали риск, они смогут объяснить, кто, почему…

Иван Князев: Ну если будет, кому объяснять.

Роман Душкин: Ну это да, естественно. Проблема современных систем искусственного интеллекта, что они не могут объяснить, как они приняли решение.

Ольга Арсланова: Потому что запрограммировал человек, с него и есть смысл спрашивать?

Роман Душкин: Нет, когнитивных агентов уже никто не программирует.

Ольга Арсланова: Вот.

Роман Душкин: Вот в этом-то и…

Ольга Арсланова: Даже зрители наши спрашивают: а что же мы будем делать, когда искусственный интеллект выйдет из-под контроля? Видите, не «если», а «когда».

Роман Душкин: Ну что значит «выйдет из-под контроля»?

Иван Князев: Ну вы «Терминатора» не смотрели, что ли?

Ольга Арсланова: Все что угодно. Это вообще возможно?

Роман Душкин: Ну смотрите, любой такой вопрос… Я всегда люблю вопрошающим задавать такой вопрос, давайте мы… Вот вы задаете вопрос…

Ольга Арсланова: Но люди боятся, не доверяют.

Роман Душкин: ...в отношении искусственного интеллекта, в отношении искусственного когнитивного агента, поставьте на его место человека. Человек – опасное существо, вдруг оно выйдет из-под контроля? Что нам делать? Когнитивный агент не настолько опасен и вряд ли будет когда-либо опасен, потому что система общего искусственного интеллекта, нам до них как до Луны пешком пока.

Иван Князев: Виктор у нас на связи.

Ольга Арсланова: Здравствуйте, Ростовская область, чуть-чуть поближе.

Зритель: Здравствуйте, здравствуйте. Я бы хотел немного возразить вашим гостям, о какой-то войне с интеллектом. Никакой войны нет, надо просто ее грамотно применять, эту всю технологию. В Японии она давно действует, у них пьяные водитель, наркоман за руль автомобиля даже сядет когда, он никуда не поедет, машина не заведется. У них искусственный интеллект применяют в правительстве, у них машина прогнозирует, считает, а люди оценивают, насколько это экономически выгодно и насколько это необходимо обществу, стране.

Так что надо нам это развивать и грамотно применять, потому что ум человека не всегда способствует развитию, а в нашей стране, как мы видим, даже президент это сказал, когда воруют миллиардами, людей сажают, а толку нет. Вот здесь как раз и надо применять искусственный интеллект, чтобы люди – чиновники, разные люди – делали то, что нужно, то, что необходимо нашей стране.

Иван Князев: Да, Виктор, понятно.

Ольга Арсланова: Да, спасибо.

Зритель: …развитие нашей страны.

Иван Князев: Виктор, вы не один так думаете. Вот нам другие наши телезрители пишут, что «искусственным интеллектом обязательно нужно заменить чиновников в России, так как искусственный интеллект не подвержен жадности и глупости», Александр написал из Москвы.

Ольга Арсланова: В системе госуправления, как может совершенствовать эту систему искусственный интеллект в нашей стране?

Сергей Марков: Ну, безусловно, отдельные элементы в системе государственного управления могут быть усилены за счет технологий искусственного интеллекта. И здесь, вообще говоря, нужно, наверное, обратить внимание на то, что одна из основных парадигм в развитии технологий искусственного интеллекта сегодня является концепция социального искусственного интеллекта, в которой сами системы, разрабатываемые при помощи технологий искусственного интеллекта, предназначены для усиления как раз человеческих способностей. Собственно, вот та парадигма, которая была заложена еще в 1960-е гг. во время Энгельбарта, что мы создаем машины, которые делают человека сильнее, сильнее в интеллектуальном плане, и, как говорится, нет машины лучше и человека лучше, чем человек с машиной, то есть такой своеобразный железный человек – это скорее тот идеал развития современных технологий, вовсе не Терминатор, а такие гетерогенные системы, в которых машины и человек сотрудничают, за счет этого достигается совершенно новое качество принятия решений. И в этом смысле в системе государственного управления, конечно, это одна из областей…

Иван Князев: …где не помешало бы, да?

Сергей Марков: …где перерабатывается огромное количество информации, да, где, значит, скажем, обеспечение беспристрастности за счет применения алгоритмов…

Ольга Арсланова: Например, в судебной системе.

Сергей Марков: Это довольно привлекательно.

Ольга Арсланова: При принятии каких-то судебных решений. У нас же говорят, что…

Иван Князев: Ну ладно, ты хочешь, чтобы компьютер судил человека?

Сергей Марков: Ну если это… Кстати говоря…

Ольга Арсланова: Почему нет?

Иван Князев: Ну не знаю.

Ольга Арсланова: Независимая будет зато ветвь власти, возможно.

Иван Князев: Да ну. У нас половина решений выносится интуитивно иногда.

Ольга Арсланова: Есть законы, алгоритм… Ну как это, есть же законы.

Иван Князев: Даже вопреки всем доказательствам.

Сергей Марков: Закон, кстати говоря, ведь и есть попытка создать алгоритмы, которые будут, значит, максимально объективны и будут принимать…

Ольга Арсланова: Да-да, самое объективное судопроизводство.

Сергей Марков: …во внимание только те факторы, которые являются значимыми.

Иван Князев: Но это когда хороший случай, где все понятно, а где, понимаешь, все доказательства против тебя, а судья опытный, он сердцем чует.

Ольга Арсланова: Ах, вот как, сердцем чует.

Иван Князев: Ну бывает… Нет, я против этого.

Сергей Марков: Бывает, и кошельком.

Ольга Арсланова: Да, чем чует у нас, большой вопрос.

Иван Князев: Хорошо. Если еще о практическом применении, операции может делать искусственный интеллект?

Ольга Арсланова: И делает уже.

Иван Князев: Делает.

Сергей Марков: Ну вот штука в том, что полностью автоматизированных операций, конечно, нет, но машины выступают в качестве таких очень серьезных ассистентов при выполнении сложных манипуляций. Скажем, роботизированный комплекс «da Vinci», который с успехом используется во всем мире и, кстати, у нас в стране тоже для проведения сложных операций, то есть машина способна, например, выполнять какие-то очень тонкие хирургические манипуляции, срезать буквально один слой клеток. Там, где раньше при проведении операции нужен был десяток ассистентов, сегодня машина в состоянии сделать то же самое гораздо лучшее, точнее и, что важно, предоставить новые возможности, которых раньше в принципе не было у хирурга, например. Но здесь вообще очень часто, когда…

Иван Князев: Она, наверное, дорогая, да? Извините, перебил.

Сергей Марков: Да, это достаточно дорогие комплексы. Но опять же технологии совершенствуются и становятся более доступными в силу этого. Вообще когда начинаются споры о том, где можно применять технологии искусственного интеллекта, где их нельзя применять, очень часто действительно не взвешивается другая сторона, а во что нам обойдется, если мы не будем применять здесь технологии искусственного интеллекта, что если мы оставим здесь по-прежнему человека. Иногда это связано действительно с гораздо бо́льшими рисками.

Ольга Арсланова: По крайней мере с отсутствием прогресса как минимум.

Сергей Марков: Да.

Ольга Арсланова: Давайте посмотрим на роботов все-таки, или агентов, носителей искусственного интеллекта, которых делают в Перми. Что они уже умеют? Посмотрим. Отечественный производитель их сделал.

СЮЖЕТ

Ольга Арсланова: Во Владимирской области первый робот в отеле стал работать на днях с реализованной системой check-in, может паспорт зарегистрировать.

Иван Князев: Друзья, но ведь это, наверное, страшно такого «кадра» в банке встретить? Я знаю, что проводились исследования по поводу того, чтобы не производить антропоморфных роботов, чтобы они были похожи на человека, потому что…

Ольга Арсланова: А что страшного-то?

Иван Князев: Мы еще пока не готовы такого встретить.

Ольга Арсланова: Есть люди некоторые страшнее, я хочу сказать.

Сергей Марков: Есть такое понятие зловещей долины…

Иван Князев: Да-да.

Сергей Марков: …когда робот не похож на человека совсем, он воспринимается нормально.

Иван Князев: Ну железяка и железяка, а тут вообще…

Сергей Марков: Да.

Ольга Арсланова: А у него, кстати, и голос не совсем человеческий поэтому? Ведь можно же обычный сделать.

Иван Князев: Почему не человеческий? Озвучивал известный…

Ольга Арсланова: Нет-нет, он же может говорить как нормальный человек, но тогда будет еще страшнее.

Роман Душкин: Да.

Сергей Марков: На самом деле машины имеют сейчас говорить голосом, не отличимым от голоса человека, как раз с конца 2016 года началась такая большая революция в области синтеза речи. Моя команда, в частности, работала в свое время над тем, чтобы воспроизвести голос Иннокентия Смоктуновского, и мы научили нейронную сеть говорить его голосом. В этом плане машины как раз, вполне творческих профессий вполне продвинулись за последние полдекады. Поэтому я думаю, что человечество…

Вот постоянно люди повторяют, что машины не могут решать творческие задачи, это вот такой своеобразной стало мантрой, так же как на протяжении, не знаю, многих десятилетий говорили, что машины никогда не обыграют человека в ГО. Я думаю, что здесь ждет много сюрпризов нас в ближайшие десятилетия.

Иван Князев: Ну ГО – математическая игра, понимаете, а вы попробуйте написать «Евгения Онегина».

Ольга Арсланова: А кстати…

Роман Душкин: Легко.

Иван Князев: В том-то и дело, что…

Ольга Арсланова: Давайте поговорим об этом. Считается, что наши эмоции, наши импровизации, а по сути это результат высшей нервной деятельности…

Роман Душкин: Нет.

Ольга Арсланова: Ну все равно наш мозг и есть мы все-таки.

Роман Душкин: Ну это да, но эмоции – это не высшая нервная деятельность.

Ольга Арсланова: Ну а как?

Роман Душкин: У животных есть эмоции, а у растений и бактерий есть протоэмоции.

Ольга Арсланова: Что там такого… Но у них есть мозг тоже?

Роман Душкин: Нет, ну растений нет.

Ольга Арсланова: Нет, подождите, у растений есть эмоции?

Роман Душкин: Протоэмоции.

Ольга Арсланова: Ну назовем это так.

Роман Душкин: Ну смотрите, когда…

Ольга Арсланова: Но есть ли что-то, что не может искусственный интеллект повторить из того, что может человек?

Роман Душкин: Ну да, эмоциональный ответ – это очень сложная сфера, тем не менее сегодня ведутся уже исследования в этой области, потому что эмпатичный когнитивный агент есть в том числе то, что нам нужно для сферы социальных услуг. Дело в том, что действительно есть такое понятие, как зловещая долина, и робот, который очень похож на человека, очень страшный, потому что мы видим очень маленькие отличия, и мы понимаем, что это что-то не то с человеком. Он нам кажется человеком…

Ольга Арсланова: Но отличие все-таки мы чувствуем.

Роман Душкин: Да-да. А если робот будет прямо вот конкретно как человек и не отличим, то никаких проблем не возникнет, мы тут же выходим из этой долины, мы ее как бы пересекаем.

Ольга Арсланова: Ага.

Роман Душкин: И когда робот уже приближается совсем-совсем к человеку, он не кажется таким страшным, он кажется обычным человеком.

Ольга Арсланова: А такие есть, кстати?

Роман Душкин: Сегодня нет, конечно. Мы встретим другую проблему, когда мы приблизимся уже к этому решению этой задачи, когда роботы будут полностью антропоморфны, полностью дублировать функции человека, вообще являться абсолютно таким общим искусственным интеллектом, возникнет вопрос: а они являются философскими зомби, или они как люди?

Иван Князев: Это что такое?

Ольга Арсланова: То есть?

Роман Душкин: Темно ли у них все внутри, или они так же ощущают некоторое феноменологическое состояние, как вот мы с вами прямо сейчас испытываем…

Ольга Арсланова: То есть они понимают, что они живут, или не понимают?

Роман Душкин: Да, понимают ли они, что они живые. И если да…

Ольга Арсланова: …то чем они от нас отличаются.

Роман Душкин: Да, это мы встретимся с новой разумной расой фактически. А если нет, то это просто вещь, какой бы умной она ни казалась.

Ольга Арсланова: Но все-таки пока это просто вещь, которая все равно управляется человеком.

Иван Князев: Пока это просто вещь в себе.

Ольга Арсланова: Управляемая человеком.

Роман Душкин: Хотите, я расскажу прямо очень непосредственную область применения искусственного интеллекта, технологии искусственного интеллекта, которая может затронуть любого?

Ольга Арсланова: Так, интересно.

Роман Душкин: Буквально пару минут затрону. Ну вот вспомним пирамиду потребностей Маслова. На самом базовом уровне находятся самые низменные, животные потребности.

Ольга Арсланова: Поесть, поспать.

Роман Душкин: Поесть, поспать и здоровье, здоровье. Так вот мы каждый день генерируем огромное количество данных о нашем здоровье, сами того не осознавая, и все эти данные можно сохранять, наши носимые устройства сохраняют их часто. Ни один врач не может охватить весь массив данных, который мы генерируем, а ведь некоторые из этих данных могут использоваться для очень отдаленного прогнозирования серьезных патологических состояний. И если у нас будет искусственный интеллектуальный помощник, который будет ежедневно мониторить наше состояние здоровья, он может заранее, очень заранее предупредить о возникновении каких-то патологий. Вот, в частности, мое агентство сегодня консультирует стартап, российский стартап очень интересный, он называется «Время».

Ольга Арсланова: О, биотехнологический, он сегодня был у нас в эфире.

Роман Душкин: Биотехнологический стартап «Время», да, мы их консультируем. У них очень простая идея, очень достойная цель, мне кажется, прожить 120 лет, причем прожить качественно.

Ольга Арсланова: Благодаря вот этому помощнику?

Роман Душкин: Да. По-моему, это здоровская цель, и если каждый человек будет иметь такую возможность именно качественной жизни, я буду акцентировать на этом внимание, просто предоставляя искусственному интеллектуальному агенту, который всегда с ним, его как бы персональный врач, медсестра и консультант медицинский, предоставляя всю информацию о себе…Естественно, это все должно быть защищено, потому что это очень такая своеобразная информация, которой можно воспользоваться против человека. Но я не думаю, что найдется кто-то, кто откажется от такой системы, которая позволит продлить качественное существование, и это методы искусственного интеллекта, которые доступны уже сегодня.

Ольга Арсланова: По каким данным этот помощник будет определять проблемы? Что, будет ЭКГ снимать каждые 2 минуты?

Роман Душкин: Ну вообще все данные. О, ну нет, конечно, инвазивных никаких вмешательств часто не нужно делать. Например, кровь сдавать раз в полгода, не настолько болезненная операция, чтобы ее не сделать, но зато по показателям крови можно выявить какие-то надвигающиеся патологии.

Ольга Арсланова: Ну хорошо, вот человек установил себе этого помощника и по литру водки каждые 2 дня выпивает.

Иван Князев: Ну и ему спрогнозируют соответственно…

Роман Душкин: Спрогнозирует, конечно.

Иван Князев: …что через полгода он станет алкоголиком.

Ольга Арсланова: А он что, это увидит, что ли? Как он это?

Роман Душкин: Нет, конечно, человек тоже должен будет принимать участие в этой процедуре, вводить какую-то информацию, вести дневник своего здоровья и так далее. Естественно, конечно, человек, который не хочет заниматься своим здоровьем, ему и такой помощник не нужен. Но если человек, допустим, топ-менеджер крупной корпорации, который знает себе цену, естественно, он следит за своим здоровьем.

Иван Князев: Да ну, это не жизнь тогда получается, каждый раз будут говорить «здесь ты это», «здесь ты ешь салат», «здесь ты кури», «здесь это»…

Ольга Арсланова: Да это и без помощника можно узнать.

Роман Душкин: Хорошо, а хотите еще один пример? Вот мы упомянули топ-менеджера крупной корпорации. Люди стареют, люди, к сожалению, умирают, и человек, когда уходит с поста крупной корпорации, который там проработал, допустим, десятки лет и знает все досконально, корпорация теряет очень много, теряет его жизненный опыт, теряет его опыт принятия управленческих решений и так далее.

Ольга Арсланова: А можно оцифровать?

Роман Душкин: А можно оцифровать, и тогда в совете директоров будет сидеть чат-бот. Ну не чат-бот, а как бы…

Иван Князев: Стива Джобса, интересно, оцифровали или нет.

Ольга Арсланова: Не успели, наверное.

Роман Душкин: Нет, не успели, к сожалению, нет. И в совете директоров этой компании будет сидеть цифровое альтер эго человека, которого, может быть, уже нет в живых, и весь его опыт использоваться для принятия дальнейших решений и принятия стратегических решений развития корпорации.

Ольга Арсланова: Сергей, оцифровать человека и сделать его таким образом бессмертным, перенести всю информацию после смерти андроида – это совсем фантастика, никогда такого не будет?

Сергей Марков: Ну, здесь рано или поздно, конечно, это, скорее всего, можно будет сделать. Сейчас пока что проблема заключается в том, что человеческий организм, человеческий мозг – это очень сложные машины, пока находящиеся далеко за пределами возможностей наших технологий. То есть вот представьте себе, мозг стоит из 86 миллиардов нейронов и примерно квадриллиона связей между ними. Каждая связь между ними – это не просто проводочек, это тоже сложная машина, состоящая из тысячи молекулярных триггеров.

Иван Князев: Ага.

Сергей Марков: Это находится сейчас далеко за пределами нынешних технологий. Чтобы нам симулировать работу нейронной сети, похожей на человеческий мозг по своему размеру, там в начале нулевых годов были такие эксперименты, вот на симуляцию одной секунды работы такой сети требовались более 50 дней расчетов на целом вычислительном кластере.

Роман Душкин: Одной нейроколонки, по-моему.

Сергей Марков: Нет, это симуляция как раз квадриллиона синапсов на кластере «Beowulf» в начале нулевых годов…

Ольга Арсланова: Все, мы…

Иван Князев: Мы потерялись.

Ольга Арсланова: Наш искусственный интеллект отключился на этом, так что…

Сергей Марков: В общем…

Ольга Арсланова: В общем, это очень и очень сложно.

Сергей Марков: В общем-то, пока что да, у нас нет просто таких машин, которые могли бы симулировать те процессы, которые происходят в человеческом мозге, но тем не менее мы постепенно создаем вот такие системы, которые являются своеобразными цифровыми аватарами, то есть мы умеем воспроизводить голос человека, мы сейчас создаем модели, которые моделируют мимику человека, его жесты и так далее, и так далее. То есть в принципе в ближайшие несколько лет эти системы, которые смогут… Как, помните, у Стругацких в «Понедельник начинается в субботу» были дубли, что можно было вместо себя оставить дубля на выполнение какой-нибудь рутинной задачи…

Ольга Арсланова: Да даже в детском фильме «Приключения Электроника» что-то похожее, за него учился.

Сергей Марков: Вот. Для выполнения примитивных, каких-то рутинных, однообразных задач да, то есть выполнить секретарскую функцию, записать тебя, позвонив твоему парикмахеру, значит, в парикмахерскую, в салон красоты, или забронировать тебе столик в ресторане, или ответить какому-нибудь назойливому рекламщику, какому-нибудь другому роботу, который звонит тебе на телефон и хочет тебе «втюхать» какую-нибудь ненужную тебе услугу, твой виртуальный ассистент будет снимать трубку и понимать, что это то, что не нужно тебе передавать… То есть вот эти технологии – это технологии, которые уже существуют в лабораториях и постепенно начинают широко тиражироваться в индустрии.

Иван Князев: Еще один звонок у нас есть, Виктор, Чувашия.

Ольга Арсланова: Добрый вечер.

Иван Князев: Добрый вечер, Виктор.

Зритель: Добрый вечер. Очень интересный разговор, вы затронули очень интересную тему. И мне хотелось бы задать такой вопрос. А вот вы не считаете, что проект искусственного разума уже существует и он уже давно внедрен? Я поясню, что я сейчас имею в виду. Вот если мы вернемся в 1990-е гг., мы были в Советском Союзе, перешли мы теперь в другой строй, у нас демократия, но поменялись условия жизни.

То есть я что хочу сказать? Сегодня правят миром не технологии, а экономика. Экономика что диктует, то и получается между странами. В тот момент, когда США сегодня имеет колоссальный госдолг в 19 триллиардов долларов, вам не кажется, что это сбой системы сегодня? И определение жизни людей и народов сегодня присутствует на бирже экономической, и считают это все машины.

Ольга Арсланова: Мне кажется, вообще другая тема… А, вот.

Иван Князев: Ну это из серии, Матрица дает сбой или нет.

Роман Душкин: Мне нравится, когда звонят зрители на любую передачу и начинаются такие вот всякие политические замороченные темы. Я не знаю, даже не знаю, отвечать на этот вопрос или нет.

Сергей Марков: Нет, ну технологии являются частью производительных сил, в этом смысле они являются частью экономики, более того, они являются ее фундаментом, что называется.

Ольга Арсланова: Сегодня это фундамент по большому счету.

Сергей Марков: Ну по большому счету так было и всегда, но раньше это была паровая машина, а сегодня это другие технологии. А то, что мир дает сбой, это на самом деле такое интересное… Оно, может быть, бытовое наблюдение, но на самом деле, если задуматься…

Вот смотрите, человечество накопило гигантские объемы цифровых данных сейчас, и мы знаем, что каждые 2 года объемы этих данных увеличиваются в 2 раза примерно. Это значит, что вообще каждый год новой жизни человечества радикальным образом не похож вообще на всю нашу предыдущую историю. У нас каждое как бы мгновение нашей жизни – это в некоторой мере такой сбой в программе, потому что у нас становится довольно мало в прошлом такого опыта, на который мы могли бы опереться. Мы постоянно вступаем вот в этот новый мир, в котором мы действительно в какой-то степени потеряны.

И вот неслучайно у многих людей, как мне кажется, создается такое своеобразное ощущение какого-то сбоя, который происходит. Мы действительно за счет быстрого развития технологий вступили в такую зону турбулентности, мы не знаем, каким мир будет через год, два, пять и так далее, трудно на что-то опереться.

Ольга Арсланова: И здесь очень много опасений, трясет в этой зоне: «Вы о чем? Давайте жить реальной жизнью: женщины пусть рожают детей, в школах пусть будет обучение, а не самообучение», «Все уже перевели на «цифру», вы что, с ума сходите?», «Зачем это нужно? Люди перестанут общаться». В общем, чего опасаются? – опасаются деградации гуманизма, отношений между людьми наши зрители.

Роман Душкин: Ой, ну я вас умоляю. Сегодня люди, новое поколение имеет намного больше возможностей для общения, чем наши отцы и деды. Ну вот взять моего деда, он 80 лет прожил в своей деревне, в глуши тамбовской, и чего он видел там? Ничего не видел. А сегодня мой ребенок общается с любой точкой мира за секунду. Ну о чем мы можем сейчас говорить?

И вот эти все заплачки старые: «Ой, технологии…», «Ой, ну что это такое?» Всю жизнь, всю мировую цивилизацию, все время существования мировой цивилизации жизнью управляла экономика и только она, экономические отношения как рациональные взаимодействия между рациональными агентами экономических отношений – это то, что было со временем Древней Греции и еще раньше. Ведь греческое слово «экономика» обозначает управление домашним хозяйством. Поэтому о чем тут можно говорить? Ну конечно, экономика управляет нашей жизнью и ничто другое.

Иван Князев: Есть несколько интересных вопросов. Москва: «Искусственный разум подвержен кибершизофрении и кибердеменции»?

Ольга Арсланова: Ха-ха-ха.

Иван Князев: А вдруг он действительно с ума сойдет?

Ольга Арсланова: Сойдет с ума и уничтожит людей.

Иван Князев: Или он такой…

Ольга Арсланова: Забудет, кто создал его.

Сергей Марков: Вы понимаете, это вопрос из серии, актуальна ли проблема перенаселения Марса.

Ольга Арсланова: Есть ли бог на Марсе.

Сергей Марков: Ну, когда-нибудь мы, наверное, полетим на Марс, когда-нибудь создадим там колонию, возможно, начнем терраформирование, там будет увеличиваться население, и вот тогда мы столкнемся с проблемой перенаселения Марса.

Ольга Арсланова: То есть мы далеки примерно на столько же?

Сергей Марков: У нас нет пока универсальных систем искусственного интеллекта, которые сопоставимы с человеческим разумом. Дефекты в системах искусственного интеллекта, конечно, возможны, как и в любых технологических системах.

Ольга Арсланова: Этические вопросы существуют? Если агент, как там, агент разума…

Роман Душкин: Когнитивный агент.

Ольга Арсланова: Если когнитивный агент начнет работать, будет ли он платить налоги, будут ли соблюдаться его трудовые права? Что с ним можно будет делать? То есть есть ли какое-то этическое отношение?

Иван Князев: А если он убьет кого-нибудь, можно ли будет наказать?

Ольга Арсланова: Или человек его ударит, использует для каких-то там грязных целей?

Роман Душкин: Очень хороший вопрос. Как раз сегодня, поскольку тема искусственного интеллекта – это такая междисциплинарная тема, более 70 лет в ней правили исключительно математики, кибернетики и техники, то сегодня в нее стали входить лучше гуманитарной направленности, как раз стали подниматься вот эти вопросы. И одно из направлений дискуссий в рамках вот этого обсуждения – это то, должны ли быть у искусственных когнитивных агентов какие-то права. Вот я, например, говорю в этих дискуссиях, что да, должны, например.

Ольга Арсланова: Должны? Но подождите, а у телевизора есть права? Или у компьютера?

Роман Душкин: Ну давайте не телевизор, давайте так скажем…

Ольга Арсланова: У смартфона?

Роман Душкин: Искусственный интеллектуальный агент – это техническая система, которая обладает двумя свойствами: автономность и адаптивность. Автономность – это то, что она самостоятельно принимает решения, никто за ней не стоит. Телевизор самостоятельно не принимает решения, человек включает его кнопкой. А когнитивный агент, искусственный интеллектуальный агент самостоятельно принимает решение.

Ольга Арсланова: Но его же человек может выключить.

Роман Душкин: Ну да, сейчас мы до этого дойдем.

Ольга Арсланова: Да, хорошо. Ограниченная автономность.

Роман Душкин: И адаптивность – это значит, что он подстраивается к своему окружению, он адекватно реагирует в тех ситуациях, которых не было во время его обучения. В частности, автономный автомобиль. Примем такую точку зрения, сейчас вот как бы априорно, что автономный автомобиль никому не принадлежит, это не вещь чья-то, он сам по себе, и он возит людей из точки А в точку Б, он оказывает услуги. Ему за это платят, ну как, мы же платим таксистам. Мы вызываем такси, приезжает автономный автомобиль, мы туда садимся, он довозит нас от дома до работы, и мы ему платим за это, да? Вот куда идет эта сумма денег?

Ольга Арсланова: Его владельцу платим?

Роман Душкин: Нет, у него нет владельца.

Иван Князев: Нет владельца, сам по себе.

Ольга Арсланова: А кто зарегистрировал его ИП?

Роман Душкин: Мы как бы априорно приняли, что владельца у него нет.

Иван Князев: Налоги с него точно заберут.

Роман Душкин: Он сам по себе.

Ольга Арсланова: Ну как? Откуда он возник? Кто его породил?

Роман Душкин: Он уже субъект права, он уже субъект и он получает за свою работу деньги, и поэтому у него возникают права. Нельзя воздействовать на его информационную начинку, то есть должна быть информационная безопасность, должно быть право физической неприкосновенности, и у него также возникает ответственность. Если он что-то там «накосорезит», собьет кого-нибудь или инфраструктуру дорожную нарушит, он должен за это ответить. Самое главное…

Иван Князев: Ой, работы…

Ольга Арсланова: Заплатить.

Роман Душкин: Ну, он может заплатить штраф, потому что он его заработал, либо можно…

Иван Князев: Работая российским таксистом, мне кажется, он вообще пожалеет, что он на свет появился.

Роман Душкин: Ну как минимум есть такая точка зрения.

Иван Князев: Скажите, пожалуйста, вот вы говорите, обсуждают – обсуждают ли всякие моральные аспекты этой проблемы? Ну, знаете, религиозные люди сейчас могут спросить, искусственный разум, а мы акт творения…

Ольга Арсланова: Их не спросят, наверное, просто?

Роман Душкин: А искусственный разум не акт творения?

Сергей Марков: К сожалению, обсуждают.

Роман Душкин: Да, Сергей, я вот задам вам вопрос как коллега коллеге: искусственный разум – это не акт творения?

Иван Князев: Во всяком случае не божественный, хотя не знаю.

Ольга Арсланова: Все относительно.

Сергей Марков: Мы довольно далеки от искусственного разума, приближенного к людям. Люди, конечно, очень любят те проблемы, которые у них в обществе есть, переносить на… «Барин, роботы взбунтовались». – «Почему бунтуют?» – «Потому что они протестуют против того, чтобы мы использовали их как аллегорию наших отношений в нашем обществе». Люди еще в 1950-е гг. создавали человеческие зоопарки, когда представителей одной расы сажали, а представителей другой расы в зоопарках показывали. Вот у нас на самом деле очень много таких болезненных, травматических вещей происходило за последнее столетие, и мы, конечно, неизбежно, когда начинаем обсуждать проблемы, связанные с развитием технологий искусственного интеллекта, у нас вот эта вот боль начинает из нас изливаться, мы начинаем ее тащить и сюда.

И на самом деле это делает немножко злую шутку с нашей отраслью, потому что там на самом деле есть определенные этические проблемы, они просто носят немножко другой характер. То есть, грубо говоря, проблема, например, цифрового тайного суда так называемого…

Ольга Арсланова: Если можно, коротко.

Сергей Марков: Вот вы идете устраиваться на работу, машина принимает решение, принимают или не принимают вас на работу, например. Это действует на вас примерно как вердикт суда по силе, но в суде у вас есть адвокат, есть право доступа ко всем данным, собранным о вас, и так далее, есть право защищать себя и так далее, а вот здесь нет. То есть алгоритм принял решение в отношении вас, по силе влияния оно похоже…

Ольга Арсланова: Но с него не спросишь.

Сергей Марков: Да, но с него не спросишь.

Иван Князев: Спасибо.

Ольга Арсланова: Спасибо.

Иван Князев: Спасибо вам большое. Сергей Марков был у нас в гостях, специалист по машинному обучению и искусственному интеллекту, и Роман Душкин, директор по науке и технологиям «Агентства Искусственного Интеллекта». Спасибо вам, уважаемые гости.

Сергей Марков: Спасибо.

Роман Душкин: Спасибо.

Авторизуйтесь, чтобы быстро и удобно комментировать
Авторизуйтесь, чтобы быстро и удобно комментировать
Комментарии (0)

Выпуски программы

  • Все видео
  • Полные выпуски