Сергей Марков: Как научить робота сочувствовать?

Гости
Сергей Марков
директор по информационным технологиям финансовой компании «АктивБизнесКоллекшн»

Ольга Орлова: В 1950 году английский ученый Алан Тьюринг в статье "Вычислительные машины и разум" задался вопросом: "Может ли машина понимать человека?". Так родился знаменитый тест Тьюринга, в котором компьютер пытался обмануть людей. Но как компьютер понимает человека и чего он пока понять не может? Об этом по гамбургскому счету мы решили спросить специалиста в области машинного обучения, директора информационных технологий компании "Activebusinesscollection" Сергея Маркова. Здравствуйте, Сергей. Спасибо, что пришли к нам в программу.

Сергей Марков: Добрый вечер.

Сергей Марков. Родился в 1980 году в Орле. В 2002 году окончил Орловский государственный технический университет по специальности "Информационные системы в экономике". В 2005 году окончил аспирантуру при кафедре Высшей математики Орловского государственного технического университета. С 1999 года занимается разработкой систем искусственного интеллекта. Разработчик шахматной программы "SmarThink" – чемпиона России среди шахматных программ в 2004 году.

С 2013 года – руководитель IT-подразделения компании "Activebusinesscollection". Одна из специализаций – разработка систем машинного обучения и искусственного интеллекта в сфере управления банковскими проблемными активами.

О.О.: Сергей, вы специалист по машинному обучению. Обучаете машину. Многие футурологи, визионеры, в том числе даже те, кто побывал в этой студии, как правило, рассказывают нам о чудесных изменениях в нашей жизни, которые произойдут с нами, когда можно будет машину научить делать почти все. Однако инженеры, разработчики, ученые, те, кто вплотную занимаются этим, они звучат более осторожно, а иногда и пессимистично. Плюс есть еще третья группа людей, которые вообще в это не вовлечены – это обыватели, простые люди, такие как мы, журналисты, и люди, не причастные к этому прекрасному процессу – все эти люди боятся. Они боятся того, что произойдет. Расскажите, вы как специалист по машинному обучению оптимист или более осторожный человек в этом вопросе?

С.М.: Я бы старался занять тут такую трезвую позицию, сказать, что в принципе наши мечтания о создании универсального искусственного интеллекта не за горами. Есть определенные причины для того, чтобы быть осторожными оптимистам в этом смысле, но и рассчитывать, что с достаточной степенью уверенности мы такую систему сможем создать на границе 2020-2030-х годов.

О.О.: Когда вы говорите "на границе", речь идет именно об универсальном искусственном интеллекте?

С.М.: В науке ведь очень часто используется такой подход, как бионика. Когда у науки нет какого-то готового решения, она стремится подсмотреть в природе. Может быть, в природе есть что-то похожее. А в природе есть естественный интеллект. Мы пытаемся использовать данные нейрофизиологии, данные ученых, которые работают с человеческим организмом, с человеческим мозгом, использовать их результаты, для того чтобы попробовать в железе воспроизвести какое-то подобие естественного интеллекта.

Но, с другой стороны, за счет того, что современные компьютеры очень сильно от мозга отличаются по своей архитектуре, по своему фундаментальному внутреннему устройству, оказывается, что в решении некоторых задач мы уже обогнали человека достаточно далеко. Компьютеры, например, довольно уверенно обыгрывают человека в любые настольные игры. На сегодняшний день даже включая го, которое считалось на протяжении многих лет чуть ли не философским камнем искусственного интеллекта.

А, с другой стороны, в решении других задач мы пока что человеческого уровня не достигли даже близко, или, по крайней мере, топчемся где-то на грани паритета, как, например, задачи распознавания речи. То есть в отдельных экспериментах вроде бы машины последние годы демонстрируют результаты даже иногда превосходящие уровень распознавания речи людьми, но, тем не менее, какого-то гигантского лидирования искусственного интеллекта в таких задачах еще нет. Поэтому здесь в основном все ориентируются на тот момент, когда в соответствии с существующими тенденциями развития производительности тех машин, которые мы создаем, мы сможем создать машину, которая будет сопоставима с человеческим мозгом по своей брутто-вычислительной мощности.

О.О.: Что является в реализации этой задачи камнем преткновения? Какая вообще главная проблема в создании такого рода искусственного интеллекта?

С.М.: Вообще человеческий мозг – на самом деле чрезвычайно сложное и большое вычислительное устройство, как это ни странно. Большое с точки зрения вычислительных элементов, которые в нем присутствуют. Мозг человека в среднем состоит из 86 млрд нейронов. И в коре взрослого человека 150 трлн синапсов. Синапс – это не просто точка контакта между двумя нервными клетками, а сложная вычислительная система сама по себе, эквивалентная тысяче транзисторов. Если перемножить эти два числа друг на друга, получится количество транзисторов, которое во много раз превосходит количество элементов в электронных машинах. Правда, электронные машины, конечно, быстрее. То есть и рабочие частоты современных процессоров достигают 8 ГГц, даже превосходят этот порог. А у мозга этот показатель довольно скромный – 1 кГц. Но, тем не менее, даже если спекулятивно домножить один показатель на другой, все равно получается, что современным машинам одного-двух порядков (это очень грубая, заранее извиняюсь перед всеми буквоедами оценка) нам пока не хватает по брутто-вычислительной мощности.

И поэтому те способы решения многих задач, которые мы используем – это такой способ выкроить больших 7 шапок из овцы. То есть наши электронные машины пока что меньше, чем мозг, и более примитивны. Но мы придумываем какие-то хитрые алгоритмы, какие-то способы, чтобы все-таки из подручных средств собрать какое-то решение, которое будет эффективно ту или иную интеллектуальную задачу решать.

О.О.: Смотрите, Илон Маск довольно часто делает такие прогнозы, вбросы в общество. Общество потом начинает это все осмыслять, возбуждаться и переживать по этому поводу. И он уже предрек, что через 10 лет произойдет слияние живого сознания и компьютера.

С.М.: Это отдельное направление важное. На мой взгляд, как раз это направление станет мейнстримом технологий. Все проекты по созданию универсального искусственного интеллекта самого по себе, как вещь в себе, они так и останутся проектами академическими. Потому что доверить универсальному искусственному интеллекту принятие каких-то важных решений, во-первых, опасно, во-вторых, мы сейчас за счет специализации многие интеллектуальные задачи решаем лучше, чем их решает универсальная система. То есть пример тех же шахмат. Машина, гораздо более примитивная чем мозг, но обыгрывает человека.

О.О.: Получается, мы несколько противопоставляем очень умную машину локальную… Например, мы создаем много-много машин, которые умеют решать много-много разных специальных, отдельных задач. И мы двигаемся сейчас в этом направлении.

С.М.: Да. Успехи последних лет – это в основном успехи в сфере создания прикладных систем искусственного интеллекта, которые эффективно решают те или иные интеллектуальные задачи, которые долгое время оставались нерешаемыми при помощи тех инструментов, которыми мы обладали.

Например, задача распознавания образов, задача распознавания изображений. Очень большой прогресс был связан с появлением сверточных нейронных сетей, которые позволили сделать 2-3 шага вперед по сравнению с тем уровнем, на котором наука топталась долгое время.

О.О.: Появились беспилотники благодаря тому, что у нас есть хорошая система распознавания образов.

С.М.: Да. Мы можем решать очень многие задачи, которые раньше просто не решались. Они были задачами именно научными. А сейчас они стали задачами инженерными.

О.О.: Перешли ли мы уже к инженерным задачам, если говорить именно о совмещении сознания и робота? Или здесь мы еще до инженерных задач не добрались?

С.М.: Здесь, вообще говоря, в задаче создания интерфейса "машина-мозг" есть на самом деле очень серьезный прогресс. Но он идет параллельно с развитием систем искусственного интеллекта. То есть, скажем, на сегодняшний день уже никого не удивляют аппараты для искусственного слуха, которые преобразуют звуковой сигнал и передают его непосредственно в слуховой нерв человеческого мозга, аппараты искусственного зрения, которые, пусть с маленьким разрешением, но передают картинку с камеры, опять же, непосредственно в мозг человека. Большой прогресс в создании автогенетических интерфейсов так называемых. Это вообще на самом деле такая технология, почти неразличимая с магией, когда биотех смыкается с вычислительными системами. При помощи вирусных векторов модифицируются нервные клетки, и там выращиваются фоторецепторы.

О.О.: Подождите. Поясните.

С.М.: Смотрите, мы берем стрекозу, например, и вводим ей в мозг вирусный вектор – ретровирус, который определенным образом модифицирует ДНК клеток нервной системы стрекозы. И в определенном участке, куда мы вводим этот вирус, клетки меняются, и на них возникают фоторецепторы на основе белка родопсина. То есть это фактически дополнительные фоторецепторы, новый глаз мы, грубо говоря, вырастили где-то в мозге стрекозы. Затем мы подводим туда тонкий-тонкий световод и по нему начинаем передавать импульсы, светя на эти клетки. Соответственно, сигнал напрямую передается в нервную систему стрекозы, и таким образом можно сделать радиоуправляемую стрекозу, на которую еще навесить какую-то полезную нагрузку. Вот такой проект в начале этого года был продемонстрирован в США. Соединение электронных систем с живой тканью – это прямой путь к созданию таких систем синтетического интеллекта.

В этом смысле очень интересно, что природа нам тоже подбрасывает такие подсказки и обнадеживающие знаки. Есть уникальный случай двух сестер-краниопагов Кристы и Татьяны Хоган. Краниопаги – это сиамские близнецы, которые срослись головами.

О.О.: Да, это очень редкий случай.

С.М.: И еще уникальность их случая более высокая, потому что они срослись не просто головами, но и мозгами. То есть между мозгами этих сестер образовалась такая структура, которую нейрофизиологи назвали "таламический мост". И вот при помощи этой системы эти сестры, оставаясь каждая из них независимой личностью, то есть сохраняя свои привычки, свои вкусы и так далее, они могут обмениваться информацией. Это в принципе показано в простых экспериментах. Допустим, когда их разделяют ширмой, одной сестре показывают что-то, другая может рассказать, соответственно, получить информацию без слов. И в этом смысле, конечно, мы представляем себе, что подобная технология, когда она будет воспроизведена именно технологически, позволит нам с машинами обмениваться информацией напрямую. То есть художник будет представлять картину мысленно, и она будет передаваться в машину, которая будет ее уже воспроизводить, тиражировать, позволять доработать каким-то образом. Или, например, запись сновидений. Или, скажем, сейчас мы со своим телефоном взаимодействуем через кнопки, через голосовой интерфейс. Тут будет возможность подать мысленную команду, выполнить какую-то операцию, посчитать, например, и мысленно вернуть результат этого расчета.

О.О.: Смотрите, мы беседуем всего 10 минут. И вы из реалиста за 10 минут превратились в визионера и футуролога, который обещает нам какие-то страшные совершенно вещи – управляемых животных, запись сновидений и так далее. И, тем не менее, у меня сейчас есть соблазн, конечно, уйти в эту сторону и просить вас развеять страхи перед будущим и так далее, но я не буду, потому что вы инженер, вы решаете конкретные задачи. Я вас спрошу про сейчас. Чем вы сейчас занимаетесь? Вы руководите разработками в финансовой компании. И у вас есть локальные задачи, связанные с искусственным интеллектом. Давайте расскажите о них.

С.М.: На самом деле в какой-то мере и в финансовой индустрии, и вообще, наверное, и более широкие сферы человеческой деятельности внезапно открыли для себя возможности систем искусственного интеллекта, машинного обучения. В принципе давно было известно, что были более-менее фиксированные методы решения тех или иных задач, но как-то никто особенно всерьез не задумывался над тем, что это можно сделать, что эти методы можно применить и получить результат. У нас довольно прозаичная задача на самом деле – мы автоматизируем работу оператора кол-центра. Оператор кол-центра в принципе зачастую – это человек, который низведен до положения робота. Его общение с клиентом происходит по сути внутри какого-то довольно замкнутого скрипта, там довольно мало вариантов общения.

О.О.: Очень строгий алгоритм разговора.

С.М.: То есть заранее у оператора есть обычно скрипт, за границы которого он просто даже не имеет права выходить по самым разным причинам.

О.О.: И как-то сразу возникает соблазн. Если это все так прописано, то не заменить ли человека машиной.

С.М.: Конечно. Почему долгое время такие решения не появлялись и не внедрялись? Потому что как раз были задачи когнитивные, которые хорошо решать не умели. Задача распознавания речи, задача синтеза речи. Ну, и задача определять интенцию. То есть человек сказал нам какую-то фразу. Допустим, мы можем заранее придумать разные варианты ответа человеком на тот или иной вопрос, но все равно все варианты мы не предусмотрим. Все равно люди у нас творческие, и на очередной вопрос робота человек найдет способ ответить что-то другое. Поэтому нужна какая-то модель, которая, услышав эту фразу, сможет все-таки попробовать догадаться, куда дальше по скрипту общения должен робот идти. И вот оказалось, что за последние годы такие модели возникли для решения как первой задачи, как второй задачи, так и третьей задачи. И вот в этом смысле задача тут же превратилась из научной в инженерную, потому что в принципе в лабораториях было показано, что это работает. И теперь задача инженера – взять публикации этих ученых, которые отчитались о своих экспериментах, о том, какая именно архитектура нейронных сетей была выбрана, какие обучающие массивы, какие параметры модели и так далее. Взять, попробовать создать свой обучающий сет, взять, попробовать воспроизвести эту работу в таких уже суровых условиях. Мы занимаемся этой работой. И в принципе мы достигли определенных успехов. И сейчас уже часть коммуникаций, которые в кол-центре происходят, они происходят в полностью автоматизированном режиме.

О.О.: Я знаю, что Дмитрий Завильгельский (режиссер, который снимает научно-популярные фильмы, его фильмы шли и в эфире нашего канала - "Химики", "В ожидании волн и частиц") снимает фильм как раз с вашим участием, и в том числе и снимал ваш центр, то есть он показывал, как вы работаете.

СЮЖЕТ

О.О.: И что, действительно есть шанс научить роботов сочувствовать?

С.М.: Я думаю, что есть. Почему нет? В конечном счете, перед нами стоит задача в том числе понимать те эмоции, которые окрашены, слова, которые говорит человек. Это ведь важно. Эти эмоции имеют важное значение для принятия правильного решения. На самом деле во многом очень важны парадоксы человеческого восприятия. Мы смотрим на свою психику изнутри, находясь в этой коробке. И поэтому многие вещи мы видим совершенно по-особому. Если говорить об эффекте самосознания, то это, конечно, чрезвычайно сложное явление. У нейрофизиологов есть по этому счету неплохие, на мой взгляд, гипотезы. В эволюции в какой-то момент возникла эусоциальность, то есть организмы, которые живут группами, живут коллективами. И если организм живет в такой группе, для его выживания и успеха возникает необходимость прогнозировать, как поведут себя другие. И таким образом в психике эволюционно возникает модель другого. Как это называют, зеркальные нейроны, то есть те структуры мозга, которые позволяют нам попробовать предсказать, как другой поведет в ответ на какое-то мое действие в какой-то ситуации и так далее. И потом происходит такое короткое замыкание. Эти структуры оказываются замкнуты на себя самого. То есть возникает такое отношение к себе как к другому. И вот сознание – это такое самоотражение психики. Меня всегда завораживало это зрелище зеркального лабиринта, когда два зеркала стоят друг напротив друга, и это рождает такой бесконечный коридор. И в этом смысле наше сознание – тоже нечто подобное такому бесконечному зеркальному коридору благодаря такому очень интересному, странному стечению обстоятельств, которое в ходе эволюции возникло.

Я в целом человек материалистических взглядов. Я считаю, что никаких особых проблем у науки с решением этих вопросов не будет в конечном счете. Но на что я бы хотел обратить внимание? Очень часто, пытаясь противопоставить взгляд людей технических и взгляд гуманитариев на эту проблему, всплывает неожиданно такой момент, что людям кажется, что если мы объяснили какой-то феномен, он вдруг лишается своего сакрального ореола. Если мы что-то поняли, значит, мы больше это не уважаем вроде бы.

О.О.: То есть вы хотите сказать, что некая сакрализация души? Если мы увидим ее физиологическую основу, то душа перестанет иметь то великое значение, каким его наделяют.

С.М.: Люди этого опасаются. И когда критикуют технарей, которые посмели своими грязными руками разбираться в каких-то таких тонких материях, за этим стоит именно такой страх. А что же, если наша психика – это всего лишь набор химических, электрических процессов, то что же, теперь нет ничего святого? Нет любви, прекрасного?

О.О.: "Аркадий, ты же знаешь анатомию человеческого глаза. Откуда в ней взяться загадочности?". Мы помним, как Базаров кончил.

С.М.: На самом деле, на мой взгляд, именно ошибка вот здесь. Потому что в природе есть огромное количество вещей, которыми мы восхищаемся, огромное количество сложных явлений, которые мы в то же время понимаем или пытаемся понять. И если мы что-то поняли, от этого многие вещи становятся, наоборот, более прекрасными. Это на самом деле потрясающее чувство, когда есть какая-то загадка, которую ты долгое время не можешь решить, и потом в какой-то момент такой инсайт происходит, и ты понимаешь, как это устроено на самом деле, то есть какой хитрый и красивый механизм на самом деле создала природа. И для меня здесь нет абсолютно никакого противоречия.

О.О.: То есть вы понимание воспринимаете как откровение, которое обычный человек переживает как прекрасное чувство.

С.М.: В какой-то мере мы так устроены. Нами движет познавательная деятельность.

О.О.: Я бы хотела все-таки вернуться к фильму, в котором вы снимаетесь. Рабочее название этого фильма, посвященному искусственному интеллекту - "Пропасть". Как бы вы это прокомментировали? Это звучит очень трагично и совсем не так весело…

С.М.: Это слово очень многозначно. "Открылась бездна, звезд полна". На самом деле, конечно, человечество испытывает чувство благоговения перед бесконечностью Вселенной. И в этом смысле, когда появляются новые технологии, которые позволяют выйти за границы тех рубежей, которые до сих пор существовали для нас, и очутиться в этом неизведанном пространстве, где на самом деле перед нами открывается огромное количество альтернатив. И те альтернативы, которые мы выберем, те пути, которые мы выберем, применение тех технологий, которые мы создаем, они зависят от нас и накладывают на нас очень большой степени ответственность. И, конечно, очень легко растеряться перед этой пропастью возможностей и применить технологию во благо, а не во вред. То есть даже молоток, который в свое время создало человечество – это наверняка у многих людей того времени тоже вызывало суеверный ужас: "Ведь молоток так легко может пробить человеческую голову. Не перебьет ли человечество друг друга этими молотками и не закончит ли на этой мажорной ноте свою историю?". Поэтому в этом смысле я бы скорее название воспринимал не как страшилку. Мне кажется, что интеллектуал далек от того, чтобы спекулировать на страхах публики. Но то, что, безусловно, перед нами открываются огромные возможности и совершенно новый непознанный мир – это действительно так. И будем верить, что этот мир будет прекрасным.

О.О.: Спасибо большое. У нас в программе был специалист по машинному обучению, директор по информационным технологиям финансовой компании "Activebusinesscollection" Сергей Марков.


Подписаться на ОТР в Яндекс Дзене

Комментарии

  • Все выпуски
  • Яркие фрагменты