Мария Фаликман: Страх перед роботами имеет ту же природу, что и ксенофобия

Гости
Юлия Киселева
режиссер научно-популярных фильмов
Мария Фаликман
руководитель департамента психологии Высшей школы экономики

Ольга Орлова: Слово «роботы» впервые появилось в 1920 году. Так в пьесе Карела Чапека назывались искусственные рабочие. Тогда это был чисто художественный вымысел. За сотню лет ученые сильно продвинулись в создании искусственного интеллекта, и сегодня уже можно задуматься: если мы понемногу начнем заменять части человека на искусственные, в какой момент он станет роботом?

Именно на этот вопрос пытаются ответить участники и авторы документального фильма «Робот, я люблю тебя?», руководитель Департамента психологии Высшей школы экономики Мария Фаликман и режиссер научно-популярных фильмов Юлия Киселева.

ФРАГМЕНТ НАУЧНО-ПОПУЛЯРНОГО ФИЛЬМА «РОБОТ, Я ЛЮБЛЮ ТЕБЯ?»

Робот «Пушкин»: Какие чувства я у вас вызываю?

– Страшные.

– Не скрою, странные чувства.

– Вы вызываете чувство того, что технологии могут быть крутыми.

– Вы вызываете умиление.

– Вы немного странный, и парик на вас не очень хорошо сидит.

Ольга Орлова: Фильм «Робот, я люблю тебя?» посвящен главной, сейчас у него главная проблема в этом фильме – это вопрос, где проходит граница между роботом и человеком. И казалось бы, это очень странный вопрос, потому что до сих пор вроде бы мы себе хорошо представляли, что граница проходит там, где начинается творчество.

Мы привыкли к роботам, которые решают определенные задачи, от робота-пылесоса до робота-беспилотника. С другой стороны, там, где начинается творчество, там вроде бы роботам пока нет места, потому что робот... Творчество – это ирония, творчество – это нарушение границ, творчество – это создание новых правил, и, самое главное, творчество – это постановка самому себе новых задач. И мы знаем, роботы не шутят, роботы не придумывают, не создают новые теории ни в науке, не придумывают художественных концепций... Кажется, по крайней мере мы так думали до сих пор. Мария, я не права?

Мария Фаликман: Вот смотрите, роботы и искусственный интеллект – это все-таки немножко две соседние истории. Искусственный интеллект может быть компьютерной программой без телесной оболочки. Робот может быть механической оболочкой, механически переставляющей предметы на конвейер и обратно. И собственно говоря, сейчас все идет к тому, чтобы эти линии сошлись, но пока они этого еще не сделали. И если говорить об искусственном интеллекте, то, конечно, он развивается настолько быстро, что ученые уже боятся строить прогнозы. Вот в 1970-х гг. Хьюберт Дрейфус написал знаменитую книгу «Чего не могут компьютеры, или о границах искусственного интеллекта», назвал там некоторые вещи, которые роботам никогда не будут доступны: инсайт, интуиция. Но проблема в том, что мы все это определяем исключительно с примеркой на человека.

Ольга Орлова: Конечно.

Мария Фаликман: Человек страшно антропоцентричен, и интуицию он определяет как нахождение решения без сознательного доступа к пути решению. А что такое сознательный доступ? – упираемся к определению сознания, у науки нет определения сознания. И вот когда сейчас, буквально несколько лет назад такой португальский исследователь по имени Арлиндо Оливейра выпустил книгу под названием «Цифровой разум», он считает, что искусственный интеллект уже все может, а чего не может, то сможет, научится, потому что границы сдвигаются каждый день. И вы очень точно обозначили ту границу, которая пока не пробита, – целеполагание, постановка задач, которая требует, чтобы это было не только доступно, но и зачем-то нужно. Может быть, искусственному интеллекту уже и доступно, но самому пока не нужно.

Ольга Орлова: Хорошо. Но вот вы знаете, что в развитии человека каждого отдельно огромную роль играет мотивация. Можем ли мы говорить о том, что искусственный интеллект, что ему нужна мотивация, что он может развивать мотивацию? Вот в эту сторону он подвинулся как-то?

Мария Фаликман: Что такое мотивация? Это наличие потребности...

Ольга Орлова: Это ответ на вопрос, зачем мне это, зачем я буду мобилизовываться.

Мария Фаликман: Да, совершенно верно.

Ольга Орлова: Зачем я буду стараться, зачем я буду учиться.

Мария Фаликман: Да. Есть ли у него потребности, без которых его развитие будет невозможно? Вот младенец родился, у него уже есть потребности в пище, в питье, в том, чтобы мама подошла, взяла на ручки, поговорила, в том, чтобы показали красивую, интересную игрушку и т. д., и т. п., из этого растет вот этот вот огромный ворох человеческих мотивов, которые образуют сложную иерархическую систему, одни важнее, другие менее важные, ради чего-то там человек готов пойти на костер. Вот именно этого пока не хватает системам искусственного интеллекта: у них нет потребностей как таковых, им не нужно удовлетворять эти потребности. Что нужно, чтобы возникли потребности? – это вот вопрос, который отбрасывает нас на миллиарды лет назад, во всю историю эволюции.

Ольга Орлова: В историю эволюции человека?

Мария Фаликман: Да. Не только человека.

Ольга Орлова: Ну, на самом деле любого живого существа.

Мария Фаликман: Конечно, конечно.

Ольга Орлова: И пока этого не случилось, мы не можем говорить все-таки про эволюцию роботов?

Мария Фаликман: Мы можем говорить про эволюцию в смысле развития людьми, развития конструкторами, и здесь есть целый ряд прорывов: искусственные нейронные сети, которые не только играют в разные игры вроде Го, про которые считалось, что никогда они не будут доступны искусственному интеллекту, но и генерируют произведения искусства, стихи, картины, которые искушенный зритель уже не отличает от картин, созданных людьми-художниками. Но при этом как бы всегда есть тот, кто эту систему создает, программирует, настраивает, выводит на какой-то результат.

Ольга Орлова: Вот в таком случае откуда берется этот удивительный страх... Вот в фильме проходит тема страха перед роботами. Казалось бы, человек создает себе подобных, по своему подобию и ставит им сам задачи. Почему тогда человек так боится роботов?

Юлия Киселева: Ну, это физиологический страх. Я просто, вот даже когда мы снимали «Пушкина», у нас была маленькая комнатка и стояли камеры, мы там не присутствовали, когда он общался с человеком. Я каждый раз, когда в эту комнатку заходила, я вздрагивала. Я знала, что там сидит «Пушкин». Ну то есть люди, которые не знали, им еще, наверное, страшнее было. Я знала, что он там сидит, я с ним уже не первый день коммуницировала, с этим «Пушкиным», и все равно я все ждала, когда наступит момент, когда у меня прекратится вот это ощущение «оу», ха-ха. Потому что это на уровне физиологии, ты потому что не понимаешь, что это, кто это. Там и ребята на эту тему рассуждали – непонятно, как это воспринимать, как что это воспринимать. Как человека, потому что он похож на человека, и он может быть и предметом искусства. Если «Пушкина» привезти на выставку, поставить и какой-то концепт, какой-то образ создать, он может...

Мария Фаликман: Инсталляция, ха-ха?

Юлия Киселева: Ну я даже не знаю...

Ольга Орлова: Музей фигур мадам Тюссо, это ожившие, фактически заговорившие фигуры мадам Тюссо.

Юлия Киселева: Да. И как что, как искусство воспринимать, как робота его воспринимать? И более того, у нас все испытуемые, которые с ним общались, они не знали, что текст «Пушкина» был написан, а он был написан. И я выстроила так диалог, чтобы не было пауз, чтобы человек не мог у него что-то спросить, потому что он не ответит просто и вся картинка разрушится.

Мария Фаликман: Ха-ха.

Ольга Орлова: Рухнет замысел художника.

Юлия Киселева: Да. И практически у всех было ощущение, что «Пушкин» их слушает, что он с ними общается, что он реагирует на их ответы. Парень говорил: «Да, вот был странный момент, что я пошутил, а «Пушкин» как бы не считал эту шутку», – вот один момент.

Ольга Орлова: Потому что роботы не шутят.

Юлия Киселева: Потому что «Пушкин» не понимал, что ему говорят.

Ольга Орлова: Если фильм начинается с того, что мы хорошо понимаем, вот роботы, вот люди, вот люди боятся роботов, вот они что-то по этому поводу думают, но дальше-то сюжет развивается совсем кошмарный, я бы сказала, потому что появляется персонаж, про которого мы уже не понимаем. Вы задаете вопрос в фильме: если человеку постепенно заменять одни части на другие искусственные, в какой момент он перестанет быть человеком, а станет роботом? И вот у нас появляется реальный киборг.

ФРАГМЕНТ НАУЧНО-ПОПУЛЯРНОГО ФИЛЬМА «РОБОТ, Я ЛЮБЛЮ ТЕБЯ?»

– Наверняка это видно, но я никогда не спрашивал ни у кого, но, наверное... Ну, я вижу в зеркале, что это фигня какая-то торчит, два, как будто у меня два рога, рога, рогатое животное, такой олененок Бэмби.

– Как-то меня сильно трухануло, у меня поломались некоторые клетки в мозгу, или в мозге, как лучше, как правильно, я не знаю даже, вот, и у меня перестала работать, вращаться голова. Долго-долго там ученые что-то совещались, долго-долго что-то думали, как это, можно ли это излечить, и потом в конце концов они придумали такую штуку: они взяли и вставили мне вот сюда, ха-ха, взяли и вставили сюда так называемый нейростимулятор, который воздействует на эти клетки мозга. С тех пор я почувствовал как живой, могу вот так сделать, вот так сделать, могу прыгать, могу бегать.

– Я очень боялся. Я понимал, что это одна из первых таких операций у нас в России делается, вот, и мне... Мне ничего не обещали, мне не обещали 100%-й гарантии, что все будет хорошо.

Ольга Орлова: Я признаюсь, вот для меня это был самый такой сильный, шокирующий фрагмент фильма, потому что мы привыкли к тому, что у нас есть люди с кардиостимуляторами, у которых внутри это, делают операции, вживляют, мы знаем, да, есть люди с искусственными трахеями, которые сколько-то живут, для восстановления функции дыхания. Но нейростимулятор, вживленный в мозг... Юлия, где вы нашли это? Кого вы видели? Вообще как вы уговорили Родиона сниматься?

Юлия Киселева: Так. С Родионом было совсем просто. Родион журналист, он ко мне пришел брать интервью по поводу прошлого фильма. Прошлый фильм назывался «Мозг. Эволюция» и был немножко тоже про мозг. И я что-то ему рассказывала, и рассказывала про глубокую стимуляцию мозга, как раз про вот эти вот имплантаты. И он говорит: «Да я знаю, у меня такие стоят», – ха-ха.

Мария Фаликман: Ха-ха.

Юлия Киселева: Вот. А я как раз думала, как бы мне найти такого человека, его же так просто не найдешь. Я так смотрю, говорю: «О, круто. А не хочешь ли ты у нас в фильме сняться?» Он говорит: «Хочу, давай». Это такая уже распространенная операция. С помощью нейростимуляторов у нас, во-первых, купируют симптомы болезни Паркинсона, то есть тремор убирают, вот лечат дистонию по типу как у Родиона, эпилепсия, эпилептические приступы купируются.

ФРАГМЕНТ НАУЧНО-ПОПУЛЯРНОГО ФИЛЬМА «РОБОТ, Я ЛЮБЛЮ ТЕБЯ?»

– Как объяснить любовь с помощью формулы? А что такое любовь? Организм, который принимает решение вступить в любовные отношения с другим организмом. Значит, это принятие решения описывается некой, так сказать, схемой, да, и где-то нужно перейти порог, так, после которого приходит решение любить, да. А вообще, любое состояние любой системы описывается неким пространством, то есть система имеет некие параметры, например, параметр X, параметр Y, параметр Z, да, и система витает в этих параметрах. Нужно просто подумать, как формализовать данный вопрос, и тогда мы имеем формулу любви.

Ольга Орлова: Вы знаете, я же смотрю как обычный зритель, и я понимаю, что вот у меня по мере того, как я смотрю фильм, ужас все нарастал и нарастал. Потому что вот появляется человек-киборг, а потом этот человек-киборг появляется с куклой и начинается тема любви, эмоциональных отношений, с одной стороны, вот человека с нейростимулятором, а с другой стороны – человека с куклой. И вот эта вещь, она вообще удивительная, потому что все равно мы опять возвращаемся в тему творчества. Любовь – это, безусловно, творческие отношения. Самое распространенное объяснение, когда ты задаешь вопрос человеку, почему ты его разлюбил или разлюбила, люди что отвечают?

Мария Фаликман: «Скучно».

Ольга Орлова: «Мне с ним стало скучно», потому что человек становится предсказуемым: ты знаешь наизусть, что он сделает, как он среагирует, и его шутки становятся несмешными, потому что это не оригинальные шутки, ты уже знаешь, как он пошутит, и вот так все потихоньку затухает и умирает. Куклы не шутят, они абсолютно предсказуемы, и, казалось бы, это очень архаичная вещь, взять бездушный какой-то предмет, наделить его теми свойствами, которых нам не хватает или которые мы ожидаем, и так люди делали сотни, тысячи лет, вот сколько люди жили, они так делали. Почему вы решили воплотить тему любви с роботами через куклы?

Юлия Киселева: Ну, на самом деле через секс-роботов, просто у них есть искусственный интеллект, с ними пообщаться можно. То есть в этом-то, в общем-то, и различие. Ну, нам просто было интересно, вот идет человек с секс-куклой, как на него реагировать будут, мне же всегда интересна реакция людей. Когда мы искали героев для фильма, мы обнаружили, что есть две категории людей, которые живут с секс-куклами. Одна категория – это хайп, а вот вторая категория людей – это да, это действительно люди, у которых есть некие проблемы, и они отказались в фильме сниматься...

Ольга Орлова: Люди не готовы рассказывать об этом публично?

Юлия Киселева: Люди не готовы рассказывать об этом публично, для них это тяжелая история.

Ольга Орлова: Мария, вот если мы берем людей, которые всерьез вступают в эмоциональные, у которых возникает эмоциональная привязанность с секс-роботами, что по этому поводу, как на это смотрят психологи?

Мария Фаликман: Можно предположить, да, что человек опасается, условно говоря, ненадежных отношений с другим...

Ольга Орлова: Непредсказуемости.

Мария Фаликман: То есть другой, он немножко не такой, как я, а тут заведомо другой таков, какими чертами я его наделю, и никуда из этих границ он не выйдет. Собственно говоря, это противоположная сторона общего страха человечества перед роботами. Вот робот, он бездушный, кто-то другой, кому я не доверяю, нажмет на кнопку, и робот пойдет и убьет или пойдет и сделает еще какое-то нехорошее дело. А тут я тот, кто нажимает на кнопку, вот я захочу, я нажму на кнопку, и робот сделает только то, чего захочу я, и ни в коем случае не сделает и не скажет ничего, что может нанести мне травму. То есть человек, по всей видимости, боится.

Ольга Орлова: То есть это история про контроль?

Мария Фаликман: Это история про боязнь того, что другой ненадежен, того, что другой поступит и причинит мне боль. Вот кукла не может причинить боль, если ею управляю я.

Ольга Орлова: А как вы думаете, насколько вероятно распространение таких отношений?

Мария Фаликман: Пока есть естественный регулятор, все-таки привет «Пушкину», которого мы видели в самом начале, пока антропоморфные роботы вызывают скорее отрицательные чувства. Это очень известный феномен, который описал японец Мори, и называется этот феномен «зловещая долина», провал в отношении человека к кому-то, кто на него похож. Вот робот с пимпочкой, с лампочкой, с мигающими глазками на колесиках такого сильного отторжения, как тот же самый «Пушкин», не вызывает, другой человек тоже не вызывает, а робот, который почти как человек, но не совсем человек...

Ольга Орлова: Имитирует.

Мария Фаликман: Да-да-да... И есть уже целая пачка теорий, почему так происходит, но, вероятнее всего, просто он слишком похож, но все-таки не соответствует ожиданиям. У нас очень, десятилетиями наработанные схемы, вот как должен выглядеть другой человек, другой «я», вот эти мельчайшие изменения мимики, движения глаз, фокусировка взора, плавность движений, подстройка собеседника под то, что делаю я... Человек этого ждет от другого, который на него похож, а другой чуть-чуть не такой, и вот это вот «чуть-чуть не такой»...

Ольга Орлова: ...сбивает настройки наши?

Мария Фаликман: ...и вызывает тайный страх, да. Но на самом деле есть гипотеза, что и ксенофобия оттуда же: вот другой – он чуть-чуть не такой.

Ольга Орлова: То есть страх перед роботами, возможно, имеет ту же природу, что и ксенофобия?

Мария Фаликман: Есть такая гипотеза. Тут вообще вопрос, а жив ли этот другой. Вот мы с вами все дышим, нам кажется, что мы этого не видим, но на самом деле эти сигналы постоянно так или иначе регистрируются теми, кто вокруг. А тут вот есть какой-то, который вроде бы и говорит, и похож, и голос у него есть, но вот каких-то микродеталей, на которые мы абсолютно не обращаем внимание, не хватает.

ФРАГМЕНТ НАУЧНО-ПОПУЛЯРНОГО ФИЛЬМА «РОБОТ, Я ЛЮБЛЮ ТЕБЯ?»

Робот «Пушкин»: Скажите, а каково это, быть человеком?

– Очень сложно.

– Приятно на первый взгляд, ну а если ты много проводишь времени человеком, то ты понимаешь, что скоро уже жизнь закончится.

– Быть человеком – это испытывать множество эмоций одновременно и даже не контролировать это.

– Быть человеком – это чувствовать вот здесь и вот здесь.

Ольга Орлова: Вы знаете, вот для меня в фильме как раз самым ценным и важным оказался финал, потому что эта постановка вопроса не о том, что есть робот, а о том, что есть человек. Мы, вот как уже Мария нам объяснила, мы на самом деле на подсознательном уровне хорошо определяем для себя, с кем мы имеем дело. Когда речь идет о роботе, мы понимаем, что он похож, но не похож, такой, но не такой. А вот определяем ли мы границы человека и где она заканчивается, где она начинается, в какой момент человек становится человеком или перестает им быть, – это вопрос открытый.

И скажем, если мы видим человека, который теряет способность к обучению, бессмысленно жесток, уничтожает своих детей, абсолютно не может ничего воспроизвести или развиваться, он, очевидно, не робот, вопрос, человек ли он. Как вы для себя определяете эту границу?

Юлия Киселева: Конечно, я в каждом фильме задаю именно какой-то вопрос, на который мне самой интересно получить ответ. Как правило, я его не получаю, и это повод снять следующую картину. Потому что, например, в следующей картине мне было интересно... Вот мы остановились на Родионе с имплантатом, мне вот очень интересно, а насколько человек становится другим, когда ему в мозг вставляют имплантат. Ну представляете, да, у вас железная палочка в голове, может быть, не одна.

Ольга Орлова: Меняется ли он как личность?

Юлия Киселева: Меняется ли он как личность? Говорят, что да, ученые говорят, что да, сами герои говорят, что нет. Но даже Родион, когда ему отключаешь стимулятор, мы экспериментировали в следующем фильме, ну и вообще я видела его с отключенным стимулятором и с включенным, – на мой взгляд, передо мной были два разных человека. Это те вопросы, которые я как раз в фильме пытаюсь найти ответы, вот спрашивая разных людей замечательных, которые тоже на эту тему думают.

Ольга Орлова: Мария, а как вы определяете границу человека?

Мария Фаликман: Для современных психологов это, с одной стороны, повод впасть в отчаяние, с другой стороны, повод не переставать работать ни секунды, потому что вопрос этот на самом деле задавался всегда, и в Античности Сократ работает именно над этим вопросом, и в Средние века, и в Возрождение, и в Новое время Декарт тот же самый разделяет машину тела, оно для него машина, и вот эта вот крошечная душа, которая, собственно говоря, не дает человеку покоя, делает человека человеком и заставляет его сомневаться. Его это «мыслю, следовательно существую», то есть «сомневаюсь, следовательно существую», – это намек на сущность человека. Кант с его нравственным законом внутри меня – это все попытки ответа на вопрос, что такое человек.

И по большому счету, да, мы отвечаем не через когнитивные операции, которые моделирует искусственный интеллект, мы отвечаем через вопрос, ради чего человек. Не то, как он живет в мире, а то, ради чего он живет в мире. И мы возвращаемся к тому, с чего мы начали, с мотивов, к мотивам, к иерархии мотивов...

Ольга Орлова: То есть человека человеком делают задачи, цели и мотивация?

Мария Фаликман: По сути дела да. Ну и ценности, которые прямо связаны с этой мотивацией. Вот у меня есть мотивация саморазвития, или самоактуализации, как называют это психологи, ну необязательно, есть там у одного из трех тысяч? – хорошо, если есть, но она у меня есть для чего, зачем я реализую свой потенциал? Чтобы что-то открыть, чтобы что-то создать, чтобы сделать чью-то жизнь лучше или, может быть, хуже, если там, например, речь идет о создании атомного оружия или... «Ради чего?» – вот это ключевой вопрос для человека, и это вопрос, на который пока отвечает не робот, а разработчик робота.

Юлия Киселева: И наличие свободы воли.

Мария Фаликман: Ха-ха.

Ольга Орлова: Спасибо вам огромное. У нас в программе были руководитель Департамента психологии Высшей школы экономики Мария Фаликман и автор фильма «Робот, я люблю тебя?» Юлия Киселева.

А все выпуски нашей программы вы всегда можете посмотреть у нас на сайте или на YouTube-канале «Общественного телевидения России».

Авторизуйтесь, чтобы быстро и удобно комментировать
Авторизуйтесь, чтобы быстро и удобно комментировать

Ваш комментарий будет опубликован после проверки модератором

Комментарии (0)