Ум за искусственный разум зашёл

Ум за искусственный разум зашёл | Программы | ОТР

Искусственный интеллект может оставить человечество без работы и средств к существованию?

2021-01-26T21:35:00+03:00
Ум за искусственный разум зашёл
Дорогая передача: Нам мешают парковки!
Свободен и особо опасен
ТЕМА ЧАСА: Страна под снегом
Чёрные дыры МКС
Новый техосмотр отложили
Деньги на свалку
Что нового? Южно-Сахалинск, Бийск, Санкт-Петербург
«Корона» пала: когда вернёмся к нормальной жизни? Китай победил абсолютную нищету, а когда мы? «Жаворонки» и «совы» на работе: кто лучше?
А поутру они проснутся. О новых правилах доставки пьяных в вытрезвители
Чтобы проспаться… Как сегодня работают вытрезвители в регионах. СЮЖЕТ
Гости
Дмитрий Мариничев
интернет-омбудсмен
Александр Бузгалин
профессор Московского финансово-юридического университета

Александр Денисов: Ум за искусственный разум зашел: китайский предприниматель Джек Ма, основавший сервис Alibaba, предсказал человечеству скорое наступление Судного дня, когда приговор нам вынесет не Всевышний, а технология искусственного разума, которая лишит и работы, и средств к существованию.

Ольга Арсланова: Да, есть такие опасения. Но есть и противоположное мнение, например, что всезнающая машина нас всех избавит от тяжелого физического труда, а жить мы будем за счет выплачиваемого государством базового дохода, ну когда искусственный интеллект всю самую грязную работу возьмет на себя. Давайте вместе погадаем.

«Что вас пугает в искусственном интеллекте?» – спросили об этом наши корреспонденты жителей нескольких городов. И мы ждем также и ваше мнение в эфире.

ОПРОС

Александр Денисов: Да. И погадаем насчет будущего вместе с нашими экспертами. Александр Бузгалин, профессор Московского финансово-юридического университета, на связи у нас, а также Дмитрий Мариничев, интернет-омбудсмен.

Ольга Арсланова: Добрый вечер, уважаемые гости.

Александр Денисов: Добрый вечер.

Дмитрий Мариничев: Добрый вечер.

Александр Бузгалин: Добрый вечер.

Александр Денисов: Уважаемые эксперты, у меня один вопрос на двоих к вам, ну, конечно, не один, но первый вопрос. Не кажется ли вам (начнем с вас, Александр Владимирович), что Джек Ма несмотря на то, что богатейший человек, все-таки в каком-то смысле марксист? Это ведь пересказ брошюры Ленина «Империализм как высшая стадия капитализма», это логика этой брошюры: очередной виток развития капитализма, технологический прорыв тут же приводит к конфликту промышленных кругов, к войне. Пример – Первая мировая война, второй пример – Вторая мировая война. Вот сейчас Джек Ма пророчит нам Третью, что мы стоим на пороге Судного дня, на пороге Третьей войны. Александр Владимирович, не удивляет вас марксизм? Хотя, с другой стороны, он китаец, что тут удивляться.

Ольга Арсланова: Подожди, марксизм, кстати, и в Европе сейчас очень популярен, это только у нас его забвению предали. Может быть, это естественно?

Александр Денисов: Нет, мы не предаем забвению, мы каждый раз стряхиваем пыль с Ленина. Александр Владимирович?

Ольга Арсланова: Да, да.

Александр Бузгалин: Да, спасибо.

На самом деле предвидение вот этого нового этапа творческого труда, всеобщего труда, как писал Маркс, – это предвидение, которому уже не одно столетие, не просто десятилетие. Я напомню, в 60-е гг. прошлого века, я тогда был подростком, увлекался научной фантастикой, и мы считали, что к 1980-му, ну 1990 году у нас будут полностью автоматизированные дороги, не будет ни одного официанта. Документальный фильм «Завод-автомат», полностью автоматизированное производство подшипников, я смотрел на II курсе экономического факультета МГУ в 1973 году, он работал уже много лет, этот завод-автомат.

Проблема не в автоматизации. У человека огромное пространство для творческой деятельности, начиная от человека, который ухаживает за больным, я подчеркиваю, даже не врача, не хирурга, а просто человека, который ухаживает за больным, это творческая работа, которую нельзя заменять роботом, включая воспитание от детского сада до стариков, которым нужно осваивать новые технологии. Огромное пространство науки. Искусство, в которое может быть включен каждый, это безумный объем работы на круглые сутки для каждого, понимаете, писать стихи просто для того, чтобы понять, как их писать, может быть, не гениальные, это может каждый на самом деле. Это огромное пространство деятельности.

Александр Денисов: То есть вы угрозу не видите, вот как Джек Ма, что обязательно этот виток и развитие искусственного интеллекта приведет нас на порог столкновения?

Александр Бузгалин: Ну, Джек Ма на самом деле в 2017–2018-х гг. произнес сенсационную фразу о том, что Судный день, все ужасно, трагедия, потом пару лет подумал и пришел к выводу, что все не так ужасно. Может быть, ему объяснили кое-что марксисты, в Китае в каждом университете институт марксизма, вы справедливо сказали.

Ну и здесь есть еще один момент. Знаете, когда-то сказали: учение Маркса всесильно, потому что оно верно. Вот прогноз о том, что есть пространство для человеческого развития, если тяжелую физическую, рутинную, главное рутинную, работу будут делать машины, это точно. Но есть другая проблема: если мы оставим рынок, на котором главная погоня за симулякрами, за правильным брендом, за правильным трендом и так далее, когда нужно будет любой ценой иметь разорванные джинсы... Извините, я на секунду только отвлекусь: тут демонстрировали костюм из заплаток, рванья, мешковины и так далее, эксперт написал, что стоит как минимум миллион (правда, рублей, слава богу, а не долларов).

Вот если вот так строить жизнь, если главное счастье будет в деньгах, а тем более в их количестве, тогда действительно огромное количество людей будет на помойке, не подключено к творчеству, просто оно будет излишне, его не будет требовать общественно-экономическая жизнь, его не будет искать государство, его не будут искать люди. Люди будут жить в искусственном, фальшивом пространстве, это действительно может быть большой-большой трагедией.

Ольга Арсланова: Дмитрий, а может быть, это тогда проблема в самом обществе потребления? Что же оно такое капризное и слабое, если его может победить искусственный интеллект, созданный самим же человеком себе на пользу?

Дмитрий Мариничев: Ну, искусственный интеллект никого победить не сможет, давайте начнем с этого. Все-таки искусственный интеллект стоит на службе у человека и играет важную роль. Он многократно, может быть, в миллионы, в миллиарды раз усиливает именно умственные способности человека. Примерно так же, как Джек Ма говорил про момент индустриализации, когда машины многократно усиливали мышечную силу человека, то мы сейчас наблюдаем совершенно иной виток развития.

И пугать всех тем, что не будет работы, это некорректно в первую очередь, поскольку мы понимаем под работой некую трудовую повинность до сих пор. Когда-то люди ходили пахать барские поля, сегодня они ходят на заводы и фабрики. Действительно, этот труд уйдет, и понятие труда как необходимого для человека, чтобы существовать, оно тоже будет уходить, останется именно труд творческий.

Ольга Арсланова: Но любопытно, я прошу прощения, что как раз сам Джек Ма обеспечил очень многих возможностью заработать благодаря искусственному интеллекту.

Дмитрий Мариничев: Совершенно верно. Но это проблема как раз технологических и общественных, социально-экономических переходов. Общество так устроено, и человек в частности, что он всегда ментально сильно отстает. Ему нужно помнить, что не просто так водят 40 лет по пустыне, не просто так у нас постоянно фигурирует это число «40», и именно столько примерно нужно времени, чтобы человек сознательно перешел из одной формации в другую, то есть, грубо говоря, думать начал по-другому. Когда он думает по-другому, то у него и все вокруг выстраивается по-другому, он видит мир по-другому.

Нам в принципе до технологической сингулярности, ну вот по разным оценкам разных экспертов, 10, 15, 20 лет. Но я думаю, что вот от сегодняшнего дня, когда мы заговорили об искусственном интеллекте как о хайпе (извините меня, но это действительно сегодня так, мы много говорим, но еще больше не понимаем, поэтому и страх, и опасения, и непонимание), можно от сегодняшнего дня смело отсчитывать 40 лет, и в промежутке этих 40 лет у нас будут как прорывные движения вперед, так и откаты назад глубокие.

И почему Ма говорит про революцию, говорит про революционный переход или даже там про какие-то военные действия и плохие последствия? Просто общество не может перейти из одной формации в другую формацию таким вот мирным, последовательным путем. Это примерно как, знаете, квантовый переход, у вас должен с одной орбиты перескочить на другую, и здесь все то же самое. Иногда бывает, как социалистическая революция в нашей стране, хотят перескочить сразу через две орбиты, когда общество вообще не созрело, и получается вот эффект некоего коллапса...

Александр Денисов: Дмитрий, вы говорите, искусственный интеллект избавит нас от тяжкого труда. Хорошо, а что мы будем делать? Ну вот не будет у нас труда, на что мы будем жить?

Дмитрий Мариничев: Ой, вот сейчас вы рассуждаете опять же в парадигме мышления вчерашнего и сегодняшнего дня, то есть нужно ходить на работу, зарабатывать, получать деньги. А теперь представьте, что мы находимся в информационном пространстве, у нас уже нет двойной системы записи бухгалтерской, мы все движения с точки зрения бизнеса ведем в одной информационной система государства, и в принципе для государства важен только целостный ВВП, когда все общество производит нечто, что является ценностью.

Александр Денисов: Дмитрий, сведем наш вопрос, так сказать, приземлим, опустимся, допустим, до какой-нибудь кладовки или склада. Ну вот все, сейчас искусственный интеллект, ну представим, что это некий робот, сейчас уже есть роботы, они там по больницам ходят, осматривают, кто-то на складе установил этого робота, он там по полкам размещает продукты или прочее. Все, значит, кладовщик не нужен, медсестра не нужна – куда они пойдут работать? Они дома будут сидеть?

Александр Бузгалин: А можно я тоже включусь потом, да?

Александр Денисов: Да, Александр Владимирович, обязательно, Дмитрий ответит нам.

Дмитрий Мариничев: Не пойдут они работать, они будут получать даже не безусловный основной доход, они будут владеть безусловным основным активом, который принадлежит обществу, принадлежит человечеству. И основная задача государства – это справедливое распределение благ, а не сбор налогов, и вот эту вот концепцию нужно понимать. Ее очень тяжело принять, и мы действительно ей сопротивляемся психологически, это нормально...

Александр Денисов: Дмитрий, отлично, вот здесь передадим слово Александру Владимировичу. Александр Владимирович, вам не кажется, что это настолько розовая утопия насчет безусловного базового дохода и сидения дома? Вся история капитализма... Вот если бы технологический прорыв вел к благосостоянию всего общества, а так ведь он ведет к разрыву социальному не только у нас, но и везде. Что-то примеров таких не бывало.

Ольга Арсланова: Слушайте, это розовая утопия хотя бы потому, что пока что вот этот условный робот, Саш, о котором ты говоришь, дороже человека, его труд.

Александр Денисов: Оль, не будем спорить, Александру Владимировичу передадим слово. Александр Владимирович, утопия или нет?

Ольга Арсланова: Ну пока.

Александр Бузгалин: Да. Прежде всего, действительно во многом утопия. Вы знаете, я вспомнил старый анекдот про искусственный интеллект. Умный дом, мужик утром кричит: «Алиса, включи плиту! Я поставлю тазик, чтобы душ принять, в очередной раз отключили горячую воду». Вот это примерно то, как у нас сейчас развивается во многом искусственный интеллект и, так сказать, высокие технологии.

Действительно, здесь проскочило в бегущей строке очень правильное сообщение: во многих местах нет нормальной канализации, не то что роботизации повсеместной. Главная проблема, и вы совершенно справедливо, дорогие мои ведущие, об этом сказали: капитал и рынок делают автоматизацию, рождают автоматизацию только тогда, когда она выгодна. Если дешевле иммигрант, если дешевле полураб, если дешевле наш собственный рабочий, который получает 20–30 тысяч рублей в месяц, никакой автоматизации и никакого универсального интеллектуального пространства не будет, это первое.

Второе. Очень важный вопрос – это разрыв между бедным и богатым, причем не только внутри страны, но и между странами. До сих пор есть страны, где живут на 2 доллара в месяц, на 3 доллара в месяц. В России разрыв между регионами, богатейшим и беднейшим, в 10 раз, и в беднейших регионах не то что роботизация, там нормальный машиностроительный комплекс...

Александр Денисов: Да, Александр Владимирович, и еще суну свои пять копеек, уж простите: с какой стати вдруг человечеству исправляться и устраивать благо для всех, если до этого примеров не было? С чего вдруг ему меняться коренным образом? Только потому, что искусственный интеллект появился?

Александр Бузгалин: А вот здесь я с вами, как ни странно, поспорю, хотя в базе соглашусь. Сам по себе искусственный интеллект новое общество не создает, но он создает предпосылки. Вот сейчас, и я с Дмитрием в этом согласен, есть достаточный уровень развития технологий, производительности труда, для того чтобы мог человек заниматься интересным, творческим делом. Вот вы сказали, что будет делать кладовщик, – кладовщик будет учиться, иначе он не сможет жить в этом обществе.

Если мы человеку дадим возможность только потреблять, общество помрет. Капитализм, общество потребления, с неравенством, с тем, что десятки миллионов живут на пособия и полунищенствуют, потребляя искусственную пищу и синтетическую одежку, а кто-то живет в шикарном пространстве, – это антиутопия, но реальная угроза. А другой вариант, как я уже сказал, массовая творческая деятельность, которая доступна для каждого, и учиться постоянно, творчески развиваться постоянно, это новые люди, действительно.

Ольга Арсланова: Но, Александр Владимирович, я правильно понимаю, исходя из вот этой вот экономической теории, что мы тогда должны, если мы хотим сохранить свои рабочие места, молиться на невысокие зарплаты, потому что любое повышение МРОТ делает нас неконкурентоспособными по сравнению с искусственным интеллектом? Чем дороги мы стоим на рынке, тем выгоднее взять машину.

Александр Бузгалин: Если оставлять существующую рыночно-капиталистическую систему, то да. А если ее менять, реформировать как минимум, а лучше менять на принципиально другую, то нет, потому что, поставив робота и повысив нам зарплату, мы дадим нам возможность переучиться. Прежде чем нас выкинут на улицу, нас отправят на полгода-год учиться чему-нибудь интересному.

Ольга Арсланова: Дмитрий, это очень здорово все звучит, учиться, заниматься творческим трудом, красиво. Но есть же реальный сектор. А что мы будем есть? А кто будет сеять? А кто будет печь хлеб?

Александр Бузгалин: А сеять будут машины как раз.

Ольга Арсланова: Мы будем сидеть учиться до, не знаю, 50 лет, а потом заниматься творчеством – это деградация, нет?

Дмитрий Мариничев: Еще раз, вот посмотрите, вам тяжело просто свыкнуться с мыслью, что нужно смотреть не изнутри системы, а снаружи системы. Вся текущая наша жизнь построена на конкуренции, именно поэтому вы так относитесь: конкурировать с машинами, конкурировать с другими людьми за зарплату, чтобы на зарплату купить колбасу, чтобы колбасу покушать. Я говорю о том, что технологические средства коммуникации и, соответственно, тот же искусственный интеллект позволяют человечеству выйти за пределы этой системы и начать не конкурировать и строить свое общество на конкуренции, а начать коллаборировать...

Александр Бузгалин: Сотрудничать, социализация, Дмитрий, это называется...

Дмитрий Мариничев: Да, действовать совместно, то есть именно сотрудничать, коммуницировать, и это совершенно иной подход. Вот взгляните на физику: мы, соответственно, добываем любую энергию, которая у нас практически есть на Земле, путем деления атома, сжигания угля и все остальное, мы постоянно разделяем, властвуем и за счет этих столкновений получаем энергию. Но вся энергия на Земле, которая накоплена, – это энергия Солнца, а это энергия созидания, то есть это совсем иной процесс, не разрушение атома, а созидание.

Александр Денисов: Можно я с вами обоими поспорю? Прекрасно, что вы сошлись во мнении насчет технологий, искусственного интеллекта. Возьмем, посмотрим на день сегодняшний: любое развитие технологий ведет к разделению, к расслоению и только ухудшает ситуацию. Развитие технологий позволяет приватизировать правду, все мы наблюдаем, как можно вычистить пространство и исказить нашу картину мира, «это неправда и точка», все, в социальных сетях написано, мы верим, они Господь Бог на данный момент.

Другой пример берем, с образованием. У тебя нет денег на университет, тебе говорят: «Мужик, да есть онлайн-образование, купи себе курс, тебя чему-то научат». То есть у тебя нет денег на жизнь, ты будешь глядеть, воткнешься глазами в компьютер.

Другой пример. Мы не можем позволить себе хорошее здравоохранение, нас лечат какими-то медицинскими ботами, которым мы будем рассказывать про свою температуру и прочее. То есть ты не можешь себе позволить визит к врачу, но ты можешь себе позволить какую-то удаленную телемедицину. Это уже приводит к раскидыванию, знаете, как окучивают грядки, направо-налево, отсеивание идет в сторону маргинализации общества, вот эта технология.

Дмитрий Мариничев: Да, вы правы.

Александр Бузгалин: Александр Владимирович, вы знаете, дело опять-таки... Мы тут, по-моему, с Дмитрием опять согласимся в социально-экономической и общественно-политической системе. Если идет прогресс в условиях рынка и капитала, то паровоз делит людей на тех, кто может использовать железную дорогу, и тех, кто не может, тех, кто едет в первом классе, и тех, кто едет в третьем классе. Если появляется какая-то машина, то у кого-то машина есть, а у 90% человечества ее нет, я говорю про середину XX века.

Ольга Арсланова: То есть дело не в технологиях?

Александр Бузгалин: Точно так же и здесь, понимаете. Появляется телемедицина, одного лечит нормальный, творческий, хороший врач, а другой какую-то консультацию получает...

Александр Денисов: А вот видите, самое главное, Александр Владимирович, в чьих руках технология оказывается, и мы не знаем...

Александр Бузгалин: Совершенно верно, кто хозяин, да.

Александр Денисов: Поэтому мы и тревожимся.

Александр Бузгалин: И вот если мы не сделаем ситуацию, когда мы хозяева экономической и политической жизни, технический прогресс будет вести к чудовищным противоречиям, а может вести и к войне, и к манипуляциям, ко всему остальному. Понимаете, если эти сети открыты и через них можно услышать правду, то это замечательный прогресс; если нам лгут, лгать могут через любой механизм. Когда-то единственный способ узнать информацию была проповедь батюшки, Священный Синод или какая-то другая организация сказала, что должен говорить поп (не хочу никого обидеть) в каком-нибудь лохматом веке, и все, и все слушают это, и нигде больше ты информации не получишь.

Александр Денисов: Александр Владимирович, послушаем зрителя.

Ольга Арсланова: Звонок у нас. Добрый вечер, Константин на связи.

Зритель: ...просто в лохматом веке. Ведь ситуация-то в том, что полстраны в этом лохматом веке до сих пор живет, и если мы будем прекрасно теоретизировать в студии, что вот отлично, кто-то лишится работы, но он будет учиться... Вот представьте себе население, например, города Калязина, или города Углича, или города Кимры, которое полностью возьмет, ему скажут: «Все, ребята, переучивайтесь на искусственный интеллект, на обучение ему». Вот вы представьте себе этих 50-летних теток и дядек, вот как они переучатся? Ну это же невозможно!

А вопрос второй. Ну если мы говорим об обязательном доходе, то кто будет это все распределять? И как мы решим, насколько справедливо это распределение? И как мы поймем, кто богатый и кто бедный? Это такая куча вопросов возникает при планировании этих светлых горизонтов, что просто голова идет кругом. Что думают наши замечательные эксперты? Спасибо.

Ольга Арсланова: Замечательные эксперты, вам слово. Дмитрий?

Дмитрий Мариничев: Наш зритель абсолютно прав, вот просто абсолютно прав, это самые большие вызовы, которые стоят перед обществом. С точки зрения применимости технологий мы должны отвечать в первую очередь на вопросы, кому они служат, я с профессором здесь абсолютно согласен, и никак иначе. И если мы ставим технологии под общественный контроль, то и справедливость распределения будет автоматизированной. А если наши технологии будут служить узкой группе лиц, неважно, где и в какой стране они находятся, но пока все наши системы государственные на всем земном шаре, и в США, и в Европе, и в России, являются строго вертикально интегрированными, иерархичными системами, то мы всегда имеем возможность получить такую систему, которая будет узурпирована со стороны власти технологически.

И соответственно, разделение людей и разделение на богатых и бедных, а здесь даже еще гораздо хуже, на тех, кто контролирует ситуацию, и тех, кто подконтрольны, как, например, в Китае с социальным рейтингом и так далее, оно имеет место быть, и об этом нужно думать, и это нужно выносить в общественную дискуссию. И об этом сегодня все больше и больше говорят, особенно последние те же приключения с Twitter, Facebook, когда они заблокировали еще фактически действующего президента, мы понимаем, насколько сильна эта новая структура и новые взаимоотношения технологий.

Но еще хочу один момент добавить, чтобы совсем так мозг взорвать нашим зрителям: в ближайшем будущем наши коммуникационные средства придут не только к тому, как мы используем сотовый телефон, а 25 лет назад никто не мог поверить, что он будет у каждого в кармане, это была запредельная иллюзия, но мы это сегодня имеем. А сейчас, в ближайшем будущем, может быть, даже в горизонте 3–5 лет, это очень быстро, мы будем передавать не только видео, какие-то фотографии, сообщения в мессенджерах – мы будем передать воспоминания и возможности воспринимать текущую ситуацию глазами другого человека, то есть мы будем соединены с ним на уровне фактически нашей коры головного мозга.

Ольга Арсланова: Звучит страшно, Дмитрий.

Дмитрий Мариничев: Это совершенно иное построение...

Александр Денисов: Дмитрий, спасибо.

Дмитрий Мариничев: Это страшно, конечно.

Ольга Арсланова: Не всегда хочется соединяться корой мозга с другими людьми, но с вами было интересно.

Спасибо большое. Дмитрий Мариничев, Александр Бузгалин были у нас в эфире.

Авторизуйтесь, чтобы быстро и удобно комментировать
Авторизуйтесь, чтобы быстро и удобно комментировать
Комментарии (0)
Искусственный интеллект может оставить человечество без работы и средств к существованию?