Алгоритм цифрового рабства

Гости
Андрей Андреев
главный научный сотрудник Института социологии РАН, доктор философских наук
Андрей Масалович
президент консорциума «Инфорус», специалист по кибербезопасности

Александр Денисов: «Алгоритм цифрового рабства», его расшифровал, обрисовав черты грядущего технологического тоталитаризма, в своем эссе Нострадамус наших дней, израильский профессор Юваль Харари. Ничего такого, до чего бы мы сами не доперли, говоря по-простому, не высидели на удаленном режиме, осознав, что к компьютеру привязаны, как невольники на галерах, на круглые сутки, а все новые технологии – это инструменты, как говорят в оборонной отрасли, двойного назначения: могут и освободить, и поработить. Послушаем фрагмент из этого эссе.

Юваль Харари, профессор исторического факультета Еврейского университета: Как только эти алгоритмы узнают вас лучше, чем вы знаете себя, они смогут контролировать и манипулировать вами, и вы не сможете ничего с этим поделать. Если не принять меры, чтобы распределить технологические богатства, которые дает нам искусственный интеллект, то они будут сконцентрированы в нескольких центрах, а другие страны либо обанкротятся, либо станут эксплуатируемыми информационными колониями.

Тамара Шорникова: Израильтянин предсказывает угрозу цифрового авторитаризма, когда мир будет поделен на информационные колонии, заселенные людьми некой новой расы, дисциплинированными, но лишенными сострадания и духовности. Впрочем, не только этого, лишенными также и работы в результате автоматизации на производстве и в сфере обслуживания.

Александр Денисов: Да. И у нас в студии эксперты, с которыми мы тему и обсудим. Андрей Леонидович Андреев, главный научный сотрудник Института социологии РАН, доктор философских наук, – Андрей Леонидович.

Андрей Андреев: Добрый вечер.

Александр Денисов: Да. И Андрей Игоревич Масалович, президент Консорциума «Инфорус», специалист по кибербезопасности, – Андрей Игоревич, здравствуйте.

Андрей Масалович: Здравствуйте.

Александр Денисов: Вот любопытный момент, про этого парня если чуть поковырять, сразу узнаешь, что, например, у него нет смартфона в принципе. У него есть некие помощники, которые в случае интервью договариваются, приводят. О чем говорит? Все, о чем он предупредил, отсутствие, так сказать, свободы выбора в условиях цифрового мира, сбылось уже сейчас, все вот эти информационные колонии уже существуют. В принципе мы можем рассматривать и себя как некую информационную колонию.

Вот мы про культуру не раз говорили, в том числе и с вами, Андрей Леонидович, и вот Карен Георгиевич Шахназаров как-то дал задание своим сотрудникам в «Мосфильме» посчитать, сколько голливудских фильмов крутится за день по всем российским каналам, кабельным, метровым и так далее, выяснилось, что сто. То есть уже можно сказать, что мы в какой-то мере такая информационная колония западная, в какой-то мере. О чем это говорит? Вот все, о чем нас предупредил, сбылось. Но виноват-то в этом кто? Давайте с вас начнем.

Андрей Масалович: Ну, во-первых, то, что сейчас говорится про 2050 год, не просто сбылось, а первые шаги были еще лет 20 назад. Вот у Харари прогноз начинается с первого с чего? – когда алгоритмы станут умнее нас, они начнут нам диктовать. 20 лет назад я в Штатах с удивлением слушал финансистов, которые говорили, что вот сидит менеджер, он не может решить, давать кредит или нет, потому что это решила программа. Напротив него сидит человек, который пытается сказать, что он вообще хороший, ему надо дать кредит, но за ними уже маячит, за тем и за другим маячат два цифровых профиля, и наличие того, что там еще два тела сидят каких-то, уже ничего не решает. То есть началось это 20 лет назад.

30 лет назад я видел женщин, ну там второе у Харари – это потеря работы. Я видел женщин, которые рисовали на кульманах, и часть из них переучилась, когда появились программы AutoCAD, P-CAD и прочие удобные, это правда стало удобно. И они вписались, а часть не вписалась в таких же грамотных, и это уже тогда было катастрофой, то есть на самом деле мы уже в этом. Но тут есть и один плюс...

Александр Денисов: Но виноват-то кто? Сами и виноваты.

Андрей Масалович: Все виноваты. Но мы виноваты в том, что мы сейчас не пытаемся... Мы как-то уже сразу восприняли, что есть кто-то победивший, а мы уже не победившие. А на самом деле сейчас в мире происходит то же самое, что при Колумбе, то есть цифровые колонии сейчас пустые, какой первый кораблик дойдет, тот и захватит. Сейчас очень много стран, которые, в общем, в большом треугольнике выбирают, ставить им американские программы, чего они не любят, китайские, чего все не любят, ну или российские. Мы можем стать углом этого треугольника. Сейчас у нас в этом треугольнике есть катет, а есть не катет, и вот Россия – это не катет.

Александр Денисов: Андрей Леонидович, согласны, что колония свободна? У меня такое ощущение, что колония-то уже захвачена, вот я привел пример с Шахназаровым.

Андрей Андреев: Да нет, я думаю, что ничего еще не захвачено. И вообще, вы знаете, я когда такие прогнозы слушаю, вспоминаю советскую песню: «И все сбылось и не сбылось, Венком сомнений переплелось...» Вспоминаю также... Что-то сбылось, а что-то и не сбылось. Вспоминаю один прогноз, который обсуждался где-то в 80-е гг. XIX века: значит, назревала катастрофа, а катастрофа состояла в том, что города растут и, как предсказывали тогдашние, так сказать, господа Харари, что они все задохнутся от навоза, потому что будет много... Ну, много людей, значит, много лошадей, значит, лошади – это навоз, и будут кучи навоза... В общем, города не смогут существовать, потому что они все утонут в навозе. Вот был такой прогноз на полном серьезе. Сбылось или не сбылось?

Поэтому насчет всех этих прогнозов я должен сказать... Конечно, надо отслеживать, потому что опасность существует. Но дело в том, что переплетается очень много факторов, которые отчасти, так сказать, в каком-то другом направлении направляют процесс или гасят его. Потом надо же принимать во внимание и то, что возможно и сопротивление определенное, да? Компьютер – это такая штука хрупкая, я «компьютер» фигурально говорю, а сопротивление может быть грубым и...

Александр Денисов: Имеете в виду... ?

Тамара Шорникова: А что за сопротивление?

Александр Денисов: ...нам взять пример с луддитов, как они крушили швейные машины?

Андрей Андреев: Ну всякое, всякое может быть... Да, современный луддизм, да, но такой, цивилизованный луддизм, луддизм, так сказать... Даже это не луддизм, это такой контроль, что ли, вот. Поэтому я думаю, что пока еще рано делать такие прогнозы, но, конечно, поводы для беспокойства есть, безусловно.

Тамара Шорникова: Я хочу к телезрителям обратиться. Мы вот в начале нашей программы рассказали о неких прогнозах одного известного человека, мы хотим ваши услышать. А как вы думаете, через 20, 50 лет, может быть, даже дальше за горизонт заглянуть, как мы будем жить? Что в нашей жизни изменится? Что вас в этом будущем пугает, а что, наоборот, быстрее бы настало, например? Давайте...

Александр Денисов: Вдруг среди наших зрителей Нострадамус, например, окажется и он нам расскажет?

Тамара Шорникова: Абсолютно. Хочется, чтобы вы тоже включались...

Андрей Масалович: Не поймем, не поверим.

Александр Денисов: У нас два Нострадамуса, будет третий еще.

Тамара Шорникова: Что касается вот наших вариантов борьбы, Саша в самом начале гордо говорил «Я не раб», намекая на то, что он не очень в этой цифровой системе завязан...

Александр Денисов: Не в соцсетях, не в соцсеях.

Андрей Андреев: Ну...

Тамара Шорникова: Не в соцсетях. А это актуально сейчас говорить? Или тот же Харари, у которого нет мобильного телефона, – это может спасти?

Андрей Андреев: Кстати, у меня тоже нет. Мобильный есть, а смартфона нет.

Александр Денисов: Смартфона нет.

Андрей Андреев: Да.

Тамара Шорникова: А это может спасти в современном мире? Или это, может быть, не сегодня, но послезавтра просто сделает вас изгоем?

Андрей Масалович: Ну, изгои тоже будут, это будет такой край цивилизации. Но избавиться от смартфона сейчас или даже его не заводить ничего не решит. Например, у оперативников сейчас есть такой способ в соцсетях обратного вычисления, когда человек закрыл свой профиль, но его совершенно спокойно демаскируют его друзья, потому что они-то не закрыли, что он друг. И по тому, чем они увлекаются, в каком городе живут, какого они возраста, про человека можно все вычислить, хотя он искренне считает, что, раз профиль закрыт, никто его не видит, ну или даже если профиля нет, то все равно окружение вас демаскирует, то есть спрятаться сейчас уже толком невозможно. Хотя коллекция примеров уже, видите, полнится, есть Харари, есть Владимир Владимирович, у которого нет смартфона в руках, у него есть тоже помощники...

Александр Денисов: Шутку знаете про Владимира Путина? – «Есть ли у Владимира Путина Facebook? Он говорит: «Зачем? У меня есть ФСБook, мне любого друга тут же найдут», – ха-ха-ха!

Андрей Масалович: Ха-ха-ха!

Андрей Андреев: Ха-ха-ха!

Андрей Масалович: Кстати, это действительно красиво. То есть спрятаться уже нельзя.

Ну а что касается качества прогнозов, я думаю, что момент истины наступает где-то через год, может быть, максимум через два, когда появятся беспилотные такси. А сейчас очень большой круг населения, очень большой срез населения в Москве – это водители вот этих такси. И вот когда они все выйдут на улицу, посмотрим, будут они крушить машины или найдут что-то другое. То есть как бы испытание на прочность, не надо ждать 2050 года, испытание на прочность будет через год-два, и мы это все посмотрим прямо на улице.

Тамара Шорникова: Телефонный звонок давайте послушаем от телезрителя. Андрей, Саратов, здравствуйте.

Зритель: Здравствуйте, добрый день, добрый вечер точнее.

Тамара Шорникова: Да, слушаем вас.

Зритель: Ну, вы знаете, по теме хотел бы сказать, что существует такая сейчас тенденция, так называемая роботизация, то есть роботизация производства. Даже не то что производства, например, роботы делают какую-то там конкретную вещь, например автомобильное либо еще что-то, а роботизация сейчас внедряется непосредственно в программное обеспечение, непосредственно в структуру IT, так называемое заменяет просто людей, технологов, например, либо каких-то вот, раньше их называли, так называемые эникейщики, которые как бы делают определенную функцию...

Александр Денисов: А разве это не опасно, заменять людей? Хакер-то быстро справится с функцией, а с человеком, наверное, сложнее будет.

Зритель: Вот, конечно, вот тут очень сложная система, то, что сейчас робот, он идет по определенному алгоритму, и если, например, что-то, человек может тут же остановиться, подумать либо что-то изменить, то робот нет, он идет по алгоритму и продолжает это делать.

Александр Денисов: То есть опасно, мы уже сразу с вами уловили здесь слабое место.

Зритель: Нет, я хочу сказать о другом деле, на другую тему, что освободится как бы большое количество людей, которые выполняли какую-то функцию, и просто-напросто как бы сейчас...

Тамара Шорникова: Да, безусловно, Андрей, это пугает, да?

Зритель: Да, конечно, потому что есть определенный слой людей, которые выполняют определенную функцию. Если их сейчас заменить роботами, то эти люди, они не знают, что будут они дальше делать.

Тамара Шорникова: Да, поняли вас. Огромное количество людей высвободятся, тоже прогнозы страшные дают, какое количество профессий к какому году исчезнет, миллионы людей останутся без работы и так далее. Соответственно, а что здесь делать государству? Как это регулировать? Включаться ли в цифровизацию или пытаться ее искусственно тормозить? Как вы думаете?

Андрей Андреев: Искусственно тормозить никогда ничего не получается.

Тамара Шорникова: Хорошо.

Андрей Андреев: Надо искать стратегию выхода в этой ситуации.

Тамара Шорникова: Может быть, не ускорять? Уточню. Например, вот по тем же беспилотным транспортным средствам есть поручение президента правительству проработать вариант о скорейшем внедрении – а зачем нам это, если опять-таки огромная армия таксистов тех же окажется без работы, других водителей?

Андрей Андреев: Ну... Честно говоря, не знаю, как на этот вопрос ответить, потому что проблема действительно есть, вот. Но мне кажется, форсировать действительно не надо. Но, с другой стороны, понимаете, вот есть такая психология: ну вот завтра, а зачем, в общем, необходимости такой острой нет... Потом глядишь, мы повернулись, обернулись, все ушли вперед, а мы уже, так сказать, отстали. Поэтому здесь очень трудно найти какой-то такой оптимальный путь.

Александр Денисов: Андрей Леонидович, а можно усомниться, воспользоваться вашим же принципом, по первому вопросу вы отвечали, что навоз, оказалось, и навоза-то нет, за лошадей надо дорого платить, чтобы прокатиться по Москве по той же. Вот с этими же беспилотными, Андрей Игоревич не даст соврать, ведь появилась новая профессия, испытатель беспилотного автомобиля.

Андрей Андреев: Да.

Александр Денисов: То есть это товарищ, который держит вот так вот руки, и в случае чего он хватается за руль. Мало того, новая профессия появилась, Алиса вот эта знаменитая, голосовой помощник, которому надо тарахтеть там, «Алиса, как гречку сварить?» и прочее...

Андрей Андреев: Алиса – это ужасно.

Александр Денисов: Да. Вокруг этой Алисы целые тучи инженеров и программистов, которые ее дорабатывают, мозги ей докручивают. Вокруг одного робота будет безумное количество обслуживающего персонала, те же самые грузчики, его нужно будет отвезти, привезти в ремонт, с ремонта в офис, потом в другой офис... Люди без работы не останутся. Давайте усомнимся как раз в роботизации.

Андрей Андреев: Ну вот смотрите, помните, была такая (ну, вы не помните и я не помню, конечно, это я так, фигурально сказал) массовая профессия трубочиста. Где сейчас трубочисты? Трубочистов нет, но, в общем, мир не развалился без трубочистов. И те люди, которые должны были стать трубочистами, они стали кем-то другим, вот. Так что я поэтому и говорю, что надо, в общем, для алармизма есть определенная почва, в общем-то беспокоиться нужно, но в то же время не надо принимать все эти прогнозы за чистую монету, потому что на то, что происходит, накладывается масса других процессов. Поэтому, так сказать, вот такая экстраполяция прямая не дает на самом деле результата.

Александр Денисов: Жизнь будет разнообразнее.

Андрей Андреев: Да. Мы можем предвидеть где-то на несколько лет вперед, но вот до 2050 года я бы воздержался прогнозы делать.

Тамара Шорникова: А можно я тоже усомнюсь, пока далеко от этого не ушли, все-таки останутся без работы, не останутся. Вот Саша фантазирует, будет куча инженеров, которые должны будут обслуживать.

Александр Денисов: А уже есть вокруг Алисы, уже есть.

Тамара Шорникова: Да, безусловно. Но пока с условными трубочистами вопрос-то решать нужно будет, будет промежуточный период, в который большое количество людей все-таки без работы останутся. Мы понимаем, что за полгода трубочист не станет айтишником или инженером.

Александр Денисов: Не станет трубачом, например.

Тамара Шорникова: В том числе, да. Мы понимаем, что все эти программы переобучения в нашей стране, ну хорошо, не все, но многие, не работают. Так какие варианты можно придумать вот на этот переходный период?

Андрей Масалович: Ну, я бы этот период разделил на несколько. В дальней перспективе надо переформатировать идею человечества. Вообще человека на эту планету прислали не для того, чтобы работать, а чтобы творчески развиваться и создавать что-то новое, творить, вот. Уже лет, наверное, 50 как посчитано, что человечество себя прокормить может, просто проблема в неправильном распределении, а ресурсов уже давно хватает. Уже давно всем работать не надо. Очень может оказаться, что половине государства, если все циферки свести, окажется, что население нужно только в день голосования, а дальше пусть живет само, можно даже какую-то ренту платить за проживание, типа не трогай, чтобы ты один раз в год ходил голосовать, а дальше делай что хочешь, вот. То есть необязательно придумывать новые профессии, может быть, просто пересчитать и тем, кто хочет заниматься творчеством, дать возможность творчества.

Александр Денисов: Андрей Игоревич, чтобы это сбылось, это ведь понимаете, чтобы половина человечества не работала, это нужно у маленькой крохи золотой, которая действительно не работает, отобрать весь кусок пирога, да практически весь пирог, и раздать всем остальным. Это вряд ли, конечно, возможно, но к идеалу стремиться...

Андрей Масалович: Ну, мы сюда зачем пришли? – пообсуждать, что может быть через 50 лет, через 30.

Александр Денисов: В том числе хорошее, в том числе и хорошее.

Андрей Масалович: В том числе и хорошее, почему бы не помечтать.

Андрей Андреев: Сбываются прогнозы Маркса: свободное время – это мой капитал, это мое богатство, работать не нужно будет так вот изнурительно, как мы работаем сегодня, ну и тем более как в XIX веке, будем творчески развиваться.

Александр Денисов: Вы знаете, вот еще интересный момент про цифровое рабство, вот мы ведем речь. А кто тут раб, надо разобраться, и есть ли вообще, в принципе жертва и, так сказать, виновник, преступник. Наверное, все жертвы. Вот приведу пример. Мы вот думаем, что есть некие интересанты, какие-то спецслужбы, которые владеют, ну западные, например, или наши, кто-то думает, что наши, они сидят, этими технологиями овладели, руки на них положили и нас контролируют. Пример. Есть приложение такое спортивное Strava...

Андрей Масалович: Да-да-да.

Александр Денисов: ...и через это приложение пропалились американские спецслужбы, которые тренировались на Ближнем Востоке.

Андрей Масалович: Было, было такое.

Александр Денисов: То есть все увидели вдруг, по пустыне какие-то наяривают круги. Кто там, бедуины, что ли, бегают на верблюдах? Выяснилось, что это они. То есть палятся все, все оказываются жертвами технологического прогресса в той или иной мере.

Андрей Масалович: Ну, у них тогда фитнес-браслеты запретили носить, у американцев. Этому скандалу уже 4 года, но... Кто пострадавшие? Ну вот представьте себе, любое государство, кроме первой тройки, у которого есть какой-то козырь, например дешевая рабочая сила или сборочное производство налаженное, и вдруг оно вот это теряет, у него теперь нет ничего, потому что программы оно использует чужие, телекоммуникациями пользуется чужими, ну то есть никакой козырной карты нет. Раньше хотя бы козырной картой было население, потому что его можно было в рабство продать или там послать пирамиду строить... (Ну, кстати, пока мы сейчас говорили, я сообразил: может быть, предыдущая супервысокая цивилизация все отдала в руки роботов тогдашних, все люди освободились, и роботы, чтобы им было нескучно, послали их строить пирамиды, ну и это мы сейчас наблюдаем, вот, потому что что еще делать, каналы копать... Вот.) То есть если сейчас мы не придумаем каких-то новых цифровых активов, которые бы реально котировались и которые бы не зависели линейно от текущего кошелька, ну я не знаю, что это будет, то государствам сейчас нечего предъявить. То есть если они используют чужие цифровые ресурсы, у них ничего своего уже, получается, не остается.

Александр Денисов: А это опасно, использовать чужие цифровые ресурсы? Потому что вот этот же парень, фамилию которого мы склоняем, он говорит, что у всех... Вот у искусственного интеллекта, его разрабатывают люди, у них будут свои интересы, они свои интересы заложат против других. Такое возможно или нет?

Андрей Масалович: Именно такое и возможно, именно это и будет. Ну и мы же сейчас видим, сейчас что развивается? Дроны развиваются, средства, там остается последний шаг, что дрон еще не принимает решение, чтобы открыть огонь. То есть все крупные разработки финансируются в основном либо государствами, либо спецслужбами, либо армией и направлены на то, чтобы ущемлять интересы других.

Александр Денисов: Андрей Леонидович, а вот это вот не лишает нас свободы воли? Вот Пушкин говорил: «На свете счастья нет, Но есть покой и воля». Так выяснилось, ни покоя теперь нет, ни воли нет, раз технология против нас чужая, совершенно очевидно, сужает пространство свободного выбора. Мы можем в принципе не понимать, как мы делаем выбор, опираясь на правду или на дезинформацию. Вот... ?

Андрей Андреев: Ну вот Харари как раз говорит о том, что благодаря всевозможным цифровым технологиям в нас будут закладываться некие желания, которые, так сказать, мы будем считать, что это наше желание, а это не наше желание, а его в нас заложили. Но понимаете, на самом деле это уже есть, это уже было. Возьмите рекламу: реклама – это технология закладывания в вас желания купить то, что вам на самом деле не нужно.

Александр Денисов: Которого не было у вас.

Андрей Андреев: Да, которого у меня не было, но вот вдруг я увидел... Я, например, знаю людей, которые вроде бы сопротивляются рекламе, особенно вот, я надеюсь, меня, так сказать, в пропаганде гендерного неравенства не обвинят, но вот женщины очень любят, я просто знаю нескольких, они смотрят вот эти вот передачи, где рекламируют кофеварки новые, еще там что-то. И вот они их, так сказать, приобретают, причем ведь это не так вот, чтобы просто хватают, а они вот думают, нужно не нужно, но потом оказывается, что не нужно, что эти вещи лежат, не применяются, загромождают пространство, но они куплены, вот. На самом деле человеку просто заложили некое желание, технология такая есть психологическая. Ну, сейчас она усовершенствуется, вот. Но на самом деле прообразы уже были, так что ничего принципиально нового пока нет.

Александр Денисов: Андрей Игоревич, к телезрителям сейчас перейдем. Свобода выбора остается у нас или нет, учитывая дезинформацию и прочее? Вот мы наблюдаем постоянно. Вроде говорят одно, спустя пару лет – да какие пару лет, пару месяцев – выясняется, что никаких мы в Афганистане не убивали американцев, нам рассказывали, ну бог с ним, кто уже будет с этим разбираться.

Андрей Масалович: Сейчас в большинстве случаев свободы воли нет изначально, это иллюзия свободы воли. Но в дополнение к сказанному про отработанные технологии рекламы, как раз и Харари, и там... Я, читая Харари, тоже вслед за ним понимаю, что сейчас раскручивается более плохой процесс, процесс отупления, когда нам не навязывают, а нам подсовывают из узкого выбора. Ну, например, если вы смотрите YouTube, вам идет подсказка следующих роликов, на экране их довольно немного. И я уже ловлю, что вот если я начну это смотреть, я буду становиться тупее. Это, кстати, первый раз описано в бессмертной книжке «Незнайка на Луне» в 1965 году...

Андрей Андреев: Да-да.

Тамара Шорникова: А кому выгоднее, чтобы мы глупели?

Андрей Масалович: Всем выгодно. А кому выгодно, чтобы мы умнели? То есть государству, торговцам как раз...

Тамара Шорникова: Нет, я просто пытаюсь найти главного злодея, такого Урфина Джюса.

Андрей Масалович: А одного нет, им всем выгодно.

Александр Денисов: Это из другой книжки, Тамара.

Андрей Масалович: Вот как раз умный потребитель не купит дурацкий автомобиль или третью кофеварку, вот зачем, он купит что-нибудь попроще, он как потребитель, в общем, не очень выгоден. Лучше, чтобы умных было меньше.

Александр Денисов: В общем, горе от ума.

Тамара Шорникова: Умные мысли от наших телезрителей. Мы спрашивали, что вы в будущем ждете, чего боитесь, чего нет, телезрители отвечают, нам пишут. Нижегородская область: «Вот доделают искусственный интеллект, и все научные сотрудники РАН пойдут на улицу». Вологодская область: «Весь алгоритм приведет к праху, начнутся страшные времена, если роботы нас захватят», – в общем, какие-то такие апокалиптичные мысли. «Цифровое рабство отупляет самого человека, – вот тоже согласен телезритель. – Достаточно научиться пользоваться гаджетом, и собственный интеллект отходит на второй план, за тебя уже готовое решение выдает некий прибор».

Александр Денисов: Зритель у нас долго на проводе, Константин из Бурятии.

Тамара Шорникова: Давайте.

Александр Денисов: Константин, добрый вечер.

Зритель: Добрый вечер.

А я хотел бы попросить ваших экспертов уважаемых посмотреть не в будущее, а, как ни странно, в прошлое. Ведь смотрите, мы со всеми этими гримасами цифрового мира столкнулись буквально в последние несколько лет, до этого казалось, что все очень удобно: вкалывают роботы, а не человек, удобная связь, доступ к книгам, к знаниям, удобные покупки. А потом оказалось, что это еще и манипуляции, сбор персональных данных и все остальное.

Вот у меня вопрос: а когда вся эта цифровизация 30 лет назад, может быть 40, придумывались, вот все эти опции манипулирования и сбора персональных данных, условно говоря, уже были заложены, или это так вот потом только разнюхали, что это возможно? И если были заложены, то кто же был такой мегамозг, который на такие десятилетия все это распланировал? И сейчас, вот то, что Тамара тоже попыталась спросить, Урфин Джюс, «Три толстяка» эти кто, которые сейчас вот этой паутиной все оплели? В чьих интересах-то все? Спасибо.

Тамара Шорникова: Спасибо, да.

Александр Денисов: Андрей Игоревич, к вам?

Андрей Масалович: Ну, могу тут, во-первых, огорчить: уже 60 лет назад была полумифическая система ECHELON, о которой до сих пор спорят, была она или нет, у спецслужб, которая собрала все, собрала впрок. Но что потом стало правдой, американцы завели специальную спецслужбу, на тот момент, по-моему, 14-ю, которая называлась…, ее сделали просто присматривать за данными, то есть они нашпионили уже столько, что еще не понимали, что с этим делать, но на всякий случай уже данные собирали, вот, и тем самым обеспечивали себе примерно 20-летнее преимущество по времени. То есть приватность или, если хотите, цифровую невинность мы потеряли еще до рождения, вот, это раз.

Второе. Если опять же посмотреть в прошлое, в будущее, вкалывают роботы, а не человек, даже наш текущий разговор показывает, что мы не то что на 10 лет вперед, а иногда и на 2, и на 3 заглянуть не можем, то есть происходит что-то внезапное, а мы и думать не могли. Я не думаю, что там писали план на десятилетия вперед, просто в каждом шаге выяснялось, что сейчас выгодно пошпионить за нашими перемещениями, а сейчас выгодно пошпионить за нашими предпочтениями в покупках и так далее. Ну, если помните, была даже реклама у Tefal, по-моему, что «Ты всегда думаешь о нас». Я уже тогда думал, до чего обидно, когда за тебя думает сковородка.

Александр Денисов: За вами шпионят ваши штаны, помните, вы историю рассказывали с джинсами?

Андрей Масалович: Да-да-да.

Александр Денисов: Расскажите, интересная история.

Андрей Масалович: Да. Ну, много раз говорил, но еще раз повторю: у меня один раз зазвенела рамка на входе в один из магазинов «Метрополис», у меня с собой не было ничего, ну реально, а в таком случае в магазин все равно не пускают, иначе я на выходе могу что-нибудь прихватить и оправдываться: «Ну вы же видели, я звенел». Меня не пустили, мне стало обидно, я стал разбираться. Выяснилось, что на мне были джинсы, которые привез старший сын из Штатов, они были Levi's...

Андрей Андреев: ...заклепка, да?

Андрей Масалович: Нет, не заклепка, там была радиометка, причем формованная метка, которая давала индивидуальный сигнал. Ее поставила фирма Levi's, ну это было в Сан-Франциско рядом с их штаб-квартирой, они выпустили какую-то там юбилейную партию и хотели посмотреть, как народ по ближайшим дискотекам, как они говорят, хотели просто проверить народ на ближайших дискотеках. Но на самом деле оказалось, что эти джинсы теперь могут фиксировать.

Андрей Андреев: Надо развивать свое производство.

Андрей Масалович: Или выходить из дома... А хотите сохранить приватность, выходите из дома без штанов.

Александр Денисов: Без штанов, да.

Андрей Андреев: Нечего, да, нечего там, это самое, импортом баловаться.

Андрей Масалович: Да.

Тамара Шорникова: Андрей Леонидович, а вы что ответите нашему телезрителю?

Андрей Андреев: Ну, я просто повторю то, что говорил в начале. Основания для беспокойства, конечно, есть, и это связано не только с искусственным интеллектом, это связано и с биотехнологиями, с имплантацией органов, там масса возникает этических проблем, социальных проблем и других. Ну, уже мы видим, вот пересадка органов, благо, человека могут спасти, почку пересадить, но тут же возникает рынок, причем рынок какой? Людей захватывают, почки эти, так сказать, у них изымают, то есть это криминал жуткий, вот. Но, к сожалению, прогресс всегда был так устроен, мирный атом и атомная бомба, и все всегда было так, меч и щит. Поэтому это, в общем, диалектика, которая проявляется с самого начала, просто нужно ее как бы освоить теперь на новом этапе.

Александр Денисов: Андрей Леонидович, вот хорошо, что про ядерную бомбу вы привели пример. А может быть, у человечества всегда есть иммунитет против какого-то нового вида дряни, даже вот технологической и так далее? Вот ядерная бомба, знаменитая история с супругами Розенбергами, которых посадили на электрический стул американцы, которые передавали нам секрет ядерной бомбы. Они не были шпионами, они были просто передаточным звеном. А президент наш в интервью рассказывал, что ученые-ядерщики американские поняли, что совершили некую ошибку и нужно восстановить в мире баланс сил, то есть это был такой гуманный иммунитет человечества.

Андрей Андреев: Да, это было, это было.

Александр Денисов: Они передали без денег, без всего, просто за идею отдали для баланса сил.

Андрей Андреев: Да.

Александр Денисов: История такая же была с пенициллином, тоже, кстати, послевоенные годы, тоже американские ученые, когда мы не могли в промышленных масштабах наладить производство пенициллина, ну чтобы лечиться, и ездили к американцам, а они все тянули кота за разные места, нам то цену поднимали, то прочее. В итоге один из ученых пригласил нашего и говорит: «Да они уже совсем сбрендили», – открыл сейф, есть такая история, показал ему, достаточно нашим ученым было глянуть на эти пару страниц, все понять, промышленное производство было налажено. Есть у человечества некий иммунитет в таких сложных вещах спастись совместно, как считаете?

Андрей Масалович: Да, но... Вот раз уж мы заговорили про становление ядерной бомбы и некоторые там изменения в мозгах ученых, я бы процитировал цитату, по-моему, из 1930 года Макса Борна, одного из создателей современной теории атома, который говорил, что современная наука убивает современную этику. То есть любые научные исследования будут использованы во зло, соответственно, нужно придумывать, рядом должен быть какой-то баланс, и государства этим балансом не занимаются, они как раз заинтересованы все новое превращать в оружие.

Александр Денисов: А вот эти примеры вас не убеждают, что какой бы Урфин Джюс, как говорит наш зритель, или «Три толстяка» там ни сидели, человечество сильнее оказывается?

Андрей Масалович: Ну, в таких красивых примерах меня всегда пугает, что раз мы их можем по пальцам пересчитать, значит, это исключение, это не встроенная часть жизни.

Александр Денисов: Из правила.

Андрей Масалович: Да, это исключения из общего правила. Слава богу, что они есть и вовремя появляются.

Александр Денисов: Андрей Леонидович, вы как считаете?

Андрей Андреев: Ну, я думаю, что нельзя сказать, как пойдет. Это было всегда, эти ситуации были всегда, человечество справлялось с ними ну вот таким образом, как мы сейчас об этом говорили. Часто случайно. Справится ли оно в следующий раз, я не знаю, всегда будущее открыто, может быть так, может быть этак. Но надо поэтому проявлять бдительность определенную, то есть надо над этим работать. Если будет работать государство, будет работать гражданское общество, то, глядишь, и найдутся еще Розенберги и найдутся другие люди, которые все-таки вот эти вот неблагоприятные последствия заблокируют. Остается только надеяться, потому что гарантий никаких нет.

Тамара Шорникова: Все-таки насколько мы действительно справимся перед очередным вызовом? Как мы договоримся между собой? Вот мы сейчас живем с определенными общественными договоренностями, с Уголовным кодексом, с Административным и так далее, есть понимание: поступок – ответственность. Условно человек сбил другого человека, сядет в тюрьму. С теми же беспилотными автомобилями, вот, пожалуйста, новая авария с автомобилем Tesla...

Андрей Андреев: Нет там ответственности, да.

Тамара Шорникова: Соответственно, все больше позиций будет занимать искусственный интеллект, все больше будет совершать ошибок, это неизбежно. Кто будет нести ответственность? Как наказать искусственный интеллект? – от Wi-Fi отключить на неделю, или что сделать? Как мы будем договариваться в этих ситуациях?

Андрей Масалович: Ну, во-первых, к сожалению, если у нас есть гнилой мост, то сначала разрушают старый, а потом думают, как строить новый. То есть сейчас очень много институтов общественных договоренностей рушатся, и, пожалуй, последнее, что еще не произошло, пока не появилось оружие, которое само принимает решения, еще есть какой-то баланс. Как только дрон будет сам решать, ему сейчас бомбить или не бомбить, все, тогда ответственность будет полностью размыта. Но я даже сейчас понимаю, почему мы до сих пор не встретили инопланетян, – потому что они на нас смотрят и думают: «Пока они вот так творят со своей планетой, со своими технологиями и даже со своей рекламой, к ним пока лететь рано». То есть человечество пока не очень хорошо обходится с... Ну то есть порождение любой новой технологии сначала порождает перекос в ее использовании, причем явный. Ведь фактически мы обсуждаем не будущее, мы обсуждаем перекосы сейчас, что вот это будет плохо, вот это будет плохо, вот это... Поэтому...

Александр Денисов: А может быть, нас спасет наше технологическое отставание некоторое? Вот мы говорим, что нас...

Андрей Масалович: «Нас» в смысле как Россию?

Александр Денисов: Да-да-да. Вот нет у нас роботов, люди на местах останутся.

Андрей Андреев: Это фактор, это фактор, да. Это фактор, между прочим, это некоторое преимущество, только его надо уметь использовать.

Андрей Масалович: Ну, шутки шутками, а, скажем, в противостоянии в киберпространстве и в критической информационной инфраструктуре у нас есть плюс, у нас нельзя вот так вот отрубить электричество, чтобы в госпиталях начали умирать люди, как это сейчас было в Штатах и было в Индии, потому что у нас просто никто даже не заметит, никто не поймет, что это была атака американцев, просто включится резервный дизель-генератор, а все больные и так уже подключены, так чтобы при сбоях электричества с ними ничего не произошло. Так что наша такая неинтегрированность в мировой процесс здесь может выступить...

Андрей Андреев: Ну, надо посмотреть, как оно пойдет. Надо идти чуть-чуть, так сказать, не забегать...

Александр Денисов: Торопиться не нужно.

Андрей Масалович: Да.

Андрей Андреев: Ну, торопиться нужно, но на шаг позади или на полшага позади. И в общем-то, надо сказать, Россию это часто спасало. Вот если посмотреть исторически, это тема особого разговора, вот мы все говорим, отсталая, отсталая, – она на самом деле не отсталая, вот, но, может быть, она как бы...

Александр Денисов: «Россия не отстает, сосредотачивается», Андрей Леонидович.

Андрей Андреев: Она сосредотачивается, да, и она смотрит, как оно пойдет, как оно пойдет.

Александр Денисов: Спасибо большое.

Андрей Масалович: Когда-то Андрей Петрович Ершов, академик, сказал: «Мы не отстаем, мы идем не туда».

Тамара Шорникова: Андрей Андреев, главный научный сотрудник Института социологии РАН, доктор философских наук, и Андрей Масалович, президент Консорциума «Инфорус», специалист по кибербезопасности. Спасибо вам за интересный разговор.

Андрей Андреев: Спасибо.

Авторизуйтесь, чтобы быстро и удобно комментировать
Авторизуйтесь, чтобы быстро и удобно комментировать
Комментарии (0)
Какое будущее нам готовит эпоха искусственного интеллекта