Цифровое средневековье

Цифровое средневековье | Программы | ОТР

Знаем ли мы, куда нас может привести прогресс?

2020-01-27T18:26:00+03:00
Цифровое средневековье
Бедность пошла в рост?
Впервые в России лес могут отдать в частную собственность
Не хочу, чтобы ребёнок стал блогером... О какой работе для своих детей мечтают россияне?
Новые правила поверки счётчиков. Разъяснения наших экспертов в сфере ЖКХ
Армения и Азербайджан на пороге войны
Опять карантин?
Регионы. Что нового? Красноярск, Тюмень, Рязань
Снова самоизоляция? В Арктике тает лёд. Здоровая и счастливая жизнь. Многодетная парковка. Соцсети: от 14 и старше. Как призвать к ответу бизнес, который травит подростков. Можно ли научить искусственный разум справедливости?
По приговору искусственного интеллекта
Индустрия анти-детства
Гости
Василий Черный
директор по маркетингу Brand Analytics
Владимир Пирожков
футуролог, промышленный дизайнер, директор инжинирингового центра «Кинетика»

Александр Денисов: «Цифровое Средневековье», у нас большая тема. Генсек ООН припугнул человечество приближающимися всадниками апокалипсиса, один из них как раз является представителем «темной стороны цифрового мира». Почему технологии делают мир все более конфликтным, нетерпимым и агрессивным? И есть ли риск, что человечество свернет, что называется, не туда? Ведь Холокост устроила нация, которая была мировым лидером и в науке, и в искусстве.

Анастасия Сорокина: Об этом говорим вместе с вами, звоните, пожалуйста, нам в прямой эфир, высказывайте свое мнение, а также задавайте вопросы. Сегодня в студии у нас замечательные гости, которые на них с удовольствием ответят. Владимир Вячеславович Пирожков, футуролог, промышленный дизайнер, директор инжинирингового центра МИСиС «Кинетика», – здравствуйте.

Владимир Пирожков: Здравствуйте.

Анастасия Сорокина: И Василий Анатольевич Черный, директор по маркетингу «Brand Analytics».

Василий Черный: Добрый вечер.

Анастасия Сорокина: Добрый вечер.

Если уж, Саш, сказали по поводу всадника апокалипсиса, сразу хочется обозначить. Это все-таки у нас цифровизация, Интернет, прогресс – это всадник апокалипсиса, или это светлый ангел прогресса? Как вы к этому относитесь?

Василий Черный: Ну, как обычно истина посередине, но все-таки я бы ее сместил в более позитивную сторону. Это, конечно, новые возможности, и при всех проблемах, которые это несет, мы эти проблемы, я надеюсь, решим и перейдем в какую-то новую фазу жизненного цикла, воспользовавшись этими технологиями на благо общества. Безусловно, нет, не всадник.

Владимир Пирожков: Я тоже, наверное, больше позитивен примерно на 60%. Но как всегда это история с двойным назначением, как у нас любят говорить, поэтому может быть и так, и так, в зависимости от того... В свое время Черномырдин хорошо сказал: «Хотели как лучше, а будет как всегда». Поэтому...

Александр Денисов: А получилось как всегда.

Владимир Пирожков: Посмотрим.

Александр Денисов: А вам вообще не кажется ситуация комичной? Вот ООН, организация, которая должна регулировать все сложные процессы в мире, конфликты и прочее, она ничего не делает, ни на что не может повлиять, бессильна практически во всех отношениях, во всех сферах, куда она должна вмешиваться, и при этом она нам рисует какие-то страшные, жуткие картины будущего. Вот как раз она в настоящем не может разобраться, а про будущее рисует, как будто может с этим справиться. Вам не кажется это комичным вообще? Напугали, как говорится, ежа одним местом: вот, гляньте, оказывается, цифровой мир принесет нам... Как будто у нас до этого неприятностей не было. Не кажется это вам вообще забавным?

Василий Черный: Согласен, хотя, может быть, не столько комично, сколько немножко грустно. Но мы все с вами как бы видим, что такой общественный договор, который в свое время выразился в создании ООН и как бы некой международной стабильности, балансе и понимании того, что мы все в одной лодке и надо как-то жить дружно...

Александр Денисов: У нас тут на Ближнем Востоке люди друг друга убивают просто без остановки, ежедневно, а он нам про угрозы цифрового мира говорит.

Василий Черный: Согласен, вот. Поэтому, к сожалению, ООН сейчас не ньюсмейкер, то есть кто-то другой, наверное, сможет как-то нас примирить и друг с другом, и с технологиями. Вряд ли это будет ООН.

Владимир Пирожков: Вот можно еще так сказать, что ООН – это странный рупор, откуда это все идет.

Александр Денисов: Как будто они могут справиться с этим, да?

Владимир Пирожков: Я бы больше смотрел на Google и остальных Uber, потому что цифровые компании сейчас становятся лидерами и на рынке, и, скажем, в капитализации своей, и в том, сколько средств они вкладывают в изделия типа искусственного интеллекта. И самое интересное в этом всем то, что вкладывается в развитие искусственного интеллекта, скажем так, на порядок больше, чем в противодействие искусственному интеллекту. И поэтому рано или поздно произойдет, скажем, точка сингулярности, когда мы уже не сможем, во-первых, понять, что происходит, во-вторых, повлиять на это.

Анастасия Сорокина: Саш, недавно обсуждали...

Александр Денисов: Пример, да, как раз когда мы не можем повлиять.

Анастасия Сорокина: Не уверена, что я про это хотела сказать.

Владимир Пирожков: У вас тут весело.

Анастасия Сорокина: Мы общались на тему кибербезопасности, и таким откровением стало, что да, сейчас современные войны уже ведутся на просторах цифровых. Но, оказывается, они уже там ведутся десятилетия, то есть, в общем-то, эта история, которая, может быть, до нас, до обывателей дошла вот только сейчас, но и над безопасностью работают, и технологии современные уже тоже ушли далеко вперед, просто мы тут узнаем, что, оказывается, уже опасно дать свою подзарядку от телефона, потому что все, что у тебя в телефоне, может быстренько утечь, все твои данные перейдут на другой носитель.

Владимир Пирожков: Ну если они добрые и хорошие данные, почему бы нет? Вот люди используют эти данные на благо. Но вопрос всегда в том, что...

Анастасия Сорокина: На благо ли?

Владимир Пирожков: ...есть Мистер Добро и Мистер Зло, да, поэтому кто даст вам гарантию, что в соседнем кафе кто-нибудь не разрабатывает SkyNet сейчас, вы же не отследите это.

Анастасия Сорокина: А что это такое?

Владимир Пирожков: Ну из «Терминатора», это, скажем так, то, что создаст машины, которые будут гораздо более эффективные, чем человек.

Александр Денисов: Давайте к конкретным примерам перейдем, когда технологии как раз оказываются сильнее человека, даже вредят в определенных случаях. Вот в мае прошлого года при посадке в «Шереметьево» загорелся самолет «Sukhoi Superjet», погибли там 40 с лишним человек. По одной из версий, причина трагедии – это ошибки экипажа, вот там пилоты не смогли справиться с техникой, всем управлял автопилот, выяснилось, что у них не было никаких навыков управления самолетом в такой вот экстренной ситуации, а не было, потому что вот опять же надеялись на автопилот, на технику, которой под завязку забиты современные модели. Вот послушаем, мы это обсуждали с нашими экспертами, в том числе с Магомедом Толбоевым, какие они мнения высказывали о современных технологиях, которые нам вредят сейчас.

Магомед Толбоев: Когда... началась война между конструкторами, летчики-испытатели, мы наотрез встали против конструкторов генеральных, Лозинского и других. Мы сказали: «Введите контур ручного управления (КРУ), без него мы не полетим в космос». Что такое контур ручного управления? Это прямое вмешательство в самолет, то есть обводное через, минуя компьютер, я могу с кораблем разговаривать один руками, мышечной памятью и головой. Вот это они сделали несмотря ни на что, сделали, и вот так же можно и здесь, на самолете.

Александр Денисов: Вопрос: может быть, не стоит так на компьютеры-то полагаться, так уж идти вперед с этой техникой? Давайте поменьше электроники будем туда совать.

Антон Корень: К сожалению, научно-технический прогресс не остановить, но я предлагаю задуматься еще над одной темой. Весь мир сейчас производит испытания беспилотных авиационных систем, которые предполагают полное отсутствие пилотов.

Александр Денисов: Ну да, эти машины беспилотные, которые людей давят на улицах, прекрасные системы.

Антон Корень: Да, причем беспилотных авиационных систем, беспилотных самолетов, и весь мир работает над этим. Мы знаем, что над Дубаем летает, месяц назад в Вене испытывали, в Сингапуре будет в конце этого года летать над городом беспилотный вертолет, а также еще в Токио на Олимпиаде, то есть на самом деле уже десятки испытаний. Это наше будущее?

Александр Денисов: Вы серьезно нам предлагаете на таких самолетах летать?

Антон Корень: Я не предлагаю, я говорю, куда движется научно-технический прогресс.

Александр Денисов: Вот ключевая фраза прозвучала. Может быть, нам остановить прогресс, потому что он не доводит до добра нас в авиации, там столько техники, что человек там не нужным, а когда он нужен, он не знает, как управлять этим самолетом, потому что его не учили, потому что на технику понадеялись. Может быть, нам в конце концов сказать «стоп», давайте здесь уже не будем столько электроники вставлять?

Василий Черный: Я как бы первый... Значит, это все-таки сильное утрирование. Конечно же, нет.

Александр Денисов: Ну как утрирование? Самолет грохнулся, они не умели управлять им.

Василий Черный: Самолет грохнулся, мы все с вами понимаем, что, когда мы вспоминаем эпоху расцвета нашей авиационной промышленности в Советском Союзе, таких инцидентов было меньше и так далее. То есть мы сейчас, к сожалению, продолжаем наблюдать результаты того кризиса, который нас постиг в 1990-е гг., в начале 2000-х гг. с нашей авиационной промышленностью.

Александр Денисов: Так не только у нас, Boeing повсюду падают.

Василий Черный: Согласен, отсутствие конкуренции в том числе с нами, вот. Поэтому нет, я бы не стал говорить, что это релевантный пример. А вот пример с Tesla, конечно, релевантный...

Александр Денисов: Которая сбивает людей?

Василий Черный: Которая сбивает, или там пример, я не знаю, с «Яндекс.Такси», с которым... Там есть такая знаменитая девушка Лена Гращенкова, которая заставила «Яндекс» наконец-то страховать все наши поездки и признать, что они ответственны за то, что они нас сажают в свой автомобиль. То есть, конечно, сами все технологии могут до добра и не довести, но все-таки если мы с добрыми намерениями будем их развивать, все будет хорошо, не надо их бояться.

Владимир Пирожков: Для начала я просто напомню, что было два инцидента с Boeing 737 MAX, который именно по этой причине, из-за того, что люди не смогли вмешаться в систему, оба погибли. Как раз приостановка, которая стоила Boeing колоссальных миллиардов, приостановка производства и заказов этих самолетов благодаря как раз этой теме, это раз. «Sukhoi» – это, скажем так, маленький примерчик большого системного кризиса. А следующая история такая, что дело в том, что остановить это не получится...

Александр Денисов: Остановить прогресс не получится?

Владимир Пирожков: Нет. Мы слишком любопытные зверьки, мы не можем остановиться. Мы гораздо быстрее придумываем, чем можем освоить. Например, то, что... Сейчас в Давосе был завтрак Сбербанка, там как раз...

Александр Денисов: Герман Греф схожую мысль высказал, опасение, что делает из нас цифровых идиотов прогресс.

Владимир Пирожков: Ну это так жестко сказано, а на самом деле это действительно цифровой аутизм. И ситуация такая, что развитие технологий быстрее, чем мы можем адаптироваться под них. И опять же мы не сможем остановиться, мы настолько любопытны и настолько, скажем, любознательны, нам очень хочется знать, что там за дверью, поэтому мы не остановимся. Другое дело, что нужно, желательно готовиться к каким-то негативным последствиям, которые мы хотя бы можем предугадать. Но очень многих вещей мы не предугадаем, потому что скорость тех изменений, которые сейчас происходят, гораздо быстрее, чем наше понимание или адаптация.

Александр Денисов: То есть, подводя черту, мы можем сказать, что мы уже не контролируем современные технологии, мы уже не знаем, к чему они нас приведут, и...

Владимир Пирожков: Пока еще знаем.

Александр Денисов: Знаем.

Владимир Пирожков: Еще пока знаем, но это близко к тому моменту, к точке невозврата.

Анастасия Сорокина: Вот, кстати, на этом же форуме была фраза у Федора Лукьянова, главного редактора журнала «Россия в глобальной политике»: «Угроза цифровой диктатуры, угроза цифрового манипулирования, угроза потери контроля над будущим в разных дискуссиях уже довольно четко кристаллизуются».

Владимир Пирожков: Давайте я вам сейчас просто небольшой пример приведу. Начинают печатать живые организмы сейчас, то есть появляется технология печати живых организмов живыми клетками. Это пока примитивные организмы, это пока на уровне небольших рыбок, которые, скажем так, в воде движутся по указке световой, то есть за светом каким-то определенным. Это такая базовая пока модель. Если дальше дело так пойдет с такой скоростью, с которой оно сейчас идет, то, я думаю, где-то лет через 25–30 появляются организмы, которые вполне себе сопоставимые с собакой, может быть, то есть уже на уровне собачьего интеллекта.

Александр Денисов: Чем это опасно нам?

Владимир Пирожков: Пока ничем. Но дальше самое интересное начинается. Сейчас активно идет работа над созданием чипов, которые могут нам позволить, чипы-переходники так называемые, которые позволят нам связываться с глобальным разумом, назовите это Интернет или каким-нибудь общим цифровым пространством, напрямую без посредников. Компьютер – это посредник по большому счету: мы смотрим в компьютер, мы видим там отражение какое-то какой-то информации и мы набираем пока элементарными аналоговыми методами что-то. Но скоро это можно будет делать мыслью, и скорость мысли очень высока. Поэтому в принципе ситуация такая, что тот, кто будет связан с глобальным разумом, тот попадает автоматически в элиту.

Александр Денисов: Ключевой вопрос. Вот скажите, технологии меняются, человечество нет, во все времена технологии использовали для того, чтобы одна нация доминировала над другой, для конкуренции для собственной. Вот мы сейчас отмечаем, ну как отмечаем, вспоминаем Холокост, блокаду Ленинграда, немцы были одной из самых прогрессивных наций на тот момент в науке, в искусстве, они свернули на такую дорогу... Вот мы сейчас понять не можем, они людей в печку начали засовывать.

Есть ли риск, что вот эти современные технологии будут тоже использоваться для негуманных целей, для превосходства одной нации над другой, одного класса над другим? Вот привели пример, рыбок печатают, а скоро одни смогут лечиться, а другие нет. Вот могут ли эти технологии угрожать нам в этом плане?

Василий Черный: Если можно, я тогда чуть-чуть длиннее скажу, немножко вернувшись к некоторым вопросам, которые ранее тоже поднимались. С моей точки зрения, действительно социальный аспект самый интересный. То, что технологии научаются делать и поражают новыми возможностями, – это как бы более простой аспект, это действительно так и будет, они будут развиваться, мы любознательны, мы много раз могли себя уже похоронить, такая вероятность все равно будет сохраняться, не это главный вопрос. Главный вопрос, как меняется социальный аспект, как меняется наше социальное поведение в связи с тем, что технологии нам дают столько возможностей, вот это ключевой момент.

Ты вспомнил про Google, который сейчас, как бы цифровая компания, она правит миром. На самом деле действительно несколько лет назад встал достаточно острый вопрос, кто сейчас будет главный, глобальные компании, которые за 20 лет цифровые вытеснили с первых мест нефтянку, ритейл, вообще всех, или государство. Последние 10 лет это было такое выяснение, потому что глобальные компании имели возможность создать свои страны, и даже такие варианты обсуждались, потому что их влияние на мировую экономику, на нашу с вами жизнь уже сопоставимо с влиянием государства.

Александр Денисов: То есть они все-таки применяют для доминирования?

Василий Черный: Пока испугались, пока испугались, отступили и, как вы видите на примере Штатов, и Google укротили, и Facebook укротили, Apple почти, там сейчас то же самое происходит. Пока эти компании отступили, но, возможно, все вернется к тому, что мир в принципе будет переделан...

Александр Денисов: А как их укрощали, интересно?

Василий Черный: Ну как? Вы, наверное, видели, как вызывали Цукерберга многократно, соответственно, и он отчитывался перед Конгрессом...

Владимир Пирожков: Да.

Василий Черный: Просто его уничтожили...

Александр Денисов: Там его упрекали, что он пропустил, мол, какую-то агитацию о выборах и так далее.

Василий Черный: Нет-нет, там много всего было, там ввели представителей ЦРУ в совете директоров Google, в Facebook, везде.

Александр Денисов: То есть это было укрощение строптивого?

Василий Черный: Это было укрощение строптивого, укрощение, кто главный, технологии... Сейчас ведь, перед тем как что-то умирает, оно сначала достигает наибольшего расцвета. Вот сейчас тот же Трамп – это такой апофеоз классического американского капитализма, это некоторый возврат от условно демократической Америки к такой классической ковбойской, которая, так сказать, умела и могла зарабатывать деньги, но, скорее всего, это ровно перед тем, как все изменится, это такой последний...

Владимир Пирожков: Последний аналоговый ковбой.

Василий Черный: Да-да-да. А цифровые компании ждут, цифровые экономики ждут. Но еще более интересно, вот эти вот все разговоры про зетеров, про молодежь, они не случайны. Интернет плюс цифровая экономика выращивают ту молодежь, способствует росту той молодежи, которая совершенно на нас не похожа, которая мыслит... Вот политическая система для современной молодежи – это пустой звук, поэтому по прогнозам определенных футурологов, такое есть, политической системы не будет вообще, политиков не будет вообще, будет народовластие через цифровую власть народа. Ну это как бы...

Владимир Пирожков: Я добавлю...

Александр Денисов: Все-таки вы ушли от ответа, используется это для доминирования, для власти, для достижения большей власти?

Владимир Пирожков: Вы толкаете в какой-то, скажем так, негативный сценарий...

Александр Денисов: А почему негативный? Вполне реальный.

Владимир Пирожков: Я могу очень много негативного рассказать, это моя работа.

Александр Денисов: Расскажите.

Анастасия Сорокина: Вы сказали, что 40% плохих, вот мы про них и спрашиваем.

Владимир Пирожков: Стойте, я вам про добро немножко расскажу. Давайте так: например, сейчас блогер какой-нибудь гораздо более влиятелен, чем какая-нибудь известная старая газета.

Александр Денисов: Ну это уже на Западе они перестали вкладывать в блогеров, потому что они теряют свой авторитет.

Владимир Пирожков: Сейчас что-то другое появится.

Александр Денисов: Да, уже изменилось.

Владимир Пирожков: Система настолько быстро меняется, что мы зачастую не можем отследить этих изменений, и те трендсеттеры, скажем, которые появляются, они настолько стремительные, что новая молодежь становится очень гибкой и очень, я бы назвал, даже жидкой...

Александр Денисов: Вы знаете, хорошему мы вместе порадуемся, это будет прекрасно, вы нам про плохое лучше, чего нам бояться, все-таки вернемся.

Владимир Пирожков: Ну в первую очередь бояться, наверное, не нужно, нужно работать над тем, чтобы мы были в лидерах изменений. Потому что у России есть хороший задел, и этот задел... Если вы спросите очень хорошего компьютерщика или очень хорошего IT-шника, где он научился, то около 80%, если не 90%, скажут, что они самоучки. Это русские самоучки, которые ищут сами эти программы и находят их просто из открытого доступа в основном.

Василий Черный: Я можно продолжу, поддержу? Я тут пока ехал, вспоминал свой один из любимых рассказов, он, по-моему, лемовский рассказ, он называется «День знаний», это про то, надо ли бояться или не надо бояться. Это будущее, когда, значит, молодого человека за один день, за один час научали той профессии, к которой он, по мнению компьютера, предназначен наилучшим образом. И всегда, каждый год были несколько отщепенцев, которые оказывались ни к чему не пригодные, и их увозили куда-то в лес с неизвестным результатом.

И вот идет повествование от лица этого героя, которого увезли в лес. Он думает, что он никто, ничто, ему ничего не говорят. Он находит старую библиотеку, начинает читать книжки, начинает заниматься самообразованием. Что потом выясняется? Выясняется, что люди, которые легко получают свои знания, не способны создавать ничего нового, и так же технологии, то же самое. А люди, которые добыли свои знания трудом, способны создать нечто принципиально новое.

То же самое с технологиями: вот искусственный интеллект сейчас употребляется в очень попсовом выражении, в реальности за этим почти ничего не стоит. А machine learning стоит, то есть нейросети в настоящий момент могут нам оптимизировать бизнес, много-много чего, помочь. С этим мы научились работать, а вот при этом понимаем, что нейросеть ничего нового создать нам не может, но может сделать ту задачу, которую мы ей поставили, лучше нас. И вот в этот момент страх уже отошел, мы уже не боимся нейросеть, потому что мы знаем, что она сделает только то, что мы ей сказали, и нас заменит. Поэтому вот сейчас такой интересный момент, когда мы понимаем, что не стоит бояться искусственного интеллекта.

Анастасия Сорокина: Но противоречит кинематограф. Американцы очень любят фантазировать на тему будущего, и какое количество катастроф по поводу машин, их восстания, что они стали умнее людей...

Александр Денисов: А массовая культура обычно обладает склонностью предсказывать наши проблемы, Настя.

Василий Черный: Склонностью к предсказательности, да.

Владимир Пирожков: Смотрите, еще какая вещь есть. Есть ведущие компании, которые лидеры технологий, и те, кто стоят у руля этих компаний, обычно задают стратегию этим компаниям. Я в свое время работал на «Toyota», и я просто знаю, как устроена там система принятия решений. Руководство компании смотрит на то, как сделать людям лучше, это их главная задача, не как сделать людям хуже, а как сделать людям лучше. Соответственно, они сейчас разрабатывают стратегии о перемещении в пространстве и во времени, на минуточку, когда мы еще пока в плоскости все.

Василий Черный: Стратегии перемещения в пространстве и во времени?

Владимир Пирожков: В пространстве и во времени. Если вы в пространстве перемещаетесь, вы перемещаетесь гораздо быстрее, чем в плоскости. То есть, например, в автомобиле или в поезде вы сможете приехать туда, туда вы прилетите, например, на каком-нибудь «ионолете» гораздо медленнее. Поэтому сейчас идет работа над тем, как изменить перемещение человека. Это не автомобиль, это мобильность нового уровня.

И если, например, компания «Toyota», которая отвечает за мобильность, она думает, что она отвечает за мобильность в мире, она занимается тем, чтобы перемещать человека во времени и в пространстве, то, наверное, другие компании, которые занимаются, я не знаю, пищей, которые занимаются какими-то стратегическими вещами, транспортом или, например, энергетикой, если руководство будет ставить правильную стратегическую цель, именно дальновидное, серьезное будет целеполагание, то тогда у нас есть шанс войти в будущее совсем не далекое от нас очень интересно.

Конечно же, будут негативные явления, потому что чем дальше мы живем, информации больше получается, и мы начинаем узнавать, что, оказывается, Мистеров Зло очень много вокруг, и они могут просто ради своих каких-то целей личных или каких-то там государственных, например, заниматься очень активно созданием систем, которые могут хакнуть что-нибудь очень мощное...

Александр Денисов: Вы знаете, чтобы во главе хоть одной страны стоял Мистер Добро, вот так ответим на вопрос?

Владимир Пирожков: Все относительно. Знаете, я в свое время...

Василий Черный: Россия.

Александр Денисов: Спасибо вам, но мы говорим про...

Василий Черный: Вы просто забыли.

Владимир Пирожков: Знаете как? В свое время появилась история про «ось зла» – помните, это была Россия, Северная Корея, Иран и еще кто-то там, не помню? Я, значит, подумал: хорошо, тогда должна быть «ось добра» у тех людей, кто это придумал, и ось добра, скорее всего, англосаксы получаются, ну те, кто придумали «ось зла». Соответственно, я подумал, что если мы, «Russins love their children too», как Стинг пел в свое время, если мы добрые, то, значит, они злые? Значит, мы тогда «ось добра», а они «ось зла», значит, у нас разделилось на две каких-то половинки.

Поэтому все относительно, все двойного назначения. Я, например, свою дочку очень сильно люблю, как и, наверное, американский какой-нибудь конгрессмен. Поэтому если мы будем мыслить добром, то будет лучше, мы будем программировать системы на добро.

Анастасия Сорокина: Саш, дадим слово зрителям, пожалуйста, очень много накопилось звонков.

Александр Денисов: Да.

Анастасия Сорокина: Пока они еще не телепортируются к нам в студию, принимаем просто звонок от Анатолия из Саратовской области. Здравствуйте.

Зритель: Здравствуйте. У меня... Алло? Вы меня слышите?

Анастасия Сорокина: Говорите-говорите, мы слышим.

Зритель: Вопрос такой. Вот как бы оцифровка, понятно, электронные носители, все хорошо. Но вот бумажные носители, допустим, многие законопослушные граждане, имеющие частные дома, какие-то другие объекты, оформляли все на бумаге с разрешения администрации, все регистрировалось в БТИ. Потом по какому-то поводу произошел такой переход на цифровую технологию, и все эти данные перешли в госреестр, Росреестр. И там якобы можно все это увидеть.

Но почему-то эти данные, то, что было учтено у законопослушных граждан, которые каждый свой шаг оформляли, у всех есть документы, но их не видно в Росреестре. И получается, это получается... Я не знаю, как вам сказать, чье это. Я не знаю, кто заказчик этого был, но в результате очень многие граждане, особенно в пожилом возрасте, они знают, что у них все в порядке, есть свидетельство, договор, все прочее. И вдруг приходит какой-то чел, купил 1/3 частью и оформляет весь участок. И потом, чтобы вернуть этот участок, извините, эти граждане должны судиться, через суд, а они этой возможности не имеют. Получается, что ваши цифровые технологии, которые, казалось бы, должны помогать гражданам, они, получается, помогают жуликам, а не гражданам.

Александр Денисов: Спасибо большое, спасибо.

Зритель: Вот я не знаю, как вам сказать.

Анастасия Сорокина: Спасибо.

Александр Денисов: Ну вот как раз про Мистера Зло и Мистера Добро.

Анастасия Сорокина: И можем еще одного зрителя сейчас выслушать сразу, чтобы ответить? Александр, Московская область. Здравствуйте.

Зритель: Здравствуйте. Меня слышно?

Анастасия Сорокина: Говорите, пожалуйста, Александр.

Зритель: Да. Здравствуйте, уважаемая студия, здравствуйте, уважаемые телезрители. Я являюсь сторонником прогресса, развития всех этих технологий. Я просто хочу обратить внимание людей к той ситуации, с которой я столкнулся. Сейчас многие банки, многие операторы, я не буду называть эти компании, вы все их хорошо знаете, мы все ими пользуемся, без моего ведома, без моего спроса внедряют искусственный интеллект или подобные системы, которые заменяют человека, не ставя меня в известность. То есть получается, что мои права и свободы передают машине, кому-то компьютеру без моего согласия.

Я лично написал в несколько организаций, очень серьезных организаций запросы с официальными печатями, просил, чтобы в общении со мной либо предупреждали о том, что со мной общается искусственный интеллект, или же просто выключали его, переключали на людей. Для чего? Для того чтобы я свои свободы, деньги, которые я зарабатываю, и те блага, которые я имею, не передавал этим машинам. Они сейчас не очень совершенны, и человек, который ими управляет, я его не знаю, понимаете, я не могу ему доверять на 100%. Вот.

Александр Денисов: Спасибо, Александр.

Анастасия Сорокина: Спасибо.

Александр Денисов: Ключевой вопрос: ответственен ли изобретатель за свое изобретение, за информационную технологию? Отдает ли... Вот вы сказали, что не отдает отчет, к чему это приведет. Давайте вообще предельно упростим ситуацию и выйдем, так сказать, на мировой уровень. Все мы помним историю разработки ядерного оружия, помним эту историю, как супругов Розенбергов, Этель и Юлиуса, сейчас мы их покажем на фотографии, казнили, потому что американские ядерщики поняли, что ядерное оружие в одних руках опасно для всего остального мира, нужно передать технологию, они оказались, работали на нас, передали нам технологию, и мы, по-моему, в 1949 году уже провели первые испытания, то есть восстановился баланс сил. Люди поняли, что человечество на грани гибели.

Василий Черный: Да.

Александр Денисов: И они поняли, что технологии нужно передать всем, иначе до добра дело не дойдет. Вот сейчас можем ли мы сказать, что современные технологии, опять же я возвращаюсь к этой мысли, если они окажутся в одних руках, то это приведет к доминированию в мире, к опасности для всех остальных? Мы приводим, конечно, уж крайний вариант с ядерными технологиями, но новые технологии тоже могут использоваться во зло. Будет ли такой момент, когда их нужно будет передавать всем и опасно, что они будут в одних руках?

Василий Черный: Ну, я бы сказал как раз, что вы вернулись к социальной теме. С моей точки зрения да, как раз переустройство мира должно быть таковым, потому что доступ к технологиям, как и ограничения распространения ядерного оружия, так и доступ к новым технологиям должен каким-то образом проговариваться. Люди должны научиться договариваться. Сейчас у нас кризис договороспособности на международном уровне. При таком бурном росте технологий это, конечно, большой риск, с этим спорить трудно.

Александр Денисов: А мы уже знаем, что вот у кого-то... Мы можем предположить, что кто-то уже может доминировать с помощью неких новых цифровых технологий очевидно во зло другому миру, как с ядерным оружием?

Владимир Пирожков: Смотрите, какой пример очевидный совсем недавний, когда Сноуден передал определенную информацию...

Александр Денисов: ...про АНБ, про слежку.

Владимир Пирожков: ...про АНБ, и у него был еще партнер какой-то, полумальчик, полудевочка, который тоже был осужден. Это как раз те ребята, которые в принципе думали абсолютно так же, как и Розенберги. Поэтому передача данных одной, скажем, части или одной...

Александр Денисов: Они всему миру передали эту информацию.

Владимир Пирожков: Да-да-да, поэтому тут, я думаю, человечество себя бережет вот такими системами балансов и противовесов. Поэтому да, оно появится где-то раньше, чем в другом месте. Например, просто для справки: Китай выделил в прошлом году на развитие искусственного интеллекта 142 миллиарда долларов. Ну вот просто надо умножить на сколько там, 69 у нас сейчас курс или 61, давайте умножит, это столько миллиардов было вложено в искусственный интеллект в прошлом году. ФРГ, Германия 3 миллиарда долларов.

Александр Денисов: Сто шестьдесят девять и три?

Владимир Пирожков: Сто сорок два и три, а про Россию я не знаю, нужно посмотреть цифры российские, которые были выделены на развитие искусственного интеллекта.

Александр Денисов: Это мы еще не знаем, что за этими словами стоит.

Владимир Пирожков: Да. Поэтому, смотрите, с такими ресурсами можно погонять, как говорится, и посмотрим, у кого из этого раньше что-то получится, по Америке у меня данных нет. Но очень много частных компаний этим занимается, и все занимаются в секрете друг от друга, это самое...

Александр Денисов: А почему в секрете-то?

Владимир Пирожков: А потому что это супертехнология, это как Владимир Владимирович на Ярославском форуме сказал: «У кого появится у первого искусственный интеллект, тот станет владыкой мира».

Александр Денисов: То есть это можно сравнить с ядерным оружием по силе воздействия?

Владимир Пирожков: Да, да.

Александр Денисов: Можем?

Владимир Пирожков: Это тот уровень, да, может быть, даже больше.

Александр Денисов: А как оно может навредить?

Василий Черный: Ну...

Владимир Пирожков: Ну для начала знаете, как? Есть очень простой пример: если создатель искусственного интеллекта недалекий парень, предположим, ну предположим, и он скажет своему детищу избавиться от спама в почте вашей, то легче избавиться от всех людей, и он выполнит задачу, в том числе от своего хозяина.

Александр Денисов: То есть проще избавиться от людей, чем от спама?

Владимир Пирожков: Да. Поэтому ситуация очень странная на самом деле. Сейчас мы стоим на пороге очень больших изменений, и самое удивительное, что мы станем свидетелями создания «человека 2.0», то есть мы создадим существо, которое будет лучше нас, и это будет переход на другой уровень пищевой цепочки.

Александр Денисов: А он будет врагом для нас?

Владимир Пирожков: Не знаю, на фоне. Но он может просто подумать, что мы можем мешаться под ногами.

Анастасия Сорокина: Вот тот организм, о котором вы говорили, он дорастет до создания человека?

Владимир Пирожков: Не дорастет, его создадут, он будет создан искусственно. Соответственно, это будет изделие, которое гораздо конкурентоспособнее нас по всем параметрам. Например, идет... Я вам показываю ситуацию: попробуйте повернуть голову максимально влево, а потом максимально вправо, это где-то 128 градусов, а танк – 360, танк лучше меня в повороте головы, а муха лучше меня в ползании по потолку. И если я сейчас соберу вот эти опции, которые лучше меня, и синтезирую из этих опций нечто, оно совсем не обязательно должно быть похоже на человека, и эта вещь будет управляема тем искусственным разумом, о котором сейчас идет речь... Может быть, это нейросистемы, может быть, это, скажем, big data, но эта big data начинает принимать решения. Например, в том же Сбербанке попробуйте взять кредит на женщину с тремя детьми без мужа.

Александр Денисов: Искусственный интеллект вам не даст это сделать?

Владимир Пирожков: Именно. Поэтому это было бы правильно дать ей кредит, может быть, может быть, и неправильно, не знаю, но этого не будет сделано, потому что nothing personal, just business, как говорится. Вот эти вот вещи начинают быть все чаще и чаще...

Анастасия Сорокина: Правосудие сейчас во многих странах уже искусственный интеллект проводит.

Владимир Пирожков: Ну или, например, если вы в Норвегию прилетаете, это вот просто сценка из жизни, там нет таможенника и паспортного контроля, вы просто прикладываете паспорт к сканеру: если ваш паспорт прошел сканер, значит, вам откроются двери в Норвегию; если не прошел, значит, не откроются, и вы полетите обратно, все просто. Нет человека.

Александр Денисов: И спорить не с кем, да?

Владимир Пирожков: Не с кем спорить.

Александр Денисов: А вы говорите, что в лес свозить, и посмеивались.

Василий Черный: Да, я в эти страшилки не верю совсем, то есть вот... Ну как бы если уж вспоминать «Терминатора», то мы с этими страшилками живем как минимум 30 лет, а на самом деле и дальше. То есть ограниченные возможности создаваемых человеком технологий я, к сожалению, вижу, и мы с этим сталкиваемся. И те, кто сейчас находятся на передовой, создают системы искусственного интеллекта для беспилотного пилотирования автомобилей и так далее, они сами, если вы ознакомитесь с их научными трудами, они сами говорят: ребята, все, что мы создаем, не способно принимать решений по вновь возникающим задачам, оно способно только принимать повторяющиеся решения. Аэропорт, это все очень простые ситуации, в которых, конечно же, компьютер будет работать. Ничего принципиально нового пока мы не научились создавать с помощью новых технологий. Поэтому пока это просто страшилки для красивых фильмов.

Вопрос все-таки я возвращаю в социальную сферу. Есть революция Павла Дурова, который тоже говорит: «Ребята, не могут технологии управляться государством, потому что велика зависимость от человеческой ошибки», – от фашистской Германии и так далее. Поэтому сейчас разговор именно о том, допустим, если мы занимаемся анализом социальных сетей, мы говорим, что, ребята, мы государству показываем, что думает народ по тому или иному поводу прямо сейчас, в режиме реального времени. Государство начинает не просто прислушиваться, оно начинает опасаться того, что оно сделает не то, что вызовет, собственно, позитивную реакцию. Это здорово. Поэтому я все-таки за то, что технологии позволят и эффективнее контролировать человеческий фактор от принятия неверных решений по использованию новых технологий.

Александр Денисов: Вы знаете, вот вы рассказали, меня это уже напугало. Если правительство может выбрать, то вот ваше цифровое надправительство, как вы сказали, оно ведь не выбирает, оно уже существует, и мы с ним ничего поделать не сможем, которые будут существовать над государством. Что, я не прав? Это же еще хуже.

Владимир Пирожков: Давайте еще пример.

Александр Денисов: Это может быть как идеальный, кристаллизованный фашизм и нацизм.

Владимир Пирожков: Живой пример. Где-то, наверное, год назад в Китае Хэ Цзянькуй, есть такой ученый, который модифицировал ген человека, две девочки родились с модифицированным геном, которые невосприимчивы к СПИД. Они живые, за ними наблюдают сейчас.

Александр Денисов: Они не могут заразиться ни при каких обстоятельствах?

Владимир Пирожков: Да. Так же можно модифицировать ген, я так предполагаю, можно модифицировать ген, например, невосприимчивый к сибирской язве или еще к какой-нибудь, скажем, к бактериологическому оружию, а это уже называется достаточно модернизированные люди, которые могут больше, чем можем мы. А дальше можно двинуться еще дальше, например, модифицировать ген к невосприимчивости к чему-нибудь еще или к восприимчивости к чему-нибудь еще. Соответственно, мы можем модернизировать систему безболезненных людей, которые могут жить, например, 150 лет и так далее. И начинаются интересные вещи, которые, если еще добавить к этому какие-то механические изделия, которые могут быть, например, третью руку, или, например, вращающиеся глаза на 360 градусов...

Я просто, знаете, как дизайнер скажу, что есть больные люди, например, тот же Гигер, который сделал в свое время вселенную «Чужих», вот этот фильм «Чужие», если вы смотрели, вот очень многие фильмы показывают, как могут развиваться события. Так вот он был больной на всю голову из швейцарского городка Грюйер, там сыр хороший делают. Так там есть музей Гигера, и туда если сходить, то оттуда выходишь до и после, как говорится, через красную черту переходишь, это то, что у человека было в голове. И если такой дизайнер займется созданием новой жизни, то она может быть гораздо эффективнее, чем человеческая, и не совсем добрая. А может быть, это добро в его понимании. Поэтому получается, что если руководство, те люди, которые контролируют таких людей, будут добрыми, добро и зло – это очень важная вещь сейчас, то есть вот этот вот баланс добра и зла, белого, черного, инь, янь или как хотите, очень важно, как на него смотрят те люди, которые принимают решения. И дай нам бог, чтобы у нас было руководство доброе.

Василий Черный: Можно я чуть-чуть?

Александр Денисов: А социальный фактор тут же приложится неизбежно.

Василий Черный: Да-да. Смотрите, мы все про технологии, они умные, или очень умные, или быстрые. Это все-таки вторично. Вы возвращаетесь к добру и злу, то есть к социальному фактору в любом случае. Вот смотрите, во-первых, вы меня не услышали, я говорил, что это контроль не «цифры» государством, а людей, что государство не сможет делать что-то вопреки интересам людей, вот это очень важно, поэтому не сможет и технологиями...

Александр Денисов: Так вы же говорите, корпорация будет над государством.

Василий Черный: Это не государство.

Анастасия Сорокина: Цифровое государство.

Василий Черный: Это, грубо говоря, Интернет. Вот, грубо говоря, мы все с вами сейчас, что произошло... Хорошо, я вам простой пример приведу. Вот летом были протесты в Москве, вот мы показали, что общество обсуждает Ивана Голунова больше, чем президента России, уже на протяжении трех дней, эти цифры были показаны там, где это необходимо, и Иван Голунов был отпущен, я вам просто говорю, это как раз по-настоящему власть народа. Значит, возможно исключительно за счет цифровизации.

Владимир Пирожков: Как и украинский Майдан, да.

Василий Черный: Но я даже не про это...

Александр Денисов: Слушайте, а если социальными сетями будет управлять вот тот товарищ, которого вы называли?

Анастасия Сорокина: Искусственный интеллект, который будет в своих интересах действовать?

Александр Денисов: Да-да, вызывали и укрощали строптивого, если он будет управлять? Представляете, что будет тогда?

Василий Черный: Он не управляет уже своим Facebook.

Александр Денисов: Тогда Голунова посадят обратно, если он захочет.

Василий Черный: Он не управляет Facebook, им управляют уже люди, поэтому Facebook в каждой стране совершенно отдельный, потому что его определяют те люди, которые в стране живут.

Владимир Пирожков: А в Китае его вообще нет.

Анастасия Сорокина: Давайте тогда, прошу прощения...

Василий Черный: Можно я нарисую, чего действительно, как мне кажется, стоит бояться? Если мы себя не убьем, а я думаю, мы себя не убьем, очень хорошо, что мы себя пугаем и поэтому все-таки подстеливаем всякие соломки, мы все знаем, что развитие технологий приходит к тому, что нам не за что бороться, нам не за чем ходить на охоту, нам не за чем добывать еду, потому что она уже есть, и так далее.

Поэтому, с моей точки зрения, главная проблема, которая может быть с развитием технологий... Да, будет биохакинг, это, собственно говоря, главное, что будет, да, люди будут дольше жить, больше уметь и так далее, вопрос не в этом. У них может пропадать мотивация жизненная.

Владимир Пирожков: Да, цели нет.

Василий Черный: То есть те люди сумасшедшие, которые любопытные, они останутся, и расслоение в этом смысле есть, но остальным, нам с вами будет не за чем работать, у нас, так сказать, ослабляется энергетика отношений мужчин и женщин, собственно говоря, людям даже это становится не нужно и так далее.

Александр Денисов: Так вон, уже на выставке где-то там секс-игрушки какие-то, секс-кровати придумали.

Василий Черный: Даже они уже будут не нужны.

Владимир Пирожков: Они не нужны сейчас уже будут.

Василий Черный: Вот. Поэтому главная проблема состоит в том, что технологии могут обнулить нашу жизненную мотивацию, и тогда мы с большей вероятностью себя угробим, потому что мы перестанем ценить свою жизнь.

Александр Денисов: То есть не нас, а мы сами себя?

Василий Черный: Да. Вот это мне кажется более сложной проблемой.

Владимир Пирожков: Сейчас уже появилось целое, скажем так, направление, когда люди не удовлетворены, не могут самореализоваться, не видят цели и в конце концов уходят в депрессию, а дальше, как говорится, в самоубийство. Например, в свое время в Японии было очень много таких случаев, но потом были пересмотрены производственные процессы, опять же к вопросу возвращения, смеси технологий и социальных каких-то движений – были пересмотрены производственные процессы, чтобы людей снова занять, потому что роботы в свое время в Японии заняли все рабочие места, и потом их вернули, людей вернули обратно, и вроде наладилось.

Но когда человек чувствует себя нереализованным, неуспешным и полностью, как говорится, «хакнутым» «цифрой»... Вот о чем сейчас говорил Давос – это о том, что аутизм цифровой происходит, и у людей пропадает цель, они становятся ненужными сами себе и обществу. Соответственно, как мотивировать людей, как молодых, особенно молодежь, чтобы им хотелось жить дальше и делать что-то удивительно интересное, вот создание этой мотивации, целеполагания и какой-то мечты, если хотите, – вот это было бы очень важно. Мне кажется, в России этого сильно не хватает, мечты сильно не хватает. Было бы здорово.

Анастасия Сорокина: Давайте узнаем у зрителей, у нас есть опрос, спрашивали корреспонденты жителей России: «Технологический прогресс – хорошо ли это?» Давайте посмотрим ответы.

ОПРОС

Александр Денисов: Вы знаете, смущает только одно, что люди-то принципиально не меняются, и вот сколько бы ученых ни получали Нобелевские премии по экономике, бедных меньше не становится, расслоение все больше в мире, то есть тенденция на ухудшение во всех областях. Поэтому ждать позитивного эффекта от новых технологий вот при этом наивно.

Владимир Пирожков: Вы знаете, я в свое время, когда был маленьким, жил в городе Тольятти. Хороший город тогда был, практически у всех были автомобили, что не скажешь об остальной России. А сейчас у всех автомобили, мне кажется, стало жить лучше в этом отношении. Наверное, я думаю, что в данный момент Россия живет, наверное, лучше, чем она жила когда-либо. Поэтому мы можем жаловаться, так вот, скажем, рутинно мы можем жаловаться, горячую воду, может быть, даже отключили, это раньше чаще происходило, но в общем мы живем лучше. Я, например, езжу часто на автомобиле в Тольятти опять же, в Самару, и если раньше дороги были плохие, то сейчас хорошие.

Александр Денисов: А вы на каком ездите автомобиле?

Владимир Пирожков: На Toyota, автомобиль Toyota. Но можно сейчас ездить и на LADA, потому что LADA стала совсем хорошая, и LADA Vesta, например, это прямо хороший автомобиль сейчас. Поэтому знаете как? Мы чаще летаем, мы стали посещать заграницу, то есть мы смотрим, что в других странах происходит. Наша страна живет относительно неплохо. Поэтому я бы не стал жаловаться.

Нужно много работать, нужно много работать, чтобы мы были в лидерах технологического прогресса. С теми средствами, которые у нас есть, а у нас в десять раз меньше средств, чем в США, всегда, традиционно...

Александр Денисов: И мы выкручиваемся.

Владимир Пирожков: Мы выкручиваемся. Поэтому надо двигаться вперед. Нас меньше, может быть, мы понаходчивее зачастую бываем.

Василий Черный: Я очень рад за молодежь, потому что молодежь эпохи Интернета, с моей точки зрения, в лице Интернета получила социальный лифт.

Владимир Пирожков: Мощнейший.

Василий Черный: Мощнейший. Пока мы тут разбираемся со страной, нефть не нефть и так далее, молодежь как плюнула на эту историю, и те, кто не поленились, вошли в эту индустрию, получили возможность не только заниматься интереснейшим делом, мечтой, зарабатывать деньги, путешествовать, иметь совершенно другой уровень жизни, сейчас у молодежи за счет цифровых технологий гораздо больше возможностей себя реализовать, чем когда бы то ни было.

Александр Денисов: Спасибо вам большое, спасибо большое.

Анастасия Сорокина: Спасибо. У нас в студии были Владимир Вячеславович Пирожков, футуролог, промышленный дизайнер, директор инжинирингового центра МИСиС «Кинетика», спасибо, и Василий Анатольевич Черный, директор по маркетингу «Brand Analytics».

Александр Денисов: Надеемся, «цифра» нас не хакнет. Спасибо.

Василий Черный: Надеемся. Спасибо вам большое!

Владимир Пирожков: Спасибо!

Анастасия Сорокина: Спасибо.

Авторизуйтесь, чтобы быстро и удобно комментировать
Авторизуйтесь, чтобы быстро и удобно комментировать
Комментарии (0)