Дмитрий Лысков: В трех российских регионах, в том числе и в Московской области, вводят систему распознавания людей по силуэту. Городские видеокамеры и искусственный интеллект будут таким образом анализировать маршрутные потоки, загрузку транспорта, помогать коммунальным службам. А еще – облегчат работу правоохранительным органам, у них тоже будет доступ к этой системе. Марина Калинина: В общем, с одной стороны, вроде как польза, а с другой – не так уж и не правы те, кто утверждают, что за нами следят. Собственно в этом мы сами убедились в разгар пандемии, когда в городах был введен пропускной режим и осуществлялся контроль за нашими передвижениями. Дмитрий Лысков: Так что же, частной жизни больше нет? А что дальше? К какой общественной модели в таком случае мы идем? Все чаще звучат мнения, что итогом этой тотальной цифровизации нашей жизни неизбежно станет появление социального рейтинга, как в Китае. Марина Калинина: Там – в Китае – миллионы камер отслеживают практически каждый шаг местных жителей, а программа социального рейтинга повышает или понижает баллы граждан. Изначально китайцам начисляют 100 баллов, но, к примеру, за безбилетный проезд в метро или просрочку оплаты коммунальных услуг личный рейтинг просядет на несколько пунктов. У того, кто растратил свой социальный кредит, уже нет возможности путешествовать и получать высшее образование. В особых случаях, если балл ниже 10, отправляют даже на перевоспитание в лагерь. Система рейтинга работает пока не везде хорошо и не во всех провинциях. Ее называют, кстати, цифровой диктатуры. Но, как заявляют авторы этого проекта, в том числе с помощью именно этой разработки удалось лучше остальных справиться с эпидемией коронавируса. А в Китае самая низкая смертность от этого заболевания. Дмитрий Лысков: И сейчас к нам присоединяется Андрей Масалович, президент консорциума «Инфорус», специалист по кибербезопасности. Андрей Игоревич, здравствуйте. Андрей Масалович: Здравствуйте, здравствуйте. Марина Калинина: Здравствуйте. Дмитрий Лысков: Андрей Игоревич, прежде чем мы перейдем к обсуждению китайской модели и того, грядет ли что-нибудь подобное у нас, объясните, пожалуйста, и нам, и нашим телезрителям, а зачем действительно вот эта система распознавания людей по силуэту в трех регионах России? В столице, насколько я понимаю, она уже действует давно, и не только по силуэту. Андрей Масалович:Вы правильно разделяете вопрос. Есть вопрос: что делается и что умеет искусственный интеллект? И второй вопрос: зачем и как это будет применяться? Ну и во втором случае, как правило, есть официальная точка зрения, а есть еще возможность домыслить, потому что применений может быть очень много. Почему это делается? Ну смотрите. Лицо может быть частично скрыто. То есть программа, которая должна уметь распознавать лица, должна быть, как говорят, инвариантна, то есть приноравливаться к маске, к шапке, к плохому освещению, к частично закрытому лицу, к какому-нибудь быстрому движению. Соответственно, силуэт просто добавляет… или хотя бы даже открытые уши добавляют к этому параметры, которые позволяют точнее уточнить, кто это. Кроме того, могу сказать, что сейчас, кроме улучшения алгоритмов, еще наступит эпоха так называемого роевого интеллекта, когда камеры будут еще разговаривать… Марина Калинина: Какого? Какого? Андрей Масалович: Ну, от слова «рой». Ну, такого группового интеллекта, когда камеры будут между собой договариваться: «Мимо меня прошел человек, а я его не успела заметить. Посмотри, сейчас он придет к тебе. Подхвати лицо, передай мне, а я уж распознаю». Дмитрий Лысков: Я помню, в свое время был фильм такой «Враг государства», где все это показывали абсолютной фантастикой, где человек стал неугоден государству, Америке, и там его через такие камеры и вели. А сейчас, оказывается, уже… Андрей Масалович: Ой, давайте я вас два раза попугаю. Первый раз. Помните, 6 января прошлого года, когда был штурм Капитолия, потом… Ну, если вы в руки возьмете фотографии тех дней, там вы увидите такую кашу из людей, которые лазили на заборы. А сейчас подряд идут суды ФБР, и им назначают срок – каждому в меру его личной ответственности. Почему? Потому что Google правоохранителям выдал 100 точек в минуту на каждого человека, где конкретно он находился, как он передвигался в эту минуту. Соответственно, они видят, кто в какую комнату заходил. А поскольку у вас в руках тоже есть смартфон или рядом с вами, то он уже много лет знает, сколько раз вы подходили к холодильнику, извините, сколько времени вы проводите в душе или в туалете. То есть на самом деле приватности нет уже давно. И это уже не фантастика. Кроме того, движение, когда вы кладете телефон в карман, индивидуальное. И вас можно узнать, даже если вы смените внешность, пол и документы меняете. Все равно вот это движение не изменится. Кроме того, если вы едете в маршрутке или кто-то едет рядом с вами, то вас одинаково потряхивает, или в автомобиле. Соответственно, можно определить еще, с кем вы ехали в автомобиле, даже если вы рот не открывали, никак не взаимодействовали – просто по одинаковой тряске. То есть возможностей для шпионажа в последние пять-семь лет, ну, уже фантастические! Можно просто их перечислять – и это будет круче, чем в фантастических фильмах. Дмитрий Лысков: Так, а теперь, значит, еще и видеокамеры с возможностью опознания по силуэту. Андрей Масалович: Теперь еще добавляется силуэт. Дмитрий Лысков: Плюс добавим сюда банковские карты, мы все равно оставляем за собой цифровой след. Плюс наш поиск в Интернете. Андрей Масалович: Не только карты. Любое наше действие оставляет цифровой след – и касательно кредита, и личное, и когда мы возимся с детьми, и когда мы где-то лайкаем какой-нибудь товар на экране. Все это накапливается в наш общий профиль. И эти профили уже фактически полноценные. Можно сделать цифрового двойника. Марина Калинина: А насколько информативно будет это очертание силуэта? Ну, силуэт и силуэт. Как бы насколько информация нужна и важна? Андрей Масалович: Это зависит от задач. Например, когда появились «законы Яровой»…. Ну, вы помните, у нас по «закону Яровой» весь трафик коммуникационных систем нужно хранить полгода, все наши переговоры, эсэмэски и прочее. Когда такие вещи вводили в других странах, в первую очередь в сердце Европы и в США, выяснилось, что раскрываемость преступлений при этом не растет. То есть, да, правоохранителям становится легче, но не существенно. То есть сам по себе шпионаж впрямую каких-то задач не решает, но очень сильно помогает. Что же касается нашего профиля, то следующий шаг – это прогнозирование: что мы купим, за кого мы проголосуем, пойдем ли мы бузить на площади, будем ли мы драться, будем ли мы нарушать закон. Соответственно, социальный рейтинг в Китае – это не про то, что происходит сейчас, а это про перевоспитание. То есть воспитать людей, которым было бы неповадно… воспитать поколение, которому было бы неповадно бегать на красный свет. Дмитрий Лысков: Андрей Игоревич, как раз я и хотел спросить, во-первых: что дальше? И во-вторых… В Китае это назвали социальным рейтингом, который считают, который люди могут, по крайней мере, посмотреть его, как-то ознакомиться. Это такая социальная инженерия, но она открытая. Но ведь все, что вы описываете, вот эти электронные профили, которые существуют, так они, получается, и есть та самая система социального рейтинга? Просто о ней объявляют открыто, гласно, но точно так же наши предпочтения анализируют, наши поступки анализируют. Куда мы пошли, что купили – все анализируют. Так тогда, получается, она уже давно и у нас существует? Андрей Масалович: Ну, вообще-то, это псалом 138, часть первая: «Дитя мое, мне ведомо о тебе все». Это уже давно написано. Да, вопрос только именно в применении и в назначении. То есть давайте смиримся с тем, что шпионаж тотальный. И единственное, что мы от себя можем сделать… От него, кстати, не спрятаться. Единственное, что мы можем сделать – это его в некоторых случаях технически уменьшить. Ну, могу подсказать, какие и где настройки можно поменять, чтобы шпионажа было чуть-чуть меньше. Но самое главное – жить по заповедям. Потому что если вы танцуете пьяным на столе, то это обязательно попадет в YouTube, не волнуйтесь. Лучше не танцевать. Марина Калинина: Лучше трезвым танцевать. Андрей Масалович: Или, извините, голышом – тогда лайков больше наберется. Так вот, вопрос только в том, в чьи руки это попадет. Сейчас, к сожалению, с этим проблема, потому что все время, каждую неделю сотрясают скандалы о том, что очередная глобальная база утекла в Сеть, в Даркнет. И как это будет использовать? Потому что социальный рейтинг в Китае сделан для того, чтобы эти баллы начислять. Мы пока своих баллов не видим и не сталкивались с тем, что нас куда-то не пустили или, наоборот, в лагерь «упаковали». То есть нам это еще предстоит. Тем не менее, могу вас еще попугать. Два года назад, когда только началась эпидемия, в Москве появились датчики на автобусных остановках, которые фиксируют проходящий мимо смартфон. То есть если у вас включен Bluetooth и не стоит галочка «Смена MAC-адреса», то можно четко зафиксировать, как вы гуляли по улице, а не только если вы прошли под камерами. Поэтому со шпионажем все в порядке. Вопрос только в том, что с ним сделают дальше. Дмитрий Лысков: Вот отсюда и возникает логичный следующий вопрос. Ну, по крайней мере, Китай честно сказал: «Мы за этим следим и баллы начисляем». Может, пора уже и нам посмотреть на китайский пример и тоже честно объявить: «Мы вводим систему социального рейтинга»? Она и так есть уже. Давайте, по крайней мере, сделаем ее гласной. Андрей Масалович: Ну давайте я вас тогда чуть-чуть успокою: для этого надо все-таки немного приподняться в техническом уровне. Потому что Китаю, чтобы эта система заработала, пришлось некоторые алгоритмы улучшить, по сравнению с Google. То есть они изначально пытались использовать американские программы – и выяснилось, что качества недостаточно. Допустим, на детальное распознавание поведения человека, который заходит на вокзал, нужно две минуты, а он за это время может успеть весь вокзал пройти, там взрывчатку оставить и убежать. Сейчас китайская система реагирует за 15 секунд. То есть мы пока такие умные алгоритмы обработки, поведенческие, еще не сделали. Но, кстати, попеняю тем же китайцам, вам будет интересно. У них был такой яркий эпизод: одна популярная телеведущая стала получать «письма счастья», то есть ей стали из разных городов приходить штрафы за то, что она перекресток перебегала на красный свет со скоростью 60 километров в час, в городах, где ее не было. Выяснилось, что просто ее фотография, наклеенная на автобусы. Камеры уже достаточно умные, чтобы зафиксировать, что девичье лицо пробежало через перекресток, и узнать, чье это лицо, и даже выписать штраф. Но им никто не объяснил, что, во-первых, девушки не бегают со скоростью 60 километров в час, максимум 36; а во-вторых, что даже если какую-то девушку разогнать до 60 километров, у нее лицо точно не будет размером два на три метра. Поэтому нам еще некоторые алгоритмы надо «доточить», чтобы догнать китайцев в социальном рейтинге. Хотя ничего хорошего при этом впереди не светит. Если бы меня спросили, я бы оставил один параметр из биометрии – отпечаток ладони. То есть захотел, помахал рукой кассирше – с меня деньги списались. Зашел в метро, помахал контролеру – прошел в метро. Не захотел помахать, сжал кулачок – все, я невидимка. Вот это было бы… Дмитрий Лысков: Ну, у нас уже и лица распознаются, и… Андрей Масалович: К сожалению, по стандарту Центробанка, лицо плюс голос – основа биометрии. Лицо плюс голос. Дмитрий Лысков: Кстати говоря, из Ленинградской области нам пишут: «Следующий шаг – это получается подмена, шоу с двойниками, действия от имени людей, – как вы сказали, – по портрету». Вообще получается новая реальность такая, да? Андрей Масалович: Ну, это несколько новых реальностей. Потому что, во-первых, есть технология deepfake, когда можно полностью подменить человека, причем до степени смешения и голоса, и внешности, и от его имени выступить или даже поговорить по телефону, или какое-нибудь телеобращение записать. Можно человека поставить, пририсовав некую сцену, не вполне приличную. И это тоже уже практика. Раньше считалось, что нельзя обмануть камеру… Кстати, я бы еще для России ввел специальный режим «Узнай меня в понедельник утром», потому что думаю, что у многих алгоритмы не срабатывают. То есть на самом деле технологии мошеннических применений цифровых двойников – уже реальность. И я думаю, что нас ждет «веселый» год, когда это станет массовым. Дмитрий Лысков: С другой стороны, из Псковской области пишут: «Сейчас микросхемы закончатся – и это безобразие тоже закончится». Вот можно и успокоиться. Андрей Масалович: Ну да. Мы сейчас боимся 5G, а надо молиться, чтобы у нас хотя бы 3G осталось после последних событий. Марина Калинина: Вот из Чувашии предлагают: «Да вы переходите все на кнопочные телефоны, никакого интернета. И пусть следят столько, сколько хотят». Андрей Масалович: Кстати, наблюдается рост спроса на кнопочные телефоны. Часть народа действительно считает, что это… Марина Калинина: Серьезно? Андрей Масалович: Да-да-да. Ну, что это некоторый возврат к приватности. Хотя это такой самообман отчасти, но отчасти они правы. Дмитрий Лысков: Все-таки самообман? А какие данные передает кнопочный телефон-то? Андрей Масалович: Ну, кнопочный телефон, во-первых, точно так же содержит симку, поэтому оператор сотовой связи местоположение точно так же видит. Другое дело, что сам телефон не знает, где он находится, ну и приложения на нем не знают, не могут за вами в этом плане шпионить. Но правоохранители и сотовые операторы все равно все параметры видят. Ну, у кнопочных телефонов нет акселерометра и датчика движения, ну и гироскопа, то есть он некоторые ваши индивидуальные жесты узнавать не может, а все остальное есть. Хотя, опять же, переписки там нет, то есть там нет соблазна… То есть кнопочный телефон в основном «лечит» нас от соблазна использования социальных платформ, чтобы вы не торчали, не переписывались в Telegram или не общались по Zoom. Дмитрий Лысков: Андрей Игоревич, вы упомянули, что как бы у нас 3G сохранился. А это действительно серьезная проблема с чипами сейчас, с микросхемами, которая может, может быть, по крайней мере замедлить наступление вот этого «прекрасного» нового мира, о котором мы говорим? Андрей Масалович: Ну, я бы сейчас с удовольствием как-то подсказал нашему начальству верхнему в стране, что у нас, в принципе, есть рычаги, которые могут сейчас помочь нам санкции поотменять. Потому что микросхемы, которые, как утверждается, выпускает только Тайвань, самые плотные… Вообще-то, большая часть микросхем делается на сапфировых подложках. От 40 до 80% разных подложек выпускает Россия. А может и перестать, если захочет, если окажется недружественной страной. В микросхемах плотной упаковки используются редкоземельные элементы и вещества высокой очистки, часть из которых выпускается только в России, то есть стопроцентная зависимость от России. Кроме того, используется газ неон, который выпускали Россия и Украина, с ним тоже могут быть проблемы. То есть в мире могут сейчас начаться проблемы с микросхемами не потому, что Китай нападет на Тайвань или они ввели санкции, а просто потому, что Россия тоже начнет свои контрсанкции вводить. Поэтому я бы на месте российского начальства сейчас поторговался. Может быть, это баланс исправит. Дмитрий Лысков: Кстати говоря, интересно! А мы можем использовать это свое преимущество, возможно, для каких-то бартерных сделок? «Вы нам линию по производству с технологиями, а мы вам продолжаем поставлять те самые редкоземельные элементы». Андрей Масалович: Совершенно согласен. Ну, могу даже напомнить. Во-первых, была такая страна Иран, помните, «нефть в обмен на продовольствие». Такого рода бартеры уже были. Марина Калинина: А почему была страна Иран? Она и есть. Дмитрий Лысков: Это Ирак был. Андрей Масалович: Ну, просто сейчас эта тема закрылась, сейчас они нефтью торгуют, санкции с них частично поснимали. Но была страна под санкциями, и были только такие бартеры. Кроме того, есть огромная часть… Шесть миллиардов населения, вообще-то, за Россию, и они очень радуются… Вся Азия. Четыре миллиарда в Азии, два миллиарда в Африке и в Латинской Америке. Они очень радуются, что разрушаются логистические цепочки, и они могут вклиниться. То есть для них это новые рынки. И с Россией они торговать готовы. Так что на самом деле санкциями нас пугают зря. Другое дело, что нам сейчас надо воспитывать новое поколение. Мы уже 30 лет воспитывали поколение: «Вырастешь – будешь менеджером», – которые умели бы торговать. Сейчас надо воспитывать поколение, чтобы оно умело что-нибудь производить. Как только научимся – будем жить хорошо. И, возможно, социальный рейтинг не понадобится. Марина Калинина: Но это сложная задача – воспитать поколение, которое разучилось работать. Андрей Масалович: Ну конечно, конечно. Начиная с детского сада. И тогда, может быть, и наш разговор будет не нужен, потому что… Ну какой социальный рейтинг, если ребенок – октябренок? Дмитрий Лысков: Кстати, именно об этом нам и пишут из многих регионов: «Побольше бы таких систем, цветы бы с клумб не воровали, стенок не разрисовывали». Ну, я уж молчу про борьбу с терроризмом. Вот из Воронежской области такое некое резюме: «Законопослушному гражданину бояться и скрывать нечего». Вот! Андрей Масалович: Отчасти согласен. Но еще раз хочу предостеречь: законопослушный гражданин все равно, если он раскрывает профиль и если на него накапливается досье, становится жертвой мошенников, то есть он подставляется под мошенников. Ему будут звонить, его будут «разводить», от его имени будут какие-нибудь сделки пытаться заключить. Поэтому не надо радоваться, что вы никому не нужны, ничего плохого не делали. Марина Калинина: Получается, что вообще никак себя нельзя обезопасить? То есть твоим именем, твоим профилем, твоим всем, в общем, твоей жизнью можно будет пользоваться при желании? Андрей Масалович: Можно отчасти снизить. Ну смотрите. Первое – живите по заповедям, то есть не делайте ничего такого, чтобы вас можно было поймать на этом и шантажировать. Это раз. Второе – сведите к минимуму ненужные контакты и ненужную активность, то есть отключайте все средства слежения. Ну, вы, наверное, видели, что серьезные люди все, когда их показывают, у них заклеена хотя бы видеокамера на ноутбуке, обязательно заклеена. То есть не надо лишний раз подставляться под шпионаж. Ну и третье, если уж совсем серьезно… Вот мне, например, по работе часто приходится делать легенду прикрытия. То есть я занимаюсь одним, а выглядит так, как будто я занимаюсь я совершенно другим. И я могу отдохнуть… Дмитрий Лысков: А это как? Андрей Масалович: Ну, можно скрыть намерения. Я поехал загорать, выкладываю фотографию с пляжа. А на самом деле я поехал на деловые переговоры, встречался там с серьезными людьми. То есть легенда прикрытия. Или, если нельзя спрятаться, можно прикрыться, сделать себе такого более мирного и безобидного цифрового двойника, который бы уже работал на меня и набирал свой социальный рейтинг. Марина Калинина: Спасибо. Везде свои хитрости. Дмитрий Лысков: Спасибо. Андрей Масалович, президент консорциума «Инфорус», специалист по кибербезопасности. Надеюсь, мы не очень запугали наших телезрителей вот этой новой цифровой реальностью.