Кибербезопасность: как защитить личные данные?

Гости
Юрий Грымов
режиссёр театра и кино, художественный руководитель театра «Модерн»
Урван Парфентьев
координатор Центра безопасного интернета
Роман Душкин
генеральный директор «А-Я эксперт», компании-разработчика искусственного интеллекта
Иван Бегтин
председатель Ассоциации участников рынка данных, директор АНО «Инфокультура»
Владимир Чижевский
создатель «Пиратской партии России»
Андрей Голов
генеральный директор компании «Код безопасности»
Андрей Масалович
президент консорциума «Инфорус», специалист по кибербезопасности

Юрий Алексеев: Мир без гаджетов, приложений и интернета уже невозможно представить. Все это очень удобно! Но есть и обратная сторона. Новостные ленты полны заголовков: «Утекли данные пользователей», «Мошенники вновь получили огромный массив сведений о нас». Так можем ли мы чувствовать себя защищенными в новой реальности? Кто в ответе за сохранность личной информации?

Правду о кибербезопасности узнаем от наших экспертов. Присоединяйтесь! Меня зовут Юрий Алексеев.

Господа, кибербезопасность и цифровизация – вот эти понятия идут нога в ногу и развиваются нога в ногу? Или кибербезопасность все-таки отстает? Роман, ваше мнение на этот счет.

Роман Душкин: Я думаю, сегодня кибербезопасность уже дошла до того уровня, когда можно говорить о том, что только люди ответственные за все то, что мы услышали, за утечку данных.

Юрий Алексеев: Человеческий фактор?

Роман Душкин: Да. Потому что существуют методы защиты информации, которые невзламываемые на теоретическом уровне.

Юрий Алексеев: То есть машины бы уже все давно сами сделали и отрегулировали, но человек правит балом?

Роман Душкин: Да. В каждой организации найдется кто-нибудь, кто «сольет» данные, а потом они окажутся у мошенников.

Юрий Алексеев: Владимир, а ваше мнение на этот счет?

Владимир Чижевский: Ну, человеческий фактор, конечно, имеет значение, но в основном здесь мы наблюдаем прогресс. Еще десять лет назад были компьютеры, появились дома местные сети. Все помнят, да? Дети стали увлекаться. Потом появились смартфоны. И у нас уже такая реальность. Мы пользуемся каждый день: госуслуги, банки, покупки, все что угодно. И пока техника будет развиваться и расти, кибербезопасность будет тоже расти. И это война.

Юрий Алексеев: Есть еще мнения на этот счет у кого-то? И какие?

Роман Душкин: Именно просветительская деятельность, обучение всех людей тому, как защищать свои данные, как защищать вообще себя в новой реальности, – это насущная проблема. Ну кто, кроме нас, должен отвечать за нашу же безопасность?

Юрий Алексеев: Тогда немного позанимаемся этой самой просветительской деятельностью.

Иван Бегтин: Я не согласен.

Юрий Алексеев: Короткое видео. Сейчас вам дам слово. Собственно, что такое эти самые персональные данные, одобрение на обработку которых мы постоянно даем разным организациям?

ВИДЕО

Голос за кадром: Понятие «персональные данные» вошло в российскую правовую практику в 2006 году, когда был подписан 152-й федеральный закон. Прошли годы, но, к сожалению, большинство россиян до сих пор не знает своих прав и не относится к сохранению персональных данных с необходимой ответственностью. Зачастую никто не вникает в текст документа, который предоставляют для подписания в учреждениях или на сайтах, а ведь персональные данные – это лакомый кусочек для злоумышленников.

Так что же такое персональные данные? Ответ простой. Это любая информация, которая способствует идентификации человека: фамилия, имя и отчество; мобильный телефон; электронный адрес; паспортные данные; место проживания; семейное положение; профессия, доход или фотографии. Все это и есть персональные данные.

В настоящее в Российской Федерации в базах различных организаций – коммерческих и некоммерческих – накоплен огромный объем персональных данных россиян. Есть моменты, когда с нас требуют сообщить некоторые сведения. Но бывают, что граждане и сами охотно делятся такой информацией, не задумываясь о последствиях. А ведь риски утечки в век глобализации и цифровизации только усиливается.

Так как же решать проблему сохранности личных данных? Есть ли ответ на этот вопрос?

Юрий Алексеев: Вот на этот вопрос мы сегодня будем искать ответ.

Иван, по поводу этого самого закона, который здесь упоминали, о персональных данных. Там же трактовка как гласит, один из пунктов? Что обрабатываемые персональные данные не должны быть избыточными. То есть ради какой-то цели собираешь, и, исходя из этой цели, ты должен и данные эти собирать. А на практике как это происходит?

Допустим, я не знаю, жилой комплекс какой-нибудь, и у меня требуют паспортные данные, копию паспорта, чтобы я прошел через шлагбаум. Это избыточная информация в данном случае или нет?

Иван Бегтин: Это как раз дискуссионный вопрос: что является избыточным, а что – нет? Избыточным является точно, если эти данные не будут уничтожены после того, как вы пройдете. Ну, если только они не нужны для каких-либо специальных функций, которые должны осуществляться. Но в России по паспорту происходит буквально все: предоставление доверенности, любые операции.

Вот мы проходим в телецентр по паспорту. Уже телецентр нарушил закон «О персональных данных», не предоставив нам бумагу о том, что мы согласны о предоставлении этой информации.

Юрий Алексеев: Потому что стратегический объект, поэтому требуют паспорт. Нет?

Иван Бегтин: А что значит «стратегический объект»? Все равно должны запросить, по-хорошему, если уж делать все правильно.

Ну смотрите. Я совершенно не согласен, что это вопрос только наш, что это вопрос только граждан. К сожалению, сейчас сверхцентрализация данных такова, причем по инициативе как государства, так и крупнейших корпораций (Бигтех), что мы не всегда можем повлиять на то, как наши данные используются.

Более того, владельцы систем, которые собирают данные, знают о нас больше, чем мы сами, поскольку они имеют возможность собирать бытовую опосредованную информацию о каждом нашем действии. И вы можете не знать, сколько вы спите каждый день или какой у вас пульс, или что-либо еще в ваших действиях, в ваших предпочтениях, но в то же время социальные сети будут это знать, приложение госуслуг будет это знать, единый цифровой профиль, который создает наше любимое правительство, тоже будет это знать.

Поэтому «Как нам жить в этом новом мире?», «Какие должны быть новые способы защиты собственной информации?» – это, мне кажется, главный вопрос на текущей повестке.

Юрий Алексеев: Андрей, готовы добавить?

Андрей Голов: Существует, конечно, другой фактор. То, о чем мы говорим – это широкая информатизация, тотальная информатизация нашей жизни. Мы же помним наших бабушек и дедушек. У нас звонки были с какого телефона? И им сейчас объяснить просто хотя бы: «Давай поговорим по видеозвонку», – целая проблема, да? Естественно, вот здесь очень большой пробел именно в просветительской деятельности. Именно это слабое место не в информационных системах, а в людях, которые используют эти информационные системы.

Юрий Алексеев: Андрей, я вас чуть-чуть прерву, потому что мы об этом постараемся поговорить подробнее. Коснулись темы персональных данных в обычной жизни. А Интернет, сайты, приложения – там же везде нужно эти пользовательские соглашения подписывать. Вот о том, какая информация в Интернете собирается, короткое видео.

ВИДЕО

– Сегодня мы поговорим о приложениях, которые знают о тебе больше, чем даже ФСБ, MI6 и твоя мама, вместе взятые.

На слежке попался Google. Смартфоны передавали компании место нахождения владельца даже при выключенной функции передачи данных. Yahoo! сканировала письма пользователей и отправляла их в Агентство нацбезопасности США. А приложение Uber следило за перемещением человека даже после поездки.

Давно известно: если компания собирает личные данные, то рано или поздно они обязательно утекут в Сеть. Например, совсем недавно в руки хакерам попали данные нескольких тысяч детей, и все из-за приложения родительского контроля. Адреса электронной почты, пароли от Apple ID и даже имена смартфонов – все это лежало в открытом доступе.

Но круче всех облажался Facebook: данные примерно 87 миллионов пользователей соцсети попали в руки аналитической фирмы. После такого фейла Цукерберг, как нашкодивший школьник, два дня отчитывался о случившемся в Сенате.

Возможность записи экрана прописана в пользовательском соглашении – не прямым текстом, конечно, но в этом и прикол. Такие вещи зарыты так глубоко в текст, что не каждый юрист разберет. Да что говорить? Эти соглашения вообще никто не читает. Исследователи Нью-Йоркского университета уверяют, что по ссылке с соглашением переходит лишь один юзер из тысячи, да и не факт, что он осилит «простыню» нудного текста.

И вот тут разработчики начинают творить что хотят. Соглашение Facebook, например, устроено так, что, кликнув «Я согласен», ты навсегда прощаешься со всеми правами на свои посты, фото, поведенческие данные и историю маршрутов. Вроде бы все об этом знают, но все равно никто не думает о завтрашнем дне.

А дно близко. Например, британский интернет-провайдер, раздавая бесплатный вайфай, включил пункт в «пользовательку», по которому каждый, кто воспользовался их сетью, обязан был выполнить тысячу часов общественных работ. Среди обязательных работ, например, была чистка общественных унитазов. В итоге оказалось, что интернетчики пошутили. Но осадочек, естественно, остался.

Юрий Алексеев: Вспоминали Facebook в этом видео. Вот относительно недавняя информация: в октябре данные 1,5 миллиарда пользователей Facebook утекли. Андрей, то есть даже такие крупные IT-гиганты не в силах защитить персональные данные своих клиентов?

Андрей Масалович: Ну, здесь хорошо упоминалось слово «бабушки». Если спросить бабушек и дедушек, то они напомнят, что закон «О персональных данных» во Франции был принят в 1850 году. В Северной Европе, во многих странах – в 1890-х. И интернет, и компьютеры тогда были слабее. То есть персональные данные – это не про компьютеры, не про базы и не про соцсети. Персональные данные – это про ответственность. То есть закон «О персональных данных»…

Юрий Алексеев: А какая разница? Это же не гарантирует, что данные тех же французов все равно не утекли?

Андрей Масалович: Их принимали, исходя из европейского правоприменения. Там основным является понятие ущерба. Если кто-то мои данные использовал во вред, то я приду и ему этот ущерб вчиню, и суд встанет на мою сторону. Вот этого сейчас не происходит. Данные уже не наши.

Юрий Алексеев: То есть утечка сама по себе – это вроде как и не страшно?

Андрей Масалович: Они изначально не наши. Почитайте лицензионные соглашения. У вас ничего утечь не может, потому что все…

Юрий Алексеев: Ну, все-таки это заставляет как-то насторожиться, что даже эти крупные компании тем не менее допускают утечки этих данных. И ничего с этим нельзя поделать?

Владимир Чижевский: Ну, любая компания идет в какую-то сторону, и рано или поздно она допустит какие-нибудь фейлы и так далее. Ну, тут мы видим, что бюрократическая система, то есть то, что мы писали на бумаге, те же паспорта и так далее, заменяются «цифрой». У нас премьер-министр сейчас хороший, у него цель есть.

И когда паспорт уже будет чисто цифровым… А об этом прямо говорят. Что такое цифровой паспорт? Это биометрия, это ваш геном, а не какой-то номер в паспорте, номер вашего телефона или «айдишник». Это уйдет в прошлое. Поэтому, в принципе, мы еще в начале пути. И работу с личными данными, как с биометрией, с поведенческими паттернами и какими-то конфиденциальными операциями, конечно, надо выстраивать. Тут есть и противодействие конкурирующих фирм, и разведок (упоминалось), и в это вкладываются очень большие деньги. Конечно, это проблема серьезная.

Ну а людям надо быть осторожными в этой ситуации, по крайней мере голосом по телефону никаких личных данных не сообщаться от слова «совсем», если это не твой друг или родственник.

Юрий Алексеев: А как вы думаете, вот эти крупные IT-гиганты сами не заинтересованы в том, чтобы этот огромный массив данных продать кому-то? Я не знаю, разведки упоминались здесь. Ну, либо просто какие-то другие организации. А потом, если эта история всплывает, сказать: «А у нас их украли, поэтому мы тут ни при чем. Будем делать все, чтобы впредь защитить». Такой сценарий возможен? Или это конспирология? Андрей.

Андрей Голов: Ну смотрите. Цель любой большой или маленькой компании – это зарабатывание денег. Тем более, если мы посмотрим на самые состоятельные компании мира, то это не те, которые производили, заводы, как 200 лет назад, а это IT-компании – те, которые занимаются именно обработкой и генерацией данных, да? То есть в первую очередь у них задача – зарабатывать деньги, а не защищать, при всем уважении…

Юрий Алексеев: И на информации можно колоссальные деньги зарабатывать.

Андрей Голов: Конечно. А не защищать данные пользователей, как бы они это ни декларировали в любой своей политике. И здесь просто обычная оценка риска, то есть: сколько ты заработаешь, сколько ты потеряешь при любом инциденте, вскрытии, утечке и всем остальном. Но то, что ты можешь заработать на обработке дополнительных данных…

Ведь самое основное… За что идет борьба? Ведь не за сбор данных как таковой, а за их анализ и за управление вами в будущем. То есть первый этап – это просто инвентаризация. Ну, собираются данные. Второе – анализируется, что вы едите, за кого вы голосуете, что вы смотрите. А потом вас мягко подталкивают что-то сделать: что-то купить, как-то поговорить. Ну, это ведь основа – зарабатывание денег.

Юрий Алексеев: Да, понятно, алгоритмы должны быть настроены.

Иван Бегтин: Я подчеркну, что, несмотря на всю критику в адрес крупнейших корпораций, они защищают данные лучше, чем правительства многих стран, потому что полные реестры избирателей уже утекали в Турции, в Аргентине, в Бразилии, во многих странах.

А то, что была утечка в Facebook – это была не утечка, а это был такой полупассивный сбор информации о человеке, общедоступной. Это не внутренние данные, которые Facebook знает о нас, а те данные, которые человек сам добровольно раскрыл на платформе. И, пользуясь некоторыми особенностями программного интерфейса Facebook, внешние сборщики это собрали. Это все равно нарушение. Их ловят. Их, скорее всего, посадят. Но тем не менее.

Юрий Алексеев: А объясните мне, пожалуйста. Вот тот факт, что огромные массивы данных о нас, о российских гражданах, хранят в том числе и вот эти колоссальные западные компании – какие риски я как гражданин несу, зная об этом?

Иван Бегтин: Простите, китайские тоже, не только западные.

Юрий Алексеев: И китайские тоже, да. Это вообще отдельная история – массив данных, который обрабатывается в Китае. Ну, тем не менее. Вот я – обычный простой гражданин. И что?

Урван Парфентьев: Информация во все времена была товаром, за ней всегда охотились. «Кто владеет информацией – тот владеет миром», – это очень старое выражение. Проблема сейчас, на нынешнем уровне, в связи с развитием цифровых технологий, заключается только в том, что происходит, как кто-то из коллег сказал, сверхконцентрация этой информации.

Юрий Алексеев: В одних руках.

Урван Парфентьев: То есть в одном месте собирается очень много информации, которую можно использовать, сопоставлять из различных источников теми или иными сведениями… способами. Грамотный аналитик из этого вытащит очень и очень много. Собственно говоря, именно в этом и опасность.

Что касается того, чьи данные. Понимаете, пользовательское соглашение может быть любым. Но проблема в том, что пользовательское соглашение не может противоречить национальному законодательству.

Юрий Алексеев: Послушаем комментарий Юрия Грымова, режиссера театра и кино.

ВИДЕО

Юрий Грымов, режиссер театра и кино, художественный руководитель театра «Модерн»: Сегодня говорят в Интернете про конфиденциальность, про сохранение данных. Я скажу вам честно, что история немножко «перегрета». Мне нечего скрывать, берите все. У меня нет скелетов в шкафу.

Единственное, что, конечно, это неправильно, что утекают наши данные каким-то мошенникам. Вот это ужасно. Но, по большому счету, прямо вижу: все – английская королева. Ой, украдут фотографии с его котиком! Берите все, мне ничего не надо, я открыт. И вообще на самом деле чем вы меньше боитесь, тем меньше чего-то может произойти. Но правоохранительные органы должны следить за тем, чтобы наши данные все-таки не утекали к мошенникам и преступникам.

Юрий Алексеев: Ну вот, пусть правоохранительные органы следят. А правоохранительные органы следят за сохранностью наших персональных данных?

Владимир Чижевский: Да конечно же нет. Они пытаются что-то делать с текущими проблемами, какими-то инцидентами. А вот так, чтобы прямо организовать какую-то работу – да на это никто бюджета не выделял, прежде всего, чтобы следить.

Юрий Алексеев: А бюджет – это значит и навыки, и знания, и какой-то софт?

Владимир Чижевский: Это значит – человеко-часы и оборудование, которые требуются для анализа и обработки персональных данных с какой-то целью. А простому человеку здесь надо просто обеспечить удобный интерфейс. Вот случился хозяйственный спор у трех человек: русского, китайца и американца. Вот куда ему идти, в какую юрисдикцию, чтобы он их разрешил? Вот этого нет, вот эта система не выстроена. А ее надо выстроить.

Юрий Алексеев: А существующих организаций в принципе достаточно, как вы считаете? Если, допустим, как Владимир говорит, бюджет увеличить. Или, может, не надо увеличивать, и так справятся? Или надо какую-то новую организацию создавать? Да, Урван.

Урван Парфентьев: Ну позвольте, я так скажу. У нас, во-первых, в России контроль и надзор за соблюдением законодательства о персональных данных возложен в первую очередь не на правоохранительные органы. У нас это Роскомнадзор. Роскомнадзор, по сравнению с правоохранительными органами, очень ограничен в полномочиях. Он не является субъектом оперативно-розыскной деятельности. Он очень ограничен в полномочиях, даже по сравнению с прокуратурой, которая является общим органом юридического надзора и которая теоретически тоже может осуществлять контроль и надзор.

Юрий Алексеев: Но не бомба ли это замедленного действия, если мы Роскомнадзор наделим всеми этими полномочиями, о которых вы говорите?

Андрей Масалович: Нет, сейчас шаг за шагом нарастает. Скоро…

Юрий Алексеев: Ну, тем более.

Урван Парфентьев: Нет, все-таки вряд ли будут внесены такие изменения в федеральный закон «Об оперативно-розыскной деятельности», потому что это будет приравнивание Роскомнадзора к правоохранительным органам. Скорее всего, мы будем наблюдать некоторый переток функций и полномочий в сторону именно субъектов ОРД. Скорее всего, это будет либо Министерство внутренних дел, либо Следственный комитет.

Юрий Алексеев: ОРД – это оперативно-розыскная деятельность?

Урван Парфентьев: Да. Но здесь возникает еще одна проблема, о которой хотелось сказать, то есть и о тот вопрос, о котором мы говорили вначале, – вопрос избыточности сбора персональных данных. То есть «избыточность» – это то понятие, когда вы можете без этого обойтись. Если вы вообще не можете без этого обойтись физически – значит, эти данные избыточные. Если без них можно обойтись для совершения функций, то они избыточные. И проблема в том…

Юрий Алексеев: Тут поди докажи потом, избыточные они или нет.

Урван Парфентьев: Проблема в том, что критерий избыточности задает в первую очередь национальный регулятор, и уже все остальные, начиная от охранников на вахте, как здесь приводили пример, и заканчивая какими-то крупными компаниями, просто работают на опережение, избегая каких-либо потенциальных претензий. Вот и вся причина.

Юрий Алексеев: Про Роскомнадзор еще хочу договорить. Андрей, вы не согласны с Урваном?

Андрей Масалович: Ну, во-первых, я сам видел предложения о расширении полномочий Роскомнадзора, как раз в сторону оперативно-розыскных мероприятий. Я не знаю, чем кончится, но давление такое есть. Но…

Юрий Алексеев: Вы видите в этом опасность? Или вы поддерживаете?

Андрей Масалович: Я вижу две других опасности. Первое – нет организации, которая сейчас бы сидела вечерами и выпускала цифровую газету «Искра». То есть нет организации, которая бы объединяла цифровых людей. Ну, каждый сам за себя. И весь разговор строится: «Вот я один, а они там что-то со мной делают». То есть нет объединений, ну, профсоюзов. Так же, как в свое время профсоюзы начали наводить хоть какой-то порядок в капитализме. В цифровом капитализме этого нет. Это раз.

Второе – нам всем кажется, что это про нас, что это про людей, что мы вообще существует. Мы на самом деле существуем просто потому, что тушку девать некуда. На самом деле все организации Бигтеха оперируют не нами, а нашим цифровым профилем. Можно ли нам давать кредит? Когда вы заходите в службу знакомств, вы думаете, что вы знакомитесь с девушками, а на самом деле вы знакомитесь с алгоритмом, который выбирает, насколько вы тупой, чтобы вам вот этих или этих девушек подсунуть. То есть давно уже мы как таковые не субъектные.

Юрий Алексеев: И что, вообще никаких прав? Вот упоминали здесь возможность удалить эти персональные данные. Можем ли мы их удалить или нет?

Андрей Масалович: Я один пример скажу сейчас. Все, кто начнет сейчас спорить, дайте один пример…

Вот я сижу в банке. Напротив меня персональный менеджер. У меня идет крупный контракт. Ну, все-таки российская фирма продает софт для правительств других стран. Это редкость. То есть мне надо дать банковскую гарантию, потому что крупный контракт, за которым стоят крупные силы. Сидит девушка, улыбается и говорит: «Сейчас наш робот изучит ваш цифровой профиль и решит, можно ли вам давать кредит». Я говорю: «Ну, понятно, мне деваться было некуда. А вы тоже сюда тушку принесли, потому что девать некуда? Мы-то зачем здесь сидим?» То есть люди…

Юрий Алексеев: Возвращаюсь к возможности отозвать свои персональные данные. Закон мне это право дает. А на практике?

Владимир Чижевский: На практике? Кто-то, может, и удалит. А что такое «удаление данных»? Просто они из чтения изымаются, но они же остаются все. И физически даже они их не удаляют.

Юрий Алексеев: То есть все, что когда-то было загружено в эту сеть под названием Интернет, и мне говорят, что оно удалено, но все равно эти данные можно поднять потом?

Владимир Чижевский: Абсолютно можно.

Иван Бегтин: Ну, владельцы систем могут поднять. Но я на самом деле не согласен с текущей моделью регулирования. И то, что Роскомнадзор в России является регулятором персональных данных – это некоторый, я бы сказал, такой нонсенс, потому что в мире занимаются защитой персональных данных агентства по защите прав потребителей.

И проблема всего российского регулирования в том, что оно построено вокруг оборудования, механизмов защиты и, скажем так, рынка безопасности, который у нас сформировался и такой уже давний, опытный, а в мире, например, в том же Европейском союзе GDPR построен вокруг юридической защиты граждан. Там главные действующие лица – это юристы. И возможность возмещения полного ущерба в пользу организаций защиты прав потребителей, как это сделано в той же Германии, которая и толкала GDPR, у которых VZBV несколько раз судились с Facebook, выигрывая многомиллионные штрафы в фунтах. И эти деньги шли на финансирование именно этой организации.

Юрий Алексеев: Какие еще сильные и слабые стороны есть у этого европейского подхода, о котором Иван вспомнил?

Иван Бегтин: Ну, если вы у меня спрашиваете, то сильная сторона – это, безусловно, усиление гражданина при наличии… Скажем так, здесь главным оружием уже являются юристы. Если юристы чувствуют, что могут выиграть у крупной корпорации, они ввяжутся в любую драку и заработают на этом хорошие деньги.

А слабая сторона – это, безусловно, хоронит цифровой бизнес и довольно сильно ограничивает все интернет-компании. Поэтому Google смог появиться в США, но не смог бы появиться в Европе.

Юрий Алексеев: Послушаем историю нашего героя Федора Ермошина, режиссера и сценариста. Вот в какую ситуацию он попал.

ВИДЕО

Федор Ермошин: Меня задержала полиция со множеством нарушений. Эти люди никак не представились. Они не объяснили вообще, что происходит. И на тот момент я думал, что это похищение. Меня привезли в отдел полиции в Строгино из Одинцова. И только там я узнал, что произошла ошибка в системе определения лиц, что мое лицо на 70% совпало с лицом предполагаемого преступника, которого они подозревали в краже.

Что я об этом думаю? На мой взгляд, наверное, система определения лиц несовершенная, она дает сбои. Но важнее – кто и как использует эту информацию, эти данные.

Юрий Алексеев: Вот мы говорили о том, что искусственный интеллект, да, он помогает защитить наши персональные данные. Но тем не менее – в чьих руках этот искусственный интеллект и кто, в конце концов, принимает решения. Какие от этого риски? Роман.

Роман Душкин: По поводу искусственного интеллекта. Система видеонаблюдения и видеоаналитики, несомненно, относится к таким системам. Как раз был принят кодекс, Национальный кодекс этики разработчиков искусственного интеллекта, в котором черным по белому написали, что ответственность за применение всегда лежит на человека. То есть субъектность системам искусственного интеллекта никто не давал. И вряд ли даст кто-либо в ближайшем будущем. И тут вопрос как раз к конкретным полицейским, которые задержали.

Юрий Алексеев: А система с вероятностью 70% сказала, что это тот человек, который похож на преступника.

Роман Душкин: Да, система сказала. Простите меня, 70% для системы искусственного интеллекта – это очень низкий показатель. То есть она говорит… Она даже, скорее всего, оранжевый цвет не поставила этому риску, система.

Юрий Алексеев: То есть люди недостаточно компетентные приняли решение, что, скорее всего, это он.

Роман Душкин: Тут даже не стоит говорить о компетентности людей. Тут просто человек принял решение. А кто ему это решение подсказал – это вообще уже не важно. Человек принял решение, и за это, в общем-то, потом должен понести какое-то наказание – за то, что произошло.

Юрий Алексеев: Еще мнения?

Иван Бегтин: Я не согласен, потому что похожие системы, гораздо более сложные, которые применяются в Великобритании, сейчас проходят там довольно массовое тестирование. Это так называемая precrime systems, или система предсказания преступлений.

Юрий Алексеев: Предотвращение преступлений. Ну, как в фильме «Особое мнение», если вы видели, где предсказывались преступления. Так вот, когда там эту систему запустили, примерно в течение двух лет было огромное количество ложных срабатываний. В итоге британская полиция создала специальную этическую комиссию, которая рассматривает каждый такой случай, публично раскрывает все протоколы, все схемы работы этих систем и алгоритмов, и рассматривается это отдельным списком на этой этической комиссии, людьми, которые не имеют отношения к полиции, а, как правило, из академических либо общественных кругов.

Юрий Алексеев: Друзья, предлагаю обсудить… Сейчас на экран выведут десять таких топ-советов, которые тиражируются в российских медиа, о том, как способствовать защите своих персональных данных. Например:

создавайте надежные и уникальные пароли;

не используйте одинаковые пароли и регулярно обновляйте их;

используйте многофакторную аутентификацию;

запретите мобильным приложениям иметь неограниченный доступ к вашим данным;

отключите геолокацию на смартфоне;

настраивайте приватность в соцсетях;

не открывайте и не отвечайте на подозрительные письма;

храните важные файлы на внешнем накопителе;

используйте антивирусы и официальное программное обеспечение;

не используйте общедоступный вайфай.

Ну, все мы подробно обсуждать не будем. Кто готов прокомментировать эти советы и добавить их какими-то своими? Роман.

Роман Душкин: Самый главный и первый совет любому пользователю цифровых технологий, Интернета: в первую очередь, никогда не оставлять в Интернете то, о чем можно пожалеть, устыдиться или что может использоваться против тебя. Вот всегда думать о том, что ты оставляешь в Интернете.

Юрий Алексеев: Андрей.

Андрей Масалович: Я бы чуть-чуть дополнил: и не делать того, о чем будешь потом жалеть.

Роман Душкин: Конечно.

Андрей Масалович: Если тебя сильно угнетает, что тебя засняли, как ты пьяный танцевал на столе в мундире – не надо пьяным на столе танцевать в мундире.

Юрий Алексеев: Это уже про жизнь нашу реальную, офлайновую.

Андрей Масалович: У меня правда были реальные запросы: «Конкуренты – звери, а не люди. Мы тут танцевали пьяные в мундирах, а они выложили». Я говорю: «Так надо было голышом, раздеться. Вам бы только лайков наставили».

Юрий Алексеев: Ну а если подробнее все-таки о том, что здесь было? Вот пароли, допустим. Машины научились их подбирать? Или правда, что сложный пароль – это хорошая история?

Андрей Масалович: Нет-нет-нет, про пароли правильно. Действительно, самый первый подарок хакеру – это даже не простой пароль, а одинаковый пароль. Если на двух сервисах одинаковый пароль – все, вы попали, потому что одно из устройств вы утеряете, и утеряете все.

Но там отсутствует целый блок из этих десяти, нет тут целого куска про социальную инженерию. Вам звонят, представляются…

Юрий Алексеев: А это тоже история, связанная с кибербезопасностью? Мы о ней просто говорили несколько выпусков назад.

Андрей Масалович: С этого вы начинали. Большая часть людей, которые пострадали, страдают именно от социальной инженерии (их «развели»), а не от техники. Технически это все не трудно. Это цифровая гигиена. Это как руки помыть.

Юрий Алексеев: И еще касательно цифровой гигиены давайте поговорим. Владимир.

Владимир Чижевский: Цифровая гигиена? Ну, это грамотность и образование – цифровая гигиена.

Юрий Алексеев: По поводу грамотности и образования. Вот про приложения там был тезис – о том, чтобы не давать направо и налево этим приложениям делать все что угодно в своем телефоне.

Владимир Чижевский: Да. Ну, во-первых, людям стоит не всем приложениям давать, а режим просмотра. То есть любым приложениям отказать, а включать какие-то личные данные, если это действительно необходимо, считать QR-код какой-то. И то только по тем приложениям, которые тебе действительно жизненно необходимые. То есть это может быть банк, это могут быть Госуслуги, могут быть какие-то конкретные сервисы. А сервис знакомств или какие-нибудь порносайты – все, ты попал! И все твои паттерны поведенческие там.

Юрий Алексеев: А бывает такое, что какое-нибудь приложение, я не знаю, обучалка английскому языку, и она запрашивает доступ к контактам на телефоне?

Владимир Чижевский: Да постоянно! Любое приложение. Ну, как правило, идет такой стандарт. Как правильно вам сказали: чем больше личных данных, тем лучше. Поэтому оно постоянно запрашивает. Но сообщение об этом на телефоне всплывает, и надо не соглашаться, если это не защищенное конкретное приложение со всеми этими правилами десятью, которые были перечислены, они абсолютно правильные.

И сегодняшний тренд… Не передавайте голосом никаких личных данных по телефону никому!

Юрий Алексеев: Камеру заклеиваем на телефоне? Или это шиза совсем?

Андрей Масалович: Могу чуть дополнить. Чтобы камеру не заклеивать, начиная с 11-й версии Android в составе системы выходит классная игрушка, она будет называться Privacy Dashboard. Это блок, который показывает, какое приложение и как за вами шпионит. То есть человек сможет сам включить и посмотреть: «Эти у меня сейчас тырят данные о местоположении, эти тырят мой список контактов». В общем…

Юрий Алексеев: Господа, мы сегодня обсуждаем серьезнейшие вещи. А почему граждане тогда так легкомысленно относятся к своим персональным данным, кому они их дают, для каких целей и так далее? Тем не менее оно же так?

Андрей Голов: Потому что ущерб не такой большой, ответственность не такая большая. Банки на это смотрят сквозь пальцы, потому что уровень доходов позволяет им решать все проблемы, связанные с этими рисками. Ну, многие из нас сталкивались с мошенническими историями. Попробуй эти деньги верни.

Юрий Алексеев: Да налево и направо, конечно, такие истории.

Андрей Голов: Вероятность того, что вы их сумеете вернуть, близка к нулю, да? Потому что юридически так договора составлены с банком, что вы всегда будете все равно в дураках – вы что-то где-то нарушили.

А я бы еще хотел добавить знаете какой вопрос? Мы обо всем этом говорим при условии того, что мы забываем один момент: мы живем в условиях абсолютно недоверенной инфраструктуры, которая создана абсолютно не нами. Сервисы, которые созданы не нами. Мобильные телефоны – это же не ваши телефоны, созданные не вами. И в любой момент по щелчку пальцев это может быть все изменено. И ежели мы… Вот то, что сейчас государство делает, пытаясь создать полный стек технологий, от софта до железа – это первый шаг в нашей цифровой независимости. То есть вот это первый… Ну как это сказать? Совет домохозяев, да?

Но если мы смотрим с государственного уровня на сохранность данных, если мы говорим о том, что конкретная личность – это цифровой отпечаток, конкретный набор битов и байтов, на которые можно повлиять, проанализировать и сманипулировать, то в первую очередь функция государства – защитить нас как граждан от этого влияния как элемента, маленького элемента (а может, и не маленького) гибридной войны.

Юрий Алексеев: Ну, мы тут в том числе и домохозяева, и домохозяйки, поэтому с этого ракурса тоже надо смотреть на вопрос.

Иван, ваше мнение.

Иван Бегтин: Нет ни одной страны с автономным стеком технологий. Единственный, кто может этого достичь – это Китай. Мне, конечно, очень импонируют попытки нашего правительства отделить себя от мира. Я не буду говорить, что страны, а именно все-таки давайте говорить, что власти в текущем ее исполнении. Но я не очень в это верю. Мне бы хотелось… Это амбициозная цель. Я уважаю людей, которые пытаются это сделать. Они, несомненно, решают одни из самых сложнейших задач современности. Но – не верю. Вот как говорил Станиславский.

Есть большое количество приложений, опять же для Android, не собирающих данные и блокирующих другие приложения. Есть изменения политик глобальных компаний. Есть вопрос того, что в России… Почему GDPR распространяется на европейцев, а у нас до сих пор не приняты изменения вместо 152-ФЗ? Почему российское правительство не защищает своих граждан экстерриториально, в любой точке мире и не принимает соответствующие законы, а европейцы что-то делают? Китай только что принял свои нормативные изменения. Это происходит в Калифорнии. Это будет происходить в других странах.

Поэтому это ключевой вопрос, который необходимо адресовать российским регуляторам, которые имеют право инициативы законодательной, депутатам, Совету Федерации, президенту в конце концов, что подобные изменения необходимы.

И еще раз я подчеркну, что без усиления гражданина, без возможности возмещения 100% ущерба в адрес юридических компаний, обществ защиты прав потребителей невозможно будет защищать права гражданина.

Юрий Алексеев: Мы сегодня говорили о персональных данных, о том, что, уведя их, мы, граждане, можем потерять деньги, это может нанести какой-то вред нашей репутации. А в далеком или недалеком будущем мы можем быть обезличенными, что ли, потерять свою цифровую личность? Мы же пришли в начале программы к выводу, что наши данные – это наша цифровая личность вот там, в Интернете. А если их уведут, то и нас там не будет? Чем это чревато?

Владимир Чижевский: Ну, будущее, конечно, будет более структурировано и зарегулировано, нежели чем сейчас, и в цифровом, и правовом поле. Естественно, будут зоны, как заповедники: ты пришел, и в этой зоне ты чистая личность. Там даже интернета нет. Можешь одеть фиговый листок, и как бы нормально.

То же самое и в городе: будут определенные зоны, где будут определенные цифровые права. В какую-то зону ты вошел – ты там весь прозрачный. На какую-то территорию и в какое-то время – у тебя меняется.

То есть не будет какого-то статичного состояния полной прозрачности или полной анонимности. Будут некие процессы в зависимости от деятельности человека, домохозяйки в частности.

Юрий Алексеев: Роман, не согласны?

Роман Душкин: Ну, отчасти согласен, но скорее не согласен, да. Кстати, по поводу подмены цифрового профиля. Фильм «Сеть», который был снят еще, по-моему, в прошлом веке, прекрасно показывает это, с Сандрой Баллок который.

Что я хочу сказать? Может быть, совет дать нашим телезрителям, как раз тем, кто неглубоко входит в понимание того, что такое кибербезопасность и так далее. По поводу социальной инженерии, на которую очень многие попадаются, особенно наше старшее поколение, пенсионеры, те, кто с «цифрой» мало знаком. Ну поставьте себе…

Юрий Алексеев: Их данные уже там давно, и ими пользуются вовсю?

Роман Душкин: Да нет, тут же вопрос именно в мошеннических звонках, именно в этой социальной инженерии. И в будущем это будет только нарастать. Сейчас находятся все новые и новые методы выуживания из людей… Вот звонит кто-то и так далее. А люди привыкли отвечать на телефонные звонки. Вот я, например, не отвечаю на звонки, мне можно не звонить, потому что у меня есть список доверенных лиц, кто может мне звонить.

Очень просто это сделать. Но большинство людей привыкли, что им звонят, и им нужно срочно ответить на звонок. Поставьте себе на телефон приложение, которое показывает, кто звонит. Ну, таких приложений масса! У «Яндекса» есть, еще куча.

Даже если телефонного номера, который высвечивается на экране автоответчика, нет в твоей книжке, тебе это приложение подскажет: это едет курьер, везет тебе что-то или это мошенники, которых уже давно пометили, они в базе сидят. И все телефоны, с которых звонят мошенники, помечены и высвечиваются красным. Все! И это решило бы 99 проблем нашего населения, связанных с социальной инженерией.

Юрий Алексеев: Вы имели в виду 99%.

Андрей, опасно, если мы эту цифровую личность возьмем и потеряем? Или для обычной жизни это ни на что не повлияет?

Андрей Масалович: Ну, это опасно для нашего будущего, потому что если жить сиюминутными интересами, то можно и без цифровой личности обойтись, и без смартфона обойтись, зарабатывать так, чтобы до вечера прожить, а завтра проснуться. Но – голосование, возможность получить кредит, возможность начать международный бизнес. То есть огромный спектр того, что постирается… Возможность поучаствовать в формировании нового правительства. Все, что больше чем на месяц дальше, будет определяться не нами, а именно цифровым профилем.

И борьба за эти цифровые профили – это как раз такой стратегический уровень. Он выше корпоративной борьбы, потому что… Я не согласен, что сейчас задача корпораций – это деньги. Задача корпораций – это власть. И Цукерберг это очень хорошо демонстрирует.

Юрий Алексеев: Ну и информация тоже.

Господа, будем закругляться. Я благодарю всех.

Ну что, запомните: все, что попало в Интернет, остается там навсегда. Но далеко не каждый человек может вспомнить, кому и в каком виде он передавал сведения о себе, поэтому решение проблемы начинается с нас самих. Повышайте уровень информационной безопасности! Предупрежден – значит вооружен.

А особенно это актуально для детей и подростков – они в первую очередь подвержены интернет-влиянию. Какие угрозы несет для них Всемирная сеть? Обсудим эту важнейшую тему завтра. Не пропустите! Встречаемся на Общественном телевидении России.

Юрий Алексеев. До свидания!

Почему нам не гарантируют их сохранность? Кто в ответе за утечки?