Тамара Шорникова: Собственно, сейчас переходим к другой теме. Иван Князев: Да. Тамара Шорникова: Я задумалась просто о своем счастливом возрасте, м-м-м… Иван Князев: Да он у тебя сейчас продолжается. Тамара Шорникова: За нами следят и говорят, что это законно, это уже о нашей теме. В Москве суд отклонил иск Алены Поповой к столичной полиции и Департаменту информационных технологий. В нем активистка требовала признать незаконной систему распознавания лиц, которой сейчас активно оснащаются городские камеры, ведь мы не даем согласия на то, чтобы эта система нас узнала. А как же закон о защите персональных данных, Конституция? Иван Князев: Все ради нашей же безопасности, отвечают оппоненты. Приводят цифры, сколько преступников уже удалось задержать с помощью умных камер на наших улицах, здорово. Но завтра нам скажут, что «мы слушаем ваш телефон и читаем личную переписку в соцсетях» – это тоже законно и опять тоже для безопасности? Тамара Шорникова: Так вот где заканчивается забота о нас и начинается тотальный контроль над нами? Мы еще можем защитить свое право на частную жизнь или уже проиграли в этой схватке? Как вы думаете? Ждем ваших звонков и сообщений. И прямо сейчас запустим SMS-опрос: «За нами следят. Это законно?» Вот что вы думаете на этот счет? «Да» или «нет», отвечайте коротко на наш SMS-номер 5445… Иван Князев: …в конце обсуждения подведем итоги. Нам важно знать именно ваше мнение. Ну а сейчас представим нашего гостя: Александр Михайлов, член Совета по внешней и оборонной политике. Здравствуйте, Александр Георгиевич. Александр Михайлов: Здравствуйте. Тамара Шорникова: Александр Георгиевич, вот коротко буквально напомнить телезрителям историю как раз Алены Поповой. Ее оштрафовали за одиночный пикет у Госдумы, но, конечно, не это ее возмутило, собственно, не поэтому она обратилась в Савеловский суд Москвы. По словам активистки, когда к ней подошли люди в форме, они обратились к ней по имени-отчеству, хотя она не представлялась. По мнению Алены Поповой, узнать ее помогла как раз вот эта система распознавания лиц, а именно обработка фотографий, увеличение ее в 32 раза, по-моему, она называла. Давайте разберемся, как на самом деле эти системы работают. Как они вычленяют нас из толпы? Что они знают о нас? Александр Михайлов: Они нас могут вычленить из толпы только в том случае, если наш портрет и личные данные уже находятся в базе, потому что распознать человека, у которого нет ни фамилии, ни имени, ни отчества, он никаким образом не позиционирован в этой системе, соответственно его никто не распознает. Тамара Шорникова: То есть мы должны были что-то украсть до этого или…? Александр Михайлов: Нет, необязательно. Тамара Шорникова: Дебоширить где-то? Александр Михайлов: Вы знаете, дело в том, что мы оставляем такое количество следов, в том числе в сетях со своими аккаунтами, своими фотографиями, тем, что мы едим, что очень часто вот эта вот умный этот самый искусственный интеллект начинает все это сводить в одну корзину, сносить. У нее, конечно, никаких шансов не было, потому что мы пока живем в формате такого метода проб и ошибок. Я признаюсь честно, меня тоже как-то не очень это радует, потому что мы прекрасно понимаем, что есть такое понятие, как презумпция невиновности, и почему нас рассматривают через рентген, так сказать, подозревая в каких-то преступлениях или там… Вот это очень серьезная проблема, и я об этой проблеме неоднократно уже говорил и считаю, что нам нужно быть все-таки, вернуться к Конституции и посмотреть, что там написано и каким образом заниматься системой распознавания лиц. Ведь эта проблема заключается не только в том, что нас распознают, ну распознали и распознали, если наш образ светлый никаким образом не попадает в третьи руки, не может быть использован для компрометации, для каких-то иных криминальных вещей, то это одно. А вот когда мы с вами сталкиваемся с тем, что на протяжении длительного времени, допустим, система распознавания лиц, стоящая на Лубянке, допустим, или, условно говоря, в Ясенево, или на Октябрьском поле, где находится Главное разведуправление, она начнет работать, начнет обрабатывать, вот это уже представляет очень серьезный интерес, вернее серьезную угрозу для нас как людей, которых распознают, а уже представляет угрозу, интерес для противника. Представьте себе, поставили эту камеру, так сказать, кто-то получил доступ, а мы сегодня понимаем, что защитить практически ничего невозможно… Иван Князев: То есть ее можно взломать как-то? Александр Михайлов: А? Иван Князев: Можно взломать эту систему? Александр Михайлов: Я думаю, что да. Дело в том, что если уж взломали самую совершенную систему Сбербанка и то получили какие-то данные, то уж такую систему точно взломают, тем более что я полагаю, что на этом сейчас начнут очень активно специализироваться целые криминальные группировки. Хотим мы того или нет, мы запускаем какой-то проект, не обеспеченный сдержками и противовесами для этого эксперимента. Как защищать эту информацию? Ведь искусственный интеллект чем хорош или интересен? Он интересен тем, что он тут же начинает угадывать, так сказать, очередные задачи. Сколько раз мы с вами, заходя в Интернет, вводили какой-то запрос, и потом нас забрасывали ответами на этот запрос? Один раз ты посмотрел, сколько стоит погреб пластиковый, так тебя этим погребом этот Интернет задолбает, и вот это очень большая проблема, это очень большая проблема. То, что у Поповой не было шансов никаких, потому что у нас нет ни такой судебной практики, да и вообще эта тема, кстати говоря, не регламентирована. Я вот только сегодня перед вашей программой разговаривал со своим коллегой, генералом Ждановым, который, так сказать, ратует за искусственный интеллект. Но ведь понимаете, какая штука? Ведь интеллект этот направлен не на защиту законных прав и интересов граждан. Иван Князев: Конечно. Александр Михайлов: Он обеспечивает что? – оперативно-розыскную деятельность, да? Сегодня мы ищем преступников, террористов, мы ищем каких-то еще лиц, совершивших криминальные вещи, а завтра мы будем искать тех людей, которые… Иван Князев: …неугодны. Александр Михайлов: …неугодны… Ну ладно неугодные, будут искать, кто алименты не платит, кто еще чего-то, какие-то вещи. И каждая силовая структура… Тамара Шорникова: Или кто вышел на незаконный митинг, например. Александр Михайлов: Ну это мы с вами уже крайности берем. Я просто говорю, так сказать, по жизни, потому что начнут распознавать все что ни попадя. И самое главное, что начнут идентифицировать этого человека, и через какое-то время вот этот искусственный интеллект будет просто тупо сгребать в одну корзину все, что о вас известно. Сегодня никто не защищает по большому счету наши персональные данные, мы везде расписываемся, что согласны с обработкой, то мы согласны с обработкой конкретной компанией, с которой мы завязаны. Иван Князев: В конкретный момент времени. Александр Михайлов: В конкретный момент времени, и вдруг наши данные оказываются у каких-нибудь врачей, которые звонят и предлагают нам услуги по проведению диагностирования организма и так далее. Это серьезная проблема. Мы запускаем очень такую, мы открыли бутыль с джином, и нам еще думать надо, как этого джина ограничить впоследствии. Тамара Шорникова: Но все-таки, буквально 30 секунд, я хочу уточнить. Пока все говорят о том, что почему мы беспокоимся, если нас нет в базе данных МВД, то, значит, система о нас знает только единички, нолики, какие-то точечки, никакой фотографии нигде не хранится, ваши имя и фамилия, естественно, там не подписаны. Но вы говорите о том, что шерстят все-таки соцсети. Так как же все-таки, откуда вся эта информация? Александр Михайлов: Вы знаете, я говорю, что искусственный интеллект потому и интеллект, что он начнет собирать под конкретную задачу. Вот один раз запускаешь, ставишь перед программой задачу, конкретный человек, мне интересно, есть ли у него банковские счета, в какой поликлинике он стоит на учете, какие там деньги… Тамара Шорникова: Такие возможности есть? Александр Михайлов: Мы живем в… Иван Князев: Это уже нам дано. Тамара Шорникова: Я уточнить. Татьяну давайте послушаем из Астраханской области. Иван Князев: Здравствуйте, Татьяна. Зритель: Добрый вечер, здравствуйте. Я хотела сказать, я не боюсь, когда за мной следят, заодно знают, о чем я говорю. У меня нет никаких секретов, понимаете? Я живу в обществе, которое уважаю, уважаю свое руководство страны, пусть за мной следят. Может быть, рядом со мной идет преступник, который меня может обидеть, поэтому хорошо, когда за мной следят. Я не боюсь телефонных разговоров, я ничего такого недоступного, непорядочного не говорю. Пусть мои данные, ничего страшного. Я раньше никогда не боялась ни КГБ, никого, и сейчас. Я не понимаю вашего там товарища, что ему не нравится, что о нем что-то скажут. А что могут на нас сказать? Мы россияне… Тамара Шорникова: Татьяна, мы мысль вашу поняли, простите, что перебиваю, времени мало. Хотелось бы уточнить, а у вас есть какие-то границы, за которые все-таки государство не должно переходить? Ну то есть, допустим, камеры пускай в парках работают, а вот телефон подслушивать, например, уже перебор? Зритель: Нет, я считаю, что только в туалетной комнате неприлично, а если я говорю по телефону, пожалуйста, могут слушать, могут. Родственникам я говорю открыто, товарищам по службе, по работе, ничего страшного нет. Я не понимаю… Тамара Шорникова: Понятно все, нет секретов от коллектива, ваша мысль понятна. Иван Князев: Александр Георгиевич, действительно, наверное, обычному человеку, тем более если он честный человек, бояться по большому счету нечего. Но ведь у каждого у нас есть свои секреты, скелеты в шкафу так или иначе. Александр Михайлов: У нас с вами есть личное пространство. Иван Князев: Да, личное пространство. Александр Михайлов: У нас есть права и свободы, защищаемые Конституцией. Иван Князев: Ну если даже от всего от этого отдалиться, от этих больших слов «права и свободы». Смотрите, ведь очень плохо… Хорошо, если просто реклама лезет в Интернете, а ведь очень плохо, если кто-то будет это использовать в совершенно таких грязных, незаконных целях, это все выйдет из-под контроля. У нас сейчас есть какие-то ресурсы, чтобы как-то контролировать вот это стремительное развитие технологий? Александр Михайлов: Я думаю, для того чтобы нам развивать технологии, нам надо определиться в правилах игры с этими технологиями, где допустимо, где нет. Вот дама говорит, что она ничего не боится, пожалуйста, смотрите ее – вопросов нет, я тоже как бы не особенно боюсь. Я говорю о том, что сегодня искусственный разум будет вторгаться в те сферы, которые, в общем-то, через какое-то время будут серьезно тревожить. Иван Князев: Будут нас беспокоить. Александр Михайлов: Они будут нас тревожить. Я неслучайно упомянул систему распознавания лиц, условно говоря, на Октябрьском поле, где Главное разведуправление Генерального штаба, офицеры проходят там через турникеты многократно. То есть понимаете, да, через какое-то время какая база накапливается? Где эта база будет храниться и как, насколько она будет доступна, большой вопрос. Иван Князев: Ну а если пофантазировать, с этой базой что можно будет сделать? Александр Михайлов: Да все что угодно. Дело в том, что я опять-таки исхожу из интересов государственной безопасности. Я прекрасно с вами понимаю, что есть сведения, составляющие государственную тайну. Например, согласно закону, даже перемещение воинских подразделений по трассам является сведениями, защищаемые законом. У нас сегодня все дороги утыканы камерами. Сегодня когда перемещение большого воинского контингента происходит, оно происходит, можно не только посчитать количество машин, можно даже все номера снять с этих машин, понимаете? То есть речь идет о чем? Вот я понимаю нашу зрительницу, которая говорит, что она ничего не боится. Понятно, мы, конечно, не боимся, у нас особых секретов нет, но у государства-то есть секреты. Иван Князев: Но вы сейчас говорите о внешней угрозе, а мне больше все-таки хотелось бы понять про внутреннюю. Тамара Шорникова: Кому интересен конкретный Иван Иванович Иванов? Иван Князев: Да, внутри, здесь. Александр Михайлов: Ой, вы знаете, это такая тема, которая позволяет совершать при наличии такой информации такие мошеннические действия, что просто мама не горюй. Когда вам вдруг неожиданно звонят и начинают с вами разговаривать, так сказать, языком ваших близких, которые знают, где ваши дети учатся, какой номер машины у вас… Понимаете, это все очень серьезная проблема, которая связана и с элементом шантажа, и мошенничества, это тоже очень серьезно. Вопрос защиты информации. Я понимаю, что мы не боимся до тех пор, пока эти данные не попали в третьи руки. Да, вот есть мы и государство, государство накапливает, оно защищает нашу информацию. Но сегодня даже, как я уже сказал, даже такая мощная система, имеющая систему защиты информации, как Сбербанк, вот недавно был случай, слава богу, они сами его выявили. Иван Князев: Ну да, да. Тамара Шорникова: Смотрите, что пишут наши телезрители, почитаем SMS. Воронежская область: «Пусть следят, мы не шпионы». Нижегородская область говорит о том, что, в общем-то, тщетно мы обсуждаем камеры: «Отпечатки пальцев хоть раз сдавали? Все, вы на крючке, чего вы беспокоитесь о каких-то там камерах?» Тверская область и Москва: «Пусть следят за кем угодно, мне скрывать нечего, зато с камерами безопаснее». Ну и есть у нас видеоматериал, мы спросили… Александр Михайлов: Вы знаете, по поводу безопасности я еще хотел бы сказать. Дело в том, что все, что связано с камерами, это уже пост, после событий. Сегодня, конечно, полиции проще разыскивать преступников, имея образ, имея какую-то картинку, это да. Поэтому… А вот с точки зрения предотвращения преступлений тут сомнительно. Нас же интересует безопасность в конкретный момент, да? Иван Князев: Ну да. Александр Михайлов: В момент нападения или предотвращение нападения, если мы говорим о теракте. Тамара Шорникова: Вы знаете, мы об этом как раз после видеоматериала подробно поговорим, есть у нас тоже одна идейка. Но сначала вопрос, который мы задавали, наши корреспонденты задавали жителям разных городов: «Вас не пугает обилие камер?» Вот какие ответы получили. ОПРОС Тамара Шорникова: Смотрите, про безопасность и про то, можем ли мы с помощью этих систем видеонаблюдения не только раскрывать преступления, но и действительно предупреждать их, нам же ведь это интересно: не допустить террористический акт, не допустить какого-то нападения и так далее. Системы видеонаблюдения, распознавания лиц, естественно, работают не первый день и, естественно, за то время, пока они работают, нашлось уже немало людей, которые решили проверить, можно ли как-то обойти их. Разные корреспонденты пробовали ходить в силиконовых масках, наш корреспондент, мы снимали сюжет как раз по мотивам Чемпионата, давайте кадры покажем, наш корреспондент с помощью мейкапа попробовала обойти систему видеонаблюдения. Есть такое предположение, что если нанести определенным образом, изменить геометрию лица и нанести определенным образом на лицо линии, то это запутает систему видеонаблюдения, потому что она ориентируется на точки, расстояние между бровями, например, и так далее. Есть уже эксперименты, когда действительно чуть ли не… Ну не ведро, конечно, на голову надевали, но разные способы. Правоохранительные органы вокруг это никак не будоражит, то есть никто на тебя внимание не обращает, и камеры тоже. Это реальность? Можно ли сегодня таким способом действительно обойти эти системы, и если можно, то в чем же наша безопасность? Александр Михайлов: Ну знаете, во-первых, начнем с того, что все это будет совершенствоваться. Меня напрасно обвиняют в том, что я как бы против этих камер. Я говорю о другом, я говорю об утечке с этих камер. Я не говорю о том, что, так сказать, это плохо, что это не нужно. Но, во-первых, как я уже сказал, мы с вами с помощью камер не всегда можем предотвратить преступление. Преступление совершено, постфактум да, быстро разыскивают преступников, безусловно, спору нет, и это, наверное, хорошо. Но когда мы с вами говорим о предотвращении, то здесь возникает очень серьезный вопрос. Да, понятно, когда налетает какой-нибудь бандит на салон связи и это фиксировалось, его изображение, тут подъезжает полиция и его обезвреживает. Но ведь очень часто бывает так, что, как правило, преступление совершено, и только после этого мы начинаем обращаться к этим камерам. Сама камера является просто фиксатором того, что находится в ее окружении. И мы, безусловно, должны понимать, что против прогресса не попрешь, эта система будет развиваться и дальше, может быть, даже более серьезно, особенно когда проводятся какие-то массовые мероприятия, когда необходимо выявить очаг возбуждения такого, на уровне предпосылки к массовым беспорядкам, когда на стадионе мы фиксируем, так сказать, фанатов, болельщиков, которые начинают заниматься хулиганством, это, конечно, работает. Я-то говорю о другом, я говорю о том, что мы с вами когда уже запускаем вот этот проект, мы с вами должны всегда выставлять какие-то элементы защиты, элементы противодействия использованию этих сведений в каких-то преступных целях. Тамара Шорникова: Коротко: все равно преступник может сейчас обойти эту систему? Александр Михайлов: Ну, вы знаете, наверное, может обойти, наверное, может. Тамара Шорникова: С помощью той же маски, рисунка. Александр Михайлов: С другой стороны, вы понимаете, какая вещь? Я опять-таки говорю, что преступники, безусловно, могут обойти. Но мы же должны с вами прекрасно понимать, что даже если преступник попал в зону действия камер, даже если он идентифицирован, время после его покидания зоны действия камеры будет не соответствовать времени прибытия наряда, для того чтобы его задержать, понимаете? Вот это тоже очень важный момент. Так что мы тут живем в условиях развивающегося прогресса, ничего в этом как бы плохого нет, кроме одного – системы защиты той информации от попадания в третьи руки. Иван Князев: Смотрите, что люди пишут. Орловская область опять же: «Не нарушай закон, и нечего будет бояться». Псковская область: «Я против слежки, это посягательство на мою свободу». Краснодарский край говорит: «Это неизбежно». Давайте еще послушаем звонок, у нас Александр на связи, Москва. Александр, слушаем вас, здравствуйте. Зритель: Да, слушаю. Естественно, анализ ситуации обязан, и то, что генерал Михайлов сказал, что потом, после, – нет, ситуация должна рассматриваться в процессе. Я смотрел некий фрагмент в одном из аэропортов, рабочий поставил ведро с краской и ушел от него, моментально служба охраны прилетела. Но это ведро, а личность тем более. Если есть уже известная личность, которую ищут, надо ее искать и обезвреживать, тогда будет безопасно и спокойно. Иван Князев: Да, понятно, хорошо, спасибо. Тамара Шорникова: Да, ваше мнение понятно. Давайте выслушаем еще одно, на этот раз Сергей из Воронежской области. Слушаем. Иван Князев: Здравствуйте, Сергей. Зритель: Здравствуйте. Мое мнение такое, что это все-таки не как борьба с преступностью или с чем-либо иным будет действовать, а как тотальный контроль за населением просто, и вы не сможете ничего сказать, ничего сделать и так далее, и тому подобное, если… Например, были выступления против увеличения пенсионного возраста и так далее, люди, которые собираются где-то, они будут сразу ставиться на какой-то учет в электронном виде и так далее, и тому подобное. А с преступностью бороться после того, как преступление совершено, – это, наверное, уже неправильно. Все органы у нас сделаны для того, чтобы преступление не совершалось, а не чтобы они совершались и потом расследовались. Иван Князев: Да, понятно, спасибо большое. Александр Георгиевич, скажите, пожалуйста, насколько эта система вообще в принципе умная? Насколько сейчас быстро такие технологии совершенствуются и насколько мы быстро сможем за ними поспевать? Успеем ли мы, ну не знаю, хотя бы законодательную базу привести в порядок? Александр Михайлов: Вы знаете, сейчас над этим работают, как раз над разработкой законодательной базы, потому что мы тоже должны здесь очень четко понимать… Я опять возвращаюсь к тому, в чем со мной пытаются спорить. Я ведь не говорю о том, хорошо это или плохо, я говорю о том, что нам нужно выработать систему защиты этой информации, вот это самое главное. И поэтому… Иван Князев: Что для этого нужно сделать? В Конституции вроде и так прописано, дальше что? Ну вот смотрите, камеры уже стоят на улице, за нами могут следить даже с помощью камер здесь… Александр Михайлов: Абсолютно. Более того, можно следить дистанционно, так сказать, даже в санаториях, заходить в Интернет, заходить на сайт санатория и смотреть… Иван Князев: Какие законы нужно поменять и где? Александр Михайлов: Ну это пусть наши законодатели думают, потому что нам очень четко выдержать надо баланс между борьбой с преступностью и защитой законных прав и интересов граждан. Это серьезная проблема, кстати говоря, и по мере развития вот этих информационных технологий мы с ней будем все время сталкиваться. Вот не дай бог сейчас пойдут какие-то утечки, а ведь мы с этим сталкиваемся очень часто. Ну чего греха таить, иногда у нас на Садовой-Сухаревской можно было купить все базы, которые существуют, понимаете? Если мы будем еще дополнять это… А потом, ведь я с позиции еще, так сказать, такой глобальной безопасности говорю, потому что если у нас к этим камерам будет иметь доступ противник, а мы с вами знаем, что Агентство национальной безопасности имеет колоссальные возможности в том числе для получения такого рода информации, то, конечно, здесь требуется очень тщательная проработка даже в этом плане. Ну куда денешься? Мы сами создаем третье око, которое надо защищать, использовать его в интересах государства и безопасности, с одной стороны, а с другой стороны, надо прекрасно понимать, что нам нужно исключить возможность получения попадания этих данных в руки не только третьих лиц, но и, в общем-то, наших потенциальных противников. Это серьезная проблема. Тамара Шорникова: Вот еще какие SMS приходят. Нижегородская область: «Простым людям камеры ничем не помогут, никто не станет устраивать изысканий, а они нужны власти для тотального контроля». Оренбургская область: «Плохо, что следят, продают наши номера посторонним лицам, банкам тем же, магазинам». Александр Михайлов: Ну это безобразие, если честно, он правильно говорит. Вы знаете, стоит только зарегистрировать какое-нибудь индивидуальное предприятие, тебе тут же обзвонятся банки, хотя ты никого не уполномочивал давать твой телефон для третьих лиц. Тамара Шорникова: Да. «Камеры очень пугают, – это уже Москва пишет. – Через некоторое время выясняется круг ваших родных, тут жди криминальных звонков с вымоганием денег в связи с угрозой их жизни и так далее». А вот если представить себе ближайшее будущее, уже говорили о том те же разработчики этих систем распознавания лиц, что следующий шаг – это не только вот узнать, кто где конкретно, а прочесть эмоции этого человека, распознавание эмоций. Александр Михайлов: Но эмоции – бог с ними. Тамара Шорникова: Что дальше? Александр Михайлов: Конечно, это очень важно, потому что, знаете, особенно для таможни, когда сталкиваются таможенники с эмоциями человека, надо посмотреть, что он везет, с одной стороны. Тамара Шорникова: С другой стороны, так же можно определить, наверное, агрессивно настроенного человека. Александр Михайлов: Безусловно, безусловно. Тамара Шорникова: Контролировать, следить за ним. Александр Михайлов: Во-первых, определить – это одно, а среагировать на этого человека – это другое. Мы с вами прекрасно понимаем, что не всегда быстро можно среагировать на этого человека. Но в Китае вот эта вот система, которая установлена, позволяет вообще расплачиваться своим лицом, условно говоря, в ряде магазинов. Ты приходишь, тебя идентифицируют, идентифицируют с твоей карточкой и списывают с тебя деньги, не надо ничего вытаскивать. Там очень широкий круг вопросов, которые решаются с помощью искусственного интеллекта. Но опять-таки я говорю, что все должно быть очень тщательно защищено, потому что каждый человек имеет, прямо скажем, какие-то темы, которые нежелательно было бы, так сказать, знать другим, связанные с состоянием здоровья, состоянием твоего финансового положения и прочее, прочее, вот о чем речь идет. Иван Князев: Александр Георгиевич, я не сторонник всяких конспирологических теорий, не знаю, будущего апокалипсиса, но тем не менее эта система не выйдет вообще из-под контроля в глобальном смысле? Александр Михайлов: Ну, вы знаете… Иван Князев: Все-таки искусственный интеллект. Александр Михайлов: На данный момент я считаю, что пока мы еще находимся в том положении, когда нам еще сложно говорить, выйдет она из-под контроля или нет. Но, в общем-то, как правило, все колоссальные проблемы, возникающие в произведениях наших фантастов, связаны с тем, что именно машина выходит из-под контроля в конце концов. Иван Князев: У нас уже пообещали скоро квантовый компьютер изобрести к 2024 году, а тут у нас еще и искусственный интеллект… Тамара Шорникова: Тут даже не о бунте техники, я бы даже уточнила: не может ли она выйти из-под нашего контроля эмоционального? Иван Князев: Из-за под нашего, да. Александр Михайлов: Я про наш контроль и говорю, я говорю как раз про наш контроль. Особенно, я уже упоминал, все, что связано с интересами государственной безопасности, вот это вот очень серьезная проблема. Достаточно посмотреть те же самые записки Сноудена и документы, которые он привел. Иван Князев: Вот. Александр Михайлов: Мы очень под жестким контролем, не только нашим, но и посторонним контролем. Конечно, люди говорят, а что, они вообще ничего не совершали, они все такие из себя белые и пушистые, им вообще ничего не волнует. Вы понимаете, это до поры до времени, это до поры до времени у каждого. Тамара Шорникова: Подведем итоги нашего SMS-опроса. Иван Князев: Спрашивали: «За нами следят. Это законно?» – «да» сказали всего лишь 11% участников опроса, «нет» 89%. Тамара Шорникова: Теперь осталось, чтобы с этим мнением наших зрителей согласился и суд, желательно высший. Иван Князев: Страшно жить. Тамара Шорникова: Но приятно. Спасибо. Иван Князев: Спасибо вам большое. Тамара Шорникова: Александр Георгиевич Михайлов, член Совета по внешней и оборонной политике, был у нас в студии. Спасибо. Александр Михайлов: Спасибо. Иван Князев: Спасибо большое.