Системы распознавания лиц: не нарушают ли они закон о персональных данных?

Гости
Саркис Дарбинян
ведущий юрист «РосКомСвободы», руководитель Центра цифровых правт
Алёна Попова
сооснователь проекта «Ты не одна»

Иван Князев: Ну а мы продолжаем наш эфир, сейчас у нас очень интересная тема особенно для тех людей, которые боятся камер. Ну вот несмотря на то, что мы с Тамарой постоянно работаем перед камерами, честно говоря, я тоже не люблю, когда меня снимают, особенно в тех местах, где бы я не хотел этого делать.

Тамара Шорникова: Так ты не ходи в эти места, Ваня.

Иван Князев: Приходится.

В общем, дело такое. Жительница Москвы Алена Попова хочет добиться запрета распознавания лиц городскими системами видеонаблюдения, она даже обратилась с иском в суд после того, как ее привлекли к административной ответственности и оштрафовали на 20 тысяч рублей за одиночный пикет возле здания Госдумы.

Тамара Шорникова: Рассматривая ее дело, суд изучил записи с камер видеонаблюдения с 32-кратным увеличением изображения лица. Попова считает, что данный факт подтверждает нарушение ее конституционных прав на частную жизнь, тем более что никакого личного письменного согласия на обработку личных биометрических данных она не давала. Давайте будем разбираться, зачем же, собственно, нужны системы распознавания лиц в наших городах. Они защищают нас от преступников, или они следят за вами? Вас камеры лично пугают? Звоните и высказывайте свое мнение в нашем эфире.

Иван Князев: Да, это будет наш опрос, в конце этой темы подведем итоги, поэтому звоните, не стесняйтесь, высказывайте свое мнение, пугают вас камеры или нет.

Тамара Шорникова: Да.

Прямо сейчас с нами на связи Алена Попова, общественный деятель и собственно ответчица по делу. Давайте выясним, собственно, из первых уст узнаем всю информацию. Алена, здравствуйте.

Иван Князев: Здравствуйте, Алена.

Алена Попова: Да, здравствуйте.

Иван Князев: Алена, расскажите, пожалуйста, как это все случилось? Как вас вычислили? Что сказали и так далее?

Алена Попова: Давайте я просто вас поправлю. Я извиняюсь, что тихо, потому что я в поезде еду. Это не против камер, а против именно самой технологии распознавания лиц, которая будет установлена как алгоритм в принципе на все видеоизображения в городе-герое Москва, об этом заявил мэр Собянин.

И собственно, мой иск возник не из-за того, что меня оштрафовали за одиночный пикет, меня из-за оштрафовали, поскольку посчитали, что я и картонная… есть массовая акция. Но камеры, когда мы смотрели во время суда, интересно, они действительно меня приближали, что свидетельствовало о том, что камеры использовали технологию распознавания лиц. Тогда я спросила, для каких…, например, правонарушителей, преступников, прохожу ли я в розыске, то есть что-нибудь, что позволяет меня идентифицировать, – нет, я в таких базах не состояла.

Собственно, весь год я читала, изучала, как можно запустить эту кампанию, и смотрела, будут ли какие-то нарушения помимо моих еще прав человека. И вот в октябре 2018 года в метрополитене московском был задержан Миша Аксель, он был задержан сотрудниками полиции, ему показали на телефоне его изображение, его изображение попало в базу разыскиваемых лиц, хотя Миша ни в какой базе не состоял, нигде не разыскивался. Его отвезли в отделение, его там опрашивали, отпустили.

И когда Миша спросил, может ли он удалить свою фотографию, которая находится рядом с преступниками из этой базы, ему сказали, что нет, он не может. Дальше все это усугубилось тем, что мэр Собянин в этом году сказал, что Москва будет крупнейшим плацдармом системы распознавания лиц, а это практически повторяет путь Китая, который долгие годы следит за китайскими мусульманами, которых называют уйгурами.

И мы занялись изучением законов, есть ли хоть что-то законное, что позволяет это делать. Это не просто снимать видео, камеры стоят по городу, ладно, это окей, а распознавать и идентифицировать нас и наших детей. Ладно они совершеннолетних граждан идентифицируют, почему они идентифицируют несовершеннолетних, например? И вот мы стали изучать и поняли, что Конституция, 23-я статья впрямую запрещает нарушать неприкосновенность нашей частной жизни, закон о персональных данных впрямую запрещает без нашего согласия или без санкций на то суда использовать технологию распознавания лиц, однако это все уже делается.

И возник этот иск, и возникла вместе с иском общественная кампания, которая называется «Мое лицо – мои данные». Те, кто говорят, что это круто для безопасности, если ты не преступник, тебе нечего бояться, – пожалуйста, хорошо, что я рассказала про случай Миши Акселя, используйте его как аргумент для себя, потому что ваша фотография неожиданно тоже может оказаться, нечаянно в базе с преступниками, и вы потом ее никак оттуда не уберете. Посему безопасность, на мой взгляд, не та конструкция, которая контролирует вас, а это когда вы контролируете ситуацию. Чтобы ее контролировать, надо, чтобы были какие-то законы, законов сейчас нет, и все, что сейчас делается, незаконно.

Тамара Шорникова: В дальнейшем, сейчас какой алгоритм? Вы сейчас подали иск в Савеловский суд, правильно?

Алена Попова: Правильно. У нас там три соответчика: Департамент информационных технологий Москвы, Министерство внутренних дел России и Роскомнадзор. Мы ждем, когда будет назначена дата заседания, и дальше будем смотреть.

Но параллельно с этим идет общественная кампания. Мы понимаем, что с нашим правосудием в Российской Федерации мы этот иск можем проиграть, хотя нет ни одного основания, чтобы мы его проиграли, потому что нет ни одного закона, который разрешает собирать наши биометрические данные без нашего согласия. Но так или иначе, если мы проигрываем, мы идем в вышестоящие суды и в международные суды, не намерены останавливаться.

Иван Князев: Ну понятно.

Алена, а мне, знаете, вот интересно, как они все-таки вас распознали, если вы не были ни в одной базе? Они вам объяснили?

Алена Попова: Нет, вот пока они мне ничего не объяснили, и в иске, собственно говоря, я уверена, что плюс большой в том, что, когда ответчики придут, они должны будут показать, как работает этот алгоритм.

Иван Князев: Ну да, вот это самое интересное, как искусственный интеллект сравнивал вас, с фотографией с какой-то, я не знаю, с других камер? Может быть, вы где-то засветились и так далее. То есть это все еще предстоит выяснить?

Алена Попова: Конечно, да. И я считаю, что в этом огромная польза иска, потому что как раз случай с Мишей Акселем год назад доказал, что никто не знает, как этот алгоритм работает, а мы хотим, чтобы это все стояло под общественным контролем, и мы поняли, как работало до момента моего иска уже то, что было незаконно. Поэтому пусть рассказывают, приходят в суд и рассказывают.

Тамара Шорникова: Да, спасибо.

Иван Князев: Да, было бы интересно.

Тамара Шорникова: С нами на связи была Алена Попова, будем следить за этой историей.

А сейчас поговорим с Саркисом Дарбиняном, ведущим юристом «Роскомсвободы».

Иван Князев: Здравствуйте, Саркис.

Саркис Дарбинян: Приветствую вас, коллеги!

Иван Князев: Скажите, пожалуйста, вот Алена нам уже сказала, что, как она считает, и наверное, многие с этим согласятся, юристы в том числе, что был нарушен целый ряд статей, в том числе и Конституция, – это так? Если да, то что нарушили?

Саркис Дарбинян: Знаете, ссылаться на Конституцию сегодня уже в судах моветон, поэтому когда мы этот иск писали, аргументировали, конечно, мы ссылались на международные стандарты, прежде всего на федеральный закон «О персональных данных». Тут надо понимать, что это, конечно, черное пятно в российском законодательстве, никакого регулирования до сих пор нет. И при этом, конечно, мы понимаем, что технология распознавания лиц – это, безусловно, технология двойного назначения. Она может использоваться и во благо, как это говорят в ГУВД и в Правительстве Москвы, но, естественно, она может использоваться и во вред, для нетаргетированной слежки либо может стать причиной злоупотребления, когда получается несанкционированный доступ.

Поэтому, конечно, на сегодня мы и требуем моратория на принятие каких-либо мер, связанных с использованием технологий, это должен быть либо судебный, либо законодательный мораторий, пока, соответственно, не будут все исследования проведены, в том числе социологические, юридические, и не будут приняты определенные правовые гарантии от злоупотреблений, от утечек, какие-то существенные санкции введены для должностных лиц в случае таких незаконных действий.

Тамара Шорникова: Саркис, вы, наверное, знаете, уже читали официальные ответы, в том числе от пресс-секретаря президента Дмитрия Пескова относительно иска в Савеловский суд Алены Поповой о том, что с иском знакомы, но, собственно, системы видеонаблюдения хорошо себя зарекомендовали в том числе во время проведения Чемпионата, удалось выявить преступников с ее помощью. Сейчас есть какой-то четкий, понятный круг, когда эти системы могут использовать и кто, в каких случаях?

Саркис Дарбинян: Вот именно, что этого ничего нет, то есть система использования технологии абсолютно не прозрачна, непонятно, кто имеет доступ, на каком основании. То есть есть какие-то факты, что и центр «Э» имеет, и отдел «К», и «ФСБ», но мы не знаем круг этих лиц, соответственно Россия до сих пор считается страной с неадекватной защитой персональных данных. Нет никакого действительно сильного регулятора, Роскомнадзор мы здесь считать не будем, который может прийти, проверить, кто и на каком основании использует в том числе биометрические данные.

Поэтому, конечно, сегодня эта история актуальна не только вообще для России, во всем мировом сообществе идет дискуссия, в том числе и в Конгрессе США, в Европейском Союзе уже лежат законопроекты, также требующие введения моратория на использование достаточно опасных для гражданских прав технологий.

Тамара Шорникова: Ну и как оцениваете перспективы иска, собственно, ответного?

Иван Князев: Надежды нет, я так понимаю, выиграть? Или все-таки есть?

Саркис Дарбинян: Нет, мы не питаем иллюзий, что, знаете, в московском суде можно будет победить московскую мэрию и ГУВД Москвы, но это только первый иск. «Роскомсвободы» запустила большую кампанию, я думаю, это только первый иск в череде исков, будем в любом случае вести эти дела до международных судов. Сейчас и в Совете Европы этот вопрос достаточно актуален, поэтому это такая долгосрочная битва за наши права.

Иван Князев: Ну понятно.

Тамара Шорникова: Да, спасибо большое. Саркис Дарбинян, юрист «Роскомсвободы», был с нами на связи.

Иван Князев: Спасибо.

Тамара Шорникова: Пару SMS перед звонком. Свердловская область: «А как быть с уходом налево этих баз и прочих данных?» Особенно в свете прошедших утечек.

Иван Князев: Ну вот это, наверное, один из таких самых главных вопросов.

Тамара Шорникова: При этом: «Мне бояться нечего, с ними спокойнее», – Москва и Московская область. И Новосибирск: «Дело идет к тому, что шаг влево, шаг вправо считается побегом».

Узнаем мнение нашего телезрителя, Рустам на связи.

Иван Князев: Здравствуйте.

Тамара Шорникова: Вас пугают камеры и соответственно системы, которые позволяют распознавать ваше лицо, которое в этих камерах сейчас зачастую имеется?

Зритель: Здравствуйте. Меня хорошо слышно?

Тамара Шорникова: Отлично слышно, да.

Иван Князев: Да.

Зритель: Я бы хотел сначала вас поблагодарить, потому что единственный телеканал ОТР, это народный канал.

Тамара Шорникова: Спасибо.

Иван Князев: Спасибо, спасибо большое.

Тамара Шорникова: Рустам, очень мало времени, если можно, коротко вопрос сформулируйте.

Зритель: Я считаю, что надо эти видеокамеры оснащать как можно больше во всех местах общественных, в парках, в скверах, в подъездах, на домофонах…

Тамара Шорникова: Зачем?

Зритель: С целью безопасности.

Тамара Шорникова: Безопасность, понятно, Рустам. Спасибо.

Иван Князев: Спасибо, спасибо вам большое. Ну вот Калининград то же самое говорит: «Камеры – это отлично. Жуликов развелось, пускай боятся».

Тамара Шорникова: Еще мнение из городов послушаем. «Вас не пугает обилие систем видеонаблюдения?» – узнавали у телезрителей. Вот ответы.

ОПРОС

Тамара Шорникова: Сейчас к нам на связь выходит Сергей Кулешов, эксперт сервиса «Битрикс24», эксперт в области разработок таких систем видеонаблюдения, распознавания лиц. Сергей, слышите нас?

Иван Князев: Здравствуйте, Сергей.

Сергей Кулешов: Да, слышу, здравствуйте.

Иван Князев: Сергей, расскажите, пожалуйста, вот об этой системе. Что это за искусственный интеллект такой, что он из себя представляет? Как он нас вычисляет, как распознает нас?

Сергей Кулешов: Это программный комплекс, который за счет специальных алгоритмов, машинного обучения, анализа изображений, собственно говоря, может определить, на фотографии вообще найти лицо и сравнить его с некоторым слепком, цифровым слепком лица в своей базе.

Тамара Шорникова: А откуда берется эта база? Это что, шерстятся соцсети? С чем сопоставляется фотография?

Сергей Кулешов: Ну тут надо… Этот вопрос зависит от того, о какой системе идет речь, естественно. Если говорить о тех, которые подлежат установке в Москве, то это базы розыска, естественно, то есть там попытка, собственно, найти преступников в толпе.

Иван Князев: Ну понятно. А вот этот интересный вопрос, Алена нам говорила, что она ни в каких базах не числится, как она считает.

Сергей Кулешов: Ну ее, скорее всего, и не нашли.

Иван Князев: Нет, ее как раз-таки нашли.

Тамара Шорникова: Нашли, да.

Про погрешности если говорить, есть эпизоды все-таки, о них рассказывают, что находят ничем не примечательных людей для правоохранительных органов. Вот как все-таки такое получается?

Иван Князев: Вдруг ошибется?

Сергей Кулешов: Алгоритм действительно может ошибаться, но погрешность настолько мала, то есть она измеряется единицами процентов. Да, такое возможно, как и в случае с человеком, человек тоже может ошибиться, разглядывая изображение на камере. Но машины и машинные алгоритмы, конечно, гораздо точнее, чем человек.

Тамара Шорникова: Насколько защищены такие системы? Потому что нынешние утечки разного рода данных в «Билайне» и Сбербанке говорят о том, что какие-то проблемы явно есть с хранением персональных данных.

Иван Князев: Взломать ее могут?

Сергей Кулешов: Я думаю, что взломать именно саму систему скорее нет. Не готов комментировать утечки, для этого надо разбираться в том, как они произошли. Но уверяю вас, что в большинстве случаев это человеческий фактор, то есть просто недостаточная компетентность или злоумышленники на стороне той или иной организации, которая занимается хранением.

Иван Князев: Сергей, можно такой вопрос, а вы «Терминатора» смотрели?

Сергей Кулешов: Конечно.

Иван Князев: Вы не боитесь развивать вот эти все искусственные интеллекты и так далее?

Сергей Кулешов: Нет, это совсем другого рода алгоритмы, скажем так, они пока и, я уверен, еще долго будут работать только на пользу и помогать нам, людям я имею в виду, делать ту работу, ту рутинную работу, работу, которая не является интеллектуальной, делать ее гораздо быстрее и качественнее.

Иван Князев: Даже несмотря на то, что они наши права нарушают?

Сергей Кулешов: Ну пока не идет речь о нарушении прав, алгоритм – это же не человек, вы не являетесь непосредственно объектом съемки в данном случае.

Иван Князев: Да, спасибо вам большое.

Тамара Шорникова: Сергей Кулешов, наш эксперт сервиса «Битрикс24», был с нами на связи. Обсуждали важную тему, к ней наши коллеги вернутся вечером.

Для нашей защиты или против нас они работают?