Алексей Кадейшвили: Демонизация новых технологий – ошибка, которую многие совершают

Гости
Алексей Кадейшвили
технический директор компании ВокОрд

Александр Денисов: Переходим к следующей теме нашего обсуждения. Тамара, давно ли ты сталкивалась с фейс-контролем?

Тамара Шорникова: В клубах в студенческие годы. Давно или нет, говорить не буду.

Александр Денисов: Теперь можешь столкнуться, например, в банке или даже в трамвае.

Тамара Шорникова: В клубе-то явный бонус был, если прошла. А в банке или в трамвае – чем мне это поможет?

Александр Денисов: Ты сможешь снять, например, деньги в банкомате, зайти в трамвай, не нужно платить, система распознавания лиц просто тебя идентифицирует и снимет деньги с твоего банковского счета. Вот в банковской сфере, на транспорте, в образовательных учреждениях вводится такая система распознавания лиц. Для каждого человека нарисуют так называемый цифровой портрет, по которому система распознает вас в том же автобусе, снимет деньги за проезд. В общем, будет такой цифровой фейс-контроль. Упростит ли это нашу жизнь, или, наоборот, сделает уязвимой, обсудим с нашим гостем.

Тамара Шорникова: У нас в студии Алексей Кадейшвили, технический директор компании «Vocord». Здравствуйте, Алексей.

Алексей Кадейшвили: Здравствуйте.

Тамара Шорникова: Сразу подключим к разговору телезрителей. Расскажите, что вы думаете по поводу того, что цифровизация шагает по планете семимильными шагами и скоро это может стать частью нашей жизни. Нравится ли вам идея того, что ваше лицо будут узнавать на всех улицах сотни камер? Будет ли вам удобно, если система будет что-то с вас автоматически списывать? Или вы предпочитаете сами распоряжаться своими финансами? В общем, масса вопросов, масса вариантов, что можно обсудить. Звоните, пишите нам в эфир, рассказывайте свое мнение.

Александр Денисов: Чтобы представлять, как работает система, давайте посмотрим для начала репортаж Анны Тарубаровой, нашего корреспондента. Она сняла, как действует эта система, где вообще установлены эти камеры. Давайте посмотрим.

СЮЖЕТ

Тамара Шорникова: Я хочу для нескольких телезрителей сейчас сразу ответить. Потому что прислали СМС-ки: «А где конкретно это сейчас действует? Что обсуждаем?». Видимо, увидели Анну в красивом макияже, прильнули к экрану и теперь хотят подробнее погрузиться в тему.

Мы говорим о системе распознавания лиц. Она сейчас внедряется в разных сферах. В банках собирают биометрическую информацию, чтобы потом вы могли удаленно открыть счет. В 10 московских школах в качестве пилотного проекта уже работает эта система распознавания лиц. И уже по данным тех, кто контролирует этот процесс, 6 человек удалось задержать с начала года незнакомцев с коктейлями Молотова, которые пытались пройти в школу. И так далее. Собираюсь ввести в общественном транспорте, чтобы можно было автоматически списывать с вас деньги за проезд. Вот это обсуждаем. Подключайтесь. Вы хотите такую автоматизацию своей жизни или нет? Говорите нам.

Александр Денисов: Алексей, я обратил внимание. Вы улыбались во время сюжета. Вы нашего корреспондента научили, как избежать идентификации?

Алексей Кадейшвили: Нет, я улыбался по поводу того, что это одно из любимых занятий. Когда кто-то делает что-то полезное, обязательно находится кто-то, кто это попытается сломать. И вот эти все боевые раскраски и прочее – это такая известная тема. Еще когда фиксация автомобильных номеров была введена, тоже всякие разные сеточки, рамочки на них придумывали. Но не очень это все эффективно. То есть против какой-то системы это сработает, против другой не сработает. Версии систем обновляются. Сегодня это работает, завтра нет. Это довольно бессмысленное занятие. Но, тем не менее, ему можно посвятить какое-то время.

Александр Денисов: Человек с таким раскрасом явно обращает на себя внимание.

Тамара Шорникова: Если, конечно, в городе не идет Чемпионат по футболу в это время. Мы все смотрим фильмы про супершпионов. И там, естественно, парики, усы и так далее, даже какие-то силиконовые маски на лицо.

Александр Денисов: Даже просто капюшон и темные очки.

Тамара Шорникова: И ты в огромной толпе.

Алексей Кадейшвили: Смотрите, тут нужно понимать, что система распознавания лиц – это не есть какая-то абсолютная панацея, которая решает сразу все проблемы – выявляет мыслепреступления и позволяет арестовать всех, кто находится в розыске. Это система, которая существенно повышает вероятность этого. Если человек активно противодействует, вплоть до того, что ходит в силиконовой маске постоянно, наверное, такого человека найти будет сложно, но его можно будет поискать какими-то другими средствами. Если взять в процентном отношении от общего числа людей, которые, допустим, находятся в розыске, те люди, которые будут ходить в масках, составляют единицы процентов. Большая часть людей – они более земные. И их вполне реально с помощью такой системы найти.

Александр Денисов: Уже в метро действует, мы поняли, да?

Алексей Кадейшвили: В метро такая система уже начинает разворачиваться.

Александр Денисов: И давно она уже работает?

Алексей Кадейшвили: Первые попытки начались вообще много лет назад. Сейчас более активная фаза началась.

Александр Денисов: И успех этой системы? Тамара назвала 6 преступников, которых поймали.

Алексей Кадейшвили: Это в школах. А в метро, по разным цифрам, уже такое количество преступников поймано, что есть опасения, что больше никого уже не осталось.

Александр Денисов: Невероятный успех, да?

Алексей Кадейшвили: По отзывам.

Тамара Шорникова: Хорошо. Когда система считывает наши данные и отличает, например, террориста от обычного законопослушного гражданина, здесь, наверное, сложно что-то обсуждать. Все считают, что это плюс. Но когда система идет дальше, начинает или собирается начать списывать деньги с банковских счетов и так далее, это уже вызывает опасения у многих. Много СМС. «Я не хочу, чтобы ко мне залезали в карман». «А если у меня нет денег, меня что, в Трамвай не пустят?». И так далее. Где здесь…

Александр Денисов: Без денег уже сейчас не пустят. Но шанс есть.

Тамара Шорникова: Да. Здесь, возможно, вы участвуете в обсуждениях таких мер. Будет ли это все-таки на добровольной платформе, или все-таки камеры установят в автобусах – и дело пойдет?

Алексей Кадейшвили: Я думаю, что здесь аналогия примерно такая же, как есть интернет-банкинг, вы можете поставить мобильное приложение на свой телефон и, допустим, что-то списывать с помощью своего мобильного телефона. Эта опция является абсолютно добровольной. Люди, как правило, это делают, потому что это удобно. Понятно, что есть какая-то вероятность ошибок, что вы не ту кнопку нажали, вашим телефоном кто-то завладел. Но в среднем это намного удобнее, чем ходить каждый раз с бумажками в отделение Сбербанка. Поэтому этим пользуются.

Если говорить про списание денег за проезд в транспорте, мне кажется, что новость, которая прошла и которую все сейчас обсуждают, она немножко неполная. Скорее всего, там что-то недосказано.

Александр Денисов: «Минстрой» предлагает вводить такую систему, пилотный проект в Москве.

Алексей Кадейшвили: Да. Я думаю, что имеет смысл изучить более подробно технические детали этого проекта. Потому что, наверное, там немножко более сложная система, чем просто по лицу. Потому что если считать, что в Москве и округе живет порядка 20 млн человек, а еще бывают приезжие, которых в Москве совсем нету, то как, допустим, человека эффективно искать по 20-миллионой базе при нынешнем уровне технологий, я себе пока с трудом представляю.

Тамара Шорникова: Плюс какой счет? У человека сейчас всегда несколько карт с собой.

Александр Денисов: Слушайте, по-моему, в Китае уже действует такая система, если я не ошибаюсь. Они же справились с этим.

Алексей Кадейшвили: В Китае действует много всяких разных систем. Я своими глазами их не видел. Поэтому трудно какие-то подробности про них обсуждать. Что касается списания денежных средств, я думаю, что на 99,(9)% эта история будет добровольной. То есть если вы не хотите свое лицо привязывать, скорее всего, такого не будет.

Тамара Шорникова: Пускать кого-то к своему банковскому счету.

Алексей Кадейшвили: Да. Потому что банковский счет – это все-таки слишком интимная вещь, чтобы позволить кому-то извне распоряжаться.

Александр Денисов: Хорошо. Вот мы видели – «Почта-банк» при выдаче какой-то суммы тебя фотографирует. То есть уже твое лицо привязано к счету. Не знаю, как это дальше используется. Люди могут тревожиться, что что-то может произойти с его счетом?

Алексей Кадейшвили: Нет. Здесь как раз история про «Почта-банк» и про другие банки, которые пользуются – это защита для банка. Кто-то попытается выдать себя за вас.

Александр Денисов: Вклеит в паспорт фотографию свою.

Алексей Кадейшвили: Допустим, он вклеит туда фотографию. Он находится в базе людей, которые уже замечены за мошенническими действиями. Его пробивают по этой базе, находят и выясняют, что он не вы, а на самом деле тот мошенник, который уже 10 лет обманывает банки.

Александр Денисов: То есть уже есть некая база мошенников?

Алексей Кадейшвили: Конечно. Есть же бюро кредитных историй, которые собирают такого рода информацию. То есть это абсолютно легальная, абсолютно официальная деятельность. И, естественно, среди тех людей, которые берут кредиты, есть какое-то количество людей, которые либо не возвращают в силу разных причин, либо просто являются откровенными мошенниками. Соответственно, эти люди тоже в этих бюро учтены. Если к вам приходит человек с такой плохой историей, вы его можете идентифицировать, даже если он, допустим, сменил свою фамилию, пришел по подложенным документам, вы ему просто не даете кредит.

Александр Денисов: И много таких мошенников в этой базе сейчас?

Алексей Кадейшвили: Я точных цифр назвать не могу. Много.

Александр Денисов: Тысячи, сотни тысяч?

Алексей Кадейшвили: Я не думаю, что сотни тысяч. Но тысячи наверняка есть.

Александр Денисов: Несколько тысяч, да? Прилично.

Тамара Шорникова: Давайте послушаем Сергея из Белгородской области. К нам дозвонился телезритель. Здравствуйте.

Зритель: Здравствуйте.

Тамара Шорникова: Расскажите о вашем отношении к обсуждаемой теме.

Зритель: Это очень серьезные вещи. Потому что у нас государство давно уже превратилось в полицейское государство, а теперь еще превращается в один большой концлагерь. И вот эти все моменты. Допустим, презумпция невиновности раньше существовала. Сейчас на автомобильной дороге, даже если ты прав, некогда тебе доказывать свою правоту гаишнику – он тебе выписывает штраф, ты платишь, потом дальше идешь в суд…

Александр Денисов: Понятно. Спасибо большое. Мнение понятно. Люди просто не хотят, чтобы за ними наблюдали. Хотя, с другой стороны, все мы выкладываем себя в социальных сетях, каждый свой чих, каждый поход в магазин.

Тамара Шорникова: Но это твой выбор, Саш. Ты сам решаешь, что выложить, а что нет.

Александр Денисов: При этом мы не боимся, что за ними кто-то будет наблюдать. А тут опасаемся, что нас увидят видеокамеры. Справедливы ли такие опасения?

Алексей Кадейшвили: Мне кажется, вообще демонизация новых технологий – это такая фундаментальная ошибка, которую люди очень часто совершают. Потому что сама по себе технология ни хороша, ни плоха. Хорошим или плохим может быть использование технологии. Потому что, я не знаю, вот люди очень боятся за потерю приватности, за то, что государство начнет за ними следить, бороться, например, с теми же самыми правозащитниками. Это любимая тема, которая обычно муссируется вокруг распознавания лиц.

Можно взять совсем свежую историю. Есть носимые видеорегистраторы, которые есть у каждого сотрудника силовых ведомств. В принципе это система, которая позволяет просто записывать видео всего того, что происходит вокруг.

С помощью этой системы была сделана запись в колонии в Ярославле, после которой были вскрыты соответствующие факты, людей начали сажать и прочее. Камера одна и та же. Та же самая камера, с помощью которой можно снимать людей на митингах и фиксировать какие-то нарушения, которые происходят внутри колонии.

То есть технология одна и та же. Она ни хорошая, ни плохая. Она просто позволяет получить объективную картину, зафиксировать объективную реальность. Дальше на самом деле, опираясь на эти факты, если вы не совершаете каких-то нарушений, то вам на самом деле проще жить.

Тамара Шорникова: Александр, ты добропорядочный муж и отец. Ты не ходишь не теми улицами.

Александр Денисов: Ты уверена, Тамара.

Тамара Шорникова: Мне хочется верить в это. Есть люди, которые не хотят, чтобы кто-то видел их, например, на определенной улице, и имеют на это право. Давайте послушаем Олесю из Красноярского края, узнаем, что она думает по этому поводу.

Зритель: Здравствуйте. Вот эти крайности с контролями, с запретами. Давайте уже оставим все функции. МВД пусть свое контролирует. Но уже до такой степени… Мне скрывать нечего. Но я не хотела бы, чтобы мой каждый шаг контролировали, уже добрались до автобусов.

Александр Денисов: А вы думаете, что каждый ваш шаг будут контролировать? Почему?

Зритель: Потому что у нас одни крайности. Только какая-то идея – все, это уже будет я не знаю что. Потому что мне уже лет немало. Я понимаю, что из одной крайности в другую.

Александр Денисов: Олеся, а вам не кажется, что сотрудники оперативных служб просто с ума сойдут, если начнут следить за каждым вашим шагом?

Зритель: Нет. Понимаете, камер и так много установлено. Но уже и до транспорта добрались. Понимаете, уже боишься, уже думаешь – может, уже дома где камеры, может, уже раздетой нельзя ходить?

Тамара Шорникова: Хорошо, понятны опасения. Давайте от каких-то страхов, который кто-то считает надуманными, кто-то считает абсолютно реальными для себя, к действительным угрозам. Утечка информации. Потому что такое сейчас в современном мире – абсолютно не редкость. Крупные компании, соцсети, банки признаются в том, что данные их клиентов попали в открытый доступ. Где гарантии, что этого не произойдет?

Алексей Кадейшвили: Абсолютной гарантии, конечно, нету. Можно исходить из того, что те люди, которым будут принадлежать эти данные, они будут проявлять надлежащую осмотрительность, так чтобы не давать доступ к этим данным сторонним лицам. Потому что понятно, что если брать те же самые банки, они совершенно не заинтересованы в утечке этих данных. Понятно, что несчастный случай может случиться с каждым, в том числе и с банком. Будем надеяться на то, что постепенно улучшается опыт работы с данными. То есть по мере того, как случаются всякие разные неприятные истории, из них делаются выводы и принимаются меры, которые позволяют избежать подобных случаев, количество этих утечек со временем будет уменьшаться. Мы научимся аккуратно обращаться с данными.

Тамара Шорникова: Еще одно опасение, которое тоже часто высказывают эксперты – это то, что необходимость такого доступа к нашим данным сильно преувеличивается правоохранительными органами, другими структурами, потому что нам говорят о том, что «нам нужно читать сообщения в определенных случаях, чтобы бороться с терроризмом; нам нужно видеть ваши лица, где вы находитесь, что вы делаете, потому что, опять же, мы хотим лучше бороться с преступниками». При этом случаются такие трагедии, как в Керчи, например, которые невозможно предугадать и предотвратить. Часто говорят о том, что те же террористические акты очень сложно предугадать любыми способами. Действительно ли нужен такой доступ, если все-таки большую часть преступлений мы таким образом предотвратить не сможем? Или это лобби каких-то крупных компаний, которые хотят собирать наши данные, например, для того, чтобы использовать их в своих маркетинговых целях? Для примера.

Алексей Кадейшвили: Я не думаю, что это сейчас чье-то лобби. Потому что это еще эти компании нужно убедить, что это вообще для них полезно и этим можно пользоваться.

Тамара Шорникова: Многие из них уже сами этим занимаются. Они считают количество клиентов, которые пришли к ним в салон таким образом.

Алексей Кадейшвили: Я думаю, что им пока все-таки трудно пролоббировать установку за свой счет такой системы в метро. Это все-таки достаточно накладно. Что касается предотвращения всяких разных террористических актов и прочих вещей, тут нужно понимать следующее: все-таки терроризм – это не единственная проблема, с которой позволяют такого рода системы бороться. Ведь, например, сейчас ни у кого не возникает сомнений по поводу того, что имеет смысл устанавливать систему обычного видеонаблюдения. То есть все уже убедились в том, что они весьма полезны и позволяют очень большое количество проблем решать просто за счет того, что они есть.

По большому счету, ведь распознавание лиц – это просто следующий естественный шаг в развитии этого видеонаблюдения. То есть та же самая картинка, которая есть сейчас, и раньше вам приходилось искать лицо глазами, сейчас это за вас делает машина. Просто лучше и быстрее. То есть чего-то такого кардинально нового по сравнению с тем, что уже есть или к чему уже все привыкли, с чем смирились, в общем-то, эта система не делает.

Тамара Шорникова: Понятно. Мнение телезрителя давайте выслушаем. К нам дозвонился Андрей из Чебоксар. Андрей, здравствуйте.

Зритель: Добрый день.

Тамара Шорникова: Слушаем вас.

Зритель: Я против того, чтобы без моего личного согласия использовались мои личные данные.

Тамара Шорникова: Аргументируйте.

Зритель: Это неконституционно и запрещено на сегодняшний день законами.

Александр Денисов: Но мы же говорили, что без вашего согласия вас никто не сфотографирует, не сделает ваш цифровой портрет.

Зритель: Не государственным, а частным компаниям оперировать моими личными данными, я считаю, незаконно. По крайней мере, нужно провести референдум и спросить людей, хотят они этого или нет.

Александр Денисов: Андрей, если мы по каждому поводу будем проводить референдум, то мы из референдумов просто не выйдем никогда. Это будет бесконечно.

Зритель: Западные наши партнеры это делают регулярно. И нормально все у них.

Александр Денисов: Не уверен.

Тамара Шорникова: Давайте спросим тех, кто ближе. Альберт из Ростова-на-Дону также дозвонился и хочет высказать свое мнение.

Зритель: Здравствуйте. У меня есть вот какое мнение. Мне кажется, я даже уверен, что такой алгоритм, который в будущем планируется заложить по узнаванию настроения у людей, положительное настроение или он с утра идет злой, позволит в массе довольно много чего предотвратить. Потому что если у человека идет какой-то негатив с утра… я не говорю, что наряд милиции его должен остановить. Нет.

Александр Денисов: Остановить и поднять ему настроение. Проблема быстро решается.

Зритель: Даже элементарно для каких-то статистических данных… Я говорил, что в пятницу утром настроение у всей страны гораздо лучше, чем в понедельник утром.

Тамара Шорникова: Для этого не нужно устанавливать видеокамеры, чтобы понимать это. Спасибо вам. Как вы думаете, такое будущее насколько близко? Когда система будет не просто выдавать проценты, насколько человек похож на того или иного человека, а в каком он настроении, какое у него семейное положение и политические взгляды.

Алексей Кадейшвили: За политические взгляды не скажу. Я не очень представляю, как их можно прочитать по лицу человека. А что касается настроения, эмоций и прочих вещей, это вообще такой естественное направление развития технологий. Очень многие компании над этим работают. И совершенно понятно, для чего это будет использоваться. Сейчас же все идет в сторону автоматизации обслуживания. Мы все больше и больше начинаем взаимодействовать с какими-то автоматическими сервисами. Всякие автоматические киоски, которые что-то продают, и прочее. И, по большому счету, если в них вдохнуть еще частичку души, что они не просто будут выдавать, допустим, что мы захотели, а еще улыбаться нам, подмигивать или прочее, в зависимости от того, что делаем мы, то это, наверное, будет прикольнее.

Александр Денисов: То есть чуть больше понимать нас станут?

Алексей Кадейшвили: Конечно. Потом, сейчас появляются всевозможные персональные ассисты. Это всякие колонки, которые делают Амазон и Яндекс. То есть какие-то персональные помощники. Если этот персональный помощник сможет не только различать ваш голос и понимать ваши слова, но еще оценивать ваше настроение и вести себя в соответствии с вашим настроением, это, опять же, сделает его более качественным, вы больше будете этим пользоваться. То есть это направление, в котором развивается практически все, что связано с персональными сервисами.

Александр Денисов: Алексей, а нет опасений? Столько фильмов снято на эту тему. Опасение перед искусственным интеллектом. Чем больше мы туда вкладываем, тем велика опасность, что это как-то обратится против нас. Вот они уже наши эмоции будут различать, они нас будут понимать.

Алексей Кадейшвили: Это вообще вопрос такой сложный и философский. По большому счету, его нужно было задавать намного раньше, лет на 1000 назад, когда только начинался технологический прогресс. Потому что это естественное направление развития технологий. Никому еще не удалось это развитие остановить. Это такой естественный процесс, с которым бороться бессмысленно. Стараться сделать так, чтобы он приносил больше пользы, чем вреда – это в наших силах. Собственно, мне кажется, на этом надо сосредоточиться.

Александр Денисов: У Стивена Хокинга книга вышла недавно. Он предсказал, что велика опасность от искусственного интеллекта, что это обратится против нас.

Алексей Кадейшвили: Хорошо, что эта опасность уже задекларирована, она известна.

Александр Денисов: То есть мы знаем.

Алексей Кадейшвили: Мы знаем, что такая опасность возможна. Допустим, сделали машины – машины начали давить людей. Придумали правила дорожного движения – людей стали давить меньше. То же самое касается любой другой технологии.

Тамара Шорникова: Важный вопрос по СМС. Давайте зададим. «Есть ли какие-то примерные подсчеты, сколько это может стоить для, например, оборудования большого города?».

Алексей Кадейшвили: Это вопрос, на который невозможно ответить без конкретных цифр.

Александр Денисов: Сильно ли это разорит бюджет?

Тамара Шорникова: И кто сейчас готов в это вкладываться? Государство, или есть заинтересованные частные инвесторы?

Алексей Кадейшвили: Насколько я понимаю, у государства есть всевозможные программы обеспечения безопасности, в рамках которых уже выделено финансирование и в рамках которых уже строятся какие-то системы безопасности. Распознавание лиц – это одна из подсистем. Соответственно, финансирование в бюджетах под нее уже заложено.

Тамара Шорникова: И по качеству оценки картинки тоже много вопросов. Какой процент совпадения с какой-то определенной личностью дает программа? Насколько можно ей доверять? Насколько она точная?

Алексей Кадейшвили: Говорить о проценте можно, когда есть конкретное место, где установлена камера, конкретная база, с которой сравнивается. Все остальные цифры довольно условные будут. То, что можно сказать с уверенностью – это то, что на сегодняшний момент автоматические системы работают на порядок лучше, чем люди. То есть мы хорошо умеем распознавать только людей, хорошо нам знакомых.

Тамара Шорникова: То есть это примерно похож на того человека, или это на 99% тот человек – стоит вызывать оперативную группу?

Алексей Кадейшвили: Нет простого ответа на ваш вопрос, потому что ошибок на самом деле две. Есть ошибка ложного принятия, что мы человека приняли за не того, и ошибка ложного пропуска, что мы пропустили человека, который нам нужен. Они друг с другом связаны. Мы повышаем одну – понижаем другую. И это настройка, которая в наших руках. То есть в зависимости от того, что нам важнее – не пропустить человека или не набрать лишних людей – мы можем эту настройку двигать вправо или влево.

Я вам назову сейчас цифры. Может быть, они на что-то ответят. При ошибке ложного принятия где-то на уровне 10-5 ошибка ложного пропуска где-то меньше 10%.

Тамара Шорникова: Спасибо. Мы говорили о системе распознавания лиц с Алексеем Кадейшвили, техническим директором компании «Vocord». Спасибо вам.


Подписаться на ОТР в Яндекс Дзене

О системе распознавания лиц

Комментарии

  • Все выпуски
  • Полные выпуски
  • Яркие фрагменты
  • Интервью
  • Сюжеты