Тамара Шорникова: Сотовые операторы начали подключать к борьбе с телефонными мошенниками искусственный интеллект. Система определит преступника, внимание, в процессе разговора, вклинится в него (ну, это пока то, что мы читаем в открытых источниках) и предупредит потенциальную жертву об опасности. Сразу много вопросов возникает, я думаю, зададим их экспертам. Виталий Млечин: Много. Тамара Шорникова: Роман Душкин, директор по науке и технологиям «Агентства Искусственного Интеллекта». Виталий Млечин: Здравствуйте. Роман Душкин: Здравствуйте. Виталий Млечин: Вы можете себе такое представить? То есть технологии уже сейчас достаточно совершенные для того, чтобы, скажем, во время разговора с мошенником, собственно, возник еще какой-то третий голос в ухе и предупредил: «Ты разговариваешь с мошенником, закончи этот разговор»? Роман Душкин: Ну, здесь довольно интересный вопрос возникает, на чьей стороне будет находиться вот этот третий голос. Если он будет находиться в моем телефоне, то это, в общем-то, гарантия того, что меня не прослушают, так скажем. А если он находится где-то на стороне оператора, то по точно такой же технологии может сливаться, так скажем, мой разговор на сторону и т. д. То есть как только появилась вот эта новость о том, что операторы подключаются к борьбе, у меня сразу возникли вопросы вот именно к этому, каким образом они будут слушать мой разговор с кем бы то ни было, будь то мошенник или нет. Но если они как бы захотят поставить приложение на мой смартфон, на мой телефон, то это другое дело. Но тут возникает другой вопрос: как быть с людьми, у которых старые кнопочные телефоны, поскольку они не умеют пользоваться новыми телефонами? И в общем-то, пересечение множеств людей, у которых кнопочные телефоны, и тех, кто подвержен мошенничеству со стороны вот этих телефонных мошенников, оно очень высокое. То есть мошенники нацелены как раз на людей, которые с технологиями не очень дружат. И вот здесь сложно понять, чего, в общем-то, хотят операторы, чего они делают. Тамара Шорникова: Я в начале, анонсируя, сказала, что небольшую ответственность хотят снять, – да нет, большую. То есть раньше в принципе было достаточно предупреждения «Не разговаривайте с незнакомцами», еще классики писали, а сейчас вот какой-то искусственный интеллект должен внедряться в разговор, слушать, а с теми мы разговариваем или не с теми... Мы зачем так себе сами жизнь портим, мы, человечество? Роман Душкин: Ну, я не сказал бы, что это мы себе жизнь портим. Вот конкретно в этом случае я вижу попытку стрельбы по воробьям из пушек. Технологии искусственного интеллекта, особенно вот подобного рода высокоуровневые когнитивные технологии, которые понимают смысл фраз, которые говорит человек, они дорогие. Это не просто написать программу, это большое количество электричества, сожженного на обучение таких систем, это недешевые технологии. А задача решается намного более простыми вещами. Поставьте... Ну, опять же тут проблема с кнопочными телефонами. Но если человек пользуется нормальным смартфоном любого производителя, можно поставить программы, которые ведут базы телефонных номеров. Да, сейчас операторы говорят, что это не решение, – да нет, это решение, потому что в эти базы пишет все сообщество, которое пользуется телефонами. И вот после того, как я поставил подобную программу, количество телефонных звонков от мошенников у меня снизилось до нуля. Почему? Потому что все эти системы фиксируют телефонные звонки, номера телефонных звонков, с которых звонят мошенники, при помощи того, что пользователи, сами абоненты сообщают, что вот с этого телефон позвонил мошенник, – все, телефон занесен в черный список сразу же. И как только мы с этого же телефона, другому абоненту, звонят, эта программа высвечивает мне номер телефона красным цветом, я сразу вижу, пишет «Спам», или «Мошенник», или еще что-то. Городить здесь какую-то систему искусственного интеллекта глупо. Тамара Шорникова: Да. Роман, я продолжу все-таки свою мысль. Почему сами себе жизнь портим? Потому что все меньше хотим думать, работать, все больше хотим передоверить машинам, соответственно, глупеем местами немножко. И во-вторых, потом и спросить будет не с кого, мол, мы сами допустили, чтобы для нашей безопасности, например, слушали наши разговоры. Почитав немного, как это будет работать, там будут ориентироваться эти системы на так называемый скрипт, то есть на какие-то базовые сценарии, которые могут проговаривать мошенники, какие-то ключевые слова, которые прозвучат в разговоре, и это будет такой меткой, что это разговор с мошенником, соответственно, дальше может быть какая-то несанкционированная операция банковская. Но есть вот уточнение от одной из компаний: «Система контроля звонков в онлайн не будет работать в личных беседах клиента», – а как тогда определить, где личная беседа, где мошенническая? Все-таки нас будут слушать или нет повсеместно все? Роман Душкин: Услышав вот эту ремарку, что в личных беседах не будет работать, тогда я вообще не понимаю, о чем речь, честно. Тамара Шорникова: Да, как и многие, я думаю, сейчас. Вот попробуем вместе с телезрителям разобраться. Евгения? Виталий Млечин: Здравствуйте, Евгения из Екатеринбурга. Мы слушаем вас. Зритель: Да, здравствуйте. Виталий Млечин: Говорите, пожалуйста, вы в эфире. Зритель: Я хотела бы сказать, что вот этот интеллект, который хотят внедрить, он в принципе уже работает. У нас же точно так же вот эти маяковые словечки работают для борьбы с терроризмом. Поэтому я вот не против, предположим, если меня будут прослушивать, мне скрывать в принципе нечего. Но вот эти маячки, слова, которые будут системой телефонизации ловиться, они оградят пенсионеров в первую очередь, а их сейчас очень много и они сами не могут контролировать, обманывают их или не обманывают. Виталий Млечин: А почему, почему они сами не могут контролировать? Ведь достаточно дать себе установку, например, не называть пароль из SMS или еще что-то. Почему не получается все равно? Зритель: Ну потому что эти люди воспитаны совсем в другое время, они привыкли всему доверять. Если человек позвонил из банка, как она может сомневаться в том, что этот человек из банка? Это уже изначально, сразу идет работа именно на том, что человека ловят: «Мы позвонили вам из банка, служба безопасности», – ой-ой-ой, все, у пенсионера, значит, страх и т. д., и т. д. Поэтому они начинают уже не слова контролировать, а они стараются все сделать правильно, ответить, чтобы их не наказали, не заблокировали. Поэтому так, наверное. Лучше пусть это будет делать другой. Виталий Млечин: Да, спасибо большое. Вопрос доверия, конечно, очень важен, видимо, мы действительно слишком доверчивые. Но что касается борьбы с терроризмом, ведь действительно, наша телезрительница права, уже достаточно давно это функционирует. Если я правильно понимаю, то там все-таки речь идет именно о записи и последующем анализе того, что было сказано, а вот для того, чтобы вот эта система работала и искусственным интеллектом, там нужно, что называется, на лету все анализировать, выдавать предупреждения. Роман Душкин: Да, все верно. Я думаю, Евгения имела в виду систему СОРМ, которая действительно работает. Она работает... Я вот не являюсь специалистом и не готов на эту тему сейчас рассуждать, но, скорее всего, вы правы, она работает по записям, то есть если нужно провести оперативно-розыскные мероприятия, то поднимаются записи и слушаются, осуществляется поиск там. Это мое предположение, я не знаю. Что касается вашего вопроса, то да, если мы хотим ограждать, действительно, опять же правильные слова прозвучали, пенсионеров в первую очередь, которые действительно волнуются за свои сбережения... У меня, конечно, другое мнение насчет воспитания и того, почему они так доверчивы, но ладно, не будем его озвучивать. Но тем не менее, да, есть такой феномен, они очень доверчивы. И здесь, конечно же, надо систему, которая действует онлайн, на лету, слушать телефонный разговор и отражать вот эту атаку мошенника прямо на лету. Но опять же, вот те слова, которые я услышал по поводу ключевых слов, которые система слушает и т. д., – это смешно. Если мы, опять же повторю вот это слово, городим систему искусственного интеллекта, которая дорогая, которую нужно обучать и т. д. и которая изначально, как сама вот технология искусственного интеллекта, заточена на то, чтобы понимать смысл обращенных к ней фраз, смысл естественного языка, это значит, что ключевые слова искать в потоке разговора бессмысленно. Любой мошенник через несколько дней работы этой системы переопределит скрипты и будет работать по другим скриптам, и всю систему придется переобучать заново, а это тратить огромные деньги, которые еще неизвестно, меньше тех денег, которые мошенники украдут, или нет. То есть если смотреть на совокупный экономический эффект, мне кажется, вот это очень такая странная затея. Виталий Млечин: Ясно. Спасибо вам большое. Тамара Шорникова: Спасибо. Виталий Млечин: Роман Душкин, директор по науке и технологиям «Агентства Искусственного Интеллекта». Сейчас поговорим с нашей телезрительницей из Москвы. Мария, здравствуйте, вы в эфире. Зритель: Добрый день, всем здравствуйте, всем доброго времени суток. Хотела бы внести свою лепту в этот разговор... Виталий Млечин: Давайте. Зритель: Очень считаю это необходимым всем знать. Вот, допустим, мне звонили дважды, первый раз представились сотрудниками МВД. Но, вы знаете, у меня сын служит в полиции старший, у меня четверо детей, и детишки уже, слава богу, выросли и прекрасно себя чувствуют и работают, вот. И мне сын сказал, что всегда представляются, конечно, звание говорят. То есть когда мне сказали, что звонят из МВД, я уже напряглась оттого, что сказали просто имя, фамилию, дальше начали очень такой неприятный разговор, который действует на психику. Но я вовремя осекла и поняла, что что-то тут не так, вот. А второй раз мне звонили якобы приставы, это были уже мужчины, было слышно, что говорят как будто бы из какого-то социологического такого места, где очень много звонков, много звуков. То есть я тоже поняла, что это провокация, и также обрезала разговор и повесила трубку. Но это только потому, что у меня сын в полиции служит, он меня как бы предупредил, он информировал, каким образом нужно действовать и реагировать. Я думаю, что другим если бы позвонили, они бы могли поверить в ту информацию, которую говорят, потому что они уже умеют психологически давить, и это очень неприятно, поверьте. Так что лично мое мнение, что необходимо ставить какую-то программу или какую-то информацию действительно ключевую, которая бы сразу блокировала и реагировала. Как я понимаю, телефоны, с которых они звонят, они как бы одноразовые, то есть они, видимо, находятся не в России, а где-то в других местах бывшего зарубежья, и, безусловно, за счет этого невозможно отследить звонок, вот. Поэтому если мы сами себя не можем обезопасить и даже не всегда можем реагировать на такие моменты, то, конечно, необходима какая-то программа, которая бы позволяла нам обезопаситься и нашим детям, и нашим взрослым... Тамара Шорникова: Да, Мария, спасибо вам за ваш звонок. Виталий Млечин: Спасибо большое. Тамара Шорникова: И спасибо за то, что рассказали, поделились, как, собственно, вычислить мошенников в погонах в частности. Виталий Млечин: Ну, надо сказать, что мне тоже звонили как-то якобы из Следственного комитета, и это было совсем не приятно. Одно дело, когда тебе звонят все-таки и представляются из банка или хотя бы из службы безопасности, но банка, а когда речь идет о... Тамара Шорникова: Ага. А в чем обвиняли или о чем предупреждали? Виталий Млечин: А я даже слушать не стал, честно говоря, когда я понял, что речь идет о том, что у меня якобы пытались похитить деньги или еще что-то, я просто прервал этот разговор. Но, конечно, в первую секунду было... Тамара Шорникова: ...замешательство. Виталий Млечин: ...весьма тревожно, да, потому что из Следственного комитета не звонят каждый день, на этом, конечно, мошенники, естественно, и играют. Тамара Шорникова: Давайте подключим еще одного эксперта, он расскажет, о чем не нужно разговаривать, с кем не нужно разговаривать. У нас на связи главный аналитик Российской ассоциации электронных коммуникаций... Виталий Млечин: ...Карен Казарян. Здравствуйте. Карен Казарян: Здравствуйте. Виталий Млечин: Как вы относитесь к идее искусственному интеллекту доверить нашу защиту от мошенников? Насколько она технически реализуема и насколько она вообще своевременная и правильная сейчас? Карен Казарян: Ну, это, конечно, не панацея, но я думаю, что вполне может помочь. Дело в том, что на стороне операторов связи и банков работают так называемые антифрод-системы. В них уже достаточно давно определенные технологии искусственного интеллекта внедряются. То есть они анализируют тот трафик, который проходит через голосовые сети, по определенным признакам. Мошенники чаще всего пользуются сервисами, так называемыми «кол-центрами» подпольными, фактически эти звонки передаются через интернет, это даже не поддельные симки. Поэтому по крайней мере подозрительный трафик можно таким образом размечать. Дальше уже можно смотреть, будет ли, например, как вот сейчас тот же «Тинькофф», новости, у него есть сервис, где за вас как бы отвечает искусственный интеллект, и по первым нескольким предложениям, которые скажет мошенник, может в принципе понять... Даже если это не мошеннический звонок, то как минимум это, например, нежелательный маркетинг. Панацеей это все не является, поскольку все равно точно установить источник звонка бывает достаточно сложно. Для этого необходимо очень масштабное перестраивание вообще сетей голосовой связи, как они сейчас работают. Тамара Шорникова: А что было бы выходом? Есть ли он однозначный, на ваш взгляд? Карен Казарян: М-м-м... В США уже достаточно долгое время обсуждается такая технология, как криптографическое подписывание звонка. То есть, грубо говоря, если кто-то знаком с такой вещью, как сертификат безопасности, например на сайте, когда вы там нажимаете, у вас там замочек, вы можете сопоставить владельца сайта с его, собственно говоря, сайтом. В телефонных звонках возможно сделать такую же схему, но это требует очень серьезных затрат на перестройку сетей связи. Виталий Млечин: А может быть, пойти немножко с другой стороны? Вот эти мошенники, которые звонят, они же не то, что называется «холодными звонками», правильно? Они называют имя всегда, они знают, в каком банке счет у того или иного человека, эта же информация к ним как-то попадает. Вот, может быть, стоит эту информацию как-то получше защищать, и тогда проблема отпадет сама собой? Карен Казарян: Да, я был бы рад, если бы все было так просто. К сожалению, утечки персональных данных в России случаются с очень большой регулярностью, утечки причем как с коммерческих систем, так и с государственных. И проблема тут основная – это зачастую не столько меры безопасности, которые принимают, сколько человеческий фактор, сотрудники просто продают эти базы несмотря на наличие уголовной ответственности. Эта проблема очень сложная и комплексная. Этим тоже, безусловно, должны заниматься, но единым решением тут, наверное, ничего не побороть. Виталий Млечин: Ну а получается, что не пугает вот эта уголовная ответственность, потому что так много денег платят, что не страшно за такую сумму сесть в тюрьму... Карен Казарян: Да, да. Виталий Млечин: ...или потому, что не наказывают за это все-таки? Карен Казарян: Ну нет, если мы посмотрим на сообщения новостей, в год, я думаю, несколько десятков уголовных дел открывается против сотрудников как банковских учреждений, так порой и против, например, работников полиции, которые сливают данные. Во-первых, все равно всех их надо искать, а во-вторых, да, для многих, к сожалению, в России даже угроза уголовного преследования, каких-то там нескольких лет в тюрьме не является достаточным основанием, для того чтобы отказаться, например, не знаю, от 500 тысяч рублей, 1 миллиона рублей. Тамара Шорникова: И да, еще один... Карен Казарян: Люди так дешево оценивают свою свободу. Тамара Шорникова: Еще один вопрос по поводу как раз идентификации. Вы говорите, что жесткая идентификация звонков. Но как раз мошенники, как правило, звонят с каких-то одноразовых симок, естественно, не прикрепленных ни к какому паспорту и т. д. Как эту проблему решать? Может быть, ужесточить как раз продажу все-таки SIM-карт? Карен Казарян: Смотрите, не идентификация как бы звонящего, это немножко другое. Мошенники, как правило, подделывают номера. У них существуют поддельные кол-центры, в тюрьмах они, они заводят звонки через интернет, подделывают исходящий номер и по уже сетям голосовой связи направляют звонок на свою жертву. Как я говорил, если мы знаем, из какого источника точно звонок, если у него есть этот ключ безопасности и он может его предъявить и сверить криптографическими методами, тогда мы точно знаем, что этот абонент доверенный. Если он этого сделать не может, соответственно, он сразу, как, например, спамеры в электронной почте, убирается за территорию, скажем так, безопасную и рассматривается как потенциально вредоносный. Виталий Млечин: Ага. А вот, знаете, пришла очень интересная мысль из Ростовской области: «А не легче было бы давать один-единственный номер телефона при рождении человека, например как номер ИНН и т. д.? Менять оператора сотовой сети можно, а вот номер нет, и тогда всем будет хорошо». Как вам такая идея? Карен Казарян: Это никак не отменяет подделки номера. В некотором смысле даже будет легче, вы можете подделать номер конкретного человека, точно зная, какой номер вам надо подделать. Виталий Млечин: Так а если запретить это? То есть сейчас есть возможность пойти и купить SIM-карту. Карен Казарян: А оно и сейчас запрещено, это никак не отменяет того, что это можно сделать. Виталий Млечин: Сейчас номера продаются, то есть можно пойти к оператору сотовой связи и купить себе новую SIM-карту с новым номером. Если это станет невозможно, то есть номера как-то будут фиксироваться... ? Карен Казарян: ...то ничего не помешает установить вам специальное программное обеспечение на компьютере, поставить туда любой номер, который вы хотите, и позвонить с этого любого номера. Для абонента это будет выглядеть ровно так. Виталий Млечин: Понятно. Так, нет, этот вариант не проходит, к сожалению, уважаемые зрители. Тамара Шорникова: Ха-ха. Виталий Млечин: Но спасибо большое, что написали, идея интересная по крайней мере. Тамара Шорникова: Да, сообщения уже от информагентств, от коллег, не от телезрителей. Еще, по-моему, в начале года сообщали, что в 11 раз за 5 лет выросло число киберпреступлений в России, ну там какая-то чудовищная скорость развития, у нас уже, по-моему, каждое четвертое преступление совершается по телефону или через интернет, соответственно, раскрывается 0,0% и т. д. Что мы с этим бешеным накатом все-таки можем сделать помимо каких-то там идентификаций? Может быть, перестройка и создание отдельных сегментов в правоохранительных органах? Ну очевидно, что нужно как-то мобилизовывать силы против такой серьезной угрозы. Карен Казарян: Ну, вещи, которые можно основные сделать, – это две. Да, действительно, в правоохранительных органах не хватает специалистов, которые бы занимались подобными преступлениями, исторически не хватало и всегда, наверное, будет не хватать по причине в том числе низких зарплат, к сожалению, поскольку специалисты, обладающие такими знаниями, скорее пойдут работать в частный бизнес, чем в правоохранительные органы. А во-вторых, повышать медиаграмотность населения, учить их распознавать мошенничество в интернете. Без этого, видимо, никак, как «Основы безопасности жизнедеятельности». Тамара Шорникова: Мы это делаем. А вот сейчас вот такое просвещение актуально в эпоху дипфейков, когда можно к любой картинке подставить чужое лицо, подделать любой голос и т. д.? Карен Казарян: Безусловно актуально, поскольку, как бы у нас ни развивались дальше технологии, все равно натренированный глаз довольно легко различает подобные вещи, если вы знаете, что искать. Если вы не знаете, что искать, если вы не знаете, что такое вообще возможно, то вы будете доверять, конечно, такому. Виталий Млечин: Спасибо вам большое. Тамара Шорникова: Поэтому продолжаем свою работу. Виталий Млечин: Да. Карен Казарян, главный аналитик Российской ассоциации электронных коммуникаций, был с нами на прямой связи. Ну, честно говоря, мне кажется, что самое главное, что нужно вынести из этой беседы, – доверять можно только себе, и наш собственный интеллект, наше желание защитить... Тамара Шорникова: А мне, Виталий? Виталий Млечин: Тебе само собой.