Денис Терехов: Если бы судам и правоохранителям велели думать, не было бы все этих дел за репосты

Гости
Денис Терехов
генеральный директор агентства «Социальные сети»

Александр Денисов: Мы сейчас поговорим о системе мониторинга экстремизма в интернете, о нашем сетевом патруле. Много недовольных тем, что эта система чрезмерно строгая, мол, за неосторожное высказывание, публикацию чужого высказывания (так называемый репост) можно попасть под статью. С другой стороны, возьмем недавний пример из США. Там напавший на синагогу американец почти год публиковал нацистские лозунги, угрозы («мол, я иду»), но и осуществил. На его заявления никто не обращал внимания. Может быть, лучше иметь свою строгую систему мониторинга, чем такую либеральную.

Оксана Галькевич: А, может быть, опять мы как всегда попытаемся найти какую-то золотую середину. Друзья, присоединяйтесь, пожалуйста, к обсуждению этой темы. Вы можете нам звонить, писать, мы в прямом эфире. Телефоны для связи с нами указаны на ваших экранах. Все это совершенно бесплатно. А мы представим нашего гостя. В студии программы «Отражение» сегодня Денис Терехов, генеральный директор агентства «Социальные сети». Денис, здравствуйте.

Денис Терехов: Добрый день.

Оксана Галькевич: Который раз мы с вами собираемся, обсуждаем эти сложности.

Денис Терехов: Видимо, все остальные эксперты просто боятся, что они что-нибудь не то скажут и их тоже потащат в кутузку, как всех этих несчастных.

Оксана Галькевич: Смотрите, две такие действительно крайние ситуации. С одной стороны, человек в Штатах целый год пишет о том, что вот он намерен взять автомат и пойти совершить безобразие, погубить людей. Никто на это не обращает внимания. С другой стороны, каких-нибудь котиков с нимбами кто-нибудь перепостит или что-нибудь еще, я уж даже не знаю, описательно, очень аккуратно пытаюсь высказываться, и их берут тут же и возбуждают уголовное дело. Как быть в этом мире бушующем? Где золотая середина?

Денис Терехов: Мне просто кажется, что нужно людей хватать тогда, когда они взяли автоматы и идут кого-то убивать. Извините за цинизм.

Оксана Галькевич: А если он пишет, простите?

Денис Терехов: А если сейчас я скажу: «Ой, вы меня так уморили. Просто я умру со смеху». Вот вас должны будут за доведение до самоубийства судить? Ведь, понимаете, я просто кейс конкретный привел. Есть эта грань. И, мне кажется, конечно, надо читать, что люди пишут. Но очень часто есть люди психически нездоровые, люди излишне экспрессивные. Некоторые в свое время, когда еще был Живой Журнал в стародавние времени, они вели его как буквально литературный такой дневник и там писали какие-то вымышленные события. Я, например, часто в Фейсбуке описываю какие-то события, потом пишу «а потом проснулся». Половина из них, конечно, вообще придуманы. Но там страшные вещи. Мне Путин однажды приснился.

Оксана Галькевич: Он может и к деньгам присниться, кстати. Или к чему-то хорошему. Не всегда это пугающее событие.

Денис Терехов: Наверное, да. Конечно, надо просто голову включать, а потом решать, тащить человека в тюрьму…

Оксана Галькевич: Главное, чтобы вас правильно поняли.

Денис Терехов: Я ровно об этом. Потому что очевидно, что те многочисленные кейсы, которые вы разбирали в том числе в этой студии, с девушками в Барнауле, которые что-то перепостили, а потом выяснилось, что они чьи-то чувства оскорбили, там, очевидно, скорее всего речь шла действительно о попытке правоохранителей статистику улучшить за счет этих девушек.

А вот тут, если говорить об этой американской истории, наверное, конечно, недосмотрели. Еще раз повторюсь. Мне кажется, что каждая история в интернете заслуживает отдельного внимания. И подобных случаев, когда человек очень долго писал что-то такое неподобающее и на это не обращали внимание, это, скорее, исключение. Понятно, что когда речь идет о сотнях миллионов пользователей интернета, как в случае с США или десятках миллионов пользователей в случае с Россией, конечно, за каждым не уследишь, конечно, такие перегибы могут случаться.

Александр Денисов: У нас бы он скорее всего попал под подозрение, такой товарищ.

Денис Терехов: Он же там не оскорблял, скорее всего, действующую религию какую-нибудь.

Александр Денисов: Оскорблял, оскорблял. Он нацию конкретно оскорблял.

Денис Терехов: Есть большая сложность с поиском чего бы то ни было в интернете. Ведь на самом деле интернет, социальные сети – это такой мир эпохи Птолемея. Вы видите его ровно настолько, насколько видите всех своих друзей. То есть, опять же, вы видите его настолько, насколько поисковая машина вам его отдает. Если по какой-то причине он пишет это на каком-то неизвестном форуме и этот неизвестный форум мониторится абстрактным Яндексом как-то не очень хорошо и не очень быстро, то, скорее всего, вы просто об этом не узнаете. Об этом будут знать 100 пользователей этого форума.

Александр Денисов: Денис, объясните, как в принципе этот сетевой патруль работает. У них что там, какая-то программа, которая чехвостит социальные сети…

Денис Терехов: Что такое сетевой патруль, простите?

Александр Денисов: Условно – наша система мониторинга экстремизма.

Денис Терехов: Какая система мониторинга экстремизма?

Александр Денисов: Оперативники, которые ищут экстремистов по социальным сетям. Может быть, есть какая-то программа. Объясните, как это работает.

Денис Терехов: Никакой программы нет.

Оксана Галькевич: Есть живые люди-оперативники, которые сидят, и что, в ручном режиме это все?

Денис Терехов: Как я привел пример с миром эпохи Птолемея, так примерно это и происходит. То есть «Сколько у нас там еще нераскрытых дел по экстремизму?». И все, как в анекдоте, начинают искать не там, где потеряли, а там, где светло. Потому что настоящего экстремиста ты поди еще найди. Он же там где-нибудь сидит на закрытых фашистских форумах.

Вы помните, несколько лет назад была вся эта истерия вокруг детской порнографии? И я в эфире одной телекомпании сказал: «Готов подарить iPad тому, кто с помощью Яндекса пришлет мне ссылку на детскую порнографию». Все эти ужасные детские порнографы скрываются на каких-то таинственных форумах, переписываются какими-то кодами. Обычный добропорядочный гражданин, который в Яндексе ищет, как бы ему что-нибудь почитать или посмотреть, он в жизни эту порнографию не найдет. То же самое, я думаю, с экстремизмом. Поэтому нет никакой единой системы.

Александр Денисов: То есть у нас эта система отсутствует?

Денис Терехов: Я могу вам довольно авторитетно на эту тему заявлять, потому что мы для целого ряда коммерческих брендов занимаемся поиском информации, связанной с их жалобами или отзывами об их работе. Вот у нас есть собственная система мониторинга, которую мы написали. Частично это руками делается, частично это автоматически делается. Таких систем несколько. Долгое время Яндекс был единственной лучшей системой. Но после того, как блоги начали приравнивать к СМИ, вначале они перестали индексировать «Живой журнал» всех, кто больше 3000 подписчиков. А потом они вообще поняли, что для них это не бизнес, стали как-то очень вяло индексировать поисковую выдачу.

То есть как бог на душу положил, так все и мониторят. Как это делают в МВД, я понятия не имею, но что-то мне подсказывает, что это делается в полуручном режиме.

Оксана Галькевич: Система развода… от псевдосотрудников, может приходить такая информация.

Денис Терехов: Слушайте, я вам приведу самый простой пример. Последняя история была смешная. В магазине одной сети стояла такая картонная фигура Ольги Бузовой. Ее оттуда украли. И пришел представитель этой сети и написал: «Слава богу, что вы ее украли». Выяснилось, что человек просто шутил. Это не представитель этой сети, а просто человек поставил на аватар логотип этой сети и так шутил, представляясь представителем этой сети. Понимаете?

В интернете кто угодно может быть кем угодно. Поэтому, знаете, когда вам звонят по мобильному телефону, говорят: «Здравствуйте, это из милиции». А ну-ка что-то скажите. Ну-ка приезжайте. Вы что, соберетесь и поедете, что ли? Нет, конечно. Есть процедура. Поэтому когда вам кто-то что-то пишет, когда кто-то что-то вот так мониторит, совершенно неочевидно, что это от правоохранителей. Это могут быть просто такие глупые шутники.

Александр Денисов: Слушайте, вспомним роман Солженицына «В круге первом». Там ученые в шарашке как раз занимались созданием системы, которая по кодовому слову «ядерная бомба» или еще что-то… тут же включались магнитофоны, записывались, и потом они определяли, кто куда звонил и о чем говорил. Система реально существовала.

Денис Терехов: Когда я написал в социальной сети «Вот-то Путин молодец», я его похвалил или поругал?

Александр Денисов: Сейчас неужели не существует такой программы, которая чехвостит все социальные сети на предмет таких переговоров, групп, публикаций?

Денис Терехов: Боюсь, что она существует только в воспаленном сознании некоторых наших законодателей и некоторых наших правоохранителей. Я вам объясню. По одной простой причине. Прочитать весь интернет не существует большой проблемы.

Александр Денисов: А программу написать сложно?

Денис Терехов: Что вы потом будете со всей этой информацией делать? Как вы поймете, это сарказм или не сарказм, как вообще соотнесете живого человека, конкретного Ивана Ивановича Иванова, с этим аккаунтом? Здесь есть очень много нюансов. Вы знаете, всегда проще найти каких-нибудь таких несчастных девушек, которые по глупости или не по глупости что-то репостит.

Александр Денисов: Оставим в стороне сарказм. Речь идет о конкретных вещах. Об экстремизма, нацистских лозунгах и так далее. Их легко отличить от сарказма. Это все понятно. Вот это можно поручить программе. Она сразу поймет по словам «нацизм», еще что-то…

Денис Терехов: Вы до этого обсуждали тему с таксистами, которые, безусловно, являются луддитами, которые хотят, чтобы все было по-старому. Я в этом смысле тоже такой интернет-луддит. Я тоже считаю, что пока искусственный интеллект не способен все это делать сколько-нибудь системно. Понимаете, если хотя бы на 20% или 30% система может давать неточную оценку, то получается, что вам приходится за нее перепроверять все. Вам в любом случае придется все перепроверить. А вдруг она что-то посчитает сарказмом и отбросит это. А на самом деле это будет серьезный экстремизм. Это к разговору… «Иван Иванович молодец» - это сарказм или это серьезно? Если это касается какого-то коммерческого бренда, касается отзывов о работе магазина, это одна история. И здесь есть право на ошибку. А когда мы поручим роботу решать, экстремист ты или не экстремист, ну, вы знаете, здесь права на ошибку быть не может. Поэтому пока я не верю в то, что это можно делать автоматически.

Александр Денисов: Хорошо. Как нам быть в такой ситуации? Как нам отлавливать потенциальных преступников?

Денис Терехов: Сейчас я начну сам себе противоречить. Нужно организовывать народный контроль.

Александр Денисов: Как?

Денис Терехов: Вы заметили, что в этой ветке дискуссии какой-то человек очевидно призывает к фашизму. Я думаю, что вашего интеллектуального уровня будет достаточно, чтобы это понять.

Оксана Галькевич: Это называется…

Денис Терехов: Народный стукач. А я не вижу в этом ничего плохого, как бы это страшно ни звучало.

Александр Денисов: Если это предотвратит преступление, то почему нет?

Денис Терехов: Я приведу пример. Я разместил фотографию, где мой ребенок протягивал мне бокал с белой жидкостью. Кому-то показалось, что там может быть водка. Мне сказали: «Как вы смеете? Надо в прокуратуру заявить». Я подумал: «Действительно, возможно, для кого-то эта трактовка может быть такой. Наверное, не стоит какие-то провокационные фото размещать. Наверное, следует думать, что ты делаешь». Я просто по себе это знаю. Поэтому я думаю, что лучше в данном случае перебдить, чем недобдить. Другое дело, что порой это принимает какие-то ужасные формы. Люди начинают сводить счеты друг с другом, начинают шантажировать: «Ой, я сейчас на тебя настучу куда следует за то, что что-то не то написал». Но я полагаю, что невидимая рука рынка и невидимая рука интернета все отрегулирует. Рано или поздно все это придет к какому-то разумному знаменателю.

Оксана Галькевич: У нас есть невидимая рука прямого эфира. Иван из Екатеринбурга хочет высказаться. Иван, слушаем вас внимательно.

Зритель: Здравствуйте. Слушайте, у меня такой вопрос уже очень давно назрел. Как нам говорит государство, на закон Яровой было потрачено несколько миллиардов рублей из бюджета. Для себя лично я увидел такую вещь… Иногда контент 6+ или 8+, видеоигры различные просто попали под блокировку Роскомнадзора. В свою очередь дальше я вижу такое продолжение этой истории, что эти сайты с легкодоступными наркотическими средствами и всем остальным – они как работали, так и продолжают работать. У меня такой вопрос. Когда-нибудь заработает вообще эта система, то, что нам говорят – будут следить за нами, нас пугать все время. У меня такой лично вопрос.

Оксана Галькевич: Понятно, Иван. А правда, действительно.

Александр Денисов: Логично. Они ж сколько…

Денис Терехов: Что-то тут Иван все подряд собрал.

Александр Денисов: Он имеет в виду – кто будет перелопачивать эти терабайты информации? Это все хранится, а как это фильтровать?

Денис Терехов: Закон Яровой о борьбе с терроризмом. А молодой человек возмущает тем, что есть какие-то сайты с легкодоступными наркотиками. Я полагаю, что он вообще сейчас говорит о так называемом Даркнете или каком-нибудь Tor. Вот там есть сайты с легкодоступными наркотиками.

А детская порнография или еще непристойные видео есть и в Яндексе. В Яндекс.Видео попробуйте набрать что-нибудь, не будем сейчас в эфире говорить – вам вывалится много всякого интересного. А закон Яровой касается другого, если я правильно понимаю, хотя он мне тоже кажется странным. Он касается того, что в случае чего можно было бы все разговоры и весь траффик проанализировать и что-то там найти. Это не имеет никакого отношения к наркотикам напрямую. Но, пытаясь ответить на вопрос Ивана, я думаю, что это будет бессмысленно складироваться на серверах до тех пор, пока не надоест.

По-моему, никогда не было никакой проблемы прочитать какой-то траффик. По-моему, всегда и сотовые операторы, и социальные сети шли навстречу, и даже не решением суда, а просто заявлением следователей. По-моему, никогда такой проблемы не было. Не знаю, зачем нужно было придумывать какой-то специальный закон, который заставляет покупать какие-то безумные серверные мощности.

Оксана Галькевич: Вы знаете, может быть, логичная мысль Ивана была в том, что…

Денис Терехов: И что Телеграм упирался и продолжает упираться, и все им пользуются, только траффик вырос. И что случилось? Как закон Яровой победил Телеграм?

Оксана Галькевич: Вы знаете, мысль Ивана может быть логичной в той части, что мы тратим огромные деньги на принятие этого закона Яровой, на то, чтобы он работал и для поимки экстремистов, для борьбы с такими элементами, а в то же время реальный, опасный для жизни экстремизм наших людей в нашей стране, как все эти наркотики в доступе и все прочее безобразие, он существует. Ровно так же этот закон проходит мимо. Он не для того, оказывается, создавался. А вот эти все крокодилы, вся эта дрянь, вся эта дурь…

Денис Терехов: Вы поймите, всю эту дрянь и дурь мы никаким законом Яровой не победим. Мы победим его только народным контролем, потому что невозможно нанять милиционеров такое же количество, как и пользователей социальной сети. Только если мы с вами будем видеть, что творится что-то непотребное и будем об этом непотребном сообщать, в первую очередь администрация этой сети… Я думаю, что администрация сети куда больше милиционеров заинтересована в очистке своих сетей и своих площадок от подобного неподобающего контента.

Оксана Галькевич: Нам говорят, что нам такой контролер сейчас звонит из Москвы. Его зовут Леонид. Давайте побеседуем. Леонид, добрый день.

Зритель: Добрый день. Контролер, не контролер. Просто сотни тысяч людей натыкаются, выходя в интернет, не специфически что-то, а просто попадаются и откровенно антисемитские сайты, и шовинистические. Любого рода экстремистского проявления. И наркотики, и любая гадость. И в принципе этим должны были бы заниматься (они просто ничего не делают) правоохранительные органы. Если обратишься, этим никто не будет заниматься. То есть громадное количество полицейских, ответственных за то, чтобы заниматься исполнительной властью, исполнением существующих законов, не делают ни черта. Конечно, общественный контроль нужен. Для этого нужны сайты и порталы, открытые для массового проявления нас во всех сферах. Этого нет. Эти порталы надо разрабатывать. Просто так социальные сети – это мусор. То есть это должны быть порталы типа того же Instagram и так далее, которые позволяют нам реагировать на любое проявление негатива на местах. Не в целом, будь то власть наверху. Это легко ругать наверху. А тут, в управе, в районе, в округе, в деревне. Вот здесь все это делать боятся, потому что сталкиваются с местью и так далее.

Я думаю, что здесь должно быть не придумывание новых законов, а ужесточение механизма, алгоритма работы исполнительной власти. Для этого надо вкладывать туда не столько деньги, сколько интеллект и просто волю власти. Вот и все.

Оксана Галькевич: Спасибо большое. Вот такое мнение.

Денис Терехов: У вас сегодня что один, что второй слушатель начали за здравие, а кончили за упокой. Я считаю, что не надо ничего нового придумывать. Я считаю, что и так уже слишком много сайтов создано. И, повторюсь, если у вас есть желание на что-нибудь пожаловаться, домотайте до конца страницы Вконтакте, там есть внизу e-mail, напишите сисадмину. Там все заблокируют. Это много раз делалось. Я вообще не понимаю, почему это нужно 10 лет повторять и 10 лет никто это не слышит.

Что же касается идеи с какими-то народными инициативами, мне кажется, достаточно порталов для этого существует. У нас, понимаете, сразу возникает желание, если мы что-то не находим, создать что-то новое, потому что мы что-то другое не находим. Я думаю, что надо просто лучше искать.

А что касается ужесточения исполнения, это совершенно логично. Если бы судам и правоохранителям велели бы думать, то не было всех дел за репосты. Вот Владимир Владимирович велел думать – и сразу же начали внезапно отменять какие-то дела, либерализовывать законодательство и так далее.

Оксана Галькевич: Кстати, сложные команды у нас выполняют лучше. Вы знаете, ощущение такое, что интернет, вот эта виртуальная жизнь, он в каком-то смысле стал в последнее время важнее, чем обычная наша жизнь, невиртуальная. То есть, собственно говоря, внимание к высказываниям в интернете гораздо больше, чем, например, человек в быту высказывается по каким-то…

Александр Денисов: Так там оно зафиксировано и остается.

Денис Терехов: Все очень просто. Чтобы в жизни похудеть, вам нужно в зал ходить или диету соблюдать. А в интернете в фотошопе себе подправили, поставили. Конечно, интернет интереснее, конечно, интернет проще.

Оксана Галькевич: То есть он и оперативникам интереснее в этом смысле, получается?

Денис Терехов: Я просто глубже копал. У нас у всех такая большая серьезная проблема с самоидентификацией. Просто еще раз повторюсь. Раньше социопаты сидели по домам, а сейчас они сидят в интернете. И поэтому, конечно, те люди, которые раньше не вылезали на улицы, сейчас они вылезли в интернет в том числе.

Оксана Галькевич: И мы их видим?

Денис Терехов: И мы их видим.

Оксана Галькевич: И нас это шокирует. И нам хочется срочно каких-то действий в их отношении?

Денис Терехов: Я думаю, что скорее им хочется действий в отношении нас. Я бы так заострил.

Оксана Галькевич: У нас очень много на самом деле сообщений. Люди на самом деле считают, что контроль обязателен. В каком виде, правда, не делятся своими соображениями. Но, так или иначе, как порядок в этом виртуальном море… Или невозможно?

Денис Терехов: Мы же не спорим, что в тюрьме должны быть надсмотрщики за преступниками. Наверное, нас удивляет, когда выясняют, что эти надсмотрщики, вместо того чтобы просто надсматривать, их бьют, унижают, насилуют и так далее. То же самое – нужен ли в интернете контроль? Безусловно, нужен. Но вопрос в том, что это не должно принимать те чудовищные формы, как это порой принимает. То есть нужно просто тех людей, которых мы назначаем надсмотрщиками, во-первых, тестировать, чтобы они не были психопатами. Это раз. И два. Минимально как-то обучать их, что хорошо, что плохо.

Оксана Галькевич: А как в интернете тестировать…

Денис Терехов: Тех людей, которым мы поручаем принимать решения. А так давайте собирать информацию. Пусть расцветает тысяча цветов и тысяча стукачей в хорошем смысле этого слова. Пусть все информируют всех обо всем. А дальше, кто надо, пусть разбирается.

Оксана Галькевич: Как раз человек из Пермского края пишет: «А что, если ты злоупотребляешь алкоголем, тебя тут же могут поставить на учет или к наркологу, например». Или ты злоупотребляешь нехорошими словами – может быть, тоже таких людей ставить на какой-то учет. С какой-то агрессивной лексикой, знаете.

Денис Терехов: Есть такое выражение: «Это интернет, детка. Здесь могут послать на три буквы». Поэтому, конечно, когда мы приходим в эту среду, мы понимаем, что в ней позволено, к сожалению или к счастью, это просто объективно, чуть больше, чем, например, в нашем эфире. Хотя я думаю, что в метро матерятся не меньше, чем в интернете.

Александр Денисов: Денис, пришло сообщение от телезрителя из Москвы: «Добрый день. Есть система СОРМ. Работает после терактов». Что за система СОРМ?

Денис Терехов: Система СОРМ – это все сотовые операторы должны писать все разговоры куда-то в специальный дата-центр и отдавать правоохранителям по первому заявлению. То есть и так весь эфир писался. И не было никакой проблемы. Откуда возникали все эти прослушки? Это недобросовестные правоохранители заводили липовое уголовное дело на вас и получали прослушку вашего разговора с женой или (по заявлению жены) с любовницей. И так далее.

Закон Яровой о том, чтоб писать еще и весь траффик. Вот вы переслали мне видеофайл какой-нибудь, там, вашей свадьбы – и вот его записали. А я переслал вам видеофайл с этой свадьбы – его снова записали. А вы еще куда-то отправили – его в третий раз записали. И все это хранится полгода или сколько там полагается.

Александр Денисов: Нет закона, как анализировать все эти объемы информации.

Оксана Галькевич: Ты не подсказывай вообще, не фонтанируй здесь какими-то идеями. Спасибо нашему гостю. В студии программы «Отражение» был Денис Терехов, генеральный директор агентства «Социальные сети». Спасибо, уважаемый Денис. Это еще не все, друзья. У нас еще много интересного впереди. Оставайтесь с нами.


Подписаться на ОТР в Яндекс Дзене

О поиске экстремистов в соцсетях

Комментарии

  • Все выпуски
  • Полные выпуски
  • Яркие фрагменты
  • Интервью
  • Сюжеты