Свобода слова запуталась в соцсетях

Свобода слова запуталась в соцсетях | Программа: ОТРажение | ОТР

Как социальные сети становятся глобальными СМИ со своей редакционной политикой и цензурой

2020-06-01T21:43:00+03:00
Свобода слова запуталась в соцсетях
Владимир Путин призвал провести газ бесплатно к границам земельных участков
В России заработают сто центров занятости нового формата
Поставьте оценку мусорной реформе
Мошенники научились обходить ограничения новой системы техосмотра
Саммит по климату. Чего ждать от заявлений глав ведущих мировых держав?
Что нового? Хабаровск, Санкт-Петербург, Кострома
Послание Президента России Федеральному Собранию – 2021. Главное
Послание Президента: международная политика
Послание Президента: ответственность бизнеса
Послание Президента: региональная политика
Гости
Павел Салин
политолог
Игорь Строганов
доцент кафедры предпринимательства и логистики РЭУ им. Г.В. Плеханова
Андрей Масалович
президент консорциума «Инфорус», специалист по кибербезопасности
Александр Асафов
политолог

Анастасия Сорокина: «Свобода слова запуталась в соцсетях»: Twitter маркирует сообщения Трампа как ложные. Facebook пока не вводит таких примечаний к постам пользователей, мол, мы не арбитры и не доискиваемся до правды. Но тренд очевиден – социальные сети уже не просто платформа для общения, а глобальные СМИ со своими редакционными политикой и цензурой. Как они формируют наши взгляды? Вот об этом мы и хотим поговорить.

Александр Денисов: Да. А давайте посмотрим, вот мне тоже интересно стало, как выглядят эти твиты Трампа и что там, как вообще эта пометка «ложь» выглядит. Вот открыли мы Twitter, сообщение от 26 мая, речь тут идет про выборы по почте, там они что-то собираются такое делать, и высказывание Трампа негативное насчет такого способа электорального. И вот эта приписка как раз, «Get the facts about mail-in ballots», то есть «Получите факты о голосовании по почте», подразумевается, что вот факты, изложенные Трампом, это совсем даже и не факты, а правда в другом месте. Два таких сообщения было у него помечено как лживые, было еще там третье сообщение, где у него вообще часть текста убрали, чтобы прочитать, нужно было пройти по ссылке. Трамп ополчился на социальные сети, обвинил их в нарушении свободы слова...

Анастасия Сорокина: Даже подписал указ, который позволит регулировать деятельность соцсетей и лишит их защиты от обвинений в клевете. Он даже так написал: «Мы собрались здесь сегодня, чтобы защитить свободу слова от одной из главных опасностей». Но многие считают, что его этот указ будет оспорен в судебном порядке.

Александр Денисов: Да. Ну, судьба Трампа нас, конечно, тревожит меньше, чем своя собственная, мы решили поговорить, что из себя представляют современные социальные сети, просто ли это площадка для общения. И начнем беседу...

Анастасия Сорокина: Да, первым экспертом будет Игорь Строганов, кандидат экономических наук, доцент кафедры предпринимательства и логистики РЭУ имени Г. В. Плеханова. Игорь Алексеевич, добрый вечер, рады снова вас видеть. Есть ли у вас ощущение, что социальные сети действительно достигли уже того масштаба, той мощи, когда необходимо их регулировать в том числе и вот разными законами, например, таким, который подписал Трамп?

Игорь Строганов: Достаточно очевидно, что социальные сети регулировать надо, как минимум надо начать регулирование с того, чтобы входить хотя бы в интернет по паспорту и входить в социальные сети по паспорту. Потому что бич нашего времени и бич социальных сетей – это люди, которые комментируют либо создают новости, причем делают это не под своим именем либо выдавая себя за других. И да, современные технологии позволяют это отслеживать, но те, кто читают эти новости, те, кто реагируют на эти новости, не всегда, в общем-то, имеют эти возможности в отличие от, например, наших ФСБ и других служб.

Александр Денисов: И не всегда имеют желание, а точнее даже вообще не имеют, прочитали и погнали дальше.

Игорь Строганов: Да, то есть старая классическая фраза «Вы ее не рефлексируйте, вы ее распространяйте» совершенно прекрасно здесь работает. Получили новость, что там Россия в очередной раз продала лес Китаю, – все, сразу репосты, ретвиты в десятках тысяч разных вариаций. Причем никто не задумывается, что чаще всего картинка, которая иллюстрирует этот страшный факт, – это либо картинка Канады за 2004 год, либо Украины за 2016 год, и так далее, главное же сам факт, что Россия отдала очередной лес Китаю либо что-нибудь еще такое страшное произошло.

Анастасия Сорокина: Ну вот в Америке как раз идет ссылка, вот то, что мы показали, пост в Twitter, что факт-чекеры, так их называют, уж простите за этот термин...

Александр Денисов: «Проверяльщики».

Анастасия Сорокина: «Проверяльщики» фактов, они отслеживают информацию, в данном случае они были не согласны с Трампом и сделали такую свою пометочку. Сейчас есть такой момент, что в Конституции, статья 17.29.55, каждому гарантируют свободу мысли и слова, возможность искать, получать, передавать и производить, распространять информацию любым законным способом. Что получается, что социальные сети – это уже не законный способ распространения информации? Как вот здесь быть?

Александр Денисов: Или в отдельном случае «вам свободы слова не давали», вот так можно рассматривать?

Игорь Строганов: Свободу-то слова дали, но здесь очень интересный вопрос, свобода от чего и для чего. Если свобода общения, ну так для этого социальные сети изначально вроде как бы и придумали. Но проблема в том, что этот инструмент стал инструментом создания новой реальности. Да, с одной стороны, людей, которые действительно постоянно сидят в социальных сетях, не так много, если взять полное население России, 142 наших миллиона. С другой стороны, те, кто в них сидят полноценно и регулярно, они имеют картину реальности, во многом отличную от самой реальности.

Потому что что такое современный интернет? Это не мировая библиотека, это не мировое коммуникационное средство, это в первую очередь собрание неких гетто единомышленников по тем или иным вопросам. Например, гетто людей, которые верят, что Трамп великий президент США, соответственно Америка – это цитадель свободы, ну примерно так. Гетто людей, которые считают, что вот СССР был самым великим явлением на Земле, в него нужно вернуться, а все, что происходит сейчас, плохо. Гетто людей, которые верят в одну идею, в другую идею; гетто тех или иных сектантов.

И проблема в том, что эти гетто друг друга никак не слышал и не услышат, потому что они закукливаются, потому что они создают для себя определенную картину мира, они в нее начинают верить, и они фильтруют любую входящую информацию только так, чтобы воспринимать то, что подтверждает их идеи. И они не услышат, даже если там произойдет что-то во внешнем мире, что полностью противоречит их идее, они просто на это закроют глаза. И, к сожалению, наши социальные сети стали именно вот такими маленькими островками, на каждом из которых сидит десяток, ну назовем их так, туземцев, которые считают, что вот с неба прилетают металлические птицы, в них сидят боги, которые нам приносят вкусный алкоголь, я не знаю, консервы.

И здесь проблема в том, что это как-то регулировать надо, но проблема, как это делать и кто это будет делать. Вот те люди, которые, было сказано, что люди, которые тестируют факты, – извините, по отношению к какой картине мира они их тестируют? На основании каких критериев? Кто им сказал, что их картина мира правильная, правдивая, и на сколько, скажем, шел отбор этих людей по соотношению к определенной картине мира, выгодной Twitter, выгодной Facebook, у которого такие же команды есть? И дальше что с этим делать?

Александр Денисов: Кто стражи ворот, грубо говоря.

Игорь Строганов: Кто «устражит» самих стражей, да.

Александр Денисов: Если государство будет стражем ворот, вот, например, сегодняшнее сообщение, у нас же за распространение ложной информации наступает ответственность, да? Вот сегодня было сообщение ИТАР-ТАСС, москвич пойдет под суд за ложную информацию об изъятии органов под видом лечения от коронавируса, распространял это в YouTube. Что ему грозит? Штраф от 300 до 700 тысяч рублей либо 360 часов обязательных работ, либо год исправительных, даже там до 3 лет может сесть. Но тут страж ворот государство, хотя бы есть суд, то есть состязательность, а не тут же, не сразу выносится непонятно, где-то в тайне вердикт, что это ложь и точка. Тут в суде хотя бы адвоката можешь нанять и доказать, либо тебе докажут. Справедливее подход какой?

Игорь Строганов: Наверное, все-таки государство чуть справедливее, хотя мы прекрасно понимаем, что государство местами и неповоротливо, и, скажем, государство может реагировать не совсем адекватно. Помните те случаи этого года, прошлого года, когда за свастику на исторических документах людей сажали или пытались посадить, соответственно, ровно за счет того, что люди перепостили, скажем, какую-то картину из учебника? И вот эти ситуации – это обратная сторона государственного контроля.

С другой стороны, когда люди распространяют такие вот «пугалки», а это абсолютно повсеместная вещь... Я вот сам как родитель состою в нескольких WhatsApp-чатиках родителей, там и детский сад, и школа, и у нас регулярно какие-то пугалки, страшилки распространяют мамочки, что там того-то оставили без органов, того-то выкрали, того-то порезали. Причем эти страшилки с 1990-х гг. не меняются, когда они распространялись в газетах и в листовках, теперь они распространяются в социальных сетях. Что поменялось? – только скорость распространения. Все равно есть люди, которым нравится, что факт жаренный, он яркий, раз он яркий, то, скорее всего, правдивый, значит, его надо распространить.

Здесь, с одной стороны, государство может выступать неким арбитром, но оно будет всегда медленным. С другой стороны, если давать на откуп частнику, тогда кто будет этот частник? Какова его картина мира? Ну и опять-таки не надо забывать, что в свое время у нас пропаганда в том же светлом СССР по воспоминаниям вот этих вот нескольких сект была отдана на откуп тем же людям, которые сейчас нам рассказывают про прелести капитализма и светлой страны на холме. Поэтому, если это будет сделано так же, это будет сделано так же кондово и так же плохо, и в этом опять-таки проблема, как сделать хорошую пропаганду, которая бы людям показывала, что да, вот есть жареные факты, но при этом, смотрите, вот официальная картина мира, которая хотя бы близка к ней: вот вам, пожалуйста, не знаю, Google-съемка китайской границы, вот вам леса на месте, вот вам живые дети и так далее. То есть здесь сложный баланс.

Мне кажется, все-таки надо начинать с деанонимизации, то есть когда каждый человек четко выходит в Сеть по своему паролю, по своему СНИЛС, не знаю, по своему паспорту. А дальше вводить определенную ответственность, которую уже ввели, ну и все-таки потихоньку показательно за эти вещи наказывать. Причем я абсолютно против тюремного заключения, я считаю, что это дурь несусветная. Наоборот, надо на исправительные работы, потому что труд всегда прочищает голову очень хорошо, заодно человек поможет государству своим трудом.

Анастасия Сорокина: Игорь, а как вы объясняете для себя вот эту популярность, что в большей степени люди уже склонны верить именно информации из социальных сетей?

Игорь Строганов: А вы же, наверное, помните, как потихоньку, у нас когда телевизор выступал лицом официальной пропаганды, особенно это было в 1990-е и в 2000-е гг., когда интернет только появлялся, люди, которые сидели в интернете, считались некой фрондой, то есть это был действительно оплот свободомыслящих, инакомыслящих, и эти люди считали, что они умнее, они лучше знают, что интернет – это свободное пространство. И вот эта вот идея в принципе перешла и дальше. У меня очень много знакомых, которые говорят, что ну как же, интернет же не врет, потому что столько источников, а телевизор-то врет постоянно, поэтому телевизор они не смотрят. А сейчас ровно наоборот, парадоксальная ситуация, когда телевизор в минимальной степени стал врать и стал действовать показывать правдивую информацию, но ему уже не верят, потому что унаследована привычка считать интернет правдой, оказывается.

Причем, действительно, в какой-то момент это было так, действительно, интернет давал альтернативную, возможно, даже более качественную картинку. Но потом пришли люди, которые прекрасно поняли, что это шикарный инструмент пропаганды, как тот же «CNN», который сначала сделал это на телевизоре, потом Facebook это сделал в социальных сетях, и стали использовать социальные сети как инструмент продвижения своей картины реальности, которая им выгодна. И это делается на настолько хорошем, высоком техническом уровне, что обычный средний человек, у которого нет навыков сравнения информации, у которого не хватает желания помнить, что было хотя бы год-два назад, который, скажем так, в принципе не имеет даже времени с этим разбираться, он в этом не будет разбираться. Он прочитает жареную новость, себе в голове отложится какая-нибудь картинка, и он дальше в нее будет верить. Что ему дальше скажут где-то еще, уже неважно, потому что он уже эту информацию получил.

Александр Денисов: А это опасная ситуация, Игорь?

Игорь Строганов: Конечно, конечно, это опасная ситуация, потому что получается, что определенный процент наших граждан имеет в голове картинку, которая к реальности не имеет ни малейшего отношения. Скажем, это создание определенных идеологических верований в том числе. То есть люди, которые верят, что, например, Америка лучше, чем Россия, что в России все загибается, все рушится, что распиливают все, что невозможно, а, вон, светлый Маск наконец впервые в истории ракету с людьми в космос, – это же люди потом будут делать определенный выбор, основываясь на своих картинах мира.

Александр Денисов: Выбор у себя в стране причем, у себя в стране.

Игорь Строганов: Конечно, то есть они будут выбирать президента, они будут говорить своим детям, воспитывать их в определенной картине мира. То есть это наследуемая картинка, в этом ее проблема. А наши дети, наши, соответственно, поколения, которые младше нас, точно так же сидят в этих социальных сетях, и у них определенная картинка. И кстати, вот текущий кризис очень четко показал, что мы, в принципе это поколение детей, которым сейчас где-то 15–20 лет, мы их в принципе практически потеряли с точки зрения картины мира, потому что телевизор они не смотрят, государству они не верят, но при этом верят они пабликам в том же «ВКонтакте».

Александр Денисов: Вот эта история с ребятами, которые жарят сосиски и размещают в потоке «Бессмертного полка» фото нацистов, – это потерянное поколение? Откуда они взялись, не один, не два, а вот несколько?

Игорь Строганов: Ну, таких шутников всегда хватает, это люди, у которых нет ничего святого, и эти люди, которые осознанно идут против общества: если общество сказало, что это белое, они скажут, что это черное. Такие всегда есть, просто сейчас у них есть трибуна и опять же есть определенная позиция, что, если человек пошел против общества, пошел против власти, значит, он герой. Кто у нас герои? – те, кто оппозиционеры.

Причем опять же тут нельзя даже сравнивать оппозиционеров сейчас и оппозиционеров в том же Советском Союзе, в Америке в другие времена. Сейчас в Facebook, во «ВКонтакте» написал, какой плохой Путин или Собянин, – все, ты гениальный оппозиционер, ты выразитель мнений поколения. То есть здесь на самом деле... Во-первых, это все очень сильно измельчало действительно, во-вторых, это выглядит все очень тоскливо, но эти люди за собой ведут других, и это значит, что есть несколько поколений, которые, в общем, воспитывать надо, хотя не факт, что уже не поздно, но совершенно непонятно, как. Кому их воспитывать?

Александр Денисов: Вы уже несколько раз, Игорь, упомянули слова «идеология», «пропаганда», несколько раз уже, «картина реальности». Можем ли мы сказать, что в данный момент идет, вот была холодная война, очень просто объяснить, это идеологическая война, что она продолжается, и социальные сети – это орудие идеологической борьбы, идеологической войны?

Игорь Строганов: Так безусловно, конечно, война идет сейчас и экономическая, но война такая достаточно тепленькая, войны реальной не происходит, а происходит война за умы, потому что кто-то же сказал, я сейчас не помню, кто, не люблю цитаты, поэтому не запоминаю, но война идет в первую очередь за детей. Как там Бисмарк сказал, что войну выиграл школьный учитель прусский. Почему? Потому что он вбивал в детей определенные мысли, которые потом через 10 лет сработали и дали определенный результат. То же самое: кто выиграет войну? – тот, кто людям в головы пропагандой вбивает определенную картину мира.

Любые СМИ пропаганда, давайте честно, телевизор – это пропаганда, интернет – это пропаганда, любые медиа – это пропаганда, социальные сети – это пропаганда. Причем она абсолютно в любую сторону направлена, вопрос, кто поводья держит, кто направляет и в какую сторону. И, к сожалению, если посмотреть на структуру собственности абсолютного большинства наших электронных СМИ, мы можем очень четко сказать, что поводья-то направляют несильно русские владельцы и несильно, наверное, в сторону русской повестки. И такие сайты, как «Сделано у нас», какие-то люди, которые разоблачают фейки, которые действительно занимаются тем, что подают информацию в более-менее вменяемом виде, их меньшинство, их очень мало, и их голос не слышен на фоне вала пропаганды против России, против состояния.

Причем я не говорю, что не надо озвучивать, скажем, какие-то проблемы, – надо, о них надо говорить, естественно. Если мы будем молчать о проблемах, то будет, извините меня, ситуация, когда все молчат, все все понимают, но при этом никто их не решает. Мы, помните, с вами...

Анастасия Сорокина: А где найти тот самый фильтр, который поможет найти баланс? Как вы себе представляете, есть такая возможность?

Игорь Строганов: Не знаю, не знаю, не представляю на самом деле, как его строить. Наверное, это усилия того самого гражданского общества разумного, которое понимание, что, с одной стороны, мы критикуем, но, если мы критикуем, мы говорим, что давайте сделаем вот так вот, и отвечаем за свои слова. Возможно, ответственность будет фильтром.

К примеру, взять какую-то идею из китайского социального рейтинга, как сейчас было буквально 2 дня назад, что какая-то фирма в Гонконге подала на государственный грант на участие в государственном тендере, а китайцы им задают вопрос: а вот смотрите, у вас на страничке в Facebook год назад вы писали, что Китай это плохо, что они завоевывают наш свободный Гонконг, вообще делают нам все плохо, – пожалуйста, объясните нам, что вы имели в виду, если вы хотите получать государственное финансирование.

То есть ответственность за свои слова должна быть прямая: ты критикуешь – предложи; если ты не предлагаешь, значит, ты просто чешешь языком, значит, какая-то должна быть санкция, может быть, отключение «социалок», может быть, понижение в правах, может быть, какой-то значок, что человек, скажем, ну болтун. То есть какие-то возможные градации, которые показывают, что этому человеку в принципе можно верить, а этому человеку... Ну клоун, ну болтун, ну, соответственно, развлекает аудиторию, такие тоже нужны, но при этом это чушь.

Александр Денисов: Игорь, а вот вопрос, понятно, он звучит крайне идиотски: как человеку выбирать сторону в этой идеологической войне? Как делать выбор, чья пропаганда верная? Мы русские, с нами сила. Вот вроде, знаете, кто агитирует за Запад, они вроде тоже наши. Вот как человеку выбирать? Как понимать, что это пропаганда та, которая во благо?

Игорь Строганов: Наверное, в первую очередь думать, сравнивать, читать разные точки зрения, их сравнивать, искать слабые места, учиться опять же, читать классиков, потому что люди писали про все эти вещи достаточно давно, и в XIX веке, и в XX веке. Почитать классиков идеологической борьбы, в конце концов, того же Ленина почитать, который про это много писал, Грамши почитать. Прочитать про пропаганду книжку Бернейса, она тоненькая и в ней все очень детально написано, как это происходит. Посмотреть, какие механизмы работают. Скажем, если ты создаешь себе привычку анализировать, рефлексировать, сравнивать информацию и при этом немножко ждать...

Вот я могу сказать из своего опыта. Я человек достаточно много сидящий в социальных сетях, у меня такое увлечение, может быть, даже аддикция, привязанность, я много читаю. Я очень четко вижу, что, например, приходит какая-то новость, скажем так, вброс какой-нибудь, кто-то что-то сказал, кто-то что-то сделал, какое-то событие. Сразу идет вал публикаций, народ эмоционально реагирует, пишет те или иные реакции, проклинает, ругается, «у нас все плохо», «у нас все не так» и так далее. Проходят сутки, двое, трое, все успокаиваются, об этом забывают; потом где-то мелким шрифтом в комментариях проходит, что на самом деле все было не так, кто-то сказал не так, прокомментировали не это, вырвали из контекста, взяли совершенно другую интерпретацию, и оказывается-то все не так страшно. Но при этом люди уже отреагировали, люди уже вал создали, и в принципе в социальных сетях вот эта вал идет прямо такой волной: скандал – реакция – тормознули – скандал – реакция – тормознулись; через неделю уже про предыдущий скандал никто не помнит.

Так вот вариант подождать 2–3 дня с воплями, криками о том, какой ужас, как мы плохо живем, прочитать опровержение либо найти информацию, которая подтверждает, и там уже сделать вывод, сказать, что да, действительно, все плохо, или это определенные слухи, которые связаны с определенным комплексом системных факторов, значит, его нужно анализировать системно... А вот это проблема, системное мышление, умение сравнить, умение выделить частное и общее, умение взять в конце концов и понять, что, грубо говоря, один полицейский, который берет деньги, такие у нас, естественно, есть, как они есть везде, это не признак того, что все 100% полицейских у нас волки в овечьей шкуре. Да, он есть, но система-то может быть другой. Да, один чиновник сделал ошибку, например, как вот этот вот губернатор, который, ну совершенно идиотский ролик, когда он ключами трясет перед пожарным...

Александр Денисов: Чувашия.

Игорь Строганов: Другая ситуация, его же сняли, он сейчас подает в суд на Путина, но это, понятно же, клоунада. Кстати, тоже работа на социальные сети, естественно, на эффект. Но вопрос-то в том, что это один человек. Да, он как бы олицетворяет власть, но власть-то в целом гораздо больше, Россия гораздо больше. То есть у нас 140 миллионов человек, если мы будем говорить, что один человек плохой, значит, все плохие, тогда мы будем мыслить как примитивные, я не знаю, землеройки. Поэтому мыслить, сравнивать, ждать и не кидаться сразу с криками и воплями, кричать «а-а-а, все плохо, все плохо, прощай, российская космонавтика» – подождите 2–3 дня, и увидите, либо опровержение, либо коррективы.

Анастасия Сорокина: Спасибо, Игорь.

Александр Денисов: Спасибо большое за такой философский, глубокий комментарий. Это был Игорь Строганов из Университета имени Г. В. Плеханова.

Анастасия Сорокина: Поговорим со зрителями, Александр из Челябинской области. Добрый вечер.

Зритель: Добрый вечер.

Я считаю, что в нашей стране в существующих условиях регуляция соцсетей нужна хотя бы для пользы самих пользователей, в смысле для, скажем, защиты их шкурных интересов. Потому что на практике мы видим, что некоторые люди специально вбрасывают провокационные посты, чтобы закрыть какие-то группы, какие-то форумы. Некоторые люди просто по глупости широко рекламируют какие-то лазейки, как можно подзаработать дополнительно, какие-то лайфхаки. И те, кто мониторят, силовые структуры, наши депутаты эти соцсети, они моментально эти лазейки закрывают для людей.

Но это должна быть, конечно, саморегуляция, то есть прямая демократия, которая может в соцсетях работать, то есть когда пользователи сами утверждают свод правил, выбирают модератора. Если это внешняя регуляция, конечно, это просто тупое удушение остатков гласности, потому что по факту мы видим, что много информации негативной, она по официальным каналам никогда не пройдет за последнее десятилетие. Например, в технической сфере по нашим, допустим, каким-то изделиям вряд ли когда-то дождешься от предприятий или еще из каких-то источников какой-то негативной информации про их изделия, пока кто-то не протестирует и не даст свои результаты. Ну и хотелось бы сказать, вы что-то в последнее время часто комментаторами стали сатрапов приглашать, я как бы против них ничего не имею, но их же на других каналах полно.

Александр Денисов: Да, понятно.

Анастасия Сорокина: Спасибо вам за позицию, за мнение, Александр.

Александр Денисов: Насчет сатрапов любопытно, на основании чего...

Анастасия Сорокина: Поговорим с еще одним экспертом.

Александр Денисов: Вряд ли тоже сатрапом можно назвать, умные собеседники у нас, эксперты осведомленные. Павел Салин, директор Центра политических исследований Финансового университета. Павел Борисович, добрый вечер.

Анастасия Сорокина: Добрый вечер.

Павел Салин: Добрый вечер.

Александр Денисов: Вот видите, договорились мы, что уже сатрапами нас тут обзывают.

Анастасия Сорокина: Сатрапы, да.

Павел Салин: Ну так более лоялистов обозначают, действительно, да.

Александр Денисов: Понятно. Павел, вы-то точно не лоялист.

Сейчас вот мы остановились, с Игорем Строгановым сошлись во мнении, что социальные сети являются орудием идеологической борьбы, идеологической войны. Согласны с этим, что она идет, и Америка упрекает нас, подозревает, что мы пользуемся как инструментом, видимо, сама тоже хочет пользоваться и пользуется. Вы как считаете?

Павел Салин: Да, соцсети превратились в СМИ, а СМИ всегда являются орудием идеологической борьбы, так же как телевидение, газеты, радио. Поэтому да, они являются орудием идеологической борьбы, вопрос в том, кто контролирует эти орудия в какой стране.

Александр Денисов: А вы-то вот как себя... Наверняка пользуетесь социальными сетями – как отслеживаете информацию, фильтруете, чтобы не попасть, так сказать, в решето?

Павел Салин: Нет, про меня нельзя говорить как про такой стандартный, распространенный случай, потому что я профессионал в сфере работы с информацией, поэтому я пользуюсь именно теми рецептами, про которые говорил предыдущий эксперт. Но поймите, это моя профессия, у меня есть на это время, навыки, желание, а у среднестатистического гражданина нет таких возможностей. Поэтому лучший способ не подпасть под влияние медиаманипулирования, я здесь не выделяю соцсети или другие СМИ, – это, конечно, развитие критического мышления.

Но дело в том, что критическое мышление в принципе доступно примерно 20% населения, у 5% широко укоренено критическое мышление, еще 15% это в принципе доступно и они могут это развивать, если специально будут заниматься, читать книги, которые назывались, еще много книг не называлось, а 80% населения, у них биохимия такая плюс социальные условия, нет времени, критическое мышление им просто недоступно. А что касается соцсетей и других СМИ, инструменты манипулирования, которые используются что на телевидении, что в соцсетях, что в других СМИ, все универсальны, они все описаны еще в середине XX века, они характерны абсолютно для всех СМИ.

Александр Денисов: Павел, интересно, а вот вы как оцениваете, а мы манипулируем? Мы же тоже телевидение, мы манипулируем мнением или нет, с вашей точки зрения?

Павел Салин: Я просто в 20–25 минут, в начале выступления предыдущего эксперта подключился. Вы как минимум один раз попытались манипулировать аудиторией, когда начали рассуждать в категориях «мы» и «они»: мы, Россия, русские, они, США. То есть вы искусственно уже подталкиваете зрителя к выбору, что мы, за нами правда, а они, США, зло. А если не манипулировать, то нужно было говорить, условно говоря, есть одна страна Россия, есть другая страна, США, а зритель уже пусть выбирает. Поэтому вот минимум, вот это ярко выраженный элемент манипуляции, очень широко распространенный во всех СМИ, ну потому что он опирается на базовый инстинкт человека, стремление делить всех на своих и чужих.

Анастасия Сорокина: Павел Борисович, когда заговорили про способы, про то, что нужно думать, нужно определенным образом фильтровать информацию, конечно, это способность у людей, которые в этом варятся, как вы говорите, имеют определенные навыки. Сейчас тот самый период, когда, возможно, происходит процесс формирования культуры социальных сетей, и, наверное, все-таки пандемия на нас на всех повлияла, мы все нырнули в социальные сети и столкнулись с ситуацией, что очень много информации, которая просто, ну не все способны с ней справиться.

Недавно попалась мне новость о том, что в Соединенных Штатах запустили специальные программы обучения детей, где, если не ошибаюсь, чуть ли не звезды Голливуда, Анджелина Джоли ведут уроки, как правильно выбирать новости в интернете, как распознавать фейковые новости, как себя не подставлять, то есть какие данные нельзя выкладывать в социальных сетях. Возможно ли это в культуре российской? Можно ли это привить и когда надо этим заниматься?

Павел Салин: Это возможно в российской культуре. Да, я уже говорил о правиле общества 80%, 15% и 5%: у 5% населения критическое мышление очень сильно развито, они практически не подвержены манипуляциям, как правило, в социальном плане эти люди представляют либо элиту, либо контрэлиту; у 15% людей развиты основы критического мышления... Вот если у 5% людей изначально есть критическое мышление, они могут с помощью самообразования прокачать эти навыки, как сейчас модно говорить, прокачать скиллы, прокачать навыки, то остальным 15% населения необходима внешняя помощь как раз в виде таких курсов. Но остальные 80% населения просто не смогут это воспринять, это биохимия мозга, это закон любого общества, правило 80–15–5. Где-то это может быть 75–20–5, где-то 85–10–5, но в целом структура такая, она гарантирует устойчивость общества.

То есть 80% – это те, кем будут править всегда, они доверяют тому или иному вожаку, перестают доверять одному вожаку, начинают доверять другому вожаку, но они этого вожака воспринимают иррационально. Поэтому инициатива необходимая, но всему обществу это не поможет, а вот тем 15%, которым необходима помощь для развития критического мышления, вполне поможет.

Анастасия Сорокина: Предложение ввести ответственность, условно говоря, действительно заходить в интернет по паспортным данным, быть узнаваемым условно тем же самым каким-то интернет-провайдером, поможет ли это в этой ситуации снизить ту самую манипулятивную способность социальных сетей управлять массами?

Павел Салин: Нет, не поможет. Это поможет государству поставить под контроль информационные потоки в интернете. Потому что все-таки давайте понимать, что интернет вообще и соцсети в частности – это не только СМИ. Ну, соцсети мы убираем, потому что мы говорим о соцсетях, а вот уже второй раз за 30 минут, и это тоже попытка манипуляции, осознанной или нет, начинают говорить об интернете вообще. Соцсети – это соцсети, это сегмент интернета, а интернет – это интернет, и в ход по паспорту в интернет – это одно, а ответственность за публикацию информации в соцсетях – это другое.

А как... Вот, допустим, если у нас будет распространяться электронное голосование, оно должно быть анонимным, таким же, как офлайн-голосование, а как тогда, если в интернет входим по паспорту, человеку гарантировать анонимность? Поэтому давайте вопросы контакта и действия человека в такой среде, это уже не технологии, это социальная среда как интернет, это отдельная тема, а соцсети, которые все ближе и ближе сближаются со СМИ, – это другая тема.

И вот что касается соцсетей, да, там необходима ответственность, но при очень многих «но». Во-первых, ну как вы с помощью паспортного режима эту ответственность обеспечите, это во-первых. Во-вторых, о чем уже говорил слушатель, который звонил перед моим включением: да, должна быть регуляция, но это должна быть саморегуляция. Как ее обеспечить, отдельный вопрос. Он совершенно верно поставил вопрос в той плоскости, который классик еще 200 лет назад поставил: а судьи кто? Если государство будет судить, то, наверное, государство будет делать так, чтобы было ему выгодно, власти выгодно, а интересы власти не всегда совпадают.

Александр Денисов: Павел, но тут хотя бы есть состязательный процесс...

Павел Салин: И третье, я прошу меня дослушать...

Александр Денисов: Да-да-да.

Павел Салин: Третий момент, важный аспект: у нас вообще-то уже очень много норм, которые предусматривают ответственность в интернете. Одну, самую свежую, вы уже отметили, которая с 1 апреля вступила в действие, ответственность за фейковые новости, распространение фейковой информации, хотя здесь очень большой вопрос, что понимается под фейковой информацией, нужно посмотреть правоприменительную практику: это действительно неправильные факты или нежелательные для власти факты, которые она хочет скрывать. Здесь нужно смотреть на правоприменительную практику. А до этого еще куча разных норм принималась, и с этой точки зрения информационное поле России, с точки зрения правовой очень хорошо отрегулировано и даже зарегулировано. Но с технической точка зрения, если телевидение, другие виды СМИ подконтрольны власти в России, то социальные сети пока не подконтрольны, поэтому встает такой вопрос о вредности соцсетей.

Александр Денисов: Да. Можем вернуться вот к этому моменту, так сказать, ну, скажем прямо, уличили нас в попытке манипулирования, делим на своих и чужих: ну если согласились мы, что идет идеологическая война, что социальные сети являются инструментом идеологической войны, то явно люди, которые пользуются этими инструментами, друг другу не родные, а все-таки противники. Очевидно все-таки, что свои и чужие есть. За что борются эти свои и чужие с помощью социальных сетей? Может быть, какой-то пример можно привести, чтобы стали понятны предмет боя, цель?

Павел Салин: Ну вот смотрите... Да, кстати, еще один из инструментов, из практик манипуляций в развитии того, о чем мы говорили, – это создание искусственного выбора, искусственной повестки. Вот когда говорят «мы» или «они», всегда создают, человека загоняют в выбор, что есть только две стороны, а варианта №3 или варианта №5 не существует.

Александр Денисов: То есть есть середина, где можно остановиться?

Павел Салин: Естественно, представитель вот тех 80%, про которые мы с вами говорили, те, которые подвержены манипуляциям при любых раскладах, они всегда при постановке такого вопроса «мы-они» выберут сторону «мы», практически всегда. Так что, понимаете, вы ставите так вопрос, а вот есть только мы и они, есть только наши интересы или их интересы. А вопрос: может быть, есть интересы третьих, четвертых сторон? Вот, допустим... Ну я не знаю, вопрос: а кто отстаивает интересы российских граждан? – нынешняя российская власть или американская власть? А может быть, кроме нынешней российской власти и нынешней американской власти есть еще вариант какой-нибудь №3, новая власть, которую нужно избрать? Почему бы об этом не подумать?

Александр Денисов: Павел, да, если следовать вашей логике, то вас тоже легко можно упрекнуть в попытке манипуляции, в откровенной манипуляции. То есть когда вы отстаиваете свое мнение, вы априори отодвигаете другую позицию как неверную. Если мир строить по принципу «свой-чужой», вы считаете это неправильным, а свою позицию правильной, это тоже манипуляция, ведь железобетонная логика. Вашим же инструментом пользуемся.

Павел Салин: Нет, эта оппозиция «свой-чужой» наиболее простая и приемлемая для 80% населения, просто я в силу своей профессии к этим 80% не отношусь, у меня другая позиция. Для 80% населения эта позиция абсолютно приемлемая, потому что она простая, он не требует интеллектуальных затрат, а человек так устроен, что у него организм на всем экономит. Ну это в книгах описано, механизмы выбора, система №1, система №2, не буду распространять, «Думай медленно, решай быстро», вот эти вот все книги. Поэтому здесь вопрос, кому что доступно, кому какой инструментарий и механизм доступен.

Именно поэтому механизм манипуляции «мы-они» использовался во все исторические времена и в мировой истории, не только в России и не только сейчас, и он успешен, потому что он опирается на те биохимические процессы, которые происходят в человеческом мозгу. Я просто говорю, что это... Я не говорю, что манипуляция плохо, это способ обеспечить подконтрольность населения власти, вопрос в том, насколько интересы власти и населения совпадают, нужно ли эту подконтрольность обеспечивать или нет.

Александр Денисов: Павел, спасибо вам большое.

Анастасия Сорокина: Спасибо, спасибо. Это был Павел Салин, директор Центра политических исследований Финансового университета.

Выслушаем зрителей. Здравствуйте. На связи Андрей, Керчь. Здравствуйте.

Зритель: Здравствуйте.

Пока слушал предыдущих ораторов, быстренько, слава интернету, посмотрел нашу Конституцию, статья 29-я, там все четко и хорошо, кратко изложено, что можно, что не можно. И вот получается, к какой мысли я пришел? Смотрите, мы живем в XXI веке, нравится нам или не нравится, у нас есть интернет, у нас есть связь, нам доступны огромные горы информации. И вот в свое время всегда была такая «одна бабка сказала», было сарафанное радио, просто сейчас... Я как раз о фейках хочу сказать: просто сейчас сарафанное радио перешло на принципиально новый уровень развития.

Александр Денисов: Просто цифровое сарафанное радио стало, да, вы имеете в виду?

Зритель: Можно и так сказать, цифровое, электронное, фотонное, какое угодно.

Так вот к чему я? Смотрите, если кто-то пишет о чем-то, что кого-то разобрали на органы, мы с вами прошли 1990-е гг., у нас должен выработаться, у народа должен выработаться, скажем так, иммунитет против подобных вбросов. Лично у меня, мне хорошо за 40, такой иммунитет выработался. И когда я вижу, что какая-то информация, которая мне не нравится, я начинаю ее проверять, искать в других источниках, смотрю, правда не правда, правда или фейк.

Я, например, считаю, что наши, скажем так, «наказательные» санкции против подобных, считай малозначительных, вбросов могут привести нас, вернуть опять к тому, что мы будем бояться рассказывать анекдоты, как в свое время в нашей истории было. В Конституции сказано, что нельзя давать информацию против, вызывающую какие-либо виды ненависти, расовой дискриминации и прочее, прочее, прочее. А если кто-то какую-то глупость написал, ну бог его знает, пусть пишет.

Александр Денисов: Андрей, спасибо.

Анастасия Сорокина: Спасибо.

Александр Денисов: Интересное мнение, спасибо вам.

Анастасия Сорокина: Поговорим с еще одним экспертом: на связи со студией Андрей Масалович, президент Консорциума «Инфорус», специалист по кибербезопасности. Андрей Игоревич, добрый вечер.

Александр Денисов: Специалист с огромным иммунитетом от всех вот этих информационных вирусов.

Анастасия Сорокина: Который лучше знает, что происходит по ту сторону экрана.

Андрей Игоревич, давно мы с вами встречались здесь в режиме офлайн, вы рассказывали историю про то, что кибервойны уже идут, что уже происходит процесс, которым многим невидим. И хочется от вас сейчас ну какой-то луч надежды, что и в отношении фильтров и регуляции тоже какие-то процессы идут. Можно ли сказать, что все-таки через какое-то время вот этот мир, вот это пространство социальных сетей будет не таким опасным, как вот сейчас мы о нем говорим?

Андрей Масалович: Безусловно, оно будет меняться и уже меняется. Но давайте чуть-чуть посмотрим в историю, мы как-то зацепились за текущий момент благодаря усилиям Трампа. Я просто хочу напомнить, из-за чего сейчас ломают копья. История вообще-то началась не сегодня, история началась в 1995 году, появилась первая соцсеть, она называлась, как ни странно, «Одноклассники», но только по-английски «Classmates». Она, кстати, до сих пор жива, 50 миллионов пользователей. И буквально через год выяснилось, что их засудят, ну то есть любая соцсеть, которая объединяет людей, сразу становится уязвимой, потому что на нее полетят тысячи, десятки тысяч, сотни тысяч судебных процессов и жалоб.

И был принят закон, который назывался «О приличиях в коммуникациях», и в нем была знаменитая статья 230-я, в ней всего 26 слов, даже про нее когда-то книжку написали, называлась «26 слов, которые создали интернет». Так вот в статье 230-й было два пункта: первый – соцсеть не отвечает за то, что в ней говорят...

Александр Денисов: Это вы про американское законодательство говорите, про американское?

Андрей Масалович: Да-да-да. К сожалению, другого... Другое только-только сейчас формируется.

Так вот, там было два пункта. Первый: соцсеть не является издателем в отношении информации, которую положил кто-то другой, то есть хочешь судиться – судись с тем, кто сказал, а не с тем, кто напечатал. И второе: соцсеть может внедрять свою цензуру и с ней тоже нельзя судиться, она сама решит, что ей печатать, а что нет. И на тот момент это действительно было спасением, потому что первая соцсеть бы закрылась в первый же год, не выдержав потока обвинений.

Но сейчас выяснилось, что эта власть стала сильнее, чем Трампа, то есть соцсеть сама диктует, сама ставит синенькую галочку Трампу, что это не полное..., не вполне соответствует правде и нужно перепроверять. Причем соцсети разделились, Twitter удалил твит про оружие, про прямую угрозу применения оружия в Миннеаполисе.

Александр Денисов: «Начнется мародерство – начнется стрельба», вот эту вот фразу они удалили.

Андрей Масалович: «Начнется мародерство – начнется стрельба». Цукерберг заперся у себя в кабинете и сказал, что даже несмотря на протесты собственных сотрудников он это удалять не будет. То есть соцсети сейчас решают, что правда, что неправда, ну то есть если не углубляться в манипуляции, все пытаются манипулировать, то у соцсетей это просто будет получаться лучше.

Поэтому что сейчас в юридической плоскости делает Трамп, если посмотреть его законопроект, точнее указ, который он издал? Там четких четыре пункта. Первое: над соцсетями ввести понятие добросовестной модерации, то есть правительство будет определять, когда модерация была добросовестна, а когда нет, а если нет, будет принимать меры. Второе: определить потоки финансирования и лишить финансирования тех, кто зажимает свободу слова опять же с точки зрения американского правительства. Третье: вытащить 16 тысяч жалоб, которые нашлись в Белом доме, жалоб на политическую цензуру, и все их сейчас рассмотреть. Ну и четвертое – приготовить законодательство. Ну и от себя Трамп еще добавил, что «пока я не заставлю Конгресс отменить эту 230-ю статью, мы ее будем регулировать». То есть то, что сейчас происходит, – это просто попытка перетянуть одеяло в пользу одной из сторон, это не наведение порядка.

Александр Денисов: Андрей Игоревич, а вы почему социальными сетями не пользуетесь? У вас принципиальная такая позиция, вы нам рассказывали. Поменяли ее или нет?

Андрей Масалович: Нет-нет, я пользуюсь, просто у меня очень четко разделены миры: есть маленький мирок для своих, для друзей, для детей, для какого-то общения, он достаточно закрытый, и есть большой мир для работы, где по большей части я работаю под так называемыми техническими аккаунтами, не от своего имени, просто если противник в балаклаве, то и я должен быть в балаклаве, иначе нечестно получается.

Александр Денисов: То есть обойтись без них нельзя, уже никуда?

Андрей Масалович: Можно, но вот правильно сказал предыдущий докладчик... Он, правда, вводит понятие критического мышления, – не критическое мышление. Я могу объяснить, откуда это появилось. Когда человек рождается, он рождается обезьянкой, у обезьянки нет логического мышления, ее не учили. У животных мышление, которое называется предикативное, предикатив – это самый яркий признак, то есть у кого хвост ярче, тот больше самец, кто круче выглядит, за тем и надо бежать. И, к сожалению, правительством всех стран, компаниям всех стран очень выгодно выращивать предикативное мышление, чтобы часы покупали крутые, чтобы машины покупали подороже.

А люди с логическим мышлением – это узкая элита, которых специально учат математики в школе, этому надо учить, то есть логическое мышление само не приходит. Откройте любую книжку со словом «парадокс», и вы увидите, что большинство парадоксов за пять минут раскалываются, если применить математику, а в бытовой логике не проходят.

Поэтому бо́льшая часть населения сейчас восприимчива вот к такому вот «облучению» со стороны соцсетей, со стороны СМИ, со стороны государств, и правду от неправды отличить, поверьте, очень и очень трудно. Ну и, кстати, нельзя это законодательно даже ограничивать. Вот если вы смотрели, вчера был замечательный пример, два датских фотографа помещали фотографии одного и того же места, и один снимал так, что мы видели, как идет беспорядочная толпа, а другой снимал ту же толпу сбоку, и было видно, что это не толпа, а очередь, и люди стоят на расстоянии 1,5 метра друг от друга. То есть картинка про одно и то же, а ощущения вызывает абсолютно разные.

Александр Денисов: Смотря какая задача, что показать, либо хаос, либо порядок.

Андрей Масалович: Да, конечно, это называется повесткой, это называется нарративом, то есть это необязательно неправда, это... Нарратив – это подкрашенная правда, правда со своей точки зрения. Поэтому бороться с этим придется долго, сложно, привлекать и законотворчество какое-то, и просто творчество, и какие-нибудь антифейковые организации, ну и учиться логике.

Александр Денисов: Спасибо большое, Андрей Игоревич, спасибо большое.

Анастасия Сорокина: Спасибо. Это был Андрей Масалович, президент Консорциума «Инфорус», специалист по кибербезопасности.

Александр Денисов: Ну и у нас на связи политолог Александр Асафов. Александр, добрый вечер.

Александр Асафов: Добрый вечер.

Александр Денисов: Да. Александр, вот мы уже неоднократно упоминали словосочетание «идеологическая война», социальные сети как инструмент идеологической войны. Если с этим согласны, что такое явление существует, кто побеждает в этой идеологической войне? И наверняка есть две стороны, как бы нас ни упрекали в манипуляции «свои-чужие»?

Александр Асафов: Тут нужно немного окунуться в историю и посмотреть, как и какие социальные сети использовались различными правительствами. Безусловно, когда мы говорим о профессиональном политическом использовании соцсетей, стоит упомянуть, что платформа Twitter была выбрана как единственная платформа реализации публичной дипломатии Соединенных Штатов. У каждого посольства был Twitter-аккаунт Соединенных Штатов в других странах, у каждого посла, у каждого политика и у многих других не относящихся прямо к Соединенным Штатам политическим активистам тоже в первую очередь появлялся Twitter-аккаунт. Первый ввел эту процедуру, по-моему, еще даже не Обама, по-моему, госсекретарь Хиллари Клинтон стояла у истоков разработки вот той самой Twitter-дипломатии. Поэтому мы видим, как соцсеть фактически предназначалась к применению как идеологическое оружие, и в некоторых странах, где Twitter был недоступен, американцы платили деньги, для того чтобы разработать свой аналог Twitter. И если вспомнить хождение цветных революций, там везде звучал Twitter, Twitter, Twitter.

Сейчас ситуация изменилась, поскольку соцсетей больше и не все они контролируются Соединенными Штатами, это вызывает тем самым последствия, которые вот демонстрирует ярко Дональд Трамп. Дело в том, что если обратиться к истокам, то соцсеть – это бизнес, это бизнес, который должен зарабатывать на демонстрации рекламы. Этот бизнес не должен нести негатив пользователям, любой негатив, криминальный, с нелегальным контентом, какой угодно, политический в том числе. И в этом смысле соцсети находятся в заложниках, поскольку они не могут не транслировать политическую повестку, поскольку это тоже бизнес, политические объявления покупаются точно так же, как объявления рекламные, но и не могут наносить, как он считают, ущерб настроению пользователя, поскольку он тогда сделает с соцсетями то же самое, что с телевизором, – в раздражении выключит.

Политические силы после победы Трампа особенно осознали эффективность, и теперь ни одна политическая кампания в мире не может идти без применения соцсетей, это самый простой способ достучаться до избирателя, самый простой способ донести ему свою позицию, и конечно, это благодатное поле для любых манипуляций. И мы видим, как соцсети выступают и в ином качестве, когда вот против такого, как выразился предыдущий эксперт, нарратива, сформированного британской медиаимперией, британскими СМИ, выступили сами британцы в соцсетях. Я напомню, это касалось Чемпионата мира в России, когда несколько британцев рискнули несмотря на ту угрозу в британских СМИ, съездили в Россию и в соцсетях выложили ролики, которые набирали колоссальное количество просмотров, о том, что все не так, нас обманывают, Чемпионат мира прекрасный, никакой угрозы нет.

И поэтому соцсети, безусловно, трансформируются, это уже инструмент не только бизнеса и не только инструмент идеологического, политического противоборства, это инструмент новой реальности, это инструмент новой коммуникации. И конечно, он вберет в себя все риски и угрозы, и хорошие моменты, позитивные, и элементы развлечения по большей части, то есть это новый инструмент. Когда-то таким инструментом была газета, и мы помним, что против газет тоже проходили различные митинги церковных, например, деятелей, которые говорили, как Серен Кьеркегор сказал, что дьявол прячется в печатной краске. И сейчас похожие процессы осуждения мы видим со стороны разных групп, но тем не менее соцсети – это наша данность, это наша с вами реальность, и мы будем ее учитывать и в политическом, и в социальном, и в нашем обывательском с вами ключе.

Александр Денисов: Ну так кто побеждает в идеологической войне, если она ведется?

Александр Асафов: В данной ситуации, безусловно, тот, кто контролирует платформу, тот имеет определенные преференции. И хотя соцсети клянутся в том, что они предоставляют площадку на равных условиях всем, неоднократно тот же самый Twitter ловили за руку о том, что каким-то образом его механизмы, и механизмы YouTube, и механизмы Facebook, та самая модерация, работают почему-то в сторону западной концепции идеологии и против российской, когда российские аккаунты банятся по выдуманным причинам, модераторы замораживают, банят пользователей на долгий срок именно по их позиции, не комплементарной Западу. Поэтому чья платформа, тот и побеждает.

Хотя, конечно, как я уже сказал, у соцсетей есть эффект, когда количество информации начинает побеждать и ту самую принудительную цензуру, принудительную модерацию не всегда по позитивным или идеологическим моментам, иногда это, например, в случае конспирологических теорий, как вот тот самый Алекс Джонс, который за свои «волшебные» теории о плоской Земле и существовании нас в матрице был однажды просто забанен во всех соцсетях со всеми многомиллионными аккаунтами.

Александр Денисов: Спасибо большое, Александр.

Анастасия Сорокина: Спасибо.

Александр Денисов: Спасибо за взвешенную, глубокую, интересную точку зрения. Спасибо.

Анастасия Сорокина: Это был Александр Асафов, политолог.

Авторизуйтесь, чтобы быстро и удобно комментировать
Авторизуйтесь, чтобы быстро и удобно комментировать
Комментарии (0)
Как социальные сети становятся глобальными СМИ со своей редакционной политикой и цензурой