Роботизация социальных сетей и ее политические последствия

Глобализация и цифровое общество

МИХАЙЛЕНОК Олег Михайлович — доктор политических наук, профессор;руководитель отдела исследования социально-политических отношений Центра политологии и политической социологии Института социологии ФНИСЦРАН

МАЛЫШЕВА Галина Анатольевна — научный сотрудник Центра политологии и политической социологии Института социологии ФНИСЦРАН

РОБОТИЗАЦИЯ СОЦИАЛЬНЫХ СЕТЕЙ И ЕЕ ПОЛИТИЧЕСКИЕ ПОСЛЕДСТВИЯ

Аннотация. Статья исследует политические аспекты изменений, которые происходят в онлайновом сетевом пространстве под влиянием технологий четвертой промышленной революции. В центре внимания находится роботизация социальных сетей, понимаемая как процесс замены человека искусственными виртуальными идентичностями - программными агентами-ботами. Анализируется деятельность автоматизированных программ, разрабатываемых для выполнения задач политического манипулирования и компьютерной пропаганды (политических ботов). Показано, что их внедрение в виртуальную коммуникационную среду ведет к политической поляризации общества и росту его конфликтного потенциала.

Ключевые слова: цифровые технологии, политическая коммуникация, социальные сети, искусственный интеллект, политические боты, компьютерная пропаганда, информационные войны

Для человечества современный исторический этап - время стремительных перемен, одним из главных факторов которых являются технологии четвертой промышленной революции. Другим релевантным признаком нынешней эпохи служит повсеместное распространение процессов социальной сетеви-зации, понимаемое не просто как развитие социальных сетей в их узкоспециализированном смысле, но как формирование единого сетевого социального пространства - сложного комплекса взаимодействий, которые объединяют виртуальную и физическую общественные реальности. Под влиянием технологического прогресса социальные сети приобретают новые качественные характеристики. Соединение двух этих феноменов - новейших технологий и сетевого развития - способно породить множественные и крупномасштабные социальные и политические эффекты, прогнозирование которых является вызовом для современного научного знания.

Статистика цифровых коммуникаций свидетельствует, что для большинства населения планеты Интернет и соцсети стали частью повседневного суще -ствования. По данным на 2019 г. глобальная аудитория Интернета насчитывает 4,39 млрд чел., из которых 3,48 млрд зарегистрированы в социальных сетях. На долю России приходится 109,6 и 70 млн чел. соответственно. Уровень проникновения Интернета в российское общество составляет 76%, степень сетевого охвата - 49% населения (причем среди молодежи этот показатель превышает 90%)!. В ближайшей перспективе развитие цифровых систем связи приведет к тому, что практически все люди в мире будут так или иначе существовать в окружении постоянно подключенных к сети устройств. Помимо технологического, действует и демографический фактор: все большую долю населения планеты будут составлять поколения «цифровых аборигенов» -

1 Каждому возрасту - свои сети. - ВЦИОМ. Пресс-выпуск № 3577. 12.02.2018. Доступ: Ы^:// wcюm.ru/mdex.php?id=236&шd=116691 (проверено 04.01.2020); Вся статистика интернета на 2019 год в мире и в России. - WebCanape. 11.02.2019. Доступ: https://www.web-canape.ru/business/ vsya-statistika-intemeta-na-2019-god-v-mire-i-v-rossii/ (проверено 04.01.2020).

людей, выросших в мире современных коммуникационных технологий и не представляющих свою жизнь без Интернета, онлайновых медиа и мобильных гаджетов.

Технологическое переоснащение виртуального сетевого пространства имеет своим следствием возрастание роли роботизированных программных агентов (программ-ботов), которые вступают в разнообразные взаимодействия с пользователями-людьми. Социальные сети постепенно превращаются из среды человеческой коммуникации в среду коммуникации человеко-машинной. В определенном смысле роботизация социальных сетей воспринимается как замена (а возможно, и вытеснение) интернет-пользователя - человека его искусственными аналогами - автоматизированными виртуальными идентич-ностями.

Говоря о политических эффектах роботизации онлайн-сетей, необходимо учитывать два момента. Во-первых, сегодня происходит все большее взаимопроникновение и сращивание политики и цифровой коммуникационной сферы. Политические акторы используют цифровые медиаканалы для завоевания общественной поддержки и реализации стратегий конкурентной борьбы на национальном и глобальном уровнях. Во-вторых, любые технологии, будучи органически встроенными в существование общества, обладают своим социальным и политическим измерением.

Для исследователей очевидна связь технологической проблематики с «вопросами власти, институциональных изменений, взаимодействия и конфликтов политических акторов» [Ефременко 2012: 46]. Представление о том, что развитие техники носит чисто инструментальный характер, в корне неверно, поскольку все технологические решения служат воплощением идей и принципов, сформировавшихся в определенном социокультурном и общественно-политическом контексте. Они несут в себе отражение ценностей, целей и убеждений своих создателей, связаны с человеческой самоидентификацией и мировоззрением и в этом смысле имеют политическую природу. Поэтому не удивительно, что в процессе разработки технологий «разные культуры и типы ценностей ведут к различиям в приоритетах» [Шваб, Дэвис 2018: 50-52, 64].

Представляется, что рассмотрение вопросов технологической эволюции сетевого пространства невозможно в отрыве от подобных критериев.

Общеупотребимое наименование сконструированной виртуальной идентичности - бот - является производным от слова «робот». Это автоматизированные программы, выполняющие различные функции в сети, - от сугубо технических (как полезных, так и вредоносных) до сложных коммуникационных, реализуемых в т.ч. на уровне искусственного интеллекта. Сетевые агенты-роботы, способные имитировать поведение человека, называются социальными ботами. Социальные боты - это «контролируемые программным обеспечением учетные записи, которые алгоритмически производят контент и устанавливают взаимодействия с другими пользователями» [Уаш1 et а1. 2017: 1]. Множественные акка-унты, создаваемые такими программами, как правило, выдают себя за реальных людей и действуют от их имени.

В зависимости от выполняемых задач социальные боты подразделяют на доброкачественные и злонамеренные. «Добрые» боты ориентированы на сотрудничество с пользователями-людьми (боты-агрегаторы новостей, электронные компаньоны, консультанты по сетевым услугам), «злые» - на агрессию, троллинг, распространение спама, кражу личной информации и мошенничество в сетях. Различаются боты и по степени сложности программ - от простых агентов, нацеленных на автоматическое размещение контента, до высокоинтеллектуальных ботов, работающих на основе машинного обучения и

алгоритмов естественного языка. Они способны адаптироваться к информационному окружению, самостоятельно подбирать материал для своих профилей, вести беседы с другими пользователями, комментировать их сообщения и отвечать на вопросы.

Есть основания полагать, что социальные бот-программы не являются ценностно нейтральными и обладают встроенными политико-культурными и идеологическими установками. Замечено, например, что действия ботов, занимающихся отслеживанием и редактированием контента в Википедии, различаются в зависимости от того, за какой культурно-языковой сегмент они отвечают [Tsvetkova et al. 2017: 4]. Более того, одна из наиболее распространенных разновидностей социальных ботов напрямую задействована в производстве и продвижении идеологически заряженной сетевой информации. Речь идет о так называемых политических ботах. К этой категории относят «политически ориентированные» алгоритмы, которые «изучают и имитируют реальных людей, чтобы манипулировать общественным мнением с помощью социальных медиа и сетевых устройств» [Woolley, Howard 2016: 4885].

Программы данного типа и связанные с ними аккаунты устанавливают и поддерживают коммуникацию на разнообразные политические темы, используя платформы популярных социальных сетей и сетевых медиасервисов: Facebook, Twitter, YouTube, Instagram, WhatsApp, ВКонтакте и др. Они выполняют широкий диапазон задач, включая как относительно простые действия по мультипликации репостов и накрутке лайков, так и выполнение сценариев, которые предусматривают самые изощренные приемы психологической обработки реципиентов информационного контента.

Хотя создателем бот-программы теоретически может стать любой пользователь, для всех очевидно, что политические боты служат прежде всего орудием в руках наиболее влиятельных акторов - государственных и корпоративных структур, представителей политических элит и контрэлит, спецслужб и силовых ведомств. Политическая ботосфера, поскольку она привлечена к массированной обработке и форматированию социальных настроений, является частью глобального информационного противостояния и ожесточенных внутриполитических баталий. Политико-коммуникационная активность ботов включает в себя воздействие на информационное пространство с целью формирования политической повестки дня и регулирования политического дискурса в интересах проправительственных или оппозиционных сил, а также в рамках «мягких» информационных войн [Василькова, Легостаева 2019: 124]. В целом, действия политботов в онлайновых сетях характеризуются как особый вид агитационно-пропагандистской работы, называемый компьютерной пропагандой [Woolley, Howard 2016: 4886].

Следует заметить, что в роли политических ботов могут выступать и живые люди - так называемые платные «тролли», для которых компьютерная пропаганда становится разновидностью профессиональной деятельности и источником заработка [Мартьянов 2016], а также гибридные сущности в Интернете, когда программа-бот не полностью автономна, а действует под постоянным контролем человека.

Наибольшая активность политических ботов, как правило, приходится на периоды избирательных кампаний, во время которых происходит обострение межпартийной борьбы и общественно-политического дискурса. Политботы создают видимость мультиплицированной общественной поддержки того или иного кандидата и запрограммированы на то, чтобы вести наступательную предвыборную агитацию, позволяя экономить на труде партийного персонала и услугах волонтеров. При этом их действия, в отличие от работы реальных

людей, весьма непросто поставить под контроль и нормативно-правовое регулирование.

Политические боты задействованы и в координации через соцсети массовых протестных выступлений в различных регионах мира. Наиболее резонансные из них известны под названием Twitter-революций. Заметим в этой связи, что, по существующим данным, бот-технологии активно применялись и в организации протестных акций в России, последние из которых имели место в августе 2019 г.1

В онлайновом информационном пространстве отмечается также наличие так называемого манипуляционного эффекта поисковых систем. Обнаружено, что поисковая служба Google, выдавая результаты по запросам о выборах в целом ряде стран, демонстрировала предвзятое отношение к участвовавшим в них политическим силам - оказывала явное предпочтение одной из сторон и формировала негативный образ ее оппонентов. Благодаря алгоритму автоподсказки система начинала манипулировать мыслями пользователей уже после первого символа, введенного в поисковой строке. По оценкам ученых, такого рода эффект повлиял на решение граждан в 25% национальных выборов во всем мире [Epstein, Robertson 2015: 519]. Ряд вопросов возник и в отношении Яндекса - российского новостного агрегатора. Он был заподозрен представителями власти в тенденциозности подборки и выдачи топовых новостей, что, по их мнению, создает почву для дестабилизации социально-политической обстановки в стране2. Подобные случаи вполне могут служить иллюстрацией тезиса, что программные алгоритмы в качестве встроенной опции несут в себе идейно-ценностные установки своих разработчиков.

Компьютерная пропаганда представляет собой целый комплекс операций, в который входит сбор и обработка метаданных о пользователях, причем производится это без их ведома и согласия. Веб-сканирование позволяет определить целевые группы в Интернете, потенциально наиболее восприимчивые или наиболее опасные для эмитента пропагандистской информации. Применительно к последним реализуются тактики подавления, которые включают в себя стигматизацию оппонентов с использованием отрицательных социокультурных стереотипов, внесение внутреннего раскола в целевые группы, а также искусственную радикализацию взглядов в их среде, призванную отсечь умеренные элементы и сократить их общественную поддержку [The Human Consequences... 2019]. Некоторые из таких тактик могут рассматриваться как разновидность кибербулинга - психологического давления и преследования пользователей в сети, т.е. как проявление и культивирование виртуальной социальной агрессии.

Существует прямая связь между компьютерной пропагандой и распространением онлайн-языка ненависти, который может сознательно насаждаться в среде виртуальной коммуникации [Santini et al. 2018: 352]. Радикализации взглядов интернет-пользователей способствует и известный эффект эхо-камеры, усиливающий эффективность убеждения в закрытой коммуникационной системе. Идейно гомогенные сообщества перестают воспринимать аргументацию друг друга и превращаются в параллельные информационные микромиры, внутри которых превалируют крайние позиции и установки. Результатом является групповая поляризация мнений в социальных сетях Интернета [Поцелуев, Подшибякина 2018].

1 «Почувствовать себя в игре»: как организуют протесты в Москве. - РТ на русском. 16.08.2019. Доступ: https://ru.rt.com/e4tb (проверено 04.01.2020).

2 Депутаты попали в «Яндекс.Новости». - Коммерсантъ. 16.08.2019. Доступ: https://www. kommersant.ru/doc/4065326?utm_source=yxnews&utm_medium=desktop (проверено 04.01.2020).

Нельзя забывать при этом, что политическое манипулирование в виртуальном социуме имеет опосредованный выход на ситуацию в физическом мире политики, поскольку онлайновое и офлайновое политические пространства находятся в постоянной взаимосвязи и диалектическом взаимодействии. Таким образом, компьютерные пропагандистские атаки, в конечном счете, ведут к поляризации общественных настроений, выхолащиванию политического дискурса и обесцениванию культуры политической дискуссии как одного из традиционных атрибутов демократического устройства, т.е. служат дополнительным фактором разобщения социума и роста общественно-политической конфликтности.

Экспансия политических ботов способна нивелировать роль онлайн-среды как пространства межличностной социально-политической коммуникации. Она рискует превратиться в арену, где разворачиваются игры политических элит - кукловодов-манипуляторов, управляющих армиями компьютерных роботов при фактическом игнорировании интересов гражданского общества, что может истолковываться как подтверждение постулата о «постдемократическом» эволюционировании современной либеральной демократии.

Роботизированные онлайновые системы вписаны в контекст когнитивных войн - глобального противостояния идей, ценностей и моделей встраивания цифровых коммуникационных технологий в государственно-институциональное устройство. В научных кругах бытует мнение, согласно которому Россию, как и Китай, относят к категории стран «цифрового авторитаризма» и в этом смысле противопоставляют демократиям западного образца1. По-видимому, под этим подразумевается, что в условиях авторитарной модели технологического управления сетевые роботы состоят на службе у проправительственных акторов, которые используют их для обеспечения внутриполитической стабильности и продвижения национальных интересов на международной арене. Последнее, впрочем, в равной степени относится ко всем мировым игрокам, да и о политическом вмешательстве государства в цифровую медиасреду можно говорить не только применительно к «авторитарным» демократиям [The Human Consequences... 2019: 10].

Вне зависимости от того, насколько верна подобная умозрительная конструкция, стоит задуматься над проблемой спецификации социально-политических последствий внедрения роботов в сетевую среду на глобальном, национальном и глокальном уровнях. В каждой стране и регионе мира описанная выше универсальная матрица негативных эффектов онлайн-роботизации накладывается на исторически сложившуюся аутентичную картину общественных конфликтов и противоречий, что крайне затрудняет попытки предсказать, какова будет совокупная динамика подобной «гибридной» конфликтности.

Разумеется, политические бот-технологии способны нести и социально полезную нагрузку - они помогают проводить гражданские кампании по общественно значимым вопросам, координировать волонтерские движения и т.д. Однако, обладая известным конструктивным потенциалом с точки зрения перспектив и потребностей «цифровой демократии», феномен роботизации соц-сетей, тем не менее, служит объектом научного анализа, прежде всего, в силу связанных с ним социальных и политических рисков.

Политологи по-разному оценивают вторжение цифровых технологий в политико-коммуникационную сферу. Некоторые считают, что цифровая онлайн-

1 Райт Н. Как искусственный интеллект изменит глобальный порядок. - Россия в глобальной политике (веб-сайт). 16.07.2018. Доступ: https://globalafiairs.ru/global-processes/Kak-iskusstvennyi-МеИеЙ-ктепй:^1оЬа1пуьрог>^1ок-19678 (проверено 04.01.2020).

коммуникация является лишь очередным инструментом, не влияющим на традиционную природу политики [Соловей 2017: 123, 129], тогда как другие видят в политических алгоритмах и автоматизации сетевого пространства признаки структурирования новой политической реальности, изучение которой должно стать одним из главных вызовов для современных социальных наук [Woolley, Howard 2016: 4883].

Выявление мимикрирующих под человека бот-программ и борьба с их засильем в Интернете весьма проблематичны. Статистика ботов не систематизирована, носит спорадический характер и не имеет единой методики, поэтому трудно с точностью говорить о масштабах сетевой ботосферы, и особенно ее политического сегмента. Согласно данным ряда исследований, бот-программы контролируют почти половину всего интернет-трафика, при этом доля сложных ботов-имитаторов растет1. Порядка 270 млн аккаунтов Facebook и 48 млн аккаунтов Twitter признаются поддельными [Obadimu et al. 2019: 2]. А в социальной сети ВКонтакте, по некоторым оценкам, боты обеспечивают до 30% пользовательской активности [Мартьянов 2016: 75].

Верификация ботов представляет собой чрезвычайно сложную задачу, причем не только техническую, но требующую мобилизации объединенного инструментария точных (методы машинного обучения) и гуманитарных (семантический, поведенческий и контент-анализ) наук. Помимо прочего, решение данной проблемы предусматривает корпоративную ответственность крупнейших сетевых платформ, включая разработку эффективных механизмов контроля над системой алгоритмизированного информационного обмена, что позволило бы минимизировать риски онлайновой политической коммуникации.

Феномен роботизации социальных сетей внушает тревогу с точки зрения его этического и ценностного наполнения. Бот-программы подменяют живое интернет-общение искусственно сгенерированными симулякрами. Происходит вторжение машины в социальные сети, причем машины, управляемой третьей стороной, преследующей собственные цели, в личное информационное пространство и в сознание человека. Технологическая эволюция социального онлайн-пространства делает его все более контролируемым со стороны могущественных заинтересованных групп и все менее безопасным для миллионов рядовых пользователей.

В подобном контексте возрастает потребность в ценностно ориентированных подходах к новым технологиям, прежде всего в области робототехники и искусственного интеллекта, и в определении соответствующих этических и нормативных стандартов с тем, чтобы преодолеть их возможный конфликт с общественными интересами [Шваб, Дэвис 2018: 47]. Для нейтрализации рисков развития нужны квалифицированная экспертиза технологического прогресса, привлечение внимания к социальным и политическим аспектам инноваций, которые вторгаются в жизнь современного человека и требуют немедленных и адекватных ответов не только в узкопрофессиональной среде, но со стороны институциональных структур и гражданского общества.

Список литературы

Василькова В.В., Легостаева Н.И. 2019. Социальные боты в политической коммуникации. - Вестник РУДН. Сер. Социология. Т. 19. № 1. С. 121-133.

Ефременко Д.В. 2012. Техника в политическом измерении: от мегамашины

1 Bot Traffic Report 2016. - Imperva.com. URL: https://www.imperva.com/blog/bot-traffic-report-2016/ (accessed 25.08.2019); 2018 Bad Bot Report: The Year Bad Bots Went Mainstream. -GlobalDots.com. URL: https://www.globaldots.com/bad-bot-report-2018/ (accessed 04.01.2020).

до нанороботов et vice versa. - ПОЛИТЭКС (Политическая экспертиза). № 4. С. 46-63.

Мартьянов Д.С. 2016. Политические боты как профессия. - ПОЛИТЭКС (Политическая экспертиза). Т. 12. № 1. С. 74-89.

Поцелуев С.П., Подшибякина Т.А. 2018. О факторах политической радикализации в сетевой коммуникации посредством «эхокамер». - Научная мысль Кавказа. № 2(94). С. 29-34.

Соловей В.Д. 2017. Цифровая мифология и избирательная кампания Дональда Трампа. — Полис. Политические исследования. № 5. С. 122-132.

Шваб К., Дэвис Н. 2018. Технологии Четвертой промышленной революции (пер. с англ.). М.: Эксмо. 320 с.

Epstein R., Robertson R.E. 2015. The Search Engine Manipulation Effect (SEME) and Its Possible Impact on the Outcomes of Elections. - PNAS. August 4. P. 512-521. URL: www.pnas.org/cgi/doi/10.1073/pnas.1419828112 (accessed 04.01.2020).

Obadimu A., Mead E., Al-Khateeb S., Agarwal N. 2019. A Comparative Analysis of Facebook and Twitter Bots: Conference Paper. - Proceedings of the Southern Association for Information Systems Conference. St. Simon's, Island, GA, USA. March 22nd-23rd. URL: https://www.researchgate.net/publication/333677126_A_COMPARATIVE_ ANALYSIS_OF_FACEBOOK_AND_TWITTER_BOTS (accessed 04.01.2020).

Santini R.M., Agostini L., Barros C.E., Carvalho D., Centeno de Rezende R., Salles D.G., Seto K., Terra C., Tucci G. 2018. Software Power as Soft Power. -PArtecipazione e COnflitto. Vol. 11. Is. 2. P. 332-360.

The Human Consequences of Computational Propaganda. Eight Case Studies from the 2018 US Midterm Elections - Executive Summary (ed. by K. Joseff, S. Woolley). 2019. Institute for the Future, Digital Intelligence Lab. URL: http://www.iftf.org/disinfoef-fects (accessed 04.01.2020).

Tsvetkova M., García-Gavilanes R., Floridi L., Yasseri T. 2017. Even Good Bots Fight: The Case of Wikipedia. - PLoS ONE. Vol. 12. No. 2: e0171774. P. 1-27.

Varol O., Ferrara E., Davis C.A., Menczer F., Flammini A. 2017. Online Human-Bot Interactions: Detection, Estimation, and Characterization. - arXiv:1703.03107v2 [cs. SI]. 27 Mar. P. 1-11. URL: https://arxiv.org/pdf/1703.03107.pdf (accessed 04.01.2020).

Woolley S.C., Howard P.N. 2016. Automation, Algorithms, and Politics| Political Communication, Computational Propaganda, and Autonomous Agents. Introduction. - International Journal of Communication. Vol. 10. P. 4882-4890.

MIKHAYLENOK Oleg Mihaylovich, Dr.Sci.

MALYSHEVA Galina Anatol'evna, Researcher Scientist of the Center for Political Science and Political Sociology, Sociological Institute — branch of the Federal Center of Theoretical and Applied Sociology, Russian Academy of Sciences

ROBOTIZATION OF SOCIAL MEDIA AND ITS POLITICAL IMPLICATIONS

Abstract. The article analyzes the role of technologies of the fourth industrial revolution in the development of network space and online political communication. The authors believe that the consequence of social networks' technological update is their gradual dehumanization: human users are replaced with generated virtual identities (software bots). The authors

demonstrate that one of the objectives in the development of robotic network agents is the exertion of political influence and the promotion of ideological and value attitudes in the interests of certain political actors. The authors emphasize that the use of political bot technologies leads to a polarization of public sentiment and an increase in potential for conflict both in the virtual world and in offline political space. The ethical aspects of social networks' robotization, as well as the problems associated with identifying bots and minimizing the social and political risks of their expansion in the network environment, are studied. The authors conclude that a value-oriented approach to the development and implementation of innovative technologies is required, and that it is extremely important for professional communities, state institutions and civil society to draw attention to socio-political aspects of technological progress.

Keywords: digital technologies, political communication, social networks, artificial intelligence, political bots, computational propaganda, information warfare

КЛИМАШЕВСКАЯ Ольга Викторовна — кандидат политических наук, доцент Московского авиационного института

ЦИФРОВАЯ МОДЕРНИЗАЦИЯ РОССИЙСКОГО ГОСУДАРСТВА И ОБЩЕСТВА: ПЛЮСЫ, ВЫЗОВЫ И РИСКИ

Аннотация. В статье раскрываются актуальные вопросы государственной политики в области цифровой модернизации. Автор анализирует грядущие изменения через рассмотрение экспертного мнения вице-премьера России, изучает нормативно-правовые акты, попавшие под удар нарастающего вектора в сфере информационных технологий и цифровизации. В статье также показано отношение зарубежных стран к данному направлению.

Ключевые слова: цифровизация, трансформация, модернизация, информационное общество, цифровой кейс, электронный паспорт, единая база данных

На сегодняшний день актуальными являются рекомендации для развития цифровых государств, которые подготовили министры стран «Большой двадцатки» (G20) в 2019 г. В них делается акцент на необходимости комплексного развития цифровой, экономической, социальной сфер и государственного управления. По их мнению, странам нужно стремиться к тому, чтобы базы данных о гражданах были емкими и доступными, но сами системы при этом - хорошо защищенными от несанкционированного доступа. Генеральный директор SAP CIS Наталия Парменова уверена, что «дальнейшее развитие цифровой экономики будет связано с переходом на новые формы взаимодействия между государством, бизнесом и гражданами - например, переход на электронные трудовые книжки, электронные больничные, расширение доступности телемедицины»1.

В текущем контексте проводимой работы и преподнесения информации подавляющее большинство граждан России пребывают в состоянии полного доверия к реализуемой цифровой политике нашего государства и достаточно высокой ее поддержки.

Так, 12 сентября 2019 г. новостные ленты опубликовали важные сообщения

1 https://plus.rbc.ru/news/5b88c8c67a8aa93fdffc3fbe?ruid=uUjlB1voBjM2XafZAwmKAg== верено 23.12.2019).

(про-