ПСИХОЛОГИЧЕСКИЕ МЕХАНИЗМЫ ПРОДВИЖЕНИЯ НЕДОСТОВЕРНОЙ ИНФОРМАЦИИ В СЕТИ ИНТЕРНЕТ

Научно-практическая статья

УДК 159.9.072; 159.99 © Е. А. Михеев, 2021

doi: 10. 24412/1999-6241-2021- 4-87-423-434

5.3.5 Социальная психология, политическая и экономическая психология

Психологические механизмы продвижения недостоверной информации в сети Интернет

Евгений Александрович Михеев 1

1 Институт психологии Российской академии наук, 129366, Москва, ул. Ярославская, 13, корп. 1, Россия Реферат

Введение. Анализ освещения социально значимых событий последних лет показывает, что все большее внимание в научном сообществе уделяется изучению проблем восприятия, усвоения и формирования установочных суждений и отношения к происходящему в условиях появления новых форм манипулятивного воздействия, основанных на технологиях искусственного интеллекта, машинного обучения, блокчейна, Big Datа, анализу социально-психологических и индивидуально-личностных характеристик пользователей новых видов средств массовой коммуникации (социальных сетей, блогов, форумов, платформ), их уязвимостей, склонности к продвижению непроверенной информации. Цель — выяснение психологических механизмов, форм и методов манипулятивного воздействия в интернете, поиск путей противодействия деструктивной информации. Материалы и методы. Проводился анализ отечественной и зарубежной научной литературы по социальной, информационной, политической, общей психологии, в которой раскрываются психологические механизмы, способствующие продвижению, усвоению и реагированию на ложные сообщения в цифровой среде. Применялись методы аналогий, формальной и диалектической логики, сравнительный метод. Результаты и обсуждение. Раскрывается роль психологических механизмов, эффектов и феноменов в продвижении и усвоении деструктивной информации, формируемой и распространяемой различными субъектами в своих целях. Обращается внимание на эффект иллюзии правды, эхо-камеры, когнитивные способности, связанные с аналитическим и открытым мышлением, непредубежденностью, на явления, затрудняющие противодействие распространению ложных сведений. Вывод. Выявлены основные психологические механизмы, способствующие продвижению недостоверной информации, а также рассмотрены пути повышения психологической устойчивости и противодействия информационно-психологическому воздействию на пользователей интернета.

Ключевые слова: психологические механизмы; фейковые новости; информационно-психологическая безопасность;

манипуляции; иллюзия правды; аналитическое мышление

Благодарности: автор благодарит за помощь и содействие в организации исследования заведующего лабораторией социальной и экономической психологии Института психологии РАН профессора, доктора психологических наук Т. А. Нестика.

Для цитирования: Михеев Е. А. Психологические механизмы продвижения недостоверной информации в сети Интернет // Психопедагогика в правоохранительных органах. 2021. Т. 26, № 4(87). С. 423-434. htpps://doi.org/10. 24412/1999-6241-2021-4-87-423-434

Scientific and Practical Article

UDC 159.9.072; 159.99 © E. A. Mikheev, 2021

doi: 10. 24412/1999-6241 -2021 - 4-87-423-434

5.3.5 Social psychology, political and economic psychology

Psychological Mechanisms of Promoting False Information on the Internet

Evgeny A. Mikheev 1

1 Federal State Budgetary Institution of Science Institute of Psychology of Russian Academy of Science; 13 Yaroslavskaya st., building 1, Moscow, 129366, Russia Abstract

Introduction. The analysis of the coverage of socially significant events of recent years shows that increasing attention in the scientific community is paid to the study of the problems of perception, assimilation and formation of attitude judgments and attitudes to what is happening in the conditions of the emergence of new forms of manipulative influence based on artificial intelligence technologies, machine learning, blockchain, Big Data, analysis of socio-psychological and individual personal characteristics of users of new types of media of mass communication (social networks, blogs, forums, platforms), their vulnerabilities, propensity to promote unverified information. The goal is to find out the psychological mechanisms, forms and methods of manipulative influence on the Internet, search for ways to counteract destructive information. Materials and Methods. The analysis of domestic and foreign scientific literature on social, informational, political, and general psychology was carried out, which reveals the psychological mechanisms that promote, assimilate, and respond to false messages in the digital environment. The methods of analogies, formal and dialectical logic, and the comparative method were used. Results and Discussion. The role of psychological mechanisms, effects and phenomena in the promotion and assimilation of destructive information generated and disseminated by various subjects for their own purposes is revealed. Attention is drawn to the effect of the illusion of truth, echo chambers, cognitive abilities associated with analytical and open thinking, open-mindedness, issues that make it difficult to counteract the spread of false information. Conclusion. The main

psychological mechanisms contributing to the promotion of unreliable information are identified, and the ways to increase psychological stability and counteract the information and psychological impact on Internet users are considered.

Keywords: psychological mechanisms; fake news; information and psychological security; manipulations; illusion of truth;

analytical thinking

Acknowledgements. The author thanks T. A. Nestik - the head of the Laboratory of Social and Economic Psychology of the Institute of Psychology of the Russian Academy of Sciences, Professor, Doctor of Psychological Sciences

for his help and assistance in organizing the study.

Citation: Mikheev E. A. Psychological mechanisms of promotion of false information on the Internet. Psychopedagogy in Law Enforcement. 2021. V. 26, No. 4(87). Pp. 423-434 (In Russ.). htpps://doi.org/10. 24412/1999-6241-2021-4-87-423-434

Основные положения

1. Недостоверная информация в интернете — это сложное многоаспектное социальное явление, обусловленное особыми механизмами и факторами, влияющими на продвижение и усвоение информации, тесным образом связанное с восприятием, осмыслением и формированием общественного мнения о значимых событиях, принимаемых государственных решениях, с оценкой деятельности органов исполнительной власти, в том числе обеспечивающих безопасность и обороноспособность государства.

2. Психологические механизмы продвижения и усвоения деструктивной информации являются важным фактором при организации противодействия информационно-психологическому воздействию, поиске путей повышения психологической устойчивости и обеспечении информационно-психологической безопасности личности, общества и государства.

Введение

Актуальность, значимость и сущность проблемы. Проблема лжи давно изучается в контексте мировоззренческих и морально-этических проблем, занимает важное место в структуре социально-психологического знания.

В последнее время проблема лжи приобрела особую значимость в связи с развитием новых информационно-коммуникационных технологий (далее — ИКТ) и появлением широкого спектра информационных угроз, связанных с различными видами манипуляций, в том числе элементами массовой цифровой дезинформации, фейковыми новостями. Вместе с тем наблюдается рост уровня доверия к новым СМИ (блоги, социальные сети).

В эпоху постправды, о которой сейчас много говорится, когда интерпретация события, формирование отношения к нему в массовом сознании важнее истинного положения дел, анализ манипулятивных технологий, влияющих на это отношение, поиск способов противодействия информационно-психологическому воздействию становятся одним из приоритетных направлений в обеспечении национальной безопасности государства.

Цель статьи — выявление психологических механизмов, форм и методов манипулятивного воздействия

в интернете, поиск путей противодействия деструктивной информации.

Теоретические предпосылки и состояние проблемы. Недостоверная информация в интернете часто рассматривается с позиций осознанного и неосознанного воздействия на массовое сознание, отдельных людей и сферы психики человека. К неосознанному распространению неподтвержденных сообщений относится процесс продвижения слухов. По мнению Д. С. Горбатова, активной передаче слухов способствуют несвоевременность, фрагментарность, противоречивость, субъективная недостоверность официальных новостей и их несоответствие ожиданиям. Слухи актуальны, пока позволяют понимать происходящие события. Они помогают в психологической защите личности, восстановлении субъективного контроля [1].

К осознанным видам информационного воздействия относятся все действия человека или группы лиц в информационном пространстве, направленные на достижение определенной цели. Примером осознанного воздействия является массовая цифровая дезинформация, использующаяся в информационном противоборстве и конкурентной борьбе для достижения экономических целей, для формирования в массовом сознании так называемых мифов и фантомов, которые под давлением социального конформизма могут некритично приниматься на веру и в дальнейшем использоваться как аргументы для принятия тех или иных политических решений, в целях легитимизации в глазах общества какого-либо политического проекта, направленного на достижение или ослабление страны-мишени. Дезинформационное воздействие может осуществляться в отношении населения и политического руководства страны-мишени в ходе стратегических информационно-психологических операций [2], гибридной войны [3, с. 44-61], а также руководителей полицейских структур, работающих в экстремальной обстановке (массовые беспорядки, террористические акты, межэтнические и межрелигиозные конфликты, наводнения, землетрясения) [4]. Субъектами информационного противоборства при этом могут выступать как легитимные, так и нелегитимные акторы [5, 141-154; 6, с. 83-99]. В обыденном сознании под дезинформацией обычно подразумева-

ется ложь, определяемая в научной литературе как «вымысел» [7, с. 30-32], «акт внушения» [8], «особый вид мышления» [9], «акт воздействия» [10], «реализация намерения субъекта ввести партнера в заблуждение» [11].

Многие столетия исследования природы, механизмов и системы манипулятивных технологий проводились в рамках решения военно-политических прикладных задач. Дезинформацию как эффективный метод введения в заблуждение противника рассматривали в военном искусстве. Среди исследователей этого аспекта дезинформации можно выделить древнего мыслителя Джаммапада (V в. до н. э.), греческого историка Фуки-дида (460-400 гг. н. э.), римского юриста Полиэна (II в.). Причину популярности метода дезинформации в военном искусстве емко объяснил в трактате «Искусство войны» китайский мыслитель Сунь-Цзы: «Война — это путь обмана, постоянной организации ложных выпадов, распространения дезинформации, использования уловок и хитростей. Когда такой обман хитроумно задуман и эффектно применен, противник не будет знать, где атаковать, какие силы использовать и, таким образом, будет обречен на фатальные ошибки» [12].

Несмотря на актуальность темы, попытки исследовать данную проблему в нашей стране только начинают предприниматься. В частности, можно выделить изучение влияния дезинформации на межличностное общение и групповые защитные механизмы, в том числе на механизмы защиты позитивной групповой идентичности [13], в отношении некоторых аспектов динамики коллективных переживаний в процессе воздействия средств массовой коммуникации (далее — СМК) на массовое сознание. Зарубежные исследователи обращали внимание на личностные характеристики, делающие человека более подверженным дезинформации, на эффекты ложных воспоминаний [14], множественности источников, неопределенности воспринимаемого сходства [15, с. 198-208], способы снижения подверженности личности дезинформации; влияние дезинформации на эмоциональные состояния в закрытых интернет-сообществах — «эхо-камерах»; на связь готовности к распространению дезинформации с консервативными и либеральными политическими ориентациями, социальным доминированием; эффекты и феномены различных типов дезинформации: конспирологии, троллинга, эмоциональности.

В ходе анализа научной литературы установлено, что в интернете широко распространен эффект иллюзии правды, когнитивного искажения, при котором вера в достоверность информации повышается после ее многократного восприятия. Этот феномен объясняется тем, что уже знакомую информацию легче

воспринимать и анализировать. Распространению

и укреплению в массовом сознании лжи в интернете способствует эффект первичности, который заключается в склонности человека наибольшее значение придавать сведениям, полученным ранее. Проведенные исследования показывают, что усвоенная таким образом дезинформация остается с человеком надолго и не позволяет ему менять взгляды даже после опровержения недостоверных сведений [16, с. 20-30].

На продвижение недостоверных сведений оказывает влияние склонность верить в информацию конспирологического характера [17]. Подобные материалы содержат обычно сведения, объясняющие важные общественно-политические события результатом сговора, тайной влиятельной группы людей. В итоге сложные социальные явления и процессы значительно упрощаются и легко усваиваются человеком. В действительности проверить истинность содержащихся сведений в материалах конспирологической направленности очень трудно. Ряд исследований показывает, что на склонность продвигать конспирологическую дезинформацию влияют либеральные/консервативные политические взгляды, уровень социального доминирования [18], а также конспирологическое мировоззрение, т. е. склонность людей верить в теории заговора. Согласно исследованиям ВЦИОМ, только в России 67% граждан верят в существование такого конспирологического явления, как мировое правительство, принимающее все важные политические решения. В это правительство, по мнению россиян, входят различные олигархи, преимущественно стран запада, а политические деятели нашей страны к узкому кругу мировых властителей не допускаются '. Стоит отметить, что в период пандемии COVID-19 массово вбрасывалась и продвигалась версия об искусственном происхождении вируса, его изобретении в закрытых лабораториях в целях уничтожения населения в интересах тайной мировой закулисы.

Еще одно направление исследований в контексте распространения недостоверной информации связано с изучением такого феномена, как групповая поляризация и сдвиг к риску. Феномен «сдвиг к риску» был введен Д. Стоунером в 1961 г., а феномен групповой поляризации открыт и описан С. Московичи в 1969 г. [19]. Психологический феномен групповой поляризации заключается в расхождении по разным полюсам мнений участников дискуссий. В социальных сетях групповая поляризация связана с уровнем негативного отношения к потребляемой информации, уровнями агрессии. Как полагают некоторые зарубежные исследователи [20], групповая поляризация может быть ключевым показателем при выявлении сообществ, в которых наиболее

1 Откуда исходит угроза миру? // Аналитический обзор ВЦИОМ. 11.07.2018. URL: https://wciom.ru/analytical-reviews/ analiticheskii-obzor/otkuda-iskhodit-ugroza-miru (дата обращения: 05.04.2021).

вероятно распространение ложной и вводящей в заблуждение информации. Феномен групповой поляризации связан с такой широко используемой технологией психологических операций, как «разжигание противоречий между различными социальными группами», для создания очага напряженности и дестабилизации обстановки в стране-мишени.

Исследования (п=575), проведенные Д. Кальвилло и Т. Смелтером, специалистами из Калифорнийского государственного университета США, показали, что на восприятие ложной информации как правдивой влияют первоначальный интерес к заголовку материала и оценка его правдивости. Оказалось, что интерес к заголовку какой-либо информации повышает субъективную достоверность при ее повторном получении. В то же время стремление оценить, насколько правдив заголовок впервые увиденной новости, наоборот, снижает субъективную оценку ее достоверности при повторном предъявлении [21]. Существует важный психологический эффект, заключающийся в том, что чем больше контента, содержащего недостоверную информацию, публикуется, тем более вероятно, что люди поверят в него [22-24].

Кроме того, обнаружено, что на веру в ложные сведения, фейковые новости влияют когнитивные способности, например открытое и аналитическое мышление, непредубежденность [25]. При открытом типе мышления мы видим потребности, цели и проблемы других людей, понимаем, как те или иные наши действия повлияют на них, и берем на себя ответственность за свое поведение. В процессе аналитического мышления индивидуум использует данные, которыми он обладает, и логическую составляющую для принятия того или иного решения. Непредубежденность — склонность не испытывать предубеждение против кого-либо, не основываться в своих решениях на предубеждении, быть беспристрастным, объективным и непредвзятым.

Однако, на наш взгляд, проведенные исследования не дают исчерпывающего представления о социально-психологических аспектах, которые объясняют механизмы усвоения, распространения и продвижения фейков, деструктивного контента, элементов массовой цифровой дезинформации. Мы полагаем, что дезинформация по-разному воспринимается пользователями, сталкивающимися с этим явлением. Для одних она, вероятно, представляет специфический вид информации и связана с негативной оценкой, а также отказом от продвижения и распространения фейков. Для других дезинформация является приемлемым методом достижения различных целей. Субъективная эмоциональная оценка, представления, ценности и смыслы могут влиять в конечном счете на характер продвижения, усвоения или противодействия деструктивному контенту. Все это непосредственно связано с психологическим отношением. Очень важно понимать, что же

представляет структуру отношения к этому сложному социальному явлению. Какие психологические феномены обусловливают готовность продвигать фейковые новости или, наоборот, дистанцироваться от проблемы лжи в интернете? Важной теоретической задачей выступает изучение содержания, границ этого вида психологических отношений и его факторов.

Немаловажно изучение психологических механизмов, факторов и феноменов на внутриличностном, межличностном, внутригрупповом, межгрупповом и социетальном уровнях. Требует прояснения влияние на склонность к распространению ложной информации психологического отношения к этому явлению, ингруппового и аутгруппового доверия, ценностных ориентаций, тревожности, социальной идентичности, моральных оснований, конспирологической ориентации и мировоззрения, личностных черт и конструктов, характеристик межличностного взаимодействия в ходе дезинформирования, воспринимаемого межличностного сходства, групповой динамики, эффектов группового мышления, поляризации, фрейминга (рамки), доверия к традиционным СМИ, доверия к государству. Необходимо также рассмотреть связь дезинформации с распространением тревожных состояний и фобий, особенностями национальной идентичности, степенью политической стабильности внутри страны, особенностями национальной культуры.

Материалы и методы

Проводился анализ научной и исторической литературы, нормативных правовых документов, содержащих сведения об актуальных психологических исследованиях, данных эмпирического исследования, связанных с распространением фейковой информации в интернете, поиском способов противодействия влиянию личностных и социально-психологических факторов на продвижение, усвоение и готовность к противодействию массовой цифровой дезинформации. Применялись методы аналогий, формальной и диалектической логики, сопоставления.

Для исследования отношения личности к дезинформации была разработана авторская анкета, направленная на измерение когнитивных, эмоционально-оценочных, ценностно-смысловых и поведенческих характеристик отношения к дезинформации, способов ее предотвращения и использования. Кроме того, применялись Опросник моральных оснований (MFQ) Дж. Хайдта в адаптации О. А. Сычева [26]; опросник «Социальные аксиомы» М. Бонда и К. Леонга в адаптации Н. Н. Лебедевой и А. Н. Татарко [27; 28]; опросник ценностных ориентаций Ш. Шварца [29]; краткий пятифакторный опросник черт личности Т1Р№ С. Гослинга в адаптации А. С. Сергеевой, Б. А. Кириллова и А. Ф. Джумагулова [30]; методика «Темная дюжина» в адаптации Т. В. Корниловой и ее соавторов [31]. В исследовании приняли участие 125 человек.

Результаты и обсуждение

Изучение взаимосвязи отношения к дезинформации и социально-психологических характеристик личности. Нами было проведено эмпирическое исследование, направленное на изучение взаимосвязи отношения к дезинформации и социально-психологических характеристик личности среди пользователей социальной сети «ВКонтакте». Факторный анализ с помощью метода главных компонент вращения Варимакс позволил выделить 5 факторов отношения личности к дезинформации как социальному явлению, объясняющих 48,4% дисперсии:

1) признание необходимости государственных мер, направленных на защиту общества от дезинформации;

2) готовность к действиям для защиты себя и общества от дезинформации;

3) игнорирование проблемы дезинформации как естественного общественного явления;

4) негативное отношение к дезинформации и признание ее недопустимой в любых формах;

5) отказ от свободы общения в социальных сетях.

Как показал линейный регрессионный анализ методом обратных шагов (табл. 1), признание необходимости государственных мер, направленных на защиту общества от дезинформации, связано с уважением к авторитетам (0,388), верой в справедливость (0,347), социальной сложностью (0,203), а также доверием к людям (0,176) и с открытостью новому опыту (-0,199).

Таблица 1. Личностные детерминанты признания необходимости государственных мер, направленных

на защиту общества от дезинформации

Предикторы B SE в t Р

Социальная сложность (SAS) 0,272 0,132 0,203 2,053 0,044

Шкала справедливости (MFQ) 0,07 0,019 0,347 3,746 0,001

Шкала уважения к авторитетам (MFQ) 0,083 0,02 0,388 4,149 0,001

Открытость новому опыту -0,136 0,069 -0,199 -1,981 0,051

Доверие к людям 0,175 0,094 0,176 1,858 0,067

Примечания: B — значения коэффициентов регрессионного уравнения; SE (Std. Error) — стандартная ошибка коэффициентов; в — коэффициенты регрессионной модели (корреляционная связь); t — критерий для проверки статистической значимости соответствующего коэффициента; p — уровень значимости коэффициентов (вероятность ошибочного принятия гипотезы о существовании ненулевых коэффициентов регрессии).

На наш взгляд, полученные результаты объясняются тем, что для личности, для которой нет абсолютных правил, но есть множество разных способов достижения результатов, противоречивость человеческого поведения представляется вполне естественной,

«фейковые новости» и дезинформация являются причиной того, что мир становится более однобоким, примитивно лживым и несет угрозу для «своей группы». Принадлежность к определенной социальной группе для личностей с подобными характеристиками, вероятно, играет важную роль. Значимы также групповые ценности, традиции и уважительное отношение к ее лидерам, в том числе политическим. Таким образом, на действия государства в борьбе с дезинформацией надеются преимущественно консервативно настроенные интернет-пользователи, которые характеризуются закрытостью к новому.

Установлено, что готовность к действиям для защиты себя и общества от дезинформации (табл. 2) на достоверном уровне связана с верой в предопределенность, т. е. в зависимость от судьбы (0,229), с религиозностью (0,226), верой в вознаграждение усилий (0,209), а также лояльностью к своей группе (0,192), гедонизмом (0,179). Обратная связь данной детерминанты установлена с открытостью новому опыту (-0,207).

Таблица 2. Личностные детерминанты готовности к действиям для защиты себя и общества от дезинформации

Предикторы B SE в t Р

Открытость к новому опыту -0,156 0,074 -0,207 -2,102 0,039

Религиозность (SAS) 0,176 0,084 0,226 2,103 0,039

Вера в вознаграждение усилий (SAS) 0,259 0,125 0,209 2,079 0,041

Зависимость от судьбы (SAS) 0,235 0,108 0,229 2,185 0,032

Гедонизм 0,127 0,070 0,179 1,807 0,075

Шкала лояльности (MFQ) 0,044 0,025 0,192 1,784 0,079

На наш взгляд, высокое по сравнению с другими предикторами значение веры в то, что все события в жизни предопределены, но существуют разные способы влиять на свою судьбу, в целом объясняет готовность лично бороться с проблемой дезинформации. Более того, готовность активно бороться — это не только способ изменения своей собственной судьбы, но и решение проблемы защиты своих близких и друзей от информационных угроз на более высоком уровне. Подобная интерпретация соответствует концепции социальных аксиом, разработчики которой утверждали, что вера в вознаграждение усилий и зависимость от судьбы призваны помочь людям в процессе выживания и адаптации к окружающему миру при разрешении проблем на социальном уровне, к какому и относится явление массовой цифровой дезинформации. Еще одна социальная аксиома — религиозность, также имеющая близкие к предыдущим аксиомам значения, связана с поиском смысла

на личностном уровне. Таким смыслом, по всей вероятности, также может выступать активная борьба с одной из глобальных угроз человечеству. Значимость морального основания лояльности, характерная для более консервативных личностей, связана с доверием и верой в государственные институты, готовностью поддерживать его инициативы, направленные на повышение уровня информационной безопасности населения. С традиционными консервативными взглядами, направленными на стабильность и приверженность установленным в обществе нормам, связано и нежелание открываться новому опыту. Вместе с тем от чувства своей сопричастности и возможности что-то делать для повышения уровня защищенности от информационных угроз личность может испытывать чувство удовлетворения и в какой-то степени наслаждения, о чем свидетельствует связь с гедонизмом.

Наиболее весомыми предикторами игнорирования проблемы дезинформации как естественного общественного явления (табл. 3) стали уважение к авторитетам (0,433), гедонизм (0,268), вера в вознаграждение за усилия ф=0,231), социальный цинизм, а также низкий уровень лояльности (-0,471), ориентации на гармонию в отношениях между людьми (-0,267) и ценности безопасности (-0,190).

Таблица 3. Личностные детерминанты игнорирования проблемы дезинформации как естественного общественного явления

Предикторы B SE ß t Р

Социальный цинизм (SAS) 0,197 0,099 0,201 2,002 0,049

Вера в вознаграждение усилий (SAS) 0,228 0,112 0,231 2,044 0,045

Ориентация на гармонию в отношениях между людьми (SAS) -0,227 0,108 -0,267 -2,096 0,04

Шкала лояльности (MFQ) -0,086 0,029 -0,471 -2,975 0,004

Гедонизм 0,151 0,062 0,268 2,443 0,017

Безопасность -0,116 0,064 -0,190 -1,809 0,075

Шкала уважения к авторитетам (MFQ) 0,081 0,03 0,433 2,702 0,009

Как следует из таблицы, для личностей, игнорирующих проблемы дезинформации как естественного общественного явления, менее актуальны вопросы безопасности. Причины этого могут быть в отсутствии личного опыта или неполном, фрагментарном представлении о проблеме, слабой информированности, а также направленности на индивидуалистические ценности, решение личных проблем, отсутствие желания обращать внимание на окружающих, участвовать в общественной жизни города, страны. Характерными являются представления о лжи как норме поведения в обществе, как способе достижения определенных

целей. Люди с подобным отношением к дезинформации ориентированы на получение удовольствия. Примечательно и то, что предиктором являются моральные основания уважения к авторитетам. Видимо, это связано с тем, что личность полностью полагается на государственные институты как силу, необходимую для сдерживания естественной для человека склонности ко лжи и нарушению правил.

Негативное отношение к дезинформации и признание ее недопустимой в любых формах (табл. 4) связано со справедливостью (0,523) и экстраверсией (0,189), а также с отрицательными значениями достижений (-0,286), психопатии (-0,234), контроля над судьбой (-0,254), социального цинизма (-0,222) и добросовестности (-0,209).

Таблица 4. Личностные детерминанты негативного отношения к дезинформации и признания ее недопустимой в любых формах

Предикторы B SE ß t Р

Социальный цинизм (SAS) -0,245 0,102 -0,222 -2,396 0,019

Контроль над судьбой (SAS) -0,266 0,101 -0,254 -2,631 0,011

Шкала справедливости (MFQ) 0,104 0,021 0,523 5,064 0

Достижения -0,208 0,073 -0,286 -2,861 0,006

Экстраверия 0,121 0,064 0,189 1,893 0,063

Добросовестность -0,137 0,067 -0,209 -2,045 0,045

Психопатия -0,217 0,092 -0,234 -2,364 0,021

Вероятно, для личности с подобным отношением к дезинформации характерен высокий уровень справедливости, а также общительность. Возможно, это связано с ориентацией на высокие идеалы и духовные ценности. Эти люди не признают ложь общественной нормой, не стремятся к достижению личного успеха в рамках разделяемых культурных стандартов и вследствие этого — получению социального одобрения.

На готовность к отказу от свободы общения в социальных сетях (табл. 5) больше всего влияния оказывают конформность (0,325), психопатия (0,294), уважение к авторитетам (0,187). Обратная связь установлена с гедонизмом (-0,284), нарциссизмом (-0,275) и универсализмом (-0,185).

Можно предположить, что в основе связи конформности и поддержки ограничения свободы в сети лежит стремление ограничить действия и побуждения, причиняющие вред другим или нарушающие социальную гармонию, которая выводится из потребности групп к самосохранению и выживанию и потребности личности гармонично взаимодействовать с другими людьми. Вместе с тем высокий вклад психопатии указывает на низкую эмпатию у сторонников

ограничения свобод для борьбы с дезинформацией. Напротив, готовность к ограничению свобод в сети тем ниже, чем выше ориентация на удовлетворение универсальных потребностей в красоте, гармонии и справедливости, а также чем выше значимость самопрезентации (нарциссизм) и удовольствия от свободы общения (гедонизм).

Таблица 5. Личностные детерминанты готовности к отказу от свободы общения в социальных сетях

Предикторы B SE ß t P

Конформность 0,248 0,101 0,325 2,451 0,017

Универсализм -0,141 0,075 -0,185 -1,89 0,063

Гедонизм -0,191 0,077 -0,284 -2,486 0,015

Нарциссизм -0,211 0,075 -0,275 -2,821 0,006

Психопатия 0,282 0,108 0,294 2,616 0,011

Шкала уважения к авторитетам (MFQ) 0,043 0,024 0,187 1,802 0,076

Противодействие распространению ложных сообщений. Противодействие распространению ложных сообщений осуществляется через совершенствование нормативной правовой базы, предусматривающей наказание за распространение недостоверных сведений, а также выявление фейков с помощью специальных программ для мониторинга, основанных на машинном обучении, включающих специальные размеченные корпусы текстов для прогностического моделирования. Многие специалисты обращают внимание на то, что в разработке текстовых корпусов ощущается огромный дефицит примеров недостоверных новостей. Отчасти это объясняется различиями в подходах к проверке правдивости информации, а также разнообразием содержательных характеристик самой информации, которую необходимо проверить. Кроме того, не разработана единая классификация ложной информации. В связи с этим существуют разные подходы. В частности, ряд исследователей предлагает рассматривать три типа фейков: сфабрикованные новости (распространяемые в официальных или альтернативных СМИ), мистические новости, а также сатирические материалы [32].

Стоит отметить, что ключом к повышению уровня защищенности перед манипулятивными воздействиями может являться работа с индивидуально-личностными и социально-психологическими факторами [33], которые способствуют усвоению ложного контента. Например, установлено, что некритическому восприятию вводящей в заблуждение информации, в частности, веры в распространяемый недавно на YouTube фейк о плоской земле, способствовали низкий уровень научного интеллекта и выраженность конспирологического мировоззрения [34]. Важными факторами также выступают: доверие к информации, мотивация отправителя и вера в то, что он

тот, за кого себя выдает, доверие к источнику информации [35]. Что касается доверия к источнику информации, то в последнее время предлагается использовать ссылки на источники как элемент борьбы с недостоверной информацией. Однако подобный метод не совсем надежен и может привести при определенных обстоятельствах к обратному эффекту [36]. Еще одним фактором является склонность в бездоказательную веру в информацию, которая исходит от известных и популярных людей. Это можно было наблюдать, в частности, в период пандемии COVID-19 [37].

Психологические маркеры как элементы анализа. В борьбе с распространением фейковой информации представляется перспективным использование технологии Big Data и связанных с ней массивов данных, которые аккумулируются пользователями в социальных сетях и на интернет-платформах. Эти данные в режиме реального времени позволяют получать объективную информацию о типах, количествах, секторах пользователей, склонных к продвижению или уже продвигающих фейки, готовых противодействовать распространению ложной информации. Сегодня технически проведение подобного анализа может замыкаться на так называемые цифровые следы, т. е. показатели или элементы активности пользователей. Широкое распространение получают исследования, связанные с изучением поведения пользователей социальных сетей [35; 38], а также психологическое профилирование личности по цифровым следам на основе иерархической модели личности, известной как «Большая пятерка». Результаты этих работ применяются сегодня в политических, маркетинговых и корпоративных проектах [39; 40].

До недавнего времени технологии анализа цифровых следов разрабатывались на основе анализа сообщений в Twitter. При анализе информации использовались методы компьютерной лингвистики [41; 42]. В дальнейшем в рамках проекта MyPersonality.org данные, полученные на основе активности пользователей, стали сопоставляться с результатами традиционных опросников, пройти которые предлагалось пользователям Facebook. Для анализа методом снежного кома были собраны более 6 млн участников [40; 43]. Коэффициент надежности по отметкам «лайк» таких маркеров, как политические убеждения и социально-демографические характеристики, доходил при этом до 0,9. Некоторые исследования показывают, что на основе 70 отметок «лайк», оставленных пользователем социальной сети, можно определить политическую ориентацию, отношение к здоровью и алкогольным напиткам [44]. Проведенный в 2017 г. метаанализ исследований, посвященных связи цифровых следов с «Большой пятеркой», показывает, что их предсказательная сила колеблется от 0,29 для доброжелательности до 0,40 для экстраверсии, т. е не уступает стандартизированным опросникам [45].

На основе открытой информации из цифровой среды представляется возможным создание прогнозных моделей распространения фейковой информации, а также ее влияния на внутриполитические и международные процессы, общество в целом, отдельные группы или личности. Примечателен в связи с этим опыт Китая, где в последнее время в научно-исследовательских институтах и образовательных организациях активизирована работа по изучению и анализу зарубежных стран, их внутренних процессов, тенденций. Ряд китайских исследователей обращает внимание на важность использования при анализе именно психологических маркеров и индикаторов. Одним из сторонников такого подхода является руководитель Центра Российского и Центрально-Азиатского исследований, доцент Школы правительства (государственного управления) имени Чжоу Эньлая Нань-кайского университета Китая Ян Лэй. В ходе анализа вооруженных конфликтов на территории СНГ с позиций политической психологии ему удалось установить, что основным фактором, который влияет на принятие политических решений об участии России в боевых действиях, является внешнее давление. В случае если внешнее давление не изменяется, то на первое место выходят эмоциональные факторы. Например, чувство опасности, чувство привязанности. Ян Лэй составил матрицу прогнозов отношений между Россией и различными странами мира. Некоторые прогнозы из этой матрицы уже начали сбываться. В частности, он в точности предсказал ситуацию, связанную с обострением этнополитического конфликта в Восточном Закавказье между азербайджанцами и армянами, а также ввод миротворческого контингента Вооруженных сил РФ в Нагорный Карабах в 2020 г. [46].

Таким образом, недостоверная, вводящая в заблуждение информация в виртуальном пространстве имеет свою специфику, обусловленную, с одной стороны, возможностями, которые представляют новые виды информационно-коммуникационных технологий (доступность, оперативность, информативность, простота в использовании), с другой — наличие множества психологических эффектов, феноменов и механизмов, в частности аналитического мышления, эффектов ложной памяти, множества источников, фрейминга (рамки), иллюзии правды, конспирологической ориентации и мировоззрения, групповой поляризации, каскадов доступности информации, гемофильности. Их изучение и учет, на наш взгляд, будет способствовать повышению уровня защищенности личности, общества и государства от внутренних и внешних информационно-психологических угроз.

Выводы

1. Распространению недостоверной информации в сети Интернет способствует множество психологических феноменов, механизмов и эффектов, которые

влияют на степень усваивания пользователями, продвижения и в конечном счете на изменение социально-психологических характеристик, готовности людей совершать действия как в онлайн-, так и в офлайн-средах, в том числе противоправной направленности.

2. Проведенное эмпирическое исследование показало, что характеристики отношения личности к дезинформации связаны с ценностными блоками, ориентацией на либеральные и консервативные ценности, психологическими чертами и конструктами. Так, признание необходимости государственных мер, направленных на защиту общества от дезинформации, связано с высокими уровнями уважения к авторитетам, веры в справедливость, социальной сложности, а также доверием к людям и низким уровнем открытости к новому опыту. На игнорирование проблемы дезинформации как естественного общественного явления влияют уважение к авторитетам, гедонизм, вера в вознаграждение за усилия, социальный цинизм, а также низкий уровень лояльности, ориентации на гармонию в отношениях между людьми и ценности безопасности. Негативное отношение к дезинформации и признание ее недопустимой в любых формах связаны со справедливостью и экстраверсией, а также с отрицательными значениями достижений, психопатии, контроля над судьбой, социального цинизма и добросовестности. На готовность к отказу от свободы общения в социальных сетях больше всего влияния оказывают конформность, психопатия, уважение к авторитетам. Обратная связь установлена с гедонизмом, нарциссизмом и универсализмом.

3. Потенциал новых видов СМК позволяет на основе психологических маркеров проводить анализ информационных процессов, влияющих на формирование общественного мнения о государственных организациях, в том числе органов внутренних дел, выявлять факторы, затрудняющие и, наоборот, способствующие продвижению объективных данных.

Рекомендации

1. Применительно к МВД представляется перспективным использовать психологические маркеры, в том числе полученные на основе цифровых следов, для определения состояния информационной обстановки (ИО), понимаемого как сочетание информационных условий и факторов, связанных с деятельностью СМИ. ИО характеризует текущий уровень и характер воздействия (угрозы) на деятельность МВД России, органа, обеспечивающего внутреннюю безопасность страны, со стороны отечественных и зарубежных СМИ. При этом воздействие зарубежных и части отечественных СМИ рассматривается как реализация задач в интересах иностранных государств, а ИПВ другой части отечественных СМИ — в интересах больших и малых социальных групп внутри страны (например, криминальных структур, незаконных вооруженных формирований (НВФ)). К элементам ИО относятся:

— факты ведения информационного противоборства в отношении Российской Федерации, МВД России, органа, обеспечивающего внутреннюю безопасность;

— концепции, замыслы и планы использования информационной сферы иностранными государствами (криминальными структурами, НВФ, отдельными лицами), затрагивающими интересы деятельности органов внутренних дел, общественную и личную безопасность граждан;

— позиции и личные качества лидеров иностранных государств (криминальных структур, НВФ);

— потенциал систем формирования общественного мнения иностранных государств (криминальных структур, НВФ, отдельных лиц);

— состав и возможности сил и средств информационного противоборства иностранных государств (криминальных структур, НВФ, отдельных лиц);

— состояние защищенности системы информационного противоборства МВД России;

— состояние защищенности критически важных объектов информационной структуры РФ и МВД;

— временные, пространственные, правовые, материально-технические и другие ограничения для применения сил и средств информационного противоборства в отношении иностранных государств (криминальных структур, НВФ, отдельных лиц).

2. Для анализа информационной обстановки перспективным представляется использование библиометрического подхода с возможностями машинного обучения и искусственного интеллекта, основанного на автоматическом поиске, извлечении и обобщении информации по заданным тегам (словам), а также количественных показателей (индикаторов) эмоционально-оценочных и когнитивных (представления об исследуемом объекте) компонентов,

содержащихся как в материалах СМК, так и в комментариях пользователей. Для оценки динамики изменения тональности СМК по заданным тегам (словам, содержащим оценочные характеристики, референ-циальные объекты) можно использовать так называемые пресс-индекс и индекс агрессивности, широко применяемые в политической медиаметрии. Пресс-индекс представляет оценку частоты упоминаемости в информационном пространстве конкретных слов. Индекс агрессивности основан на учете отношения суммы негативных и умеренно негативных публикаций к числу нейтральных материалов. Построенные на основе указанных методов динамические графики позволят в режиме реального времени получать информацию об информационной обстановке в сети (степень информационной напряженности, распространение информационных волн, типологизацию потребителей информации различного содержания), в том числе в привязке к конкретным регионам и населенным пунктам страны, а в перспективе — строить модели сценариев и предсказывать различные риски, в том числе связанные с последствиями распространения недостоверной информации о деятельности МВД в обычных и экстремальных условиях (резонансные происшествия, связанные с терактами, массовыми убийствами, неповиновениями, нападениями, чрезвычайными ситуациями природного и техногенного характера и т. д.).

Перспективы. В дальнейших исследованиях необходимо сосредоточиться на уточнении влияния психологических феноменов и эффектов на продвижение деструктивной информации, а также повышении уровня достоверности получаемых при профилировании личности по цифровым следам данных (на основе анализа интересов, отметок «нравится», фотографий и текста постов с комментариями).

Список источников

1. Горбатов Д. С. Эмпирическое обоснование стратегии противодействия ложным слухам // Ученые записки Санкт-Петербургского государственного института психологии и социальной работы. 2016. Т. 25. С. 1-14.

2. Николайчук И. А., Янгляева М. М., Якова Т. С. Крылья Хаоса. Масс-медиа, мировая политика и безопасность государства. М., 2018. 352 с.

3. Бартош А. А. Парадигма гибридной войны // Вопросы безопасности. 2017. № 3. С. 44-61. doi: 10.25136/2409-7543.2017.3.20815.

4. Черненилов В. И. Психология управления : учебник. М., 2011. 352 с.

5. Виловатых А. В. Меметика как инструмент современного информационного противоборства // Проблемы национальной стратегии. 2018. № 5(50). С. 141-154.

6. Смирнов А. А. Негосударственные акторы в современных информационных войнах // Международная жизнь. 2018. № 5. С. 83-99. URL: https://interaffairs.ru/jauthor/material/2020.

7. Мелитан К. Психология лжи // Соч. К. Мелитана. М., 1903. 214 с.

8. Дюпра Ж. Ложь : монография / пер. с фр. Д. И. Соловьева. М., 2008. 123 с. URL: http://biblioclub.ru/index. php?page=book&id=275165 (дата обращения: 21.03.2021).

9. Лурия А. Р. Экспериментальная психология в судебно-следственном деле // Советское право. 1927. № 2(26). 92 с.

10. Durandin G. Le fondements du mensonge. Paris, 1970. 246 p.

11. Знаков В. В. Неправда, ложь и обман как проблемы психологии понимания // Вопросы психологии. 1993. № 2. С. 9-17.

12. Малявин В. В. Сунь Цзы. Искусство войны. М., 2019. 320 с.

13. Нестик Т. А., Журавлев А. Л. Психология глобальных рисков. М., 2018. 402 с.

14. Zhu B., Chen C., Loftus E.F., Lin C., He Q., Chen C., et al. Individual differences in false memory from misinformation: Personality characteristics and their interactions with cognitive abilities. Personality and Individual Differences. 2010. Vol. 48. Pp. 889-894. doi: 10.1080/09658211.2010.487051. URL: http://www.academia.edu/10868808/Individual_differences_in_false_memory_from_misinformation_ Personality_characteristics_and_their_interactions_with_cognitive_abilities.

15. Zhang X., Ko M., Carpenter D. Development of a scale to measure skepticism toward electronic word-of-mouth. Computers in Human Behavior. 2016. V. 56. Pp. 198-208. doi: 10.1016/j.chb.2015.11.042.

16. Ecker U., Lewandowsky S., Chang E., Pillai R. The Effects of Subtle Misinformation in News Headlines. Journal of Experimental Psychology Applied. 2014. doi: 10.1037/xap0000028.

17. Del Vicario M., Bessi A., Zollo F., et al. The spreading of misinformation online. Proceedings of the National Academy of Sciences. 2016. V. 113, N. 3. Pp. 554-559.

18. Lobato E. J. C., Powell M., Padilla L. M. K., Holbrook C. Factors Predicting Willingness to Share COVID-19 Misinformation. Frontiers Psychology. 24 september 2020. doi: 10.3389/fpsyg.2020.566108. URL: https://www.frontiersin.org/articles/10.3389/fpsyg.2020.566108/ full.

19. Андреева Г. М. Социальная психология : учеб. пособие. М., 1999. 375 с.

20. Bessi A., Petroni F., Del Vicario M. et al. Viral misinformation: The role of homophily and polarization. Proceedings of the 24th International Conference on World Wide Web Companion. 18 May 2015. Pp. 355-356. URL: https://arxiv.org/abs/1411.2893.

21. Calvillo D. P., Smelter T. J. An initial accuracy focus reduces the effect of prior exposure on perceived accuracy of news headlines. Cognitive Research: Principles and Implications. 2020. doi: 10.1186/s41235-020-00257-y.

22. Dunning D., Johnson K., Ehrlinger J., Kruger J. Why people fail to recognize their own incompetence. Curr. Dir. Psychol. Sci. 2003. V. 12(3). Pp. 83-87.

23. Effron D., Raj M. Misinformation and Morality: Encountering Fake-News Headlines Makes Them Seem Less Unethical to Publish and Share. Psychol. Sci. 2020. Pp. 75-87.

24. Moons W. G., Mackie D. M., Garcia-Marques T. The Impact of Repetition-Induced Familiarity on Agreement With Weak and Strong Arguments. J. Pers. Soc. Psychol. 2009. Pp. 32-44.

25. Buonomano L. Cognitive substrates of belief in fake news. Yale University. April 23, 2020. URL: https://www.semanticscholar. org/paper/C0GNITIVE-SUBSTRATES-0F-BELIEF-IN-FAKE-NEWS-1-of-in-Buonomano-annon/b9ced22f03bcf7d8996f7693150ea3a ca9550fd7#paper-header.

26. Сычев О. А., Протасова И. Н., Белоусов К. И. Диагностика моральных оснований: апробация русскоязычной версии опросника MFQ // Российский психологический журнал. 2018. Т. 15, № 3. doi: 10.21702/rpj.2018.3.5. URL: https://www.researchgate. net/publication/329198269_Diagnostika_moralnyh_osnovanij_aprobacia_russkoazycnoj_versii_oprosnika_MFQ.

27. Bond M. H., Leung K., Au A., Tong K.K., Reimel de Carrasquel S., Murakami F. et al. Culture-level dimensions of social axioms and their societal correlates across 41 cultures. Journal of Cross-Cultural Psychology. 2004. № 35. Pp. 548-570.

28. Татарко А. Н., Лебедева Н. М. Исследование социальных аксиом: структура и взаимосвязи с социально-экономическими установками россиян // Психология. Журнал Высшей школы экономики. 2008. Т. 5, № 4. С. 135-143.

29. Магун В., Руднев М. Жизненные ценности российского населения: сходства и отличия в сравнении с другими европейскими странами // Вестник общественного мнения. Данные. Анализ. Дискуссии. 2008. № 1. С. 26.

30. Сергеева А. С., Кириллов Б. А., Джумагулова А. Ф. Перевод и адаптация краткого пятифакторного опросника личности (TIPI-RU): оценка конвергентной валидности, внутренней согласованности и тест-ретестовой надежности // Экспериментальная психология. 2016. № 3. С. 138-154.

31. Корнилова Т. В., Корнилов С. А., Чумакова М. А., Талмач М. С. Методика диагностики личностных черт «темной триады»: апробация опросника «Темная дюжина» // Психологический журнал. 2015. Т. 36, № 2. С. 99-112.

32. Rubin V., Yimin C., Conroy N. Deception Detection for News: Three Types of Fakes. Conference: ASIS&T2015At: St. Louis, MO, USA. 2015. URL: https://www.researchgate.net/publication/281818851_Deception_Detection_for_News_Three_Types_of_Fakes.

33. Михеев Е. А., Нестик Т. А. Дезинформация в социальных сетях: состояние и перспективы психологических исследований // Фундаментальные и прикладные исследования современной психологии: результаты и перспективы развития. М., 2017. С. 2021-2030.

34. Landrum A., Alex Olshansky & Othello Richards. Differential susceptibility to misleading flat earth arguments on youtube Media Psychology, 2019. doi: 10.1080/15213269.2019.1669461.

35. Шляховая Е. В. Социально-психологические факторы медиадоверия // Доверие и недоверие в условиях развития гражданского общества / отв. ред. А. Б. Купрейченко, И. В. Мерсиянова. М., 2013. С. 485-508.

36. Dias N., Gordon P., Rand D. Emphasizing publishers does not effectively reduce susceptibility to misinformation on social media, The Harvard Kennedy School (HKS). Misinformation Review. 2020. Vol. 1, Issue 1. doi: 10.37016/mr-2020-001. URL: https://misinforeview. hks.harvard.edu/article/emphasizing-publishers-does-not-reduce-misinformation.

37. Moscadelli A., Albora G., Biamonte M., Giorgetti D., Innocenzio M., Paoli S., Lorini C., Bonanni P., Bonaccorsi G. Fake News and Covid-19 in Italy: Results of a Quantitative Observational Study. International Journal of Environmental Research and Public Health. 2020. August. № 17(16). doi: 10.3390/ijerph17165850. URL: https://www.researchgate.net/publication/343633802_Fake_News_and_Covid-19_ in_Italy_Results_of_a_Quantitative_Observational_Study.

38. Агадуллина Е. Р. Пользователи социальных сетей: современные исследования // Современная зарубежная психология. 2015. Т. 4, № 3. С. 36-46. doi: 10.17759/jmfp.2015040305.

39. Войскунский А. Е. Интернет как пространство познания: психологические аспекты применения гипертекстовых структур // Современная зарубежная психология. 2017. Т. 6, № 4. С. 7-20. doi: 10.17759/jmfp.2017060401.

40. Ледовая Я. А., Тихонов Р. В., Боголюбова О. Н. Социальные сети как новая среда для междисциплинарных исследований поведения человека // Вестник Санкт-Петербургского университета. Психология. 2017. № 3. С. 193-210. doi: 10.21638/11701/ spbu16.2017.301.

41. Mairesse F., Walker M., Mehl M., Moore R. Using Linguistic Cues for the Automatic Recognition of Personality in Conversation and Text [PDF] [PS] [BibTeX]. Journal of Artificial Intelligence Research (JAIR). 2007. № 30. Pp. 457-500.

42. Yarkoni T. Personality in 100,000 Words: A large-scale analysis of personality and word use among bloggers. Journal of Research in Personality. 2010. № 44. Pp. 363-373. doi: 10.1016/j.jrp.2010.04.001.

43. Kosinski M., Stillwell D., Graepel T. Private traits and attributes are predictable from digital records of human behavior. Proceedings of the National Academy of Sciences (PNAS). 2013. Vol. 110, No 15. Pp. 5802-5805.

44. Youyou W., Kosinski M., and Stillwell D. Computer-based personality judgments are more accurate than those made by humans. Proc. Natl. Acad. Sci. U.S.A. 2015. № 112. Pp. 1036-1040. doi: 10.1073/pnas.1418680112.

45. Azucar D., Marengo D., Settanni M. Predicting the big 5 personality traits from digital footprints on social media: A metaanalysis. Personality and Individual Differences. 2018. No 124. Pp. 150-159.

46. щ\ш.тштшшшшяшшттш/ /шш*шшщ%.2т%:тм

Поступила 31.03.2021; одобрена после рецензирования 14.07.2021; принята к публикации 30.08.2021. ИНФОРМАЦИЯ ОБ АВТОРЕ

Е. А. Михеев — соискатель лаборатории социальной и экономической психологии, mih-news@mail.ru, htpps://orcid.org/0000-0002-6553-2580.

References

1. Gorbatov D. S. Empirical substantiation of the strategy of counteracting false rumors. Scientific notes of the St. Petersburg State Institute of Psychology and Social Work. 2016. Vol. 25. Pp. 1-14.

2. Nikolaichuk I. A., Yanglyaeva M. M., Yakova T. S. Wings of Chaos. Mass media, world politics and state security. Moscow, 2018. 352 p.

3. Bartosh A. A. Paradigm of hybrid warfare. Security issues. 2017. No. 3. Pp. 44-61. doi: 10.25136/2409-7543.2017.3.20815.

4. Chernenilov V. I. Psychology of management. Moscow, 2011. 352 p.

5. Vilovatykh A. V. Memetics as a tool of modern informational confrontation. Problems of national strategy. 2018. No. 5

6. Smirnov A. A. Non-state actors in modern information wars. International Life. 2018. No. 5. Pp. 83-99. URL: https://interaffairs. ru/jauthor/material/2020.

7. Melitan K. Psychology of lying. Moscow, 1903. 214 p.

8. Dupra J. Lie: monograph. Transl. from French by D. I. Solovyov. M, 2008. 123 p. URL: http://biblioclub.ru/index. php?page=book&id=275165.

9. Luria A. R. Experimental psychology in the judicial investigation case. Soviet law. 1927. No. 2

10. Durandin G. Le fondements du mensonge. Paris, 1970. 246 p.

11. Znakov V. V. Untruth, falsehood and deception as problems of psychology of understanding. Questions of Psychology. 1993. No. 2. Pp. 9-17.

12. Malyavin V. V. Sun Tzu. The Art of War. Moscow, 2019. 320 p.

13. Nestik T. A., Zhuravlev A. L. Psychology of global risks. Moscow, 2018. 402 p.

14. Zhu B., Chen C., Loftus E.F., Lin C., He Q., Chen C., et al. Individual differences in false memory from misinformation: Personality characteristics and their interactions with cognitive abilities. Personality and Individual Differences. 2010. Vol. 48. Pp. 889-894. doi: 10.1080/09658211.2010.487051. URL: http://www.academia.edu/10868808/Individual_differences_in_false_memory_ from_misinformation_Personality_characteristics_and_their_interactions_with_cognitive_abilities.

15. Zhang X., Ko M., Carpenter D. Development of a scale to measure skepticism toward electronic word-of-mouth. Computers in Human Behavior. 2016. Vol. 56. Pp. 198-208. doi: 10.1016/j.chb.2015.11.042.

16. Ecker U., Lewandowsky S., Chang E., Pillai R. The Effects of Subtle Misinformation in News Headlines. Journal of Experimental Psychology Applied. 2014. doi: 10.1037/xap0000028.

17. Del Vicario M., Bessi A., Zollo F., et al. The spreading of misinformation online. Proceedings of the National Academy of Sciences. 2016. Vol. 113, No. 3. Pp. 554-559.

18. Lobato E. J. C., Powell M., Padilla L. M. K., Holbrook C. Factors Predicting Willingness to Share COVID-19 Misinformation. Frontiers Psychology. 24 September 2020. doi: 10.3389/fpsyg.2020.566108. URL: https://www.frontiersin.org/articles/10.3389/ fpsyg.2020.566108/full.

19. Andreeva G. M. Social psychology. Moscow, 1999. 375 p.

20. Bessi A., Petroni F., Del Vicario M. et al. Viral misinformation: The role of homophily and polarization. Proceedings of the 24th International Conference on World Wide Web Companion. May 18, 2015. Pp. 355-356. URL: https://arxiv.org/abs/1411.2893.

21. Calvillo D. P., Smelter T. J. An initial focus accuracy reduces the effect of prior exposure on perceived accuracy of news headlines. Cognitive Research: Principles and Implications. 2020. doi: 10.1186/s41235-020-00257-y.

22. Dunning D., Johnson K., Ehrlinger J., Kruger J. Why people fail to recognize their own incompetence. Curr. Dir. Psychol. Sci. 2003. Vol. 12(3). Pp. 83-87.

23. Effron D., Raj M. Misinformation and Morality: Encountering Fake-News Headlines Makes Them Seem Less Unethical to Publish and Share. Psychol. Sci. 2020. Pp. 75-87.

24. Moons W. G.; Mackie, D.M.; Garcia-Marques, T. The Impact of Repetition-Induced Familiarity on Agreement With Weak and Strong Arguments. J. Pers. Soc. Psychol. 2009. Pp. 32-44.

25. Buonomano L. Cognitive substrates of belief in fake news. Yale University. April 23, 2020. URL: https://www.semanticscholar. org/paper/COGNITIVE-SUBSTRATES-OF-BELIEF-IN-FAKE-NEWS-1-of-in-Buonomano-Cannon/b9ced22f03bcf7d8996f7693150e a3aca9550fd7#paper-header.

26. Sychev O. A., Protasova I. N., Belousov K. I. Diagnostics of moral grounds: approbation of the Russian version of the MFQ questionnaire. Russian Psychological Journal. 2018 Vol. 15, No. 3. doi: 10.21702/rpj.2018.3.5 URL: https://www.researchgate.net/ publication/329198269_Diagnostika_moralnyh_osnovanij_aprobacia_russkoazycnoj_versii_oprosnika_MFQ.

27. Bond M. H., Leung K., Au A., Tong K. K., Reimel de Carrasquel S., Murakami F. et al. Culture-level dimensions of social axioms and their societal correlates across 41 cultures. Journal of Cross-Cultural Psychology. No. 35. 2004. Pp. 548-570.

28. Tatarko A. N., Lebedeva N. M. Research of social axioms: structure and interrelations with socio-economic attitudes of Russians. Psychology. Journal of the Higher School of Economics. 2008. Vol. 5, No. 4. Pp. 135-143.

29. Magun V., Rudnev M. Vital values of the Russian population: similarities and differences in comparison with other European countries. Bulletin of Public Opinion. Data. Analysis. Discussions. 2008. No. 1. 26 p.

30. Sergeeva A. S., Kirillov B. A., Dzhumagulova A. F. Translation and adaptation of the short five-factor personality questionnaire

31. Kornilova T. V., Kornilov S. A., Chumakova M. A., Talmach M. S. Methods of diagnostics of personality traits of the "dark triad": approbation of the questionnaire "Dark dozen". Psychological journal. 2015. Vol. 36, No. 2. Pp. 99-112.

32. Rubin V., Yimin C., Conroy N. Deception Detection for News: Three Types of Fakes// Conference: ASIS&T2015AT: St. Louis, MO, USA. 2015. URL: https://www.researchgate.net/publication/281818851_Deception_Detection_for_News_Three_Types_of_Fakes.

33. Mikheev E. A., Nestik T. A. Misinformation in social networks: status and prospects of psychological research. Fundamental and applied research of modern psychology: results and prospects. Moscow, 2017. Pp. 2021-2030.

34. Landrum A., Alex Olshansky & Othello Richards. Differential susceptibility to misleading flat earth arguments on youtube, Media Psychology, 2019. doi: 10.1080/15213269.2019.1669461.

35. Shlyakhovaya E. V. Socio-psychological factors of media trust. Trust and distrust in the conditions of development of civil society. Ed. by Kupreychenko A. B., Mersiyanova I. V. Moscow, 2013. Pp. 485-508.

36. Dias N., Gordon P., Rand D. Emphasizing publishers does not effectively reduce susceptibility to misinformation on social media, The Harvard Kennedy School (HKS). Misinformation Review. 2020. Vol. 1, Issue 1. doi: https://doi.org/10.37016/mr-2020-001 URL: https://misinforeview.hks.harvard.edu/article/emphasizing-publishers-does-not-reduce-misinformation/.

37. Moscadelli A., Albora G., Biamonte M., Giorgetti D., Innocenzio M., Paoli S., Lorini C., Bonanni P., Bonaccorsi G. Fake News and Covid-19 in Italy: Results of a Quantitative Observational Study. International Journal of Environmental Research and Public Health. August 2020. № 17(16). doi: 10.3390/ijerph17165850. URL: https://www.researchgate.net/publication/343633802_Fake_News_and_ Covid-19_in_Italy_Results_of_a_Quantitative_Observational_Study.

38. Agadullina E. R. Social network users: modern research. Modern foreign psychology. 2015. Vol. 4, No. 3. Pp. 36-46. doi: 10.17759/ jmfp.2015040305.

39. Voiskunsky A. E. The Internet as a space of cognition: psychological aspects of using hypertext structures. Modern foreign psychology. 2017. Vol. 6, No. 4. Pp. 7-20. doi:10.17759/jmfp.2017060401.

40. Ledovaya Ya. A., Tikhonov R. V., Bogolyubova O. N. Social networks as a new environment for interdisciplinary research of human behavior. Bulletin of St. Petersburg University. Psychology. 2017. No. 3. Pp. 193-210. doi: 10.21638/11701/spbu16.2017.301.

41. Mairesse F., Walker M., Mehl M., Moore R. Using Linguistic Cues for the Automatic Recognition of Personality in Conversation and Text [PDF] [PS] [BibTeX]. Journal of Artificial Intelligence Research (JAIR). 2007. No. 30. Pp. 457-500.

42. Yarkoni T. Personality in 100,000 Words: A large-scale analysis of personality and word use among bloggers. Journal of Research in Personality. 2010. No. 44. Pp. 363-373. doi: 10.1016/j.jrp.2010.04.001.

43. Kosinski M., Stillwell D., Graepel T. Private traits and attributes are predictable from digital records of human behavior. Proceedings of the National Academy of Sciences (PNAS). 2013. Vol. 110, No. 15. Pp. 5802-5805.

44. Youyou W., Kosinski, M., and Stillwell, D. Computer-based personality judgments are more accurate than those made by humans. Proc. Natl. Acad. Sci. U.S.A. 2015. No. 112. Pp. 1036-1040. doi: 10.1073/pnas.1418680112.

45. Azucar D., Marengo D., Settanni M. Predicting the big 5 personality traits from digital footprints on social media: A metaanalysis. Personality and Individual Differences. 2018. No. 124. Pp. 150-159.

Submitted: 31.03.2021; approved after review: 14.07.2021; accepted for publication: 30.08.2021.

INFORMATION ABOUT THE AUTHOR E. A. Mikheev — postgraduate student of the Laboratory of Social and Economic Psychology, mih-news@mail.ru, htpps://orcid.org/0000-0002-6553-2580.