Искусственный интеллект и международная информационно-психологическая безопасность: выступления российских исследователей в ЮАР

Рецензии, рефераты, обзоры

Базаркина Д.Ю., Ласурия Л.Дж.

Искусственный интеллект и международная информационно-психологическая безопасность: выступления российских исследователей в ЮАР1

Базаркина Дарья Юрьевна — доктор политических наук, профессор, кафедра международной безопасности и внешнеполитической деятельности России, Институт права и национальной безопасности, Российская академия народного хозяйства и государственной службы при Президенте РФ, Москва, РФ; старший научный сотрудник, факультет международных отношений, Санкт-Петербургский государственный университет, Санкт-Петербург, РФ. E-mail: bazarkina-icspsc@yandex.ru SPIN-код РИНЦ: 3405-4248

Ласурия Леон Джонович — стажер-исследователь, Международный центр социально-политических исследований и консалтинга, Москва, РФ. E-mail: lasuriialeon@mail.ru

Аннотация

Статья представляет собой обзор участия российских специалистов в ряде научных мероприятий по вопросам стратегической коммуникации и международной информационно-психологической безопасности, прошедших в Южноафриканской Республике в феврале-марте 2019 года. Научное сотрудничество России и ЮАР актуально, с одной стороны, с учетом Четвертой промышленной революции, которая требует от правительств всех государств обратить внимание на перемены в науке и технике и, как следствие, в экономике и социальной сфере. С другой стороны, современная международная обстановка характеризуется интенсивным информационно -психологическим противоборством, в котором участвует все больше акторов (как государственных, так и негосударственных). В этих условиях необходимо укрепление сотрудничества России с другими странами в области информационно-психологической безопасности в рамках таких международных организаций, как БРИКС. На фоне этих тенденций в ходе 14-й Международной конференции по проблемам киберпротивоборства и безопасности (14th International Conference on Cyber Warfare and Security, ICCWS 2019) в Университете Стелленбоса прошел мини-трек «Информационно-психологическое противоборство, передовые технологии и политическая нестабильность в современном мире» с участием исследователей из Москвы и Санкт-Петербурга. Российские ученые также приняли участие в научно-исследовательском семинаре «Искусственный интеллект и вызовы международной информационно-психологической безопасности в Интернете» в Университете Кейптауна, посетили в целях налаживания исследовательских контактов Йоханнесбург и Порт-Элизабет. Плодотворная научная дискуссия с коллегами из ЮАР и других стран затронула широкий спектр вопросов, связанных с проблемами безопасности, включая угрозы и риски для информационных систем, развитие культуры безопасности, проблемы стратегической коммуникации, роли искусственного интеллекта в обеспечении международной информационно-психологической безопасности.

Ключевые слова

Международные отношения, научное сотрудничество, стратегическая коммуникация, информационно-психологическое противоборство, международная информационно-психологическая безопасность, искусственный интеллект.

1 Статья подготовлена в рамках научных исследований, выполненных при поддержке гранта СПбГУ 26520757.

Развитие научных связей России, представленность российского исследовательского сообщества на международных научных мероприятиях крайне необходимы для обеспечения комплексной безопасности страны. В то же время важно укреплять научно-исследовательское сотрудничество со странами-партнерами по международным организациям, экономическим и политическим интеграционным объединениям. Уровень овладения передовыми технологиями становится показателем, все более определяющим место того или иного государства или группы государств на международной арене. Для сохранения многостороннего мирового порядка, в котором все общества будут подготовлены к социально-экономическим трансформациям будущего, а страны будут иметь право голоса, все без исключения национальные правительства обязаны учитывать специфику Четвертой промышленной революции. Это в полной мере понимает руководство БРИКС (англ. BRICS — Brazil, Russia, India, China, South Africa). Так, в Сямэньской декларации БРИКС2, принятой в 2017 г., декларируется стремление организации «поощрять совместные исследования, разработки и инновации БРИКС в области ИКТ, включая следующие направления: Интернет вещей, облачные вычисления, большие объемы данных, аналитика данных, нанотехнологии, искусственный интеллект и 5G, а также их инновационное внедрение в целях совершенствования инфраструктуры ИКТ и повышения ее взаимосвязанности» в странах БРИКС. Йоханнесбургская декларация3, принятая в 2018 г., признавая «неоспоримые преимущества и новые возможности, связанные с достижениями в области ИКТ, особенно в контексте Четвертой промышленной революции», подчеркивает «важность международного сотрудничества в борьбе с использованием ИКТ в террористических и преступных целях».

Конечно, развитие такого сотрудничества в рамках БРИКС не может обходиться без учета открытий и разработок, сделанных и внедряемых за пределами международной организации. Тем более актуальным становится проведение в странах БРИКС международных конференций, объединяющих представителей ведущих мировых научных школ. В одной из таких конференций, а также в ряде других международных научных мероприятий, прошедших в Южноафриканской Республике, приняла участие делегация российских специалистов в области стратегической

2 BRICS Leaders Xiamen Declaration. Xiamen, China, 4 September 2017 // BRICS 2017 China [Электронный ресурс]. URL: https://brics2017.org/English/Documents/Summit/201709/t20170908 2021.html (дата обращения: 01.06.2019). Article 13.

3 10th BRICS Summit Johannesburg Declaration. July 26, 2018 // Ministry of External Affairs, Government of India [Электронный ресурс]. URL: https://www.mea. gov.in/bilateral-documents.htm?dtl/30190/10th BRICS Summit Johannesburg Declaration (дата обращения:01.06.2019). Article 38.

коммуникации и информационно-психологической безопасности: доктор исторических наук, профессор Евгений Николаевич Пашенцев (ведущий научный сотрудник Института актуальных международных проблем (ИАМП) Дипломатической Академии Министерства иностранных дел Российской Федерации, директор Международного центра социально-политических исследований и консалтинга (МЦСПИК) и научный координатор GlobalStratCom (объединение международных ассоциаций стратегических исследований)), кандидат исторических наук, научный сотрудник МЦСПИК Ольга Сергеевна Полунина и доктор политических наук Константин Арсеньевич Панцерев (координатор африканских стратегических исследований МЦСПИК и профессор Санкт-Петербургского государственного университета) стали участниками нескольких академических мероприятий в ЮАР 28 февраля - 11 марта 2019 г. Поездка была организована и поддержана МЦСПИК при содействии партнеров в Южноафриканской Республике.

28 февраля - 1 марта российские исследователи выступили с докладами на мини-треке «Информационно-психологическое противоборство, передовые технологии и политическая нестабильность в современном мире» на 14-й Международной конференции по проблемам киберпротивоборства и безопасности (14th International Conference on Cyber Warfare and Security, ICCWS 2019), проводившейся университетом Стелленбоса, в частности университетским Советом по НИОКР (Council for Scientific and Industrial Research, CSIR) при поддержке компании Academic Conferences and Publishing International Limited.

Конференции ICCWS уже стали хорошей возможностью для исследователей, военных, практиков и консультантов со всего мира, занимающихся изучением проблем информационного, информационно-психологического и киберпротивоборства, управлением, разработкой и внедрением систем и концепций противодействия информационным атакам или повышения безопасности информационных систем, обменяться идеями. Можно выделить несколько ключевых направлений исследований в области киберпротивоборства и кибербезопасности, включая анализ угроз и рисков для информационных систем, разработку принципов культуры безопасности, обнаружение и расследование конкретных инцидентов с учетом прежнего и нового опыта. Новые угрозы, связанные с социальными сетями и облачными вычислениями, также вызывают интерес у исследовательского сообщества. На конференции в Стелленбосе — ключевом событии для профильных специалистов — были затронуты многие из этих вопросов.

Принимающая организация — университет Стелленбоса — старейший университет в ЮАР наряду с Университетом Кейптауна. Университет Стелленбоса, который получил полный университетский статус в 1918 г., является также вторым по величине африканским университетом в соответствии с мировым рейтингом QS 20172018. Мероприятия ICCWS 2019 были развернуты на площадке входящего в структуру университета Института безопасности в сфере лидерства и управления в Африке (SIGLA), находящегося в составе факультета военных наук.

Рисунок 1. На пленарном заседании ICCWS 2019

О связи практических разработок в области безопасности и профильного высшего образования в ЮАР свидетельствует биография председателя конференции. Им стала Ноэль ван дер Вааг-Коулинг, военный специалист с 25-летним опытом работы в Министерстве обороны ЮАР и 20-летним опытом работы в системе высшего образования (в Университете Стелленбоса), координатор проекта в области кибербезопасности (Cyber Project) в SIGLA. Председателем программного комитета конференции стала д-р Луиза Линен, доцент в области информатики в Университете Западно-Капской провинции (ЮАР). До конца 2018 г. д-р Линен работала главным научным сотрудником Совета ЮАР по НИОКР, занимаясь оборонными исследованиями. Тематика ее научных работ — применение искусственного

интеллекта (ИИ) в области кибербезопасности и в математическом моделировании. Сейчас Л. Линен — председатель Международной федерации по обработке информации (ИФИП).

С приветственной речью к участникам конференции обратился декан факультета военных наук и директор SIGLA профессор Сэм Тшехла, а также ряд докладчиков из стран Африки, Европы, Азии и Северной Америки. С точки зрения текущей ситуации в ЮАР один из наиболее ожидаемых докладов был представлен бригадным генералом Полиции ЮАР Теодорусом (Питом) Питерсом — это доклад о киберпреступности в контексте транснациональной организованной преступности.

Рисунок 2. Бригадный генерал Теодорус

По инициативе и под председательством Е.Н. Пашенцева в рамках ICCWS 2019

прошло заседание мини-трека «Информационно-психологическое противоборство,

передовые технологии и политическая нестабильность в современном мире», которое

привлекло большое внимание участников конференции. Решение организовать данный

мини-трек было вызвано целым рядом факторов. Так, в XXI в. уже произошло

множество вооруженных конфликтов, в ходе которых элементы и средства

информационно-психологического противоборства (ИПП) активно использовались для

политической дестабилизации стран и регионов. Информация, знания и их

287

использование стали неотъемлемой частью политических и вооруженных конфликтов. ИПП ведется одновременно с традиционным применением военной силы. В немалой степени это объясняется тем, что исход войны сегодня определяется политическими, а не военными факторами. При таких обстоятельствах можно победить в военных сражениях, но в конечном счете проиграть войну политически. Способы развязывания и ведения таких конфликтов становятся все более изощренными. Можно ожидать использования широкого спектра новых технологий на тактическом, оперативном и стратегическом уровнях ИПП.

В связи с этими явлениями и процессами тематика докладов мини-трека, по плану организаторов, должна была охватить следующие проблемы:

- роль и практика ИПП в современном геополитическом противоборстве, гражданских и военных конфликтах и борьбе с терроризмом;

- новые возможности в ИПП, предоставляемые сочетанием анализа больших данных, результатов нейробиологических исследований и надж-технологий;

- прогностическое оружие;

- искусственный интеллект и ИПП;

- психотронная и психотропная война;

- применение молекулярной коммуникации (molecular communication) в военной сфере;

- генная инженерия, киборгизация и ИПП;

- психологические последствия биологической войны;

- элементы ИПП в гибридной войне, нетрадиционных и контрнетрадиционных военных действиях (unconventional and counter-unconventional warfare);

- ИПП в Интернете и социальных сетях;

- стратегический обман и новые технологии;

- теоретические основы ИПП с использованием новых технологий.

Некоторые из этих тем нашли отражение в докладах, представленных на мини-треке. Среди них — доклад Е.Н. Пашенцева о дестабилизации неустойчивых динамических социальных равновесий, которая осуществляется посредством высокотехнологичного стратегического информационно-психологического

противоборства. Доклад о применении интерактивного нарратива и идеологии в

288

военных учениях представили Анна-Мари Янсен Ван Вуурен (Университет Йоханнесбурга) и Тристан Джейкобе (AFDA — школа креативной экономики) (ЮАР). Интерес также вызвали доклады: «Искусственный интеллект: играя в имитационную игру» Янтье Силомона и Моники Камински (Оксфордский университет, Великобритания), «Противодействие террористической пропаганде в Азии: на пути к лучшей коммуникационной стратегии в киберпространстве» Константина Арсеньевича Панцерева и Константина Александровича Голубева (Санкт-Петербургский государственный университет, Россия), «Этика доверия во взаимодействиях человека и машины посредством ИИ» Мэри Манджикян (Регентский университет, Чесапик, США).

Ряд докладов и постеров на ICCWS 2019, представленных вне вышеупомянутого мини-трека, также был посвящен ИПП. Это, в частности, «Умные алгоритмы и ИПП» О.С. Полуниной (МЦСПИК и Российский государственный социальный университет, Москва, Россия); «Передовые технологии борьбы с терроризмом в ЕС: аспект ИПП» Дарьи Базаркиной (Российская академия народного хозяйства и государственной службы при Президенте РФ, Москва, Россия); «Поддельные нарративы, доминирующие дискурсы: роль и влияние алгоритмов на онлайн-дебаты о земельной реформе в ЮАР» Анны-Мари Янсен Ван Вуурен, (Йоханнесбургский университет, ЮАР) и Тургая Селика (факультет информатики и прикладной математики, Витватерсрандский университет, Йоханнесбург, ЮАР); «Социальные медиа как объявление войны?» Тришаны Рамлюкан (Университет Квазулу-Натал, Вествилль, ЮАР); «Использование террористами/джихадистами технологий 3D-печати: оперативные реалии, технические возможности, намерения и риск психологических операций» Фердинанда Хаберля (факультет востоковедения Венского университета, Австрия) и Флориана Уэмера (Институт вычислительной техники ECS Group, Вена, Австрия), а также «Теория стратегической культуры как инструмент анализа восприятия российской киберугрозы» Мартти Кари (Университет Ювяскюля, Финляндия).

Е.Н. Пашенцев в своем докладе «Дестабилизация неустойчивых динамичных социальных равновесий посредством высокотехнологичного стратегического ИПП» проанализировал новые измерения ИПП. Ниже стоит подробнее остановиться на основном содержании доклада.

Рисунок 3. Выступление Е.Н. Пашенцева на мини-треке «Информационно-психологическое противоборство, передовые технологии и политическая нестабильность в современном мире»

Сложные технологии позволяют решать множество проблем, хотя из-за несовершенства социальных отношений и самой человеческой природы эти технологии очень часто используются против человека. Серьезную угрозу такого использования предоставляет стратегическое информационно-психологическое противоборство (СИПП), атаки в котором направлены на развитие конкретного института, страны или международной системы в целом таким образом, чтобы повернуть этот процесс в направлении, желательном для субъекта СИПП. В СИПП используются различные каналы и средства целенаправленного, системного, долгосрочного воздействия на развитие социальных систем.

Роль передовых технологий в СИПП трудно переоценить. Механизм использования радио, телевидения и Интернета в целях СИПП хорошо освоен, представление об использовании передовых технологий, таких как Big Data или ИИ, еще не сложилось. Не менее важно знать, какие перспективные технологии могут расширить возможности ИПП в обозримом будущем. Сегодня недостаточное внимание уделяется комплексному анализу проблемы неустойчивых динамических социальных равновесий (эквилибриумов), которые особенно уязвимы в условиях случайных или целенаправленных негативных воздействий в сфере высоких технологий. Гипотеза исследования Е.Н. Пашенцева заключается в том, что современные технологии

поднимают СИПП на качественно новый уровень, что требует адекватной оценки и реакции не только со стороны военных институтов, но и общества в целом.

ИИ радикально увеличивает способность человеческого разума влиять на целевую аудиторию (посредством технологии «fake people» и других новых эффективных инструментов управления восприятием). ИИ также все в большей степени позволяет предвидеть конкретные параметры отдельных событий и гораздо быстрее выявлять эффективность психологических операций. Это создает и новые возможности обороны, что характерно для динамичного неустойчивого баланса всех наступательных и оборонительных вооружений.

Сегодня Россия, Китай, США, ЕС, несмотря на свои противоречия, должны уделять больше внимания обсуждению на экспертном уровне не только опасных последствий гонки ядерных вооружений, технических аспектов кибербезопасности, но и угроз современного цифрового мира. Благодаря использованию новых технологий становится все проще, при нестабильном динамичном социальном равновесии, спровоцировать (неявно) опасную ошибку, принятие неверных решений высшим военным руководством, политиками, представителями экстремистской «третьей стороны», которая стремится к глобальной дестабилизации любыми средствами, несмотря на трагические последствия для всего мира (например, террористическими организациями и т.д.). Современный уровень технологий, и не в последнюю очередь ИИ, серьезно влияет на возможности СИПП. Скорость, масштаб и глубина психологического воздействия растут (вплоть до возможностей создания пожизненной искусственной реальности для отдельных лиц и целевых групп).

Без развития человека как гармоничной личности невозможно говорить об эффективной системе безопасности общества и личности от информационно-психологических угроз. Необходимо использовать потенциал гражданского общества, добровольных объединений граждан в Интернете для защиты цифровой свободы и расширения прав и возможностей граждан (а не массового потребителя, как это, увы, сейчас часто бывает). Е.Н. Пашенцев отметил, что он «не против защиты потребителей и граждан», но защита потребителей без развития их собственного гражданского сознания и роста социальной активности изначально имеет мало шансов на успех. Массовый потребитель легко становится жертвой как эгоистических корпоративных групп, так и террористических организаций, геополитических игр и т.д., хотя идентифицировать этих субъектов воздействия в большинстве случаев невозможно. Массовый потребитель становится жертвой из-за легко вычисляемых и очевидных

реакций. Развитие полностью развитой и активной личности, живущей в гармонии с социальными интересами, является надежной гарантией развития и укрепления демократии и создания, в частности, надежного барьера для распространения кампаний деструктивного влияния, независимо от того, исходят ли они от государственных или негосударственных субъектов, как заключил Е.Н. Пашенцев.

Российские участники конференции в Стелленбосе отметили триумф профессионализма, дух взаимного уважения в научных дискуссиях, отсутствие ярко выраженных антироссийских настроений, несмотря на большое количество экспертов из стран НАТО. Видимо, те, кто имеет глубокое понимание проблем кибербезопасности, хорошо знают, как уязвимы все стороны глобального противостояния на международной арене и насколько опасны последствия дальнейшей его эскалации. Увы, не все политики могут это понимать или тщательно скрывают свое понимание от общественности, отстаивая интересы военно-промышленного комплекса. Проблемы обостряются на глобальном, региональном и местном уровнях. Продолжающийся кризис на мировой арене, конечно, не мог не сказаться на настроении участников конференции и содержании некоторых дискуссий. Тем не менее организация на высоком уровне самого мероприятия и дружеское общение в кулуарах определили успех ICCWS 2019.

Конференция в Стелленбосе доказала возрастающую роль российских исследователей на международных научных форумах, где обсуждаются актуальные вопросы международной информационно-психологической безопасности и ИПП.

В Кейптауне Е.Н. Пашенцев и О.С. Полунина посетили Кейптаунский университет. Он был основан в 1829 году, что делает его старейшим высшим учебным заведением в Южноафриканской Республике. Кейптаунский университет стоит на самой высокой позиции среди африканских университетов в рейтингах QS World University.

Е.Н. Пашенцев выступил с докладом на семинаре «Искусственный интеллект и вызовы международной информационно-психологической безопасности в Интернете». Научно-исследовательский семинар состоялся 4 марта на кафедре политических исследований Кейптаунского университета при поддержке заведующего кафедрой доцента Тивена Редди и преподавателя кафедры доктора Элиаса Фаалы. На кафедре работают признанные на международном уровне исследователи в области сравнительной политологии, международных отношений, теории политических систем, политического поведения, интеллектуальной истории, анализа проблем

государственной политики и государственного управления. Сотрудники кафедры внесли свой вклад в целый ряд правительственных мероприятий, особенно в области обороны, образования, местного самоуправления, правопорядка и электоральных процессов.

В своем выступлении Е.Н. Пашенцев акцентировал внимание на угрозе возможного злонамеренного использования ИИ (ЗИИИ), которое может вызвать серьезные дестабилизирующие последствия для социально-политического развития разных стран и системы международных отношений в целом, в том числе в сфере информационно-психологической безопасности (ИНЬ).

Рисунок 4. Выступление Е.Н. Пашенцева в Университете Кейптауна

Но мнению Е.Н. Пашенцева, возможна следующая классификация ЗИИИ в зависимости от степени осуществимости:

- текущие практики ЗИИИ;

- существующие возможности ЗИИИ, которые еще не использовались на практике (эта вероятность связана с широким спектром новых быстро развивающихся возможностей ИИ: не все из них немедленно реализуются в ЗИИИ);

- будущие возможности ЗИИИ на основе текущих разработок и будущих исследований (оценивать их следует в краткосрочной, среднесрочной и долгосрочной перспективах);

- полностью неизвестные риски. Не все разработки ИИ можно точно оценить. Решающее значение имеет готовность общества ответить на неожиданные скрытые риски.

Е.Н Пашенцев также представил несколько примеров ЗИИИ, осуществимых через Интернет:

1) Рост интегрированных, всеобъемлющих систем с активным или ведущим использованием ИИ увеличивает риск злонамеренного захвата таких систем. Многочисленные инфраструктурные объекты (например, роботизированная централизованная самообучающаяся система управления общественным транспортом на базе ИИ) могут быть удобными мишенями для высокотехнологичных террористических атак.

2) Создание «глубоких фейков» (deep fakes). «Глубокий фейк» — это искусственный образ, полученный при синтезе изображения и голоса, основанный на ИИ. Многие знаменитости, в том числе Скарлетт Йоханссон, Мэйси Уильямс, Тейлор Свифт и Мила Кунис, пали жертвой порнографии, сгенерированной с помощью «глубоких фейков». Любители начали использовать эту технологию для создания цифровых измененных видео мировых лидеров, в том числе Дональда Трампа, Владимира Путина, Барака Обамы и Хиллари Клинтон. Эксперты предупреждают, что видео может быть достаточно реалистичным, чтобы манипулировать будущими выборами и глобальной политикой уже в 2020 г. Однако могут пройти годы, прежде чем исследователи изобретут систему, которая может достоверно обнаруживать «глубокие фейки», что делает их потенциально опасным рычагом влияния на поведение как отдельных лиц, так и крупных целевых групп. «Глубокие фейки» могут быть использованы в ИПП, чтобы спровоцировать финансовую панику и торговые или реальные войны.

3) Технология «поддельных людей» (fake people). Со времен продажи первого сгенерированного ИИ произведения живописи в начале 2018 г. алгоритмы глубинного обучения по настоящее время создают портреты

несуществующих людей. Компания NVIDIA недавно опубликовала результаты работы генеративно-состязательной сети (generative adversarial network, GAN), обученной генерировать изображения людей. Методика основана на бесконечном сборе изображений реальных лиц, именно поэтому нейронная сеть распознает и применяет множество мелких деталей в своей работе. Сеть может генерировать сотни лиц в очках, с различными прическами, текстурой кожи, морщинами и шрамами, добавлять возрастные признаки, культурные и этнические особенности, выражения эмоций или эффекты внешних факторов, таких как ветер в волосах или неравномерный загар. Сегодня нейронные сети несравнимо более качественно генерируют изображения лиц в высоком разрешении. Они могут легко создать, например, образ несуществующего незаконнорожденного ребенка знаменитости с совершенным сходством в целях провокации.

4) Разработка и расширение повестки дня. Исследования показывают, что боты сформировали более 50 процентов всего онлайн-трафика в 2016 г. Субъекты, искусственно продвигающие контент, могут манипулировать принципом «определения повестки дня», который гласит: чем чаще люди видят определенный контент, тем более важным они его считают. Например, ущерб репутации, нанесенный ботами во время политических кампаний, может быть использован террористическими группировками для привлечения новых сторонников или организации убийств политиков.

5) Анализ тональности (sentiment analysis) — класс методов контент-анализа, используемый в компьютерной лингвистике для идентификации эмоционально заряженных слов в текстах, которые раскрывают мнение автора. Анализ тональности осуществляется на основе широкого спектра источников, таких как блоги, статьи, форумы, опросы и т.д., и может быть очень эффективным инструментом в ИПП.

6) ИИ, машинное обучение и анализ тональности позволяют предсказывать будущее, анализируя прошлое, что открывает практически неограниченные возможности для финансового сектора или органов государственного планирования. Но различные государственные и негосударственные акторы потенциально смогут

использовать эту возможность для ЗИИИ. Особенно важно прогностическое оружие: прогностические аналитические методы, основанные на больших данных и ИИ. Именно они позволяют корректировать будущее из настоящего в собственных интересах и вопреки объективным интересам цели.

7) Можно представить себе, что из-за сочетания информационно-психологических методов воздействия, сложных систем искусственного интеллекта и больших данных довольно скоро можно будет сгенерировать псевдореальность. Такая «Матрица» может быть гораздо более эффективным инструментом контроля целевых аудиторий, чем сейчас.

Наконец, Е.Н. Пашенцев проанализировал несколько типов угроз в рамках ЗИИИ (включая сферу ИПП) во время возможного перехода от «узкого» ИИ (Narrow AI) к «общему» ИИ (General AI). «В отличие от гипотетических пришельцев, общий ИИ будет интеллектом с историческими, научными, философскими и культурными корнями, идущими из современной человеческой цивилизации. Это будет интеллект, который будет развиваться быстрее и лучше, чем любое из прошлых человеческих поколений. Он произойдет от нас. Другое дело, что этот интеллект, возможно, не захочет мириться с рядом негативных и опасных проявлений современного человеческого общества, которые опасны для человека и всей планеты, таких как угроза мировой войны, загрязнение окружающей среды и другие растущие проблемы», — уточняет Е.Н. Пашенцев. Общий ИИ не будет продуктом человечества в целом, но конкретных людей. Есть угроза того, что он будет произведен в лаборатории, контролируемой антисоциальными, реакционными или милитаристскими кругами.

Е.Н. Пашенцев отметил, что он готов обсудить вопросы злонамеренного

использования ИИ на различных международных научных форумах, например в

Ханты-Мансийске в июне, в Санкт-Петербурге и Оксфорде в октябре 2019 г. и ряде

научных семинаров, которые сейчас находятся на стадии планирования и обсуждения.

Е.Н. Пашенцев — член программного комитета Европейской конференции по влиянию

искусственного интеллекта и робототехники (European Conference on the Impact of

Artificial Intelligence and Robotics, ECIAIR), на которой представители естественных

наук, социологи и философы соберутся, чтобы обсудить будущее общества в контексте

передовых ИИ и робототехники. Чтобы сохранить прогресс в равновесии со смыслом

жизни и судьбы человечества (ставки слишком высоки, чтобы поступить иначе),

296

организаторы ЕСЕАЖ приветствуют участие философов с докладами, отражающими этические аспекты использования ИИ и баланс между исследовательской целеустремленностью и совестью.

После семинара в Кейптаунском университете состоялась плодотворная дискуссия между российскими исследователями-членами ассоциации стратегических исследований GlobalStratCom, работающими в различных российских университетах и академических институтах, и руководством кафедры политических исследований Кейптаунского университета о возможных путях будущего научного сотрудничества. Интерес к исследованию социально-политического развития стран ЬРИКС выразили обе стороны.

Рисунок 5. В ходе дискуссии на кафедре политических исследований

Университета Кейптауна

За время пребывания в Кейптауне российские ученые посетили Музей современного искусства Африки (Museum of Contemporary Art Africa, МОСАА), в котором достаточно экспонатов, близких к теме международной информационно-психологической безопасности. После реконструкции стоимостью 38 миллионов долларов ветхий зерновой силосный комплекс в Кейптауне был преобразован в крупнейший музей современного искусства на континенте, который открыл свои двери для общественности в 2017 г.

В Порт-Элизабет 7 марта 2019 г. Е.Н. Пашенцев и О.С. Полунина были приглашены посетить университет Нельсона Манделы, факультет политологии и конфликтологии, по любезному приглашению профессора Лина Снодграсса. Университет Нельсона Манделы был открыт 1 января 2005 г. в результате слияния университета города Порт-Элизабет и кампуса Университета Виста в городе. Этот союз весьма разных учреждений возник в результате общенациональной реформы системы высшего образования, призванной обеспечить более справедливую и эффективную систему удовлетворения образовательных потребностей в ЮАР в XXI веке. 20 июля 2017 г. Университет Нельсона Манделы был официально переименован: «единственный в мире университет, носящий имя Нельсона Холилалы Манделы».

Факультет политологии и конфликтологии уделяет основное внимание вопросам демократии, конфликтологии и социально-экономического неравенства, что является хорошей отправной точкой для сотрудничества с ассоциацией стратегических исследований GlobalStratCom.

Департамент сделал все возможное для организации семинара 7 марта на тему «Искусственный интеллект и тенденции в сфере глобальной безопасности». Но руководство университета объявило, что лекции не состоятся из-за протестов студентов, произошедших в тот же день по причине недовольства условиями финансирования и размещения обучающихся. Была также отменена публичная лекция Е.Н. Пашенцева, и участникам мероприятия было предложено работать вне кампуса. Но хочется надеяться, что связи и сотрудничество кафедры политологии и конфликтологии с российскими исследователями будут развиваться.

Вся поездка продемонстрировала растущую потребность в сотрудничестве исследователей России и ЮАР в изучении вопросов стратегической коммуникации, в том числе перспектив совместного исследования стратегической коммуникации БРИКС.

Bazarkina D. Yu., Lasuriia L.Dz

Artificial Intelligence and International Psychological Security: Russian Researchers' Presentations in South Africa

Darya Yu. Bazarkina — DSc (Politics), Professor, Department for International Security and Foreign Affairs of Russia, Institute of Law and National Security, Academy of National Economy and Public Administration under the President of the Russian Federation, Moscow, Russian Federation; Senior Researcher, School of International Relations, Saint Petersburg State University, Saint Petersburg, Russian Federation. E-mail: bazarkina-icspsc@yandex.ru

Leon Dzh. Lasuriia — Research Intern, International Center for Socio-Political Studies and Consulting (ICSPSC), Moscow, Russian Federation. E-mail: lasuriialeon@mail.ru

Abstract

The article provides an overview of Russian specialists participation in a number of academic events on strategic communication and psychological security held in the Republic of South Africa in February-March 2019. Scientific cooperation between Russia and South Africa is relevant, on the one hand, due to the Fourth industrial revolution, which requires all governments to pay attention to changes in science and technology, and, as a consequence, in the economy and social sphere. On the other hand, the current international situation is characterized by intense psychological warfare, in which more and more actors (both state and non-state) are involved. In these circumstances, it is necessary to strengthen Russia's cooperation with other countries in the field of information and psychological security within the framework of international organizations such as BRICS. Under these trends, the 14th International Conference on Cyber Warfare and Security (ICCWS 2019) at Stellenbosch University and a mini-track "Psychological Warfare, Advanced Technologies and Political Instability in the Contemporary World" took place with the participation of researchers from Russia and other countries. Also, Russian researchers took part in the research seminar "Artificial Intelligence and Challenges of the International Psychological Security on the Internet" at the University of Cape Town, visited Johannesburg and Port Elizabeth in order to establish research contacts. A fruitful academic discussion with colleagues from South Africa and other countries touched upon a wide range of issues related to security ones, threats and risks for information systems, the development of a culture and standards of security, the problems of strategic communication, role of artificial intelligence in ensuring international psychological security.

Keywords

International relations, academic cooperation, strategic communication, psychological warfare, international psychological security, artificial intelligence.