Создание искусственного интеллекта: современные достижения и отложенные риски

Трибуна молодого учёного

Е. Д. Лукьянова

СОЗДАНИЕ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА! СОВРЕМЕННЫЕ ДОСТИЖЕНИЯ И ОТЛОЖЕННЫЕ РИСКИ

DOI: 10.19181/snsp.2019.7.1.6275

Лукьянова Екатерина Дмитриевна — магистрант кафедры бизнес-информатики и искусственного интеллекта, магистрант кафедры социологии, МГИМО (Университет) МИД России. 119454, Россия, Москва, пр-т Вернадского, 76 E-mail: ekaterinaluky@gmail.com

Аннотация. В статье рассмотрена проблема развития искусственного интеллекта, его амбивалентное влияние на общество и человека. Дано определение искусственного интеллекта, очерчено проблемное поле его исследования. Проанализированы явные и латентные функции искусственного интеллекта, которые могут спровоцировать отложенные риски. Рассмотрен искусственный интеллект как сложный социобиотехнический гибрид и качественно новый механизм социального контроля. Оценены достижения, а также рискогенная роль искусственного интеллекта в современном сложном социуме в производстве отложенных рисков. Особое внимание уделяется знанию о феномене искусственного интеллекта, приобретающего междисциплинарный характер. Конкретно указаны некоторые отложенные риски, относящиеся к функционированию искусственного интеллекта. В контексте рискологического поворота рассмотрены факторы, способствовавшие созданию социобиотехнического гибрида в виде искусственного интеллекта. Рассмотрены риски нового типа иррациональной рациональности, причиной которой, по мнению автора, является внедрение информационных технологий и искусственного интеллекта в социальные процессы, отмечены побочные последствия этой рациональности. Отмечена проблема риска деинтимизации, лишения человека возможностей и права на личную информацию, что может повлечь за собой новые проявления отчуждения в виде дегуманизации социальных и природных реалий. Также рассматриваются проблема плюрализации знания об искусственном интеллекте, использование перформа-тивных механизмов, производящих фейки, абсолютизирующие позитивные или, напротив, негативные последствия функционирования искусственного интеллекта. Даны обобщения состояния рискогенности искусственного интеллекта в настоящий момент. Представлены рекомендации для дальнейшего междисциплинарного изучения искусственного интеллекта. Обоснована важность реализации оценки рискогенности программ, создаваемых на базе искусственного интеллекта.

Ключевые слова: сложный социум, искусственный интеллект, цифровизация экономики и социума, побочные эффекты, риски, дегуманизация, рационализация, социобиотехнический гибрид, социальный контроль.

Словосочетание «искусственный интеллект» ныне вошло не только в научную литературу, но и в новостные ленты и повседневную жизнь. Технические разработчики ежедневно изобретают новые возможности развития цифровых

технологий, однако зачастую с позиций формального рационализма и прагматизма, а социологии и ряд представителей естественных наук делают акцент на исследованиях их негативных побочных эффектов, представляющих вызовы «человеческому духу» и гуманизму [Vanderburg, 2016]. Искусственный интеллект — феномен становления сложного социума, который быстро и нелинейно развивается, производя не только достижения, но и отложенные риски. Уже сегодня люди стихийно вступают во взаимосвязь с искусственным интеллектом и цифровизацией экономики и социальной жизни — новые технологии радуют своих пользователей полезностью, простотой и доступностью. В действительности такое взаимодействие с цифровыми технологиями имеет латентные негативные побочные последствия, к которым люди могут оказаться не готовыми. Стремления к созданию инновационных, прагматически ориентированных технологий, к сожалению, не всегда анализируются на предмет ихрискогенности и дегуманизации человеческих отношений. Между тем, как считает канадский социолог В. Моско, функционирование мышления человека всё более обретают характер цифровой техники [Mosco, 2017]. В связи с этими и другими негативными проявлениями искусственного интеллекта важным становится недопущение невозвратного момента для сохранения гуманистического стержня в развитии человечества.

В научной литературе начала XXI в. поднимались вопросы возникновения сложных социоприродных реалий, старт изучения которых дала VIII Конференция Европейской социологической ассоциации (Глазго, 2007 г.) [Гуманистический поворот.., 2018]. Однако тема рискогенности искусственного интеллекта и становления цифрового общества, по существу, только начинает изучаться. Одним из наиболее известных разработчиков данной тематики является исследователь проблемы технологической сингулярности Э. Юдковский [Yudkowsky, 2008]. И. Маск предупреждал, что человечеству «нужно быть очень осторожным с искусственным интеллектом. Он потенциально опаснее ядерного оружия». С. Хокинг отмечал, что «развитие сильного искусственного интеллекта может означать конец человеческой расы» [Cellan-Jones, Hawking, 2014].

В значительной степени проблема искусственного интеллекта остаётся в сфере научного незнания. У. Бек пишет о том, что современное общество является обществом незнания в самом прямом смысле: «Оно не может быть преодолено ббльшим и лучшим знанием, ббльшей или лучшей наукой. Жить в среде созданного незнания означает искать неизвестные ответы на вопросы, которые никто не может ясно сформулировать» [Beck, 2010].

Выход из создавшейся ситуации есть: знание об искусственном интеллекте, цифровизации экономики и социума относится к передовым исследованиям, требующим принципиально новых теорий, предполагающим наведение мостов между социальными, естественными и гуманитарными науками [Гидденс, 2003].

Искусственный интеллект — это научная дисциплина и практическая область, основной целью которой является разработка методов, моделей и программных средств, позволяющих искусственным устройствам реализовывать

целеполагание, целенаправленные действия. В данной работе под искусственным интеллектом мы будем также понимать раздел компьютерного программирования, который основан на придании искусственным устройствам и вычислительным системам возможностей самообучения и саморазвития с последующей рефлексией. Э. Гидденс пишет о том, что рефлективность — это постоянный и активный пересмотр социальной реальности в свете новой информации или знания. Это не просто «самосознание», но «наблюдаемое свойство и характерная особенность движущегося потока социальной жизни». В результате искусственный интеллект создаёт реальность в виде сложной системы. Эта новая система характеризуется самоорганизацией и саморазвитием. Она развивается нелинейно и крайне быстро, постоянно приумножая и усложняя знания. Никто не может предположить, когда искусственный интеллект организуется в ещё более влиятельную и рискогенную систему, обладающую собственным развитием.

Согласно концепции О. Н. Яницкого, в ходе прогресса общество создало «вторую природу», искусственную — совокупность социобиотехнических систем [Яницкий, 2016]. Искусственный интеллект является новейшим гибридом социобиотехнической системы, который характеризуется крайне быстрым и усложняющимся развитием. Он объединяет вокруг себя институты, индивидов, группы, организации и образует новую социобиотехническую реальность.

Искусственный интеллект создаёт новую глобальную систему контроля. Фактически мы имеем дело со становлением глобального надзора, который осуществляется в контексте внетерриториальности и во «вневременном времени» (М. Кастельс). Вся информация о любом индивиде, независимо от места его проживания и нахождения, легко может быть вычислена искусственным интеллектом и использована либо ему во благо (устранение той или иной девиации), либо против него.

Социальный контроль постоянно усложняется, перерастая, по существу, в тотальный надзор. Вот лишь некоторые вехи его развития. По Э. Дюркгейму, социальный контроль — это функционирование всех социальных институтов и практик в контексте разделения труда, направленное на поддержание социального порядка; по Н. Луману — «механизм саморегуляции общества»; по П. Вирилио, в период постмодерна социальный контроль становится внутренним, осуществляется с помощью разного рода трансплантатов, а также предполагает «кибернетическое управление мыслью». Новый тип надзора контролирует поведение пользователя в социальных сетях в целях вычисления потенциально опасных для общества индивидов (например, террористов), выявления киберпреступников, подозрительных денежных транзакций и т. д. Однако данный надзор подрывает свободы индивида (право на тайну личной жизни).

В современном мире, помимо старых рисков, увеличилась доля институциональных рисков, таких как рынки, биржи, избирательные кампании, сетевые взаимодействия, в функционировании которых задействован искусственный

интеллект. В связи с этим в научном сообществе оказалась востребованной идея рискологического поворота, суть которой заключается в том, что происходит рефлексия почти всего знания, касающегося рисков и неопределённостей. Особенно проблемным предстаёт анализ отложенных рисков искусственного интеллекта. Эти риски могут проявляться амбивалентно: с одной стороны, могут становиться факторами инновационного, креативного развития, а с другой — иметь дегума-низирующие последствия для взаимодействия людей, сохранения собственно человеческого в человеке. Выделим три, на наш взгляд, наиболее важные риско-генные черты искусственного интеллекта и процесса цифровизации: 1) ускорение и усложнение всех процессов в обществе. При этом искусственный интеллект способствует постоянному выбору альтернатив, то есть рискам; 2) рефлексивность, вызванная искусственным интеллектом и цифровизацией, воздействует на статусность и идентификации людей. Не каждый человек способен адекватно адаптироваться к этим процессам; 3) искусственный интеллект способствует развитию принципиально нового сетевого взаимодействия людей. Включение в любую сеть предполагает неопределённость, что вынуждает людей рисковать.

Кроме того, развитие искусственного интеллекта и цифровых технологий содержит явные и латентные риски дегуманизации. В частности, появление ИИ и цифровых практик умаляет значимость саморазвития человеческой личности. Возникает феномен появления нового типа иррациональной рациональности, который проявляется в дегуманизации человеческого разума. Дж. Ритцер пишет о макдональдизации в медицине, образовании, коммуникациях.

Ввиду распространения искусственного интеллекта и цифровых технологий люди предпочитают общение в сетях живому общению, что создаёт систему «ложных дружественных связей», которые, в свою очередь, дегуманизируют межличностные отношения. Эта система «ложных дружественных связей» во всё большей степени регулируется искусственным интеллектом. С помощью его программ теперь становится возможным полноценное общение человека с компьютером, что доказал знаменитый тест Тьюринга, во время которого человек взаимодействует и с компьютером, и с человеком. На основании ответов на вопросы он должен определить, с кем он разговаривает. Компьютерная программа смогла в большинстве случаев ввести человека в заблуждение, заставив сделать неверный выбор.

Искусственный интеллект дегуманизирует и деинтимизирует частную жизнь людей. Полгода назад компания Real Botix представила своё изобретение — Генри — первого управляемого искусственным интеллектом робота для секса. М. Козинский, психолог из Стэнфорда, запустил программу, которая способна по фотографии распознать сексуальную ориентацию человека. Опыт привёл к 92% точности. Программа самостоятельно обучилась находить по внешности человека признаки гомосексуальности, которые она обнаружила, проанализировав сотни тысяч фотографий. В результате в современном обществе частная жизнь, в нынешнем понимании данного термина, исчезнет, что прямо обо-

сновывает З. Бауман [Bauman, 2011]. Можно сделать вывод о том, что грядёт становление «общества правды», общества абсолютной доступности практически к любой персональной информации.

З. Бауман называет современный мир текучим, сравнивая его с жидкостью: жидкость не фиксирует пространство и время, она текуче перемещается, жидкости обтекают одни препятствия, растворяют другие и просачиваются через третьи. Текучесть присутствует во множестве сфер: любви, времени, страхе, культуре. Мораль размывается в текучем мире и становится амбивалентной. Нет более категорий хороший / плохой, теперь всё становится амбивалентным.

Конструируется искусственная реальность, которая в конечном счёте станет диктовать человеку собственные установки. Например, американская компания Amazon построила единственный в мире автоматизированный супермаркет AmazonGo. Все продукты, которые человек кладёт в корзину, считываются, и деньги списываются с карты покупателя. Amazon способен запоминать предпочтения каждого покупателя и сам предлагает покупателю подходящий товар. Это не просто означает, что искусственный интеллект будет диктовать покупателю своё мнение, он будет предвосхищать мысли человека ещё раньше, чем человек подумает о том, что он собирается сделать. Люди утрачивают возможность контролировать свои желания, так как из акторов превращаются в объекты происходящих трансформаций. В постоянном желании и попытках достичь ещё большего развития люди начинают, сами того не подозревая, подвергаться необратимой трансформации со стороны созданной ими же реальности. Происходит изменение ролей создателя и создаваемого, когда создаваемое начинает диктовать свою волю создателю.

Важно отметить то, как складывается мнение о значимости ИИ в общественном сознании. В этом процессе, как пишет Дж. Александер, важную роль играют механизмы перформативности, которые предполагают использование разного рода спектаклей, манипулятивных технологий для воздействия на сознание людей, побуждая их идентифицироваться с конкретными ориентирами. Так, некоторые журналисты описывают искусственный интеллект как непременно дружественный, полезный, нужный человечеству, оставляя в стороне его негативные побочные эффекты и отложенные риски. Абсолютизированный дружественный образ искусственного интеллекта в итоге может не оправдать самых лучших надежд разработчиков и привести к катастрофическим последствиям.

Таким образом, нами был проведён анализ искусственного интеллекта как сложного социобиотехнического гибрида, имеющего амбивалентные последствия для жизни и функционирования человека, культуры, общества. Акцент был сделан на выявлении его рискогенной роли в плане производства сложных отложенных рисков. Сформулирована рекомендация: научному сообществу необходимо предпринимать усилия по направлению функциональности искусственного интеллекта на гуманизацию человеческих отношений [Гуманистический поворот.., 2018], что может стать значимым фактором минимизации описанных выше рисков.

Список литературы

Гидденс Э. Устроение общества: Очерк теории структурации. М.: Академический проект, 2003. 528 с.

Гуманистический поворот: императив человеческой цивилизации / Под ред. С. А. Кравченко. М.: МГИМО-Университет, 2018. 209 с.

Яницкий О. Н. Социобиотехнические системы: новый взгляд на взаимодействие человека и природы // Социологическая наука и социальная практика. 2016. Т. 4. № 3. C. 5—22. Bauman Z. Social Inequalities in a Global Age. Cambridge: PolityPress, 2011. 149 p. Cellan-Jones R., Hawking S. Artificial Intelligence could end mankind. [Электронный ресурс] // BBC News. 2014 URL: http://www.bbc.co.uk/news/technology-30290540/ (дата обращения: 22.09.2018).

Mosco V. Becoming Digital. Toward a Post-Internet Society. Bingley: Emerald Publishing Limited, 2017. 227 р.

Vanderburg W. H. Our Battle for the Human Spirit. Toronto: University of Toronto Press, 2016. 421 р.

Yudkowsky E. Artificial Intelligence as a Positive and Negative Factor in Global Risk. In Global Catastrophic Risks. New York: Oxford University Press, 2008. P. 308-345.

Дата поступления в редакцию: 19.11.2018.

DOI: 10.19181/snsp.2019.7.1.6275

Artificial Intelligence: Achievements and Postponed Risks

Lukyanova Ekaterina Dmitrievna

Master Student, Department of Business Informatics and Artificial Intelligence, Master Student, Department of Sociology of the MGIMO Russian Ministry of Foreign Affairs University. Prospekt Vernadskogo, 76, 119454, Moscow, Russia. E-mail: ekaterinaluky@gmail.com

Abstract. The article considers the problem of the development of artificial intelligence, its ambivalent impact on society and humanity. There are the description and definition of artificial intelligence, the problem field was defined. We conducted a study of the manifest and latent functions of artificial intelligence, which can provoke postponed risks. We considered the vision of artificial intelligence as a complex socio-biotechnological hybrid and a qualitatively new mechanism of social control. The achievements and risk-based role of artificial intelligence in modern complex society was estimated. Particular attention is paid to the nature of knowledge about the phenomenon of artificial intelligence, acquiring an interdisciplinary character. Some deferred risks related to the functioning of artificial intelligence are indicated. The factors contributing to the creation of a socio-biotechnological hybrid in the form of artificial intelligence are considered in the context of the riskological turn. The risks of a new type of irrational rationality are considered, the cause of which, according to the author, is the introduction of IT and artificial intelligence, the consequences of rationality are given. The problem of the risk of deintimization, depriving a person of opportunities and the right to personal information is noted. That problem may entail new manifestations of alienation in the form of the dehumanization of social and natural realities. due to the introduction in many programs of artificial intelligence. The

article deals with the problem of the pluralization of knowledge about artificial intelligence, the use of performance mechanisms that produce fakes, absolutizing positive or negative consequences of the functioning of artificial intelligence. The article summarizes the state of the risks of artificial intelligence at the moment. Recommendations for further interdisciplinary study of artificial intelligence are presented. The article substantiates the importance of the implementation of the risk assessment of the emerging programs based on artificial intelligence.

Keywords: complex society, artificial intelligence, digitalization of the economy and society, side effects, risks of artificial intelligence and digitalization, dehumanization, rationalization, socio-biotechnological hybrid, social control.

References

Giddens E. Ustroenie obschestva: Ocherk teorii strukturatsii. [The constitution of society. Outline of the theory of structuration]. M.: Akademicheskiy proekt publ., 2003. 528 p. (In Russ.).

Gumanisticheskiypovorot: imperativ chelovecheskoy tsivilizatsii. [Humanistic turn: the imperative of human civilization]. Ed. by S. A. Kravchenko. M.: MGIMO-Universitet publ., 2018. 209 p. (In Russ.).

Yanitskiy O. N. Sotsiobiotehnicheskie sistemy: novyy vzglyad na vzaimodeystvie cheloveka i prirody. [Sociobiotechnical system: a new look at the interaction of man and nature]. Sotsiologicheskaya nauka isotsial'nayapraktika. 2016. T. 4. № 3. P. 5—22. (In Russ.).

Bauman Z. Social Inequalities in a Global Age. Cambridge: Polity Press, 2011. 149 p.

Cellan-Jones R., Hawking S. Artificial Intelligence could end mankind. [Electronic resource]. BBC News. 2014. URL: http://www.bbc.co.uk/news/technology-30290540/ (Date of access: 22.09.2018).

Mosco V. Becoming Digital. Toward a Post-Internet Society. Bingley: Emerald Publishing Limited, 2017. 227 p.

Vanderburg W. H. Our Battle for the Human Spirit. Toronto: University of Toronto Press, 2016. 421 p.

Yudkowsky E. Artificial Intelligence as a Positive and Negative Factor in Global Risk. In Global Catastrophic Risks. New York: Oxford University Press, 2008. P. 308-345.

Date received by 19.11.2018.