КАК ЛЮДИ ВЗАИМОДЕЙСТВУЮТ С РОБОТАМИ: МЕЖДУ ТЕОРЕТИЧЕСКИМИ ПОИСКАМИ И ЭМПИРИЧЕСКИМИ ИССЛЕДОВАНИЯМИ

Гаврилина Е.А. Как люди взаимодействуют с роботами: между теоретическими поисками и эмпирическими исследованиями // Технологос. - 2020. - № 2. - С. 5-14. DOI: 10.15593/perm.kipf/2020.2.01

Gavrilina E.A. How People are Interacting with Robots: between Theory and Empiric Studies. Technologos, 2020, no. 2, pp. 5-14. DOI: 10.15593/perm.kipf/2020.2.01

ФИЛОСОФСКИЕ НАУКИ

Б01: 10.15593/регш.к1р1У2020.2.01 УДК 316.644:004.896

КАК ЛЮДИ ВЗАИМОДЕЙСТВУЮТ С РОБОТАМИ: МЕЖДУ ТЕОРЕТИЧЕСКИМИ ПОИСКАМИ И ЭМПИРИЧЕСКИМИ ИССЛЕДОВАНИЯМИ

Е.А. Гаврилина

Московский государственный технический университет им. Н.Э. Баумана (национальный исследовательский университет), Москва, Россия

О СТАТЬЕ

АННОТАЦИЯ

Получена: 29 апреля 2020 г. Принята: 08 июня 2020 г. Опубликована: 19 октября 2020 г.

Ключевые слова:

искусственный интеллект, взаимодействие людей и роботов (ИР!), акторно-сетевая теория, агент, актор, расширенная социальность, ассамбляж, сборка

Исследования взаимодействия людей и искусственных автономных интеллектуальных систем становятся важной частью научных исследований, потому что такие взаимодействия ключевым образом изменяют нашу повседневность и наши представления о границах человеческого. Актуальность статьи связана с авторской попыткой обратить внимание на существующий разрыв между текущим уровнем теоретических исследований во взаимодействии людей и техники и той «естественной» установкой, которая, будучи присущей разработчикам технических систем и алгоритмов, определяет архитектуру построения практических исследований в сфере взаимодействия человека с роботами. В статье показаны базовые ограничения, которые могут влиять на результаты стихийно складывающихся исследований этого взаимодействия. Эти ограничения носят эпистемологический характер и связаны с определенным способом функционирования наших возможных концептуальных репрезентаций мира. Традиционно эта проблема связывается с онтоэпистемическим разрывом. Цель статьи - про-блематизировать существующую лакуну между теоретиками и практиками и предложить возможное теоретическое решение, на базе которого станет возможно продуктивно выстраивать своеобразные «мосты» между ними. В статье обсуждается контроверза между категориями субъектности и агентности, обсуждается понимание категории социальности. Реферативно рассмотрено изменение категории «социальность» и предложено говорить о расширенной социальности, потому что в структуру последней все чаще и все больше начинают входить не только люди, но и артефакты, и алгоритмы, в частности роботы, что с неизбежностью меняет наши представления о структурах социального взаимодействия и о самих себе. На материале перформанса и успешного коммерческого проекта рассмотрены примеры «субъективации» артефактов и «объективизации» человека. В качестве возможного решения задачи создания «общего пространства» для разработчиков автономных искусственных интеллектуальных систем и теоретиков, изучающих взаимодействие людей и не-человеков, автор статьи предлагает обратиться к теории ассамбляжей М. Деланды, что может стать теоретическим решением для моделирования гибридных систем «человек - «искусственная автономная интеллектуальная система».

© ПНИПУ

© Гаврилина Елена Александровна - кандидат философских наук, доцент, ORCID: https://orcid.org/0000-0002-6077-3879, e-mail: gavrilina@bmstu.ru

© Elena A. Gavrilina - PhD in Philosophy, Associate Professor, ORCID: https://orcid.org/0000-0002-6077-3879, e-mail: gavrilina@bmstu.ru

v ^tn Эта статья доступна в соответствии с условиями лицензии Creative Commons Attribution-NonCommercial 4.0 International

^b^^Hlj^E^^I This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License

HOW PEOPLE INTERACT WITH ROBOTS: BETWEEN THEORY AND EMPIRIC STUDIES

Elena A. Gavrilina

Bauman Moscow State Technical University, Moscow, Russian Federation

ARTICLE INFO ABSTRACT

Examination of the humans and artificial autonomous intelligence systems interaction is becoming an important part of scientific research since such interaction crucially changes our everyday life and the conception of the boundaries of humanity. The relevance of the article is related to the author's attempt to draw attention to the existing gap between the current level of theoretical research of humans and technology interaction and the «natural» aim, being inherent in the developers of technical systems and algorithms, determines the architecture of practical research construction in the field of human-robot interaction. The article shows the basic limitations that can affect the results of spontaneous research of this interaction. These limitations are epistemological in nature and connected with the definite functioning of our possible conceptual representation of the world. Traditionally, this is associated with ontology-epistemic gap. The purpose of the article is to problematize the existing gap between theorists and practitioners and to offer a possible theoretical solution, on the basis of which it will be possible to productively build a kind of a «bridge» between them. The author discusses the contradictions between the categories of subjectivity and agency, discusses the understanding of the category of sociality. The article deals with the change in the category of «sociality» and suggests talking about extended sociality since the structure of it is increasingly beginning to include not only people but also artifacts and algorithms, in particular, robots, which inevitably changes our ideas about the structures of social interaction and about ourselves. Based on the material of a performance and a successful commercial project, examples of «subjectification» of artifacts and «objectification» of a person are considered. As a possible solution to the problem of creating a «common space» for developers of autonomous artificial intelligent systems and theorists who study the interaction of human and non-human, the author of the article suggests to adress to M. Delanda's theory of assemblages, which can become a theoretical solution for modeling hybrid systems «man -artificial Autonomous intelligence system».

© PNRPU

Введение

Наша повседневная жизнь наполнена различными практиками использования технологий, взаимодействием с ними; они опосредуют также взаимодействия между людьми, а еще структурируют наше время, формы выполнения работы и организации досуга. Большую долю среди включенных в нашу жизнь технологий занимают так называемые технологии с использованием слабого искусственного интеллекта или, более корректно, автономных интеллектуальных систем, построенных на использовании разнообразных неполных решений AI-задач1. Это, например, и различные технологии системы «умный дом», и роботы-пылесосы, и Siri вместе с «Алисой», а также поисковые выдачи, контекстная реклама и т.п.

Однако широта практического использования таких технологий никоим образом не соотносится со сколь-либо консистентным теоретическим осмыслением и описанием характера взаимодействия людей с ними и, шире, возможно, изменяющегося из-за повсеместного их использования, характера социальных взаимодействий в целом. Таким образом, можно сказать, что цель данной статьи - попытаться проблематизировать эти взаимодействия и очертить возможные контуры и ограничения теоретического осмысления последних.

Эпистемологические ограничения

Для предстоящего анализа границ взаимодействий людей и автономных интеллектуальных систем, возможно, посредством их изменяющихся социальных взаимодействий, представляется важным зафиксировать те эпистемические ограничения, которые накладываются

1 AI - Artificial Intelligence - англ. искусственный интеллект.

Received: 29 April 2020 Accepted: 08 June 2020 Published: 19 October 2020

Keywords:

artificial intelligence, human-robot interaction (HRI), actor-network theory, agent, actor, advanced sociality, assemblage, assembly.

логикой развития конкретных областей знания и которые могут существенно влиять на результаты этого анализа, если их не учитывать. Похоже, что большая часть исследований интересующего нас феномена разворачиваются в русле определенных методологических установок, которые фактически формируют рамки исследований, часто заводя их в тупик (если речь не идет о только эмпирических и прикладных аспектах последних).

Первое такое ограничение связано с тем, что у исследователей в этом поле есть довольно определенный набор концепций о том, что такое взаимодействие. Однако важно помнить, что построение концептуализаций сопряжено с некоторой модельностью наших представлений, часто опосредованных доступными нам средствами измерения. Это так называемое мо-дельно-инструментальное ограничение для любого исследования. Например, солдат, наблюдающий за границами воздушного пространства, ориентируется не столько на свое зрительное впечатление от пролетающего самолета, сколько на экран радара, на котором пролетающий самолет отображается движущейся по определенной траектории точкой, и решение о пересечении или непересечении границы принимается им на основании наблюдений именно за экраном осциллографа, а не за полетом реального самолета2, хотя часто это различение не находится в сознательном фокусе лица, принимающего решение. В этом смысле те средства, с помощью которых мы пытаемся описывать тот или иной феномен, лишь в некоторой степени отражают феномен-как-он-есть. Корни этого ограничения лежат в давнем споре реалистов и эмпиристов в философии Нового времени, в отсутствии у нас непосредственного контакта с миром [1], в том, что мы смотрим на мир через определенную понятийную «оптику». Говоря в терминологии К. Мейясу [2], это традиционное корреляционистское понимание мира объектов и знание о них, множащее равнодопустимые репрезентации реальности вместо исследования непосредственно самой реальности.

Второе ограничение связано с философией привилегированного доступа, разновидностью антропоцентризма, где человек был поставлен в центр мира, а мышление человека стало единственным посредником между ним и миром. Такая эпистемологически ориентированная философия привела к априорному пониманию человека как привилегированного субъекта в мире объектов.

Таким образом, можно сказать, что традиционные способы описания взаимодействия людей с техническими объектами реализуются в некоторых рамках, которые перестают быть продуктивными в период, когда в правовом поле обсуждается потенциальная правосубъектность автономных интеллектуальных систем, например беспилотных автомобилей [3].

Примеры объективизации человека и субъективизации не-человека

Перед началом теоретического обсуждения хотелось бы остановиться на двух примерах, демонстрирующих разные аспекты взаимодействия людей с артефактами и показывающих, что традиционное субъект-объектное описание таких взаимодействий перестает работать.

Первый пример построен на описании известного перформанса Марины Абрамович Rhytm 0 [4]. Он состоялся в 1974 году в галерее Morra в Неаполе. На столе были разложены 72 различных предмета, часть из которых могла доставлять удовольствие, часть предметов были нейтральными, а часть - по-настоящему опасными. Абрамович и зрители на 6 часов были заперты в галерее, и публика могли все это время делать с Мариной и с предметами все, что им придет в голову. Абрамович превратила себя в «вещь», с которой можно делать все,

2 Пример заимствован у В. Вахштайна (личная беседа, 2018).

как с неживым объектом. Сохранились видеозаписи этого перформанса, и на них можно увидеть, как в глазах публики Марина постепенно объективизировалась и становилась вещью, предметом. Справедливости ради стоит сказать, что, когда по завершении перформанса она вернула себе субъектность, очень многие участники устыдились своих предшествующих действий.

В принципе можно говорить, что у человечества есть опыт растождествления с субъектной позицией, и в качестве примера можно приводить как исправительные учреждения, так и более гуманистически ориентированные заведения - в частности больницы. Человеческое тело становится объектом манипуляций при инвазивных вмешательствах в тело (см., например [5, 6]), таким образом объективизируясь и становясь пассивным, открытым для воздействия.

Второй пример, наоборот, связан с наделением субъектными характеристиками неживого, в частности алгоритма. Речь идет о проекте ЯерНка [7], история создания которого связана с личной драмой основательницы проекта: ее близкий друг погиб в автомобильной аварии, и, чтобы справиться с переживаниями, она собрала весь корпус сохранившихся текстов, написанных этим человеком (включая как официальные документы, так и посты в соцсетях, смс и личную переписку), и обучила нейронную сеть на этом массиве данных генерировать новые тексты, имитирующие стиль погибшего. После этого был настроен чат-бот, который фактически имитировал погибшего в переписке. По словам владелицы проекта, она до сих пор, хотя уже прошло более 5 лет с момента его гибели, иногда переписывается с «другом», как будто он еще жив, но находится где-то далеко. На текущий момент продано более 4 млн копий продукта, разумеется, имеющего возможность быть настроенным под нужды конкретного пользователя. Фактически здесь алгоритм наделяется субъективными качествами живого и значимого, то есть использующий его человек проецирует антропоморфные характеристики на нейронную сеть, тем самым придавая ей черты «субъекта». Это возможно за счет того, что человек, обладая «эксцентричной позициональностью» (в духе Х. Плеснера) [8], оказывается способен видеть смысл и интенциональность действия другого, соотнося его с собой, фактически наделяя этого другого субъективными характеристиками независимо от природы последнего [9, 10]. Можно сказать, что «субъект естественным образом социально реагирует на нечеловеческую сущность, как если бы она обладала человеческими характеристиками» [11].

з

Контроверза субъект - объект - агент

Обсуждение заявленной темы в некоторой степени затрагивает поиск ответа на один из «вечных» вопросов философии «Что есть человек?» или «Что такое природа человека?», причем в данном случае можно сузить его значение через соотнесение человека и технологий, человека и артефактов. Попытки посмотреть на человеческую природу через призму соотнесения антропологического и социального с техническим не новы4, но большинство исследований такого рода, рассматривая разные аспекты технологий, подчеркивают их инструментальный характер, иногда наделяя последние свойством выражать специфические человеческие качества и характеристики.

Разделение «субъект-объект» вполне однозначно пришло к нам как одна из ключевых идей проекта Просвещения [12], в рамках которого произошло разделение мира природы и мира культуры. Мир природы мыслился как стабильный, фиксированный и неизменный, наполненный объектами, а мир культуры был наполнен процессами и событиями, а также ин-

3 В этом тексте автор не берется проводить реконструкцию указанных понятий, ее задача более узкая.

4 См. обширнейшую литературу по философии и социологии техники.

тенциональностью и смыслами. Традиционно считалось, что отношения объекта и субъекта возможны только через то, как субъект воспринимает объект, то есть через субъективную репрезентацию объекта [13]. Объекты при этом мыслились пассивными и инертными в противоположность активным и деятельным субъектам. Таким образом, всем субъектам приписывалась агентность (или агентивность) как способность действовать, самостоятельно принимая решения [14, с. 67]. Разумеется, в таком контексте понятие агентности связывалось с такими важными философскими вопросами, как свобода воли, индивидуальность, субъективные права и моральная ответственность. Принципиальная полярность, противопоставленность субъектов и объектов не вызывала вопросов в рамках позитивистской модели науки, где объекты мыслились нейтральными, независимыми от субъектов и способствующими человеческим целям, то есть инструментально.

Однако по мере развития научного знания и смещения фокуса с позитивистской модели все больше стала видна взаимообусловленность субъектов и объектов, стали формироваться конструктивистские подходы к знанию, в том числе научному, начали расти по своей численности и значимости последствия технологического развития, что привело к постепенной дезинтеграции рационального субъекта Нового времени, с одной стороны, и онтологизации технологий и артефактов - с другой [15, с. 384].

Общим трендом осмысления методологических рамок науки и философии в настоящее время становится критика антропоцентристской позиции (например, [16, 17 и др.]), размывание границ между социальным, антропологическим и технологическим, а также постулирование некоторой «симметрии» между людьми и вещами [18, 19]. Все это приводит к формированию так называемого постгуманистического дискурса [7, с. 385].

В таком контексте становится возможным и переосмысление категорий агентности и ак-торности. Традиционные концепты социальной теории, социальное действие и агентность дискутируются в рамках дихотомий агентность-структура (например, [20]), микро-макро, коллективное-индивидуальное, естественное-искусственное в последнее время все чаще заменяются дихотомией актор-сеть (подробную реконструкцию можно посмотреть, например, в [21]). Актор - тот, кто, действуя, вынуждает действовать других. И актором может быть не только человек, но и не-человек (non-human). Подобная логика развивается в рамках акторно-сетевой теории и ее импликациях (см., например [22], [23], [24]). Один из доводов, хотя и не ключевой, что артефакты вплетены во все социальные процессы, которые просто перестанут «работать» без вещей, объектов.

Вторым важным и значительно более существенным аргументом становится идея делегирования действия и компетентности артефакту [25] и наделения его агентностью. Фактически «усваивая делегированную компетенцию, не-человеки избавляют людей от необходимости физического присутствия. Так, электронное письмо является субститутом перемещения -не только к адресату, но и до почтового ящика - и последующего разговора. Латур приводит в пример стальной держатель, страхующий ребенка в салоне автомобиля: он «завладел моей компетенцией в области удержания моего сына на расстоянии вытянутой руки», а также "впитал" в себя соответствующую речевую компетенцию». Эта бесшовная агломерация, где отношения между людьми укреплены, ускорены, модифицированы техникой, и есть для Латура общество, сеть гетерогенных акторов. Таким образом, условия существования человеческого общества - это технологии, они делают его устойчивым [26, с. 112]. В рамках таких агломераций мы можем говорить о формировании гибридов, так как человек и технологии все больше могут смешиваться друг с другом, а технологии все больше могут обретать «человеческие черты».

Новая социальность?

Усложнение технологий, создание гибридов и киборгов, и изменение характера взаимодействий между людьми, и включение в эти взаимодействия не-человеков приводит нас к новому пониманию социальности.

Традиционно социальность мыслилась как, во-первых, "внутренняя", как свойство, присущее когнитивной активности человека, даже если он выключен из всех социальных связей, во-вторых, "внешняя", как зависимость пространственно-временных характеристик знания от состояния общественных систем и, в-третьих, как "открытая", выражающая включенность знания в культурную динамику, при учете того, что совокупная сфера культуры является основным когнитивным ресурсом человека» [27].

Чуть более конкретизируя, в традиционном смысле социальность можно определить через совокупность высказываний:

«Во-первых, социальность есть феномен совместности. Но этот критерий явно недостаточен.

Во-вторых, социальность - есть базирующееся на совместности особого рода взаимодействие. И это суженное определение уже позволяет уйти в понимании от "социальности" растений и не позволяет рассматривать как социальные те способы совместности живых существ, между которыми нет упорядоченного взаимодействия. Однако типологию необходимо уточнить.

В-третьих, социальность представляет собой взаимодействие, фундированное общей смысловой перспективой. И это определение уже позволяет очертить социальность как человеческий феномен и оставить в стороне типы социальности животных.

В-четвертых, эти взаимодействия не случайны, а упорядоченны.

Таким образом, социальность представляет собой базирующееся на общей смысловой перспективе взаимодействие людей, совершаемое как упорядоченная цепь коммуникаций и образующее устойчивые структуры» [28].

Однако все чаще исследователи говорят о новых типах социальности: социальности, подпитываемой объектами, социальности с объектами [29] и даже искусственной социальности [30, 31]. На наш взгляд, корректнее говорить о расширенной социальности, но факт, что характер взаимоотношений людей даже между собой изменяется, что появляются новые социальные агенты, имеющие не-человеческую природу, остается неоспоримым, и это, конечно, несет нам как новые возможности, так и новые риски [32].

Возможные способы решения

Возвращаясь к поставленной нами в начале этого текста задаче, можно зафиксировать, что во взаимодействии людей и искусственных автономных агентов, в частности роботов, помимо сложностей, относящихся исключительно к практическому и прагматическому спектрам, изучению которых посвящено множество исследований (см., например [33]), практически нет описания сложностей, которые есть в теоретическом плане, а возможное теоретическое обоснование такого взаимодействия еще не проводилось в достаточной мере. Точнее говоря, практически нет импликаций, позволяющих взаимодействовать тем, кто занимается фундаментальной разработкой теоретических положений взаимодействия людей и искусственных систем, и теми, кто занимается практической разработкой различных артефактов.

Видится, что продуктивной для подобного перевода будет теория ассамбляжей М. Де-ланды [34]. Эта теория построена в объектно-ориентированном подходе и инспирирована тео-

рией ассамбляжей и процессов Жиля Делеза. Деланда противопоставляет тотальности (в гегелевском смысле) и ассамбляжи, фиксируя, что в теории ассамбляжей ключевыми свойствами целого становятся синтетичность и эмерджентность, но это не препятствует возможностям их анализа. Таким образом, ассамбляжи, сохраняя свою гетерогенность, тем не менее могут действовать как совокупности эмерджентно связанных акторов и актантов. Все ассамбляжи, согласно Деланде, имеют контингентный характер, то есть они могли бы сформироваться и иначе, но не случайным образом. В этом смысле важна историчность формирования ассамбляжа. Такой подход позволяет избежать редукционизма, с одной стороны, а с другой - избежать традиционных дихотомий микро-макро, индивидуальное-коллективное, естественное-искусственное. Ассамбляжи обладают таким свойством, как экстериорность. В первую очередь отношения экстериорности предполагают, что составная часть ассамбляжа может быть отделена от него и помещена в другой ассамбляж с иными формами взаимодействия, то есть некоторую автономию актантов и акторов. Все компоненты ассамбляжа могут играть как экспрессивную, так и материальную роль, иногда их смешивая. Второй важной характеристикой любого ас-самбляжа является территоризация его компонентов, того, что повышает его внутреннюю гомогенность и стабилизирует пространственные границы ассамбляжа, что играет синтетическую роль в них и позволяет поддерживать идентичность за счет процессов рекурренции, обеспечивающих некоторую стабильность первоначальной сборки. Однако более подробное рассмотрение того, как взаимодействие людей и автономных искусственных систем может быть теоретически описано с помощью теории ассамбляжей Деланды, требует отдельного исследования и выходит за пределы данного текста.

Заключение

В статье показаны возможные теоретические ограничения, которые могут неявным образом искажать эмпирические результаты в исследованиях взаимодействия людей и не-человеков. Описаны рамки, которые могут иметь эвристический потенциал в построении своеобразного перевода теоретического описания для эмпирических исследований такого взаимодействия.

Список литературы

1. Кант И. Критика чистого разума / пер. с нем. Н. Лосского; сверен и отред. Ц.Г. Арзаканяном, М.И. Иткиным; примеч. Ц.Г. Арзаканяна. - М.: Мысль, 1994. - 591 с.

2. Мейясу К. После конечности: Эссе о необходимости контингентности / пер. Л. Медведевой. - Екатеринбург; М.: Кабинетный ученый, 2015. - 196 с.

3. Грунвальд А., Железняк В.Н., Середкина Е.В. Беспилотный автомобиль в свете социальной оценки техники // Технологос. - 2019. - № 2. - С. 41-51. DOI: 10.15593/perm.kipf/-2019.2.04

4. Марина Абрамович [Электронный ресурс]. - URL: http://artuzel.com/content/-abramovich-marina (дата обращения: 11.04.2020).

5. Мол А. Множественное тело: онтология в медицинской практике. - Пермь: Гиле Пресс, 2017.

6. Харис Т. Агентность, опосредованная объективацией: субъектность и технологии // Философско-литературный журнал «Логос». - 2018. - № 5 (126). - URL: https://cyberleninka.ru/-article/n/agentnost-oposredovannaya-obektivatsiey-subektnost-i-tehnologii (дата обращения: 10.04.2020).

7. Наша история [Электронный ресурс] / Реплика. - URL: https://replika.ai/about/story (дата обращения 11.04.2020).

8. Плеснер Х. Ступени органического и человек: Введение в философскую антропологию: пер. с нем. - М.: Рос. полит. энцикл. (РОССПЭН), 2004. - 368 с.

9. Эльжановский А., Петжиковский Т. Животные как не-личностные субъекты права // Человек. - 2017. - № 5. - С. 25-37.

10. Гаврилина Е.А. Может ли робот быть моральным агентом? [Электронный ресурс] // Философия: журн. Высшей школы экономики. - 2020. - № 4(1). - C. 135-167. - URL: https://doi.org/10.17323/2587-8719-2020-1-135-167 (дата обращения: 10.04.2020).

11. Кловайт Н. Рефлексивный антропоморфизм: неведение онтологии или невежественная онтология? [Электронный ресурс] // Социологический журнал. - 2018. - Т. 24, № 1. DOI: 10.19181/socjour.2018.24.1.5711

12. Карицкий И.Н. История «Субъекта» в ее некоторых ключевых моментах [Электронный ресурс] // PEM: Psychology. Educology. Medicine. - 2015. - №3-4. - URL: https://-cyberleninka.ru/article/n/istoriya-subekta-v-ee-nekotoryh-klyuchevyh-momentah (дата обращения: 10.04.2020).

13. Леви Б. На пути к окончательному освобождению объекта от субъекта [Электронный ресурс] // Философско-литературный журнал «Логос». - 2014. - №4 (100). - URL: https://cyberleninka.ru/article/n/na-puti-k-okonchatelnomu-osvobozhdeniyu-obekta-ot-subekta (дата обращения: 10. 04.2020).

14. Труфанова Е.О. Субъект и познание в мире социальных конструкций. - М.: Канон+ РООИ «Реабилитация», 2018 - 320 с.

15. Юдин Б.Г. Человек: выход за пределы. - М.: Прогресс-Традиция, 2018. - 472с.

16. Харауэй Д. Манифест киборгов: наука, технологии и социалистический феминизм 1980-х. - М.: Ад Маргинем Пресс, 2017. - 128 с.

17. Харман Г. Четвероякий объект: Метафизика вещей после Хайдеггера / пер. с англ. А. Морозова и О. Мышкина. - Пермь: Гиле Пресс, 2015. - 152 с.

18. Латур Б. Пересборка социального: введение в акторно-сетевую теорию / пер. с англ. И. Полонской; под ред. С. Гавриленко. - М.: Изд. дом Высшей школы экономики, 2014. - 384 с.

19. Пикеринг Э. Новые онтологии [Электронный ресурс] // Философско-литературный журнал «Логос». - 2017. - №3 (118). - URL: https://cyberleninka.ru/article/n/novye-ontologii (дата обращения: 10. 04.2020).

20. Арчер М. Реализм и морфогенез // Социологический журнал. - 1994. - № 4. - С. 50-68.

21. Иванова Н. А. О новых тенденциях в социальной эпистемологии: агент-структурный подход и «Поворот к материальному» [Электронный ресурс] // Вестн. Том. гос. ун-та. Философия. Социология. Политология. - 2014. - №1 (25). - URL: https://cyberleninka.ru/article/n/o-novyh-tendentsiyah-v-sotsialnoy-epistemologii-agent-strukturnyy-podhod-i-povorot-k-materialnomu (дата обращения: 10.04.2020).

22. Латур Б. Где недостающая масса? Социология одной двери // Социология вещей. -М.: Территория будущего, 2006. - C. 199-223.

23. Латур Б. Когда вещи дают сдачи: Возможный вклад «исследований науки» в общественные науки // Вестн. Моск. ун-та. Сер. 7. Философия. - 2003. - № 3. - С. 20-39.

24. Астахов С.С. Способны ли объекты к действию? Версия акторно-сетевой теории // Философия и культура. - 2016. - № 8. - C. 1091-1098. DOI: 10.7256/1999-2793.2016.8.20069

25. Пинч Т. Укрощение нечеловеков. Некоторые рутинные онтологические исследования // Онтологии артефактов: взаимодействие «естественных» и «искусственных» компонентов жизненного мира. - М.: Дело, 2012. - С. 352-374.

26. Напреенко И.В. Делегирование агентности в концепции Бруно Латура: как собрать гибридный коллектив киборгов и антропоморфов? [Электронный ресурс] // Социология власти. - 2015. - №1. - URL: https://cyberleninka.ru/article/n/delegirovanie-agentnosti-v-kontseptsii-bruno-latura-kak-sobrat-gibridnyy-kollektiv-kiborgov-i-antropomorfov (дата обращения: 03.04.2020).

27. Касавин И.Т. Социальная эпистемология: понятие и проблемы [Электронный ресурс] // Epistemology & Philosophy of Science. - 2006. - №1. - URL: https://cyberleninka.ru/-article/n/sotsialnaya-epistemologiya-ponyatie-i-problemy (дата обращения: 10.05.2020).

28. Бакланова О.А., Бакланов И.С., Ерохин А.М. Методологические конструкты исследования социальности современного общества [Электронный ресурс] // ИСОМ. - 2016. №3-1. -URL: https://cyberl eninka.ru/arti cle/n/metodologicheskie-konstrukty-issledovaniya-sotsialnosti-sovremennogo-obschestva (дата обращения: 03.05.2020).

29. Кнорр-Цетина К. Социальность и объекты. Социальные отношения в постсоциальных обществах знания // Социология вещей. Сер. «Университетская библиотека Александра Погорельского». - М.: Территория будущего, 2006. - С. 267-306.

30. Malsch Th., Schulz-Schaeffer I. 'Socionics: Sociological Concepts for Social Systems of Artificial (and Human) Agents' // Journal of Artificial Societies and Social Simulation. - 2007. -Vol. 10(1). - No 11. - URL: <http://jasss.soc.surrey.ac.uk/10/1/11.html>.

31. Резаев А.В., Трегубова Н.Д. «Искусственный интеллект», «онлайн-культура», «искусственная социальность»: определение понятий [Электронный ресурс] // Мониторинг общественного мнения: экономические и социальные перемены. - 2019. - № 6. - С. 35-47. - URL: https://doi.org/10.14515/ monitoring.2019.6.03.

32. Гаврилина Е.А., Петрова И.Э. (Не)человеческая социология и власть искусственной социальности // Мониторинг общественного мнения: экономические и социальные перемены. - 2019. - № 2. - С. 434-438. - URL: https://doi.org/10.14515/monitoring.2019.2.19.

33. Исследовательский портал HRI сообщества [Электронный ресурс]. - URL: http://humanrobotinteraction.org/ (дата обращения: 11.05.2020).

34. Деланда М. Новая философия общества: Теория Ассамбляжей и социальная сложность. - Пермь: Гиле Пресс, 2018. - 170 с.

References

1. Kant I. Kritika chistogo razuma [Criticism of pure reason]. Mos^w, Mysl', 1994, 591 p.

2. Meillassoux Q. Posle konechnosti: Esse o neobkhodimosti kontingentnosti [After Finitude: An Essay On the Necessity of Contingency]. Ekaterinburg; Moskva, Kabinetnyi uchenyi, 2015, 196 p.

3. Grunwald A., Zhelezniak V., Seredkina E. Bespilotnyi avtomobil' v svete sotsial'noi otsenki tekhniki [Self-driving Cars as a Big Challenge for Technology Asessment]. Technologos, 2019, no. 2, pp. 41-51. DOI: 10.15593/perm.kipf/2019.2.04

4. Marina Abramovich, available at: http://artuzel.com/content/abramovich-marina (accessed 11 April 2020).

5. Mol A. Mnozhestvennoe telo: ontologiia v meditsinskoi praktike [Multiple body: ontology in medical practice]. Perm', Hyle Press, 2017.

6. Tompson H. Agentnost', oposredovannaia ob"ektivatsiei: sub"ektnost' i tekhnologii [Agentization Mediated by Objectification: Subjectivity and Technology]. Logos, 2018, no. 5 (126).

7. Nasha istoriia/Replika [Our Story/Replica], available at: https://replika.ai/about/story (accessed 11 April 2020).

8. Plessner H. Stupeni organicheskogo i chelovek: Vvedenie v filosofskuiu antropologiiu [Stages of the Organic and Human: Introduction to Philosophical Anthropology]. Mos^w, Rossiiskaia politicheskaia entsiklopediia (ROSSPEN), 2004, 368 p.

9. Elzhanovsky A., Petzhikovsky T. Zhivotnye kak ne-lichnostnye sub"ekty prava [Animals as non-personal subjects of law]. Chelovek, no. 5, 2017, pp. 25-37.

10. Gavrilina E.A. Mozhet li robot byt' moral'nym agentom? [Can a robot be a moral agent?]. Materialy kruglogo stola «Aktual'nye problemy neiroetiki» (30 oktiabria 2019 g.). Filosofiia. Zhurnal Vysshei Shkoly Ekonomiki, no. 4(1), pp. 135-167. DOI: 10.17323/25878719-2020-1-135-167

11. Klovait N. Refleksivnyi antropomorfizm: nevedenie ontologii ili nevezhestvennaia ontologiia? [Reflexive anthropomorphism: ignorance of ontology or ignorant ontology?]. Sotsiologicheskii Zhurnal, 2018, vol. 24, no. 1, pp. 8-33. DOI: 10.19181/socjour.2018.24.1.5711

12. Karitskii I.N. Istoriia «Sub"ekta» v ee nekotorykh kliuchevykh momentakh [The Story of the "Subject" in its Some Key Points]. PEM: Psychology. Educology. Medicine, 2015, no.3-4, available at: https://cyberleninka.ru/article/n/istoriya-subekta-v-ee-nekotoryh-klyuchevyh-momentah (accessed 10 April 2020).

13. Bryant L. Na puti k okonchatel'nomu osvobozhdeniiu ob"ekta ot sub"ekta [Towards a Finally Sybjectless Object]. Logos, 2014, no.4 (100).

14. Trufanova E.O. Sub"ekt i poznanie v mire sotsial'nykh konstruktsii [Subject and cognition in the world of social constructions.]. Mos^w, Kanon+ ROOI «Reabilitatsiia», 2018, 320 p.

15. Yudin B.G. Chelovek: vykhod za predely [Man: going beyond.]. Mos^w, Progress-Traditsiia, 2018, 472 p.

16. Haraway D. Manifest kiborgov: nauka, tekhnologii i sotsialisticheskii feminizm 1980kh. [Cyborg Manifesto: Science, Technology, and Socialist Feminism of the 1980s.]. Mos^w, Ad Marginem Press, 2017, 128 p.

17. Harman G. Chetveroiakii ob"ekt: Metafizika veshchei posle Khideggera [The Quadruple Object]. Perm', Hyle Press, 2015, 152 p.

18. Latour B. Peresborka sotsial'nogo: vvedenie v aktorno-setevuiu teoriiu [Reassembling the Social: fn Introduction to Actor-Network Theory]. Mos^w, Izdatel'skii dom Vysshei shkoly ekonomiki, 2014, 384 p.

19. Pickering A. Novye ontologii [New Ontologies]. Logos, 2017, no. 3 (118).

20. Archer M. Realizm i morfogenez [Realism and Morphogenesis]. Sotsiologicheskii Zhurnal, 1994, vol. 4, no. 4, pp. 50-68.

21. Ivanova N.A. O novykh tendentsiiakh v sotsial'noi epistemologii: agent-strukturnyi podkhod i "Povorot k material'nomu" [On new trends in social epistemology: agent-structural approach and "Turn to the material"]. Vestnik Tomskogo Gosudarstvennogo Universiteta. Filosofiia. Sotsiologiia. Politologiia, 2014, no. 1 (25).

22. Latour B. Gde nedostaiushchaia massa? Sotsiologiia odnoi dveri [Where is the missing mass? The Sociology of One Door]. Sotsiologiia Veshchei. Mos^w, Territoriia budushchego, 2006, pp. 199-223.

23. Latour B. Kogda veshchi daiut sdachi: Vozmozhnyi vklad "issledovanii nauki" v obshchestvennye nauki [When Things Give Back: A Possible Contribution of "Science Research" to Social Sciences]. Vestnik Moskovskogo Universiteta, 2003, seriia 7, Filosofiia, no. 3, pp. 20-39.

24. Astakhov S.S. Sposobny li ob"ekty k deistviiu? Versiia aktorno-setevoi teorii [Are objects capable of action? Version of actor-network theory]. Filosofiia i Kul'tura, 2016, no. 8, pp. 1091-1098. DOI: 10.7256/1999-2793.2016.8.20069

25. Pinch T. Ukroshchenie nechelovekov. Nekotorye rutinnye ontologicheskie issledovaniia [The Taming of the Inhuman. Some routine ontological studies]. Ontologii artefaktov: vzaimodeistvie "estestvennykh" i "iskusstvennykh" komponentov zhiznennogo mira. Mos^w, Delo, 2012, pp. 352-374.

26. Napreenko I.V. Delegirovanie agentnosti v kontseptsii Bruno Latura: kak sobrat' gibridnyi kollektiv kiborgov i antropomorfov? [The delegation of agency in the concept of Bruno Latour: how to assemble a hybrid team of cyborgs and anthropomorphs?]. Sotsiologiia Vlasti, 2015, no. 1.

27. Kasavin I.T. Sotsial'naia epistemologiia: poniatie i problemy [Social epistemology: concept and problems]. Epistemology & Philosophy of Science, 2006, no. 1.

28. Baklanova O.A., Baklanov I.S., Erokhin A.M. Metodologicheskie konstrukty issledovaniia sotsial'nosti sovremennogo obshchestva [Methodological constructs of the study of the sociality of modern society]. Istoricheskaia i sotsial'no-obrazovatel'naia mysl', 2016, no. 3-1.

29. Knorr-Tsetina K. Sotsial'nost' i ob"ekty. Sotsial'nye otnosheniia v postsotsial'nykh obshchestvakh znaniia [Sociality and objects. Social relations in post-social knowledge societies]. Sotsiologiia Veshchei. Seriia "Universitetskaia biblioteka Aleksandra Pogorel'skogo", Mosrow, Izdatel'skii dom "Territoriia budushchego", 2006, pp. 267-306.

30. Malsch Th. and Schulz-Schaeffer I. 'Socionics: Sociological Concepts for Social Systems of Artificial

31. Rezaev A.V., Tregubova N.D. «Iskusstvennyi intellekt», «onlain-kul'tura», «iskusstven-naia sotsial'nost'»: opredelenie poniatii ["Artificial Intelligence", "Online Culture", "Artificial Sociality": Definition of Concepts]. Monitoring Obshchestvennogo Mneniia: Konomicheskie i Sotsial'nye Peremeny, 2019, no. 6, pp. 35-47. DOI: 10.14515/monitoring.2019.6.03

32. Gavrilina E.A., Petrova I.E. (Ne)chelovecheskaia sotsiologiia i vlast' iskusstvennoi sotsial'nosti [(Not) human sociology and the power of artificial sociality]. Monitoring Obshchestvennogo Mneniia: Konomicheskie i Sotsial'nye Peremeny, 2019, no. 2, pp. 434-438. DOI: 10.14515/monitoring.2019.2.19

33. Issledovatel'skii portal HRI soobshchestva [HRI Community Research Portal], available at: http://humanrobotinteraction.org/ (accessed 05 April 2020).

34. Delanda M. Novaia filosofiia obshchestva: Teoriia Assambliazhei i sotsial'naia slozhnost' [New Philosophy of Society: Assemblage Theory and Social Complexity]. Perm', Hyle Press, 2018, 170 p.