Обзор исследований восприятия социального робота в статусе выше человека

Гуманитарная информатика. 2017. № 13. С. 30-38

УДК 304.2; 004.896 DOI: 10.17223/23046082/13/4

ОБЗОР ИССЛЕДОВАНИЙ ВОСПРИЯТИЯ СОЦИАЛЬНОГО РОБОТА В СТАТУСЕ ВЫШЕ ЧЕЛОВЕКА

Н.Н. Зильберман

Национальный исследовательский

Томский государственный университет, Томск, Россия e-mail: zilberman@ido.tsu.ru

Предлагается небольшой обзор исследований в области социальной робототехники, касающийся в первую очередь специфики взаимодействия с роботом в статусно-ролевой модели выше человека. Рассматриваются различные возможные контексты взаимодействия человека и робота в вышестоящем статусе, как профессиональные, так и межличностные. Отмечается, что в целом человек потенциально склонен подчинятся роботу. Ключевым фактором, определяющим возможность следования указаниям робота, считают эффект антропоморфизма -склонность людей воспринимать робота как субъекта и наделять его атрибутами личностных характеристик, морали, ответственности. Безусловно, большую роль играют и стереотипы, когнитивные модели, сформированные культурой относительно роботов. Такие модели позволяют допустить робота на имплицитную статусную позицию выше - харизматического лидера, власть которого над человеком в каком-то смысле обладает даже большим потенциалом.

Ключевые слова: социальная робототехника, социальный робот, взаимодействие человека и робота, социальный статус, подчинение.

REVIEW OF RESEARCH: WHEN A PERSON OBEYS A ROBOT

Nadezhda N. Zilberman

National Research Tomsk State University, Tomsk, Russia e-mail: zilberman@ido.tsu.ru

This article offers an overview of research in the field of social robotics about the specifics of interaction with a robot in a higher status than a person. Researchers consider various possible contexts of interaction between a person and a robot in a higher

status, both professional and interpersonal. We can note that, on the whole, a person is potentially inclined to submit to a robot. The key factor determining the possibility of following the instructions of the robot is the effect of anthropomorphism - the tendency of people to perceive the robot as a subject and to attribute it to the attributes of personal characteristics, morals, etc. Of course, stereotypes, cognitive models, formed by culture, relative to robots, play a big role. Such models allow the robot to be admitted to an implicit status position higher - a charismatic leader whose power over a person in some sense has even greater potential.

Key words: social robotics, social robot, human-robot interaction, social status, subordination.

Социальные интерфейсы [1] сегодня видятся наиболее интуитивными и подходящими для роботов, включенных в повседневные практики пользователей, робот в таком случае становится своего рода социальным партнером [2]. Вопрос о социальном статусе и роли робота во взаимодействии с человеком обсуждается многими исследователями и разработчиками. В данной статье предлагается небольшой обзор исследований в области социальной робототехники, касающийся в первую очередь специфики взаимодействия с роботом в статусно-ролевой модели выше человека.

С одной стороны, известно, что человек склонен одушевлять предметы. Этот феномен известен как эффект антропоморфизма, когда объект наделяется культурной семантикой и признаками человеческого. «Антропо-морфизация вещи предполагает возможность диалога, развернутого в виде вербальных или кинетических текстов и предметно-символических кодов» [3. C. 234], по сути, вещь возводится в ранг субъекта, и человек уже изначально потенциально готов взаимодействовать с объектом социально. Антропоморфизм обнаруживается как в мифологических, обрядовых контекстах, так и в повседневном бытовом. Исследование Дж. Флор-лиззи [4] показало, что люди приписывают социальные свойства даже роботу-пылесосу, который, в сущности, не вступает в социальное взаимодействие с человеком. Внешняя форма робота, имитирующая живые природные объекты, усиливает эффект антропоморфизма; так, человекоподобные и зооморфные роботы с большей вероятностью воспринимаются как одушевленные объекты.

С другой стороны, робот принципиально отличается от привычных предметов окружающей среды своей интерактивностью и наличием искусственного интеллекта, а значит взаимодействие обусловлено как ожиданиями человека, так и теми моделями поведения, которые заложены в самого робота, элементами которого будут статус и роль.

Как правило, формируемые роли для робота базируются на имеющихся функциональных стереотипах, поведенческие модели заимствованы из

существующих профессий и социальных позиций, таких как медсестра, учитель, няня, таксист, официант, администратор и т.д. В большей степени робот адаптирован только к одной модели, но некоторые разработчики считают, что роботам необходимо выполнять разные роли в зависимости от меняющегося ситуативного контекста [5].

Статусные модели взаимодействия выстраиваются согласно уже сложившимся нормам коммуникации между людьми, робот просто заменяет одного из субъектов:

- робот-помощник (статус ниже человека).

- робот-компаньон (статус равен человеку).

- робот-управляющий (статус выше человека).

Следует отметить, что статус и роль, как правило, присутствуют комплексно в межличностной коммуникации, поэтому термин «статусно-ролевые характеристики» видится более подходящим.

Традиционно роботу «предлагают» статусно-ролевую модель ниже человека. Безусловно, такой образ был во многом закреплен в медиа-культуре. Само название «робот», придуманное Карелом Чапеком, связывалось с семантикой «раб». В его пьесе «Р.У.Р.» искусственных людей-роботов создают для того, чтобы освободить настоящих от рутинной работы. В реальном воплощении статус ниже реализован в сервисной робототехнике.

Равный статус, когда человек воспринимает робота как партнера, друга, компаньона, пока еще не является повседневной практикой, тем не менее такие роботы уже выполняют психотерапевтическую функцию, как, например, робот Paro [6].

Сама мысль о роботе в статусе выше человека внушает страх и вызывает ассоциации с фантастическими сюжетами, где искусственный интеллект захватывает, порабощает или уничтожает человечество. Отчасти это обусловлено влиянием идей эпохи Романтизма в западной культуре, когда технологии противопоставлялись природному, естественному. Человеческий разум конкурирует с искусственным, и это противостояние может закончиться не в пользу человечества [7].

В реальности управленческие функции искусственного интеллекта рассматриваются как потенциально в каких-то сферах лучше, чем у человека [8]. Искусственный интеллект выполняет множество традиционных административных задач координации и контроля, таких как распределение ресурсов, отчетность и планирование. Подобная система может быть использована в качестве брокера, способного к рациональному решению в любой ситуации, основанному на аналитике большого объема данных [9]. Автоматизация приходит и в сферу поиска персонала. Например, Jobaline,

сайт по трудоустройству, использует интеллектуальные алгоритмы анализа голоса для оценки кандидатов. Алгоритм оценивает паралингвисти-ческие элементы речи, определяет тип работы, в которой кандидат, скорее всего, преуспеет [10]. Человек может оказаться в зависимой позиции по отношению к роботу, быть в нижестоящем статусе.

Вышестоящий статус в коммуникации основан на договоренности о послушании или подчинении одного субъекта другому. Подчинение может быть как добровольным, так и социально обусловленным сложившимися нормами. Добровольная форма подчинения предполагает, что один человек доверяет тому, что лидер будет вести себя определенным образом, и временно отказывается от определенной части своего автономного права принятия решений. Социально обусловленное подчинение проявляется наиболее явно в таких контекстах, как военная или религиозная сфера. Также оно имеет место в традиционной иерархической профессиональной сфере в отношениях начальник-подчиненный и социальной структуре общества, где присутствует статусное неравенство ролей: родитель-ребенок, учитель-ученик, старший-младший и др. [9]. Бесспорно, подчинение существует в повседневных формах, например когда наши взгляды зависят от некоторых людей или мы покупаем товар, следуя совету знаменитости. Каково место робота в этих статусно-ролевых моделях? И какова реализация концептов власти и подчинения в таких формах взаимодействия? Возможно ли, что социальный робот будет применять различные формы власти: принуждение, исполнение официальной / профессиональной роли, контроль доступа к информации и др.?

В каком-то смысле, как говорят исследователи, мы уже подчиняемся роботам: слушаем автоматический голос, требующий отойти от дверей вагонов метро, следуем инструкциям голоса по телефону, говорящего: «Нажмите "три" для этого действия», едем по тому пути, который выстроил навигатор. Однако в этих случаях мы подчиняемся роботизированной системе не потому, что считаем ее неким субъектом, обладающим собственной социальной властью, а потому что она расширяет наши человеческие возможности [11].

Очевидный и ожидаемый в ближайшее вариант статусно-ролевой модели выше человека - это «руководитель», наделенный властью указывать человеку в профессиональной сфере: учитель [12], фитнес-тренер [13], охранник [14] и др. В исследовательском поле взаимодействия человека и робота активно обсуждается специфика восприятия робота как субъекта, воздействующего на человека. В частности, рассматривают возможности робота сподвигнуть к выполнению каких-либо действий [13, 15]. Например, роботы с высокой степенью эффективности мотиви-

руют людей выполнять упражнения во время реабилитации [16] или могут убедить человека пожертвовать деньги [17]. Исследователи изучают, какие компоненты позволяют роботу стать более убедительным: например, эмоциональность робота влияет на то, как дети усваивают материал [18], жесты и расстояние играют большую роль, чем речевые паттерны в коммуникации [19], важно направление взгляда робота во время взаимодействия [20].

Особый интерес представляет потенциал робота в роли некого авторитарного субъекта, принуждающего человека к действиям. Исследования демонстрируют, что роботы действительно могут заставить людей делать вещи, которые они предпочли бы не делать. Так, в эксперименте [21], отчасти повторяющем эксперимент С. Милгрэма [22], с совсем небольшим роботом Нао, похожим на ребенка, практически половина участников переименовывали файл в течение 80 минут, даже после того, как выразили свое желание уйти. Продолжая спорить с роботом, респонденты неохотно, но все же подчинялись его командам. В другом варианте того же эксперимента [23], где сравнивали подчинение человеку и роботу в одинаковых условиях, люди больше подчинялись человеку (86%), хотя процент респондентов, подчинявшихся роботу в выполнении рутинной бесконечной задачи, тоже достаточно высок (46%). Вербальное давление робота способно заставить человека выполнить задание, которое требует преодоления неловкости: 20% респондентов в эксперименте, воспроизводящем контекст медицинского осмотра, разделись и измерили температуру в прямой кишке, дав согласие на видеозапись [24].

Добровольное подчинение роботу также рассматривается как вполне реальная перспектива. Робот способен занять позицию, менее очевидную в плане вышестоящего статуса, но тем не менее им обладающим, - «харизматического лидера». Согласно М. Веберу, харизматический тип власти основан на исключительных качествах, приписываемых лидеру, на неких экстраординарных, возможно, даже магических способностях, которыми он обладает. Люди преданы нормативным установкам или порядку, определенному таким лидером [25].

Исследователь Мэтью Глэдден [11] рассматривает три возможных ключевых пути / способа, посредством которых роботы смогут обладать харизматическим типом власти над людьми:

1) через проявление высшей морали;

2) через проявление сверхчеловеческих знаний, которые могут приобретать аспекты религиозных откровений;

3) через межличностное общение, соблазнение, эмоциональную привязанность и сексуальные отношения.

Глэдден выделяет три типа харизматического лидера-робота.

Тип 1 - «2010: Одиссея» «Мученик» (The Saint-Martyr) - широко представлен в продуктах культуры: рассказы Азимова, «2010: Одиссея», «Звездный путь: Немезида», «Звездные войны», «Призрак в раковине» и др. Как правило, высшая мораль проявляется в решении робота пожертвовать собой ради спасения жизни людей. Научная фантастика создает стереотип справедливого робота, лишенного человеческих слабостей, способного вынести максимально лучшее для всех решение. В реальной жизни этот стереотип может влиять на доверие людей к роботу и добровольное принятие его суждений.

Тип 2 - «Суперинтеллект» (The Superintelligence), когда робот воспринимается как обладающий уникальными знаниями, навыками или опытом, многократно превосходящими человеческие, и в этом случае он обладает экспертной властью. Робот будет «сияющим маяком почти безграничных знаний среди удручающего мира человеческого невежества» [11. C. 4]. Сегодня люди уже регулярно и добровольно делегируют часть своего процесса принятия решений Google, Википедии, Microsoft Cortana или Apple Siri и др. Социальные роботы также, скорее всего, получат высокий уровень лояльности от своих пользователей.

Тип 3 - «Соблазнитель» (The Seducer) - контролирует людей через романтическую или эротическую привязанность. В художественной литературе и кинематографе он представлен в основном женскими образами: Олимпия («Песочный человек»), Марии («Метрополис»), Рейчел («Бегущий по лезвию») и др. Сегодня направление, в рамках которого исследователи занимаются разработкой «эмоциональных» роботов, получило название Lovotics [26].

Способность человека испытывать привязанность к роботу описывает в своей работе Джозеф Вейнценбаум, называя это «эффектом Элизы» [27]. В дискурсе этических аспектов социальной робототехники многие исследователи также выражают озабоченность возможной эмоциональной привязанности к роботу, они видят в этом опасность как для личности, так и для социума в целом [28, 29].

Итак, обзор исследований показал, что проблематика роли робота в статусной модели выше человека представляет большой интерес. Рассматриваются различные возможные контексты взаимодействия человека и робота в вышестоящем статусе, как профессиональные, так и межличностные. Отмечается, что в целом человек потенциально склонен подчинятся роботу, это, как правило, не является сознательным рациональным решением со стороны человека. Ключевым фактором, определяющим возможность следования указаниям робота, считают эффект антропо-

морфизма - склонность людей воспринимать робота как субъекта и наделять его атрибутами личностных характеристик, морали, ответственности. Безусловно, большую роль играют и стереотипы, когнитивные модели, сформированные культурой относительно роботов. Принято считать, что подобные стереотипы закрепили у нас модель робота-раба, но в мифологии, художественной литературе, кино обнаруживаются также модели сотрудничества с машинами и даже некой их идеализации. Такие модели позволяют допустить робота на имплицитную статусную позицию выше -харизматического лидера, власть которого над человеком в каком-то смысле обладает даже большим потенциалом.

Тем не менее, несмотря на достаточно широкий круг исследований в этой области, остается еще много вопросов, требующих дальнейших практических экспериментов. На данный момент исследования демонстрируют нам возможные сценарии развития взаимодействия человека и робота в подобной статусной модели, но следует помнить, что реальное воплощение коммуникации, когда социальные роботы станут привычным повседневным явлением, может отличаться от них.

ЛИТЕРАТУРА

1. Зильберман Н.Н., Стефанцова М.А. Социальный робот: подходы к определению понятия // Modern Research of Social Problems. 2016. Т. 67, № 11.

2. Breazeal C. Social interactions in HRI: the robot view // IEEE Transactions on Systems, Man, and Cybernetics, Part C (Applications and Reviews). 2004. Vol. 34, № 2. P. 181-186.

3. Морозов И.А. Феномен куклы в традиционной и современной культуре : (кросскультурное исследование идеологии антропоморфизма). М. : Индрик, 2011. 352 с.

4. Forlizzi J. How robotic products become social products: an ethnographic study of cleaning in the home // Proceedings of the ACM / IEEE international conference on Human-robot interaction. ACM, 2007. P. 129-136.

5. Huber A. et al. Designing adaptive roles for socially assistive robots: a new method to reduce technological determinism and role stereotypes // Journal of HumanRobot Interaction. 2014. Vol. 3, № 2. Р. 100-115.

6. Sabanovic S. et al. PARO robot affects diverse interaction modalities in group sensory therapy for older adults with dementia // Rehabilitation Robotics (ICORR), 2013 IEEE International Conference on. IEEE, 2013. Р. 1-6.

7. Kaplan F. Who is afraid of the humanoid? Investigating cultural differences in the acceptance of robots // International journal of humanoid robotics. 2004. Vol. 1, № 03. P. 465-480.

8. Gratton L. Rethinking the Manager's Role // MIT Sloan Management Review. 2016. Vol. 58, № 1. С. 8.

9. Samani H.A. et al. Towards robotics leadership: an analysis of leadership characteristics and the roles robots will inherit in future human society // Asian Conference on Intelligent Information and Database Systems. Berlin; Heidelberg : Springer, 2012. P. 158-165.

10. Williams R. Why Artificial Intelligence Will Replace Managers? 2016. Nov., 24. URL: https://www.psychologytoday.com/blog/wired-success/201611/why-artificial-intelligence-will-replace-managers

11. Gladden M.E. The Social Robot as 'Charismatic Leader': a Phenomenology of Human Submission to Nonhuman Power // Sociable Robots and the Future of Social Relations : Proceedings of Robo-Philosophy 2014. 2014. Vol. 273. P. 329.

12. AhmadM.I., Mubin O., Orlando J. Understanding behaviors and roles for social and adaptive robots in education: teacher's perspective // Proceedings of the Fourth International Conference on Human Agent Interaction. ACM, 2016. P. 297-304.

13. Looije R., Neerincx M.A., Cnossen F. Persuasive robotic assistant for health self-management of older adults: Design and evaluation of social behaviors // International Journal of Human-Computer Studies. 2010. Vol. 68, № 6. P. 386-397.

14. Agrawal S., Williams M.A. Robot Authority and Human Obedience: a Study of Human Behaviour using a Robot Security Guard // Proceedings of the Companion of the 2017 ACM / IEEE International Conference on Human-Robot Interaction. ACM, 2017. P. 57-58.

15. Liu S., Helfenstein S., WahlstedtA. Social Psychology of Persuasion Applied to Human Agent Interaction // Human Technology: an Interdisciplinary Journal on Humans in ICT Environments. 2008. URL:https://jyx.jyu.fi/dspace/bitstream/ han-dle/123456789/20224/HT_2008_v04_n02_p_123-143.pdf?sequence=1

16. Mataric M. et al. Socially assistive robotics for stroke and mild TBI rehabilitation // Advanced Technologies in Rehabilitation. 2009. Vol. 145. P. 249-262.

17. Siegel M., Breazeal C., Norton M.I. Persuasive robotics: the influence of robot gender on human behavior // Intelligent Robots and Systems, 2009. IROS 2009. IEEE / RSJ International Conference on. IEEE, 2009. P. 2563-2568.

18. Kory J., Breazeal C. Storytelling with robots: Learning companions for preschool children's language development // Robot and Human Interactive Communication, 2014 RO-MAN: the 23rd IEEE International Symposium on. IEEE, 2014. P. 643648.

19. Chidambaram V., Chiang Y.H., Mutlu B. Designing persuasive robots: how robots might persuade people using vocal and nonverbal cues // Proceedings of the seventh annual ACM / IEEE international conference on Human-Robot Interaction. ACM, 2012. P. 293-300.

20. Ham J. et al. Making robots persuasive: the influence of combining persuasive strategies (gazing and gestures) by a storytelling robot on its persuasive power // International conference on social robotics. Berlin; Heidelberg : Springer, 2011. P. 71-83.

21. Cormier D. et al. Would you do as a robot commands? an obedience study for human-robot interaction // International Conference on Human-Agent Interaction. 2013. URL: https://pdfs.semanticscholar.org/eb2b/e87b7d18e65cfb0b0008615f70aabefe0c06.pdf

22. Milgram S., Gudehus C. Obedience to authority. 1978.

23. Geiskkovitch D.Y. et al. Please Continue, We Need More Data: an Exploration of Obedience to Robots // Journal of Human-Robot Interaction. 2015. Vol. 5, № 1. P. 82-99.

24. Bartneck C. et al. The influence of robot anthropomorphism on the feelings of embarrassment when interacting with robots // Paladyn : Journal of Behavioral Robotics. 2010. Vol. 1, № 2. P. 109-115.

25. Вебер М. Харизматическое господство // Социологические исследования. 1988. № 5. URL: http://psyfactor.org/veber.htm

26. Samani H.A. et al. A design process for lovotics // International Conference on Human-Robot Personal Relationship. Berlin; Heidelberg : Springer, 2010. P. 118-125.

27. Вейценбаум Д. Возможности вычислительных машин и человеческий разум. От суждений к вычислениям. М. : Радио и связь, 1982.

28. Royakkers L., van Est R. A literature review on new robotics: automation from love to war // International journal of social robotics. 2015. Vol. 7, № 5. P. 549-570.

29. Bartneck C. et al. To kill a mockingbird robot // Human-Robot Interaction (HRI), 2007 2nd ACM / IEEE International Conference on. IEEE, 2007. P. 81-87.