Цифровая этика применения искусственного интеллекта в бизнесе: осознание новых возможностей и рисков

Научные исследования экономического факультета. Электронный журнал. 2023. Том 15. Выпуск 1 (47) ЭО!: 10.38050/2078-3809-2023-15-1-37-54

Маркетинг

ЦИФРОВАЯ ЭТИКА ПРИМЕНЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В БИЗНЕСЕ: ОСОЗНАНИЕ НОВЫХ ВОЗМОЖНОСТЕЙ И РИСКОВ

Герасименко Валентина Васильевна

доктор экономических наук, профессор, заведующая кафедрой маркетинга, МГУ имени М.В. Ломоносова, экономический факультет

Аннотация

В статье рассматриваются некоторые актуальные философские и методологические аспекты анализа процессов цифровизации рынков и внедрения цифровых технологий в управление бизнесом, связанные с цифровой этикой. Проведенное автором эмпирическое исследование направлено на выявление современных трендов внедрения искусственного интеллекта в маркетинг, отношение менеджмента компаний к реализации этих процессов, осознание этических аспектов и проблем взаимодействия с потребителями. Целью работы является продвижение в вопросах определения атрибутов цифровой этики применения искусственного интеллекта в бизнесе: оценка осознания новых возможностей и рисков в российском предпринимательстве.

Ключевые слова: цифровая этика, этика бизнеса, искусственный интеллект, маркетинг, парасоциальные отношения.

JEL коды: М31, О31.

Для цитирования: Герасименко В.В. Цифровая этика применения искусственного интеллекта в бизнесе: осознание новых возможностей и рисков // Научные исследования экономического факультета. Электронный журнал. 2023. Том 15. Выпуск 1. С. 37-54. DOI: 10.38050/2078-3809-2023-15-1-37-54

Введение

Одновременно с появлением и внедрением в бизнесе цифровых технологий искусственного интеллекта, открывающих новые горизонты сбора и обработки данных, а также возможности трансформации управления бизнесом, появляются новые аспекты философского осмысления этих изменений. Для понимания актуальности названных вопросов важно осознавать масштабы изменений, происходящих в управлении бизнесом в ходе его цифровизации. Содержание происходящих изменений имеет, прежде всего, технологическую основу. Современный искусственный интеллект (ИИ) можно представить, прежде всего, как некие вычислительные мощности, настроенные на решение конкретных прикладных задач. Так, по определению Британской энциклопедии, «Искусственный интеллект (ИИ, А1) - это способность

Герасименко В.В., e-mail: gerasimenko@,econ. msu. га

цифрового компьютера выполнять задачи, обычно связанные с разумными существами. Этот термин часто применяется к проекту разработки систем, наделенных интеллектуальными процессами, характерными для людей, такими как способность рассуждать, открывать смысл, обобщать или извлекать уроки из прошлого опыта» (Copeland, 2022).

В области управления бизнесом сферы применения ИИ очень ярко выражены в маркетинге. Это такие актуальные направления, как:

• персонализация рыночных предложений - одно из наиболее очевидных и освоенных направлений использования ИИ; с помощью данных технологий персонализируют свои продуктовые предложения многие ритейлеры в России;

• предиктивная аналитика, которая тесно связана с персонализацией, но обеспечивает также прогнозирование поведения потребителей для увеличения конверсии и снижения рыночных рисков; прогнозирование маркетинговых бюджетов компаний, их рекламных затрат; сегментацию клиентов на основе различных переменных; выявление их скрытого потенциала роста продаж;

• маркетинговые коммуникации, в которых все большее значение получают умные чат-боты на основе ИИ, которые отличаются лучшей способностью распознавать смысл вопросов и более «очеловеченными» ответами; этой же цели служит цифровая генерация с помощью ИИ изображений и видеоконтента, адаптированная под сегменты целевых аудиторий (Искусственный интеллект..., 2021).

Персонализированная коммуникация на основе цифровых технологий особенно актуальна для молодежных аудиторий, формирующих значительную и постоянно растущую часть потребительского спроса. В основе коммуникационной стратегии лежат цифровая идентичность бренда, а также соответствующие ей точки контакта с целевой аудиторией (Kleinjohann, Reinecke, 2020).

Вместе с расширением круга технологических возможностей растет и сила воздействия искусственного интеллекта на рыночные отношения: восприятие потребительской ценности, поведение потребителей и, наконец, потребительский выбор (Rust, Huang, 2020). Развивается бурными темпами диалоговый «разговорный» маркетинг на основе использования искусственного интеллекта. Боты, или живой чат, расширяют возможности общения до уровня 24/7. В 2021 г. уже около половины из более чем 1500 опрошенных зарубежных маркетологов сообщали об использовании ботов для прямой коммуникации в чатах. Искусственный интеллект (ИИ) быстро становится основным инструментом конверсии и оптимизации продаж (Conversational Marketing, 2021).

Одновременно с развитием технологий сегодня становится актуальным и понятие «цифровая этика», включающая в себя очень много аспектов психологического, морально-этического, поведенческого, социально-экономического и правового характера (Назарова, 2021; Иванов, 2021; Дятлов, 2021). Многие из этих аспектов еще не до конца изучены и даже не вполне понятны по механизмам их проявления и последствиям.

1. Современные подходы к вопросам этики искусственного интеллекта

Этика искусственного интеллекта как понятие все еще находится в процессе становления - учитывая не только новизну всепроникающего и мощного ИИ как такового, но и, в еще большей степени, его общественное и коммерческое использование и последствия,

«поднимающие вопросы морали, нормативных противоречий, а также управления и регулирования» (Häußermann, Lütge, 2021; Stahl, 2021).

Нельзя не заметить, что в настоящее время уже горячо обсуждаются технические последствия цифровизации, связанные с безопасностью или конфиденциальностью данных, которые вызывают значительную озабоченность многих специалистов. Для анализа этих проблем зарубежные исследователи предлагают использовать концепцию ответственных исследований и инноваций (RRI) как подход к управлению на основе принципов устойчивого развития исследований и инноваций. Введенный в дискуссию более десяти лет тому назад (von Schömberg, 2011), этот подход был определен затем в Римской декларации 2014 г. как «непрерывный процесс приведения исследований и инноваций в соответствие с ценностями, потребностями и ожиданиями общества», включающий и вопросы цифровой этики (Rome Declaration..., 2014).

Этические, социальные и правозащитные аспекты компьютерных технологий обсуждались с момента появления и развития этих технологий. В 1980-х годах это привело к развитию дискурса, часто называемого компьютерной этикой. Затем, с середины 2010-х годов, появился весьма заметный научный дискурс об этике искусственного интеллекта. Обсуждается взаимосвязь между этими двумя дискурсами и сравниваются их масштабы, темы и проблемы, которые они охватывают, их теоретическая основа и варианты смягчения последствий, а также их влияние на общество (Stahl, 2021).

По мере развития технологий искусственного интеллекта исследователи все активнее выражают озабоченность этическими аспектами его внедрения. Предлагается сосредоточиваться не только на техническом прогрессе, который обеспечивают современные компьютеры или искусственный интеллект, но и обратить внимание на то, что «этические и связанные с ними проблемы неизбежно возникают в контексте использования в обществе и бизнесе новых технических систем». Отмечается, что «в свете развития цифровых экосистем, необходимо подготовиться к анализу и обсуждению этики цифровых экосистем» (Stahl, 2021).

Ввиду названных подходов возникает ряд альтернативных постановок вопроса о цифровой этике. Надо ли относиться к новых этическим сторонам процесса цифровизации социальных и экономических отношений как к новой эре прогресса, которую надо однозначно приветствовать и стремиться скорее вписаться в нее, либо следует воспринимать ее как к «болезнь роста», которую надо «перетерпеть» и проблемы сгладятся сами собой, либо требуется срочно выстраивать систему критериев и оценок для управления и даже противодействия определенным проявлениям?

Названные вопросы закономерно привлекают внимание и российских исследователей (Выходец, Шляпников, 2021). В этой связи выделяют ряд этических проблем, актуальных для цифрового пространства, таких как проблемы информационных войн и кибератак, проблемы информационной безопасности (Агафонова, Диденко, 2021), приватности частной жизни, первичности источников информации, технологий цифрового образования, трансформации моральных ценностей, в частности, восприятия жестокости и насилия в цифровой индустрии развлечений, этики виртуальных сообществ, применения искусственного интеллекта и виртуальной реальности в производственных коллективах (Бархатов, Чванова, 2022; Беляева, 2022; Гуров, 2021). Отдельного внимания заслуживают также вопросы развития предпринимательской среды, в частности, репутационные риски компаний в условиях становления новой цифровой этики (Завойских, Курта, Орлова, 2021).

Широкий общественный резонанс этических аспектов цифровизации различных сторон общественных отношений привел к разработке ряда международных и российских документов, выдвигающих на передний план соблюдение этических принципов и норм в новой среде жизни и развития общества. Около двух десятков крупных российских компаний и организаций подписали в конце 2021 г. первый российский «Кодекс этики искусственного интеллекта». Кодекс искусственного интеллекта устанавливает, что ответственность при применении этой технологии всегда должна оставаться за человеком. Его разработка предусмотрена Стратегией развития ИИ до 2030 г. и федеральным проектом «Искусственный интеллект». Пока соблюдение норм этого документа носит добровольный характер. Подобные документы есть в 20 странах, у 35 крупных компаний в мире уже есть и собственные кодексы, в России -у «Сбербанка» и «Яндекса» (Искусственному интеллекту...). В конце 2022 г. Евросоюз принял Европейскую декларацию о европейских цифровых правах и принципах (European Digital Rights.).

Надо отметить, что в мировой экономике эти вопросы постепенно становятся сферой реального регулирования. Так, европейскому филиалу компании «Amazon», в июле 2021 г. люксембургский орган по надзору за данными выписал штраф в размере около 740 млн долл. в текущих ценах за «несоблюдение общих принципов обработки данных» в соответствии с GDPR Enforcement Tracker by CMS Law. В списке самых высоких штрафов оказался и «WhatsApp» - за обвинения «Google» в нарушении GDPR, и шведская компания по производству одежды «H&M». Нормативная база GDPR, введенная 25 мая 2018 г., направлена на то, чтобы предоставить пользователям механизмы контроля за использованием своих данных, эта база дает основу для наказания компаний, нарушающих этические принципы (Big Tech., 2022).

Спектр различных аспектов проблем цифровой этики очень широк и потребует, несомненно, многих научных изысканий. В настоявшем исследовании делается попытка проанализировать одну из областей этой проблематики - цифровое развитие предпринимательства, а именно, проявление и осознание аспектов цифровой этики в связи с внедрением технологий искусственного интеллекта в современном управлении бизнесом.

Вопрос состоит не только в масштабах и формах проявления ИИ, но и в управлении процессами цифровизации с этических позиций. Это неизбежно приводит нас к проблеме ответа бизнеса и общества на происходящие изменения с позиции новых этических норм. В связи с этим неизбежно возникает и так называемая «дилемма контроля». Этические дилеммы контроля в цифровом пространстве заставляют управленцев задуматься над тем, является ли цензура средством защиты этики или средством ограничения свободы?

Ответы на актуальные вопросы цифровой этики во многом зависят от того, как реально используется искусственный интеллект в менеджменте и в маркетинге сегодня и как его предполагается использовать в ближайшей перспективе. Действительно ли это - неизбежная замена человека, или, скорее, правильнее представить эту технологию как некие вычислительные мощности, настроенные на решение конкретных прикладных задач, в результате чего получается решение более быстрое и качественное, чем в ручном режиме. Насколько остры сегодня в реальном российском бизнесе этические проблемы использования искусственного интеллекта и какие именно? Что сдерживает развитие цифровых технологий в бизнесе в наибольшей степени: вопросы технологические, финансовые или этические? Как видят предприниматели и менеджеры границы этичного и неэтичного в использовании искусственного интеллекта для развития своих компаний? Поиск ответов относительно современного понимания

этих вопросов в российском предпринимательском сообществе определил цели настоявшего исследования.

2. Методология и результаты исследования

Методом исследования стало интервьюирование предпринимателей и высших менеджеров российских компаний, в основном крупных и технологически продвинутых, которые, предположительно, должны иметь определенный опыт, чтобы судить о содержании и прикладных экономических аспектах цифровизации бизнеса. Аудиторией, которая отвечала, на наш взгляд, названным требованиям, стали предприниматели, обучавшиеся на программах МВА экономического факультета МГУ имени М.В. Ломоносова и занимающие ведущие управленческие позиции в своих компаниях. На вопросы интервью, проведенного в октябре-ноябре 2022 г., дали ответы руководители и высшие менеджеры 121 компании, функционирующей на российском рынке. Характеристика бизнеса компаний, руководители которых давали интервью, представлена в табл. 1.

Таблица 1

Характеристики компаний, руководители которых давали интервью в ходе исследования

Характеристика Варианты Доля в %

Численность сотрудников в Более 500 52

компании, человек От 50 до 500 33

Менее 50 15

Регион/город, где располо- Москва/Санкт-Петербург 64

жен головной офис Город-миллионник 10

Другие регионы 26

Тип компании (форма соб- Частная компания 73

ственности) Компания с гос. участием 27

Основная сфера рынков, где B2B 55

представлена компания B2C 38

B2G 7

Основная специализация Материальное производство 25

компании (отрасль) Финансовые услуги 10

ИТ-услуги 13

Торговля 22

Другое 30

Должностная позиция опра- Руководитель компании 37

шиваемого специалиста в Финансовый директор 13

компании (управленческий Директор по маркетингу, логистике и

функционал) продажам 32

ИТ-директор 12

Директор юридического департамента 6

Руководителям бизнеса предлагалось ответить на вопросы об особенностях внедрения технологий искусственного интеллекта и новых аспектах цифровой этики в бизнесе. Прежде всего, речь шла о том, почему относительно немногие российские компании используют сегодня технологии ИИ. Предлагалось оценить возможные причины:

• завышенные ожидания не оправдываются (в реальности ИИ не является полноценной заменой менеджера, можно доверить этой технологии только простые, рутинные задачи);

• недоверие (ИИ-технология требует настройки и отладки, руководители не решаются доверить привычные функции сотрудников механизмам);

• нехватка кадров (для ИИ требуются профильные разработчики, понимающие принципы настройки, оптимизации алгоритмов машинного обучения);

• плохое качество исходных данных и высокая стоимость их обработки (системе нужны очищенные и структурированные исходные данные, обработать их сложно, долго и дорого).

Структура ответов на эти вопросы представлена на рис. 1.

Плохое качество исходных данных... Нехватка кадров (для AI требуются. Недоверие ^-технология требует. Завышенные ожидания не.

32,7

34,7

47,1

53,7

0 10  Ряд1

20

30 40 50 60

Рисунок 1. Структура ответов в процентах на вопрос: «Почему немногие компании используют сегодня ИИ? (отметьте 2 основные причины)»

В качестве осознаваемого и широко обсуждаемого этического (а не только экономического) аспекта использования цифровых технологий в бизнесе обсуждалась защита персональных данных клиента в условиях внедрения искусственного интеллекта, которая, возможно, уже звучит не актуально фактически или все более сомнительна технологически. В качестве дилеммы контроля обсуждалось, должна ли защита персональных данных клиента в условиях внедрения искусственного интеллекта обеспечиваться и регулироваться государством, либо она вскоре станет общественным движением защиты прав потребителей как часть концепции осознанного потребления и устойчивого развития.

Предлагалось высказать мнение о том, как управленцы оценивает проблематику защиты персональных данных клиента в условиях внедрения искусственного интеллекта (см. рис. 2, предлагалось отметить не более 2 вариантов ответа).

Станет общественным движением.

Должна обеспечиваться.

Все более сомнительна.

Уже более не актуальна фактически

50,8

0 10 20 30 40 50 60

Рисунок 2. Оценка проблемы защиты персональных данных клиента при использовании ИИ в маркетинге

Поскольку проводником влияния производителя на потребителя в среде цифрового маркетинга все чаще и активнее становятся электронные боты, выяснялось мнение предпринимателей и менеджеров относительно того, должны ли компании активно использовать чат-боты в управлении поведением клиента. В качестве альтернативных оценок, которые могут соответствовать этическим нормам бизнеса, предлагалось оценить идеи о том, что чат-бот должен постоянно направлять и фиксировать все движения посетителей сайта; либо, напротив, это может показаться назойливым для клиента компании. Возможно, этически правильной должна быть ситуация, когда у посетителя сайта должна существовать возможность выбора -вызвать бота или прекратить взаимодействие с ним. Для этого был задан вопрос: «Должны ли компании постоянно использовать боты в коммуникации и управлении поведением клиента?». В ответе на этот вопрос было проявлено удивительное единодушие отвечавших управленцев (см. рис. 3).

Не уверен(а), нет достаточной практики для выводов

У посетителя сайта должна быть возможность выбора — вызвать бота или прекратить. Нет, это излишние издержки и может показаться назойливым для клиента Да, бот должен постоянно направлять и фиксировать все движения посетителей сайта

5,8

75,2

10,7 8,3

10 20 30 40 50 60 70 80

0

Рисунок 3. Оценка роли цифровых чат-ботов в коммуникации с потенциальным клиентом

Наконец, было важно выявить существующее реальное осознание руководителями бизнеса этических проблем управления, перспектив и рисков, активно обсуждаемых сегодня в экспертных и научных кругах. Это, прежде всего:

• проблемы информационных войн и кибератак, которые разрушают доверие потребителя;

• проблемы достоверности информации, фейков, которые приводят к искажениям и ущербу для участников рынка;

• проблемы разрушения приватности жизни, когда давление персонализированного маркетинга ограничивает свободу и искажает мотивы потребительского выбора;

• разрушение культурной идентичности и традиций потребительского поведения, которое привносят агрессивные цифровые коммуникации брендинга через технологии воздействия в социальных сетях и на сайтах брендов.

Для этого был поставлен вопрос об оценке этических проблем, связанных с цифрови-зацией рынков (отметить 2 основные). Полученные мнения управленцев представлены на рис. 4.

Разрушение культурной идентичности и традиций...

32,2

Проблемы разрушения приватности жизни, давление.

54,5

Проблемы достоверности информации, фейков, которые.

59,5

Проблемы информационных войн и кибератак, которые разрушают.

23,1

0 10 20 30 40 50 60 70

Рисунок 4. Структура ответов на вопрос о том, как понимаются этические проблемы, связанные с цифровизацией рынков

3. Результаты исследования, обсуждение и выводы

Результаты проведенного исследования показали различную степень осознания и восприятия проблем цифровой этики в бизнесе и связанных с ними возможностей и угроз. По итогам интервью удалось выявить основные позиции по ряду поставленных вопросов. Можно подтвердить, что большинство руководителей в исследуемой аудитории в целом согласны с тем, что ИИ используется пока недостаточно и считают основными причинами этого нехватку кадров и плохое качество исходных данных для обработки.

Отношение к защите персональных данных у опрошенных руководителей пока явно пассивное. Большинство считает проблемы защиты персональных данных клиента при использовании ИИ все более сомнительными и предполагает, что ими должно заниматься государство.

На наш взгляд, не менее пассивным выглядит и отношение к потенциалу применения искусственного интеллекта в прямой коммуникации с потребителем и в управлении потребительским опытом. Как показал опрос, отношение к возможностям использования чат-ботов у большинства опрошенных управленцев явно настороженное, поскольку более 70% отводят им фактически роль пассивного помощника, подключаемого к диалогу только по запросу.

И все же руководители разных функционалов бизнеса уже, по-видимому, чувствуют актуальность вопросов цифровой этики и считают основными проблемы достоверности информации, фейков, которые приводят к искажениям и ущербу для участников рынка, а также проблемы разрушения приватности жизни, когда давление персонализированного маркетинга ограничивает свободу и искажает мотивы потребительского выбора.

Здесь можно отметить, что количественные результаты данного исследования корреспондируются с итогами проведенных ранее исследований. Так, согласно исследованию, проведенному KMDA при поддержке «Microsoft» в 2020 г., охватившему более 700 представителей российских компаний из 27 отраслей, ключевыми препятствиями для цифровой трансформации российских компаний стали тогда нехватка профессиональных компетенций (53%) и сопротивление изменениям (45%). Однако при этом 64% респондентов считали цифровую

трансформацию необходимым фактором для развития в условиях современных вызовов (Цифровая трансформация..., 2020).

И все же внедрение ИИ в практику управления бизнесом интенсивно нарастает. В маркетинге оно идет, в значительной степени, по линии совершенствования чат-ботов для активного взаимодействия с потребителями. По мнению экспертов, реальную отстройку от конкурентов теперь гарантируют только чат-боты, активно вовлекающие клиентов и работающие на увеличение их покупательского опыта. Маркетологи используют способности чат-ботов к обработке естественного языка на основе нейролингвистического программирования и обучению при общении с клиентами. Появляются даже идеи внедрения технологий распознавания жестов в мобильных приложениях (23 статистических показателя., 2022).

Наибольший рост, связанный с чат-ботами, в ближайшие пять лет ожидает рынок ри-тейла и eCommerce. По данным зарубежных аналитиков, в 2022 г. 77% американских компаний уже внедрили чат-ботов в постпродажную коммуникацию с клиентом.

В основном считается, что чат-боты и ИИ будут заниматься в ближайшее время обработкой простых обращений, позволяя сотрудникам концентрироваться на более сложных вопросах. При этом, однако, 40% IT-специалистов заявили, что боты могут выполнять задачи начального уровня вместо человека (Исследования и прогнозы., 2022).

Исследования сфер применения чат-ботов, основанных на искусственном интеллекте, активно ведутся зарубежными исследователями в аспекте их технологической эффективности (Adam et al., 2021; Araujo, 2018; Beattie, 2020; Carvalho, Fernandes, 2018; Chung et al., 2018; Fraune, 2020).

При дальнейшем - все более совершенном - использовании искусственного интеллекта в коммуникации с потребителями, неизбежно будут возникать и новые этические проблемы. Это, например, вопросы о том, как социальная коммуникация с присутствием чат-ботов влияет на пользователей, насколько повышает их вовлеченность. Как возникает и реализуется новая посредническая роль парасоциального взаимодействия в диалогах с чат-ботами? Насколько меняются механизмы социального взаимодействия, присущие человеческому обществу в результате фактического замещения человека роботом? Насколько этично подобное замещение, не приводит ли оно к нарушению личной свободы потребительского выбора при наличии интеллектуального собеседника, обладающего информацией о потребителе и собственной целевой программой воздействия?

Термин «парасоциальный» заслуживает, в контексте цифровой этики, отдельного рассмотрения. Парасоциальными называют обычно односторонние, но эмоционально насыщенные отношения рядового пользователя медиа с популярной личностью или вымышленным персонажем (Тихонова, Кравец, 2022). Действительно, в интернете получили развитие «пара-социальные» отношения, которые возникают в информационном пространстве на основе многочисленных односторонних контактов индивида со значимой фигурой и идентификацией с созданным ею образом. С точки зрения этики важно отметить псевдосоциальный характер данных отношений. «То, с чем мы сталкиваемся в современном коммуникативном пространстве - это отношения, в которых четко прослеживаются отклонения от прежней формы социального взаимодействия и нарушение самой сути таких взаимодействий. .Образ медиапер-соны нельзя рассматривать как реальный. Это искусственный конструкт, в который кто-то другой вкладывает черты, наиболее привлекательные для зрителя». (Тихонова, Кравец, 2022, с. 41-42). Интересно отметить и то, что, по мнению ученых, толкает индивидов к

парасоциальным отношениям, - это отсутствие в современном социальном пространстве устойчивых ориентаций. Именно их и находят люди в парасоциальных отношениях. «Это происходит через формирование определенных моделей поведения и мышления, которые воспринимаются людьми как объективные» (Тихонова, Кравец, 2022, с. 44).

Теперь, в условиях внедрения искусственного интеллекта в маркетинг, подобная функция парасоциального управления сознанием передается чат-боту. Надо отметить, что эффективность такой коммуникации уже подтверждалась эмпирически и довольно высоко оценивалась зарубежными исследователями. «Наука склоняется в пользу этих технологий. Исследование, опубликованное в 2020 году в журнале Frontiers in Psychology, показывает: взаимодействие с сопереживающим чат-ботом помогало смягчить негативные последствия социальной изоляции в период пандемии» (Gennaro, 2020).

Отметим, что эффект социальной изоляции в принципе часто характерен для современной социальной среды, хотя он, действительно, многократно усилился в период пандемии. Нетрудно предположить, что чем более совершенными в общении с человеком будут становиться технологии чат-ботов, тем более активно их будут использовать и в бизнесе для стимулирования продаж. Об этом развивающемся опыте парасоциального взаимодействия и успешного диалога с виртуальным помощником из года в год оптимистически пишут специалисты бренд-менеджмента и цифрового маркетинга (Sundar, 2007; Jin, Sung, 2010; Moon et al., 2013; Payne et al., 2021; Wang, 2021).

Существенно помогают парасоциальному взаимодействию человека с интеллектуальным цифровым помощником развивающиеся явления антропоморфизма по отношению к роботу. Здесь используется потенциал чат-ботов, наделенных искусственным интеллектом, для создания особых психологических эффектов поддержки человека в цифровой сфере. Зарубежные исследователи проводят эксперименты, в которых основное внимание уделяется «декларативным психологическим реакциям человека на взаимодействие с виртуальным помощником». Считается, что это заполнит пробел в исследованиях цифрового маркетинга, где мало внимания уделялось влиянию таких параметров, как социальное присутствие и воспринимаемая компетентность, которые обеспечивают доверие к антропоморфным дизайнерским персонажам. Например, сильно антропоморфизированные чат-боты женского пола, участвуя в социальном взаимодействии, помогали формированию положительных откликов потребителей даже в случаях допущенной программной ошибки (Toader, Gratiela et al., 2019).

Надо отметить, что эффекты антропоморфизма давно используются в рекламе, например, с включением образов домашних питомцев, для создания позитивного впечатления у целевой аудитории от просмотра рекламы. Возможности видео рекламы, которые создал интернет, многократно усилили яркость и эффективность таких приемов. «Для того, чтобы закрепиться в сознании потребителя, все большее количество компаний использует антропоморфизм для рекламы своей продукции. Данный способ психологически эффективен для воздействия на потребителей и позволяет выделиться среди множества конкурентов, составить положительный уникальный образ продукта, тем самым увеличив эффективность рекламы» (Чон Ку Ли, Косик, 2020, с. 126).

«Антропоморфизм - перенесение человеческого образа и его свойств на неодушевлённые предметы, животных, растения, природные явления, сверхъестественных существ, абстрактные понятия. Это - наделение живых либо неживых существ чертами, которые присущи человеческой природе. Психологи считают антропоморфизм вполне присущим человеку,

поскольку люди видят мир как бы "через человеческий объектив, поэтому они способны очень легко антропоморфизировать неживые объекты"» (Философский словарь, 2015). Когда какой-то продукт представлен в антропоморфном виде, то у зрителей увеличивается симпатия к этому продукту. Давно эмпирически установлено, что демонстрация рисованного персонажа или животного с использованием человеческого поведения (антропоморфная демонстрация) обеспечивает легкость понимания рекламного сообщения (Airenti, 2018).

Новое развитие заключается в том, что известные ранее эффекты антропоморфизма, теперь переносятся на роботов. С помощью цифровых технологий социальное общение может становиться односторонним, но при этом зависимым от виртуального объекта с определенной программной функцией и ресурсом стимулирующего воздействия на потребителя. Эффекты такого воздействия постоянно исследуются и совершенствуются (Go, Sundar, 2019; Huang et al., 2021).

По нашему убеждению, технологические эксперименты по управлению психологией потребительского поведения через парасоциальное взаимодействие с антропоморфицирован-ными чат-ботами, «очеловечиваемыми» в сознании человека, который вступает с ними в диалог на сайте компании или в социальной сети, порождают вопросы этического характера. В этой связи представляются обоснованными предложения расширять круг исследований по разработке этики искусственного интеллекта путем передачи знаний из других областей прикладной этики, в частности из деловой этики, подчеркивая роль организаций и процессов ин-ституционализации (Schultz, Seele, 2022).

Таким образом, в связи с быстрым развитием систем искусственного интеллекта в последние годы появился новый дискурс в вопросах об этике искусственного интеллекта. Понимание деловой этики, сложившееся в современном предпринимательском сообществе и в теории управления, может дать положительный импульс в развитии понятия и принципов этики искусственного интеллекта. Необходимы активные научные исследования и дискуссии об этической и социальной ответственности, принципы которой должны быть приняты в качестве добровольных или обязательных правил для организаций как в национальном, так и в международном контекстах. Дальнейшие исследования этих вопросов могут способствовать более полному пониманию и реалистическому подходу к применению принципов цифровой этики в российском предпринимательском сообществе.

Список литературы

Арфанова К.В., Диденко А.Р. Цифровая этика и защита персональных данных // Приоритетные направления развития экономики страны в условиях глобализации: теория и практика. Материалы всероссийской научно-практической конференции. Новороссийск, 2021. С. 409-411.

Бархатов В.С., Чванова М.С. Морально-этическая ответственность в процессе взаимодействия в цифровой среде // Педагогическая поддержка «цифрового поколения». Технологии эффективности и безопасности образовательного пространства. Материалы Международной научно-практической конференции. 2022. С. 285-289.

Беляева И.С. Этика данных в эпоху развития 1Т-технологий и глобальной цифровой трансформации // Современные вызовы экономики и систем управления в России в условиях

многополярного мира. Сборник статей и тезисов докладов секций III Международной научно-практической конференции. Санкт-Петербург, 2022. С. 69-73.

Выходец Р.С., Шляпников В.В. Краткий исторический обзор исследований в области цифровой этики // Общество. Среда. Развитие. 2021. № 4 (61). С. 43-47.

Гуров О.Н. Искусственные интеллектуальные системы и решение социальных задач: проблемы доверия // Искусственные общества. 2021. Т. 16. № 1.

Дятлов С.А. Искусственный интеллект как институт развития цифровой нейро-сетевой экономики // Известия Санкт-Петербургского государственного экономического университета. 2021. № 2 (128). С. 25-29.

Завойских К.А., Курта С.Д., Орлова М.Н. Репутационные риски компаний в условиях цифровой этики // Социальные коммуникации: наука, образование, профессия. 2021. № 21. С. 27-33.

Иванов А.А. Цифровая этика и право // Закон. 2021. № 4. С. 67-73.

Назарова Ю.В. Этика искусственного интеллекта в контексте становления цифрового общества // Глобальные вызовы и региональное развитие в зеркале социологических измерений. Материалы VI международной научно-практической интернет-конференции: В 2 ч. Вологодский научный центр Российской академии наук. Вологда, 2021. С. 119-121.

Тихонова И.Ю., Кравец А.С. Парасоциальные отношения в современном мире // Вестник ВГУ. Сер. Философия. 2022. № 1.

Философский словарь / под ред. А. Конт-Спонвиль, М., 2015.

Чон Ку Ли, Косик А. Антропоморфизм в современном рекламном дискурсе (Anthropomorphism in Contemporary Advertising Discourse) // Studia Sieci Uniwersytetów Pogranicza. 2020. № 4. DOI: 10.15290/sup.2020.04.09.

Adam M., Wessel M., Benlian A. AI-based chatbots in customer service and their effects on user compliance // Electron Markets. 2021. № 31. P. 427-445. DOI: 10.1007/s12525-020-00414-7.

Airenti G. The Development of Anthropomorphism in Interaction: Intersubjectivity, Imagination, and Theory of Mind / Department of Psychology, Center for Logic, Language, and Cognition, University of Turin, Turin, Italy // Front. Psychol. 2018. 5 Nov. Sec. Cognitive Science. DOI: 10.3389/fpsyg.2018.02136.

Araujo T. Living up to the chatbot hype: The influence of anthropomorphic design cuesand communicative agency framing on conversational agent and company perceptions. Computers in Human Behavior // Journal of Research in Interactive Marketing. 2018. Vol. 85. P.183-189. DOI: 10.1108/JRIM-12-2019-0200.

Beattie A., Edwards A., Edwards C. A Bot and a Smile: Interpersonal Impressions of Chatbots and Humans Using Emoji in Computer-mediated Communication // Communication Studies. 2020. № 71 (3). P. 409-427. DOI: 10.1080/10510974.2020.1725082.

Carvalho A., Fernandes, T. Understanding customer brand engagement with virtual social communities: A comprehensive model of drivers, outcomes and moderators // Journal of Marketing Theory and Practice. 2018. Vol. 26. № 1-2. P. 23-37.

Chung M., Ko E., Joung H., Kim, S. J. Chatbot e-service and customer satisfaction regarding luxury brands // Journal of Business Research. 2018. Vol. 117. P. 587-595.

de Gennaro M., Krumhuber E., Lucas G. Effectiveness of an Empathic Chatbot in Combating Adverse Effects of Social Exclusion on Mood // Frontiers in Psychology. 2020. №10. DOI:10.3389/fpsyg.2019.03061

Fraune M. R. Our Robots, Our Team: Robot Anthropomorphism Moderates Group Effects in Human-Robot Teams // Frontiers in Psychology. 2020. № 11. DOI: 10.3389/fpsyg.2020.01275.

Go E., Sundar S.S. Humanizing chatbots: The effects of visual, identity and conversational cues on humanness perceptions // Computers in Human Behavior. 2019. № 97. P. 304-316. DOI: 10.1016/j.chb.2019.01.020.

HauBermann J.J., Lütge C. Community-in-the-loop: towards pluralistic value creation in AI, or why AI needs business ethics // AI Ethics. 2021. № 22. Springer Nature Switzerland AG. Part of Springer Nature. P. 1-22. DOI: 10.3389/fpsyg.2019.03061.

Huang H.L., Cheng L.K., Sun P.C., Chou S.J. The effects of perceive didentity threat and realistic threat on the negative attitudes and usage intentions toward hotel service robots: The moderating effect of the robot's anthropomorphism // International Journal of Social Robotics. 2021. P. 1-13. DOI: 10.1007/s12369-021-00770-0.

Jin S.A., Sung Y. The roles of spokes-avatars' personalities in brand communication in 3D virtual environments // Journal of Brand Management. 2010. Vol. 17. № 5. P. 317-327.

Kleinjohann M., Reinecke V. Digitale Markenstrategie für die Generation Z: Empfehlungen // Marketingkommunikation mit der Generation Z, essentials. Springer Gabler, Wiesbaden, 2020. DOI: 10.1007/978-3-658-30822-3_5.

Manser Payne E.H., Dahl A.J., Peltier J. Enhancing the value co-creation process: artificial intelligence and mobile banking service platforms // Journal of Research in Interactive Marketing. 2021. Vol. 15. №. 1. P. 68-85.

Moon J.H., Kim E., Choi S.M., Sung Y. Keep the social in social media: The role of social interaction in avatar-based virtual shopping // Journal of Interactive Advertising. 2013. Vol. 13. № 1. P. 14-26.

Rust R.T., Huang M.-H. The Feeling Economy How Artificial Intelligence Is Creating the Era of Empathy, Palgrave Macmillan imprint is published by the registered company Springer Nature Switzerland AG/ Gewerbestrasse 11, 6330 Cham, Switzerland, ISBN 978-3-030-52977-2 (eBook). DOI: 10.1007/978-3-030-52977-2.

Schultz M.D., Seele P. Towards AI ethics' institutionalization: knowledge bridges from business ethics to advance organizational // AI Ethics. Springer Nature, 2022. DOI: 10.1007/s43681-022-00150-y.

Stahl B.C. Emerging technologies as the next pandemic? Possible consequences of the Covid crisis for the future of responsible research and innovation // Ethics and Inf. Technol. 2021. № 23 (S1). P. 135-137. DOI: 10.1007/s10676-020-09551-1.

Stahl B.C. From computer ethics and the ethics of AI towards an ethics of digital ecosystems // AI Ethics. Springer Nature Switzerland AG. Part of Springer Nature, 2021. DOI: 10.1007/s43681-021-00080-1.

Sundar S.S. Social psychology of interactivity in human-website interaction // The Oxford handbook of Internet psychology / A.N. Joinson, K.Y.A. McKenna, T. Postmes, U.-D. Reips (eds.). Oxford, UK: Oxford University Press, 2007. P. 89-104.

Toader C., Gratiela B.D. at al. The Effect of Social Presence and Chatbot Errors on Trust // Sustainability. 2019. № 12 (1). DOI: 10.3390/su12010256.

Tsai W., Liu Y., Chuan C.-H. How chatbots' social presence communication enhances consumer engagement: the mediating role of parasocial interaction and dialogue // Journal of Research in Interactive Marketing. 2021. DOI: 10.1108/JRIM-12-2019-0200

Wang C. L. New frontiers and future directions in interactive marketing // Journal of Research in Interactive Marketing. 2021. Vol. 15. № 1. P. 1-9.

23 статистических показателя перспективности внедрения чат-ботов в 2022 году: URL: https://www.cossa.ru/inqoob/303860/ (дата обращения: 27.12.2022).

Искусственному интеллекту очертили границы: URL:

https://www.kommersant.ru/doc/5051225 (дата обращения: 27.12.2022).

Искусственный интеллект в маркетинге: примеры, ограничения, проблемы и мнение Click.ru. Блог компании Click.ru, Интернет-маркетинг, 9 сентября 2021: URL: https://habr.com/ru/company/click/blog/577036/ (дата обращения: 27.12.2022).

Исследования и прогнозы рынка чат-ботов (24.02.2022): URL: https://botvsem.ru/issledo-vaniya-i-prognozy-rynka-chat-botov/ (дата обращения: 27.12.2022).

Цифровая трансформация в России - 2020. Обзор и рецепты успеха: URL: https://drive.google.com/file/d/1xVK4lSanDZSCN6kGAHXikrGoKgpVlcwN/view, Microsoft, https://news.microsoft.com/ru-ru/kmda/ (дата обращения: 27.12.2022).

Big Tech, Big Fines. GDPR Breaches, by Florian Zandt, Sep 6, 2022, Statista: URL: https://www.statista.com/chart/25691/highest-fines-for-gdpr-breaches/ (дата обращения: 27.12.2022).

Conversational Marketing + AI Strategy. In: Not Another State of Marketing Report. Data and trends from over 1,500 marketers around the world paired with strategies + best practices for marketing success: URL: https://www.hubspot.com/hubfs/State-of-Marketing%20(2).pdf (дата обращения: 27.12.2022).

Copeland B.J. Artificial intelligence // Encyclopedia Britannica. 2022. 11 Nov.: URL: https://www.britannica.com/technology/artificial-intelligence (дата обращения: 01.01.2023).

Ethics guidelines for trustworthy AI: URL: https://digital-strategy.ec.europa.eu/en/li-brary/ethics-guidelines-trustworthy-ai (дата обращения: 27.12.2022).

European Digital Rights and Principles. Shaping Europe's digital future: URL: https://ec.eu-ropa.eu/commission/presscorner/detail/en/ip_22_7683 (дата обращения: 27.12.2022).

Rome Declaration (2014). Rome Declaration on Responsible Research and Innovation in Europe. Retrieved May 15, 2017: URL: https://ec.europ a.eu/resea rch/swafs /pdf/rome_decla ratio n_RRI_final _21_November.pdf (дата обращения: 27.12.2022).

Towards Responsible Research and Innovation in the Information and Communication Technologies and Security Technologies Fields / von R. Schomberg (ed.). Luxembourg: Publication Office of the European Union. Retrieved November 1, 2011: URL: https :// ec.europ a.eu/resea rch/scien ce-socie ty/docum ent_libra ry/pdf_06/ mep-rapport-2011_en.pdf (дата обращения: 05.01.2023).

Герасименко В.В. Цифровая этика применения искусственного интеллекта в бизнесе: осознание новых возможностей и рисков

DOI: 10.38050/2078-3809-2023-15-1-37-54

Marketing

DIGITAL ETHICS OF ARTIFICIAL INTELLIGENCE APPLICATION IN BUSINESS: AWARENESS OF NEW OPPORTUNITIES AND RISKS

Valentina V. Gerasimenko

Doctor of Economics, Professor, Head of Marketing Department, Lomonosov Moscow State University, Faculty of Economics

Abstract

The article discusses some current philosophical and methodological aspects of the analysis of the markets digitalization processes and the introduction of digital technologies in business management related to digital ethics. The empirical research conducted by the author is aimed at identifying current trends in the introduction of artificial intelligence in marketing, the attitude of company management to the implementation of these processes.

Keywords: digital ethics. business ethics, artificial intelligence, digital marketing, parasocial interaction.

JEL: M31, O31.

For citation: Gerasimenko, V.V. (2023) Digital Ethics of Artificial Intelligence Application in Business: Awareness of New Opportunities and Risks. Scientific Research of Faculty of Economics. Electronic Journal, vol. 15, no. 1, pp. 37-54. DOI: 10.38050/2078-3809-2023-15-1-37-54.

References

Arfanova K.V., Didenko A.R. Tsifrovaya etika i zashchita personal'nykh dannykh. Prior-itetnye napravleniya razvitiya ekonomiki strany v usloviyakh globalizatsii: teoriya i praktika. Mate-rialy vserossiyskoy nauchno-prakticheskoy konferentsii. Novorossiysk, 2021. P. 409-411. (In Russ.).

Barkhatov V.S., Chvanova M.S. Moral'no-eticheskaya otvetstvennost' v protsesse vzai-modeystviya v tsifrovoy srede. Pedagogicheskaya podderzhka «tsifrovogo pokoleniya». Tekhnologii effektivnosti i bezopasnosti obrazovatel'nogo prostranstva. Materialy Mezhdunarodnoy nauchno-prakticheskoy konferentsii. 2022. P. 285-289. (In Russ.).

Belyaeva I.S. Etika dannykh v epokhu razvitiya IT-tekhnologiy i global'noy tsifrovoy trans-formatsii. Sovremennye vyzovy ekonomiki i sistem upravleniya v Rossii v usloviyakh mnogopoly-arnogo mira. Sbornik statey i tezisov dokladov sektsiy III Mezhdunarodnoy nauchno-prakticheskoy konferentsii. Sankt-Peterburg, 2022. P. 69-73. (In Russ.).

Vykhodets R.S., Shlyapnikov V.V. Kratkiy istoricheskiy obzor issledovaniy v oblasti tsifrovoy etiki. Obshchestvo. Sreda. Razvitie. 2021. № 4 (61). P. 43-47. (In Russ.).

Gurov O.N. Iskusstvennye intellektual'nye sistemy i reshenie sotsial'nykh zadach: problemy doveriya. Iskusstvennye obshchestva. 2021. Vol. 16. No. 1. (In Russ.).

Dyatlov S.A. Iskusstvennyy intellekt kak institut razvitiya tsifrovoy neyro-setevoy ekonomiki. Izvestiya Sankt-Peterburgskogo gosudarstvennogo ekonomicheskogo universiteta. 2021. No. 2 (128). P. 25-29. (In Russ.).

Zavoyskikh K.A., Kurta S.D., Orlova M.N. Reputatsionnye riski kompaniy v usloviyakh tsifrovoy etiki. Sotsial'nye kommunikatsii: nauka, obrazovanie, professiya. 2021. No. 21. P. 27-33. (In Russ.).

Ivanov A.A. Tsifrovaya etika i parvo. Zakon. 2021. No. 4. P. 67-73. (In Russ.).

Nazarova Yu.V. Etika iskusstvennogo intellekta v kontekste stanovleniya tsifrovogo ob-shchestva. Global'nye vyzovy i regional'noe razvitie v zerkale sotsiologicheskikh izmereniy. Materi-aly VI mezhdunarodnoy nauchno-prakticheskoy internet-konferentsii: V 2 ch. Vologodskiy nauchnyy tsentr Rossiyskoy akademii nauk. Vologda, 2021. P. 119-121. (In Russ.).

Tikhonova I.Yu., Kravets A.S. Parasotsial'nye otnosheniya v sovremennom mire. Vestnik VGU. Ser. Filosofiya. 2022. No. 1. (In Russ.).

Filosofskiy slovar'. pod red. A. Kont- Sponvil', M., 2015. (In Russ.).

Chon Ku Li, Kosik A. Antropomorfizm v sovremennom reklamnom diskurse (Anthropomorphism in Contemporary Advertising Discourse). Studia Sieci Uniwersytetow Pogranicza. 2020. No. 4. DOI: 10.15290/sup.2020.04.09.

Adam M., Wessel M., Benlian A. AI-based chatbots in customer service and their effects on user compliance. Electron Markets. 2021. No. 31. P. 427-445. DOI: 10.1007/s12525-020-00414-7.

Airenti G. The Development of Anthropomorphism in Interaction: Intersubjectivity, Imagination, and Theory of Mind. Department of Psychology, Center for Logic, Language, and Cognition, University of Turin, Turin, Italy. Front. Psychol. 2018. 5 Nov. Sec. Cognitive Science. DOI: 10.3389/fpsyg.2018.02136.

Araujo T. Living up to the chatbot hype: The influence of anthropomorphic design cuesand communicative agency framing on conversational agent and company perceptions. Computers in Human Behavior. Journal of Research in Interactive Marketing. 2018. Vol. 85. P.183-189. DOI: 10.1108/JRIM-12-2019-0200.

Beattie A., Edwards A., Edwards C. A Bot and a Smile: Interpersonal Impressions of Chatbots and Humans Using Emoji in Computer-mediated Communication. Communication Studies. 2020. No. 71 (3). P. 409-427. DOI: 10.1080/10510974.2020.1725082.

Carvalho A., Fernandes, T. Understanding customer brand engagement with virtual social communities: A comprehensive model of drivers, outcomes and moderators. Journal of Marketing Theory and Practice. 2018. Vol. 26. No. 1-2. P. 23-37.

Chung M., Ko E., Joung H., Kim, S. J. Chatbot e-service and customer satisfaction regarding luxury brands. Journal of Business Research. 2018. Vol. 117. P. 587-595.

de Gennaro M., Krumhuber E., Lucas G. Effectiveness of an Empathic Chatbot in Combating Adverse Effects of Social Exclusion on Mood. Frontiers in Psychology. 2020. No. 10. DOI:10.3389/fpsyg.2019.03061

Fraune M. R. Our Robots, Our Team: Robot Anthropomorphism Moderates Group Effects in Human-Robot Teams. Frontiers in Psychology. 2020. No. 11. DOI: 10.3389/fpsyg.2020.01275.

Go E., Sundar S.S. Humanizing chatbots: The effects of visual, identity and conversational cues on humanness perceptions. Computers in Human Behavior. 2019. No. 97. P. 304-316. DOI: 10.1016/j.chb.2019.01.020.

Häußermann J.J., Lütge C. Community-in-the-loop: towards pluralistic value creation in AI, or why AI needs business ethics. AI Ethics. 2021. № 22. Springer Nature Switzerland AG. Part of Springer Nature. P. 1-22. DOI: 10.3389/fpsyg.2019.03061.

Huang H.L., Cheng L.K., Sun P.C., Chou S.J. The effects of perceive did entity threat and realistic threat on the negative attitudes and usage intentions toward hotel service robots: The moderating effect of the robot's anthropomorphism. International Journal of Social Robotics. 2021. P. 113. DOI: 10.1007/s12369-021-00770-0.

Jin S.A., Sung Y. The roles of spokes-avatars' personalities in brand communication in 3D virtual environments. Journal of Brand Management. 2010. Vol. 17. No. 5. P. 317-327.

Kleinjohann M., Reinecke V. Digitale Markenstrategie für die Generation Z: Empfehlungen. Marketingkommunikation mit der Generation Z, essentials. Springer Gabler, Wiesbaden, 2020. DOI: 10.1007/978-3-658-30822-3_5.

Manser Payne E.H., Dahl A.J., Peltier J. Enhancing the value co-creation process: artificial intelligence and mobile banking service platforms. Journal of Research in Interactive Marketing. 2021. Vol. 15. No. 1. P. 68-85.

Moon J.H., Kim E., Choi S.M., Sung Y. Keep the social in social media: The role of social interaction in avatar-based virtual shopping. Journal of Interactive Advertising. 2013. Vol. 13. No. 1. P. 14-26.

Rust R.T., Huang M.-H. The Feeling Economy How Artificial Intelligence Is Creating the Era of Empathy, Palgrave Macmillan imprint is published by the registered company Springer Nature Switzerland AG. Gewerbestrasse 11, 6330 Cham, Switzerland, ISBN 978-3-030-52977-2 (eBook). DOI: 10.1007/978-3-030-52977-2.

Schultz M.D., Seele P. Towards AI ethics' institutionalization: knowledge bridges from business ethics to advance organizational. AI Ethics. Springer Nature, 2022. DOI: 10.1007/s43681-022-00150-y.

Stahl B.C. Emerging technologies as the next pandemic? Possible consequences of the Covid crisis for thefuture of responsible research and innovation. Ethics and Inf. Technol. 2021. No. 23 (S1). P. 135-137. DOI: 10.1007/s10676-020-09551-1.

Stahl B.C. From computer ethics and the ethics of AI towards an ethics of digital ecosystems. AI Ethics. Springer Nature Switzerland AG. Part of Springer Nature, 2021. DOI: 10.1007/s43681-021-00080-1.

Sundar S.S. Social psychology of interactivity in human-website interaction. The Oxford handbook of Internet psychology. A.N. Joinson, K.Y.A. McKenna, T. Postmes, U.-D. Reips (eds.). Oxford, UK: Oxford University Press, 2007. P. 89-104.

Toader C., Gratiela B.D. at al. The Effect of Social Presence and Chatbot Errors on Trust. Sustainability. 2019. No. 12 (1). DOI: 10.3390/su12010256.

Tsai W., Liu Y., Chuan C.-H. How chatbots' social presence communication enhances consumer engagement: the mediating role of parasocial interaction and dialogue. Journal of Research in Interactive Marketing. 2021. DOI: 10.1108/JRIM-12-2019-0200

Wang C. L. New frontiers and future directions in interactive marketing. Journal of Research in Interactive Marketing. 2021. Vol. 15. No. 1. P. 1-9.

23 statisticheskikh pokazatelya perspektivnosti vnedreniya chat-botov v 2022 godu: Available at: https://www.cossa.ru/inqoob/303860/ (accessed: 27.12.2022). (In Russ.).

Iskusstvennomu intellektu ochertili granitsy: Available at: https://www.kommer-sant.ru/doc/5051225 (accessed: 27.12.2022). (In Russ.).

Iskusstvennyy intellekt v marketinge: primery, ogranicheniya, problemy i mnenie Click.ru. Blog kompanii Click.ru, Internet-marketing, 9 sentyabrya 2021: Available at: https://habr.com/ru/company/click/blog/577036/ (accessed: 27.12.2022). (In Russ.).

Issledovaniya i prognozy rynka chat-botov (24.02.2022): Available at: https://botvsem.ru/is-sledovaniya-i-prognozy-rynka-chat-botov/ (accessed: 27.12.2022). (In Russ.).

Tsifrovaya transformatsiya v Rossii - 2020. Obzor i retsepty uspekha: Available at: https://drive.google.com/file/d/1xVK4lSanDZSCN6kGAHXikrGoKgpVlcwN/view, Microsoft, https://news.microsoft.com/ru-ru/kmda/ (accessed: 27.12.2022). (In Russ.).

Big Tech, Big Fines. GDPR Breaches, by Florian Zandt, Sep 6, 2022, Statista: Available at: https://www.statista.com/chart/25691/highest-fines-for-gdpr-breaches/ (accessed: 27.12.2022).

Conversational Marketing + AI Strategy. In: Not Another State of Marketing Report. Data and trends from over 1,500 marketers around the world paired with strategies + best practices for marketing success: Available at: https://www.hubspot.com/hubfs/State-of-Marketing%20(2).pdf (accessed: 27.12.2022).

Copeland B.J. Artificial intelligence // Encyclopedia Britannica. 2022. 11 Nov.: Available at: https://www.britannica.com/technology/artificial-intelligence (accessed: 01.01.2023).

Ethics guidelines for trustworthy AI: Available at: https://digital-strategy.ec.europa.eu/en/li-brary/ethics-guidelines-trustworthy-ai (accessed: 27.12.2022).

European Digital Rights and Principles. Shaping Europe's digital future: Available at: https://ec.europa.eu/commission/presscorner/detail/en/ip_22_7683 (accessed: 27.12.2022).

Rome Declaration (2014). Rome Declaration on Responsible Research and Innovation in Europe. Retrieved May 15, 2017: Available at: https://ec.europ a.eu/resea rch/swafs /pdf/rome_decla ratio n_RRI_final _21_November.pdf (accessed: 27.12.2022).

Towards Responsible Research and Innovation in the Information and Communication Technologies and Security Technologies Fields / von R. Schomberg (ed.). Luxembourg: Publication Office of the European Union. Retrieved November 1, 2011: Available at: https :// ec.europ a.eu/resea rch/scien ce-socie ty/docum ent_libra ry/pdf_06/ mep-rapport-2011_en.pdf (accessed: 05.01.2023).