Вопросы экономико-правовой ответственности при применении технологий искусственного интеллекта в угольной отрасли

Оригинальная статья

УДК 338.8:347.195 © Е.А. Свиридова, Р.Ш. Рахматулина, В.К. Шайдуллина, С.С. Горохова, М.А. Лапина, 2020

Вопросы экономико-правовой ответственности

при применении технологий искусственного интеллекта в угольной отрасли

Р0!: http://dx.doi.org/10.18796/0041-5790-2020-7-57-61 -

Анализируется использование искусственного интеллекта в угольной промышленности. Делается вывод, что в зависимости от уровня автономности решается вопрос применения норм об ответственности к искусственному интеллекту. Наличие способности к самообучению у сильного искусственного интеллекта выделяет его среди искусственного интеллекта других уровней автономности. Данный признак является основанием для придания искусственному интеллекту данного типа статуса субъекта права и наделения его правосубъектностью, включающей деликтоспособность. Относительно слабого искусственного интеллекта низкого уровня автономности предлагается возлагать ответственность на лиц, осуществляющих функции контроля над ним. Учитывая специфику угольной промышленности, связанной с повышенной опасностью, предлагается возлагать солидарную ответственность на пользователя искусственного интеллекта, в результате действий которого оборудование дало сбой и причинило ущерб, и на орган государственной власти, осуществляющий надзор (например, в форме сертификации продукции с использованием искусственного интеллекта) за деятельностью по созданию и разработке искусственного интеллекта.

Ключевые слова: угольная промышленность, искусственный интеллект, ответственность, электронная торговля, вред, ущерб, вина, повышенная опасность, контроль.

Для цитирования: Вопросы экономико-правовой ответственности при применении технологий искусственного интеллекта в угольной отрасли / Е.А. Свиридова, Р.Ш. Рахматулина, В.К. Шайдуллина и др. // Уголь. 2020. № 7. С. 57-61. 00!: 10.18796/0041-5790-2020-7-57-61.

ВВЕДЕНИЕ

Экономический кризис, устаревшие производственные мощности, малая рентабельность производства и добычи угля требуют сегодня серьезных структурных преобразований угольной отрасли, связанных с повышением прежде всего конкурентоспособности угольно-добывающих компаний и увеличения надежности и безопасности горнодобывающих производств. Основным способом достижения указанных целей являются созда-

СВИРИДОВА Е.А.

Канд. юрид. наук, доцент,

доцент Департамента правового

регулирования экономической деятельности

Финансового университета

при Правительстве Российской Федерации,

125993, г. Москва, Россия,

e-mail: Esviridova@fa.ru

РАХМАТУЛИНА Р.Ш.

Канд. юрид. наук, доцент,

доцент Департамента правового

регулирования экономической деятельности

Финансового университета

при Правительстве Российской Федерации,

125993, г. Москва, Россия,

e-mail: rimin@mail.ru

ШАЙДУЛЛИНА В.К.

Канд. юрид. наук,

директор Центра исследований и экспертиз,

доцент Департамента правового регулирования

экономической деятельности

Финансового университета

при Правительстве Российской Федерации,

125993, г. Москва, Россия,

e-mail: vk.shaydullina@gmail.com

ГОРОХОВА С.С.

Канд. юрид. наук, доцент,

доцент Департамента правового

регулирования экономической деятельности

Финансового университета

при Правительстве Российской Федерации,

125993, г. Москва, Россия,

e-mail: SSGorohova@fa.ru

ЛАПИНА М.А.

Доктор юрид. наук, профессор, профессор Департамента правового регулирования экономической деятельности Финансового университета при Правительстве Российской Федерации, 125993, г. Москва, Россия, e-mail: MALapina@fa.ru

2020 2021 2022 2023 2024 2025 2026 2027 2028 2029 2030

Интеллектуальные датчики

Роботы в электронной торговле

Роботизированная идентификация

Технологии выявления брака

Интеллектуальный расчет расходов сырья

Рис. 1. Оценка перспектив внедрения технологий искусственного интеллекта Источник: составлено авторами

Fig. 1. Assessment of the prospects for the introduction of artificial intelligence technologies Source: compiled by the authors

ние и развитие новых технологий в сфере угольной промышленности. В настоящее время процент патентования научно-технических разработок крайне низкий, а основные патенты получены на подземные способы разработки угля [1, с. 59]. По мнению Ю.А. Плакиткина, Л.С. Пла-киткиной, основными показателями в период прогнозируемого мирового инновационно-технологического прорыва в сфере угольной промышленности являются резкое повышение производительности труда, снижение стоимости выпускаемой продукции и существенное повышение эффективности инвестиций [2, с. 53].

Уже сейчас существуют примеры разработок в сфере искусственного интеллекта для угольной промышленности. В частности, компания «ВИСТ Групп» специализируется на создании технологий безлюдной добычи твердых полезных ископаемых, которые способствуют росту эффективности добычи угля и повышению безопасности производственного процесса. Среди разработанных цифровых технологий с использованием искусственного интеллекта можно назвать грузовые бес-пилотники, высокоточные спутниковые навигационные системы, роботизированную технику для горнодобывающих работ и автоматизированные рабочие места опе-

раторов. В таблице представлены наиболее перспективные технологии искусственного интеллекта, которые будут применяться в угольной промышленности.

Перспективы развития технологий искусственного интеллекта позволяют прийти к выводу о скором повсеместном их использовании в горнодобывающей промышленности. В рамках проведения фундаментального исследования Департамент правового регулирования экономической деятельности провел экспертную оценку перспектив внедрения отдельных технологий искусственного интеллекта в угольную промышленность (в коэффициентном соотношении, где 1 - это сфера угольной промышленности в целом, рис. 1).

Высокоэффективные технологии добычи и переработки угля с использованием искусственного интеллекта и роботизированной техники позволят создать полностью автоматизированные предприятия полного цикла добычи и обработки угля и его поставки заказчикам.

В этой связи крайне важно определить параметры ответственности за действия искусственного интеллекта, которые могут причинить не только убытки горнодобывающему предприятию, но и вред жизни и здоровью физических лиц. Ведь производство и добыча угля связаны

Перспективные технологии искусственного интеллекта, применяемые в угольной промышленности

Процессы производства Применяемые технологии искусственного интеллекта

Разведка запасов месторождений угля Зондирование земли, проведение геоинформационных исследований с помощью искусственного интеллекта, анализ больших данных

Добыча угля Роботизация горных работ, использование датчиков, интеллектуальный расчет расходов сырья

Переработка угля и его производных Роботизация процессов переработки, использование датчиков

Логистика Использование датчиков, формирование базы данных по логистическим процессам

Продажи Автоматизация предсказания продаж с помощью анализа данных роботом, использования роботов в электронной торговле углем, роботизированная идентификация

Источник: составлено авторами.

с повышенной опасностью, и необходимо определить, кто именно будет нести ответственность при причинении вреда и на каких основаниях.

РЕЗУЛЬТАТЫ ИССЛЕДОВАНИЯ

Гражданско-правовая ответственность представляет собой совокупность правовых норм, в соответствии с которыми лицо, виновное в причинении ущерба, обязано возместить его путем выплаты потерпевшему денежной компенсации. Виды гражданско-правовой ответственности в сфере промышленного производства представлены на рис. 2.

Основной принцип гражданско-правовой ответственности заключается в возвращении субъекта права в положение, существовавшее до нарушениея этого права, то есть основная цель применения мер гражданско-правовой ответственности состоит в восстановлении равновесия.

В конце XIX века получила развитие теория объективной ответственности, основанной на риске, авторами которой являются Raymond Saleilles и Louis Josserand [3, 4]. Согласно данной теории любая деятельность, которая создает риск для других, возлагает на исполнителя ответственность за ущерб, который может быть причинен в результате осуществления этой деятельности, без учета вины лица, осуществляющего эту деятельность. Позднее Boris Stark разработал теорию гарантии, согласно которой каждый имеет право на гарантию - каждый раз при причинении ущерба потерпевший должен иметь право на его возмещение в качестве гарантии неприкосновенности личности и имущества [5, с. 121].

В настоящее время в связи с отсутствием четкого понимания искусственного интеллекта как субъекта права возникает необходимость применения уже существующих концепций гражданско-правовой ответственности

к новым субъектам права. Комиссия по правовым вопросам Европейского союза в своем Отчете от 27 января 2017 г., содержащем рекомендации по применению норм гражданского права в области робототехники, указывает, что, учитывая влияние развития робототехники и искусственного интеллекта на условия труда, повсеместное внедрение искусственного интеллекта может вызвать новые задачи в области гражданско-правовой ответственности [6].

Идиосинкратический характер искусственного интеллекта заключается в том, что он, как правило, заменяет человека для выполнения некоторых задач с более высокой степенью разумности [7, с. 362]. В отличие от технических устройств, заменивших ручной труд на машинный, искусственный интеллект заменяет собой интеллектуальные способности человека. Так, автономные устройства должны способствовать более безопасному и надежному управлению, устранив человеческий фактор [8, с. 690].

Таким образом, возникает вопрос о возможности и целесообразности использования правила об ответственности родителей за своих несовершеннолетних детей применительно к владельцу искусственного интеллекта. Исходя из того, что искусственный интеллект эволюционирует по собственной инициативе, он может копировать человеческое поведение. Образование, опыт и воспитание, полученные ребенком от своих родителей, можно отождествить со знаниями, полученными искусственным интеллектом от его пользователя [9].

Часто ущерб может быть причинен материальным источником независимо от вины человека. Режим ответственности владельца вещи за ущерб, ею причиненный, может соответствовать бестелесному искусственному интеллекту, который можно рассматривать как объект, за действия которого несет ответственность лицо, под

Виды гражданско-правовой ответственности

По способу распределения

ответственности

Долевая I

Субсидиарная I

Солидарная I

Ответственность

за действия третьих лиц I

Ответственность за действия должника

За просрочку принятия исполнения

Рис. 2. Виды гражданско-правовой ответственности в сфере промышленного производства

Источник: составлено авторами

Fig. 2. Types of civil liability in the field of industrial production

Source: compiled by the authors

В зависимости от особенностей состава правонарушения По основанию возникновения По размеру взыскания убытков

1 1

За неисполнение денежных обязательств (ст. 395 ГК) Договорная Полная

1 1 1

Ответственность без вины (ст. 401 ГК) Внедоговорная Ограниченная

I

За чужую вину (ст. 403 ГК) I

Смешанная ответственность

(ст. 404 ГК) |

За просрочку исполнения обязательств

чьим контролем он находится [10, с. 2]. Понятие «контроль над вещью» весьма размыто, поскольку оно подразумевает власть над объектом. В решении по делу Franck суд указал, что ответственным за причинение вреда материальным предметом признается тот, кто осуществляет полномочия по использованию, управлению и контролю. Не совсем ясно, как можно осуществлять контроль и иметь власть над искусственным интеллектом, который самостоятельно принимает решения независимо от человека. Одним из предложений преодоления данного несоответствия является использование института опеки и попечительства, в основе которого лежит власть юридическая (власть опекуна, основанная на праве). Предлагается воспринимать владельца робота как родителя несовершеннолетнего ребенка или как владельца животного [11, с. 445].

Однако применительно к искусственному интеллекту возникает вопрос, кого следует рассматривать в качестве такого опекуна: автора компьютерной программы, предприятие-разработчика, которое его нанимает, пользователя искусственного интеллекта, в чьем фактическом владении он находится. Таким образом, некорректное, а иногда и неправомерное поведение пользователя при использовании искусственного интеллекта может привести к возникновению и развитию недостатков в принятии решений.

Предложения, направленные на придание искусственному интеллекту статуса субъекта права, который таким образом может стать субъектом ответственности, в отношении слабого искусственного интеллекта нецелесообразно. Применение в данном случае концепции ответственности законных представителей за недееспособных лиц невозможно, так как искусственный интеллект изначально является результатом деятельности физических лиц (разработчиков), хотя и будет в последующем самообразовываться и самосовершенствоваться. Кроме того, в контексте рассматриваемой проблемы основной акцент делается на последствиях поведения искусственного интеллекта [12, с. 103].

В теории выделяют прямую и косвенную причинно-следственные связи. Если речь идет о роботах, осуществляющих деятельность повышенной опасности, в частности об устройствах, связанных с бурением горных пород, действия которых могут стать причиной причинения вреда жизни или здоровью человека, достаточно установить простую причастность в причинении вреда. Вред, причиненный искусственным интеллектом, является результатом такого его поведения, которое не соответствует стандартам поведения, ожидаемого от человека, причинившего вред в аналогичных обстоятельствах, так как ожидаемый уровень добросовестности искусственного интеллекта в силу отсутствия субъективности значительно выше, чем у человека.

ЗАКЛЮЧЕНИЕ

Предлагается в отношении ответственности за вред, причиненный действиями слабого искусственного интеллекта, использовать конструкцию французского законодателя об «ответственности за действия вещей», в соответствии с которой лицо несет ответственность за

вред, причиненный вещью, которая находится под его контролем. Предлагается в случае причинения вреда в результате противоправных действий слабого искусственного интеллекта возлагать ответственность на лиц, осуществляющих функции контроля над ним. При этом под понятием «контроль над искусственным интеллектом» предлагается понимать использование, управление, обучение, наблюдение или надзор за искусственным интеллектом. Функция надзора будет иметь место в случае использования искусственного интеллекта на производствах и в сферах деятельности повышенной опасности, к которой относится и горнодобывающая отрасль. В этом случае предлагается возлагать солидарную ответственность на пользователя искусственного интеллекта, в результате действий которого машина дала сбой и причинила ущерб, и на орган государственной власти, осуществляющий надзор (например, в форме сертификации продукции с использованием искусственного интеллекта) за деятельностью по созданию и разработке искусственного интеллекта и умных роботов в областях угольной промышленности.

Список литературы

1. Правовые проблемы патентования в угольной промышленности: вызовы цифровой экономики / В.К. Шай-дуллина, В.П. Павлов, В.Н. Синельникова и др. // Уголь. 2019. № 1. С. 58-62. DOI: 10.18796/0041 -5790-2019-1 -58-62. URL: http://www.ugolinfo.ru/Free/012019.pdf (дата обращения: 15.05.2020).

2. Плакиткин Ю.А., Плакиткина Л.С. Мировой инновационный проект «Индустрия-4.0» - возможности применения в угольной отрасли России. 3. Систематизация основных элементов проекта «Индустрия-4.0» по базовым процессам горного производства // Уголь. 2018. № 1. С. 51-57. DOI: 10.18796/0041-5790-2018-1-51-57. URL: http://www.ugolinfo.ru/Free/012018.pdf (дата обращения: 15.05.2020).

3. Saleilles R. Essai d'une théorie générale de l'obligation d'après le projet de Code civil allemand. Paris: F. Pichon, 1890. 460 p.

4. Josserand L. La responsabilité du fait des automobiles devant les chambres réunies de la Cour de cassation // DH. 1930. Vol. 1. N 25. P. 27-32.

5. Starck B. Domaine et fondement de la responsabilité sans faute. RTD civ., 1958. 475 p.

6. Rapport de la Commission des affaires juridiques 27 janvier 2017. URL: http://www.europarl.europa.eu/doceo/ document/A-8-2017-0005_FR.html?redirect (дата обращения: 15.05.2020).

7. Scherer M. Regulating artificial intelligence systems: risks, challenges, competencies, and strategies // Harvard Journal of Law & Technology. 2016. Vol. 29. N 2. P. 353-400. DOI: 10.2139/ssrn.2609777.

8. Vivant М., Rapp L., Vercken G. Le Lamy Droit du numérique. Editions Lamy, 2015. 1039 p.

9. EuRobotics - D3.2.1 Ethical Legal and Societal issues in robotics. URL: https://www.association-droit-robot.fr/eu-robotics-livre-vert-robots/ (дата обращения: 15.05.2020).

10. L' «autonomie» de la machine dans les systèmes homme-machine: évolution ou révolution du champ de bataille?

Aspects juridiques et éthiques / F. Gros, T. Pichevin, E. Pomès, C. Tessier // Dynamiques Internationales. 2013. N 8. P. 2-5.

11. Mendoza-Caminade A. Le droit confronté à l'intelligence artificielle des robots: vers l'émergence de nouveaux concepts juridiques // Recueil Dalloz. 2016. N 8. P. 445.

12. Kennedy E., Nogueira Silva S., Reed C. Responsibility, Autonomy and Accountability: legal liability for machine learning // Queen Mary School of Law Legal Studies Research Paper. 2016. N 243. P. 103-105. DOI: 10.1098/ rsta.2017.0360 .

ECONOMIC OF MINING

Original Paper

UDC 338.8:347.195 © E.A. Sviridova, R.Sh. Rahmatulina, V.K. Shaydullina, S.S. Gorohova, M.A. Lapina, 2020 ISSN 0041-5790 (Print) • ISSN 2412-8333 (Online) • Ugol' - Russian Coal Journal, 2020, № 7, pp. 57-61 DOI: http://dx.doi.org/10.18796/0041 -5790-2020-7-57-61

Title

ISSUES OF ECONOMIC AND LEGAL RESPONSIBILITY IN THE APPLICATION OF ARTIFICIAL INTELLIGENCE TECHNOLOGIES IN THE COAL INDUSTRY

Authors

Sviridova E.A.1, Rahmatulina R.Sh.1, Shaydullina V.K.', Gorohova S.S.1, Lapina M.A.'

' Financial University under the Government of the Russian Federation, Moscow, 125993, Russian Federation

Authors' Information

Sviridova E.A., PhD in Law, Associate Professor, Associate Professor of Legal regulation of economic activity department, e-mail: Esviridova@fa.ru

Rahmatulina R.Sh., PhD in Law, Associate Professor,

Associate Professor of Legal regulation of economic activity department,

e-mail: rimin@mail.ru

Shaydullina V.K., PhD in Law, Director of Center for research and expertise, Associate Professor of Legal regulation of economic activity department, e-mail: vk.shaydullina@gmail.com Gorohova S.S., PhD in Law, Associate Professor,

Associate Professor of Legal regulation of economic activity department, e-mail: SSGorohova@fa.ru

Lapina M.A., Doctor of Law Sciences, Professor, Professor of Legal regulation of economic activity department, e-mail: MALapina@fa.ru

Abstract

The use of artificial intelligence in the coal industry is being analyzed. It is concluded that, depending on the level of autonomy, the issue of applying the rules of responsibility to artificial intelligence is being decided. The presence of self-learning ability in strong artificial intelligence distinguishes it from artificial intelligence of other levels of autonomy. This feature is the basis for giving the artificial intelligence of this type the status of a subject of law and endowing it with legal personality, including tort. Relatively weak artificial intelligence of a low level of autonomy, it is proposed to assign responsibility to persons exercising control functions over it. Given the specifics of the coal industry associated with increased danger, it is proposed to put joint responsibility on the artificial intelligence user, as a result of which the equipment malfunctioned and caused damage, and on the state authority that exercises supervision (for example, in the form of certification of products using artificial intelligence) for the creation and development of artificial intelligence.

Keywords

Coal industry, Artificial intelligence, Responsibility, Electronic commerce, Harm, Damage, Fault, Increased danger, Control.

References

1. Shaydullina V.K., Pavlov V.P., Sinelnikova V.N., Efimova N.A. & Novickaya L.Yu. Pravovye problemy patentovaniya v ugol'noy promyshlennosti: vyzovy cifrovoy ekonomiki [Legal issues of patenting in the coal industry: challenges of the digital economy]. Ugol' - Russian Coal Journal, 2019, No. 1, pp. 58-62. (In Russ.). DOI: 10.18796/0041-5790-2019-1-58-62. Available at: http://www.ugolinfo.ru/Free/012019.pdf (accessed 15.05.2020).

2. Plakitkin Yu.A. & Plakitkina L.S. Mirovoy innovatsionnyy proekt "Indus-triya - 4.0" - vozmozhnosti primeneniya v ugol'noy otrasli Rossii. 3. Sis-tematizaciya osnovnyh elementov proekta "Industriya - 4.0" po bazovym

processam gornogo proizvodstva [The Industry-4.0 global innovation project's potential for the coal industry of Russia. 3. "Industry - 4.0" key components alignment in accordance with basic mining processes]. Ugol' -Russian Coal Journal, 2018, No. 1, pp. 51-57. (In Russ.). DOI: 10.18796/00415790-2018-1 -51 -57. Available at: http://www.ugolinfo.ru/Free/012018.pdf (accessed 15.05.2020).

3. Saleilles R. Essai d'une théorie générale de l'obligation d'après le projet de Code civil allemand. Paris, F. Pichon, 1890, 460 p. (In French.).

4. Josserand L. La responsabilité du fait des automobiles devant les chambres réunies de la Cour de cassation. DH, 1930, Vol. 1, No. 25, pp. 27-32. (In French.).

5. Starck B. Domaine et fondement de la responsabilité sans faute. RTD civ., 1958, 475 p. (In French.).

6. Rapport de la Commission des affaires juridiques 27 janvier 2017. Available at: http://www.europarl.europa.eu/doceo/document/A-8-2017-0005_ FR.html?redirect (accessed 15.05.2020). (In French.).

7. Scherer M. Regulating artificial intelligence systems: risks, challenges, competencies, and strategies. Harvard Journal of Law & Technology, 2016, Vol. 29, No. 2, pp. 353-400. (In Eng.). DOI: 10.2139/ssrn.2609777.

8. Vivant M., Rapp L. & Vercken G. Le Lamy Droit du numérique. Editions Lamy, 2015, 1039 p. (In French.).

9. EuRobotics - D3.2.1 Ethical Legal and Societal issues in robotics. Available at: https://www.association-droit-robot.fr/eurobotics-livre-vert-robots/ (accessed 15.05.2020). (In Eng.).

10. Gros F., Pichevin T., Pomès E. & Tessier C. L' "autonomie" de la machine dans les systèmes homme-machine: évolution ou révolution du champ de bataille? Aspects juridiques et éthiques. Dynamiques Internationales, 2013, No. 8, pp. 2-5. (In French.).

11. Mendoza-Caminade A. Le droit confronté à l'intelligence artificielle des robots: vers l'émergence de nouveaux concepts juridiques. Recueil Dalloz, 2016, No. 8, pp. 445. (In French.).

12. Kennedy E., Nogueira Silva S. & Reed C. Responsibility, Autonomy and Accountability: legal liability for machine learning. Queen Mary School of Law Legal Studies Research Paper, 2016, No. 243, pp. 103-105. (In Eng.). DOI: 10.1098/rsta.2017.0360.

For citation

Sviridova E.A., Rahmatulina R.Sh., Shaydullina V.K., Gorohova S.S. & Lapina M.A. Issues of economic and legal responsibility in the application of artificial intelligence technologies in the coal industry. Ugol' - Russian Coal Journal, 2020, No. 7, pp. 57-61. (In Russ.). DOI: 10.18796/0041-5790-20207-57-61.

Paper info

Received January 20,2020 Reviewed March 5,2020 Accepted March 23,2020