Этические вопросы в свете ответственных исследований и инноваций

Гринбаум А. Этические вопросы в свете ответственных исследований и инноваций // Технологос. - 2019. - № 2. - С. 21-30. DOI: 10.15593/perm.kipf/2019.2.02

Grinbaum A. Ethics in the Framework of Responsible Research and Innovation. Technologos, 2019, no. 2, pp. 21-30. DOI: 10.15593/perm.kipf/2019.2.02

DOI: 10.15593^^.^/2019.2.02 УДК 174:001.8

ЭТИЧЕСКИЕ ВОПРОСЫ В СВЕТЕ ОТВЕТСТВЕННЫХ ИССЛЕДОВАНИЙ И ИННОВАЦИЙ*

А.Гринбаум

Коммиссариат по атомной энергии и альтернативным источникам энергии (СЕА-Бас!ау), Лаборатория философии науки (Ьагэт), Жиф-сюр-Иветт, Франция

АННОТАЦИЯ

Ответственные исследования и инновации (ОИИ) - это рамочные принципы организации взаимодействия науки и общества в программе «Горизонт-2020» Европейской комиссии. Хотя реализация этой многомиллиардной программы финансирования научных исследований началась в 2014 году, уже примерно с 2011 года концептуальные основы ОИИ оказались предметом глубокой проработки в литературе и обсуждения на конференциях и экспертных совещаниях. Цель ОИИ - вовлечь общественность (неправительственные и образовательные организации, гражданское общество) в процесс ведения ответственного и многопланового диалога с организациями, непосредственно вовлеченными в научно-техническую деятельность (исследовательские институты, промышленные компании, а также контрольно-надзорные и регулирующие органы). Этот диалог строится вокруг пяти тем, называемых «ключами ОИИ»: этика, обучение основам науки, открытый доступ к научным публикациям, равенство полов в научных лабораториях и вовлечение общества в диалог с наукой. В данной статье обсуждаются вопросы этики.

Центральным понятием научной этики является понятие ответственности. Целью развития научной этики в исследовательских организациях должно стать повышение осведомленности ученых о всех аспектах ответственности. Более того, при этом должны учитываться критерии надлежащего ведения научной деятельности, в основе которого лежат такие ценности, как честность, непредвзятость или беспристрастность.

Чтобы убедить исследователей и научно-исследовательские организации в том, что этическая рефлексия - важная составляющая их деятельности, необходима реализация целого комплекса мер. Во-первых, изучение этики как молодыми, так и опытными исследователями. Во-вторых, обращение к «борцам за этику», то есть лицам, глубоко убежденным в необходимости этического осмысления технологий и готовых делиться своими убеждениями с другими. Зачастую такие «борцы за этику» в рамках своих должностных обязанностей имеют возможность создавать организационные структуры, посвященные научной этике. Поиск таких людей и расширение их полномочий - важная задача организации науки в рамках ОИИ.

© ПНИПУ

Алексей Гринбаум - доктор философских наук, научный сотрудник, ORCID: https://orcid.org/0000-0002-7484-1553, e-mail: alexei.grinbaum@cea.fr.

Alexei Grinbaum - PhD HDR, Researcher, ORCID: https://orcid.org/0000-0002-7484-1553, e-mail: alexei.grinbaum@cea.fr.

•Оригинал статьи на английском языке будет опубликован в книге: Hamdbuch TechnikEthik. Ed. J.B. Metzler. 2nd ed. (to be published in 2019).

Перевод выполнен на базе научно-исследовательской лаборатории RRI_Lab Н.В. Соколовой при участии автора. Статья на русском языке публикуется с согласия автора.

Эта статья доступна в соответствии с условиями лицензии Creative Commons Attribution-NonCommercial 4.0 International License

This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License

О СТАТЬЕ

Получена: 21 февраля 2019 г. Принята: 03 июня 2019 г. Опубликована: 28 июня 2019 г.

Ключевые слова: этика, ответственность, Европейская комиссия, Ганс Йонас, управление наукой, комитет по этике, деонтология, консеквенциализм, этика добродетели.

ETHICS IN THE FRAMEWORK OF RESPONSIBLE RESEARCH AND INNOVATION

Alexei Grinbaum

CEA-Saclay/Larsim, Gif-sur-Yvette, France

ARTICLE INFO

ABSTRACT

Received: 21 February 2019 Accepted: 03 June 2019 Published: 28 June 2019

Keywords:

ethics, responsibility, European Commission, Hans Jonas, governance of science and technology, ethics committee, deontology, conse-quentialism, virtue ethics.

RRI (Responsible Research and Innovation) is a science policy framework in the Hori-zon-2020 programme of the European Commission. The funding programme was launched in 2014, while the conceptual foundations of RRI have been laid in a series of conferences, expert meetings and publications beginning around 2011. RRI seeks to engage publics (non-governmental and educational organizations, citizen associations, and laypersons) with science and technology stakeholders (research organizations, industry, and regulators) in a responsible, multi-dimensional dialogue on five themes called "RRI keys": ethics, science education, open access, gender equality, and societal engagement. In this article the ethics is discussed.

The notion of responsibility sits squarely at the center of ethical reflection. Training in research ethics should aim at making scientists aware of these and various other aspects of responsibility. Furthermore, training should include scientific integrity, which enshrines values such as honesty, lucidity, or impartiality.

To convince researchers and research organizations that ethical reflection is an important aspect of their work requires a set of measures at all levels. Firstly, it involves ethical training for young as well as experienced researchers. Secondly, it relies on 'ethics champions': individuals or groups of individuals, who believe in the need for ethical reflection among researchers and whose hierarchical position allows them to establish organizational units or structures devoted to ethics. The identification of such individuals and their empowerment remain the most formidable challenge to the development of ethics in the framework of Responsible Research and Innovation.

© PNRPU

Ответственные исследования и инновации

Ответственные исследования и инновации (далее «ОИИ») - это рамочные принципы организации взаимодействия науки и общества в программе «Горизонт-2020» (Horizon-2020) Европейской комиссии1. Хотя реализация этой многомиллиардной программы финансирования научных исследований началась в 2014 году, уже примерно с 2011 года концептуальные основы ОИИ стали предметом глубокой проработки в литературе и обсуждения на конференциях и экспертных совещаниях. Цель ОИИ - вовлечь общественность (неправительственные и образовательные организации, гражданское общество) в процесс ведения ответственного и многопланового диалога с организациями, непосредственно вовлеченными в научно-техническую деятельность (исследовательские институты, промышленные компании, а также контрольно-надзорные и регулирующие органы). Этот диалог строится вокруг пяти тем, называемых «ключами ОИИ» (RRI keys): этика, обучение основам науки, открытый доступ к научным публикациям, равенство полов в научных лабораториях и вовлечение общества в диалог с наукой. Общепринятое определение ОИИ предполагает стратегическое видение «научной деятельности, реализуемой совместно с обществом и для общества» [1]. Это определение сформулировано с учетом глобальных ценностей, соответствующих четырем «измерениям ОИИ» (RRI dimensions): инклюзивность, рефлексивность, предвидение возможных последствий и способность к ответной реакции (inclusiveness, reflexivity, anticipation, and

1 «Горизонт-2020» - крупнейшая в истории ЕС программа по исследованиям и инновациям с бюджетом около 80 млрд евро. Программа рассчитана на семь лет (с 2014 по 2020 г.) и призвана способствовать увеличению числа инновационных технологий, открытий и перспективных разработок путем продвижения идей из научных лабораторий на рынок.

responsiveness): «Ответственные исследования и инновации - это прозрачный, интерактивный процесс, посредством которого общественные деятели и инноваторы ведут взаимный диалог, принимая при этом во внимание (этическую) приемлемость и устойчивость инновационного процесса, а также его способность отвечать на вызовы общества» [2, 3, 4].

Необходимость обозначить такие ценности определяется тесной связью научно-технических аспектов с общественными, этическими и политическими вопросами, особенно с учетом фундаментальной роли науки и технологий в жизни современного общества и в определении его будущего.

Наука и технологии изменяют значение общественных норм и ценностей. Этот нескорый, но неумолимый процесс развивается на фоне крайне стремительного изменения повседневной жизни человека вследствие внедрения в нее все новых технологий. Поэтому не только игроки научно-технической сферы, но и политики всех уровней остро ощущают необходимость учитывать общественные явления и процессы при внедрении новых технологий в частности и в инновационной научной деятельности в целом.

На практике «ключи ОИИ» редко становятся объектом изучения в рамках единого подхода; в большинстве исследовательских организаций разработка разных аспектов ОИИ ведется независимо. Исследования, проведенные во Франции и Германии, показывают, что определенные аспекты ОИИ часто непосредственно связаны с положениями «корпоративной социальной ответственности» (КСО) (Corporate Social Responsibility - CSR). Такая преемственность в использовании подхода, выработанного ЮНЕСКО в 1974-м и дополненного в 2017 году [5], позволяет установить историческую и организационную преемственность ОИИ. На самом деле ОИИ не является чем-то исключительным в научной жизни Европы: этот рамочный подход свидетельствует лишь о том, что сегодня обеспокоенность общества развитием науки и технологий становится объектом повышенного внимания на институциональном уровне.

Внедрение ОИИ в качестве рамочных принципов организации научной деятельности осуществлялось по принципу «сверху вниз», при этом инициатором процесса выступила Европейская комиссия. Однако по мере распространения ОИИ на национальном и региональном уровнях становилось все более очевидным, что научно-исследовательские организации не готовы к реализации этой политической концепции в своем повседневном функционировании. Отсюда необходимость трансляционных механизмов для обеспечения связи между политическим видением ОИИ (ключи, измерения, ценности) с реальностью, в которой живут научные работники. Этика как ключ ОИИ - один из главных инструментов такой трансляции.

Отдельно рассматриваются научная этика, честность и целостность надлежащего ведения научной деятельности, а также критическое осмысление влияния науки и техники на общество. Данный подход был разработан и обоснован, в частности, в рамках таких проектов программы «Горизонт-2020» в области ОИИ, как RRI-Tools (2014-2016) [6]2 и RRI-Practice (2016-2019) [7]3. Прежде чем определить институциональные аспекты этики, необходимо рассмотреть связь этого ключа ОИИ с понятием ответственности как в философском, так и в собственно практическом плане [8]. Употребление термина «ответственность» в научном контексте часто звучит как обвинение в безответственности; очевидно, что развитие ответственных исследований и инноваций не должно подразумевать применение релятивистского подхода или же отказ от самостоятельности суждений.

2 Целью проекта РР1-Тоо1б (Инструменты ОИИ) (2014-2016) являлось повышение уровня осведомленности общественности об ОИИ.

3 Проект РШ-Ргасйсе (Практика ОИИ) (2016-2019) был призван определить препятствия и выявить факторы, способствующие успешной реализации ОИИ в рамках европейского и общемирового пространства.

Измерения ответственности

Центральным понятием научной этики является понятие ответственности. Новатор меняет мир и тем самым несет (а не только принимает) ответственность за изменения, ставшие следствием внедрения инноваций [9]. Исследователь создает знание, ведущее к появлению инноваций, что подразумевает определенную ответственность ученого за перемены, к которым ведет его деятельность. Исходной точкой этического суждения часто становится не причинная, а контрфактуальная модель аргументации: чтобы возложить ответственность за последствие Y на агента А, достаточно продемонстрировать, что если бы А не сделал действие X, то и Y не имело бы места, даже в том случае, если намерения со стороны А и не могли напрямую послужить возникновению причинно-следственной связи между X и Y. Более того, этическое суждение не ограничено пространственно-временными рамками; оно применимо к инновационным продуктам на протяжении всего срока их службы, при этом нередко может быть ретроспективно обращено и на фундаментальные исследования, которые позволили претворить такие инновации в жизнь. При этом в рамках коллективных и политических аспектов ответственности [10,11] исследователь рассматривается и как отдельное лицо, и как сотрудник организации, то есть член сложной иерархической структуры.

Тот факт, что ученые остро ощущают значимость ответственности, подтверждается на примере дискуссий по вопросу исследований двойного назначения. Толчком к одному из последних эпизодов послужило создание в 2011 году нового варианта вируса птичьего гриппа. Работа, проведенная двумя группами ученых независимо друг от друга в Нидерландах и США, стала объектом сурового публичного осуждения в связи с тем, что в мир была привнесена ранее не существовавшая угроза пандемии птичьего гриппа среди людей. При этом исследователи признали свою ответственность: никто из них не пытался охарактеризовать свою деятельность как безответственную. Однако две научные группы толковали понятие ответственности по-разному. Ученые из США заявили, что они «несут ответственность за то, чтобы вести исследования ответственно» (Y. Kawaoka) [12]. В их понимании это сводилось к соблюдению запрета на публикацию результатов их собственной работы. Ученые из Нидерландов, напротив, заявили о своей «ответственности перед научным сообществом» (A. Osterhaus) [12]. Они попытались опротестовать решение властей, а также обратились в суд с иском против правительства страны. Ясно, что все ученые считают свои действия ответственными, но при этом понятие ответственности часто имеет диаметрально противоположный смысл. С теоретической точки зрения в этой ситуации можно увидеть смесь трех базовых этических подходов: деонтологии, консек-венциализма и этики добродетели (deontological, consequentialist, virtue ethics) [13, 14].

Подход к научной этике, имеющий наиболее очевидное практическое применение, связан с распространением кодексов норм ответственного поведения и других видов мягкого права (soft law). Предполагается, что эти нормы соответствуют добросовестному поведению ученого. Достоинствами такого деонтологического подхода являются измеримость и объективность этического суждения на основе заранее установленных принципов. Подход этот, однако, не охватывает всей полноты понятия ответственности. В кодексах поведения ученых обычно отражены столь общие ценности и принципы, что сами они полагают подобные документы слишком абстрактными и неприменимыми в конкретных ситуациях. К примеру, в «Европейском кодексе поведения с целью обеспечения ответственного развития нанонаук и нано-технологий» (European Code of Conduct for Responsible Nanosciences and Nanotechnologies Research) представлено семь основополагающих принципов и двадцать семь правил. В числе первых встречаем положение об ответственности (accountability) ученых за последствия своей

деятельности: «Исследователи и научно-исследовательские организации должны нести ответственность за социальные и экологические последствия, а также за последствия для здоровья человека, к которым могут привести их исследования [в области нанонаук и нанотехнологий] как в настоящее время, так и для будущих поколений» [15]. Необходимость этого принципа абсолютно очевидна для простого человека, однако среди многих исследователей он вызывает столь же закономерное неприятие. Отсылка к будущим поколениям без установления каких-либо временных рамок ответственности ставит ученого в потенциально опасную ситуацию, при которой в любой момент в будущем его деятельность может стать предметом осуждения. Сегодня мы не считаем изобретателей локомотива, телефона или двигателя внутреннего сгорания ответственными за какое-либо негативное воздействие, которое эти технологии оказывали на человечество с XIX века. Нам не приходит в голову обвинять Эдисона или Фарадея в высоких ценах на электроэнергию. Тем не менее невозможно провести четкую границу между временными рамками ответственности и воображаемым - в реальности не существующим -беззаботным («бездумным» в терминологии Х. Арендт) периодом работы над изобретением.

Тот факт, что подобную границу провести невозможно, свидетельствует о неизбежном вторжении консеквенциализма в этические суждения о научно-технических инновациях. Деонтология сама по себе не в состоянии охватить все аспекты ответственности ученых, в то время как повсеместное распространение мягкого права ведет к меньшей прозрачности кодексов и им подобных инструментов, обратно пропорциональной числу содержащихся в них руководящих принципов и правил. Так, применительно к ситуации с созданием вируса птичьего гриппа оказался практически нереализуемым и потому контрпродуктивным целый ряд деон-тологических документов, подготовленных различными органами власти США. Причиной этого стал так и непреодоленный разрыв между языком и объемом документов, с одной стороны, и реалиями повседневной научной деятельности - с другой.

Как и в случае с деонтологией, консеквенциализм не позволяет целиком раскрыть значение понятия ответственности. Это объясняется непредсказуемостью сложных процессов реализации научных исследований и внедрения новых технологий и связано, в частности, с понятием «моральной удачи» (moral luck) [16]. Приведем недавний пример. Технология редактирования генома CRISPR-Cas94, представленная в 2012 году, сразу вызвала оживленную этическую дискуссию, в особенности в связи с ее применением для редактирования генома человека. Первые призывы к мораторию на использование данного метода прозвучали в марте 2015 года, однако уже через два месяца в Китае были опубликованы результаты первого эксперимента, который до того предлагалось запретить. В конце того же года был озвучен уже призыв запретить внесение наследуемых изменений в геном человека. Однако год спустя ученый из Швеции «нарушил табу», отредактировав ДНК здоровых человеческих эмбрионов. В 2017 году, демонстрируя стремление принять новые реалии, но при этом сохранить за ними контроль, на всемирном саммите в качестве актуального руководящего принципа было представлено положение о возможности редактирования наследуемого генома человека при соблюдении ряда жестких условий. Но уже через год мир потрясла новость, что китайский ученый осуществил процедуру оплодотворения женщины генетически отредактированными эмбрионами, в результате чего на свет появились близнецы. При этом ни одно из установленных ограничений не было соблюдено: честолюбивые ученые довольно легко могут перейти черту в том случае, когда ограничительные меры прописаны лишь в мягком праве.

4 СР!8РР/Саз9 — бурно развивающаяся технология редактирования генома, основанная на инструментах иммунной системы бактерий.

Само по себе честолюбие не есть зло: оно исконно присуще научной работе человека. Однако честолюбие толкает последнего на рискованные действия, а ничем не ограниченное честолюбие может привести к хаосу в обществе. Этически двойственный характер этой человеческой черты был прекрасно известен еще Гомеру, наделившему честолюбием Одиссея. Это свидетельствует о важности третьего подхода к этике - этики добродетели - для понимания ответственности ученого. Лишь принимая во внимание все три основные теории, можно полностью учесть многообразие аспектов ответственности ученого перед обществом.

Ярким примером важной роли этики добродетели являются парламентские слушания о синтетической биологии5, состоявшиеся в 2010 году в Великобритании. Ученым было задано пять вопросов [17]:

1) «Какова цель проводимых Вами исследований?»

2) «Зачем Вы проводите эти исследования?»

3) «Что Вы ожидаете получить от этой работы?»

4) «Какие еще последствия будут у Вашей работы?»

5) «На чем основывается Ваша уверенность в собственной правоте?»

В отличие от достаточно обычных вопросов N° 1 и 4, являющихся примерами консеквен-ционалисткого типа этического суждения, три других вопроса показались ученым неожиданно трудными. Здесь на первый план выдвигается личность исследователя, а не его научная работа; этическое суждение основано на чертах характера и ценностях конкретного человека, а не научной дисциплины. Затруднения при ответе на такие вопросы, озвученные учеными во время дискуссий в Великобритании, красноречиво свидетельствуют об общей неготовности исследователей осознать поразительный для них факт: этическое суждение о научной работе может зависеть от субъективной оценки личности ученого, который представляет эту работу обществу.

Целью научной этики (research ethics) в исследовательских организациях должно стать повышение осведомленности ученых об этих и других аспектах ответственности. Более того, при этом должны учитываться критерии надлежащего ведения научной деятельности (scientific integrity), в основе которого лежат такие ценности, как честность, непредвзятость или беспристрастность. Именно эти качества позволяют индивиду осознать значимость этики добродетели. Благодаря им становится ясно, что этическое суждение о науке и технологиях не является ни исключительно деонтологическим вопросом, ни задачей одного только консеквенциализма.

Этика в рамках ОИИ

Возвращаясь к институциональным аспектам ОИИ, необходимо отметить, что научная этика подразумевает соблюдение норм и требований к проведению научных исследований. Это касается проектов, связанных с проведением экспериментов с тканями и клетками людей и животных, а также с опытами над людьми и лабораторными животными, сбором личной информации, потенциально вредным воздействием на окружающую среду, исследованиями двойного назначения и т.д. Надзор за соблюдением таких правил осуществляют оперативные комиссии по этике, проводящие анализ и оценку конкретных научно-исследовательских проектов в зависимости от их контекста. Наряду с оперативными комиссиями существуют и комитеты по этике c более общими функциями. Их деятельность заключается в рассмотрении общих этических вопросов и анализе глобальных аспектов влияния тех или иных технологий на общество. Такие комитеты не работают с определенными научно-исследовательскими про-

5 В 2010 году американский инженер и биолог Крейг Вентер (Craig Venter) синтезировал первую клетку с искусственным геномом, заложив основы нового научного направления - синтетической биологии.

ектами, а предлагают этические рекомендации универсального характера для проведения исследований в различных областях.

Стремление к всеобъемлющей научной обоснованности подразумевает приверженность ценностям и методам надлежащего, то есть в первую очередь честного ведения научной деятельности. Надзорные органы в этой области выявляют злоупотребления в научной сфере, например плагиат или недопустимое манипулирование данными. Деятельность структур, занимающихся вопросами надлежащего ведения научных исследований, осуществляется на государственном либо региональном уровне, а также в рамках научно-исследовательских организаций. Иногда такие разноуровневые структуры действуют в тесном сотрудничестве: например, возможно проведение оценки научно-исследовательского проекта государственным либо региональным комитетом по этике наряду с получением оценки со стороны самой научно-исследовательской организации.

Часто считают, что задача этики - выявить факты недобросовестного ведения научной деятельности и обеспечить соблюдение деонтологических норм в ходе исследований. Однако в рамках ОИИ к сфере этики относится также и институциональная реализация рефлексивного подхода (reflective attitude) применительно к инновационной, созидательной и преобразующей мощи науки и техники. Исследователи должны стремиться к пониманию возможных социальных последствий своей работы, а также обладать необходимыми умениями для всестороннего обдумывания изменений в мире, к которым может привести их деятельность. Исследовательские институты должны оценивать этическую приемлемость предлагаемых ими инноваций с учетом постепенно меняющихся норм и ценностей. Во многих случаях, например в сфере информационных технологий, эта рефлексия должна проводиться внутри исследовательских проектов, поскольку только на этом этапе еще можно повлиять на ход развития той или иной технологии [18]. С точки зрения социологии такая ситуация предполагает необходимость обеспечения двустороннего взаимодействия ученых и заинтересованных участников инновационного процесса с целью установить отношения взаимного доверия.

Недавнее исследование показывает, что основные движущие силы обеспечения надлежащего ведения научных исследований носят преимущественно институционально-структурный характер [19]. Создание наблюдательных советов и комитетов по этике часто осуществляется «сверху вниз». Многие кодексы и этические нормы разрабатываются на государственном уровне или в специальных комитетах, в то время как доведение этих принципов до сведения обычных исследователей по-прежнему остается сложной организационной задачей.

Два основных фактора, приводящих к пониманию важности научной этики, таковы: во-первых, миметическая динамика, то есть воспроизведение структур, существующих в иных институтах; во-вторых, изменения, связанные с тем или иным скандалом, например нечестно проведенным исследованием. Миметическая динамика - это механизм, посредством которого субъекты (исследователи, научно-исследовательские организации и даже целые страны) сознательно либо неосознанно подражают известным образцам с целью приобрести хорошую репутацию. Благодаря такой заботе о репутации учреждение оказывается более привлекательным в глазах общества либо потенциальных партнеров. На международном уровне скрытая динамика подражания ведет к более широким возможностям сотрудничества в научно-исследовательской сфере. В некоторых странах стремление соответствовать этическим стандартам ЕС даже явно указывается в качестве движущего фактора. В этих странах и в самом ЕС динамика скандала связана в основном со стремлением обеспечить честное проведение научных исследований и надлежащее функционирование институций. Так, установление требований к ведению научной деятельности,

назначение лиц, ответственных за соблюдение этических принципов, или же создание оперативных комиссий часто являются следствием выявленного плагиата.

Необходимость обдуманного отношения к технологическим инновациям и этической рефлексии в науке также обусловлена растущей обеспокоенностью по поводу влияния технологий на общество и окружающую среду. Как правило, данные проблемы поднимают молодые исследователи либо ученые пенсионного возраста, в то время как в зените своей карьеры ученые редко находят для этого время.

Тем не менее движущие силы этики (drivers for ethics) обычно не так сильны, как ограничительные факторы (barriers) на личностном либо институциональном уровне. Основным препятствием для реализации ОИИ является отсутствие ясности в определении этики, которое включает в себя совершенно разные концепции, начиная от надлежащего ведения исследований с соответствующей нормативно-правовой и деонтологической подоплекой и заканчивая свободными размышлениями о последствиях технического прогресса. Ученые, не имеющие специальной философской подготовки, часто рассматривают научную этику как некое препятствие или ограничение их свободы, как необходимость соблюдать нормы и требования, наложенные извне, то есть сущностно не принадлежащие к сфере научных исследований. Свою роль они сводят при этом к проставлению галочек в анкетах для грантовых фондов. Если трактовать этику как демонстрацию соответствия существующим правилам и нормам, то она действительно оказывается не помощником, а тормозом технологических инноваций, поскольку рассматривается как явление, противоречащее эффективности исследовательского процесса и потому не позволяющее достичь преимущества в глобальной конкурентной борьбе.

Чтобы опровергнуть эту точку зрения, к сожалению широко распространенную, а также убедить исследователей и научно-исследовательские организации в том, что этическая рефлексия - важная составляющая их деятельности, необходима реализация целого комплекса мер на всех уровнях. Во-первых, это изучение этики как молодыми, так и опытными исследователями. Во-вторых, обращение к «борцам за этику», то есть лицам или группам лиц, глубоко убежденным в необходимости этического осмысления технологий и готовых делиться своими убеждениями с другими. Зачастую такие «борцы за этику» имеют возможность в рамках своих должностных обязанностей создавать организационные единицы или структуры, посвященные научной этике. Поиск таких людей и расширение их полномочий - важная задача развития науки в рамках ОИИ.

Список литературы

1. Directorate-General for Research and Innovation, Science with and for Society Programme // European Commission, 2014. - URL: http://ec.europa.eu/research/swafs (accessed 21 February 2019).

2. Von Schomberg R. Prospects for Technology Assessment in a Framework of Responsible Research and Innovation // Technikfolgen abschätzen lehren: Bildungspotenziale transdisziplinärer Methode. - Wiesbaden: Springer VS, 2011. - P. 39-61.

3. Von Schomberg R. Prospects for Technology Assessment in a Framework of Responsible Research and Innovation // Technikfolgen abschätzen lehren: Bildungspotenziale transdisziplinärer Methoden. Eds. M. Dusseldorp and R. Beecroft. - Wiesbaden, Springer, 2012. - P. 39-62.

4. Von Schomberg R. A Vision of Responsible Innovation // Responsible Innovation: Managing the Responsible Emergence of Science and Innovation in Society. Eds. R. Owen, J. Bessant and M. Heintz. - Wiley, 2013.

5. Акты Генеральной конференции, 39-я сессия, Париж, 30 октября - 14 ноября 2017 г. [Электронный ресурс] // Unesco, 2017, p. 75. - URL: http://unesdoc.unesco.org/images/0026/ 002608/260889e.pdf (дата обращения: 21.02.2019).

6. RRI-Tools. Project Funded by the Horizon-2020 Programme of the European Commission, 2014. - URL: http://www.rri-tools.eu/ethics (accessed 21 Febryary 2019).

7. RRI-Practice. Project Funded by the Horizon-2020 Programme of the European Commission, 2016. - URL: http://www.rri-practice.eu (accessed 21 Febryary 2019).

8. Jonas H. The Imperative of Responsibility. - Chicago, University of Chicago Press, 1984.

9. Arendt H. Collective Responsibility // Arendt H. Responsibility and Judgment. - New York: Schocken books, 2003.

10. Grinbaum A., Groves Ch. What is 'Responsible' about Responsible Innovation? Understanding the Ethical Issues // Responsible Innovation: Managing the Responsible Emergence of Science and Innovation in Society. Eds. R. Owen, J. Bessant and M. Heintz. - Wiley, 2013. - P. 119-142.

11. Grunwald A. Responsibility Beyond Consequentialism: The EEE Approach to Responsibility in the Face of Epistemic Constraints // Responsible Research and Innovation. From Concepts to Practices. Eds. Gianni R., Pearson J., Reber B. - London/New York: Routledge, 2019. - P. 35-49.

12. Enserink M. Grudgingly, Virologists Agree to Redact Details in Sensitive Flu Papers // Science, 20 December 2011.

13. Dupuy J.-P. The Narratology of Lay Ethics // Nanoethics. - 2010. - No. 4. - P. 153-170.

14. Sand M. The virtues and vices of innovators // Philosophy of Management. - 2018.l -No. 17(1). - P. 79-95. DOI: 10.1007/s40926-017-0055-0

15. Recommendation on A Code of Conduct for Responsible Nanosciences and Nanotechnol-ogies Research // European Commission, C (2008) 424. - Brussels, 2008.

16. Grinbaum A., Dupuy J.-P. Living With Uncertainty: Toward a Normative Assessment of Nanotechnology // Techné. - 2004. - No. 8(2). - P. 4-25.

17. The United Kingdom Biotechnology and Biological Sciences Research Council (BBSRC) and The United Kingdom Engineering and Physical Sciences Research Council (EPSRC), Report on Synthetic Biology Dialogue, 2010. - URL: http://www.tns-bmrb.co.uk (accessed 21 Febryary 2019).

18. Ethics in Robotics Research / A. Grinbaum [et al.] // IEEE Robotics and Automation Magazine. - 2017. - No. 24. - P. 139-145.

19. Grinbaum A., Politi V. Deliverable 15.1 "Comparison of the ethics key" for H2020 Project RRI-Practice, 2019. - URL: www.rri-practice.eu (accessed 21 Febryary 2019).

References

1. Directorate-General for Research and Innovation, Science with and for society programme. European Commission, 2014, available at: http://ec.europa.eu/research/swafs

2. Von Schomberg R. Prospects for Technology Assessment in a framework of responsible research and innovation. Technikfolgen abschätzen lehren: Bildungspotenziale transdisziplinärer Methode. Wiesbaden, Springer VS, 2011, pp.39-61.

3. Von Schomberg R. Prospects for Technology Assessment in a Framework of Responsible Research and Innovation. Technikfolgen abschätzen lehren: Bildungspotenziale transdisziplinärer Methoden. Eds. M. Dusseldorp and R. Beecroft. Wiesbaden, Springer, 2012, pp. 39-62.

4. Von Schomberg R. A vision of responsible innovation. Responsible Innovation: Managing the Responsible Emergence of Science and Innovation in Society. Eds. R. Owen, J. Bessant and M. Heintz. Wiley, 2013.

5.Records of the General Conference

6. RRI-Tools. Project funded by the Horizon-2020 programme of the European Commission, 2014, available at: http://www.rri-tools.eu/ethics

7. RRI-Practice. Project funded by the Horizon-2020 programme of the European Commission, 2016, available at: http://www.rri-practice.eu

8. Jonas H. The imperative of responsibility. Chicago, University of Chicago Press, 1984.

9. Arendt H. Collective Responsibility. Arendt H. Responsibility and Judgment. New York, Schocken books, 2003.

10. Grinbaum A., Groves Ch. What is 'responsible' about responsible innovation? Understanding the Ethical Issues. Responsible Innovation: Managing the Responsible Emergence of Science and Innovation in Society. Eds. R. Owen, J. Bessant and M. Heintz. Wiley, 2013, pp. 119-142.

11. Grunwald A. Responsibility beyond consequentialism: The EEE approach to responsibility in the face of epistemic constraints. Responsible Research and Innovation. From Concepts to Practices. Eds. Gianni R., Pearson J., Reber B. London/New York, Routledge, 2019, pp. 35-49.

12. Enserink M. Grudgingly, Virologists Agree to Redact Details in Sensitive Flu Papers. Science, 20 December 2011.

13. Dupuy J.-P. The Narratology of Lay Ethics. Nanoethics, 2010, no. 4, pp. 153-170.

14. Sand M. The virtues and vices of innovators. Philosophy of Management, 2018, no. 17(1), pp. 79-95. DOI: 10.1007/s40926-017-0055-0

15. Recommendation on A code of conduct for responsible nanosciences and nanotechnologies research. European Commission, C (2008) 424, Brussels, 2008.

16. Grinbaum A., Dupuy J.-P. Living With Uncertainty: Toward a Normative Assessment of Nanotechnology. Techné, 2004, no. 8(2), pp. 4-25.

17. The United Kingdom Biotechnology and Biological Sciences Research Council (BBSRC) and The United Kingdom Engineering and Physical Sciences Research Council (EPSRC), Report on Synthetic Biology Dialogue, 2010, available at: http://www.tns-bmrb.co.uk (accessed 21 February 2019).

18. Grinbaum A. et al. Ethics in Robotics Research. IEEE Robotics and Automation Magazine, 2017, no. 24, pp. 139-145.

19. Grinbaum A., Politi V. Deliverable 15.1 "Comparison of the ethics key" for H2020 project RRI-Practice, 2019, available at: www.rri-practice.eu (accessed 21 February 2019).