Социальная оценка техники в поворотные времена: вызовы трансдисциплинарности и национального

Середкина Е.В. Социальная оценка техники в поворотные времена: вызовы трансдисциплинарности и национального // Вестник ПНИПУ. Культура. История. Философия. Право. - 2017. - № 2. - С. 66-73. РО!: 10.15593/регт.к1р1/2017.2.09

Sterledev R.K., Sterledeva T.D. Seredkina E.V. Technology assessment in changing times: challenges of transdisciplinarity and nationality. Bulletin of PNRPU. Culture. History. Philosophy. Law, 2017, no. 2, pp. 66-73. DOI: 10.15593/perm.kipf/2017.2.09

DOI 10.15593/perm.kipf/2017.2.09 УДК 62:316.42

Е.В. Середкина

СОЦИАЛЬНАЯ ОЦЕНКА ТЕХНИКИ В ПОВОРОТНЫЕ ВРЕМЕНА: ВЫЗОВЫ ТРАНСДИСЦИПЛИНАРНОСТИ И НАЦИОНАЛЬНОГО1

Целью данного исследования является анализ двух основных вызовов социальной оценки техники (Technology Assessment, TA) в поворотные времена - вызов трансдисциплинарности (эпистемологические и этические основания TA) и вызов национального (социально-культурные основания TA). В первом случае речь идет о разработке этико-эпистемологического каркаса социальной оценки техники на основе согласования принципов предосторожности и неопределенности. Результатом их синтеза является разработка RRI-подхода в рамках трансдисциплинарной модели TA и новой архитектоники участия. RRI (программа «Ответственные исследования и инновации») понимается как расширенная версия TA с акцентом на формировании трансдисциплинарного коммуникативного пространства (трехчленная модель участия: политики - эксперты - общество). На первый план выходят проблемно ориентированные исследования, в которых процедуры проектирования, прогнозирования, конструирования играют ключевую роль. В таких видах исследований речь идет не о чистом познании (поиске истины), а о практическом решении конкретных инженерных кейсов в сложном и постоянно меняющемся социальном контексте. Второй вызов предполагает описание национальных моделей социальной оценки техники. В западноевропейском академическом пространстве данной проблеме не уделяется должного внимания. Европейские эксперты, как правило, говорят о глобальной версии TA, в основе которой лежат западноевропейские ценности и подходы. Этот неявный «западоцентризм» существенно обедняет возможности реализации на практике идей TA за пределами Европы, поскольку социальные реалии и культурные нормы играют важную роль при формировании технологий. Именно в социально-культурном контексте определяются задачи инновационного развития, формулируются общественные идеалы, смыслы, представления о технологическом будущем. В связи с этим выделяются и описываются четыре национальные модели TA: немецкая, российская, американская, китайская. Методы исследования: компаративистский анализ, междисциплинарные и трансдисциплинарные стратегии исследования, герменевтика техники.

Ключевые слова: социальная оценка техники (СОТ), ответственные исследования и инновации, национальные кейсы СОТ, «пристрастная СОТ», «партисипативный поворот», трехчленная модель участия, стейкхолдер, трансдисицплинарные стратегии исследования, трансдисциплинарное коммуникативное пространство, социальная эпистемология, устойчивое участие, принцип неопределенности, принцип предосторожности, подрывные инновации.

E.V. Seredkina

TECHNOLOGY ASSESSMENT IN CHANGING TIMES: CHALLENGES OF TRANSDISCIPLINARITY AND NATIONALITY

Objective of this research is the analysis of two main challenges of Technology Assessment (TA) in changing times - challenge of Transdisciplinarity (epistemological and ethical foundations of TA) and challenge of Nationality (social and cultural foundations of TA). In the first case the question is the development of ethic and epistemological basis of Technology Assessment on the basis of coordination of the uncertainty principle with the precautionary principle. RRI approach within the TA transdisciplinary model and the new architecture of participation is result of their synthesis. RRI is understood as the expanded version of TA with emphasis on creating of transdisciplinary communicative space (tripartite model of participation: policy maker - experts community - society). Problem-oriented researches in which procedures of design, forecasting, designing play a key role are coming to the fore. In such types of researches this is not about pure knowledge (search of the truth), and about the practical solution of concrete engineering cases in the difficult and constantly changing social context. The second challenge assumes the description of national models of Technology Assessment. This problem doesn't get the attention in West European academic space properly. The European experts, as a rule, speak about the global version of TA founded on the Western European values and approaches. This implicit "west-oriented" approach weakens significantly the TA-practice beyond of Europe. In fact, social background and cultural norms play an important role in "technology shaping". Specifically in the context of national challenges the priority directions for the innovative development of the country are determined. In this regard 4 national TA models are allocated and described: German, Russian, American, Chinese. Research methods: comparative analysis, interdisciplinary and transdisciplinary strategy of a research, hermeneutics of technology.

Keywords: technology assessment (TA), responsible research and Innovation, national cases of TA, "partisan TA", "participatory turn", tripartite model of participation, stakeholder, transdisciplinary strategy of a research, transdisciplinary communicative space, social epistemology, sustainable participation, uncertainty principle, precautionary principle, disruptive innovation.

© Середкина Елена Владимировна - кандидат философских наук, доцент кафедры философии и права, ФГБОУ ВО «Пермский национальный исследовательский политехнический университет», e-mail: selena36@mail.ru.

1 Статья представляет собой расширенную версию доклада «Национальные модели социальной оценки техники», прочитанного в рамках Второй Международной научно-практической конференции «Образ инженера XXI века: социальная оценка техники и устойчивое развитие» (6-8 декабря 2017 года, Пермь).

Сценарии развития техногенной цивилизации и образы технологического будущего все чаще обсуждаются в науке, политике, обществе. На повестке дня не стоит вопрос о ресурсах развития техники и инженерно-научном потенциале. На первый план выдвигается вопрос: как контролировать бурно развивающуюся технику? Эти вопросы в Европе сегодня решаются в рамках социальной оценки техники (Technology Assessment, TA), новой научной дисциплины, которая представляет собой теорию оценки и прогнозирования развития конкретных технологических кейсов, а также практику политического консультирования. В связи с этим социальный аспект техники играет ключевую роль в современных философских и междисциплинарных исследованиях. На базе TA разрабатываются своего рода алгоритмы распознавания негативных последствий техники для принятия научно обоснованных решений в сфере научно-технической политики с точки зрения естественных, технических и гуманитарных наук.

В западноевропейской гуманитарной науке до сих пор не представлен полный анализ развития социальной оценки техники. В лучшем случае говорится либо о глобальной модели TA [1], либо конкретизируются ее различные формы и практики, например «participatory TA», «real-time of TA», «constructive TA», «parliamentary TA» [2]. Мы постараемся восполнить этот пробел в виде краткого наброска.

Междисциплинарный этап развития TA (с 60-х годов XX века). На первой стадии междисциплинарного этапа развития социальная оценка техники представляла собой практику политического консультирования при Конгрессе США. Среди ее сильных сторон можно выделить довольно эффективную организацию дисциплинарного диалога между экспертным сообществом и политиками высшего ранга (policy makers). Слабой стороной являлся чрезмерный технократизм. На второй стадии социальная оценка техники покидает американский континент и проникает в Европу. В итоге происходит трансформация первоначальных импульсов и установок. Отныне в междисциплинарном диалоге участвуют не только представители технической элиты, но и социально-гуманитарных наук. Таким образом, можно говорить о рождении подлинных экспертов в области социальной оценки техники. В связи с этим мы хотели бы подчеркнуть большой вклад немецких философов техники второй половины XX века в разработку эпистемологических и методологических оснований TA (Ф. Рапп, Г. Ленк, Г. Рополь, Г. Бехман и др.).

Трансдисциплинарный этап развития TA (с 2002—2003 годов). Речь идет о «партиси-пативном повороте» («participatory turn») [3, с. 235], который стал ответом на новые социальные вызовы и в конечном счете сформировал новые контуры архитектоники участия. Суть данного поворота выражена в западноевропейской программе «Ответственные исследования и инновации» (Responsible Research and Innovation, RRI). Концепт RRI в последние годы все чаще становится предметом серьезного обсуждения в западноевропейском академическом и социально-политическом пространстве в связи с разработкой дорожных карт отдельных инновационных кластеров. Сам концепт имплицитно содержит в себе указание на этическую рефлексию, а также непосредственную связь с социальной оценкой техники. Поэтому можно говорить об интегральном подходе, объединяющем социально-гуманитарную экспертизу инновационных проектов, технонаучную парадигму и прикладную этику в процессе разработки новых сценариев технологического будущего. Так же как и А. Грунвальд, мы рассматриваем RRI как расширенную версию социальной оценки техники [4, с.10],

На этом этапе TA делает акцент на развитии трансдисциплинарного диалогового пространства, в которое включены политики, эксперты и гражданское общество (трехчленная модель участия). С методологической точки зрения необходимо отделить междисциплинарные стратегии исследования от трансдисциплинарных. В первом случае речь идет о диалоге экспертов, руково-

дствующихся внутринаучными ценностями для решения конкретных инженерно-теоретических задач. Во втором - об осознанном выходе за рамки экспертного сообщества и включении в диалог всех социальных агентов с их целями, тревогами, мечтами, представлениями о будущем.

О преимуществе открытых дискуссий говорит А. Грунвальд в своей статье, посвященной наноэтике [5, с. 25-26]. По его мнению, широкое обсуждение этических вопросов в области нанотехнологий в середине 2000-х оказало положительное влияние на общественное мнение. (Он называет этот эффект «нормализацией» технологий, демифологизацией.) Благодаря такой работе общество не отвергло нанотехнологии, как это произошло ранее с ядерной энергетикой или генной инженерией. Экспертное сообщество не отмахивалось высокомерно от тревог общественности (порой даже иррациональных), а попыталось вступить с ними в диалог. Ученые открыто говорили о дефиците знания и возможных рисках в области нанотех-нологий, пытаясь создать атмосферу доверия между экспертами и общественностью2.

Анализ западноевропейских исследований последних лет показывает, что в центре внимания ученых находится гражданский аспект социальной оценки техники в контексте «социальной эпистемологии» (С. Джейсанофф, Л. Хеннен, Л. Нирлинг и др.). Основная задача социальной эпистемологии - разработка методов и подходов, на основе которых общество, используя научные знания, может делать коллективный выбор в пользу той или иной технологии [6, с. 255].

Миф о первоначальной «нейтральности» социальной оценки техники уходит в прошлое. В современном обществе инноваций нейтральный (аполитичный) подход опасен. Так, на европейской конференции по TA/RRI в Ирландии активно обсуждался новый концепт «пристрастной TA» ("Partisan TA") в качестве демократического антидота технократическому ви-

3 л "

дению . В связи с этим трансдисциплинарный этап социальной оценки техники с ее акцентом

на RRI-практике и гражданской инициативе превращается в эффективный инструмент демократизации общества [17, с. 751-756; 11, с. 12].

Дальнейшее развитие социальной оценки техники связано с решением двух основных вызовов - трансдисциплинарного (сфера эпистемологии и этики) и национального (социально-культурная сфера).

Эпистемологические и этические основания TA/RRI (вызов трансдисциплинарно-сти). В современной философии происходит смещение акцента с традиционных эпистемологических проблем к философии техники. Инженерный подход («взгляд проектировщика») все чаще оказывается в центре внимания философского разума. Процесс «инженеризации» современной науки ярче всего проявляется в новой биологии (Open Biology). Под влиянием генной инженерии, синтетической биологии, движения биомейкеров и биохакеров классическая биология с ее традиционной установкой на познание природных процессов трансформируется в технонауку о жизни [8, с. 267-268]. Так, А. Грунвальд и Х. де Вриенд объявляют новую биологию частью нанобиотехнологической парадигмы и рассматривают ее как продолжение молекулярной биологии нанотехнологическими средствами [9, с. 23; 10, с. 188]. «Инженеры верят в то, что могут создавать биологические компоненты и сложные биологические системы по такому же принципу, как и чипы, транзисторы, электрические схемы» [9, с. 18].

Таким образом, биология из науки о жизни превращается в техническую науку с акцентом на познании и конструировании. При этом нужно отличать генную инженерию от синтетической биологии. Последняя не просто пытается изменить (улучшить) свойства сущест-

2 По такому же сценарию разворачиваются сегодня в Европе и дискуссии вокруг инноваций в области синтетической биологии, искусственного интеллекта, концепции «Индустрии 4.0».

3 Обсуждение темы «пристрастной TA» ("Partisan TA") состоялось 18 мая 2017 года на секции «Политика ТА» в рамках Третьей Европейской конференции по социальной оценке техники в Корке (Ирландия).

вующих в природе организмов, но создает принципиально новые формы жизни, чьи ключевые характеристики изначально определяются видением ученого. В связи с этим европейские философы говорят о трансформации бэконовского умельца (homo faber) в постбэконовского творца (homo creator) [11, с. 387]. Этот парадигмальный сдвиг от манипуляции (manipulation) к творению (creation) заставляет пересмотреть не только онтологические/эпистемологические основания научно-технического творчества, но и саму концепцию жизни.

Необходима новая интерпретация знаменитого принципа Р. Фейнмана: «Чего я не могу создать, того я не понимаю». В этой формулировке отражена методологическая установка классической физики. Ее суть заключается в следующем: способность создавать является вершиной научной деятельности и главным критерием установления истинности/ложности теоретических моделей. Другими словами, процесс конструирования неразрывно связан с понятием «понимания». Понять - значит создать.

Но постбэконовский творец (homo creator) может создавать, не понимая. В этом заключена главная особенность научно-технической деятельности на современном этапе развития. Инженер-инноватор творит в условиях дефицита знания, в зоне бифуркации. Именно поэтому принцип неопределенности становится основополагающим для социальной оценки техники. Сама неопределенность неустранима, риска избежать невозможно, но можно свести его к минимуму, конструируя прогностические вероятностные модели. Так, А. Грунвальд не раз отмечал в своих работах, что «нормативная неопределенность является исходным пунктом для разработки технической этики» [12, с. 4]. Анализ сценариев возможных рисков в рамках вероятностной модели знания побуждает современного инженера выйти за рамки экспертного сообщества и погрузиться в сложный социальный контекст. Моральные апории эпохи «подрывных инноваций» (К. Кристенсен) не могут быть разрешены средствами экспертократии, что позволяет исследователям говорить о трансцендирующем сдвиге научного знания в жизненный мир. Поэтому принцип неопределенности всегда связан с принципом предосторожности. Это образует своего рода этико-эпистемологический каркас социальной оценки техники.

Научно-техническое знание все больше погружается в жизненный мир человека. Техно-наука как современная форма общественного производства становится гибридом фундаментального знания и прикладного исследования. В процесс производства знаний вовлечены многочисленные социальные агенты и стейкхолдеры, задающие цели, восприятие и практическое применение получаемой научной информации. Классическая форма науки размывается и предстает в виде проблемно ориентированного исследования, где процедуры прогнозирования, конструирования, проектирования играют ведущую роль. В таких видах исследований речь идет не о поиске истины, а о практическом решении конкретных научно-технических кейсов в сложном и постоянно меняющемся социальном контексте на стыке инженерных, естественных и гуманитарных наук. Философия (logos) уступает место риторике (doxa). Динамическое равновесие жизненного мира (совместное бытие, или Mit-dasein, в терминологии М. Хайдеггера) обеспечивается в пространстве доверия между всеми участниками трансдисциплинарного полилога. Так, Ю. Хабермас говорит об уверенности, как специфической форме знания, которое не различает истинное или ложное, а потому не претендует на статус достоверного. Его цель - порождение доверия, а не объективная связь с действительностью. Сконструированный по такому алгоритму жизненный мир скорее играет роль «фона или пространства наших действий, который обеспечивает коммуникацию» [13, с. 18]. Кстати, новое слово «пост-истина» (post-truth), официально включенное в Оксфордский словарь в 2016 году, как раз фиксирует этот процесс эпистемологической эрозии.

Социально-культурные основания ТЛ/ЯЯ1 (национальный вызов). Для российской стороны сейчас важно изучить мировой опыт в области ТА/ЯШ. Для этого мы выделяем четыре национальные модели ТА: американскую, немецкую, китайскую и российскую. Эта схема очень условна. Разумеется, на практике их гораздо больше. Например, европейский кластер распадается на множество национальных форм со своей спецификой (голландская, датская, французская, австрийская и др.) Кроме того, необходимо учитывать, что становление российской и китайской версий ТА происходит в контексте дефицита гражданской инициативы и практических знаний в области ТА/ЯШ.

Ниже представлена краткая характеристика национальных кейсов.

Американская модель ТА: децентрализация, многообразие и дефицит общественного участия. Социальная оценка техники как практика политического консультирования возникла в США. Инженеры и ученые помогали политикам высшего ранга принимать рациональные и компетентные решения в области научно-технической политики. Таким образом, в американском контексте изначально существовала тесная связь с государством. Впоследствии ТА теряет свои позиции в США. В настоящее время академический и политический ландшафт ТА характеризуется чрезмерным многообразием форм и децентрализацией. «Отсутствие централизации отбрасывает США назад, к тем временам, когда еще не существовало Офиса оценки технологий (ООТ), а функции ТА были настолько рассеянными и многообразными, что их с трудом можно было опознать в качестве таковых» [14, с. 54]. В США нет ни одной государственной или частной организации, которая бы могла принять на себя сегодня функции лидера - обновить методы, усовершенствовать практику и обеспечить стратегическое руководство. Вместо этого существует целый ряд разрозненных организаций со слабо выраженными связями.

В одной из своих статей Дж. Садовский тщательно анализирует историю становления, развития и упадка Офиса оценки технологий (ООТ) при Конгрессе США [15]. При этом он помещает факты в современный контекст с целью более глубокого познания механизмов ин-ституциализации социальной оценки техники в Америке. По Садовскому, главная причина падения ООТ - игнорирование общественного мнения. Общество было полностью исключено из обсуждения вопросов, связанных с научно-технической политикой [15, с. 17-19]. Б. Бозман и Д. Саревиц назовут этот дефицит гражданского участия во времена ООТ «публичным ценностным провалом» [16, с. 15]. Без широкой поддержки общества продвигать научно-технические проекты в условиях демократии невозможно. Пример Германии с ее отказом от ядерной энергетики - яркий тому пример.

Но американский опыт не пропал даром: аналоги ООТ появились во многих европейских странах, прежде всего в Германии, Австрии, Голландии.

Китайская модель ТА: баланс между вынужденным технократизмом и ответственными инновациями. Основная черта китайской модели социальной оценки техники - это ведущая роль государства при нехватке общественной инициативы. Тем не менее материалы последних конференций по ТА в КНР показывают одну важную тенденцию: китайское научное сообщество при поддержке правительства пытается найти срединный путь между «ответственными инновациями» и «вынужденным технократизмом» (Лю Юнмоу, Чжао Яньдун, Ван Сяовэй и др.)4.

Мы выделяем две особенности китайской технократической парадигмы - сциентизм и социализм. В первом случае речь идет о практике внедрения в правительство все большего числа инженеров и ученых. Профессор Лю Юнмоу подчеркивает, что уже сейчас можно

4 Дальнейший анализ китайской модели ТА основан на изучении материалов международного семинара «Ответственные инновации в глобальной перспективе», который состоялся 18 марта 2017 года в Пекине (Китай).

констатировать, что правительство КНР находится под большим влиянием науки. Китайские политики-технократы рассматривают современные высокие технологии, такие как Big Date, искусственный интеллект как некий механизм самоочищения и гарант защиты против политического произвола и чрезмерного бюрократизма. Сциентизм обеспечивает качество принятия политических решений.

Однако концепция технократизма играет вторичную роль и подчинена идее социализма. В связи с этим перед китайскими учеными стоит творческая задача адаптировать технократическую парадигму к китайскому социально-политическому контексту, прежде всего социалистической демократии. Власть эксперта-технократа в таком обществе ограничена и должна корректироваться гражданской инициативой снизу.

Российская модель TA как часть философии науки и техники. Интерес к социальной оценке техники в России возник в 90-е годы XX века благодаря работам немецких философов и социологов техники (Х. Ленк, Г. Бехман, Ф. Рапп, Г. Рополь и др.). Главная заслуга в перенесении немецких идей на российскую почву принадлежит В.Г. Горохову. Недаром в Институте оценки техники и системного анализа г. Карлсруэ (Германия) его называли «архитектором российско-немецкого сотрудничества».

До недавнего времени социальная оценка в России развивалась исключительно в академической среде, в пространстве гуманитарных и общественных наук [17, с. 109]. При этом отсутствовало плодотворное междисциплинарное взаимодействие с представителями технических наук. И только в последние годы наметилась положительная тенденция. Стал более тесным контакт между философами как проводниками идей TA в России и инженерами. Инициаторами перемен здесь выступают политехнические университеты Перми и Томска.

Однако на современном этапе в России не развит трансдисциплинарный коммуникативный диалог, в котором участвуют политики федерального уровня, эксперты из среды технических и гуманитарных наук, а также общество (рядовые граждане). В связи с этим нужно усилить «политическую» составляющую (TA как инструмент демократизации общества).

Немецкая модель TA: «партисипативный поворот» и новая архитектоника участия. На сегодняшний момент немецкая модель TA является в какой-то мере образцовой, воплощая в себе сильные стороны всех вышеперечисленных кейсов. Во-первых, немецкая модель TA (как и российская) тесно связана с академической средой. Так, немецкие философы техники внесли существенный вклад в разработку теоретических вопросов TA. Во-вторых, Бюро оценки техники в Германском Бундестаге было создано по образцу американского Офиса оценки технологий при Конгрессе США. В-третьих, с китайской моделью немецкую практику TA/RRI роднит плодотворное сотрудничество с государством.

Слабые стороны немецкой модели TA: чрезмерное давление со стороны некомпетентной, но активной общественности. Вызовы техногенной цивилизации требуют беспрецедентного уровня осведомленности не только политиков, но и простых граждан в вопросах, разработка которых ранее была исключительно делом узкого круга специалистов и экспертов (тех-ноэлиты). Так, анализируя немецкую программу отказа от ядерной энергетики (Atomausstieg), мы увидели неготовность немецкого обывателя участвовать в ответственном диалоге для решения сложных задач «социальной инженерии». В гражданском обществе возникает реальная угроза отторжения прорывных технологических проектов: эмоциональные лозунги, популистские политические заявления, фобии, беспочвенные ожидания некомпетентной общественности могут заглушить голоса инженеров и экспертов. Таким образом, возникла проблема не только «гуманитаризации» технического образования, но и «технизации» общественного

мнения. Ответственность не только сверху, но и снизу. Члены гражданского общества как потенциальные «агенты перемен» и «моральные редакторы» инновационных технологий должны быть также компетентными и ответственными. Сегодня необходимо говорить не только об устойчивом развитии, но и «устойчивом участии».

В свете предпринятого анализа национальных моделей TA можно сформулировать три основных способа разрешения проблем, которые стоят сегодня перед Россией.

1. Техногуманитарный синтез и преодоление узкого технократизма (развитие среды доверия между инженерами и представителями гуманитарных наук).

2. Развитие диалога между экспертным сообществом и политиками.

3. Развитие трансдисциплинарного коммуникативного полилога (реализация на практике трехчленной партисипативной модели TA: общество - политики - эксперты).

Список литературы

1. Hahn J., Ladikas M. Responsible research and innovation: a global perspective // Enterprise and Work Innovation Studies. - 2014. - No. 10. - P. 9-27.

2. Hahn J., Merz C., Scherz C. Identity shaping: challenges of advising parliaments and society -a brief history of parliamentary technology assessment // Philosophy of Science and Technology. -2015. - No. 2 (20). - P. 164-178.

3. Jasanoff S. Technologies of humility: citizen participation in governing science // Minerva. -2003. - Vol. 41. - P. 223-244.

4. Grunwald A. Responsible innovation: bringing together technology assessment, applied ethics, and STS research // Enterprise and Work Innovation Studies. - 2011. - No. 7. - P. 9-31.

5. Грунвальд А. 15 лет исследованиям по наноэтике: итоги и достижения // Вестник ПНИПУ. Культура. История. Философия. Право. - 2016. - № 2. - С. 17-31.

6. Jasanoff S. Designs on nature: science and democracy in Europe and the United States. -Princeton: Princeton University Press, 2005. - 374 p.

7. Owen R., Macnaghten P., Stilgoe J. Responsible research and innovation: from science in society to science for society, with society // Science and Public Policy. - 2012. - No. 39. -P.751-760.

8. Середкина Е.В. Синтетическая биология и биохакинг как новый вызов для технонауки и социальной оценки техники // Социально-гуманитарные знания. - 2015 - № 10. - C. 264-281.

9. Vriend H. de. Constructing Life. Early social reflections on the emerging field of synthetic biology. - Hague: Rathenau Institute, 2006. - 88 p.

10. Grunwald A. Technikzukünfte als Medium von Zukunftsdebatten und Technikgestaltung. -Karlsruhe: KIT Scientific Publishing, 2012. - 188 s.

11. Boldt J., Müller O. Newtons of the leaves of grass // Nature Biotechnology. - 2008. -No. 26. - S. 387-389.

12. Handbuch Technikethik / Grunwald, Armin (Hrsg.). - Stuttgart, Weimar: Verlag J.B. Metzler, 2013. - 435 s.

13. Хабермас Ю. От картин мира к жизненному миру. - 2-е изд. - М.: Идея-Прогресс, 2015. - 127 c.

14. Sadowski J., Guston D. Technology assessment in the USA: distributed institutional governance // TATuP. - 2015. - No. 1 (24). - P. 3-9.

15. Sadowski J. Office of technology assessment: history, implementation, and participatory critique // Technology in Society. - 2015. - No. 42. - P. 9-20.

16. Bozeman B, Sarewitz D. Public value mapping and science policy evaluation // Minerva. -

2011. - No. 49. - P. 1-23.

17. Grunwald A., Chernikova I., Seredkina E. New impulses for the TA-networking in Russia // TATuP. - 2015. - No. 3 (24). - P. 109-114.

References

1. Hahn J., Ladikas M. Responsible research and innovation: a global perspective. Enterprise and Work Innovation Studies, 2014, no. 10, pp. 9-27.

2. Hahn J., Merz C., Scherz C. Identity shaping: challenges of advising parliaments and society - a brief history of parliamentary technology assessment. Philosophy of Science and Technology, 2015, no. 2 (20), pp. 164-178.

3. Jasanoff, S. Technologies of humility: citizen participation in governing science. Minerva, 2003, vol. 41, pp. 223 - 244.

4. Grunwald A. Responsible innovation: bringing together technology assessment, applied ethics, and STS research. Enterprise and Work Innovation Studies, 2011, no. 7, pp. 9-31.

5. Grunwald A. 15 let issledovaniiam po nanoetike: itogi i dostizheniia [15 years of research on nanoethics: outcomes and achievements]. Bulletin of PNRPU. Culture. History. Philosophy. Law, 2016, no. 2, pp. 17-31.

6. Jasanoff S. Designs on nature: science and democracy in Europe and the United States. Princeton, Princeton University Press,

2005, 374 p.

7. Owen R., Macnaghten P., Stilgoe J. Responsible research and innovation: from science in society to science for society, with society. Science and Public Policy, 2012, no. 39, pp. 751-760.

8. Seredkina E.V. Sinteticheskaia biologiia i biokhaking kak novyi vyzov dlia tekhnonauki i sotsial'noi otsenki tekhniki [Synthetic biology and biohacking as a new challenge for technoscience and technology assessment]. Sotsial'no-gumanitarnye znaniia, 2015, no. 10, pp. 264-281.

9. de Vriend H. Constructing Life. Early social reflections on the emerging field of synthetic biology. Hague, Rathenau Institute,

2006, 88 p.

10. Grunwald A. Technikzukünfte als Medium von Zukunftsdebatten und Technikgestaltung. Karlsruhe, KIT Scientific Publishing,

2012, 188 s.

11. Boldt J., Müller O. Newtons of the leaves of grass. Nature Biotechnology, 2008, no. 26, pp. 387-389.

12. Handbuch Technikethik. Ed. A. Grunwald. Stuttgart, Weimar, Verlag J.B. Metzler, 2013, 435 s.

13. Habermas J. Ot kartin mira k zhiznennomu miru [Von den Weltbildern zur Lebenswelt]. Moscow, Ideia-Progress, 2015, 127 p.

14. Sadowski J., Guston D. Technology assessment in the USA: distributed institutional governance. TATuP, 2015, no. 1 (24), pp. 3-9.

15. Sadowski J. Office of technology assessment: history, implementation, and participatory critique. Technology in Society, 2015, no. 42, pp. 9-20.

16. Bozeman B, Sarewitz D. Public value mapping and science policy evaluation. Minerva, 2011, no. 49, pp. 1-23.

17. Grunwald A., Chernikova I., Seredkina E. New impulses for the TA-networking in Russia. TATuP, 2015, no. 3 (24), pp. 109-114.

Получено 12.05.2017