Инженерная этика в техническом вузе: трудности и надежды

Железняк В.Н., Середкина Е.В. Инженерная этика в техническом вузе: трудности и надежды // Вестник ПНИПУ. Культура. История. Философия. Право. - 2017. - № 2. - С. 33-40. РО!: 10.15593/регт.к1р1/2017.2.04

Zhelezniak V.N., Seredkina E.V. Engineering ethics in a technical university: challenges and expectations. Bulletin of PNRPU. Culture. History. Philosophy. Law, 2017, no. 2, pp. 33-40. DOI: 10.15593/perm.kipf/2017.2.04

DOI 10.15593^1^^/2017.2.04 УДК 17:62

В.Н. Железняк, Е.В. Середкина

ИНЖЕНЕРНАЯ ЭТИКА В ТЕХНИЧЕСКОМ ВУЗЕ: ТРУДНОСТИ И НАДЕЖДЫ1

В современном мире инноваций и техносоциальных гибридов фигура инженера объективно становится центральной в структуре современного общества. Однако существует противоречие между технической цивилизацией и гуманитарной культурой. В сфере образования это противоречие имеет вид фундаментального отчуждения между инженерно-техническим и гуманитарным знанием. Представленная статья посвящена проблеме техногуманитарного синтеза и социальной ответственности на основе внедрения в учебные программы технических вузов инженерной этики и социальной оценки техники. Для этого подробно анализируется опыт коллег из Калифорнийского университета в Беркли и Делфтского технического университета, разработавших курс инженерной этики для аспирантов и столкнувшихся с проблемами на академическом и институциональном уровнях. В статье американских авторов можно выделить пять важных блоков: социальная ответственность, техногуманитарный синтез, этика техники, этика как ядро инженерного образования, философия эмоций. Предпринимается попытка рассмотреть инженерную этику в контексте социальной оценки техники и ответственных инноваций. Этика будущего, разворачивающаяся в пространственно-временном континууме, делает ставку не на прогноз негативных последствий и ограничение некоторых наиболее опасных технологий, а на практику управления инновациями и разработку проектов технологического будущего (феноменология техники по А. Грунвальду). Практический аспект данного исследования связан с анализом двух основных проблем (вызовов), существующих в том числе и в Пермском национальном исследовательском политехническом университете. Междисциплинарный вызов связан с анализом барьеров и драйверов на пути техногуманитарного синтеза и выработкой рекомендаций по налаживанию эффективного сотрудничества между инженерными и гуманитарными кафедрами в процессе обучения студентов. Трансдисциплинарный вызов предполагает развитие архитектоники гражданского участия для управления научно-техническим прогрессом, поэтому задача формирования у молодого инженера профессиональных компетенций, связанных с умением работать в сложном изменяющемся социальном контексте, становится приоритетной.

Ключевые слова: инженерное образование, инженерная этика, техногуманитарный синтез, социальная оценка техники, ответственные исследования и инновации, междисциплинарный вызов, трандисциплинарный вызов.

V.N. Zhelezniak, E.V. Seredkina

ENGINEERING ETHICS IN A TECHNICAL UNIVERSITY: CHALLENGES AND EXPECTATIONS

In the modern world of innovation and socio-technical hybrids the engineer is becoming a central figure in the structure of contemporary society. However, there is a contradiction between technical civilization and the culture of humanities. In the field of education, this contradiction has the form of fundamental gap between technical and humanitarian knowledge. This article covers the problem of techno-humanitarian synthesis, based on the bringing of engineering ethics and technology assessment to the core of engineering curricula. In order to achieve this, the experience of western colleagues from the University of California at Berkeley and the Delft University of Technology is being analyzed, who have developed a graduate engineering ethics course for PhD students and encountered problems at the academic and institutional level. In accordance with the existing situation and the needs of engineering education in Russia, five significant blocks can be highlighted in the works of American authors: social responsibility, techno-humanitarian synthesis, engineering ethics, ethics as the core of engineer education, emotion philosophy. An attempt is undertaken to review engineering ethics in the context of technology assessment and responsible innovation. The problem of ethics, able to cooperate with rationality of technology, is being solved on the basis of the updated concept of the Heuristics of Fear by Hans Jonas. Ethics of the future, which takes place in the spacetime continuum, relies not on the forecasting of negative consequences and rejecting certain especially dangerous technologies, but on

© Железняк Владимир Николаевич - доктор философских наук, профессор, заведующий кафедрой философии и права, ФГБОУ ВО «Пермский национальный исследовательский политехнический университет», e-mail: shlezo2@gmail.com.

Середкина Елена Владимировна - кандидат философских наук, доцент кафедры философии и права, ФГБОУ ВО «Пермский национальный исследовательский политехнический университет», e-mail: selena36@mail.ru.

1 В настоящей работе предпринимается попытка анализа западноевропейского опыта в области гуманитаризации инженерного образования на основе статьи Б. Таеби, У. Кастенберга «Инженерная этика в учебной программе аспирантов: инициатива Беркли - Делфт», опубликованной в данном номере журнала.

the development of technological future's projects (heuristics of technology by Armin Grunwald). The practical aspect of this research is associated with the analysis of two main challenges within the Perm National Research Polytechnic University. Interdisciplinary type of challenges are related to the barriers and drivers on the way of techno-humanitarian synthesis, and the development of recommendations for establishing effective cooperation between engineering and humanities departments within the process of education of students. Transdisciplinary type of challenges means the development of civil architecture of participation during shape technology, and the formation of professional competences, related to the ability to work in a complex, variable social context, in a young engineer.

Keywords: engineering education, engineer ethics, technical and humanities synthesis, technology assessment, responsible research and innovation, interdisciplinary challenge, transdisciplinary challenge.

Инженерная этика остается экзотической областью для технических вузов России. Препятствия для исследовательской и преподавательской деятельности в этой области те же самые, что и в США (и в других странах, где ведется аналогичная работа [1, с. 213-214]). Разница в том, что в ряде американских и западноевропейских технических университетов предпринимаются постоянные и упорные попытки преодолеть инертность инженерных факультетов в организации комплексной научно-преподавательской работы в области этики и социальной ответственности. Но прежде чем продолжить обсуждение этой темы, проведем краткую «инвентаризацию» основного содержания статьи Б. Таеби и У. Кастенберга (статья опубликована в данном номере журнала).

Руководствуясь состоянием дел и потребностями инженерного образования в России, рассмотрим некоторые моменты, раскрывающие существо проблемы.

1. Социальная ответственность. В современных западных технических вузах гуманитарные дисциплины (вряд ли в традиционном европейском смысле) могут преподаваться под общим наименованием «социальная ответственность» (этика, инженерная этика, иные виды прикладных этик входят в этот общий гуманитарный фронт). Надо полагать, что социальная ответственность - это ключ, благодаря которому возможно выявление собственно этических компонентов инженерной деятельности [2, с. 31-39]. Например, легко увидеть место социальной ответственности и ее роль в проектировании замковых конструкций шахтных забоев или в разработке биотехнологий. Это очевидно: шахтный штрек может обвалиться, а биотехнологии напрямую связаны с человеческим здоровьем. Основной императив инженерной этики, возможность и необходимость которого становятся очевидными в контексте социальной ответственности, может выглядеть так: деятельность, ее результаты и последовательность, технические устройства и сооружения, их свойства и функции не должны угрожать или вредить людям, объединенным в целостный взаимосвязанный социум. Интересно отметить, что выведенная из аргумента социальной ответственности формула вполне коррелируется с классическими определениями категорического императива. В этом смысле «этика» и «социальная ответственность» могут совпадать.

2. Инженерные и гуманитарные науки. Американские авторы упорно рекомендуют налаживать совместную работу между кафедрами философии и специалистами высшего и среднего звена (профессорами и аспирантами) инженерных факультетов. Складывается впечатление, что Б. Таеби и У. Кастенберг видят в этом взаимодействии половину успеха. И это логично. Логика заключается в промежуточных связях, складывающихся между чистой философской этикой (в предельном случае - в ее европейской ипостаси) - через выявление конкретных точек ответственности в инженерной деятельности, инженерных проектах и технологиях - и всей техносферой как частью социума. В любом случае посыл идет от гуманитария-философа, предписывающего инженеру некий ценностный императив. Поскольку реальное взаимодействие инженеров и философов затруднено ввиду присутствия в нем парадигмальной несовместимости, есть смысл привести аргументы, проясняющие задачу. Во-первых, научно-педагогическое взаимодействие между такими подразделениями плохо представимо без вненаучных институций: спе-

циализированных советов по инженерной этике при межвузовских объединениях, централизованных программ, условий карьерного роста и т.п. Во-вторых, нельзя недооценивать эпистемологическое различие самих видов инженерного и философско-этического знания (оно - более чем существенно); вполне мыслима и нефилософская этика (вплоть до своеобразного исчисления нормативных высказываний) или «этика», представленная «антропным принципом», включенным в логику инженерного конструирования. Впрочем, весьма актуальным является практическое выяснение возможности свести философов и инженеров-специалистов в одном проекте. Внятных данных у Б. Таеби и У. Кастенберга на этот счет нет.

Дело, видимо, в том, что философия должна пониматься нетрадиционно (не по-европейски в классическом смысле). Философия - социально-адаптивный, антропогенный, рефлективный компонент любой деятельности. Она немедленно превращается в этику, если делает возможным ответственное поведение (не столько по отношению к какой-либо «идеологии», сколько по отношению к инфантильному поведению молодых людей, еще не усвоивших значение сферы долженствования).

3. Этические аспекты технологий и техники. Технологии (и связанная с ними, но не тождественная им техника) представляют собой овеществленную, материализованную логику. Ж. Симондон был прав, когда объяснял, что материя и форма (принцип гилеморфизма) -вполне могут быть инженерными понятиями [3, с. 242-243]2. Дело не в общих рассуждениях об ответственности врача, инженера или рабочего «перед людьми». Важно знать и видеть, в каком пункте алгоритмизированного технологического процесса возникает совершенно объективный разброс возможностей, чреватых различными антропогенными последствиями. Если мы спокойно сидим на стуле, то проблем нет. Но если мы начинаем раскачиваться на нем, то рискуем опрокинуться и получить травму головы. В этом случае лучше приобрести кресло с функцией раскачивания. Любая технология (в сфере техники) в каждом пункте заключает «антропогенный» элемент - вплоть до асоциального применения (грузовик как орудие террора). В этом случае этика не «подшивается» к инженерному проекту в качестве внешнего идеально-метафизического «ценностного» условия, но заключена в нем самом, ибо все, что делает инженер, делается для человека и отягощено социальными значениями.

4. Перемещение этики в ядро инженерного образования. Тоеби и Кастенберг говорят об «экспликации этических идей» (making ethics explicit), т.е. об этической ясности. Это красивое выражение проливает свет на педагогическую и научно-практическую сущность стоящей задачи. Техника - сложный социальный феномен. Технологии вплетены в сеть бесконечно разнообразных социальных связей. Социальная динамика определяется и стимулируется непрерывно набегающими технологическими сдвигами и революционными поворотами. В классические времена этику именовали «практической философией». Возможно, современная этика из сферы спекулятивных императивов переселяется в универсальный технологический праксис. Однако это царство гибридных конгломератов, алгоритмов, функциональных зависимостей и расчетов должно быть пронизано этической ясностью, в противном случае рациональность технологий не помешает общественному интеллекту впасть в новую мифологию и утратить контроль над будущим.

2 «Для человека, управляющего процессом труда, его содержанием являются уже данный в нем порядок, а также первичный материал, являющийся условием выполнения операции, но не сама операция, благодаря которой и осуществляется принятие формы: его внимание направлено на форму и материю, а не на принятие формы как операции. Гилеморфическая схема, следовательно, представляет собой пару, термины которой отчётливы, но отношение между которыми затемнено. В этом смысле гилеморфическая схема представляет собой перенос в философскую мысль технической операции, сведённой к труду, и берётся как универсальная парадигма генезиса сущего. В основе этой парадигмы лежит именно технический опыт, но опыт далеко не полный. Обобщающее использование гилеморфической схемы в философии и наводит эту темноту, которая происходит из недостаточной технической основы этой схемы» (пер. М. Крутова).

Алгоритмическая рациональность современных технологий может служить источником и своеобразного катарсиса (благодаря ее бесстрастной отстраненности). Но для этого инженерная деятельность должна быть этически прозрачной. Под этим, конечно, понимается не классификация добродетелей по Аристотелю. Каждый акт технологически выверенной деятельности должен быть внятен со стороны его антропогенных функций, социальных и циви-лизационных целей. Перенесение этики в основное ядро инженерного образования означает -ни больше ни меньше - завершение слияния технологий и социума в единое целое новой «гибридной» цивилизации. Из сказанного не вытекает, что процесс такого перемещения может протекать гладко. Как свидетельствует опыт американских исследователей, чтобы прояснить технологии, этика сама должна стать технологией.

5. Убеждения и философия эмоций. По традиции американцы уделяют внимание психологическому сопровождению сложной и ответственной деятельности. В этом смысле этика представляет собой практику контроля над эмоциями, которая делает возможными нейтральные по отношению к естественному эгоизму молодых людей убеждения. За этим стоит вполне практическая задача: свести «психологию» к технологии (психика со всеми ее переживаниями и реакциями сама должна стать технологией).

Однако вернемся к проблеме инженерной этики. Для этого выделим основной акцент в системе современного инженерного образования: в ней технократический рационализм на базе STEM-парадигмы3 соединяется с идеями социальной ответственности4. Яркий тому пример - европейская программа 2005-2014 годов по продвижению идей устойчивого развития и социальной оценки техники в технических вузах [4].

В последние годы в Европе набирает популярность новый междисциплинарный подход «Ответственные исследования и инновации» (Responsible Research and Innovation, RRI), который в значительной степени конституирует облик инженера XXI века и определяет новые образовательные стратегии. Ответственность - вот ключевое слово в обучении студентов технических специальностей. Сам концепт RRI, так или иначе, уже содержит в себе указание на этическую рефлексию и тесную связь с социальной оценкой техники (Technology Assessment, TA). «В этом смысле можно говорить об интегральном подходе, объединяющем социально-гуманитарную экспертизу инновационных проектов, технонаучную парадигму и прикладную этику в процессе формирования нового социального бытия в эпоху инноваций» [5, с. 122].

Итак, наша задача увязать инженерную этику с программой «Ответственных исследований и инноваций», которую мы понимаем как расширенную версию социальной оценки техники. Для этого необходимо найти новые основания для взаимодействия этики с технологической рациональностью. На этом пути мы предлагаем обратиться к наследию Ганса Йонаса, в частности, к его этике для технологической цивилизации, в основе которой лежит принцип ответственности [6]. Возросшая технологическая мощь человечества, по Йонасу, вводит новые переменные в «моральное уравнение», прежде всего коллективную ответственность. Именно эта категория в современном философском дискурсе выходит на авансцену этической

3 STEM-образование становится сегодня приоритетным трендом в странах, делающих ставку на высокотехнологичное производство. Аббревиатура STEM включает в себя: S - science (естественные науки), T - technology (технологии), E - engineering (инженерное проектирование), M - mathematics (математика). По большому счету речь идет о подготовке массового технологического «спецназа» для решения сложных социально-технических задач в эпоху инноваций.

Впервые эта тенденция четко обозначилась с середины 2000-х годов в области нанотехнологий. Так, в Евросоюзе в 2008 году был принят «Кодекс поведения для ответственных нанотехнологий». Научно-исследовательский совет технических наук и физики Великобритании в 2009 году также внес новое требование для подачи заявок на финансирование нанотехнологи-ческих проектов. Согласно новому требованию молодые инженеры дополнительно должны были представить так называемый «реестр рисков», т.е. проанализировать все возможные негативные влияния новых технологий, представленных в проекте, на общество, природу, человека.

мысли [7, с. 161-162]. Знание о последствиях развития техники приобретает нравственный смысл и становится категорическим императивом человечества. По сравнению с традиционной этикой подобная нравственная практика должна быть вписана в более широкий временной и пространственный контекст, поскольку негативные последствия научно-технического развития жизненно касаются не только всех людей на планете, но и последующих поколений. В этом смысле этика ответственности является этикой будущего.

В ее основе, по Г. Йонасу, лежит «эвристика страха», своего рода процедура для принятия решений по спорным вопросам научно-технического прогресса [8, с. 247-248]. В какой-то мере она является аналогом категорического императива Канта. Согласно этой процедуре, даже если есть малая вероятность неблагоприятных последствий развития той или иной технологии, такая технология должна быть запрещена. Другими словами, ориентиром для действия служит наихудший сценарий среди целого «веера возможностей». Именно страх становится конституирующим элементом ответственности, источником долженствования.

Однако на Западе этика Г. Йонаса подвергается резкой критике. Тому есть объективные причины. Дело в том, что эвристика страха не отвечает сложным интеллектуальным и экзистенциальным вызовам современной эпохи. Во-первых, Г. Йонас до конца не осознал потенциал индивидуальной ответственности. Во-вторых, подход Йонаса целесообразно использовать для повышения уровня осведомленности в отношении опасных ситуаций, но он абсолютно неэффективен для адекватной оценки риска [9, с. 60-64]. В-третьих, эвристика страха, как методология запрещения и ограничения инновационной деятельности, не работает в условиях «неопределенности знания» и вынужденного технократизма. Речь идет о том, что в современном мире нет альтернативы инновационному развитию, а инновации, в свою очередь, создаются в зоне «когнитивной турбулентности», дефицита знания. Из перспективы «сегодня» им не на что опереться: еще нет конституирующих образцов и отработанных сценариев будущих состояний. Это своего рода метафизический форсайт, онтология немыслимого.

Кроме того, концептуально «эвристика страха» Г. Йонаса связана с первоначальной версией социальной оценки техники, которая уже не отвечает современным вызовам времени. «ТА порождает знание, которое помогает нам распознать некоторые проблемы, возникающие в результате взаимодействия техники и общества, но оно не способно их решить» [10, с. 1113]. Сегодня в западной науке концепция управления техникой понимается не как прогноз и корректирование нежелательных последствий, а как изначальное конструирование моделей технологического будущего (Technikzukunfte). Профессор А. Грунвальд описывает этот процесс как рациональное общественное формирование техники в ходе совместного обучения и быстрого реагирования на изменяющийся социальный и интеллектуальный контекст [1, с. 44-49].

И все же «эвристика страха» Г. Йонаса переживает свое второе рождение и становится особенно актуальной в эпоху «подрывных инноваций» (disruptive innovation)5. Наша долгая практика общения с профессорско-преподавательским составом технических и естественнонаучных факультетов показывает, что идеи социальной ответственности и морального ограничения не играют существенной роли в среде российских инженеров, технократов по своей сути. Их аргументация следующая: наше творчество ничем не может быть ограничено, поиск

5 «Подрывные инновации» олицетворяют собой идею радикального технологического изменения. Впервые это понятие использовал в своих работах американский экономист Клейтон Кристенсен (Clayton Christensen). В частности, он утверждает, что подрывные инновации, связанные с новой технологией или сервисом, должны разрушать основы существующей индустрии, тем самым обеспечивая инновационный рост экономики. Разрушение в таком контексте становится творческой задачей без оглядки на возможные катастрофические социально-гуманитарные последствия.

истины и любознательность вдохновляют нас на наши исследования. Безусловно, свобода творческого интеллекта - главное условие технического прогресса. И все же демиургическая деятельность инженера на основе чистого любопытства («удивления» в аристотелевском смысле) в эпоху агрессивных инноваций должно быть хотя бы частично ограничено «разумной обеспокоенностью» (А. Грунвальд) по поводу возможных негативных последствий в ходе реализации научно-технических проектов. Истоки такого морального «само-редактирования» мы находим в «Очерках философии» М. Хайдеггера (в интерпретации Ф.В. фон Херманна): аристотелевское удивление (любознательность), с которого, как известно, и начинается древнегреческая философия, должно уступить место страху, который конституирует принципиально иной, более ответственный способ миропонимания и мироощущения [11; 12, с. 73-76].

С практической точки зрения мы хотели бы рассмотреть два основных вызова для Пермского национального исследовательского политехнического университета в ходе обучения и воспитания будущих инженеров. Междисциплинарный вызов предполагает разработку эпистемологических и методологических оснований техногуманитарного синтеза для налаживания более эффективного сотрудничества между инженерными и гуманитарными кафедрами. В узком смысле идея техногуманитарного синтеза лежит в основе реформы инженерного образования с целью преодоления его технократической узости. Но подлинно философское значение этот принцип приобретает в глобальном культурологическом контексте. Речь идет о том, чтобы попытаться выправить фундаментальные диспропорции в основании современной культурной формации. По нашему глубокому убеждению, перспективы более стабильного и управляемого научно-технологического прогресса связаны с предотвращением деградации гуманитарной составляющей технического образования.

Конечно, можно и нужно говорить о разработке технологий рационального контроля над технологиями. Но чтобы избежать опасности дурной методологической редукции, нужно вовремя вспомнить о ценностях. Речь, собственно, идет о ценностной ориентации естественно-научного и инженерно-технического образования. Идея гуманитарно-технического синтеза, которую мы выдвигаем, может служить теоретическим и практическим инструментом для решения как образовательных задач, так и проблем социальной оптимизации техники и технологий.

Разумеется, на этом пути существует много трудностей. Так, А. Грунвальд в одной из своих статей задает вопрос: должны ли философы (специалисты по этике) идти в лаборатории? Другими словами, имеют ли право философы диктовать инженерам правила «морального» поведения (исследования), например, в области нанотехнологий? Европейские эксперты в области социальной оценки техники убедительно показали, что подобные притязания философов, пытающихся контролировать, например, развитие нанотехнологий в Европе посредством нано-этики, не увенчались успехом [13, с. 22, 27]. В техногуманитарной парадигме философу отведена роль не столько высшей моральной инстанции, сколько посредника между инженерами и обществом. И здесь мы подходим к следующему вызову - трансдисциплинарному.

Трансдисциплинарный вызов связан с задачей формирования коммуникационных компетенций в процессе обучения. Будущие инженеры должны уметь работать в сложном изменчивом социальном контексте, т. е. за пределами экспертного сообщества. В демократическом обществе эта компетенция становится особенно важной, так как активная общественность теоретически может «наложить вето» на любую технологию.

К сожалению, аспиранты Пермского национального исследовательского политехнического университета пока не прониклись этими идеями. Об этом свидетельствуют результаты анкетирования 2015/2016 годов. В частности, был задан вопрос: «Согласны ли вы с тем, что к обсуждению вопросов научно-технической политики страны/региона/города необходимо привлекать граждан?» Большинство студентов отрицательно ответили на этот вопрос. Их главный аргумент был следующим: дилетанты не могут судить о том, чего не понимают. Подобная «экспертократия» должна быть преодолена. Необходимо показать преимущества открытых дискуссий по инновационным проектам. Изучение западноевропейского опыта может сыграть в этом важную роль.

С учетом описанных вызовов в стенах Пермского национального исследовательского политехнического университета на первом этапе планируется сформировать междисциплинарную команду ученых в области социальной оценки техники, экологии и биомеханики под крышей RRI в рамках национальной программы развития университетов как центров инноваций с целью создания в будущем международных исследовательских консорциумов.

Список литературы

1. Grunwald A. Technikzukünfte als Medium von Zukunftsdebatten und Technikgestaltung. -Karlsruhe: KIT Scientific Publishing, 2012 - 289 s.

2. Grunwald A. Technikfolgenabschätzung - eine Einführung. - Berlin: Sigma, 2010. - 346 s.

3. Simodon G. Du mode d'existence des objets techniques. - Paris: Aubier, 1958. - 336 p.

4. Sotoudeh M. Technical Education for Sustainability. An Analysis of Needs in the 21st Century. - Frankfurt a. M.: Peter Lang GmbH, 2009. - 244 p.

5. Середкина Е.В. Ответственные исследования и инновации, социальная оценка техники и устойчивое развитие // Вестник ПНИПУ. Социально-экономические науки. - 2016. -№ 2. - C. 122-131.

6. Jonas H. Das Prinzip Verantwortung. Versuch einer Ethik für die technologische Zivilisation. - Zürich: Insel Verlag, 1987. - 432 s.

7. Гаджикурбанова П. А. Страх и ответственность: этика технологической цивилизации Ганса Йонаса // Этическая мысль. - 2003. - № 4. - C. 161-178.

8. Черникова И.В., Черникова Д.В. О тенденциях развития научной рациональности в свете проблемы общественной безопасности // Изв. Том. политехн. ун-та. Инжиниринг георесурсов. -2013. - Т. 323, № 6. - С. 244-249.

9. Грунвальд А. Техника и общество: западноевропейский опыт исследования социальных последствий научно-технического развития: пер. с нем. - М.: Логос, 2011. - 160 с.

10. Grunwald A. Technology assessment: concepts and methods // Philosophy of Technology and Engineering Sciences / A. Meijers (ed.). - Amsterdam: Elsevier, 2009. - P. 1103-1146.

11. Бросова Н.З. «Вопрос о Боге» в хайдеггеровской философии 30-х гг. [Электронный ресурс] // Credo New. - 2009. - № 4. - URL: http://credonew.ru/content/view/853/61/ (дата обращения: 10.10.2010).

12. Heidegger M. Beitraege zur Philosophie (Vom Ereignis) // Gesamtausgabe. - Bd. 65. -Frankfurt am Main: Vittorio Klostermann, 1994. - 522 s.

13. Грунвальд А. 15 лет исследованиям по наноэтике: итоги и достижения // Вестник Пермского национального исследовательского политехнического университета. Культура. История. Философия. Право. - 2016. - № 2. - С. 17-31.

References

1. Grunwald A. Technikzukünfte als Medium von Zukunftsdebatten und Technikgestaltung. Karlsruhe, KIT Scientific Publishing, 2012, 289 s.

2. Grunwald A. Technikfolgenabschätzung - eine Einführung. Berlin, Sigma, 2010, 346 s.

3. Simodon G. Du mode d'existence des objets techniques. Paris, Aubier, 1958, 336 p.

4. Sotoudeh M. Technical Education for Sustainability. An Analysis of Needs in the 21st Century. Frankfurt a. M., Peter Lang GmbH, 2009, 244 p.

5. Seredkina E.V. Otvetstvennye issledovaniia i innovatsii, sotsial'naia otsenka tekhniki i ustoichivoe razvitie [Responsible research and innovation, social assessment of technology and sustainable development]. Bulletin of Perm National Research Polytechnic University. Social and economic sciences, 2016, no. 2, pp. 122-131.

6. Jonas H. Das Prinzip Verantwortung. Versuch einer Ethik für die technologische Zivilisation. Zürich, Insel Verlag, 1987, 432 s.

7. Gadzhikurbanova P.A. Strakh i otvetstvennost': etika tekhnologicheskoi tsivilizatsii Gansa lonasa [Fear and responsibility: the ethics of the technological civilization of Hans Jonas]. Ethical Thought, 2003, no. 4, pp. 161-178.

8. Chernikova I.V., Chernikova D.V. O tendentsiiakh razvitiia nauchnoi ratsional'nosti v svete problemy obshchestvennoi bezopasnosti [On the trends in the development of scientific rationality in the light of the problem of public security]. Izvestiia Tomskogo politekhnicheskogo universiteta. Inzhiniring georesursov, 2013, vol. 323, no. 6, pp. 244-249.

9. Grunwald A. Tekhnika i obshchestvo: zapadnoevropeiskii opyt issledovaniia sotsial'nykh posledstvii nauchno-tekhnicheskogo razvitiia [Technology and Society. West-European experience of the technology assessment]. Мoscow, Logos, 2011, 160 p.

10. Grunwald A. Technology assessment: concepts and methods. Philosophy of Technology and Engineering Sciences. Ed. A. Meijers. Amsterdam, Elsevier, 2009, pp. 1103-1146.

11. Brosova N.Z. «Vopros o Boge» v khaideggerovskoi filosofii 30-kh gg. [«The Question of God» in Martin Heidegger's philosophy in the thirties]. Credo New, 2009, no. 4, available at: http://credonew.ru/content/view/853/61/ (accessed 10 October 2010).

12. Heidegger M. Beitraege zur Philosophie (Vom Ereignis). Gesamtausgabe. Bd. 65. Frankfurt am Main, Vittorio Klostermann, 1994, 522 s.

13. Grunwald A. 15 let issledovaniiam po nanoetike: itogi i dostizheniia [15 years of research on nanoethics: outcomes and achievements]. Bulletin of PNRPU. Culture. History. Philosophy. Law, 2016, no. 2, pp. 17-31.

Получено 04.05.2017