Нейроэтика: вызовы и недосмотры

Апресян Р. Г. Нейроэтика: вызовы и недосмотры // Философия. Журнал Высшей школы экономики. — 2020. — Т. IV, № 1. — С. 13-23.

Рубен Апресян*

Нейроэтика: вызовы и недосмотры**

Аннотация: Нейроэтика рассматривается в данной статье как область нейробиологиче-ских исследований когнитивных процессов, обеспечивающих моральные реакции и решения (этико-прикладная трактовка нейроэтики, согласно которой в ней анализируются условия проведения нейронаучных исследований и разрабатываются при необходимости соответствующие этические ограничения, во внимание не принимается). Результаты нейронаучных исследований когнитивных процессов могут многое дать философии для развития ее понимания характера моральных суждений, роли эмоционального и интеллектуального, интуитивного и дискурсивного в моральном мышлении, освоения индивидом морального опыта. Однако необходимы выверенные точки соприкосновения между наукой и философией в понимании морали, природы морали, ее функционального и нормативного своеобразия. В этом контексте в статье ставится вопрос о вызовах со стороны нейронауки в адрес философии морали и об упущениях, допускаемых нейроучеными, пишущими на нейроэтические темы. Нейроученые, как и исследующие мораль представители других областей науки, нередко спонтанно используют обыденные представления о «морали», не чувствуют разницы между антропологическим и этическим характером получаемых ими результатов, не учитывают внутреннюю разнородность морали, ее функциональную специфику, а также то, что на уровне поведения она проявляется главным образом в характере целеполагания и ценностного обоснования решений, действий и суждений и т. д. Разработанные в моральной философии представления содержательно сложнее, чем те «интуиции», которыми порой пользуются ученые, обсуждая мораль. Необходима морально-философская критика нейроэтики, но ее плодотворность во многом зависит от того, насколько конструктивно сами философы относятся к результатам нейробиологических исследований, насколько готовы видеть в этих результатах повод для переосмысления и продвижения привычных для себя философских понятий. Ключевые слова: нейроэтика, моральная философия, смысл морали, кооперация, универсальность.

DOI: 10.17323/2587-8719-2020-1-13-23.

Нейроэтика трактуется в литературе как область нейронаучного изучения процессов принятия моральных решений, а именно, нейронной основы моральных реакций и решений (Бажанов и Шабалкина, 2017). Так понимаемая нейроэтика стала возможной благодаря бурному развитию на основе технологической революции в молекулярной биологии,

* Апресян Рубен Грантович, д. филос. н., профессор, главный научный сотрудник, руководитель Сектора этики Института философии РАН (Москва), apressyan@iph.ras.ru.

**© Апресян, Р. Г. © Философия. Журнал Высшей школы экономики. Статья написана на основе выступления на международной научной конференции памяти Б. Г. Юдина «Человек в мире нейротехнологий: социальные и этические проблемы» (Институт философии, Москва, 30-31 мая 2018 г.).

молекулярной генетике, биохимии, когнитивной науке, информатике и т. д. нейронауки— «комплекса дисциплин, изучающих проблемы функционирования мозга» (Суслина, Иллариошкин и Пирадов, 2007: 5). Ней-роэтика нередко понимается еще и как направление в этике науки или (в зависимости от фокуса внимания) в биоэтике, предметом которого являются нормативно-этические ограничения нейронаучных исследований (Иллес и Бёрд, Тищенко, 2017). Некоторые авторы представляют нейроэтику двунаправленной — изучающей, с одной стороны, этические аспекты нейрбиологических исследований, а с другой — мозговые процессы, благодаря которым становятся возможными (или которыми обеспечиваются) моральные решения (Roskies, 2002: 21-23). В данной статье, говоря о нейроэтике, я имею в виду то значение этого понятия, которое указывает на нейробиологические исследования, направленные на установление нейронных коррелятов когнитивных процессов, сопровождающих моральные реакции и решения.

Нейронаучное изучение когнитивных процессов позволяет по-новому взглянуть на основания наших суждений, роль эмоциональных и интеллектуальных процессов в моральном мышлении и может быть даже понять условия его правильности или неправильности (Clausen & Levy, 2009: 6-7). Но за всем этим явно или неявно стоит более общий вопрос о природе морали и ее основополагающих феноменов, неважно, являются ли они предметом дескриптивного или нормативного анализа. Именно в проекции к этому общему вопросу есть смысл говорить о вызовах и недосмотрах, имея в виду, с одной стороны, задачи, которые ставит перед моральной философией нейронаука своими открытиями, а с другой — те философские упущения, которые встречаются у авторов, пишущих на нейроэтические темы.

Особые возможности для развития нейроэтики появились в результате выработки новых эмпирических методов исследования, таких как нейровизуализация (посредством фМРТ) мозговых процессов, обеспечивающих/сопровождающих принятие человеком решений и высказывание нормативных суждений. В перспективе нейронаучные методы изучения мозга могут дать исключительный материал для исследования сознания и поведения. Их результаты уже сейчас значительно превышают возможности известных психофизиологических методов изучения когнитивных процессов, например, средствами кардиомет-рии или электроокулографии («айтрекинга»). Данных о применении (электро)окулографии для исследования моральных решений нет, но использование в этих целях кардиометрии широко распространено,

в частности при изучении процессов принятия решений в условиях моральных дилемм.

Опыт психофизиологических исследований позволяет сделать некоторые методологические выводы, касающиеся эмпирических научных исследований моральных феноменов и осознать свойственные исследованиям такого рода ограничения. В первую очередь, нужно указать на то, что исследование когнитивных процессов проводится в экспериментальных условиях (существующие технические возможности пока не позволяют проводить наблюдения за мозгом в режиме, аналогичном суточному мониторингу артериального давления или ЭКГ, по методу Холтера). К этому следует добавить, что предметом изучения являются когнитивные процессы, сопровождающие реакции и суждения (оценки) по поводу определенного набора формализуемых ситуаций. Речь идет об известных моральных дилеммах выбора (в экспериментах—оценки чужого выбора) в ситуациях с вагонеткой или аналогичных им. Хотя анализ таких дилемм достаточно эвристичен, следует помнить, что они отнюдь не представляют моральный опыт во всей его полноте. Даже принимая во внимание эти ограничивающие обстоятельства, следует отметить высокое значение полученных нейробиологией данных.

В связи со сказанным заслуживают внимания три морально-философские проблемы, которые реактуализируются в нейробиологических исследованиях когнитивных процессов, сопровождающих моральные реакции и решения: (а) смысл морали, (б) роль интуитивных и рациональных элементов в оценочных моральных суждениях в соотнесении их с разными уровнями индивидуального опыта, (в) характер и пределы универсальности моральных диспозиций личности.

Смысл морали. Не все ученые (и нейроученые не составляют исключения) чувствительны к философскому понятию морали. При чтении нейронаучных текстов, касающихся морали, постоянно возникают вопросы: что авторы имеют в виду, говоря о морали (моральные представления, моральные институты и их функционирование), кто/что является точкой отсчета при так или иначе рассматриваемой морали — агент, реципиент или беспристрастный наблюдатель (является ли этот наблюдатель моральным агентом или теоретиком морали)? Либо же, наоборот, бывает предельно понятно, что автор говорит о моральных представлениях, не замечая или не принимая во внимание того, что эти представления известным образом циркулируют в социуме и их реализация в поведении обеспечивается определенными социально-организационными, коммуникативными и мотивационными

механизмами. Или говорят о морали в модальности Я, игнорируя модальности Ты/Другой и Они. Более того, бывает так, что в одной части статьи о морали говорится об одном аспекте, в другой—о другом, и переход от одного к другому не то что не рефлексируется авторами, но даже не замечается ими (впрочем, это случается не только с нейроучеными, обсуждающими мораль, но и с моральными философами).

Так, Дебра Мэтьюз и Хилари Бок представляют мораль как «стремление жить в соответствии с некоторым взглядом на то, что мы должны делать или как мы должны жить и для установления того, какой взгляд на это может быть обоснован и как наш взгляд может быть улучшен» (Mathews & Bok, 2015: 1153). В контексте данной работы это описание морали носит «капсульный» характер, оно почти не разъясняется и не развивается, и, имея в виду собственно задачи статьи, авторам нет в этом надобности. Тем не менее, они почувствовали потребность высказаться о морали вообще и высказаться именно таким образом. Мы видим, что мораль оказалась сведенной к неким взглядам морального агента, причем, как следует из дополнительного разъяснения, этот моральный агент единичен: по факту данного описания, он существует сам по себе, вне межличностной коммуникации, социального взаимодействия, независимо от пространства культуры. По всем признакам, это характерно просветительский образ морального агента, не считая отсутствие разума: разум не указывается авторами как приоритетно значимое условие морали.

Встречаются и более содержательные трактовки морали. Например, представляющие мораль как кооперацию. Сторонники такого понимания морали ссылаются на Чарльза Дарвина, Петра Кропоткина или, скажем, Марка Бекоффа (Bekoff & Pierce, 2009: 55-84). В качестве важного механизма морали рассматривает кооперацию Марк Хаузер (Хаузер, Марютина и Александров, 2008: 521-532), а также один из российских соавторов Хаузера—известный психофизиолог Ю.И. Александров, со своими сотрудниками (Арутюнова и Александров, 2019: 14-18). Значимость кооперации в качестве предпосылки морали и ее механизма трудно переоценить. Но, надо отметить, мораль — не единственное и тем более не исключительное проявление кооперации; без кооперации невозможны не только мораль, но и другие формы организации поведения и социальной дисциплины, а также такие социальные поприща, как производство, торговля, армейские операции и т.д.). Раз так, встает задача спецификации морали как способа кооперации. Это теоретическая задача для философов, но ученым следует иметь в виду

ее актуальность и принимать в расчет имеющиеся разработки, а не ограничиваться прагматически теми интерпретациями, которые наиболее отвечают их исследовательским возможностям.

Однако понимание морали через кооперацию оказывается особенно проблемным при рассмотрении морали сквозь призму сюжетов с такими противоречивыми ситуациями (типа неуправляемой вагонетки), в которых обеспечение блага одним так или иначе опосредовано причинением вреда другим, а человек самим фактом своей включенности в ситуацию оказывается причиной или условием причинения кому-то вреда. Ситуации такого рода, чтобы не говорили порой на этот счет «записные» этики, имеют прямое отношение к морали, поскольку предполагают действия по оказанию помощи. Но идеи кооперации здесь недостаточно: есть сильное смысловое напряжение между пониманием морали как согласования действий и признанием морально релевантными ситуации принятия решения в случаях, в которых помощь одним осуществляется ценой необратимого, а то и радикального вреда другим. Признаюсь, осознание этого смыслового напряжения у меня возникло благодаря изучению научных исследований индивидуальных когнитивных процессов в драматических ситуациях выбора наименьшего зла. Необходимо переосмысление феномена морали, вмещающее в себя такие остро противоречивые с моральной точки зрения ситуации.

В связи с этим встает другой важный вопрос — о природе индивидуального сознания в контексте морали.

Роль интуитивных и рациональных элементов в оценочных моральных суждениях — один из актуальных вопросов нейробиологического изучения морали, и часто он обсуждается в терминах эмоций и разума. При этом можно видеть, что в работах ученых термин «эмоции» легко замещаться термином «интуиция» и наоборот. Обсуждение этого вопроса представляет интерес не только сам по себе, но и в соотнесении с давно идущими дискуссиями и сформировавшимися в ходе них подходами. Говоря о давних дискуссиях, я имею в виду прежде всего оппозицию интуитивизма и рационализма в нововременной моральной философии. Показательно, что теоретики «морального чувства» (Френсис Хатчесон, Дэвид Юм) говорили о непосредственности, очевидности, интуитивной ясности, искренности основанных на «моральном чувстве» и идущих из самой природы суждений и противопоставляли им опосредованные социокультурным опытом, соображениями полезности, требующие обдумывания и времени суждения, основанные на

«разуме». Интуиция однозначно контрастировала в этих теориях с «дис-курсией», хотя при этом не отрицалось, что и рациональные суждения могут играть в морали определенную роль. При этом, и Хатчесон, и Юм говорили о моральном чувстве как когнитивной способности, и об аффектах (эмоциях) как мотивах суждений, решений и действий. Различие между таким пониманием «чувства» и «эмоций» в моральной философии XVIII в. нередко не принимается во внимание современными авторами (включая моральных философов, не знакомых близко с этими теориями).

Очевидны явные параллели между пониманием когнитивных процессов в современной нейробиологии и трактовкой «чувства» (интуиции) и «разума» адептами сентименталистской этики XVIII в. Но в современных нейробиологических исследованиях концепция интуитивного и рационального имеет в виду более подвижные границы между интуицией и рассуждением, в ней более тонко оценивается роль интуитивного и рационального в моральных суждениях и неоднократно проговаривается принципиальное для системно-эволюционного подхода положение о динамическом единстве когнитивных процессов.

Вместе с тем, именно благодаря научным исследованиям появилась возможность представить интуицию и дискурсивный рассудок как когнитивные функции, имеющие разные корреляты в мозговых структурах. Эти структуры формируются на разных этапах индивидуального развития. Те структуры, которые обеспечивают интуитивные суждения, формируются на самых ранних этапах индивидуального развития; это — структуры, отражающие низкодифференцированный индивидуальный опыт. Те из них, которые обеспечивают рациональные оценочные высказывания, формируются на поздних этапах индивидуального развития; это—структуры, отражающие высокодифференцированный индивидуальный опыт. Наблюдения и эксперименты (в частности, касающиеся моральных решений относительно действий, направленных на помощь большему числу людей при условии причинения вреда меньшему числу людей) показывают, что в разных условиях активизированными оказываются те или другие нейронные структуры. Причем решения, которые обусловлены ориентацией преимущественно на безусловные, универсальные принципы, интуитивны, а решения, которые обусловлены ориентацией преимущественно на результаты в контексте данной конкретной ситуации, рассудочны (Александров и Александрова, 2009: 141-164). Можно ожидать, что дальнейшие исследования в этой

области позволят сделать более строгие выводы. Но уже сейчас можно с уверенностью утверждать, что моральные решения не являются только интуитивно-эмоциональными или только рациональными, а их когнитивные характеристики обусловлены разными факторами и зависимостями: психофизиологическими, ментальными, социокультурными, гендерными, возрастными.

Характер и пределы универсальности моральных диспозиций личности. Проблема универсальности — одна из ключевых в моральной философии. Она по-разному ставится и трактуется, но, говоря обобщенно, можно выделить несколько аспектов универсальности в ее рассмотрении моральной философией. Универсальность понимается как общераспространенность моральных «характеристик» (мнений, способностей, качеств), универсализуемость и беспристрастность (воспроизводимость в других ситуациях) суждений и решений, общеадресован-ность моральных требований. Заслуживает внимания, что в моральной философии понимание универсальности как общераспространенности чаще всего подвергается критике как «эмпирическое», не учитывающее теоретически установленные существенные характеристики морали (Апресян, 2016: 79-88). Беспристрастность и общеадресованность считаются нормативно и теоретически обоснованными выражениями универсальности. Это понимание более органично вплетается в трактовку морали как контрприродного образования, не важно, в какой форме — супранатуралистической или социокультурной — контрприродность берется. Ю. И. Александров, рассматривая универсальность моральных оценок в оппозиции их социокультурной обусловленности, связывает универсальность с наличием определенных, а именно, наиболее древних элементов в структуре индивидуального опыта, которые формируются независимо от осознаваемых социокультурных детерминант (Александров и Александрова, 2009: 66-76).

В некоторых нейробиологических теориях универсальность связывается с эмпатией как формирующейся на ранних стадиях эволюции способности негативно реагировать на чужие страдания, так и с «универсальной моральной грамматикой» в духе Ноама Хомского, воспринятой Джонатаном Хайдтом и Марком Хаузером. Правда, идея «универсальной моральной грамматики», любопытная в качестве метафоры, раскрывающей некоторые особенности формирования моральных способностей на онтогенетическом уровне (усвоение моральных норм происходит аналогично усвоению порядка речи — нерефлексивно, спонтанно,

практически безошибочно), в ограниченной степени применима к объяснению генеза морали и по сути не применима к объяснению моральных девиаций, обусловленных гипертрофией частного интереса.

С этими теориями некоторым образом связана концепция принципов морального действия. Она касается такого важного параметра действий как причинение-непричинение вреда. Согласно этой концепции, контрибутивные в отношении других решения регулируются «принципами» действия (причиняется ли вред в результате действия или бездействия), цели (является ли причинение вреда средством достижения цели или побочным его результатом) и контакта (причиняется ли вред при непосредственном физическом контакте или при отсутствии такового) (Cushman, Young & Hauser, 2006: 1083, 1086-1088). Эти принципы, как показывают эмпирические исследования, распространены повсеместно, независимо от этнических или культурных различий, и могут рассматриваться в качестве априорных начал действий. В этом смысле они предстают универсальными.

С философской точки зрения, такое понимание универсальности оказывается эмпирическим, поскольку оно формируется на основе непосредственного обобщения данных коммуникативного и интроспективного опыта. Однако оно вместе с тем показывает, что понимание универсальности как общераспространенности, считающееся в философии эмпирически «заниженным», «недодуманным», в действительности эмпирически удостоверяемо, эволюционно предзадано и в особых своих аспектах, проясняемых в научных исследованиях, представляет собой антропологическую предпосылку универсальности моральных форм. В моральном опыте есть определенные элементы, которые обоснованно можно считать повсеместно распространенными. Несомненно, эти элементы, характер их проявления в качестве моральных, дифференцированно по отношению к их актуализации вне моральной сферы, подлежат более строгому изучению.

Нейронаучные данные заставляют по-новому взглянуть на когнитивные процессы, обеспечивающие моральные решения. Это — несомненный вызов моральной философии со стороны науки, от которого философам не уйти. Но ученые, имея дело с антропологическими данными, берутся говорить о морали, не придавая значения тому, что на деле спонтанно используют обыденные представления о «морали», не принимают во внимание, что эти данные, характеризуют важные антропологические предпосылки, но не социально-коммуникативные, нормативные и духовные основы морали, не учитывают внутреннюю разнородность морали,

ее функциональную специфику, а также то, что на уровне поведения она проявляется главным образом в характере целеполагания и ценностного обоснования решений, действий и суждений и т. д. И это — вызов со стороны философии в адрес нейробиологии и других наук, изучающих связанные с моралью явления1. Разработанные в философии представления о морали содержательно гораздо сложнее чем те, касающиеся морали «интуиции», на которые нередко полагаются ученые. Игнорирование моральной философией научных открытий, касающихся нейробиологических механизмов морали, обрекают ее на мизонеизм и смещение на периферию научного дискурса.

Необходимо признание этих вызовов как с одной, так и с другой стороны. Ответ на них возможен лишь при условии пристального взаимного внимания представителей науки и философии, а в идеале — при условии их тесного взаимодействия на площадках междисциплинарных исследований.

Литература

Александров Ю. И., Александрова Н. Л. Субъективный опыт, культура и социальные представления. — М. : Институт психологии РАН, 200g. Апресян Р. Г. Феномен универсальности в этике : формы концептуализации //

Вопросы философии. — 2016. — № 8. — С. 7д-88. Апресян Р. Г. Этика. — М. : Кнорус, 2017.

Арутюнова К. Р., Александров Ю.И. Мораль и субъективный опыт. — М. :

Институт психологии РАН, 201g. Бажанов В. А., Шаба,лкина Е. Е. Проблема поиска нейрофизиологических оснований морали : нейроэтика // Философские науки. — 2017. — № 6. — С. 64—7g. Иллес Д., Бёрд С. Нейроэтика : этика нейронауки в современном контексте /

пер. с англ. П. Д. Тищенко // Человек. — 2017. — № 6. — С. 64-7g. Суслина З. А., Иллариошкин С. Н., Пирадов М. А. Неврология и нейронауки : прогноз развития // Анналы клинической и экспериментальной неврологии. — 2007. — Т. 1, № 1. — С. 5-д. Хаузер М. Мораль и разум : как природа создавала наше универсальное чувство добра и зла / пер. с англ. Т. М. Марютиной, Ю. И. Александрова. — 2008. Bekoff M., Pierce J. Wild Justice : The Moral Lives of Animals. — Chicago : The

University of Chicago Press, 200g. Clausen J., Levy N. Handbook of Neuroethics. — Dordrecht : Springer, 200g.

1 Подробнее о трудностях научного изучения морали (на примере социобиологии) см. Апресян, 2017: 56-5g.

Cushman F., Young L., Hauser M. D. The Role of Conscious Reasoning and Intuition in Moral Judgments : Testing Three Principles of Harm // Psychological Science. — 2006. — Vol. 17, no. 12. — P. 1082-1089. Mathews D. J. H., Bok H. Brain Research and Cognition // Handbook of Neuroethics /

J. Clausen, N. Levy. — Dordrecht : Springer, 2015. — P. 1151-1166. Roskies A. Neuroethics for the New Millenium // Neuron. — 2002. — Vol. 35. — P. 2123.

Apresyan, R. G. 2020. "Neyroetika: vyzovy i nedosmotry [Neuroethics: Challenges and Omissions]" [in Russian]. Filosofiya. Zhurnal Vysshey shkoly ekonomiki [Philosophy. Journal of the Higher School of Economics] IV (1), 13-23.

Ruben Apresyan

Doctor of Letters in Philosophy; Leading Researcher at the Institute of Philosophy, Russian Academy of Sciences, Moscow

Neuroethics: Challenges and Omissions

Abstract: Neuroethics is considered in the article as a field of neurological research of cognitive processes providing moral reactions and decisions (ethical-applied interpretation of neuroethics as an analysis of conditions of neuroscientific research and formulation of appropriate ethical restrictions, if necessary, has not been taken into account). The results of neuroscientific research on cognitive processes can provide philosophy a lot in developing its understanding of the nature of moral judgments, the role of emotional and intellectual, intuitive and discursive components in moral thinking, and the development of individual moral experience. However, there is a lack of trust and transparency between scientists and philosophers in understanding morality, its nature, and its distinctive functional and normative features. In this context, the article raises the question of the challenges posed by neuroscience to moral philosophy and the omissions made by neuroscientists writing on neu-roethical topics. Neuroscientists sometimes spontaneously use ordinary and trivial notions of "morality", are not sensitive to the difference between anthropological and ethical aspects of their research, do not take into account the internal heterogeneity of morality, its functional specificity, as well as the fact that at the level of behavior, morality is manifested mainly in the way of goal-setting and the value-based reasons of decisions, actions, and judgments. The concepts developed in moral philosophy are more complex than the "intuitions" that scientists sometimes use to discuss morality. A philosophical critique of neuroethics has become a pressing task, but its efficiency largely depends on how constructively philosophers themselves treat the results of neurological research, and how ready they are to see these results as a reason for rethinking and promoting familiar philosophical concepts. Keywords: Neuroethics, Moral Philosophy, the Nature of Morality, Cooperation, Universality.

DOI: 10.17323/2587-8719-2020-1-13-23.

REFERENCES

Aleksandrov, Yu.I., and N.L. Aleksandrova. 2009. Sub''yektivnyy opyt, kul'tura i sotsial'-nyye predstavleniya [Subjective Experience, Culture, and Social Representation] [in

Russian]. Moskva [Moscow]: Institut psikhologii RAN.

Apresyan, R. G. 2016. "Fenomen universal'nosti v etike [The Phenomenon of Universality in Ethics]: formy kontseptualizatsii [Forms of Conceptualization]" [in Russian]. Voprosy filosofii [Problems of Philosophy], no. 8: 79-88.

- . 2017. Etika [Ethics] [in Russian]. Moskva [Moscow]: Knorus.

Arutyunova, K.R., and Yu.I. Aleksandrov. 2019. Moral' i sub''yektivnyy opyt [Morality and Subjective Experience] [in Russian]. Moskva [Moscow]: Institut psikhologii RAN.

Bazhanov, V. A., and Ye. Ye. Shabalkina. 2017. "Problema poiska neyrofiziologicheskikh osno-vaniy morali [The Problem of Quest for the Neurophysiological Foundations of Morality]: neyroetika [Neuroethics]" [in Russian]. Filosofskiye nauki [Philosophical Sciences], no. 6: 64-79.

Bekoff, M., and J. Pierce. 2009. Wild Justice: The Moral Lives of Animals. Chicago: The University of Chicago Press.

Clausen, J., and N. Levy. 2009. Handbook of Neuroethics. Dordrecht: Springer.

Cushman, F., L. Young, and M. D. Hauser. 2006. "The Role of Conscious Reasoning and Intuition in Moral Judgments: Testing Three Principles of Harm." Psychological Science 17 (12): 1082-1089.

Illes, Dzh. and S. Bërd [Illes, J. and S. Bird]. 2017. "Neyroetika [Neuroethics]: etika neyronauki v sovremennom kontekste [A Modern Context for Ethics in Neuroscience]" [in Russian], trans. from the English by P. D. Tishchenko. Chelovek [The Human Being], no. 6: 64-79.

Khauzer, M. [Hauser, M.] 2008. "Moral' i razum [Moral Minds]: kak priroda sozdavala nashe universal'noye chuvstvo dobra i zla [How Nature Designed Our Universal Sense of Right and Wrong]" [in Russian], trans. from the English by T.M. Maryutina and Yu.I. Aleksandrov. (Moskva [Moscow]).

Mathews, D. J. H., and H. Bok. 2015. "Brain Research and Cognition." In Clausen and Levy 2009, 1151-1166.

Roskies, A. 2002. "Neuroethics for the New Millenium." Neuron 35:21-23.

Suslina, Z.A., S.N. Illarioshkin, and M.A. Piradov. 2007. "Nevrologiya i neyronauki [Neurology and Neurosciences]: prognoz razvitiya [Development Forecast]" [in Russian]. Annaly klinicheskoy i eksperimental'noy nevrologii [Annals of Clinical and Experimental Neurology] 1 (1): 5-9.