Роль эмоций в когнитивно-аффективной системе как фактор развития архитектуры искусственных агентов

ВЕСТН. МОСК. УН-ТА. СЕР. 7. ФИЛОСОФИЯ. 2018. № 6

ФИЛОСОФИЯ И МЕТОДОЛОГИЯ НАУКИ А.В. Шиллер*

РОЛЬ ЭМОЦИЙ В КОГНИТИВНО-АФФЕКТИВНОЙ СИСТЕМЕ КАК ФАКТОР РАЗВИТИЯ АРХИТЕКТУРЫ ИСКУССТВЕННЫХ АГЕНТОВ

Исследование воплощенного сознания (embodied cognition) может дать много данных для понимания человеческого процесса обработки информации и социального поведения, открыть новые пути и способы концептуализации и разработки вариантов воплощения искусственных когнитивных систем (в виде роботов и программ искусственного интеллекта). Однако необходимо принять во внимание, что (1) когнитивные процессы происходят в сложных условиях; (2) доступные данные по когнитивным процессам никогда не являются полными, качественными и достаточными; (3) когнитивные механизмы подвержены сильным влияниям по причине самой своей природы (особенностей сенсоров или механизмов, участвующих в этих процессах). Одним из источников влияний выступает эмоциональная регуляция деятельности, роль которой следует учитывать и включать в архитектуры агентов при разработке моделей ИИ. В связи с этим необходимо проанализировать преимущества и недостатки включения в модели агентов подверженных влияниям когнитивных архитектур.

Ключевые слова: сознание, воплощенное сознание, естественные рассуждения, эвристики, эмоции, моделирование эмоций, когнитивно-аффективная архитектура.

A.V. S h i l l e r. The role of cognitive-affective system as a factor of development of artificial agents architecture

The interest on embodied cognition provides more data for the understanding of human data-processing and social behavior. This understanding offers us new ways to conceptualize and to develop some architectures and embodiments for artificial cognitive systems (robots, AI). It is necessary to take into account that: 1) cognitive processes exist in complex environments, 2) the available data for cognitive systems are not full, enough and qualitative, 3) the cognitive mechanisms are biased because of the nature of input sensors or inner mechanisms. One of

* Шиллер Александра Викторовна — аспирант кафедры философии и методологии науки философского факультета МГУ имени М.В. Ломоносова», тел.: +7 (495) 939-24-09; e-mail: shiller.a@gmail.com

the sources of these biases is the emotional regulation, it's important to take its role into consideration and to embed emotions into the architectures of artificial agents. Therefore, we need to analyze costs and benefits of implementing biased cognitive architectures into the models of artificial agents.

Key words: cognition, embodied cognition, natural reasoning, heuristics, emotion, modelling of emotions, cognitive-affective architecture.

1. Природа когниций

Рассматривая эволюцию западной философии, можно сделать вывод, что, по мнению исследователей, когнитивные процессы, включенные в практику аргументации, должны сопровождаться некоторыми «идеальными» и не подверженными влияниям механизмами [Б. Яш$е1, 1953]. Если человек способен использовать «правильный язык», очищенный от эмоциональных влияний, и будет следовать логическим правилам, тогда он способен постичь истину, которая проявится в своей универсальной форме. С этой точки зрения, содержание мысли является не переживанием, а внутренней основой для «идеальных» идей и символов. В основе всего лежит такой принцип: существует оптимальный процесс рассуждения и когнитивной оценки, который должен сопровождать любую ситуацию.

Однако поверхностный анализ реальных дебатов в философских кругах на протяжении истории показывает совершенно другую картину: идеалисты-дедуктивисты представляют в своих работах deuxexmachine, или мифы (вспомним Платона и его дюжины не-фальсифицируемых мифов/нарративов), индуктивисты предлагают множество универсальных утверждений без подтверждения, абдук-тивисты выступают с другими противоположными стратегиями, рационалисты обращаются к сверхъестественным силам для того, чтобы поддержать принципы тождества (как принцип тождества «А=А», который вынудил Декарта искать отправную точку для рассуждения, пока он не осознал, что только злой демон может подвигнуть нас ошибаться насчет этого утверждения, и поэтому только Бог может поддержать этот принцип, что в итоге приводит к утверждению, что в основе рационалистической философии появляется сверхъестественная сущность для подтверждения основы суждения), и т.д. Можно найти огромный список сильных расхождений по поводу методов хорошего рассуждения и корректности и правильности уже достигнутых знаний или аргументов Bywater, 1969, p. 167; Р. БсНо1ш, 1971]. Точно так же мы можем найти сильные расхождения между логическими школами в класси-

ческой греческой философии и философии хинду или буддистской традиции [B.K. Matilal, R.D. Evans, 1986; K.N. Jayatilleke, 1967], что является примером географически определяемой природы понимания процесса рассуждения. В какой-то момент формальные различия могут быть определены онтологически, так же, как мы можем утверждать, что западная философия основана на понятии «Бытие», а восточная — на понятии «Небытие» [J.W. Heisig, 2001]. Другие неформальные, но важные понятия, как, например, сарказм или метафоры, также должны приниматься во внимание [J. Haiman, 1998].

Лингвисты XIX в. (а также логики, философы, антропологи) полагали, что наивысшая логическая точность позволит им открыть новую эру ясности и понимания [J. MacFarlane, 2002; T. Burge, 2010]. Но как только была создана математическая логика, появившиеся проблемы и неожиданные парадоксы вынудили ученых создать новые логики [H.E. Kyburg, 2001]. Несмотря на эту неудачу в области идеальной аргументации, новые исследовательские области соответствовали стремлению отразить человеческое рассуждение механистически, пойдя по пути создания искусственного интеллекта. В ранних исследованиях авторы определяли когнитивную область как вычислительную, основанную на символьном подходе и включающую взаимодействие сверху-вниз (top-down) [H.A. Simon, 1995]. Несколько десятилетий спустя, несмотря на несколько удивительных открытий, этот подход не справился с решением задачи по представлению таких биологических процессов, как зрение, а также многих сенсомоторных процессов (схватывание, ходьба, манипулирование предметом, принятие решения в реальном времени в сложной среде и т.д.). Мультимодальность большинства когнитивных процессов, а также неэффективность использования чисто вычислительных моделей породили ряд проблем (например, проблему перебора — одну из центральных проблем теории алгоритмов).

Революция в понимании телесности привела к появлению возможностей использовать ее в робототехнике и когнитивных науках, в связи с чем в 1980-х гг. учеными был предложен «восходящий» подход (bottom up) к созданию искусственного интеллекта, который понимался как некоторый процесс, сопровождаемый биологическими телесными процессами [R.A. Brooks, 1990; Idem., 1991; R. Pfeifer, J. Bongard, S. Grand, 2007]. Новые идеи о несимволическом интеллекте, роевом интеллекте (swarm), воплощенном сознании (embodied cognition), морфологическом сознании (morphological cognition), обоснованном сознании (grounded cognition), предписанном сознании (attributed cognition) и расширенном сознании (enactive or extended cognition) являются лишь частью из множества различных

вариантов, представленных в настоящий момент [L. W. Barsalou et al., 2003; E. Hutchins, 1995; D. Casacuberta, 2010; C. Bartneck, 2002].

В существующее когнитивное уравнение телесность была добавлена прагматичными подходами, вдохновленными биологическими природными стратегиями живых существ. Эти стратегии показывают, что живые организмы в природе часто оперируют приближенными значениями. Даже на высоком когнитивном уровне Фауконнер и Тернер обнаружили [G. Fauconnier, M. Turner, 1998; 2002], что понятийное смешение является работающим способом для создания более сложных семантических конструкций, а также что сохраняется возможность соединения и совместного использования разных подходов для комбинирования идей, как утверждается в подходе «семантических скачков» (semantic leaps) [S. Coulson, 2001]. С учетом этого набора идей возникает новое прочтение вычислительных наук: неопределенные чипы (imprecise chips), пробабилисти-ческий компьютинг, небрежная арифметика (sloppy arithmetic) или, среди прочих, неопределенные вычисления (imprecise computation) [T Palmer, 2015].

Использование именно таких подходов в вычислительных науках кажется в настоящий момент ключом к созданию ИИ, принимающего решения и использующего естественные рассуждения по типу человеческих. Точно так же эти подходы применимы для вычислительного моделирования эмоциональной сферы искусственных агентов, поскольку позволяют представить сами механизмы и функциональное назначение эмоций (для всех когнитивных процессов), а не просто передать процессы генерации эмоций и их последствия, выражающиеся в когнитивных влияниях и поведенческих реакциях агента.

2. Концепция «небрежной»

когнитивно-аффективной сферы

Как понятие-интегратор предыдущих идей о природном, натуралистичном, креативном, мультиэвристичном и приближенном понимании обработки информации можно представить понятие «небрежной» когнитивно-аффективной сферы. Большинство современных и исторических подходов в эпистемологии, познании или когнитивной науке привычно умеет различать для себя правильные и неправильные способы обращения с семантической информацией. За пределами существования очевидных ошибок и заблуждений кажется логичным утверждать, что некоторые когнитивные стратегии превосходят другие. Но, согласно эмпирическим данным, люди склонны действовать «иррационально» [D. Davidson, 1990; G. Gigerenzer, 2004;

J. Pollock, 2008]. Возьмем в качестве примера покупателей, находящихся в процессе экономического выбора, или хорошо описанные этические дилеммы (дилемма вагонетки и прочие), или все языковые аспекты, относящиеся к моральному/рациональному принятию решений [A. Costa, A. Foucart, 2014].

Человеческие когнитивные процессы, понимаемые как результат некоторых культурно-обусловленных влияний, имеют биологические корни, которые увеличивают и «выпячивают» неточные или противоположные эвристики в соответствии с окружающими условиями [Л. Hertwig, S. Herzog, 2009; G. Gigerenzer et al., 2011; G. Gigerenzer, 2008]. Рассматривая повседневный процесс принятия решения у людей, можно отметить смешение методов для каждого отдельного случая, а также множество направляемых интуицией и эмоциями действий, которые нельзя отнести непосредственно к принятию решений. Люди склонны смешивать и соединять несколько видов эвристик, сознательно или бессознательно, на символическом и сенсомоторном уровнях. Это смешение может быть параллельным или последовательным или одновременно и таким, и таким (что похоже на механизмы работы человеческой памяти, внимания и других высших психических функций). Человеческие существа используют огромный набор методов и техник для того, чтобы принять решение и выбрать конкретные действия из широкого пула возможных. Это можно считать интегрированной мультиэвристической активностью, которая протекает на формальных, неформальных и даже бессознательных уровнях [M. Finocchiaro, 2005].

Особенной ролью в принятии решений обладают эмоции как один из триггеров, а также как медиатор процесса. Долгое время эмоции элиминировались из процесса мыслительной деятельности как деструктивные элементы, мешающие и отвлекающие от рациональной работы. Но именно присутствие эмоций позволяет обеспечивать мультиэвристическую активность и определяет смешанную природу когнитивной сферы. Одним из первых в отечественной науке о положительной роли эмоций в мышлении писал О.К. Тихомиров, создавший научную школу по исследованию мышления и проведший ряд экспериментов, подтверждающих тезис о важной роли эмоций в мышлении [О.К. Тихомиров, 1984]. Тихомировым был выделен отдельный ряд эмоций, названный им «интеллектуальными эмоциями». Это предвосхищающие и эвристические эмоции, выполняющие сигнальную функцию оповещения о появлении смысловых новообразований в мыслительной деятельности, а также интегративную функцию по отношению к ним [Ю.Д. Бабае-

ва, 2008]. Эксперименты показали, что существует такой феномен, как «эмоциональное решение», который связан с возникновением субъективного ощущения нахождения решения и сопровождается предвосхищающим сознательное решение изменением объективных показателей эмоциональной активации (КГР). Важно отметить, что такой феномен возникает только в случае решения задач, требующих словесного оформления идеи, т.е. в случае сложной когнитивной деятельности, оперирующей смыслами, а при простых математических расчетах этот феномен не наблюдался. Также в школе О.К. Тихомирова был открыт феномен «эмоционального обнаружения проблемы», который является одним из механизмов саморазвития мышления. Стоит отметить, что именно этот феномен необходимо воплотить с помощью современных вычислительных моделей для обеспечения искусственных агентов базой для развертывания самостоятельной мыслительной деятельности. Этот принцип можно применить как отправную точку для формирования самообучающейся системы, использующей принципы machine learning в более прогрессивном смысле, нежели они понимаются сейчас.

В настоящее время соотношение когнитивных процессов показывает, что сила и креативность человеческого мышления основаны на комбинации различных эвристик. В то время как исторические подходы искали идеал, состоящий из избранного и уникального способа построения рассуждения, результаты исследований эволюционной психологии мышления, культурной антропологии, лингвистики, современной логики, компьютерных наук и робототехники, а также многих других областей говорят о другом. Люди используют богатый и комбинируемый между собой пул эвристик и методов обработки информации для того, чтобы принимать решения и реагировать в условиях очень сложной окружающей среды.

Как уже отмечалось, классическим эмоциям отводилась роль лишних элементов, и обычно они просто отбрасывались нейронау-кой [A. Damasio, K. Meyer, 2008]. С точки зрения функционализма, некоторые способы обращения с информацией (оптимизация размера и качества памяти, время принятие решения, число процессов, признанных релевантными) встроены телесно в нейромодулирующие разверстки, которые, в свою очередь, реализуются в соответствии с совпадением с некоторыми переменными, набор которых формируется в зависимости от текущих условий. Само существование воображения, креативности и инноваций в способах обращения с информацией является естественной чертой человеческих существ. Рассуждение само по себе всегда культурно обусловлено и не может быть просто последовательным рассуждением, реализованным для

обеспечения существования или объяснения смещения устоявшихся знаний/парадигмы. Происходящие изменения требуется принять во внимание при разработке новых правил рассуждения, перераспределении семантических ценностей и реализации альтернативных способов обращения с информацией, даже с точки зрения не воплощенной телесно (но культурно ситуативной) парадигмы [G. Dove, 2011]. По всем этим причинам следует задаться важным вопросом: если мы предполагаем такое когнитивное смешение для объяснения богатства человеческих особенностей, не следует ли использовать такую же когнитивно-аффективную модель при создании ИИ?

3. Воплощенная «небрежная»

аффективно-когнитивная модель

Хотя можно наблюдать усиление запроса со стороны компьютерных наук к природному пониманию рациональности, разрабатываемые в русле этих наук подходы не предлагали использовать аффективно-когнитивную модель для создания ИИ. Генетические алгоритмы, роевой интеллект, нейроморфный интеллект, эволюционистское вычисление (evolutionary computation), искусственные нейронные сети, эпигенетическая и эволюционная робототехника пытаются использовать одну или ограниченный набор когнитивных стратегий, которые естественным образом вовлечены в некоторые процессы или возникают во время культурной кооперации (индукция, абдукция, дедукция, герменевтическое рассуждение, рассуждение по аналогии). Даже искусственно воплощенные подходы пытаются использовать только малое число когнитивных стратегий для обработки информации. Архитектуры с использованием категоризации являются более хорошим примером подходов, преодолевающих эти ограничения, хотя их реализация не подходит в качестве фундаментального подхода для искусственного мышления. Архитектуры LIDA, CogAff или CLARION действительно являются знаковыми для развития искусственных когнитивных систем, но они не включают в себя ошибки, смещения или путаницу как фундаментальные характеристики когнитивных систем. Некоторые из более ранних подходов не рассматривают реальную значимость ситуативности когнитивных процессов, которая включает в себя экологическое соответствие между телом и разумом и значимые компоненты окружающей среды (другие агенты, сообщества, объекты, физические состояния) [/. Kanal, D. Perlis, 1988; C. Anagnostopoulus, S. Hadjiefhymiades, 2007]. Можно заключить, что существующие в настоящее время методы комбинирования знаний и подходов к рассуждению подвержены

влиянию классических формальных и статистических подходов к пониманию когнитивных/информационных процессов.

Для создания новой автономной и креативной программы ИИ необходимо учесть преимущества воплощения разнообразных когнитивных стратегий, которые подразумевают естественное рассуждение (неточное) или даже ошибочные аргументативные процессы. Богатство и превосходство человеческого знания в своей основе состоит в несогласованности большинства процессов рассуждения как глобального набора истин, а также в учете экстракогнитивной роли факторов, направляющих поведение. Среди таких факторов можно отметить, например, вклад мутантного гена БКБ4-7г или «гена путешественника», очень разнообразное и сложное управление человеческим мозгом с помощью нейротрансмиттеров, которое объясняет личностные черты/настроение/аттитюды, роль зеркальных нейронов и еще множество «маленьких» аспектов, которые определяют, как происходят когнитивные процессы. Такой холистский, целостный подход является крайне идеалистичным вариантом, и он не создан в настоящее время, так же как и не учитывается ключевая роль «ошибочных» способов аргументации. Стоит отметить, что на сегодняшний день более перспективным является использование отдельных хорошо разработанных теорий для конкретных участков архитектуры модели искусственного агента. Также стоит учитывать упоминавшиеся ранее культурные и противоположные друг другу определения логических аксиом, характерных для Востока и Запада. Это ставит еще один вопрос: нужно ли учитывать культурную специфику при создании искусственных агентов? И если ответ положителен, то насколько различны будут такие искусственные агенты?

Под воплощением понимается физическая реализация связанных с телесностью переменных у физических машин; например, функциональные аспекты биомимикрирующего нейрокомпьютинга или роль эмоций, которая должна пониматься как целостный процесс, включающий не только набор нейронов, но и общую картину работы мозга в отдельном теле при ситуативном сценарии. Это подразумевает учет мультимодальной природы эмоций, учет всех сфер — когнитивной, аффективной, объектной (внешний окружающий мир), абстрактной, поведенческой и физиологической Hudlicka, 2014].

Проблемы возникают, когда мы полагаем, что такая богатая реализация когнитивных техник у человека связана с присутствием некоторых слабостей и нарушений рассуждений как минимум со стороны «идеальной ситуации». Но именно поэтому, как это ни па-

радоксально звучит, необходимо создание подхода «неточного ИИ», преимуществом которого будет смешение разнообразных эвристик для того, чтобы произвести адекватный ответ. Опять же понятие «адекватности» прямо относится к существованию оптимальных взаимоотношений между контекстом, информацией и решением. Здесь система с необходимостью будет вынуждена принять решение среди нескольких вариантов, относящихся к текущему состоянию, которое не всегда будет подразумевать принятие лучшего решения, но просто более адекватного этому богатому набору переменных, которые охватывают морфологические, социальные, культурные [M. Douglas, 1996] и ситуативные состояния.

Этот подход должен включать в себя реализацию следующих механизмов.

1. Баесовские статистические подходы: из-за того, что невозможно придерживаться только одного подхода в методологии статистики при реальном научном исследовании, некоторые формы Баесианства кажутся наилучшим способом выполнять статистические вычисления для широкого круга проблем. Хотя даже баесовские сети исходят из идеи о включении предыдущего знания и выбора из альтернатив [J. Vallverdu, 2016]. Баесовские статистические методы показали себя хорошо применимыми для некоторых высокотеоретических и связанных с телесностью вычислений (зрение, мультимодальная селекция, моделирование эмоций). Обучение на опыте и добавление уже известного в анализ последующих ситуаций кажется наилучшим методом с эволюционистской точки зрения, принимая во внимание необходимость адаптации к новым или изменяющимся условиям окружающего мира.

2. Моделирование эмоций: вторым столпом такого подхода является создание в каком-либо виде архитектуры эмоций. Хотя достоверно известно, что некоторые чисто символические программы, использующие неестественные рассуждения, достигли или достигают впечатляющих результатов (классические экспертные системы, или улучшенные как DeepBlue, Watson, AlphaGo), соединяющие машинное обучение, глубокое обучение и другие техники, но в то же время ясно, что такие системы не могут работать в нормальной человеческой среде и что их архитектуры существуют в специфических вычислительных условиях. С точки зрения филогенетики, именно эмоциональные механизмы позволяют базовым биологическим системам оценивать и адаптировать свои решения к собственным физическим структурам. В то же время неврологические данные показывают, что эмоциональные механизмы добавляют богатство и разнообразие абстрактным рассуждениям, и это было использовано

некоторыми исследователями при разработке мимикрирующих под биологические эмоциональных искусственных когнитивных систем [M. Bridges, 2015]. Здесь нужно отметить, что автор не подразумевает создание человекоподобной эмоциональной системы, которая пригодна только для взаимодействия человек-машина, вместо этого кажется важной разработка искусственной системы, способной интенционально оценить информацию и переадаптировать свои стратегии согласно динамическому состоянию системы. При этом может возникнуть проблема черного ящика — разработчики не будут в итоге понимать полностью механизмы работы такого искусственного агента.

3. Система принятия решений. В качестве связки с предыдущей частью подхода нужно отметить, что эмоциональная архитектура является результатом соединения когнитивной и физиологической модальностей (а также ряда других модальностей), которые, в конце концов, приводят к появлению сложной, смешанной картины реальности. При этом важно помнить, что только культурно-специфичное рассуждение является подлинно экологически-ситуативным [R. Nisbett, 2003]. С точки зрения системного подхода, физические и психофизиологические компоненты определяют и изменяют те способы, с помощью которых некоторый объект ориентируется в мире. Именно этим можно объяснить в том числе личные и коллективные действия, поэтому роль таких компонентов важно учитывать и помнить о необходимости различных семантических и синтаксических структур, а также собственно системы принятия решений при разработке архитектур искусственных агентов [K. Beuls, L. Steels, 2013].

4. Неиерархические информационные стратегии: наконец, при рассмотрении разных способов обращения с информацией некоторые эвристики могут быть совмещены или соединены с разными этапами оценки данных. Наиболее важным является создание связи предыдущих разделов подхода с неиерархической рекурсией различных процессов (абдуктивных, индуктивных, дедуктивных, аналогий, разных форм статистических процессов, даже протекающих под влияниями или в «неточных» подходах). Естественное рассуждение должно пониматься за пределами статистических количественных контекстов, потому что такие рассуждения должны быть способны на качественный анализ. На примере естественного человеческого рассуждения мы можем наблюдать большой набор вариаций между этими состояниями (переходы от количественных к качественным состояниям). Некоторые иррациональные черты, например вера или интуиция, противопоставленные точным доказательствам, показывают свою состоятельность даже в случаях научных открытий и драматических сломов научных парадигм.

4. Выводы

Сравнительный анализ исторических достижений в когнитивных науках, а также существование разных способов создания систем ИИ представляют отличный материал для размышления над новыми возможными достижениями и подходами в этой области. С одной стороны, достижения в области исследования механизмов человеческого мышления и рассуждения способствовали созданию и определению новых подходов, помогающих реальному пониманию этих феноменов, причем без классического и сверхидеалистического взгляда на процесс мышления. С другой стороны, история ИИ и робототехники показывает все «за» и «против» экстремально символических моделей, но подходы, использующие такие стратегии, все еще реализуются без каких-либо изменений. Благодаря исследованиям процессов естественного рассуждения, их логическим, статистическим и вычислительным преимуществам появились и были реализованы новые инструменты и возможные методологии. Все это согласуется с мнением ведущих ученых и разработчиков систем ИИ о том, что грядет третья волна ИИ, потому что все предыдущие подходы не достигли тех целей, которые ставились перед ними, хотя и были успешны в некоторых областях [P Voss, 2017].

В этой статье предлагается некоторый обзор и анализ широкоизвестных подходов к проблеме сознания, в то же время дополненных некоторыми новыми фактами и открытиями из смежных областей исследования. Это позволило предложить новое понятие аффективно-когнитивной сферы, или «небрежных когниций». Эта идея отражает и объясняет реальные и многогранные когнитивные процессы, которые сопровождают человеческую деятельность. Люди не только обладают разными когнитивными и аргументативными процессами с разными сценариями, но и могут соединять их друг с другом во время протекания события или цепочки событий. Рассуждения, кроме наличия классических символических и логических элементов, включают в себя убеждения, предварительные оценки значимости данных или правдоподобности некоторой методологии, исследовательское поведение, ограниченное социальными нормами, и многие другие аспекты. Естественное человеческое рассуждение — экспериментальное, оппортунистское, подверженное влияниям и очень креативное благодаря его сложной природе и вовлеченности ряда сопутствующих процессов, например эмоционального сопровождения. Следовательно, при создании стратегий рассуждения в искусственных агентах следует включать этот смешанный подход для того, чтобы сделать агентов более правдоподобными и реалистичными, а также для достижения реального прогресса в области моделирования искусственных агентов.

СПИСОК ЛИТЕРАТУРЫ

Бабаева Ю.Д. и др. Смысловая теория мышления // Вестн. Моск. ун-та. Сер. 14. Психология. 2008. № 2. С. 26-58.

Тихомиров О.К. Психология мышления: Учебное пособие. М., 1984. Anagnostopoulus C., Hadjiefhymiades S. Situational computing: an innovative architecture with imprecise reasoning // Journal Systematic Software. 2007. Vol. 80, N 12. P. 1993-2014.

Barsalou L.W., Simmons W.K., Barbey A.K., Wilson C.D. Grounding conceptual knowledge in modality-specific systems // Trends in Cognitive Science. 2003. Vol. 7, N 2. P. 84-91.

Bartneck C. Integrating the OCC Model of emotions in embodied characters // Proceedings of the work shop on virtual conversational characters: applications, methods and research challenges. 2002. P. 1-5.

Beuls K., Steels L. Agent-based models of strategies for the emergence and evolution of grammatical agreement // PLoS One. 2013.Vol. 8, N 3.

Bridges M. et al. Agent and multiagent systems: technologies and applications. 2015. Vol. 38.

Brooks ..A. Intelligence without representation // Artificial Intelligence. 1991. Vol. 47, N 1. P. 139-159.

Brooks R.A. "Elephants don't play chess" // Robotic Autonomic Systems. 1990. Vol. 6, N 1. P. 3-15.

Burge T. Truth, thought, reason: Essays on Frege, 2010. Bywater W.G., Argumentation and persuasion in philosophy // Philosophical Rhetoric. 1969. Vol. 2, N 3.

Casacuberta D. Embodying Cognition: a morphological perspective // Thinking machines and the philosophy of computer science: concepts and principles. 2010. P. 344-366.

Costa A., Foucart A. et al. Your morals depend on language // PLoS One. 2014. Vol. 9, N 4.

Coulson S. Semantic leaps: frame-shifting and conceptual blending in meaning construction. Cambridge, 2001.

Damasio A., Meyer K. Behind the looking-glass // Nature. 2008. Vol. 454, N 7201. P. 167-168.

Davidson D. Paradoxes of irrationality // Rational Action Contemporary Approaches. 1990. N 4. P. 145-162.

Douglas M. Thought styles: critical essays on good taste. L., 1996. Dove G. On the need for embodied and disembodied cognition // Frontier Psychology. 2011. Vol. 1.

Fauconnier G., Turner M. Principles of conceptual integration // Discourse cognition. 1998. P. 269-283.

Fauconnier G. Turner M. The way we think: conceptual blending and the mind's hidden complexities. 1st ed. // Basic Books. 2002.

Finocchiaro M. Arguments about arguments. 1st ed. Cambridge, 2005. Gigerenzer G. The irrationality paradox // Behaviour Brain Science. 2004. Vol. 27, N 3. P. 334-337.

Gigerenzer G. Why heuristics work // Perspective Psychological Science. 2008. Vol. 3, N 1. P. 20-29.

Gigerenzer G., HertwigR., Patchur T. Heuristics: the foundations oa adaptive behavior. 2011.

Haiman J. Talk is cheap: sarcasm, alienation and the evaluation of language. Oxford, 1998.

HeisigJ.W. Philosophers of nothingness: an essay on the Kyoto school. 2001.

HertwigR., Herzog S. Fast and Frugal heuristics: tools of social rationality // Social Cognition. 2009. Vol. 27, N 5. P. 661-698.

Hudlicka E. From habits to standards: Towards systematic design of emotion models and affective architectures // Emotion modeling: Towards pragmatic computational models of affective processes. 2014. P. 3-23.

Hutchins E. Cognition in the wild. 1995. P.1-5.

Jayatilleke K.N. The logic of four alternatives. 1967.

Kanal J., Perlis D. Uniform accountability for multiple models of reasoning // International Journal Approximate Reasoning. 1988. Vol. 2, N 3. P. 233-246.

Kyburg H.E. Real logic is nonmonotonic // Minds Machines. 2001. Vol. 11, N 4. P. 577-595.

MacFarlane J. Frege, Kant and the logic in logicism // Philosophical Review. 2002. Vol. 111, N 1. P. 25-65.

Matilal B.K., Evans R.D. International association of Buddhist studies // Buddhist logic and epistemology: studies in the Buddhist analysis of inference and language. 1986.

Nisbett R. The geography of thought: how Asians and Westerners think differently... and why. N.Y., 2003.

Palmer T. Modelling: build imprecise supercomputers // Nature. 2015. Vol. 526. N 7571. P. 32-22.

Pollock J. Irrationality and cognition // Epistemology: new essays. 2008.

Pfeifer R., Bongard J., Grand S. How the body shapes the way we think: a new view of intelligence. 2007.

Russel B. A History of Western philosophy // Philosophical Phenomenological Research. 1953. Vol.14, N 1.

Scholus P. Reason, semantics and argumentation in philosophy // Philosophical Rhetoric. 1971. Vol. 4, N 2. P.183-200.

Simon H.A. Artificial intelligence: an empirical science // Artificial Intelligence. 1995. Vol. 77, N 1. P. 95-127.

Vallverdu J. Bayesians versus Frequentists. Berlin; Heidelberg, 2016.

Voss P. The third wave of AI // Becoming Human. 2017 // URL: https:// becominghuman.ai/the-third-wave-of-ai-1579ea97210b