Предсказательные модели сознания в когнитивных науках и философии

ВЕСТН. МОСК. УН-ТА. СЕР. 7. ФИЛОСОФИЯ. 2015. № 6

М.Д. Терехов*

ПРЕДСКАЗАТЕЛЬНЫЕ МОДЕЛИ СОЗНАНИЯ

В КОГНИТИВНЫХ НАУКАХ И ФИЛОСОФИИ

Статья представляет собой обзор предсказательной модели сознания, развиваемой когнитивным ученым и философом Э. Кларком. Отслеживается ее взаимосвязь с общими тенденциями развития когнитивной науки и более ранними концепциями, а также рассматриваются некоторые философские вопросы, связанные с ней.

Ключевые слова: когнитивная наука, предсказательная модель, расширенный разум, фреймовый подход, ограниченная рациональность.

M.D. T e r e k h o v. Predictive models of mind in cognitive science and philosophy

A predictive model of consciousness developed by cognitive scientist and philosopher Andrew Clark is put under consideration in this article. Possible connections between it and some previous approaches and general trends in cognitive science are traced. Some philosophical implications are also reviewed.

Key words: cognitive science, predictive model, extended mind, framing approach, bounded rationality.

Довольно продолжительное время в психологических науках предполагалось, что когнитивный аппарат человека подобен механизму. В качестве примеров здесь можно упомянуть широко известные модели внимания Дойча и Бродбента, модель памяти Во и Нормана, ранние разработки У. Найссера и мн. др. В качестве общих моментов этих (хронологически близких к «официальному» рождению когнитивистики как исследовательского направления) и некоторых более поздних моделей обычно выделяют следующие: (1) работа сознания аналогична работе компьютера; (2) принятие решений рационально и подчинено логическим правилам; (3) у субъекта, условно говоря, нет тела и социокультурного багажа [A. Ibanez, D. Cosmelli, 2008].

Например, забывание, по Во и Норману (1965), есть монотонная функция от числа так называемых интерференций: каждый раз, когда нечто запоминается, из кратковременной памяти вытесняется более старая информация: «Испытуемым зачитывали спи-

* Терехов Михаил Дмитриевич — аспирант кафедры философии и методологии науки философского факультета МГУ имени М.В. Ломоносова, тел.: 8 (910) 604-54-18; e-mail: stereodrome@yandex.ru

сок из 16 цифр со скоростью 1 или 4 цифры в секунду. Последняя цифра была тестовой и повторялась дважды: в одной из позиций в ходе серии (от 1 до 15) и в конце серии... Чем раньше появлялась тестовая цифра в серии, тем большему числу интерференций она подвергалась» [Когнитивная психология, 2002, с. 93]. Иными словами, первичная память работает механически, по довольно простому правилу, будучи «пассивным продолжением» восприятия.

Однако за прошедшие полвека, которые существует когнити-вистика, экспериментальные исследования породили множество контрпримеров на вышеупомянутые тезисы. Например, при проведении похожих экспериментов с кратковременной памятью 20 лет спустя обнаружилось, что степень интерференции данных зависит от того, каким голосом испытуемому дается команда вспоминать цифры1. Обычно говорят о том, что основополагающая для когни-тивистики компьютерная метафора претерпела эволюцию от представлений о познавательных средствах человека как о механизме или программе, которую этот механизм исполняет, до более «биологически правдоподобных» моделей — модулярных и коннекци-онистских [Р. Тка^^атй, 2006]. Однако современная пролиферация когнитивных исследований, а также заметное «запаздывание» их интерпретации доводит до того, что среди когнитивных ученых и философов появляются сомневающиеся в правомерности/доста-точности2 самой по себе аналогии человеческого мозга и компью-тера3. В частности, даже если продолжать оставаться в фарватере последней (как большинство специалистов, особенно «прикладных»), упомянутые коннекционистская и модулярная идеологии

1 Если цифровой ряд и команда зачитывались одним и тем же голосом, интерференция была выше [Когнитивная психология, 2002, с.101].

2 Одно из принципиальных возражений: «...когнитивное моделирование хорошо подходит для решения большинства проблем когнитивной науки... Такие модели, разумеется, могут объяснять "сознание" в психологических смыслах этого термина, если конструировать его в качестве некоей когнитивной или функциональной способности. Многие из существующих "моделей сознания" при самом благожелательном отношении могут быть истолкованы в этом свете. Мы можем рассматривать их в качестве объяснения способности давать отчеты, внимания, интроспективных способностей и т.д. Но ни одна из них даже не приближается к объяснению того, почему эти процессы должны сопровождаться сознательным опытом» [Д. Чалмерс, 2013, с. 147—148].

3 По крайней мере, компьютера в классическом, фон-неймановском смысле, для которого «характерно разделение пассивных данных и активных операций над ними, причем последние объединены в более или менее сложные, заранее написанные программы» [Б.М. Величковский, 2006, т. 1, с. 126]. Тем не менее «необходимо подчеркнуть, что классическое понятие вычислительного процесса не обязательно исчерпывает понятие вычислительного процесса вообще. Иными словами, вероятно, биологическая система является более эффективным компьютером, чем любой из ныне существующих» [4. Ibanez, D. CosmeШ, 2008].

(разумеется, они обе поддерживаются богатым эмпирическим материалом) оказываются трудносовместимыми, поскольку в неодинаковой степени подходят для описания всего многообразия познавательных процессов4.

В последнее время некоторые авторы говорят о «посткогнити-визме»5 [/. Potter, 2000; A. Ibanez, D. Cosmelli, 2008]. Основных разрывов со «старой» когнитивистикой здесь выделяют три: (1) интен-циональность когнитивных систем; (2) их интерсубъективность и (3) экологию разума6 [A. Ibanez, D. Cosmelli, 2008]. Иллюстрацией может служить так называемая «предсказательная» («predictive») модель сознания — это одна из попыток интегрировать конкретно научные данные, связанные с работой мозга и не вписывающиеся в рамки старого «механицизма». Как пишет один из основных ее апологетов Энди Кларк, «это разносторонний взгляд на основополагающие принципы обучения и принятия решений, способный объединить представления о восприятии, вниманиии и деятельности (action). Новые взаимосвязи между нейробиологией, исследовани-

4 Модулярная и коннекционистская архитектуры принципиально отличаются форматом репрезентаций, поэтому принято считать, что если первая лучше описывает символьные мыслительные процессы, то вторая — субсимвольные (например, отделение фигуры от фона) [Б.М. Величковский, 2006]. В настоящее время предпринимаются попытки создания гибридных архитектур.

5 Термин, как нам видится, еще окончательно не прижился.

6 Хорошо знакомые философам термины, вошедшие в когнитивистику как результат ее взаимодействия с философской традицией, могут пониматься в ней несколько специфическим образом — отчасти под влиянием конкретно научных данных, отчасти по причине относительной несоизмеримости двух дискурсов. Под интенциональностью подразумевается общая целенаправленность когнитивных систем, действующих всегда в предположении результата познавательного процесса. Интерсубъективность означает, что в фокусе когнитивной науки находится принципиально воспроизводимый опыт: «...она совмещается с допущением интенциональности, которое подразумевает субъективность, лишая последнюю солипсистских коннотаций» [A. Ibanez, D. Cosmelli, 2008]; как правило, эта общность обосновывается общим биологическим происхождением когнитивных систем. Экология разума — выражение психолога Г. Бейтсона, подразумевающее укорененность когнитивной системы в конкретном природном и социальном контексте, в котором протекает ее деятельность: «Экология в самом широком смысле изучает взаимодействие и выживание идей и программ (т.е. различий, комплексов различий и т.д.) в контурах... Существует экология дурных идей, как есть экология сорняков» [Г. Бейтсон, 2000]. Совокупность этих положений не получается простым отрицанием классических тезисов (см. выше), скорее, имеет место тенденция создавать более «прагматические» модели, которая неодинаково проявляется в разных когнитивных науках: «Вещи не просто доступны для наших манипуляций — мы с самого начала погружены в последние, и их изначальные пределы формируют наше восприятие и деятельность» [X Gallagher, 2008]. Цитата определенно не лишена ассоциаций с философией М. Хайдеггера — эта фигура в последние десятилетия привлекает все большее внимание когнитивистов (см., например, широко известные работы Х. Дрейфуса и т.п.).

ями искусственного интеллекта, психологией, теорией рационального выбора и телесно-ориентированной (embodied) когнитивной наукой обещают стать одним из основных открытий в науке XXI века» [A. Clark, 2013]. Обзору означенного подхода7 и посвящен нижеследующий небольшой текст.

Модель Э. Кларка основана на довольно простой идее. Внутренняя модель мира, которую выстраивает8 когнитивный аппарат человека, скорее всего далека от идеального соответствия действи-тельности9. Это связано, разумеется, с тем, что у мозга нет прямого доступа к внешним источникам поступающих сигналов, а также с тем, что входящая информация часто является шумной, двусмысленной, неопределенной, да и просто недостаточной для формирования полной картины. Так, мы просто потому, что смотрим с определенной точки в пространстве, обычно видим не объекты в их полноте, а только их части, легко, тем не менее, их идентифицируя. Дело в том, что мозг постоянно делает предсказания относительно мира, сравнивая их с поступающими данными от рецепторов и ликвидируя, таким образом, неполноту последних: мозговые «системы высшего уровня пытаются предсказать входящую информацию систем низшего уровня на основании динамической репрезентации каузальной структуры мира» [ibid., 2013]. При этом, если предсказание оказывается ошибочным, ментальная репрезентация обновляется таким образом, чтобы уменьшить рассогласование с данными рецепторов. По меткому выражению М. Костанди,

7 Преимущественно на материале философских работ Э. Кларка. Помимо того что словосочетание «предсказательная модель» ассоциируется в философии сознания обычно именно с его именем, выбор источников частично продиктован тем обстоятельством, что автор этих строк имел удовольствие лично общаться с Кларком и слушать его выступления на конференции «Сознание и свобода воли в аналитической философии», проходившей на борту парусника Рембрандт ван Рейн у берегов Гренландии в июне 2014 г.

8 «Человеческий мозг содержит около 3—4 миллионов нервных окончаний на периферии и 100 миллиардов — 1 биллион центральных нейронов. Это значит, что только ничтожная часть общей активности человеческого мозга, а именно около одной стотысячной, идет от чувственных органов. Все остальное осуществляется мозгом на основе собственной информации» [А.В. Кезин, 2006].

9 Впрочем, это не мешает Кларку отстаивать подчеркнуто реалистическую точку зрения на познавательный процесс, так как ограниченные представления о мире не тождественны неверным: «...организм может обитать в узко ограниченной нише, при этом представляя мир как он есть. Предполагать обратное, т.е., что одно исключает второе, суть то же, что утверждать, что заставлять машины тормозить не есть предназначение дорожного знака "стоп", поскольку истинное его предназначение — предотвращать аварии... Клещ может "представлять" только то, что ему нужно: концентрацию масляной кислоты (на коже млекопитающего. — М.Т.) и т.п., но это абсолютно совместимо с представлением реальности как она есть: в виде концентраций кислот и т.п.» [P. Mandik, A. Clark, 2002].

«наши перцепции суть лучшая догадка нашего мозга» [И.. Costandi, 2013, р. 168].

Сказанное выше легко поясняется рисунком10: рассматривая крест, мы11, привыкшие читать буквенные надписи по горизонтали слева направо, в первый момент, как правило, читаем «АВС», лишь потом замечая, что в столбик записаны числа и то, что первоначально было распознано как «В», на самом деле «13»! Вообще, предсказательная модель обладает большим потенциалом именно для объяснения когнитивных ошибок и восприятия несуществующих и/или двусмысленных фигур (куб Неккера, утка-заяц и т.д.): в этих случаях субъект имеет дело с равновероятными предсказаниями, а переключение интерпретации изображения зависит от того, как направлено его внимание.

Представим себе сеть нейронов, состоящую из некоторого числа уровней (предсказательная модель предполагает иерархическую обработку). На нижний уровень поступают какие-то внешние сигналы (например, свет, отраженный от предметов). Эти сигналы проходят через сеть снизу вверх, причем каждый уровень предугадывает то, что будет передано от предыдущего, генерируя модель предполагаемого сигнала и производя сравнение. Если между моделью и сигналом имеется совпадение, обработка прекращается. Однако если предсказание расходится с входящими данными, сообщение о возникших ошибках передается на уровень выше. Предсказания этого уровня и репрезентация мира в целом перестаиваются, чтобы повысить вероятность ее совпадения с данными восприятия12. Таким

10 Этот красивый пример демонстрировался Кларком на одном из выступлений на Гренландской конференции.

11 Под местоимением подразумеваются все люди, использующие в повседневном общении язык с горизонтальным письмом слева направо на основе латинского алфавита. Поэтому можно предположить, что настоящий пример, вполне релевантный в англоговорящей или русскоязычной аудитории, не произвел бы впечатление на тех, для кого родной язык, скажем, китайский (хотя, справедливости ради, в настоящее время вертикальное письмо в Китае и других странах юго-востока Азии применяется достаточно редко, в основном в контексте традиционной культуры, на уличных вывесках, в заголовках газет и т.п.).

12 «Байесовский мозг» — такое название, в частности, получила предсказательная модель [A. Clark, 2013; M. Costandi, 2013], поскольку работа описывается известной формулой Байеса для расчета апостериорной вероятности: P(H|E) = = (P(E|H) • P(H))/P(E), где, согласно общепринятой в ИИ интерпретации, P(H|E) — вероятность гипотезы (или, в нашем случе, ментальной репрезентации) H в предположении свидетельства E, P(E|A) — правдоподобие E в предположении гипотезы H, P(H) и P(E) — априорные (до наблюдения E в контексте H) вероятности гипотезы и свидетельства [K. Korb, A. Nicholson, 2004]. Байесовский вывод — это вероятностный вывод по схеме Байеса, который, вероятно, осуществляет мозг, оценивая вероятность предсказаний. «Вместо того чтобы просто репрезентировать "кошка на подушке", байесовский мозг получит функцию плотности условной

образом, модель предполагает два направления связей: восходящие (forward) отвечают за передачу сигналов и остаточных ошибок, а нисходящие (backward) — за собственно предсказание. Так моделируется, в частности, обработка информации в зрительной коре головного мозга [A. Clark, 2013].

В качестве своего идейного предшественника Кларк называет немецкого физика и врача Г. Гельмгольца. В 1860-х гг. Гельмгольц изучал зрение и обнаружил, что «оптическое устройство глаза является недостаточным для того, чтобы зрение было возможно» [D. De Bidder, J. Verplaetse, S. Vanneste, 2013]. Поэтому, вероятно, для формирования видимой картины необходима бессознательная процедура предсказания очертаний объектов, основанная на уже имеющейся информации. Этот принцип лежит в основе работы современной «машины Гельмгольца» и некоторых других коннек-ционистских моделей с возможностью так называемого «обратного распространения ошибки»13. А первая техническая реализациия предсказательного принципа была, по-видимому, порождена практической нуждой сжатия цветных изображений еще в 1950-х гг. [A. Clark, 2013]. В растровой графике, как правило, по характеристикам отдельно взятой точки можно с большой вероятностью определить характеристики точек, непосредственно ее окружающих. Соответственно, для передачи изображения достаточно закодировать только «непредсказуемые» его регионы и значительно сэкономить на размере графического файла. Можно, например, заменить информацию о соседствующих пикселях одного цвета на информацию об их числе и цвете или привести информацию о цвете этих пикселей к некоторому среднему значению, если вариация цвета незаметна для человеческого глаза (так работают, соответственно, форматы PCX (больше не используется) и JPEG).

Физико-математическую подоплеку предсказательной модели сознания дал нейрофизиолог Карл Фристон. Всякая адаптирующаяся система стремится к оптимизации своей работы, сопротивляясь естественной тенденции к возрастанию энтропии (она фиксируется вторым началом термодинамики). Ключевой чертой

вероятности, отражая вероятность данного положения вещей в свете доступной информации (а также альтернативных ему положений, если им найдены подтверждения)» [A. Clark, 2013].

13 Основным теоретиком и практиком метода обратного распространения ошибки является Дж. Хинтон. В подобных моделях ответ нейронной сети на некоторый стимул сравнивается с «предсказанием», хранящимся в памяти, а затем результат пропускается через сеть по направлению от выхода к входным элементам. В ходе этого процесса изменяется прочность связей между «нейронами», уменьшая, таким образом, расхождение первичного ответа с предсказанным [Б.М. Ве-личковский, 2006].

живых систем в долгосрочной перспективе является сохранение го-меостатического равновесия: «.репертуар... состояний, в которых может существовать организм, ограничен, эти состояния определяют фенотип организма... и вероятность того, что система будет в каком-либо состоянии из этого небольшого числа, очень высока, в то время как вероятность пребывания в состояниях, не входящих в это число, мала» [K. Friston, 2010]. В краткосрочной перспективе сохранение равновесия трансформируется в избегание неожиданного. Чтобы прояснить, как это происходит, Фристон сформулировал «принцип свободной энергии» («free-energy principle»). Свободная энергия14 — это фактически мера различия между ожидаемыми и реальными данными восприятия, которую мозг стремится уменьшить для повышения предсказуемости и эффективности взаимодействия организма с миром: «.ошибки предсказаний свидетельствуют о наличии свободной энергии, которая математически всегда превышает неожиданность (степень несовместимости некоторых чувственных данных и модели мира15). Энтропия в информационно-теоретическом ее смысле есть неожиданность в долгосрочной перспективе, и уменьшение свободной энергии суть формирование улучшенной ментальной репрезентации, дающей

14 Понятие «свободной энергии» в работе Фристона не является аналогичным понятию термодинамической свободной энергии. Для интересующихся: если быть точнее, то параметры, описывающие свободную энергию, познание и деятельность, у Фристона следующие (нотация несколько отличается): (1) внутренние состояния мозга m и обеспечивающие его связь с реальностью; (2) сенсорные данные S и (3) деятельность A; (4) общая ментальная модель M, генерирующая предсказания; реальность описывается как совокупность скрытых состояний, их причины V включают в себя: (5) собственно скрытые состояния X и (6) параметры O и погрешности Y, описывающие случайные флуктуации (колебания некоторых физических величин) W и Z.

Соответственно:

— внешние состояния — функция X, A и V X=f (X, A, V) + W;

— данные ощущений — функция X и V: S = g (X, V) + Z;

— внутренние состояния мозга и деятельность — функции минимизации свободной энергии;

— и собственно свободная энергия — функция плотностей двух условных вероятностных мер — q (Vm) и p (S, VM). Первая мера — так называемое узнавание — соотносит некоторое состояние мозга и его внешние причины, вторая — соотносит общую ментальную модель и пары типа (сенсорная информация + внешняя причина): F = — < l np (S, VM) > q + < lnq (VM) > q. Последняя формулировка позволяет Фристону продемонстрировать, что деятельность может уменьшить свободную энергию только путем селективного отбора данных, а восприятие для этой цели модифицирует предсказательные конфигурации посредством байесовского вывода. Подробнее об этом см. в работе [K. Friston, 2010].

15 Математическая формулировка Фристона: неожиданность (surprise, surpri-sal) — отрицательный логарифм вероятности результата предсказания (см. также предыдущую сноску).

меньше ошибочных предсказаний» [A. Clark, 2013]. Свободная энергия является функцией двух переменных: данных органов восприятия и плотности узнавания (recognition density) — «вероятностного представления о том, что явилось причиной именно такого восприятия» [K. Friston, 2010]. Последняя определяется как раз ментальной репрезентацией. Соответственно, уменьшить свободную энергию можно только двумя способами: изменить восприятие посредством осуществления в мире некоторых действий или изменить степень узнавания посредством изменения репрезентации.

Все сказанное выше подразумевает, что познавательная деятельность протекает в некоторой ограниченной нише, соответственно модель мира, выстраиваемая многократным применением байесовского вывода, также локальна. Избирательность и неполнота репрезентаций — неизбежное следствие предсказательной модели — находит свое отражение в мозговых структурах, чему в нейронауке имеются подтверждения. В относительно старой работе Кларка есть любопытный пример: изучение нейробиологами мозга мартышек выявило, что работа пальцев обезьяньей руки контролируется пятью участками моторной зоны коры М1, соседствующими друг с другом. Естественно, на первый взгляд, предположить, что, например, сгибание трех пальцев одновременно вызовет активацию трех зон и т.п., иными словами, чем сложнее движение, которое необходимо произвести, тем сложнее окажется соответствующий ему активационный паттерн. Это было бы «инженерное» решение, пишет Кларк, но природа поступает иначе. Оказывается, что для осуществления некоторых сложных движений рук (с использованием всех пальцев, например, поднятие некоторого предмета) требуется активировать гораздо меньше нейронов, чем для того, чтобы двинуть одним пальцем! Кларк поясняет: «.смысл становится ясен с эволюционной точки зрения: ...базовым является именно захват (так как необходим, чтобы держаться за ветви, двигаться, брать фрукты и т.п.), поэтому фундаментальные нейронные адаптации предназначены для осуществления простых команд, изначально предполагающих взаимодействие многих мышц и сухожилий для достижения координации. Атомарным и эволюционно базовым является именно «сложный» случай» [A. Clark, 1998]. Для различения «инженерной» и «природной» стратегий Кларк использует неологизм «wetware»16 по аналогии с «soft-

16В данном случае по причине отсутствия (столь очевидной, как в английском языке) игры слов в русском языке далее по тексту «^е^аге» (как и следующий неологизм, «wideware») не переводится. Небезынтересно, что впервые это слово (практически в современном значении) появилось в научно-фантастической литературе, перекочевав впоследствии в нейронауку.

ware», компьютерным кодом (или, соответственно, функционированием мозга, понятым аналогично работе программы). «Wetware» подразумевает акцент на неустранимых особенностях «вычисляющего» субстрата — живой материи, его укорененность в конкретной нише существования организма — в противовес допущению классических исследований ИИ, что «одни и те же программы могут быть запущены на разных, в смысле физической реализации элементов, компьютерах» [Б.М. Величковский, 2006, т. 1, с. 116].

С концептом «wetware» тесно связан другой — «wideware»17. Если мы видим человеческий мозг не столько как, по характерному выражению основоположников когнитивистики, «универсальный решатель задач», а как орган ситуативного контроля, легко прийти к выводу, что используемые нами в повседневной жизни внешние приспособления инкорпорированы в сценарии решения проблем и соответственно часть функций, предположительно выполнявшихся в классической когнитивистике нашим мозгом, по крайней мере частично, передана этим приспособлениям. «Используя множество вещей, нотаций, практик и медиа, мы реструктурируем физическую и социальную реальность, делая ее более дружественной нашему мозгу. Мы кодируем продукты в магазинах разными цветами, ездим налево/направо согласно дорожным знакам, печатаем цены на ценниках. Во множестве временных перспектив с помощью многих средств (слова, уравнения, графики, прочие агенты18, картинки и все современные компьютерные технологии) мы пытаемся уменьшить затратность предсказаний в бесчисленном множестве контекстов, начиная с покупок в магазинах и социализации и заканчивая астрономией, философией, логикой... » [A. Clark, 2013]. Концепт «wideware» наводит на определенные размышления по поводу источника аналогии между компьютерами и познавательными способностями человека19, а также приводит

17 Часто Кларк также пользуется выражением «расширенный разум» («extended mind»), подразумевая сумму software + wetware + wideware. Собственно, концепция расширенного разума и принесла ему большую популярность в философском сообществе.

18 «Под «агентом» может пониматься любая нетривиальная часть некоторой более широкой среды, ситуативно адаптированная к ней и проявляющая какие-либо другие признаки интеллектуального поведения... Это может быть программа вычислений, компьютер в сети, мобильный робот и, конечно же, живой организм» [Б.М. Величковский, 2006, т. 2, с. 316].

^Подразумевается упоминавшаяся выше компьютерная метафора. Ее часто приводят в качестве примера необычной междисциплинарной трансляции, когда технические науки внесли неожиданно существенный вклад в психологию (традиционно гуманитарную). В свете рассуждений Кларка трансляция выглядит закономерной: поскольку компьютер является расширением человеческого мозга, как, например, пинцет является расширением кисти руки, они должны быть объединены некоей общей логикой функционирования.

к переинтерпретации самого свойства агентности. С одной стороны, замечает Кларк, внешняя когнитивная машинерия (даже в виде банальных заметок в блокноте) помогает людям, больным болезнью Альцгеймера, оставаться полноценными членами общества. С другой стороны, распространим эту логику на все общество — пусть теперь в любой познавательной ситуации действует не человек, а человек + компьютер (или какое-либо иное приспособление или их совокупность). В таком случае, по замечанию Д. Деннета, лишение человека когнитивной поддержки является, по сути, разрушением его личности [А.С1агк, 1998]. Как иронически выразился в своем известном эссе Н. Карр, «поскольку мы, чтобы добиться нашего понимания мира, полагаемся на компьютеры, именно наш собственный мозг превращается в искусственный интеллект» [К. Сагг, 2008].

С вопросом о том, что значит быть агентом, связан традиционный философский вопрос о свободе воли, активно обсуждаемый сегодня в свете результатов когнитивных исследований. В общем и целом современные дискуссии по этому поводу разворачиваются между лагерями так называемых компатибилистов (признают совместимость свободы воли и детерминизма), инкомпатибилистов (не признают совместимости: мир детерминирован, следовательно, свободы воли существовать не может) и либертарианцев20 (человек является единственным источником собственных решений в индетерминистическом мире). Предсказательная модель не дает однозначного ответа на вопрос о существовании свободы воли (в частности, учитывая сравнительную нечеткость значения этого выражения), однако позволяет объяснить, почему наши действия сопровождаются соответствующим субъективным переживанием. Оно эволюционно необходимо для выработки системы принятия решений. Мозг создает конкурирующие репрезентации действительности, предполагающие разные действия в качестве своих следствий. Таких репрезентаций может быть, в принципе, бесконечно много, но реальный выбор производится из определенного числа альтернатив в пользу той, которая оказывается наиболее вероятной в свете активного исследования мира. Поэтому в абсолютном смысле свобода воли иллюзорна: внутренние ограничения выбора всегда существуют, однако без иллюзии контроля выбора само по себе распознавание некоторого решения как выгодного окажется невозможным [Б. Бе Шййет, I. Уегр1ае1зе, 8. Уаппез1е, 2013].

20 Иногда либертарианство рассматривается как вариант инкомпатибилизма.

127

В качестве завершения обзора мне представляется необходимым отметить, что идеи, прописанные в рассмотренных работах Кларка, обсуждаются в когнитивистике достаточно продолжительное время. Например, очевидной21 и вполне правомерной ассоциацией, на мой взгляд, является междисциплинарный фреймовый подход (М. Минский, Р. Шенк, Г. Бейтсон, Т. ван Дейк22 и др.). Фрейм, согласно известному когнитивисту М. Минскому, представляет собой структуру представления23 некоторой типичной ситуации. Внутри фрейма обычно выделяют жесткое понятийное ядро, несущее наиболее определенную, основополагающую для ситуации информацию, и совокупность терминалов, по умолчанию заполненных конкретными значениями. Вхождения данных в терминалы непостоянны и могут быть изменены в ходе работы фрейма в познавательном процессе.

Довольно многие рассуждения Кларка перекликаются с рассуждениями Минского, общей у них также является конкретно научная база (преимущественно данные психологии восприятия). Для сравнения можно привести фрагмент, написанный в 1974 г.: «Отправным моментом для данной теории служит тот факт, что человек, пытаясь познать новую для себя ситуацию или по-новому взглянуть на уже привычные вещи, выбирает из своей памяти некоторую структуру данных (образ), называемую нами фреймом, с таким расчетом, чтобы путем изменения в ней отдельных деталей сделать ее пригодной для понимания более широкого класса явлений или процессов» [М. Минский, 1979, с. 7]. Фреймы, включая некоторую информацию, исключают другую, они «должны поставлять ожидания» [Р. Шенк и др., 1989] и обладать, соответственно, большей или меньшей предсказательной силой.

Разумеется, ставить знак равенства было бы минимум некорректно: два подхода хронологически довольно далеки друг от друга; можно, например, указать в качестве момента различия то обстоятельство, что работы Кларка написаны с очевидной оглядкой на достижения коннекционистской парадигмы, а работа Минского писалась задолго до того, как коннекционизм стал мейнстримом

21 Не менее очевидной ассоциацией из прошлого явилась бы другая теория 1980-х гг. — теория перцептивного цикла классика когнитивной науки У. Найссе-ра, возникшая в ответ на возражения Дж. Гибсона и его сторонников против конструктивистской точки зрения на познание: «...эта теория, по сути дела, сводится к круговому взаимодействию окружения, знания (схем) и перцептивной активности» [Б.М. Величковский, 2006, т. 1, с. 229].

22 Во взглядах фреймовых теоретиков, в частности названных, существуют существенные расхождения, которые в рамках данной статьи выносятся за скобки.

23 В памяти компьютера или человека — для теории Минского это принципиально безразлично.

в когнитивных исследованиях24; некоторые конкретно научные данные в его аргументации уже устарели. Интересно также, что на фрейм-теоретиков Кларк в своих статьях практически не ссылает-ся25 (несмотря на основательное знакомство с когнитивной роботи-кой и вообще исследованиями ИИ). Скорее, и в случае Минского, и в случае Кларка на материале когнитивистики двух поколений развертывается сходная идея «локальности»26 представления. По сути, речь идет о создании некоторого множества субуниверсу-мов27, взаимосвязи между которыми и полнота суммарной картины определены практическими нуждами (во многом потому, что простроение больших фреймовых систем пока оказывается невыполнимой задачей): сравните хотя бы следующие две цитаты: «...визуальная система даже не пытается создавать цельную детальную модель сцены, напротив, посредством саккадических движений извлекает из нее информацию в нужном объеме и в нужное время с точки зрения определенной проблемной ситуации» [A. Clark, 1998] и «.совершенствованию фреймо-представлений в целом, видимо, способствовали требования пространственного зрительного

24 Первые нейронные сети появились еще в 1930-х гг., однако (при всех полученных интересных результатах) оказались неспособны к осуществлению простейших логических операций, что существенно ограничивало продуктивность исследований в этом направлении до 1980-х гг., когда архитектура сетей претерпела некоторые принципиальные трансформации [Б.М. Величковский, 2006]. Минский посвятил нейронным сетям часть ранних работ и имеет ряд неоспоримых заслуг в области нейрокомпьютинга, однако в целом в его теории «изучение мыслительных процессов отделено от вопросов происхождения и развития систем ИИ» [М. Минский, 1979, с. 11], и выбор способа репрезентации, скорее, является в данном случае техническим вопросом.

25 Что может, в принципе, свидетельствовать не только о разрыве временного, но даже и «пространственного» характера: Энди Кларк — сотрудник университета Эдинбурга, а исследования фреймов связаны преимущественно с американской научной традицией (МТИ, Беркли, Йельский университет и др.).

26 То, какие внутри- и вненаучные предпосылки делают эту идею не менее обсуждаемой, чем 30 лет назад, — а для когнитивистики, официально существующей около 60 лет, это очень много! — отдельный интересный вопрос и возможное направление будущего авторского исследования.

27 Употребление именно этого слова требует оговорки — мне хотелось подчеркнуть аспект эксклюзивности любой ментальной модели: ее использование предполагает накладывание на данные восприятия некоторой рамки, что означает исключение некоторой части данных из рассмотрения, принятие определенной логики, включение специфических сценариев и т.п. Впрочем, вопрос о том, изоморфны ли ментальные репрезентации действительности и каким образом происходит «наложение», в когнитивной науке открыт до сих пор, и, в частности, даже радикально «неогибсонианская» точка зрения, заключающаяся в том, что реальность есть наилучшая собственная модель (соответственно изначально центральное для когнитивистики понятие ментальной репрезентации становится излишним), имеет сегодня заметное число сторонников [Б.М. Величковский, 2006].

восприятия... Не следует думать, что мы сразу получим глобальную картину мира; вначале мы будем располагать эгоцентрическими полярными представлениями, основанными на связях между парами различных объектов или между объектом и каким-либо опорным направлением» [М. Минский, 1979, с. 106—107].

Другая возможная ассоциация, возникающая, в частности, при интерпретации Кларком иллюзий восприятия (вроде буквенно-числового креста, приведенного на иллюстрации выше) — это так называемые модели ограниченной рациональности (Г. Саймон, Д. Канеман, Г. Гигеренцер и др.). В некотором смысле они являют собой вариацию фреймового подхода. Американский психолог Даниель Канеман посвятил свою научную жизнь исследованию разного рода когнитивных ошибок. Взяв в качестве предпосылки идею Г. Саймона о двух типах рациональности28, Канеман рассуждает о независимых системах принятия решений: система 1 отвечает за автоматические быстрые решения, зачастую имеющие эмоциональную окраску, а система 2 — за поэтапные медленные, доступные интроспекции и рациональному контролю. Если в контексте системы 2 принято говорить о логических правилах, то в контексте системы 1 говорят об эвристиках: «.упрощенных стратегиях, зачастую ускоряющих нахождение решения, но не гарантирующих его со 100% вероятностью» [Б.М. Величковский, 2006, т. 2, с. 179]. Значительный корпус экспериментальных данных свидетельствует о том, что «поскольку умственное усилие ограничено (конкурирующие. — М.Т.), процессы, требующие его вложения, разрушают друг друга, а не требующие легко сочетаются с другими, не влияя на их ход и не испытывая влияния с их стороны»29 [Б. КаНпвшап, 2003]. Соответственно, в условиях перегрузок когнитивного аппарата, принятия решения в условиях неопределенности, в течение очень ограниченного времени и т.д. «побеждает» система 1, подсказывая интуитивные, стереотипные решения про-

28 «Теория рациональности, не берущая в рассчет все сложности решения задач, заведомо несовершенна. Хуже, чем несовершенна: она может ввести в заблуждение, поставляя "решения"... проблем, неприложимые к реальной жизни... сложность задач может быть уменьшена за счет снижения требований к их решению: т.е. мы ограничиваемся решениями, аппроксимирующими оптимум, или заменяем критерий оптимальности на критерий удовлетворительности» [Г. Саймон, 1993]. Интересно, что и Саймон, и Канеман являются лауреатами Нобелевской премии по экономике, поскольку теории ограниченной рациональности совершили переворот в исследованиях потребительского поведения и нашли множество приложений.

29 Это частный случай принципа «когнитивной экономии» [Б.М. Величковский, 2006, т. 2, с. 31], по-видимому, основополагающего для большинства теорий когнитивной науки.

блем30. Иногда они оказываются ошибочными, как, например, в следующем эксперименте: школьникам предлагалось за несколько секунд оценить произведения следующих чисел: 1-2-3-4-5-6-7-8 и 8-7-6-5-4-3-2-1. Средние значения ответов составили соответственно 512 и 2250 при правильном ответе 40320. Даже тот очевидный факт, что произведения равны, практически незаметен в такой «экстремальной» ситуации принятия решения [Д. Канеман, 2014]. Как обычно предполагается, приоритетность системы 1 по отношению к системе 2 связана, в частности, с относительной «молодостью» последней, поскольку она возникает в процессе социальной эволюции человека.

Рассуждения же Кларка о «wideware» и «расширенном разуме» также вызывают мгновенные ассоциации с не менее узнаваемой областью, чем исследования фреймов, — исследованиями науки и технологий (8Т8). Благодаря усилиям таких ученых, как К. Кнорр-Цетина, Б. Латур, Дж. Лоу и мн.др., в современную социологию науки (и не только) вошла идея, что люди и приспособления, которыми те пользуются в повседневной жизни, одинаково интересны для исследователя и должны быть симметричным образом изучены, поскольку возможности человеческого познания и формы общественной организации являются во многом функцией непосредственного контекста повседневных взаимодействий (в частности, вещной, физической его части) и неотделимы от такового: «...например, глобальные финансовые рынки не могут существовать без символической репрезентации и анализа торговых процессов

30 Однако если у Кларка и у Минского предполагается возможность перестройки модели, дающей неверное предсказание, то в случае теорий ограниченной рациональности нивелировать ошибки интуитивного мышления способна только система 2 путем рационального контроля умственных операций, но границы ее применения изначально уже. Впрочем, опираются эти теории также на несколько разный материал: данные психологии восприятия (преимущественно зрительного, хотя Фристон и вслед за ним Кларк настаивают на применимости предсказательной модели к работе всего мозга в целом: «.предсказательный процесс предполагает, что деятельность и восприятие имеют общую логику, более того, они схожи с "вычислительной" точки зрения... Восприятие представляется нам как процесс сопоставления входных данных с последовательностью нисходящих предсказаний (в разных временных перспективах). Моторная деятельность, движение ничем не отличается, кроме того, что... (далее Кларк цитирует Фристо-на. — М.Т.) "в моторных системах сигналы об ошибках подавляются не при помощи нейронных эффектов, а посредством осуществления движений, в результате которых изменяются наборы как внешних, так и внутренних стимулов"... Касаемо нашего поведения, как ни парадоксально, предсказания не только предшествуют ощущениям, они детерминируют ощущения» [A. Clark, 2013]) и теории принятия решений. В более социологически ориентированных вариантах фреймового подхода детерминация «ошибки» может не быть жесткой.

информационными агентствами. Иными словами, реальность глобальных рынков — это реальность на экране... Практики создания экранной реальности должны быть изучены относительно предполагаемых ими стратегий создания и оценки знаний, поскольку... разные виды творческой деятельности создают разные эпистеми-ческие культуры» [K. Knorr Cetina, 2001].

Сделаем финальные замечания. Предсказательная модель сознания, экземплифицированная выше работами Э. Кларка, является типично посткогнитивным явлением. Невозможно не разделять оптимизм Кларка по поводу объяснительного потенциала предсказательного принципа, с другой стороны, приведенное во второй сноске замечание об ограничениях когнитивного моделирования вполне относится и к предсказательной модели: она предлагает изящные решения «легких» проблем, оставляя принципиальный вопрос о том, почему работа мозга сопровождается сознанием, за скобками. Также сравнение модели Кларка с некоторыми предшествующими в когнитивной науке свидетельствует о том, что основные ее идеи обсуждались задолго до ее появления, следовательно, она является, скорее, неким подведением итогов довольно продолжительного периода в истории когнитивной науки. На данный момент автор склонен предположить, что указанное обстоятельство является следствием неизменности в течение последних десятилетий некоторой общекультурной логики. Это предположение определяет одно из возможных направлений дальнейшего исследования.

СПИСОК ЛИТЕРАТУРЫ

Бейтсон Г. Теория игры и фантазии // Экология разума. М., 2000.

Величковский Б.М. Когнитивная наука: Основы психологии познания: В 2 т.). М., 2006.

Канеман Д. Думай медленно... решай быстро. М., 2014.

Кезин А.В. Натуралистический подход в современной эпистемологии // Философия науки: Исторические эпохи и теоретические методы. Воронеж, 2006.

Когнитивная психология / Под ред. В.Н. Дружинина, Д.В. Ушакова. М., 2002.

Минский М. Фреймы для представления знаний. М., 1979.

Саймон Г. Рациональность как процесс и продукт мышления // Thesis. 1993. Вып. 3.

ЧалмерсД. Сознающий ум: в поисках фундаментальной теории. М., 2013.

Шенк Р. и др. К интеграции семантики и прагматики: Новое в зарубежной лингвистике. М., 1989. Вып. 24.

Carr N. Is google making us stupid? // The Atlantic. July/August. 2008 (русский перевод опубликован здесь: http://articles.org.ru/cn/showdetail.php?cid=7804).

Clark A. Where brain, body, and world collide // The Brain. 1998. Vol. 127 (2).

Clark A. Whatever next? Predictive brains, situated agents, and the future of cognitive science // Behavioral and Brain Sciences. 2013. Vol. 36 (3).

Friston K. The free-energy principle: A unified brain theory? // Nature Reviews Neuroscience. 2010. Vol. 11 (2).

Gallagher S. Intersubjectivity in perception // Continental Philosophy Review. 2008. Vol. 41.

Ibanez A., Cosmelli D. Moving beyond computational cognitivism: Understanding intentionality, intersubjectivity and ecology of mind // Integrative Psychological and Behavioral Science. 2008. Vol. 42.

CostandiM. 50 ideas you really need to know the human brain. L., 2013.

Kahneman D. A perspective on judgment and choice: Mapping bounded rationality // American Psychologist. 2003. N 9.

Knorr Cetina K. Objectual practice // The practice turn in contemporary theory, L., 2001.

Korb K., Nicholson A. Bayesian artificial intelligence. L., 2004.

Mandik P., Clark A. Selective representing and world-making // Minds and Machines. 2012. Vol.12.

Ridder D. de, Verplaetse J., Vanneste S. The predictive brain and the «free will» illusion // Frontiers in Psychology. 2013. Vol. 4.

Potter J. Post-cognitive psychology // Theory & Psycholgy. 2000. Vol. 10.

Thagard P. Cognitive science // Routledge companion to the philosophy of science. L., 2008.