ВОЗМОЖЕН ЛИ ИСКУССТВЕННЫЙ ПРЕПОДАВАТЕЛЬ?

Алексеева Е.А. Возможен ли искусственный преподаватель? // Технологос. - 2020. - № 4. - С. 40-55. DOI: 10.15593/perm.kipf/2020.4.04

Alekseeva E.A. Is an Artificial Teacher Possible? Technologos, 2020, no. 4, pp. 40-55. DOI: 10.15593/perm.kipf/2020.4.04

DOI: 10.15593/perm.kipf/2020.4.04 УДК 37:004.89

ВОЗМОЖЕН ЛИ ИСКУССТВЕННЫЙ ПРЕПОДАВАТЕЛЬ? Е.А. Алексеева

Государственный академический университет гуманитарных наук, Москва, Россия

О СТАТЬЕ

АННОТАЦИЯ

Получена: 01 октября 2020 г. Принята: 05 ноября 2020 г. Опубликована: 19 января 2021 г.

Ключевые слова: искусственный интеллект, образование, когнитивная наука, теории обучения, когнитивный капитализм, акторы, ассамбляжи, киборг.

Статья посвящена актуальной проблеме - перспективе частичной или полной замены педагогов искусственным интеллектом. Реальность такой замены оценивается как возрастающая с развитием технологий разработки искусственных интеллектуальных систем. В то же время даже потенциальное замещение людей-педагогов искусственным интеллектом и робототехникой вызывает огромное количество вопросов, которые должны рассматриваться с разных точек зрения: когнитивной, социальной, технологической и т.п. Философский ракурс обеспечивает рефлексивную интеграцию этих точек зрения.

Обозначены наиболее заметные современные проекты, связанные с применением искусственного интеллекта в образовании. Систематизированы типы интеллектуальных систем, используемых в образовании. Показано, что все они имеют различную степень антропологичности.

Рассмотрены прежде всего когнитивные аспекты проблемы искусственного интеллекта в образовании. Исследована связь представлений о возможности замены педагогов искусственными системами с различными подходами к пониманию ключевых принципов образования и обучения. В то же время присутствует и социально-критический подход, показывающий, что замена педагогов искусственными интеллектуальными системами -это составляющая когнитивного капитализма.

Автор статьи предлагает переформулировать проблему и рассматривать применение искусственного интеллекта в образовании не как замещающую, но как дополняющую технологию. Это означает, что искусственные системы берут на себя определенные функции, работая в симбиозе с педагогом-человеком и отчасти исполняя роль тьютора.

Используя акторно-сетевую теорию и онтологию ассмамбляжей, обращаясь к ки-бер- и ксенофеминистской трактовке понятия «киборг», автор показывает, что преподаватель совместно с искусственным интеллектом может образовывать человеко-машинную систему. В этом случае искусственный интеллект проявляет не отчуждающий, но эмансипирующий потенциал.

© ПНИПУ

© Алексеева Екатерина Алексеевна - кандидат философских наук, доцент, e-mail: alteratum@gmail.com, ORCID https://orcid.org/0000-0002-0006-5942

© Ekaterina A. Alekseeva - Candidate of Sciences in Philosophy, Associate Professor, e-mail: alteratum@gmail.com, ORCID https://orcid.org/0000-0002-0006-5942

Эта статья доступна в соответствии с условиями лицензии Creative Commons Attribution-NonCommercial 4.0 International License

This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License

IS AN ARTIFICIAL TEACHER POSSIBLE?

Ekaterina A. Alekseeva

The State Academic University for the Humanities, Moscow, Russia

ARTICLE INFO

ABSTRACT

Received: 01 October 2020 Accepted: 05 November 2020 Published: 19 January 2021

Keywords:

artificial intelligence, education, cognitive science, learning theories, cognitive capitalism, actors, assemblage, cyborg.

The article is devoted to the urgent problem - the prospect of partial or complete substitution of teachers for artificial intelligence. With the progress of technologies related to the artificial intelligent systems development the reality of such substitution is estimated as increasing one. At the same time, even the potential substitution of human teachers for artificial intelligence and robotics raises zillion of questions which should be considered from different points of view: cognitive, social, technological, etc. The philosophical perspective provides a reflective integration of these points of view.

The most prominent contemporary projects of using artificial intelligence in education have been revealed in the article. The types of intelligent systems used in education are systematized. It is shown that all of them have a different degree of anthropology.

Primarily cognitive aspects of the problem of artificial intelligence in education have been considered in the article. The connection of ideas about the possibility of teachers' substitution for the artificial systems with various approaches to understanding the key principles of education and training is investigated. At the same time, there is a socially critical approach showing that the substitution of teachers for the artificial intellectual systems is a component of cognitive capitalism.

The author of the article proposes to reformulate the problem and consider the use of artificial intelligence in education not as a substitutional but as a supplementing technology. This means that artificial systems assume certain functions working in symbiosis with a human teacher and partly playing the role of a tutor.

Using the actor-network theory and the ontology of assemblages, referring to the cyber-and xenofeminist interpretation of the concept of "cyborg" the author shows that the teacher together with the artificial intelligence can form a human-machine system. In this case artificial intelligence shows emancipation potential but not alienating one.

© PNRPU

Введение

«Искусственный преподаватель» - так можно назвать совокупность ряда уже существующих, а также гипотетических проектов, основанных на применении искусственного интеллекта и робототехники в образовании. Использование искусственного интеллекта в образовании - это не настолько новый тренд, как может показаться на первый взгляд. Автор книги «25 лет технологий в образовании» (25 Years of Ed Tech) М. Веллер отмечает, что использование искусственного интеллекта в образовании - это одна из повторяющихся образовательных тенденций, и она то входит в моду, то выходит из нее [1]. Более того, еще в 1973 году в аналитическом отчете Д. Лайтхилла, в котором была высказана пессимистическая оценка перспектив отрасли искусственного интеллекта, применение ИИ в сфере образования обозначалось как одна из важных задач, которая тем не менее едва ли когда-нибудь будет решена [2].

Если говорить о современном витке обозначенной технологической «моды», то интерес к искусственному интеллекту в образовании снова стал заметен примерно с 2016 года. Возвращение этого интереса можно связать с тем, что образование ассимилирует в себе технологии, уже доказавшие свою успешность в других областях, и к 2016 году удачные стартапы в сфере ИИ показали перспективность интеллектуальных технологий, хотя их применение в образовании все еще достаточно проблематично [1, с. 158]. Но, возможно, «более важными являются не технологические, а этические проблемы искусственного интеллекта в образовании ... Возможно, самый большой вклад ИИ будет заключаться в том, чтобы заставить нас понять, насколько действительно важны люди в системе образования» [1, с. 160].

Отдельные образовательные задачи могут быть решены и уже успешно решаются с помощью так называемого специального искусственного интеллекта, т.е. систем, спроектированных для решения именно этих специфических задач. Такой искусственный интеллект «сосредоточен на очень конкретном сценарии, который он успешно реализует: используется как компьютерная обучающая система для обучения предметным знаниям в STEM на основе решения пошаговых задач» [3, с. 590].

В то же время сохраняется стремление спроектировать так называемый общий искусственный интеллект (AGI), обладающий широким спектром компетенций и значительной антропоморфностью. В настоящее время таким критериям соответствует скорее только интерфейс, реализованный в диалоговых интеллектуальных системах, аватарах и антропоморфных роботах. Но при этом антропоморфный робот или продвинутый искусственный интеллект, занимающий место преподавателя, - это вполне самоочевидная технократическая фантазия, ставшая уже «общим местом» техноутопических образовательных проектов, как вполне научных, так и фантастических. В настоящее время существует несколько образовательных экспериментов, направленных на реализацию этой фантазии в попытках создать искусственного преподавателя. Такие эксперименты вызывают в одних кругах энтузиазм, а в других - некоторые тревожные ощущения.

Тревоги эти связаны в том числе с исследованиями влияния развития компьютерных технологий на структуру рынка труда. Такие исследования зачастую предполагают составление списка профессий, которые исчезнут или будут до неузнаваемости изменены с развитием искусственного интеллекта и робототехнических систем, причем речь даже не идет о появлении общего искусственного интеллекта, достаточно и усовершенствования специализированного. В то же время существует мнение, что «искусственный интеллект окажет влияние не на количество рабочих мест, а скорее на их суть» [4, с. 22].

В исследовании 2019 года «Как роботы меняют мир» (How Robots Change the World) отмечается, что областью занятости, в наибольшей степени подверженной изменению в связи с роботизацией и внедрением искусственного интеллекта, является промышленное производство, но никак не сфера образования [5, с. 19]. Также существенное влияние эти технологии могут оказать на сферу обслуживания, где рутинные операции и базовое взаимодействие с клиентами могут выполнять искусственные системы [5, с. 25]. Если обратиться к исследованию рынка отечественного онлайн-образования за 2019 год [6], то только в 6 % образовательных проектов применяется искусственный интеллект, а еще в 6 % используются роботы. В исследовании «Будущее работы: как новые технологии меняют задачи» (The Future of Work: How New Technologies Are Transforming Tasks) указывается, что сложные компетенции и творческие навыки будут по-прежнему востребованы, хотя сама структура занятости изменится [7].

Несмотря на опасения педагогического сообщества, предполагается, что работа педагога связана с эмоциональным взаимодействием, а не только с трансляцией знаний и формированием навыков, поэтому искусственные системы не могут заменить живого учителя. Однако тут же возникает вопрос: а если искусственная система будет разработана таким образом, чтобы максимально достоверно воспроизводить эмоции и налаживать эмоциональный контакт с учащимся, можно ли считать ее равнозначной учителю-человеку? Если эта система проходит тест Тьюринга хотя бы в 30 % случаев (а такие системы, как мы знаем, уже существуют, например известный Eugene Goostman [8]), догадается ли учащийся, что перед ним не педагог-человек, и ухудшит ли это процесс обучения? Нужен ли в этом случае педагог-человек вообще?

Надо также отметить, что сама мысль о том, что представителя такой интеллектуальной, эмоциональной и специфической сферы, как образование, можно заменить искусственным интеллектом или антропоморфным роботом, вызывает экзистенциальное сопротивление. Если мы еще готовы смириться с тем, что функции физического и элементарного обслуживающего труда, в том числе и достаточно сложные, можно и даже нужно отдать техническим системам, то интеллектуальный труд, по крайней мере креативная его часть, воспринимается как принципиально нетехнизируемый. Если мы можем признать, например, что работа продавца в супермаркете - это действительно отчужденный труд, который может выполнять искусственная система, то работа учителя выглядит для нас как труд, который не столь подвержен отчуждению.

Мы попытаемся ответить на вопрос: в какой степени искусственный интеллект способен встать на место педагога-человека? И для начала обозначим нескольких существующих проектов в области применения искусственного интеллекта в образовании. Это поможет понять, какие интеллектуальные системы подразумеваются, когда речь идет об искусственном преподавателе.

Искусственный интеллект и роботы в образовании: значимые проекты

Одним из наиболее показательных проектов в области применения искусственного интеллекта и робототехники в образовании можно считать робота-гиноида Bina48, разработанного компанией Hanson Robotics еще в 2010 году. Этот робот представляет собой в прямом смысле слова «говорящую голову», способную поддерживать диалог, как это делают чат-боты. Более того, этот гиноид - копия реально существующей женщины, Бины Ротблатт, которая передала роботу свою внешность, мимику, знания и элементы персонального опыта.

В настоящее время разработано довольно много аналогичных систем, включая известного робота Sophia или гиперреальных роботов компании Promobot. Эти роботы обладают мимикой и могут имитировать эмоции как выражением лица, так и голосом. Bina48 использовалась в качестве одного из преподавателей на курсе политической философии в Вест-Пойнте; она обладала обширной базой знаний по проблематике курса, вела лекцию, отвечала на вопросы учащихся. Именно данный эксперимент заставляет исследователей утверждать, что «пока эти попытки еще находятся на экспериментальной стадии, но мы прогнозируем, что роботы-инструкторы станут более способными и доступными в ближайшем будущем... Хотя роботы не могут полностью заменить людей-инструкторов, они могут помочь студентам улучшить учебный опыт и достичь определенных результатов обучения» [9, с. 102].

Несмотря оптимистические прогнозы и растущую популярность подобных систем, воспроизводящих человеческую мимику и отображающих черты человеческого лица, в том числе своих человеческих прототипов, их применение в сфере образования пока все же остается в области экзотических экспериментов. Это связано в том числе с тем, что таким роботам присущ так называемый эффект «зловещей долины», при котором слишком антропоморфные роботы выглядят гораздо более отталкивающе, чем менее человекообразные модели. Этот эффект достаточно подробно исследован, хотя точные причины его неизвестны. Некоторые исследователи предполагают, что эффект «зловещей долины» может стать одним из основных препятствий для применения в образовании антропоморфных обучающих агентов, к которым можно отнести и гиперреальных антропоморфных роботов [10, с. 286].

Подобная проблема характерна и для некоторых других вариантов «искусственного преподавателя», таких как преподаватели-аватары. Использование анимированных систем с искусст-

венным интеллектом достаточно распространено в современных образовательных продуктах. Примером такой системы является так называемый «учитель Уилл», представляющий собой программу, обладающую интерфейсом в виде хорошо анимированного аватара. Этот аватар способен довольно правдоподобно имитировать мимику реального человеческого лица. Он стал частью образовательного проекта в области экологии и проводил занятия в школах Новой Зеландии по теме «Правильное использование энергии». Этот искусственный учитель отвечал на вопросы школьников, а также задавал им вопросы, чтобы проверить степень усвоения материала. Общение происходило в реальном времени с помощью голосового взаимодействия, школьникам не нужно было набирать вопросы и ответы на клавиатуре. Отмечалось, что ученики проявляли большой интерес к изучаемому предмету, но связан он был, видимо, с тем, что привлекательной казалась сама новая технология, заменившая рутину привычных уроков с живым учителем.

Еще один пример применения искусственных интеллектуальных систем в образовании -это ставшие уже повседневностью в сфере обслуживания клиентов чат-боты. Один из значимых примеров использования такой технологии в образовании - это чат-бот, искусственная ассистентка Джилл Уотсон. Она была разработана одним из профессоров Технического института Джорджии, уставшим отвечать на бесконечные однотипные вопросы студентов. Чат-бот в основном отвечал на вопросы, касающиеся организации учебного процесса, но также давал пояснения по учебному материалу. Программа была составлена так хорошо, что многие студенты даже не догадывались, что их ассистент - это чат-бот, а не реальная женщина. И, конечно, уровень этой программы был гораздо выше уровня чат-ботов в банках или интернет-магазинах. Такие программы даже предлагается называть не чат-ботами, а когнитивными ассистентами, поскольку они обладают рядом особенностей, в том числе «способностью вести разговоры, гораздо больше похожие на человеческие, ... по сравнению с обычными ботами» [11, с. 8].

Другой способ применения искусственного интеллекта в образовании - это создание интеллектуальных обучающих систем, которые обладают не внешним, визуальным антропоморфизмом, а только функциями педагога. Такие системы разрабатываются уже несколько десятилетий, а одним из наиболее ярких примеров последнего времени является китайский проект Squirrel AI Learning - онлайн-школа внеклассного индивидуального обучения в области математики и китайского языка. Алгоритмы искусственного интеллекта оценивают уровень ученика и адаптируют под него учебные задания, помогая закрывать пробелы. Были проведены исследования, в ходе которых эта система показала лучшие результаты обучения для определенной группы заданий, чем обучение с реальным учителем [12, с. 3174]. Тем не менее отмечается, что необходимо изучить также и долгосрочные результаты обучения с помощью данной системы.

Все приведенные примеры показывают, что в качестве искусственного преподавателя могут использоваться интеллектуальные системы с разной степенью антропоморфности: от воспроизведения человеческих когнитивных функций в компьютерной среде до сочетания искусственного интеллекта и внешнего антропоморфизма. Их объединяет несколько признаков: взаимодействие с учащимся с помощью вербальных и невербальных средств, способность направлять и/или координировать учебные действия, анализ поведения учащегося и реакция на него. Предполагается, что такая система способна выполнять ряд специфических функций, таких как помощь при организации учебного процесса, ассистирование при работе с учебным материалом, передача определенных знаний, формирование навыков в процессе обучения. Возникает вопрос: в какой степени все эти качества и функции могут позволить искусственной системе играть роль учителя и в чем состоит основная цель применения таких систем?

Для чего нужен искусственный преподаватель?

Кроме очевидных экономических соображений, согласно которым издержки на создание и поддержку искусственных систем потенциально должны быть меньше, чем издержки на подготовку педагога и оплату его работы (хотя в настоящее время это спорный вопрос), можно выявить и цели создания искусственных преподавателей, продиктованные соображениями образовательной эффективности. Здесь, однако, возникает вопрос, действительно ли при внедрении искусственных педагогов во главу угла будет поставлена именно образовательная, а не экономическая эффективность.

Если говорить о тех задачах, которые искусственный интеллект и робототехника могут решать или уже решают в процессе обучения (а именно на этом аспекте образования делается основной акцент при разработке и применении образовательного ИИ), то речь идет в первую очередь о формировании адаптивных стратегий обучения и того, что также можно назвать индивидуальной образовательной траекторией. Предполагается, например, что применение искусственного интеллекта поможет решить так называемую проблему двух сигм, поставленную еще Д. Блумом. Суть ее состоит в том, что учащийся, обучающийся по индивидуальному плану один на один с преподавателем, учится на 98 % эффективнее, чем те, кто обучаются по стандартной общей программе [13, с. 14]. Преподаватель-человек вряд ли сможет составить такую индивидуальную образовательную программу для каждого из достаточно большой группы учащихся. «В настоящем классе нет возможности предоставить учителя каждому ученику. Однако продвинутые технологии электронного обучения могут стать хорошим кандидатом на роль такого персонального учителя, адаптирующего материал курса в зависимости от стилей обучения и предпочтений каждого учащегося» [14, с. 12]. Такая адаптация требует анализа большого объема данных, в первую очередь формализованных параметров каждого учащегося.

Искусственная интеллектуальная система, применяемая в обучении, основана на «модели учащегося внутри самой системы, способствующей эффективной образовательной поддержке или взаимодействию с учащимся... С другой стороны, зачастую трудно создать адекватную модель учащегося, в которой представлены, например, механизмы овладения навыками более высокого порядка, такими как решение проблем, поскольку это неструктурированные области» [15, с. 3]. Очевидно, что именно создание модели учащегося, исходя из которой будет анализироваться, к примеру, учебный прогресс, выбираться методика обучения или строиться взаимодействие, вызывает существенные концептуальные и методологические сложности.

В первую очередь возникает проблема того, какие именно «параметры» учащегося и каким образом будут формализованы и станут учитываться искусственной системой. Каким образом будут размечены для обработки, скажем, искусственной нейронной сетью стимулы, вызывающие интерес у данного ученика? Здесь необходимо изначально создать такую модель учащегося, в которой бы учитывались структурируемые параметры, например индивидуальные особенности каналов восприятия информации или способы ее систематизации. Однако могут ли такие параметры быть полностью структурированы и формализованы, не получится ли так, что представленная модель будет не столько репрезентировать параметры когнитивного опыта учащегося, сколько определять их?

Допустим, вполне возможно проанализировать с помощью технологий айтрекинга, какие визуальные стимулы вызывают наибольший отклик у того или иного учащегося. Можно пойти еще дальше, проведя анализ его/ее интернет-активности, отображающей структуру персональных интересов, под которые может быть адаптирован процесс обучения. Фактически подобные подходы уже используются в маркетинге. Тогда все интересы, в том числе и

тайные, о которых может не знать никто из окружения человека, станут доступны искусственной системе. Получится, что искусственный преподаватель может предлагать наилучший вариант обучения как с содержательной стороны, так и со стороны способов развития необходимых навыков, поскольку «знает» об ученике практически все.

Здесь, однако, возникают определенные сложности. Прежде всего, искусственная интеллектуальная система, анализирующая потребности учащегося и во многом определяющая его судьбу, несет в себе опасность так называемых Biases in AI, то есть предрассудков, возникающих в системе искусственного интеллекта. Спектр этих предрассудков вполне традиционен: гендерные, этнические, расовые, статусные и т.п. Источники этих предрассудков разнообразны, они основаны как на предубеждениях разработчиков, так и на особенностях работы самих систем [16, с. 404]. Зачастую эти предрассудки сложно отрефлексировать, до такой степени они укоренены в систему повседневных представлений и кажутся само собой разумеющимися. Основываясь на этих предубеждениях, система начнет оценивать те или иные параметры учащегося как более или менее значимые, фактически давая упрощающую оценку комплексным человеческим способностям и неоднозначности персонального опыта. Казалось бы, у «живого» преподавателя тоже есть система когнитивных искажений, интерференции его собственного опыта и набор предрассудков. В чем же состоит его отличие от искусственного интеллекта?

Отличие здесь можно увидеть в степени тотальности, в том, что человеческий субъект не может полностью «поймать» другого в сеть собственных предрассудков, непроизвольно оставляя некоторый «зазор» для свободы воли. Если же мы говорим об искусственной системе, то суммирование большого числа параметров (которые основаны на представлениях о значимости, заложенных разработчиками) предполагает, что все персональные особенности учащегося будут интерпретироваться только как набор свойств, предустановленных искусственной системой. Представим себе гипотетическую ситуацию, при которой учащемуся будут предлагаться только такие учебные курсы и такие методы обучения, которые основаны на данных, полученных искусственной системой. При этом система, редуцируя учащегося до представленной в ней модели, может лишить его образовательный опыт всякой спонтанности, неожиданных, но значимых эффектов, внезапных инсайтов. Л. Сачмен, указывая на то, что для человеческих действий необходима спонтанность и контингентность, которые разработчики интеллектуальных систем стремятся нивелировать, замечает: «Но почему разработчики вычислительных технологий все чаще проявляют желание натурализовать их, скрывать их артефактность? Мне кажется, это желание отчасти родственно желанию, стоявшему у истоков объективистской науки: желанию исчезнуть и поставить на свое место нечто трансцендентное, существующее независимо от чьих-либо действий» [17, с. 311].

Тут можно провести аналогию с тестами на коэффициент интеллекта (IQ) и вообще с тес-тологическим подходом к оценке когнитивных способностей. Классические IQ-тесты вполне справедливо подвергались критике, поскольку были ориентированы на определенные способы интеллектуальных действий, характерные для некоторой культуры. Такие тесты не учитывают неявных интеллектуальных параметров и того, что интеллектуальные действия могут совершаться по множеству сценариев, зачастую совершенно не очевидных для разработчиков тестов. Эффект предубеждений разработчиков тестов тут также играл существенную роль.

Получается, что такой сложный когнитивный процесс, как обучение, не может обойтись без некоторого «зазора» для свободной воли и спонтанной активности, что отмечается в том числе в работах, посвященных когнитивным инструментам обучения [18, с. 283]. В то же время интеллектуальные системы направлены на максимальную формализацию познавательной

и поведенческой активности учащихся, что дает чрезмерно детерминистскую модель персональной образовательной активности. Однако не следует полагать, что исключение жесткого детерминизма делает процесс обучения полностью нерациональным, лишенным всяких детерминаций и несовместимым с использованием интеллектуальных систем. В работах приверженцев компатибилистского подхода показано, что определенные варианты детерминизма вполне совместимы со свободой воли [19, 20].

В данном контексте необходимо рассмотреть вопрос, должны ли в принципе «естественный» и «искусственный» преподаватель находиться в строго дизъюнктивных отношениях, когда применение интеллектуальных систем в образовании полностью вытесняет преподавателя-человека. Для исследования этого вопроса нужно обратиться к тому, на каких представлениях об обучении построено само представление о вытеснении «естественного» преподавателя искусственной системой.

Представления об обучении

В настоящее время существует большое количество философских, педагогических, психологических, нейронаучных и других подходов к определению того, что представляет собой процесс обучения, каковы его основные составляющие. В отечественной педагогике любят выделять две противоположных парадигмы: традиционную (формирующую) и гуманистическую или личностно ориентированную. Предполагается, что в первом случае происходит передача устоявшейся системы знаний и культурного опыта с помощью набора универсальных традиционных методик. Во втором случае в центре как образования в целом, так и обучения находится межсубъектное взаимодействие участников образовательного процесса. С точки зрения технологической фундированности образовательного процесса выделим не противоположные образовательные парадигмы, а две предельных позиции, которые обозначим как информационно-когнитивную и экзистенциально-персоналистскую. Различные образовательные подходы можно расположить по степени большей или меньшей принадлежности к этим крайним позициям.

Информационно-когнитивная позиция в теории обучения восходит еще к аналитическому и критико-рационалистическому направлению в философии образования, также там присутствуют и элементы бихевиоризма. Но в целом эта позиция сформировалось в контексте когнитивной науки «первого поколения», исследовавшей когнитивную сферу с точки зрения процессов переработки информации. Наиболее показательной с этой точки зрения является так называемая «компьютерная метафора мышления», на основании которой проводятся аналогии между когнитивными процессами и компьютерными программами, поскольку те и другие осуществляются по определенным алгоритмическим правилам. Такое представление о когнитивных процессах, укорененное еще в классической метафизике, характерно в наибольшей степени для символьного подхода в искусственном интеллекте и когнитивистике, но и коннекционизм, и модульный подход предполагают, что когнитивные процессы могут быть описаны с помощью различных репрезентативистских вычислительных моделей [21].

Подобный подход в когнитивистике хорошо согласуется с самой идеей применения интеллектуальных систем в образовании. Эта идея исходит из того, что методы обучения, формат учебного контента, структура образовательной среды, интеллектуальная система обучения должны быть основаны на актуальных знаниях, полученных в результате нейронаучных и когнитивно-психологических исследований. Фактически используется то, что эмпирически известно о памяти, внимании, мышлении, для разработки более эффективных способов обучения. Так, например, в Колумбийском университете проводился эксперимент, в ходе которо-

го результаты лабораторных когнитивных исследований были применены при разработке компьютерной обучающей системы. Утверждается, что учащиеся продемонстрировали высокие образовательные достижения [22]. Логично предположить, что подобная система может быть автономной и обходиться без педагога вообще, а если педагог и необходим, то сам он также играет роль обучающей системы и даже инструмента обучения.

Этот подход ложится в основу разработки интеллектуальных систем обучения, которые достаточно успешно применяются для формирования у учащихся навыков в определенных предметных областях. Они хорошо адаптированы под те учебные задачи, которые можно эффективно формализовать. Примером таких систем являются Algebra Tutor или ActiveMath. Этим системам не хватает антропоморфности, которую демонстрировали «учитель Уилл» или Bina48, но в функциональном отношении они решают определенный спектр проблем, таких как тренировка навыков учащихся в индивидуальном темпе и с обратной связью, даже лучше, чем педагог-человек [23]. В то же время критики интеллектуальных систем обучения отмечают, что спектр их учебного применения ограничен и они не позволяют достигать учащимся глубокого понимания изучаемой области.

Информационно-когнитивный подход к обучению реализуется в таких образовательных направлениях, как классический учебный дизайн (Instructional Design). В этом случае он дает систематизированную основу для педагогической деятельности. Также он может рассматриваться как базис для так называемой «доказательной педагогики», где предполагается, что все обучение основывается на методах, доказавших свою эффективность в ходе эмпирических исследований (концепция возникла по аналогии с доказательной медициной) [24]. В то же время сама идея доказательной педагогики, основанной на когнитивных исследованиях, подвергается критике, поскольку в ходе педагогического исследования «релевантность отдельных факторов варьируется, и эти изменения зависят от влияния контекста» [25, с. 22]. К тому же надежды, возлагавшиеся на компьютерную метафору мышления как универсальную теорию когнитивных процессов, не оправдались, а какой-либо общепринятой теории психики и интеллектуальной сферы когнитивная наука не смогла предложить, и это проявляется, в частности, в том, что для проблемы соотношения физического и ментального (mind-body problem) до сих пор не найдено однозначного решения.

Экзистенциально-персоналистский подход, восходящий к феноменологическим, экзистенциалистским, диалогическим вариантам педагогической антропологии, предполагает, что в центре образовательной деятельности лежит личный опыт учащегося. Соответственно, обучение, как и другие составляющие образовательного процесса, направлено на работу с этим личным опытом, на раскрытие уникальных личностных свойств, а также на приобщение к системе культурных смыслов и ценностей. Образовательная деятельность здесь рассматривается как область межсубъектных взаимодействий, где происходит развитие индивидуальности со всем набором когнитивных, аффективных и прочих характеристик. В отличие от информационно-когнитивного подхода, предполагающего генерализацию методов обучения, экзи-стенциально-персоналистский подход настаивает на необходимости понимания образовательных запросов каждого учащегося. Акцент на экзистенциальной стороне образовательного процесса дает возможность найти место для свободы выбора и спонтанности получения знаний. Очевидно также, что данный подход будет однозначно отвергать саму возможность замены педагога интеллектуальной системой.

Претензии, предъявляемые к данному подходу, основываются на том, что он исходит из весьма расплывчатых дефиниций, не предлагая ясного определения того, что понимает-

ся под «личностью», что рассматривается в качестве ее уникальных свойств, которые необходимо раскрыть. Кроме того, данный подход мешает сделать методологию обучения по-настоящему научной, найти эмпирически обоснованные методы организации образовательного процесса.

Возникает вопрос, действительно ли два этих принципа несовместимы между собой, а также оставляет ли совмещение этих подходов какое-либо место для применения искусственного интеллекта в образовании. Прежде всего нужно отметить, что современная когнитивная наука отходит от компьютерной метафоры мышления и тех моделей переработки информации, с точки зрения которых когнитивные процессы изначально рассматривались. Согласно М. Фаликман, «основным вектором в развитии современной когнитивной науки можно считать ее возвращение от абстрактной "системы переработки информации" обратно к человеку -существу, наделенному физическим телом с определенными анатомическими и физиологическими особенностями, имеющему определенные потребности, испытывающему эмоции, наконец, включенному в социум и находящемуся в непрерывном взаимодействии с другими людьми, а также развивающемуся в этом взаимодействии» [26, с. 15]. Соответственно, в поле зрения исследователей попадает взаимосвязь когнитивной сферы и телесного, эмоционального, персонального, социального опыта, сложность которых не может изучаться на основе компьютерной метафоры мышления. Происходят попытки совместить объективное исследование когнитивных феноменов «от третьего лица» с помощью эмпирических естественнонаучных методов с феноменологическим описанием опыта «от первого лица» [27]. Предлагается концепция distributed cognition, которая предполагает, что процесс получения знаний или формирования навыков в ходе обучения - это не только алгоритмизируемый процесс, но и часть неявного взаимодействия, которое невозможно формализовать во всех его аспектах. Именно взаимосвязь когнитивного и других форм опыта позволяет рассматривать обучение как процесс, требующий субъектных способов взаимодействия, и даже если мы создаем рационально обоснованную и подкрепленную результатами когнитивных исследований модель обучения, это не только не исключает, но и требует уникального опыта педагога. Д. Дирксен говорит по этому поводу: «Вспомните ваш самый успешный опыт обучения. Каким он был? ... Никто не говорил мне: "У меня был суперучебник"... Чаще всего мне отвечали: "У меня был прекрасный преподаватель."» [27, с. 11].

Таким образом получается, что стремление заменить педагогов искусственными системами нельзя считать нейтрально обоснованным с точки зрения когнитивной науки. Это связано скорее со стремлением идеологически фундировать максимальное вытеснение педагогов с рынка труда, перевести педагогическую работу в разряд отчужденных действий. Такова одна из составляющих духа нового когнитивного капитализма: «В условиях когнитивного капитализма источником стоимости перестает быть абстрактно понимаемый труд, для современного капитализма производительной силой является уже не собственно труд, но индивидуальный опыт, интеллектуальные и творческие способности человека, воображение в широком смысле коммуникативных способностей и мотиваций к труду и общению, которое в этой связи также понимается в качестве специфической формы труда, доступного капитализации на рынке услуг» [29, с. 199]. При этом использование интеллектуальных технологий зачастую задействует архаические модели обучения [30]. Тем не менее процесс технологизации интеллектуальных функций, по всей видимости, неизбежен, применение интеллектуальных систем в образовании будет только нарастать, поэтому необходимо обозначить когнитивный и эмпансипацион-ный потенциал этого процесса.

Человеко-машинный ассамбляж в образовании вместо искусственного преподавателя

Замена людей во всей полноте их человеческих свойств искусственными системами - это одна из самых распространенных техноутопий и, возможно, один из самых навязчивых техно-мифов современности. Подобный техномиф возникает из-за того, что технические объекты становятся все более интеллектуальными и во все большей степени эксплицитно выступают в качестве акторов. Возникает необходимость найти онтологические основания для взаимодействия людей и этих объектов без элиминации свойств тех либо других. Именно это позволит не игнорировать возможности применения искусственного интеллекта в образовании, но в то же время отказаться от стремления заменить естественных преподавателей искусственными.

С точки зрения акторно-сетевой теории или объектно-ориентированной онтологии субъекты и объекты располагаются в единой онтологической плоскости [31, 32]. Более того, «есть лишь один вид сущего - объекты. Как следствие, люди не исключаются, но скорее являются объектами среди объектов различных видов, существующих в мире или населяющих его, и каждый из видов обладает своими особенными силами и способностями» [33, с. 20]. Приняв этот постулат, есть риск довести десубъективацию до предела, когда пропадает возможность говорить о необходимости сохранения субъектности (в данном контексте еще и психологизированной субъектности преподавателя). Казалось бы, объектно ориентированная онтология неизбежно предполагает возможность замены субъектов объектами (поскольку они равнозначны), в частности замену людей системами искусственного интеллекта. Возможен и обратный процесс, основанный на отчуждении: «Учителя, работающие как роботы, являются гораздо более вероятным сценарием, чем их прямая замена роботами» [34, с. 122].

Однако нет необходимости возвращаться к метафизике субъекта и всем издержкам кор-реляционизма, ей сопутствующим [35]: возможна такая онтология, для которой специфичность субъектности будет присуща без обращения к классической метафизике субъекта. И это не только такая интерпретация объектно ориентированной онтологии, которая не предполагает дегуманизации субъекта, но и акторно-сетевая теория, и концепция ассамбляжей. Несмотря на определенные различия данных подходов, они содержат ряд положений, которые могут стать инструментом для анализа того, каким образом взаимосвязаны люди-педагоги и интеллектуальные системы в образовательном процессе.

Например, акторно-сетевая онтология предполагает, что субъекты и объекты, естественные и искусственные системы - это различные типы акторов, обладающих агентностью и связанных сетями взаимодействий. Агентность и взаимосвязанность - это общее свойство всех акторов, но в остальном им не обязательно быть одинаковыми и совершенно равнозначными, так же, как в объектно ориентированной онтологии Л. Брайанта объектам различного типа могут быть присущи различные силы и способности. В таком случае часть этих акторов может обладать специфическими свойствами, такими как субъектность, спонтанность, свобода воли. В этом случае, как показывает, например, Л. Сачмен, человеческое не уравнивается в правах с нечеловеческим, поэтому говорить о замене человеческих акторов нечеловеческими мы в принципе не можем. В этом контексте технологически фундированная система образования будет построена как совокупность ассамбляжей, представляющих собой сложное пере-структрирующееся взаимодействие акторов-людей, обладающих телесностью, социальностью, широким спектром когнитивно-аффективных свойств, и акторов искусственных систем.

Образующиеся человеко-машинные ассамбляжи действуют как целостности, взаимосвязь компонентов которых придает им спецефические эмерджентные свойства [36]. Можно

даже сказать, что такие ассамбляжи представляют собой сложные киборганические системы, если и не напрямую соответствующие киберфеминистскому утопическому киборгу Д. Харау-эй [37], то по крайней мере постепенно стирающие границы искусственного и естественного без замены одного другим. Получается то, что можно назвать «расширенным когнитивным киборгом», когда искусственное не интегрируется непосредственно в «ткань» органического, но создает с ним общую систему, направленную на реализацию когнитивных функций. Такая система предполагает вынесение вовне части когнитивных процессов, как это происходит с точки зрения концепции «расширенной психики» (extended mind) Э. Кларка [38].

Агентность искусственной составляющей человеко-машинного ассамбляжа формируется за счет так называемого делегирования компетенций, когда человеческая способность совершать определенное действие переходит к искусственной системе, при этом способ совершения действия может существенно измениться. Это касается как сложных технологий, например интеллектуальных систем, так и самых обыденных предметов: допустим, человеческая способность удерживать предмет может быть делегирована полке или вешалке. Получается, что способность совершать определенные действия переходит к неживым объектам, все они становятся агентами, воздействующими на других агентов [39]. В то же время такое делегирование компетенций возможно только на основе предшествующего человеческого опыта. С этой точки зрения в процессе образования часть функций может быть делегирована интеллектуальной системе.

Образовательные функции, которые возможно делегировать интеллектуальной системе, достаточно разнообразны, поскольку сама образовательная деятельность весьма неоднородна. Она включает в себя множество сложных креативных действий, коммуникативные взаимодействия, стратегическое планирование, дифференцированные подходы к обучению и т. п. В то же время многое здесь связано с рутинными процедурами, коммуникативными шаблонами, формализованными правилами, а также с необходимостью анализа большого объема данных.

Именно для анализа большого объема данных в первую очередь можно использовать интеллектуальные системы в образовании, при этом спектр применения такого анализа достаточно широк. Прежде всего он необходим для разработки индивидуальных образовательных траекторий, поскольку в этом случае требуется поиск закономерностей в большом объеме плохо структурированной информации. Сами индивидуальные образовательные траектории могут разрабатываться с помощью различных гибридных интеллектуальных систем. Их можно использовать для коррекции учебной активности в соответствии с индивидуальным запросом обучающегося. При этом принципиальные решения все равно принимаются на основании взаимодействия учащегося и педагога, интеллектуальная система здесь скорее предлагает определенные варианты как рекомендательный сервис.

Другое возможное направление для применения интеллектуальных систем в образовании - это поиск и систематизация учебного материала по тем параметрам, которые задает преподаватель. В данном случае возможны интеллектуальные системы такого типа, которые помогут подобрать формат и содержание учебного материала в соответствии с целями обучения. Преподаватель здесь делегирует искусственной системе ряд функций смыслового поиска.

Существует ряд рутинных процедур в организационно-методической работе, которые может взять на себя искусственный интеллект. При этом применение чат-ботов может быть оправданно для ассистирования учащимся, для решения однотипных организационных вопросов, но также и для проверки некоторых учебных результатов и формирования определенных навыков. Вообще формирование навыков, требующее многократной отработки и предсказуемой обратной связи, является одним из наиболее реалистичных способов использования интеллектуальных систем в образовании.

Таким образом, искусственные интеллектуальные системы, если применять их в сфере образования, несут в себе скорее функции тьюторов, а не преподавателей. В настоящее время уже существует опыт разработки таких искусственных тьюторов, представляющих собой варианты специализированного искусственного интеллекта [40]. Такие системы являются показательной реализацией делегирования компетенций и наделения искусственных систем агент-ностью, но не предполагают никакой квазисубъектности, которая могла бы вытеснить субъ-ектность преподавателя.

С точки зрения таких философско-политических направлений, как ксенофеминизм или левый акселерационизм [41, 42], развитие технологий и связанная с ними интенсификация антропологических преобразований несет в себе не только отчуждающий, но и эмансипационный потенциал. Делегирование определенных функций интеллектуальным системам, ориентирующееся на когнитивную, а не экономическую целесообразность, высвобождает когнитивные ресурсы педагога. В этом случае создание человеко-машинных ассамбляжей, симбиоз субъектов образовательного процесса с интеллектуальными технологиями дает возможность построить новые образовательные стратегии.

Список литературы

1. Weller M. 25 Years of Ed Tech. - Canada, Athabasca University: AU Press, 2020. - 210 p.

2. Lighthill J. Artificial Intelligence: A General Survey. - URL: https://aitopics.org/doc/clas-sics:D8235CF9/ (accessed 31 October 2020).

3. Roll I., Wylie R. Evolution and Revolution in Artificial Intelligence in Education // International Journal of Artificial Intelligence in Education. - 2016. - No 26. - P. 582-599.

4. Доэрти П., Уилсон Д. Человек + машина. Новые принципы работы в эпоху искусственного интеллекта / пер. c англ. О.М. Сивченко. - М.: Манн, Иванов и Фербер, 2019. - 304 с.

5. How Robots Change the World. - URL: https://cdn2.hubspot.net/hubfs/2240363/ Report%20-%20How%20Robots%20Change%20the%20World.pdf (accessed 31 October 2020).

6. Исследование рынка онлайн-образования в России [Электронный ресурс]. - 2019. -URL: https://drive.google.com/file/d/1t-gafwZlP-eJ3yiabGNR4mtwDznzDNhq/view (дата обращения: 19.05.2020).

7. The Future of Work: How New Technologies Are Transforming Tasks, 2019. - URL: https://mitibmwatsonailab.mit.edu/wp-content/uploads/2020/02/The-Future-of-Work-How-New-Technologies-Are-Transforming-Tasks2.pdf (accessed 19 May 2020).

8. Warwick K., Shah H. Can Machines Think? A Report on Turing Test Experiments at the Royal Society // Journal of Experimental & Theoretical Artificial Intelligence. - 2016. - Vol. 28, iss. 6. - P. 989-1007.

9. Knox J., Wang Yu., Gallagher M. (Eds.) Artificial Intelligence and Inclusive Education. -Springer, 2019. - 222 p.

10. Veletsianos G. How do Learners Respond to Pedagogical Agents that Deliver Social-oriented Non-Task Messages? Impact on Student Learning, Perceptions, and Experiences // Computers in Human Behavior. - 2012. - Vol. 28, iss. 1. - P. 275-283.

11. Developing Cognitive Bots Using the IBM Watson Engine / N. Anand, P. Aggarwal, S. Barua, N. Sabharwal. - Berkeley, CA: Apress, 2020. - 112 p.

12. Cui W., Xue Z., Thai K. Performance Comparison of an AI-Based Adaptive Learning System in China // Proceedings of the 2018 Chinese Automation Congress (CAC). - Xi'an, China, 2018. - P. 3170-3175.

13. Bloom B. The 2 Sigma Problem: The Search for Methods of Group Instruction as Effective as One-to-One Tutoring Authors // Educational Researcher. - 1984. - Vol. 13, no. 6. - P. 4-16.

14. Moharm K. A Framework for Adaptive Personalized E-learning Recommender Systems // International Journal of Intelligent Information Systems. - 2019. - No 8(1). - P. 12-17.

15. Nagao K. Artificial Intelligence Accelerates Human Learning. - Singapore: Springer, 2019. - 152 p.

16. Liang L., Acuna D.E. Artificial Mental Phenomena: Psychophysics as a Framework to Detect Perception Biases in AI Models // Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency. - US, N.Y.: Association for Computing Machinery, 2020. - P. 403-412.

17. Сачмен Л. Реконфигурации отношений человек-машина. Планы и ситуативные действия / пер. с англ. А. Максимовой. - М.: Элементарные формы, 2019. - 480 с.

18. Mourlas C., Tsianos N. Germanakos P. Cognitive and Emotional Processes in Web-Based Education: Integrating Human Factors and Personalization. - IGI Global, 2009. - 568 p.

19. Clarke R. Dispositions, Abilities to Act, and Free Will: The New Dispositionalism // Mind, New Series. - 2009. - Vol. 118. - No. 470. - P. 323-351.

20. Dennett D. Freedom Evolves. - London: Penguin Books, 2003. - 368 p.

21. Andler D. From Paleo- to Neo-Connectionism. Ed. Van de Vijver G. New Perspectives on Cybernetics. - Netherlands: Kluwer Academic Publishers, 1992. - P. 125-146.

22. Metcalfe J., Kornell N. Principles of Cognitive Science in Education: The Effects of Generation, Errors, and Feedback // Psychonomic Bulletin & Review. - 2007. - Vol. 14. - P. 225-229.

23. Nkambou R., Bourdeau J., Mizuguchi R. Advances in Intelligent Tutoring Systems. - Berlin; Heidelberg: Springer-Verlag, 2010. - 505 p.

24. Kind V. Development of Evidence-Based, Student-Learning Oriented Rubrics for Pre-Service Science Teachers' Pedagogical Content Knowledge // International Journal of Science Education. -2017. - No 5. - P. 911-943.

25. Brügelmann H. Evidence-Based Pedagogy? // PÄDAGOGIK. - 2015. - Vol. 67. -No 10. - P. 46-51.

26. Фаликман М. Когнитивная наука: основоположения и перспективы // Логос. -2014. - № 1 (97). - С. 2-17.

27. Gallagher S., Zahavi D. The Phenomenological Mind. - Routledge, 2012. - 288 p.

28. Дирксен Д. Искусство обучать / пер. с англ. О.В. Долговой. - М.: Манн, Иванов и Фербер, 2017. - 440 c.

29. Ноговицин О.Н. Когнитивный капитализм и новая педагогика: марксистская транскрипция «общества знания» // Журнал социологии и социальной антропологии. - 2018. -№ 21 (5). - С. 183-208.

30. Алексеев А.Ю. Компьютер оценивает человека? Комплексный тест Тьюринга против комплексного компьютерного тестирования в вузовском образовании // Полигнозис. -2009. - Т. 37, № 4. - С. 129-141.

31. Жижек С., Хамза А., Руда Ф. Читать Маркса / пер. Д. Кралечкина. - М.: Изд. дом ВШЭ, 2020. - 173 c.

32. Харман Г. Имматериализм. Объекты и социальная теория / пер. с англ. А. Писарева. -М.: Изд-во Ин-та Гайдара, 2018. - 152 c.

33. Брайант Л. Демократия объектов / пер. с англ. О.С. Мышкина. - Пермь: Гиле Пресс, 2019. - 320 c.

34. Selwyn N. Should Robots Replace Teachers?: AI and the Future of Education (Digital Futures). - Polity, 2019. - 160 p.

35. Мейясу К. После конечности: Эссе о необходимости контингентности. — Екатеринбург; М.: Кабинетный ученый, 2016. - 196 c.

36. Melitopoulos A., Lazzarato M. Machinic Animism // Deleuze and Guattari Studies. -2012. - No 6 (2). - P. 240-249.

37. Харауэй Д. Манифест киборгов: наука, технология и социалистический феминизм 1980-х. - М.: Ад Маргинем Пресс, 2017 - 128 с.

38. Clark A., Chalmers D. The Extended Mind // Analysis. - 1998. - No 58 (1). - P. 7-19.

39. Напреенко И.В. Делегирование агентности в концепции Бруно Латура: как собрать гибридный коллектив киборгов и антропоморфов? // Социология власти. - 2015. - № 1. -С. 108-121.

40. Kim W.-H., Kim J.-H. Individualized AI Tutor Based on Developmental Learning Networks // IEEE Access. - 2020. - No 2. - P. 27927-27937.

41. Уильямс А., Шрничек Н. Манифест акселерационистской политики // Логос. -2018. - № 2. - С. 7-20.

42. Hester H. Xenofeminism. - Polity, 2018. - 140 p.

References

1. Weller M. 25 Years of Ed Tech. Canada, Athabasca University, AU Press, 2020, 210 p.

2. Lighthill J. Artificial Intelligence: A General Survey, available at: https://aitopics.Org/doc/classics:D8235CF9/ (accessed 31 October 2020).

3. Roll I., Wylie R. Evolution and Revolution in Artificial Intelligence in Education. International Journal of Artificial Intelligence in Education, 2016, no 26, pp. 582-599.

4. Daugherty, P., Wilson, J. Chelovek + mashina. Novye printsipy raboty v epokhu iskusstvennogo intellekta [Human + Machine: Reimagining Work in the Age of AI]. Moscow, Mann, Ivanov i Ferber, 2019, 304 p.

5. How Robots Change the World, available at: https://cdn2.hubspot.net/hubfs/2240363/Report%20-%20How%20Ro-bots%20Change%20the%20World.pdf (accessed 31 October 2020).

6. Issledovanie rynka onlain-obrazovaniia v Rossii, 2019 [Research of the Online Education Market in Russia, 2019], available at: https://drive.google.com/file/d/1t-gafwZlP-eJ3yiabGNR4mtwDznzDNhq/view (accessed 19 May 2020).

7. The Future of Work: How New Technologies Are Transforming Tasks, 2019, available at: https://mitibmwatsonailab. mit.edu/wp-content/uploads/2020/02/ The-Future-of-Work-How-New-Technologies-Are-Transforming-Tasks2.pdf (accessed 19 May 2020).

8. Warwick K., Shah H. Can machines think? A report on Turing test experiments at the Royal Society. Journal of Experimental & Theoretical Artificial Intelligence, 2016, vol. 28, iss. 6, pp. 989-1007.

9. Artificial Intelligence and Inclusive Education. Eds. Knox J., Wang Yu., Gallagher M. Springer, 2019, 222 p.

10. Veletsianos G. How do learners respond to pedagogical agents that deliver social-oriented non-task messages? Impact on student learning, perceptions, and experiences. Computers in Human Behavior, 2012, vol. 28, iss.1, pp. 275-283.

11. Anand N., Aggarwal P., Barua S., Sabharwal N. Developing Cognitive Bots Using the IBM Watson Engine. Berkeley, CA, Apress, 2020, 112 p.

12. Cui W., Xue Z., Thai K. Performance Comparison of an AI-Based Adaptive Learning System in China. Proceedings of the 2018 Chinese Automation Congress (CAC). Xi'an, China, 2018, pp. 3170-3175.

13. Bloom B. The 2 Sigma Problem: The Search for Methods of Group Instruction as Effective as One-to-One Tutoring Authors. Educational Researcher, 1984, vol. 13, no. 6, pp. 4-16.

14. Moharm K. A Framework for Adaptive Personalized E-learning Recommender Systems. International Journal of Intelligent Information Systems, 2019, no 8(1), pp. 12-17.

15. Nagao K. Artificial Intelligence Accelerates Human Learning. Singapore, Springer, 2019, 152 p.

16. Liang L., Acuna D.E. Artificial mental phenomena: Psychophysics as a framework to detect perception biases in AI models. Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency. US, NY, Association for Computing Machinery, 2020, pp. 403-412.

17. Suchman L. Rekonfiguratsii otnoshenii chelovek - mashina. Plany i situativnye deistviia [Human-Machine Reconfigurations: Plans and Situated Actions]. Moscow, Elementarnye formy, 2019, 480 p.

18. Mourlas C., Tsianos N. Germanakos P. Cognitive and Emotional Processes in Web-Based Education: Integrating Human Factors and Personalization. IGI Global, 2009, 568 p.

19. Clarke R. Dispositions, Abilities to Act, and Free Will: The New Dispositionalism. Mind, New Series, 2009, vol. 118, no 470, pp. 323-351.

20. Dennett D. Freedom Evolves. London, Penguin Books, 2003, 368 p.

21. Andler D. From Paleo- to Neo-Connectionism. New Perspectives on Cybernetics. Ed. G. Van de Vijver. Netherlands, Kluwer Academic Publishers, 1992, 268 p., pp.125-146.

22. Metcalfe J., Kornell N. Principles of cognitive science in education: The effects of generation, errors, and feedback. Psychonomic Bulletin & Review, 2007, vol. 14, pp. 225-229.

23. Nkambou R., Bourdeau J., Mizuguchi R. Advances in Intelligent Tutoring Systems. Berlin Heidelberg, Springer-Verlag, 2010,

505 p.

24. Kind V. Development of evidence-based, student-learning oriented rubrics for pre-service science teachers' pedagogical content knowledge. International Journal of Science Education, 2017, no 5, pp. 911-943.

25. Brügelmann H. Evidence-Based Pedagogy?. PÄDAGOGIK, 2015, vol. 67, no 10, pp. 46- 51.

26. Falikman M. Kognitivnaia nauka: osnovopolozheniia i perspektivy [Cognitive Science: Foundations and Perspectives]. Filosofsko-Literaturnyi Zhurnal «Logos», 2014, no.1 (97), pp. 2-17.

27. Gallagher S., Zahavi D. The Phenomenological Mind. Routledge, 2012, 288 p.

28. Dirksen J. Iskusstvo obuchat' [The Art of Teaching]. Moscow, Mann, Ivanov i Ferber, 2017, 440 p.

29. Nogovitsin O.N. Kognitivnyi kapitalizm i novaia pedagogika: marksistskaia transkriptsiia «obshchestva znaniia» [Cognitive Capitalism and the New Pedagogy: a Marxist Transcription of the "Knowledge Society"]. Zhurnal Sotsiologii i Sotsial'noi Antropologii, 2018, no. 21(5), pp. 183-208.

30. Alekseev A.Iu. Komp'iuter otsenivaet cheloveka? Kompleksnyi test T'iuringa protiv kompleksnogo komp'iuternogo testirovaniia v vuzovskom obrazovanii [Does a Computer Evaluate a Person? Comprehensive Turing Test Versus Comprehensive Computer Testing in University Education]. Polignozis, 2009, vol. 37, no. 4, pp. 129-141.

31. Zizek S., Hamza A., Ruda F. Chitat' Marksa [Reading Marx]. Moscow, Izdatel'skii dom VShE, 2020, 173 p.

32. Harman G. Immaterializm. Ob"ekty i sotsial'naia teoriia [Immaterialism: Objects and Social Theory]. Moscow, Izdatel'stvo Instituta Gaidara, 2018, 152 p.

33. Bryant L. Demokratiia ob"ektov [The Democracy of Objects]. Perm', Gile Press, 2019, 320 p.

34. Selwyn N. Should Robots Replace Teachers?: AI and the Future of Education (Digital Futures). Polity, 2019, 160 p.

35. Meiiasu K. Posle konechnosti: Esse o neobkhodimosti kontingentnosti [After limb: An Essay on the Need for Contingency]. Ekaterinburg. Moscow, Kabinetnyi uchenyi, 2016,196 p.

36. Melitopoulos A., Lazzarato M. Machinic Animism. Deleuze and Guattari Studies, 2012, no. 6 (2), pp. 240-249.

37. Kharauei D. Manifest kiborgov: nauka, tekhnologiia i sotsialisticheskii feminizm 1980-kh [The Cyborg Manifesto: Science, Technology and Socialist Feminism of the 1980s]. Moscow, Ad Marginem Press, 2017, 128 s.

38. Clark A., Chalmers D. The extended mind. Analysis, 1998, no 58 (1), pp. 7-19.

39. Napreenko I.V. Delegirovanie agentnosti v kontseptsii Bruno Latura: kak sobrat' gibridnyi kollektiv kiborgov i antropomorfov? [Delegation of Agency in Bruno Latour's Concept: How to Assemble a Hybrid Collective of Cyborgs and Anthropomorphs?]. Sotsiologiia vlasti, 2015, no.1, pp. 108-121.

40. Kim W.-H., Kim J.-H. Individualized AI Tutor Based on Developmental Learning Networks. IEEE Access, 2020, no. 2, pp. 27927-27937.

41. Uil'iams A., Shrnichek N. Manifest akseleratsionistskoi politiki [Acceleration Policy Manifesto]. Logos, 2018, no. 2, pp. 7-20.

42. Hester H. Xenofeminism. Polity, 2018, 140 p.