ВОЗМОЖНОСТИ И ОГРАНИЧЕНИЯ ИНСТРУМЕНТОВ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В ОБРАЗОВАНИИ

Возможности и ограничения инструментов искусственного интеллекта в образовании

Миндигулова Арина Александровна,

старший преподаватель, кафедра философии, Новосибирский государственный технический университет E-mail: mindigulova@corp.nstu.ru

Данная статья нацелена на осмысление оценки эвристического потенциала применимости технологий искусственного интеллекта (ИИ) в современном образовательном процессе. В работе фиксируются ключевые факты эволюции технологий ИИ, а также атрибутивные характеристики заявленных технологий вне зависимости от фокуса их применения. Проанализированы основные возможности последней с точки зрения каждого из участников образовательных отношений. Под последними понимается: взаимодействие технологий ИИ обучающимися и преподавателями (менторами, тьюторами); механизмы применения искусственного интеллекта административным сегментом образовательных учреждений и органами управления на местном, региональном и национальном уровнях. Акцентируется внимание на возможных рисках, связанных с внедрением технологий ИИ в образование, среди которых выделяется когнитивная предвзятость и цифровой разрыв.

Ключевые слова: образование, искусственный интеллект, индивидуализация, навыки XXI века, когнитивная предвзятость.

Введение

Искусственный интеллект (ИИ) в последние годы стал одной из ключевых тем, к обсуждению которой прикована значимая часть мирового научного сообщества. Технологию ИИ обсуждают представители самых разных научно-исследовательских дисциплинарных групп: математики и педагоги, физики и программисты, социологи и философы и т.д. В дискуссиях и спорах относительно ее фиксируются далеко не однозначные соображения, порой противоположные умозаключения. Одни исследователи заявляют - создание «искусственного интеллекта», «разумных» машин, даже «сверхразума» ведет к тому, что они существенно превзойдут естественный человеческий интеллект и это лишь дело времени. Другие - резюмируют, что само понятие ИИ является метафорическим: ибо сознание, разум, интеллект, мышление и ум присущи только человеку как родовому существу, а поэтому создание «искусственного интеллекта», подобного человеческому, просто невозможно [1]. Несмотря на отсутствие конвенциальной точки суждений, искусственный интеллект стал полноправным участником общественных отношений, в том числе и в сфере образования.

Многосторонний анализ показал, что существует множество мнений, концепций, идей, сомнений относительно использования технологии ИИ в образовательном процессе. Так, например, Институт ЮНЕСКО по информационным технологиям в образовании ясно видит перспективы использования ИИ в образовании в следующем ключе: «ИИ сыграет ключевую роль в реализации идеи персонализированного обучения - адаптации обучения, его содержания и темпа к конкретным потребностям каждого учащегося. ИИ обеспечивает возможность получения данных из разнообразных источников, проверки этих данных и их анализа с использованием таких инструментов, как прогнозная аналитика и машинное обучение, таким образом может быть раскрыт многообещающий потенциал ИИ в сфере образовательных технологий и его использование может сыграть роль катализатора трансформации образования для всех заинтересованных сторон - от отдельных учащихся до министерств образования» [2]. Для прояснения сложившейся ситуации, осуществим исторический экскурс возникновения понятия ИИ, анализ возможностей использования технологии в образовании, а также фиксацию рисков использования последнего.

сз о со "О

1=1 А

—I

о

сз т; о m О от

З

ы о со

Историческая справка

Приведенная историческая справка о возникновении и эволюции понятия ИИ не претендует на полноту, а описывает только некоторые, на взгляд автора, наиболее характерные для развития и становления искусственного интеллекта события. Необходимо также отметить, что настоящее описание практически не будет содержать в себе никаких технических подробностей реализации тех или иных отдельных механизмов технологии ИИ, поскольку осмысление ИИ осуществляется с образовательной и социально-философской точек зрения.

Итак, примечательно, но уже в мифах Древней Греции можно встретить упоминания о неких «механических» людях, которые могут вести себя и совершать действия точно также, как люди в том современном смысле слова, который мы вкладываем в это понятие сейчас. Хотя, разумеется, никаких доказательств их реального существования там нет. Самая ранняя идея своего рода «моделирования» интеллекта была изучена Т. Гобб-сом и Г.В. Лейбницем в 17 веке. Согласно Гоббсу в книге «Левиафан», «научный процесс - это разум» и «Ибо разум в этом смысле есть не что иное, как расчет (то есть сложение и вычитание) последствий общепринятых имен» [3]. Лейбниц представил универсальный язык рассуждений (характеристика универсалис), который свел бы аргументацию к расчету, так что «между двумя философами не было бы больше необходимости в споре, чем между двумя бухгалтерами [4], последние представили систему символов, которая станет основой искусственного интеллекта [5].

Д. Буль в своей работе по математической логике «Законы мысли: математические теории логики и вероятностей» писал: «из любого числа высказываний, включающих любое число терминов, можно вывести любое заключение, следующее из этих высказываний, путём чисто символических манипуляций» [6]. В то время как Д. Буль только намеревался продемонстрировать, что логика является частью математики, Г. Фреге хотел показать, что логика идентична арифметике [7]. Начало эпохи, которой свойственно введение понятия «искусственный интеллект» в более привычном нам смысле принято связывать с 20 веком. Этому предшествовало изобретение цифрового компьютера (1940-х гг.), где идея воспроизведения человеческой мысли с их помощью вызывала всё больший интерес. У.С. Маккаллаху и У.Х. Питтсу-младшему часто приписывают первое исследование в области искусственного интеллекта [8, 9]. Однако родоначальниками понятия ИИ всё-таки считаются Д. Мински и М. Маккарти. В 1950-х годах именно они выдвинули тезис: «проблема ИИ обычно рассматривается так: необходи-о мо заставить машину вести себя таким образом, Ы как если бы человек вел себя так, то он был бы й назван разумным» [10].

~ Технологии ИИ претерпевали немало транс-^ формаций, связанных как с техническим прогрес-

сом, так и с меняющимися потребностями общества. В целом со времён полноценного вхождения понятия ИИ в научный обиход исследователи выделяют четыре последовательные волны в его развитии [11]. Первая - начало 50-х гг. 20 века. Вторая - конец 70-х гг. 20 века. Третья - середина 80-х гг. 20 века. Четвёртая - середина 2000-х гг. Современным технологиям ИИ присущи некоторые общие, характерные черты: а) способность решать сложные задачи, хранить большие объемы информации и работать с ними; б) наличие в них собственной внутренней модели внешнего мира;

в) способность пополнения имеющихся знаний;

г) способность к дедуктивному выводу, то есть к генерации информации, которая в явном виде не содержится в системе; д) умение оперировать в ситуациях, связанных с различными аспектами нечеткости, включая «понимание» естественного языка; е) способность к диалоговому взаимодействию с человеком; ж) способность к адаптации [1].

От краткого исторического экскурса перейдём к непосредственному анализу прикладных аспектов ИИ в образовательных процессах.

Вклад ИИ в образовательный процесс

Появление систем, которые могли бы качественно воссоздавать интеллектуальную деятельность человека, стало серьёзным толчком для развития инструментов ИИ в различных сферах, в том числе и в сфере образования. Под сферой образования, в самом общем смысле можно понимать некую систему в которой взаимодействуют следующие участники: обучающиеся, преподаватели, руководство учебных заведений, органы управления на местном, региональном и национальном уровнях. Попробуем ответить на вопрос, каким образом возможности ИИ могут помочь каждому из участников образовательных отношений.

ИИ и обучающиеся

Существуют определённые критерии, которым должен отвечать любой современный образовательный процесс. Выделим: персонализация, социальное и эмоциональное развитие, актуальность полученных навыков, доступность, социальное благополучие. Попытаемся охарактеризовать каждый из этих аспектов с точки зрения использования технологии ИИ.

Начнём с индивидуализации, а также социального и эмоционального развития. Как известно ИИ способен обрабатывать и анализировать большие объёмы разрозненных данных и на основе этого анализа получать цельную картину текущей ситуации, прогнозировать её развитие, предлагать пути решения возможных проблем. В вопросах индивидуализации и персонализации образования ИИ способен выявлять области, в котором обучающемуся необходима помощь в данный момент времени, а в каждый последующий момент отве-

чать на вопрос о том, необходимо ли уменьшение объёма такой помощи. В результате может быть получена некая индивидуальная образовательная траектория для каждого обучающегося с учётом, в том числе, его эмоционального состояния и социального статуса.

Способность оперировать большими объёмами данных также может быть весьма полезна для обучающихся в процессе освоения навыков, которые являются наиболее актуальными и необходимыми для адаптации в современном обществе. Есть список так называемых Навыков XXI века, среди них креативность, умение сотрудничать, критическое мышление, настойчивость, умение решать проблемы, саморегуляция поведения, осведомлённость о глобальных вопросах и цифровая грамотность [2]. Технологии ИИ, с одной стороны, позволят преподавателям разработать для каждого обучающегося персональную траекторию освоения данных навыков и, с другой стороны, обеспечить их исчерпывающей информацией, способствующей полноценному освоению всех вышеобозна-ченных навыков.

Одним из наиболее показательных аспектов применения ИИ в образовании является возникающее в этой связи увеличение его доступности, и что особенно ценно, в том числе и для лиц с ограниченными возможностями здоровья. ИИ позволяет учащимся добиться успехов вне зависимости от места их нахождения, состояния здоровья или прочих факторов, которые могут ограничивать их возможности для ведения образовательной деятельности.

Высказываясь о поддержании социального благополучия обучающихся необходимо сказать о том, что технологии ИИ способны на основе имеющихся данных спрогнозировать, какие проблемы, конфликты и ограничения могут возникнуть у обучающихся на протяжении периода обучения с учётом его текущего состояния, а также предложить механизмы, как решающие возникающие противоречия, так и предотвращающие их появление в дальнейшем.

ИИ и преподаватели

В ряде доступных публикации прослеживается мнение о том, что всё увеличивающиеся масштабы использования технологий ИИ в конечном итоге приведут к тому, что преподаватели-люди будут полностью заменены преподавателями-машинами. Некоторые исследователи вовсе пишут о наступлении постантропологической, постчеловеческой эпохи [12]. Более того, существует мнение о том, что «Привычный образ человека скоро придется записывать в Красную книгу и создавать музей Человека» [13]. Не берёмся судить о перспективах подобных идей, а проанализируем аспекты применимости ИИ в работе преподавателей, где и как ИИ может быть полезен уже сейчас. Прежде всего - это экономия времени на решение ежедневных рутинных преподавательских задач, среди которых,

например, проверка тестирований, ведение отчёта успеваемости и т.д. Возможности ИИ также позволяют в режиме реального времени проводить оценку уровня компетенций каждого преподавателя, позволяя своевременно повышать их квалификацию. Здесь же необходимо сказать, что и повышение квалификации с помощью ИИ является наиболее актуальным и способным в короткие сроки дать преподавателю максимально возможный объём знаний, необходимых для качественного продолжения учебного процесса.

ИИ и руководство учебных заведений

ИИ для руководителей учебных заведений стоит воспринимать как некий симбиоз возможностей ИИ для обучающихся и педагогов. Технологии ИИ в построении индивидуальной персонифицированной образовательной траектории для каждого обучающегося уже не раз упоминались выше. С точки зрения помощи и поддержки педагогам, помимо оценки и, при необходимости, повышения их квалификации, инструменты ИИ путём проведения глубокого всестороннего анализа способны нивелировать многие глубинные причины оттока кадров. Также стоит упомянуть о помощи ИИ в вопросах создания программных продуктов для хранения и анализа базовой информации об образовательном процессе и его участниках.

ИИ и органы управления на местном, региональном и национальном уровне

Пожалуй, самая сложная задача, стоящая перед органами управления вне зависимости от их уровня -это обладание актуальной информацией о подконтрольной им сфере общественной жизни. Способность ИИ собирать и обрабатывать большие объёмы данных и представлять их в любом подходящем для представления виде может оказать в этом колоссальную помощь. Помимо оценки текущей ситуации, органам управления может быть крайне необходимы возможности качественного планирования с учётом текущей ситуации и намеченных целей.

ИИ:риски и ограничения

Зафиксируем риски, а также потенциальные ограничения, которые могут возникать при использовании технологий ИИ в образовательной деятельности. К последним относятся: когнитивная предвзятость, цифровой разрыв, проблема авторства и фейков, прозрачность и подотчётность.

Когнитивная предвзятость. Одним из значимых рисков применения технологий искусственного интеллекта выступает когнитивная предвзятость [14]. Суть когнитивной предвзятости - в непосредственном отношении человека, который вольно или невольно переносит свои собственный эмоции на объект своей деятельности. Когнитивную предвзятость необходимо рассматривать как элемент ответственности создателя. Явление ког-

сэ о со "О

1=1 А

—I

о

сз т; о т О от

З

и о со

нитивной предвзятости воздействует на объективное представление необходимой для текущего образовательного процесса информации, без каких-либо искажений, возникающих на почве этических, религиозных, политических или других предпочтений автора.

Цифровой разрыв. Организация по экономическому сотрудничеству и развитию (ОЭСР) определяет понятие цифрового разрыва следующим образом: «под цифровым разрывом понимается разрыв между отдельными лицами, домашними хозяйствами, организациями и географическими регионами, находящимися в разном социально-экономическом положении с точки зрения их возможностей доступа к информационно-коммуникационным технологиям (ИКТ) и их использованию в сети Интернет для самых разных целей» [15]. Несмотря на то, что данный термин появился в 1990-гг. XX века, проблема, которую он отражает, по-прежнему актуальна. Наличие цифрового разрыва оказывает значительное, порой решающее воздействие на изначальную доступность для пользователей любых технологий ИИ.

Авторство и фейки. Суть данных аспектов: в преднамеренной или непреднамеренной эксплуатации чужого авторского продукта, самостоятельная или внешняя генерация таким продуктом информации, не являющейся достоверной [16]. Как правило подобные проблемы присущи продуктам творческой деятельности, но также фиксируются и в образовательном процессе. Наиболее серьезные риски для всех участников образовательных отношений несет распространение «фей-ковой» информации, приводящее к частичному искажению/ недостоверности сведений, транслируемых посредством технологий ИИ.

Прозрачность и подотчетность. Под прозрачностью применения технологий ИИ в образовании следует понимать прослеживаемость результатов деятельности заявленных технологий, их объясни-мость, а также возможность определённой коммуникации в случае возникновения противоречий. Что касается подотчётности подобных технологий, то под ней мыслиться возможность аудита и формирование отчетности о негативном воздействии, а также минимизация последнего, компромиссы и возмещение ущерба, если таковой произошёл [17]. Подобные ограничения позволяют контролировать масштабы включения технологий ИИ в сферу образовательных отношений, но при этом ограничивают возможности самих технологий в контексте их потенциальных, нетривиальных решений для возникающих в процессе образовательной деятельности противоречий.

Заключение

о Проведенный анализ позволил зафиксировать эво-Ы люционные этапы и значительный интерес к техно-й логиям искусственного интеллекта вообще, в сфе-~ ре образования в частности. В научном дискурсе ^ технологиям искусственного интеллекта придается

ключевая роль, как одной из перспективных и продуктивных из рядомположенных. Фиксируются сотни научных работ, отчетов, осмысляющих возможные прикладные стороны ИИ в промышленности, в развитии национальной экономики, но при этом по-прежнему слабо осмыслен образовательный сегмент и его потребности в цифровых изменениях на базе ИИ. Бесспорно, прикладной потенциал ИИ значителен и не до конца изведан, но как у любой технологии есть и обратная сторона медали. Суммируем: только при условии учёта всех возможных ограничений, а также адекватной оценке текущего состояния дел возможно качественная интеграция инструментов ИИ в образование.

Литература

1. И.М. Орешников, Т.И. Шкерина Философские размышления о проблеме искусственного интеллекта. История и педагогика естествознания, (4), 5-11, 2017.

2. Искусственный интеллект в образовании: Изменение темпов обучения. Аналитическая записка ИИТО ЮНЕСКО / Стивен Даггэн; ред. С.Ю. Князева; пер. с англ.: А.В. Паршакова. -Москва: Институт ЮНЕСКО по информационным технологиям в образовании, 2020.

3. T. Hobbes In R. Tuck (Ed.), Of reason and science. Cambridge texts in the history of political thought (pp. 31-37). 1996. Cambridge, UK: Cambridge University Press. https:// doi.org/ 10. 1017/ CBO9780511 808166. 014.

4. G.W. Leibniz Philosophical papers and letters. Chicago, USA: Univ. of Chicago Press, 1956.

5. M. Kuipers, R. Prasad, Journey of Artificial Intelligence, Wireless Personal Communications, October 2021, D0I:10.1007/s11277-021-09288-0.

6. GrattanGuinness I. Chapter 36 - george boole, an investigation of the laws of thought on which are founded the mathematical theory of logic and probabilities (1854). In I. GrattanGuinness, R. Cooke, L. Corry, P. Crepel, & N. Guicciardini (Eds.), Landmark writings in Western mathematics 1640-1940 (pp. 470-479). 2005. Amsterdam, The Netherlands: Elsevier Science.

7. A. Korhonen. Logic as universal science: Russell's early logicism and its philosophical con-text. London, UK: Palgrave MacMillan. 2013.

8. W. McCulloch, W. Pitts. A logical calculus of the idea immanent in nervous activity. Bulletin of Mathematical Biology, 5, 115-133. 1943. https:// doi. org/ 10. 1007/ BF024 78259

9. W. McCulloch, W. Pitts. How we know universals the perception of auditory and visual forms. The Bulletin of mathematical biophysics, 9, 127-47. 1947.

10. J. McCarthy, M.L. Minsky, N. Rochester, C.E. Shannon A proposal for the dartmouth summer research project on artificial intelligence. USA: Darthmouth. 1955.

11. H. Jaakkola, J. Henno A. Lahti, J. Makela, Artificial Intelligence and Education, Conference: 2020 43rd

International Convention on Information, Communication and Electronic Technology (MIPRO). DOI: 10.23919/MIPRO48935.2020.9245329.

12. Ф. Фукуяма. Наше постчеловеческое будущее: Последствия биотехнологической революции. М.: АСТ, 2004. 352 с.; Марков Б.В. Философия. Стандарт третьего поколения. учеб. СПб: Питер, 2017. 464 с.; Кутырев В.А. Естественное и искусственное. Борьба миров. - Изд-во «Нижний Новгород», 1994. 200 с.

13. А.А. Смирнов Антропология номадизма (Антропологические тренды и северный культурный код) // Человек. Культура. Образование, 2014. № 3. С. 5.

14. V. Scotti. Artificial intelligence. IEEE Instrumentation & Measurement Magazine (Volume: 23, Issue: 3, May 2020), Page(s): 27-31. DOI: 10.1109/ MIM.2020.9082795

15. Understanding the digital divide [Electronic re-sourse] // OECD iLibrary. - Mode of access: http:// dx.doi.org/10.1787/23640566 7766. - Date of access: 03.03.2019.

16. Anantrasirichai N., Bull D. Artificial intelligence in the creative industries: a review. Artif Intell Rev 55, 589-656 (2022). https://doi.org/10.1007/s10462-

021-10039-7

17. Baker-Brunnbauer, J. Management perspective of ethics in artificial intelligence. AI Ethics 1, 173181 (2021). https://doi.org/10.1007/s43681-020-

00022-3

OPPORTUNITIES AND LIMITATIONS OF ARTIFICIAL INTELLIGENCE TOOLS IN EDUCATION

Mindigulova A.A.

Novosibirsk State Technical University

This article is aimed at understanding the assessment of the heuristic potential of the applicability of artificial intelligence (AI) technologies in the modern educational process. The paper records the key facts of the evolution of AI technologies, as well as the attributive characteristics of the claimed technologies, regardless of the focus of their application. The main possibilities of the latter are analyzed from the point of view of each of the participants in educational relations. The latter means: the interaction of technologies and students and teachers (mentors, tutors); mechanisms for the use of artificial intelligence by the administrative segment of educational institutions and government bodies at the local, regional and national levels. Attention is focused on the possible risks associated with the introduction of AI technologies in education, among which cognitive bias and the digital divide are highlighted.

Keywords: Education, artificial intelligence, individualization, skills of the XXI century, cognitive bias.

References

1. I.M. Oreshnikov, T.I. Shkerina Philosophical reflections on the problem of artificial intelligence. History and pedagogy of natural science, (4), 5-11, 2017.

2. Artificial intelligence in education: Changing the pace of learning. Analytical note of UNESCO IITE / Stephen Duggan; ed. by S.Y. Knyazev; translated from English: A.V. Parshakov. - Moscow: UNESCO Institute for Information Technologies in Education, 2020.

3. T. Hobbes In R. Tuck (Ed.), Of reason and science. Cambridge texts in the history of political thought (pp. 31-37). 1996. Cambridge, UK: Cambridge University Press. https:// doi.org/ 10. 1017/ CBO9780511 808166. 014.

4. G.W. Leibniz Philosophical papers and letters. Chicago, USA: Univ. of Chicago Press, 1956.

5. M. Kuipers, R. Prasad, Journey of Artificial Intelligence, Wireless Personal Communications, October 2021, DOI:10.1007/ s11277-021-09288-0.

6. Grattan Guinness I. Chapter 36 george boole, an investigation of the laws of thought on which are founded the mathematical theory of logic and probabilities (1854). In I. Grattan Guinness, R. Cooke, L. Corry, P. Crepel, & N. Guicciardini (Eds.), Landmark writings in Western mathematics 1640-1940 (pp. 470479). 2005. Amsterdam, The Netherlands: Elsevier Science.

7. A. Korhonen. Logic as universal science: Russell's early logi-cism and its philosophical con-text. London, UK: Palgrave Mac-Millan. 2013.

8. W. McCulloch, W. Pitts. A logical calculus of the idea immanent in nervous activity. Bulletin of Mathematical Biology, 5, 115133. 1943. https:// doi. org/ 10. 1007/ BF024 78259

9. W. McCulloch, W. Pitts. How we know universals the perception of auditory and visual forms. The Bulletin of mathematical biophysics, 9, 127-47. 1947.

10. J. McCarthy, M.L. Minsky, N. Rochester, C.E. Shannon A proposal for the dartmouth summer research project on artificial intelligence. USA: Darthmouth. 1955.

11. H. Jaakkola, J. Henno A. Lahti, J. Makela, Artificial Intelligence and Education, Conference: 2020 43rd International Convention on Information, Communication and Electronic Technology (MI-PRO). DOI: 10.23919/MIPRO48935.2020.9245329.

12. F. Fukuyama. Our posthuman future: Consequences of the Bi-otechnological Revolution. Moscow: AST, 2004. 352 p.; Markov B.V. Philosophy. The third generation standard. studies. St. Petersburg: Peter, 2017. 464 p.; Kutyrev V.A. Natural and artificial. The struggle of the worlds. - Publishing house "Nizhny Novgorod", 1994. 200 p.

13. A.A. Smirnov Anthropology of nomadism (Anthropological trends and the Northern cultural code) // Man. Culture. Education, 2014. No. 3. p. 5.

14. V. Scotti. Artificial intelligence. IEEE Instrumentation & Measurement Magazine (Volume: 23, Issue: 3, May 2020), Page(s): 2731. DOI: 10.1109/MIM.2020.9082795

15. Understanding the digital divide [Electronic resourse] // OECD iLibrary. - Mode of access: http://dx.doi. org/10.1787/23640566 7766. - Date of access: 03.03.2019.

16. Anantrasirichai N., Bull D. Artificial intelligence in the creative industries: a review. Artif Intell Rev 55, 589-656 (2022). https:// doi.org/10.1007/s10462-021-10039-7

17. Baker-Brunnbauer, J. Management perspective of ethics in artificial intelligence. AI Ethics 1, 173-181 (2021). https://doi. org/10.1007/s43681-020-00022-3

C3

о

CO "O

1=1 А

—I

о

C3 t; о m О от

З

ы о со