Возникновение и перспективы создания искусственного интеллекта

Д.А.ПОСПЕЛОВ



ИЗ ИСТОРИИ ИСКУССТВЕННОГО  ИНТЕЛЛЕКТА:



ИСТОРИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ДО СЕРЕДИНЫ 80-Х ГОДОВ*



Возникновение науки об искусственном интеллекте



Первое же знакомство с вычислительными машинами специалистов, работавших в области кибернетики, привело к тому, что эти технические устройства нашли новые области применения, отличные от решения вычислительных задач. Довольно быстро стало ясно, что ЭВМ – это не просто быстро работающий арифмометр, а нечто большее. Способ кодирования информации в ЭВМ обладал универсальностью. Кодировать в виде двоичных машинных слов можно было не только числа, но и. целые последовательности символов, имеющих нечисловую природу (в частности слова естественного языка, последовательности нотных знаков, запись ходов в шахматной партии и т.п.). Набор операций, автоматически выполнявшихся в ЭВМ, также обладал широкими возможностями. Преобразования, осуществляемые над машинными кодами, можно было интерпретировать не только, как операции над числами, но и как определенного вида символьные преобразования.

Поэтому, практически с самого начала активного использования ЭВМ первого поколения (т.е. с середины 50-х годов) на ЭВМ стали решаться задачи, традиционно относящиеся к интеллектуальным. В это время начали формироваться первые области исследований, которые в последующем оказали заметное влияние на возникновение научного направления, получившего название искусственный интеллект. Остановимся на описании этих областей исследования, заложивших многие принципы будущей науки об интеллектуальных системах.

I. Машинный перевод.  Вопрос об использовании ЭВМ для перевода текстов с одного языка на другой впервые возник в 1947 году. В 1954 году в США с помощью ЭВМ было переведено шестьдесят фраз. Этот знаменитый "Джорджтаунский эксперимент" произвел неизгладимое впечатление на специалистов. И хотя его результаты оказались весьма скромными, они вселили в ученых уверенность в том, что имеются хорошие перспективы использования ЭВМ для работы с текстами на естественном языке. Дальнейшее развитие работ в области машинного перевода было цепью небольших побед и больших разочарований. В пятидесятых годах представления о том, как должны делаться большие программные системы, были еще весьма наивными, а точные лингвистические модели практически отсутствовали. На первом этапе работ по машинному переводу в единый алгоритм пытались поместить как информацию о тех двух языках, между которыми осуществлялся перевод, так и описание самих правил перевода. На смену им в начале шестидесятых годов пришли системы, в которых между входным и выходным языком появился специальный язык-посредник, облегчающий сопоставление между собой конструкций различных языков. В системах третьего поколения, появившихся во второй половине семидесятых годов, этот язык-посредник превратился в модель глубинной семантики, описывающей семантические универсалии, присущие всем естественным языкам.

В СССР работы в области машинного перевода начались с 1955 года. Становление и развитие этого направления во многом связано с работами А.А.Ляпунова, Ю.Д.Апресяна, О.С.Кулагиной и др. [1,2]. В области машинного перевода отечественные работы всегда находились и находятся на переднем крае исследований. Созданные в нашей стране системы машинного перевода во многих отношениях превосходят соответствующие им во времени зарубежные образцы.

______________________________________________________________________________

* Опубликовано в: Новости искусственного интеллекта. – 1994. – №4. – С.70-90



Какие же достижения из области машинного перевода оказались полезными для искусственного интеллекта?

Прежде всего, это понимание, что анализ естественно-языковых особенностей невозможен без создания семантической модели, в которой в явной форме содержались бы словарные статьи, интерпретирующие смысл слов, используемых в тексте, а также устойчивых комбинаций из них. Такая семантическая модель должна отображать реальные отношения объектов и явлений внешнего мира, преломляемые через средства языка. Практически, в работах по машинному переводу впервые возникла идея отделения процедурных знаний от декларативных, которая нашла свое развитие на первом этапе исследований по искусственному интеллекту. Отделение того "с чем делать" от того "как делать" было свойственно программированию на ЭВМ с самого начала. Данные и программы всегда существовали, как отдельные компоненты: Но отделение "почему так делать" от того "как делать", т.е. отделение модели от программы произошло, по-видимому впервые в исследованиях по машинному переводу на  втором этапе их осуществления.

Вторым достижением работ по переводу с одного языка на другой явилось введение промежуточного внутреннего представления всех необходимых для перевода сведений. Появление языка-посредника знаменовало собой первую попытку создания языка внутреннего представления знаний, отличного от входного языка, на котором записан текст, подлежащий переводу, и выходного языка, на который тот текст должен был быть переведен. Активность внутренних представлений знаний получила в дальнейшем в системах искусственного интеллекта большое развитие.

И, наконец, третьим достижением работ в области машинного перевода, важным для искусственного интеллекта, можно считать разделение этапов анализа текстов на ряд последовательных шагов: морфологический анализ, поверхностный семантический анализ, глубинный семантический анализ, поверхностный синтаксический анализ, глубинный синтаксический анализ и прагматический анализ [2]. Выделение этих шагов позволило поставить перед лингвистами задачи по созданию языковых моделей для целей машинного перевода, стимулировать эти исследования и получить нужные результаты, благодаря чему стала возможной волна исследований в этой области, завершающаяся сейчас созданием практически эффективных систем перевода научно-технических текстов с помощью ЭВМ. Для работ в области искусственного интеллекта эти исследования сыграли свою роль при создании систем общения пользователей с интеллектуальными системами. Не менее важным оказалось и понимание того, что синтез текстов может рассматриваться как обращение тех шагов, которые были выделены и изучены при анализе текстов.

2. Автоматизированное реферирование и информационный поиск. Почти одновременно с работами по машинному переводу начались исследования по использованию ЭВМ для целей автоматического реферирования научно-технических текстов. Первый машинный эксперимент такого рода был проведен в 1957 году в США. В отличие от машинного перевода, где внимание исследователей, по крайней мере на начальном этапе, было сосредоточено на отдельных предложениях, т.к. машинный перевод мыслился как перевод "фраза за фразой", в области автоматизированного реферирования внимание было обращено на более крупные участки текста (чаще всего на абзацы), в которых концентрировались рассуждения на одну и ту же тему. Другими словами, внимание исследователей в этой области с самого начала было ориентировано на выявление закономерностей, организующих смысловое единство текста. На первом этапе этих работ наиболее популярными были подходы, основанные на выявлении тех или иных статистических закономерностей распределения терминов в тексте или их взаимного расположения в нем [3,4]. В дальнейшем исследования в области автоматизированного реферирования сместились в сторону использования внутренних структур текста, выявления той информационной основы, которая организует весь текст [5,6]. Работы в этом направлении оказали существенное влияние на использование ЭВМ для сочинения искусственных текстов.

Развитие информационно-поисковых систем, опирающихся на использование ЭВМ, также сыграло свою роль в формировании ряда парадигм искусственного интеллекта. Идея выделения и использования дескрипторов при поиске релевантных ответов на запросы [3] многократно использовалась в вопросно-ответных системах, традиционно включавшихся в область интеллектуальных систем на начальном этапе их развития. Идея вычленения системы связей-отношений между отдельными фактами, воплощенная в понятии тезауруса [3], развилась впоследствии в идею семантической сети, столь важную для работ в области искусственного интеллекта.

3. Доказательство теорем. Еще одной областью, связанной с вычислительными задачами, является доказательство теорем. Эта область творческой деятельности человека наиболее просто поддается автоматизации, т.к. математическое доказательство в достаточной степени формализовано, особенно в тех разделах математики, которые тесно связаны с формальными системами. Поэтому первыми теоремами, доказанными с помощью ЭВМ с США в середине 50-х годов, были теоремы исчисления высказываний, а затем и исчисления предикатов (Ван-Хао и др.). Несколько позже ЭВМ использовались для доказательства теорем абстрактной алгебры и некоторых несложных геометрических теорем (В.М.Глушков, К.И.Вершинин, У.Галантер и др.). На первом этапе ЭВМ оказались способными искать лишь простые доказательства путем применения правил вывода к исходным аксиомам. Одной из первых систем такого типа была разработанная в СССР программа АЛПЕВ, созданная под руководством Н.А.Шанина. Однако довольно скоро внимание логиков привлекла сама проблема вывода и поиска эффективных процедур такого вывода. Во второй половине 60-х годов были найдены две такие процедуры, которые прочно вошли в состав средств, используемых в исследованиях по искусственному интеллекту. Это метод резолюций, предложенный в 1965 году Дж.Робинсоном (США) и обратный метод С.Ю.Маслова (СССР), предложенный двумя годами позже. Оба метода дают возможность осуществлять поиск доказательств в исчислении предикатов и являются достаточно мощными. На их основе построено множество модификаций, обладающих теми или иными достоинствами. Поиск таких процедур продолжается. Он стимулируется еще и тем, что, как было показано независимо друг от друга в 1936 г. А.Черчем и А.Тьюрингом, не существует универсальной процедуры доказательства тождественной истинности произвольной формулы в исчислении предикатов первого порядка, если заранее не известно, является ли она таковой. Поэтому представляет большой интерес поиск процедур вывода, ориентированных на те или иные проблемные области, в которых за счет их специфических особенностей можно строить эффективные процедуры доказательств.

Это соображение лежит в основе второй особенности машинных систем доказательства теорем, важной для искусственного интеллекта. С учетом семантики решаемой задачи на дереве поиска вывода возможно указать некоторые эвристические правила, сокращающие перебор путей, ведущих от исходных формул к доказываемой (при прямом методе доказательства) или от доказываемой к исходным (при обратном методе доказательства). Именно при доказательстве теорем, по-видимому, впервые возникла идея эвристических правил, как путей сокращения большого перебора. Эта идея в дальнейшем развилась в целую ветвь – эвристическое программирование, сыгравшую большую роль на начальном этапе работ по интеллектуальным системам. Особенно интересными были эвристические правила, отражавшие особенности доказательства теорем человека в геометрии. Начальный этап исследований в области машинного доказательства теорем отражен в сборнике [7], вышедшем в США в 1963 г., а дальнейшее развитие работ – в [8-10].

4. Распознавание образов. Это еще одно направление, родившееся в 50-е годы, как следствие начала использования ЭВМ для решения невычислительных задач. Традиционная постановка задач в этой области близка к задаче классификации: необходимо найти совокупность классифицирующих признаков, с помощью которых было бы возможным построить решающие правила, относящие те или иные единичные объекты к заранее выделенным или формируемым по отношению близости по признакам классам. Распознавание образов – активно и бурно развивающаяся наука, имеющая ярко выраженное прикладное значение, выработавшая свои приемы и методы решения задач. Часть из них (например, статистические методы распознавания или распознавание с помощью метода потенциальных функций) по своим идеям весьма далеки от идей и методов искусственного интеллекта. Поэтому они не оказали заметного влияния на его развитие. Другая же часть методов теории распознавания (особенно та, методы которой опираются на идею построения классифицирующей системы признаков в процессе обучения), наоборот, весьма близка к искусственному интеллекту, связана с ним и продолжает оказывать значительное влияние на работы в области интеллектуальных систем.

Наиболее значительны для работ по интеллектуальным системам идеи теории распознавания, связанные с обучением нахождению решающего правила на множестве положительных и отрицательных примеров. Пожалуй, впервые подобный подход со всей его полнотой был реализован в СССР в начале 60-х годов М.М.Бонгардом и его учениками [11]. Созданные им методы узнавания надолго определили соответствующие исследования в области распознавания образов и систем классификации, применяемых в интеллектуальных системах. В 70-е годы Ю.И.Журавлевым и его учениками были заложены основы теории, позволяющей конструировать новые процедуры распознавания образов и проводить сравнения различных методов.

Не менее интересными для искусственного интеллекта являлись логико-лингвистические методы распознавания, опирающиеся на описание объектов классификации с помощью специальных языковых средств и на логический вывод в качестве решающего правила классификации.

5. Игровые программы. Использование ЭВМ для моделирования на них процесса игры также имеет давнюю историю. Программы для простых игр типа "крестики-нолики" или "ханойская башня" появились в самом конце 40-х годов. Потом число таких программ стало быстро увеличиваться. На ЭВМ стали воспроизводить процесс игры в различные карточные игры, калах, домино, шашки, шахматы, и многие другие. Практически, сейчас нет ни одной игры, которая была бы достаточно популярна и не использовалась бы для воспроизведения на вычислительной машине. При создании таких программ исследователи столкнулись с проблемой поиска и перебора. И эти процедуры надолго привлекли внимание специалистов. Нахождение эффективных стратегий поиска по дереву игры было задачей, во многом похожей на задачу поиска эффективных путей доказательства теорем. Классификация ситуаций, складывающихся на игровом поле, во многом сближала возникающие здесь задачи с традиционными задачами распознавания образов. Это делало игровые программы хорошим полигоном для отработки различных приемов и методов поиска решений в условиях богатого множества альтернатив [12].

Впервые проблема алгоритмизации шахматной игры была рассмотрена в 1949 г. К.Шенноном (США), который предложил использовать при организации шахматных программ следующие три принципа, остающиеся до настоящего времени основными для большинства программ такого рода: 1) перебор возможных продолжений шахматной партии на определенное число ходов вперед; 2) оценка возникающих позиций с помощью некоторой оценочной функции, учитывающей материал и позицию; 3) использование эвристических приемов для сокращения перебора при просмотре ходов вперед за счет учета специфики шахматной игры [13].

Последний принцип особенно важен, т.к. рост перебора вариантов при увеличении глубины просмотра продолжения шахматной партии происходит весьма быстро, имея экспоненциальный характер, что предъявляет повышенные требования к быстродействию ЭВМ. Поэтому именно в шахматных программах зародились идеи методов сокращения перебора на древовидных структурах. В СССР первый такой метод (метод граней и оценок) был предложен А.С.Брудно. В США методами подобного типа много занимался Н.Нильсон. Примером удачного применения эвристических приемов к шахматным программам может служить программа "Каисса", созданная в СССР В.Л.Арлазаровым, Г.М.Адельсоном-Вельским и М.Б.Донским,

В последнее время в связи с развитием методов искусственного интеллекта стали появляться новые идеи и в шахматных программах. Их функционирование стало опираться не на простой перебор вариантов, а на попытку смоделировать на ЭВМ особенности мышления человека-шахматиста. В СССР эти новые идеи нашли свое отражение в проекте программы "Пионер", разработанной под руководством М.М.Ботвинника [14]. За рубежом принципы построения программ такого типа обоснованы Д.Мичи. Эвристики и приемы сокращения перебора при большом количестве вариантов, разработанные в области создания игровых программ (особенно шахматных), находят сейчас широкое применение в различных интеллектуальных системах.

6. Сочинение музыки и текстов. В середине 50-х годов в США (Л.Хиллер и Л.Айзексон), а несколько позже в СССР (Р.Х.Зарипов) были сделаны первые попытки сочинения музыкальных произведений с помощью программ, реализуемых на ЭВМ. В основе этих программ лежала идея об использовании генераторов случайных чисел, интерпретируемых как нотные знаки со всеми присущими им параметрами, для порождения музыкального произведения за счет отбора из генерируемого потока нот лишь тех, которые удовлетворяли бы определенным правилам. Эти правила заимствовались из музыковедческой литературы и отражали специфику восприятия музыки человеком [15,16]. Таким образом, в этих программах, как и в некоторых программах автоматизированного реферирования или доказательства теорем, использовался случайный процесс, детерминируемый системой ограничивающих модельных правил. Этот прием оказался в дальнейшем полезным и для ряда программ искусственного интеллекта. А сама возможность имитации творческого процесса человека в такой области, которая всегда считалась вершиной его интеллектуальной деятельности, имела немаловажное значение для понимания возможностей ЭВМ в этой сфере.

В середине же 50-х годов делаются первые попытки использования ЭВМ для генерации связных текстов, как поэтических, так и прозаических [17]. Однако до развития работ в области искусственного интеллекта эти исследования не получили достаточного распространения и не оказали существенного влияния на другие направления, связанные с моделированием творческих процессов. Столь же незначительно повлияло на работы в области искусственного интеллекта появление первых программ, связанных с машинной графикой. Лишь несколько позже, когда появились хорошие черно-белые и цветные дисплеи, а программы машинной графики стали намного интереснее, специалисты в области искусственного интеллекта обратили внимание на эти работы. Сейчас же машинная графика стала вполне самостоятельным направлением и подобно распознаванию образов развивается вне рамок искусственного интеллекта, хотя и испытывает его влияние на свои методы и представления. Достаточно полное представление о современном состоянии дел в той части машинной графики, которая наиболее тесно связана с моделированием творческой деятельности, может дать монография [18]. Из-за отсутствия хороших дисплеев уровень исследований в этой области в странах Восточной Европы и СССР несколько отстает от уровня их развития в США, Японии и странах Западной Европы.

Все перечисленные сферы применения ЭВМ для решения нечисловых задач сыграли роль катализирующих ферментов, способствуя консолидации усилий отдельных специалистов вокруг вопросов, связанных с решением задач, относящихся к сфере интеллектуальной деятельности человека. Эта консолидация привела к появлению первых моделей и систем, которые знаменовали собой переход к созданию новой науки – искусственного интеллекта.



II. Начальный этап развития



Важным моментом начала того направления, которое можно было бы назвать собственно искусственным интеллектом, была проведенная в 1956 г. конференция в Дартмуте (США). На этой конференции были К.Шеннон, М.Минский и Дж.Маккарти. Двум последним предстояло в дальнейшем сыграть крупную роль в становлении искусственного интеллекта. Именно на этой конференций сам термин "искусственный интеллект" приобрел права гражданства.

К середине 60-х годов в СССР, США, Великобритании и других странах, в которых активно внедрялась вычислительная техника, было накоплено множество самых разнообразных программ для решения нечисловых задач. Среди них было немало таких, которые демонстрировали возможность имитации на ЭВМ отдельных творческих процессов, присущих человеку. Возникший опыт создания таких программ требовал обобщения и формализации. Следствием Дартмутской конференции явился "Исследовательский проект по искусственному интеллекту" – первый комплексный проект в этой области. Его возглавил Дж.Маккарти.

Стали появляться первые публикации, в которых делались попытки обобщения накопленного материала. Среди специалистов, выступивших с такими работами, были Дж.Маккарти, М.Минский, Э.Фейгенбаум (США), Д.Мичи (Великобритания), А.А.Ляпунов и В.М.Глушков (СССР). В дальнейшем существенный вклад в развитие методологии искусственного интеллекта внесли Г.С.Поспелов, Н.М.Амосов, Д.А.Поспелов, А.С.Нариньяни, Э.В.Попов (СССР), Р.Шенк, Д.Бобров, П.Уинстон, Дж.Слейгл, Н.Нильсон, Э.Хант, Т.Виноград (США), Э.Сандовал (Швеция), М.Сомальвико (Италия) и др.

Но на пути становления искусственного 'интеллекта как самостоятельного направления имелось немало трудностей. Практика создания "интеллектуальных программ" выявила парадоксальное положение: чем больше создавалось таких программ, тем меньше были видны принципы их создания. Если, например, некоторый исследователь создавал эффективную программу для игры в шашки и вводил ее в память ЭВМ, то создание следующей интеллектуальной программы, предназначенной', например, для игры в домино, никак не облегчалось тем, что в памяти ЭВМ уже хранится хорошая шашечная программа. А добавление к ней программы для игры в домино ничуть не облегчало создание программы для игры в калах или какую-нибудь другую игру. Память ЭВМ могла заполняться интеллектуальными программами сколь угодно долго, но от этого ЭВМ не становилась "интеллектуальнее". Содержимое ее памяти напоминало огромную библиотеку, в которой хранятся знания почти по всем отраслям человеческой деятельности, но которая, конечно, никаким интеллектом не обладает. Становилось ясным, что на пути простого увеличения количества программ, одновременно хранимых в ЭВМ, нельзя добиться поднятия ее коэффициента интеллектуальности.

Эта ситуация хорошо отражается в книгах по искусственному интеллекту, изданных в начале 70-х годов [19-20]. Их оглавления напоминают что-то вроде меню или прейскуранта. Отдельные главы посвящены различным типам задач, каждая из которых решается своим особенным образом, с помощью специальной, ориентированной только на эту задачу программы.

Но на этом фоне и в это же время начинают появляться первые признаки новой парадигмы. Это парадигма поиска универсальной процедуры, которая позволила бы решать единообразно большое количество интеллектуальных задач. И появление такой парадигмы естественным образом означало обращение специалистов в области интеллектуальных программ к психологам, занимающимся психологией мышления и психологией решения задач.

Первой моделью психологии, которая в течение десятка лет сохраняла свое значение для работ в области моделирования интеллектуальной деятельности, явилась известная еще с начала нашего века лабиринтная модель решения задач, в наиболее общей форме описанная в 1911 г. Э.Торндайком. Согласно представлениям, вытекающим из этой модели, процесс решения задачи можно уподобить прохождению лабиринта. Начальные площадки лабиринта соответствуют исходным данным задачи, а пути, приводящие к целевой (или одной из целевых, если их несколько) площадке, определяют возможные, пути решения. Выбор пути на каждой из промежуточных площадок лабиринта эквивалентен принятию решения из имеющегося в этот момент множества альтернатив. В машинных программах такому движению по лабиринту соответствует поисковая процедура, управляемая решающими правилами, с помощью которых производится тот или иной выбор при каждой альтернативной ситуации.

Именно такая модель была положена в основу одной из первых программ, которую по праву можно отнести к программам искусственного интеллекта. Эта программа была создана в конце 50-х годов в США в содружестве программиста А.Ньюэлла и психолога Г.Саймона. Она была названа ее авторами General Problem Solver, т.е. "Универсальный решатель задач". Авторы программы GPS с самого начала рассматривали ее как модель описания поведения человека при решении задач широкого класса, для которых можно воспользоваться лабиринтной моделью. Основу GPS составляет специальная таблица "Цели-Средства". В строках таблицы перечислены все цели, достижение которых может потребоваться при очередном альтернативном выборе, а в столбцах указаны те средства, которые могут быть использованы на каждом шаге решения. Специальные отметки в клетках таблицы показывают, какие средства годятся для достижения тех или иных целей. А.Ньюэлл и Г.Саймон считали, что модификация этой глобальной идеи совместно с идеей многошагового планирования движения по лабиринту с учетом особенностей решения тех или иных конкретных задач позволит решать большинство интеллектуальных задач. Они рассмотрели две такие модификации: для доказательства теорем в исчислении высказываний и для игры в шахматы. Но если первая модификация оказалась весьма успешной, то опыт работы с шахматной программой заставил авторов GPS усомнится в глобальности выдвинутой ими идеи. Шахматная программа, построенная на основе таблицы "Цели-Средства", оказалась весьма слабой и не выдержала конкуренции с шахматными программами, построенными на других принципах. Описание программы GPS и ее модификаций можно найти в [7] и [19], а также во многих других книгах по искусственному интеллекту. Идея движения по лабиринту или эффективного поиска по некоторой сетевой структуре оказалась в центре внимания многих исследователей. Работа Н.Нильсона [22] практически полностью посвящена методам поиска решений на основе лабиринтной модели.

Если лабиринтная модель оказалась в центре внимания специалистов по интеллектуальным программам, то не менее известные в психологии модели вероятностного выбора и основанные на них модели обучения не оказали на этих специалистов большого влияния. Работа Р.Аткинсона [23] и ранее предшествующие ей работы в этой области так и не вышли из сферы интересов весьма ограниченного круга специалистов, работающих в области математической психологии. Что касается обучения, то в области интеллектуальных систем явное предпочтение было отдано моделям логического типа, Примерами могут служить те модели, которые использованы в известной поведенческой программе "Животное", созданной учениками М.М.Бонгарда (СССР). Близка к тем же идеям и программа формирования понятий на основе индуктивных выводов CLS, разработанная в середине 60-х годов в США под руководством Э.Ханта [24].

Лабиринтная модель решения задач оказалась слишком упрощенной. Она негласно предполагала, что лабиринт, в котором нужно найти решение, существует заранее. Но большинство творческих задач, решаемых людьми, связаны как раз с тем, как построить не слишком большой лабиринт, в котором с большой долей вероятности содержится путь, ведущий к цели.

Критика лабиринтной модели и основных на ней программ решения интеллектуальных задач была достаточно активной. О ее характере дает представление, например, работа Д.А.Поспелова и В.Н.Пушкина [26]. В этой же работе, по-видимому, впервые была подробно описана иная концепция решения задач человеком, которую можно было бы назвать реляционной моделью (в работе [26] она названа модельной гипотезой). Согласно этой модели исходные данные для решения задачи не представляют собой совокупность несвязанных компонентов. Между ними имеются определенные отношения, образующие структуру исходной ситуации. Аналогичным образом целевые описания образуют некоторую структуру целевой ситуации. Поиск решения сводится к установлению между этими структурами некоторого морфизма и построению путей преобразования одной ситуации в другую. Эти принципы реляционной модели нашли свое подтверждение в многочисленных психологических экспериментах (и, в частности, при экспериментах с людьми, играющими в шахматы). Стала очевидной важность работы с отношениями и системами отношений, связывающими элементы проблемной среды воедино.

В середине 60-х годов в СССР возник комплекс методов решения различных управленческих задач, опирающихся на реляционную модель. Эти методы получили общее название "ситуационное управление". В их основе лежит идея о том, что любая ситуация, которая может возникнуть в физическом мире, может быть описана через конечное число базовых отношений, из которых при необходимости могут быть порождены производные отношения. Те. или иные решения соответствуют классам таких ситуаций. Центральной задачей принятия решения является отнесение текущей ситуации к одному из классов, что позволяет принять определенное решение. Сама система классов ситуаций априорно полностью не задается, а формируется в процессе функционирования системы. Концептуальная программа, лежащая в основе конкретных программ, построенных на подобных принципах, была предложена Д.А.Поспеловым и В.Н.Пушкиным и названа Гироматом. При решении ряда конкретных задач, связанных с задачами оперативного управления сложными системами, было использовано несколько конкретных реализаций этой концептуальной программы. Историю развития ситуационного управления и описание принципов Гиромата можно найти в [27]. Метод ситуационного управления, пожалуй, раньше чем все другие подходы, развивавшиеся в этот период в области создания интеллектуальных программ, использовал идею представления знаний и манипулирования ими. Эта идея является центральной на современном этапе развития работ в ИИ. 

Кроме лабиринтной и реляционной моделей решения задач человеком в психологии большое внимание уделялось ассоциативной модели. Согласно ей обучение чему-либо у человека происходит в процессе формирования ассоциативных связей, носящих вероятностный характер. В уже упоминавшейся работе [23] можно найти описание многих аспектов этой модели. На ее основе в первой половине 60-х годов Э.Фейгенбаумом и Г.Саймоном (США) было создано несколько версий программы, получившей название ЕРАМ [7,19]. Другой программой, основанной на той же модели, является созданная в СССР в группе М.М.Бонгарда программа ассоциативного обучения незнакомому языку [24]. Идеи этих программ и до настоящего времени не потеряли своего значения. По существу, современное развитие моделей обучения искусственных систем все еще происходит в рамках ассоциативной модели. Необходимо упомянуть еще об одной программе универсального характера, созданной к концу 60-х годов. Это программа MULTIPLE, авторами которой являются Дж.Слейгл и Д.Конайвер [19]. Эта программа объединяла в себе программу обучения и программу логического вывода. Обе части программы содержат новые идеи. Так программа, осуществляющая вывод, имела средства не только для поиска конструктивного доказательства, но и средства для поиска опровергающих соображений по поводу тех или иных утверждений, а обучающая программа на основании обработки положительных и отрицательных примеров реализовывала процедуру введения оценок условий истинности тех или иных утверждений. Совокупность подобных примеров неоднократно встречается в интеллектуальных программах, относящихся к более поздним этапам развития работ в области интеллектуальных систем. В качестве конкретных задач, на которых программа MULTIPLE демонстрировала свои возможности, использовалась игра в калах, а также анализ шашечных позиций.

На начальном этапе развития работ в области искусственного интеллекта, продолжавшемся до начала 70-х годов, можно проследить как бы две тенденции в создании моделей интеллектуальной деятельности. Одна из них – та, о которой уже шла речь. Ее сторонники рассматривают проблему создания интеллектуальных систем, как проблему создания особых программ, реализуемых на ЭВМ. При этом они не ставят перед собой задачи воспроизведения в этих программах тех процессов, которые протекают при решении тех же задач у человека. Таким образом, их интересует не то, как человек получает решение той или иной интеллектуальной задачи, а совпадение с тем результатом, который получен человеком. Такую точку зрения можно назвать информационной.

Конечно, те, кто стоят на этой точке зрения, не отвергают полезность изучения соответствующих процессов у человека. Они готовы (и это было видно из сказанного выше) использовать те или иные психологические модели или наблюдения при создании программ, но результат, получаемый программами, для них является единственной практически значимой целью. Когда авторы подобных программ высказывают мысль о том, что универсальная процедура, реализованная в программе, тождественна той, с помощью которой человек решает интеллектуальные задачи данного класса (как это в свое время пытались делать авторы программ GPS, ЕРАМ или MULTIPLE), то они весьма быстро подвергаются основательной критике со стороны психологов. Оторванность моделируемых при информационной концепции процессов от нейрофизиологических механизмов, от взаимодействия мыслящего субъекта с внешним миром и деятельности в нем, всегда были предметом острой критики всего этого направления. Особенно четко негативное отношение к информационной точке зрения было высказано в начале 70-х годов Х.Дрейфусом. Его книга "Чего не могут вычислительные машины", появившаяся в 1972 г. [28], вызвала бурную дискуссию среди всех специалистов, работающих в этой области [29].

Другая точка зрения на создание интеллектуальных систем может быть названа нейробионической. Авторы, исповедующие ее, исходят из того, что для моделирования феномена мышления надо техническими средствами воссоздать тот нейрофизиологический субстрат, который породил мышление в органической природе. В середине 50-х годов появились первые модели простейших рефлекторных механизмов, в основе которых лежали модели нейронов. На основе этих простейших механизмов путем их объединения стали моделировать более сложные поведенческие реакции. Достаточно полный обзор этого начального этапа нейробионических исследований дан в [30]. То, что такой подход может порождать модели, обладающие достаточно сложным поведением, демонстрирует работа [31]. Описанный в ней автомат, созданный группой ученых под руководством Н.М.Амосова, способен передвигаться по незнакомой местности, изучая и запоминая ее особенности, способен регистрировать другие движущиеся в среде объекты и классифицировать их действия как дружелюбные или опасные. Эти и ряд других функций автомата формируются путем обучения, в основе которого лежат процессы усиления-торможения, протекающие на сети из искусственных нейронов. В [32] изложены общие принципы моделирования интеллекта, опирающиеся на идеи, частично воплощенные в тележке-автомате из [31]. Наиболее последовательное изложение программы развития нейробионического направления дано М.Арбибом [32].

Исследования процессов мышления, осуществленные в 70-х годах, привлекли внимание специалистов к проблеме асимметрии мозга. Выявленные особенности работы правого и левого полушария позволили выдвинуть гипотезу о том, что в интеллектуальной деятельности человека тесно переплетаются как бы два типа мышления, которые условно можно назвать левосторонним и правосторонним. Левосторонний тип мышления характеризуется следующими особенностями: информация, с которой он имеет дело, состоит из отдельных информационных единиц, организованных в виде последовательностей, основные типы операций над этой информацией носят символьно-логический характер, процедуры имеют алгоритмический характер, возможна вербализация всех проводимых операций, т.к. все они проводятся под контролем сознания. Правосторонний тип мышления характеризуется иными особенностями: информация, с которой он имеет дело, состоит из нерасчленяемых целостных комплексов, в которых информационные единицы связаны между собой системой разнородных отношений, причем эти комплексы образуют пространственно организованные "картины", основные операции над которыми носят ассоциативно-топологический характер и не вербализуются.

Между двумя типами мышления (иногда их метафорически называют алгебраическим и геометрическим) и двумя подходами к построению интеллектуальных систем (информационным и нейробионическим) имеется явная аналогия. Во всяком случае, использование ЭВМ демонстрирует все особенности левостороннего типа мышления, перечисленные выше. Это, по мнению большинства специалистов, работающих в области искусственного интеллекта, резко ограничивает возможности интеллектуальных программ и ставит проблему создания технических устройств, конструкция которых позволяла бы воспроизводить не последовательный процесс переработки символов, а одновременное протекание многих сложно взаимодействующих между собой во времени и пространстве процессов. То, что такой путь может приводить к эффективному решению задач, которые не могут столь же эффективно воспроизводиться на обычных ЭВМ, было продемонстрировано еще в конце 50-х годов Ф.Розенблаттом (США), предложившим устройство под названием "перцептрон". Подобные устройства, в состав которых входили нейроподобные элементы, функционирующие параллельно, могли быть использованы после обучения для мгновенного (симультанного) распознавания зрительных, образов. Эта процедура носит четко выраженный правосторонний характер и перцептроны демонстрировали ее успешное воспроизведение [34]. Ряд общетеоретических вопросов и оценки возможностей перцептронов были разработаны М.Минским и С.Пейпертом (США) [35]. В настоящее время, к сожалению, в искусственном интеллекте нет продвинутых исследований в области создания достаточно богатых по своим возможностям устройств, которые позволяли бы моделировать иные, весьма многочисленные механизмы мышления правополушарного типа.

III. Создание теоретической базы

Начальный этап развития исследований в области интеллектуальных программ подготовил к концу 60-х годов почву для возникновения новой парадигмы в области подобных исследований. Специалисты, работавшие в этой области, стали склоняться к мнению, что успех их исследований зависит не от того, насколько успешно та или иная программа решает конкретную интеллектуальную задачу, а от понимания общих принципов построения таких программ. Эти общие принципы должны развиваться в рамках специального научного направления – теории интеллектуальных программ или теории искусственного интеллекта, которая с конца 60-х годов стала пониматься именно таким образом.

В 1969 году в Вашингтоне состоялась Первая международная конференция по искусственному интеллекту (IJCAI). После этого регулярно раз в два года эти конференции стали повторяться. Их место проведения чередуется так, что конференции с нечетными номерами проводятся на американском континенте, а конференции с четными номерами – на других континентах. Эти международные форумы сыграли решающую роль в формировании методологии новой науки и выявлении областей ее приложения. Количество их участников выросло от нескольких сот, присутствующих на первых конференциях, до 4-5 тысяч участников, характерных для последних встреч. В 1976 г. начал издаваться международный журнал "Искусственный интеллект". В эти же годы в различных странах, где возрастала активность исследований в области интеллектуальных систем, стали издаваться национальные и международные журналы, посвященные отдельным проблемам ИИ или проблемам всей области в целом. В странах социалистического лагеря роль такого объединяющего исследователей международного органа выполнял издаваемый с 1982 г. в Братиславе (ЧССР) журнал "Вычислительные машины и искусственный интеллект".

В течение 70-х годов сложились основные теоретические направления исследований в области интеллектуальных систем.

1. Представление знаний. Многие специалисты по интеллектуальным системам считают это направление работ основным. Именно появление знаний в памяти ЭВМ позволило, по их мнению, всерьез говорить о появлении "интеллекта" в программах, реализуемых на ЭВМ. До этого при решении задач на ЭВМ проблема заключалась в написании той процедуры, которую нужно было реализовать на машине, и ее переводе на язык, понятый ЭВМ (т.е. программировании). При появлении в памяти ЭВМ всех необходимых знаний о некоторой фиксированной проблемной области ЭВМ становится способной на основании этих знаний сама синтезировать программы, необходимые для решения поставленных перед ней задач. Другими словами, труд программиста выполняет сама ЭВМ, а человек общается с ней таким же способом, как он это делает, когда общается со своим коллегой по работе.

Представление знаний  как ведущее направление в ИИ  решает следующие задачи: а) как собрать знания о проблемной области и, в частности, как получить с помощью опроса эти знания от специалистов в данной области; б) как представить эти знания в базе знаний в форме, удобной для последующей обработки на ЭВМ; в) как сохранить непротиворечивость и достичь полноты знаний при объединении знаний, получаемых из различных источников; г) как классифицировать собранные знания и как обобщать их в процессе накопления; д) как их использовать при решении различных задач. Из этого перечисления видно, что при работе со знаниями надо рассматривать как теоретические, так и практические вопросы. Совокупность задач первого типа образует множество проблем теории представления знаний, а совокупность задач второго типа - множество проблем прикладной науки, получившей в искусственном интеллекте название "инженерия знаний" (специалисты, работающие в этой области, подготовка которых усиленными темпами ведется во многих странах, называются инженерами по знаниям или просто инженерами знаний).

В теории представления знаний изучаются формальные системы, которые могут быть использованы при представлении знаний. Среди них наиболее популярными оказались семантические сети, фреймы, сценарии, продукционные системы и разного рода логические исчисления (чаще всего это исчисление предикатов первого порядка). В обзорной работе [36] можно найти оценку современного состояния исследований в области различных моделей представления знаний. Понятие фрейма впервые было введено М.Минским в работе [37], сценарии подобно описаны Р.Шенком (США) в [38], а продукционные системы в [36]. Семантические сети как бы обобщают все эти формы представления знаний [36].

Преобразования знаний, выполняемые в тех или иных моделях их представления, носят, как правило, логический характер. В связи с этим в теории представления знаний большое внимание уделяется созданию специальных логических систем для работы со знаниями [27, 36]. В СССР, в частности, разрабатываются так называемые псевдофизические логики (Д.А.Поспелов, А.С.Нариньяни и др.), предназначенные для описания закономерностей, отражающих временной, пространственный или каузальный аспект действий, совершаемых в реальном физическом мире.

2. Общение.  Вторым большим направлением в ИИ являются исследования, касающиеся создания интеллектуальных программ, способных к организации антропоморфного общения интеллектуальной системы с пользователем. Чаще всего имеется в виду общение на ограниченном естественном языке, когда сообщения вводятся в ЭВМ в виде письменного текста или в виде последовательности речевых сигналов, а ответ интеллектуальной системы либо высвечивается на экране дисплея, либо формируется с помощью речевого синтезатора. Исследуется также способ общения, опирающийся на рисование пиктограмм (картинок), но чаще такой способ общения включается в качестве вспомогательного в общение первого типа. В результате интенсивных исследований в области вопросно-ответных и диалоговых систем специалисты по искусственному интеллекту создали теорию таких систем и в настоящее время интеллектуальные системы оказываются способными на имитацию достаточно развитых форм общения с пользователем [36, 39].

3. Рассуждения и планирование. Третье направление в работах по искусственному интеллекту связано с созданием и исследованием различных логических систем, способных воспроизводить в интеллектуальных системах особенности человеческих рассуждений при решении разнообразных задач. В нем рассматриваются проблемы принятия решений в альтернативных ситуациях, а также нахождения и обоснования планов целесообразной деятельности при решении задач, формируемых пользователем или возникающих, как промежуточные, в процессе деятельности интеллектуальных систем [3, 36, 40].

4. Восприятие. Мы уже говорили, что в свое время распознавание образов оказало некоторое влияние на исследования по интеллектуальным системам. Теория распознавания образов в дальнейшем стала развиваться отдельно от работ в области ИИ. Но между ними появилась пограничная область – машинное восприятие, в которой методы каждой из наук переплетаются между собой. К восприятию относятся те задачи обработки зрительных образов, которые для своего решения требуют использования знаний. Такие знания, в частности, используются при анализе и описании трехмерных сцен, в которых отдельные объекты могут закрывать другие или тени, возникающие из условий освещенности, сцен, могут искажать общую картину и т.д. Подобные задачи характерны для тех интеллектуальных систем, которые в процессе своей деятельности должны много контактировать с реальным миром. Но и на уровне информационных представлений о зрительных объектах такие задачи возникают весьма часто [41, 42].

5. Обучение.  В отличие от методов и моделей, описанных в ранее упоминавшейся монографии [23], методы, исследуемые в теории обучения интеллектуальных систем, активно опираются на знания. Поэтому, как и восприятие, обучение интеллектуальных систем есть пограничная область между науками, развивающимися вне сферы искусственного интеллекта, и теми методами, которые характерны для интеллектуальных систем. Как правило, методы последнего типа – это процедуры обучения на основании использования информации о подтверждении или неподтверждении некоторых гипотез фактами, хранящимися в базе знаний интеллектуальных систем. Это позволяет считать, что в них развиваются идеи, которые были использованы в упоминавшихся ранее исследованиях [11,24].

6. Деятельность. В этой части теории продолжают активно развиваться исследования в области решения комбинаторных и игровых задач, характерных еще для первого этапа развития работ в области ИИ, а также эвристического программирования [42]. Только на данном этапе развития ИИ происходит осмысление постановок задач в этой области с точки зрения того уровня, который уже достигнут в интеллектуальных системах [43]. А этот уровень стал уже настолько высок, что и в области ИИ стали возникать собственные программные и инструментальные средства. Стали возникать и новые формы деятельности, ранее не встречавшиеся в области интеллектуального программирования. Все это знаменовало наступление нового этапа в развитии искусственного интеллекта.



IY. Переход к промышленным образцам



Начало 80-х годов характеризуется изменением взгляда на ИИ. Если ранее среди большинства специалистов бытовало мнение, что эта область науки представляет весьма специфический и ограниченный интерес, то к началу 80-х это мнение стало стремительно сменяться интересом к исследованиям в области интеллектуальных систем. Это произошло потому, что к тому моменту развитие теории искусственного интеллекта достигло такого уровня, когда на смену "игрушечным" моделям и чисто демонстрационным интеллектуальным программам стали приходить системы, интересные и важные для решения трудных практических задач, которые не могли быть решены ранее известными методами.

Такой подход стал возможен еще и потому, что в 70-х годах появились ЭВМ, обладающие достаточной для решения задач ИИ мощностью и по объему памяти, и по быстродействию. В самом же ИИ стали активно развиваться инструментальные программные средства, ориентированные на специфику программирования возникающих здесь задач. Прежде всего, появилось семейство языков программирования, не ориентированных на решение чисто вычислительных задач (на что были направлены такие традиционные языки программирования как АЛГОЛ, ФОРТРАН и многие другие). Среди этих языков наиболее известными являются языки ЛИСП и ПРОЛОГ. В языке ЛИСП (на самом деле это даже не язык, а целое семейство языков) основное внимание направлено на обработку символьной информации, объединенной в гибкие структуры, называемые списками. В группе логических языков, типичным представителем которой является ПРОЛОГ, чрезвычайно легко реализуются все операции, связанные с логическим выводом - основной операцией, реализуемой в системах типа решателя. Для работы со знаниями стали создаваться специальные языки описания знаний и манипулирования ими. Первые версии таких языков (например, ФРЛ или КРЛ) были достаточно громоздкими, но со временем их эффективность возрастала. Современные версии таких языков (например, системы программирования APT или ОПС-5) весьма удобны для инженеров знаний и хорошо согласуются с архитектурой новых ЭВМ..

Кроме языков программирования стали активно развиваться различные инструментальные системы поддержки разработок интеллектуальных систем, дающие программистам возможность автоматизировать свою деятельность при создании новых интеллектуальных программ и систем [44].

Исследования в Советском Союзе по созданию инструментальной системы ПРИЗ (Э.Х.Тыугу и его коллеги), первая версия которой появилась еще в начале 70-х годов, намного опередили соответствующие разработки в других странах [45,46].

Можно указать несколько областей практического приложения интеллектуальных систем, созданных в первой половине 80-х годов.

1. Традиционные системы управления. Уже говорилось о развитии в СССР с конца 60-х годов методов ситуационного управления (Д.А.Поспелов, Ю.И.Клыков, Л.С.Загадская и др. [27]). Эти методы использовались для решения обычных задач управления, когда другие методы не давали решения. В ситуационных моделях использовались знания об объекте управления и методах управления им, а также применялись такие традиционные для ИИ приемы, как описание ситуаций, складывающихся на объекте управления на ограниченном и формализованном естественном языке, использование псевдофизических логик для оценки и преобразования ситуаций, обучение при накоплении информации в памяти системы, планирование целесообразных действий по управлению и использованию информации от технологов и управленцев. Существует ряд областей управления, в которых применение методов ИИ дает большое продвижение вперед [47]. Среди этих областей наиболее перспективной является создание роботизированных производств с гибкой технологией [41], с постепенным повышением интеллектуального уровня роботов и разработкой новых технологий для безлюдных производств. Работы в этой области развернулись в 80-е годы в большинстве развитых стран и с их успешным завершением связываются огромные надежды на подъем уровня производства. Еще одна область – это "распределенные интеллектуальные системы" или даже "распределенный интеллект". Эта область охватывает сложные задачи, в решении которых участвуют многие люди, взаимно связанные друг с другом через общую информацию или управление (примером задачи такого типа может служить отраслевое планирование). Применение при решении подобных задач таких средств ИИ, как база знаний или планировщик-решатель, может привести, как показали первые опыты использования подобных систем [48, 49], к весьма значительному эффекту.

2. Автоматизация научной и инженерной деятельности. С конца 70-х годов весьма стремительно развиваются и внедряются в практику интеллектуальные пакеты прикладных программ (ИППП) [49]. Эти системы позволяют специалисту, работающему в определенной области, гибко и с затратой минимальных усилий использовать богатые библиотеки разнообразных прикладных программ, предназначенных для решения задач в этой области. В ИППП имеется система общения с пользователем, позволяющая ему общаться с программой на естественном профессиональном языке, модель предметной области (своеобразная база знаний) и монитор-планировщик, осуществляющий взаимодействие пользователя с библиотекой программ. Система ПРИЗ, о которой мы уже упоминали выше, может рассматриваться как ИППП, если она настроена на решение задач в определенной проблемной области.

Расчетно-логические системы [49] – еще один вид интеллектуальных систем, используемый в исследовательской деятельности. Они являются дальнейшим развитием ИППП и предоставляют пользователю еще более богатые возможности по работе с моделью предметной области и пакетом прикладных программ. Как правило, в таких системах имеется хорошо развитая графическая система общения, делающая наглядными и легко изменяемыми чертежи и схемы, хранящиеся в памяти системы. В СССР под руководством Г.С.Поспелова создано несколько систем подобного типа, предназначенных для отраслевого планирования и проектирования сложных технических систем (первая половина 80-х годов).

Обучающие системы (тьюторы) становятся в 80-е годы все более и более популярными. Идея машинного обучения не нова. Но первый этап развития таких систем проходил вне сферы ИИ, что не позволило авторам обучающих систем добиться заметного успеха. С началом внедрения в эту область идей и методов искусственного интеллекта возник перелом. Применения в обучающих системах развитых баз знаний и гибких планировщиков-решателей сделало эти системы эффективными. И сейчас уже пользователь, впервые садящийся за пульт персональной ЭВМ с незнакомой ему программной системой, в которой он собирается работать, практически всегда начинает с обучения правилам работы с помощью тьютора, являющегося неотъемлемой частью системы. Кроме обучения решению задач на ЭВМ, обучающие системы активно работают в различных тренажерах и при обучении в высших учебных заведениях и в школе.

Экспертные системы (ЭС) – наиболее известный тип современных промышленных интеллектуальных систем [49]. Принципиальное отличие ЭС от других систем ИИ – это наличие системы обоснования. Задачей системы обоснования является формирование пользователю, если он этого требует, совокупности объяснений о том, как система получила то решение, которое она выдала пользователю. Подобная функция в предшествующих системах не реализовывалась. Цель системы обоснования состоит в повышении доверия к результатам, получаемым ЭС.

В целом ЭС бывают двух типов. ЭС первого типа близки к тьюторам. Они используются для помощи специалистам, решающим нужную им задачу, но не обладающим всеми необходимыми для этого знаниями. Таким специалистом может быть врач, впервые столкнувшийся с неизвестным ему заболеванием, или инженер-эксплуатационник, не знающий что делать в наблюдаемой в данный момент ситуации. В этих случаях ЭС, хранящая в своей памяти богатый запас знаний, почерпнутый из печатной продукции или от экспертов-специалистов, в режиме диалога с пользователем пытается оказать ему посильную помощь в постановке диагноза, планировании его деятельности, принятии решений при имеющемся множестве альтернатив и т.п. ЭС второго типа предназначены для работы со специалистами, ведущими научные исследования. Они являются для них вспомогательным инструментом, предназначенным для совместной работы в диалоговом режиме. Такие ЭС могут быстро производить нужные расчеты, создавать геометрические зрительные образы конструируемых объектов, быстро искать информацию в базе по запросу пользователя и т.п.

Рынок ЭС и число областей, в которых они с успехом используются, непрерывно возрастает [50, 51].

3. Производство ЭВМ новых поколений. В начале 80-х годов произошел всплеск в области конструирования ЭВМ. Известный проект "ЭВМ пятого поколения – путь к прогрессу", выдвинутый Японией, вызвал широкий отклик во всех развитых странах, ибо декларировал переход на новый уровень переработки информации и решения задач. ЭВМ пятого поколения должны быть такими, чтобы пользователь мог их применять с такой же легкостью, с какой он пользуется другими приборами, носящими название бытовых. Достижение этого уровня гарантирует массовое внедрение ЭВМ в повседневную деятельность людей [52].

Так искусственный интеллект, подобно тому, как это ранее произошло с вычислительной техникой, стал в середине 80-х годов одним из ведущих направлений научно-технического прогресса.

Литература



Мельчук И.А., Равич Р.Д. Автоматический перевод 1949-1963: Критико-библиграфический справочник. – М.: ВИНИТИ, 1967.

Апресян Ю.Д., Богуславский И.М., Иомдин Л.Л.  и   др.    Лингвистическое обеспечение в системе автоматического перевода третьего поколения. – М.: Научный Совет по комплексной проблеме "Кибернетика" при Президиуме АН СССР, 1978. 

		 Михайлов А.И., Черный А.И., Гиляревский Р.С.   Основы информатики. – М.: Наука, 1968. 

Леонов Б.П. О методах автоматического реферирования (США 1958-1974 гг.)// Научно-техническая информация, сер.2. – 1975. – №6. – С. 16-20.

Пащенко Н.А., Кнорина Л.В., Молчанова Т.В. и др.  Проблемы автоматизации индексирования и реферирования//  Итоги науки и техники.  Сер. Информатика. – М.: ВИНИТИ, 1983.  – Т.7.  – С. 7-164.

Севбо И.П.  Структура связного текста и автоматизации реферирования. – М.: Наука, 1969. 

Вычислительные машины и мышление. – М.: Мир, 1967. 

Ефимов Е.И.   Решатели интеллектуальных задач. – М.: Наука, 1982. 

Маслов С.Ю.  Теория дедуктивных систем и ее применение. – М.: Радио и связь, 1986. 

Чен Ч., Ли Р.  Математическая логика и автоматическое доказательство теорем: Пер. с англ. – М.: Наука, 1983.

Бонгард М.М.  Проблема узнавания. – М.: Наука, 1967. 

Поспелов Д.А.  Игры и автоматы. – М.-Л.: Энергия, 1966. 

Шеннон К.  Работы по теории информации и кибернетике: Пер. с англ. – М.: Изд-во иностр. лит., 1963. 

Ботвинник М.Н.  О кибернетической цели игры. – М.: Сов. радио, 1975. 

Зарипов Р.Х.   Кибернетика и музыка. – М.: Наука, 1971. 

Зарипов Р.Х.  Машинный поиск вариантов при моделировании творческого процесса. – М.: Наука, 1983. 

Гаазе-Рапопорт М.Г., Поспелов Д.А., Семенова Е.Т.  Порождение структур волшебных сказок. – М.: Научный Совет по комплексной проблеме "Кибернетика" при Президиуме АН СССР, 1980. 

Franke H.  Computer Graphiсs – Computer Art. – Berlin, Heidelberg, New-York, Tokyo: Springer Verlag, 1985. 

Слэйгл Дж.   Искусственный интеллект. – М.: Мир, 1973. 

Хант Э.  Искусственный интеллект: Пер. с англ. – М.: Мир, 1978. 

Эндрю А.  Искусственный интеллект: Пер. с англ. – М.: Мир, 1985. 

Нильсон Н.  Искусственный интеллект. Методы поиска решений: Пер. с англ. – М.: Мир, 1973. 

Аткинсон Р., Бауэр Г., Кротерс Э.  Введение в математическую теорию обучения. – М.: Мир, 1969. 

Моделирование обучения и поведения. – М.: Наука, 1975. 

Хант Э., Мартин Дж., Стоун Ф.  Моделирование процесса формирования понятий на вычислительной машине: Пер. с англ. – М.: Мир, 1970. 

Поспелов Д.А., Пушкин В.Н.  Мышление и автоматы. – М.: Советское Радио, 1972.

Поспелов Д.А. Ситуационное управление. Теория и практика. – М.: Наука, 1986.

Дрейфус X. Чего не могут вычислительные машины. Критика искусственного разума: Пер. с англ. – М.: Прогресс, 1978. 

Вейценбаум Дж. Возможности вычислительных машин и человеческий разум. От суждений к вычислениям: Пер. с англ. – М.: Радио и связь, 1982.

Гаазе-Рапопорт М.Г.  Автоматы и живые организмы. – М.: Физматгиз, 1961.  

Амосов Н.М., Касаткин A.M., Касаткина Л.М., Талаев С.А.  Автоматы и разумное поведение. - Киев: Наукова думка, 1973. 

Амосов Н.М.  Алгоритмы разума. –  Киев:  Наукова думка, 1979. 

Арбиб М.  Метафорический мозг: Пер. с англ. – М.: Мир, 1976. 

Розенблатт Ф.  Принципы нейродинамики: Пер. с англ. – М.: Мир, 1965.

Минский М., Пейперт С.  Перцептроны: Пер. с англ. – М.: Мир, 1971.

Представление знаний в человеко-машинных и робототехнических системах.  Том А. Фундаментальные исследования в области представления знаний. – М.: ВЦ АН СССР, ВИНИТИ, 1984. 

Минский М. Фреймы для представления знаний: Пер. с англ. – М.: Энергия, 1979. 

		 Шенк Р.  Обработка концептуальной информации: Пер. с англ. – М.: Энергия, 1980.

Попов Э.В.   Общение с ЭВМ на естественном языке. – М.: Наука, 1982.

Нильсон Н. Принципы искусственного интеллекта: Пер. с англ. – М.: Радио и связь, 1985.

Представление знаний в человеко-машинных и робототехнических системах. Том Д. Фундаментальные и прикладные исследования в области робототехнических систем. – М.: ВЦ АН СССР, ВИНИТИ, 1984. 

Гладун В.П.  Эвристический поиск в сложных средах. – Киев: Наукова думка, 1977. 

Уинстон П.  Искусственный интеллект: Пер. с англ. – М.: Мир, 1980. 

Представление знаний в человеко-машинных и робототехнических систем. Том В. Инструментальные средства разработки систем, ориентированных на знания. – М.: ВЦ АН СССР, ВИНИТИ, 1984. 

Кахро М.И., Калья А.П., Тыугу Э.Х. Инструментальная система программирования ЕС ЭВМ (ПРИЗ). – М.: Финансы и статистика, 1981. 

Тыугу Э.Х.  Концептуальное программирование. – М.: Наука, 1984. 

Поспелов Г.С., Поспелов Д.А. Влияние методов теории искусственного интеллекта на решение традиционных задач управления. – М.: Научный Совет по комплексной проблеме "Кибернетика" при Президиуме АН СССР, 1977.

Поспелов Г.С.  Системный анализ и искусственный интеллект. – М.: ВЦ АН СССР, 1980. 

Представление знаний в человеко-машинных и робототехнических системах. Том С. Прикладные человеко-машинные системы, ориентированные на знания. – М.: Издание ВЦ АН СССР, ВИНИТИ, 1984. 

Алексеева Е.Ф., Стефанюк В.Л.  Экспертные системы – состояние и перспективы// Известия АН СССР: Техническая кибернетика. – 1984. – №5. – С.153-167.

Микулич Л.И. Проблемы создания экспертных систем// Ученые записки Тартуского государственного университета, вып. 714. Теория и модели знаний (Теория и практика создания систем искусственного интеллекта). – Тарту: Изд-во Тартуского университета, 1985. – С. 87-114.

ЭВМ пятого поколения. Концепции, проблемы, перспективы. – М.: Финансы и статистика, 1984.