Интеллектуальные технологии и системы искусственного интеллекта для поддержки принятия решений

В.П. КАРЕЛИН

ИНТЕЛЛЕКТУАЛЬНЫЕ ТЕХНОЛОГИИ И СИСТЕМЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ДЛЯ ПОДДЕРЖКИ ПРИНЯТИЯ РЕШЕНИЙ

Обосновывается необходимость интеллектуализации информационных и организационных процессов в управлении социально-экономическими системами, необходимость построения и внедрения методов и систем искусственного интеллекта (ИИ) и интеллектуальных технологий поддержки принятия решений. Приведены составляющие информационных технологий бизнес-интеллекта и управления знаниями. Рассмотрены понятия

«интеллект», «интеллектуальная система», их свойства и особенности, направления моделирования мышления. Рассмотрены цели и задачи, которые ставятся перед теорией ИИ, основные подсистемы, входящие в систему ИИ. Приведены основные принципы построения нечетких интеллектуальных систем поддержки принятия управленческих решений.

Информационные технологии, интеллект, искусственный интеллект, интеллектуальные технологии, интеллектуальная система, бизнес-интеллект, управление знаниями, моделирование мышления, нечёткие системы, принципы построения интеллектуальных систем.

Современный мир буквально задыхается под лавиной информации. Эти потоки данных, для которых характерны неполнота, уникальность и необычайная динамичность, не поддаются формальной структуризации и поэтому те же «стандартные» базы и хранилища данных тут бессильны. Стремительное увеличение потока перерабатываемой информации ведет к значительным изменениям в методах работы и требует не только автоматизации процессов обработки и анализа данных, но также и интеллектуализации информационных и организационных процессов , построения и внедрения эффективных мето -дов и интеллектуальных технологий поддержки принятия решений (ПР).

Вместе с тем условия перехода к информационному обществу, когда фокус внимания перемещается от индустрии добычи, переработки сырья и полезных ископаемых на высокие технологии и инновации, диктуют необходимость работы всех социальных и экономических структур (государственное управление, бизнес, социальные коммуникации) по принципу быстрого, мобильного, интеллектуального предприятия. Такой принцип основывается на интеллектуальных способах управления наиболее критическим ресурсом - информацией [1].

Сейчас время бизнес-цикла от идеи до получения прибыли сократилось от нескольких лет до нескольких месяцев. Три фактора существенно изменили управленческую ситуацию - рост темпов: новизны, объема и многообразия обозреваемой информации. Вследствие этих причин возникла проблема - руководитель становится самым слабым звеном в цепочке бизнес-отношений, поскольку человек не выдерживает нагрузки. В результате на всех уровнях управления значительно возрастает доля ПР в неопределенных и нестандартных ситуациях. Это относится к технологиям, производству, планированию, конкуренции, организации и управлению компанией. Все больше и больше растет потребность в генерации новых идей, т.е. изобретение новых идей становится основ -ной движущей силой современного бизнеса. Однако существует предел новизны (новых факторов и идей),

который человек может усвоить за определенный период времени. Это его адаптивный уровень восприятия. Поэтому проблемы, связанные с необходимостью интеллектуализации информационных и организационных процессов, интенсификации интеллектуальной деятельности специалистов-управленцев, требуют незамедлительного решения.

Решение указанных проблем видится, с одной стороны, в развитии и использовании в менеджменте информационных технологий «Бизнес-интеллекта» (business intelligence - BI) и технологий «Управления знаниями» (knowledge management - KM), а с другой стороны - в повышении уровня интеллектуальности и быстродействия существующих информационных систем управления и систем поддержки управленческой деятельности [1-3].

В настоящее время BI-технологии включают следующие инструменты [4]: серверы реляционных баз данных, OLAP-серверы, хранилища данных, инструменты преобразования данных и отчётности, инструменты интеллектуального анализа данных и исследования, средства добычи данных (data mining), средства моделирования и прогнозирования, карты показателей, порталы и инструментальные панели, электронные таблицы, аналитические приложения и др. Большинство инструментов работают совместно, хотя в процессе ПР они играют разные роли.

В число основных информационных технологий (ИГ), поддерживающих KM, входят:

• сбор данных и текстов - распознавание образов, выделение значимых закономерностей из данных, находящихся в хранилищах или входных потоках. Эти ИГ основываются на статистическом моделировании, нейронных сетях, генетических алгоритмах и др. [3, 4];

• системы управления документооборотом - хранение, архивирование, индексирование, разметка и публикация документов;

• средства для организации совместной работы (Collaboration) - сети intranet, технологии групповой работы, синхронные и асинхронные конференции [4-6];

• корпоративные порталы знаний; средства, поддерживающие принятие решений (Decision support) -экспертные системы, системы, поддерживающие дискуссионные группы, и т.д.

В последнее время технологии BI и KM сближаются. Так, планы IBM и Microsoft включают интеграцию программных средств BI и инструментов KM и создание нового поколения программного обеспечения, которое будет работать как со структурированными, так и неструктурированными данными. А совсем недавно сложился конгломерат - KM-Enabled BI (Интеллект бизнеса, поддерживаемый Управлением знаниями) [4].

Кроме того, продолжается развитие и совершенствование ИГ, поддерживающих KM. В частности, в США и на Западе уже перешли от традиционного накопления и распределения знаний к коллективной практике Управления Знаниями. Так, по оценке Gartner Group - предприятия, которые не перешли к коллективной практике Управления Знаниями (модель click-n-mortar - использование ИГ и систем гибридного интеллекта), будут испытывать серьезные затруднения на рынке из-за резкой потери конкурентоспособности [1].

В России уже давно ведутся аналогичные разработки. В одних авторы предлагают способы и средства для организации в локальной компьютерной сети совместной работы специалистов для разработки сложных проектов и коллективного решения сложных проблем (метод генетического консилиума - развитие сетевого аналога метода ДЕЛФИ) [5]. В других предлагается создание и использование так называемого виртуального ситуационного центра, в основе которого лежит понятие «Мобильной интеллектуальной группы» - МИГ. Здесь в «виртуальной бригаде» экс -пертов все участники интерактивно сотрудничают, а их данные становятся общим доступным информационным фондом. МИГ вооружена специальными методиками и ИТ для генерации новых идей и оснащена мобильными телекоммуникационными средствами для коллективной работы. Причем акцент также делается на работу с неформализованной и слабо структурированной информацией [1].

МИГ ориентированы на ПР в кризисных ситуациях в режиме «по ситуации». С точки зрения ИГ и использования коммуникаций структура и организация МИГ максимально приближена к концепции «быстрого/мобильного» интеллектуального предприятия («agile» intelligence enterprise), принятой в США, что лежит в основе интеллектуального сообщества (Intelligence Community). Концепция МИГ, имея сходные задачи с концепцией быстрого/мобильного интеллектуального предприятия, имеет существенное отличие - решающим является человеческий фактор, а технические средства и телекоммуникации играют хотя и важную, но всё же вспомогательную роль. В состав МИГ входят лицо, принимающее решения (ЛПР), командир МИГ и эксперты. Персонал МИГ оптимизируется по совместимости для функциональной координации, раскрепощения интуиции и творческого потенциала личности. Это создает возможность использования новейших креативных технологий - интеллектуального конвейера и методик вир-

туального ситуационного центра в различных мобильных режимах [6].

Таким образом, для решения насущных неотложных задач высокой степени сложности, с которыми естественный интеллект не может справиться, возникает необходимость, с одной стороны, в совершенствовании и использовании технологий ВІ и КМ, а с другой - в создании и применении для ПР систем искусственного интеллекта (ИИ), то есть гибридных или интегрированных интеллектуальных систем (ИС) управления, различного рода ИС поддержки принятия решений, куда в число основных компонент включаются базы данных и знаний, блок решения (блок логического вывода), база моделей и т.п. [2-6].

Задачи создания таких ИС относятся к важнейшим в жизни общества [1-3]. Постановка и решение подобных задач стали возможными благодаря достижениям теории и практики интеллектуального управления, основанным на исследованиях в области ИИ, инженерии знаний, математического моделирования и обработки данных.

Теоретические и прикладные исследования в области ИИ и постоянно возрастающие потребности в интеллектуальных прикладных системах привлекли пристальное внимание ведущих ученых различных областей знаний к естественному человеческому интеллекту, формам мышления, планирования поведения, построения умозаключений и т.д.

Исследования в области психологии показывают, что для человека характерны три формы мыслительной деятельности: наглядно-действенное, нагляднообразное и понятийное мышление. Каждый из отмеченных типов мышления выполняет свои специфичес -кие функции в общем процессе умственного труда и имеет особое значение для формирования ряда способностей, развивающихся на протяжении всей жизни человека [7,8]. Это обстоятельство обусловливает правомерность и необходимость проведения исследований в области ИИ с позиции отмеченных типов мышления. Поэтому исследования, связанные с организацией наглядно-образной и понятийной форм ПР в ИС, представляются интересными как в теоретичес -ком, так и в прикладном аспектах.

Под наглядно-действенным мышлением ИС следует подразумевать различные формы целесообразного функционирования, направленные на изучение закономерностей проблемной среды методом проб и ошибок с привлечением эвристических процедур, позволяющих сокращать количество отрабатываемых пробных действий.

Наглядно-образное мышление связано с организацией планирования поведения на основе поступающей из среды информации, накопленного опыта функционирования и знаний, хранящихся в памяти. При этом процесс планирования поведения строится на основе заданных эвристических процедур и протекает без активного взаимодействия с проблемной средой до полного построения плана функционирования. Затем сформированный план реализуется и корректируется по ходу выполнения.

Понятийное мышление опирается только на хранящиеся в памяти факты и сводится к выводу решений без непосредственного визуального контакта с

проблемной средой. Примером такого вывода является построение умозаключений на основе различных правил вывода.

Ясно, что проведенное разделение процесса ПР в естественных ИС на различные уровни является ус -ловным и в естественных средах целенаправленное функционирование практически невозможно организовать без различного сочетания отмеченных форм мышления.

В многочисленных отечественных и зарубежных публикациях рассматриваются различные аспекты интеллектуальной деятельности (ИД) человека, в частности, целенаправленность, способность приобретать, пополнять, воспроизводить и использовать знания, способность ставить и решать задачи, способность предвидеть неизвестное, придумывать новое, способность к обобщению и ассоциациям и т.д.

ИД человека связана с поиском решений (действий, закономерностей) в новых, нестандартных ситуациях. Поэтому задача называется интеллектуальной, если точный метод ее решения априори не известен. Здесь под решением задачи понимается любая деятельность (человека или машины), связанная с выработкой планов и действий, необходимых для достижения определенной цели, с выводами новых закономерностей. Любая ИД опирается на знания о предметной области, в которой ставятся и решаются задачи.

Ввиду ключевой роли понятий «знания» и «интеллект» в определении ИД поясним разницу между ним.

Знания - это полезная информация, накопленная индивидуумом, а интеллект - способность индивидуума использовать эту накопленную информацию некоторым полезным (целенаправленным) образом. Более широко интеллект можно рассматривать как способность ЛПР достигать определенной степени успеха при поиске широкого многообразия целей в обширном диапазоне сред.

Интеллектуальными (когнитивными) функциями живого интеллекта являются восприятие, интуиция, творчество, ассоциация, индукция (обобщение), силлогизмы, узнавание, прогнозирование, планирование, дедукция, классификация, а также поиск и выбор, сравнение, идентификация, вычисление. В настоящее время детально проанализированы и формализованы следующие функции: поиск, выбор, вычисление, сопоставление, дедукция [2]. Попытки наделить компьютер интеллектуальными способностями более высокого уровня - немонотонной логикой, доказательством по аналогии, индуктивным выводом, вероятностными методами рассуждений и т.д. - пока не дали ощутимых практических результатов. Известные способы автоматизации и использования при решении задач управления интеллектуальных функций - это:

• на уровне обобщения и распознавания (классификации) объектов и ситуаций - использование нейросетей и нейрокомпьютеров;

• на уровне дедуктивных правил вывода - применение диалоговой системы, в которой человек манипулирует построенной в компьютерной системе моделью, а система, включающая в себя базу знаний и дедуктивный механизм вывода, помогает в этой работе.

Существующие социотехнические системы, включающие людей, коллективы предприятий, различного рода организационно-технические, технологические и человеко-машинные системы, относят к классу целеустремлённых или целенаправленных систем. Они осуществляют свободу выбора поведения, сообразуясь с ситуацией и критерием эффективности. Такие целенаправленные системы, обладающие способностью приобретать, воспроизводить и использовать знания, называют интеллектуальными системами (ИС). Они характеризуются следующей совокупностью определяющих свойств [8-10]:

• ИС способны на основе сформированной или заданной цели определять методы, пути и средства достижения конечного результата;

• ИС должны располагать возможностями проводить рассуждения в условиях неполноты информации с использованием правил как достоверного, так и правдоподобного выводов и, таким образом, порождать новые знания;

• ИС должны обладать способностями (механизмами, методами, алгоритмами, программами и т.п.) к аппроксимации, обобщению, концептуализации знаний;

• ИС в рамках своей компетенции должны уметь постигать, ставить и решать задачи;

• ИС должны узнавать и распознавать ситуации, образы, процессы и явления окружающего их мира;

• ИС являются информационно открытыми система -ми, расширяющими объём и содержание модели мира об окружающей их среде и сфере деятельности;

• ИС в процессе функционирования не только ис-пользуют уже известную им информацию, но и генерируют новую (знания, данные), т.е. выступают в качестве производителя и источника интеллектуальных информационных ресурсов.

Исходя из перечне ленных свойств, можно сделать

обобщающее заключение, что интеллект - это совокупность знаний и механизмов их целенаправленного использования для решения проблем, определяемых потребностью или необходимостью ИС.

Такое определение одинаково справедливо как для естественного («живого») интеллекта - персонального, коллективного, социального, так и для искусственного - технического интеллекта. Под механизмами использования знаний понимается мышление, механизмы его реализации для живого интеллекта и аналоги этих механизмов - для искусственного интеллекта [9]. В дальнейшем под ИИ будем понимать информационную модель естественного интеллекта.

Исторически сложились четыре основных направления в моделировании интеллекта, интеллектуальной деятельности [8, 11].

В рамках первого направления (информационное моделирование мышления) объектом исследования является структура и механизмы работы мозга человека. Конечная цель - раскрытие тайн мышления. Необходимыми этапами исследования в этом направлении является построение моделей на основе психофизиологических данных, проведение экспериментов с ними, выдвижение новых гипотез относительно ме-

ханизмов интеллектуальной деятельности, совершенствование моделей и т.д.

Второй подход (прикладное направление) в качестве объекта исследования рассматривает ИИ. Здесь речь идет о моделировании интеллектуальной деятельности с помощью вычислительных машин. Ос -новная цель - разработка и создание технических систем, которые могут решать отдельные задачи высокого уровня сложности и, таким образом, эти системы должны являться дополнением естественного интеллекта, которое позволяло бы усиливать интеллектуальные способности человека. Сюда относятся также создание алгоритмического и программного обеспечения ЭВМ, позволяющего решать интеллектуальные задачи не хуже человека. Основное отличие данного направления в том, что не ставится задача создания автономных систем ИИ, а решаются задачи моделирования отдельных интеллектуальных функций, таких как представление знаний, планирование целесообразного поведения, распознавание образов и обучение, общение человека и ЭВМ.

Третье направление ориентировано на создание смешанных человеко-машинных или, как еще говорят, интегрированных интерактивных ИС, на симбиоз возможностей естественного и ИИ. Важнейшими проблемами в этих исследованиях являются оптимальное распределение функций между естественным и ИИ и организация диалога между человеком и машиной.

Особо следует выделить четвертое, общетеоретическое направление. В него включают работы и исследования по созданию общей кибернетической теории мышления, ИИ или активного отражения. Это направление является наиболее абстрактным и наименее прорабо танным. Сюда входит создание концептуальных моделей человеческого интеллекта, мышления, а в перспективе - решение задачи создания мыслящей разумной машины.

Предметная область ИИ описывается естественными науками, хотя часто привлекаются и гуманитарные науки и даже должен учитываться весь накопленный мировым искусством опыт. Это объясняется невозможностью точно установить границы области мыс -лительной деятельности человека, поскольку человеческий интеллект, мышление проявляет себя в самых различных формах. Критерием адекватности, проверки правильности и полноты наших моделей являются практика, прикладные исследования.

Необходимо отметить, что только комплексное, органичное сочетание проводимых работ по всем указанным направлениям позволит добиться успеха.

Итак, сформулируем цели и задачи, которые ставятся перед теорией ИИ. Во-первых, фундаментальной стратегической целью ИИ является научное объяснение мыслительного процесса, оценка возможности передачи мыслительных функций техническим системам, машинам. Во-вторых, теоретическая ес-тественно-научная цель - это познание механизма выполнения различных функций мозга и переработки информации и создание моделей этих функций. В-третьих, практическая, техническая цель - это решение насущных неотложных задач высокой степени сложности, с которыми естественный интеллект не

может справиться без помощи технических средств, ЭВМ [11].

Сущностью этих задач является автоматизация деятельности (в том числе и умственной - интеллектуальной) человека, которая приведет к расширению возможностей и усилению способностей человечес-кого мышления. С точки зрения ИИ любая система, претендующая на название «система ИИ», обязательно должна содержать следующие подсистемы:

• ввода и распознавания необходимой, важной

информации;

• обработки, получения новой информации внутри

системы, т.е. подсистему обучения;

• накопления и хранения необходимой информации,

т.е. подсистему представления знаний;

• выработки целей и принятия решений, т.е.

подсистему целеполагания;

• подсистему общения;

• подсистему поддержания целостности системы;

• подсистему реализации принятых решений.

Чтобы существующие системы поддержки принятия решений (СППР) могли моделировать процесс ПР человеком, им необходимо придать свойства интеллектуальности, то есть включить в их состав перечне -ленные выше подсистемы. Тогда полученные СППР можно будет называть интеллектуальными. Интеллектуальность предполагает наличие в системе собственной внутренней модели внешнего мира. Эта модель обеспечивает индивидуальность, самостоятельность системы в оценке входного запроса, возможность семантической и прагматической интерпретации запроса в соответствии с собственными знаниями и выработку ответа (реакции), семантически и прагматически правильного с точностью до адекватного моделирования внешнего мира.

Важным признаком интеллектуальности, или свойством ИС, является способность к выводу, генерации, конструированию решения, которое в явном и готовом виде не содержится в системе. В этом свойстве проявляется способность системы к дедуктивному выводу («мышлению»). С информационной точки зрения это свойство иногда трактуется как способность системы формировать и выдавать новую интеллектуальную информацию, в явном виде в нее не заложенную, т. е. быть своего рода генератором новой информации, новых идей. Под интеллектуальной информацией понимается информация, обладающая семантическим и прагматическим свойствами, т.е. несущая определенный смысл и предназначенная для определенных целенаправленных действий. Наиболее эффективный способ представления и семантики, и прагматики в ИС заключается в построении определенных информационных структур типа графов, в вершинах которых расположены порции информации, а дуги соответствуют взаимоотношениям между ними. Поэтому под генерацией новой интеллектуальной информации понимается генерация новых информационных структур, несущих новую семантику и прагматику.

Следующая особенность ИС связана с проблемой нечеткости или размытости самого процесса ПР. В теории ИИ существуют несколько взаимосвязанных направлений. В работах, посвященных ортодоксаль-

ному эвристическому направлению, придерживаются той точки зрения, что процесс ПР принципиально не может быть строго формализован. В соответствии с этой точкой зрения модель процесса ПР представляет собой набор правил, приемов, систему догадок, которые проверены на опыте и не составляют единую дедуктивную систему. С другой точки зрения считается, что человек принимает решения логически, а следовательно, он может записать процесс ПР в виде алгоритма - формальной схемы последовательности операций. Однако в большинстве случаев лица, принимающие правильные решения, не могут формально представить свой процесс ПР (изложить его формальным языком). Эю объясняется тем, что неопределенность ПР лежит в самой природе явления ПР.

В работах [1-3, 12-15] рассмотрены различные подходы к созданию интеллектуальных СППР (ИСППР), интеллектуальных СУ (ИСУ) и гибридных систем, в том числе использующих аппарат теории нечетких множеств и нечеткой логики. Эти ИС предназначены для помощи ЛПР при управлении сложными объектами и процессами различной природы в условиях жестких временных ограничений и наличия различного рода неопределенностей (неполноты, нечеткости и противоречивости исходной информации, недетерминизма стратегий управления и т.д.). Такие ИСППР относятся к классу интегрированных ИС, сочетающих строгие математические модели и методы поиска решения с нестрогими (логиколингвистическими) моделями и методами, базирующимися на знаниях специалистов-экспертов, моделях человеческих рассуждений и накопленном опыте.

Особенностями задач, решаемых с помощью нечетких ИСППР, в том числе ИСППР реального времени, являются:

• невозможность получения всей объективной информации, необходимой для решения, и в связи с этим использование субъективной, экспертной информации;

• многовариантность поиска, необходимость применения методов правдоподобного (нечеткого) поис-ка решения и активного участия в нем ЛПР;

• необходимость коррекции и введения дополнительной информации в базу знаний системы при поиске решения [13].

Следует отметить, что ИСУ, в отличие от ИСППР, не предполагает участие в ПР человека. Основой для построения нечеткой ИСУ является СУ с участием эксперта, который на основе опыта и знаний об управлении объектом формирует описание процесса управления. Затем это описание преобразуется в базу нечетких правил и в дальнейшем используется в ИСУ уже без участия эксперта. Идея нечеткого управления заключается именно в подражании действиям опытного человека-оператора [2, 14]. Нечеткие правила -это нечеткие продукционные правила, которые при фиксированной цели управления описывают стратегии управления на качественном уровне. Нечеткие ИСУ применяются там, где классические СУ неприменимы, а именно в случае нелинейности СУ, в условиях значительной неопределенности, а также в СУ, основанных на использовании экспертной информации. В нечетких ИСУ входные и выходные пере-

менные являются лингвистическими, а функция управления приближенно описывается совокупностью нечетких продукционных правил [2, 14,15].

Итак, можно выделить основные принципы построения нечетких ИСППР и ИСУ реального времени (РВ) [13]:

1) открытости и динамичности, так как ИС РВ ориентированы на открытые и динамические проблемные области;

2) семиотичности, поскольку ИСППР РВ - это система распределенного интеллекта семиотического типа, включающая наряду с традиционными для экспертных систем модулей, таких как база данных, база знаний, модуль вывода (поиска) решения, также базу моделей, интеллектуальные модули прогнозирования, моделирования проблемной ситуации, модули организации интерфейса: образного, текстового, речевого и в виде различных графиков и диаграмм и др.;

3) адаптивности модели представления знаний и поиска решения. Сохраняется способность к обучению, накоплению и пополнению знаний, работоспособность в условиях непредвиденного изменения свойств управляемого объекта, цели управления и т.п.;

4) распределенной и параллельной обработки информации. Обеспечивается возможность проведения качественного анализа огромного объема информации и поиска приемлемого решения в условиях жестких временных ограничений;

5) максимального удобства для ЛПР средств общения с ИСППР и отображения текущей информации на основе технологии когнитивной графики и гипертекста. Это позволит ЛПР активно использовать механизмы как активного, так и глубинного уровней мышления.

Таким образом, для полной реализации интеллектуальных способностей, связанных с принятием решений, планированием, прогнозом и эффективным управлением, современные и перспективные ИСППР и ИСУ должны быть реализованы с использованием новейших технологий, основанных на концепциях распределенного искусственного интеллекта, динамических адаптивных моделей знаний, параллельной обработки информации при поиске решения на основе экспертных (нечетких) моделей и методов правдоподобного вывода. В этой связи представляется весьма перспективным при создании автоматизированных ИСППР, ИСУ, систем интеллектуального анализа данных и прогнозирования использовать также и новейшие разработки в области теории и практики нечетких нейронных сетей и гибридных нейроподобных систем [3], нечёткие модели и методы многокритериального выбора и нечёткого логичес-кого вывода [2, 12-15].

ЛИТЕРАТУРА

1. Рыжов ВА. Технологии виртуального ситуационного центра для принятия решений в кризисных ситуациях. «РДР-ЦЕНТР» совместно с компанией КШ8-1пс. 2002. (Интернет).

2. Берштейн Л. С., Карелин В.П., Целых А.Н. Модели и методы принятия решений в интегрированных

интеллектуальных системах: монография.

Ростов н/Д: РГУ, 1999.

3. Теория и практика нечетких гибридных систем/ ИЗ. Батыршин, А А Недосекин, А А Стецко и др. М.: Физматлит, 2007.

4. Валъкман Ю.Р., Валъкман Р.Ю., Исмагилова Л.Р. Бизнес-интеллект и управление знаниями: понятия, технологии, интеллектуальность // Труды Международных НТК 1ЕЕЕ АК-09, СА0-2009. М.: Физматлит, 2009.

5. Протасов В. И., Карелин В.П. Новый метод коллективной разработки проектов в компьютерных сетях // Известия вузов Сев.-Кавказского региона. Техн. науки. 2002. № 2.

6. Рыжов В.А., Матвеев Е.В. Мобильные интеллектуальные группы и интеллектуальный конвейер в современном информационном пространстве // Педагогическая информатика. 2006. №2.

7. Берштейн Л.С., Илъягуев П.М., Мелехт В.Б. Интеллектуальные системы. Махачкала: Дагкниго-издат, 1996.

8. Интеллектуальные процессы и их моделирование. М.: Наука, 1987.

9. Нечаев В.В., Дарьин А.В. Интеллект - стратегичес-кий ресурс информационного общества // Проблемы информатизации. 2001. №1.

10.Рассел С., Норвиг П. Искусственный интеллект -современный подход. М.: Изд. дом «Вильямс», 2006.

11. Варламов О.О. О необходимости перехода от теории искусственного интеллекта к разработке теории активного отражения // Известия ЮФУ. Технические науки. Тематич. выпуск «Интел лек-туальные САПР». 2007. №2.

12. Трахтенгерц Э.А. Компьютерная поддержка принятия решений: научно-практическое издание. Серия «Информатизация России на пороге XXI века». М: СИНТЕГ, 1998.

13.Вагин В.Н., Еремеев А.П. Некоторые базовые принципы построения интеллектуальных систем поддержки принятия решений реального времени // Известия РАН. Теория и системы управления. 2001. №6.

14. Леденева Т.М., Татаркин Д.С. Особенности проектирования систем нечеткого логического вывода // Информационные технологии. 2007. №7.

15. Глушанъ В.М., Карелин В.П., Кузьменко О.Л. Нечеткие модели и методы многокритериального вьйора в интеллектуальных системах поддержки принятия решений // Известия ЮФУ. Технические науки. Тематич. выпуск «Интеллектуальные САПР». 2009. №4.