К проектированию онтологоуправляемой информационной системы с обработкой естественно-языковых объектов

УДК 004.318

А.В. ПАЛАГИН, Н.Г. ПЕТРЕНКО

К ПРОЕКТИРОВАНИЮ ОНТОЛОГОУПРАВЛЯЕМОЙ ИНФОРМАЦИОННОЙ СИСТЕМЫ С ОБРАБОТКОЙ ЕСТЕСТВЕННО-ЯЗЫКОВЫХ ОБЪЕКТОВ___________________________________________

Abstract: In this work the approach to the formalized projection of ontology-driven intelligence system with natural language processing objects is considered. Primal problems of the analysis and the synthesis, solved on all design stages are briefly considered. Also the example of solution of the task of classification of text documents is considered.

Key words: domain ontology, natural language processing.

Анотація: У роботі розглянуто підхід до формалізованого проектування онтологокерованої інформаційної системи обробки природномовних об'єктів. Коротко розглянуто основні задачі аналізу та синтезу, вирішувані на всіх етапах проектування. Також розглянуто приклад вирішення задачі класифікації текстових документів.

Ключові слова: онтологія прикладної галузі, комп’ютерна обробка природномовних об'єктів.

Аннотация: В работе рассмотрен подход к формализованному проектированию онтологоуправляемой информационной системы с обработкой естественно-языковых объектов. Кратко рассмотрены основные задачи анализа и синтеза, решаемые на всех этапах проектирования. Также рассмотрен пример решения задачи классификации текстовых документов.

Ключевые слова: онтология прикладной области, компьютерная обработка естественно-языковых объектов.

1. Введение

Одной из важных ветвей современного развития интеллектуальных информационных систем являются онтологоуправляемые информационные системы (ОУИС). Построение последних тесно связано с разработкой теоретических основ и методологии проектирования, включающих формальный подход, фундаментальные принципы и механизмы, обобщённую архитектуру и структуру системы, формальную модель и методологию проектирования онтологии предметной области (ПрО), формальную модель представления знаний, обобщённые алгоритмы процедур обработки знаний и др. В свою очередь, каждая из перечисленных составляющих общей методологии проектирования представляет собой сложную информационно-алгоритмическую структуру, например, разработка онтологии ПрО тесно связана с концептуализацией онтологических категорий, разработкой и усовершенствованием иерархических структур сущностей на всех уровнях, построением формальной системы аксиом и ограничений. Комплексное решение указанных задач проектирования должно повысить роль онтологических (концептуальных) знаний при решении конкретных задач в прикладных областях.

2. Постановка задачи

При проектировании знаниеориентированных информационных систем (какой является и ОУИС) существенным является выбор как формально-логического представления знаний, так и источников приобретения и пополнения знаний. В настоящее время признанным “де-факто”, наиболее обширным и общедоступным источником знаний, является Интернет-пространство с его естественным способом представления информации. Указанный способ предопределил появление многочисленных информационных технологий обработки знаний, содержащихся в естественноязыковых объектах (ЕЯО), в том числе и NLP-технологии (Natural Language Processing).

В известных методах формализованного проектирования информационных систем (ИС) [1] сам процесс проектирования представляется в виде последовательности этапов (в основном

системного, алгоритмического и логического), на каждом из которых проект представлен совокупностью математических моделей, описывающих различные её части. Указанная совокупность математических моделей тесно связана с системой взаимосвязанных алгоритмов, которые, в свою очередь, описывают соответствующее множество решаемых задач и в своей совокупности представляют общий алгоритм проектирования ИС. Применительно к проектированию ОУИС обработки знаний, содержащихся в ЕЯО, обобщённая последовательность решаемых задач анализа и синтеза на всех этапах следующая:

1. Исследование архитектурно-структурной организации современных ОУИС обработки

знаний.

2. Разработка онтолого-инфологической модели структуры ОУИС.

3. Анализ класса решаемых задач из заданной ПрО и выбор основных критериев проектирования.

4. Выбор формальных теорий описания знаний и ЕЯО из заданной ПрО.

5. Разработка онтологии ПрО и алгоритмов её взаимодействия с лингвистической компонентой ОУИС.

6. Разработка языково-онтологической информационной системы - базовой лингвистической компоненты ОУИС.

7. Разработка многоуровневой композиции программируемых автоматов - основы архитектуры и структуры ОУИС, а также эффективных средств связи между уровнями программирования.

3. Проектирование ОУИС

Известно, что проектируемые средства информатики в соответствии с их проблемной ориентацией базируются на некоторой совокупности фундаментальных принципов, методик и алгоритмов. Также известны многочисленные разработки в области обработки ЕЯО [2-6, 19, 20 и др.], в которой, ввиду огромной сложности решаемых задач, принимаются те или иные ограничения, снижающие эффективность средств обработки. Авторами были рассмотрены и проанализированы работы и проекты, в которых формальная онтология играет существенную роль. В результате были выявлены главные недостатки, снижающие эффективность реализации отдельных процедур и конечных результатов в целом.

В качестве фундаментального механизма при разработке средств интерпретации ЕЯО в работе предлагается модификация известного логико-информационного подхода (ЛИП) [7], применительно к ЫЬР-технологии, названном онтолого-инфологическим (ОИП). Заметим, что одним из преимуществ ОИП является поддержка эффективной аппаратно-программной реализации средств интерпретации наиболее трудоёмких процедур обработки ЕЯО. При этом аппаратная компонента реализуется методами современных ПЛИС-технологий. Одним из прорабатываемых авторами вариантов является реализация системы в виде автоматной сети, включая вариант комбинационных автоматов без памяти, названными в [8] адаптивными логическими сетями. ЛИП, а также известные его модификации, уже доказали свою эффективность

при решении задач архитектурного проектирования компьютерных систем [8, 9]. Не останавливаясь на подробном описании ОИП, приведём его формальную модель

" =< Т Ж, С,, Б,, О,, I >,

2 = 0, р

где р - количество уровней обработки ЕЯО (основными из которых являются графемно-морфологический, синтаксический, семантический, онтолого-семантический и информационнокодовых представлений объектов текста);

О, - отображение і -ого уровня обработки ЕЯО;

Т - множество обрабатываемых на і -ом уровне объектов ЕЯО;

Ж - множество слов, описывающих Ті на і -ом уровне;

Сі - множество синтаксических структур, связывающих Ж на -ом уровне;

Б, - множество семантических структур, соответствующих С, на -ом уровне;

О, - множество фрагментов онтологических структур, участвующих в формировании

Б, на -ом уровне, композиция которых в идеале составляет языково-онтологическую картину мира (ЯОКМ);

Іі - множество информационно-кодовых представлений Б, (индексов) на -ом уровне.

В соответствии с (1) оптимальной считается такая структурная реализация модели ОУИС, для которой в соответствии с принятыми критериями найдены оптимальное количество уровней и оптимальные соотношения между обобщёнными характеристиками компонент на каждом уровне, а также соответствующими характеристиками компонент соседних уровней.

Компонента О = {О1} формальной модели ОИП в общем случае представляет интеграцию онтологических общелингвистических знаний и знаний предметных областей. При этом общелингвистические знания будем рассматривать в качестве отдельной предметной области. Тогда объём знаний W в предметных областях можно оценить через характеристики (параметры) их формально-онтологических представлений. В частности, при представлении онтологическим графом (ОГ) (без учёта типов отношений и сложности функций интерпретации) величина W может характеризоваться числом вершин ОГ. Как показано в [10], в случае простой древовидной структуры это число может быть выражено формулой

Ж = ЕЕЕ Оп •БК1 ,

П И I

где Оп - онтограф п -ой предметной области, п = 1,N , Б- степень вершины, равная

числу исходящих из неё рёбер, И = 1,Н - количество уровней ОГ, I = 1,Ьи - номер вершины на

соответствующем (И -ом) уровне ОГ.

Учёт типов отношений и сложность функций интерпретации приводит к ОГ со взвешенными вершинами и ребрами. Выражение (2) при этом сводится к виду

W = EE On n h

f ^ al + Ebi, j j J

где О-, и bi  - значения весовых функций соответствующих отношений и функций

ll,j

интерпретации, приписанные вершинам (О-,) и ребрам (b ) ОГ. Выражение (3) даёт полную

ll j

оценку сложности ОГ, а отношение о = W° / W характеризует среднюю плотность взвешенного ОГ.

Актуальной для направления онтологического инжиниринга является проблема разработки методологии проектирования формальной онтологии ПрО. Несмотря на то, что обобщённая схема такой методологии была опубликована в [21] ещё в 1996 году, до сих пор не существует общепринятой методологии. Остаётся открытым вопрос, поставленный в [11], “...появится ли конструктивная и работающая теория разработки онтологий или по-прежнему каждый аналитик будет идти методом проб и ошибок, создавая сложнейшие и головоломные онтологические структуры, отражающие лабиринты профессиональных знаний?”. Методология проектирования формальной онтологии ПрО представляет собой сложный инструментальный комплекс, состоящий из оригинальных инструментальных средств (ОИС) (возможно, в сочетании с известными) и алгоритмов реализации этапов проектирования в ручном режиме, объединённых между собой программной оболочкой, которая обеспечивает разработчику онтологии автоматизированный и интерактивный процесс проектирования. Она предназначена, в первую очередь, для повышения уровня формализации и автоматизации проектирования онтологии ПрО, при этом обеспечивая выполнение условий целостности, непротиворечивости, интегрированности, операбельности и др. для создаваемых онтологий.

В качестве оригинальных инструментальных средств предлагаются прикладные программы “Concepts and Axioms Formation” и “Relations Formation”. Оба средства выполняют обработку лингвистического корпуса текстовой информации из заданной предметной области и затем формируют соответственно базовые списки концептов и аксиом и семантических отношений в заданной ПрО.

В качестве известных автоматизированных инструментальных средств (АИС) предлагается использовать Protege-2000 или OntoStudio как системы, формирующие описания проектируемой онтологии в двух, наиболее популярных подсистемах логики, - соответственно фреймовом представлении и исчислении предикатов первого порядка.

Работа с большими массивами текстовой информации предполагает их поиск, первичную обработку и хранение. В качестве исполнителя указанных процедур могут быть привлечены известные популярные поисковые машины. Альтернативным вариантом может быть ориентация на знаниеориентированную поисковую систему (ЗОПС), описанную в [12]. Одним из основных преимуществ её использования можно отметить построение онтологии найденных в Интернет текстовых документов и их первичную обработку.

Ручные и интерактивные процедуры проектирования онтологии ПрО поддерживаются программной оболочкой, которая обеспечивает “дружественный” интерфейс с разработчиком.

Обобщённая блок-схема инструментального комплекса, реализующего алгоритм

формализованного проектирования онтологии ПрО, представлена на рис. 1.

Разработчик

Concepts and Axioms Formation

Рис.1. Обобщённая блок-схема инструментального комплекса

По своей функциональной полноте различают три вида онтологий ПрО [17]: полная (или строгая), простая и множество промежуточных (или неполных) онтологий.

Строгая или полная онтология ПрО (в терминах работы [11] - “весомая” онтология) - это такая онтология, в которой множества концептов и концептуальных отношений максимально полные, а к аксиомам и определениям добавляются ограничения. При этом аксиомы, определения и ограничения представлены на некотором формальном языке, доступном для их интерпретации компьютером. Схема формальной модели полной онтологии описывается формулой

O =< X ,А

где X - множество концептов;

Я - множество концептуальных отношений между ними;

F - множество функций интерпретации концептов, отношений и аксиом;

А - множество аксиом, определяющих подмножества базовых концептов;

В - множество определений терминальных понятий;

Я - множество ограничений, определяющих область действия понятийных структур. Простая онтология ПрО (в терминах работы [11] - “легкая” онтология) - это такая онтология, в которой множество Я или пусто, или определено одним отношением, а множество F

- пусто. При этом аксиоматизация может быть представлена определениями терминов словаря ПрО на естественном языке (ЕЯ).

Множество промежуточных или неполных онтологий ПрО описываются различными сочетаниями мощностей множеств Я и F , а аксиоматизация выполнена на ЕЯ.

Такая схема классификации по функциональному признаку согласуется с описанием [22]: “Онтология или концептуальная модель предметной области состоит из иерархии понятий предметной области, связей между ними и законов, которые действуют в рамках этой модели”, а также с работами [11, 13, 14].

4. Архитектура ОУИС

Архитектура ОУИС, разработанная в соответствии с ОИП-моделью для проблемной области обработки ЕЯТ, представлена на рис. 2. На нём приняты следующие обозначения:

ЛБД - лексикографическая база данных;

ЯОКМ - языково-онтологическая картина мира.

ЛБД представляет набор таблиц, соответствующих грамматическому словарю для каждой части речи ЕЯ, таблиц окончаний для полнозначных изменяемых частей речи, уникальных идентификаторов лексем ЕЯ и их синтаксических и семантических характеристик. Более подробно структурная организация и функционирование ЛБД описаны в [15]. Заметим, что функции ЛБД значительно расширены по сравнению с традиционными грамматическими словарями, и они эффективно реализуются аппаратными средствами.

ЯОКМ представляет лингвистическую онтологию, одну из центральных компонент ОУИС с обработкой ЕЯТ, которая более подробно описана в [15] и совместно с ЛБД представляет базу знаний лексики ЕЯ. Отметим, что ЯОКМ представляет собой формализованную онтологию, в которой аксиомы и определения входят в состав баз знаний синтаксиса и семантики модуля грамматического анализатора (на рисунке не показаны), а ограничения являются составной частью синтаксических и семантических характеристик ЛБД.

Грамматический анализатор. Компонента, реализующая процедуры графемного, морфологического и синтаксического анализа. Она взаимодействует с лексикографической базой данных (ЛБД), а результаты анализа (сформированные в виде итоговой морфологической таблицы текста и синтаксических деревьев предложений, входящих в текст) передаются на вход семантического анализатора.

Семантический анализатор. Компонента, реализующая процедуры семантического анализа предложений текста, решения задачи грамматической и лексической неоднозначности и построения формально-логического представления предложений текста. При этом первые две процедуры могут выполняться итеративно. Семантический анализатор взаимодействует с ЛБД и ЯОКМ, а результаты анализа (сформированные деревья и формально-логические представления семантически связанных фрагментов текста) передаются на вход семантико-информационного интерпретатора (СИИ).

СИИ реализует процедуры построения информационно-кодового представления семантики текста и его интерпретационной модели (знаниеориентированной компоненты). Причем, если

построение первой составляющей обеспечивает прикладной процессинг непосредственно входного текста (реферирование, классификацию, построение простой онтологии документа и др.), то в совокупности со второй составляющей обеспечивается прикладной процессинг для различных процедур обработки не полностью формализованных знаний (извлечение, интерпретация, накопление знаний и др.).

Входной текст

Рис.2. Архитектура онтологоуправляемой информационной системы с обработкой ЕЯО

Цепочки преобразования информации Т  Ж  Б и О  Б  /, по сути, представляют (соответственно) базовые процедуры анализа и понимания ЕЯТ, средствами интерпретации которых являются грамматический и семантический анализаторы и семантико-информационный интерпретатор.

Модули базы знаний предметной области и прикладного процессинга предназначены для решения конкретных задач пользователя. Причём для простых задач обработки ЕЯО реализующие их алгоритмы могут войти в состав ОУИС с обработкой ЕЯО.

Рассмотрим работу системы (рис. 2) на примере решения задачи классификации найденных в сети Интернет текстовых документов как таковой, алгоритмы которой лежат в основе более сложных задач обработки текстовой информации (в том числе поиска релевантной информации, построения персонифицированных баз знаний и др.). При этом блок прикладного процессинга представлен упомянутой выше ЗОПС.

Формальную постановку задачи классификации представим следующим образом:

- предполагается, что ЗОПС находит в сети некоторое множество текстовых документов в = {с1,}(у; = 1 т, т — мощность множества), представленных для классификации в заданной ПрО;

- всё множество й разбивается на непересекающиеся подмножества классов

Задачей классификации является определение класса, к которому принадлежит данный документ.

Исходя из архитектурно-структурной организации ОУИС, представленной на рис. 2, задано базу знаний ПрО (в нашем случае достаточно и онтологии ПрО) и базу знаний лексики ЕЯ. При этом заметим, что:

- если множество лексем, описывающих заданную ПрО, не является подмножеством множества лексем ЯОКМ, то необходимо создать лингвистическую онтологию заданной ПрО;

- мы сознательно опускаем описание работы той части алгоритма, в которой реализуется снятие неоднозначностей при анализе текстовых документов;

- в блоке прикладного процессинга имеются алгоритмы построения онтологий текстового документа для классов С и семантическая память большого объема для хранения классифицированных документов.

Последовательность шагов решения задачи классификации:

1. Каждый найденный ЗОПС документ проходит в ней предварительную обработку (анализ на релевантность, создание текстового файла и др.) и передаётся на вход ОУИС, а точнее - на вход грамматического анализатора.

2. В грамматическом анализаторе выполняется морфологический и синтаксический анализ документа, при этом он активно взаимодействует с ЛБД блока базы знаний лексики ЕЯ. В результате работы грамматического анализатора получим набор синтаксических деревьев предложений документа. Указанный набор передаётся на вход семантического анализатора.

3. Семантический анализатор преобразует синтаксические деревья предложений документа в семантические деревья и в конечном итоге выполняет предварительное объединение семантических фрагментов документа. При этом его блоки активно взаимодействуют с ЯОКМ. Одним из важных результатов работы семантического анализатора является снятие всех

п

]=1

неоднозначностей в семантическом представлении документа. Набор семантических фрагментов документа и их объединение передаются на вход СИИ.

4. СИИ при решении задачи классификации документов выполняет ограниченные функции, а именно - на основе разрозненных семантических фрагментов документа строит взаимосвязанное множество семантических структур документа.

5. Такое взаимосвязанное множество семантических структур документа в упрощённом виде можно рассматривать как онтологию документа, пригодную для сравнения с онтологиями классов. Другие алгоритмы блока прикладного процессинга реализуют распределение по классам найденных ЗОПС документов и их запоминание в семантической памяти.

4. Выводы

В работе рассмотрен подход к формализованному проектированию онтологоуправляемой информационной системы с обработкой естественно-языковых объектов. Кратко рассмотрены основные задачи анализа и синтеза, решаемые на всех этапах проектирования: разработка онтолого-инфологического подхода к проектированию, предложены формальная модель онтологии ПрО и интегрированная среда для её проектирования, с учётом результатов, полученных в предыдущих работах [9, 15-18], синтезирована структура проектируемой ОУИС. В заключение рассмотрен пример решения задачи классификации текстовых документов, при этом вычислительные процедуры реализуются на синтезированной структуре ОУИС и с применением в качестве блока прикладного процессинга знаниеориентированной поисковой машины.

Основные результаты проведенного исследования предполагают выполнение дальнейших работ по детализации схемы общего алгоритма проектирования ОУИС с обработкой ЕЯО и формализованной методики в целом. Кроме того, предстоит разработать формализованный переход от NLP-технологии к технологии Knowledge processing для решения прикладных задач работы со знаниями.

СПИСОК ЛИТЕРАТУРЫ

1. Капитонова Ю.В., Летичевский А.А. Математическая теория проектирования вычислительных систем. - М.: Наука, Гл. ред. физ.-мат. лит., 1988. - 296 с.

2. Апресян Ю.Д. и др. Лингвистический процессор для сложных информационных систем. - М.: Наука, 1992. -287 с.

3. Корпусна лінгвістика / В.А. Широков, О.В. Бугайов, Т.О. Г рязнухіна та ін. - К.: Довіра, 2005. - 471 с.

4. Гладун В.П. Процессы формирования новых знаний. - София: СД «Педагог 6», 1994. - 192 с.

5. Замаруева И.В. Об одном подходе к компьютерному моделированию процесса понимания естественноязыковых текстов // Труды VI Межд. конф. «ЗНаНиЕ-ДиАЛОГ-РеШЕНИЕ», kDs-97. - Ялта, 1997. - 15-20 сентября. - С. 241-248.

6. Нариньяни А.С. Кентавр по имени ТЕОН: Тезаурус + Онтология, Российский НИИ искусственного интеллекта. - Available at http://www.artint.ru./articles/nari n/teon.htm.

7. Палагин А.В. К решению основной задачи эмуляции // УСиМ. - 1980. - № 3. - С. 24-28.

8. Палагин А.В., Опанасенко В.Н. Реконфигурируемые вычислительные системы: Основы и приложения. - К.: Просвита, 2006. - 280 с.

9. Палагин А.В., Петренко Н.Г. Архитектура онтологоуправляемой ИС с обработкой ЕЯТ // Матеріали Х^ міжнародної конференції з автоматичного управління “Автоматика - 2007”. - Севастополь, 2007. - 10-14 вересня. - Ч. 2. - С.166.

10. Палагин А.В., Петренко Н.Г. К вопросу системно-онтологической интеграции знаний предметной области // Математичні машини і системи. - 2007. - № 3, 4. - С. 63-75.

11. Гаврилова Т. А. Онтологический инжиниринг. - Available at http://www.kmtec.ru/publications/library/authors/ontolog engeneering.shtml.

12. Севрук О.О., Петренко М.Г. Знання-орієнтована пошукова система на основі мовно-онтологічної картини світу // Тези доповідей ХІІІ міжнародної конференції з автоматичного управління “Автоматика-2006”. - Вінниця.

- 2006. - 25-28 вересня. - С.413.

13. Палагин А.В., Яковлев Ю.С. Системная интеграция средств компьютерной техники. - Винница: «УНІВЕРСУМ-Вінниця», 2005. - 680 с.

14. Гаврилова Т.А., Хорошевский В.Ф. Базы знаний интеллектуальных систем. - СПб.: Питер, 2001. - 384 с.

15. Палагін О.В., Петренко М.Г. Модель категоріального рівня мовно-онтологічної картини світу // Математичні машини і системи. - 2006. - № 3. - С. 91-104.

16. Интеллектуальные технологии обработки естественно-языковых объектов и системно-онтологическая интеграция знаний / А.В. Палагин, Н.Г. Петренко, А.О. Севрук А.О. та ін. // Тези доповідей міжнародної наукової конференції MegaLing'2007. Україна, Крим, Партеніт, 24-28 вересня 2006 року. - Сімферополь: Вид-во “ДиАйПи”, 2007. - С. 280.

17. Палагін О.В., Петренко М.Г. Архітектурно-онтологічні принципи розбудови інтелектуальних інформаційних систем // Математичні машини і системи. - 2006. - № 4. - С.15-20.

18. Палагін О.В., Петренко М.Г. Розбудова абстрактної моделі мовно-онтологічної інформаційної системи // Математичні машини і системи. - 2007. - № 1. - С. 42-50.

19. Sowa, John F. Knowledge Representation: Logical, Philosophical and Computational Foundations // Brooks Cole Publishing Co. - Pacific Grove, cA, 2000. - 594 p.

20. Fellbaum, Christiane WordNet: An Electronic Lexical Database // MIT Press, Cambridge, MA. - 1998.

21. Uschold M. and Gruninger M. (1996). Ontologies: Principles, Methods and Applications // Knowledge Engineering Review. - 1996. - Vol. 11 (2). - P. 93-136.

22. Guarino N. Formal Ontology and Information Systems. Formal Ontology and Information Systems // Proc. of FOIS'98. - Trento, Italy, 1998. - 6-8 June. - IOS Press, Amsterdam. - P. 3-15.

Стаття надійшла до редакції 08.02.2008