Компьютерный морфологический разбор слов русского языка

Компьютерный морфологический разбор слов русского языка

Применение данной статьи важно для тех, кто хочет сделать интерфейс к своей программе на естественном языке или сделать интеллектуальный поиск информации. Для этого нужно в первую очередь сделать морфологический анализ слов текста. Тогда не нужно будет иметь обширный словарь слов в разных словоформах. Достаточно запомнить основное слово в словаре, а входной поток слов подвергать морфологическому анализу, с тем чтобы все слова преобразовать к начальным словоформам. 

Пример. пользователь ввел в базу знаний свою информацию "фирма РиК. Наша фирма продает тару картонную". Модуль морфологического разбора преобразует эту информацию к следующему виду: "фирма. РиК. мой фирма продать тара картонный". С точки зрения смысла получилась бессмыслица. Но для компьютера - в самый раз, это будет видно дальше. Теперь, другой пользователь вводит для поисковой системы запрос "продает тару картонную". Этот запрос будет так же преобразован в "продать тара картонный". И теперь исполнив простой поиск по совпадению, система поиска выдаст ранее запомненную информацию: "фирма Рик. продать...". Однако здесь было бы лучше запомнить первоначальную информацию клиента с правильными словоформами и выдать только её.

Морфология слов русского языка определяется по аффиксу - окончанию и суффиксу слова. Назовем это правило правилом морфологического разбора. Однако есть слова, которые имеют окончание, подходящее для некоторой формы слова, но являются совершенно другой формой. Например, "-ать" говорит что слово есть глагол (прыгать, бежать). Но есть слово "кровать", которое есть существительное. Значит, из правила морфологического разбора есть исключения. Так же есть слова, которые не изменяют свою форму. Например, предлоги, "не", наречия, "столь" и т.д. Значит, есть дополнения к правилу морфологического разбора. Эти дополнения можно представить как исключения из правила. Таким образом мы пришли к определенному логическому описанию морфологического разбора слов. Для создания компьютерной программы здесь лучше всего подойдет логический язык программирования. Рассмотри два из них.

Пример программы морфологического разбора слов на логическом языке программирования ПРОЛОГ.

------------------------------------

/* программа по распознаванию морфологии слов русского языка */

/* по окончанию слова */

/* язык программирования ПРОЛОГ */

domains

Слово = string

predicates

морфология(Слово,Слово Основа)

nondeterm исключение(Слово,Слово Основа)

nondeterm правило(Слово Аффикс, Слово АффиксОсновы)

nondeterm аффикс(Слово Корень, Слово, Слово Аффикс)

clauses

/* база знаний */

/* исключения из правила разбора слова для "неправильных" слов */

исключение("рек","река").

исключение("сел","сесть").

/* правила разбора для правильных слов */

/* для глаголов */

правило("нули","ать").

правило("нул","ать").

правило("еть","ать").

правило("ает","ать").

правило("ал","ать").

правило("ул","ать").

правило("ули","ать").

/* для прилагательных */

правило("вая","вый").

правило("вые","вый").

правило("ая","ой").

правило("ие","ой").

правило("ую","ой").

/* предикат осуществляющий перебор всех вариантов */

/* аффиксов для этого слова */

аффикс("",Аффикс,Аффикс).

аффикс(Корень,Слово,Аффикс):-

frontchar(Слово,Буква,Слово1),

аффикс(Корень1,Слово1,Аффикс),

frontchar(Корень,Буква,Корень1).

/* сначала просмотри все исключения */

морфология(Слово,Осн):-

исключение(Слово,Осн),!.

/* если не удачно, то переберем все аффиксы слова */

морфология(Слово,Осн):-

аффикс(Корень,Слово,Аффикс),

правило(Аффикс,АффиксиОсн),

concat(Корень,АффиксиОсн,Осн),!.

/* если неудачно, то значит слово несклоняемо */

морфология(Слово,Слово):-!.

/* вызов процедури морфологического разбора */

Goal морфология("зеленую",Слово).

Ответ ПРОЛОГА: Слово = "зеленый"

Как видно, в программе всего 13 строчек, а остальное база знаний. Теперь посмотрим как справится с этой задачей РЕФАЛ.

Пример на логическом языке программирования РЕФАЛ - 5:

-----------------------

/* программа по распознаванию морфологии слов руссского языка */

/* по окончанию и приставке слова */

/* язык программирования РЕФАЛ 5 */

/* автор Ермолаев Д.С. dimonas_long@yahoo.com */

/* ввод одного слова с консоли */

$ENTRY Go { = <Prout <Question (<Card>) >>; };

/* таблица1. слова, которые имеют неправильное окончание */

WordsMissTable { =

( ('сел') 'сесть' )

( ('рек') 'чего' )

} ;

/* таблица2. окончания, по которым можно определить основу */

CompletionTable { = 

/* для глаголов */

( ('нули') 'ать')

( ('нул') 'ать')

( ('ает') 'ать')

( ('еть') 'ать')

( ('еч') 'ать')

( ('ал') 'ать')

( ('ел') 'ать')

/* для прилагательных */

( ('вые') 'вый')

( ('вая') 'вый')

( ('ая') 'ой')

( ('ие') 'ой')

( ('ую') 'ой')

};

/* сама программа распознавания морфологической формы слова */

Question { 

/* берем слово и ищем подходящее по шаблону в таблице1 */

(e.Word), <WordsMissTable>: e.L((e.Word)e.Qst)e.R = e.Qst;

/* иначе, бере окончание слова и ищем по шаблону в таблице2 */

(e.1 e.End), <CompletionTable>: e.L((e.End)e.Qst)e.R = e.1 e.Qst ;

/* иначе, слово неизменяемо */

(e.1) = e.1;

};

Программа на РЕФАЛЕ состоит из трех предложений!

Интересно, сколько бы предложений программы пришлось бы написать для решения такой задачи на алгоритмическом языке? Например С++?

Список литературы

Д. С. Ермолаев. Компьютерный морфологический разбор слов русского языка