Использования методологии PLSA для адаптивной корректировки модели пользователя

УДК 681.32

М. В. Карасева

ИСПОЛЬЗОВАНИЯ МЕТОДОЛОГИИ РЬ8А ДЛЯ АДАПТИВНОЙ КОРРЕКТИРОВКИ МОДЕЛИ ПОЛЬЗОВАТЕЛЯ*

Рассматривается алгоритм непрерывной корректировки модели (профиля) пользователя. Исходными данными являются начальный профиль и история предыдущих запросов. В алгоритме используется методология РЬБА. Для достижения поставленной цели вводится понятие временного латентного семантического пространства.

Ключевые слова: вероятностный латентно-семантический анализ, модель пользователя, профиль пользователя.

Потребность в компьютерных системах, осуществляющих автоматический поиск и фильтрацию информации в огромных по объему хранилищах документов (например в Интернете), привела к появлению целой области исследований, связанных с созданием поисковых интерфейсов пользователя [1].

В настоящее время основными инструментами поиска информации в сети являются поисковые сервисы. Поиск информации, как правило, начинается с введения запроса в одном из поисковых сервисов, в ответ на который поисковый сервис в большинстве случаев выдает тысячи документов, после чего полученная информация делится на релевантную (значимую для пользователя) и нерелевантную. Не нарушая общности, здесь и далее будем считать, что информация представляется пользователю в виде текстовых документов.

Индивидуализация (персонализация) интерфейса пользователя благодаря алгоритмам идентификации позволяет учитывать его неявные интересы и использовать их в контексте текущего запроса. Тем самым еще на стадии обработки результатов запроса большая часть нерелевантных документов отсеивается.

Один из распространенных подходов к представлению документов (и запросов) при извлечении информации из сети основан на понятии модели векторного гиперпространства [2], которое в методологии латентной семантической индексации заменяется представлением документа в латентном пространстве меньшей размерности [3]. В данной стате предлагается расширить понятие латентного семантического пространства с учетом текущих интересов пользователя.

Методология РЬ8А в области извлечения информации. Проблема поиска (извлечения) текстовой информации из ее обширных хранилищ (репозитариев) приобрела особую актуальность в связи с появлением всемирной сети Интернет. В настоящее время каждый пользователь, имеющий доступ в Интернет, может обратиться ко всем источникам информации, представленным в нем. Казалось бы, что теперь своевременное получение необходимой информации по

интересующей тематике обеспечиваться без особых затруднений. Однако на деле оказывается, что качество поиска информации при всей ее доступности очень низкое. В поисковых сервисах отсутствуют эффективные алгоритмы поиска релевантной информации, т. е. набора релевантных документов, отражающих суть запроса. И в ответ на запрос такой сервис может выдать сколь угодно большое количество документов, либо отдаленно отражающих сферу интересов пользователя, либо вовсе не имеющих никакой связи с запросом.

Для разрешения проблемы поиска информации могут использоваться два подхода: с одной стороны -традиционный лингвистический подход, сторонники которого пытаются научить компьютер естественному языку, с другой - использование статистических методов, к которым и относится PLSA (Probabilistic Latent Semantic Analysis - вероятностный латентный семантический анализ).

Первоначально было введено понятие модели векторного пространства [2], в котором любой документ представлялся как вектор частот появления в нем определенных терминов. В этом подходе отношения между документами и терминами задавались в виде матрицы смежности A, элементом Wj которой является частота появления термина tj в документе d.

Обозначим через m количество проиндексированных терминов в коллекции документов d, а через n -количество самих документов. В общем случае элементом Wj матрицы A является некоторый вес, поставленный в соответствие паре «документ-термин» (d„ tj). После того как все веса заданы, матрица A становится отображением коллекции документов в векторном гиперпространстве. Таким образом, каждый документ можно представить как вектор весов терминов:

A =

' W11 • • W1n '

• • •

• • •

W 1 V ml • • W mn J

— (di

dn ) —

V tm

.

*Работа выполнена при финансовой поддержке ФЦП «Научные и научно-педагогические кадры инновационной России на 2009-2013 гг.» и ФЦП «Исследования и разработки по приоритетным направлениям развития научно-технологического комплекса России на 2007-2013 гг.», № 2011-1.9-519-005.

Подход LSA (Latent Semantic Analysis - латентный семантический анализ), предложенный в работе [3], заключается в отображении документа в латентное семантическое пространство, которое несет в себе основную смысловую нагрузку. Цель такого отображения состоит в том, чтобы отразить скрытую (латентную) связь между терминами и документами, что достигается использованием сингулярного (SVD) разложения матрицы A. Оценка схожести документов формируется по близости расположения точек латентного семантического пространства.

В основе методологии PLSA лежит идея, предложенная в LSA и описанная в [4], когда в латентное семантическое пространство вводятся понятия латентного класса:

zeZ = {z1 , ..., z*}, условных вероятностей среди документов:

deD = {d1, ..., dk},

и терминов

weW = {w1, ..., wk},

а также предполагается, что распределение слов, принадлежащих данному классу, не зависит от документа и пары наблюдений «документ-термин» (d, w) не связаны между собой.

Распределение терминов в документе P(w\d) задается выпуклой комбинацией факторов P(w\z) и P(z\d):

p

zeZ

Совместная вероятность документа и термина определяется соотношением

P

zeZ

Используя алгоритм максимизации математического ожидания (Expectation-Maximization, EM Algorithm), который состоит из этапов Е и М, можно оценить вероятности P(w\z) и P(z\d), максимизируя логарифмическую функцию правдоподобия:

L = X X n

deD weW

где n(d, w) - частота (количество) появлений термина w в документе d.

Вероятность того что появление термина w в документе d объясняется принадлежностью их к классу z, на этапе E оценивается следующим образом:

P

P(z | d, w) =

X P(z')P(d | z')P(w | z') '

z'eZ

На этапе М происходит переоценка вероятностей:

X n

P(w | z) = d -------------------,

XXn

P(d|z) =

X n

w_________________________

X n(d', w)P(z | d', w)"

d ',w

P( z|d, w) =:

X n

Xn

d ,w

В работе [1] Т. Хофман предложил обобщенную модель для оценивания условной вероятности, которую он назвал ослабленной процедурой максимизации математического .ожидания (Tempered Expectation Maximization, TEM). При этом на этапе E в оценку условной вероятности вносится регуляризационный параметр р:

Pp(z | d,w) =-

P(z) [P(d | z)P(w | z)]

P

iP'

X Р(г') [Р(Л\1)Р(^|г')]р

г' ^.2

Согласно (2), любая условная вероятность Р^\с1) может быть аппроксимирована полиномом, представляющим собой выпуклую комбинацию условных вероятностей Р(^\г). Геометрической интерпретацией весовых коэффициентов Р(г С) являются координаты документа в подпространстве, определяемом как латентное семантическое пространство [1].

Модель (профиль) пользователя. Рассмотрим схему моделирования интересов пользователя, основанную на инициализации начального профиля и его последовательной корректировке в процессе работы.

Документы могут быть представлены как векторы латентного семантического пространства таким образом, как это показано выше. Однако для того чтобы следить и непрерывно анализировать возможные изменения интересов пользователя, необходимо ввести понятие временного измерения в латентном семантическом пространстве, рассматривая уже не само латентное семантическое пространство, а его модификацию - временное латентное семантическое пространство. Каждое измерение такого векторного пространства (за исключением временного, которое полагается равным нулю) представляет собой условные вероятности при заданном классе Р(»\г), а документы являются векторами с весовыми коэффициентами (координатами) Р(г\С).

Запросы, как и сами документы, также могут быть представлены в виде векторов во временном латентном семантическом пространстве. Кроме весов Р(г\0) у них имеется дополнительное (временное) измерение (текущий вес), первоначально равный некоторой положительной величине, уменьшающейся с течением времени, исходя из предположения о падении интереса пользователя к определенной тематике при отсутствии ее фигурирования в запросах продолжительное время. Если пользователь инициирует запрос, связанный с категорией из его текущего профиля, то вес данной категории может быть либо стабилизирован на некоторое время, либо увеличен.

Согласно геометрии латентного семантического пространства, запрос, состоящий из терминов, проецируется в латентное семантическое пространство [4]. Таким образом, гиперповерхность Б, образованная запросом Qi, является пересечением вероятностных поверхностей всех классов, которые введены

в латентное семантическое пространство и в которых с определенной вероятностью фигурирует данный термин:

з = П ни •

к

Алгоритм адаптивной коррекции профиля пользователя основан на неявной обратной связи с пользователем, которая реализуется исходя из истории его запросов. На вход алгоритма поступает запрос пользователя, на выход - одна или более троек (триплетов) вида (С,, Ш,, а,), где С; - категория интересов; Ш; - текущий вес; а, - уровень изменчивости (смысл данной величины состоит в том, чтобы отразить, насколько изменяются интересы пользователя в рамках текущего запроса по отношению к прошлым запросам).

Итак, профиль пользователя представляет собой набор троек, организованный таким образом, что интересы пользователя разделены на два типа: краткосрочные (краткосрочный профиль) и долгосрочные (долгосрочный профиль). Как правило, емкость долгосрочного профиля больше емкости краткосрочного. Структуру профиля можно представить таблицей (см. рисунок). При этом считается, что тройки, у которых величина текущего веса положительная, относятся к краткосрочному профилю, а если величина этого веса отрицательная, то к долгосрочному профилю. При этом для троек, находящихся в краткосрочном профиле, текущий вес уменьшается линейно, а для троек, находящихся в долгосрочном профиле, снижение весов экспоненциально.

Категория

Текущий вес

Уровень

изменчивости

Краткосрочный профиль пользователя

Формально профиль в текущий момент г описывается следующим образом:

Рг, = {

При этом

Рг, = РгЯ, и РгЬ,,

где РгЯ; = {(С}, Ш}, а,),- | V > 0,}=1, к} - краткосрочный профиль; PгLi = {(С,, Ш}, О,),- | V < 0, ]=1, к} -

долгосрочный профиль.

Уровень изменчивости а, рассчитывается как близость двух последовательных запросов Qi и Я-1, представленных в пространстве частот их терминов:

Xп

а, = № ,

X «(й,м’)2 X >*(й--1,мг)2

где /?(£>, , V) - взвешенные частоты терминов.

Алгоритм непрерывной корректировки профиля пользователя. Данный алгоритм в своей работе использует хранилище предыдущих запросов пользователя. В текущий момент времени ; пользователь вводит новый запрос, который после соответствующей обработки помещается в хранилище запросов. Обновленное (или дополненное) в момент времени ; текущим запросом хранилище запросов будем обозначать Qi .

Перед тем как передать запрос для работы алгоритму, этот запрос обрабатывается с целью выделения ключевых терминов. Далее производится пересчет взвешенных частот терминов в хранилище запросов Qi с учетом нового запроса. Когда пользователь вводит очередной запрос, его ключевым словам (терминам) назначаются наибольшие веса. При поступлении запроса в хранилище выполняется проверка на наличие в нем терминов, присутствующих в данном запросе. Если термин встречается впервые, то при его занесении в хранилище вес остается без изменений; если же такой термин в хранилище уже существует (это означает, что пользователь когда-то уже использовал запрос, включающий в себя данный термин), то его весовой коэффициент пересчитывается. В результате происходит нормирование весовых коэффициентов. Категории интересов С, для включения в текущий профиль пользователя извлекаются из хранилища с использованием методологии РЬ8А. Алгоритм непрерывной корректировки профиля пользователя состоит из 11 шагов и работает следующим образом.

Шаг 1. Инициализировать хранилище запросов Я, = {™и, w2;, ..., wki }, где wki - термины хранилища запросов, к = 1, ., М.

Шаг 2. Выделить набор ключевых терминов текущего запроса.

Шаг 3. Скорректировать весовые коэффициенты терминов и произвести их нормировку с учетом нового запроса.

Шаг 4. Рассчитать уровень изменчивости а,.

Шаг 5. Рассчитать условные вероятности классов, используя процедуру ТЕМ:

Р( 2^,) = Р(м>ы) Рр (z|Qг, WkI) =

=ХР(уы) Р(2)р|2)Р(^].

Wk,X Р^ ) [Р(&\* )P(Wtt|z' )]

2'

Шаг 6. Рассчитать вероятность категории С, для заданного класса латентного семантического пространства:

х«

Р(С, | 2) = ^-----------------------.

г Х«(С , а)рр (21 с; , а) с;,й

Шаг 7. Рассчитать вероятность включения категории С; для текущего состояния хранилища запросов й:

P(Cг|Qг ) =Х Р(С, | 2)Р(2 | ).

2^2

Кино Музыка Квантовая физика Спорт

95 85 35 70

0,60 0,45 0,20 0,15

Шаг 8. Занести категорию в профиль пользователя, включив соответствующую тройку (С;, Шг, а,) в профиль согласно схеме (см. рисунок).

Шаг 9. Если уровень изменчивости а; > а0, где а0 - заданная величина, то увеличить текущий вес категории С; на величину АШг :

+ АШ,.

Шаг 10. Отсортировать последовательность троек (С,, Шг, а,) в профиле по порядку убывания веса Ш;.

Шаг 11. Сохранить получившийся профиль.

Таким образом, в данной статье был рассмотрен алгоритм непрерывной корректировки модели (профиля) пользователя. Для успешного построения алгоритма предложена схема организации профиля пользователя в виде множества троек вида (категория интересов С,, текущий вес категории V, уровень изменчивости а,). При этом профиль делится на две группы (два подпрофиля): краткосрочный и долгосрочный -для учета краткосрочных и долгосрочных интересов пользователя (в том числе неявных). Кроме того, было введено понятие временного измерения в латент-

ном семантическом пространстве, что позволило адаптировать методологию PLSA для непрерывной оценки изменений интересов пользователя.

Применение предложенного алгоритма для подстройки модели в процессе ее работы с использованием неявной обратной связи, приближает нас к созданию высококачественных и эффективных поисковых систем с персонализированным интерфейсом.

Библиографические ссылки

1. Hoffman T. Unsupervised Learning by Probabilistic Latent Semantic Analysis // Machine Learning. 2008. Vol. 42. P. 177-196.

2. Salton G., McGrill M. J. Introduction to Modern Information Retrieval. New York : McGraw-Hill, 1993.

3. Indexing by Latent Semantic Analysis / S. Deerwes, S. Dumasis, G. Furnas et al. // J. of the Amer. Soc. for Inform. Science. 1990. Vol. 41. P. 391-407.

4. Hoffman T. Probabilistic Latent Semantic Indexing // Proc. of the 22nd Annu. Intern. ACM SIGIR Conf. on Research and Development in Inform. Retrieval. Berkeley, Calif., 2009. P. 50-57.

M. V. Karasyova

APPLICATION OF PLSA METHODOLOGY FOR ADAPTIVE CORRECTION OF USER MODEL

The paper considers the algorithm of the continuous model (profile) correction. The initial data are the initial profile and the previous inquiry history. The PLSA (Probabilistic Latent Semantic Analysis) methodology is used in the algorithm. To achieve the object in view, the term temporary latent semantic space is introduced.

Keywords: probabilistic latent semantic analysis, user model, user profile.

© Карасева М. В., 2012

УДК 519.254

В. С. Кедрин, О. В. Кузьмин

ВЫДЕЛЕНИЕ ОСЦИЛЛИРУЮЩИХ И ТРЕНДОВЫХ КОМПОНЕНТ НА БАЗЕ КРИТЕРИАЛЬНОЙ МОДИФИКАЦИИ СИНГУЛЯРНОГО АНАЛИЗА

Рассматривается методика выделения осциллирующих колебательных и трендовых составляющих при анализе сложных нестационарных процессов, протекающих в реальных сложных системах.

Ключевые слова: нестационарная система, временной ряд, сингулярное разложение, графические критерии качества, осциллирующие компоненты, трендовые компоненты.

Одним из интенсивно развивающихся теоретических подходов к моделированию сложных процессов является использование непараметрических моделей динамических систем в виде набора элементарных характеристик (временных выборок), позволяющих по экспериментальным данным входа-выхода выявить динамические свойства и оценить состояние исследуемой системы. В этой связи особо актуальными становятся исследования, посвященные анализу факторов, влияющих на состоятельность практических рекомендаций в области идентификации и синтеза цифровых непараметрических моделей систем, в ко-

торых протекают процессы с ярко выраженными нестационарными свойствами. Примерами таких систем являются современные электроэнергетические системы и системы товарных и фондовых рынков.

В настоящее время существует несколько подходов к решению проблем, связанных с анализом нестационарной динамики.

Один из этих подходов основан на методах, заимствованных из нелинейной динамики [1-5]. Однако данный подход является ограниченным, так как он подразумевает постоянство оператора эволюции системы, в силу чего нестационарность, вызванная