潜在意味解析
この新たな概念空間は以下のような場面で利用される。
概念空間での文書の比較(データ・クラスタリング、文書分類、など)
翻訳文書群の基本セットを分析した後、異なる言語間で類似の文書を探す(言語間検索)。
用語間の関係を探す(類義性や多義性)。
用語群によるクエリを与えられたとき、それを概念空間で解釈し、一致する文書群を探す(情報検索)。
自然言語処理において、類義性と多義性は根本的な問題である。
類義性は、異なる単語が同じ事象を表す現象である。したがって検索エンジンにおいて、クエリにない類義語を見落として、適切な文書を検索できないことがある。例えば、"doctors" を検索したとき、同義である "physicians" という単語を含む文書を検索できないという可能性がある。
多義性は、同じ単語が複数の意味を持つ現象である。そのため、クエリに指定した単語が多義的であった場合、検索要求者が意図しない意味で使っている不適切な文書が検索されてしまうことがある。例えば、植物学者と計算機科学者が "tree" という単語で検索したいのは、全く異なる文書と思われる。
2つの単語ベクトルのドット積 t i T t p {\displaystyle {\textbf {t}}_{i}^{T}{\textbf {t}}_{p}} は、その文書群における単語間の相関を示す。行列積 X X T {\displaystyle XX^{T}} にはそのようなドット積が全て含まれている。その成分 ( i , p ) {\displaystyle (i,p)} (成分 ( p , i ) {\displaystyle (p,i)} と等しい)は、ドット積 t i T t p {\displaystyle {\textbf {t}}_{i}^{T}{\textbf {t}}_{p}} ( = t p T t i {\displaystyle ={\textbf {t}}_{p}^{T}{\textbf {t}}_{i}} )になっている。同様に行列 X T X {\displaystyle X^{T}X} は全ての文書ベクトル間のドット積が含まれていて、その単語群における文書間の相関を示す。すなわち、 d j T d q = d q T d j {\displaystyle {\textbf {d}}_{j}^{T}{\textbf {d}}_{q}={\textbf {d}}_{q}^{T}{\textbf {d}}_{j}} である。
X {\displaystyle X} の分解として、直交行列 U {\displaystyle U} と V {\displaystyle V} 、対角行列 Σ {\displaystyle \Sigma } が存在すると仮定する。