言語構造の数理分析のための代数統計的アプローチ試論

1.1単語ベクトルと言語の数理構造単語ベクトルの解釈可能性研究として，著者らは単語共起行列を数理的に分析してきた．[1]では，共起行列の内部に形式概念と呼ばれる数学的構造[2]が存在し，それが解釈可能な意味的カテゴリに対応することを明らかにした．さらに共起行列の成分のうちランク1となる部分行列が形式概念とみなせる成分を構成していることを示した．単語ベクトルは共起行列の分解であり[3]，その数理構造を反映していると考えられる．分布仮説が単語ベクトルの理論的根拠を与えるとされるが，[1]で示された数理構造を十分説明するものではないと考えられる．1.2言語の生成系から確率空間への対応一般に確率行列がランク1であることは二つの確率変数が独立であることと同値である．単語共起行列の部分行列がランク1となる現象の背景には，これらの単語群が条件付き独立を構成していることが予想される．すなわち，ある文脈を共有している単語群が，その文脈を条件として独立に生起しているのであり，そのため共起行列中でランク1の部分行列を構成する単語群が文脈を共有する意味的カテゴリとして観察されたと考えられる．本研究の関心は，こうした数理的・構造的対応がどのようにして現れたかを明らかにすることである．言語の生成系から単語の確率分布への対応を数理的に分析するため，構造的制約を持つ確率モデルを扱うことができる代数統計の適用を試みる．