(57)【要約】【課題】潜在意味解析による可視化されたＮ次元マップ内の各軸の意味や特徴を分かりやすくする【解決手段】  複数の単語をそれぞれ含む複数の文書に対して潜在意味解析を行い、複数の文書の所定の特徴と相関する複数の軸と、前記複数の軸それぞれが有する前記複数の文書の説明力の大きさを示す軸の重要度と、前記複数の軸それぞれに対する複数の単語の重みとを生成し、複数の文書に含まれる複数の単語間の類似度を生成し、軸の重要度が相対的に大きい複数の軸の中から、複数の軸それぞれの単語の重みが相対的に大きい代表単語についての軸の間における類似度が第1の基準値より低いＮ（Ｎは２以上の整数）個の軸を選択する、処理をコンピュータに実行させる潜在意味解析結果の軸調整プログラム。【選択図】図２
2019159919.tif 000002
【特許請求の範囲】
【請求項１】
複数の単語をそれぞれ含む複数の文書に対して潜在意味解析を行い、前記複数の文書の所定の特徴と相関する複数の軸と、前記複数の軸それぞれが有する前記複数の文書の説明力の大きさを示す軸の重要度と、前記複数の軸それぞれに対する複数の単語の重みとを生成し、
前記複数の文書に含まれる複数の単語間の類似度を生成し、
前記軸の重要度が相対的に大きい複数の軸の中から、前記複数の軸それぞれの前記単語の重みが相対的に大きい代表単語についての前記軸の間における類似度が第1の基準値より低いＮ（Ｎは２以上の整数）個の軸を選択する、
処理をコンピュータに実行させる潜在意味解析結果の軸調整プログラム。
【請求項２】
複数の単語をそれぞれ含む複数の文書に対して潜在意味解析を行い、前記複数の文書の所定の特徴と相関する複数の軸と、前記複数の軸それぞれが有する前記複数の文書の説明力の大きさを示す軸の重要度と、前記複数の軸それぞれに対する複数の単語の重みとを生成し、
前記複数の文書に含まれる複数の単語間の類似度を生成し、
前記複数の軸の中から、前記軸の重要度が相対的に大きいＮ（Ｎは２以上の整数）個の軸を選択し、
前記Ｎ個の軸それぞれの複数の単語のうち、前記類似度が基準値より低い単語を除外する、
処理をコンピュータに実行させる潜在意味解析結果の軸調整プログラム。
【請求項３】
前記潜在意味解析を行うことは、
前記複数の軸は前記複数の文書の分散に対応し、前記軸上における前記複数の文書の分散が大きい順に前記複数の軸を生成し、前記軸の重要度は前記分散が大きいほど大きく、前記単語の重みは前記複数の軸それぞれとの相関が強いほど重い、請求項１または２に記載の潜在意味解析結果の軸調整プログラム。
【請求項４】
前記潜在意味解析を行うことは、
前記複数の文書に対して、前記複数の文書における前記複数の単語の出現度合に基づく単語の重みを有する文書ベクトル表を生成し、
前記文書ベクトル表について主成分分析を行って、複数の主成分の固有値を前記軸の重要度に対応付け、前記主成分の単語の重みに主成分負荷量を対応付け、前記軸の重要度が大きいものから順に前記複数の軸を選択する、請求項３に記載の潜在意味解析結果の軸調整プログラム。
【請求項５】
前記複数の単語間の類似度を生成することは、
前記複数の文書における単語の出現の共起性が高いほど単語間の類似度が高くなるよう前記類似度を算出することを有する、請求項１または２に記載の潜在意味解析結果の軸調整プログラム。
【請求項６】
更に、
前記文書ベクトル表の各文書の複数の単語の重みそれぞれに、前記主成分の対応する単語の重みを乗加算した値を、前記主成分の座標値として生成し、
前記Ｎ個の軸の空間内に、前記主成分の座標値に対応する位置に前記複数の文書をマッピングし、前記マッピングされたＮ個の軸の空間内に前記Ｎ個の軸それぞれに対する複数の単語の重みを前記Ｎ個の軸に対応付けて表示するＮ次元マップを生成する可視化処理を行う、請求項４に記載の潜在意味解析結果の軸調整プログラム。
【請求項７】
複数の単語をそれぞれ含む複数の文書に対して潜在意味解析を行い、前記複数の文書の所定の特徴と相関する複数の軸と、前記複数の軸それぞれが有する前記複数の文書の説明力の大きさを示す軸の重要度と、前記複数の軸それぞれに対する複数の単語の重みとを生成し、
前記複数の文書に含まれる複数の単語間の類似度を生成し、
前記軸の重要度が相対的に大きい複数の軸の中から、前記複数の軸それぞれの前記単語の重みが相対的に大きい代表単語についての前記軸の間における類似度が第1の基準値より低いＮ（Ｎは２以上の整数）個の軸を選択する、
処理をコンピュータに実行させる潜在意味解析結果の軸調整方法。
【請求項８】
複数の単語をそれぞれ含む複数の文書に対して潜在意味解析を行い、前記複数の文書の所定の特徴と相関する複数の軸と、前記複数の軸それぞれが有する前記複数の文書の説明力の大きさを示す軸の重要度と、前記複数の軸それぞれに対する複数の単語の重みとを生成し、
前記複数の文書に含まれる複数の単語間の類似度を生成し、
前記複数の軸の中から、前記軸の重要度が相対的に大きいＮ（Ｎは２以上の整数）個の軸を選択し、
前記Ｎ個の軸それぞれの複数の単語のうち、前記類似度が基準値より低い単語を除外する、
処理をコンピュータに実行させる潜在意味解析結果の軸調整方法。
【請求項９】
複数の単語をそれぞれ含む複数の文書に対して潜在意味解析を行い、前記複数の文書の所定の特徴と相関する複数の軸と、前記複数の軸それぞれが有する前記複数の文書の説明力の大きさを示す軸の重要度と、前記複数の軸それぞれに対する複数の単語の重みとを生成する解析手段と、
前記複数の文書に含まれる複数の単語間の類似度を生成する類似度生成手段と、
前記軸の重要度が相対的に大きい複数の軸の中から、前記複数の軸それぞれの前記単語の重みが相対的に大きい代表単語についての前記軸の間における類似度が第1の基準値より低いＮ（Ｎは２以上の整数）個の軸を選択する軸選択手段と、
を有するコンピュータに実行させる潜在意味解析結果の軸調整装置。
【請求項１０】
複数の単語をそれぞれ含む複数の文書に対して潜在意味解析を行い、前記複数の文書の所定の特徴と相関する複数の軸と、前記複数の軸それぞれが有する前記複数の文書の説明力の大きさを示す軸の重要度（分散の大きさ）と、前記複数の軸それぞれに対する複数の単語の重み（軸に対する単語の相関係数）とを生成する解析手段と、
前記複数の文書に含まれる複数の単語間の類似度を生成する類似度生成手段と、
前記複数の軸の中から、前記軸の重要度が相対的に大きいＮ（Ｎは２以上の整数）個の軸を選択する軸選択手段と、
前記Ｎ個の軸それぞれの複数の単語のうち、前記類似度が基準値より低い単語を除外する軸の単語調整手段と、
を有する潜在意味解析結果の軸調整装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は，潜在意味解析結果の軸調整プログラム、同軸調整方法及び同軸調整装置に関する。
【背景技術】
【０００２】
複数の文書について潜在意味を統計的に抽出し、少ない複数軸の空間に複数の文書をマッピングして可視化する潜在意味解析（ＬＳＡ：Latent Semantic Analysis）が広く普及している。
【０００３】
潜在意味解析は、高次元のデータを低次元に圧縮する技術であり、次元圧縮と呼ばれる。例えば、ＬＳＡを行って、複数の文書を、複数の文書の意味や特徴を良く表す複数の軸、例えば２つの軸の空間内にマッピングし、マッピングされた２軸空間内の位置関係により、複数の文書の意味や特徴を視覚的に見せる。潜在意味解析については、例えば、以下の特許文献にも記載されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００４−１３３６８４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
ＬＳＡによれば、複数の文書をＬＳＡにより解析して複数の文書の分散が大きいものから２つの軸を抽出し、２つの軸空間内に複数の文書をマッピングする。この２つの軸には、複数の文書に含まれている複数の単語のうち、２つの軸の意味や特徴と相関のある単語と、その相関の強さを示す重みとが対応付けられる。したがって、複数の文書がマッピングされた二次元空間において、各軸の意味や特徴、各軸で区分された領域の意味や特徴を、上記の軸に対応付けられた複数の単語とその重みに基づいて人間が判定する必要がある。
【０００６】
しかしながら、ＬＳＡをコンピュータにより実行した場合、２つの軸の意味や特徴を人間が把握することが困難な場合がある。例えば、２つの軸に対応付けられた複数の単語のうち代表する単語が類似していた場合、２つの軸の違いやその軸により区分された領域間の意味や特徴を人間が把握することが困難な場合がある。または、軸に対応付けられた複数の単語の中に類似度が低い単語が混在する場合、軸の意味や特徴について様々なコンセプトが想起されることがあり、同様の問題が生じる。
【０００７】
そこで，本実施の形態の目的は，可視化されるＮ次元マップ内の各軸の意味や特徴を分かりやすくする潜在意味解析結果の軸調整プログラム、同軸調整方法及び同軸調整装置を提供することにある。
【課題を解決するための手段】
【０００８】
本実施の形態の第１の側面は，複数の単語をそれぞれ含む複数の文書に対して潜在意味解析を行い、前記複数の文書の所定の特徴と相関する複数の軸と、前記複数の軸それぞれが有する前記複数の文書の説明力の大きさを示す軸の重要度と、前記複数の軸それぞれに対する複数の単語の重みとを生成し、前記複数の文書に含まれる複数の単語間の類似度を生成し、前記軸の重要度が相対的に大きい複数の軸の中から、前記複数の軸それぞれの前記単語の重みが相対的に大きい代表単語についての前記軸の間における類似度が第1の基準値より低いＮ（Ｎは２以上の整数）個の軸を選択する、処理をコンピュータに実行させる潜在意味解析結果の軸調整プログラムである。
【０００９】
本実施の形態の第２の側面は，数の単語をそれぞれ含む複数の文書に対して潜在意味解析を行い、前記複数の文書の所定の特徴と相関する複数の軸と、前記複数の軸それぞれが有する前記複数の文書の説明力の大きさを示す軸の重要度と、前記複数の軸それぞれに対する複数の単語の重みとを生成し、前記複数の文書に含まれる複数の単語間の類似度を生成し、前記複数の軸の中から、前記軸の重要度が相対的に大きいＮ（Ｎは２以上の整数）個の軸を選択し、前記Ｎ個の軸それぞれの複数の単語のうち、前記類似度が基準値より低い単語を除外する、処理をコンピュータに実行させる潜在意味解析結果の軸調整プログラムである。
【発明の効果】
【００１０】
本実施の形態によれば，潜在意味解析により可視化されるＮ次元マップ内の各軸の意味や特徴が分かりやすくなる。
【図面の簡単な説明】
【００１１】
【図１】本実施の形態における潜在意味解析装置の構成例を示す図である。
【図２】本実施の形態におけるＬＳＡ分析のフローチャート図である。
【図３】文書の単語抽出工程Ｓ１０の具体例を示す図である。
【図４】文書ベクトル生成工程Ｓ１１のフローチャート図である。
【図５】文書ベクトルの表の一例を示す図である。
【図６】ＬＳＡ工程のフローチャート図である。
【図７】主成分分析結果表の一例を示す図である。
【図８】主成分分析を説明する図である。
【図９】主成分軸の単語の重みを示す軸・重み表２５を示す図である。
【図１０】本実施の形態における単語の類似度算出工程のフローチャート図である。
【図１１】単語の特徴ベクトル表の一例を示す図である。
【図１２】Word2Vecのニューロンネットワークの一例を示す図である。
【図１３】単語の特徴ベクトルに基づく単語間の類似度の算出を説明する図である。
【図１４】単語類似度表２７の一部を示す図である。
【図１５】軸調整工程（１）のフローチャート図である。
【図１６】軸調整工程（１）の具体例を示す図である。
【図１７】代表単語の特徴ベクトルの算出を説明する図である。
【図１８】軸調整工程（２）のフローチャート図である。
【図１９】、新軸・重み表（１）28_1に対して軸調整工程（２）を実行した場合の具体例を示す図である。
【図２０】可視化工程のフローチャート図である。
【図２１】変換工程S152での文書の２つの新軸上の値の計算を説明する図である。
【図２２】新軸の二次元空間内に文書をマッピングした二次元マップの例を示す図である。
【図２３】二次元空間内に文書をマッピングした可視化マップまたは二次元マップ（以下二次元マップ）の例を示す図である。
【発明を実施するための形態】
【００１２】
図１は、本実施の形態における潜在意味解析装置の構成例を示す図である。潜在意味解析（ＬＳＡ）装置１は、例えば情報処理装置またはコンピュータである。ＬＳＡ装置１は、プロセッサであるＣＰＵ（Central Processor Unit）１０と、メインメモリ１２と、外部とのインターフェース１４と、ＨＤＤやＳＤＤ等の補助記憶装置２０〜２９と、それらを接続するバス３０とを有する。インターフェース１４は、インターネットやイントラネット、モバイル電話回線などのネットワークＮＷを介して、端末装置３１，３２と通信可能に接続するためのインターフェース装置である。
【００１３】
補助記憶装置には、ＯＳなどの基本ソフトウエアやブラウザなどに加えて、潜在意味解析（ＬＳＡ）プログラム２０が記憶される。ＬＳＡプログラムは、例えば、文書データ２１から文書ベクトル表２３を生成する機能、ＬＳＡを行う機能、単語類似度算出機能、ＬＳＡで生成された複数の文書の特徴を示す軸を調整する軸調整機能、そして、ＬＳＡで生成された軸の空間内に文書をマッピングして可視化する可視化機能などを有する。補助記憶装置内に記憶されたＬＳＡプログラムは、コンピュータが起動された時に、メインメモリ１２内に展開され、プロセッサ１０により実行される。
【００１４】
ＬＳＡ装置１は、入力された文書データについてＬＳＡプログラムを実行することで、文書ベクトル表２３、主成分分析結果表２４、単語の特徴ベクトル２６、新軸・重み表２８、可視化結果２９などを生成し、補助記憶装置に記憶する。
【００１５】
図２は、本実施の形態におけるＬＳＡ分析のフローチャート図である。図２のフローチャートを参照して、以下、本実施の形態におけるＬＳＡ分析を説明する。
【００１６】
［文書の単語抽出工程Ｓ１０］
まず、ＬＳＡ装置のプロセッサ（以下単にプロセッサと称する）は、ＬＳＡプログラムを実行して、分析対象の文書データ２１を入力する。文書データは複数の単語をそれぞれ有する複数の文書のデータである。そして、プロセッサは、ＬＳＡプログラムを実行して、文書データの文書の単語を抽出して文書・単語表２２を生成する（Ｓ１０）。
【００１７】
図３は、文書の単語抽出工程Ｓ１０の具体例を示す図である。図３には、入力されるＬＳＡ対象の文書データ２１の具体例が示される。この具体例には、文書Ａ，Ｂ，Ｃの例が示される。各文書は、通常の文章と同様に複数の単語を含む。プロセッサは、ＬＳＡプログラムを実行して、入力された文書データの各文書を、辞書データを用いて形態素解析を行い、例えば名詞を抽出し、文書と文書に含まれる複数の単語との対応を示す文書・単語表２２を生成する。
【００１８】
図３中には、文書・単語表２２の一例が示される。文書・単語表２２は、文書Ａ，Ｂ，Ｃそれぞれに含まれる複数の単語を、文書毎に対応付けている。
【００１９】
［文書ベクトル生成工程Ｓ１１］
次に、プロセッサは、ＬＳＡプログラムを実行して、文書・単語表２２に示される複数の文書それぞれの複数の単語の重みを算出し、複数の単語の重みを成分とする単語ベクトルの表２３を生成する(S11)。単語の重みは、複数の文書それぞれにおける複数の単語の出現度合に基づく重みであり、例えば出現度合が高いほど単語の重みは大きくなる（重くなる）。
【００２０】
本実施の形態では、一例として、単語の重みをＴＦ−ＩＤＦ法（TF: Term Frequency, IDF: Inverse Document Frequency）により算出する。ＴＦ−ＩＤＦ法は、単語の文書内の出現頻度ＴＦと、単語が一般語のように多くの文書に出現する場合に低下し特定の文書にしか出現しない場合に上昇する逆文書頻度ＩＤＦの２つの指標に基づいて計算される。
【００２１】
図４は、文書ベクトル生成工程Ｓ１１のフローチャート図である。プロセッサは、文書・単語表２２を入力する。そして、プロセッサは、文書・単語表２２内の各文書に含まれる単語それぞれについて、単語の出現頻度ＴＦを以下の式により算出する（S110）。
TFi,j = Ni,j/ΣNk,j
ここで、Ni,jは、単語tiの文書diにおける出現回数であり、ΣNk,jは、文書diにおける全ての単語の出現回数の和である。したがって、単語の文書内の出現頻度TFi,jは、ある文書di内で単語tiが出現した回数を、文書di内の全単語の出現回数の和で除算した値である。
【００２２】
次に、プロセッサは、上記と同じ単語の逆文書頻度ＩＤＦを以下の式により算出する(S111)。
IDFi = log{D/(tiを含む文書dの数)}
ここで、Dは全文書の数、単語tiを含む文書ｄの数は単語tiを含む文書の数である。したがって、逆文書頻度IDFiは、ある単語の文書への出現し難さ（レア度）を桁数で表す。例えば、全ての文書に出現する単語の場合、逆文書頻度はIDF＝log(1)＝０となり、ある単語が１００文書中の1文書に出現する場合、IDF＝log(100/1)＝２となる（但し常用対数）。対数の底は１０に限られない。
【００２３】
そして、プロセッサは、単語の文書内の出現頻度TFi,jに逆文書頻度IDFiを以下のとおり乗算して、単語のTF-IDF値を求める（S112）。
TF-IDF = TFi,j＊IDFi
つまり、TF-IDF値は、ある単語がある文書内に高い頻度で出現し、且つ、他の文書にはあまり出現しない場合、大きな値になる。つまり、TF-IDF値が高い単語は、ある文書との相関が強く文書の意味や特徴を良く表す単語と見なすことができる。
【００２４】
最後に、プロセッサは、複数の文書を単語の重みで特徴付けた文書ベクトルの表２３を出力する（S113）。
【００２５】
図５は、文書ベクトルの表の一例を示す図である。この文書ベクトル表は、文書Ａ，Ｂ，Ｃそれぞれについて、各文書に含まれる複数の単語の重みを示す。文書ベクトルは、文書を、複数の変数（複数の単語）の軸の値（単語の重み）を成分とするベクトルである。つまり、各文書は、文書に含まれる複数の単語の軸の値を成分とするベクトルであり、文書の意味や特徴が複数の単語軸の空間内にベクトルにより示される。
【００２６】
重みが大きい単語の意味や特徴は、その文書の意味や特徴との相関性が高いと言える。重みが大きい単語に依存して文書の意味や特徴が大きく異なるが、重みが小さい単語に依存して文書の意味や特徴が異なることは少ない。例えば、文書Ａでは単語「業務」の重みが0.83と高いので、文書Ａのベクトルは、「業界」の軸と相関性が高い。
【００２７】
但し、各文書に含まれる単語の数が大きいので、文書ベクトルは、非常に高い次元の空間内のベクトルである。そのため、文書の意味や特徴は、文書に含まれる多数の単語の意味を文書ベクトルが示す単語の重みで混合した意味や特徴になり、人間が各文書の意味や特徴を直感で把握することは一般に困難である。
【００２８】
そこで、ＬＳＡを実行して、文書の高次元のデータ（文書ベクトル）を、低次元のデータに変換して、低次元の空間内に各文書をマッピングして、可視化することを行う。
【００２９】
なお、文書ベクトルの単語の重みとして、ＴＦ−ＩＤＦ法による計算を説明した。しかし、本実施の形態は、ＴＦ−ＩＤＦ法に限定されず、例えば、単語が文書に含まれているか否か（0/1の値）、単語の文書中の出現回数、単語の文書中の出現頻度(前述のＴＦ)でも代替できる。但し、ＴＦ−ＩＤＦ法による重みが、文書の意味や特徴を示す単語の重みをより高精度に表すといわれている。
【００３０】
［ＬＳＡ工程（主成分分析）Ｓ１２］
次に、プロセッサは、ＬＳＡプログラムを実行して、ＬＳＡ工程を実行する(S12)。
【００３１】
図６は、ＬＳＡ工程のフローチャート図である。プロセッサは、文書ベクトルの表２３を入力し、ＬＳＡの一つである主成分分析を実行して(S12_1)、主成分分析結果表（重みテーブル）２４を生成する。さらに、プロセッサは、主成分分析結果表２４から主成分軸と単語の重みとの対応を示す軸・重み表２５を生成する(S12_2)。
【００３２】
図７は、主成分分析結果表の一例を示す図である。なお、図７に示した主成分分析結果表は、必ずしも図５の文書ベクトルの表を主成分分析して生成したものではなく、各主成分の固有値と単語の主成分負荷量はフェイクの数値である。
【００３３】
主成分分析結果表は、第1主成分（PC: Principal Component）から第ｉ主成分まで全単語数以下のｉ個の主成分それぞれの、固有値と、単語の主成分負荷量の値を有する。
【００３４】
すなわち、プロセッサは、文書ベクトル表２４の複数の文書ベクトルを主成分分析して、図７に示すとおり、複数の文書のある特徴と相関する互いに直交する主成分（複数の軸）と、各主成分（各軸）それぞれの複数の文書を説明する説明力の大きさを示す固有値（軸の重要度）と、各主成分（各軸）がそれぞれ有する複数の変数（単語）の重みを示す主成分負荷量とを生成する。
【００３５】
前述のとおり、ＬＳＡは、高次元（多くの単語の次元）のデータ（文書）を、低次元（少ない軸）のデータ（文書）に圧縮する技術（次元圧縮技術）である。本実施の形態では、ＬＳＡは、主成分分析により行われる。
【００３６】
そして、主成分分析は、相関のある多数の変数（単語の軸）から相関のない（互いに直交する）少数の主成分と呼ばれる変数（軸）に合成する手法である。また、主成分は、データ（文書）全体のばらつき（または分散）を最もよく表す変数（軸）である。そして、データ（文書）の分散を最大化する第1主成分（第1軸）と、次に分散が大きく第1主成分（第1軸）と直交する第２主成分（第２軸）と、さらに、その次に分散が大きく第１、第２主成分と直交する第３主成分（第３軸）というように、各主成分を選択する。
【００３７】
言い換えると、主成分分析は、与えられたデータ（文書）をｎ次元の楕円体にフィッティングするものであり、それぞれの主成分（軸）はその楕円形の長軸に対応する。ここで楕円体は、複数のデータ（複数の文書）の分布で構成され、主成分に対応する楕円体の軸が長い程、データ（文書）の分散が大きく、データ（文書）の情報をより多く有し、データ（文書）を説明する説明力が大きい。
【００３８】
そして、主成分分析では、データ（文書）の分散が大きい長い軸の楕円体の主成分（軸）だけでデータ（文書）を説明し、分散が小さい短い軸の楕円体の主成分を無視することで、小さな情報の損失だけで、データ(文書)をより少ない数の主成分（軸、変数）で表現する。これによりデータ（文書）の多数の単語（変数）の軸を、より少ない主成分の軸に次元圧縮できる。そして、分散が大きいほうから２つの主成分（第1、第２主成分）による二次元空間にデータ(文書)をマッピングすることで、人間がデータ（文書）の意味や特徴を把握しやすいように可視化することができる。
【００３９】
図８は、主成分分析を説明する図である。説明を簡単にするために、文書ベクトルの変数（単語）は「業務」「可視化」の２つとする。文書ベクトルは、文書（文書Ａ）について多数の単語（変数）の軸（Ｘ軸が「業務」、Ｙ軸が「可視化」）の重み（Ｘ軸上の位置ｘ１とＹ軸上の位置ｙ１）を有する。そして、主成分分析により、多数の単語を軸とする多次元空間に複数の文書をマッピングしたときの複数文書の分布に生成される楕円体ＥＬ１，ＥＬ２の長軸に、第１主成分（軸）と第２主成分（軸）とが対応付けられる。この楕円体ＥＬ１，ＥＬ２の長軸は直交関係にある。
【００４０】
そこで、マッピングされた文書（文書Ａ）を各主成分の軸に射影すると、第1主成分の軸上の位置がα１、第２主成分の軸上の位置がβ１となる。複数の文書を主成分の軸に射影したときの位置の分散を見ると、第１主成分の軸上での分散が最大になり、第２主成分の軸上での分散はその次に大きくなる。そして、第１主成分の軸と第２主成分の軸は直交し、第１主成分の軸と第２主成分の軸とは相関がない、つまり相関係数がゼロである。
【００４１】
図７の固有値と主成分負荷量について説明すると、各主成分の固有値は、複数の文書の分散の大きさに対応し、第１主成分が最大の固有値を有し、第２、第３主成分は順次固有値が小さくなる。したがって、固有値は、主成分の軸の複数の文書を説明する説明力の大きさを示す。
【００４２】
また、各単語の主成分負荷量は、文書ベクトルの各単語の軸（Ｘ軸、Ｙ軸）と第１、第２主成分の軸との相関の強さ（具体的には両軸の角度θのcosθ）を示し、文書Ａの各単語のＸ，Ｙ軸の値（ｘ１、ｙ１）を、第１、第２主成分の軸の値（α１、α２）に変換（または合成）するときの係数となる。具体的には、以下が変換式である。
α１＝ａ１×ｘ１＋ｂ１×ｙ１    （式１）
β１＝ａ２×ｘ１＋ｂ２×ｙ１    （式２）
ここで、第１主成分の主成分負荷量が「業務」：ａ１、「可視化」：ｂ１、第２主成分の主成分負荷量が「業務」：ａ２、「可視化」：ｂ２である。
【００４３】
主成分分析では、例えば以下のような演算により第１主成分軸の主成分負荷量ａ１，ｂ１が求められる。まず、全てのデータ(ｎ個の文書)について上記の式１で第１主成分軸の値α１〜αｎを求める。さらに、α１〜αｎの平均値αavを求め、分散（標準偏差の二乗をデータ数で除算した値）を以下のとおり求める。
標準偏差＝√｛Σi=1-n（αi−αav）2｝
分散＝｛Σi=1-n（αi−αav）2｝/ｎ
そして、この分散が最大値となるａ１，ｂ１（未知数）を求めれば、第１主成分の主成分負荷量ａ１，ｂ１が求まる。また、第２以下の主成分の主成分負荷量は、分散の２番以下の極大値をとるａ１，ｂ１である。
【００４４】
図９は、主成分軸の単語の重みを示す軸・重み表２５を示す図である。プロセッサは、図８の主成分分析結果に基づいて、第ｉ主成分をｉ番目の軸とし、第ｉ主成分の固有値をｉ番目の軸の重み（重要度）とする。さらに、第ｉ主成分の単語の主成分負荷量を第ｉ軸での単語の重みとして、主成分事項の単語重み表を生成する。軸・重み表２５では、各軸において、単語の重みの大きい順に並べられている。図９には、第１〜第３主成分軸それぞれに対する、軸の重み（固有値、重要度）と、各単語の重み（主成分負荷量）とが示される。
【００４５】
［可視化工程（１）］
一般に、複数の文書の意味や特徴を可視化する場合、複数の主成分のうち、固有値が最大のものから２つの主成分（第１主成分と第２主成分）を選択し、２つの主成分の軸からなる二次元空間内に複数の文書をマッピングする。図９の軸・重み表の場合、第１主成分軸と第２主成分軸とが選択される。そして、図５の文書ベクトルの複数（ｎ個）の単語の重みに、図９の主成分軸の対応する単語の重み（主成分負荷量）をそれぞれ乗算し加算して、文書の主成分軸での値を算出する。計算式は以下のとおりであり、上記の式１、式２と同じである。
文書Ａの第Ｋ主成分軸での値＝Σi=1-n（文書Ａの単語iの重み×第Ｋ主成分軸の単語ｉの重み）  （式３）
図２３は、二次元空間内に文書をマッピングした可視化マップまたは二次元マップ（以下二次元マップ）の例を示す図である。図２３の（１）では、第1主成分軸PC1を横軸に、第２主成分軸PC2を縦軸にする二次元空間内に、複数の文書が黒点の位置にマッピングされている。そして、第1主成分軸PC1の説明E_PC1には、その軸の単語の重みが大きい順に所定数の単語（業務、可視化、CRM）とその重みとが示されている。同様に、第２主成分軸PC2の説明E_PC2にも、同様に重みが大きい順に所定数の単語（業務、改善、ナレッジ）とその重みが示されている。また、参考として、第３主成分軸PC3とその単語及び重みの説明E_PC3も示されている。通常は、二次元空間に文書がマッピングされるので、第３主成分軸PC3は二次元マップには示されない。
【００４６】
二次元マップでは、主成分軸の単語とその重みから、各主成分軸の意味や特徴を読み解く必要がある。例えば、主成分軸の最大重みの単語、または最大重みから２〜３個の単語とその重みから、主成分軸の意味や特徴が把握される。
【００４７】
しかし、図２３の（１）の例では、第１主成分軸の説明E_PC1に示された最大重みの単語が「業務」であり、第２主成分軸の説明E_PC2に示された最大重みの単語も「業務」である。したがって、この二次元マップを見ているユーザは、第１主成分軸と第２主成分軸の意味や特徴を区別するのが困難である。第１、第２主成分軸の最大重みの単語が一致しても、最大重みの次の重みの単語が異なることで、第１、第２主成分軸の意味や特徴は異なることになる。しかし、二次元マップを見る人間にとって、そのような意味や特徴の違いを把握することは容易ではない。
【００４８】
［軸調整工程S14の概略］
そこで、本実施の形態では、プロセッサは、主成分分析工程S12の後に、軸調整工程S14を実行して以下の処理を行う。すなわち、プロセッサは、軸調整工程S14で、第１に、主成分分析で算出した固有値が相対的に大きな複数の主成分軸のうち、主成分軸の意味または特徴が基準値以上異なる軸を、その軸の重要度（固有値）が大きい順に２つ選択する。選択された２つの軸を新軸と呼ぶ。第２に、選択した２つの新軸に対する単語から、それぞれの新軸を代表する単語の意味と基準値以上異なる単語を除外して、２つの新軸の新たな単語とその重みを決定する。意味が異なるか否かは、後述する単語の類似度に基づいて判定する。
【００４９】
そして、軸調整工程で決定された２つの新軸を用いて、前述の可視化工程を実行し、２つの新軸の二次元空間に複数の文書をマッピングし、二次元マップを生成する。
【００５０】
図２３の（２）に示された二次元マップでは、新軸１として第１主成分軸のうち単語「CRM」を除外したものが選択され、新軸２として第３主成分軸のうち単語「可視化、業務」を除外したものが選択されている。
【００５１】
つまり、第１に、プロセッサは、主成分分析で算出した固有値が最大のものから順に選択された３つの主成分軸PC1,PC2,PC3のうち、各軸の代表単語が基準値以上異なる第１、第３主成分軸PC1,PC3を選択する。すなわち、第１主成分軸PC1の代表単語である最大重みの単語「業務」が、第２主成分軸PC2の代表単語である最大重みの単語「業務」と一致し類似度が高い（意味が近い）のに対して、第３主成分軸PC3の代表単語である最大重みの単語「システム」とは類似度が基準値より低い（意味が大きく異なる）。ここで、代表単語とは、各主成分軸の意味や特徴を表す単語であり、相対的に重みが重い単一の単語または複数の単語が選択される。その結果、プロセッサは、上記の通り、主成分分析で算出した３つの主成分軸PC1,PC2,PC3のうち、第１、第３主成分軸PC1,PC3を選択する。
【００５２】
第２に、プロセッサは、選択した２つの新軸１，新軸２に対する単語から、新軸１を代表する単語（最大重みの単語）「業務」の意味と基準値以上異なる単語「CRM」を除外し、新軸２を代表する単語「システム」の意味と基準値以上異なる単語「可視化」「業務」を除外し、２つの新軸の新たな単語とその重みの列を決定する。
【００５３】
［単語の類似度算出工程S13］
上記の軸調整工程では、主成分軸間の類似度をチェックし、類似度が基準値以上異なる２つの主成分軸を選択し、また、主成分軸の最大重みの単語と残りの単語との類似度をチェックし、その類似度が同じまたは基準値以上異なる単語を残りの単語から除外した。そこで、以下、単語の類似度の算出工程について説明する。
【００５４】
図１０は、本実施の形態における単語の類似度算出工程のフローチャート図である。プロセッサは、LSAプログラムを実行して、単語類似度算出工程S13（S13_1,S13_2）を実行する。この工程S13では、プロセッサは、LSAの対象の複数の文書データから生成した文書・単語表２２を入力し、単語の特徴ベクトル表の作成を行い、単語の特徴ベクトル表２６を出力する（S13_1）。さらに、プロセッサは、単語の特徴ベクトル表に基づいて、複数の文書内の重複のない単語間の類似度を算出して、単語類似度表２７を出力する（S13_2）。
【００５５】
この単語の特徴ベクトル表２６の生成は、例えば、Word2Vec法により算出される。Word2Vecについては、以下の技術文献に記載されている。
Efficient Estimation of Word Representations in Vector Space",
https://arxiv.org/pdf/1301.3781v3.pdf
図１１は、単語の特徴ベクトル表の一例を示す図である。単語の特徴ベクトル表は、全文書に含まれる重複しない単語数を行方向に、各単語の２００次元程度の特徴を列方向に配置し、各単語について２００次元程度の特徴を要素とする単語のベクトルを示す。そして、単語間の類似度が、各単語のベクトルの角度θの余弦であるcosθ、コサイン類似度で求められる。コサイン類似度は以下の式により求められる。
コサイン類似度＝２つの単語のベクトルの内積／２つの単語の長さの乗算値
単語の特徴ベクトル表の各特徴は、予め任意の数に設定され、各単語のベクトルが、ベクトルの要素に対応する各特徴の値により定義される。
【００５６】
前述のWord2Vec法は、複数の文書における単語の出現の共起性が高い程単語間の類似度が高くなるように単語の特徴ベクトルを求めるものである。Word2Vec法は、ニューロンネットワークに、教師データの複数の文書内の重複しない複数の単語について、ある単語と文書内での出現の共起性が高い単語ほど、両単語間の内積が大きくなる（つまりcosθが１に近づく）ように図１１の単語の特徴ベクトルを学習させる。
【００５７】
図１２は、Word2Vecのニューロンネットワークの一例を示す図である。このニューロンネットワークの説明は、例えば、以下に記載されている。
「絵で理解するWord2Vecの仕組み−Qiita」
http://qiita.com/Hironsan/items/11b388575a058dc8a46a
上記の文献に基づいて図１２のニューロンネットワークを簡単に説明する。複数の文書内の重複しない単語数が７個と仮定すると、ニューロンネットワークは、７つのノードを有する入力層と、７つのノードを有する出力層と、予め設定された特徴の数、例えば３つのノードを有する隠れ層を有する。そして、単語「システム」と出現の共起性が高い単語が「POS」「アプリ」だったと仮定すると、入力層の「システム」に対応するノードに「１」を、それ以外のノードに「０」を入力し、一方、出力層の「POS」と「アプリ」に対応するノードに、入力層の「システム」と出現が共起する教師データでの確率を、それ以外のノードに「０」をそれぞれ入力する。つまり、入力層のノードには、対応する単語の有無を示す「１」「０」が入力される。
【００５８】
そして、入力層と隠れ層との間で、入力層のノードの値に、重複しない複数の単語の３つの特徴を成分とする単語の特徴ベクトル表２６内の入力層の単語の特徴の重み（X2,Y2,Z2）をそれぞれ乗算し、３つの隠れ層にそれぞれ入力する。隠れ層のノード数は、単語の特徴ベクトルの特徴数である。また、隠れ層の３つのノードには入力層の「システム」の単語ベクトルの３つの成分が入力される。
【００５９】
さらに、隠れ層と出力層との間で、隠れ層の各ノードの値に、その出力層の単語の特徴の重み（「POS」の出力層ならX3,Y3,Z3、「アプリ」の出力層ならX5,Y5,Z5）をそれぞれ乗算し、出力層に入力する。つまり、出力層のノードには、２つの単語の内積が入力される。そして、出力層で、入力された内積に所定の関数を乗算して、入力層の単語に対して出力層の単語の出現が共起する出現確率を生成する。そして、ニューロンネットワークに、この出力層が算出した出現確率と出力層に入力した教師データの出現確率との誤差がなくなるように、入力層と隠れ層との間及び隠れ層と出力層との間の単語の特徴ベクトルを学習させる。つまり、ニューロンネットワークは、入力層の「システム」と出力層の「POS」「アプリ」間について、入力層の単語の特徴ベクトルと出力層の単語の特徴ベクトルとの内積が教師データの出現確率に対応するように学習して、単語の特徴ベクトルの表２６を生成する。
【００６０】
プロセッサは、上記した計算を実行してニューロンネットワークによる学習を実行する。
【００６１】
図１３は、単語の特徴ベクトルに基づく単語間の類似度の算出を説明する図である。図１３には、図１２と同様に７単語を３つの特徴の次元で示す単語の特徴ベクトルの表２６が示される。この単語の特徴ベクトルの表２６には、単語「システム」「POS」の特徴の重みX2,Y2,Z2とX3,Y3,Z3とが示されている。
【００６２】
次に、図１３には、単語「システム」「POS」それぞれの特徴ベクトルが示されている。これらの特徴ベクトルの角度はθであり、それぞれの特徴ベクトルの長さｄ２、ｄ３は以下のとおりである。
ｄ２＝√（X22+Y22+Z22）
ｄ３＝√（X32+Y32+Z32）
そこで、単語間の類似度は、図１３に示される計算式によるコサイン類似度で求めることができる。すなわち、コサイン類似度の計算式は以下のとおりである。
コサイン類似度＝（X2*X3+Y2*Y3+Z2*Z3)/√{（X22+Y22+Z22)*(X32+Y32+Z32)} 
＝２つのベクトルの内積／２つのベクトルの長さの乗算値
＝d2*d3*cosθ/d2*d3
＝cosθ                                          （式４）
図１４は、単語類似度表２７の一部を示す図である。プロセッサは、単語の類似度算出工程で、全ての単語間の類似度を、上記のコサイン類似度を求める式４により算出することができる。図１４には、「業務」に対する「改善」「可視化」「システム」「ＣＲＭ」「ＰＯＳ」等の類似度と、「システム」に対する「ＰＯＳ」「ＣＲＭ」「アプリ」「業務」「改善」等の類似度とが示される。実際には全ての単語間の類似度が算出される。
【００６３】
本実施の形態では、プロセッサは、ＬＳＡ対象の複数の文書をニューロンネットワークで学習して、単語の特徴ベクトルの表を生成する。したがって、生成された単語の特徴ベクトルの表は、ＬＳＡ対象の複数の文書に特有の単語間の出現の共起性に基づいてその類似度を求めることができるようにカスタマイズされる。したがって、プロセッサは、ＬＳＡの対象が特殊な分野の複数の文書や、新しい分野であるため新しい単語が含まれる複数の文書でも、それぞれに最適な単語間の出現の共起性に基づく単語の特徴ベクトルの表を生成することができる。
【００６４】
［軸調整工程S14の詳細説明］
次に、本実施の形態における軸調整工程Ｓ１４の詳細説明を行う。軸調整工程の概略で説明したとおり、軸調整工程Ｓ１４は、第１に、可視化する二次元空間の主成分軸を固有値の大きさに加えて主成分の意味を表す単語の類似度に基づいて適切に選択すること（軸調整工程（１））と、第２に、主成分軸の複数の単語から最大主成分負荷量の単語との類似度に基づいて適切に単語を除外すること（軸調整工程（２））とを行う。これらの２つの軸調整工程は、いずれか一方を実行してもよいし、両方を実行してもよい。
【００６５】
図１５は、軸調整工程（１）のフローチャート図である。プロセッサは、軸・重み表２５を参照して、i=2から(S141)、第i主成分と第１主成分との類似度が基準値より小さいか（類似しない、大きく異なる）否かを判定する（S142）。判定が偽であれば、i=i+1にインクリメントし（S143）、再度、判定S142を実行する。判定S142が真になれば、第1主成分軸と第i主成分軸とを新軸に選択する（S143）。そして、プロセッサは、調整された新軸・重み表（１）28_1を出力する。
【００６６】
図１６は、軸調整工程（１）の具体例を示す図である。図１６には、軸・重み表２５と、新軸・重み表（１）28_1とが示されている。
【００６７】
軸調整工程（１）では、ＬＳＡで算出した主成分軸のうち、軸を代表する意味が大きく異なる軸を、軸の重要度（固有値）が大きい順に２つ選択する。ここで軸を代表する意味を、最大重みの単語または重みが最も大きい複数の単語（例えば２〜３の単語）とする。これらの単語を代表単語と称する。
【００６８】
例えば、図９の軸・重み表２５の例で説明すると、最大重みの単語を代表単語とすれば、
第１主成分軸の意味は、「業務」
第２主成分軸の意味は、「業務」
第３主成分軸の意味は、「システム」
である。
【００６９】
そこで、軸調整工程（１）では、軸を代表する意味が大きく異なるか否かの判定を、図１１の単語の特徴ベクトルの表による単語間の類似度（コサイン類似度）に基づき、軸の代表単語間のコサイン類似度が基準値（例えば0.5）より小さいか否かにより行う。
【００７０】
上記の例では、第１主成分軸の意味「業務」と第２主成分軸の意味「業務」のコサイン類似度は1.0であり、基準値0.5より大きいので、第１、第２主成分軸の意味は近い（同じ、非常に類似する）と判定され、第２主成分軸の選択は行われない。
【００７１】
一方、第１主成分軸の意味「業務」と第３主成分軸の意味「システム」のコサイン類似度は0.345であり、基準値0.5より小さいので、第１、第３主成分軸の意味は遠い（大きく異なる）と判定され、第３主成分軸が選択される。その結果、新軸は第1主成分軸と第３主成分軸に調整される。
【００７２】
結局、図１６において、新軸・重み表（１）28_1に示されるとおり、実線の矩形で囲った第1主成分軸と第３主成分軸が新軸に選択され、破線の矩形で囲った第２主成分軸は選択されない。主成分分析では、最大の分散を持つ第1主成分を選択し、続く主成分はそれまでに決定した主成分と直交するという拘束条件のもとで分散を最大化するものを選択する。したがって、選ばれた主成分軸は互いに直交しているので、上記の第1主成分と第３主成分とは直交関係にある。
【００７３】
軸を代表する意味である代表単語は重みが大きいものから複数の単語でもよい。例えば、大行単語を重みが大きいものから２つとする場合、代表単語の特徴ベクトルは、２つの単語の特徴ベクトルの重みに主成分軸の単語の重み（主成分負荷量）をそれぞれ乗算して加重平均することで算出される。この算出された代表単語の特徴ベクトルを、軸を代表する意味とする。
【００７４】
図１７は、代表単語の特徴ベクトルの算出を説明する図である。図中、単語の特徴ベクトル表26と、軸・単語重み表25とが示されている。仮に、第1主成分軸を代表する意味として単語1と単語２を代表単語に選択したとする。この場合の代表単語の特徴ベクトルは、代表単語の特徴ベクトル表26_1に示される計算式により求められる。すなわち、以下のとおりである。
第1主成分の代表単語の特徴ベクトル＝(（T11*W11 + T21*W21）/2, (T12*W11 + T22*W21)/2 )
このように単語１と単語２の特徴ベクトルの重みに第1主成分軸の単語１と単語２の重みをそれぞれ乗算して平均をとって加重平均を算出することで、２つの単語による代表単語の特徴ベクトルを求めることができる。
【００７５】
図１８は、軸調整工程（２）のフローチャート図である。プロセッサは、新軸・重み表（１）28_1、または軸・重み表２５を参照して、全軸ｊそれぞれについて（S145）、以下の処理を繰り返す。すなわち、軸ｊのi番目の単語がその軸ｊを代表する意味（代表単語）と類似度が基準値より小さいか否か判定し（S147）、小さい場合（S147のYES）はその単語ｉを軸ｊの単語から削除する（S148）。この処理S147,S148を、軸ｊの全単語について繰り返す（S146）。
【００７６】
図１９は、新軸・重み表（１）28_1に対して軸調整工程（２）を実行した場合の具体例を示す図である。ここでは、軸を代表する意味の代表単語は重み（主成分負荷量）が最も重い１つの単語とする。
【００７７】
まず、プロセッサは、軸１を代表する「業務」とのコサイン類似度が0.4未満の単語を除外する。その結果、軸１から「CRM」が除外される。同様に、プロセッサは、軸２を代表する「システム」とのコサイン類似度が0.4未満の単語を除外する。その結果、軸２から「可視化」「業務」が除外される。そして、プロセッサは、類似しない単語を除外された図示される新軸・重み表（２）28_2を生成する。
【００７８】
この軸調整工程（２）によれば、２つの主成分軸または新軸の単語のうち、軸を代表する意味を持つ代表単語と類似度が低い（類似しない、大きく異なる）単語を、軸の単語から削除するので、可視化マッピング中の軸の意味を容易に把握することができる。軸を代表する意味を持つ単語と類似しないまたは大きく異なる単語が含まれていると、可視化マッピングを看る看者は、軸の持つ意味を把握することが困難になる。この軸調整工程（２）を行うことで、軸の持つ意味の把握が容易になる。
【００７９】
但し、軸の単語のうち一部の軸が削除されるので、一部の単語が削除された軸は、他の主成分軸との直交関係が若干崩れることがある。
【００８０】
軸調整工程（２）は、軸調整工程（１）により生成された新軸・重み表（１）に対して行っても良く、軸調整工程（１）を行わないで主成分分析で生成された軸・重み表２５に対して行っても良い。
【００８１】
［可視化工程Ｓ１５］
図２０は、可視化工程のフローチャート図である。上記の可視化工程（１）でその概略を説明したが、以下、具体例を示して説明する。
【００８２】
プロセッサは、文書ベクトル表２３と新軸・重み表28_1または28_2を参照して、文書ベクトル表２３内の全ての文書について(S151)、文書ベクトルの単語軸の空間から、二次元の新軸の空間に変換する(S152)。この変換の計算は、前述した式１，２または式３により行われる。新軸・重み表に基づく式３を再度示すと以下のとおりである。上記の式３とは、第Ｋ主成分軸が新軸Ｋに変更されている。
文書Ａの新軸Ｋでの値＝Σi=1-n（文書Ａの単語iの重み×新軸Ｋの単語ｉの重み）  （式３）
このように、軸調整工程により調整された新軸とその単語の重みは、新軸の位置を計算する新たな計算式を定義するものである。
【００８３】
さらに、プロセッサは、新軸の空間に変換された文書を、二次元の新軸座標にマッピングした二次元マップを可視化結果２９として生成する(S153)。
【００８４】
図２１は、上記の変換工程S152での文書の２つの新軸上の値の計算を説明する図である。図２１には、文書ベクトル表23と、新軸・重み表28_2とが示される。そして、文書Ａのベクトルは、文書ベクトル表23の1列目に示される単語（業務、システム．．．）の重み（業務a、システムａ...）を有する。一方、新軸１からは「ＣＲＭ」が除外され、新軸２からは「可視化」「業務」が除外されている。
【００８５】
そこで、文書Ａについての新軸１の値と、新軸２の値は、図２１に示されるとおりであり、上記の式３により算出される。その結果、文書Ａについて新軸１の値は2.123、新軸２の値は0.505がそれぞれ算出される。この計算において、新軸１，２それぞれで除外された単語の重みは0.000とされる。図２１の例では、新軸１の「ＣＲＭ」の重みが0.000となっている。
【００８６】
図２２は、新軸の二次元空間内に文書をマッピングした二次元マップの例を示す図である。すなわち、横軸が新軸１、縦軸が新軸２に対応し、文書Ａ，Ｂ，Ｃが式３により求めた新軸１，２の値に基づいてマッピングされている。そして、新軸1、新軸２の意味を看者に示すために、新軸１、新軸２に、それぞれの軸の単語とその重みを示すラベルＬ１，Ｌ２が表示される。これらのラベルＬ１，Ｌ２によれば、新軸1、新軸２の代表単語はコサイン類似度が基準値未満であり大きく異なっている。また、新軸１、新軸２それぞれの単語には、代表単語とコサイン類似度が別の基準値未満（大きく異なる）単語は除外されている。したがって、看者は、新軸1、新軸２の意味または特徴を容易に把握することができる。
【００８７】
なお、文書の新軸上の値が大きいことは、その文書ベクトルが新軸と相関性が高く、文書が新軸の意味または特徴を強く有していることを意味する。したがって、マッピングされた文書の新軸の値が大きい（または小さい）場合は、その新軸の意味または特徴を強く（または弱く）持つことを意味する。図２２の例では、文書Ａは新軸１の意味や特徴を強く持ち、文書Ｂは新軸２の意味や特徴を強く持つ。しかし、文書Ｃは、両新軸１，２の意味や特徴をあまり強く持たず、何か別の主成分軸の特徴を強く持つ可能性があると一般的に言える。
【００８８】
以上のとおり、本実施の形態によれば、複数の文書についてＬＳＡを行って低次元に圧縮し、例えば二次元空間に文書をマッピングする場合、ＬＳＡで求めた主成分軸のうち、軸の説明力（固有値）が相対的に大きいもののうち、軸を代表する意味の類似度が低い２つの軸を選択する。したがって、二次元空間にマッピングした際、軸間の意味や特徴の違いを容易に把握することができる。さらに、各軸の複数の単語から軸を代表する意味と類似度が低い（異なる）単語を除外し、二次元空間の各軸にその軸の単語とその重みを有するラベルを表示する。したがって、各軸の意味を容易に把握することができる。
【００８９】
以上の実施の形態をまとめると，次の付記のとおりである。
【００９０】
（付記１）
複数の単語をそれぞれ含む複数の文書に対して潜在意味解析を行い、前記複数の文書の所定の特徴と相関する複数の軸と、前記複数の軸それぞれが有する前記複数の文書の説明力の大きさを示す軸の重要度と、前記複数の軸それぞれに対する複数の単語の重みとを生成し、
前記複数の文書に含まれる複数の単語間の類似度を生成し、
前記軸の重要度が相対的に大きい複数の軸の中から、前記複数の軸それぞれの前記単語の重みが相対的に大きい代表単語についての前記軸の間における類似度が第1の基準値より低いＮ（Ｎは２以上の整数）個の軸を選択する、
処理をコンピュータに実行させる潜在意味解析結果の軸調整プログラム。
【００９１】
（付記２）
複数の単語をそれぞれ含む複数の文書に対して潜在意味解析を行い、前記複数の文書の所定の特徴と相関する複数の軸と、前記複数の軸それぞれが有する前記複数の文書の説明力の大きさを示す軸の重要度と、前記複数の軸それぞれに対する複数の単語の重みとを生成し、
前記複数の文書に含まれる複数の単語間の類似度を生成し、
前記複数の軸の中から、前記軸の重要度が相対的に大きいＮ（Ｎは２以上の整数）個の軸を選択し、
前記Ｎ個の軸それぞれの複数の単語のうち、前記類似度が基準値より低い単語を除外する、
処理をコンピュータに実行させる潜在意味解析結果の軸調整プログラム。
【００９２】
（付記３）
前記潜在意味解析を行うことは、
前記複数の軸は前記複数の文書の分散に対応し、前記軸上における前記複数の文書の分散が大きい順に前記複数の軸を生成し、前記軸の重要度は前記分散が大きいほど大きく、前記単語の重みは前記複数の軸それぞれとの相関が強いほど重い、付記１または２に記載の潜在意味解析結果の軸調整プログラム。
【００９３】
（付記４）
前記潜在意味解析を行うことは、
前記複数の文書に対して、前記複数の文書における前記複数の単語の出現度合に基づく単語の重みを有する文書ベクトル表を生成し、
前記文書ベクトル表について主成分分析を行って、複数の主成分の固有値を前記軸の重要度に対応付け、前記主成分の単語の重みに主成分負荷量を対応付け、前記軸の重要度が大きいものから順に前記複数の軸を選択する、付記３に記載の潜在意味解析結果の軸調整プログラム。
【００９４】
（付記５）
前記複数の単語間の類似度を生成することは、
前記複数の文書における単語の出現の共起性が高いほど単語間の類似度が高くなるよう前記類似度を算出することを有する、付記１または２に記載の潜在意味解析結果の軸調整プログラム。
【００９５】
（付記６）
前記複数の単語間の類似度を生成することは、
前記複数の文書に含まれる重複しない複数の単語の有無を入力層に入力し、
前記入力層に入力された単語と前記文書内で出現が共起する単語の教師データでの出現共起確率を出力層に入力し、
前記入力層と出力層との間の隠れ層が、前記入力層のノードの値に、前記重複しない複数の単語を表記する複数の特徴を成分とする単語の特徴ベクトルの前記入力層の単語の前記特徴の重みを乗算した値を入力し、前記隠れ層は前記単語の特徴ベクトルの特徴数のノードを有し、
前記出力層が、前記隠れ層のノードの値に、前記出力層の単語の前記特徴の重みを乗算した値を入力し、前記入力した値から所定の関数に基づいて前記共起する単語の出現共起確率を生成し、
前記入力層の単語の特徴ベクトルと前記出力層の単語の特徴ベクトルとの内積が前記教師データでの出現共起確率に対応するよう前記単語の特徴ベクトルを学習し、
前記単語の特徴ベクトルのコサイン類似度を、前記単語間の類似度として算出する、付記５に記載の潜在意味解析結果の軸調整プログラム。
【００９６】
（付記７）
更に、
前記文書ベクトル表の各文書の複数の単語の重みそれぞれに、前記主成分の対応する単語の重みを乗加算した値を、前記主成分の座標値として生成し、
前記Ｎ個の軸の空間内に、前記主成分の座標値に対応する位置に前記複数の文書をマッピングし、前記マッピングされたＮ個の軸の空間内に前記Ｎ個の軸それぞれに対する複数の単語の重みを前記Ｎ個の軸に対応付けて表示するＮ次元マップを生成する可視化処理を行う、付記４に記載の潜在意味解析結果の軸調整プログラム。
【００９７】
（付記８）
前記代表単語は、前記複数の軸それぞれに対する前記単語の重みが最大の単語である、付記１に記載の潜在意味解析結果の軸調整プログラム。
【００９８】
（付記９）
前記代表単語は、前記複数の軸それぞれに対する前記単語の重みが最大の単語からＭ個（Ｍは複数）の単語である、付記１に記載の潜在意味解析結果の軸調整プログラム。
【００９９】
（付記１０）
前記Ｎ個の軸は、２個の軸である、付記１または２に記載の潜在意味解析結果の軸調整プログラム。
【０１００】
（付記１１)
複数の単語をそれぞれ含む複数の文書に対して潜在意味解析を行い、前記複数の文書の所定の特徴と相関する複数の軸と、前記複数の軸それぞれが有する前記複数の文書の説明力の大きさを示す軸の重要度と、前記複数の軸それぞれに対する複数の単語の重みとを生成し、
前記複数の文書に含まれる複数の単語間の類似度を生成し、
前記軸の重要度が相対的に大きい複数の軸の中から、前記複数の軸それぞれの前記単語の重みが相対的に大きい代表単語についての前記軸の間における類似度が第1の基準値より低いＮ（Ｎは２以上の整数）個の軸を選択する、
処理をコンピュータに実行させる潜在意味解析結果の軸調整方法。
【０１０１】
（付記１２）
複数の単語をそれぞれ含む複数の文書に対して潜在意味解析を行い、前記複数の文書の所定の特徴と相関する複数の軸と、前記複数の軸それぞれが有する前記複数の文書の説明力の大きさを示す軸の重要度と、前記複数の軸それぞれに対する複数の単語の重みとを生成し、
前記複数の文書に含まれる複数の単語間の類似度を生成し、
前記複数の軸の中から、前記軸の重要度が相対的に大きいＮ（Ｎは２以上の整数）個の軸を選択し、
前記Ｎ個の軸それぞれの複数の単語のうち、前記類似度が基準値より低い単語を除外する、
処理をコンピュータに実行させる潜在意味解析結果の軸調整方法。
【０１０２】
（付記１３）
複数の単語をそれぞれ含む複数の文書に対して潜在意味解析を行い、前記複数の文書の所定の特徴と相関する複数の軸と、前記複数の軸それぞれが有する前記複数の文書の説明力の大きさを示す軸の重要度と、前記複数の軸それぞれに対する複数の単語の重みとを生成する解析手段と、
前記複数の文書に含まれる複数の単語間の類似度を生成する類似度生成手段と、
前記軸の重要度が相対的に大きい複数の軸の中から、前記複数の軸それぞれの前記単語の重みが相対的に大きい代表単語についての前記軸の間における類似度が第1の基準値より低いＮ（Ｎは２以上の整数）個の軸を選択する軸選択手段と、
を有するコンピュータに実行させる潜在意味解析結果の軸調整装置。
【０１０３】
（付記１４）
複数の単語をそれぞれ含む複数の文書に対して潜在意味解析を行い、前記複数の文書の所定の特徴と相関する複数の軸と、前記複数の軸それぞれが有する前記複数の文書の説明力の大きさを示す軸の重要度と、前記複数の軸それぞれに対する複数の単語の重みとを生成する解析手段と、
前記複数の文書に含まれる複数の単語間の類似度を生成する類似度生成手段と、
前記複数の軸の中から、前記軸の重要度が相対的に大きいＮ（Ｎは２以上の整数）個の軸を選択する軸選択手段と、
前記Ｎ個の軸それぞれの複数の単語のうち、前記類似度が基準値より低い単語を除外する軸の単語調整手段と、
を有する潜在意味解析結果の軸調整装置。
【符号の説明】
【０１０４】
１：潜在意味解析装置
２０：潜在意味解析プログラム
２１：文書データ
２２：文書・単語表
２３：文書ベクトル表
２４：主成分分析結果表
２５：軸・重み表
２６：単語の特徴ベクトル表
２７：単語類似度表
２８：新軸・重み表
２９：可視化結果
【図１】
2019159919.tif 000003
【図２】
2019159919.tif 000004
【図３】
2019159919.tif 000005
【図４】
2019159919.tif 000006
【図５】
2019159919.tif 000007
【図６】
2019159919.tif 000008
【図７】
2019159919.tif 000009
【図８】
2019159919.tif 000010
【図９】
2019159919.tif 000011
【図１０】
2019159919.tif 000012
【図１１】
2019159919.tif 000013
【図１２】
2019159919.tif 000014
【図１３】
2019159919.tif 000015
【図１４】
2019159919.tif 000016
【図１５】
2019159919.tif 000017
【図１６】
2019159919.tif 000018
【図１７】
2019159919.tif 000019
【図１８】
2019159919.tif 000020
【図１９】
2019159919.tif 000021
【図２０】
2019159919.tif 000022
【図２１】
2019159919.tif 000023
【図２２】
2019159919.tif 000024
【図２３】
2019159919.tif 000025