(57)【要約】【課題】大量の情報源を処理し、推定した異なり未登録語の概念ベクトルの質を向上する単語写像技術を提供する。【解決手段】単語分割手段１１がテキスト集合を形態素解析し、概念ベクトル推定手段１２が、単語分割結果中の単語で、単語と該単語の概念ベクトルの対の集合を格納する概念ベース１６を検索して該単語が登録語か未登録語かを判別し、任意の異なり未登録語に対し、該異なり未登録語を含むテキストの集合をとり、該集合中の異なり登録語の概念ベクトルを取得し、該異なり未登録語に対しては変数としての概念ベクトルを対応付けた上で、該集合中の各テキストにおける、概念ベクトルの平均と、各概念ベクトルとの距離の自乗の和を、該集合中の全テキストにわたって加算した和を最小にするような、該異なり未登録語の概念ベクトルを、該異なり未登録語の推定概念ベクトルとする。【選択図】図１
2008015640.tif 000002
【特許請求の範囲】
【請求項１】
単語を、該単語の意味を表現する概念ベクトルにマッピングする単語写像装置であって、
単語と該単語の概念ベクトルの対の集合を格納する概念ベースと、
テキスト管理手段から取得したテキストの集合を入力とし、該集合中のテキストを形態素解析し、必要に応じて、処理に必要な単語を特定し、記憶部に記憶する単語分割手段と、
前記単語分割手段で得られた単語分割結果中の単語で概念ベースを検索することにより、該単語が概念ベースに登録されている登録語か、登録されていない未登録語かを判別し、
任意の異なり未登録語に対し、該異なり未登録語を含むテキストの集合をとり、
該集合中のテキストに含まれる各異なり登録語で概念ベースを検索し、該異なり登録語の概念ベクトルを取得し、該異なり未登録語に対しては変数としての概念ベクトルを対応付けた上で、
該集合中の各テキストにおける、概念ベクトルの平均と、各概念ベクトルとの距離の自乗の和を、該集合中の全テキストにわたって加算した和を最小にするような、該異なり未登録語の概念ベクトルを、該異なり未登録語の推定概念ベクトルとする概念ベクトル推定手段と、
を有することを特徴とする単語写像装置。
【請求項２】
単語を、該単語の意味を表現する概念ベクトルにマッピングする単語写像装置が実行する単語写像方法であって、
単語分割手段が、テキスト管理手段から取得したテキストの集合を入力とし、該集合中のテキストを形態素解析し、必要に応じて、処理に必要な単語を特定し、記憶部に記憶する単語分割ステップと、
概念ベクトル推定手段が、前記単語分割ステップで得られた単語分割結果中の単語で、単語と該単語の概念ベクトルの対の集合を格納する概念ベースを検索することにより、該単語が概念ベースに登録されている登録語か、登録されていない未登録語かを判別し、
任意の異なり未登録語に対し、該異なり未登録語を含むテキストの集合をとり、
該集合中のテキストに含まれる各異なり登録語で概念ベースを検索し、該異なり登録語の概念ベクトルを取得し、該異なり未登録語に対しては変数としての概念ベクトルを対応付けた上で、
該集合中の各テキストにおける、概念ベクトルの平均と、各概念ベクトルとの距離の自乗の和を、該集合中の全テキストにわたって加算した和を最小にするような、該異なり未登録語の概念ベクトルを、該異なり未登録語の推定概念ベクトルとする概念ベクトル推定ステップと、
を有することを特徴とする単語写像方法。
【請求項３】
請求項２に記載の単語写像方法を、コンピュータで実行可能なコンピュータプログラムとして記述したことを特徴とする単語写像プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、単語を、該単語の意味を表現する概念ベクトルにマッピングする単語写像技術に関するものである。
【背景技術】
【０００２】
単語と該単語の意味を表現する概念ベクトルの対の集合を格納する概念ベースは、単語間の距離を定量化できるため、検索やクラスタリング等の言語処理に活用され、大いなる効用をあげている。
【０００３】
しかしながら、概念ベースに登録されていない未登録語が、処理対象テキスト中に存在すると、該未登録語の意味は考慮されないため、精度の低下を招く。このため、未登録語の概念ベクトルを推定する技術が、精度向上のために重要である。
【０００４】
未登録語の概念ベクトルを推定する手法として、次のような手法（例えば、特許文献１参照）が知られている。
【０００５】
まず、単語と該単語の概念ベクトルの対の集合を格納する概念ベースを具備し、テキストの集合を入力とし、該集合中のテキストに含まれる異なり登録語（即ち、登録された異なり単語）と異なり未登録語（即ち、未登録の異なり単語）をとり、各異なり未登録語に対しては変数としての概念ベクトルを対応付ける。
【０００６】
そして、その対応付けの上で、該集合中のテキストの和集合における概念ベクトルの平均と、該集合中の各テキストにおける概念ベクトルの平均との距離の自乗に、該テキストにおける、のべ単語数を乗じた値を、該集合中の全テキストにわたって加算した和を最大にするような、各異なり未登録語の概念ベクトルを、該異なり未登録語の推定概念ベクトルとする。
【０００７】
上述の手法は、各テキストにおける概念ベクトルの集合がクラスタをなしていると仮定し、クラスタ間変動が最大となるように、未登録語の概念ベクトルを推定するものである。なお、クラスタ間変動が最大であることと、クラスタ内変動が最小であることは同値である。
【０００８】
なお、概念ベースの例としては、類似性判別装置における概念ベース（例えば、特許文献２参照）、類似性判別用データ精錬に関する概念ベース（例えば、特許文献３参照）、が知られている。
【０００９】
また、単語の文書における頻度を記録した単語・文書間の共起行列を特異値分解により次元数を縮退させた行列に変換し、この変換後の行列も概念ベースと見做すことができる（例えば、非特許文献１参照）。コーパス中の単語間の共起頻度を記録した単語・単語間の共起行列を特異値分解により次元数を縮退させた行列に変換し、この変換後の行列も概念ベースと見做すことができる（例えば、非特許文献２参照）。
【特許文献１】特開２００６−１１３９１７号公報（段落［００７４］〜［０１０５］等）。
【特許文献２】特開平６−１０３３１５号公報（段落［０００９］〜［００１０］等）。
【特許文献３】特開平７−３０２２６５号公報（段落［００１２］〜［００１３］等）。
【非特許文献１】Ｓ．Ｄｅｅｒｗｅｓｔｅｒ，Ｓ．Ｔ．Ｄｕｍａｉｓ，Ｇ．Ｗ．Ｆｕｒｎａｓ，Ｔ．Ｋ．Ｌａｎｄａｕｅｒ  ａｎｄ  Ｒ．Ｈａｒｓｈｍａｎ，”Ｉｎｄｅｘｉｎｇ  ｂｙ  Ｌａｔｅｎｔ  Ｓｅｍａｎｔｉｃ  Ａｎａｌｙｓｉｓ”，１９９０，Ｊｏｕｒｎａｌ  ｏｆ  ｔｈｅ  Ａｍｅｒｉｃａｎ  Ｓｏｃｉｅｔｙ  ｆｏｒ  Ｉｎｆｏｒｍａｔｉｏｎ  Ｓｃｉｅｎｃｅ，ｐｐ．３９１−４０７．
【非特許文献２】Ｈ．Ｓｃｈｕｔｚｅ，”Ｄｉｍｅｎｓｉｏｎｓ  ｏｆ  Ｍｅａｎｉｎｇ”，１９９２，Ｐｒｏｃ．ｏｆ  Ｓｕｐｅｒｃｏｍｐｕｔｉｎｇ’９２，ｐｐ．７８６−７９６．
【発明の開示】
【発明が解決しようとする課題】
【００１０】
上述の手法では、異なり未登録語の数だけの変数をもつ２次式が最大となる解を、ある制約条件の下で解く必要があり、多大な計算量を必要とする。即ち、異なり未登録語の数が多いと、一般的なコンピュータでは実行が不可能となる。
【００１１】
このため、次のような方法を採用することがある。まず、テキストを一つずつ取得し、その取得したテキスト集合における異なり未登録語の数が、ある一定数を超えた時点で、取得したテキスト集合における各異なり未登録語の概念ベクトルを求め、概念ベースに追加する。そして、この操作を、取得するテキストがなくなるまで繰り返すことにより、全異なり未登録語の概念ベクトルを求める。
【００１２】
しかしながら、この方法では、一部のテキスト集合における情報に基づいて、その一部のテキスト集合に含まれる異なり未登録語の概念ベクトルを求めるため、全テキスト集合に基づいて異なり未登録語の概念ベクトルを求める方法と比べて、情報源の量が圧倒的に少ない。結果として、推定した異なり未登録語の概念ベクトルの質に問題が発生していた。
【００１３】
本発明は、前記課題に基づいてなされたものであり、大量の情報源を処理し、推定した異なり未登録語の概念ベクトルの質を向上する単語写像装置、単語写像方法及びその単語写像方法を実装したプログラムを提供することにある。
【課題を解決するための手段】
【００１４】
本発明は、前記課題の解決を図るために、請求項１記載の発明は、単語を、該単語の意味を表現する概念ベクトルにマッピングする単語写像装置であって、単語と該単語の概念ベクトルの対の集合を格納する概念ベースと、テキスト管理手段から取得したテキストの集合を入力とし、該集合中のテキストを形態素解析し、必要に応じて、処理に必要な単語を特定し、記憶部に記憶する単語分割手段と、前記単語分割手段で得られた単語分割結果中の単語で概念ベースを検索することにより、該単語が概念ベースに登録されている登録語か、登録されていない未登録語かを判別し、任意の異なり未登録語に対し、該異なり未登録語を含むテキストの集合をとり、該集合中のテキストに含まれる各異なり登録語で概念ベースを検索し、該異なり登録語の概念ベクトルを取得し、該異なり未登録語に対しては変数としての概念ベクトルを対応付けた上で、該集合中の各テキストにおける、概念ベクトルの平均と、各概念ベクトルとの距離の自乗の和を、該集合中の全テキストにわたって加算した和を最小にするような、該異なり未登録語の概念ベクトルを、該異なり未登録語の推定概念ベクトルとする概念ベクトル推定手段と、を有することを特徴とする。
【００１５】
請求項２記載の発明は、単語を、該単語の意味を表現する概念ベクトルにマッピングする単語写像装置が実行する単語写像方法であって、単語分割手段が、テキスト管理手段から取得したテキストの集合を入力とし、該集合中のテキストを形態素解析し、必要に応じて、処理に必要な単語を特定し、記憶部に記憶する単語分割ステップと、概念ベクトル推定手段が、前記単語分割ステップで得られた単語分割結果中の単語で、単語と該単語の概念ベクトルの対の集合を格納する概念ベースを検索することにより、該単語が概念ベースに登録されている登録語か、登録されていない未登録語かを判別し、任意の異なり未登録語に対し、該異なり未登録語を含むテキストの集合をとり、該集合中のテキストに含まれる各異なり登録語で概念ベースを検索し、該異なり登録語の概念ベクトルを取得し、該異なり未登録語に対しては変数としての概念ベクトルを対応付けた上で、該集合中の各テキストにおける、概念ベクトルの平均と、各概念ベクトルとの距離の自乗の和を、該集合中の全テキストにわたって加算した和を最小にするような、該異なり未登録語の概念ベクトルを、該異なり未登録語の推定概念ベクトルとする概念ベクトル推定ステップと、を有することを特徴とする。
【００１６】
請求項３記載の発明は、単語写像プログラムであって、請求項２に記載の単語写像方法を、コンピュータで実行可能なコンピュータプログラムとして記述したことを特徴とする。
【００１７】
前記請求項１，２，３の発明によれば、一変数の２次式が最小となる解を求めるため、計算量的に問題がない。
【発明の効果】
【００１８】
以上示したように請求項１，２，３の発明によれば、一変数の２次式に基づく計算を行うため、着目している一つの異なり未登録語を含む全てのテキストの集合から、該異なり未登録語の概念ベクトルを推定することができる。
【００１９】
他の異なり未登録語の概念ベクトルを考慮した上ではクラスタ内変動最小とはならないものの、情報源の量は特許文献１の手法と比べ圧倒的に多いため、結果として、推定概念ベクトルの質は高くなる。
【００２０】
そして、推定した未登録語の概念ベクトルを用いることにより、概念ベースを用いた言語処理の精度も、特許文献１の手法で推定した未登録語の概念ベクトルを用いた場合より向上する。
【００２１】
これらを以って自然言語処理技術分野に貢献できる。
【発明を実施するための最良の形態】
【００２２】
本発明における概念ベクトル推定手法の考え方を説明する。
【００２３】
本発明において、入力となるテキストの集合における各テキストは、典型的には１文である。
【００２４】
まず、対象としている１個の異なり未登録語を含む、テキストの集合をＣ＝{ｃ1，ｃ2，・・・，ｃg}とする。
【００２５】
また、テキストの集合Ｃ中に出現する、異なり登録語の集合を{ｗ1，ｗ2，・・・，ｗx}とし、対象としている異なり未登録語をｗx+1とする。
【００２６】
テキストｃj内の異なり単語ｗiの出現回数をｚ（ｗi｜ｃj）とする。
【００２７】
また、テキストｃjにおけるのべ単語数を、以下の式で定義する。
【００２８】
【数１】
2008015640.tif 000003
【００２９】
概念ベクトルはｆ次元ベクトルとし、単語ｗiの概念ベクトルのｍ番目の座標をｖm（ｗi）とする。
【００３０】
テキストｃjでのｍ番目の座標の平均を以下の式で定義する。
【００３１】
【数２】
2008015640.tif 000004
【００３２】
各テキストｃjにおける、概念ベクトルの平均と、各概念ベクトルとの距離の自乗の和を、テキスト集合Ｃの全テキストにわたって加算した和は、以下の式（１）で表される。
【００３３】
【数３】
2008015640.tif 000005
【００３４】
式（１）を最小にするｖm（ｗx+1）（１≦ｍ≦ｆ）を求めるには、任意の座標ｍ（１≦ｍ≦ｆ）に対し、以下の式を最小にするｖm（ｗx+1）を求めればよい。
【００３５】
【数４】
2008015640.tif 000006
【００３６】
式（２）は以下のように変形される。
【００３７】
【数５】
2008015640.tif 000007
【００３８】
ここで、
【００３９】
【数６】
2008015640.tif 000008
【００４０】
とおくと、ｊに関する２次式の係数は、以下のように表される。
【００４１】
【数７】
2008015640.tif 000009
【００４２】
式（３）は、以下の２次式で表される。
【００４３】
【数８】
2008015640.tif 000010
【００４４】
Ｃ中に異なり登録語が存在する場合、ａ＞０であり、式（４）を最小にするｖm（ｗx+1）は、
【００４５】
【数９】
2008015640.tif 000011
【００４６】
となる。
ａjは座標ｍに依存しないので、ａも座標ｍに依存しない。
【００４７】
以下、本実施形態を図面等に基づいて詳細に説明する。
【００４８】
本実施形態における単語写像装置の構成を図１に基づいて説明する。単語写像装置は、単語分割手段１１、概念ベクトル推定手段１２、単語を管理する単語辞書１３、不要単語テーブル１４、不要品詞テーブル１５、概念ベース１６、式係数データベース１７から構成される。なお、単語写像装置は、データを格納する汎用的な記憶部（例えば、メモリ）を備えている。
【００４９】
単語分割手段１１は、テキストの集合を入力とし、単語分割結果を出力する。単語分割手段１１は、形態素解析手段２１と必要語判定手段２２から構成される。単語分割手段１１の詳細な構成を図２に基づいて説明する。なお、前記入力されるテキストの集合は、テキスト管理手段（例えば、テキストの集合データを管理するファイルシステム，データベース装置，メモリなどを有する手段）から取得するものとする。
【００５０】
形態素解析手段２１は、テキストの集合を入力とし、単語辞書１３を参照することにより、該集合中のテキストを形態素解析し、形態素解析結果を出力する。
【００５１】
なお、入力となるテキストの集合における各テキストは、典型的には１文である。図３は、テキスト集合の例であり、図３における「百夜に山頂でりんごとみかんを食べた。」という文Ｓｔ１が、１つのテキストである。
【００５２】
図４における単語辞書１３のレコードは、１レコードが１単語に関する情報で構成されており、該１レコードは”，”（カンマ）で区切られた２つの項目から構成されている。第１項目は単語の単語表記Ｔｍ１であり、第２項目は該単語の品詞情報Ｔｍ２である。なお、終止形も別項目として、登録しておいてもよい。
【００５３】
図５は、図３中のテキストを形態素解析手段２１によって形態素解析を行った結果データの一例（形態素解析データｍａ１）である。各形態素間は”/”（スラッシュ）で区切られている。各形態素は、単語表記Ｔｍ１、終止形Ｔｍ３、品詞情報Ｔｍ２、必要語フラグＴｍ４、登録語フラグＴｍ５から成っており、それぞれ”，”で区切られている。
【００５４】
なお、単語辞書１３に終止形Ｔｍ３が登録されていない場合は、形態素解析後に、単語表記Ｔｍ１と品詞情報Ｔｍ２から終止形Ｔｍ３を導出する。終止形Ｔｍ３がない単語に対しては、単語表記Ｔｍ１を終止形Ｔｍ３とする。必要語フラグＴｍ４と登録語フラグＴｍ５は、形態素解析後にヌルを設定する。
【００５５】
必要語判定手段２２は、不要単語テーブル１４及び不要品詞テーブル１５を参照することにより、形態素解析データ（即ち、形態素解析結果）ｍａ１中の形態素が、その後の処理に必要な語かそうでないかを判定し、必要語ならば必要語フラグを「１」と設定し、必要語でないならば必要語フラグを「０」と設定する。
【００５６】
即ち、必要語判定手段２２は、対象としている形態素の単語表記が不要単語テーブル１４の特定レコードと一致する場合、または、対象としている形態素の品詞情報が不要品詞テーブル１５の特定レコードと一致する場合、該形態素を必要語でないと判断する。
【００５７】
なお、図６は、不要単語テーブル１４の一例である。不要とされる各単語の単語表記Ｔｍ１’が１レコードとして記述されている。図７は、不要品詞テーブル１５の一例である。不要とされる各品詞情報Ｔｍ２’が１レコードとして記述されている。
【００５８】
そして、必要語判定手段２２によって、図５の形態素解析データ（即ち、形態素解析結果）ｍａ１は、図８のような形態素解析データｍａ２に変換される。例えば、１番目の形態素は、単語表記Ｔｍ１の値は「百夜」、終止形Ｔｍ３の値は「百夜」、品詞情報Ｔｍ２の値は「名詞」、必要語フラグＴｍ４の値は「１」、登録語フラグＴｍ５の値はヌルである。
【００５９】
最終的に、単語分割手段１１は、例えば、図８のような形態素解析データｍａ２を単語分割結果データとして出力する。
【００６０】
概念ベクトル推定手段１２は、前記単語分割結果データを入力とし、未登録語の推定概念ベクトルを出力する。概念ベクトル推定手段１２における詳細な処理の流れを図９に基づいて説明する。
【００６１】
制御Ａステップ（Ｓ９０１）は、入力された単語分割結果データ（即ち、テキスト集合）の中から処理対象とするテキストを決定する。例えば、テキストの単位が１文ならば、まず、最初の文を処理対象とする。処理対象とした文に関する処理が終了したならば、その次の文を処理対象とする。処理対象の文が決定した後、制御Ｂステップ（Ｓ９０２）の処理に移る。最後の文に関する処理が終了し、処理対象の文がなくなれば、制御Ｇステップ（Ｓ９１０）の処理に移る。テキストの単位が他の場合も同様である。
【００６２】
制御Ｂステップ（Ｓ９０２）は、処理対象のテキストの範囲において、処理対象とする形態素を決定する。まず、処理対象のテキストの範囲における最初の形態素を処理対象とする。処理対象とした形態素に関する処理が終了したならば、その次の形態素を処理対象とする。処理対象の形態素が決定した後、制御Ｃステップ（Ｓ９０３）の処理に移る。最後の形態素に関する処理が終了し、処理対象の形態素がなくなれば、制御Ｄステップ（Ｓ９０５）の処理に移る。
【００６３】
制御Ｃステップ（Ｓ９０３）は、処理対象の形態素が必要語かどうかを判定する。処理対象の形態素の必要語フラグが「１」ならば登録語判定ステップ（Ｓ９０４）の処理に移り、そうでないならば制御Ｂステップ（Ｓ９０２）の処理に移る。
【００６４】
登録語判定ステップ（Ｓ９０４）は、処理対象の形態素の終止形が概念ベース１６に登録されている登録語か、登録されていない未登録語かを判定する。
【００６５】
概念ベース１６を図１０に基づいて説明する。概念ベース１６には、単語Ｔｍとその概念ベクトルの対の集合Ｖｃが格納されている。単語としては、形態素の終止形を登録している。概念ベクトルの次元数はｆである。即ち、１単語につき座標Ｖｃ1〜Ｖｃfが対応する。なお、概念ベース１６では、意味的に近い２つの単語の概念ベクトルは、距離が近くなっているという性質がある。
【００６６】
登録語判定ステップ（Ｓ９０４）は、処理対象の形態素の終止形で概念ベース１６を検索し、ヒットすれば、該形態素の登録語フラグを「１」に設定し、ヒットしなければ、該形態素の登録語フラグを「０」に設定する。即ち、処理対象の形態素の終止形が概念ベース１６に登録されている登録語か、登録されていない未登録語かを判別する。
【００６７】
例えば、図８中の形態素解析データｍａ２（即ち、単語分割結果データ）で示す文が処理対象であった場合、制御Ｂステップ（Ｓ９０２）、制御Ｃステップ（Ｓ９０３）、登録語判定ステップ（Ｓ９０４）のループが終了した時点で、該文は図１１の単語分割結果データｍａ３のように変換される。図１１中では、形態素の終止形Ｔｍ３では「りんご」Ｔｍ３１，「みかん」Ｔｍ３２，「食べる」Ｔｍ３３が登録語となっており、「百夜」Ｔｍ３４，「山頂」Ｔｍ３５が未登録語となっている。以上の処理により得られた単語分割結果データは、単語写像装置に備えられた記憶部に記憶されていても良い。
【００６８】
制御Ｄステップ（Ｓ９０５）は、必要語に関する条件が、処理対象のテキストに必要語が一つもない、あるいは、テキスト中の必要語の登録語フラグが全て「１」の場合または全て「０」である、とした上で、その条件を満たす場合、以降、当該テキストは処理対象とすべきではないと判断して、制御Ａステップ（Ｓ９０１）の処理に移る。前記条件を満たさない場合は、制御Ｅステップ（Ｓ９０６）の処理に移る。
【００６９】
なお、処理対象のテキストに必要語が一つもない場合、あるいは、テキスト中の必要語の登録語フラグが全て「１」の場合に、当該テキストを処理対象とすべきでないと判断する理由は、未登録語を含んでいるテキストのみが、クラスタ内変動を考える対象であるからである。また、テキスト中の必要語の登録語フラグが全て「０」の場合に、当該テキストを処理対象とすべきでないと判断する理由は、式（３）における当該テキストに関する２次式が必ず０となるため、以降の処理をする必要がないからである。
【００７０】
制御Ｅステップ（Ｓ９０６）は、処理対象のテキストの範囲において、処理対象とする形態素を決定する。まず、処理対象のテキストの範囲における最初の形態素を処理対象とする。処理対象とした形態素に関する処理が終了したならば、その次の形態素を処理対象とする。処理対象の形態素が決定した後、制御Ｆステップ（Ｓ９０７）の処理に移る。最後の形態素に関する処理が終了し、処理対象の形態素がなくなれば、式係数更新ステップ（Ｓ９０９）の処理に移る。
【００７１】
制御Ｆステップ（Ｓ９０７）は、処理対象の形態素が必要語かどうかを判定する。処理対象の形態素の必要語フラグが「１」ならば頻度情報更新ステップ（Ｓ９０８）の処理に移り、該必要語フラグが「１」でないならば制御Ｅステップ（Ｓ９０６）の処理に移る。
【００７２】
頻度情報更新ステップ（Ｓ９０８）は、処理対象の形態素の登録語フラグが「１」の場合、テキストごとの異なり登録語とその頻度情報を記憶する第１ハッシュを、該形態素の終止形で検索する。ヒットしなければ、該第１ハッシュに、該形態素の終止形とその頻度情報「１」を記録する。ヒットすれば、該第１ハッシュにおける該形態素の終止形の頻度情報を１だけ増やす。
【００７３】
また、処理対象の形態素の登録語フラグが「０」の場合、テキストごとの異なり未登録語とその頻度情報を記憶する第２ハッシュを、該形態素の終止形で検索する。ヒットしなければ、該第２ハッシュに、該形態素の終止形とその頻度情報「１」を記録する。ヒットすれば、該第２ハッシュにおける該形態素の終止形の頻度情報を１だけ増やす。
【００７４】
なお、前記第１及び第２ハッシュは、単語写像装置に備えられた記憶部に記憶されていても良い。
【００７５】
以上の処理が終わった後、制御Ｅステップ（Ｓ９０６）の処理に移る。
【００７６】
式係数更新ステップ（Ｓ９０９）は、式係数データベース１７の情報を更新する。以下に更新処理に関して説明する。なお、図１２中の式係数データベース１７は、各異なり未登録語Ｕｒと、該異なり未登録語Ｕｒに対応する式（４）の係数ａ、及び、各座標ごとに、該異なり未登録語Ｕｒと該座標に対応する式（４）の係数ｂから構成された式係数Ｃｆを記録する。異なり未登録語Ｕｒは、形態素の終止形で登録される。式係数データベース１７は、本実施形態の処理を開始する時点では、異なり未登録語Ｕｒのレコードは一つもない状態とする。
【００７７】
まず、頻度情報更新ステップ（Ｓ９０８）の処理により、処理対象のテキストにおける、異なり登録語とその頻度情報（第１ハッシュ）、及び、異なり未登録語とその頻度情報（第２ハッシュ）が得られている。
【００７８】
次に、式係数更新ステップ（Ｓ９０９）は、概念ベース１６を検索することによって、処理対象のテキストにおける各異なり登録語の概念ベクトルを取得する。この各異なり登録語の概念ベクトルの情報と、頻度情報更新ステップ（Ｓ９０８）で算出した頻度情報から、処理対象のテキストにおける各異なり未登録語について、式（３）の当該テキストに関するａjと、各座標ごとの式（３）の当該テキストに関するｂjを算出する。
【００７９】
そして、該異なり未登録語で式係数データベース１７を検索し、ヒットしなければ、該異なり未登録語と、対応するａj、及び、各座標ごとのｂjを登録する。ヒットすれば、算出したａj、及び、各座標ごとのｂjを、式係数データベース１７中の該異なり未登録語の対応する値に加算する。
【００８０】
以上のステップＳ９０１〜Ｓ９０９の処理が終了した時点で、テキストごとの異なり登録語とその頻度情報、及び、テキストごとの異なり未登録語とその頻度情報をクリアする。制御Ａステップ（Ｓ９０１）の処理に移る。
【００８１】
制御Ｇステップ（Ｓ９１０）は、式係数データベース１７からレコードを順次読み込み、レコードが存在すれば、解取得ステップ（Ｓ９１１）の処理に移り、レコードが存在しなければ、概念ベクトル推定手段１２の処理を終了する。即ち、制御Ｇステップ（Ｓ９１０）は、処理対象とする異なり未登録語を決定する。
【００８２】
解取得ステップ（Ｓ９１１）は、各座標ｍに対し、処理対象のレコードの座標ｍに関する係数ａ，ｂを参照することにより、処理対象の異なり未登録語ｗの概念ベクトルのｍ番目の座標ｖm（ｗ）を、式（４）「ａ・ｖm（ｗ）２＋ｂ・ｖm（ｗ）＋ｄ（ａ＞０）」を最小にする式「−ｂ／（２ａ）」とする。ｍ番目の座標がｖm（ｗ）である、異なり未登録語ｗの概念ベクトルをｖ（ｗ）とする。なお、ｖ（ｗ）を、長さが０でなければ、例えば、長さを１に正規化してもよい。
【００８３】
概念ベクトル登録ステップ（Ｓ９１２）は、異なり未登録語ｗとその概念ベクトルｖ（ｗ）を、概念ベースに追加する。この後、制御Ｇステップ（Ｓ９１０）の処理に移る。なお、概念ベクトル登録ステップ（Ｓ９１２）において、概念ベースへの登録処理を行わなくても良い。
【００８４】
なお、本実施形態における処理をプログラムとして構築し、当該プログラムを通信回線または記憶媒体からインストールし、コンピュータ（例えば、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）を搭載したコンピュータ）等の手段で実施できる。
【００８５】
以上のように、本実施形態によれば、未登録語の概念ベクトルを推定することができる。
【００８６】
なお、本実施形態の手法も、特許文献１の手法と同様に、各テキストにおける概念ベクトルの集合がクラスタをなしていると仮定し、クラスタ内変動が最小となるように、未登録語の概念ベクトルを推定するものである。
【００８７】
但し、特許文献１の手法と違い、着目している一つの異なり未登録語以外の異なり未登録語の概念ベクトルの存在は無視した上で、クラスタ内変動が最小となるような該異なり未登録語の概念ベクトルを求める点が異なる。
【００８８】
以上、本発明において、記載された具体例に対してのみ詳細に説明したが、本発明の技術思想の範囲で多彩な変形および修正が可能であることは、当業者にとって明白なことであり、このような変形および修正が特許請求の範囲に属することは当然のことである。
【００８９】
例えば、本実施形態の変形として、単語辞書，不要単語テーブル，不要品詞テーブル，概念ベース，式係数データベースを汎用的なデータベース装置，ファイルシステム，メモリなどのデータ管理手段で構成しても良い。
【図面の簡単な説明】
【００９０】
【図１】本実施形態における単語写像装置の構成図。
【図２】本実施形態における単語分割手段の構成図。
【図３】本実施形態における入力テキスト集合の一例を示す図。
【図４】本実施形態における単語辞書の一例を示す図。
【図５】本実施形態における形態素解析手段によって形態素解析を行った結果の一例を示す図。
【図６】本実施形態における不要単語テーブルの一例を示す図。
【図７】本実施形態における不要品詞テーブルの一例を示す図。
【図８】本実施形態における必要語判定手段によって必要語判定を行った結果の一例を示す図。
【図９】本実施形態における概念ベクトル推定手段における処理の流れを示す図。
【図１０】本実施形態における概念ベースの一例を示す図。
【図１１】本実施形態における文を対象とし、制御Ｂステップ、制御Ｃステップ、登録語判定ステップのループが終了した時点で得られているデータの一例を示す図。
【図１２】本実施形態における式係数データベースの一例を示す図。
【符号の説明】
【００９１】
１１…単語分割手段
１２…概念ベクトル推定手段
１３…単語辞書
１４…不要単語テーブル
１５…不要品詞テーブル
１６…概念ベース
１７…式係数データベース
２１…形態素解析手段
２２…必要語判定手段
Ｃｆ…式係数
ｍａ１，ｍａ２…形態素解析データ
ｍａ３…単語分割結果データ
Ｓｔ１…文
Ｔｍ…単語
Ｔｍ１…単語表記
Ｔｍ１’…不要とされる単語の単語表記
Ｔｍ２…品詞情報
Ｔｍ２’…不要とされる単語の品詞情報
Ｔｍ３，Ｔｍ３１，Ｔｍ３２，Ｔｍ３３，Ｔｍ３４，Ｔｍ３５…終止形
Ｔｍ４…必要語フラグ
Ｔｍ５…登録語フラグ
Ｕｒ…異なり未登録語
Ｖｃ…概念ベクトル
Ｖｃ1，Ｖｃ2，Ｖｃf…座標
【図１】
2008015640.tif 000012
【図２】
2008015640.tif 000013
【図３】
2008015640.tif 000014
【図４】
2008015640.tif 000015
【図５】
2008015640.tif 000016
【図６】
2008015640.tif 000017
【図７】
2008015640.tif 000018
【図８】
2008015640.tif 000019
【図９】
2008015640.tif 000020
【図１０】
2008015640.tif 000021
【図１１】
2008015640.tif 000022
【図１２】
2008015640.tif 000023