(57)【要約】【課題】従来、対訳データが十分に大きくない場合等、単語アライメントを精度よく実行できなかった。特に、対訳データにおいて、一方の言語の単語を条件としたときに、他方の言語の単語がアライメントされる確率を、単語の字面のみから推定していた。その結果として、対訳データが十分に大きくないときには、単語アライメントの確率を精度よく推定できなかった。【解決手段】ＥステップとＭステップとを適切な回数、繰り返して単語アライメントを実行する装置において、Ｅステップにおける処理の中で、単語クラスを活用することにより、小規模の対訳データを使用する場合や、低頻度単語においても、単語アライメントを精度よく実行できる。【選択図】図１
2018073139.tif 000002
【特許請求の範囲】
【請求項１】
第一言語文と第二言語文との対である２以上の対訳文である対訳データを用いて、ＥステップとＭステップとを繰り返し行うＥＭ法により、単語アライメントモデルを構築する単語アライメントモデル構築装置であって、
前記Ｅステップにおいて、
単語対のアライメント確率に関する単語対確率情報と単語クラスに基づくアライメント確率に関するクラス使用単語対応確率情報とを算出し、当該算出された単語対確率情報とクラス使用単語対応確率情報とを用いて単語アライメント確率に関する単語対確率情報を算出し、当該単語アライメント確率に関する単語対確率情報と単語対とを含む２以上の単語アライメントデータを有する単語アライメントモデルを記録媒体に蓄積する単語アライメントモデル構築装置。
【請求項２】
第一言語文と第二言語文との対である２以上の対訳文である対訳データを格納し得る対訳データ格納部と、
前記対訳データから取得される単語のアライメントモデルであり、第一言語の第一単語と第二言語の第二単語とを有する単語対と、当該単語対の確率に関する対応確率情報である単語対確率情報とを含む２以上の単語アライメントデータを有する単語アライメントモデルを格納し得る単語アライメントモデル格納部と、
第一言語文の中における第一単語の位置を示す第一単語位置、第二言語文の中における第二単語の位置を示す第二単語位置、第一言語文の単語数である第一文単語数、および第二言語文の単語数である第二文単語数を有する対訳文単語位置情報ごとに、対訳文単語位置情報に合致する確率に関する対訳文単語位置確率情報を格納し得る対訳文単語位置確率情報格納部と、
前記２以上の各対訳文を構成する２以上の単語対ごとに、（ｎ−１）回目（ｎは１以上の自然数、ｎ＝１の場合は初期値）のループ処理により算出した対応確率情報である前回単語対応確率情報を取得する前回単語対応確率情報取得部と、
前記２以上の各対訳文を構成する２以上の単語対ごとに、単語対を構成する第一単語の第一クラスと単語対を構成する第二単語の第二クラスとを取得するクラス取得部と、
前記２以上の各対訳文を構成する２以上の単語対ごとに、前記第一クラスと前記第二クラスとが対応する確率に関するクラス対応確率であり、（ｎ−１）回目（ｎは１以上の自然数、ｎ＝１の場合は初期値）のループ処理により算出した前回クラス対応確率を取得する前回クラス対応確率取得部と、
前記２以上の各対訳文を構成する２以上の単語対ごとに、前記対訳データを用いて、第一クラス内における第一単語の出現確率に関する第一単語出現確率を取得する第一単語出現確率取得部と、
前記２以上の各対訳文を構成する２以上の単語対ごとに、前記前回クラス対応確率と前記第一単語出現確率とを用いて、単語クラスに基づく単語対の対応確率に関するクラス使用単語対応確率情報を取得するクラス使用単語対応確率情報取得部と、
前記２以上の各対訳文を構成する２以上の単語対ごとに、前記前回単語対応確率情報と前記クラス使用単語対応確率情報とを用いて、第一言語文における第一単語位置と第二言語文における第二単語位置との対応確率に関する単語位置対応確率情報を取得する単語位置対応確率情報取得部と、
前記２以上の各対訳文を構成する２以上の単語対ごとに、各単語対に対応する単語位置対応確率情報と各単語対に対応する対訳文単語位置確率情報とを用いて、クラスを考慮した単語対の対応確率に関するクラス考慮単語対確率情報を取得するクラス考慮単語対確率情報取得部と、
前記２以上の各対訳文を構成する２以上の単語対ごとに、各単語対に対応する単語位置対応確率情報と各単語対に対応する対訳文単語位置確率情報とを用いて、第一クラスと第二クラスとの対応確率に関するクラス考慮クラス確率情報を取得するクラス考慮クラス確率情報取得部と、
前記クラス考慮単語対確率情報を正規化し、ｎ回目のループにおける単語対確率情報を取得する第一正規化部と、
前記クラス考慮クラス対確率情報を正規化し、ｎ回目のループにおけるクラス対応確率を取得する第二正規化部と、
ループの終了条件を満たすまで、前記前回単語対応確率情報取得部、前記前回クラス対応確率取得部、前記クラス使用単語対応確率情報取得部、前記単語位置対応確率情報取得部、前記クラス考慮単語対確率情報取得部、前記クラス考慮クラス確率情報取得部、前記第一正規化部、および前記第二正規化部の処理を繰り返すように制御する制御部と、
前記第一正規化部が、最終的に取得した単語対確率情報と単語対とを含む２以上の単語アライメントデータを有する単語アライメントモデルを前記単語アライメントモデル格納部に蓄積する蓄積部とを具備する請求項１記載の単語アライメントモデル構築装置。
【請求項３】
記録媒体に、
請求項１または請求項２いずれか一項に記載の単語アライメントモデル構築装置が構築した単語アライメントモデルが格納されており、、
第二言語文を受け付ける受付部と、
前記単語アライメントモデルを用いて、前記受付部が受け付けた第二言語文から第一言語文を取得する翻訳部とを具備する機械翻訳装置。
【請求項４】
第一言語文と第二言語文との対である２以上の対訳文である対訳データを用いて、ＥステップとＭステップとを繰り返し行うＥＭ法により、単語アライメントモデルを生産する単語アライメントモデルの生産方法であって、
前記Ｅステップにおいて、
単語対のアライメント確率に関する単語対確率情報と単語クラスに基づくアライメント確率に関するクラス使用単語対応確率情報とを算出し、当該算出された単語対確率情報とクラス使用単語対応確率情報とを用いて単語アライメント確率に関する単語対確率情報を算出し、当該単語アライメント確率に関する単語対確率情報と単語対とを含む２以上の単語アライメントデータを有する単語アライメントモデルを記録媒体に蓄積する単語アライメントモデルの生産方法。
【請求項５】
第一言語文と第二言語文との対である２以上の対訳文である対訳データを用いて、ＥステップとＭステップとを繰り返し行うＥＭ法により、単語アライメントモデルを構築するプログラムであって、
前記Ｅステップにおいて、
単語対のアライメント確率に関する単語対確率情報と単語クラスに基づくアライメント確率に関するクラス使用単語対応確率情報とを算出するステップと、
当該算出された単語対確率情報とクラス使用単語対応確率情報とを用いて単語アライメント確率に関する単語対確率情報を算出ステップと、
当該単語アライメント確率に関する単語対確率情報と単語対とを含む２以上の単語アライメントデータを有する単語アライメントモデルを記録媒体に蓄積するステップとを、コンピュータに実行させるプログラム。
【請求項６】
コンピュータがアクセス可能な記録媒体は、
請求項１または請求項２いずれか一項に記載の単語アライメントモデル構築装置が構築した単語アライメントモデルを格納しており、
コンピュータを、
第二言語文を受け付ける受付部と、
前記単語アライメントモデルを用いて、前記受付部が受け付けた第二言語文から第一言語文を取得する翻訳部として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、単語アライメントモデルを構築する単語アライメントモデル構築装置等に関するものである。
【背景技術】
【０００２】
統計的機械翻訳（SMT）では、次の２ステップにより翻訳モデルを作成する。ステップ１では、対訳データを単語アライメントする。ステップ２では、単語アライメントの結果から翻訳モデルを構築する。
【０００３】
そして、ステップ１の単語アライメントにおいて、オープンソースツールである GIZA++（非特許文献１、非特許文献２参照）やfast_align（非特許文献３、非特許文献４）が利用されることが多い。
【先行技術文献】
【非特許文献】
【０００４】
【非特許文献１】Peter E. Brown; Stephen A. Della Pietra; Vincent J. Della Pietra; Robert L. Mercer, "The Mathematics of Statistical Machine Translation", Parameter Estimation Computational Linguistics, Vol. 19, No. 2, 1993.
【非特許文献２】" GIZA++: Training of statistical translation models."、［online］、［平成２８年１０月９日検索］、インターネット［URL：http://www.statmt.org/moses/giza/GIZA++.html］
【非特許文献３】Chris Dyer, Victor Chahuneau, and Noah A. Smith. (2013). "A Simple, Fast, and Effective Reparameterization of IBM Model 2. "  In Proc. of NAACL.
【非特許文献４】"clab/fast_align"、［online］、［平成２８年１０月９日検索］、インターネット［URL：https://github.com/clab/fast_align］
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかし、従来技術では、対訳データにおいて、一方の言語の単語を条件としたときに、他方の言語の単語がアライメントされる確率を、単語の字面のみから推定していた。その結果として、小規模の対訳データを使用した場合の単語アライメントや、低頻度単語の単語アライメントは、精度よく実行できなかった。
【０００６】
本発明においては、小規模の対訳データを使用する場合や、低頻度単語においても、精度の良い単語アライメントを実行できるようにすることを目的とする。
【課題を解決するための手段】
【０００７】
本第一の発明の単語アライメントモデル構築装置は、第一言語文と第二言語文との対である２以上の対訳文である対訳データを用いて、ＥステップとＭステップとを繰り返し行うＥＭ法により、単語アライメントモデルを構築する単語アライメントモデル構築装置であって、Ｅステップにおいて、単語対のアライメント確率に関する単語対確率情報と単語クラスに基づくアライメント確率に関するクラス使用単語対応確率情報とを算出し、当該算出された単語対確率情報とクラス使用単語対応確率情報とを用いて単語アライメント確率に関する単語対確率情報を算出し、当該単語アライメント確率に関する単語対確率情報と単語対とを含む２以上の単語アライメントデータを有する単語アライメントモデルを記録媒体に蓄積する単語アライメントモデル構築装置である。
【０００８】
かかる構成により、小規模の対訳データを使用する場合や、低頻度単語においても、単語アライメントを精度よく実行できる。
【０００９】
また、本第二の発明の単語アライメントモデル構築装置は、第一の発明に対して、第一の言語の文である第一言語文と第二の言語の文である第二言語文との対である２以上の対訳文のデータである対訳データを格納し得る対訳データ格納部と、対訳データから取得される単語のアライメントモデルであり、第一言語の単語である第一単語と第二言語の単語である第二単語とを有する単語対と、第一単語と第二単語とが対応する確率に関する対応確率情報である単語対確率情報とを有する２以上の単語アライメントデータを有する単語アライメントモデルを格納し得る単語アライメントモデル格納部と、２以上の対訳文から取得された情報であり、第一言語文の中における第一単語の位置を示す第一単語位置、第一単語に対応する第二単語の位置であり第二言語文の中における位置を示す第二単語位置、第一言語文の単語数である第一文単語数、および第二言語文の単語数である第二文単語数を有する対訳文単語位置情報ごとに、対訳文単語位置情報に合致する確率に関する対訳文単語位置確率情報を格納し得る対訳文単語位置確率情報格納部と、対訳データ格納部に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、（ｎ−１）回目（ｎは１以上の自然数、ｎ＝１の場合は初期値）のループ処理により算出した対応確率情報である前回単語対応確率情報を取得する前回単語対応確率情報取得部と、対訳データ格納部に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、単語対を構成する第一単語のクラスである第一クラスと単語対を構成する第二単語のクラスである第二クラスとを取得するクラス取得部と、対訳データ格納部に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、クラス取得部が取得した第一クラスと第二クラスとが対応する確率に関するクラス対応確率であり、（ｎ−１）回目（ｎは１以上の自然数、ｎ＝１の場合は初期値）のループ処理により算出した前回クラス対応確率を取得する前回クラス対応確率取得部と、対訳データ格納部に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、対訳データを用いて、第一クラス内における第一単語の出現確率に関する第一単語出現確率を取得する第一単語出現確率取得部と、対訳データ格納部に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、前回クラス対応確率取得部が取得した前回クラス対応確率と第一単語出現確率取得部が取得した第一単語出現確率とを用いて、単語クラスに基づく単語対の対応確率に関するクラス使用単語対応確率情報を取得するクラス使用単語対応確率情報取得部と、対訳データ格納部に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、前回単語対応確率情報取得部が取得した前回単語対応確率情報とクラス使用単語対応確率情報取得部が取得したクラス使用単語対応確率情報とを用いて、第一言語文における第一単語位置と第二言語文における第二単語位置との対応確率に関する単語位置対応確率情報を取得する単語位置対応確率情報取得部と、対訳データ格納部に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、各単語対に対応する単語位置対応確率情報と各単語対に対応する対訳文単語位置確率情報とを用いて、クラスを考慮した単語対の対応確率に関するクラス考慮単語対確率情報を取得するクラス考慮単語対確率情報取得部と、対訳データ格納部に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、各単語対に対応する単語位置対応確率情報と各単語対に対応する対訳文単語位置確率情報とを用いて、第一クラスと第二クラスとの対応確率に関するクラス考慮クラス確率情報を取得するクラス考慮クラス確率情報取得部と、クラス考慮単語対確率情報取得部が取得したクラス考慮単語対確率情報を正規化し、ｎ回目のループにおける単語対確率情報を取得する第一正規化部と、クラス考慮クラス確率情報取得部が取得したクラス考慮クラス対確率情報を正規化し、ｎ回目のループにおけるクラス対応確率を取得する第二正規化部と、第一正規化部が、最終的に取得した単語対確率情報と単語対とを含む２以上の単語アライメントデータを有する単語アライメントモデルを単語アライメントモデル格納部に蓄積する蓄積部とを具備する単語アライメントモデル構築装置である。
【００１０】
かかる構成により、小規模の対訳データを使用する場合や、低頻度単語においても、単語アライメントを精度よく実行できる。
【００１１】
また、本第三の発明の機械翻訳装置は、第一から第二いずれか１つの発明の単語アライメントモデル構築装置が構築した単語アライメントモデルが格納されており、第二言語文を受け付ける受付部と、単語アライメントモデルを用いて、受付部が受け付けた第二言語文から第一言語文を取得する翻訳部とを具備する機械翻訳装置である。
【００１２】
かかる構成により、対訳コーパスの単語アライメントを精度よく実行できる結果、高い精度の翻訳結果が得られる。
【発明の効果】
【００１３】
本発明による単語アライメントモデル構築装置によれば、小規模の対訳データを使用する場合や、低頻度単語においても、単語アライメントを精度よく実行できる。
【図面の簡単な説明】
【００１４】
【図１】実施の形態１における単語アライメントモデル構築装置１のブロック図
【図２】同単語アライメントモデル構築装置１の動作を説明するフローチャート
【図３】同Ｅ−ｓｔｅｐの詳細について説明するフローチャート
【図４】同単語位置対応確率情報の算出処理例について説明するフローチャート
【図５】同クラス考慮単語対確率情報の算出処理例について説明するフローチャート
【図６】同クラス考慮クラス確率情報の算出処理例について説明するフローチャート
【図７】同単語アライメントモデル構築装置１の動作を説明する図
【図８】実施の形態２における機械翻訳装置２のブロック図
【図９】実施の形態１、２におけるコンピュータシステムの概観図
【図１０】同コンピュータシステムのブロック図
【発明を実施するための形態】
【００１５】
以下、単語アライメントモデル構築装置等の実施形態について図面を参照して説明する。なお、実施の形態において同じ符号を付した構成要素は同様の動作を行うので、再度の説明を省略する場合がある。
【００１６】
（実施の形態１）
【００１７】
本実施の形態において、２つの言語の単語アライメントモデルを作成する装置であって、単語アライメント確率と単語クラスの対応確率とを用いて、最終的な単語アライメント確率を算出する単語アライメントモデル構築装置について説明する。
【００１８】
なお、本実施の形態において、例えば、非特許文献３で述べられた方法（ＥＭ法）を拡張した単語アライメントを行う単語アライメントモデル構築装置について説明する。つまり、本実施の形態において、第一言語文と第二言語文との対である２以上の対訳文である対訳データを用いて、ＥステップとＭステップとを繰り返し行うＥＭ法により、単語アライメントモデルを構築する単語アライメントモデル構築装置であって、Ｅステップにおいて、単語対のアライメント確率である対応確率情報と単語のクラスに基づくアライメント確率であるクラス使用単語対応確率情報とを算出し、当該対応確率情報とクラス使用単語対応確率情報とを用いて単語アライメント確率に関する単語対確率情報を算出し、当該単語対確率情報と単語対とを含む２以上の単語アライメントデータを有する単語アライメントモデルを記録媒体に蓄積する単語アライメントモデル構築装置について説明する。
【００１９】
図１は、本実施の形態における単語アライメントモデル構築装置１のブロック図である。
【００２０】
単語アライメントモデル構築装置１は、格納部１１、および処理部１２を備える。
【００２１】
格納部１１は、対訳データ格納部１１１、単語アライメントモデル格納部１１２、対訳文単語位置確率情報格納部１１３、およびクラスアライメントモデル格納部１１４を備える。
【００２２】
処理部１２は、前回単語対応確率情報取得部１２１、クラス取得部１２２、前回クラス対応確率取得部１２３、第一単語出現確率取得部１２４、クラス使用単語対応確率情報取得部１２５、単語位置対応確率情報取得部１２６、クラス考慮単語対確率情報取得部１２７、クラス考慮クラス確率情報取得部１２８、第一正規化部１２９、第二正規化部１３０、制御部１３１、および蓄積部１３２を備える。
【００２３】
格納部１１は、各種の情報を格納し得る。ここで各種の情報とは、例えば、後述する対訳データ、単語アライメントモデル、対訳文単語位置確率, クラスアライメントモデル、後述するループの終了条件、各種の初期値等である。そしてこの各種の初期値は、後述する重みパラメータλの値（例えば、λ＝０．８）、すべての第一単語位置「i」とすべての第二単語位置「j」の組み合わせにおいてすべての第一単語位置「e(i)」が第二単語位置「f(j)」にアライメントされる確率「c(e(i)|f(j))」の初期値（例えば、「c(e(i)|f(j)) = 0」）、すべての第一単語位置「i」とすべての第二単語位置「j」の組み合わせにおいてすべての第一単語「e(i)」が第二単語「f(j)」にアライメントされる確率「θ(e(i)|f(j))」の初期値（例えば、「θ(e(i)|f(j)) =  １／第一言語の単語数」）、すべての第一クラス「E」とすべての第二クラス「F」の組み合わせにおいて第一クラス「E」が第二クラス「F」にアライメントされる確率「C(E|F)」の初期値（例えば、「C(E|F) = 0」）、並びにすべての第一クラス「E」とすべての第二クラス「F」の組み合わせにおいて「C(E|F)」を正規化した値「Θ(E|F)」の初期値（例えば、「Θ(E|F) = １／第一言語のクラス数」）である。
【００２４】
なお、本実施の形態等において、適宜、以下の記号等を用いる。つまり、対訳データについて、その中の対訳文を<e,f>とし、e = e(1) e(2) ・・・e(m), f= f(1) f(2) ・・・f(n)のように、m単語とn単語からなるとする。ここで、e(i)はeのi番目の単語であり、f(j)はfのj番目の単語である。なお、特別な単語NULLとして f(0)を導入する。これは、e中の単語がf中の単語のいずれにも対応しない場合に有用である。また、「P(e|f)」はfを条件とするeの確率である。また、「δ（j|i,m,n）」はeの単語数がm、ｆの単語数がnのときに、文eのi番目にある単語が、文fのｊ番目の単語とアライメントされる確率である。また、「θ(e(i)|f(j))」はe(i)がf(j)にアライメントされる確率である。
【００２５】
かかる場合、「P(e|f)」は、数式１のように表される。
【数１】
2018073139.tif 000003
【００２６】
対訳データ格納部１１１は、２以上の対訳文のデータである対訳データを格納し得る。対訳文は、第一言語文と第二言語文との対である。第一言語文は、第一の言語である第一言語の文である。第二言語文は、第二の言語である第二言語の文であり、第一言語文を第二言語に翻訳した結果である。また、第一言語と第二言語とは異なる言語であれば、どの言語でも良い。第一言語、第二言語は、例えば、英語、日本語、中国語、フランス語、ドイツ語、スペイン語、韓国語等である。また、対訳データは、通常、少ない数の対訳文を有する小規模対訳データである。さらに、小規模対訳データは、通常、第一の閾値（Ｎ１）未満の数の対訳文を有する。小規模対訳データは、例えば、１０〜１０万程度の数の対訳文を有する。
【００２７】
単語アライメントモデル格納部１１２は、単語アライメントモデルを格納し得る。単語アライメントモデルは、対訳データから取得される単語のアライメントモデルである。単語アライメントモデルは、２以上の単語アライメントデータを有する。単語アライメントデータは、単語対と単語対確率情報とを有する。単語対は、第一単語と第二単語からなる。第一単語は、第一言語の単語である。第二単語は、第二言語の単語である。単語対確率情報は、第一単語と第二単語とが対応する確率に関する情報である。単語対確率情報は、第一単語と第二単語とが対応する確率自体でも良いし、第一単語と第二単語とが対応する確率をパラメータとする増加関数により算出される情報でも良い。単語対確率情報は、「θ(e(i)|f(j))」で表す。なお、第一単語と第二単語とが対応する確率は、単語対のアライメント確率である。
【００２８】
対訳文単語位置確率情報格納部１１３は、１以上の対訳文単語位置情報ごとに、対訳文単語位置確率情報を格納し得る。対訳文単語位置情報は、第一単語位置、第二単語位置、第一文単語数、および第二文単語数を有する。第一単語位置は、第一言語文の中における第一単語の位置を示す情報である。第一単語位置は、第一言語文の単語の中の何番目の単語かを示す情報である、と言っても良い。第二単語位置は、第一単語に対応する第二単語の位置であり第二言語文の中における位置を示す情報である。第二単語位置は、第二言語文の単語の中の何番目の単語かを示す情報である、と言っても良い。第一文単語数は、第一言語文の単語数である。第二文単語数は、第二言語文の単語数である。対訳文単語位置確率情報は、対訳文単語位置情報における各単語位置が合致する確率に関する情報である。対訳文単語位置確率情報は、対訳文単語位置情報に合致する確率そのものでも良いし、当該確率をパラメータとする増加関数により算出され得る情報でも良い。
【００２９】
対訳文単語位置確率情報は、通常、対訳データから取得された情報である。但し、対訳文単語位置確率情報は、対訳データ格納部１１１に格納されている対訳データ以外の対訳文のデータを用いて、取得された情報でも良い。また、対訳文単語位置確率情報は、公知技術を用いて取得され得るので、その取得方法の詳細の説明は省略する。対訳文単語位置確率情報は、例えば、「δ（j|i,m,n）」で表す。
【００３０】
クラスアライメントモデル格納部１１４は、クラスアライメントモデルを格納し得る。クラスアライメントモデルは、２以上のクラスアライメントデータを有する。クラスアライメントデータは、第一クラスと第二クラスと、クラス対応確率とを含む。第一クラスは、第一単語のクラスである。第二クラスは、第二単語のクラスである。クラス対応確率は、第一クラスと第二クラスとが対応する確率に関する情報である。クラス対応確率は、第一クラスと第二クラスとが対応する確率そのものでも良いし、当該確率をパラメータとする増加関数により算出され得る情報でも良い。クラス対応確率は、例えば、後述する「Θ(E(e(i))|F(f(j)))」で表す。
【００３１】
なお、単語のクラスを取得する技術は、公知技術である。単語のクラスは、例えば、mkcls（ＵＲＬ「http://www.statmt.org/moses/giza/mkcls.html」参照）などの単語クラスタリングツールを使って獲得することができる。また、単語クラスは、Wikipediaのカテゴリや、シソーラスの階層構造等のＷｅｂページから取得され得る情報でも良い。また、単語が場所を示す単語の場合（四谷など）は、ジオタグがクラスである、としても良い。また、クラスは、単語の品詞等でも良い。クラスは、通常、単語の分類を示す情報であれば良い。つまり、単語クラスは、任意に設定可能である、と考えても良い。
【００３２】
処理部１２は、各種の処理を行う。各種の処理とは、例えば、前回単語対応確率情報取得部１２１、クラス取得部１２２、前回クラス対応確率取得部１２３、第一単語出現確率取得部１２４、クラス使用単語対応確率情報取得部１２５、単語位置対応確率情報取得部１２６、クラス考慮単語対確率情報取得部１２７、クラス考慮クラス確率情報取得部１２８、第一正規化部１２９、第二正規化部１３０、制御部１３１、蓄積部１３２等が行う処理である。
【００３３】
前回単語対応確率情報取得部１２１は、対訳データ格納部１１１に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、前回単語対応確率情報（例えば、「θ (e(i)|f(j))」）を取得する。前回単語対応確率情報は、（ｎ−１）回目のループ処理（つまり、前回のループ処理）により算出した対応確率情報である。なお、ｎは１以上の自然数である。また、「ｎ＝１」の場合は初期値である。
【００３４】
前回単語対応確率情報は、単語対確率情報の初期値（例えば、「０」）、または後述する第一正規化部１２９が取得した単語対確率情報である。
【００３５】
前回単語対応確率情報取得部１２１は、格納部１１から初期値の前回単語対応確率情報（例えば、「０」）を取得する。また、前回単語対応確率情報取得部１２１は、前回のループ処理で算出された最新の単語対応確率情報を図示しないバッファから取得する。かかる最新の単語対応確率情報は、後述する第一正規化部１２９が算出した情報である。
【００３６】
クラス取得部１２２は、対訳データ格納部１１１に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、単語対を構成する第一単語のクラスである第一クラスと単語対を構成する第二単語のクラスである第二クラスとを取得する。なお、クラス取得部１２２は、上述したmkcls等の公知の単語クラスタリングツールでも良いし、Wikipediaのカテゴリや、シソーラスの階層構造を取得するものでも良いし、場所を示す単語のジオタグを取得するものでも良い。なお、第一クラスは、例えば、後述する「(E(e(i))」と表し、第二クラスは、後述する「F(f(j))」と表す。
【００３７】
また、クラス取得部１２２は、格納部１１から単語のクラスを読み出しても良い。かかる場合、格納部１１には、単語に対応付けて、当該単語のクラスが格納されている。
【００３８】
前回クラス対応確率取得部１２３は、対訳データ格納部１１１に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、前回クラス対応確率を取得する。前回クラス対応確率は、クラス取得部１２２が取得した第一クラスと第二クラスとが対応する確率に関するクラス対応確率である。クラス対応確率は、第一クラスと第二クラスとが対応する確率そのものでも良いし、当該確率をパラメータとする増加関数により算出され得る情報でも良い。前回クラス対応確率は、（ｎ−１）回目のループ処理（つまり、前回のループ処理）により算出されたクラス対応確率である。なお、ｎは１以上の自然数である。また、「ｎ＝１」の場合は初期値である。
【００３９】
前回クラス対応確率は、クラス対応確率の初期値（例えば、「０」）、または第二正規化部１３０が取得したクラス対応確率である。クラス対応確率は、例えば、「Θ(E(e(i))|F(f(j)))」と表す。
【００４０】
前回クラス対応確率取得部１２３は、例えば、格納部１１から初期値の前回クラス対応確率（例えば、「０」）を取得する。また、前回クラス対応確率取得部１２３は、例えば、前回のループ処理で算出された最新の前回クラス対応確率を図示しないバッファから取得する。かかる最新の前回クラス対応確率は、後述する第二正規化部１３０が算出した情報である。
【００４１】
第一単語出現確率取得部１２４は、対訳データ格納部１１１に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、第一単語出現確率を取得する。第一単語出現確率は、第一クラス内における第一単語の出現確率に関する情報である。第一単語出現確率は、第一単語「e(i)」が所属する第一クラス「E(e(i))」から第一単語「e(i)」が生成される確率に関する情報である。第一単語出現確率は、第一クラス内における第一単語の出現確率そのものでも良いし、第一クラス内における第一単語の出現確率をパラメータとする増加関数により算出される値でも良い。
【００４２】
第一単語出現確率取得部１２４は、対訳データを用いて第一単語出現確率を算出しても良い。対訳データを用いて第一単語出現確率を算出する処理は公知技術であるので詳細な説明を省略する。
【００４３】
また、第一単語出現確率取得部１２４は、格納部１１から第一単語出現確率を読み出しても良い。かかる場合、格納部１１には、第一単語ごとに、第一単語に対応付けられた第一単語出現確率が格納されている。
【００４４】
第一単語出現確率は、例えば、後述する「PE(e(i))」と表す。第一単語出現確率は、例えば、「PE(e(i)) =（第一単語「e(i)」の対訳データ内の出現頻度）／（第一単語「e(i)」と同じ第一クラス「E(e(i))」に属する全ての単語の対訳データ内の出現頻度の和）」により算出され得る。
【００４５】
クラス使用単語対応確率情報取得部１２５は、対訳データ格納部１１１に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、前回クラス対応確率と第一単語出現確率とを用いて、クラス使用単語対応確率情報を取得する。クラス使用単語対応確率情報は、単語クラスに基づく単語対の対応確率に関する情報である。クラス使用単語対応確率情報は、単語クラスに基づく単語対の対応確率そのものでも良いし、かかる対応確率をパラメータとする増加関数により算出される値でも良い。なお、前回クラス対応確率は、前回クラス対応確率取得部１２３が取得した情報である。また、第一単語出現確率は、第一単語出現確率取得部１２４が取得した情報である。
【００４６】
クラス使用単語対応確率情報取得部１２５は、対訳データ格納部１１１に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、前回クラス対応確率および第一単語出現確率をパラメータとする増加関数により、クラス使用単語対応確率情報を算出する。
【００４７】
クラス使用単語対応確率情報取得部１２５は、対訳データ格納部１１１に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、前回クラス対応確率と第一単語出現確率とを乗算し、クラス使用単語対応確率情報を取得することは好適である。
【００４８】
クラス使用単語対応確率情報「PC(e(i)|f(j))」は、例えば、数式２で算出される。
【数２】
2018073139.tif 000004
【００４９】
単語位置対応確率情報取得部１２６は、対訳データ格納部１１１に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、前回単語対応確率情報とクラス使用単語対応確率情報とを用いて、単語位置対応確率情報を取得する。単語位置対応確率情報は、第一言語文における第一単語位置と第二言語文における第二単語位置との対応確率に関する情報である。単語位置対応確率情報は、第一言語文における第一単語位置と第二言語文における第二単語位置との対応確率そのものでも良いし、当該対応確率をパラメータとする増加関数により算出される値でも良い。なお、前回単語対応確率情報は、前回単語対応確率情報取得部１２１が取得した情報である。また、クラス使用単語対応確率情報は、クラス使用単語対応確率情報取得部１２５が取得した情報である。
【００５０】
単語位置対応確率情報取得部１２６は、対訳データ格納部１１１に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、前回単語対応確率情報とクラス使用単語対応確率情報とをパラメータとする増加関数により、単語位置対応確率情報を算出しても良い。
【００５１】
単語位置対応確率情報取得部１２６は、対訳データ格納部１１１に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、前回単語対応確率情報とクラス使用単語対応確率情報とを重み付き加算して、単語位置対応確率情報を取得することは好適である。
【００５２】
単語位置対応確率情報「p(i|j)」は、例えば、数式３により算出される。
【数３】
2018073139.tif 000005
【００５３】
なお、重み付き加算において、重みパラメータλは、例えば、「０．８」であるが、0.0から1.0の値であれば、構わない。
【００５４】
クラス考慮単語対確率情報取得部１２７は、対訳データ格納部１１１に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、各単語対に対応する単語位置対応確率情報と各単語対に対応する対訳文単語位置確率情報とを用いて、クラス考慮単語対確率情報を取得する。クラス考慮単語対確率情報は、クラスを考慮した単語対の対応確率に関する情報である。クラス考慮単語対確率情報は、クラスを考慮した単語対の対応確率そのものでも良いし、かかる対応確率をパラメータとする増加関数により算出される値でも良い。
【００５５】
クラス考慮単語対確率情報取得部１２７は、対訳データ格納部１１１に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、各単語対に対応する単語位置対応確率情報と各単語対に対応する対訳文単語位置確率情報とをパラメータとする増加関数により、クラス考慮単語対確率情報を算出しても良い。
【００５６】
クラス考慮単語対確率情報取得部１２７は、対訳データ格納部１１１に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、各単語対に対応する単語位置対応確率情報と各単語対に対応する対訳文単語位置確率情報とを乗算した結果を用いて、クラス考慮単語対確率情報を取得することは好適である。
【００５７】
ここで、クラス考慮単語対確率情報「c(e(i)|f(j))」は、例えば、数式４により算出される。
【数４】
2018073139.tif 000006
【００５８】
なお、sumは、例えば、すべての単語対における「p(i|j) *δ（j|i,m,n）」の合計であり、数式５により算出される。
【数５】
2018073139.tif 000007
【００５９】
クラス考慮クラス確率情報取得部１２８は、対訳データ格納部１１１に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、各単語対に対応する単語位置対応確率情報と各単語対に対応する対訳文単語位置確率情報とを用いて、クラス考慮クラス確率情報を取得する。クラス考慮クラス確率情報は、第一クラスと第二クラスとの対応確率に関する情報である。クラス考慮クラス確率情報は、第一クラスと第二クラスとの対応確率そのものでも良いし、当該対応確率をパラメータとする増加関数により算出される値でも良い。
【００６０】
クラス考慮クラス確率情報取得部１２８は、対訳データ格納部１１１に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、各単語対に対応する単語位置対応確率情報と各単語対に対応する対訳文単語位置確率情報とをパラメータとする増加関数により、クラス考慮クラス確率情報を算出しても良い。
【００６１】
クラス考慮クラス確率情報取得部１２８は、対訳データ格納部１１１に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、各単語対に対応する単語位置対応確率情報と各単語対に対応する対訳文単語位置確率情報とを乗算した結果を用いて、クラス考慮クラス確率情報を取得することは好適である。
【００６２】
ここで、クラス考慮クラス確率情報「C(E(e(i))|F(f(j)))」は、例えば、数式６により算出される。
【数６】
2018073139.tif 000008
【００６３】
第一正規化部１２９は、クラス考慮単語対確率情報取得部１２７が取得したクラス考慮単語対確率情報を正規化し、ｎ回目のループにおける単語対確率情報を取得する。ここで、第一正規化部１２９は、例えば、平均場近似（mean-field approximation）を用いて、クラス考慮単語対確率情報を正規化する。ただし、正規化の方法は、他の方法でも良い。正規化の他の方法は、例えば、算出式「c(e(i)|f(j))／c(e(i)|f(j))の総和」を用いて、クラス考慮単語対確率情報を正規化する方法である。つまり、分母としてｃの総和をとり、分子としてそれぞれの値をとる方法である。なお、単語対確率情報は、後述する「θ (e(i)|f(j))」で表す。
【００６４】
第二正規化部１３０は、クラス考慮クラス確率情報取得部１２８が取得したクラス考慮クラス対確率情報を正規化し、ｎ回目のループにおけるクラス対応確率を取得する。ここで、第二正規化部１３０は、例えば、平均場近似を用いて、クラス考慮クラス対確率情報を正規化する。ただし、正規化の方法は、他の方法でも良い。正規化の他の方法は、例えば、算出式「C(E(e(i))|F(f(j)))／C(E(e(i))|F(f(j)))の総和」を用いて、クラス考慮単語対確率情報を正規化する方法である。つまり、分母としてCの総和をとり、分子としてそれぞれの値をとる方法である。なお、クラス対応確率は、後述する「Θ(E(e(i))|F(f(j)))」で表す。
【００６５】
制御部１３１は、ループの終了条件を満たすまで、前回単語対応確率情報取得部１２１、前回クラス対応確率取得部１２３、クラス使用単語対応確率情報取得部１２５、単語位置対応確率情報取得部１２６、クラス考慮単語対確率情報取得部１２７、クラス考慮クラス確率情報取得部１２８、第一正規化部１２９、および第二正規化部１３０の処理を繰り返すように制御する。ループの終了条件は、通常、ループの回数に関する条件（例えば、３回、５回、６回、８回など）である。但し、ループの終了条件は、第一正規化部１２９が取得した１以上の単語対確率情報、または第二正規化部１３０が取得した１以上のクラス対応確率等の情報に基づく条件でも良い。情報に基づく条件は、例えば、第一正規化部１２９が取得した１以上の単語対確率情報の収束に関する条件（例えば、前回のループの際の値と比較した今回の値の変化量が閾値以下または未満）、または第二正規化部１３０が取得した１以上のクラス対応確率の収束に関する条件（例えば、前回のループの際の値と比較した今回の値の変化量が閾値以下または未満）等でも良い。
【００６６】
蓄積部１３２は、第一正規化部１２９が、最終的に取得した単語対確率情報と単語対とを含む２以上の単語アライメントデータを有する単語アライメントモデルを単語アライメントモデル格納部１１２に蓄積する。
【００６７】
蓄積部１３２は、第二正規化部１３０が、最終的に取得したクラス対応確率と第一クラスと第二クラスとを含む２以上のクラスアライメントデータを有するクラスアライメントモデルをクラスアライメントモデル格納部１１４に蓄積する。
【００６８】
格納部１１を構成している対訳データ格納部１１１、単語アライメントモデル格納部１１２、対訳文単語位置確率情報格納部１１３、およびクラスアライメントモデル格納部１１４は、不揮発性の記録媒体が好適であるが、揮発性の記録媒体でも実現可能である。
【００６９】
格納部１１に情報が記憶される過程は問わない。例えば、記録媒体を介して情報が格納部１１で記憶されるようになってもよく、通信回線等を介して送信された情報が格納部１１で記憶されるようになってもよく、あるいは、入力デバイスを介して入力された情報が格納部１１で記憶されるようになってもよい。
【００７０】
処理部１２、前回単語対応確率情報取得部１２１、クラス取得部１２２、前回クラス対応確率取得部１２３、第一単語出現確率取得部１２４、クラス使用単語対応確率情報取得部１２５、単語位置対応確率情報取得部１２６、クラス考慮単語対確率情報取得部１２７、クラス考慮クラス確率情報取得部１２８、第一正規化部１２９、第二正規化部１３０、制御部１３１、および蓄積部１３２は、通常、ＭＰＵやメモリ等から実現され得る。処理部１２等の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはＲＯＭ等の記録媒体に記録されている。但し、ハードウェア（専用回路）で実現しても良い。
【００７１】
次に、単語アライメントモデル構築装置１の動作について、図２のフローチャートを用いて説明する。
【００７２】
（ステップＳ２０１）処理部１２は、初期化処理を行う。初期化処理は、例えば、すべての単語対に対応するクラス考慮単語対確率情報「c(e(i)|f(j))」に「０」を代入する処理、すべての単語対に対応する単語対確率情報「θ(e(i)|f(j))」に「１／第一言語の単語数」を代入する処理を含む。なお、処理部１２は、対訳データ格納部１１１の対訳データを用いて、第一言語の単語数を取得し、単語対確率情報の初期値を算出する。第一言語の単語数を取得する処理は公知技術であるので、詳細な説明を省略する。
また、初期化処理は、例えば、すべてのクラス対（第一クラスと第二クラス）に対応するクラス考慮クラス確率情報「C(E|F)」に「０」を代入する処理、すべてのクラス対（第一クラスと第二クラス）に対応するクラス対応確率「Θ(E|F) 」に「１／第一言語のクラス数」を代入する処理を含む。なお、処理部１２は、第一言語のクラス数を取得し、クラス対応確率の初期値を算出する。第一言語のクラス数を取得する処理は公知技術であるので、詳細な説明を省略する。
【００７３】
（ステップＳ２０２）処理部１２は、Ｅ−ｓｔｅｐを行う。さらに具体的には、処理部１２は、クラス考慮単語対確率情報「C(e(i)|f(j))」を取得する。また、処理部１２は、クラス考慮クラス対確率情報「C(E(e(i))|F(f(j)))」を取得する。Ｅ−ｓｔｅｐの詳細について、図３のフローチャートを用いて後述する。
【００７４】
（ステップＳ２０３）処理部１２は、Ｍ−ｓｔｅｐを行う。さらに具体的には、第一正規化部１２９は、ステップＳ２０２で取得されたクラス考慮単語対確率情報を正規化し、単語対確率情報「θ(e(i)|f(j))」を取得し、図示しないバッファに少なくとも一時蓄積する。また、第二正規化部１３０は、ステップＳ２０２で取得されたクラス考慮クラス対確率情報を正規化し、クラス対応確率「Θ(E(e(i))|F(f(j)))」を取得し、図示しないバッファに少なくとも一時蓄積する。
【００７５】
（ステップＳ２０４）制御部１３１は、終了条件に合致するか否かを判断する。終了条件に合致する場合はステップＳ２０５に行き、終了条件に合致しない場合はステップＳ２０２に戻る。なお、終了条件とは、上述したように、例えば、予め決められたループ回数になったこと等である。
【００７６】
（ステップＳ２０５）蓄積部１３２は、蓄積処理を行う。さらに具体的には、蓄積部１３２は、単語対ごとに、ステップＳ２０３で取得された単語対確率情報「θ (e(i)|f(j))」（最終的に取得した単語対確率情報）と単語対とを含む２以上の単語アライメントデータを有する単語アライメントモデルを単語アライメントモデル格納部１１２に蓄積する。また、蓄積部１３２は、単語対ごとに、ステップＳ２０３で取得されたクラス対応確率「Θ(E(e(i))|F(f(j)))」（最終的に取得したクラス対応確率）と第一クラスと第二クラスとを含む２以上のクラスアライメントデータを有するクラスアライメントモデルをクラスアライメントモデル格納部１１４に蓄積する。そして、処理を終了する。
【００７７】
なお、図２のフローチャートにおいて、蓄積部１３２は、クラスアライメントモデルを蓄積しなくても良い。
【００７８】
次に、ステップＳ２０２のＥ−ｓｔｅｐの動作例の詳細について、図３のフローチャートを用いて説明する。
【００７９】
（ステップＳ３０１）制御部１３１は、カウンタｓに１を代入する。
【００８０】
（ステップＳ３０２）制御部１３１は、対訳データ格納部１１１に、ｓ番目の対訳文が存在するか否かを判断する。ｓ番目の対訳文が存在する場合はステップＳ３０３に行き、ｓ番目の対訳文が存在しない場合は上位処理にリターンする。
【００８１】
（ステップＳ３０３）制御部１３１は、カウンタｉに１を代入する。
【００８２】
（ステップＳ３０４）制御部１３１は、変数sumに０を代入する。
【００８３】
（ステップＳ３０５）制御部１３１は、カウンタｊに０を代入する。
【００８４】
（ステップＳ３０６）処理部１２は、単語位置対応確率情報「p(i|j)」を算出し、iおよびjに対応付けて、図示しないバッファに、少なくとも一時蓄積する。単語位置対応確率情報「p(i|j)」を算出する処理例の詳細について、図４のフローチャートを用いて後述する。
【００８５】
（ステップＳ３０７）処理部１２は、変数sumの値を算出する。具体的には、処理部１２は、ステップＳ３０６で取得された単語位置対応確率情報「p(i|j)」と、対応する対訳文単語位置確率情報「δ（j|i,m,n）」とを用いて、変数sumの値を算出する。例えば、処理部１２は、数５により、変数sumの値を算出する。
【００８６】
（ステップＳ３０８）制御部１３１は、ｊがｎと一致するか否かを判断する。ｊがｎと一致する場合はステップＳ３０９に行き、ｊがｎと一致しない場合はステップＳ３１７に行く。
【００８７】
（ステップＳ３０９）制御部１３１は、カウンタｊに０を代入する。
【００８８】
（ステップＳ３１０）クラス考慮単語対確率情報取得部１２７は、クラス考慮単語対確率情報「c(e(i)|f(j))」を算出する。クラス考慮単語対確率情報「c(e(i)|f(j))」を算出する処理の詳細について、図５のフローチャートを用いて後述する。
【００８９】
（ステップＳ３１１）クラス考慮クラス確率情報取得部１２８は、クラス考慮クラス確率情報「C(E(e(i))|F(f(j)))」を算出する。クラス考慮クラス確率情報「C(E(e(i))|F(f(j)))」を算出する処理の詳細について、図６のフローチャートを用いて後述する。
【００９０】
（ステップＳ３１２）制御部１３１は、ｊがｎと一致するか否かを判断する。ｊがｎと一致する場合はステップＳ３１３に行き、ｊがｎと一致しない場合はステップＳ３１６に行く。
【００９１】
（ステップＳ３１３）制御部１３１は、ｉがｍと一致するか否かを判断する。ｉがｍと一致する場合はステップＳ３１４に行き、ｉがｍと一致しない場合はステップＳ３１５に行く。
【００９２】
（ステップＳ３１４）制御部１３１は、カウンタｓを１、インクリメントし、ステップＳ３０２に戻る。
【００９３】
（ステップＳ３１５）制御部１３１は、カウンタｉを１、インクリメントし、ステップＳ３０４に戻る。
【００９４】
（ステップＳ３１６）制御部１３１は、カウンタｊを１、インクリメントし、ステップＳ３１０に戻る。
【００９５】
（ステップＳ３１７）制御部１３１は、カウンタｊを１、インクリメントし、ステップＳ３０６に戻る。
【００９６】
次に、ステップＳ３０６の単語位置対応確率情報「p(i|j)」を算出する処理例の詳細について、図４のフローチャートを用いて説明する。図４のフローチャートにおいて、ｓ番目の対訳文における、第一言語文（e）のi番目の単語e(i)と第二言語文（f）のj番目の単語f(j)と（以下、適宜、「本単語対」という。）が対象である。
【００９７】
（ステップＳ４０１）前回単語対応確率情報取得部１２１は、本単語対に対応する前回単語対応確率情報「θ(e(i)|f(j))」の初期値（例えば、「１／第一言語の単語数」）、または前回のループにおいて算出した前回単語対応確率情報「θ(e(i)|f(j))」を、バッファから取得する。
【００９８】
（ステップＳ４０２）前回クラス対応確率取得部１２３は、本単語対に対応する前回クラス対応確率「Θ(E(e(i))|F(f(j)))」を、バッファから取得する。
【００９９】
（ステップＳ４０３）第一単語出現確率取得部１２４は、単語e(i)に対応する第一単語出現確率「PE(e(i))」を取得する。
【０１００】
（ステップＳ４０４）クラス使用単語対応確率情報取得部１２５は、ステップＳ４０２で取得された前回クラス対応確率「Θ(E(e(i))|F(f(j)))」と、ステップＳ４０３で取得された第一単語出現確率「PE(e(i))」とを乗算し、クラス使用単語対応確率情報「PC(e(i)|f(j))」を算出する。
【０１０１】
（ステップＳ４０５）単語位置対応確率情報取得部１２６は、重みパラメータλを格納部１１から取得する。
【０１０２】
（ステップＳ４０６）単語位置対応確率情報取得部１２６は、ステップＳ４０１で取得された前回単語対応確率情報「θ (e(i)|f(j))」、ステップＳ４０４で算出されたクラス使用単語対応確率情報「PC(e(i)|f(j))」、およびステップＳ４０５で取得された重みパラメータλを用いて、単語位置対応確率情報「p(i|j)」を算出し、図示しないバッファに少なくとも一時蓄積し、上位処理にリターンする。なお、単語位置対応確率情報取得部１２６は、例えば、数３により、単語位置対応確率情報を算出する。
【０１０３】
次に、ステップＳ３１０のクラス考慮単語対確率情報を算出する処理例の詳細について、図５のフローチャートを用いて後述する。ここでの処理は、本単語対「第一言語文（e）の単語e(i)と第二言語文（f）の単語f(j)」に対応する処理である。
【０１０４】
（ステップＳ５０１）単語位置対応確率情報取得部１２６は、ステップＳ３０６で算出された単語位置対応確率情報「p(i|j)」をバッファから取得する。
【０１０５】
（ステップＳ５０２）クラス考慮単語対確率情報取得部１２７は、対訳文単語位置確率情報格納部１１３から対訳文単語位置確率情報「δ(j|i,m,n)」を取得する。
【０１０６】
（ステップＳ５０３）クラス考慮単語対確率情報取得部１２７は、変数sumの値を取得する。
【０１０７】
（ステップＳ５０４）クラス考慮単語対確率情報取得部１２７は、単語位置対応確率情報「p(i|j)」、対訳文単語位置確率情報「δ（j|i,m,n）」、sumの値を用いて、クラス考慮単語対確率情報取の増加分を算出する。具体的には例えばクラス考慮単語対確率情報取得部１２７は、「増加分 = p(i|j) *δ（j|i,m,n）/sum」により、クラス考慮単語対確率情報の増加分を算出する。
【０１０８】
（ステップＳ５０５）クラス考慮単語対確率情報取得部１２７は、前回のクラス考慮単語対確率情報「c(e(i)|f(j))」をバッファから取得する。なお、前回のクラス考慮単語対確率情報は、前回のループの処理で算出したクラス考慮単語対確率情報であり、最新のクラス考慮単語対確率情報である。
【０１０９】
（ステップＳ５０６）クラス考慮単語対確率情報取得部１２７は、ステップＳ５０５で取得した前回のクラス考慮単語対確率情報とステップＳ５０４で算出したクラス考慮単語対確率情報の増加分とを加算し、新しいクラス考慮単語対確率情報「c(e(i)|f(j))」を算出し、iとjとに対応付けて、バッファに少なくとも一時蓄積し、上位処理にリターンする。
【０１１０】
次に、ステップＳ３１１のクラス考慮クラス確率情報を算出する処理例の詳細について、図６のフローチャートを用いて後述する。ここでの処理は、本単語対「第一言語文（e）の単語e(i)と第二言語文（f）の単語f(j)」に対応する処理である。
【０１１１】
（ステップＳ６０１）単語位置対応確率情報取得部１２６は、ステップＳ３０６で算出された単語位置対応確率情報「p(i|j)」をバッファから取得する。
【０１１２】
（ステップＳ６０２）クラス考慮クラス確率情報取得部１２８は、対訳文単語位置確率情報格納部１１３から対訳文単語位置確率情報「δ（j|i,m,n）」を取得する。
【０１１３】
（ステップＳ６０３）クラス考慮クラス確率情報取得部１２８は、変数sumの値を取得する。
【０１１４】
（ステップＳ６０４）クラス考慮クラス確率情報取得部１２８は、単語位置対応確率情報「p(i|j)」、対訳文単語位置確率情報「δ（j|i,m,n）」、sumの値を用いて、クラス考慮単語対確率情報取の増加分を算出する。具体的には例えばクラス考慮クラス確率情報取得部１２８は、「増加分 = p(i|j) *δ（j|i,m,n）/sum」により、クラス考慮クラス確率情報の増加分を算出する。
【０１１５】
（ステップＳ６０５）クラス考慮クラス確率情報取得部１２８は、前回のクラス考慮クラス確率情報「C(E(e(i))|F(f(j)))」をバッファから取得する。
【０１１６】
（ステップＳ６０６）クラス考慮クラス確率情報取得部１２８は、ステップＳ６０５で取得した前回のクラス考慮クラス確率情報とステップＳ５０４で算出したクラス考慮クラス確率情報の増加分とを加算し、新しいクラス考慮クラス確率情報「C(E(e(i))|F(f(j)))」を算出し、iとjとに対応付けて、バッファに少なくとも一時蓄積し、上位処理にリターンする。
【０１１７】
次に、本実施の形態における単語アライメントモデル構築装置１の具体的な動作について説明する。
【０１１８】
単語アライメントモデル構築装置１は、例えば、図７に示すプログラムのように動作する。また、ここで述べる具体例は、非特許文献３で述べられた方法を拡張したものである。
【０１１９】
図７に示すように、まず「０．初期化」の処理を行う。次に、「２．E-step」「３．M-step」の処理を５回繰り返す。
【０１２０】
単語アライメントモデル構築装置１のポイントは、「２．E-step」における式７０１の処理である。式７０１は、単語位置対応確率情報取得部１２６の処理である。
【０１２１】
式７０１は、対訳データ格納部１１１に格納されている２以上の各対訳文を構成する２以上の単語対ごとに、前回単語対応確率情報とクラス使用単語対応確率情報とを用いて、単語位置対応確率情報を取得する処理である。ここでは、単語位置対応確率情報取得部１２６は、数３により単語位置対応確率情報を算出する。
【０１２２】
また、「３．M-step」において、第一正規化部１２９は、E-stepで計算された「c(e(i)|f(j))」を平均場近似で正規化して、単語対確率情報「θ(e(i)|f(j))」を取得する。また、第二正規化部１３０は、E-stepで計算された「C(E(e(i))|F(f(j)))」を平均場近似で正規化して、クラス対応確率「Θ(E(e(i))|F(f(j)))」を取得する。さらに、「３．M-step」において、処理部１２は、cとCについて要素の値を「０」に初期化する。なお、cとCについて要素の値とは、E-stepにおいて計算されている確率を頻度と考えたときの頻度の和である。通常の頻度は１を単位に計算されるが、EM法では、確率的に頻度を計算する。そして、制御部１３１は、次のループに移行させる。
【０１２３】
以上、本実施の形態によれば、小規模の対訳データを使用する場合や、低頻度単語においても、単語アライメントを精度よく実行できる。
【０１２４】
なお、本実施の形態における処理は、ソフトウェアで実現しても良い。そして、このソフトウェアをソフトウェアダウンロード等により配布しても良い。また、このソフトウェアをＣＤ−ＲＯＭなどの記録媒体に記録して流布しても良い。なお、このことは、本明細書における他の実施の形態においても該当する。
【０１２５】
（実施の形態２）
【０１２６】
本実施の形態において、実施の形態１で構成された単語アライメントモデルを用いた機械翻訳装置について説明する。
【０１２７】
図８は、本実施の形態における機械翻訳装置２のブロック図である。
【０１２８】
機械翻訳装置２は、単語アライメントモデル格納部１１２、対訳文単語位置確率情報格納部１１３、受付部２１、翻訳部２２を備える。単語アライメントモデル格納部１１２、対訳文単語位置確率情報格納部１１３については、実施の形態１で説明した。
【０１２９】
受付部２１は、第二言語文を受け付ける。ここで、受け付けとは、キーボードやマウス、タッチパネルなどの入力デバイスから入力された情報の受け付け、音声による受け付け、有線もしくは無線の通信回線を介して送信された情報の受信、光ディスクや磁気ディスク、半導体メモリなどの記録媒体から読み出された情報の受け付けなどを含む概念である。
【０１３０】
第二言語文の入力手段は、キーボードやマウスやメニュー画面によるもの、マイク等、何でも良い。受付部２１は、テンキーやキーボード等の入力手段のデバイスドライバーや、メニュー画面の制御ソフトウェア等で実現され得る。
【０１３１】
翻訳部２２は、単語アライメントモデル格納部１１２に格納されている単語アライメントモデル、および対訳文単語位置確率情報格納部１１３に格納されている１以上の対訳文単語位置情報ごとの対訳文単語位置確率情報を用いて、受付部２１が受け付けた第二言語文から第一言語文を取得する。そして、翻訳部２２は、取得した第一言語文を出力する。なお、翻訳部２２は公知技術であるので詳細な説明は省略する。
【０１３２】
翻訳部２２は、通常、ＭＰＵやメモリ等から実現され得る。翻訳部２２の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはＲＯＭ等の記録媒体に記録されている。但し、ハードウェア（専用回路）で実現しても良い。
【０１３３】
以下、本実施の形態における機械翻訳装置２の具体的な動作について説明する。
【０１３４】
対訳データについて、その中の対訳文を<e,f>とし、e = e(1) e(2)・・・e(m), f= f(1) f(2) ・・・f(n)のように、m単語とn単語からなるとする。ここで、eは第一言語文、fは第二言語文である、とする。また、e(i)はeのi番目の単語であり、f(j)はfのj番目の単語である。なお、特別な単語NULLとして f(0)を導入する。これは、e中の単語がf中の単語のいずれにも対応しない場合に有用である。
【０１３５】
次に、fを条件とするeの確率を「P(e|f)」とする。
【０１３６】
また、eの単語数が m、ｆの単語数がnのときに、文eのi番目にある単語が、文fのｊ番目の単語とアライメントされる確率である対訳文単語位置確率情報を「δ（j|i,m,n）」とする。
【０１３７】
また、e(i)がf(j)にアライメントされる確率である単語対応確率情報を「θ (e(i)|f(j))」とする。
【０１３８】
このとき、上述した数式１が成り立つ。
【０１３９】
また、これらの確率、δ、θは、対訳データから上記非特許文献３の手法を利用して推定可能である。なお、Pについては、δとθから一意的に計算可能である。
【０１４０】
そして、P(e|f)が、「δ(j|i,m,n)」「θ(e(i)|f(j))」より算出される。「δ(j|i,m,n)」は、対訳文単語位置確率情報格納部１１３から取得され得る。「θ(e(i)|f(j))」は、単語アライメントモデル格納部１１２から取得され得る。
【０１４１】
そして、翻訳部２２は、PS(e|f)の確率値が最も大きい第一言語文ｅが第二言語文ｆの翻訳結果であるとして、出力する第一言語文を取得する。
【０１４２】
以上、本実施の形態によれば、小規模の対訳データを使用する場合や、低頻度単語においても、単語アライメントを精度よく実行できる結果、精度の良い翻訳結果が得られる。
【０１４３】
また、図９は、本明細書で述べたプログラムを実行して、上述した種々の実施の形態の単語アライメントモデル構築装置等を実現するコンピュータの外観を示す。上述の実施の形態は、コンピュータハードウェア及びその上で実行されるコンピュータプログラムで実現され得る。図９は、このコンピュータシステム３００の概観図であり、図１０は、システム３００のブロック図である。
【０１４４】
図９において、コンピュータシステム３００は、ＣＤ−ＲＯＭドライブ３０１２を含むコンピュータ３０１と、キーボード３０２と、マウス３０３と、モニタ３０４とを含む。
【０１４５】
図１０において、コンピュータ３０１は、ＣＤ−ＲＯＭドライブ３０１２に加えて、ＭＰＵ３０１３と、ＣＤ−ＲＯＭドライブ３０１２等に接続されたバス３０１４と、ブートアッププログラム等のプログラムを記憶するためのＲＯＭ３０１５と、ＭＰＵ３０１３に接続され、アプリケーションプログラムの命令を一時的に記憶するとともに一時記憶空間を提供するためのＲＡＭ３０１６と、アプリケーションプログラム、システムプログラム、及びデータを記憶するためのハードディスク３０１７とを含む。ここでは、図示しないが、コンピュータ３０１は、さらに、ＬＡＮへの接続を提供するネットワークカードを含んでも良い。
【０１４６】
コンピュータシステム３００に、上述した実施の形態の単語アライメントモデル構築装置等の機能を実行させるプログラムは、ＣＤ−ＲＯＭ３１０１に記憶されて、ＣＤ−ＲＯＭドライブ３０１２に挿入され、さらにハードディスク３０１７に転送されても良い。これに代えて、プログラムは、図示しないネットワークを介してコンピュータ３０１に送信され、ハードディスク３０１７に記憶されても良い。プログラムは実行の際にＲＡＭ３０１６にロードされる。プログラムは、ＣＤ−ＲＯＭ３１０１またはネットワークから直接、ロードされても良い。
【０１４７】
プログラムは、コンピュータ３０１に、上述した実施の形態の単語アライメントモデル構築装置等の機能を実行させるオペレーティングシステム（ＯＳ）、またはサードパーティープログラム等は、必ずしも含まなくても良い。プログラムは、制御された態様で適切な機能（モジュール）を呼び出し、所望の結果が得られるようにする命令の部分のみを含んでいれば良い。コンピュータシステム３００がどのように動作するかは周知であり、詳細な説明は省略する。
【０１４８】
また、上記プログラムを実行するコンピュータは、単数であってもよく、複数であってもよい。すなわち、集中処理を行ってもよく、あるいは分散処理を行ってもよい。
【０１４９】
また、上記各実施の形態において、一の装置に存在する２以上の通信手段は、物理的に一の媒体で実現されても良いことは言うまでもない。
【０１５０】
また、上記各実施の形態において、各処理は、単一の装置によって集中処理されることによって実現されてもよく、あるいは、複数の装置によって分散処理されることによって実現されてもよい。
【０１５１】
本発明は、以上の実施の形態に限定されることなく、種々の変更が可能であり、それらも本発明の範囲内に包含されるものであることは言うまでもない。
【産業上の利用可能性】
【０１５２】
以上のように、本発明にかかる単語アライメントモデル構築装置は、小規模の対訳データや低頻度の単語等に関しても、単語アライメントを精度よく実行できるという効果を有し、単語アライメントモデル構築装置等として有用である。
【符号の説明】
【０１５３】
１  単語アライメントモデル構築装置
２  機械翻訳装置
１１  格納部
１２  処理部
２１  受付部
２２  翻訳部
１１１  対訳データ格納部
１１２  単語アライメントモデル格納部
１１３  対訳文単語位置確率情報格納部
１１４  クラスアライメントモデル格納部
１２１  前回単語対応確率情報取得部
１２２  クラス取得部
１２３  前回クラス対応確率取得部
１２４  第一単語出現確率取得部
１２５  クラス使用単語対応確率情報取得部
１２６  単語位置対応確率情報取得部
１２７  クラス考慮単語対確率情報取得部
１２８  クラス考慮クラス確率情報取得部
１２９  第一正規化部
１３０  第二正規化部
１３１  制御部
１３２  蓄積部
【図１】
2018073139.tif 000009
【図２】
2018073139.tif 000010
【図３】
2018073139.tif 000011
【図４】
2018073139.tif 000012
【図５】
2018073139.tif 000013
【図６】
2018073139.tif 000014
【図７】
2018073139.tif 000015
【図８】
2018073139.tif 000016
【図９】
2018073139.tif 000017
【図１０】
2018073139.tif 000018