(57)【要約】【課題】人手による処理を行うことなく効率良くＷＱＥ用の訓練用データの作成を行うことができ、精度の高いタグ系列を取得する語レベル信頼度推定システムを実現する。【解決手段】語レベル信頼度推定システム１０００は、訓練用データ生成装置１と、語レベル信頼度推定装置２とを備える。訓練用データ生成装置１は、原文データおよび当該原文データに対応する対訳データから、訓練用データを生成する。語レベル信頼度推定装置２は、訓練用データ生成装置１により生成された訓練用データを用いて機械翻訳システムと語レベルの信頼度推定システムを最適化することにより、精度の高いタグ系列データを推定するシステムを実現させる。【選択図】図１
2018041184.tif 000002
【特許請求の範囲】
【請求項１】
原文データおよび当該原文データに対応する対訳データを入力するためのデータ入力部と、
前記原文データに対して機械翻訳処理を行い、機械翻訳文データを取得する機械翻訳部と、
前記対訳データと前記機械翻訳文データとに基づいて前記機械翻訳文データの語レベルの適否を示すタグ系列データを取得するタグ系列取得部と、
前記原文データと前記対訳データと前記タグ系列データとを含む訓練用データを取得する訓練用データ取得部と、
を備える訓練用データ生成装置。
【請求項２】
原文データｘと、前記原文データｘに対して機械翻訳処理することで取得された機械翻訳文データｙと、前記原文データｘに対応する対訳データｒと前記機械翻訳文データｙとに基づいて取得された前記機械翻訳文データｙの語レベルの適否を示すタグ系列データｔとに基づいて、
（１）前記原文データｘから前記機械翻訳文データｙを生成するＭＴシステムであってＭＴシステム用パラメータθ１により特性が決定される前記ＭＴシステムを最適化するとともに、（２）前記原文データｘと前記機械翻訳文データｙの組に対してタグ系列データｔを推定するＷＱＥシステムであってＷＱＥシステム用パラメータθ２により特性が決定される前記ＷＱＥシステムを最適化する最適パラメータ取得装置であって、
前記原文データｘと、前記機械翻訳文データｙと、前記タグ系列データｔとを組み合わせたデータを収納するコーパスをコーパスＤ１とし、
前記原文データｘに対応する対訳データｒとを組み合わせたデータを収納するコーパスをコーパスＤ２とし、目的関数ｆ０（Ｄ１，Ｄ２）を
2018041184.tif 000022
＜ｘ，ｙ，ｔ＞∈Ｄ１
＜ｘ，ｒ＞∈Ｄ２
とすると、前記目的関数ｆ０（Ｄ１，Ｄ２）が最適化されるときのパラメータθ１、θ２の組データ＜θ１＿ｏ，θ２＿ｏ＞を取得する最適パラメータ取得部
を備える最適パラメータ取得装置。
【請求項３】
前記最適パラメータ取得部は、
正規化項Ω（θ１）を取得する正規化項取得部と、
前記正規化項Ω（θ１）を最適化するＭＴシステム用パラメータθ１を最適第１パラメータθ１_optとして取得する第１目的関数算出部と、
を備える請求項２に記載の最適パラメータ取得装置。
【請求項４】
前記最適パラメータ取得部は、
目的関数ｆ１（Ｄ１，θ１_opt，ｎ）を
2018041184.tif 000023
Δθ１_opt，ｎ（ｘｋ）：ＭＴシステムのパラメータをθ１_optとしたときの原文データｘｋに対する翻訳文データｙのうち最適解からｎ番目に良い解までのｎ個（ｎ：自然数）の翻訳文データの集合
に設定し、前記目的関数ｆ１（Ｄ１，θ１_opt，ｎ）の値を最適値とするＷＱＥシステム用パラメータθ２を最適第２パラメータθ２_optとして取得する第２目的関数算出部をさらに備える、
請求項２に記載の最適パラメータ取得装置。
【請求項５】
原文データおよび当該原文データに対応する対訳データを入力するためのデータ入力ステップと、
前記原文データに対して機械翻訳処理を行い、機械翻訳文データを取得する機械翻訳ステップと、
前記対訳データと前記機械翻訳文データとに基づいて前記機械翻訳文データの語レベルの適否を示すタグ系列データを取得するタグ系列取得ステップと、
前記原文データと前記対訳データと前記タグ系列データとを含む訓練用データを取得する訓練用データ取得ステップと、
を備える訓練用データ生成方法。
【請求項６】
原文データｘと、前記原文データｘに対して機械翻訳処理することで取得された機械翻訳文データｙと、前記原文データｘに対応する対訳データｒと前記機械翻訳文データｙとに基づいて取得された前記機械翻訳文データｙの語レベルの適否を示すタグ系列データｔとに基づいて、
（１）前記原文データｘから前記機械翻訳文データｙを生成するＭＴシステムであってＭＴシステム用パラメータθ１により特性が決定される前記ＭＴシステムを最適化するとともに、（２）前記原文データｘと前記機械翻訳文データｙの組に対してタグ系列データｔを推定するＷＱＥシステムであってＷＱＥシステム用パラメータθ２により特性が決定される前記ＷＱＥシステムを最適化する最適パラメータ取得方法であって、
前記原文データｘと、前記機械翻訳文データｙと、前記タグ系列データｔとを組み合わせたデータを収納するコーパスをコーパスＤ１とし、
前記原文データｘに対応する対訳データｒとを組み合わせたデータを収納するコーパスをコーパスＤ２とし、目的関数ｆ０（Ｄ１，Ｄ２）を
2018041184.tif 000024
＜ｘ，ｙ，ｔ＞∈Ｄ１
＜ｘ，ｒ＞∈Ｄ２
とすると、前記目的関数ｆ０（Ｄ１，Ｄ２）が最適化されるときのパラメータθ１、θ２の組データ＜θ１＿ｏ，θ２＿ｏ＞を取得する最適パラメータ取得ステップ
を備える最適パラメータ取得方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、第１言語をその第１言語とは異なる第２言語に翻訳するための機械翻訳技術に関し、特に機械翻訳結果（ＭＴ訳）に対して信頼度を付与する技術に関する。
【背景技術】
【０００２】
ＭＴ訳に対して信頼度を付与する技術は、ＭＴ訳をそのまま使用するかどうかの意思決定、ユーザに対する品質の申告等の観点で有用である。特にＭＴ訳中の各語の適否を推定する技術（ＭＴ訳における誤り箇所を自動的に特定する技術）は、システム・人間が協働で高品質な翻訳を実現する場合に、後編集が必要な箇所を示す用途や、ＭＴ訳をユーザがそのまま用いる場合に適切な箇所とそうでない箇所を判別する用途などで有用である。このため、ＭＴ訳に対して信頼度を付与する技術が種々開発されている。
【０００３】
ＭＴ訳における語レベルの信頼度推定（Ｗｏｒｄ−ｌｅｖｅｌ  Ｑｕａｌｉｔｙ  Ｅｓｔｉｍａｔｉｏｎ（ＷＱＥ））では、数万〜数十万種類に及ぶ語を評価する必要がある。このため、誤り箇所を検出する方法としては、ルールを人間が作成して用いるのではなく、研究の初期の段階から、もっぱら統計的機械学習に基づく方法が用いられてきた。Ｕｅｆｆｉｎｇら（非特許文献１）は、機械翻訳システム（ＭＴシステム）が出力する上位Ｎ個の訳候補を、語をノードとするグラフによって表し、そこから訳候補中の個々の語が生起する条件付き確率を求め、事前に定めた閾値を超える語を「正」、それ以外の語を「否」に２値分類する方法を提案した。Ｇａｎｄｒａｂｕｒら（非特許文献２）は、そのような条件付き確率をニューラルネットワークを用いて精緻化する方法を提案した。Ｂｌａｔｓら（非特許文献３）は、原文の文長、ＭＴ訳中の語と原文中の語との対応付けのスコア、括弧や引用記号の対応の是非などの新たな特徴量を導入した。その後も目的言語における単語の品詞情報（非特許文献４）やＭＴ訳を原言語に翻訳し直したもの（非特許文献５）、原文中の対応する語の文脈情報（非特許文献６）など、統計的機械学習に用いる種々の特徴量（素性）が提案されてきた（非特許文献７）。統計的機械学習のフレームワークとしても個々の語を独立に捉えるだけでなく、ＭＴ訳を語の系列と捉えて過去の文脈における信頼度推定結果をふまえた系列ラベリング問題としての定式化（非特許文献６）や条件付き確率場（Ｃｏｎｄｉｔｉｏｎａｌ  Ｒａｎｄｏｍ  Ｆｉｅｌｄｓ（ＣＲＦｓ））による出力系列全体の最適化（構造学習）（非特許文献７、８）などが提案されている。
【０００４】
ＭＴ訳における語レベルの信頼度推定システムＷＱＥ(Ｗｏｒｄ−ｌｅｖｅｌ  Ｑｕａｌｉｔｙ  Ｅｓｔｉｍａｔｉｏｎ)システムのモデルの学習に必要な訓練用データ（正解データ）は、次の例のような（原文ｘ，ＭＴ訳ｙ，語の正否（タグ）の系列ｔ）の３つ組を集積したものである。
原文ｘ：あなた／は／２２／時／まで／に／チェックイン／する／必要／が／あり／ます／。
ＭＴ訳ｙ：Ｙｏｕ／ｓｈｏｕｌｄ／ｃｈｅｃｋ／ｉｎ／ｂｙ／ｔｗｅｎｔｙ／ｔｗｏ／ｏ’ｃｌｏｃｋ／．
語の正否（タグ）の系列ｔ：ＯＫ／ＢＡＤ／ＯＫ／ＯＫ／ＯＫ／ＢＡＤ／ＢＡＤ／ＢＡＤ／ＯＫ
なお、上記の各例における「／」は語の境界を表す。このような訓練用データは、ＭＴ訳ｙの個々の語に対して「ＯＫ」または「ＢＡＤ」を人手で付与する方法（非特許文献９）、あるいはＭＴ訳ｙを人手で編集して正しい訳（修正訳ｐ）を作成した後に、編集された語を自動的に特定してそれらを「ＢＡＤ」、それ以外の語を「ＯＫ」とする方法（非特許文献１０）によって得られる。
【０００５】
このような技術を用いて、例えば図８に示す訓練用データ取得システム９０００を構築することが考えられる。
【０００６】
図８に示す訓練用データ取得システム９０００は、機械翻訳部９１と、ＭＴ用データ格納部ＤＢ９１と、タグ系列取得部９２と、訓練用データ取得部９３とを備える。
【０００７】
訓練用データ取得システム９０００では、原文データｘが機械翻訳部９１により機械翻訳され機械翻訳文データｙが取得される。そして機械翻訳文データｙから人手により修正訳ｐを作成する処理Ｐｒｏ１が実行される。処理Ｐｒｏ１により取得された修正訳ｐと機械翻訳文データｙとがタグ系列取得部９２に入力される。タグ系列取得部９２は、機械翻訳文データｙと修正訳ｐとを比較し修正された語を特定し、修正された語に「ＢＡＤ」というタグを付し、それ以外の語には「ＯＫ」というタグを付すことでタグ系列データｔを取得する。
【０００８】
そして、訓練用データ取得部９３は、原文データｘと、機械翻訳文データｙと、タグ系列データｔとを組み合わせたデータＤｏｕｔを訓練用データ格納部ＤＢ９２に格納する。
【０００９】
訓練用データ取得システム９０００において上記のように処理を行うことで、ＭＴ訳における語レベルの信頼度推定システム（ＷＱＥシステム）のモデルの学習に必要な訓練用データ（正解データ）（原文データｘと、機械翻訳文データｙと、タグ系列データｔとを組み合わせたデータＤｏｕｔ）を取得することができる。
【先行技術文献】
【特許文献】
【００１０】
【非特許文献１】Nicola Ueffing, Klaus Macherey, and Hermann Ney (2003).  Confidence Measures for Statistical Machine Translation.  In Proceedings of Machine Translation Summit IX, pp. 394-401.
【非特許文献２】Simona Gandrabur and George Foster (2003).  Confidence Estimation for Translation Prediction.  In Proceedings of the Seventh Conference on Natural Language Learning (CoNLL), pp. 95-102.
【非特許文献３】John Blats, Erin Fitzgerald, George Foster, Simona Grandrabur, Cyril Goutte, Alex Kulesza, Alberto Sanchis, and Nicola Ueffing (2004).  Confidence Estimation for Machine Translation.  In Proceedings of the 20th International Conference on Computational Linguistics (COLING), pp. 315-321.
【非特許文献４】Deyi Xiong, Min Zhang, and Haizhou Li (2010). Error Detection for Statistical Machine Translation Using Linguistic Features.  In Proceedings of the 48th Annual Meeting of the Association for Computational Linguistics (ACL), pp. 604-611.
【非特許文献５】Nguyen Bach, Matthias Eck, Paisarn Charoenpornsawat, Thilo Khler, Sebastian Stker, ThuyLinh Nguyen, Roger Hsiao, Alex Waibel, Stephan Vogel, Tanja Schultz, and Alan Black (2007).  The CMU TransTac 2007 Eyes-free and Hands-free Two-way Speech-to-Speech Translation System.  In Proceedings of the International Workshop on Spoken Language Translation, 8 pages.
【非特許文献６】Nguyen Bach, Fei Huang and Yaser Al-Onaizan (2011).  Goodness: A Method for Measuring Machine Translation Confidence.  In Proceedings of the 49th Annual Meeting of the Association for Computational Linguistics (ACL), pp. 211-219.
【非特許文献７】Ngoc Quang Luong, Laurent Besacier, and Benjamin Lecouteux (2014).  LIG System for Word Level QE task at WMT14.  In Proceedings of the 9th Workshop on Statistical Machine Translation (WMT), pp.335-341.
【非特許文献８】Lucia Specia, Gustavo Paetzold, and Carolina Scarton (2015).  Multi-level Translation Quality Prediction with QuEst++.  In Proceedings of ACL-IJCNLP 2015 System Demonstrations, pp. 115-120.
【非特許文献９】Ondrej Bojar, Christian Buck, Christian Federmann, Barry Haddow, Philipp Koehn, Johannes Leveling, Christof Monz, Pavel Pecina, Matt Post, Herve Saint-Amand; Radu Soricut, Lucia Specia, and Ales Tamchyna (2014).  Findings of the 2014 Workshop on Statistical Machine Translation.  In Proceedings of the 9th Workshop on Statistical Machine Translation (WMT), pp. 12-58.
【非特許文献１０】Ondrej Bojar, Rajen Chatterjee, Christian Federmann, Barry Haddow, Matthias Huck, Chris Hokamp, Philipp Koehn, Varvara Logacheva, Christof Monz, Matteo Negri, Matt Post, Carolina Scarton, Lucia Specia, and Marco Turchi (2015).  Findings of the 2015 Workshop on Statistical Machine Translation.  In Proceedings of the 2015 Workshop on Statistical Machine Translation (WMT), pp. 1-46.
【発明の概要】
【発明が解決しようとする課題】
【００１１】
一般的に統計的機械学習に基づく方法は訓練用データが大きいほど性能が高い。しかしながら統計的機械学習に基づくＷＱＥ用の訓練用データの作成には人手が不可欠であるため、訓練用データの大規模化が困難である。例えば上記のような従来技術を用いた訓練用データ取得システム９０００においても、機械翻訳文データｙから人手により修正訳ｐを作成する処理Ｐｒｏ１を行う必要があり、多量の訓練用データを取得するには時間と費用がかかる課題がある。
【００１２】
また、既存のＷＱＥシステムの構築手法においては、訓練用データを取得するために使用されたＭＴシステム（原文データｘから機械翻訳文データｙを生成するＭＴシステム）の性質が既知であることを前提として訓練用データに対する最適化が行われている。しかしながら実際にＷＱＥシステムを構築する場面においては、処理対象であるＭＴ訳を生成するのに用いられたＭＴシステムの性質が既知とは限らないため、より頑健な学習手法が必要である。
【００１３】
本発明は上記課題に鑑み、人手による処理を行うことなく効率良くＷＱＥ用の訓練用データの作成を行うことができる訓練用データ生成装置、訓練用データ生成方法を実現し、さらに、処理対象であるＭＴ訳の性質、ひいてはそのような訳を生成するＭＴシステムの振る舞い)の不確定性をふまえた上で、人手による処理を介さず全自動で生成された訓練用データを用いて高精度な語レベル信頼度推定を可能とする語レベル信頼度推定装置、およびそれに用いられる最適パラメータ取得装置、最適パラメータ取得方法を実現することを目的とする。
【００１４】
また本発明は、訓練用データ生成装置と語レベル信頼度推定装置とを備える語レベル信頼度推定システムや最適パラメータ取得装置を実現することを目的とする。
【課題を解決するための手段】
【００１５】
上記課題を解決するために第１の発明は、データ入力部と、機械翻訳部と、タグ系列取得部と、訓練用データ取得部と、を備える訓練用データ生成装置である。
【００１６】
データ入力部は、原文データおよび当該原文データに対応する対訳データを入力するための機能部である。
【００１７】
機械翻訳部は、原文データに対して機械翻訳処理を行い、機械翻訳文データを取得する。
タグ系列取得部は、対訳データと機械翻訳文データとに基づいて機械翻訳文データの語レベルの適否を示すタグ系列データを取得する。
【００１８】
訓練用データ取得部は、原文データと対訳データとタグ系列データとを含む訓練用データを取得する。
【００１９】
この訓練用データ生成装置では、人手による処理を行うことなく全自動で訓練用データを取得することができる。この訓練用データ生成装置に入力するデータは、原文データとその対訳データを含むものであればよいので、既存の対訳コーパスデータを活用することができる。既存の対訳コーパスデータは大量に存在するため、このような対訳コーパスデータをこの訓練用データ生成装置に入力することで、この訓練用データ生成装置１において大量の訓練用データを効率良く取得することができる。
【００２０】
第２の発明は、原文データｘと、原文データｘに対して機械翻訳処理することで取得された機械翻訳文データｙと、原文データｘに対応する対訳データｒと機械翻訳文データｙとに基づいて取得された機械翻訳文データｙの語レベルの適否を示すタグ系列データｔとに基づいて、
（１）原文データｘから機械翻訳文データｙを生成するＭＴシステムであってＭＴシステム用パラメータθ１により特性が決定されるＭＴシステムを最適化するとともに、（２）原文データｘと機械翻訳文データｙの組に対してタグ系列データｔを推定するＷＱＥシステムであってＷＱＥシステム用パラメータθ２により特性が決定されるＷＱＥシステムを最適化する最適パラメータ取得装置である。最適パラメータ取得装置は、最適パラメータ取得部を備える。
【００２１】
最適パラメータ取得部は、原文データｘと、機械翻訳文データｙと、タグ系列データｔとを組み合わせたデータを収納するコーパスをコーパスＤ１とし、
原文データｘに対応する対訳データｒとを組み合わせたデータを収納するコーパスをコーパスＤ２とし、目的関数ｆ０（Ｄ１，Ｄ２）を
2018041184.tif 000003
＜ｘ，ｙ，ｔ＞∈Ｄ１
＜ｘ，ｒ＞∈Ｄ２
とすると、目的関数ｆ０（Ｄ１，Ｄ２）が最適化されるときのパラメータθ１、θ２の組データ＜θ１＿ｏ，θ２＿ｏ＞を取得する。
【００２２】
この最適パラメータ取得装置では、機械翻訳文データｙ自体を不確定な要素（隠れ変数）とみなし、
（１）原文データｘから機械翻訳文データｙを生成するＭＴシステム、および
（２）原文データｘと機械翻訳文データｙの組に対してタグ系列データｔを推定するＷＱＥシステム、
の２つを最適化する処理を行うことができる。したがってこの最適パラメータ取得装置により取得したパラメータにより構築されたＷＱＥシステムを用いて、入力データ（＜原文データｘ、機械翻訳文データｙ＞）を処理することで、精度の高いタグ系列データｔを取得することができる。
【００２３】
第３の発明は、第２の発明であって、最適パラメータ取得部は、正規化項Ω（θ１）を取得する正規化項取得部と、正規化項Ω（θ１）を最適化するＭＴシステム用パラメータθ１を最適第１パラメータθ１_optとして取得する第１目的関数算出部と、を備える。
【００２４】
この最適パラメータ取得装置では、正規化項Ω（θ１）を算出することで、正規化項Ω（θ１）を最適化する最適第１パラメータθ１_optを取得することができる。したがって、この最適パラメータ取得装置では、少ない演算量で（小さい計算コストで）最適第１パラメータθ１_optを取得することができる。
【００２５】
第４の発明は、第２の発明であって、第２目的関数算出部をさらに備える。
【００２６】
第２目的関数算出部は、目的関数ｆ１（Ｄ１，θ１_opt，ｎ）を
2018041184.tif 000004
Δθ１_opt，ｎ（ｘｋ）：ＭＴシステムのパラメータをθ１_optとしたときの原文データｘｋに対する翻訳文データｙのうち最適解からｎ番目に良い解までのｎ個（ｎ：自然数）の翻訳文データの集合
に設定し、目的関数ｆ１（Ｄ１，θ１_opt，ｎ）の値を最適値とするＷＱＥシステム用パラメータθ２を最適第２パラメータθ２_optとして取得する。
【００２７】
この最適パラメータ取得装置では、機械翻訳文データｙ自体を不確定な要素（隠れ変数）とみなし、
（１）原文データｘから機械翻訳文データｙを生成するＭＴシステム、および
（２）原文データｘと機械翻訳文データｙの組に対してタグ系列データｔを推定するＷＱＥシステム、
の２つを最適化する処理を行うことができる。したがって、この最適パラメータ取得装置により取得したパラメータにより構築されたＷＱＥシステムを用いて、入力データ（＜原文データｘ、機械翻訳文データｙ＞）を処理することで、精度の高いタグ系列データｔを取得することができる。
【００２８】
さらに、この最適パラメータ取得装置では、目的関数ｆ１（Ｄ１，θ１_opt，ｎ）の最適化処理をｎベスト解のみを用いて処理を行うため、パラメータ最適化処理の演算量をさらに低減することができる。
【００２９】
第５の発明は、データ入力ステップと、機械翻訳ステップと、タグ系列取得ステップと、訓練用データ取得ステップと、を備える訓練用データ生成方法である。
【００３０】
データ入力ステップは、原文データおよび当該原文データに対応する対訳データを入力する。
【００３１】
機械翻訳ステップは、原文データに対して機械翻訳処理を行い、機械翻訳文データを取得する。
【００３２】
タグ系列取得ステップは、対訳データと機械翻訳文データとに基づいて機械翻訳文データの語レベルの適否を示すタグ系列データを取得する。
【００３３】
訓練用データ取得ステップは、原文データと対訳データとタグ系列データとを含む訓練用データを取得する。
【００３４】
これにより、第１の発明と同様の効果を奏する訓練用データ生成方法を実現することができる。
【００３５】
第６の発明は、原文データｘと、原文データｘに対して機械翻訳処理することで取得された機械翻訳文データｙと、原文データｘに対応する対訳データｒと機械翻訳文データｙとに基づいて取得された機械翻訳文データｙの語レベルの適否を示すタグ系列データｔとに基づいて、
（１）原文データｘから機械翻訳文データｙを生成するＭＴシステムであってＭＴシステム用パラメータθ１により特性が決定されるＭＴシステムを最適化するとともに、（２）原文データｘと機械翻訳文データｙの組に対してタグ系列データｔを推定するＷＱＥシステムであってＷＱＥシステム用パラメータθ２により特性が決定されるＷＱＥシステムを最適化する最適パラメータ取得方法である。最適パラメータ取得方法は、最適パラメータ取得ステップを備える。
【００３６】
最適パラメータ取得ステップは、原文データｘと、機械翻訳文データｙと、タグ系列データｔとを組み合わせたデータを収納するコーパスをコーパスＤ１とし、
原文データｘに対応する対訳データｒとを組み合わせたデータを収納するコーパスをコーパスＤ２とし、目的関数ｆ０（Ｄ１，Ｄ２）を
2018041184.tif 000005
＜ｘ，ｙ，ｔ＞∈Ｄ１
＜ｘ，ｒ＞∈Ｄ２
とすると、目的関数ｆ０（Ｄ１，Ｄ２）が最適化されるときのパラメータθ１、θ２の組データ＜θ１＿ｏ，θ２＿ｏ＞を取得する。
【００３７】
これにより、第２の発明と同様の効果を奏する最適パラメータ取得方法を実現することができる。
【発明の効果】
【００３８】
本発明によれば、人手による処理を行うことなく効率良くＷＱＥ用の訓練用データの作成を行うことができる訓練用データ生成装置、訓練用データ生成方法を実現させ、さらに、処理対象であるＭＴ訳の性質の不確定性をふまえた上で、人手による処理を介さず全自動で生成された訓練用データを用いて高精度な語レベル信頼度推定を可能とする語レベル信頼度推定装置、およびそれに用いられる最適パラメータ取得装置、最適パラメータ取得方法を実現することができる。
【００３９】
また、本発明によれば、訓練用データ生成装置と語レベル信頼度推定装置とを備える語レベル信頼度推定システムや最適パラメータ取得装置を実現することができる。
【図面の簡単な説明】
【００４０】
【図１】第１実施形態に係る語レベル信頼度推定システム１０００の概略構成図。
【図２】第１実施形態に係る訓練用データ生成装置１の概略構成図。
【図３】第１実施形態に係る語レベル信頼度推定装置２の概略構成図。
【図４】タグ系列取得部１３で実行される処理を説明するための図。
【図５】第２実施形態に係る語レベル信頼度推定システム２０００の概略構成図。
【図６】第２実施形態に係る語レベル信頼度推定装置２Ａの概略構成図。
【図７】ＣＰＵバス構成を示す図。
【図８】従来技術による訓練用データ取得システム９０００の概略構成図。
【発明を実施するための形態】
【００４１】
［第１実施形態］
第１実施形態について、図面を参照しながら、以下説明する。
【００４２】
＜１．１：語レベル信頼度推定システムの構成＞
図１は、第１実施形態に係る語レベル信頼度推定システム１０００の概略構成図である。
【００４３】
図２は、第１実施形態に係る訓練用データ生成装置１の概略構成図である。
【００４４】
図３は、第１実施形態に係る語レベル信頼度推定装置２の概略構成図である。
【００４５】
語レベル信頼度推定システム１０００は図１に示すように、訓練用データ生成装置１と、語レベル信頼度推定装置２と、訓練用データ格納部ＤＢ１と、を備える。
【００４６】
訓練用データ生成装置１は図２に示すように、データ入力部１１と、機械翻訳部１２と、ＭＴ用データ格納部ＤＢ１２と、タグ系列取得部１３と、訓練用データ取得部１４と、を備える。
【００４７】
データ入力部１１は図２に示すように、入力ＩＦ（インターフェース）１１１と、原文データ取得部１１２と、対訳データ取得部１１３と、を備える。
【００４８】
入力ＩＦ１１１は、入力データＤｉｎを入力するためのインターフェースである。入力データＤｉｎは、（１）原文データｘと、（２）原文データｘの対訳データ（翻訳データ）ｒとを含む。入力ＩＦ１１１は、例えば入力ＩＦ１１１を制御する制御部（不図示）により生成される入出力制御信号に基づいて入力データＤｉｎの一部または全部を、原文データ取得部１１２、および／または、対訳データ取得部１１３に出力する。
【００４９】
原文データ取得部１１２は、入力ＩＦ１１１から出力されるデータを入力とし、当該データから原文データｘを取得し、機械翻訳部１２および訓練用データ取得部１４に出力する。
【００５０】
対訳データ取得部１１３は、入力ＩＦ１１１から出力されるデータを入力とし、当該データから対訳データｒを取得し、取得した対訳データｒをタグ系列取得部１３に出力する。
【００５１】
機械翻訳部１２は、原文データ取得部１１２から出力される原文データｘを入力する。また機械翻訳部１２は、ＭＴ用データ格納部ＤＢ１２にアクセスできるように接続されており、所定のタイミングでＭＴ用データ格納部ＤＢ１２のデータの読み出しを行うことができる。機械翻訳部１２は、原文データｘに対して機械翻訳処理を行い、機械翻訳文データｙを取得し、タグ系列取得部１３および訓練用データ取得部１４に出力する。
【００５２】
なお「機械翻訳処理」とは、第１言語のデータである原文データｘを第１言語とは異なる言語である第２言語のデータｙに翻訳（変換）する処理のことをいう。
【００５３】
ＭＴ用データ格納部ＤＢ１２は、機械翻訳処理に使用するデータを格納するためのデータ記憶部であり、機械翻訳部１２と接続されている。ＭＴ用データ格納部ＤＢ１２では、機械翻訳部１２からの指示に従って格納されているデータの読み出しの処理が実行される。
【００５４】
タグ系列取得部１３は、機械翻訳部１２から出力される機械翻訳文データｙと、対訳データ取得部１１３から出力される対訳データｒとを入力する。タグ系列取得部１３は、機械翻訳文データｙと対訳データｒとを比較し異なる語を特定し、例えば異なる語に「ＢＡＤ」というタグを付し、それ以外の語には「ＯＫ」というタグを付すことでタグ系列データｔを取得する。なおタグ系列データは、数値化したデータ列としてもよい。タグ系列取得部１３は、例えば、「ＢＡＤ」というタグを付したことを「１」で示し、「ＯＫ」というタグを付したことを「０」で示すことで数値化し、タグ系列データを数値化したデータ列として取得するようにしてもよい。
【００５５】
タグ系列取得部１３は、取得したタグ系列データｔを訓練用データ取得部１４に出力する。
【００５６】
訓練用データ取得部１４は、原文データ取得部１１２から出力される原文データｘと、機械翻訳部１２から出力される機械翻訳文データｙと、タグ系列取得部１３から出力されるタグ系列データｔとを入力する。訓練用データ取得部１４は、原文データｘと、機械翻訳文データｙと、タグ系列データｔとを１組の訓練用データＤａｔａ１として出力し訓練用データ格納部ＤＢ１に格納する。
【００５７】
訓練用データ格納部ＤＢ１は、訓練用データを格納するためのデータ記憶部である。訓練用データ格納部ＤＢ１には、訓練用データ生成装置１により生成された訓練用データＤａｔａ１を格納することができる。また、訓練用データ格納部ＤＢ１に格納されている訓練用データは、語レベル信頼度推定装置２から取り出すことができる。
【００５８】
語レベル信頼度推定装置２は図３に示すように、最適パラメータ取得部２１（最適パラメータ取得装置）と、タグ系列推定部２２と、対訳コーパスデータ格納部ＤＢ２１と、を備える。
【００５９】
最適パラメータ取得部２１は、第１パラメータ調整部２１１と、正規化項取得部２１２と、第２パラメータ調整部２１３と、目的関数算出部２１４とを備える。
【００６０】
第１パラメータ調整部２１１は、原文データｘを入力したとき機械翻訳文データｙを出力するＭＴシステムのパラメータである第１パラメータθ１を目的関数算出部２１４および正規化項取得部２１２に出力する。
【００６１】
正規化項取得部２１２は、対訳コーパスデータ格納部ＤＢ２１とアクセスできるように接続されている。また、正規化項取得部２１２は、第１パラメータ調整部２１１から出力される第１パラメータθ１を入力する。正規化項取得部２１２は、対訳コーパスデータ格納部ＤＢ２１に格納されている対訳コーパスデータに基づいて、第１パラメータθ１の正規化項データΩ（θ１）を取得する。そして、正規化項取得部２１２は、取得した正規化項データΩ（θ１）を目的関数算出部２１４に出力する。
【００６２】
第２パラメータ調整部２１３は、原文データｘと、それに対応する機械翻訳文データｙとを入力したときにタグ系列データｔを出力するＷＱＥシステムのパラメータである第２パラメータθ２を目的関数算出部２１４に出力する。
【００６３】
目的関数算出部２１４は、訓練用データ格納部ＤＢ１から訓練用データを訓練用データＤａｔａ２（＝＜ｘ，ｙ，ｔ＞）として取得する。また、目的関数算出部２１４は、第１パラメータ調整部２１１から出力される第１パラメータθ１と、正規化項取得部２１２から出力される正規化項データΩ（θ１）と、第２パラメータ調整部２１３から出力される第２パラメータθ２とを入力する。目的関数算出部２１４は、第１パラメータθ１と、第２パラメータθ２と、正規化項データΩ（θ１）とにより目的関数の値を算出し、目的関数の値が最適化されるときの第１パラメータθ１および第２パラメータθ２の組データ＜θ１＿ｏ，θ２＿ｏ＞を取得する。そして、目的関数算出部２１４は、取得した第２パラメータθ２＿ｏを最適第２パラメータθ２_optとしてタグ系列推定部２２に出力する。
【００６４】
タグ系列推定部２２では、目的関数算出部２１４から出力される最適第２パラメータθ２_optに基づいて、タグ系列推定部２２のタグ系列の推定処理を行うためのシステムモデルが構築される。タグ系列推定部２２は、原文データｘ’と機械翻訳文データｙ’とを含むデータＤａｔａ＿ｉｎを入力する。そして、タグ系列推定部２２は、入力されたデータＤａｔａ＿ｉｎの原文データｘ’と機械翻訳文データｙ’とから、最適第２パラメータθ２_optに基づいて構築されたモデルにより、タグ系列の推定処理を実行する。そして、タグ系列推定部２２は、上記推定処理により取得されたタグ系列データｔ’を出力データＤａｔａ＿ｏｕｔとして出力する。
【００６５】
＜１．２：語レベル信頼度推定システムの動作＞
以上のように構成された語レベル信頼度推定システム１０００の動作について、図面を参照しながら以下説明する。以下では語レベル信頼度推定システム１０００の動作について、訓練用データ生成装置１の動作と語レベル信頼度推定装置２の動作に分けて説明する。
【００６６】
（１．２．１：訓練用データ生成装置１の動作）
まず、訓練用データ生成装置１の動作について説明する。
【００６７】
データ入力部１１の入力ＩＦに（１）原文データｘと、（２）原文データｘの対訳データ（翻訳データ）ｒとを含む入力データＤｉｎが入力される。
【００６８】
原文データ取得部１１２は、入力データＤｉｎから原文データｘを取得し、機械翻訳部１２および訓練用データ取得部１４に出力する。
【００６９】
対訳データ取得部１１３は、入力データＤｉｎから対訳データｒを取得し、取得した対訳データｒをタグ系列取得部１３に出力する。
【００７０】
機械翻訳部１２は、ＭＴ用データ格納部ＤＢ１２に格納されているＭＴ用データを参照しながら原文データｘに対して機械翻訳処理を行い、原文データｘの機械翻訳文データｙを取得する。そして、機械翻訳部１２は、取得した機械翻訳文データｙをタグ系列取得部１３および訓練用データ取得部１４に出力する。
【００７１】
タグ系列取得部１３は、機械翻訳部１２から出力される機械翻訳文データｙと、対訳データ取得部１１３から出力される対訳データｒとを比較し異なる語を特定し、例えば異なる語に「ＢＡＤ」というタグを付し、それ以外の語には「ＯＫ」というタグを付すことでタグ系列データｔを取得する。一例について、図４を用いて説明する。
【００７２】
図４は、タグ系列取得部１３で実行される処理を説明するための図である。
【００７３】
図４の場合、機械翻訳部１２が原文データｘである「あなたは２２時までにチェックインする必要があります。」というデータを機械翻訳し、機械翻訳文データｙとして「You should check in by twenty two o'clock.」というデータを取得する。そして機械翻訳文データｙがタグ系列取得部１３に入力される。また、対訳データｒ「You have to check in by 22:00.」がデータ入力部１１の対訳データ取得部１１３からタグ系列取得部１３に入力される。
【００７４】
タグ系列取得部１３は、図４に示すように、機械翻訳文データｙと対訳データｒとを比較し、比較結果Ｒｃｍｐを取得する。図４において、比較結果Ｒｃｍｐの「＝」、「Ｓｕｂ」、「Ｄｅｌ」および「Ｉｎｓ」の意味は以下の通りである。
【００７５】
「＝」は、機械翻訳文データｙと対訳データｒとにおいて対応する語が一致していることを示している。
【００７６】
「Ｓｕｂ」は、機械翻訳文データｙと対訳データｒとにおいて対応する語が相違していることを示している。
【００７７】
「Ｄｅｌ」は、機械翻訳文データｙと対訳データｒとにおいて語の対応関係が相違しており、かつ、対訳データｒに存在する語に対応する語が機械翻訳文データｙに存在しないことを示している。
【００７８】
「Ｉｎｓ」は、機械翻訳文データｙと対訳データｒとにおいて語の対応関係が相違しており、かつ、機械翻訳文データｙに存在する語に対応する語が対訳データｒに存在しないことを示している。
【００７９】
タグ系列取得部１３は、取得した比較結果Ｒｃｍｐに基づいて、比較結果Ｒｃｍｐが「＝」である機械翻訳文データｙの語のラベルを「ＯＫ」に設定し、比較結果Ｒｃｍｐが「＝」ではない（比較結果Ｒｃｍｐが「Ｓｕｂ」、「Ｄｅｌ」または「Ｉｎｓ」である）機械翻訳文データｙの語のラベルを「ＢＡＤ」に設定する。
【００８０】
このようにして、タグ系列取得部１３は、タグ系列データｔを取得する。そしてタグ系列取得部１３により取得されたタグ系列データｔは、タグ系列取得部１３から訓練用データ取得部１４に出力される。
【００８１】
訓練用データ取得部１４は、原文データｘと、それに対応する機械翻訳文データｙおよびタグ系列データｔとを１組の訓練用データＤａｔａ１として訓練用データ格納部ＤＢ１に格納する。
【００８２】
以上のように、訓練用データ生成装置１では、人手による処理を行うことなく全自動で訓練用データＤａｔａ１を取得することができる。訓練用データ生成装置１に入力するデータは、原文データｘとその対訳データｒを含むものであればよいので、既存の対訳コーパスデータを活用することができる。既存の対訳コーパスデータは大量に存在するため、このような対訳コーパスデータを訓練用データ生成装置１に入力することで、訓練用データ生成装置１では、大量の訓練用データを効率良く取得することができる。
【００８３】
（１．２．２：語レベル信頼度推定装置２の動作）
次に、語レベル信頼度推定装置２の動作について説明する。
【００８４】
≪語レベル信頼度推定方法≫
語レベル信頼度推定装置２で実行される語レベル信頼度推定方法について説明する。
【００８５】
語レベル信頼度推定装置２では、機械翻訳文データｙ自体を不確定な要素（隠れ変数）とみなし、
（１）原文データｘから機械翻訳文データｙを生成するＭＴシステム、および
（２）原文データｘと機械翻訳文データｙの組に対してタグ系列データｔを推定するＷＱＥシステム
の２つを、最大マージン尤度推定(Maximum Marginal Likelihood Estimation（M2LE）)によって最適化する処理を行う。
【００８６】
最適化の目的関数は次式のように表される。
【数１】
2018041184.tif 000006
Ｐ（）は確率密度関数を表している。
【００８７】
ここで、Δ（ｘｋ）は対訳コーパスＤ中のｋ番目の原文ｘｋに対するあらゆるＭＴ訳（機械翻訳データ）の集合、ｔｋ，ｊはｘｋに対する模範訳ｒｋおよびｊ番目のＭＴ訳ｙｋ，ｊから訓練用データ生成装置１で実行される処理（手法）で得られるタグ系列を表す。θはパラメータである。パラメータθは、スカラー、ベクトル、またはテンソルである。まず、（数式１）中の同時確率を次式のように分解する。
【数２】
2018041184.tif 000007
この式の第１因子は原文のモデル、第２因子はＭＴシステムのモデル（以下「ＭＴモデル」という）、第３因子はＷＱＥシステムのモデル（以下「ＷＱＥモデル」という）を表す。パラメータもθ＝（θｏｒｇ，θ１，θ２）に分解されている。パラメータθｏｒｇ，θ１，θ２は、それぞれ、スカラー、ベクトル、またはテンソルである。原文モデルは所与の訓練用データから次式で推定する。
【数３】
2018041184.tif 000008
なお、δ（ｘ，ｘｋ）はデルタ関数であり、ｘ＝ｘｋのとき値１をとり、それ以外のときは値０をとる。
【００８８】
（数式２）および（数式３）を（数式１）に代入して変形すると次式を得る。
【数４】
2018041184.tif 000009
上式において、Ｃは定数である。定数ＣはＮ個の原文ｘ（原文データｘ）に重複がない場合、「ＮｌｏｇＮ」となる。なお上式において、第２項は定数であるので以下では省略する。
【００８９】
さて、最適化の対象であるＭＴモデルのパラメータθ１およびＷＱＥモデルのパラメータθ２を同時に最適化することを考える場合、パラメータθ１の最適化が不適切だった場合に、全体としての最適化に失敗する。例えば、ＭＴモデルの性能が著しく低く、任意の入力に対して正しい訳を１語も含まない出力しかしない場合、タグ系列ｔも「ＢＡＤ」のみで構成されることになり、ＷＱＥ用の訓練用データとしては全く意味をなさない。
【００９０】
そこで、語レベル信頼度推定装置２では、ＭＴシステムの訳ｙは隠れ変数としており、明示的な情報は与えられない。その代わり、対訳コーパスを用い、その中の（原文ｘ，参照訳ｒ）の組の再現性を考慮する。言い換えれば、人間による対訳をできる限り忠実に再現するようにＭＴシステムのモデルを学習する。ただし、過学習を避けるために、（数式２）の第２因子の学習に参照していない別の対訳コーパスＤ２を用いることが好ましい。ＭＴシステムのモデルの対訳コーパスＤ２に対する適合度合いΩ（θ１）を、正規化項として導入すると、最適化の目的関数は次式のようになる。
【数５】
2018041184.tif 000010
（数式５）にはｌｏｇΣが含まれるため、最適化の過程における勾配計算が困難である。
【００９１】
そこで、語レベル信頼度推定装置２では、次式で表される、目的関数の下限を最適化する処理を行う。
【数６】
2018041184.tif 000011
つまり、（数式６）が、語レベル信頼度推定装置２において実行される最適化処理の目的関数の最終形である。Jensenの不等式より、（数式５）の値は常に（数式６）以上となる。
【００９２】
（数式６）におけるパラメータθ１、θ２の同時最適化は、例えば、ＭＴモデルのパラメータθ１の最適化とＷＱＥモデルのパラメータθ２の最適化を、ＥＭアルゴリズムによって交互に行うことで実現できる。
【００９３】
なお、上記で説明した表記法は以下でも同様に用いる。
【００９４】
≪語レベル信頼度推定装置２の具体的動作≫
上記に基づく語レベル信頼度推定装置２の具体的動作について、以下説明する。
【００９５】
最適パラメータ取得部２１の目的関数算出部２１４は、訓練用データ格納部ＤＢ１から訓練用データを訓練用データＤａｔａ２（＝（ｘ，ｙ，ｔ））として取得する。
【００９６】
なお、目的関数算出部２１４が訓練用データ格納部ＤＢ１から取得するデータにおいて、ｋ番目（ｋ：自然数）の原文データをｘｋと表記し、訓練用データ格納部ＤＢ１に格納されている原文データｘｋに対する機械翻訳文データの集合をΔ（ｘｋ）と表記する。
【００９７】
また、原文データｘｋに対する対訳データをｒｋと表記する。
【００９８】
また、原文データｘｋに対するｊ番目（ｊ：自然数）の機械翻訳文データをｙｋ，ｊと表記する。なお、原文データｘｋに対する機械翻訳文データの数をｎｕｍ（ｘｋ）とすると、ｊ≦ｎｕｍ（ｘｋ）である。
【００９９】
また、原文データｘｋに対する対訳データ（模範訳）ｒｋと、原文データｘｋに対するｊ番目の機械翻訳文データをｙｋ，ｊとから取得され、訓練用データ格納部ＤＢ１に格納されているタグ系列データをｔｋ、ｊと表記する。
【０１００】
また、訓練用データ格納部ＤＢ１が格納している原文データｘ、機械翻訳文データｙ、タグ系列データｔの組データ＜ｘ，ｙ，ｔ＞の集合データ（コーパス）をコーパスＤ１とし、コーパスＤ１に含まれる任意の原文データｘ、機械翻訳文データｙ、タグ系列データｔの組データ＜ｘ，ｙ，ｔ＞を、
＜ｘ，ｙ，ｔ＞∈Ｄ１
と表記する。
【０１０１】
また対訳コーパスデータ格納部ＤＢ２が格納している原文データｘ、対訳データｒの組データ＜ｘ，ｒ＞の集合データ（コーパス）をコーパスＤ２とし、コーパスＤ２に含まれる任意の原文データｘ、対訳データｒの組データ＜ｘ，ｒ＞を、
＜ｘ，ｒ＞∈Ｄ２
と表記する。
【０１０２】
以下では説明便宜のために、原文データｘがＮ個（Ｎ：自然数）のデータからなり、原文データｘｋ（ｋ：自然数）についての対訳データｒ、タグ系列データｔが、それぞれＭｋ個（Ｍｋ：自然数）存在する場合を例に説明する。つまり語レベル信頼度推定装置２において、以下のようなデータ（コーパスＤ１に含まれるデータ＜ｘ，ｙ，ｔ＞およびコーパスＤ２に含まれるデータ＜ｘ，ｒ＞）を処理する場合について説明する。
【０１０３】
（Ａ）データ＜ｘ，ｙ，ｔ＞（∈Ｄ１）
≪ｘ１に対するＭ１個の翻訳文データｙおよびタグ系列データｔ≫
＜ｘ１，ｙ１，１，ｔ１，１＞
＜ｘ１，ｙ１，２，ｔ１，２＞
＜ｘ１，ｙ１，３，ｔ１，３＞
・・・
＜ｘ１，ｙ１，Ｍ１，ｔ１，Ｍ１＞
≪ｘ２に対するＭ２個の翻訳文データｙおよびタグ系列データｔ≫
＜ｘ２，ｙ２，１，ｔ２，１＞
＜ｘ２，ｙ２，２，ｔ２，２＞
＜ｘ２，ｙ２，３，ｔ２，３＞
・・・
＜ｘ２，ｙ２，Ｍ２，ｔ２，Ｍ２＞
≪ｘｋに対するＭｋ個の翻訳文データｙおよびタグ系列データｔ≫
＜ｘｋ，ｙｋ，１，ｔｋ，１＞
＜ｘｋ，ｙｋ，２，ｔｋ，２＞
＜ｘｋ，ｙｋ，３，ｔｋ，３＞
・・・
＜ｘｋ，ｙｋ，Ｍｋ，ｔｋ，Ｍｋ＞
≪ｘＮに対するＭＮ個の翻訳文データｙおよびタグ系列データｔ≫
＜ｘＮ，ｙＮ，１，ｔＮ，１＞
＜ｘＮ，ｙＮ，２，ｔＮ，２＞
＜ｘＮ，ｙＮ，３，ｔＮ，３＞
・・・
＜ｘＮ，ｙＮ，ＭＮ，ｔＮ，ＭＮ＞
（Ｍ１、Ｍ２、Ｍｋ、ＭＮ：自然数）
（Ｂ）データ＜ｘ，ｒ＞（∈Ｄ２）
≪ｘ１に対するＰ１個の対訳データｒ≫
＜ｘ１，ｒ１，１＞
＜ｘ１，ｒ１，２＞
＜ｘ１，ｒ１，３＞
・・・
＜ｘ１，ｒ１，Ｐ１＞
≪ｘ２に対するＰ２個の翻訳文データｙおよびタグ系列データｔ≫
＜ｘ２，ｒ２，１＞
＜ｘ２，ｒ２，２＞
＜ｘ２，ｒ２，３＞
・・・
＜ｘ２，ｒ２，Ｐ２＞
≪ｘｋに対するＰｋ個の翻訳文データｙおよびタグ系列データｔ≫
＜ｘｋ，ｒｋ，１＞
＜ｘｋ，ｒｋ，２＞
＜ｘｋ，ｒｋ，３＞
・・・
＜ｘｋ，ｒｋ，Ｐｋ＞
≪ｘＮに対するＰＮ個の翻訳文データｙおよびタグ系列データｔ≫
＜ｘＮ，ｒＮ，１＞
＜ｘＮ，ｒＮ，２＞
＜ｘＮ，ｒＮ，３＞
・・・
＜ｘＮ，ｒＮ，ＰＮ＞
（Ｐ１、Ｐ２、Ｐｋ、ＰＮ：自然数）
目的関数算出部２１４は、以下の数式で表される関数ｆ０（Ｄ１，Ｄ２）（＜ｘ，ｙ，ｔ＞∈Ｄ１、＜ｘ，ｒ＞∈Ｄ２）を最適化の目的関数に設定する。
【数７】
2018041184.tif 000012
正規化項取得部２１２は、対訳コーパスデータ格納部ＤＢ２１に格納されている対訳コーパスデータ＜原文データｘ、対訳データｒ＞（対訳コーパスデータＤ２）に基づいて、第１パラメータθ１の正規化項データΩ（θ１）を以下の数式に相当する処理により取得する。
【数８】
2018041184.tif 000013
つまり正規化項取得部２１２は、対訳コーパスデータＤ２に含まれる全ての＜原文データｘ、対訳データｒ＞についての対数確率密度関数ｌｏｇＰ（ｒ｜ｘ：θ１）を加算することで、正規化項データΩ（θ１）を取得する。なお第１パラメータθ１は、ＭＴモデルのパラメータである。
【０１０４】
正規化項取得部２１２は、上記のようにして取得した正規化項データΩ（θ１）を目的関数算出部２１４に出力する。
【０１０５】
目的関数算出部２１４は、正規化項データΩ（θ１）を用いて目的関数ｆ０の値を算出する。
【０１０６】
目的関数ｆ０におけるにおけるパラメータθ１、θ２の同時最適化は、例えば、ＭＴモデルのパラメータθ１（第１パラメータθ１）の最適化とＷＱＥモデルのパラメータθ２（第２パラメータθ２）の最適化を、例えば、ＥＭアルゴリズムによって交互に行うことで実現できる。
【０１０７】
目的関数算出部２１４は、ＥＭアルゴリズムにより順次調整される、第１パラメータ調整部２１１から出力されるパラメータθ１と第２パラメータ調整部２１３から出力されるパラメータθ２とを用いて目的関数ｆ０の値を算出し、目的関数ｆ０の値が最適な値となったときのＭＴモデルのパラメータθ１（第１パラメータθ１）とＷＱＥモデルのパラメータθ２（第２パラメータθ２）との組データ＜θ１＿ｏ，θ２＿ｏ＞を取得する。そして、目的関数算出部２１４は、取得した第２パラメータθ２＿ｏを最適第２パラメータθ２_optとしてタグ系列推定部２２に出力する。
【０１０８】
タグ系列推定部２２では、最適パラメータ取得部２１の目的関数算出部２１４から出力された最適第２パラメータθ２_opt（ＷＱＥモデルの最適パラメータθ２）に基づくＷＱＥモデルが構築される。つまり、タグ系列推定部２２は、最適第２パラメータθ２_optにより特定される特性を有するＷＱＥモデルが構築されている状態となる。
【０１０９】
タグ系列推定部２２では、入力データＤａｔａ＿ｉｎ（＜原文データｘ’、機械翻訳文データｙ’＞）に対して、上記第２パラメータθ２_optにより設定されたＷＱＥモデルを用いた処理が実行され、タグ系列データｔ’が取得される。そして、タグ系列推定部２２は、取得したタグ系列データｔ’を出力データＤａｔａ＿ｏｕｔとして出力する。
【０１１０】
以上のように語レベル信頼度推定装置２では、機械翻訳文データｙ自体を不確定な要素（隠れ変数）とみなし、
（１）原文データｘから機械翻訳文データｙを生成するＭＴシステム、および
（２）原文データｘと機械翻訳文データｙの組に対してタグ系列データｔを推定するＷＱＥシステム
の２つを最適化する処理を行う。
【０１１１】
そして語レベル信頼度推定装置２では、ＭＴシステムとＷＱＥシステムを最適化したときのパラメータを用いて構築したＷＱＥシステムに基づく処理を行うタグ系列推定部２２により、入力データＤａｔａ＿ｉｎ（＜原文データｘ’、機械翻訳文データｙ’＞）を処理することで、精度の高いタグ系列データｔを取得することができる。つまり、語レベル信頼度推定装置２では、入力データＤａｔａ＿ｉｎ（＜原文データｘ’、機械翻訳文データｙ’＞）から、それに対応する精度の高いタグ系列データｔを取得することができるので、高精度な語レベル信頼度推定が可能となる。
【０１１２】
以上の通り、語レベル信頼度推定システム１０００では、訓練用データ生成装置１により、人手による処理を行うことなく効率良くＷＱＥ用の訓練用データの作成を行うことができ、さらに、語レベル信頼度推定装置２により、処理対象であるＭＴ訳の性質(ひいてはそのような訳を生成するＭＴシステムの振る舞い)の不確定性をふまえた上で、人手による処理を介さず全自動で生成された訓練用データを用いて高精度な語レベル信頼度推定が可能となる。
【０１１３】
［第２実施形態］
次に第２実施形態について説明する。
【０１１４】
なお第１実施形態と同様の部分については、同一符号を付し詳細な説明を省略する。
【０１１５】
＜２．１：語レベル信頼度推定システムの構成＞
図５は、第２実施形態に係る語レベル信頼度推定システム２０００の概略構成図である。
【０１１６】
図６は、第２実施形態に係る語レベル信頼度推定装置２Ａの概略構成図である。
【０１１７】
第２実施形態の語レベル信頼度推定システム２０００は、図５に示すように、第１実施形態の語レベル信頼度推定システム１０００において、語レベル信頼度推定装置２を語レベル信頼度推定装置２Ａに置換した構成を有している。
【０１１８】
語レベル信頼度推定装置２Ａは、図６に示すように、第１実施形態の最適パラメータ取得部２１を最適パラメータ取得部２１Ａに置換した構成を有している。
【０１１９】
最適パラメータ取得部２１Ａは、図６に示すように、第１パラメータ調整部２１１と、正規化項取得部２１２と、第１目的関数算出部２１５と、第２パラメータ調整部２１３と、第２目的関数算出部２１６と、を備える。
【０１２０】
第１目的関数算出部２１５は、訓練用データ格納部ＤＢ１から訓練用データを訓練用データＤａｔａ２（＝＜ｘ，ｙ，ｔ＞）として取得する。また第１目的関数算出部２１５は、第１パラメータ調整部２１１から出力される第１パラメータθ１と、正規化項取得部２１２から出力される正規化項データΩ（θ１）とを入力する。第１目的関数算出部２１５は、第１パラメータθ１と、正規化項データΩ（θ１）とにより第１目的関数の値を算出し、第１目的関数の値が最適化されるときの第１パラメータθ１を最適第１パラメータθ１＿ｏｐｔとして取得する。そして、第１目的関数算出部２１５は、取得した最適第１パラメータθ１_optを第２目的関数算出部２１６に出力する。
【０１２１】
第２目的関数算出部２１６は、訓練用データ格納部ＤＢ１から訓練用データＤａｔａ２（＝＜ｘ，ｙ，ｔ＞）を入力する。また第２目的関数算出部２１６は、第１目的関数算出部２１５から出力される最適第１パラメータθ１_optと、第２パラメータ調整部２１３から出力される第２パラメータθ２とを入力する。第２目的関数算出部２１６は、最適第１パラメータθ１_optと、第２パラメータθ２とを用いて第２目的関数の値を最適化する第２パラメータθ２を最適第２パラメータθ２_optとして取得する。そして第２目的関数算出部２１６は、取得した最適第２パラメータθ２_optをタグ系列推定部２２に出力する。
【０１２２】
タグ系列推定部２２では、第２目的関数算出部２１６から出力される最適第２パラメータθ２_optに基づいて、タグ系列推定部２２のタグ系列の推定処理を行うためのシステムモデルが構築される。タグ系列推定部２２は、原文データｘ’と機械翻訳文データｙ’とを含むデータＤａｔａ＿ｉｎを入力する。そしてタグ系列推定部２２は、入力されたデータＤａｔａ＿ｉｎの原文データｘ’と機械翻訳文データｙ’とから、最適第２パラメータθ２_optに基づいて構築されたモデルにより、タグ系列の推定処理を実行する。そしてタグ系列推定部２２は、上記推定処理により取得されたタグ系列データｔ’を出力データＤａｔａ＿ｏｕｔとして出力する。
【０１２３】
＜２．２：語レベル信頼度推定システムの動作＞
以上のように構成された語レベル信頼度推定システム２０００の動作について、図面を参照しながら以下説明する。語レベル信頼度推定システム２０００において、訓練用データ生成装置１の動作は、第１実施形態と同じであるので、詳細な説明を省略する。以下では、語レベル信頼度推定装置２Ａの動作について説明する。
【０１２４】
≪語レベル信頼度推定方法≫
語レベル信頼度推定装置２Ａで実行される語レベル信頼度推定方法について説明する。
【０１２５】
本実施形態の語レベル信頼度推定装置２Ａでは、第１実施形態の「語レベル信頼度推定方法」で説明した（数式６）（これを「一般形」という）の特殊形を提示し、その特殊形を用いてパラメータ最適化処理を行う。
【０１２６】
（数式６）の一般形において、Ω（θ１）は不適切な翻訳ばかりが対象にならないように導入した正規化項であり、ＷＱＥ用の訓練データに用いるのとは別の対訳コーパスデータＤ２を用いて次の式で計算される。
【数９】
2018041184.tif 000014
以下、パラメータ最適化処理を現実的な時間で解くための特殊形について説明する。
【０１２７】
まずＭＴモデルのパラメータθ１とＷＱＥモデルのパラメータθ２の両方の同時最適化は、例えば、ＥＭアルゴリズムを用いて両者を交互に最適化することで実現できるが、計算コストが大きい。そこで、ＥＭアルゴリズムを１回だけ実行することを考える。つまり、まずはＭＴモデルのパラメータθ１を最適化し、それからＷＱＥモデルのパラメータθ２の最適化する。ＭＴモデルのパラメータθ１を最適化する際の目的関数は（数式６）である。
【０１２８】
ただし目的関数を（数式６）としてパラメータ最適化処理を行う場合、ＷＱＥモデルのパラメータθ２をランダムに指定すると、誤った方向に学習が進んでしまいかねない。そこで、（数式９）のみを用いて、（数式９）の値を最適にするＭＴモデルのパラメータθ１を求める。
【０１２９】
また目的関数を（数式６）としてパラメータ最適化処理を行う場合、ありとあらゆる翻訳候補Δ（ｘｋ）を考えると計算コストが大きくなりすぎる。そこでΔ（ｘｋ）のうちのｎ個（ｎ：自然数）を対象として、（数式６）の目的関数の値を最適値とするＭＴモデルのパラメータθ１を求める。
【０１３０】
上記のようにして取得したＭＴモデルの最適化パラメータを最適パラメータθ１_optとする。
【０１３１】
ＭＴモデルの最適パラメータθ１_optを取得した後に、ＷＱＥモデルのパラメータθ２を最適化する際の目的関数は、（数式６）の第２項が定数となるため除去し、次のように表される。
【数１０】
2018041184.tif 000015
ここで、ありとあらゆる翻訳候補Δ（ｘｋ）を考えるのは計算コストが大きいので、ＭＴシステムが生成するｎベストの翻訳文データのみを対象とすると、上式は次のように表される。
【数１１】
2018041184.tif 000016
Δθ１_opt，ｎ（ｘｋ）：ＭＴシステムのパラメータをθ１_optとしたときの原文データｘｋに対する翻訳文データｙのうち最適解からｎ番目に良い解までのｎ個（ｎ：自然数）の翻訳文データの集合
さらにｎベストの翻訳文データの扱い方として、上式のように翻訳の尤度Ｐ（ｙｋ，ｊ｜ｘｋ；θ１_opt）を直接参照する方法の他に、ｎベスト（ｎ個）のｙｋをサンプリングし、ｎベスト（ｎ個）のｙｋについての対数確率密度関数ｌｏｇＰ（ｔｋ，ｊ｜ｘｋ，ｙｋ，ｊ；θ２）の総和をとることも考えられる。この場合、ｎ個のサンプルの出現比率がＰ（ｙｋ，ｊ｜ｘｋ；θ１_opt）を近似するので、目的関数は、上式をさらに単純化して次式のように表される。
【数１２】
2018041184.tif 000017
≪語レベル信頼度推定装置２の具体的動作≫
上記に基づく語レベル信頼度推定装置２Ａの具体的動作について、以下説明する。
【０１３２】
正規化項取得部２１２は、対訳コーパスデータ格納部ＤＢ２１に格納されている対訳コーパスデータ＜原文データｘ、対訳データｒ＞（対訳コーパスデータＤ２）に基づいて、第１パラメータθ１の正規化項データΩ（θ１）を以下の数式に相当する処理により取得する。
【数１３】
2018041184.tif 000018
最適パラメータ取得部２１Ａの第１目的関数算出部２１５は、訓練用データ格納部ＤＢ１から訓練用データを訓練用データＤａｔａ２（＝＜ｘ，ｙ，ｔ＞）として取得する。
【０１３３】
第１目的関数算出部２１５は、正規化項取得部２１２から入力したΩ（θ１）を入力し、以下の数式で表される関数ｆ１（Ｄ１，Ｄ２）（＜ｘ，ｙ，ｔ＞∈Ｄ１、＜ｘ，ｒ＞∈Ｄ２）を最適化の目的関数（第１目的関数）に設定する。
【数１４】
2018041184.tif 000019
第１目的関数算出部２１５は、以下の（１）または（２）の方法により、ＭＴシステムの最適パラメータθ１_optを取得する。
（１）第１目的関数算出部２１５は、Ω（θ１）のみを用いて、Ω（θ１）の値を最適にするＭＴモデルのパラメータθ１を求め、ＭＴシステムの最適パラメータθ１_optとして取得する。
（２）（数式１４）において、Δ（ｘｋ）のうちのｎ個（ｎ：自然数）を対象として、（数式１４）の目的関数の値を最適値とするＭＴモデルのパラメータθ１を求め、ＭＴシステムの最適パラメータθ１_optとして取得する。
【０１３４】
以上のようにして取得されたＭＴシステムの最適パラメータθ１_optは、第１目的関数算出部２１５から第２目的関数算出部２１６に出力される。
【０１３５】
第２目的関数算出部２１６は、最適第１パラメータθ１_optと、第２パラメータ調整部２１３から入力される第２パラメータθ２とを用いて第２目的関数の値を最適化する第２パラメータθ２を求める。具体的には、以下の（１）または（２）の方法により、ＷＱＥシステムの最適パラメータθ２_optを取得する。
（１）第２目的関数算出部２１６は、次の数式を目的関数（第２目的関数）に設定する。
【数１５】
2018041184.tif 000020
Δθ１_opt，ｎ（ｘｋ）：ＭＴシステムのパラメータをθ１_optとしたときの原文データｘｋに対する翻訳文データｙのうち最適解からｎ番目に良い解までのｎ個（ｎ：自然数）の翻訳文データの集合
第２目的関数算出部２１６は、上式が最適値となるときのＷＱＥシステムのパラメータθ２を最適第２パラメータθ２_optとして取得する。
（２）第２目的関数算出部２１６は、次の数式を目的関数（第２目的関数）に設定する。
【数１６】
2018041184.tif 000021
Δθ１_opt，ｎ１（ｘｋ）：ＭＴシステムのパラメータをθ１_optとしたときの原文データｘｋに対する翻訳文データｙのうち最適解からｎ番目に良い解までのｎ個（ｎ：自然数）の翻訳文データの集合
第２目的関数算出部２１６は、上式が最適値となるときのＷＱＥシステムのパラメータθ２を最適第２パラメータθ２_optとして取得する。
【０１３６】
つまり第２目的関数算出部２１６は、ＭＴモデルの出力におけるｎベスト解のみを用いて、第２目的関数の値を算出し、第２目的関数の値が最大となるときのＷＱＥモデルのパラメータθ２（第２パラメータθ２）を取得する処理を行う。このとき第２パラメータθ２は、第２パラメータ調整部２１３により調整される。なお、上記処理は、所定の最適化アルゴリズム手法を用いて実行される。例えば、ｌｏｇＰ（ｔ｜ｘ，ｙ；θ２）のモデル化がＣＲＦ（Conditional random field）である場合、最適化アルゴリズム手法として、記憶制限準ニュートン法（L-BFGS）、確率的勾配降下法（Stochastic Gradient Descent; SDG）、平均化パーセプトロンなどが用いられる。また、ｌｏｇＰ（ｔ｜ｘ，ｙ；θ２）のモデル化が順伝播型ニューラルネットワーク(Feed-forward Neural Network; FNN)や回帰型ニューラルネットワーク(Recurrent Neural Network; RNN)である場合、最適化アルゴリズム手法として、ＡｄａＧｒａｄやＡｄａＤｅｌｔａなどの手法が用いられる。
【０１３７】
上記処理により取得された最適第２パラメータθ２_opt（ＷＱＥモデルの最適パラメータθ２）は、第２目的関数算出部２１６からタグ系列推定部２２に出力される。
【０１３８】
タグ系列推定部２２では、最適パラメータ取得部２１の第２目的関数算出部２１６から出力された最適第２パラメータθ２_opt（ＷＱＥモデルの最適パラメータθ２）に基づくＷＱＥモデルが構築されている。つまり、タグ系列推定部２２には、最適第２パラメータθ２_optにより特定される特性を有するＷＱＥモデルが構築されている。
【０１３９】
タグ系列推定部２２では、入力データＤａｔａ＿ｉｎ（＜原文データｘ’、機械翻訳文データｙ’＞）に対して、上記第２パラメータθ２_optにより設定されたＷＱＥモデルを用いた処理が実行され、タグ系列データｔ’が取得される。そして、タグ系列推定部２２は、取得したタグ系列データｔ’を出力データＤａｔａ＿ｏｕｔとして出力する。
【０１４０】
以上のように語レベル信頼度推定装置２では、機械翻訳文データｙ自体を不確定な要素（隠れ変数）とみなし、
（１）原文データｘから機械翻訳文データｙを生成するＭＴシステム、および
（２）原文データｘと機械翻訳文データｙの組に対してタグ系列データｔを推定するＷＱＥシステム
の２つを最適化する処理を行う。
【０１４１】
そして語レベル信頼度推定装置２Ａでは、ＭＴシステムとＷＱＥシステムを最適化したときのパラメータを用いて構築したＷＱＥシステムに基づく処理を行うタグ系列推定部２２により、入力データＤａｔａ＿ｉｎ（＜原文データｘ’、機械翻訳文データｙ’＞）を処理することで、精度の高いタグ系列データｔを取得することができる。つまり、語レベル信頼度推定装置２では、入力データＤａｔａ＿ｉｎ（＜原文データｘ’、機械翻訳文データｙ’＞）から、それに対応する精度の高いタグ系列データｔを取得することができるので、高精度な語レベル信頼度推定が可能となる。
【０１４２】
以上の通り語レベル信頼度推定システム２０００では、訓練用データ生成装置１により、人手による処理を行うことなく効率良くＷＱＥ用の訓練用データの作成を行うことができ、さらに語レベル信頼度推定装置２Ａにより、処理対象であるＭＴ訳の性質(ひいてはそのような訳を生成するＭＴシステムの振る舞い)の不確定性をふまえた上で、人手による処理を介さず全自動で生成された訓練用データを用いて高精度な語レベル信頼度推定が可能となる。
【０１４３】
［他の実施形態］
上記実施形態の語レベル信頼度推定システム１０００、２０００、訓練用データ生成装置１、語レベル信頼度推定装置２、２Ａを構成する各機能部は、例えばネットワークを介して接続されるものであってもよい。
【０１４４】
また上記実施形態の語レベル信頼度推定システム１０００、２０００、訓練用データ生成装置１、語レベル信頼度推定装置２、２Ａは、複数の装置により実現されるものであってもよい。
【０１４５】
また語レベル信頼度推定装置２、２Ａの対訳コーパスデータ格納部ＤＢ２は、外部に備えられるものであってもよい。
【０１４６】
また訓練用データ格納部ＤＢ１、対訳コーパスデータ格納部ＤＢ２は、外部サーバ内に、あるいは、外部サーバにインターフェースを介して接続されるものであってもよい。
【０１４７】
また、本明細書内の記載、特許請求の範囲の記載において、「最適化」とは、最も良い状態にすることをいい、システムを「最適化」するパラメータとは、当該システムの目的関数の値が最適値となるときのパラメータのことをいう。「最適値」は、システムの目的関数の値が大きくなるほど、システムが良い状態となる場合は、最大値であり、システムの目的関数の値が小さくなるほど、システムが良い状態となる場合は、最小値である。また、「最適値」は、極値であってもよい。また、「最適値」は、所定の誤差（測定誤差、量子化誤差等）を許容するものであってもよく、所定の範囲（十分収束したとみなすことができる範囲）に含まれる値であってもよい。
【０１４８】
また上記実施形態で説明した語レベル信頼度推定システム１０００において、各ブロックは、ＬＳＩなどの半導体装置により個別に１チップ化されても良いし、一部または全部を含むように１チップ化されても良い。
【０１４９】
なおここではＬＳＩとしたが、集積度の違いにより、ＩＣ、システムＬＳＩ、スーパーＬＳＩ、ウルトラＬＳＩと呼称されることもある。
【０１５０】
また集積回路化の手法はＬＳＩに限るものではなく、専用回路または汎用プロセサで実現してもよい。ＬＳＩ製造後にプログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ  Ｐｒｏｇｒａｍｍａｂｌｅ  Ｇａｔｅ  Ａｒｒａｙ）や、ＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサーを利用しても良い。
【０１５１】
また上記各実施形態の各機能ブロックの処理の一部または全部は、プログラムにより実現されるものであってもよい。そして上記各実施形態の各機能ブロックの処理の一部または全部は、コンピュータにおいて、中央演算装置（ＣＰＵ）により行われる。また、それぞれの処理を行うためのプログラムは、ハードディスク、ＲＯＭなどの記憶装置に格納されており、ＲＯＭにおいて、あるいはＲＡＭに読み出されて実行される。
【０１５２】
また上記実施形態の各処理をハードウェアにより実現してもよいし、ソフトウェア（ＯＳ（オペレーティングシステム）、ミドルウェア、あるいは所定のライブラリとともに実現される場合を含む。）により実現してもよい。さらにソフトウェアおよびハードウェアの混在処理により実現しても良い。
【０１５３】
例えば上記実施形態の各機能部をソフトウェアにより実現する場合、図７に示したハードウェア構成（例えばＣＰＵ、ＲＯＭ、ＲＡＭ、入力部、出力部、通信部、記憶部（例えば、ＨＤＤ、ＳＳＤ等により実現される記憶部）、外部メディア用ドライブ等をバスＢｕｓにより接続したハードウェア構成）を用いて各機能部をソフトウェア処理により実現するようにしてもよい。
【０１５４】
また上記実施形態の各機能部をソフトウェアにより実現する場合、当該ソフトウェアは、図７に示したハードウェア構成を有する単独のコンピュータを用いて実現されるものであってもよいし、複数のコンピュータを用いて分散処理により実現されるものであってもよい。
【０１５５】
また上記実施形態における処理方法の実行順序は、必ずしも上記実施形態の記載に制限されるものではなく、発明の要旨を逸脱しない範囲で、実行順序を入れ替えることができるものである。
【０１５６】
前述した方法をコンピュータに実行させるコンピュータプログラム、及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体は、本発明の範囲に含まれる。ここでコンピュータ読み取り可能な記録媒体としては、例えば、フレキシブルディスク、ハードディスク、ＣＤ−ＲＯＭ、ＭＯ、ＤＶＤ、ＤＶＤ−ＲＯＭ、ＤＶＤ−ＲＡＭ、大容量ＤＶＤ、次世代ＤＶＤ、半導体メモリを挙げることができる。
【０１５７】
上記コンピュータプログラムは、上記記録媒体に記録されたものに限らず、電気通信回線、無線または有線通信回線、インターネットを代表とするネットワーク等を経由して伝送されるものであってもよい。
【０１５８】
なお本発明の具体的な構成は、前述の実施形態に限られるものではなく、発明の要旨を逸脱しない範囲で種々の変更および修正が可能である。
【産業上の利用可能性】
【０１５９】
本発明によれば、人手による処理を行うことなく効率良くＷＱＥ用の訓練用データの作成を行うことができる訓練用データ生成装置を実現し、さらに処理対象であるＭＴ訳の性質の不確定性をふまえた上で、全自動で生成された訓練用データを用いて高精度な語レベル信頼度推定を可能とする語レベル信頼度推定装置を実現することができる。このため本発明は、自動翻訳関連産業分野において有用であり、当該分野において実施することができる。
【符号の説明】
【０１６０】
１０００  語レベル信頼度推定システム
１  訓練用データ生成装置
２  語レベル信頼度推定装置
ＤＢ１  訓練用データ格納部
１１  データ入力部
１２  機械翻訳部
１３  タグ系列取得部
１４  訓練用データ取得部
２１  最適パラメータ取得部（最適パラメータ取得装置）
２１２  正規化項取得部
２１３  第１目的関数算出部
２１５  第２目的関数算出部
２２  タグ系列推定部
【図１】
2018041184.tif 000025
【図２】
2018041184.tif 000026
【図３】
2018041184.tif 000027
【図４】
2018041184.tif 000028
【図５】
2018041184.tif 000029
【図６】
2018041184.tif 000030
【図７】
2018041184.tif 000031
【図８】
2018041184.tif 000032