(57)【要約】【課題】精度良く、自然言語文を論理形式文に翻訳することができる。【解決手段】単語翻訳確率学習部３０で、ペアとなる自然言語文及び論理形式文の各単語ペアの共起統計量に基づいて、同階層ノードとなる、自然言語文の木構造のノードと、論理形式文の木構造のノードとの間の類似度を算出し、算出したノード間の類似度に基づいて、最適な単語アラインメントを求め、単語アラインメントの結果に基づいて、単語変換確率を算出し、翻訳モデル学習部３４で、自然言語文及び論理形式文のペアの集合と、単語アラインメントとに基づいて、翻訳モデルを学習する。【選択図】図５
2016095698.tif 000002
【特許請求の範囲】
【請求項１】
入力された、構造解析により得られる木構造で表わされた自然言語文と、前記自然言語文に対応する論理形式文であって、構造解析により得られる木構造で表わされた論理形式文とのペアの集合に基づいて、前記自然言語文及び前記論理形式文のペアの各々について、前記自然言語文の木構造のノードと、前記論理形式文の木構造のノードとの間の類似度を用いて、前記自然言語文の単語と前記論理形式文の単語との対応付けである単語アラインメントを求め、前記自然言語文及び前記論理形式文のペアの各々についての単語アライメントに基づいて、前記自然言語文の単語と前記論理形式文の単語の各ペアについて、前記自然言語文の単語が、前記論理形式文の単語に翻訳される単語翻訳確率を算出する単語翻訳確率学習部と、
前記自然言語文及び前記論理形式文のペアの集合と、前記単語翻訳確率学習により求められた前記自然言語文及び前記論理形式文のペアの各々についての単語アラインメントとに基づいて、前記自然言語文を前記論理形式文に翻訳するための翻訳モデルを学習する翻訳モデル学習部と、
を含む翻訳学習装置。
【請求項２】
前記自然言語文及び前記論理形式文のペアの集合の前記自然言語文に含まれる各単語について、自然言語文の複数の単語を格納した知識ベースのエントリの各々との類似度であって、単語の表層に基づく類似度、単語の意味に基づく類似度、及び知識ベース上の距離に基づく類似度のうちの少なくとも２種類の類似度を計算する類似度計算部と、
前記自然言語文及び前記論理形式文のペアの集合の前記論理形式文に含まれる各単語、及び前記類似度計算部により計算された前記少なくとも２種類の類似度に基づいて、前記少なくとも２種類の類似度の各々に対する重みを、グラウンディングモデルとして学習するグラウンディグモデル学習部を更に含む請求項１記載の翻訳学習装置。
【請求項３】
請求項１又は２に記載の翻訳学習装置により算出された単語翻訳確率、及び学習された翻訳モデルに基づいて、入力された翻訳対象の自然言語文を論理形式文に翻訳するデコーディング部を含む翻訳装置。
【請求項４】
単語翻訳確率学習部、及び翻訳モデル学習部を含む翻訳学習装置における翻訳学習方法であって、
前記単語翻訳確率学習部が、入力された、構造解析により得られる木構造で表わされた自然言語文と、前記自然言語文に対応する論理形式文であって、構造解析により得られる木構造で表わされた論理形式文とのペアの集合に基づいて、前記自然言語文及び前記論理形式文のペアの各々について、前記自然言語文の木構造のノードと、前記論理形式文の木構造のノードとの間の類似度を用いて、前記自然言語文の単語と前記論理形式文の単語との対応付けである単語アラインメントを求め、前記自然言語文及び前記論理形式文のペアの各々についての単語アライメントに基づいて、前記自然言語文の単語と前記論理形式文の単語の各ペアについて、前記自然言語文の単語が、前記論理形式文の単語に翻訳される単語翻訳確率を算出するステップと、
前記翻訳モデル学習部が、前記自然言語文及び前記論理形式文のペアの集合と、前記単語翻訳確率学習により求められた前記自然言語文及び前記論理形式のペアの各々についての単語アラインメントとに基づいて、前記自然言語文を前記論理形式文に翻訳するための翻訳モデルを学習するステップと、
を含む翻訳学習方法。
【請求項５】
類似度計算部が、前記自然言語文及び前記論理形式文のペアの集合の前記自然言語文に含まれる各単語について、自然言語文の複数の単語を格納した知識ベースのエントリの各々との類似度であって、単語の表層に基づく類似度、単語の意味に基づく類似度、及び知識ベース上の距離に基づく類似度のうちの少なくとも２種類の類似度を計算するステップと、
グラウンディグモデル学習部が、前記類似度計算部により計算された前記少なくとも２種類の類似度を用いた、前記自然言語文及び前記論理形式文のペアの集合の前記自然言語文に含まれる各単語と、知識ベースの各エントリとの間の単語アライメント、及び前記類似度計算部により計算された前記少なくとも２種類の類似度に基づいて、前記少なくとも２種類の類似度の各々に対する重みを、グラウンディングモデルとして学習するステップを更に含む請求項４記載の翻訳学習方法。
【請求項６】
デコーディング部を含む翻訳装置における翻訳方法であって、
前記デコーディング部が、請求項４又は５に記載の翻訳学習方法により算出された単語翻訳確率、及び学習された翻訳モデルに基づいて、入力された翻訳対象の自然言語文を論理形式文に翻訳するステップを含む翻訳方法。
【請求項７】
コンピュータを、請求項１若しくは請求項２に記載の翻訳学習装置、又は請求項３に記載の翻訳装置の各部として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、翻訳学習装置、翻訳装置、方法、及びプログラムに係り、特に、自然言語文を論理形式文に翻訳するための翻訳学習装置、翻訳装置、方法、及びプログラムに関する。
【背景技術】
【０００２】
従来より、構文解析の手法として、自然言語文に対して構造を付与したものや、文脈自由文法（CFG：Context free Grammar）や依存文法が用いられている。文脈自由文法では、{}が１つの部分木を表し、その部分木に対応するラベルを（）として記す。例えば、
【０００３】
{I(NP) { like(V) it(NP)}(VP) }(S)
【０００４】
という形式のものである。
【０００５】
また、文脈自由文法のルールの適用例は、
【０００６】
S->{NP, VP}, NP->{“I”}, VP->{V, NP}, V->{“like”}, N->{“it”}
【０００７】
という形式となる。ここで、NP（noun phrase）は名詞フレーズ、VP（verb phrase）は動詞フレーズ、N（noun）は名詞、V（verb）は動詞、S（string）は文字列を表す。
【０００８】
また、同期文脈自由文法（SCFG：Synchronous Context free Grammar）に基づいて自然言語文と論理形式文のフレーズアラインメントを獲得する手法が知られている（非特許文献１参照）。
【先行技術文献】
【非特許文献】
【０００９】
【非特許文献１】Y.Wong, R.Mooney,“Learning for Semantic Parsing with Statistical Machine Translation”,The Annual Meeting of the North American Chapter of the ACL (NAACL2006)
【発明の概要】
【発明が解決しようとする課題】
【００１０】
しかし、非特許文献１に記載の論理形式文には形式的な単語（上記例の場合、カッコや.,?等）が多く、同期自由文脈法の単純な適用ができないという問題があった。そこで非特許文献１ではルールに基づく前処理を行っていたが、他の形式の言語に適用する場合、再度ルール作成を行う必要があった。この問題の本質は、単語アラインメントが構造情報を考慮していないことに起因しているため、いかに構造情報を与えて翻訳するか、が重要となる。
【００１１】
また、自然言語文内での単語の現れ方は、省略形や表記の揺れなど様々な要因によって、知識ベース中のエントリとは異なる形である場合が多い。例えば、知識ベース中の表記がNTTである場合に、自然言語文中の表記が、日本電信電話株式会社、エヌティーティー、N○T等である。このような一意でない自然文中の表現をＤＢ内エントリと結びつける処理をグラウンディングと呼ぶ。高精度なグラウンディングを行うためには、意味的、表層的、及びグラフ上の近さといった多面的な情報による曖昧性の解消が必要となる。
【００１２】
本発明は、上記問題点を解決するために成されたものであり、精度良く、自然言語文を論理形式文に翻訳するための翻訳学習装置、翻訳装置、方法、及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【００１３】
上記目的を達成するために、第１の発明に係る翻訳学習装置は、入力された、構造解析により得られる木構造で表わされた自然言語文と、前記自然言語文に対応する論理形式文であって、構造解析により得られる木構造で表わされた論理形式文とのペアの集合に基づいて、前記自然言語文及び前記論理形式文のペアの各々について、前記自然言語文の木構造のノードと、前記論理形式文の木構造のノードとの間の類似度を用いて、前記自然言語文の単語と前記論理形式文の単語との対応付けである単語アラインメントを求め、前記自然言語文及び前記論理形式文のペアの各々についての単語アライメントに基づいて、前記自然言語文の単語と前記論理形式文の単語の各ペアについて、前記自然言語文の単語が、前記論理形式文の単語に翻訳される単語翻訳確率を算出する単語翻訳確率学習部と、前記自然言語文及び前記論理形式文のペアの集合と、前記単語翻訳確率学習により求められた前記自然言語文及び前記論理形式文のペアの各々についての単語アラインメントとに基づいて、前記自然言語文を前記論理形式文に翻訳するための翻訳モデルを学習する翻訳モデル学習部と、を含んで構成されている。
【００１４】
また、第１の発明に係る翻訳学習装置において、前記自然言語文及び前記論理形式文のペアの集合の前記自然言語文に含まれる各単語について、自然言語文の複数の単語を格納した知識ベースのエントリの各々との類似度であって、単語の表層に基づく類似度、単語の意味に基づく類似度、及び知識ベース上の距離に基づく類似度のうちの少なくとも２種類の類似度を計算する類似度計算部と、前記自然言語文及び前記論理形式文のペアの集合の前記論理形式文に含まれる各単語、及び前記類似度計算部により計算された前記少なくとも２種類の類似度に基づいて、前記少なくとも２種類の類似度の各々に対する重みを、グラウンディングモデルとして学習するグラウンディグモデル学習部を更に含むようにしてもよい。
【００１５】
また、第２の発明に係る翻訳装置は、上記第１の発明に係る翻訳学習装置により算出された単語翻訳確率、及び学習された翻訳モデルに基づいて、入力された翻訳対象の自然言語文を論理形式文に翻訳するデコーディング部を含んで構成されている。
【００１６】
第１の発明に係る翻訳学習方法は、単語翻訳確率学習部、及び翻訳モデル学習部を含む翻訳学習装置における翻訳学習方法であって、前記単語翻訳確率学習部が、入力された、構造解析により得られる木構造で表わされた自然言語文と、前記自然言語文に対応する論理形式文であって、構造解析により得られる木構造で表わされた論理形式文とのペアの集合に基づいて、前記自然言語文及び前記論理形式文のペアの各々について、前記自然言語文の木構造のノードと、前記論理形式文の木構造のノードとの間の類似度を用いて、前記自然言語文の単語と前記論理形式文の単語との対応付けである単語アラインメントを求め、前記自然言語文及び前記論理形式文のペアの各々についての単語アライメントに基づいて、前記自然言語文の単語と前記論理形式文の単語の各ペアについて、前記自然言語文の単語が、前記論理形式文の単語に翻訳される単語翻訳確率を算出するステップと、前記翻訳モデル学習部が、前記自然言語文及び前記論理形式文のペアの集合と、前記単語翻訳確率学習により求められた前記自然言語文及び前記論理形式のペアの各々についての単語アラインメントとに基づいて、前記自然言語文を前記論理形式文に翻訳するための翻訳モデルを学習するステップと、を含んで実行することを特徴とする。
【００１７】
また、第１の発明に係る翻訳学習方法において、類似度計算部が、前記自然言語文及び前記論理形式文のペアの集合の前記自然言語文に含まれる各単語について、自然言語文の複数の単語を格納した知識ベースのエントリの各々との類似度であって、単語の表層に基づく類似度、単語の意味に基づく類似度、及び知識ベース上の距離に基づく類似度のうちの少なくとも２種類の類似度を計算するステップと、グラウンディグモデル学習部が、前記類似度計算部により計算された前記少なくとも２種類の類似度を用いた、前記自然言語文及び前記論理形式文のペアの集合の前記自然言語文に含まれる各単語と、知識ベースの各エントリとの間の単語アライメント、及び前記類似度計算部により計算された前記少なくとも２種類の類似度に基づいて、前記少なくとも２種類の類似度の各々に対する重みを、グラウンディングモデルとして学習するステップを更に含むようにしてもよい。
【００１８】
また、第２の発明に係る翻訳方法は、デコーディング部を含む翻訳装置における翻訳方法であって、前記デコーディング部が、上記第１の発明に係る翻訳学習方法により算出された単語翻訳確率、及び学習された翻訳モデルに基づいて、入力された翻訳対象の自然言語文を論理形式文に翻訳するステップを含んで実行することを特徴とする。
【００１９】
第３の発明に係るプログラムは、コンピュータを、上記第１の発明に係る翻訳学習装置、又は上記第２の発明に係る翻訳装置の各部として機能させるためのプログラムである。
【発明の効果】
【００２０】
本発明の翻訳学習装置、方法、及びプログラムによれば、自然言語文の木構造のノードと、論理形式文の木構造のノードとの間の類似度を用いて、単語アラインメントを求め、自然言語文及び論理形式文のペアの各々についての単語アライメントに基づいて、自然言語文の単語と論理形式文の単語の各ペアについて、単語翻訳確率を算出し、自然言語文及び論理形式文のペアの集合と、自然言語文及び論理形式文のペアの各々についての単語アラインメントとに基づいて、自然言語文を前記論理形式文に翻訳するための翻訳モデルを学習することにより、精度良く、自然言語文を論理形式文に翻訳するための翻訳モデルを学習することができる、という効果が得られる。
【００２１】
また、本発明の翻訳装置、方法、及びプログラムによれば、翻訳学習装置により算出された単語翻訳確率、及び学習された翻訳モデルに基づいて、入力された翻訳対象の自然言語文を論理形式文に翻訳することにより、精度良く、自然言語文を論理形式文に翻訳することができる、という効果が得られる。
【図面の簡単な説明】
【００２２】
【図１】自然言語文の単語と論理形式文の単語の対応付けである単語アラインメントを誤って推定する場合の例を示す概念図である。
【図２】自然言語文の木構造と論理形式文の木構造を示す概念図である。
【図３】自然言語文の木構造と論理形式文の木構造とのノード間の組み合わせを示す概念図である。
【図４】単語アラインメントによって、フレーズアラインメントが人間の直感と正しい対応になった例を示す概念図である。
【図５】第１の実施の形態に係る翻訳学習装置の機能的構成を示すブロック図である。
【図６】第１の実施の形態に係る翻訳装置の機能的構成を示すブロック図である。
【図７】第１の実施の形態に係る翻訳学習装置における翻訳学習処理ルーチンを示すフローチャートである。
【図８】第１の実施の形態に係る翻訳装置における翻訳処理ルーチンを示すフローチャートである。
【図９】第２の実施の形態に係る翻訳学習装置の機能的構成を示すブロック図である。
【図１０】第２の実施の形態に係る翻訳装置の機能的構成を示すブロック図である。
【図１１】第２の実施の形態に係る翻訳学習装置における翻訳学習処理ルーチンを示すフローチャートである。
【図１２】第２の実施の形態に係る翻訳装置における翻訳処理ルーチンを示すフローチャートである。
【発明を実施するための形態】
【００２３】
以下、図面を参照して本発明の実施の形態を詳細に説明する。
【００２４】
＜本発明の実施の形態に係る概要＞
【００２５】
まず、本発明の実施の形態における概要を説明する。
【００２６】
本発明の実施の形態に係る翻訳学習装置及び翻訳装置は、自然言語文から自動的に論理形式文へと翻訳することを目的としている。例えば、「AAAの価格は」という自然言語文を、自動的に
【００２７】
?s prop-ja:定価 ?o. FILTER( regex( str(?s), “AAA” ) ).
【００２８】
という論理形式文へと翻訳することである。
【００２９】
ここで、「?s」は求めたい主語、「?o」は求めたい目的語、「prop-ja」は述語が定義されたＵＲＩを示し、上記例では条件文として用いられる。「FILTER」も条件文を表し、「regex」は正規表現であることを示す。「str(?s)」は主語を文字列として解釈し、「“AAA”」という文字列を含む場合、条件を満たすことを表す。なお、論理形式文とは、論理式で表される、計算機が理解可能な表現形式であり、λ計算や一般的なデータベースへの問い合わせ言語を含むものである。
【００３０】
図１に自然言語文の単語と論理形式文の単語の対応付けである単語アラインメントを誤って推定する場合の例を示す。図１では、黒で塗りつぶされたマスが単語アラインメントを、グレーのマスは共起統計量の大きい箇所を、点線で囲まれたマスはフレーズアラインメントとなり得る箇所を表している。図１では、フレーズアラインメントが誤った範囲で対応付けられており、このようなフレーズアラインメントに基づいて翻訳モデルを学習したとしても、適切に学習が進まない可能性が高い。
【００３１】
図２に上記図１の例の課題を解決するために本実施の形態で参照する自然言語文の木構造と論理形式文の木構造を示す。図３に示すように、自然言語文の木構造（自然文木）と論理形式文の木構造（ＳＰＡＲＱＬ木）とのノード間の組み合わせに基づいて、単語アラインメントを獲得することができる。
【００３２】
上記図３において獲得された単語アラインメントによって、図４に示すように、フレーズアラインメントが人間の直感と正しい対応になる。そして、このような最適な単語アラインメントに基づいて翻訳モデルを学習すれば、適切に学習が進む可能性が高い。
【００３３】
また、本実施の形態では、単語アラインメントの構造を考慮した学習方法を導入して単語翻訳確率を計算する。
【００３４】
非特許文献２（Graham Neubig, Taro Watanabe, Eiichiro Sumita, Shinsuke Mori, and Tatsuya Kawahara,“An Unsupervised Model for Joint Phrase Alignment and Extraction”The Annual Meeting of the Association for Computational Linguistics (ACL 2011)）ではＩＴＧ（Inversion Transduction Grammar）制約に基づいてフレーズアラインメントを学習する手法が提案されているが、形式のような構造が明らかな場合には、教師データありの学習の方が適している場合がある（なお、ＩＴＧ制約とは、同期自由文脈法の一種で、３種類の同期ルールのみから構成される文法ＩＴＧに基づく制約である）。そこで、本実施の形態では上記図２、及び図３に示す木構造で表される自然言語文及び論理形式文を教師ありデータとして用いることを前提とする。自然言語文では構文解析器等を利用することで、高い精度で構造の教師データを自動で付与することができ、論理形式文では構造が自明であるため、木構造で表される自然言語文及び論理形式文に基づいて学習、評価を行うことで、翻訳自体の精度を向上させることができる。
【００３５】
＜第１の実施の形態に係る翻訳学習装置の構成＞
【００３６】
次に、本発明の第１の実施の形態に係る翻訳学習装置の構成について説明する。図５に示すように、本発明の実施の形態に係る翻訳学習装置１００は、ＣＰＵと、ＲＡＭと、後述する翻訳学習処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することが出来る。この翻訳学習装置１００は、機能的には図５に示すように入力部１０と、演算部２０と、単語翻訳確率記憶部４０と、翻訳モデル記憶部４２とを備えている。
【００３７】
入力部１０は、構造解析により得られる木構造で表された自然言語文と、自然言語文に対応する論理形式文であって、構造解析により得られる木構造で表された論理形式文とのペアの集合を受け付ける。
【００３８】
演算部２０は、単語翻訳確率学習部３０と、単語アラインメント記憶部３２と、翻訳モデル学習部３４とを含んで構成されている。
【００３９】
単語翻訳確率学習部３０は、入力部１０で受け付けた、木構造で表わされた自然言語文と、木構造で表わされた論理形式文とのペアの集合に基づいて、自然言語文及び論理形式文のペアの各々について、自然言語文の木構造のノードと、論理形式文の木構造のノードとの間の類似度を用いて、自然言語文の単語と論理形式文の単語との対応付けである単語アラインメントを求め、自然言語文及び論理形式文のペアの各々についての単語アラインメントに基づいて、自然言語文の単語と論理形式文の単語の各ペアについて、自然言語文の単語が、論理形式文の単語に翻訳される単語翻訳確率を算出する。
【００４０】
本実施の形態の単語翻訳確率学習部３０は、具体的には以下に説明するように、単語アラインメントを求め、単語翻訳確率を算出する。
【００４１】
単語翻訳確率学習部３０は、まず事前処理として、自然言語文及び論理形式文のペアの集合において、ペアとなる自然言語文及び論理形式文の各々の単語を組み合わせた各ペアに対し、単語ペアの共起統計量（例えば、相互情報量やｔｆ−ｉｄｆ値）を算出する。
【００４２】
次に、単語翻訳確率学習部３０は、第１の処理として、事前処理で算出された各単語ペアの共起統計量に基づいて、既存の手法により、自然言語文の木構造のノードと、論理形式文の木構造のノードとの間の類似度を算出する。ここでは、自然言語文及び論理形式文のペアにおいて、当該ペア間で翻訳対となる単語が共通の親ノードに対応するとし、親ノード以下のサブツリー内のノードを同階層ノード（兄弟ノード）であるとする。上記図２及び図３の例では、Ａ−ａが親ノードの組み合わせであり、Ｂ−ｃ等が同階層ノードの組み合わせである。そして、親ノードをルートとするサブツリー内の同階層ノードの組み合わせの各々について、ノード間の類似度を算出する。本実施の形態では、同階層ノードをルートとする部分木に含まれる、全てのリーフノード（単語）の組み合わせの共起統計量の和をとり、ノード数に依存しないように正規化することで、ノード間の類似度を算出する。正規化項は、全てのノードの組み合わせ数Ｎ！を用いた任意の数とする。
【００４３】
なお、単語翻訳確率学習部３０は、第１の処理において、ｇｒｅｅｄｙ探索による類似度の算出を行ってもよい。この場合は、まず同階層ノードをルートとする部分木に含まれるリーフノードの全ての組み合わせのうち、最も共起統計量の高い単語アラインメントを選択する。又は、複数対応の単語アラインメントも考慮して、任意の閾値Ｔ１を超える類似度を持つ単語アラインメントを選択する。次に選択済みの単語アラインメントを除いた残りのアラインメント候補の中から、最も類似度の高い単語アラインメントを選択するようにしてもよい。又は、複数対応の単語アラインメントも考慮して、任意の閾値Ｔ２を超える類似度を持つ単語アラインメントを選択するようにしてもよい。以上の処理を対象となるリーフノードの組み合わせが０個になるまで繰り返し、選択された単語アラインメントの持つ共起統計量の和をとり、単語数に依存しないように正規化することで、ノード間の類似度を算出する。正規化項はアラインメント数Ｎを用いた任意の数とする。また、ノード数に差が生じる場合には、ノードの少ない言語側の部分木に仮想ノードを追加する。任意の非仮想ノードと仮想ノードの類似度は、上記で算出される非仮想ノード同士の部分木の組み合わせの類似度のうち、最も小さいものか、それ以下にするのがよい。
【００４４】
次に、単語翻訳確率学習部３０は、第２の処理として、第１の処理で算出したノード間の類似度に基づいて、最適な単語アラインメントを求める。本実施の形態では、ｇｒｅｅｄｙ探索法を用いて、同階層ノードをルートとする部分木が含むノードの集合対から、最も類似度の高いノード間の単語アラインメントを選択する。次に、選択済みの単語アラインメントを除いた残りの単語アラインメント候補の中から、最も類似度の高い単語アラインメントを選択する。以上の処理を対象となるリーフノードが０になるまで繰り返し、ノード間の単語アラインメントを求める。なお、複数対応の単語アラインメントも考慮して、任意の閾値Ｕ１を超える類似度を持つ単語アラインメントを選択し、次に、任意の閾値Ｕ２を超える類似度を持つ単語アラインメントを選択するようにしてもよい。
【００４５】
以上の第２の処理によって求められた単語アラインメントの結果は、後述する翻訳モデル学習部３４の処理で利用するため、単語アラインメント記憶部３２に記憶する。
【００４６】
次に、単語翻訳確率学習部３０は、第３の処理として、第２の処理で求められた単語アラインメントの結果に基づいて、単語アラインメントの統計量を元に正規化する等して、自然言語文に含まれる単語及び論理形式文に含まれる単語のペアの各々についての単語変換確率を算出し、単語翻訳確率記憶部４０に記憶する。例えば、自然言語文に含まれる単語“ＡＡＡ”のアラインメント先が“ＡＡＡ”である場合が９９回、“ＢＢＢ”である場合が１回であるとして、これを正規化して、ｐ（“ＡＡＡ”｜“ＡＡＡ”）＝０．９９、ｐ（“ＢＢＢ”｜“ＡＡＡ”）＝０．０１とする。なお、ノード間の類似度に基づいて、単語翻訳確率を算出するようにしてもよい。
【００４７】
翻訳モデル学習部３４は、入力部１０で受け付けた自然言語文及び論理形式文のペアの集合と、単語翻訳確率学習部３０により求められた自然言語文及び論理形式文のペアの各々についての単語アラインメントとに基づいて、自然言語文を論理形式文に翻訳するための翻訳モデルを学習し、翻訳モデル記憶部４２に記憶する。本実施の形態では、後述する翻訳装置における翻訳時（デコード時）に必要となる、フレーズ同士の翻訳確率や、フレーズが前後に移動する際の歪み確率等のスコアを記憶した翻訳モデルを学習する。学習方式は既存手法を用いればよく、例えば、非特許文献３（統計的機械翻訳ツールｍｏｓｅｓ、http://www.statmt.org/moses/）にフリーツールとして公開されているｍｏｓｅｓを用いることができる。
【００４８】
＜第１の実施の形態に係る翻訳装置の構成＞
【００４９】
次に、本発明の第１の実施の形態に係る翻訳装置の構成について説明する。図６に示すように、本発明の第１の実施の形態に係る翻訳装置２００は、ＣＰＵと、ＲＡＭと、後述する翻訳学習処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することが出来る。この翻訳装置２００は、機能的には図６に示すように入力部２１０と、演算部２２０と、単語翻訳確率記憶部２４０と、翻訳モデル記憶部２４２とを備えている。
【００５０】
入力部２１０は、翻訳対象の自然言語文を受け付ける。
【００５１】
演算部２２０は、デコーディング部２３０を含んで構成されている。
【００５２】
単語翻訳確率記憶部２４０には、単語翻訳確率記憶部４０と同じ単語翻訳確率が記憶されている。
【００５３】
翻訳モデル記憶部２４２には、翻訳モデル記憶部４２と同じ翻訳モデルが記憶されている。
【００５４】
デコーディング部２３０は、単語翻訳確率記憶部２４０に記憶された単語翻訳確率、及び翻訳モデル記憶部２４２に記憶された翻訳モデルに基づいて、入力部２１０で受け付けた翻訳対象の自然言語文を論理形式文に翻訳し、出力する。翻訳処理には、既存手法を用いればよく、例えば、上記非特許文献３にフリーツールとして公開されているｍｏｓｅｓを用いることができる。
【００５５】
＜本発明の第１の実施の形態に係る翻訳学習装置の作用＞
【００５６】
次に、本発明の第１の実施の形態に係る実施の形態に係る翻訳学習装置１００の作用について説明する。入力部１０において木構造で表わされた自然言語文と、木構造で表わされた論理形式文とのペアの集合を受け付けると、翻訳学習装置１００は、図７に示す翻訳学習処理ルーチンを実行する。
【００５７】
まず、ステップＳ１００では、入力部１０において受け付けた自然言語文及び論理形式文のペアの集合を取得する。
【００５８】
次に、ステップＳ１０２では、ステップＳ１００で取得した自然言語文及び論理形式文のペアの集合において、ペアとなる自然言語文及び論理形式文の各々の単語を組み合わせた単語ペアの各々に対し、当該単語ペアの共起統計量を算出する。
【００５９】
ステップＳ１０４では、ステップＳ１０２で算出された各単語ペアの共起統計量に基づいて、同階層ノードとなる、自然言語文の木構造のノードと、論理形式文の木構造のノードとの組み合わせの各々について、ノードの間の類似度を算出する。
【００６０】
ステップＳ１０６では、ステップＳ１０４で算出されたノード間の類似度に基づいて、最適な単語アラインメントを求め、単語アラインメント記憶部３２に記憶する。
【００６１】
ステップＳ１０８では、ステップＳ１０６で求められた単語アラインメントの結果に基づいて、自然言語文に含まれる単語及び論理形式文に含まれる単語のペアの各々についての単語変換確率を算出し、単語翻訳確率記憶部４０に記憶する。
【００６２】
そして、ステップＳ１１０では、ステップＳ１００で取得した自然言語文及び論理形式文のペアの集合と、ステップＳ１０６で求められた自然言語文及び論理形式文のペアの各々についての単語アラインメントとに基づいて、自然言語文を論理形式文に翻訳するための翻訳モデルを学習し、翻訳モデル記憶部４２に記憶して処理を終了する。
【００６３】
以上説明したように、第１の実施の形態に係る翻訳学習装置によれば、ペアとなる自然言語文及び論理形式文の各単語ペアの共起統計量に基づいて、自然言語文の木構造のノードと、論理形式文の木構造のノードとの間の類似度を算出し、算出したノード間の類似度に基づいて、最適な単語アラインメントを求め、単語アラインメントの結果に基づいて、単語変換確率を算出し、自然言語文及び論理形式文のペアの集合と、単語アラインメントとに基づいて、翻訳モデルを学習することにより、精度良く、自然言語文を論理形式文に翻訳することができる翻訳モデルを学習することができる。
【００６４】
＜本発明の第１の実施の形態に係る翻訳装置の作用＞
【００６５】
次に、本発明の第１の実施の形態に係る実施の形態に係る翻訳装置２００の作用について説明する。入力部２１０において翻訳対象の自然言語文を受け付けると、翻訳装置２００は、図８に示す翻訳処理ルーチンを実行する。
【００６６】
まず、ステップＳ２００では、入力部２１０において受け付けた翻訳対象の自然言語文を取得する。
【００６７】
次に、ステップＳ２０２では、単語翻訳確率記憶部２４０に記憶された単語翻訳確率、及び翻訳モデル記憶部２４２に記憶された翻訳モデルに基づいて、ステップＳ２００で取得した翻訳対象の自然言語文を論理形式文に翻訳する。
【００６８】
ステップＳ２０４では、ステップＳ２０２で翻訳された論理形式文を出力して処理を終了する。
【００６９】
以上説明したように、第１の実施の形態に係る翻訳装置によれば、単語翻訳確率、及び翻訳モデルに基づいて、翻訳対象の自然言語文を論理形式文に翻訳することで、精度良く、自然言語文を論理形式文に翻訳することができる。
【００７０】
＜第２の実施の形態に係る翻訳学習装置の構成＞
【００７１】
次に、本発明の第２の実施の形態に係る翻訳学習装置の構成について説明する。なお、第１の実施の形態と同様の構成となる部分については、同一符号を付して説明を省略する。
【００７２】
図９に示すように、本発明の第２の実施の形態に係る翻訳学習装置３００は、ＣＰＵと、ＲＡＭと、後述する翻訳学習処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することが出来る。この翻訳学習装置３００は、機能的には図９に示すように入力部１０と、演算部３２０と、単語翻訳確率記憶部４０と、翻訳モデル記憶部４２と、知識ベース３４０と、グラウンディングモデル記憶部３４２とを備えている。
【００７３】
入力部１０は、第１の実施の形態と同様に、構造解析により得られる木構造で表された自然言語文と、自然言語文に対応する論理形式文であって、構造解析により得られる木構造で表された論理形式文とのペアの集合を受け付ける。
【００７４】
知識ベース３４０には、自然言語文の複数の単語が、ＲＤＦ（グラフベースのデータベース形式の一種）等の形式で格納されている。
【００７５】
演算部３２０は、類似度計算部３３０と、グラウンディングモデル学習部３３２と、単語翻訳確率学習部３０と、単語アラインメント記憶部３２と、翻訳モデル学習部３４とを含んで構成されている。
【００７６】
類似度計算部３３０は、入力部１０で受け付けた自然言語文及び論理形式文のペアの集合の自然言語文に含まれる各単語ｗについて、知識ベース３４０のエントリのうち論理形式文に含まれるエントリｅの各々との類似度であって、単語の表層に基づく類似度Ｓｕｒｆ（ｗ,ｅ）、単語の意味に基づく類似度Ｓｅｍ（ｗ,ｅ）、及び知識ベース上の距離に基づく類似度ＤＢ（ｗ,ｅ）の３種類の類似度を計算する。本実施の形態では、単語の表層に基づく類似度Ｓｕｒｆ（ｗ,ｅ）、単語の意味に基づく類似度Ｓｅｍ（ｗ,ｅ）、及び知識ベース上の距離に基づく類似度ＤＢ（ｗ,ｅ）の３種類全ての類似度を計算するが、このうち少なくとも２種類の類似度を計算するようにしてもよい。
【００７７】
類似度計算部３３０の具体的な処理について以下に説明する。
【００７８】
類似度計算部３３０は、まず自然言語文中の各単語について、グラウンディング候補となりえるかをフィルタリングする。このとき、各単語の品詞や固有表現ラベルを用い、例えば名詞と固有表現以外を除外し、残った単語を「グラウンディング候補単語ｗ」と呼ぶ。このようにフィルタリングを行うことにより、単語に対する後続処理の省略による高速化や、誤ったグラウンディングを抑えることが可能となり、類似度の計算効率の向上が期待できる。
【００７９】
そして、類似度計算部３３０は、任意のグラウンディング候補単語ｗに対し、知識ベース３４０を参照して以下に説明する手法により、知識ベース３４０のエントリのうち論理形式文に含まれるエントリｅの各々について、単語の表層に基づく類似度Ｓｕｒｆ（ｗ,ｅ）、単語の意味に基づく類似度Ｓｅｍ（ｗ,ｅ）、及び知識ベース上の距離に基づく類似度ＤＢ（ｗ,ｅ）を計算する。
【００８０】
類似度計算部３３０は、単語の表層に基づく類似度Ｓｕｒｆ（ｗ,ｅ）を、グラウンディング候補単語ｗと、知識ベース３４０内のエントリｅとの文字列編集距離等に基づいて算出する。例えば、グラウンディング候補単語ｗが「モーター」であり、エントリｅが「電気モーター」であれば、Ｓｕｒｆ（ｗ,ｅ）＝２、と算出する。
【００８１】
また、類似度計算部３３０は、単語の意味に基づく類似度Ｓｅｍ（ｗ,ｅ）を、グラウンディング候補単語ｗと、知識ベース３４０内のエントリｅとの既存のシソーラス(wordnetやwikipedia（登録商標）)上での単語間距離等に基づいて算出する。例えば、グラウンディング候補単語ｗが「アウトプット」であり、エントリｅが「出力」であれば、Ｓｅｍ（ｗ,ｅ）＝０．８、と算出する。
【００８２】
また、類似度計算部３３０は、知識ベース３４０上の距離に基づく類似度ＤＢ（Ｅ,ｅ）を、同じ自然言語文中の他の単語の知識ベース３４０内のエントリへのグラウンディング結果のうち、知識ベース３４０のグラフ上の距離がエントリｅと最も近いエントリとエントリｅとの距離を、知識ベース上の距離に基づく類似度ＤＢ（Ｅ,ｅ）として算出する。ここで、Ｅは同一の自然言語文中で既にグラウンディング済のエントリｅの集合であり、ＤＢ（Ｅ,ｅ）は，グラウンディング候補単語ｗとは直接的には無関係に計算される。知識ベース上の距離に基づく類似度ＤＢ（Ｅ,ｅ）は、以下の式で計算される。
【００８３】
DB(E,e)=min_{e’∈{E}}(distance(e,e'))
【００８４】
例えば、自然言語文中に「政治」「大統領」が存在し、知識ベースに「politic」「president」が存在し、それぞれグラウンディング済であるとする。このとき、e=“citizen”との類似度を測りたいとして、それとの距離distance(“citizen”,”politic”)=4、distance(“citizen”,”president”)=6とすると、以下のように計算される。
DB(E’,e=Person)=min_{e∈{politic, president}} (distance (e, e’)) = 4
【００８５】
グラウンディングモデル学習部３３２は、類似度計算部３３０により計算された類似度を用いた、自然言語文及び論理形式文のペアの集合の自然言語文に含まれる各単語と、知識ベース３４０の各エントリとの間の単語アライメント、及び類似度計算部３３０により計算されたグラウンディング候補単語ｗと知識ベース３４０内のエントリとの全ての類似度に基づいて、類似度の各々に対する重みを、グラウンディングモデルとして学習する。なお、全ての重みを用いて学習するのではなく、少なくとも２種類の類似度の各々に対する重みを、グラウンディングモデルとして学習してもよい。
【００８６】
グラウンディングモデル学習部３３２は、まず、以下の制約に基づいて、自然言語文及び論理形式文のペアの集合の自然言語文に含まれる各単語と、知識ベース３４０の各エントリとの間の最適な単語アラインメントを推定する。制約としては、単語アラインメントの総和が最大となるように最適化され、知識ベース３４０のエントリの全てがアラインメントで自然言語文側の単語と結ばれる必要がある。また、自然言語側単語と知識ベース３４０のエントリはｎ：１の対応となり、知識ベース３４０の１つのエントリに対して複数の自然言語側単語が紐づく場合がある。なお、最適化の手法としては例えばｇｒｅｅｄｙ法等、周知の技術を用いる。
【００８７】
そして、グラウンディングモデル学習部３３２は、推定された最適なアラインメントに基づいて、類似度を計算したグラウンディング候補単語ｗと知識ベース３４０内のエントリｅとのペアについて、当該ペアが、最適なアライメントに含まれる場合には、エントリｅを正解とし、それ以外を不正解とする。そして、以下の目的関数
【００８８】
y(+1/-1)=w1*Surf(w,e) + w2*Sem(w,e) + w3*DB(E,e)
【００８９】
に従い、３種類の類似度に対する重み、ｗ１、ｗ２、及びｗ３を識別学習する。このときの学習方法は既存手法で良く、例えば最急降下法、パーセプトロン等が適用できる。そして、学習された重みｗ１、ｗ２、及びｗ３をグラウンディングモデルとしてグラウンディングモデル記憶部３４２に記憶する。
【００９０】
なお、第２の実施の形態に係る翻訳学習装置の他の構成は、第１の実施の形態と同様であるため詳細な説明を省略する。
【００９１】
＜第２の実施の形態に係る翻訳装置の構成＞
【００９２】
次に、本発明の第２の実施の形態に係る翻訳装置の構成について説明する。なお、第１の実施の形態と同様の構成となる部分については、同一符号を付して説明を省略する。
【００９３】
図１０に示すように、本発明の第２の実施の形態に係る翻訳装置４００は、ＣＰＵと、ＲＡＭと、後述する翻訳学習処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することが出来る。この翻訳装置４００は、機能的には図１０に示すように入力部２１０と、演算部４２０と、知識ベース４４０と、グラウンディングモデル記憶部３４２と、単語翻訳確率記憶部４０と、翻訳モデル記憶部４２とを備えている。
【００９４】
入力部２１０は、第１の実施の形態と同様に翻訳対象の自然言語文を受け付ける。
【００９５】
演算部４２０は、類似度計算部４３０と、グラウンディング部４３２と、デコーディング部４３４を含んで構成されている。
【００９６】
知識ベース４４０には、知識ベース３４０と同じものが記憶されている。
【００９７】
グラウンディングモデル記憶部４４２には、グラウンディングモデル記憶部３４２と同じグラウンディングモデルが記憶されている。
【００９８】
類似度計算部４３０は、上記第２の実施の形態の翻訳学習装置３００の類似度計算部３３０と同様に、入力部２１０で受け付けた自然言語文に含まれる各単語から、グラウンディング候補ｗを取得し、グラウンディング候補ｗについて、知識ベース４４０のエントリｅの各々との類似度であって、単語の表層に基づく類似度Ｓｕｒｆ（ｗ,ｅ）、単語の意味に基づく類似度Ｓｅｍ（ｗ,ｅ）、及び知識ベース上の距離に基づく類似度ＤＢ（Ｅ,ｅ）の３種類の類似度を計算する。
【００９９】
グラウンディング部４３２は、類似度計算部４３０で計算された３種類の類似度と、グラウンディングモデル記憶部４４２に記憶された３種類の類似度に対する重み、ｗ１、ｗ２、及びｗ３とに基づいて、入力部２１０で受け付けた自然言語文に含まれる、グラウンディング候補となる単語の各々を、知識ベース４４０のエントリｅに置き換えたグラウンディング文を生成する。
【０１００】
例えば、グラウンディング部４３２は、まずグラウンディングモデル記憶部４４２に記憶されたパラメータに従い、次のようにＳｕｒｆ、Ｓｅｍ、及びＤＢの重み付き線形和を計算し、信頼度とする。
【０１０１】
w1*Surf(w,e) + w2*Sem(w,e) + w3*DB(E,e)
【０１０２】
そして、グラウンディング部４３２は、計算された信頼度のうち、最も高い信頼度を持つエントリｅ、又は予め定めた閾値Ｔ３以上のエントリ集合を用いて、グラウンディング候補となる単語の置き換えを行う。なお、後者の場合は複数のエントリに対するグラウンディング文が得られるため、後続のデコーディング部４３４において複数回の処理を行う必要がある。
【０１０３】
デコーディング部４３４は、単語翻訳確率記憶部２４０に記憶された単語翻訳確率、及び翻訳モデル記憶部２４２に記憶された翻訳モデルに基づいて、グラウンディング部４３２で単語が置き換えられたグラウンディング文を論理形式文に翻訳し、出力する。翻訳処理には、既存手法を用いればよく、例えば、上記非特許文献３にフリーツールとして公開されているｍｏｓｅｓを用いることができる。なお、グラウンディング部４３２で単語の置き換えが行われなかった場合には、デコーディング部４３４は、翻訳対象の自然言語文を論理形式文に翻訳し、出力する。
【０１０４】
＜本発明の第２の実施の形態に係る翻訳学習装置の作用＞
【０１０５】
次に、本発明の第２の実施の形態に係る実施の形態に係る翻訳学習装置３００の作用について説明する。入力部１０において木構造で表わされた自然言語文と、木構造で表わされた論理形式文とのペアの集合を受け付けると、翻訳学習装置３００は、図１１に示す翻訳学習処理ルーチンを実行する。なお、第２の実施の形態に係る翻訳学習装置の作用について、第１の実施の形態と同様の作用となる部分については、同一符号を付して説明を省略する。
【０１０６】
ステップＳ３００では、ステップＳ１００で取得した自然言語文及び論理形式文のペアの集合の自然言語文中の各単語について、グラウンディング候補となりえるかをフィルタリングし、グラウンディング候補単語ｗを取得する。
【０１０７】
ステップＳ３０２では、ステップＳ３００で取得したグラウンディング候補単語ｗの各々に対し、知識ベース３４０のエントリのうち、論理形式文に含まれるエントリｅの各々について、単語の表層に基づく類似度Ｓｕｒｆ（ｗ,ｅ）、単語の意味に基づく類似度Ｓｅｍ（ｗ,ｅ）、及び知識ベース上の距離に基づく類似度ＤＢ（Ｅ,ｅ）を計算する。
【０１０８】
ステップＳ３０４では、ステップＳ３０２で計算された類似度を用いた、自然言語文に含まれる各単語と、知識ベース３４０の各エントリとの間のアライメント、及びステップＳ３０２で計算されたグラウンディング候補単語ｗの各々と知識ベース３４０内のエントリの各々との全ての類似度に基づいて、類似度の各々に対する重みｗ１、ｗ２、及びｗ３を、グラウンディングモデルとして学習し、グラウンディングモデル記憶部３４２に記憶する。
【０１０９】
なお、第２の実施の形態に係る翻訳学習装置の他の作用については、第１の実施の形態と同様であるため、詳細な説明を省略する。
【０１１０】
以上説明したように、第２の実施の形態に係る翻訳学習装置によれば、グラウンディング候補単語ｗの各々に対し、知識ベース３４０内の各エントリｅとの、単語の表層に基づく類似度Ｓｕｒｆ（ｗ,ｅ）、単語の意味に基づく類似度Ｓｅｍ（ｗ,ｅ）、及び知識ベース上の距離に基づく類似度ＤＢ（Ｅ,ｅ）を計算し、計算されたグラウンディング候補単語ｗの各々と知識ベース３４０内の各エントリｅとの全ての類似度に基づいて、類似度の各々に対する重みｗ１、ｗ２、及びｗ３を、グラウンディングモデルとして学習することで、省略形や表記ゆれに対して頑健な翻訳を可能とするグラウンディングモデルを学習することができる。
【０１１１】
＜本発明の第２の実施の形態に係る翻訳装置の作用＞
【０１１２】
次に、本発明の第２の実施の形態に係る実施の形態に係る翻訳装置４００の作用について説明する。入力部２１０において翻訳対象の自然言語文を受け付けると、翻訳装置４００は、図１２に示す翻訳処理ルーチンを実行する。なお、第２の実施の形態に係る翻訳装置の作用について、第１の実施の形態と同様の作用となる部分については、同一符号を付して説明を省略する。
【０１１３】
ステップＳ４００では、ステップＳ２００で取得した自然言語文に含まれる各単語から、グラウンディング候補ｗを取得する。
【０１１４】
ステップＳ４０２では、ステップＳ４００で取得したグラウンディング候補ｗの各々について、知識ベース４４０のエントリｅの各々との類似度であって、単語の表層に基づく類似度Ｓｕｒｆ（ｗ,ｅ）、単語の意味に基づく類似度Ｓｅｍ（ｗ,ｅ）、及び知識ベース上の距離に基づく類似度ＤＢ（Ｅ,ｅ）の３種類の類似度を計算する。
【０１１５】
ステップＳ４０４では、ステップＳ４０２で計算されたグラウンディング候補ｗの各々とエントリｅの各々との３種類の類似度と、グラウンディングモデル記憶部４４２に記憶された３種類の類似度に対する重みｗ１〜ｗ３とに基づいて、ステップＳ２００で取得した自然言語文に含まれる、グラウンディング候補となる単語の各々を、知識ベース４４０のエントリｅに置き換えたグラウンディング文を生成する。
【０１１６】
ステップＳ４０６では、単語翻訳確率記憶部２４０に記憶された単語翻訳確率、及び翻訳モデル記憶部２４２に記憶された翻訳モデルに基づいて、ステップＳ４０４で単語が置き換えられたグラウンディング文を論理形式文に翻訳する。
【０１１７】
ステップＳ４０８では、ステップＳ４０６で翻訳された論理形式文を出力し、処理を終了する。
【０１１８】
以上説明したように、第２の実施の形態に係る翻訳装置によれば、グラウンディング候補ｗに対して計算された３種類の類似度と、３種類の類似度に対する重みｗ１〜ｗ３とに基づいて生成したグラウンディング文を論理形式文に翻訳することで、省略形や表記ゆれに対して頑健な翻訳をすることができる。
【０１１９】
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【０１２０】
例えば、第２の実施の形態に係る翻訳学習装置及び翻訳装置において、翻訳学習装置でグラウンディングモデルを学習し、翻訳装置で、そのグラウンディングモデルを用いて、グラウンディング文を生成していたが、これに限定されるものではなく、翻訳学習装置では、類似度計算部及びグラウンディングモデル学習部を保持せず、翻訳装置では、類似度計算部で類似度を計算し、グラウンディング部で、類似度計算部で計算された類似度及び閾値のみから、グラウンディング候補となる単語を、知識ベース４４０のエントリｅに置き換えて、グラウンディング文を生成するようにしてもよい。
【符号の説明】
【０１２１】
１０、２１０  入力部
２０、２２０、３２０、４２０       演算部
３０、２３０  単語翻訳確率学習部
３２   単語アラインメント記憶部
３４   翻訳モデル学習部
４０   単語翻訳確率記憶部
４２、２４２  翻訳モデル記憶部
１００、３００       翻訳学習装置
２００、４００       翻訳装置
２３０、４３４       デコーディング部
３３０、４３０       類似度計算部
３３２ グラウンディングモデル学習部
３４０、４４０       知識ベース
３４２、４４２       グラウンディングモデル記憶部
４３２ グラウンディング部
【図３】
2016095698.tif 000003
【図５】
2016095698.tif 000004
【図６】
2016095698.tif 000005
【図７】
2016095698.tif 000006
【図８】
2016095698.tif 000007
【図９】
2016095698.tif 000008
【図１０】
2016095698.tif 000009
【図１１】
2016095698.tif 000010
【図１２】
2016095698.tif 000011
【図１】
2016095698.tif 000012
【図２】
2016095698.tif 000013
【図４】
2016095698.tif 000014