(57)【要約】【課題】大きく異なる言語間でも精度の高い機械翻訳を行なうことができる統計的機械翻訳装置を提供する。【解決手段】機械翻訳装置８０は、入力文７８を受け、辞書記憶部８４に記憶された辞書と、翻訳モデル記憶部７４に記憶された翻訳モデルとを用い、入力文の任意のチャンク分けについて得られる翻訳後のチャンク列のうち、尤度の高い複数個のチャンク列を出力するチャンク翻訳部９０と、チャンク翻訳部９０から出力される出力チャンク列の各々についてチャンクの並べ替えを行ない、翻訳モデル記憶部７４に記憶された翻訳モデルとチャンク対記憶部７６に記憶されたチャンク対の出現頻度とにしたがって計算される尤度の最も高くなるチャンクの配列を翻訳文８２として出力するチャンク並べ替え処理部９２とを含む。【選択図】      図５
2005025474.tif 000002
【特許請求の範囲】
【請求項１】
第１の言語の入力文を第２の言語に翻訳するための機械翻訳装置であって、
前記入力文を１又は複数個のチャンクに分割することにより得られたチャンクの各々について個別に翻訳を行なうためのチャンク翻訳手段と、
前記チャンク翻訳手段から出力される翻訳後のチャンクを並べ替える事により、前記入力文に対する翻訳文を生成するためのチャンク並べ替え手段とを含む、機械翻訳装置。
【請求項２】
チャンク方式の翻訳モデルを記憶するための手段をさらに含み、前記チャンク翻訳手段、及び前記チャンク並べ替え手段は、前記第１の言語の入力文に対して、前記チャンク方式の翻訳モデルを参照して処理を行なう、請求項１に記載の機械翻訳装置。
【請求項３】
前記チャンク翻訳手段は、
前記入力文に対して複数通りのチャンク分割を行い、各々が１又は複数個のチャンクを含む１又は複数個のチャンク列を出力するためのチャンク分割手段と、
前記チャンク分割手段により出力される１又は複数個のチャンク列の各々に対し、当該チャンク列が含むチャンクの各々に対する翻訳を行なうことにより１又は複数個の出力チャンク列を作成するための出力チャンク作成手段とを含み、
前記出力チャンク作成手段は、前記１又は複数個の出力チャンク列に対し、前記翻訳モデルに基づいて尤度を算出する、請求項２に記載の機械翻訳装置。
【請求項４】
さらに、前記出力チャンク作成手段により作成される出力チャンク列のうち、尤度が所定の条件を充足するものを選択して前記チャンク並べ替え手段に与えるための出力チャンク列選択手段を含む、請求項３に記載の機械翻訳装置。
【請求項５】
前記出力チャンク列選択手段は、前記出力チャンク作成手段により作成される出力チャンク列のうち、尤度が所定の値以上のものを選択して前記チャンク並べ替え手段に与えるための手段を含む、請求項４に記載の機械翻訳装置。
【請求項６】
前記機械翻訳装置は、前記第１の言語のチャンクと前記第２の言語のチャンクとの対を記憶しておくためのチャンク対記憶手段をさらに含み、
前記チャンク翻訳手段はさらに、前記出力チャンク作成手段により作成された出力チャンクと、当該出力チャンクに対応する入力文のチャンクとの対が、前記チャンク対記憶手段に記憶されたものと一致していることを検出して、当該出力チャンクの尤度を所定の計算方法にしたがって変更するための尤度変更手段を含む、請求項３に記載の機械翻訳装置。
【請求項７】
予め準備された、前記第１の言語と前記第２の言語との対訳コーパスに出現するチャンク対を検出し、前記チャンク対記憶手段に記憶させるための手段をさらに含む、請求項６に記載の機械翻訳装置。
【請求項８】
前記チャンク対記憶手段は、前記第１の言語のチャンクと前記第２の言語のチャンクとの対ごとに予め割当てられた重みを記憶しており、
前記尤度変更手段は、前記出力チャンク作成手段により作成された出力チャンクと、当該出力チャンクに対応する入力文のチャンクとの対が、前記チャンク対記憶手段に記憶された第１のチャンク対と一致していることを検出して、当該出力チャンクの尤度を、前記第１のチャンク対に割当てられた重みの関数により変更するための手段を含む、請求項６に記載の機械翻訳装置。
【請求項９】
予め準備された、前記第１の言語と前記第２の言語との対訳コーパスに出現するチャンク対と、各チャンク対の前記対訳コーパス中での出現頻度とを検出し、当該チャンク対と、当該チャンク対の頻度からなる重みとを前記チャンク対記憶手段に記憶させるための手段をさらに含む、請求項８に記載の機械翻訳装置。
【請求項１０】
前記チャンク分割手段は、前記入力文に対して可能な全てのチャンク分割を行ない、各々が１又は複数個のチャンクを含む１又は複数個のチャンク列を出力するための手段を含む、請求項３〜請求項９のいずれかに記載の機械翻訳装置。
【請求項１１】
前記チャンク方式の翻訳モデルは、前記第２の言語をソース言語、前記第１の言語をターゲット言語とする、チャンクの並べ替えモデルを含み、
前記チャンク並べ替え手段は、前記チャンク翻訳手段から出力される出力チャンク列の各々について１又は複数通りのチャンクの並べ替えを行ない、各前記チャンクの並べ替えモデルから算出されるチャンク並べ替えの尤度と、当該出力チャンク列に含まれる出力チャンクの各々に対して算出されている尤度とから、各並べ替えの尤度を算出し、最も高い尤度を持つチャンクの配列を前記翻訳文として出力するための手段をさらに含む、請求項３から請求項９のいずれかに記載の機械翻訳装置。
【請求項１２】
前記第１の言語は日本語である、請求項１〜請求項１１のいずれかに記載の機械翻訳装置。
【請求項１３】
前記第２の言語は英語である、請求項１〜請求項１２のいずれかに記載の機械翻訳装置。
【請求項１４】
コンピュータにより実行されると、当該コンピュータを請求項１〜請求項１３のいずれかに記載の機械翻訳装置として動作させる、コンピュータプログラム。
【請求項１５】
請求項１４に記載のコンピュータプログラムによりプログラムされたコンピュータ。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
この発明は統計的機械翻訳装置に関し、特に、対訳コーパスを用いた学習により、構造が大きく異なった言語間でも精度よく翻訳する事が可能な統計的機械翻訳装置に関する。
【０００２】
【従来の技術】
［従来の技術の概論］
機械翻訳の一方法として最近盛んに研究されている方式に、統計的機械翻訳がある。統計的機械翻訳では、第１の言語の文と第２の言語の文との対訳文を多数含む対訳コーパスを用いた学習により予め翻訳モデルを作成しておき、この翻訳モデルを用いて翻訳を行なう。翻訳時には、具体的には次の様な作業を行なう。なお以下の説明では、第１の言語を日本語とし、「Ｊ」と表記する。また第２の言語を英語とし、「Ｅ」と表記する。
【０００３】
統計的機械翻訳では、第１の言語Ｊの入力文から第２の言語Ｅへの翻訳を、条件付確率Ｐ（Ｅ｜Ｊ）の最大化問題（＾Ｅ＝ａｒｇｍａｘＥＰ（Ｅ｜Ｊ））として定式化する。この式にベイズの定理を適用する事により、＾Ｅ＝ａｒｇｍａｘＥＰ（Ｅ）Ｐ（Ｊ｜Ｅ）が得られる。この式のうちＰ（Ｅ）は言語モデルと呼ばれるものであり、ターゲット言語Ｅの文における単語の出現尤度を示すものである。後者のＰ（Ｊ｜Ｅ）が翻訳モデルと呼ばれるものであり、第２の言語の文Ｅから第１の言語の文Ｊが生成される確率を表す。この言語モデルと翻訳モデルとを用いて、入力文Ｊに対し前述した条件付確率Ｐ（Ｅ）Ｐ（Ｊ｜Ｅ）が最大となる翻訳文＾Ｅを生成する。
【０００４】
なお、翻訳モデル作成の際の翻訳の原言語をソース言語、翻訳の目的言語をターゲット言語と呼ぶ。したがってこの翻訳モデルではソース言語はＥ，ターゲット言語はＪとなる。これはこの翻訳モデルを用いて実際に翻訳をする際の入力言語と出力言語との関係を逆にしたものとなっている。以下の説明では、ソース言語の文及び単語をそれぞれソース文及びソース単語、ターゲット言語の文及び単語をそれぞれターゲット文及びターゲット単語と呼ぶ。
【０００５】
翻訳モデルＰ（Ｊ｜Ｅ）を実現するにあたって、フランス語と英語、及びドイツ語と英語など、互いに近い関係にある言語間の翻訳では、語アライメント方式と呼ばれる統計的翻訳がよい成績を収めてきた。
【０００６】
［語アライメントによる統計的翻訳］
語アライメント方式の統計的翻訳は、語アライメントという概念によって二つの言語の対応関係を表し翻訳モデルを生成する。なお、語アライメントでは、ソース文の単語の各々に対して１対多の関係でのターゲット単語の生成を許すものとする。
【０００７】
図１は、翻訳モデル（Ｊ｜Ｅ）におけるソース言語（英語）Ｅとターゲット言語（日本語）Ｊとについての、語アライメントの例を示すものである。図１において、英語の文Ｅ（”ｓｈｏｗ  ｍｅ  ｔｈｅ  ｏｎｅ  ｉｎ  ｔｈｅ  ｗｉｎｄｏｗ”）の各単語と、それに対応する日本語の文Ｊ（「ウィンドノシナモノオミセテクダサイ（ｕｉｎｄｏ  ｎｏ  ｓｈｉｎａｍｏｎｏ  ｏ  ｍｉｓｅ  ｔｅｋｕｄａｓａｉ）」の各単語との対応関係を示す。対応している単語の対を線で結んである。なお、文ＪとＥとの各単語の右下に示した数字は、その単語の文頭からの位置を示す番号である。
【０００８】
以下の説明では、語アライメントについて「Ａ」という符号を用いて説明する。図１において、語アライメントＡは「７  ０  ４  ０  １  １」となっている。これは、日本語の文Ｊを構成する各単語に対応する英語の文Ｅ中の単語の位置を、日本語の文Ｊ中の単語の順に並べたものである。すなわち、日本語の文Ｊ中の番号１，２，３，４，５，６の単語はそれぞれ、英語の文Ｅ中の番号７，０，４，０，１，１に対応付けられている（アラインされている）。なおここで「０」は、対応する単語が存在しないこと（ＮＵＬＬに対応すること）を示す。逆に複数の単語に一つの単語が対応する場合もある。この例では、枠２０で示すソース単語「ｓｈｏｗ１」からは、枠２２で示す「ｍｉｓｅ５」及び「ｔｅｋｕｄａｓａｉ６」という２つのターゲット単語が生成されている。
【０００９】
こうした語アライメントを想定すると、翻訳モデルＰ（Ｊ｜Ｅ）はさらに、厳密に以下の通り分解できる。
【００１０】
【数１】
2005025474.tif 000003
この式は、ソース文Ｅとターゲット文Ｊとの間の語アライメントＡを全て考え、それらの尤度を全て加算したものが、ソース文Ｅに対するターゲット文Ｊの尤度となる事を意味する。
【００１１】
［ＩＢＭモデル］
ソース文Ｅからターゲット文Ｊへの生成プロセスにおいて、Ｐ（Ｊ，Ａ｜Ｅ）は、挿入、削除、及び並べ替えの様ないくつかのプロセスが組合わされて構成されている。後掲の非特許文献１により定義されている語アライメント方式の翻訳モデル（例えばＩＢＭモデル４）は、以下の様なシナリオに従っている。
【００１２】
（１）  ソース単語の各々について、いくつのターゲット単語を生成するかをファーティリティモデルにより選択する。例を図２に示す。図２は、左端に示したソース文（単語を縦に配列してある。）から、右端に示したターゲット文への変換過程において、単語の対応関係がどのように変化するかを示す。矢印は、その左側の単語がその右側の単語（群）に対応付けられていることを示す。図２において、枠３０に示す通り「ｓｈｏｗ」というソース単語は２語に増やされ、枠３２に示すソース単語「ｍｅ」は削除されている。
【００１３】
（２）  ＮＵＬＬ生成モデルに従って、適切な位置にＮＵＬＬを挿入する。図２に示す例では、枠３４に示す通り、二つの「ｓｈｏｗ」の各々の後にＮＵＬＬが挿入されている。
【００１４】
（３）  生成された単語の各々について、語彙モデルを用いたルックアップによって１語ごとに翻訳を行なう。図２に示す例では、二つのソース単語「ｓｈｏｗ」のうち、枠３６によって示すものがターゲット単語「ｍｉｓｅ」に翻訳されている。
【００１５】
（４）  ディストーションモデルを参照する事により翻訳後の単語を並べ替える。図２の例では、枠３８によって示す通り、「ｍｉｓｅ」は５番目の位置に配置され、「ｕｉｎｄｏ」は先頭に配置される。句の制約を保存するために、単語の位置は直前の語のアライメントによって決定される。
【００１６】
この従来例で用いられている各モデルでのシンボルの意味については、非特許文献１を参照されたい。
【００１７】
【非特許文献１】
ピーター  Ｆ．ブラウン、スティーブン  Ａ．デラ・ピエトラ、ビンセント  Ｊ．デラ・ピエトラ、及びロバート  Ｌ．メルサー、１９９３、「統計的機械翻訳の数学：パラメータ推定」、コンピューテーショナル  リングイスティックス、１９（２）：２６３−３１１（Ｐｅｔｅｒ  Ｆ．Ｂｒｏｗｎ，ＳｔｅｐｈｅｎＡ．Ｄｅｌｌａ  Ｐｉｅｔｒａ，Ｖｉｎｃｅｎｔ  Ｊ．Ｄｅｌｌａ  Ｐｉｅｔｒａ，ａｎｄ  Ｒｏｂｅｒｔ  Ｌ．Ｍｅｒｃｅｒ．１９９３．Ｔｈｅ  ｍａｔｈｅｍａｔｉｃｓ  ｏｆ  ｓｔａｔｉｓｔｉｃａｌ  ｍａｃｈｉｎｅ  ｔｒａｎｓｌａｔｉｏｎ：Ｐａｒａｍｅｔｅｒ  ｅｓｔｉｍａｔｉｏｎ．Ｃｏｍｐｕｔａｔｉｏｎａｌ  Ｌｉｎｇｕｉｓｔｉｃｓ、１９（２）：２６３−３１１．
【００１８】
【発明が解決しようとする課題】
語アライメント方式の翻訳モデルの生成では、ソース文に含まれる単語の集合の各々について個別に翻訳語を生成してターゲット単語の集合を生成し、さらにそれらターゲット単語の、翻訳文内での位置を決定する事により翻訳を行なう、という戦略を採っている。こうした手続を用いて翻訳モデルを生成する事により、同種の言語間の翻訳モデルではその対応関係を比較的精度よく捕らえる事ができる。しかし、日本語と英語の様に構造が互いに大きく異なる言語間ではさらに解決すべき問題が残っている。
【００１９】
ファーティリティモデルでは、削除についてのモデル化がされているが、残念ながら文脈に関わらず削除された語にゼロを割当てているだけである。同様に、挿入される語は語彙モデルパラメータを用いて選択され、二項分布により決定される位置に挿入されるに過ぎない。
【００２０】
この様な挿入／削除の方式は翻訳プロセスの表現を単純化する上では有用であり、膨大な対訳文の集合に基づいて処理を行なう事が可能になるという効果を持つ。しかし、語の削除及び挿入の様な現象についてこの様に弱いモデル化しか行なわない場合、日本語と英語の様に互いに大きく異なる言語の組合せについては、十分な翻訳性能を期待する事はできない。
【００２１】
ＩＢＭモデル４（及び５）は、ディストーションモデルのパラメータとして、暗黙のうちに句の制約をシミュレートしている。さらに、全体の並べ替えは局所的な並べ替えを寄せ集めたものにより決定されており、長い距離にわたる句の制約を十分に捕らえる事はできない。
【００２２】
それゆえに本発明の目的は、大きく異なる言語間でも精度の高い機械翻訳を行なう事ができる統計的機械翻訳装置を提供する事である。
【００２３】
この発明の他の目的は、大きく異なる言語間でも、長い距離にわたる句の制約を反映した精度の高い機械翻訳を行なう事ができる統計的機械翻訳装置を提供する事である。
【００２４】
【課題を解決するための手段】
本発明の第１の局面にかかる機械翻訳装置は、第１の言語の入力文を第２の言語に翻訳するための機械翻訳装置であって、入力文を１又は複数個のチャンクに分割することにより得られたチャンクの各々について個別に翻訳を行なうためのチャンク翻訳手段と、チャンク翻訳手段から出力される翻訳後のチャンクを並べ替える事により、入力文に対する翻訳文を生成するためのチャンク並べ替え手段とを含む。
【００２５】
好ましくは、機械翻訳装置は、チャンク方式の翻訳モデルを記憶するための手段をさらに含み、チャンク翻訳手段、及びチャンク並べ替え手段は、第１の言語の入力文に対して、チャンク方式の翻訳モデルを参照して処理を行なう。
【００２６】
さらに好ましくは、チャンク翻訳手段は、入力文に対して複数通りのチャンク分割を行ない、各々が１又は複数個のチャンクを含む１又は複数個のチャンク列を出力するためのチャンク分割手段と、チャンク分割手段により出力される１又は複数個のチャンク列の各々に対し、当該チャンク列が含むチャンクの各々に対する翻訳を行なうことにより１又は複数個の出力チャンク列を作成するための出力チャンク作成手段とを含む。出力チャンク作成手段は、１又は複数個の出力チャンク列に対し、翻訳モデルに基づいて尤度を算出する。
【００２７】
機械翻訳装置はさらに、出力チャンク作成手段により作成される出力チャンク列のうち、尤度が所定の条件を充足するものを選択してチャンク並べ替え手段に与えるための出力チャンク列選択手段を含んでもよい。
【００２８】
出力チャンク列選択手段は、出力チャンク作成手段により作成される出力チャンク列のうち、尤度が所定の値以上のものを選択してチャンク並べ替え手段に与えるための手段を含んでもよい。
【００２９】
好ましくは、機械翻訳装置は、第１の言語のチャンクと第２の言語のチャンクとの対を記憶しておくためのチャンク対記憶手段をさらに含む。チャンク翻訳手段はさらに、出力チャンク作成手段により作成された出力チャンクと、当該出力チャンクに対応する入力文のチャンクとの対が、チャンク対記憶手段に記憶されたものと一致していることを検出して、当該出力チャンクの尤度を所定の計算方法にしたがって変更するための尤度変更手段を含む。
【００３０】
より好ましくは、機械翻訳装置は、予め準備された、第１の言語と第２の言語との対訳コーパスに出現するチャンク対を検出し、チャンク対記憶手段に記憶させるための手段をさらに含む。
【００３１】
チャンク対記憶手段は、第１の言語のチャンクと第２の言語のチャンクとの対ごとに予め割当てられた重みを記憶していてもよく、尤度変更手段は、出力チャンク作成手段により作成された出力チャンクと、当該出力チャンクに対応する入力文のチャンクとの対が、チャンク対記憶手段に記憶された第１のチャンク対と一致していることを検出して、当該出力チャンクの尤度を、第１のチャンク対に割当てられた重みの関数により変更するための手段を含んでもよい。
【００３２】
好ましくは、機械翻訳装置は、予め準備された、第１の言語と第２の言語との対訳コーパスに出現するチャンク対と、各チャンク対の対訳コーパス中での出現頻度とを検出し、当該チャンク対と、当該チャンク対の頻度からなる重みとをチャンク対記憶手段に記憶させるための手段をさらに含む。
【００３３】
チャンク分割手段は、入力文に対して可能な全てのチャンク分割を行ない、各々が１又は複数個のチャンクを含む１又は複数個のチャンク列を出力するための手段を含んでもよい。
【００３４】
好ましくは、チャンク方式の翻訳モデルは、第２の言語をソース言語、第１の言語をターゲット言語とする、チャンクの並べ替えモデルを含む。そしてチャンク並べ替え手段は、チャンク翻訳手段から出力される出力チャンク列の各々について１又は複数通りのチャンクの並べ替えを行ない、各チャンクの並べ替えモデルから算出されるチャンク並べ替えの尤度と、当該出力チャンク列に含まれる出力チャンクの各々に対して算出されている尤度とから、各並べ替えの尤度を算出し、最も高い尤度を持つチャンクの配列を翻訳文として出力するための手段をさらに含んでもよい。
【００３５】
第１の言語は日本語、第２の言語は英語でもよい。
【００３６】
本発明の第２の局面にかかるコンピュータプログラムは、コンピュータにより実行されると、当該コンピュータを上記したいずれかの機械翻訳装置として動作させる。
【００３７】
本発明の第３の局面にかかるコンピュータは、上記したコンピュータプログラムによりプログラムされたものである。
【００３８】
【発明の実施の形態】
［概略］
本実施の形態に係る機械翻訳装置は、上記した様な従来の語アライメント方式に替えて、チャンク方式の統計的機械翻訳を行なうものである。チャンクとは、文中で連続している単語の集まりをいう。チャンク方式の翻訳モデル作成の際の翻訳プロセスは以下の通りである。すなわち、まずソース文を複数通りのチャンク分割方法にしたがってチャンク分けする。局所単語アライメントを用いて各チャンクをターゲット言語に翻訳する。最後に、ターゲット言語の制約に従う様に翻訳後のチャンクを並べ替える。このシナリオに従うと、チャンク方式の統計的翻訳モデルは複数の要素で構成され、ＥＭアルゴリズムの亜種によって訓練される。
【００３９】
翻訳結果の探索時には、この翻訳モデルを用い、第１の言語（翻訳モデル生成の際のターゲット言語）の入力文が与えられたとき、入力文を複数通りのチャンク分割の方法により複数個のチャンク列を生成する。各チャンク列は１又は複数個のチャンクを含む。一つのチャンク列の各チャンクに含まれる単語を個々に翻訳し、それらを並べ替えて１又は複数の出力チャンクを得る。この出力チャンクの各々に対しては、翻訳モデルにより尤度が算出できる。さらにこれら出力チャンクを並べ替える。このチャンクの並べ替えの各々に対し、チャンク並べ替えモデルを用いて尤度が算出できる。
【００４０】
このようにして、入力文から得られる複数個のチャンク列の各々について、出力チャンク列がその尤度と共に求められる。これらチャンク列のうち、最も尤度が高くなるチャンク列を探索する。最も尤度が高くなるチャンク列を第２の言語の翻訳文として出力する。
【００４１】
この探索時には、生成される仮説の数が膨大となる。そのため、翻訳のための各段階で展開された仮説のうち、スコアが高い仮説数を一定数だけ残すｌｅｆｔ−ｔｏ−ｒｉｇｈｔ型のビーム探索を行なう事により、計算量を削減する。
【００４２】
実験の結果、翻訳の品質を表すＢＬＥＵスコアでは従来の技術の４６．５％から５２．１％への向上が見られ、主観的な評価でも５９．２％から６５．１％への評価の向上が見られた。
【００４３】
［チャンク方式の統計的翻訳］
以下の説明では、従来の技術の説明と同様、第１の言語（ターゲット言語）を日本語、第２の言語（ソース言語）を英語として、日本語から英語へのチャンク方式の統計的機械翻訳について説明する。チャンク方式の統計的翻訳モデルは、ソース及びターゲット言語の文、ＥとＪとのチャンク分けプロセスを次の式によってモデル化する。
【００４４】
【数２】
2005025474.tif 000004
ただしＪ＊及びＥ＊はそれぞれターゲット文Ｊ及びソース文Ｅに対するチャンク分けを表し、２次元の配列として定義される。例えば、Ｊ＊ｉ，ｊはｉ番目のチャンクのｊ番目の語を表す。ソース及びターゲットのチャンク数は等しいものとする。すなわち、｜Ｅ＊｜＝｜Ｊ＊｜である。こうする事により、各チャンクは情報の付加も削除もなしにひとまとまりの意味を表すと考える事ができる。
【００４５】
Ｐ（Ｊ，Ｊ＊，Ｅ＊｜Ｅ）をさらにチャンクアライメントＡ及び各チャンクの翻訳に対する語アライメントＡ＊により分解する。すなわち、
【００４６】
【数３】
2005025474.tif 000005
この式の意味するところは、文Ｊ，チャンク分けした文Ｊ＊及びＥ＊という組合せに割当てられる尤度は、文Ｊ，チャンク分けした文Ｊ＊及びＥ＊に対するチャンクアライメントＡ及び語アライメントＡ＊の組合せの尤度を全て合計したものに等しい、という事である。
【００４７】
アライメントＡという概念自体は、語アライメント方式の翻訳モデルで用いられているものと同一である。チャンクアライメントＡでは、各ターゲットチャンクに対してソースチャンクインデックスを割当てる。Ａ＊は二次元配列であり、チャンク毎に、ターゲットの単語に対してソースの単語のインデックスを割当てる。
【００４８】
例えば、図３は図１に示す例により、２段階のアライメントを示したものである。図３において、最も上に示されているのは、ソース文Ｅに対するチャンク分けＥ＊である。チャンク分けＥ＊はソース文Ｅを３つのチャンクに分けている。図３においても、各単語の右下には単語番号が、各チャンクの右下にはチャンク番号が、それぞれ示されている。
【００４９】
チャンク分けＥ＊の各チャンクに含まれる単語の集合をそれぞれターゲット言語に訳したものが図３において２段目に示されるものである。この例ではチャンクごとに尤度が高くなるように単語を配列してある。このチャンクを尤度が高くなるようにさらにアラインすることにより、３段目に示されるターゲット語の文Ｊのチャンク分けＪ＊が生成される。図３において、ソース言語のチャンク分けＥ＊の番号３，２，１のチャンクが、ターゲット言語のチャンク分けＪ＊の番号１，２，３のチャンクに対応している。したがってこの例でのチャンクアライメントＡは「３，２，１」となる。ターゲット言語のチャンク分けＪ＊における各チャンク内での単語のアライメントを、ソース言語の単語の番号でチャンクごとに角カッコで分離して示したものがアライメントＡ＊である。
【００５０】
３番目の位置のターゲットチャンクＪ＊、「ｍｉｓｅ  ｔｅｋｕｄａｓａｉ」は先頭位置（Ａ３＝１）にアラインされ、「ｍｉｓｅ」と「ｔｅｋｕｄａｓａｉ」との双方ともソース文の先頭位置にアラインされている（Ａ＊３，１＝１、Ａ＊３，２＝１）。
【００５１】
［翻訳モデルの構造］
Ｐ（Ｊ，Ｊ＊，Ａ，Ａ＊，Ｅ＊｜Ｅ）という項はさらに、以下のシナリオによって近似的に以下の様に分解される。なお図４は、ソース文Ｅを最左端に、ターゲット文Ｊを最右端に示し、ソース文Ｅからターゲット文Ｊへの翻訳の過程を、チャンク分け、削除及びファーティリティモデルの適用、挿入モデルの適用、語彙モデルの適用、チャンク内での語の並べ替えモデルの適用、及びチャンク並べ替えモデルの適用の各段階ごとに示したものである。
【００５２】
図４において、角を丸めた四角はチャンクを示し、矢印は隣合う二つの段階における単語またはチャンクの対応関係を示す。
【００５３】
（１）  ソース文Ｅに対してＰ（Ｅ＊｜Ｅ）を用いてチャンク分けを行なう。例えば、「ｓｈｏｗ  ｍｅ」及び「ｔｈｅ  ｏｎｅ」というチャンクが得られる。このプロセスはさらに以下の二つのステップ（ａ）及び（ｂ）によりモデル化される。
【００５４】
（ａ）  ヘッドモデルによりチャンクサイズを選択する。各語Ｅｉについて、ヘッドモデルε（Φｉ｜Ｅｉ）を用いてチャンクサイズΦｉを割当てる。０より大きなチャンクサイズの語はヘッド語として取り扱われ、それ以外の語は非ヘッド語として取り扱われる。すなわちヘッドモデルは、単語をチャンクのヘッド語とするか、非ヘッド語とするかを指定するための機能を持つ。図４において、ヘッド語はボールド体で示してある。
【００５５】
（ｂ）  非ヘッド語をそれぞれ、ヘッド語に関連付ける（チャンクモデル）。各非ヘッド語Ｅｉを尤度η（ｃ（Ｅｈ）｜ｈ−ｉ、ｃ（Ｅｉ））によってヘッド語Ｅｈに関連付ける。ただしｈはヘッド語の位置であり、ｃ（Ｅ）は単語Ｅをその単語クラス（例えば品詞）にマップする関数である。例えば、「ｔｈｅ３」は４−３＝＋１の位置に存在するヘッド語「ｏｎｅ４」に関連付けられる。こうした操作により、入力文が１又は複数個のチャンクに分割される。かつ各チャンクには一つのヘッド語が含まれる事になる。すなわちチャンクモデルは、ヘッド語以外の単語をヘッド語と関連付ける機能を持つ。
【００５６】
（２）  削除及びファーティリティモデルにより翻訳対象単語を選択する。
【００５７】
（ａ）  ヘッド語の数を選択する。各ヘッド語Ｅｈ（Φｈ＞０）に対し、ファーティリティモデルν（φｈ｜Ｅｈ）に従ってファーティリティφｈを選ぶ。ファーティリティモデルは、ソース言語Ｅの単語をターゲット言語Ｊに翻訳した後の語数を決める機能を持つ。ここでは、ヘッド語は必ず翻訳する事を想定する。従ってヘッド語についてはφｈ＞０である。加えて、ファーティリティモデルにより生成された語のうちの一つは、一様分布１／φｈを用いて、ターゲット文でのヘッド語として選択される。
【００５８】
（ｂ）  非ヘッド語の幾つかを削除する。非ヘッド語Ｅｉ（Φｉ＝０）の各々に対し、削除モデルδ（ｄｉ｜ｃ（Ｅｉ），ｃ（Ｅｈ））に従って削除する。ここで、Ｅｈは同じチャンク内のヘッド語であり、ｄｉはＥｉが削除される場合に１、それ以外の場合には０となる。
【００５９】
（３）  単語を挿入する。図４において、二つのチャンクでＮＵＬＬが挿入されている。各チャンクＥ＊ｉに対し、挿入モデルι（φ’ｉ｜ｃ（Ｅｈ））によりスプリアス語φ’ｉの数を選択する。ここでＥｈはチャンクＥ＊ｈのヘッド語である。
【００６０】
（４）  単語ごとに翻訳する。スプリアス語を含め、ソース単語Ｅｉの各々を語彙モデルτ（Ｊｊ｜Ｅｉ）に従ってＪｊに翻訳する。
【００６１】
（５）  単語を並べ替える。チャンク内の各単語を並べ替えモデルＰ（Ａ＊ｉ｜εＡｊ、Ｊ＊ｊ）に従って並べ替える。この並べ替えモデルは翻訳後のチャンクに含まれる単語の順序を尤度によりモデル化したものであり、チャンクの並べ替えはＩＢＭモデル４に従って行なわれる。すなわち、単語の位置はヘッド語に対する相対的位置によって決定される。
【００６２】
【数４】
2005025474.tif 000006
ただしｈはチャンクＪ＊ｊに対するヘッド語の位置を示す。例えば、「ｎｏ」は「ｕｉｎｄｏ」に対し−１の位置にある。
【００６３】
（６）  チャンクを並べ替える。全てのチャンクを、チャンク並べ替えモデルＰ（Ａ｜Ｅ＊、Ｊ＊）に従って並べ替える。チャンク並べ替えはディストーションモデルにも類似している。ディストーションモデルでは、直前のアライメントでの相対的位置によって位置が決定される。チャンク並べ替えモデルは以下の式で表される。
【００６４】
【数５】
2005025474.tif 000007
ただしｊ’は直前のチャンクａＥ＊Ａｊ−１のチャンクアライメントである。ｈ及びｈ’はそれぞれ、Ｊ＊ｊ及びＥ＊Ａｊ−１のヘッド語のインデックスである。なお、この並べ替えはヘッド語とは独立である。
【００６５】
以上を要約すると、チャンク方式の翻訳モデルは以下の様に定式化できる。
【００６６】
【数６】
2005025474.tif 000008
［チャンク方式翻訳モデルの特徴］
チャンク方式翻訳モデルが語アライメント方式の翻訳モデルと異なるのは、単語の集合の翻訳の取り扱いである。語アライメント翻訳モデルでは、各ソース単語について単語の集合を生成する。それに対してチャンク方式翻訳モデルでは、ソース単語の集合に対してターゲット単語の集合を構築する。この振舞いは、最初に単語をその属するチャンクのヘッド語に関連付け、さらにチャンク毎の翻訳／挿入／削除を行なうチャンク処理プロセスとしてモデル化される。
【００６７】
語アライメントは複雑であるが、二段階にわたる単語位置の決定により処理される。すなわちチャンクの翻訳とチャンクの並べ替えとである。前者は局部的な順序を決定し、後者は全体的な順序を決定する。さらに、各チャンクにヘッド語を設定する事により、ヘッド語からの位置によって、２段階の並べ替えに対する制約を設ける事が可能になっている。
【００６８】
［パラメータ推定］
チャンク方式の翻訳モデルのパラメータ推定にはＥＭアルゴリズムを用いる。大きな対訳コーパス（これを「学習コーパス」と呼ぶ。）を準備し、以下の条件確率をターゲット文Ｊ及びソース文Ｅの対の各々に対して推定する（Ｅステップ）。
【００６９】
【数７】
2005025474.tif 000009
さらにこの推定された条件確率に基づいて、各モデルのパラメータを計算する（Ｍステップ）。これらステップを、パラメータの集合が収束するまで繰返す。
【００７０】
しかし、この様な単純なアルゴリズムだと、非常に困難な計算問題に遭遇する。チャンク分けＪ＊及びＥ＊、さらに語アライメントＡ＊及びチャンクアライメントＡに関して可能なものを全て列挙しようとすれば、非常に大きな計算量が必要である。従って、本実施の形態ではＥステップの計算においてインサイド‐アウトサイド・アルゴリズムの一種を導入した。インサイド‐アウトサイド・アルゴリズムについては後掲の参考文献１を参照されたい。本実施の形態で使用したインサイド‐アウトサイド・アルゴリズムについては別に説明する。
【００７１】
計算量の問題に加え、局所最大値問題も存在する。すなわちＥＭアルゴリズムである最大値解に収束したとしても、それがグローバルな最大値であるという保証はない。この問題に対処し、かつパラメータの収束を早めるため、本実施の形態では学習の初期値としてＩＢＭモデル４のパラメータを用いる。語彙モデルとファーティリティモデルとはチャンク方式の翻訳モデルに直接に適用するが、他のパラメータは一様なものとする。
【００７２】
［インサイド‐アウトサイド・アルゴリズム］
インサイド・アウトサイド計算の基本的考え方は、プロセス全体を二つの部分（すなわちチャンク個々の翻訳と、チャンクの並べ替えと）に切り分けるという事である。チャンク翻訳では各チャンクの翻訳を行なう。チャンクの並べ替えでは、チャンク分けと翻訳後のチャンクの入替えとを行なう。
【００７３】
インサイド（バックワード又はベータ）確率はチャンクと文とのソース／ターゲットの組合せの確率を表し、これは算出する事ができる。アウトサイド（フォワード又はアルファ）確率は、特定のチャンク分け及びチャンクの並べ替えにおいて、特定のソース及びターゲットの対が出現する確率として定義する事ができる。
【００７４】
＜インサイド確率＞
まず、ソース文Ｅとターゲット文Ｊとが与えられると、ソース及びターゲットのチャンク対Ｅｉ’ｊ及びＪｊ’ｊについて考えられる全ての組合せについて、チャンク翻訳のインサイド確率を下の式に従い計算する。ここでＥｉ’ｊはインデックスｉからｉ’までのチャンクを表す。
【００７５】
【数８】
2005025474.tif 000010
ただしＰθは、ε（Φｉ｜Ｅｉ）又はτ（Ｊｊ｜又はＥｉ）など、対応するランダム変数のための値に対応付けられたモデルの確率である。ただし、チャンク並べ替えモデルについては除く。Ａ’はチャンクＥｉ’ｉ及びＪｊ’ｊのための語アライメントである。
【００７６】
次に、ソース文Ｅとターゲット文Ｊとの対について、考えられるすべてのチャンク分けとチャンクアライメントを考慮してインサイド確率を計算する。
【００７７】
＜アウトサイド確率＞
文の対作成のためのアウトサイド確率は常に１である。すなわち、
α（Ｅ，Ｊ）＝１．０
各チャンク対のアウトサイド確率は以下で与えられる。
【００７８】
【数９】
2005025474.tif 000011
＜インサイド‐アウトサイド計算＞
上述のインサイド‐アウトサイド確率の組合せにより、対の累積発生数を求める以下の式が得られる。
【００７９】
まず、関連のランダム変数  ｃｏｕｎｔθ（Θ）を持つ各モデルパラメータθのカウントは以下で与えられる。
【００８０】
【数１０】
2005025474.tif 000012
次に、関連のランダム変数
【００８１】
【数１１】
2005025474.tif 000013
を持つチャンク並替えのカウントは以下で与えられる。
【００８２】
【数１２】
2005025474.tif 000014
＜近似＞
インサイド‐アウトサイドによるパラメータ推定のパラダイムを導入しても、考えられるすべてのチャンク対作成と語のアライメントとを列挙するにはＯ（ｌｍｋ４（ｋ＋１）ｋ）の計算が必要である。ここでｌとｍとは、それぞれソース文Ｅとターゲット文Ｊの文の長さであり、ｋはチャンク当たり許される最大の語数である。さらに、考えられる全てのチャンク分けされた文について、考えられるすべてのアライメントを数え挙げると、Ｏ（２ｌ２ｍｎ！）となる。ただしここでｎ＝｜Ｊ＊｜＝｜Ｅ＊｜である。
【００８３】
要求される膨大な計算量に対処するために、インサイド‐アウトサイド推定手順に近似を適用する。まず、チャンクの翻訳のための語アライメントを列挙するのに、特定の語アライメントの移動／交換動作を通し、ビタビアライメントと隣接アライメントというアライメントの組によって近似する。
【００８４】
次に、チャンクアライメントを列挙する際にも、以下の様に、チャンク分けとチャンクアライメントの組合せによって近似する。
１．文当たりのチャンク数を決定する。
２．最初のチャンク分けとアライメントとを決定する。
３．以下のオペレータを用いた山登り法によって、ビタビチャンク分け‐アライメントを計算する。
【００８５】
・チャンクの境界を移動
・チャンクアライメントの交換
・ヘッド位置を移動
４．上述のオペレータを用いて、隣接チャンク分け‐アライメントを計算する。
【００８６】
［デコーディング（翻訳）］
本実施の形態に係るデコードアルゴリズムは、後掲の参考文献２において提示された、語アライメント方式の統計的翻訳のためのビーム探索アルゴリズムに基づくものである。このアルゴリズムでは、入力を任意の順序で消費し、文頭から文末への順で出力を生成する。
【００８７】
デコーダは２段階からなる。
（１）  考えられる入力チャンクの全てに対し、考えられる出力チャンクを全て生成する。
（２）  入力チャンクを任意の順序で消費しながら、考えられる出力を全て左から右への順序で結合する事により、仮の出力を生成する。
【００８８】
考えられる出力チャンクの生成は、参考文献２に記載の逆語彙モデル及び挿入文字列シーケンスによって評価される。さらに、実例によるスコアの加算方式を導入する。この方式では、ビタビアルゴリズムにより得られるチャンク分けとアライメントとを学習コーパスからルックアップする事により候補のチャンクを作成する。
【００８９】
考えられる全てのチャンクの組合せについて計算を行なうと計算量が膨大となるので、以下の様な枝刈りとスコアリング戦略とを導入する。
【００９０】
＜ビーム枝刈り＞
探索空間が非常に大きいので、上記した二段階の双方において、出力の一部のみを残すためのサイズしきい値を設定する。またスコアリングのためのしきい値も導入し、あるスコアより大きな出力のみを処理する様にする。すなわち、あるしきい値以下のスコアしか持たない出力候補は翻訳の候補から除外される。
【００９１】
＜実例によるスコア加算＞
学習コーパスに実際に現れる入力／出力チャンクの組合せに対して、それらが探索のビームに残る確率を高くするために以下の様なスコア方法を取り入れる。すなわち、デコードのプロセスの第１段階で、学習コーパスに現れたチャンクの組合せが現れると、そのスコアを以下の式（対数形式で示す。）に従い加算する。
【００９２】
【数１３】
2005025474.tif 000015
ただしＰｔｍ（Ｊ｜Ｅ）及びＰｌｍ（Ｅ）は、それぞれ、翻訳モデル及び言語モデルであり、ｆｒｅｑ（Ｅ＊Ａｊ，Ｊ＊ｊ）は学習コーパスにＥ＊ＡｊとＪ＊ｊとの対が現れる頻度を表し、ｗｅｉｇｈｔは調整のためのパラメータ（重み）を表す。この加算により、学習コーパスに実際に現れたチャンク対に対しては、他のものよりも高い尤度が割当てられる。また、学習コーパスに現れる頻度が高ければ高いほど、そのチャンク対に割当てられる尤度は高くなる。
【００９３】
［装置の構成］
図５に、本実施の形態に係る、日本語から英語への統計的機械翻訳装置のブロック図を示す。図５を参照して、この統計的機械翻訳装置６０は、日本語と英語との多数の対訳文からなる、学習コーパスとしての対訳コーパス７０と、対訳コーパス７０を用い、前述したＥＭアルゴリズムによりチャンク方式の翻訳モデルを生成するための学習部７２と、学習部７２により生成された翻訳モデルを記憶するための翻訳モデル記憶部７４とを含む。対訳コーパス７０に含まれる対訳文の各々は、日本語の文と、それに対応する英語の文とからなっている。本実施の形態の装置では、これら対訳文について、前もってチャンク分けなどの処理はされていない。
【００９４】
図６を参照して、翻訳モデル記憶部７４が記憶する翻訳モデルは、ヘッドモデル１００と、チャンクモデル１０２と、ファーティリティモデル１０４と、削除モデル１０６と、挿入モデル１０８と、語彙モデル１１０と、翻訳後のチャンク内の語の並べ替えに用いられる並べ替えモデル１１２と、翻訳後のチャンクの並べ替えに用いられるチャンク並べ替えモデル１１４とを含む。この翻訳モデルにおいて、ソース言語は英語Ｅ、ターゲット言語は日本語Ｊである。
【００９５】
再び図５を参照して、統計的機械翻訳装置６０はさらに、学習部７２による翻訳モデルの学習の過程で対訳コーパス７０内に出現した日本語と英語のチャンク対を記憶するためのチャンク対記憶部７６と、翻訳モデル記憶部７４に記憶された翻訳モデルとチャンク対記憶部７６に記憶されたチャンク対とを用いて、入力文７８に対して上記した様なチャンク方式の統計的翻訳を行ない、翻訳文８２を出力するためのデコーダ８０と、デコーダ８０が入力チャンクのチャンク分けの際および個々の単語の翻訳の際に参照する辞書を記憶した辞書記憶部８４とを含む。
【００９６】
デコーダ８０は、入力文７８を受け、辞書記憶部８４に記憶された辞書と、翻訳モデル記憶部７４に記憶された翻訳モデルとを用い、入力文の任意のチャンク分けについて得られる翻訳後のチャンク列のうち、尤度の高い複数個のチャンク列を出力するためのチャンク翻訳部９０と、チャンク翻訳部９０から出力される出力チャンク列の各々についてチャンクの並べ替えを行ない、翻訳モデル記憶部７４に記憶された翻訳モデルとチャンク対記憶部７６に記憶されたチャンク対の出現頻度とにしたがって計算される尤度の最も高くなるチャンクの配列を翻訳文８２として出力するためのチャンク並べ替え処理部９２とを含む。
【００９７】
入力チャンク作成部９４は、辞書記憶部８４に記憶されたチャンク分け用の辞書を用いて、入力文７８に対して考えられる入力チャンク列を全て作成するための入力チャンク作成部９４と、入力チャンク作成部９４により作成されたチャンク列の各々について、辞書記憶部８４に記憶された翻訳用の辞書及び翻訳モデル記憶部７４に記憶された翻訳モデルとを用いて、可能な出力チャンク列を全て生成するための出力チャンク作成部９６とを含む。出力チャンク作成部９６はこのとき、出力されるチャンクの各々に対し、翻訳モデル記憶部７４に記憶された翻訳モデルのうち、ヘッドモデル１００、チャンクモデル１０２、ファーティリティモデル１０４、削除モデル１０６、挿入モデル１０８、語彙モデル１１０、及び並べ替えモデル１１２を用いて尤度を算出する。この尤度の算出の際には、前述のとおり、チャンク対記憶部７６に記憶されたチャンク対と同一のチャンク対については尤度の加算が行なわれる。
【００９８】
なお、実際には出力チャンク作成部９６は、翻訳モデルによる尤度計算を行なってチャンク列を出力する際、ビーム探索を行なう事によりチャンクの中でも尤度の高いもののみを残すようにすることにより計算量を削減している。これはこの後のプロセスでも同様である。しかし以下の説明では、説明を簡略化するためにそうしたビーム探索による計算量の削減には言及しない。
【００９９】
チャンク並べ替え処理部９２は、出力チャンク選択部９８から出力されるチャンク列の各々についてチャンクの並べ替えを行ない、翻訳モデル中のチャンク並べ替えモデル１１４に従って尤度を算出し、その結果に従って最も高い翻訳結果を選択し出力する機能を持っている。
【０１００】
［動作］
図５に示した統計的機械翻訳装置６０は以下の様に動作する。統計的機械翻訳装置６０の動作には二つの局面がある。第１の局面は翻訳モデルの学習という局面である。第２の局面は、学習した翻訳モデルを用いて、入力文に対する統計的翻訳を行なうという局面である。これらを順に説明する。
【０１０１】
＜翻訳モデルの学習の局面＞
この翻訳モデル作成において、前述の通りソース言語は英語Ｅ、ターゲット言語は日本語Ｊとする。翻訳モデルの学習に先立って、対訳コーパス７０が準備される。学習部７２は、前述した通りのＥＭアルゴリズムに従って対訳コーパス７０から翻訳モデルを生成する。すなわち、学習部７２は、翻訳モデルの初期値から出発してＥＭアルゴリズムを用いて翻訳モデルのパラメータを繰返し計算する。翻訳モデルは、ヘッドモデル１００、チャンクモデル１０２、ファーティリティモデル１０４、削除モデル１０６、挿入モデル１０８、語彙モデル１１０、並べ替えモデル１１２及びチャンク並べ替えモデル１１４を含む。学習部７２はＥＭアルゴリズムに従って計算したこれら翻訳モデルのパラメータが収束すると、その結果を翻訳モデル記憶部７４に格納する。
【０１０２】
学習部７２はまた、上記した学習の過程で、対訳コーパス７０に出現する日本語と英語とのチャンク対を調べ、出現する全てのチャンク対と、その頻度とをチャンク対記憶部７６に格納する。
【０１０３】
翻訳モデル記憶部７４及びチャンク対記憶部７６が準備できた時点で第１の局面は終了する。なお、このとき言語モデルＰ（Ｅ）も利用可能となっているものとする。
【０１０４】
＜統計的翻訳の局面＞
日本語の入力文７８が与えられると、入力チャンク作成部９４が辞書記憶部８４に記憶されたチャンク分け用の辞書を参照して、入力文７８の考えられるチャンク分けを全て作成する。出力チャンク作成部９６は、入力チャンク作成部９４により作成された入力文７８のチャンク分けごとに、考えられる英語の出力チャンク列を全て作成する。出力チャンク作成部９６はこのとき、語彙モデル１１０及び並べ替えモデル１１２を用いて出力チャンクの尤度を算出する。また、チャンク対記憶部７６に記憶されたチャンク対と同一のチャンク対が現れた場合、そのチャンク対の尤度については前述したとおり加算が行なわれる。
【０１０５】
なお、出力チャンク作成部９６から出力される出力チャンク列のうち、全体としての尤度が所定の値以上のものをチャンク並べ替え処理部９２に与えるようにする。この処理は、前述したとおりビーム探索アルゴリズムにより実現される。
【０１０６】
チャンク並べ替え処理部９２は、出力チャンク作成部９６が作成した出力チャンク列の各々について、チャンクの並べ替えを行なう。そうした並べ替えにより得られる全ての出力チャンク列に対しスコア（尤度）をチャンク並べ替えモデル１１４及び各チャンクの尤度を用いて計算し、最も高いスコアを示した出力文を翻訳文８２として出力する。
【０１０７】
入力チャンク作成部９４、出力チャンク作成部９６及びチャンク並べ替え処理部９２は、最もスコアの高い翻訳文の探索にあたって、前記したインサイド‐アウトサイドアルゴリズムを用いる。
【０１０８】
こうして得られた翻訳文８２が、入力文７８に対してチャンク方式による統計的機械翻訳で得られた結果である。
【０１０９】
なお、上記した処理は全て、コンピュータ、当該コンピュータの記憶装置に格納される電子的に読取可能な対訳コーパス、及び当該コンピュータにより実行されるソフトウェアにより実現できる。特に、学習部７２の処理及びデコーダ８０の処理は、いずれもコンピュータプログラムによって実現する事が可能である。
【０１１０】
［実験］
上記した処理が可能な様にプログラムされたコンピュータを用いて以下の実験を行なった。本実験で使用した対訳コーパスは、出願人において用意した日本語と英語とからなる旅行会話の対話集である（参考文献３を参照されたい。）。この対訳コーパスの概略を以下の表１に示す。
【０１１１】
【表１】
2005025474.tif 000016
このコーパスの全体を３部に分割した。すなわち、トレーニング用の１５２，１６９文、テスト用の４，８４６文、及びパラメータ調整のための１０，１４８文である。パラメータ調整は、学習時の繰返し終了のための判断基準及びデコーダ８０の調整のために行なった。
【０１１２】
比較のための３つの翻訳システムをテストした。それらはモデル４、ｃｈｕｎｋ３、及びｃｈｕｎｋ３＋である。以下、それらについて簡単に説明する。
【０１１３】
モデル４は、語アライメント方式の翻訳モデルであり、ビーム探索デコーダを備えたＩＢＭ  モデル４である。
【０１１４】
ｃｈｕｎｋ３は本実施の形態と同様のチャンク方式の翻訳モデルであり、最大チャンクサイズを３に制限したものである。
【０１１５】
ｃｈｕｎｋ３＋は、ｃｈｕｎｋ３に加え、本実施の形態で説明した通り、実際の文例を用いたチャンク候補生成を行なうチャンク方式の翻訳モデルである。
【０１１６】
図７に、英語から日本語への翻訳におけるｃｈｕｎｋ３でのビタビチャンク化及びチャンクアライメントの例を示す。図７において、チャンクは角カッコで区分してある。また各チャンクのヘッド語の左側には「＊」マークを付してある。また、チャンク間のアライメントは、チャンクの対の間にひいた棒線で示してある。たとえば、１番目の例でいえば、「ｉ  ｈａｖｅ」というチャンクは「は  あります」というチャンクと、「ｔｈｅ  ｎｕｍｂｅｒ」というチャンクは「番号  の  控え」というチャンクと、「ｏｆ  ｍｙ  ｐａｓｓｐｏｒｔ」というチャンクは「パスポート  の」というチャンクと、それぞれアラインされている。
【０１１７】
実験では、テスト文の集合からランダムに選んだ５１０文を翻訳し、１６個の基準文の集合を参照して、以下の基準により翻訳結果を評価した。
【０１１８】
ＷＥＲ：Ｗｏｒｄ−ｅｒｒｏｒ−ｒａｔｅ。これは基準となる翻訳に到達するまでの編集距離に対応する。この値が低いほど評価は高い。
【０１１９】
ＰＥＲ：位置と独立なＷＥＲ。これは語順上の問題を考慮しない。値が低いほど評価は高い。
【０１２０】
ＢＬＥＵ：ＢＬＥＵスコア。これは、翻訳結果のうち、基準となる訳文の中に見出されたＮ−グラムの率を計算するものである。値が高いほど評価も高い。
【０１２１】
ＳＥ：主観的評価。ネイティブ・スピーカにより、ランクＡからランクＤ（Ａ：完璧  Ｂ：良好  Ｃ：可  Ｄ：ナンセンス）までの範囲で評価したものである。Ａ，Ａ＋Ｂ，Ａ＋Ｂ＋Ｃの範囲に含まれる訳文の率を表す。一般的に、値が高いほど評価も高い。
【０１２２】
表２は、日本語から英語への翻訳結果の評価を要約したものである。また図８はモデル４及びｃｈｕｎｋ３＋の結果をいくつか示したものである。
【０１２３】
【表２】
2005025474.tif 000017
表２を参照して、ｃｈｕｎｋ３は非主観的な評価においてはモデル４よりもよい結果を示している。もっとも、主観的評価では両者はほぼ同じである。ｃｈｕｎｋ３では、実際に学習コーパスに現れた例を候補としているので、これら３つの中では最もよいスコアを示している事が分かる。
【０１２４】
以上の通り、本実施の形態に係る統計的機械翻訳装置は、入力文をチャンク分けし、各チャンク内で翻訳を行なう事により出力チャンクを作成し、さらに出力チャンクを並べ替える事により翻訳を行なう。個々のチャンク内という局所的な部分で第１段階の翻訳と語の並べ替えが行なわれるので、局所的に正しい翻訳が得られる可能性が高くなる。また、文全体の翻訳結果を得るために、語ではなくチャンク単位での並べ替えが行なわれるので、最終的に得られる翻訳文の構造が、入力文の構造を正しく反映したものとなる可能性も高くなる。その結果、日本語と英語など、大きく構造が異なる言語間でも良好な翻訳結果を得る事ができる。さらに、２段階の並べ替えを行なうので、文中の比較的長い距離にわたる制約でも翻訳結果に反映する事ができる。
【０１２５】
今回開示された実施の形態は単に例示であって、本発明が上記した実施の形態のみに制限されるわけではない。本発明の範囲は、発明の詳細な説明の記載を参酌した上で、特許請求の範囲の各請求項によって示され、そこに記載された文言と均等の意味及び範囲内でのすべての変更を含む。
【０１２６】
［参考文献１］
ケンジ  ヤマダ及びケビン  ナイト、２００１、シンタックス・ベースの統計的翻訳モデル、ＡＣＬ２０００予稿集、ツールーズ、フランス（Ｋｅｎｊｉ  Ｙａｍａｄａ  ａｎｄ  Ｋｅｖｉｎ  Ｋｎｉｇｈｔ．２００１．Ａ  ｓｙｎｔａｘ−ｂａｓｅｄ  ｓｔａｔｉｓｔｉｃａｌ  ｔｒａｎｓｌａｔｉｏｎ  ｍｏｄｅｌ．Ｉｎ  Ｐｒｏｃ．ｏｆ  ＡＣＬ  ２００１、Ｔｏｕｌｏｕｓｅ，Ｆｒａｎｃｅ．）
【０１２７】
［参考文献２］
クリストフ  ティルマン及びハーマン  ネイ、２０００、統計的翻訳における語の並べ替え及びｄｐ方式の探索、ＣＯＬＩＮＧ  ２０００予稿集、７月‐８月（Ｃｈｒｉｓｔｏｐｈ  Ｔｉｌｌｍａｎｎ  ａｎｄ  Ｈｅｒｍａｎｎ  Ｎｅｙ．２０００．Ｗｏｒｄ  ｒｅ−ｏｒｄｅｒｉｎｇ  ａｎｄ  ｄｐ−ｂａｓｅｄ  ｓｅａｒｃｈ  ｉｎ  ｓｔａｔｉｓｔｉｃａｌ  ｍａｃｈｉｎｅ  ｔｒａｎｓｌａｔｉｏｎ．Ｉｎ  Ｐｒｏｃ．ｏｆ  ｔｈｅ  ＣＯＬＩＮＧ  ２０００，Ｊｕｌｙ−Ａｕｇｕｓｔ．）
【０１２８】
［参考文献３］
トシユキ  タケザワ、エイイチロウ  スミタ、フミアキ  スガヤ、ヒロフミ  ヤマモト、及びセイイチ  ヤマモト．２００２．実世界における旅行会話の音声翻訳のための大規模バイリンガルコーパスの構築に向けて．ＬＲＥＣ  ２００２予稿集、１４７頁‐１５２頁、ラス・パルマス、カナリア諸島、スペイン、５月（Ｔｏｓｈｉｙｕｋｉ  Ｔａｋｅｚａｗａ，Ｅｉｉｃｈｉｒｏｕ  Ｓｕｍｉｔａ，Ｆｕｍｉａｋｉ  Ｓｕｇａｙａ，Ｈｉｒｏｆｕｍｉ  ｙａｍａｍｏｔｏ，ａｎｄ  Ｓｅｉｉｃｈｉ  Ｙａｍａｍｏｔｏ．２００２．Ｔｏｗａｒｄ  ａ  ｂｒｏａｄ−ｃｏｖｅｒａｇｅ  ｂｉｌｉｎｇｕａｌ  ｃｏｒｐｕｓ  ｆｏｒ  ｓｐｅｅｃｈ  ｔｒａｎｓｌａｔｉｏｎ  ｏｆ  ｔｒａｖｅｌ  ｃｏｎｖｅｒｓａｔｉｏｎ  ｉｎ  ｔｈｅ  ｒｅａｌ  ｗｏｒｌｄ．  Ｉｎ  Ｐｒｏｃ．  ｏｆ  ＬＲＥＣ  ２００２，ｐａｇｅｓ  １４７−１５２．Ｌａｓ  Ｐａｌｍａｓ，Ｃａｎａｒｙ  Ｉｓｌａｎｄｓ，Ｓｐａｉｎ，Ｍａｙ．）
【図面の簡単な説明】
【図１】従来の技術による語アライメント方式の機械翻訳における語の対応関係を説明するための図である。
【図２】従来の技術にかかる、語アライメント方式の機械翻訳の翻訳プロセスを説明するための図である。
【図３】本発明の一実施の形態に係る機械翻訳装置での２段階の並べ替えを説明するための図である。
【図４】本発明の一実施の形態に係る機械翻訳装置での翻訳プロセスを説明するための図である。
【図５】本発明の一実施の形態に係る機械翻訳装置の機能ブロック図である。
【図６】本発明の一実施の形態に係る機械翻訳装置で用いられる翻訳モデルを模式的に示す図である。
【図７】本発明の一実施の形態に係る機械翻訳装置による翻訳結果の例を示す図である。
【図８】本発明の一実施の形態に係る機械翻訳装置の翻訳結果の評価を、従来の機械翻訳装置の翻訳結果の評価と対比して示す図である。
【符号の説明】
６０  統計的機械翻訳装置、７０  対訳コーパス、７２  学習部、７４  翻訳モデル記憶部、７６  チャンク対記憶部、８０  デコーダ、９０  チャンク翻訳部、９２  チャンク並べ替え処理部、９４  入力チャンク作成部、９６  出力チャンク作成部
【図１】
2005025474.tif 000018
【図２】
2005025474.tif 000019
【図３】
2005025474.tif 000020
【図４】
2005025474.tif 000021
【図５】
2005025474.tif 000022
【図６】
2005025474.tif 000023
【図７】
2005025474.tif 000024
【図８】
2005025474.tif 000025