多数決による自己回帰モデルに基づく機械翻訳

ニューラルネットワーク翻訳（以後NMT）は，基本的には，encoder-decoderモデル[1]を利用している．基本的な考え方は，入力文を𝑗1𝑗2𝑗3として，出力文を𝑒1𝑒2𝑒3とする．そのとき，入力文を条件として，出力文の確率を最大にするモデルのパラメータを求める．𝑀𝑎𝑥𝑃(𝑒1𝑒2𝑒3|𝑗1𝑗2𝑗3)一方ARモデル[2],[3]は，古くから制御理論などで用いられてきたモデルである．このモデルは，現在のデータは，過去のデータの重みに雑音が重畳していると仮定している．𝑋(𝑛)=𝑋(𝑛−1)∗𝑎1+𝑋(𝑛−2)∗𝑎2+...+𝑋(𝑛−𝑚)∗𝑎𝑚+𝜀このモデルをencoder-decoderモデルの変形と考える．そのとき，入力データは，初期の過去データとみなすことができる．𝑀𝑎𝑥𝑃(𝑒1𝑒2𝑒3)ただし過去データは𝑗1𝑗2𝑗3つまり，入力文を過去データとし，出力文の生成確率を最大にするモデルを求めることになる．以上の考察から，本論文では，ARモデルに基づく機械翻訳を行うと仮定する．その仮定に基づいたときに，翻訳文は，尤度最大の基準で決めるのではなく．多数決で決定することを提案する．また，入力1文毎にモデルの最適化を行う．このとき，入力1文の単語数をARモデルの回帰次数に相当すると仮定する．以上の点を考慮して翻訳実験を行う．