言語間対応を考慮したバイリンガルサブワード分割

対応関係を学習することで，単語アライメントツーニューラル機械翻訳（以下，NMT）では，事前にルを使用せずにサブワード分割を行う新たなサブ定義された語彙に依存しているため，翻訳時の原言ワード分割手法を提案する．提案手法では，ユニグ語文に低頻度語や未知語が含まれると，翻訳性能がラム言語モデルであるSentencePiece[7]を用いて，低下する．この語彙問題に対処するため，バイトペ対訳コーパス中の原言語文と目的言語文のサブワーア符号化（以下,BPE）[1]や，ユニグラム言語モデド分割候補をそれぞれ取得し，各サブワード列対のル[2]に基づくサブワード分割が広く用いられておサブワードの対応関係をアライメント確率として学り，これらの手法では各言語ごとに独立して分割習する．ここで，この確率モデルにおけるアライメモデルを学習している．また，複数言語のコーパント確率は隠れ状態となるため，潜在変数付き確率スを統合して単一の分割モデルを学習する多言語モデルの学習に使われるEMアルゴリズムを用いSentencePieceも用いられている[3]．る．ユニグラム言語モデルによる生起確率とアライしかし，これらの手法は対訳文対に基づく対応関メント確率を掛け合わせ，確率が最も大きくなるサ係を直接的にモデル化するものではなく，対訳関係ブワード列対を訓練データとして使用する．翻訳時が反映されない．その結果，原言語と目的言語の間には目的言語文が存在しないため，目的言語側サブで語内部の分割が対応しなくなり，翻訳モデルの学ワードでアライメント確率の周辺化を行い，同様に習を妨げる可能性がある．例えば，日英翻訳におい確率が最も大きくなるサブワード列を評価データとて，“nonextended”と“延長されなかった”の対訳文して使用する．があり，“nonextended”は“nonextended”，“延長され16種類の機械翻訳タスクにおける評価実験の結なかった”は“延長されなかった”と分割されたと果，13種類のタスクにおいて提案手法のBLEUが従する．ここで，NMTモデルが“next”を“延長”とし来手法を上回る性能を達成した．て学習してしまった場合，正しい翻訳結果が得られorg/licenses/by/4.0/).