双方向翻訳モデルの相互学習による対訳語彙の教師なし獲得過程の調査

ニューラル機械翻訳（NMT）の翻訳精度には学習データに使用する対訳コーパスの量と質が大きく関わっている．しかし，特定のドメインでは十分な量の対訳コーパスを用意することが困難であるという問題がある．そこで，比較的収集が容易な単言語コーパスを用いる手法が提案されている．そのような手法の一つとしてデータ拡張手法であるIterativeBack-translation(IBT)[1][2][3][4]を用いたドメイン適応が知られている．IBTは，翻訳対象言語対の2つの単言語コーパスを相互に逆翻訳とモデルの更新を繰り返し行うことで，疑似対訳データと翻訳モデルの質を向上させることができる．我々の先行研究[5]ではIBTによる単言語コーパスからの知識獲得の過程を，2言語の単言語コーパスのみに出現する互いに翻訳関係にある語のペア(対訳語彙)の獲得を調べることによって調査した．その結果，対訳語彙はIBTの反復を繰り返すごとに獲得していき，最終的には獲得可能な6割以上の対訳語彙を獲得できていることがわかった．しかし，対訳語彙の詳しい獲得過程や獲得条件などについては明らかにはできていなかった．そのため本稿では，対訳語彙の獲得についてさらなる掘り下げを行った．具体的には，単言語データでの対訳語彙の出現頻度が対訳語彙獲得率に与える影響，対訳語彙ごとのIBTの逆翻訳結果上での獲得率，獲得できなかった対訳語彙について調査を行った．その結果，対訳語彙の獲得過程については，テストデータで獲得できていた対訳語彙の約７割が，IBTの1回目の逆翻訳時点でどちらかの翻訳方向で少なくとも1箇所で翻訳結果に出力できている事がわかった．また，単言語コーパスのどこかで1度でも翻訳に成功すれば，その後の反復で次第に他の箇所でも翻訳が成功するようになり，対訳語彙獲得につながることが観察された．さらに，獲得の条件については，単言語データ上での出現回数が重要であることがわかった．加えて，対訳語彙の獲得には語の出現する文脈が大きく関係していることも示唆された．