Dualformerの双方向性を活かしたパラメータ共有による機械翻訳

近年,ニューラル機械翻訳の分野ではTransformerが主流であるが,翻訳問題の双方向性を単一モデルで解く手法としてDualformerが提案されている.本研究では,Dualformerの双方向性をさらに活かした性能向上とパラメータ効率化を目的とし,同一モデルアンサンブルとデコーダのパラメータ共有を提案する.同一モデルアンサンブルでは,Dualformerの単一モデル内で異なる経路を用いたアンサンブルを実現する.また,パラメータ共有では2つのデコーダを完全に共有することで,パラメータの削減を行う.実験では日英間での翻訳タスクにおいて,提案手法は統計的に有意な精度の向上を達成し,かつ大幅な軽量化を実現しても性能が劣化しないことを示した.