疑似参照訳文ベクトルの重心に基づく高速なニューラル最小ベイズリスク復号

最小ベイズリスク（minimumBayesrisk;MBR）復号による機械翻訳は，複数文からなる翻訳仮説集合全体から計算されるベイズリスクを最小化する出力文を選択することで，頑健かつ品質の高い翻訳を実現する[14,5,16]．特に近年では，翻訳品質の人手評価スコアを予測するCOMETモデル[19,18]をMBRで用いたCOMET-MBRが，ビーム探索を用いた従来の最大事後確率復号と比較して，翻訳品質の人手評価における最高性能を達成している[8]．COMETモデルは原文，仮説文，参照訳文をそれぞれ独立に文ベクトルに符号化し，それら3つの文ベクトルを用いてスコアを計算する．しかし，MBR復号では，ある仮説文のベイズリ従来法（MBR）と提案法（CBMBR）の概要図．緑色の背景箇所がベイズリスクの期待値計算を表す．スクが各参照訳との間で計算されるスコアの期待値計算によって求められ，仮説文集合自身を擬似的に参照訳集合とみなす典型的なMBR復号は，翻訳仮説の数を𝑁とするとO(𝑁2)の計算時間を要する．𝑁は多い時で1000を超えることもあり[9]，二乗オーダーの計算時間はMBR復号の大きな課題となっている．これまでに，MBRの復号速度を改善するため，仮説文を枝刈りする手法が提案されており，軽量な代替評価尺度[6]や𝑁-bestリランカ[8]を用いる手法などが提案されている．ただし，代替評価尺度の種類を適切に選択する必要が生じたり，リランカモデルの訓練・推論コスト等が生じたりする．ここで，COMETモデルは仮説文と参照訳文が意味的に近いときに高いスコアを出力するように学習されていることから，文ベクトル間の距離が文間の類似度を表現できるのではないかと考えた．本研究では，COMET-MBRにおいて，翻訳候補集合中の近い文ベクトル同士を1つにまとめてスコアを算出することでMBRの期待値計算を近似し，復号速度を改善する．提案法では，翻訳候補の文ベクトルを𝑘≪𝑁個のクラスタにクラスタリングし，𝑁個の文ベクトルの代わりに各クラスタの𝑘個の重心ベクトルを用いてCOMETスコアを算出することで，復号.時のスコア計算回数を𝑁2回から𝑁𝑘回に削減する．WMT’22翻訳タスクの英↔日，英↔独，英↔中の6言語方向の翻訳実験より，従来のMBR復号と比較して，同等のCOMETスコアを維持しながら，ベイズリスクの計算時間が13.6倍，うち期待値計算が26.2倍速くなることを確認した．