重文・複文翻訳におけるTransfomerの性質

近年，機械翻訳の分野においてTransfomerが高く評価されている[1]．Transfomerはアテンション機構を持ち，単語同士の依存関係を学習できる．そこで，重文・複文の翻訳について考えた．重文・複文の翻訳は複雑な文構造を翻訳することが重要である．文構造を翻訳するためには句や係り受けといった単語の依存関係を捉えることが必要になる．そのため，アテンション機構により単語の依存関係を適切に捉えることが翻訳精度向上に繋がる．また，単語の依存関係を学習するために対訳単文の学習を考えた．単文は単純な構造を持つため，単語の依存関係を学習しやすい．したがって，Transformerの学習コーパスに対訳単文が多く含まれることにより文構造を理解しやすくなる．そして，重文・複文の翻訳精度向上に繋がると推測できる．本論文では，対訳単文を変化させながら学習することで重文・複文の翻訳精度に与える影響をTransformerとRNNを比較し調査した．