近年，ニューラルネットワークを活用した機械翻訳（ニューラル機械翻訳）\cite{Vaswani:17,Bahdanau:15,Sutskever:14}は著しい精度の向上を実現している．ニューラル機械翻訳は通常，原言語一文を入力して目的言語への翻訳結果を出力するが，さらに翻訳精度を上げるため，翻訳対象の周辺の文を文脈情報として活用する手法が提案されている\cite{Maruf:19,Voita:19,Agrawal:18,Bawden:18,Kuang:18,Laubli:18,Miculicich:18,Tiedemann:17,Wang:17}．本稿では，特に目的言語側の前文を活用したニューラル機械翻訳の改善手法を提案する．文脈情報を用いる手法には原言語側や目的言語側の周辺の文を用いる手法があるが，文脈情報に目的言語側の周辺の文を用いる手法は翻訳精度が下がることが報告されている\cite{Bawden:18}．この翻訳精度の低下は，翻訳モデルの学習時と翻訳時で用いる周辺の文の特徴の異なり（ギャップ）が原因の1つと考えられる．従来研究では，学習時は目的言語側の周辺の文の参照訳を使用し，翻訳時は翻訳モデルによって生成された機械翻訳結果を用いているが，機械翻訳結果には，参照訳には含まれない訳抜け，過剰訳，誤訳などの機械翻訳特有の誤り（機械翻訳誤り）が含まれる可能性がある．また，機械翻訳誤りが無い場合でも，機械翻訳結果は，Translationese（翻訳調）と呼ばれる偏りのある文となっている．\citeA{Toral:19}は，機械翻訳結果が人手翻訳で作られた翻訳文と比較して単純で標準的な翻訳になる傾向があることを示している．学習時と翻訳時でギャップのあるデータを用いることで生じるモデルの偏りは，exposure~biasと呼ばれており\cite{Ranzato:16}，翻訳品質の低下に繋がることが報告されている\cite{Zhang:19}．目的言語側の周辺の文の利用において，学習時に参照訳を用い，翻訳時に機械翻訳誤りを含み，翻訳調の特徴を有する機械翻訳結果を用いることは，exposure~biasによる翻訳低下を引き起こすと考えられる．下記は，IWSLT2017で提供されている日英対訳データセット\cite{Cettolo:12}から抽出した例であり，翻訳対象の原言語文，翻訳対象の参照訳，翻訳対象の機械翻訳結果を示している．さらに，文脈情報として，前文の参照訳と機械翻訳結果を示している．機械翻訳結果は，日英対訳データセットをTransformerモデル\cite{Vaswani:17}で学習した機械翻訳器を用いて翻訳した．\begin{description}\setlength{\itemsep}{0pt}\setlength{\parskip}{0pt}\setlength{\itemindent}{-20pt}\setlength{\labelsep}{0pt}\item{\bf前文の参照訳：}{\bfShe}layseggs,{\bfshe}feedsthelarvae--soanantstartsasanegg,thenit'salarva.\item{\bf前文の機械翻訳結果：}Andwhentheygettheireggs,theygettheireggs,andthe{\bfqueen}isthere.\item{\bf翻訳対象の原言語文：}脂肪を吐き出して幼虫を育てます\item{\bf翻訳対象の参照訳：}{\bfShe}feedsthelarvaebyregurgitatingfromherfatreserves.\item{\bf翻訳対象の機械翻訳結果：}{\bfThey}takefatandtheyraisethelarvaeoftheirlarvae.\end{description}翻訳対象の原言語文では主語が省略されており，この文のみで主語を推定することができず参照訳を生成することは困難である．しかし，前文の参照訳，または機械翻訳結果には主語を推定する情報（参照訳には``she''，機械翻訳結果には``queen''）が含まれており，目的言語側の前文を使うことで正しい翻訳ができる可能性がある．一方で，前文の参照訳と機械翻訳結果を比較すると機械翻訳結果には誤訳が含まれており，参照訳と機械翻訳結果との間にギャップがあることが分かる．誤訳のない参照訳のみを文脈情報として学習した翻訳モデルは文脈に含まれる誤訳に頑健でないと考えられ，参照訳と機械翻訳を学習時と翻訳時で別々に用いる手法はexposure~biasによる翻訳精度低下を引き起こす可能性がある．本稿では，スケジュールドサンプリング法\cite{Bengio:15}を参考にして，学習時と翻訳時の目的言語側の前文の特徴のギャップを緩和するための学習データ制御手法を提案する．具体的には，初期の学習では従来手法と同様に文脈情報として目的言語側の前文に参照訳のみを用い，学習が進行するにつれて，段階的に参照訳から機械翻訳結果へ切り替えていく．この処理により，翻訳モデルが機械翻訳誤りに頑健になり，翻訳調の特徴に対応できるようになると期待できる．機械翻訳結果は，対訳データをTransformerモデルで学習した機械翻訳器で生成する．実験では，提案手法を結合ベース文脈考慮型ニューラル機械翻訳\cite{Bawden:18,Tiedemann:17}とマルチエンコーダ文脈考慮型ニューラル機械翻訳\cite{Kim:19,Bawden:18}で実装し，ニュースコーパス\cite{Tanaka:21}を用いた英日・日英機械翻訳タスク，およびIWSLT2017データセット\cite{Cettolo:12}を用いた英日・日英，および英独・独英機械翻訳タスクで評価した．その結果，提案手法が従来手法と比較してBLEUスコア\cite{Papineni:02}により翻訳精度が改善していることを確認した．本稿の構成は以下の通りである．まず，2章で提案手法が前提とする文脈考慮型ニューラル機械翻訳について述べ，3章で提案手法を説明する．4章で提案手法の効果を確認するための翻訳実験の詳細を示し，5章で翻訳実験の結果を示して提案手法の効果を分析する．6章で関連研究について述べ，最後に7章で本稿をまとめる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%