\section{はじめに}
近年，ニューラルネットワークを活用した機械翻訳（ニューラル機械翻訳）\cite{Vaswani:17,Bahdanau:15,Sutskever:14}は著しい精度の向上を実現している．ニューラル機械翻訳は通常，原言語一文を入力して目的言語への翻訳結果を出力するが，さらに翻訳精度を上げるため，翻訳対象の周辺の文を文脈情報として活用する手法が提案されている\cite{Maruf:19,Voita:19,Agrawal:18,Bawden:18,Kuang:18,Laubli:18,Miculicich:18,Tiedemann:17,Wang:17}．本稿では，特に目的言語側の前文を活用したニューラル機械翻訳の改善手法を提案する．文脈情報を用いる手法には原言語側や目的言語側の周辺の文を用いる手法があるが，文脈情報に目的言語側の周辺の文を用いる手法は翻訳精度が下がることが報告されている\cite{Bawden:18}．この翻訳精度の低下は，翻訳モデルの学習時と翻訳時で用いる周辺の文の特徴の異なり（ギャップ）が原因の1つと考えられる．従来研究では，学習時は目的言語側の周辺の文の参照訳を使用し，翻訳時は翻訳モデルによって生成された機械翻訳結果を用いているが，機械翻訳結果には，参照訳には含まれない訳抜け，過剰訳，誤訳などの機械翻訳特有の誤り（機械翻訳誤り）が含まれる可能性がある．また，機械翻訳誤りが無い場合でも，機械翻訳結果は，Translationese（翻訳調）と呼ばれる偏りのある文となっている．\citeA{Toral:19}は，機械翻訳結果が人手翻訳で作られた翻訳文と比較して単純で標準的な翻訳になる傾向があることを示している．学習時と翻訳時でギャップのあるデータを用いることで生じるモデルの偏りは，exposure~biasと呼ばれており\cite{Ranzato:16}，翻訳品質の低下に繋がることが報告されている\cite{Zhang:19}．目的言語側の周辺の文の利用において，学習時に参照訳を用い，翻訳時に機械翻訳誤りを含み，翻訳調の特徴を有する機械翻訳結果を用いることは，exposure~biasによる翻訳低下を引き起こすと考えられる．下記は，IWSLT2017で提供されている日英対訳データセット\cite{Cettolo:12}から抽出した例であり，翻訳対象の原言語文，翻訳対象の参照訳，翻訳対象の機械翻訳結果を示している．さらに，文脈情報として，前文の参照訳と機械翻訳結果を示している．機械翻訳結果は，日英対訳データセットをTransformerモデル\cite{Vaswani:17}で学習した機械翻訳器を用いて翻訳した．\begin{description}\setlength{\itemsep}{0pt}\setlength{\parskip}{0pt}\setlength{\itemindent}{-20pt}\setlength{\labelsep}{0pt}\item{\bf前文の参照訳：}{\bfShe}layseggs,{\bfshe}feedsthelarvae--soanantstartsasanegg,thenit'salarva.\item{\bf前文の機械翻訳結果：}Andwhentheygettheireggs,theygettheireggs,andthe{\bfqueen}isthere.\item{\bf翻訳対象の原言語文：}脂肪を吐き出して幼虫を育てます\item{\bf翻訳対象の参照訳：}{\bfShe}feedsthelarvaebyregurgitatingfromherfatreserves.\item{\bf翻訳対象の機械翻訳結果：}{\bfThey}takefatandtheyraisethelarvaeoftheirlarvae.\end{description}翻訳対象の原言語文では主語が省略されており，この文のみで主語を推定することができず参照訳を生成することは困難である．しかし，前文の参照訳，または機械翻訳結果には主語を推定する情報（参照訳には``she''，機械翻訳結果には``queen''）が含まれており，目的言語側の前文を使うことで正しい翻訳ができる可能性がある．一方で，前文の参照訳と機械翻訳結果を比較すると機械翻訳結果には誤訳が含まれており，参照訳と機械翻訳結果との間にギャップがあることが分かる．誤訳のない参照訳のみを文脈情報として学習した翻訳モデルは文脈に含まれる誤訳に頑健でないと考えられ，参照訳と機械翻訳を学習時と翻訳時で別々に用いる手法はexposure~biasによる翻訳精度低下を引き起こす可能性がある．本稿では，スケジュールドサンプリング法\cite{Bengio:15}を参考にして，学習時と翻訳時の目的言語側の前文の特徴のギャップを緩和するための学習データ制御手法を提案する．具体的には，初期の学習では従来手法と同様に文脈情報として目的言語側の前文に参照訳のみを用い，学習が進行するにつれて，段階的に参照訳から機械翻訳結果へ切り替えていく．この処理により，翻訳モデルが機械翻訳誤りに頑健になり，翻訳調の特徴に対応できるようになると期待できる．機械翻訳結果は，対訳データをTransformerモデルで学習した機械翻訳器で生成する．実験では，提案手法を結合ベース文脈考慮型ニューラル機械翻訳\cite{Bawden:18,Tiedemann:17}とマルチエンコーダ文脈考慮型ニューラル機械翻訳\cite{Kim:19,Bawden:18}で実装し，ニュースコーパス\cite{Tanaka:21}を用いた英日・日英機械翻訳タスク，およびIWSLT2017データセット\cite{Cettolo:12}を用いた英日・日英，および英独・独英機械翻訳タスクで評価した．その結果，提案手法が従来手法と比較してBLEUスコア\cite{Papineni:02}により翻訳精度が改善していることを確認した．本稿の構成は以下の通りである．まず，2章で提案手法が前提とする文脈考慮型ニューラル機械翻訳について述べ，3章で提案手法を説明する．4章で提案手法の効果を確認するための翻訳実験の詳細を示し，5章で翻訳実験の結果を示して提案手法の効果を分析する．6章で関連研究について述べ，最後に7章で本稿をまとめる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{文脈考慮型ニューラル機械翻訳}
本節では，文脈考慮型ニューラル機械翻訳モデルの従来手法である，結合ベース文脈考慮型ニューラル機械翻訳と，マルチエンコーダ文脈考慮型ニューラル機械翻訳を説明する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{結合ベース文脈考慮型ニューラル機械翻訳}結合ベース文脈考慮型ニューラル機械翻訳\cite{Tiedemann:17,Bawden:18}は，ニューラル機械翻訳モデルの構造を変えずに，翻訳対象の文と文脈情報との間に特殊なトークン({\it\_BREAK\_})を挿入して結合してエンコーダに入力する．翻訳時に，翻訳対象の文の翻訳結果のみを出力するモデルを2-to-1モデル，翻訳対象の文に加えて文脈情報を併せて翻訳するモデルを2-to-2モデル\footnote{2-to-1は片言語の文脈があれば適用可能であるのに対し，2-to-2は対訳の文脈が必要となり，適用範囲が異なる．}と呼ぶ．2-to-2モデルでは，翻訳対象の文の翻訳結果と文脈情報の翻訳結果の間に特殊なトークンを併せて出力させることで，出力から翻訳対象の文の翻訳結果のみを抽出できるようにする．\citeA{Li:19}は，新聞データを用いた日英・英日機械翻訳実験で2-to-2モデルと2-to-1モデルの比較を行い，2-to-1モデルの方が翻訳精度が向上したことを報告しており，本稿でも事前実験の結果も踏まえて2-to-1モデルを用いた．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{マルチエンコーダ文脈考慮型ニューラル機械翻訳}マルチエンコーダ文脈考慮型ニューラル機械翻訳\cite{Bawden:18,Kim:19}は，翻訳対象の文を入力とするエンコーダと，文脈情報を入力とするエンコーダを持つ．複数のエンコーダの出力ベクトルは結合する必要があり，複数の出力ベクトルを「どこで結合させるか」と，「どのように結合させるか」の違いでいくつかのバリエーションがある．「どこで結合させるか」は，エンコーダの出力ベクトルをデコーダの内側と外側のどちらで結合するかを表す．\citeA{Kim:19}は，エンコーダの出力ベクトルをデコーダの内側で結合したモデルの方が翻訳精度が高いことを示しており，本稿でもデコーダの内側で結合する手法を用いた．「どのように結合させるか」は，連結（attentionconcatination），重み付き和（attentiongate），階層（hierarchicalattention）の3種類がある\cite{Bawden:18}．本稿では，事前実験でBLEUスコアの高かった重み付き和を用いた．重み付き和は，翻訳対象のベクトル${\bfc_{s}}$と文脈のベクトル${\bfc_{r}}$を用いて下記の式によりベクトル${\bfc}$を得る\cite{Bawden:18}．\begin{gather}{\bfg}=\tanh(W_{r}{\bfc_{r}}+W_{s}{\bfc_{s}})+{\bfb},\\{\bfc}={\bfg}\odot(W_{t}{\bfc_{r}})+({\vec1}-{\bfg})\odot(W_{u}{\bfc_{s}}),\end{gather}${\bfg}$はgating~activationと呼ばれる，各ベクトルの要素の重要度の違いを表すベクトルである．${\bfb}$はバイアスベクトル，$W_{r},W_{s},W_{t},W_{u}$は重み行列である．$\odot$はアダマール積を計算する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{提案手法}
本節では，\pagebreak文脈を考慮した機械翻訳手法の一手法である目的言語側の文脈を考慮する機械翻訳における，学習時と翻訳時に用いる目的言語側の文脈情報のギャップを低減することを目的としたサンプリング手法について説明する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.1\begin{figure}[b]\begin{center}\includegraphics{28-4ia9f1.pdf}\end{center}\hangcaption{（a）結合ベース文脈考慮型ニューラル機械翻訳，（b）マルチエンコーダ文脈考慮型ニューラル機械翻訳}\label{models}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{利用する文脈情報}学習時にニューラル機械翻訳のエンコーダに入力する目的言語側の文脈情報として，前文の参照訳と機械翻訳結果の両方を用い，前節で示した2種類のアーキテクチャに適用する．翻訳対象が文書の先頭のときは，前文の情報がないため，特殊なトークン（${\it\_BOS\_}$）を文脈情報として用いる．図~\ref{models}（a）は結合ベース文脈考慮型ニューラル機械翻訳に適用したモデルを示し，図~\ref{models}（b）はマルチエンコーダ文脈考慮型ニューラル機械翻訳に適用したモデルを示している．翻訳対象である，文書中の$j$番目の原文のトークン列は$X^{j}$で表す．文脈情報として用いる，文書中の$j-1$番目の参照訳のトークン列は$\hat{Y}^{j-1}$で表し，$j-1$番目の機械翻訳結果のトークン列は$\bar{Y}^{j-1}$で表す．文脈情報として用いる機械翻訳結果は，学習時と翻訳時ともに文脈を考慮しないニューラル機械翻訳で生成する．図~\ref{models}の$p$は1エポックの学習データに含まれる参照訳の割合を示し，$1-p$が機械翻訳結果が含まれる割合となる．$p=0$の場合は入力される文脈情報データの全てが機械翻訳，$p=1$の場合は文脈情報データの全てが参照訳で学習されることになる．翻訳時は$p=0$，すなわち常に機械翻訳結果が文脈情報として用いられる．結合ベース文脈考慮型ニューラル機械翻訳（図~\ref{models}（a））では，エンコーダが出力したベクトルがデコーダに入力される．マルチエンコーダ文脈考慮型ニューラル機械翻訳（図~\ref{models}（b））では，原文エンコーダと文脈エンコーダが出力した2つのベクトルを1つのベクトルに変換してからデコーダに入力し，デコーダを通して目的言語側の文のトークン列$Y^{j}$を得る．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{サンプリング制御}学習データ内の目的言語側の文脈情報として，参照訳と機械翻訳結果のどちらを用いるかをサンプリングレート$p$により制御するが，タスクや学習時の翻訳モデルの性能によって適切なサンプリングレートは異なる．学習時において，目的言語側の文脈情報に機械翻訳結果を使う場合ではエンコードされた文脈情報ベクトルは訳抜け，過剰訳，誤訳など機械翻訳特有の誤り（機械翻訳誤り）を含み，翻訳モデルはこれらの機械翻訳誤りを考慮して学習される．一方，参照訳のみを使う場合では機械翻訳誤りがないので，文脈情報を効果的に利用するように翻訳モデルが学習されることが期待できる．翻訳時において，目的言語側の文脈情報に機械翻訳誤りのない参照訳を使うことができる場合では，学習時も同様に参照訳を使うことが望ましい．しかし，翻訳時には参照訳ではなく機械翻訳結果を用いるため，翻訳モデルは訳抜け，過剰訳，誤訳などが含まれた文脈を利用して翻訳することになる．さらに，機械翻訳結果は，機械翻訳誤りがない場合でも，Translationese（翻訳調）と呼ばれる偏りのある文であることが知られている．Toral\cite{Toral:19}は，機械翻訳は人手翻訳よりもシンプルかつ標準化された結果になる傾向にあると示しており，参照訳と機械翻訳結果は多様性の側面からも異なる特徴を有していると考えられる．翻訳時と同じ特徴を有する目的言語側の文脈情報を使うという観点では機械翻訳結果を用いることが好ましいが，効果的な文脈の利用という観点では参照訳を用いることが好ましい．そこで，双方の利点を活かすために，特徴の異なる参照訳と機械翻訳結果の両方を用いて学習することを提案する．提案手法は，カリキュラム学習\cite{Bengio:09}とスケジュールドサンプリング\cite{Bengio:15}のアプローチを参考にしてサンプリングを制御する．\citeA{Bengio:15}は，学習時に，Recurrent~neural~networkに入力する直前のトークンとしてモデルの出力と正解のどちらを用いるかをサンプリング制御したのに対し，本稿ではこの手法を，目的言語側の文脈情報として機械翻訳の出力と正解のどちらを用いるかのサンプリング制御に応用する．この手法は，下記の手順により学習エポックごとに，入力に用いる文脈情報を変更することで，翻訳モデルを段階的に機械翻訳誤り，および翻訳調に対応させる．学習エポック数$l$に対応したサンプリングレートを$p_{l}$とする．\begin{enumerate}\item1エポック目（$l=1$）の学習はサンプリングレートを$p_{1}=1$とし，目的言語側の文脈情報には全て参照訳を用いる．\item2エポック目（$l\geq2$）以降の学習はサンプリングレート$p_{l}$を下記の逆シグモイド関数により減少させる．\begin{equation}p_{l}=\frac{k}{k+\exp({l-2}/k)},\label{decay}\end{equation}\end{enumerate}$k(\geq1)$は$p$の減少スピードを制御するハイパーパラメータである．1エポック終了時の翻訳モデルの性能が高いのであれば$k$の値を$1$に近づけ，2エポック目以降の学習データ内の機械翻訳の割合を増やす．上記の手順により，翻訳誤りに頑健で翻訳調の特徴に対応した翻訳モデルの学習を実現する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{評価実験}
本節では，提案手法の効果を確認するための機械翻訳実験について述べる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{データ}実験では，下記の2種類のコーパスを用いる．表~\ref{corpus}に各データセットのデータ数と記事数を示す．\begin{description}\item{ニュースコーパス}\mbox{}\\時事通信社のニュース記事を利用して開発された日英ニュース対訳コーパス\cite{Tanaka:21}の一部を用いた．このコーパスは日本語のニュース記事の一部を文単位で人手翻訳している．本実験では，ニュースタイトルを除きニュース本文を利用した．コーパス中の1記事あたりの平均文数は$8$文であった．\item{TEDトークコーパス}\mbox{}\\IWSLT2017\cite{Cettolo:12}で公開されているTEDの字幕対訳コーパスを用いた．開発データセットは``dev2010''を用いた．テストセットは英日・日英機械翻訳タスクについては``tst2014''を用い，英独・独英機械翻訳タスクについては``tst2015''を用いた．コーパス中の1記事あたりの平均文数は$119$文であった．\end{description}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table1\begin{table}[b]\input{09table01.tex}\caption{コーパスの統計情報．}\label{corpus}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{文脈の利用}2章で述べた結合ベース文脈考慮型ニューラル機械翻訳（図~\ref{models}（a））とマルチエンコーダ文脈考慮型ニューラル機械翻訳（図~\ref{models}（b））の2種類の文脈考慮型ニューラル機械翻訳を用いた．目的言語側の文脈情報には翻訳対象の文の1つ前の文を利用した．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{詳細設定}英語とドイツ語のデータのクリーニング，および単語分割にはMosestoolkit\footnote{\url{https://github.com/moses-smt/mosesdecoder}}の\pagebreakclean-corpus-n.perl\footnote{\url{https://github.com/moses-smt/mosesdecoder/blob/master/scripts/training/clean-corpus-n.perl}}，tokenizer.perl\footnote{\url{https://github.com/moses-smt/mosesdecoder/blob/master/scripts/tokenizer/tokenizer.perl}}を用いた．日本語の形態素解析には，KyTea\cite{Neubig:11}を利用した．各タスクで語彙数を制限するため，バイトペア符号化（bytepairencoding）を用いたサブワード\cite{Sennrich:16B}を用いた．語彙数は48,000とし，頻度が35以下の語彙はサブワードに分割した．データ内の長大語は特別な処理を行わなかった\footnote{頻度などの設定条件に従い，バイトペア符号化によりサブワード分割される．}．結合ベース文脈考慮型ニューラル機械翻訳には，Transformerモデル\cite{Vaswani:17}のエンコーダとデコーダを用いた．Transformerモデルは，レイヤを複数層スタックしたモデルであり，multi-headattention層とposition-wisefeed-forward層のサブレイヤを有する．原言語文と目的言語側の文脈情報が結合された単語列をエンコーダが中間表現であるベクトルに変換し，デコーダがそのベクトルを用いて翻訳結果となる目的言語文を生成する．マルチエンコーダ文脈考慮型ニューラル機械翻訳についても，Transformerモデルを用い，\citeA{Littell:19}のアーキテクチャを基に実装した．結合ベース文脈考慮型ニューラル機械翻訳とマルチエンコーダ文脈考慮型ニューラル機械翻訳のいずれもSockeye~toolkit\cite{Hieber:18}を用いて実装した．本稿のモデルの学習にはAdam\cite{Kingma:15}をoptimizerとして用い，学習率は$0.0002$とした．バッチ内のデータは5,000トークン以内になるように構築した．学習時の各エンコーダへの入力の最大長は，結合ベース文脈考慮型ニューラル機械翻訳では200トークン，マルチエンコーダ文脈考慮型ニューラル機械翻訳では原文エンコーダ，文脈エンコーダともに100トークンに制限した\footnote{結合ベース文脈考慮型ニューラル機械翻訳は，原文と文脈の合計が200トークン以内であれば学習データとして用いるため，マルチエンコーダ文脈考慮型ニューラル機械翻訳よりも学習データの数は6～153データ多くなった．}．翻訳時の各エンコーダへの入力の最大長は設定しなかった．その他のハイパーパラメータの設定はSockeyetoolkitのデフォルト値に従った．Earlystoppingを設定し，patienceの値を32とした．翻訳時は，ビームサーチを用い，ビーム幅を5とした．式~\ref{decay}のハイパーパラメータ$k$は2とした．学習，翻訳ともに，NvidiaP100TeslaGPUを用いて計算を行った．翻訳性能の比較には，ランダムシードの異なる5つのモデルを学習してそれぞれのモデルが出力した翻訳結果のBLEUスコア\cite{Papineni:02}の中央値を用いた．BLEUスコアには，case-insensitiveBLEU-4を用い，multi-bleu.perl\footnote{\url{https://github.com/moses-smt/mosesdecoder/blob/master/scripts/generic/multi-bleu-detok.perl}}で計算した．また，サンプル数を10,000に設定したpaired-bootstrap.py\footnote{\url{https://github.com/neubig/util-scripts/blob/master/paired-bootstrap.py}}を用い，BLEUスコアにおける提案手法と他手法との有意差を調べた．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table2\begin{table}[t]\input{09table02.tex}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{比較手法}提案手法との比較を行うために本稿で用いた比較手法（表~\ref{baseline}）を説明する．\begin{description}\item{文レベル機械翻訳（Single-Sentence）}\mbox{}\\文脈として目的言語側の前文を考慮することによる効果を知るために，文脈を考慮しない機械翻訳手法を比較手法とした．翻訳対象のみをエンコーダに入力してデコーダが翻訳結果を出力する．Transformerモデルのニューラル機械翻訳を用いた．\end{description}\begin{description}\item{文脈考慮型機械翻訳（Src-Context，Trg-Context）}\mbox{}\\文脈を考慮する機械翻訳手法として，原言語側の情報を用いる手法\cite{Agrawal:18,Bawden:18}と目的言語側の情報を用いる手法\cite{Bawden:18}がある．両方の情報を併用することもできるが，本稿ではどちらの情報が有効であるかを比較するために，原言語側の情報を用いた場合（Src-Context）と目的言語側の情報を用いた場合（Trg-Context）のそれぞれを比較手法とした．目的言語側の情報を用いる手法では，参照訳と機械翻訳結果のいずれかを用いることができるため，それぞれを用いた手法（Trg-ContextGT，Trg-ContextPred.）を比較した．文脈情報は，提案手法と同様に翻訳対象の文の1つ前の文を利用した．Src-Context，Trg-ContextGT，Trg-ContextPred.ともに，結合ベース文脈考慮型ニューラル機械翻訳とマルチエンコーダ文脈考慮型ニューラル機械翻訳の2種類のシステムに適用した．\end{description}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{実験結果}
ニュースコーパスを用いた英日・日英機械翻訳実験の結果，およびTEDトークコーパスを用いた英日・日英，英独・独英機械翻訳実験の結果を表~\ref{bleu}に示す．文脈を用いない手法（Single-Sentence），原言語側の前文を用いた手法（Src-Context），目的言語側の前文として，参照訳を用いて学習した手法（Trg-ContextGT），機械翻訳結果を用いて学習した手法（Trg-ContextPred.），参照訳と機械翻訳結果の両方を用いて学習した提案手法，それぞれのBLEUスコアを示している．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table3\begin{table}[t]\input{09table03.tex}\hangcaption{原言語側，または目的言語側の文脈情報を用いた，ニュースコーパスの英日・日英機械翻訳（EN-JA，JA-EN）の実験結果（上部），およびTEDトークコーパスの英日・日英機械翻訳（EN-JA，JA-EN），英独・独英機械翻訳（EN-DE，DE-EN）の実験結果（下部）．vanillaは文脈を用いないニューラル機械翻訳，concat.は結合ベース文脈考慮型ニューラル機械翻訳，multi-enc.はマルチエンコーダ文脈考慮型ニューラル機械翻訳を表している．Src，Trg~GT，Trg~MTは，学習時に用いた文脈情報として，原言語側の前文，目的言語側の参照訳，目的言語側の機械翻訳結果を用いたことを表している．値はBLEUスコアを表している．$\dag$，$\ddag$，$\diamond$，$\star$は，提案手法がSingle-Sentence，Src-Context，Trg-Context~GT，Trg-Context~Pred.と比較して有意にBLEUスコアが高いことを示している（有意水準$\alpha=0.05$）．Src-Context，Trg-Context~GT，Trg-Context~Predについては同じシステム内（concat.またはmulti-enc.）での比較とした．}\label{bleu}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{提案手法の有効性の検証}提案手法と，文脈を考慮しないニューラル機械翻訳，目的言語側の前文を用いた手法，および原言語側の前文を用いた手法とを比較することで提案手法の有効性を検証する．先ず，提案手法と，文脈を用いないニューラル機械翻訳（Single-Sentence）とを比較する．表~\ref{bleu}より，結合ベース文脈考慮型ニューラル機械翻訳（concat.）を用いた場合は，ニュースコーパス日英機械翻訳とTEDトークコーパス英日・日英機械翻訳以外のタスクにおいて提案手法のBLEUスコアが有意に高かった．マルチエンコーダ文脈考慮型ニューラル機械翻訳（multi-enc.）を用いた場合は，全てのタスクにおいて提案手法のBLEUスコアが有意に高かった．次に，目的言語側の前文を用いた手法間の比較として，提案手法と，参照訳のみを用いて学習した手法（Trg-ContextGT），および機械翻訳結果のみを用いて学習した手法（Trg-ContextPred.）とを比較する．表~\ref{bleu}より，結合ベース文脈考慮型ニューラル機械翻訳（concat.）を用いた場合は，TEDトークコーパスの英独機械翻訳のTrg-ContextGTとの比較では同じBLEUスコアだったが，それ以外では提案手法のBLEUスコアが高く，一部のタスクでは有意に高かった．マルチエンコーダ文脈考慮型ニューラル機械翻訳（multi-enc.）を用いた場合は，全タスクにおいて提案手法のBLEUスコアが高く，一部のタスクでは有意に高かった．最後に，提案手法と，原言語側の前文を用いた手法（Src-Context）とを比較する．表~\ref{bleu}より，マルチエンコーダ文脈考慮型ニューラル機械翻訳（multi-enc.）を用いた場合は，全タスクにおいて提案手法のBLEUスコアの方が高く，TEDトークコーパスの英日，独英機械翻訳タスクでは有意に高かった．先行研究では目的言語側の文脈の利用により翻訳精度が低下することが報告されていたが\cite{Bawden:18}，multi-enc.を用いた提案手法では，文脈を用いていない手法と比較して有意にBLEUスコアが高かっただけでなく，Src-Contextと比較しても全タスクでBLEUスコアが高くなっており，Src-Contextと同等以上の効果が得られた．原言語側の前文を用いる手法と目的言語側の前文を用いる手法は異なる情報を用いており，競合するものではなく，条件によって一方のみが利用可能である場合や，併用が可能である場合が考えられる．上記の比較により，提案手法の有効性を確認した．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{目的言語側の前文に機械翻訳結果のみを用いる影響の考察}表~\ref{bleu}より，目的言語側の前文に機械翻訳結果のみを用いた手法（Trg-ContextPred.）のBLEUスコアは，提案手法よりも低かっただけでなく，結合ベース文脈考慮型ニューラル機械翻訳（concat.）を用いたニュースコーパスの日英機械翻訳タスクとTEDトークコーパスの英日・日英，英独機械翻訳タスクでは，文脈を考慮しないTransformerモデル（Single-Sentence）よりも低かった．Trg-ContextPred.は，学習時，翻訳時ともに機械翻訳結果を用いておりexposure~biasによる影響を回避できているが，BLEUスコアが低かった理由について考察する．表~\ref{bleu}の参照訳のみを用いて学習した手法（Trg-ContextGT）は，学習時に参照訳，翻訳時に機械翻訳結果を用いているが，Trg-ContextGTの翻訳時に参照訳を用いることで，Trg-ContextPred.と同様にexposure~biasによる影響を回避することができる．Trg-ContextGTの翻訳時に目的言語側の前文として参照訳を用いた結果は，後で説明する「exposure~biasの影響の考察」（表~\ref{ana-hyp}の一番下の行）で示しており，Trg-ContextPred.の結果と比較してBLEUスコアが高い．両者の違いは，翻訳時に目的言語側の前文として機械翻訳結果を用いたか，参照訳を用いたかの違いであり，これらの訳質の違いであるといえる．以上より，Trg-ContextPred.のBLEUスコアが低かった理由は，文脈として利用している目的言語側の前文の機械翻訳結果の訳質が低いために，文脈情報を効果的に利用するように学習することが困難であったためと考えられる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table4\begin{table}[t]\input{09table04.tex}\hangcaption{学習時と翻訳時両方ともに目的言語側の前文の参照訳を用いた実験結果（BLEUスコア）との比較．マルチエンコーダ文脈考慮型ニューラル機械翻訳を用いた．目的言語側の前文の機械翻訳の出力にはSingle-Sentenceの出力を用いた．$\dag$はSingle-Sentenceと比較して有意にBLEUスコアが高いことを示している（有意水準$\alpha=0.05$）．}\label{ana-hyp}\vspace{-1\Cvs}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%提案手法は，学習の初期に訳質の高い参照訳を用いて文脈情報を効果的に利用する方法を学習した上で，段階的に機械翻訳の出力に置き換えることで，文脈情報の効果的な利用とexposure~biasの影響の回避を両立したと考えられる．提案手法の学習終了時の学習データ内に含まれる参照訳の割合は$9\%$（学習終了時のエポック数が$8$の場合），または$6\%$（学習終了時のエポック数が$9$の場合）であり\footnote{ニュースコーパスの英日・日英機械翻訳タスクとTEDトークコーパスの英日機械翻訳タスクの学習終了時のエポック数は$8$であり，TEDトークコーパスの日英，英独・独英機械翻訳タスクの学習終了時のエポック数は$9$であった．}，学習終了時にはexposure~biasの影響がほぼ無い学習を行っている．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{Exposure~biasの影響の考察}提案手法はexposure~biasの問題を緩和するための手法であるが，仮に，学習時，翻訳時ともに目的言語側の文脈に参照訳を用いた場合も，exposure~biasの問題は起こらないといえる．そこで，exposure~biasの影響を考察するために，翻訳時に目的言語側の前文として，exposure~biasの影響がない参照訳を用いた場合の結果を表~\ref{ana-hyp}に示す．機械翻訳器は，マルチエンコーダ文脈考慮型ニューラル機械翻訳を用いた．翻訳時の文脈情報に参照訳を用いたTrg-ContextGTは，exposure~biasの問題が起こると考えられる機械翻訳の出力（Single-Sentenceの出力）を用いたTrg-ContextGTと比較して，全てのタスクでBLEUスコアが高かった．また，Single-Sentenceとの比較では，翻訳時の文脈情報に機械翻訳結果を用いたTrg-ContextGTはニュースコーパスの日英機械翻訳タスクとTEDトークコーパスの英独・独英機械翻訳タスクのみで有意にBLEUスコアが高かったが，参照訳を用いたTrg-ContextGTは全てのタスクで有意にBLEUスコアが高いことを確認できた．以上の結果より，翻訳時に目的言語側の前文として利用した機械翻訳結果と参照訳の違いが翻訳精度に影響していると言え，これがexposure~biasの影響と考えることができる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{翻訳時に自身の機械翻訳結果を用いた場合の効果の考察}提案手法は，exposure~biasの影響の緩和を目的とし，学習時の目的言語側の前文として参照訳と事前に用意した機械翻訳の出力（Single-Sentenceの出力）をサンプリング制御しながら用い，翻訳時の目的言語側の前文としても同様のSingle-Sentenceの出力を用いることを前提とした．目的言語側の前文には，他の選択肢として，学習時と翻訳時ともにSingle-Sentenceの出力の代わりに自身の機械翻訳結果を用いることも考えられる．自身の出力を用いる場合には，文書単位で1文ずつ順番に機械翻訳する必要があり，文書内の文を並列に翻訳できないという問題がある．さらに，学習時にはモデルの更新ごとに機械翻訳する必要がある．一方で，「目的言語側の前文に機械翻訳結果のみを用いる影響の考察」で示したように文脈情報として用いる機械翻訳結果の訳質も翻訳精度に影響することから，目的言語側の前文として，Single-Sentenceの出力の代わりに，訳質の高い自身の出力を用いることで，翻訳精度の向上が期待できる．学習時の自身の出力の利用は困難であるが，翻訳時であれば自身の出力を用いることが可能である．そこで，Trg-ContextPred.の翻訳時には目的言語側の前文としてTrg-ContextPred.の出力を用い，提案手法の翻訳時には目的言語側の前文として提案手法の出力を用いた場合の結果を表~\ref{ana-pred}に示す．機械翻訳器は，マルチエンコーダ文脈考慮型ニューラル機械翻訳を用いた．Trg-ContextPred.，および提案手法のいずれにおいても，自身の前文出力を利用することで，一部のタスクで有意にBLEUスコアが高く，かつBLEUスコアが低下したタスクはなく，これらは訳質の向上によるものと考えられる．以上の結果より，翻訳速度を優先する場合はSingle-Sentenceの出力を用い，翻訳品質を優先する場合は自身の出力を用いればよい．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table5\begin{table}[b]\input{09table05.tex}\hangcaption{目的言語側の前文の自身の機械翻訳結果を用いた実験結果（BLEUスコア）との比較．マルチエンコーダ文脈考慮型ニューラル機械翻訳を用いた．$\dag$は翻訳時に目的言語側の前文としてSingle-Sentenceの出力を用いた場合と比較して有意にBLEUスコアが高いことを示している（有意水準$\alpha=0.05$）}\label{ana-pred}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table6\begin{table}[p]\input{09table06.tex}\hangcaption{TEDトークコーパスを用いた日英機械翻訳実験の翻訳結果例（上段：入力と参照訳，下段：各手法の結果）．}\label{ex}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{事例を用いた考察}表~\ref{ex}に，TEDトークコーパスを用いた日英タスクの出力例を示す．上段（点線の上）には，目的言語側の前文の参照訳と機械翻訳結果（MT-OUT），翻訳対象の日本語文と参照訳を示し，下段（点線の下）には，各手法による翻訳結果を示す．機械翻訳器は，マルチエンコーダ文脈考慮型ニューラル機械翻訳を用いた．例文の翻訳対象の日本語文には，ゼロ代名詞が含まれ，かつ，目的言語側の文から代名詞を推定できると考えられるものを選んだ．最初の例（\#1）は，同じ文（``Wechoosetogotothemoon.''）が2度続くケースであり，代名詞（``We＝私たち''）が省略されている．翻訳対象文では，文の主語である``We=私たち''が省略されており，文脈を考慮しない機械翻訳（Single-Sentence）は主語を誤って翻訳した．一方，文脈を考慮した機械翻訳では4つとも主語を適切に補完して翻訳した．2番目の例（\#2）は，前文が長文の例であり，代名詞（``him＝彼''）が省略されている．文脈を考慮しない機械翻訳では代名詞を補完せずに翻訳した．文脈考慮型機械翻訳では，原言語側の前文を用いた手法（Src-Context）と提案手法は代名詞を正しく補完して翻訳しているが，目的言語側の前文を用いたその他の手法（Trg-ContextGT，Trg-ContextPred.）では，誤った代名詞を補完して翻訳した．前文が長文になるとエンコーダが目的言語側の文脈を適切に処理することが困難となる．この例は，Trg-ContextGT，Trg-ContextPred.において，エンコーダが適切に処理できなかった例であると考えられる．3番目の例（\#3）は，代名詞（``his＝彼''）が省略されている．提案手法のみが代名詞を適切に補完して翻訳している．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{関連研究}
機械翻訳において文脈の情報は，語彙，時制，指示詞，省略などの文間の表現の一貫性を保持する上で重要である\cite{Bawden:18,Laubli:18,Muller:18,Voita:18}．加えて，翻訳する上で対応する必要が出てくるゼロ照応解析\cite{Okumura:96,Iida:16}や語義曖昧性の解消などにも文脈は有効な情報となる．多くの文脈考慮型のニューラル機械翻訳は，翻訳対象の文だけでなく，原言語側の文脈，目的言語側の文脈，またはその両方を入力できるようなモデルとなっている\cite{Tiedemann:17,Agrawal:18,Bawden:18,Kim:19}．\citeA{Bawden:18}は，原言語側，および目的言語側の前文を文脈情報として用いた手法を提案し，それぞれの効果を比較した．\citeA{Agrawal:18}は，原言語側，および目的言語側の複数の前文，および後文を文脈情報として用いる手法を提案した．\citeA{Bawden:18}は，目的言語側の前文を用いる手法では，学習時に前文の参照訳を，翻訳時には機械翻訳結果を用いて実験を行い，目的言語側の文脈情報の効果が低かったことを報告している．\citeA{Agrawal:18}は，目的言語側の文脈を使うと誤差が伝搬することで性能が劣化することを報告している．また，複数の文脈情報を使うことで翻訳品質が向上する場合があるが，膨大なメモリと計算量が必要となる傾向があることを報告している．本稿では，先行研究で指摘された目的言語側の文脈を用いることで性能が劣化した原因を推定し，その問題を低減する手法を提案している．文脈考慮型ニューラル機械翻訳の実装方法には，結合ベース文脈考慮型ニューラル機械翻訳\cite{Tiedemann:17,Bawden:18}とマルチエンコーダ文脈考慮型ニューラル機械翻訳\cite{Bawden:18,Kim:19}がある．\citeA{Tiedemann:17}は，前文と翻訳対象の原文の間に特殊なトークン（{\it\_BREAK\_}）を挿入して結合して単体のエンコーダに入力することを提案した．\citeA{Bawden:18}は，マルチエンコーダNMT\cite{Zoph:16,Libovicky:17,Wang:17}を拡張し，原言語側の前文と翻訳対象の文とを別々のエンコーダに入力することを提案した．マルチエンコーダ文脈考慮型ニューラル機械翻訳は，各エンコーダの出力ベクトルを連結（attention~concatination），重み付き和（attention~gate），階層（hierarchical~attention）のいずれかにより結合する．\citeA{Kim:19}は，各エンコーダの出力ベクトルの結合をデコーダの前段，またはデコーダ内で行うことができることを示し，その違いを調査した．本稿では，先行研究と同様に結合ベース文脈考慮型ニューラル機械翻訳とマルチエンコーダ文脈考慮型ニューラル機械翻訳を用いているが，先行研究は目的言語側の文脈として参照訳を用いているのに対して，本稿では機械翻訳結果を用いてexposure~biasを低減している点において異なる．本稿の提案手法はスケジュールドサンプリング法\cite{Bengio:15}を参考にしている．Bengioらは，イメージキャプショニング，構文解析，音声認識のタスクに対して，自己回帰型の言語モデルの最尤推定学習時と推論時との間のギャップの問題を解決するためにスケジュールドサンプリング法を提案した．\citeA{Ranzato:16}は，このギャップをexposure~biasと呼び，文書要約，機械翻訳，イメージキャプショニングのタスクに対して，exposure~biasの問題を解決するために評価尺度を報酬として用いる強化学習の手法を提案した．\citeA{Zhang:19}は，リカレントニューラルネットワーク(RNN)ベースのニューラル機械翻訳におけるexposure~biasの問題を解決するために減衰を用いたサンプリング法を提案し，参照訳のトークンと予測トークンのいずれかを確率的にサンプリングして用いることで学習時と翻訳時のギャップを効果的に削減することを示した．\citeA{Ranzato:16}と\citeA{Zhang:19}は，文脈を考慮しない機械翻訳においてスケジュールドサンプリング法を学習時に用いて直前の履歴のトークンの選択に利用している．これに対して，本稿では，文脈を考慮する機械翻訳において，スケジュールドサンプリング法を学習時に文脈として用いる文の選択に利用している．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{まとめ}
本稿では，文脈考慮型ニューラル機械翻訳において，目的言語側の文脈を効果的に利用する手法を提案した．提案手法では，学習時と翻訳時の間にある目的言語側の前文のギャップ（exposure~bias）の問題の解消を目的とし，目的言語側の参照訳と機械翻訳結果の両方を用いて，スケジュールドサンプリング法で学習データを制御した．結合ベース文脈考慮型ニューラル機械翻訳とマルチエンコーダ文脈考慮型ニューラル機械翻訳を用いて提案手法を実装し，英日・日英，および英独・独英の機械翻訳タスクで評価した．実験により，BLEUスコアにおいて提案手法の有効性を確認した．今後の課題として，提案手法の各タスクにおける最適なハイパーパラメーター値の調査と，目的言語側と原言語側の周辺の複数文を併用した手法に取り組む予定である．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\acknowledgment本稿は国際会議The28thInternationalConferenceonComputationalLinguistics(COLING2020)で発表した論文\cite{Mino:20}に基づいて日本語で書き直し，説明を追加したものである．本研究成果は，国立研究開発法人情報通信研究機構（NICT）の委託研究「多言語音声翻訳高度化のためのディープラーニング技術の研究開発」により得られたものである．ここに謝意を表する．また，有意義なコメントを頂いた査読者のみなさま，日頃熱心にご討論頂いているNHK放送技術研究所スマートプロダクション研究部のみなさま，特に本稿をまとめるにあたり多くのコメントを頂いた衣川和尭氏に感謝を表する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\bibliographystyle{jnlpbbl_1.6}\bibliography{09refs}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\begin{biography}\bioauthor{美野秀弥}{2002年東京工業大学情報理工学部計算工学科卒業．2004年同大学院情報理工学研究科修士課程修了．同年NHK入局，北見放送局，（独）NICT出向を経て，現在，放送技術研究所スマートプロダクション研究部研究員．自然言語処理の研究に従事．言語処理学会会員．}\bioauthor{伊藤均}{2010年神戸大学工学部電気電子工学科卒業．2012年京都大学大学院情報学研究科修士課程修了．同年NHK入局．山口放送局を経て，現在，放送技術研究所スマートプロダクション研究部研究員．自然言語処理の研究に従事．音響学会，言語処理学会各会員．}\bioauthor{後藤功雄}{1995年早稲田大学理工学部電気工学科卒業．1997年同大学院理工学研究科修士課程修了．2014年京都大学大学院情報学研究科博士課程修了．博士（情報学）．1997年NHK入局，（株）ATRおよび（独）NICT出向を経て，現在，放送技術研究所スマートプロダクション研究部にて自然言語処理の研究に従事．言語処理学会，情報処理学会各会員．}\bioauthor{山田一郎}{1991年，名古屋大学工学部情報工学科卒業．1993年，同大学大学院修士課程修了．博士（情報科学）．同年，NHK入局．スタンフォード大学訪問研究員，（独）NICT専門研究員を経て，現在，放送技術研究所スマートプロダクション研究部にて機械翻訳，ビッグデータ解析の研究に従事．言語処理学会，映像情報メディア学会各会員．}\bioauthor{徳永健伸}{1983年東京工業大学工学部情報工学科卒業．1985年同大学院理工学研究科修士課程修了．同年（株）三菱総合研究所入社．1986年東京工業大学大学院博士課程入学．現在，東京工業大学情報理工学院教授．博士（工学）．専門は自然言語処理，計算言語学．情報処理学会，人工知能学会，言語処理学会，計量国語学会，AssociationforComputationalLinguistics,ACMSIGIR,CognitiveScienceSociety,InternationalCognitiveLinguisticsAssociation各会員．}\end{biography}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\biodate\end{document}