\section{はじめに}
近年，ニューラル機械翻訳(NeuralMachineTranslation:NMT)は発展・普及し，利用者の層が幅広くなっている．従来の一般的なNMTは，利用者や状況に依らない機械翻訳の実現を想定していたが，近年では，出力される目的言語文の表現を制御するための研究が盛んになっている\cite{sennrich-etal-2016-controlling,Kuczmarski-James-2018-Gender,schioppa-etal-2021-controlling}．そのひとつに，ユーザの読解レベルにあわせた翻訳を行うため，原言語文と共に目的とする難易度を入力として受け付け，指定された難易度の目的言語文を生成する難易度制御機械翻訳がある．初期の難易度制御機械翻訳\cite{marchisio-etal-2019-controlling}では，難易度は2段階であったが，近年では，より柔軟に出力文の難易度を制御するため，3段階以上の難易度（例えば，小学生，高校生，一般，専門家向けなど）を制御可能な多段階難易度制御機械翻訳(Multi-LevelComplexity-ControllableMachineTranslation:MCMT)\cite{agrawal-carpuat-2019-controlling}の研究が行われている．しかし，先行研究では英語とスペイン語間のMCMTしか取り組まれていない．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.1\begin{figure}[b]\begin{center}\includegraphics{31-2ia6f1.pdf}\end{center}\caption{日英MCMTの概要図}\label{img:example-MCMT}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%そこで本研究では，日本語（日）から英語（英）への日英MCMTの構築を目指す．図\ref{img:example-MCMT}に日英MCMTの概要図を示す．従来のMCMTの研究\cite{agrawal-carpuat-2019-controlling}は英語とスペイン語（西）の言語対を対象にしているため，日英MCMT用の評価データセットが存在しない．また，従来研究では，多段階の難易度で記述された英語とスペイン語のニュース記事が記事単位で対応づいているコーパス（具体的にはNewselaコーパス\footnote{\url{https://newsela.com/data/}}）から評価データセットを自動構築している．しかし，日英の言語対ではそのようなコーパスが存在しない．そこで本研究では，多段階の難易度で記述されている同一内容の英語文集合をNewselaコーパスから抽出し，人手の翻訳によって日本語文を付与することで日英MCMT用の評価データセットを構築する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table1\begin{table}[b]\input{06table01.tex}%\caption{提案手法で用いる訓練データの例}\label{tab:example-train-data}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%また，本研究では日英MCMTの性能を向上させるため，MCMTのための学習方法として，異なる難易度の複数参照文を用いる学習手法を提案する．従来の学習\cite{agrawal-carpuat-2019-controlling}では，原言語文と難易度付き目的言語文の文対を単位として学習を行う．しかし，MCMTの学習では，一つの原言語文に対し，難易度の異なる複数の参照文が対応した訓練データを使用でき，学習対象の参照文と内容が同じで難易度が異なる参照文を学習時の手がかりにすることができる．例えば，MCMTの訓練データとして表\ref{tab:example-train-data}のようなデータを利用できるが，表\ref{tab:example-train-data}の訓練データは従来手法では3つの訓練データ（日本語文‐難易度12の英語文，日本語文‐難易度7の英語文，日本語文-難易度4の英語文）に展開される．そして，それぞれ独立した訓練データとして学習が行われるため，例えば，難易度12の英語文への翻訳を学習する際，難易度4や難易度7の英語文と対比させた学習を行うことはできない．そのため，難易度12の英語文への翻訳を学習する時に，難易度4や難易度7の英語文は出力として適切ではないということや，難易度4の英語文は難易度7の英語文よりも目的の難易度から離れるためより不適切であるということが利用できない．そこで本研究では，同一の原言語文と難易度の異なる複数の参照文からなる組を単位としてMCMTモデルを学習する手法を提案する．提案手法では，学習対象の参照文と共に異なる難易度の参照文も使い，学習対象以外の難易度の参照文に対する損失が学習対象の難易度の参照文に対する損失よりも小さくなることに対して，難易度が離れるほど大きなペナルティを与える損失に基づきMCMTモデルを学習する．これにより，例えば，難易度12の英語文への翻訳を学習する際，出力を難易度12の英語文に最も近づけ，かつ，難易度4の英語文より難易度7の英語文に近づけるように学習を行う．提案手法の有効性を本研究で構築した評価データセットを用いた日英MCMTの実験で検証した．その結果，提案損失を利用することで，BLEUが従来手法より0.93ポイント改善することを確認した．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{関連研究}
label{sect:related}本節では本研究の関連研究を概観する．難易度制御機械翻訳は，機械翻訳と平易化の複合領域とも捉えることができる．そこで，\ref{subsect:simplification}節では単言語における文の平易化に関する従来研究を述べる．また，難易度制御機械翻訳は，難易度の観点で出力文の表現を制御する機械翻訳とも捉えることができる．そこで，\ref{subsect:2CMT}節では出力文の表現を制御するNMTに関する従来研究を述べる．そして，\ref{sect:conventional}節では，本研究が対象とするMCMTに関する従来研究を説明する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{テキスト平易化}\label{subsect:simplification}本節では，テキスト平易化について説明する．入力文を同一言語の簡単な文に変換する平易化技術は自然言語処理において盛んに研究されている．例えば，ScartonandSpecia\cite{scarton-specia-2018-learning}は，平易度を表す特殊なトークンを入力文に付与することで英語の平易化を行うモデルを提案しており，Katoら\cite{kato-etal-2020-bert}は述語に焦点を当てたBERTベースの日本語平易化モデルを提案している．他にもスペイン語における平易化\cite{stajner-etal-2015-automatic}，イタリア語における平易化\cite{brunato-etal-2016-paccss}，ドイツ語における平易化\cite{klaper-etal-2013-building}に関する取り組みが行われている．また，特殊なトークンを利用しない教師なし平易化モデル\cite{surya-etal-2019-unsupervised}など，様々な平易化手法も提案されている．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{出力文の表現を制御するニューラル機械翻訳}\label{subsect:2CMT}本節では，出力文の表現を制御するNMTについて説明する．Senrichら\cite{sennrich-etal-2016-controlling}は英独NMTにおいて，翻訳結果となるドイツ語文の丁寧さを表す特殊トークンを入力の英語文の末尾に追加することで出力文の丁寧さを制御するNMTモデルを提案した．これに倣い，出力文の表現に関する特殊トークンを入力文の先頭や末尾に付与することで出力文の表現を制御するNMTに関する研究が行われてきた．例えば，Niuら\cite{niu-etal-2018-multi}は特殊トークンに基づき丁寧さを制御するNMTモデルを，単言語における丁寧さ変換タスクと機械翻訳タスクのマルチタスク学習により実現している．Kuczmarskiら\cite{Kuczmarski-James-2018-Gender}はトルコ語と英語間の翻訳において特殊トークンを用いて性別の観点で出力文を制御するNMTモデルを提案し，Yamagishiら\cite{yamagishi-etal-2016-controlling}は特殊トークンに基づき出力文の態（能動態か受動態か）を制御する日英NMTモデルを提案している．そして，Feelyら\cite{feely-etal-2019-controlling}は英日翻訳において特殊トークンを用いることで敬語表現を制御している．近年では，特殊トークンに依らずに出力文の表現を制御するNMTモデルも提案されている．例えば，Schioppaら\cite{schioppa-etal-2021-controlling}は，ベクトルの加重線形結合によって，文長や丁寧さ，単調さといった複数の属性を同時に制御するNMTモデルを提案している．また，Marchisioら\cite{marchisio-etal-2019-controlling}は，原言語文と二段階の難易度（「平易」か「難解」）を入力として受け取り，入力された難易度にしたがった翻訳を行う二段階難易度制御NMT(2CMT)において，平易な目的言語文を生成するsimple-decoderと難解な目的言語文を生成するcomplex-decoderの2つのdecoderを用いる2CMTモデルを提案している．2CMT用のリソースは，通常のMTと比べて豊富ではないため，その構築も試みられている．MaruyamaandYamamoto\cite{maruyama-yamamoto-2018-simplified}は，英日の対訳コーパスである田中コーパス内の日本語文に対して，語彙を限定することで平易化した「やさしい日本語」文を学生が手作業で作成し公開している\footnote{\url{https://www.jnlp.org/GengoHouse/snow/t15}}．そして，KatsutaandYamamoto\cite{katsuta-yamamoto-2018-crowdsourced}は，MaruyamaandYamamoto\cite{maruyama-yamamoto-2018-simplified}のコーパスをクラウドソーシングにより拡張し，公開している\footnote{\url{https://www.jnlp.org/GengoHouse/snow/t23}}．これらのコーパスは，英語文と日本語文と「やさしい日本語」文の三つ組データとなっており，英日2CMTのリソースとして利用できる．また，Marchisioら\cite{marchisio-etal-2019-controlling}は，Newselaコーパスに対して，アンダーサンプリングとオーバーサンプリングを行うことで難易度の高い英西対訳文対の集合と難易度の低い英西対訳文対の集合を抽出し，スペイン語と英語間の2CMT用のリソースを構築している．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{多段階難易度制御機械翻訳}\label{sect:conventional}本節では，MCMTの唯一の従来研究\cite{agrawal-carpuat-2019-controlling}について述べる．%revisedon10/31\ref{subsect:conventional-dataset}節では従来研究で用いられたデータセットについて説明し，\ref{subsect:multitask}節では従来研究において提案されたマルチタスクモデルについて説明する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsubsection{従来研究における訓練・評価データ}\label{subsect:conventional-dataset}従来研究では，Newselaコーパス\footnote{\url{https://Newsela.com/data/}}から自動作成したデータセットを用いて，英語とスペイン語間のMCMTモデルの学習と評価を行っている．Newselaコーパスは，複数の難易度で記述された英語記事と，英語記事の一部に対応するスペイン語の記事で構成されている．各記事には記事単位でgradelevelという難易度が付与されている．gradelevelの値は2から12であり，アメリカでの学齢に対応する数値であり，値が高いほど難しい記事であることを示す．Newselaコーパスは英語記事とスペイン語記事が記事単位で対応付けられているが，文単位では対応づいていない．そこで，西英機械翻訳と，同一言語内で文アライメントをするツールMASSAlign\cite{paetzold-etal-2017-massalign}を用いて，西英MCMT用のデータセットを作成している．作成手順は以下の通りである．\begin{description}\item[Step1]Google翻訳\footnote{\url{https://translate.google.com/}}を用いてNewselaコーパスのスペイン語記事を英語に翻訳する．\item[Step2]MASSAlignにより，Newselaコーパスの英語記事内の文と，英語に翻訳されたスペイン語記事の文を対応付ける．\item[Step3]対応付いた文の組を1事例とする．その際，翻訳された文は元のスペイン語文に戻す．また，各文の難易度は，その文が属する記事の難易度(gradelevel)にする．\end{description}このように自動構築されたデータセットには次の問題がある．\begin{description}\item[問題点1]対訳関係になっていないデータを含む\\英語文とスペイン語文の対応付けを自動で行っているので，必ずしも正しい翻訳文対になっているとは限らない．\item[問題点2]難易度が異なると情報量が変わるデータを含む\\同一言語内での対応付けを自動で行っているので，例えば，難易度が異なると情報の抽象度が変わり，含まれる情報量が変わる場合がある．表\ref{example-pop}に，高難易度の文には含まれない固有名詞が低難易度の文で出現している例を示す．湧き出している固有名詞を太字で示してある．この例のように難易度が変わった時に固有名詞などの情報が新たに湧き出す場合，難易度制御時に情報を増やすことは難しいため問題となる．\item[問題点3]難易度が不適切なデータを含む\\文の難易度として文が属する記事の難易度(gradelevel)を採用しているが，文単位の難易度は必ずしも記事単位の難易度ではない．そのため，必ずしも文の難易度が正しく設定されているとは限らない．例えば，記事単位のgradelevelが異なっていたとしても，完全に同じ文である場合や記号のみが異なる場合（:が,に変わっているだけなど）がある．表\ref{example-bad}に不適切な難易度が付与されているデータの例を示す．各組において太字の文同士は完全一致，あるいはほとんど同じ文であるにもかかわらず，異なる難易度が与えられている．\end{description}上記問題を含むデータを評価データとして使用する場合には，モデルの正確な性能評価ができなくなるため問題となる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table2\begin{table}[t]\input{06table02.tex}%\caption{固有名詞の湧き出しを含むデータ例}\label{example-pop}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table3\begin{table}[t]\input{06table03.tex}%\caption{gradelevelは異なるが難易度が変わらない文対を含むデータ例}\label{example-bad}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsubsection{従来のMCMTモデル：マルチタスクモデル}\label{subsect:multitask}従来研究\cite{agrawal-carpuat-2019-controlling}では，難易度を制御しない通常の機械翻訳，単言語平易化，MCMTを同時に学習するマルチタスクモデルを提案している．実験では，ベースラインのMCMTとして，難易度を制御しない通常の機械翻訳モデルと単言語平易化モデルをパイプラインでつなげたパイプラインモデルを実装し，パイプラインモデルとマルチタスクモデルを比較した結果，マルチタスクモデルの方が性能が高いことを示している．本節では，西英間のMCMTで最高性能を達成しているマルチタスクモデルを説明する．マルチタスクモデルは，マルチリンガルNMTのフレームワーク\cite{johnson-etal-2017-googles}に倣い，原言語文の先頭にタスクを表す特殊トークンを結合した文を入力文とすることで，LSTMに基づくエンコーダ・デコーダモデル\cite{2015_NeuralMachineTranslationbyJoint}を複数タスクで学習している．具体的には，以下の式(\ref{eqn:multitask})の損失に基づき，通常の機械翻訳と単言語平易化の2つのサブタスクとメインタスクのMCMTを1つのモデルで同時に学習する．\begin{gather}loss=L_{MT}+L_{Simplify}+L_{MCMT}\label{eqn:multitask}\\L_{MT}=\smashoperator{\sum_{(s_i,s_o)\inD_{MT}}^{}}CrossEntropy((s_i;\theta),s_o)\\L_{Simplify}=\smashoperator{\sum_{(s_o,c_{o'},s_{o'})\inD_S}^{}}CrossEntropy((s_{o},c_{o'};\theta),s_{o'})\\L_{MCMT}=\smashoperator{\sum_{(s_i,c_o,s_o)\inD_{MCMT}}^{}}CrossEntropy((s_i,c_o;\theta),s_o)\end{gather}ここで，$L_{MT}$，$L_{Simplify}$，$L_{MCMT}$は，それぞれ，難易度を制御しない通常の機械翻訳の損失，単言語平易化の損失，MCMTの損失である．そして，$CrossEntropy$は交差エントロピー誤差，$\theta$はモデルパラメータ，$s_i$は原言語文，$s_o$は目的言語文，$s_{o'}$は$s_o$を平易化した文，$c_{o/o'}$は$s_{o/o'}$の難易度である．また，$D_{MT}$，$D_{S}$，$D_{MCMT}$は，それぞれ，通常の機械翻訳，単言語平易化，MCMT用の訓練データである．この従来MCMTモデルは，原言語文と難易度付き目的言語文の文対$(s_i,c_o,s_o)$の単位で学習される．そのため，同一の原言語文に対応付く異なる難易度の目的言語文間を対比させた学習を行うことができないことに注意されたい．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{日英MCMT用評価データセットの作成}
label{sect:evaluation-dataset}本節では，日英MCMT用の評価データセットの作成手順と作成した評価データセットの統計量を示す．\ref{subsect:conventional-dataset}節で説明した従来の評価データセット構築手法は，多段階の難易度で記述され文書単位で対応づいている原言語文と目的言語文のコーパスを前提とした手法である．日英の言語対ではそのようなコーパスが存在しない．そこで本研究では，次の2ステップで評価データセットを構築する．\begin{description}\item[Step1]多段階の難易度で記述される同一内容の英語文集合の作成\\\textbf{1-1:}Newsela-autoコーパスから自動抽出\\\textbf{1-2:}自動フィルタリングによる不適切データの除去\\\textbf{1-3:}人手チェックによる最終確認%\item[Step2]人手翻訳による日本語訳の付与\end{description}ステップ1では，Newselaコーパスの英語記事集合から多段階の難易度で記述される同一内容の英語文集合を抽出する．本ステップでは，機械的に同一内容の文同士を対応付けした結果であるNewsela-autoコーパス\cite{jiang2020neural}を活用する．Newsela-autoコーパスは，難易度が異なる同一内容の文を人手で対応付けしたNewsela-manualコーパスから学習したalignerを用いて，Newselaコーパス中の難易度が異なる英語記事内の英語文を自動で対応付けしたコーパスである．Newsela-autoコーパスには，同一内容の異なる難易度の英語文が813,972文対含まれている．ここで，Newsela-autoコーパスを作成する際に用いられたalignerは，従来のMCMT用データセット\cite{agrawal-carpuat-2019-controlling}の作成時に用いられたMASSAlign\cite{paetzold-etal-2017-massalign}よりも対応付け精度が良いことが示されている\cite{jiang2020neural}．本研究では多段階の難易度を制御することを目的としているので，ステップ1-1ではNewsela-autoコーパスから3つ以上の文が同一内容となる英語文集合を抽出する．ステップ1-1の結果として98,500組の英語文集合が得られた．ここで，ステップ1においても，先行研究と同様，文の難易度としてその文が属する記事の難易度を設定する．したがって，従来の評価データセット構築手法が抱える問題点3（\ref{subsect:conventional-dataset}節参照）が生じる可能性がある．そこで本研究では，自動フィルタリング\footnote{自動フィルタリングを行う前の文組からランダムに抽出した100組のうち63組が，gradelevelが異なるにもかかわらず，記号のみが変化するなど難易度が変わらない文対を含んでいた．これらを人手だけで除くのは効率が悪いため，自動フィルタリングを導入する．}（ステップ1-2）と人手チェック（ステップ1-3）により，確実に難易度が異なる3文以上から成る同一内容の英語文集合を作成する．自動フィルタリングでは，記号を除いた状態での編集距離が1以上になり，かつ，gradelevelの差が2以上となる文集合を残す．なお，編集距離は単語単位で計算する．また，Newsela-autoコーパスは同一内容の文を自動で対応付けているため，従来の評価データセット構築手法が抱える問題点2（\ref{subsect:conventional-dataset}節参照）が生じる可能性がある．そこで本研究では，ステップ1-3の最終確認として，固有名詞などの情報が湧き出していないかを著者が人手でチェックし，情報が湧き出している場合は，その事例を除いた．ステップ2では，ステップ1で作成した各英語文集合に対して，最もgradelevelが大きい，すなわち最も難しい文を翻訳会社に依頼して人手で日本語に翻訳し，その日本語訳を付与する．この人手翻訳により，本研究で作成する評価データには，従来の評価データセットが抱える問題点1（\ref{subsect:conventional-dataset}節参照）は起こらないことに注意されたい．以上の作成手順により，結果的に1,014組の日英MCMT用の評価データセットを作成した．作成した評価データセットに関して，図\ref{img:eval-grade}に英語文の難易度(gradelevel)の内訳を示し，表\ref{tab:eval-steps}に各組が含む異なる難易度の英語文数（段階数）の内訳を，表\ref{tab:article-grade}にNewselaコーパスに含まれる記事のgradelevelの内訳を示す\footnote{Newselaコーパスは表\ref{tab:article-grade}に示すようにgradelevelに大きな偏りがあるため，作成した評価データにおいても難易度の分布に偏りが生じている．}．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.2\begin{figure}[t]\begin{center}\includegraphics{31-2ia6f2.pdf}\end{center}\caption{評価データセット中の英語文のgradelevelの内訳}\label{img:eval-grade}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table4\begin{table}[t]\input{06table04.tex}%\caption{評価データセット中の英語文の段階数の内訳}\label{tab:eval-steps}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table5\begin{table}[t]\input{06table05.tex}%\caption{Newselaコーパス内に含まれる記事のgradelevelの内訳}\label{tab:article-grade}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{提案手法：異なる難易度の複数参照文に基づく学習}
label{sect:proposed}本節では，学習対象の難易度の参照文と共に同一内容の異なる難易度の参照文も用いてMCMTモデルを学習する手法を提案する．具体的には，学習対象の難易度の参照文に対する従来の損失と共に，学習対象以外の難易度の参照文に対する損失が学習対象の難易度の参照文に対する損失よりも小さくなることに対して，難易度が離れるほど大きなペナルティを与える損失に基づきMCMTモデルを学習する．提案手法では，一つの原言語文と難易度の異なる複数の参照文からなる組の単位でMCMTモデルを学習する．表\ref{tab:example-train-data}に提案手法で用いる訓練データの例を示す．この訓練データは，一つの日本語文に対して難易度が異なる3つの英語文が対応付けられている．提案手法では，このまとまり（組）単位で学習を行う．具体的には，以下の式(\ref{equation:proposed-criterion})の損失を最小化することでモデルを学習する．提案損失は，同一の原言語文に対応付けられた難易度の異なる複数の参照文をまとめた組単位で定義される．\begin{gather}\label{equation:proposed-criterion}loss=L_\text{tgt}+{\alpha}\cdot\frac{1}{{n}}\smashoperator{\sum_{k=1}^{{n}}}{(c_\text{tgt}-c_{\text{sub}_{k}})^2\cdot\text{max}(L_\text{tgt}-L_{\text{sub}_k},0)}\\\label{equation:L-target}L_\text{tgt}=CrossEntropy((x,c_{\text{tgt}};\theta),y_{\text{tgt}})\\\label{equation:L-sub}L_{\text{sub}_k}=CrossEntropy((x,c_{\text{tgt}};\theta),y_{\text{sub}_k})\end{gather}ここで，tgtと${\text{sub}_k}$は，それぞれ，学習対象の参照文と同一組内の学習対象以外の参照文を表す．また，$n$は同一組内の学習対象以外の難易度の参照文数である．そして，$L_{\text{tgt}}$，$L_{\text{sub}_k}$，$x$，$y$，$c$，$\theta$，$\alpha$は，それぞれ，学習対象の難易度の参照文との誤差，学習対象以外の難易度の参照文との誤差，原言語文，目的言語文，難易度，モデルパラメータ，学習対象以外の難易度の参照文に対する誤差の重みを調整するためのハイパーパラメータ%revisedon10/30である．提案損失は，第1項目の$L_{\text{tgt}}$により，出力を学習対象の参照文に近づける．この項は，従来の学習で用いられている損失と同じである．これに加えて第2項目で，出力が同一組中の参照文の中で学習対象の参照文に最も近づくように，$L_{\text{tgt}}-L_{\text{sub}_k}>0$であるとき%revisedon10/30にペナルティを与える．この際，表\ref{tab:example-train-data}の例のように，難易度が離れるほど語彙や構文が変化して出力が異なると期待されるため，難易度の差($c_\text{tgt}-c_{\text{sub}_{k}}$)の二乗を掛けて，学習対象の難易度から離れた難易度の参照文ほど大きなペナルティを与える．また，学習対象以外の参照文数($n-1$)は組によって異なるため，その数で割る．このペナルティ項の影響度はハイパーパラメータ$\alpha$で制御する．$\alpha=0$のときは学習対象以外の参照文を用いない従来の学習手法と等価%revisedon10/30になる．提案手法の概要を図\ref{img:proposed-criterion}に示す．図\ref{img:proposed-criterion}では，難易度8の目的言語文への翻訳を学習する際，難易度8の参照文と共に，同一内容の難易度が3，5，12の参照文も用いて学習している．その際，出力が学習対象の難易度8から離れるほど大きな損失を与えて学習する．つまり，難易度3，12，5の順で大きなペナルティを与える%revisedon10/30ことで，出力が指定難易度から離れることを抑制する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%fig.3\begin{figure}[t]\begin{center}\includegraphics{31-2ia6f3.pdf}\end{center}\caption{提案手法の概要図}\label{img:proposed-criterion}\end{figure}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{実験}
label{sect:experiment}本節では，\ref{sect:evaluation-dataset}節の通り作成した評価データセットを用いた日英MCMTの実験により，\ref{sect:proposed}節の提案手法の有効性を検証する．\ref{subsect:settings}節で実験設定を，\ref{subsect:results}節で実験結果を示す．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table6\begin{table}[t]\input{06table06.tex}%\caption{訓練データの種類とその量（文対数）}\label{tab:amount-train-data}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{実験設定}\label{subsect:settings}本節では実験設定を説明する．評価データは\ref{sect:evaluation-dataset}節の通り作成した日英MCMT用評価データ（1,014組）を用いた．訓練%revisedon10/31データは，表\ref{tab:amount-train-data}に示すように，難易度制御を行わない通常の機械翻訳用訓練%revisedon10/31データ$D_{MT}$（9.7M文対），単言語平易化用訓練%revisedon10/31データ$D_{S}$（260K文対），MCMT用訓練%revisedon10/31データ$D_{MCMT}$（70K組）\footnote{従来のマルチタスクモデルは文対に分解して文対単位で学習する．分解後の文対数は260K文対である．}の3種類を用いた．$D_{MT}$は，JParaCrawl\cite{morishita-etal-2020-jparacrawl}とNews-Commentaryの日英対訳文対からなる機械翻訳用データであり，$D_{S}$は，Newsela-autoコーパス中の英語文集合毎に抽出した最高難易度の英語文とそれ以外の英語文の対からなる単言語平易化用データである．そして，$D_{MCMT}$は，Newsela-autoコーパス中の各英語文集合に対して，最高難易度の英語文をGoogle英日翻訳で翻訳した日本語文を付与したMCMT用データ（ただし，評価データセットに含まれるデータは除く）である．$D_{MCMT}$では，一つの日本語文に対して難易度がそれぞれ異なる3から5文の英語文が対応付けられている．%revisedon10/31検証データは訓練%revisedon10/31データに用いなかった$D_{MCMT}$の500組（1,834文対）を用いた．各データはSentencePiece\cite{kudo-richardson-2018-sentencepiece}を用いてBPE\cite{sennrich-etal-2016-neural}によるサブワード分割を行った\footnote{character\_coverageは0.9995，vocab\_sizeは32,000に設定した．}．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table7\begin{table}[b]\input{06table07.tex}%\caption{Fairseqにおける実験設定}\label{tab:experiment-settings}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%本実験では提案手法の有効性を検証するため，\ref{sect:proposed}節で説明した提案損失を用いて学習したMCMTモデル（提案モデル）と，提案損失においてハイパーパラメータ$\alpha$を0にして学習したMCMTモデル（ベースラインモデル）の性能を比較する．また，\ref{subsect:multitask}節で述べた従来のマルチタスクモデル\footnote{従来研究ではLSTMに基づくエンコーダ・デコーダモデルを使用しているが，本研究の実験では，より翻訳性能の高い，Transformerに基づくエンコーダ・デコーダモデル\cite{NIPS2017_3f5ee243}を用いた．}%revisedon10/31の性能とも比較する．各モデルはTransformer\cite{NIPS2017_3f5ee243}を採用した．実装はFairseq\cite{ott2019fairseq}を用い，モデルの構造はFairseqのデフォルトの設定にした．具体的には，エンコーダ及びデコーダの層数は6，マルチヘッド注意機構のヘッド数は8，埋め込み次元数は512，順伝搬層の次元数は2048とした．その他の実験設定は表\ref{tab:experiment-settings}に示す．具体的には，Transformerの文献\cite{NIPS2017_3f5ee243}に倣い，パラメータの最適化にはAdam\cite{KingBa15}を用い，$\beta_1=0.9,\beta_2=0.98$とした．正則化手法としてドロップアウト\cite{srivastava2014dropout}を用い，ドロップアウト確率は0.1とした．また，ラベル平滑化交差エントロピー\cite{szegedy2016rethinking}では平滑化$\epsilon$は，0.1に設定した．提案モデルおよびベースラインモデルでは，まず，$D_{MT}$と$D_{S}$を用いて英語多段階平易化をサブタスク，通常の日英翻訳をメインタスクとしたマルチタスク学習により日英NMTモデルを事前学習した．その後，$D_{MCMT}$に対して%revisedon10/30提案損失を用いてファインチューニングした．提案モデルのハイパーパラメータ$\alpha$の値は0.5と1.0を試し，検証データに対するBLEU\cite{papineni-etal-2002-bleu}が高かった1.0に設定した．ベースラインモデルではハイパーパラメータ$\alpha$の値は0である．マルチタスクモデルでは，日英MCMTをメインタスク，通常の日英翻訳と英語多段階平易化をサブタスクとしたマルチタスク学習を行った．日英MCMTタスクの学習には$D_{MCMT}$，日英翻訳タスクと英語多段階平易化タスクの学習には，それぞれ，$D_{MT}$と$D_{S}$を使用した．なお，損失は，検証データにおける比較から，単純な交差エントロピーではなくラベル平滑化交差エントロピーを用いた．評価指標は，翻訳性能の指標であるBLEU\cite{papineni-etal-2002-bleu}を用いた．BLEUの算出には，EASSE\cite{alva-manchego-etal-2019-easse}を通じてSacreBLEU\cite{post-2018-call}を使用した\footnote{-tokmoses--no-lowercaseオプションを使用した．}．%revisedon10/31%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{実験結果}\label{subsect:results}実験結果を表\ref{tab:result-BLEU}及び表\ref{tab:random-BLEU}に示す．表\ref{tab:result-BLEU}の値は，ランダムシードを変更して学習した3回の実験結果の平均の値であり，表\ref{tab:random-BLEU}は各シードでの実験結果である．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table8\begin{table}[b]\input{06table08.tex}%\caption{実験結果}\label{tab:result-BLEU}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table9\begin{table}[b]\input{06table09.tex}%\caption{シード毎のBLEU}\label{tab:random-BLEU}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%表\ref{tab:result-BLEU}より，提案モデルの翻訳性能の方がベースラインモデルの翻訳性能よりも高いことが分かる．また，マルチタスクモデルと提案モデルの差およびベースラインモデルと提案モデルの差をブートストラップ再サンプリングによる有意差検定\cite{koehn-2004-statistical}で検定した結果，マルチタスクモデルとは有意差水準5\%，ベースラインモデルとは有意差水準10\%で有意差を確認した．これらの結果より，提案損失に基づき，学習対象以外の難易度の参照文も用いて学習することでMCMTの翻訳性能を改善できることが分かり，提案手法の有効性を確認できた．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{考察}
label{sect:discussion}本節では，難易度を変えた際に出力文が適切に変化するかという観点で提案手法の有効性を考察する．具体的には，難易度を変えても出力が同じになる数の比較とテキスト平易化の指標であるSARI\cite{xu-etal-2016-optimizing}の比較，各モデルの出力例に基づく定性評価，そして，目的難易度ごとのBLEUの比較を行う．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{異なる難易度における同一出力数}\label{subsect:duplication}MCMTは，同じ原言語文に対して，指定する難易度に応じて異なる目的言語文を出力をする必要がある．そのため，指定する難易度が異なるにもかかわらず，同一の出力を行うMCMTモデルは好ましくないと考えられる．特に，離れた難易度の場合は，出力が変わることが期待される．そこで，評価データセットの各日本語文（1,014文）に対して，異なる3種類の難易度（最も易しい難易度2，中間難易度7，最も難しい難易度12）を指定して翻訳を行い，その出力が同一となる回数を調査した．結果を表\ref{tab:dup}に示す．なお，表\ref{tab:dup}における各モデルの値は，ランダムシードを変更して学習した3回の実験結果の合計値である．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table10\begin{table}[b]\input{06table10.tex}%\caption{異なる難易度における同一出力数}\label{tab:dup}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%表\ref{tab:dup}において提案損失の有効性を検討するために，提案モデルとベースラインモデルを比較する．その結果，提案モデルの方が，ベースラインに比べて，同一出力を行った総数及び同一出力を含む組数が少ないことが分かる．特に，難易度7と難易度12において同一出力を行う回数が少なくなっている．これにより，提案損失のペナルティ項が難易度ごとに異なる出力を行うことを促進する効果があると考えられる．また，表\ref{tab:dup}ではマルチタスクモデルが同一出力の総数が最も少ないが，表\ref{tab:result-BLEU}から提案モデルの方がマルチタスクモデルよりも翻訳性能が高いことが分かる．これより，提案モデルは高い翻訳性能を維持しつつ異なる目的言語文を出力しやすくするのに役立つと考えられる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{SARIの比較}\label{subsect:compare-SARI}本節では，テキスト平易化の指標であるSARIの比較を行う．SARIは，入力文（平易化元の文），出力文（平易化後の文），参照文（平易化後の正解文）を用いて同一言語における平易化性能を評価する指標である．本評価では，評価データセットの日本語文が最高難易度の英語文を翻訳した文であることを踏まえて，最高難易度の英語参照文をSARIの入力文とし，最高難易度以外の英語参照文およびそれに対応するMCMTモデルの出力英語文をそれぞれSARIの参照文と出力文とすることで，MCMTモデルが出力を適切に平易化して翻訳できているかをSARIにより評価した．\ref{subsect:settings}節のBLEU同様，SARIもEASSEを用いて算出した．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table11\begin{table}[t]\input{06table11.tex}%\caption{各モデルのSARIの比較}\label{tab:result-SARI}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table12\begin{table}[t]\input{06table12.tex}%\caption{シード毎のSARI}\label{tab:random-SARI}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%実験結果を表\ref{tab:result-SARI}及び表\ref{tab:random-SARI}に示す．表\ref{tab:result-SARI}の値は，ランダムシードを変更して学習した3回の実験結果の平均の値であり，表\ref{tab:random-SARI}は各シードでの実験結果である．表\ref{tab:result-SARI}より，SARIの観点でも提案モデルが最も性能がよいことが分かる．これより，提案モデルはベースラインモデルやマルチタスクモデルよりも難易度に応じて適切に翻訳を変化させられることが分かる．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{出力例の比較}\label{subsect:example-hyp}本節では，提案モデル，ベースラインモデル，マルチタスクモデルの各モデルの出力例を比較する．各モデルの難易度別の出力を表\ref{tab:compare-hyp}に示す．表\ref{tab:compare-hyp}より，マルチタスクモデルとベースラインモデルでは，難易度12と8について，指定した難易度が異なっているにも拘らず，同一の出力となった．一方で，提案モデルは，異なる難易度に対してそれぞれ異なる出力を行った．このように，提案損失のペナルティ項を導入することで難易度が変わると出力を変えることができ，MCMTに有効に働く例を確認した．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table13\begin{table}[t]\input{06table13.tex}%\caption{翻訳結果の比較（従来：マルチタスクモデル，BS：ベースラインモデル，提案：提案モデル）}\label{tab:compare-hyp}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\subsection{目的難易度ごとのBLEU}\label{subsect:BLEU-by-level}本節では，MCMTの学習において学習対象の難易度以外の参照文を活用するという提案手法の効果が，目的難易度によって異なるのかを確認するために，目的難易度ごとにBLEUを算出し，比較を行った．表\ref{tab:BLEU-by-each}にベースラインモデルと提案モデルでの，目的難易度ごとのBLEUを示す\footnote{Newselaコーパスではgradelevelが11の記事の割合が0.018\%と少ない．本研究の評価データはランダムに組を抽出してから作成を進めた結果，その偏りの影響を受け，gradelevelが11の文対が含まれていない．}．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%table14\begin{table}[t]\input{06table14.tex}%\caption{目的難易度ごとのBLEUの比較（3つの異なるランダムシードでの平均値）}\label{tab:BLEU-by-each}\end{table}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%表\ref{tab:BLEU-by-each}より，提案モデルは，多くのgradelevelでベースラインモデルを上回っていることが分かる．このことから，提案損失を用いたことによる性能改善は特定の難易度に対する性能改善に由来するものではなく，各難易度に対して性能が全体的に改善できてることが確認できる．一方で，gradelevelが3,7,10に対してはベースラインモデルの方が性能が高い．ただし，gradelevelが7に対しては差は非常に小さい．性能の差が比較的大きかったgradelevelが3と10についてデータ量の観点で比較すると，gradelevelが3と10の訓練データは，その他のgradelevelの訓練データと比較して量が少ない．したがって，gradelevelごとの訓練データ量の偏りによって，学習が難しくなっている可能性が考えられる．本研究では従来研究に倣って記事に付与されているgradelevelをそのまま利用したが，例えば，目的難易度ごとのデータ数の正規化やビニング処理を検討したり，gradelevel以外の難易度の利用や新たな文単位の難易度の作成などを検討したりする必要があると考える．これらの点は今後の課題とする．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%
\section{おわりに}
本研究では，日英MCMTの実現を目指して研究を行った．具体的には，従来研究は英語とスペイン語の言語対が対象となっているため，まず，日英MCMT用の評価データセットを作成した．そして，日英MCMTの性能を向上させるため，学習対象の難易度の参照文と共に異なる難易度の参照文を用いるMCMTの学習手法を提案した．本研究で構築した評価データセットを用いた日英MCMTの評価実験を通じて，提案手法は，従来の学習対象の難易度の参照文のみを用いる学習手法に比べて，BLEUおよびSARIの値が改善し，提案手法の有効性を確認した．本研究では日英MCMTの実現に取り組んだが，今後は英日MCMTも対象にしていきたい．また，本研究の難易度は，従来研究同様，Newselaコーパスの記事に付与されているgradelevelを利用したが，難易度そのものについての議論も進め，MCMTの更なる発展のための研究を進めていきたい．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\acknowledgment本論文を構成する日英MCMT用評価データセット作成は，%revisedon10/30Proceedingsofthe13thLanguageResourcesandEvaluationConferenceで発表した論文\cite{tani-etal-2022-benchmark}の内容である．本研究はJSPS科研費JP22K12177，JP21K12031の助成を受けたものである．また，本研究成果の一部は，国立研究開発法人情報通信研究機構(NICT)の委託研究(22501)により得られたものである．ここに謝意を表する．%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\bibliographystyle{jnlpbbl_1.7}\bibliography{06refs}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\begin{biography}\bioauthor{谷和樹}{2022年同志社大学理工学部情報システムデザイン学科卒業．2024年同大学院理工学研究科情報工学専攻修了予定．}\bioauthor{田村晃裕}{2005年東京工業大学工学部情報工学科卒業．2007年同大学院総合理工学研究科修士課程修了．2013年同大学院総合理工学研究科博士課程修了．日本電気株式会社，国立研究開発法人情報通信研究機構にて研究員として務めた後，2017年より愛媛大学大学院理工学研究科助教．2020年より同志社大学理工学部准教授となり，現在に至る．博士（工学）．情報処理学会，言語処理学会，人工知能学会，ACL各会員．}\bioauthor{梶原智之}{愛媛大学大学院理工学研究科講師．2013年長岡技術科学大学工学部電気電子情報工学課程卒業．2015年同大学大学院工学研究科修士課程修了．2018年首都大学東京大学院システムデザイン研究科博士後期課程修了．博士（工学）．2018年より大阪大学データビリティフロンティア機構の特任助教，2021年より愛媛大学大学院理工学研究科の助教を経て，2024年より現職．情報処理学会，人工知能学会，言語処理学会，ACL各会員．}\bioauthor{二宮崇}{1996年東京大学理学部情報科学科卒業．1998年同大学大学院理学系研究科修士課程修了．2001年同大学大学院理学系研究科博士課程修了．同年より科学技術振興事業団研究員．2006年より東京大学情報基盤センター講師．2010年より愛媛大学大学院理工学研究科准教授，2017年同教授．博士（理学）．言語処理学会，アジア太平洋機械翻訳協会，情報処理学会，人工知能学会，電子情報通信学会，日本データベース学会各会員．}\bioauthor{加藤恒夫}{1994年東京大学工学部電子工学科卒業．1996年同大学工学系大学院電子工学専攻博士前期課程修了．同年，国際電信電話株式会社入社．KDD研究所，KDDI研究所を経て，2015年より同志社大学理工学部．現在同志社大学理工学部教授．博士（情報理工学）．言語処理学会，情報処理学会，電子情報通信学会，日本音響学会，日本音声学会，ヒューマンインターフェース学会，ACM，IEEE各会員．}\end{biography}%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%\biodate\end{document}