# 大域的な並べ替えによるサブ言語翻訳の高精度化

法律文書や技術文書等の専門文書に対する機械翻訳では，翻訳対象のサブ言語に特有の大域的な文構造を適切に捉えて翻訳することが高品質な訳文を得る上で必要不可欠である．本論文では，文内の長距離な並べ替えに焦点を当てることによって，大域的な並べ替えを行うための手法を提案する。提案する大域的並べ替え手法では， アノテートされていない平文学習データを対象として, 構文解析を行うことなく大域的な並べ替えモデルを学習する。そして，大域的な並べ替えを従来型の構文解析 による並べ替えと併用することによって, 高精度な並べ替えを実現する。公開特許公報英文抄録 (Patent Abstracts of Japan, PAJ) のサブ言語を対象とした日英翻訳お よび英日翻訳の評価実験を行ったところ，両言語方向において，大域的な並べ替え と構文に基づく並べ替えを組み合わせることによって翻訳品質向上が達成できるこ とがわかった。

キーワード：機械翻訳，並べ替え，サブ言語，文構造，大域的な並べ替え
## Improving Sublanguage Translation via Global Pre-ordering

\author{
Masaru Fuji ${ }^{\dagger, \dagger}{ }^{\dagger}$, Masao Utiyama $^{\dagger}$, Eirchiro Sumita $^{\dagger}$ and Yuj $^{2}$ Matsumoto $^{\dagger \dagger}$
}

When translating formal documents, capturing the sentence structure specific to the sublanguage is extremely necessary to obtain high-quality translations. This paper proposes a novel global reordering method that focuses on long-distance reordering to capture the global sentence structure of a sublanguage. The proposed method learns global reordering models without syntactic parsing from a non-annotated parallel corpus and works in conjunction with conventional syntactic reordering. The experimental results regarding patent abstract sublanguage show concrete improvements in translation quality, both for Japanese-to-English and English-to-Japanese translations.

Key Words: Machine Translation, Reordering, Sublanguage, Sentence Structure, Global Reordering


## 1 はじめに

法律文書や技術文書等の専門文書は，その文種に特有の表現を持っていることから，サブ言語を形成していると考えることができる。サブ言語を対象とした翻訳に関する従来の研究では, サブ言語の翻訳品質を向上させるには, 対象のサブ言語に特徴的に表れる文構造を適切に捉え,対象言語の文構造に変換することが不可欠であることが指摘されている (Buchmann, WarwickArmstrong, and Shane 1984; Luckhardt 1991; Marcu, Carlson, and Watanabe 2000). 図 1 は, 特許抄録のサブ言語に特有な 2 対の対訳文である。いずれの文対でも，適切な訳文を得るためには, 原言語文における $\mathrm{ABC}$ という文構造を目的言語において CBA に変換しなければならない. このようなサブ言語に特徴的な文では，文構造を適切に捉えられなければその後の処理でも良い翻訳に結びつく可能性が低いため, 初期段階での正確な文構造の把握が極めて重要である.

この課題に対して様々な研究が行われてきた。骨格構造を用いた機械翻訳 (Mellebeek, Owczarzak, Groves, Genabith, and Way 2006; Xiao, Zhu, and Zhang 2014) では, 構文解析器を用いて入力文から骨格構造, つまり文の大域的な構造を抽出し，従来の統計的機械翻訳を用いて大域的な構造の学習を行って翻訳文を生成する。しかしながらこの方法は, 構文解析の精度の影響を受けるため, 解析精度が低い場面では結果的に翻訳の精度も低くなるという問題がある.もう一つの手法としては, 文構造変換のための同時文脈自由文法の規則を人手で構築し, これを用いて入力文の文構造を出力側言語の構造に変換する手法が提案されている (Fuji, Fujita， Utiyama, Sumita, and Matsumoto 2015; 富士, 藤田, 内山, 隅田, 松本 2016). こちらの手法は，新規のサブ言語に対して人手で規則を作成しなければならないという問題がある。これらの手法では, 構文解析精度による制約の問題があったり, 人手による規則作成の問題があるなど，新たなサブ言語に対して柔軟に適用できる翻訳を実現することができていない.

 \\

 \\

図 1 大域的な並べ替えが必要な, 特許抄録のサブ言語に特徵的な対訳文の例. $\mathrm{A}, \mathrm{B}, \mathrm{C}$ は，文の大域的構造を構成する構造部品を表す.
本論文では，サブ言語に特有な大域的な文構造を捉えるための，大域的な並べ替え手法を提案する。提案手法は，構文解析を用いることなく，アノテートされていない平文テキストデー 夕から大域的並べ替えモデルを学習し，このモデルを用いて新規の入力文に対する大域的な並べ替えを行う。本手法は構文解析器を用いないため，構文解析器の解析精度の影響を受けることはなく，また新規のサブ言語にも容易に適用できる。

特許抄録のサブ言語を対象にした日英および英日翻訳実験を行って本手法の評価を行ったところ，大域的な並べ替えと従来型の構文解析に基づく並べ替えを併用することによって，翻訳品質が向上することがわかった.

本論文の貢献は次のとおりである.
- 構文解析を用いることなく，アノテートされていない平文テキストデータから大域的並ベ替えモデルを学習できる手法を提案する。
- 大域的な並べ替えと構文解析に基づく並べ替えを併用したときに翻訳品質が向上することが確認できた。
- 特に特許抄録文では, サブ言語に特有な文構造を持った入力文に対して, 日英・英日双方向において翻訳精度が向上した。

## 2 関連研究

翻訳処理の一環として，入力文中の単語の並べ替えを行うことは翻訳品質の向上において有効であることが示されており，様々な手法が提案されてきた。

## 2.1 階層的フレーズベース機械翻訳

階層的フレーズベース機械翻訳 (Chiang 2005) における並べ替え手法は, 統計的機械翻訳研究の初期の頃に提案され，並べ替えを必要とする言語対にとって現在も有効な手法となっている.この並べ替え手法では, 統計的機械翻訳の学習段階において, アノテートされていない平文学習データから並べ替え規則が自動的に学習され，翻訳実行時にはこの並べ替え規則を用いた翻訳が行われる，構文解析を用いないことと，平文テキストデータから自動的に規則を学習することから, 新規のサブ言語への適用は容易である。しかしながら, 本手法では, 長距離の単語間の関係を捉えにくいという問題が指摘されており (Dyer, Gimpel, Clark, and Smith 2011), また文の大域的な構造を捉えるための手段は設けられていない.

## 2.2 Tree-to-String 翻訳および String-to-Tree 翻訳

これらの手法では，原言語か目的言語かのいずれかの言語のための構文解析が利用可能なときに，その構文解析を用いて言語対の翻訳精度を向上させるものである (Yamada and Knight

2001; Ambati and Chen 2007). 片方の言語における言語リソースが限られている場合でも，もう片方の言語の構文情報によって翻訳精度を向上させられるという特長がある. しかしながら， これら手法も構文解析の解析精度に影響されるという問題がある.

## 2.3 骨格構造を用いた機械翻訳

本手法は，文の大域的な構造を捉えることを主眼においた研究である (Mellebeek et al. 2006; Xiao et al. 2014). 手法では, 入力文に対して構文解析器を用いて解析を行い, 骨格構造と言われる, 文の大域的な構造を抽出し, これに対して従来の統計的機械翻訳を適用して翻訳を行う.本手法も, 構文解析器を用いているため解析精度の影響を受ける。なお, 関連した研究としては述語項構造による手法も提案されている (Komachi, Matsumoto, and Nagata 2006).

## 2.4 構文解析による事前並べ替え翻訳

構文解析を用いた事前並べ替え翻訳に関する研究は幅広く行われてきた (Isozaki, Sudoh， Tsukada, and Duh 2010; Goto, Utiyama, Sumita, and Kurohashi 2015; de Gispert, Iglesias, and Byrne 2015; Hoshino, Miyao, Sudoh, Hayashi, and Nagata 2015). 現状, 実用面と精度の面からもっとも使われている手法である。本手法は, 構文解析器を用いるため解析精度の影響を受けるという問題がある。また，新規分野に適用させるためには，人手によってアノテートした対象分野の対訳コーパスが大量に必要となるという問題がある.

なお, 本論文の提案する大域的並べ替え手法は, この従来型の構文解析による事前並べ替え手法の前処理として動作することにより, 従来手法のこれら欠点を補うものである.

## 3 大域的並べ替え手法

本論文で我々は，入力文に対してサブ言語に特有な大域的な文構造を把握して並べ替えるための手法を提案する。サブ言語に特有な大域的な文構造は, 対象文書を読みやすくするために,特徴的な表層的手掛かりを使いながら記述される傾向にある (Buchmann et al. 1984). このため, 本手法では, 対象サブ言語において頻出する表層的な手掛かり表現を取り出し, この手掛かりをもとに文構造の認識および並べ替えを行う，表層的な手掛かり表現は，単語 $\mathrm{N}$ グラムとして取り出す. 大域的な並べ替えを含む学習文から Nグラムを取り出し, 新たに入力された文に対してこのNグラムを照合することによって, 大域的な並べ替えの有無を検知し, 必要な場合に並べ替えを行う。

例えば，図 1 は，特許抄録文のサブ言語に属する学習データ中に表れる，大域的な並べ替えを必要とする 2 文の例文である。本論文では以降, 大域的な並べ替えにおける並び替え単位となる文字列を構造部品と呼ぶ. この例文では, 入力文の大域的構造を $\mathrm{ABC}$ という 3 の構造部

図 2 大域的な並べ替えと従来の並べ替えの両方を適用した後の入力文

品で表しているが, 訳文では大域的な並べ替えを行って構造部品を CBA の順番で出力することによって訳文として自然な文を得る。

ここで, これら学習データにおいて, 入力文を構成する構造部品の境界の左右からユニグラムを抽出するとユニグラムが得られる。ここで“いは構造部品の境界位置を表す.

$
\begin{gathered}
\{\text { provide } \mid, \text { a }\} \\
\{\text { apparatus, } \mid, \text { capable }\}
\end{gathered}
$

新たな文 “To provide a heating apparatus capable of maintaining the temperature.”が入力されると，上記ユニグラムとの照合が行われ, “To provide | a heating apparatus | capable of maintaining the temperature"のように構造部品の境界がマーキングされた文が得られる。ここで，ピリオドは並べ替え処理の対象外としており，一通りの並べ替えおよび翻訳処理が完了してから最後にピリオドに相当する句点等を訳文に戻す。入力文において認識されたこれら構造部品は大域的に並べ替えられて, “Capable of maintaining the temperature | heating apparatus | to provide"が得られる. さらに，各構造部品について従来型の並べ替えを行うことによって， “The temperature maintaining of capable | heating appratus | provide to"という文が得られる. これは，目的言語である日本語の文構造および単語順を持った文となっており，図 2 に示すように，統計的機械翻訳を用いて容易に翻訳することができるようになる。

本手法は，2つの手順から構成される。手順 1 では，大域的な並べ替えを必要とする文対を学習データから抽出する。この抽出した文対の原文側文は, 構造部品の境界位置を付与して格納されるが，このコーパスを以降，大域的並べ替えコーパスと呼ぶ，手順 2 では，大域的並べ替えコーパスから $\mathrm{N}$ グラム等の文の素性を抽出してモデルを学習し，新規入力文に対してこのモデルを用いて構造部品の推定を行う．推定した入力文中の構造部品を大域的に並べ替えることにより，大域的な並べ替えが完了する，本論文では，手順 2 の実現方法として，ヒューリスティックな方法と機械学習による方法の両者を試した. 次節では, 手順 1 と手順 2 について説明する.

## 3.1 大域的な並べ替えを必要とする文対の抽出

以下では，統計的機械翻訳用の学習コーパスを対象に大域的な並べ替えが必要な文対を抽出するためのアルゴリズムについて説明する.

大域的な並べ替えを必要とする文対とは，単語アラインメントされた文対において，文を 2 つもしくは 3 つの構造部品に区切ったときに, これら構造部品が原文と訳文の間で, フレーズ
単位 (phrase-based) で swap の位置関係 (Galley and Manning 2008) にある文対，と定義する. なお，3つの構造部品に区切った場合には，隣接する 2 の構造部品同士がそれぞれ $\operatorname{swap}$ の関係にある場合に条件が適用される。例えば図 3 は，3つの構造部品から構成される英日対訳文の例であり，隣接する 2 つの構造部品の組み合わせがすべて原文側と訳文側で swap の関係に配置されているため, 大域的な並べ替えの対象となる.

なお提案手法は, 理論上は 4 つ以上の構造部品に区切っても適用できるが, 人手による分析から，2つもしくは 3 つの構造部品に区切ったときに境界位置に特徴的な $\mathrm{N}$ グラムが現れやすいことから，2つもしくは 3 つとしている. さらに，区切る数が多くなると，構文的な単位と差がなくなって効果が出にくくなることもあげられる.

大域的な並べ替えを必要とする文対を対訳コーパスから抽出するための手順を以下に順を追って述べる。

（1）原文・訳文それぞれについて，すべての隣接する 2 単語間位置が構造部品の境界になり得るとみなし，すべての原文境界位置に対するすべての訳文境界候補を作成する。ここで，文長 $F$ の原文 $f$ では単語間位置の個数は $F-1$ であり, 文長 $E$ の訳文 $e$ では単語間位置の数が $E-1$ あることから, $(F-1) \times(E-1)$ 個の単語間位置の組み合せを候補として作成する.

（2）上記各々の組み合わせ候補の中から，境界で区切ることで得られた構造部品が原文と訳文の間で swap の位置関係にある候補を抽出する。ここで, 原文中の $k$ 番目の構造部品が $\phi_{k}$ であり, $K$ 個の構造部品から構成される文が $\left(\phi_{1}, \phi_{2} \cdots \phi_{K}\right)$ であり, 原文中の $k$ 番目の構造部品が訳文中の $\alpha_{k}$ 番目の構造部品と対応するときに， $\alpha_{k}=\alpha_{k+1}+1$ が成り立つ構造部品の組み合わせが swap の関係にある構造部品であるが, このような $\operatorname{swap}$ の位置関係にある構造部品から構成される文対をすべて抽出する。なお，上述の「大域的な並べ替えを必要とする文対」の定義で述べたとおり, 本実験では $K$ は 2 もしは 3 である.

図 3 英日対訳文において, 構造部品 $\phi_{1}, \phi_{2}, \phi_{3}$ が swap の位置関係に配置された例
候補 1

候補 2

図 4 入力言語の主辞位置による候補の選択の例

（3）前記の手順で候補を選択した結果，複数個の候補が残った場合には, 原文言語が主辞先行型か主辞終端型かによって，候補を一つに絞り込む. 我々の分析から，主辞先行型言語では，もっとも重要な構造部品が文頭の近くに表れる傾向があるのに対して，主辞終端型では文末の近くに表れる，という特徴を用いる。実験では，主辞先行型言語の場合には，文頭に近い構造部品が最短である候補を選択し，主辞終端型言語の場合には，文末に近い構造部品が最短である候補を選択する.

図 4 は, 3 つの構造部品から構成される英語文で, 複数 $(2$ つ) の候補が存在する場合の例を示す. ここで英語は主辞先行型言語のため, 文頭に近い構造部品である $\phi_{1}$ と $\phi_{2}$ の長さ (単語数) の合計が短い方を選択する。候補 1 の $\phi_{1}$ と $\phi_{2}$ の単語数の合計は $2+5=7$ であり, 候補 2 の $\phi_{1}$ と $\phi_{2}$ の単語数の合計は $2+2=4$ であるため, この合計値がより短い候補 2 を選択する。

## 3.2 大域的な並べ替えの学習と推定

前項で抽出した大域的並べ替えコーパスを用いて大域的並べ替えモデルを学習し，翻訳実行時には，大域的並べ替えモデルを用いて入力文を大域的に並べ替えるためのアルゴリズムを以下に説明する。大域的並べ替えコーパスの各例文から単語 N グラムを抽出し，これを用いて大域的並べ替えモデルを学習させる，大域的な並べ替えの学習と推定を実現する手段として，以下に，ヒューリスティックに基づく手法と機械学習に基づく手法について説明する.

## 3.2.1ヒューリスティックに基づく手法

ヒューリスティックに基づく手法では, 大域的な並べ替えの学習と推定において，Nグラム照合の手順や推定候補の推定など各々の手順をヒューリスティックに基づいて決める.

$\mathbf{N}$ グラム抽出構造部品 $\phi_{k}$ と $\phi_{k+1}$ の境界の左右両方から $\mathrm{N}$ グラムを抽出する. ヒューリス

ティックに基づく方法では, 構造部品の境界の左右で異なる $\mathrm{N}$ グラムの $\mathrm{N}$ を持つことができるようにしている。ここで， $B$ が $\phi_{k+1}$ 中の 1 番目の単語位置, $f$ が原言語文, $f_{B}$ が原言語文における位置 $B$ の単語, $n_{L}$ が左側から抽出する $\mathrm{N}$ グラムの $\mathrm{N}$ だとすると, $f_{B}$ の左側から
抽出する $\mathrm{N}$ グラムは式 (1)の通りとなる.

$
\left(f_{B-n_{L}}, f_{B-n_{L}+1} \cdots f_{B-1}\right)
$

同様にして，境界の右側から抽出する $\mathrm{N}$ グラムの $\mathrm{N}$ を $n_{R}$ とすると， $f_{B}$ の右側から抽出する Nグラムは式 (2) の通りとなる.

$
\left(f_{B} \cdots f_{B+n_{R}-2}, f_{B+n_{R}-1}\right)
$

デコード前項で抽出した $\mathrm{N}$ グラムを用いた，新規入力文に対する大域的並べ替えの推定方法

について以下に説明する，大域的な並べ替えの推定は，入力文に対する $\mathrm{N}$ グラム照合によって行う。ここでは，(a) 候補に対する $\mathrm{N}$ グラム合致長が長いほど，およびまたは， (b) 候補の N グラム頻度が高いほどその候補の信頼性が高い，という仮説に基づいて計算する。具体的には，len が候補に対する $\mathrm{N}$ グラム合致長であり，freqが候補の N グラム頻度だとしたとき，仮説に基づき信頼性を式 (3) で計算する。

$
\log (\text { freq }) \times \text { len }
$

以下では, 具体例を用いて, 2 つ構造部品を含む大域的な並べ替えと, 3 つの構造部品を含む大域的な並べ替えによるデコードについてそれぞれ説明する。なお照合の結果，2つの構造部品を持つ並べ替えと 3 つの構造部品を持つ並べ替えの両方に合致した場合は, 照合箇所が多いほうがより信頼度が高いという仮説から，3つの構造部品を持つ並べ替えのほうを採用する。

表 1 は， 2 つの構造部品を含む場合，つまり $K=2$ の場合の大域的な並べ替えの例である.構造部品が 2 つの場合, 隣接する構造部品の間の境界の数は 1 つである. $\mathrm{M} 2: 1$ から M2:4 の候補は，入力文“To prevent imperfect coating and painting.” が入力されたときに合致した N グラムであり，“境界位置を表す。ここで，構造部品境界に関わる合致長は, 境界左側の $\mathrm{N}$ グラムである $n_{L}$ と右側 $\mathrm{N}$ グラムである $n_{R}$ を足し合わせた len である．例えば候補 $\mathrm{M} 2: 3$ では， len $=n_{L}+n_{R}=2+1=3$ であり, この候補の出現頻度である freqの値は表 1 から 120 として与えられている。入力文について, 全候補の評価値を式 (3)に基づいて計算し，すべての候補の評価值が計算できたところで評価値順に候補をソートして最高点を得た候補を出力する.

表 12 つの構造部品から構成される入力文に対する照合の例

表 23 つの構造部品から構成される入力文に対する照合の例

表 2 は， 3 つの構造部品を含む場合, つまり $K=3$ の場合の大域的な並べ替えの例である．構造部品が 3 つの場合, 隣接する構造部品の間の境界の数は 2 つである. M3:1 から M3:5の候補は,入力文 "To provide a household heating device capable of maintaining the room temperature." が入力されたときに合致した $\mathrm{N}$ グラムであり, “”は境界位置を表す.ここで，合致長 len は, 1 番目の境界の左右の $\mathrm{N}$ グラムと， 2 番目の境界の左右の $\mathrm{N}$ グラムを足したものである．例えば候補 M3:3では, len $=2+1+1+1=5$ となる. そしてこの候補の出現頻度は 112 として与えられている，2つの構成部品を含む場合と同様に，入力文について，全候補の評価値を式 (3) に基づいて計算し，すべての候補の評価値が計算できたところで評価値順に候補をソートして最高点を得た候補を出力する.

## 3.2 .2 機械学習に基づく手法

ヒューリスティックに基づく手法では直観に基づいて計算方法などを決める場面が発生するため，他ドメインへの適応において画一的な方法でチューニングすることが困難である。このことから，機械学習を導入することによって画一的な最適化を可能にする.

ここでは，境界推定を 2 值分類問題として位置づけ，機械学習器としてサポートベクターマシン $(\mathrm{SVM})$ を導入する。入力文の各単語について, その次の単語との間の位置が構造部品境界であるか否かの 2 値判定ができるように，当該単語の周辺の素性を与えてSVM モデルを学習させる，実験では，以下の 2 種類の素性を用いて，学習および判定を行った．

N グラム SVMに与える素性として, 学習・推定対象の単語の左右の Nグラムを用いる。ヒュー リスティックに基づく手法とは異なり, 単純化のために, 単語の左側と右側で同じ $\mathrm{N}$ のグラムを用いる。学習・推定に利用する $\mathrm{N}$ グラムは式 4 の通りとなる.

$
\left(f_{i-n+1}, f_{i-n+2} \cdots f_{i} \cdots f_{i+n-1}, f_{i+n}\right)
$

文中の単語出現位置学習・推定対象の各単語について, 文中におけるその単語の出現位置を素性として与える。この素性は, $\mathrm{N}$ グラム素性が同一の単語が複数個存在する場合に, 適切な境界位置を学習・推定するために導入した。素性の与え方としては, 当該単語の文頭から

の位置を文長で割った数値を用いている。 $i$ が学習・推定対象の単語の文頭からの位置であり, $F$ が文長であるとして, 文中単語出現位置の素性は式 (5)に示すとおりに計算する.

$
\frac{i}{F}
$

新規入力文に対する推定の段階では, 各単語位置について素性を抽出して学習されたSVM モデルに渡して, 境界か否かの推定を繰り返す。全単語に対してこの処理を繰り返すことによって, 入力文 $f$ の各単語位置 $i$ に境界であるか否かのマークが付与された状態になる.

なお本手法では, 学習時において構造部品の個数についての制約をかけないため, 新規入力文に対する推定においても，不特定数の構造部品が得られることがある．学習データ中には構造部品が 2 つと 3 つの文しか入っていないため, 出力において 4 つ以上の構造部品が出力された場合には選択を行って 3 つになるようにする。選択は, 入力言語の主辞方向性を基に行う.具体的には, 英語のような主辞先行型言語ではもっとも文頭に近い構造部品区切り 2 つを採用し, 日本語のような主辞終端型言語ではもっとも文末に近い構造部品区切り 2 つを採用する.

## 4 評価実験

大域的並べ替え手法の導入による効果を評価するための実験をついて以下に述べる。最初に，大域的並べ替え手法をべースラインや他の並べ替え手法と比較するための設定について説明する. そして, 大域的並べ替え実験のための準備について説明し, 次に翻訳実験における各種設定について説明する.

## 4.1 比較対象の設定

大域的並べ替え手法の効果を評価するために，以下の 4 つの評価対象構成を設定し，それぞれに対して評価を行った。

T1 並べ替えを行わない, ベースラインの統計的機械翻訳.

T2 T1に加えて, 大域的並べ替え手法のみを適用した場合. 入力文は構造部品に分解され,大域的な並べ替えが行われる。各構造部品はべースライン統計的機械翻訳によって目的言語に翻訳され，結合されて出力文が作成される.

T3 T1に加えて, 従来型の構文に基づく並べ替えを行った場合. 入力文の単語は，そのまま構文に基づく従来型の並べ替えによって並べ替えられ，単語が並べ替えられた文が統計的機械翻訳で目的言語に翻訳される.

T4 T1に加えて, 大域的並べ替え手法と, 従来型の構文に基づく並べ替えの双方が適用された場合. 入力文は構造部品に分解され, 構造部品は目的言語の並びになるように並べ替えられる。そして, 各構造部品に対して構文に基づく並べ替えが実行され，最後にこれ

らの翻訳された構造部品を結合することによって出力文を作成する. なお, これまで述べてきたように，大域的並べ替え手法は，構文による並べ替えと併用することによって精度向上につながることを想定している。

## 4.2 大域的な並べ替えの構築

3.2 節で述べたように本実験では，大域的な並べ替えの学習において，ヒューリスティックに基づく手法と機械学習に基づく手法の両者を用いている。 ヒューリスティックに基づく手法では, 出力を見ながら直観に基づいて計算式等を決めており，大域的な並べ替え単体についての，各パラメータを変化させての定量的な測定は行っていない.これに対して機械学習に基づく手法では, 構成を変化させながら機械学習器の推定機能を使って定量評価を行い, 実験に先立って最適な構成を決めている。 以下では, 機械学習に基づく手法における最適化について述べる.

3.2.2 節で説明したように, 機械学習に基づく手法では, $\mathrm{N}$ グラムと, 文中単語出現位置の両者を素性として用いる.このうち $\mathrm{N}$ グラムについては，学習条件を変化させることで推定精度が変化するため, 実験に先立って最適な推定精度が得られる学習条件を見つけるための予備実験を行った． 具体的には， $\mathrm{N}$ グラム抽出対象の文数と， $\mathrm{N}$ グラムの $\mathrm{N}$ を変化させて，推定精度の変化を測定した．機械学習の学習器としては, 学習・推定ともに, liblinear 1.94 (Fan, Chang, Hsieh, Wang, and Lin 2008)を用いた. liblinearの実行に先立って, ツールキットに同梱された svm-scale によるスケール調整，および grid.pyによるグリッド探索によるパラメータ調整を試みたがデフォルトと比較して改善が得られなかったため, デフォルト設定のまま学習を行った。

図 5 は，大域的並べ替えコーパスの文数と $\mathrm{N}$ グラムの $\mathrm{N}$ を変化させたときの，日本語入力文に対する推定精度の変化であり, 図 6 は英語入力文に対して同様の測定を行った結果である.

図 5 SVM モデルを用いた日本語入力文に打ける構造部品境界の推定精度について, $\mathrm{N}$ グラムの $\mathrm{N}$ と大域的並べ替えコーパスの文数を変化させることによる変化. 右側の凡例は，大域的並べ替えコーパスの文数を表す。

図 6 SVM モデルを用いた英語入力文における構造部品境界の推定精度について, $\mathrm{N}$ グラムの $\mathrm{N}$ と大域的並べ替えコーパスの文数を変化させることによる変化. 右側の凡例は, 大域的並べ替えコーパスの文数を表す.

ここで精度とは, 10 分割による交差確認による, 入力文における構造部品境界の推定精度である。なお図中, 大域的並べ替えコーパスの文数が 10 万文（「100kJ）のときに $\mathrm{N}$ を増やすに連れて逆に精度が下がるという現象がみられるが，これは過学習によることが考えられる。

この測定から, 推定精度が最大となる学習条件を選択した。具体的には, 日本語入力と英語入力の双方において, $\mathrm{N}$ グラムの $\mathrm{N}$ として 5 を選択し, 大域的並べ替えコーパスの文数としては $100 \mathrm{k}$ ，つまり 100,000 文を選択した.

## 4.3 翻訳評価実験の設定

データ翻訳評価実験の評価データとしては, 日本特許抄録の英語訳である，公開特許公報英文抄録（Patent Abstracts of Japan, 以下 PAJ）1を用いた. PAJ およびPAJ の元となった日本語抄録文の間で自動対応付けを行い，日英対訳文の自動抽出を行った (Utiyama and Isahara 2007). 自動対応付けした対訳文から，1,000,000 文を学習データ，1,000 文を開発デー夕, 1,000 文を評価データとして無作為抽出した，評価データ 1,000 文のうち，Nグラムとの合致があつた 300 文を対象として評価実験を行った。なお, この翻訳実験用の学習データは, 前述のように，大域的並べ替え手法の学習データとしても用いた。

翻訳評価実験では，学習の一環として，1,000,000 文の学習デー夕に対する単語対応付けを行った. 現時点では, 大域的な並べ替えの必要な文対を判定するためのソフトウェアプログラムの速度性能に問題があるため，翻訳用にアラインメントされた $1,000,000$ の対訳文のうち，100,000 文対を対象に大域的な並べ替えの必要な文対を抽出した。抽出の結果, 38.194 文

対が得られ，この対訳文の原文を大域的並べ替えコーパスに格納して後段の実験に用いた。 ヒューリスティックに基づく手法では，上記で作成した大域的並べ替えコーパスから $2 \sim 5$ グラムを抽出したところ，381,311 個が得られた。

ベースライン統計的機械翻訳翻訳評価実験のベースラインとしては，統計的機械翻訳のツー ルキットである Moses phrase-based SMT (Koehn, Hoang, Birch, Callison-Burch, Federico, Bertoldi, Cowan, Shen, Moran, Zens, Dyer, Bojar, Constantin, and Herbst 2007)を用い,歪み範囲としては, システムのデフォルト値である 6 を使用した，単語クラスの学習には $m k \operatorname{ls}^{2}$ (Och 1999) を用い，単語クラス数としてはデフォルトの 50 個を用いた。言語モデルの学習には, KenLM (Heafield, Pouzyrevsky, Clark, and Koehn 2013)を用い, 単語アラインメントには SyMGIZA++ (Junczys-Dowmunt and Szal 2010)を使用した. モデルの重みづけでは, BLEU 值 (Papineni, Roukos, Ward, and Zhu 2002)を指標として n-best batch MIRA (Cherry and Foster 2012) によるチューニングを行った. 各評価実験において, 重み付けチューニングを 3 回繰り返し，開発セットにおいて最大の BLEU 值を獲得した重み設定を採用した。べー スラインの変形として, フレーズベース統計的機械翻訳における歪み範囲として 20 をした場合と，階層的フレーズベースの実装である Moses hierarchical phrase-base SMT (Chiang 2005) を使用した場合についても併せて評価を行った．また， Tree-to-String 方式の統計的機械翻訳である $\operatorname{Travatar}^{3}$ (Neubig 2013) についても評価を行った. Travatarの学習では， 入力言語文の解析において Travatar 推奨の構文解析器である Ckylark ${ }^{4}$ (Oda, Neubig, Sakti, Toda, and Nakamura 2015)を用いた.

従来型の構文解析に基づく並べ替え本評価実験では, 構文解析器として Berkeley Parser (Petrov, Barrett, Thibaux, and Klein 2006)を用いて, 提案手法によって分割された各構造部品に対して事前並べ替えを行った。この基本的な構成は，日英・英日方向いずれも同じである. Berkeley Parserのドメイン適用では自己学習の手法を用いた，具体的には最初に，初期モデルを用いて 200,000 文の特許文の解析を行い, 次に, 得られた自動解析結果から構文解析モデルを学習することにより，特許文に適応した解析モデルを構築した．英語の初期モデルについては， Penn Treebank ${ }^{5}$ の文, および我々が人手で木構造を記述した 3,000 文の特許文を用いて学習した.日本語の初期モデルについては, EDR Treebank ${ }^{6}$ の 200,000 文を用いて学習させた。日本語の初期モデル学習では特許文は用いていない.

並べ替えモデルの学習では，内製の大規模な特許文対訳コーパスを用いて次の手順によって
^{4}$ Ckylark http://odaemon.com/?page=tools_ckylark

5 The Penn Treebank Project https://www.cis.upenn.edu/〜 treebank/

6 国立研究開発法人情報通信研究機構, EDR コーパス https://www2.nict.go.jp/out-promotion/techtransfer/EDR/index.html
}
事前並べ替えモデルを学習させた（(Goto et al. 2015）の 4.5 節).

(1) 対訳コーパスの原言語文を構文解析する

(2) 対訳コーパスに対して単語アラインメントを行う

(3) 原言語文と目的言語文の間でケンドールの順位相関係数 $\tau$ が最大化されるような原言語文に対する並べ替えを行う。このようにして各 2 分ノードは, 子ノードの入れ替えを行うことを表すSWAP と，入れ替えを行わないことを表すSTRAIGHT に分類される.

（4）上記のデータを用いて，各ノードの SWAP，STRAIGHT を判定するためのニューラルネットワーク分類器を学習する.

なお, 従来型の並べ替えの変形として, top-down bracketing transducer grammar (TDBTG) ベースの並べ替え ${ }^{7}$ (Nakagawa 2015) の結果を併記した，TDBTGベースの並べ替えでは， ベー スラインの統計的機械翻訳の学習の過程で得られた mkcls の出力および SyMGIZA++の出力を用いて並べ替えの学習を行った。

大域的並べ替えモジュール大域的並べ替えモジュールは，入力文に対する構造部品の推定と，推定した構造部品の大域的な並べ替えから構成される。大域的な並べ替えの学習および推定ではヒューリスティックに基づく手法と機械学習に基づく手法の両方の手法を用いて実験を行ったが，双方に対しての評価を行った。

評価尺度各システムは, BLEU (Papineni et al. 2002)と RIBES (Isozaki, Hirao, Duh, Sudoh, and Tsukada 2010)の 2 種類の評価指標を用いて評価した。これは，Nグラムベースの評価手法である BLEUのみでは長距離の関係を十分に評価することができず，本研究が目標としている構造レべルの改善を十分に測定できないと考えたからである. RIBES は順位相関係数に基づく自動評価手法であり, 評価対象の機械翻訳出力文中の語順と, 参照訳中の語順の比較を行う． RIBES のこのような特性によって，語順の大きく異なる言語間で頻繁に発生する,構造部品の入れ替えを評価できると考えられる，なお，RIBESは，NTCIR-10ワークショップの特許翻訳タスク (PatentMT) (Goto, Chow, Lu, Sumita, and Tsou 2013) や 2nd Workshop on Asian Translation (WAT) (Nakazawa, Mino, Goto, Neubig, Kurohashi, and Sumita 2015; Isozaki and Kouchi 2015) 等においても, 英日・日英の翻訳方向において, 人間評価との高い相関性が報告されている.

なお，実験で得られた各 BLEU 值と RIBES 値は，MT Eval Toolkit8を用いた反復数 1,000 回の 100 分割ブートストラップ法による両側検定を行って, 各設定での最高値との有意差を調べた.


## 5 実験結果

表 3 は日英翻訳，表 4 は英日翻訳の実験結果であり，ともに 4 つの比較対象における BLEU 值掉よびRIBES 値を揭載している。 カッコ内の数字は, ベースライン翻訳システム（歪み範囲 6 の場合）を基準としたときの向上の差分を表している。太字で表した数値は，各列における最高値に対してブートストラップ法に基づく片側有意差検定を行い，5\%水準で有意差が認められない，つまり最高値と同等とみなされる値を示す (Koehn 2004).

実験結果から, 日英翻訳・英日翻訳ともに, 大域的な並べ替えと構文解析に基づく並べ替えを併用したときに, ベースラインと比較して RIBES 值が 20 ポイント以上と大幅に向上してい

表 3 日英翻訳の翻訳評価結果

glob-pre は大域的な並べ替えを表し, pre は従来型の構文解析に基づく並べ替えを表す. $d l$ は歪み範囲を表し，HPBは階層的フレーズベース翻訳を表す.

表 4 英日翻訳の評価結果

ることがわかる． BLEU 值は, 構文解析に基づく並べ替えのみの構成である T3 と比較しても有意な差が出ていないが，これは，BLEU 値が大域的な変換を捉えにくいということに起因している可能性もある。このようにして, RIBES 值と BLEU 值で異なった傾向が得られたため,次節の考察では, さらに訳文中の文構造の正しさ，および人手評価を行った.

## 6 考察

本手法の目的は適切な文構造を持った訳文を出力するための大域的な並べ替えを行うことであるが，本手法の適用によって，どのくらいの訳文が文構造的に正しく出力されているかの評価を行った。これまでにも述べてきているとおり，サブ言語の翻訳では，まずは文構造を正しく出力できなければそもそも全体の訳文を適切に出力することができないことから，本評価は重要であると考えている．評価文としては， 4.3 節の「デー夕」項において，無作為抽出して作成した翻訳評価用文 1,000 文のうち $\mathrm{N}$ グラムに合致した 300 文について述べているが，本評価ではこの 300 文の先頭 100 文を用いている，本評価では，評価対象訳文が以下の条件を満たしている場合に, 文構造が正しく翻訳されているとみなした. なお, 各構造部品の内部の訳は評価していない.
- 出力文において, 入力文中のすべての構造部品が過不足なく訳出されていること.
- 出力文において, 入力文中のすべての構造部品が適切な順番で訳出されていること.
- 入力文中で一続きで現れる構造部品が, 出力文中でも一続きの構造部品として訳出されていること。

表 5 は，100 文の日英翻訳中で文構造が正しく出力された文の文数を表す。表 6 は，100 文の英日翻訳中で文構造が正しく出力された文の文数を表す。太字で表した数値は，各列における最高値に対して比率検定に基づく片側有意差検定を行い，5\%水準で有意差が認められない，つまり最高値と同等とみなされる値を示す.

いずれの表においても，大域的な並べ替えと構文的並べ替えを併用した $\mathrm{T} 4$ は， $\mathrm{T} 1$ および $\mathrm{T} 2$ と比較して文構造の正解率が有意に改善していることがわかる。 さらにいずれの表でも， T2 と $\mathrm{T} 4$ を比較すると T4のほうが有意に改善している。これは， T2で構造部品の並べ替えのみを行うと構造部品の境界での単語並びが不自然になり結果として訳文中の構造部品境界が不適切になる場合があったのが，T4でさらに構文的並べ替えを行うことでこの問題が解消する場合があることに起因すると考えられる，日英翻訳では，従来の並べ替えである T3 のみと比較して T4 の正解率が有意に改善していることがわかる。これに対して英日翻訳では, 従来の構文解析に基づく並べ替えの精度がすでに高いため，T3 から T4への精度向上はそれほど顕著ではない． なお，表 3 および表 4 において HPB の BLEU 值がベースラインと比べて大きく上がっていたが，表 5 および表 6 ではそれほど大きな改善とはなっていない.このことから，HPBによる改
表 5 日英翻訳における文構造が正しく出力された文数（100 文中）

表 6 英日翻訳における文構造が正しく出力された文数（100 文中）

善は比較的局所的なために, BLEU 値には反映されやすいが, 文構造の変換にはそれほど寄与していないと考えられる。

次に，各翻訳結果に対する人手評価を行った。評価文としては，上述の文構造評価で用いた 100 文を用いた. これは, 表 3 および表 4 において, RIBES 值による傾向と BLEU 值による傾向に異なりが見られるため，より人手に近い評価結果を見極めるためである．特に，BLEU 値で比較すると, 例えば表 3 では, T4 の値は $\mathrm{T} 1$ および $\mathrm{T} 3$ と比較して有意差が見られないという結果になるが, RIBES 値で比較すると，有意差があるという結果になる。人手評価には手間がかかるため, T1 および T2ではそれぞれ，表 3 および表 4 においてもっと高い値となった設定について評価を行った， $\mathrm{T} 3$ と $\mathrm{T} 4$ について，設定によって大きな異なりが見られなかったた

め，すべての設定について評価を行った，評価は，対象文書である特許文書の技術内容に精通した 1 名の評価者が行った，評価文はシャッフルし，評価者には $\mathrm{T} 1, \mathrm{~T} 2, \mathrm{~T} 3, \mathrm{~T} 4$ のいずれの文であるかがわからないようにして評価作業を行った。評価尺度は, S (Native level), A (Good), B (Fair), C (Acceptable), D (Nonsense)の 5 段階として，評価者が直観的に付与した。従来の人手評価では正確さと流暢さの 2 つに分けて評価する場合も多い (Denkowski and Lavie 2010) が,正確さと流暢さは相関性が高く実際の場面では分離困難なことも多い (Callison-Burch, Fordyce, Koehn, Monz, and Schroeder 2007) ため上記の 1 つの指標を用いた.

表 7 に日英翻訳の人手評価結果を，表 8 に英日翻訳の人手評価結果を示す.太字で表した数

表 7 日英翻訳に対する人手評価（100 文中）

} \\

表 8 英日翻訳に対する人手評価（100 文中）

} \\

值は，各列における最高値に対して比率検定に基づく片側有意差検定を行い，5\%水準で有意差が認められない，つまり最高値と同等とみなされる値を示す。結果として，表 7 の日英翻訳では, $\mathrm{T} 4$ は $\mathrm{T} 1, \mathrm{~T} 2, \mathrm{~T} 3$ のいずれと比べても有意に評価値が向上しており, このことから, 表 3 の RIBES 值と BLEU 值では，RIBES のほうが人手評価に傾向が似ていると考えられる。表 8 の英日翻訳では， $\mathrm{T} 4$ は $\mathrm{T} 1, \mathrm{~T} 2$ ，と比べて有意に評価値が向上しており， $\mathrm{T} 3$ との比較では，用いた並べ替え手法によって比較結果が異なっている．英日翻訳でも，RIBES のほうが人手評価に傾向が似ていると考えられる.

表 9 は，参照訳，および 4 つの比較構成である $\mathrm{T} 1, \mathrm{~T} 2, \mathrm{~T} 3, \mathrm{~T} 4$ のそれぞれについて，典型的な翻訳結果を載せたものである。

$\mathrm{T} 1$ ベースラインである $\mathrm{T} 1$ では, 参照訳と比較すると, 原文の構造部品 $\mathrm{C}$ に相当する部分が訳文から欠落しており, また構造部品 $\mathrm{A}$ と構造部品 $\mathrm{B}$ が適切な順番で出力されていない. さらに, T1 の訳文では, 構造部品内での単語も適切な順番で訳出されていない.

T2 ベースラインに対して大域的な並べ替えのみを行った T2では， すべての構造部品が訳文中に出力されているとともに, これら構造部品が目標言語として適切な順番で出力されている。しかしながら, 各構造部品内の単語は適切でないため, 構造部品単位での訳質はべースラインと比べて向上していない.

T3 ベースラインに対して従来型の構文解析ベース並べ替えのみを行った $\mathrm{T} 3$ では, 各構造部品内での単語の並びが目的言語としてより適切になっている. しかしながら, 構造部品は適切な順番で出力されていない.

T4 ベースラインに対して大域的な並べ替えと従来型の構文解析に基づく並べ替えの両者を

表 9 日英翻訳における典型的な翻訳例

 \\

用いた T4では, 構造部品が目的言語として適切な順番で並べられ, かつ各構造部品内の

単語もより目的言語にふさわしい順番で出力されて翻訳品質が向上している.

なお人手評価では， $\mathrm{T} 4$ であっても評価 $\mathrm{C}$ 以上の評価となる文が日英で $65 \%$ ，英日で $55 \%$ とそれほど高くないため, 翻訳失敗文の目視分析を行った。まず，最初の段階の構造部品の認識が誤った場合は，そこから適切な訳文を生成することは困難となり，人手評価はほぼ D となる. 次に，構造部品の認識および大域的な並べ替えが正しくても，訳文として不適切となり人手評価が低くなる場合がある。このような翻訳失敗の典型例およびその中間処理結果を表 10 に示す.ここでは，大域的な並べ替えまでは適切に処理されているが, 各構造部品に対する構造解析に基づく並べ替えにおいて，3つめの構造部品に対する並べ替えが適切に行われていない.具体的には，「うる」のトークンが構文解析に基づく並べ替えによって構造部品の先頭にくるべきところが，先頭から 5 番目のトークンとして誤って並び替えられ，代わりに「中心部」が構造部品の先頭にきている。これによって SMT 適用後の訳文において, 「光学投影装置」に対応する "an optical projection device”の後に，本来くるべき “which can ..." ではなく，「中心部」 に対応する“center part”が来てしまい，読み手には “an optical projection device center part" のような一続きの文字列として認識されてしまう。結果として，読み手は訳文において構造部品, ひいては文の構造を認識することができず，低い評価結果となってしまう．原因としては，現在の実験構成では，構文解析に基づく並べ替えを，文単位での入力を前提として訓練しているが，実験には構造部品を対象に並べ替えていることが考えられる。

表 10 日英翻訳の翻訳失敗例とその中間結果

 \\

## 7 おわりに

本論文では，大域的な並べ替えを行うことによって従来型の構文解析に基づく並べ替えを補い，対象サブ言語の翻訳精度を向上させるための手法を提案した，提案手法は，大域的な並べ替えモデルを，構文解析を行うことなく，平文対訳テキストから抽出する．本手法を対象とした評価実験を行ったところ，日英・英日双方向の翻訳において，大域的な並べ替えと従来型の構文解析に基づく並べ替えを併用することによって，従来の手法による翻訳精度を向上させられることが確認できた. 特に日英翻訳では, RIBESによる自動評価, 文構造評価, 人手評価のいずれにおいても，提案手法が従来の手法より有意に訳質を向上させることがわかった.

## 謝 辞

本論文の内容の一部は, The 3rd Workshop on Asian Translation (WAT 2016) (Fuji, Utiyama, and Sumita 2016) で発表したものである.

## 参考文献

Ambati, V. and Chen, W. (2007). Cross Lingual Syntax Projection for Resource-Poor Languages. CMU.

Buchmann, B., Warwick-Armstrong, S., and Shane, P. (1984). "Design of A Machine Translation System for a Sublanguage." In 10th International Conference on Computational Linguistics and 22nd Annual Meeting of the Association for Computational Linguistics, Proceedings of COLING '84, July 2-6, 1984, Stanford University, California, USA, pp. 334-337.

Callison-Burch, C., Fordyce, C., Koehn, P., Monz, C., and Schroeder, J. (2007). "(Meta-) Evaluation of Machine Translation." In Proceedings of the 2nd Workshop on Statistical Machine Translation, pp. 136-158. Association for Computational Linguistics.

Cherry, C. and Foster, G. (2012). "Batch Tuning Strategies for Statistical Machine Translation." In Proceedings of the 2012 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, NAACL HLT '12, pp. 427-436, Stroudsburg, PA, USA. Association for Computational Linguistics.

Chiang, D. (2005). "A Hierarchical Phrase-based Model for Statistical Machine Translation." In Proceedings of the 43rd Annual Meeting on Association for Computational Linguistics, ACL '05, pp. 263-270, Stroudsburg, PA, USA. Association for Computational Linguistics.

de Gispert, A., Iglesias, G., and Byrne, W. (2015). "Fast and Accurate Preordering for SMT
using Neural Networks." In Proceedings of the Conference of the North American Chapter of the Association for Computational Linguistics - Human Language Technologies (NAACL HLT 2015).

Denkowski, M. and Lavie, A. (2010). "Choosing the Right Evaluation for Machine Translation: An Examination of Annotator and Automatic Metric Performance on Human Judgment Tasks." In Proceedings of the 9th Conference of the Association for Machine Translation in the Americas. AMTA.

Dyer, C., Gimpel, K., Clark, J. H., and Smith, N. A. (2011). "The CMU-ARK German-English Translation System - Research." In Proceedings of the Workshop on Statistical Machine Translation, pp. 337-343.

Fan, R.-E., Chang, K.-W., Hsieh, C.-J., Wang, X.-R., and Lin, C.-J. (2008). "LIBLINEAR: A Library for Large Linear Classification." Journal of Machine Learning Research, 9, pp. 1871-1874.

富士秀, 藤田篤, 内山将夫, 隅田英一郎, 松本裕治 (2016). 特許請求項に特有の文構造に基づく英中日特許請求項翻訳. 自然言語処理, 23 (5), pp. 407-435.

Fuji, M., Fujita, A., Utiyama, M., Sumita, E., and Matsumoto, Y. (2015). "Patent Claim Translation based on Sublanguage-specific Sentence Structure." In Proceedings of the 15th Machine Translation Summit, pp. 1-16.

Fuji, M., Utiyama, M., and Sumita, E. (2016). "Global Pre-ordering for Improving Sublanguage Translation." In Proceedings of the 3rd Workshop on Asian Translation (WAT 2016), pp. 84-93.

Galley, M. and Manning, C. D. (2008). "A Simple and Effective Hierarchical Phrase Reordering Model." In Proceedings of the Conference on Empirical Methods in Natural Language Processing, EMNLP '08, pp. 848-856, Stroudsburg, PA, USA. Association for Computational Linguistics.

Goto, I., Chow, K.-P., Lu, B., Sumita, E., and Tsou, B. K. (2013). "Overview of the Patent Machine Translation Task at the NTCIR-10 Workshop." In Proceedings of the 10th NTCIR Conference on Evaluation of Information Access Technologies, NTCIR-10, National Center of Sciences, Tokyo, Japan, June 18-21, 2013, pp. 260-286.

Goto, I., Utiyama, M., Sumita, E., and Kurohashi, S. (2015). "Preordering Using a TargetLanguage Parser via Cross-Language Syntactic Projection for Statistical Machine Translation." ACM Transaction on Asian and Low-Resource Language Information Processing, 14 (3), pp. 13:1-13:23.

Heafield, K., Pouzyrevsky, I., Clark, J. H., and Koehn, P. (2013). "Scalable Modified Kneser-Ney

Language Model Estimation." In $A C L$ (2), pp. 690-696.

Hoshino, S., Miyao, Y., Sudoh, K., Hayashi, K., and Nagata, M. (2015). "Discriminative Preordering Meets Kendall's $\tau$ Maximization." In Proceedings of the 53rd Annual Meeting of the Association for Computational Linguistics and the 7th International Joint Conference on Natural Language Processing (Volume 2: Short Papers), pp. 139-144, Beijing, China. Association for Computational Linguistics.

Isozaki, H., Hirao, T., Duh, K., Sudoh, K., and Tsukada, H. (2010). "Automatic Evaluation of Translation Quality for Distant Language Pairs." In Proceedings of the 2010 Conference on Empirical Methods in Natural Language Processing, EMNLP '10, pp. 944-952, Stroudsburg, PA, USA. Association for Computational Linguistics.

Isozaki, H. and Kouchi, N. (2015). "Dependency Analysis of Scrambled References for Better Evaluation of Japanese Translation." In Proceedings of the 10th Workshop on Statistical Machine Translation, pp. 450-456, Lisbon, Portugal. Association for Computational Linguistics.

Isozaki, H., Sudoh, K., Tsukada, H., and Duh, K. (2010). "Head Finalization: A Simple Reordering Rule for SOV Languages." In Proceedings of the Joint 5th Workshop on Statistical Machine Translation and MetricsMATR, WMT '10, pp. 244-251, Stroudsburg, PA, USA. Association for Computational Linguistics.

Junczys-Dowmunt, M. and Szal, A. (2010). "SyMGiza++: A Tool for Parallel Computation of Symmetrized Word Alignment Models." In International Multiconference on Computer Science and Information Technology - IMCSIT 2010, Wisla, Poland, 18-20 October 2010, Proceedings, pp. 397-401.

Koehn, P. (2004). "Statistical Significance Tests for Machine Translation Evaluation." In Proceedings of the 2004 Conference on Empirical Methods in Natural Language Processing, EMNLP 2004, A Meeting of SIGDAT, a Special Interest Group of the ACL, held in Conjunction with ACL 2004, 25-26 July 2004, Barcelona, Spain, pp. 388-395.

Koehn, P., Hoang, H., Birch, A., Callison-Burch, C., Federico, M., Bertoldi, N., Cowan, B., Shen, W., Moran, C., Zens, R., Dyer, C., Bojar, O., Constantin, A., and Herbst, E. (2007). "Moses: Open Source Toolkit for Statistical Machine Translation." In Proceedings of the 45th Annual Meeting of the ACL on Interactive Poster and Demonstration Sessions, ACL '07, pp. 177-180, Stroudsburg, PA, USA. Association for Computational Linguistics.

Komachi, M., Matsumoto, Y., and Nagata, M. (2006). "Phrase Reordering for Statistical Machine Translation based on Predicate-argument Structure." In IWSLT, pp. 77-82. Citeseer.

Luckhardt, H.-D. (1991). "Sublanguages In Machine Translation." In EACL 1991, 5th Conference
of the European Chapter of the Association for Computational Linguistics, April 9-11, 1991, Congress Hall, Alexanderplatz, Berlin, Germany, pp. 306-308.

Marcu, D., Carlson, L., and Watanabe, M. (2000). "The Automatic Translation of Discourse Structures." In $A N L P$, pp. 9-17.

Mellebeek, B., Owczarzak, K., Groves, D., Genabith, J. V., and Way, A. (2006). "A Syntactic Skeleton for Statistical Machine Translation." In Proceedings of the 11th Conference of the European Association for Machine Translation, pp. 195-202.

Nakagawa, T. (2015). "Efficient Top-Down BTG Parsing for Machine Translation Preordering." In Proceedings of the 53rd Annual Meeting of the Association for Computational Linguistics and the 7th International Joint Conference on Natural Language Processing (Volume 1: Long Papers), pp. 208-218, Beijing, China. Association for Computational Linguistics.

Nakazawa, T., Mino, H., Goto, I., Neubig, G., Kurohashi, S., and Sumita, E. (2015). "Overview of the 2nd Workshop on Asian Translation." In Proceedings of the 2nd Workshop on Asian Translation, pp. 1-28.

Neubig, G. (2013). "Travatar: A Forest-to-String Machine Translation Engine based on Tree Transducers." In Proceedings of the ACL Demonstration Track, pp. 91-96, Sofia, Bulgaria.

Och, F. J. (1999). "An efficient method for determining bilingual word classes." In Proceedings of the 9th Conference on European Chapter of the Association for Computational Linguistics, pp. 71-76. Association for Computational Linguistics.

Oda, Y., Neubig, G., Sakti, S., Toda, T., and Nakamura, S. (2015). "Ckylark: A More Robust PCFG-LA Parser." In Proceedings of the 2015 Conference of the North American Chapter of the Association for Computational Linguistics: Demonstrations, pp. 41-45, Denver, Colorado. Association for Computational Linguistics.

Papineni, K., Roukos, S., Ward, T., and Zhu, W.-J. (2002). "BLEU: A Method for Automatic Evaluation of Machine Translation." In Proceedings of the 40th Annual Meeting on Association for Computational Linguistics, ACL '02, pp. 311-318, Stroudsburg, PA, USA. Association for Computational Linguistics.

Petrov, S., Barrett, L., Thibaux, R., and Klein, D. (2006). "Learning Accurate, Compact, and Interpretable Tree Annotation." In Proceedings of the 21st International Conference on Computational Linguistics and the 44th Annual Meeting of the Association for Computational Linguistics, ACL-44, pp. 433-440, Stroudsburg, PA, USA. Association for Computational Linguistics.

Utiyama, M. and Isahara, H. (2007). "A Japanese-English Patent Parallel Corpus." In Proceedings of the Eleventh Machine Translation Summit, pp. 475-482.

Xiao, T., Zhu, J., and Zhang, C. (2014). "A Hybrid Approach to Skeleton-based Translation." In Proceedings of the 52nd Annual Meeting of the Association for Computational Linguistics, ACL 2014, June 22-27, 2014, Baltimore, MD, USA, Volume 2: Short Papers, pp. 563-568.

Yamada, K. and Knight, K. (2001). "A Syntax-based Statistical Translation Model." In Proceedings of the 39th Annual Meeting on Association for Computational Linguistics, pp. 523-530. Association for Computational Linguistics.

## 略歴

富士秀：1987 年英国王立ロンドン大学キングス校工学部卒業. 1988 年より

株式会社富士通研究所研究員，シニアリサーチャー．2014～2017 年国立研究開発法人情報通信研究機構に出向. 2017 年奈良先端科学技術大学院大学博士後期課程終了. 博士 (工学). 2017 年より富士通研究所主任研究員. 機械翻訳の研究に従事. 情報処理学会, 言語処理学会, AAMT, 日本言語類型論学会等各会員.

内山将夫：1992 年筑波大学卒業. 1997 年同大学院工学研究科修了. 博士 (工学). 現在, 国立研究開発法人情報通信研究機構研究マネージャー. 主な研究分野は機械翻訳. 情報処理学会, 言語処理学会等各会員.

隅田英一郎：1982 年電気通信大学大学院修士課程修了. 1999 年京都大学大学院博士 (工学) 取得. 1982 年 1991 年（株）日本アイ・ビー・エム東京基礎研究所研究員. 1992 年 2009 年国際電気通信基礎技術研究所研究員, 主幹研究員, 室長. 2007 年現在国立研究開発法人情報通信研究機構 (NICT) 先進的音声翻訳研究開発推進センター (ASTREC) 副センター長. 2016 年 NICT フェロー. 機械翻訳の研究に従事.

松本裕治：1977 年京都大学工学部情報工学科卒. 1979 年同大学大学院工学研究科修士課程情報工学専攻修了. 同年電子技術総合研究所入所. 1984 85 年英国インペリアルカレッジ客員研究員．1985～1987 年 (財) 新世代コンピュー 夕技術開発機構に出向. 京都大学助教授を経て, 1993 年より奈良先端科学技術大学院大学教授, 現在に至る. 工学博士. 専門は自然言語処理. 情報処理学会, 人工知能学会, AAAI, ACL, ACM 各会員. 情報処理学会フェロー. ACL Fellow.