統計方式機械翻訳とニューラル方式機械翻訳のハイブリッドシステム
Hybrid System of Neural Machine Translation and Statistical Machine Translation

元山梨英和大学教授

江原暉将1967 年早稲田大学理工学部卒。同年 NHK 入局。2003 年 諏訪東京理科大学教授。2009 年 山梨英和大学教授。
2015 年 退職。アジア太平洋機械翻訳協会（AAMT）／Japio 特許翻訳研究会委員。

300

1 はじめにベースの中で検索し、マッチした用例の訳文を採用する。

機械翻訳は、規則方式、用例方式、統計方式、ニューせて訳文を組み立てることも行われる。これが用例方式

ラル方式、と進歩を重ね、今日に至っている。まず、こである。このような翻訳用例の利用は、その後の統計方

れらの諸方式を概観してみよう。

式、ニューラル方式にも引き継がれている。

原文全体ではなく、一部分がマッチする用例を組み合わ

規則方式は、機械翻訳の研究が始まった当初から行わ統計方式は用例方式の発展形であり、翻訳用例を統計れており、人が構築した対訳辞書と文法規則を用いて翻的な標本とみなし数学モデルを強化した方式である。そ訳を進めるものである。ちょうど我々が英語を習い始めの結果、統計学や機械学習の手法が応用でき翻訳精度ものときに辞書と文法を使って英文和訳を行うときの状況向上した。典型的な統計方式である句レベルの統計方式に似ている。翻訳対象の英文の各単語を英和辞書を使っ翻訳では、phrase table と reordering table というて調べ、どのような日本語単語に訳せばよいかを知る。

二つのテーブルに翻訳知識が集約されている。前者は規そして英語のどの部分が主語であり、動詞であり、目的則方式での対訳辞書に相当し、後者は文法規則（語順を語、前置詞句であるかを調べ、それらを日本語の文法に入れ替えるという単純な文法ではあるが）に相当する。

従って並べ替えて和訳を得る。日本語話者であれば日本ニューラル方式は単語を数値ベクトルで表すことから語の文法は知っているので和訳を生成するのは容易であ始まった。従来の機械翻訳は、単語を単なるテキストとるが、コンピュータには日本語を生成する日本語文法もして扱っていた。例えば「コンピュータ」と「計算機」教えておく必要がある。

は異なる単語であり、両者の意味的類似性は考慮できな

このような規則方式で、一応の翻訳はできるが、言語かった。しかし、単語をベクトルとして扱うことで、意表現には曖昧性があり、それを解消しないと良い翻訳は味的類似性をベクトル間の近さで表すことが可能になっ得られない。有名な例で “Time flies like an arrow.”

た。さらに文の構文構造や文脈までベクトルで表し、ベという文がある。この文は、「時は矢のように飛ぶ。」（光クトル間の処理を人の神経細胞を模したニューラルネッ陰矢のごとし）と訳すのが普通であるが、「時蝿は矢をトワークで行うのがニューラル方式機械翻訳である。

好む。」という解釈も可能である。このように複数あるニューラル方式は期待以上の翻訳精度を実現し、現在、解釈の中から、コンピュータが適切な訳文を選択するに機械翻訳の主流となっている。

は、どのような知識が必要であろうか。その知識を過去

しかしニューラル翻訳であっても完全ではなく、課の翻訳用例から学ぼうというのが用例方式である。まず題 が あ る。 典 型 的 な 課 題 と し て、 不 足 翻 訳（under

過去の翻訳用例をたくさん集め、翻訳用例データベースtranslation）と過剰翻訳（over translation）の問題を構築する。そして翻訳対象の原文を翻訳用例データがある。不足翻訳は翻訳すべき重要な情報が抜けてしまうことで訳抜けとも呼ばれる。逆に過剰翻訳は不要な情は翻訳結果を一つ出し、NMT は翻訳結果を複数（【図報が（しばしば繰り返して）訳出されることで湧き出し1】では n 個）出力する。n 個の NMT 出力はシステムとも呼ばれる1。これらはニューラル方式翻訳でしばしばが曖昧性を解消しきれなかった範囲から優先度の順に出みられ、課題の一つとなっている。不足翻訳や過剰翻訳力するものである。これら n 個の NMT 出力は SMT 出の実例は 3 節を参照されたい。

力と比較され、SMT 出力に最も近い NMT 出力を選択

規則方式から始まって用例方式、統計方式、ニューラして（【図 1】では NMT 出力 i を選択）、システム翻訳

ル方式と見てきたが、それらの各方式には、それぞれ長結果として出力する。NMT 出力と SMT 出力の近さを所と短所があり、各種方式を組み合わせることで長所を測るメジャーとしては機械翻訳の自動評価基準を用いる生かすことが可能である。そのような例として統計方式ことができる。文献［1］では IMPACT［2］を用いている。とニューラル方式を組み合わせた方式を紹介しよう。

SMT 出力には不足翻訳や過剰翻訳が比較的に少ないので、それに近い NMT 出力にも不足翻訳や過剰翻訳が少前節で説明したようにニューラル方式の欠点の一つと3 翻訳例して不足翻訳や過剰翻訳がある。一方、統計方式にはそ

英日特許翻訳から 3 つの翻訳例を選び【表 1】に示のような誤訳は比較的に少ない。そこで両者を組み合わすせてより良い機械翻訳を実現することが考えられる。総に示した日本文、ハイブリッド出力は前節で説明したハ

合的にはニューラル方式の方が統計方式よりも翻訳精度

イブリッドシステムの訳文、NMT 出力は NMT の訳文が高い。そこで、ニューラル方式を基本として、その中（【図 1】では NMT 出力 1 に相当）、SMT 出力は SMTで統計方式を利用するハイブリッド方式を考える［1］。の訳文である。

。表中、原文は入力の英文、基準訳文は参考のため［1］

ハイブリッド方式システムの構成を【図 1】に示す。

例 文 1 で は、NMT 出 力 に 極 端 な 不 足 翻 訳 が あ る。

翻訳対象の入力文はニューラル方式翻訳機（NMT）とSMT 出力には不足翻訳がないため、ハイブリッド出力統計方式翻訳機（SMT）の両方で処理される。SMTにも不足翻訳が生じていない。
例文 2 では、NMT 出力に不足翻訳と過剰翻訳が両方生じている2。これも SMT 出力を利用することでハイブ入力文
ＮＭＴリッド出力では修正されている。
例文 3 では、NMT 出力に過剰翻訳があるが、ハイブＳＭＴリッド出力にはない。

ＮＭＴ 出力 1
ＮＭＴ 出力 2比 較ＳＭＴ 出力ＮＭＴ 出力 n
ＮＭＴ 出力 i1

図11

ハイブリッド方式システムの構成図

言語の違いを乗り越えて情報を伝達する翻訳では、原言語話者には不要だが目標言語話者には必要な背景情報を追加したり、逆に原言語話者には必要だが目標言語話者には必ずしも必要でない詳細情報を削除したりすることが良く行われる。これらは過剰翻訳、不足翻訳とは異なるものであり、筆者は、これらを追加翻訳（additive translation）、削除翻訳（subtractive translation）と呼んでいる。

2 「コマンド（ACT、READ、」以下文末までが不足しており、「図 4 の回路のシミュレーション結果の一部」が繰り返しており過剰である。

YEAR BOOK 2O18 301

4

機械翻訳技術の向上

2

統計方式とニューラル方式の組み合わせなくなることが期待できる。

表11

ハイブリッド方式と他の方式の出力比較例

原文The oldest is the capacitive divider bridge, one arm of which consists of areference capacitance and the other of the capacitance to be measured.

基準訳文

最も 古いは 基準る 。

ハイブリッド出力

最も 古い もの は 容量 分圧 ブリッジ であり 、 その １ つ の アーム は、 測定 さ れる べき 基準 キャパシタンス と 他の キャパシタンス と から成る 。

NMT 出力

最もSMT 出力最も古いものは、容量性ディバイダブリッジ、基準キャパシタンスと測定されるべきキャパシタンスの他の１つを構成するアームである。

原文

FIG. 5 shows a portion of waveforms of a simulation result of the circuit in FIG.
4, and commands (ACT, READ, PRE), GBSTB, GBSTT, FXb 2, PUMP, FXB, FXT,SWL, and RFX are shown as signals.

もの は 容量 分圧 器
静 電 容量 から 成り

ブリッジ であり 、 その １ つ の、 その他 の 静 電 容量 が 測定

アーム
さ れ古い 。

図基準訳文
23ハイブリッド出力

５ に は 、 図 ４ の 回路 の シミュレーション 結果 の 波形 が 一部
示さ れて おり 、 信号 と して 、 コマンド （ ACT 、 READ 、 PRE ）、 GBSTB 、 GBSTT 、 FXb 2 、 PUMP 、 FXB 、 FXT 、 SWL 、
RFX が 示さ れて いる 。
図

5 は 、 図 4 の 回路 の シミュレーション 結果 の 一部 を 示す ものであり 、 コマンド （ ACT 、 READ 、 PRE ） 、 GBSTB 、 GBSTT 、
FXb 2 、 PUMP 、 FXB 、 SWL 、 RFX を 信号 と して 示す 。

NMT 出力図 4 の 回路 の シミュレーション 結果 の 一部 と 、 図
シミュレーション 結果 の 一部 を 示す 図 である 。

SMT 出力図 5 は、図 4 の回路のシミュレーション結果の波形の一部を示す、及びコマンド（ACT、READ、PRE）、GBSTB、GBSTT、FXb 2、PUMP、FXB、FXT RFX SWL と は、 信 号として示されている。

原文

However, specifications sometimes differ from one image forming apparatus toanother.

基準訳文

しかし、画像形成装置ごとにスペックが異なる場合がある。の回路のハイブリッド出力 しかし、ある仕様は、時々、1 つの画像形成装置とは異なる。
NMT 出力しかし、時々、1 つの画像形成装置とは異なる仕様が異なる。

SMT 出力しかし、仕様は、装置を形成する 1 つの画像から別の画像へ時には異なる。

4 まとめ

参考文献
［1］Terumasa Ehara : SMT reranked NMT,

ニューラル方式機械翻訳は総じて良い翻訳を実現でき

Proceedings of the 4th Workshop on Asian

るが、必要な情報が抜ける不足翻訳や不要な情報が湧きTranslation, pages 119–126, Nov., 2017.

出す過剰翻訳という欠点がある。一方、統計方式機械翻［2］Hiroshi Echizen-ya, Kenji Araki : Automatic

訳にはそのような誤訳は比較的に少ない。そこで両者をEvaluation of Machine Translation based

合わせたハイブリッド方式を用いることでニューラル方

on Recursive Acquisition of an Intuitive

式の精度の良い点を生かしつつ、不足翻訳や過剰翻訳をCommon Parts Continuum, Proceedings of少なくすることができた。

the Eleventh Machine Translation Summit

これまで機械翻訳は、規則方式、用例方式、統計方式、ニューラル方式と発展してきた。しかしこれらの方式には一長一短があり、それぞれの長所を生かしたハイブリッド方式が有効である。特に実用機では、致命的な欠陥は許されず、それを回避する手段としてハイブリッド方式を採用することが考えられる。

302

4（MT SUMMIT XI）, Page. 151-158, Sept.
2007.

機械翻訳技術の向上

4YEAR BOOK 2O18 303