ルールベース翻訳と統計翻訳の融合における syntax の役割
株式会社富士通研究所
ソフトウェア＆ソリューション研究所

潮田明

主管研究員

PROFILE

1983 年 株式会社富士通研究所入社。表面磁気光学効果、空間光変調器、統計自然言語処理、機械翻訳等の研究に従事。マサチューセッツ工科大学修士、カーネギー・メロン大学博士。
2007 年度から特許版産業日本語委員会委員。

ushioda@jp.fujitsu.com

1 はじめにRBMT と SMT を融合する上で鍵となると期待されている syntax の役割について考察してみたい。

械翻訳の対象として見た時も同じようにやっかいな問題

2 日英間の語順のギャップである。それでも専門用語については、機械翻訳の場合複雑な文構造の特許文がうまく翻訳できるようには辞書を充実させることでかなりの程度まで対処可能でRBMT を改良する上でのハードルはルールの拡充であある。多くの実用機械翻訳システムで今なお取り入れらる。辞書は人手をかければかけた分だけ拡充できるが、れているルールベース機械翻訳（RBMT）の方式では、ルールの拡充には、１）システムに精通した専門の技術

長年地道に辞書の拡充が行なわれてきており、今では数者でないとルール作成できない、２）分野ごとに個別の百万語の辞書を備えたものも珍しくない。また、近年著

ルールを人手で作成するには膨大な時間とコストがかかしい発展をとげてきた統計翻訳（SMT）、特にフレーる、３）複数人でかつ長期間にわたってルールを作成しズベース統計翻訳（PBSMT）の技術を用いると、対訳た場合ルール間の整合性を保つのが容易ではないなどとコーパスがあれば自動で大量の対訳フレーズが収集でき言った問題がある。従って、特許翻訳のように分野ごとるようになってきている。たとえば数百万文対の対訳特にまとまった量の対訳コーパスが存在する場合には、自許文書から数千万対〜 1 億対規模の対訳フレーズが自動あるいは半自動でルールが獲得できることが望まし動収集できる。但しここで言う対訳フレーズというのい。その意味で SMT の活用に期待がかかる。

特許文書は専門用語が多く、文も長くて複雑な構造をしているため読みにくいとよく言われるが、これらは機は、従来 RBMT で用いられてきたような言語学的に意一方で従来の PBSMT の枠組みにおいて、長くて複味のある単位で切り出されたものではないため、そのま雑な文を翻訳しようとしたときに遭遇する最も難しい問までは RBMT で用いたり、あるいは人間が参照したり題は、語順の入れ替えである。PBSMT では、入力文することは難しい。しかし PBSMT の枠組みの中でう（原文）をフレーズと呼ばれる単位に分割したのち、そまく使えば、専門用語の訳出に関して言えば RBMT よれぞれのフレーズを訳文側の言語に翻訳し、最後に翻訳りこなれた訳語が生成できる場合が多い。

されたフレーズを並び替えて訳文を生成するが、日本語一方長くて複雑な文の構成は機械翻訳にとっては−英語間のように文の構造や語順の大きく異なる言語本質的かつ最も困難な問題である。RBMT あるいは間の翻訳においてはこのフレーズの並び替え (phrasePBSMT 単独の枠組みで乗り越えることは非常に難しreordering) が非常に難しい。図 1 に、日英間でフレーく、両者の融合が必須であると思われる。本稿では、ズの順序が極端に異なる特許文の例を示したが、殆ど順

286

寄稿集
機械翻訳技術の向上

図１5

両言語間で語順が極端に異なる例

序がさかさまになっているのが分かる。なおこの図におお、SMT における syntax には日常使われる言語学的けるフレーズは一般の PBSMT におけるフレーズではな意味での syntax の他に、統計的に自動学習されるなく、より言語学的に意味のある単位（constituent

formal syntax も含まれるがここではただ syntax と）に近づけるように切り出されたものである（Ushioda,言った場合には言語学的な意味での syntax を指すもの2007）。このフレーズ並び替えの困難さが故に、日とする。

英特許翻訳においては、局所的には RBMT よりもこな

PBSMT では、フレーズと呼ばれる単語列を単位とれた訳が作れるにも関わらず、文全体の訳質においてはして翻訳を行うが、このフレーズに相当する部分を木PBSMT はまだ RBMT には及ばないのが現状である。

構造で置き換えることで Syntax-based SMT と呼ば3 syntax の役割れる翻訳モデルが構築できる。原文側のみ木構造を用
い る tree-to-string モ デ ル（Quirk, 2005; Huang,2006）、訳文側のみ木構造を用いる string-to-tree
モ デ ル（Yamada and Knight, 2001） や、 両 言 語

そこで、近年 RBMT と SMT の長所を組み合わせて側 木 構 造 を 用 い る tree-to-tree モ デ ル（Melamed,

新しい翻訳方式を作ろうという試みが盛んになされるよ2004）などが提唱されている。ここで言う木構造とはうになってきた。まだこれと言った決定打は打ち出され厳密には文を構文解析器（パーサ）で解析してできた構ていないが、ここでは RBMT のコアをなす syntax の文木の部分木を指す。PBSMT におけるフレーズに関概念を SMT に導入する手法について考えてみる。なしては、原文と訳文の間の単語の対応が保たれるかぎり287任意の単語列のペアがフレーズ対となり得るが、パーサられるため、意味解析への手がかりが得られるという点による木構造を導入したモデルでは、パーサが部分木をで実用的にメリットがあり、更に意味解析の結果から構なすと認めた単語列（constituent）のみが翻訳の単位文構造へフィードバックをかける等の新しい改良手法へと成りうるため、一般に PBSMT よりも制約がきつくも道が開かれていると言える。

なり、その分翻訳文の候補が絞られる。これには一長一としては4 文法的な正しさの意義・より文法的に正しい翻訳文が得られる

最後に、果たして解析や生成の過程における文法的な短がある。
Syntax の導入により候補が絞られることのメリット

・日本語−英語間のように文の構造や語順の大きく異な正しさが、翻訳の正しさに通じるかという問題を考えてる言語間の翻訳においては、PBSMT では難しかっみたい。Noam Chomsky はかつて統計的な文法モデた大局的なフレーズ（あるいは部分木）順序の入れ替

ルの不備を指摘する目的で以下の２文を例示した。

えが可能になる（１）Colorless green ideas sleep furiously.

・訳文探索のサーチスペースが狭められるため効率的な（２）Furiously sleep ideas green colorless.

探索が可能になる

Chomsky の議論は、「（１）も（２）も実際の英語などが挙げられる。の会話の中には一度も出てきたことはないであろうか

逆にデメリットとしては、ら、文法的な正しさを計るいかなる統計モデルにおいて・Syntax による制約のせいで探索がより複雑になるも共に不適格文の烙印が押されるであろう。しかしそれ

・PBSMT ほど柔軟なフレーズや訳文の形成ができなにも関わらず、いかにばかげた文であろうと（１）は文

い法的に正しく、（２）は正しくないと判断できる」とい・パーサにエラーがあると正しい訳文が得られないうものだった。つまり、文法的な正しさを統計モデルでなどがある。

推し量るには限界があるという主張である。それに対し

PBSMT 開発の初期のころには、Syntax による制約て Fernando Pereira は新聞記事のテキストから学習の導入によりかえって翻訳精度が落ちたというような報したクラスベースの統計言語モデルを用いて、（１）の告もあり（Koehn 他 , 2003）、今でも Syntax によ文の出現確率は（２）の文の出現確率に比べて２０万倍る制約には懐疑的な意見も多く聞かれるが、Syntax に大きいことを示して見せた。すなわち人間が直感的に文より実際に翻訳精度が向上するかどうかについては、上法的に正しいと感じる文は正しくないと感じる文に比べに挙げたデメリットをどう克服するか等まだこれからのて統計的にも優位に現れるということが示されたわけで取り組み如何にかかっていると言える。

ある。

しかし現時点で明らかに言えることは、PBSMT のRBMT にせよ、SMT にせよ、あるいは他のどのよ延長線上からは決して「意味」の世界に踏み込むことはうな機械翻訳モデルでも、「一度も現れたことのない文できないということである。なぜなら、たとえ正確な翻や表現を、過去のデータにつき合わせてどのように処理訳文が得られたとしても、PBSMT からは構文に関すするか」という一般化（generalization）の問題が究る情報は全く得られないからである。文の意味を正確に極の課題である。RBMT においては、人間の言語能力把握するためには構文を把握することが不可欠である。

を駆使することで、文法ルールを通して一般化を実現す

一方 Syntax-based SMT では正確な翻訳文が得られることができるが、上述のように人手がかかり過ぎる。

た段階で、原文側か訳文側かあるいは両方の構文木が得

SMT においては学習データの量をただひたすら増や288

寄稿集
機械翻訳技術の向上
し、全く未知のデータに対しても類似のデータから統計

machine translation.”

的に各種パラメータが推定できるようにすることで、一Linguistics, 30(4),pp.417-450.

5Computational

般化を果たす。しかし、データ量だけで一般化を行うに

Fernando Pereira (2000). "Formal grammar

はまだ世の中のコーパスの量も計算機パワーも十分とはand information theory: together again?",言えないのが現状である。従って現実的な解は、SMT

Philosophical Transactions of the Royalの自動学習の枠組みの中にできる限り人間の持つ言語のSociety vol.358, no.1769, pp.1239--1253.

一般化知識を埋め込むということになる。この一般化知

Chris Quirk, Arul Menezes, and Colin Cherry

識のある種凝縮されたものが、syntax だという考え方(2005). “Dependency treelet translation:

が Syntax-based SMT の 背 景 に あ る。Pereira の 実

syntactically informed phrasal SMT.” In験で見たように、文法的な正しさが確率の高さに反映さProceedings of the 43rd Annual Meeting onれると考えるならば、統計モデルにおいては翻訳文の確Association for Computational Linguistics.

率の高さが翻訳の正しさの指標であるから、文法的な正Akira Ushioda (2007) “Phrase Alignment

しさを維持した解析や生成、すなわち言語的な意味でのBased on Bilingual Parsing.” Proceedings

syntax をベースにした解析や生成を統計的な枠組みのof the 11th International Conference on

中で行うことにより、効率良く最適解すなわち極大確率

Theoretical and Methodological Issues inの解に近づけるものと期待できる。

Machine Translation, pp.241-250.
Kenji Yamada and Kevin Knight (2001) “A

参考資料

syntax-based statistical translation model.”Noam Chomsky (1957). Syntactic Structures.

In Proceedings of the 39th Annual Meeting ofThe Hague/Paris: Mouton.

the ACL, pp.523-530.

Liang Huang, Kevin Knight, and Aravind
Joshi (2006). “Statistical syntax-directedtranslation with extended domain of locality.”
In Proceedings of the 7th Biennial Conferenceof the Association for Machine Translation inthe Americas (AMTA).
Philipp Koehn, Franz Josef Och, Daniel Marcu(2003). "Statistical Phrase-Based Translation"
In Proceedings of the Human Language
Technology Conference (HLT-NAACL 2003),
Edmonton, Canada.
I. Dan Melamed (2004). "Statistical MachineTranslation by Parsing" In Proceedings of the42nd Annual Conference of the Association
for Computational Linguistics (ACL).
Franz-Josef Och and Hermann Ney (2004). “Thealignment template approach to statistical

289