ハイブリッド戦略ベースの特許機械翻訳に関する研究
Hybrid-Strategy Patent Machine Translation
中国知識産権出版社有限責任公司
PROFILE張孝飛

1970 年 4 月生まれ。2004 年に中国科技大学コンピュータ学科より卒業し、工学博士学位を取得した。現在知識産権出版社翻訳事業部の技術 TD を務め、主な研究方向は自然言語処理、機械翻訳、多言語特許データマイニングなどである。近年、国内外の重要な雑誌及び学会で３０篇以上の論文を発表し、10 個以上の国家自然科学基金、国家８６３計画、国家科学技術支持計画などの科学研究プロジェクトを完成した。機械翻訳技術の開発により、北京市科学技術進歩賞、国家品質検査総局「科学技術興検賞」などを受賞した。

要約：機械翻訳とは、主にコンピュータ技術を利用して現在、翻訳業務は主に人的翻訳に依存しているが、速ある自然言語を別の自然言語へ機械的に変換することで度が遅く、周期が長く、コストが高い人的翻訳では大量ある。異なる機械翻訳方法はそれぞれ各自の長短所があの特許情報翻訳の実際問題を解決できない。

り、言語学の論理的な分析と対訳コーパスの統計的な類

機械翻訳とは、コンピュータ技術を利用してある自然比推理それぞれの長所を十分に引き出せるように、我々言語を別の自然言語へ機械的に変換することである。機

はルールベースの翻訳方法、統計ベースの翻訳方法、用械翻訳の研究及び発展は半世紀も経っているが、依然と例ベースの翻訳方法など複数の機械翻訳方法を融合しして多くの困難及び挑戦を抱えている。しかし、現在のて、ハイブリッド戦略ベースの機械翻訳モデルの構築を技術発展レベルから見ると、特にある特定分野、例えば図る。規則性が非常に強い確定性言語現象に対しては、特許分野において、機械翻訳の大規模な商業化を実現す規則に従って分析し、規則性の弱い、ひいては規則性のる可能性が非常に高く、実際の仕事中に起こる言語障壁ない大量の言語現象に対しては、用例及び統計方法に問題の解決に大きく寄与できる。実際には、高性能機械従って分析する。特許機械翻訳の応用実践から見ると、翻訳はすでに多くの特許情報サービス業務、特に国際的このようなハイブリッド戦略ベースの翻訳方法の長所が業務の展開に不可欠な技術的支持及び有力な保障となっ非常に明らかである。ている。

キーワード：ハイブリッド戦略ベースの機械翻訳、特許本文は、次のように編成されている。第二部分は主な文献、統計ベースの機械翻訳、ルールベースの機械翻訳、機械翻訳方法を紹介する。第三部分は特許文献機械翻訳

用例ベースの機械翻訳の特徴及び研究内容を分析する。第四部分は我々の提案であるハイブリッド戦略の機械翻訳モデルを紹介する。

1

前書き

世界経済の高速な一体化、日増しに頻繁になる国際往来に伴い、言語障壁がますます深刻になっており、特に第五部分は特許機械翻訳の応用状況を紹介する。第六部
分はまとめ及びさらなる研究設計である。

2

機械翻訳の主要方法

近年特許に対する世界各国政府の重視度がより強くなる

334

ことにより、特許出願数が急増し、知的財産権の保護意

数十年の研究及び発展を経て、現在多くの機械翻識が高速に普及され、国際特許情報サービス業の高速発訳方法が提案されているが、要約すれば、主にルール展も促進されており、それによる多言語特許翻訳に対すベース機械翻訳（Rule-Based Machine Translation,るニーズもますます高まっている。

RBMT）、 用 例 ベ ー ス 機 械 翻 訳（Example-Based翻 訳（Statistical Machine Translation, SMT） なマート性が非常に低い。したがって、知識獲得はルールど三種類に大別される。

ベース翻訳システムの発展を制約する根本的な要因にな（1）ルールベース機械翻訳方法

る。なお、人類の自然言語には多くの曖昧な現象が存在

ルールベース機械翻訳方法が強調することは、様々なし、これもルール方法で処理しにくいところである。こ

文法理論を基本とし、人工知能研究における知識表現及れらの問題を回避するために、一部の研究者は大規模なび推理技術を十分に利用する自然言語に対する分析及びコーパスに基づく機械翻訳方法を提案している。

理解である。

[1,2]（2）用例ベース機械翻訳方法

知識表現及び分析応用の深さ、階層により、ルールベー

用 例 ベ ー ス 類 比 翻 訳 の 方 法（Example-based

ス翻訳システムは文法型、語義型、中間言語などの三種

machine translation, EBMT）は、20 世紀 80 年代類に分けられる。

末９０年代初期、日本人学者―長尾真によって提案され文法型システム多くは、文脈自由文法及び変換生成文た。当該方法は「ケースベース推理（Case-based[3]法を基本とし、構造分析ツリーの方法を利用して文法構Reasoning、 略 称 CBR）」 を 理 論 基 礎 と す る。CBR

造分析及び変換問題を解決する。しかし、分析過程で語において、現在直面している問題又は状況を目標ケース義情報を排除するため、分析結果を形成したが、語義表（target case）と称し、記憶の問題又は状況を原ケー現が適切ではないという変換問題が存在する。初期の機ス（base case）と称する。簡単に言うと、ケースベー械翻訳システムは、だいたい該種類に属する。

ス推理とは、目標ケースの提示により記憶中の原ケース

語義型機械翻訳システムは、フレーム制限理論を基本を獲得し、且つ原ケースにより目標ケースを指導して解とし、大量の語義情報を採用するため、多義問題をよりいを求める戦略である。したがって、実例に基づく類比よく解決できる。しかし、それは比較的深く分析するた翻訳の大まかな考え方は、両言語が対照する翻訳ユニッめ、原文構造の性質を保持できない場合が多い。語義分トペアで構成されたコーパスを予め構築しておき、続い析の複雑性により、現在該技術を実際の機械翻訳システて翻訳過程で検索及びマッチングアルゴリズムを選択ムに応用する場合が少ない。

し、コーパスから最適なマッチングユニットペアを検索

中間言語機械翻訳システムは、Tomita が提案した知識型機械翻訳システムを代表とし、言語自体から独立した中間言語を採用して文章の語義を表現する。

し、最後に例文の訳文構造に基づいて現在の翻訳ユニットの例文を構築することである [4,5]。
原言語テキスト S を翻訳する時、予め記憶された両ルールベース翻訳システムの共通の特徴は、言語現言語のコーパスから S に近い翻訳実例 S′を検索してか象を総合及び認識することにより、その規則性をまとめら、S′の参照訳文 T′に基づいて S の訳文 T を構築する。

続けて、言語知識を表現する文法規則、語義規則などを一般的に、EBMT システムは通常候補実例モード検索、形成する。分析システムは、これらの規則を利用して入語句の類似度の演算、両言語の対訳と訳文構造の類比な力した言語を分析、理解し、曖昧さがない明確な内部表どの複数のステップを含む。原言語テキスト S に基づ現形式を形成する。そして、この表現形式に基づいて対いてそれに最も近い翻訳実例 S′をどのように見つけ出応する目的言語構造に変換し、且つ訳文を形成する。こすかは、用例ベース翻訳方法の肝心な問題の一つである。のような規則に基づく方式は原文をある程度理解するた

現在まで、文章の間の類似度を演算する簡単且つ汎用的め、人的翻訳に比較的近く、したがって現在最も広く応な方法はなく、文章の類似度の評価は多くの人類工程学、用されている技術の一つである。

言語心理学などの知識による保障を必要とする。

しかし、ルールベース翻訳システムは大量の言語現

用例ベース機械翻訳方法は原言語を分析及び理解す

象規則を代表できる規則知識ベース及び辞書コーパスをる必要がほとんどなく、比較的大きな両言語対訳コーパ必要とし、これらの知識の大部分を人工又はヒューマス一つだけあればよい。したがって、知識の獲得が比ンコンピュータインタラクションの方式で取得するが、較的容易で、TM (translation memory) 技術と結合しYEAR BOOK 2O15 335

機械翻訳技術の向上

ヒューマンコンピュータインタラクションの方式のス

寄稿集４Machine Translation, EBMT）及び統計ベース機械

て、システムが「ゼロ」から知識を自動的に編成できる

ともに、当該位置の単語（クラスのモデルに基づき、自（bootstrap）。コーパスに翻訳される文章と類似する文

動的に原言語と目的言語単語を 50 つのクラスに分け章があれば、実例に基づく方法でよい訳文を獲得でき、る）を考慮する

且つ文章の類似度が高いほど、翻訳効果が高く、訳文のモデル 5

モデル 4 を改良し、モデル 4 における欠品質も高い。用例ベース翻訳方法のもう一つの長所は、陥（deficiency）を解消し、生じる可能性がない対訳

用例モードの知識表現は多くの人類言語の正確なルールに非ゼロを出す確率を回避する。

では説明しにくい曖昧さを簡潔且つ容易に表現できる。

IBM は 1 から 5 の順に複雑度が増すモデルを提案しなお、用例ベース機械翻訳方法の短所も明らかである。

たが、翻訳自体が非常に複雑で、非常に困難なタスクで十分に類似する文章がみつからない時、翻訳は失敗する。

あり、正確な翻訳を実現するためには多くの要因、例えしたがって、コーパスの大きさは比較的広範な言語現象ばコンテキスト情報、文法さらに語義情報などを考慮すを充分カバーできるように大きい必要がある。しかし、べきである。IBM 統計ベース翻訳モデルはこれらの情高品質の大型両言語対訳コーパスを構築することは、特報を効果的に利用しにくく、それによりその能力を限定にいわゆるマイナー言語対訳に対し、容易なことではなする。

い。

2003 年前後、F. J. Och らは対数線形モデルに基づ（3）統計ベース機械翻訳

く統計ベース機械翻訳方法を提案し [7,8,9]、IBM 統計ベー

1990 年代前半、IBM 会社の Peter Brown らはソース翻訳モデルに比べ、該モデルにいずれの翻訳に有利なスチャンネル統計翻訳モデルを提案した。その基本的な特徴を非常に容易に加えることができ、IBM のクラシッ

原理は、人が見るいずれの原言語文 S を実際には目的

ク SMT システムより拡大しやすい。対数線形モデルに

言語文 T からノイズチャンネル（ノイズが混じってい基づく統計ベース機械翻訳過程を下記公式で示せる。

る）を経て S に変換されたものに見なせる。したがって、翻訳のタスクはノイズが混じっている信号 S を原信号

T * = arg max P (T | S )T= arg maxの公式で示せる。

= arg max ∑ λ i hi ( s, t )TT

T * = arg max P(T | S )T= arg max P(T ) P( S | T ) / P( S )T= arg max P(T ) P( S | T )T

そのうち、P(T) は言語モデルと称し、「T が目標言語iそのうち、h（s,t）を特徴関数と称し、λii は対応する特徴関数の重みである。通常採用できる特徴は主に、（1）原言語を目的言語に翻訳する確率（2）目的言語を原言語に翻訳する確率の文章のようである」程度の円滑度を反映し、P(S|T)（3）原言語を目的言語に翻訳する時の長さ変化は翻訳モデルと称し、「T は S に相当する」程度の忠実（4）原言語を目的言語に翻訳する時の順序調整確率度を反映する。

（5）目的言語 n-gram 言語モデルなどがある。

翻訳を実現するため、IBM は 1 から 5 の順に複雑度が増す五つのモデルを提案した。
モデル 1 は、目的言語におけるある単語が原言語の単語に対応する確率のみを考慮する
モデル 2 は、目的言語におけるある単語に対応する原言語の単語の原言語文中での位置の変化を考慮する
モデル 3 は、単語が複数の単語に翻訳される場合を考慮する
モデル 4 は、対訳際に単語の位置変化を考慮すると

336

1
exp ∑ λ i hi ( s, t ) Z (S ) iT に復号化して復帰させることである。この過程は下記

なお、このモデルにおいて、IBM のクラシックモデ
ルにおける言語モデル P(T) と翻訳モデル P(S|T) は、そのうちの二つの特徴だけであるとみなすことができる。二つの特徴 logP(T) と logP(S|T) だけを採用し、且つ λ1 ＝λ2 ＝ 1 を取ると、完全に IBM モデルと等価になる。したがって、IBM のクラシックモデルは、ただ対数線形モデルに基づく統計機械翻訳モデルの一つの特例である。
21 世紀に入って、特に近 10 年間、統計ベース機械

機械学習に非常に有利である。
特許文献のこれらの特徴によって、他のテキストの翻る。それは、インターネットの急速な展開、コーパスリ訳より特許機械翻訳がより困難であるが、一方特許機械ソース、特に従来獲得しにくい対訳コーパスを比較的容翻訳の特徴が非常に明らかであるため、これらの特徴を易且つ大量に獲得でき、したがって従来の問題―SMT研究すると、特許機械翻訳は新たなブレイクスルーを達システムの訓練を制約する翻訳モデルに必要な大規模成しやすいだろう。この考えに基づき、我々の研究内容コーパスデータ問題を解決し、一方、コンピュータの演は以下のように主に 6 つがある。

算速度、記憶能力の大幅な向上により、SMT に必要な

1） ハイブリッド戦略機械翻訳モデルは、統計ベース、本来なら想像できない演算量及び記憶空間の問題を解決

用例ベース、ルールベースなど複数の機械翻訳方法し、さらに通常の PC 機械で SMT システムを実現できの長所を統合的に利用して、ハイブリッド戦略ベーる。もちろん、近年来 SMT モデル構築及び学習アルゴスの機械翻訳方法を研究・実現する。

リズム、アルゴリズム復号化などの関連技術における重2） 一体化のマルチ知識記述体系は、比較的強い適応

大な発展は統計機械翻訳が主流方法になるように促進し性を有する文法、構文及び語義などの一体的な翻訳たキーである。しかし、統計機械翻訳にも解決すべき問知識表現体系を設計して、比較的容易に翻訳に応用題が多く存在し、例えばデータ間引き、過剰学習、学習でき、確定性推理を行う。

不足及び翻訳過程の制御不可能、不確定性などの問題である。

3） 対訳コーパスに基づく翻訳等価体系研究は、単語の対訳、フレーズの対訳、文章の対訳技術と、翻訳等価体系の自動識別及び獲得技術などを含む。

3

特許文献の機械翻訳特徴と主要研
究内容

4） 特定分野の翻訳知識最適化は、特許の異なる特定分野情報の言葉使用習慣、文型規範及び語義選択などの特徴に対し、翻訳知識を最適化し、比較的高い特許は技術、法律、経済を一体化した総合性文献で、精度及び応用性を達成する。

特許技術の創新性を表現するだけでなく、特許保護の法

5） 固有表現の識別及び翻訳は、人名、地名、組織名

律文書の厳密性及び技術発明の経済価値も表現する。しなどの固有表現の自動識別、且つ関連するインデッ

たがって、他の文書に比べ、特許機械翻訳の特徴は明らクス特徴を抽出し、人名、地名、組織名の中国語及かである。

び外国語対照特徴に対し、対応する翻訳戦略を設計

1） 特許文献には、大量の新たな概念、新たな言葉がある。

して、固有表現翻訳の精度を向上させる。
6） 半構造化テキスト情報分析は、特許ドキュメント

2） 長文が多く、且つ比較的回りくどくて難解である。

は一般的に半構造化の xml ファイルであり、この

3） 大量の固有表現、特に記載事項と法的状態欄に、半構造化のテキストに豊富なコンテキスト文脈、語例えば人名、地名、組織名、時間、数量などがある。

義ヒューリスティック情報が含まれる。これらの情

4） 特許文献の各部分、例えば要約書、法的状態、技報を研究・利用して翻訳中の単語分割対照及び曖昧術背景、特許請求の範囲、発明内容、実施例など各さの解消問題を解決する。

部分は、文型仕様の差異が大きく、異なる翻訳戦略を採用する必要がある。
5） 標準的な特許文献は、一般的に xml テキストで4ハイブリッド戦略ベースの特許機械翻訳モデルあり、このように半構造化しているテキストには大量の機械翻訳に有利なコンテキスト文脈と語義ヒューリスティック情報が含まれている。
6） 大量の同族特許は、翻訳知識の自動探索及び統計

異なる機械翻訳方法は、それぞれ各自の長短所を有する。RBMT は、言語学基礎をその支えとし、理論、方法が比較的成熟し、知識の抽象度が高く、一般化能力がYEAR BOOK 2O15 337

機械翻訳技術の向上

研究は迅速に発展し、すでに機械翻訳の主流になってい寄稿集４翻訳（SMT，Statistical Machine Translation ）の強いが、知識取得が困難で、規則重複及び衝突が発生しやすく、訳文が硬く、機械翻訳の跡が多い。EBMT は、知識表現が比較的直観的で、知識取得が比較的容易で、訳文の効果が比較的高いが、知識の抽象度が低く、一般

2） 固 有 表 現、 一 部 シ ン タ ク ス 構 造 分 析 に お け る
RBMT の長所を利用する。
3） フレーズレベルにおける SMT の翻訳長所を利用する。

化能力が弱く、適応性に強くない。SMT は、知識取得

図１は、システムの全体的なモデル構造である。の人件費が低く、訳文の筋通りが比較的よく、機械翻訳システムは複数の翻訳方法を有機的に統合し、翻訳処の跡が少なく、翻訳品質の向上が速いが、主に大きなデー

理が必要な内容によって異なる戦略の優先状況を決定す

タ統計機械学習に基づき、パラメータが敏感で、モデルる。まず過去成功した翻訳実例を利用して類似する文章の訓練にデータ間引きという問題が存在し、特に言語学の翻訳を行って、文章の全体構文構成を取得するととも知識を効果的に利用することが難しく、翻訳過程が制御に、規則分析方法を利用して特定内容、例えば人名、地不可能、不確定である。

名、組織名、時間、数字など固有表現の翻訳変換及び一したがって、我々はルールベース、統計ベース、用部のシンタクス構造分析と語順調整を実現してから、統例ベースなど複数の機械翻訳方法の融合を図り、ハイブ計翻訳モデルフレームに基づいて最終的にハイブリッドリッド戦略ベースの機械翻訳モデルを形成することによ戦略翻訳処理結果を形成する。最適な訳文を選択するたり、言語学の理性分析及びコーパス統計類比推理のそれめ、アルゴリズムは経験閾値と統計知識の結合に基づくぞれの長所を発揮させる。規則性が非常に強い言語現象

訳文最適選択技術を確立し、非常に類似する内容に対しは規則で説明し、規則性が弱い、ひいては規則がない大て、用例ベース類比推理を取って訳文を構築し、そうで量の言語現象は実例と統計方法で解決する。特許文献翻なければ規則分析方法と統計方法に基づいて処理するこ訳の特徴及び応用分野に対して設計したハイブリッド戦とにより、訳文生成における異なる翻訳戦略の長所を発略ベースの機械翻訳の主な思想は以下のとおりである。

揮させる。

1） 全体構文構成面における EBMT の長所を利用する。

図１338

ハイブリッド戦略機械翻訳モデルアーキテクチャ

の主要内容、特に特許の主要情報を正確に理解でき寄稿集４

5

り、機械翻訳の正確性及び可読性を向上させ、特許特許機械翻訳の応用る。
3） 機械支援型人的翻訳：翻訳の主体は人であるが、訳の重要な技術に基づき、三つのレベルに分けて異言語例えば参考実例、機械翻訳参考訳文など機械の補助間特許情報応用モードを展開する。

性翻訳情報を参考する。技術的解決手段によって訳

1） 全自動機械翻訳は：特許内容に対する概略理解及文スタイル、専門用語の一致を実現し、正確且つ専び異言語間特許検索の需要を満たし、特徴は翻訳量

門的に原文の情報を訳し、特許出願、図書出版の要が膨大で、速い翻訳速度が求められる。

件に適合するとともに、翻訳コストを省くことがで

2） 人間支援型機械翻訳：翻訳の主体は依然として機械であるが、翻訳前及び翻訳後の人の補助作業によき、翻訳効率を向上させる。
図は、特許機械翻訳の典型的な応用の例示である。                             

図2全自動特許機械翻訳                                                          YEAR BOOK 2O15 339

機械翻訳技術の向上

実際の特許情報サービスの応用ニーズに向け、機械翻図3

オンライン特許翻訳

図4

340

支援型翻訳

of the Workshop on Example-Based MachineTranslation, hosted by MT-Summit VIII.

寄稿集４

6

結論及びさらなる研究

Santiageo de Compostela, Spain, September,
2001: 325-352

野など特定分野において、大規模商業用の技術条件を基[5] Chunyu Kit, H. Pan and J. Webster. Example-

本的に備えている。我々は統計、ルール、用例などの複Based Machine Translation: A New Paradigm.

数の方法を融合して開発したハイブリッド戦略ベースのIn: S.W.Chan(ed.), Translation and Information

特許機械翻訳技術は、特許翻訳の応用実践からみると、Technology, Chinese U of HK Press. 2002

比較的明らかな優位性を持っている。全自動機械翻訳技[6] Berger A. L. et al. The Candide System of

術に基づいて開発した機械補助翻訳技術は、訳文のスタ

Machine Translation. IBM Tech Report, 1994

イル、専門用語の一致性を保障し、大型翻訳項目に有利[7] Och F J, Ney H. Discriminative training

で、専門翻訳者の作業効率を明らかに高め、翻訳者の作and maximum entropy models for statistical

業負荷を低下させることができる。

machine translation[C]//Proceedings of the

しかし、周知のように、機械翻訳は非常に困難な研究

40th Annual Meeting on Association for

課題であり、我々も研究中に多くの困難と挑戦に直面しComputational Linguistics. Association forている。今後、更なる研究においては、我々は特許機械

Computational Linguistics, 2002: 295-302.

翻訳の応用分野の特徴に対して、主に高精度言葉の整列[8] Och, Franz Josef, Michael E. Jahr, and

技術、固有表現識別、新単語識別及び翻訳技術などに重Ignacio E. Thayer. "Minimum error rate training

点を置いて研究を展開する予定である。これも現在機械with a large number of features for machine

翻訳におけるいくつかの普遍的な難問である。

learning." U.S. Patent No. 8,645,119. 4 Feb.
2014.

参考文献

[9] Och, Franz Josef. "Method and system[1] Sergei Nirenburg, Jaime Carbonell, Masaru

for translating information with a higher

Tomita, Kenneth Goodman. Machine

probability of a correct translation." U.S.

Translation: a Knowledge-Based Approach.

Patent No. 8,977,536. 10 Mar. 2015.

Morgan Kaufmann Pulishers. 1992
[2] D. Arnold and L. Sadler, Rationalism andthe Treatment of Referential Dependencies.
Porceddings of the Fourth International
Conference on Theoretical and Methodological
Issues in Machine Translation of NaturalLanguage. Montreal, Canada, 1992: 195-204[3] Nagao, M. A Framework of a MechanicalTranslation between Japanese and English
by Analogy Principle. In: Elithorn, A., Banerji,R., eds., Artificial and Human Intelligence.
Amsterdam, New York: Elsevier Science
Publishers Corporation, 1984. PP:173-180.
[4] D. Turcato, F. Popowich. What is ExampleBased Machine Translation? In: Proceedings

YEAR BOOK 2O15 341

機械翻訳技術の向上

現在、世界で主な異言語間の機械翻訳は、特許翻訳分