言語処理学会 第21回年次大会 発表論文集 (2015年3月)

対訳パターンを用いた特許請求項文の翻訳手法
富士 秀 内山 将夫

藤田 篤

隅田 英一郎

情報通信研究機構{fuji.masaru, mutiyama, atsushi.fujita, eiichro.sumita}@nict.go.jp

させるための手法として、パターンを用いた翻訳の研究

1. はじめにが行われてきた[3][4][5][6]。このうち定型利用翻訳[6]で特許明細書における請求項文は、特許発明が請求するは、入力文を文節レベルで解析した結果に対してパター権利範囲を規定するための重要なテキストであるが、現ンを適用して構造部品に分解し、構造部品単位で機械翻状の翻訳技術では高精度で翻訳することが難しい。請求訳を適用してからこれらを組み上げて訳文を生成する。

項翻訳の難しさの要因は、長文であることと、独特の記述請求項の独特の記述表現を手掛かりにパターンで分割を形式を持っていることにある。これらの問題を解決する行い、短文の翻訳処理に落とし込むことで訳質向上をはための一つの手法として、請求項文の記述特性を利用しかっている。この研究では従来、ルールベース翻訳を用いたパターン翻訳が提案され、ルールベース翻訳におけるて構造部品の翻訳を行ってきたが、ルールベース翻訳で一定の有効性が示されている。本研究では、パターン翻訳は大量特許コーパスによるメリットを生かしにくいといの手法を統計的機械翻訳に適用し、訳質改善の効果を評う課題があった。

価した。

3. 提案手法

2. 関連研究

本研究では、定型利用翻訳の翻訳エンジンとして統計日英中の特許文を対象とした機械翻訳研究では、的機械翻訳を利用することにより、大量のコーパスデー

NTCIR の特許翻訳タスク（"PatentMT”）[1]において共通タが存在する特許文データのメリットを生かした特許請的な訓練データ・テストデータの提供が行われ、これを求項翻訳の手法を提案する。

きっかけとして業界をあげた研究開発が進み、翻訳精度が改善してきた。特許文書では、大規模な対訳データを構

3.1 ベースライン築することが比較的容易にできるため、特に統計的機械

本研究では、上述の PatentMT を基本構成として想定し翻訳の精度向上につながってきた。さらに統計的機械翻ている。ただし、PatentMT は、特許明細書の「実施例」が訳では、構文情報の導入、また最近では構文並べ替え技術機械翻訳の対象であり、訓練・テストデータも実施例デーの進展により、PatentMT の英日特許翻訳タスクにおいてタを用いている。これに対して本研究では、NTCIR の実

統計的機械翻訳がルールベース翻訳の精度を超えるまで施例コーパスデータにさらに請求項データを足し合わせに至った。

ることによって請求項文にも対応できる混合コーパスを

しかしながら PatentMT は、特許明細書の中でも比較的一般文に近い文体で記述される「実施例」を翻訳の対象と用意した。この混合コーパスを用いて統計的機械翻訳の訓練を行い、本研究のベースラインシステムとした。

しており、独特の記述形式かつ長文で記述される「請求請求項データとしては、文アラインメント手法[7]を用項」の翻訳には未だに多くの課題が残されている。特許請

いて、米国特許明細書と日本特許明細書から自動的に対求項文の平均文字数は 242 文字であるという分析結果も訳文を抽出し、ここから訓練データとテストデータを作ある[2]ほど、請求項は１文が長い。同分析によれば、新聞成した。

社会面記事の平均文長は 75 文字、政治記事は 56 文字とのことであり、請求項文が顕著に長いことがわかる。この3.2 提案手法～対訳パターンによる翻訳～長さの文を構文解析器や機械翻訳でそのまま処理しよう

本研究では、パターン翻訳における翻訳エンジンとしとしても、そもそも計算コスト面から処理対象外となって統計的機械翻訳を用いる構成とすることにより、統計たり、処理できたとしても潜在的な曖昧性の膨大さゆえ的機械翻訳による流暢さと、パターン翻訳による大域的に処理精度が低くなったりする。

適切さの両立を目指す翻訳手法を提案する。①入力であこのような特徴を持つ特許請求項文の翻訳精度を向上

る英語請求項をあらかじめ人手で作成したパターンを用― 1020 ―Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.

いて分割し、②分割した構造部品に対してベースラインシステムで英日翻訳する。③そして対応する日本語パターンに沿って構造部品を組み上げて訳文を出力する。
図 1 は、提案手法の実行例である。ここではまず、(a)の英語原文に対して、正規表現による英語パターンが適用され、(b)のパターン処理結果が得られる。次に (b)英語表現に対応する日本語パターンが(c)のように生成される。次に、(b)の各構造部品に対してベースラインの翻訳エンジンを適用することによって、(d)の英日翻訳結果が得られる。最後に、(d)の各構造部品を組み合わせることによって、(e)の日本語訳文が得られる。

4.1 ベースラインの設定実験に使用した統計的機械翻訳システムでは、言語モデル作成に KenLM [8]、フレーズ対の学習に SyMGIZA++[9]、デコーダとして Moses 2.1.1 [10]を利用した。日本語のテキストデータは、MeCab 0.996 を用いて分かち書きしている。なお、モデルごとの重み付けの最適化処理は特に行っていない。
統計的機械翻訳システムの訓練用には、NTCIR 10 特許
翻訳タスクでの実施例の英日対訳コーパス 1 万文対と、請求項の英日対訳コーパス 1 万文対を足し合わせて作成した、混合英日対訳コーパス 2 万文を用いた。
テストデータとしては、英日請求項対訳コーパスの対The actuator according to claim 1, wherein an even numberof notches are formed in said body, and the displacement of
said rod in the axial direction is extracted.

訳例文のうち、対応度の高さの順番で先頭から 100 文対を抽出し、これを用いた。
評価手法としては、BLEU-4 [11]と RIBES 1.03.1 [12]を(a) 英語原文用いた。

PREA

the actuator according to claim 14.2 提案手法の設定

TRAP

wherein

提案手法では最初に、正規表現で記述されたパターン

PURPan even number of notches are formed in

を用いて入力文を分割するが、本実験では Perl 5.10.1 の正said body, and the displacement of said

規表現を用いてパターンを記述した。提案手法によるシ

rod in the axial direction is extracted

ステムのためのパターン作成については次項で述べる。

(b) 英語原文に対するパターン処理結果

4.3 パターンの作成
PURP

an even number of notches are formed in【英語パターン】

said body, and the displacement of said

開発データの中の英語特許請求項文データを対象に分

rod in the axial direction is extracted

析を行い、人手によって英語パターンを作成した。分析結TRAP

wherein

果に基づいて、英語請求項文は図 2 に示すパターン一覧

PREA

the actuator according to claim 1で記述できることとした。

(c) 英語パターンに対する日本語パターンの出力
Pe1: SENT => PREA TRAP PURP+PURP

偶数個の切込みが形成されている前Pe2: SENT => PREA TRAE ELEM+

記本体であり、前記ロッドの変位にPe3: SENT => PREA TRAE ELEM+ TRAP PURP+

は、軸方向 を抽出する

図 2. 英語パターン

ことを特徴とする

TRAP

請求項１に記載のアクチュエータ

PREA

ここで、PREA（preamble）は請求項の「前提部」であ(d) 各構造部品に対する英日翻訳結果り、名詞句で構成される。ELEM（element）は請求項の「構成要素」であり、名詞句で構成される。PURP（purpose）

偶数個の切込みが形成されている前記本体であり、前は請求項の「目的」であり、動詞句で構成される。TRAE

記ロッドの変位には、軸方向を抽出することを特徴と（transitional-for-element）は ELEM を導く「移行部」であする請求項１に記載のアクチュエータ。

り、TRAP（transitional-for-purpose）は PURP を導く「移行4. 実験設定(e) 日本語訳文の出力部」である。図中「+」は１回以上の繰り返しを表す。分

図 1. 提案手法の実行例

析の結果得られた英語パターンを Perl の正規表現で記述した。入力英語文とのマッチングを行いマッチしたパ― 1021 ―Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.

ターンに沿って文が構造部品に分割されるようにした。

ン

5. 実験結果【日本語パターン】
上記開発データにおいて英語請求項に対応する日本語表 1 に、ベースラインと提案手法における、翻訳精度請求項を人手で分析し、同様に日本語パターンを抽出しの比較結果を示す。BLEU で比較するとベースラインと提た。日本語パターンの一覧を図 3 に示す。

案手法では 0.005 の差しかないが、RIBES で比較すると0.395 から 0.765 と大幅な精度向上となっていた。

Pj1: SENT => PREA1 PURP+ TRAP PREA2
表 1. ベースラインとの比較結果

Pj2: SENT => PREA1 ELEM+ TRAE PURP+ TRAP

設定

PREA2BLEU

RIBES

Pj3: SENT => ELEM+ TRAE PREA1ベースライン

0.360

0.395

Pj4: SENT => PREA1 ELEM+ TRAE PREA2

提案手法

0.365

0.765

Pj5: SENT => PURP+ TRAP PREA1
図 5 に、提案手法を導入したことによる改善例を示す。

Pj6: SENT => ELEM+ TRAE PURP+ TRAP PREA1
図 3. 日本語パターン

こ の 請 求 項 文 に お け る 英 語 前 提 部 は ”the actuatoraccording to claim 1”であり、対応する日本語前提部は「請日本語パターンは英語パターンと係り受けの方向が逆求項１に記載のアクチュエータ」である。日本語請求項文であるため、ELEM を導く移行部である TRAE は対応す

では一般的に、文末に前提部が配置されるべきだが、ベーる ELEM の前にあり、PURP を導く移行部である TRAP は

スラインシステムは、日本語前提部がバラバラに分かれ、対応する PURP の前にある。また日本語では、「情報処理また文の先頭に近い場所に訳出されていることにより、装置において、～することを特徴とする情報処理装置。
」

文全体として不適切な文を生成している。これに対してというように前提部を主題の位置に一旦提示するような提案手法では、日本語前提部が一つにまとまって文末に記述方法がよく用いられる。この記述をカバーするため訳出され、文の全体構造が正しく訳されるようになってに PREA1 と PREA2 を用意しており、例文では、一つ目いる。の「情報処理装置」を PREA1、二つ目の「情報処理装置」を PREA2 としている。

テスト文全体として、このように文の全体構造を正しく捉えて翻訳できた文が増えたことによって、RIBES 値の向上につながった。なお、ベースラインと提案手法で【英語パターンと日本語パターンの対応付け】

は、個々の訳語や近距離の言語モデルはそれほど変わっ前述のように日本語パターンでは前提部が２回提示さていないため、BLEU 値の変化は小さいと考えられる。

れる場合があるが、英語との対応を取るために文末の前提部１つにまとめたパターンを図 4.に示す。また、日本
語パターンと構造部品の構成が同じであり、対応関係に

The actuator according to claim 1, wherein an even number

ある英語パターンを右辺に付記している。実験ではこれof notches are formed in said body, and the displacement ofを用いて、英語パターンと日本語パターンの対応を求め

said rod in the axial direction is extracted.て処理を行う。例えば（図 4 の 1 行目）、入力英語文が英英語原文

語パターン Pe1 にマッチしたとすると、対応日本語パター
ンは Pj1 となりこの日本語パターンに沿って翻訳を行う。

前記アクチュエータであることを特徴とする請求項１に記載の偶数個の切込みが形成されている前記本体でPj1: SENT => PURP* TRAP PREA :: Pe1あり、前記ロッドの変位には、軸方向を抽出する。

Pj2: SENT => ELEM* TRAE PURP* TRAP PREA :: Pe3

ベースラインの訳文

Pj3: SENT => ELEM* TRAE PREA :: Pe2
Pj4: SENT => ELEM* TRAE PREA :: Pe2

偶数個の切込みが形成されている前記本体であり、前Pj5: SENT => PURP* TRAP PREA :: Pe1

記ロッドの変位には、軸方向を抽出することを特徴と

Pj6: SENT => ELEM* TRAE PURP* TRAP PREA :: Pe3する請求項１に記載のアクチュエータ。

図 4. 整理後の日本語パターンと、対応する英語パター― 1022 ―提案手法の訳文

Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.

2.

いた特許請求項の構造解析、情報処理学会論文誌 Vol. 45

前記ボディに偶数個の切込みが形成され、前記ロッドの軸線方向の変位を取出すことを特徴とする請求 項
１に記載のアクチュエータ。

新森昭宏、奥村学、丸川雄三、岩山真、手がかり句を用

No. 3、pp 1-15、2004．
3.

参照訳

Jin’ichi Murakami, Isamu Fujiwara and Masato Tokuhisa,
Pattern-Based Statistical Machine Translation for NTCIR-10
PatentMT. In Proceedings of the 10th NTCIR Conerence, pp

図 5. 提案手法による改善例

350-355, 2013.

上述の提案手法を導入することによって大幅に訳質が4.

善、Japio Year Book 2014、pp241-251、2014.

向上したが、さらに残された誤り例を分析したところ、構造部品の種類（PREA, ELEM,…等）による訳し分けが十分

江原暉将、文パターンを用いた中日機械翻訳の精度改

5.

Bart Mellebeek, Karolina Owczarzak, Declan Groves,Josefにできていないことがわかった。この問題に対応するた

Van Genabith and Andy Way, A Syntactic Skeleton for

めの改良手法として、ベースラインの訓練データにおいStatistical Machine Translation. In Proceedings of EAMTて、英語文と日本語文それぞれをパターンによって構造部品に分割し、対応する構造部品を対訳構造部品として

2006, pp xx-xx, 2006.
6.

富士秀、鄭育昌、角谷昌剛、長瀬友樹、中日・英日翻訳

切り出し、これをベースラインの訓練データに追加した。

への定型利用翻訳技術の適用、言語処理学会 第 20 回

この改良手法による評価値を表 2 に示す。BLEU、RIBES

年次大会、pp 380-383、2014．

ともに値がさらに向上していることがわかる。

7.

Masao Utiyama and Hitoshi Isahara. A Japanese-English
patent parallel corpus. In Proceedings of MT Summit XI,

表 2. 改良手法による評価値
設定

pages 475-482, 2007.
8.

Kenneth Heafield, Ivan Pouzyrevsky, Jonathan H. Clark,

BLEU

RIBES

ベースライン

0.360

0.395

Philipp Koehn, Scalable Modified Kneser-Ney Language

提案手法

0.365

0.765

Model Estimation. In Proceedings of the 51st Annual Meeting

改良手法

0.424

0.780

of the Association for Computational Linguistics, pp 13-21,
2013.
9.

6. おわりにMarcin Junczys-Dowmunt and Arkadiusz Szał, SyMGiza++:
A Tool for Parallel Computation of Symmetrized Word

請求項文の翻訳において、請求項文用パターンによっAlignment Models. In Proceedings of the Internationalて分割した構造部品を統計的機械翻訳で翻訳する翻訳手

Multiconference on Computer Science and Information法を提案し、精度向上の度合いを測定した。

Technology, pp. 397–401, 2010.

実験では、提案手法は RIBES 値においてベースライン10.

Philipp Koehn, Hieu Hoang, Alexandra Birch, Chris Callison-を大きく上回る結果となった。このことから特許請求項

Burch, Marcello Federico, Nicola Bertoldi, Brooke Cowan,の英日翻訳では、提案手法を用いることによってより適Wade Shen, Christine Moran, Richard Zens, Chris Dyer,

切な構造を持った訳文を得られるようになることがわ

Ondrej Bojar, Alexandra Constantin, Evan Herbst, Moses:かった。

Open Source Toolkit for Statistical Machine Translation. InProceedings of the Association for Computational Linguistics

今後は、各構造部品の特性を加味した訓練によって翻Demo and Poster Sessions, pp 177–180, 2007.

訳精度を向上させる方向で研究を進めたい。また、これまで人手で構築してきたパターンを自動的に取得する方向

11.

Kishore Papineni, Salim Roukos, Todd Ward, and Wei-Jing
Zhu, BLEU: a Method for Automatic Evaluation of Machineで研究を進めたい。

Translation. In Proceedings of the 40th Annual Meeting of theAssociation for Computational Linguistics, pp. 311-318, 2002.

参考文献
1.

12.

Hideki Isozaki, Tsutomu Hirao, Kevin Duh, Katsuhito Sudoh,Isao Goto, Ka Po Chow, Bin Lu, Eiichiro Sumita andHajime Tsukada, Automatic Evaluation of Translation

Benjamin K. Tsou, Overview of the Patent Machine

Quality for Distant Language Pairs. In Proceedings of theTranslation Task at the NTCIR-10 Workshop. In Proceedings

2010 Conference on Empirical Methods in Natural Languageof the 10th NTCIR Conference, pp 260-286, 2013.

Processing, pages 944–952, 2010.

― 1023 ―Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.