2 種類の翻訳システムを用いた学術論文の特許分類体系への自動分類
広島市立大学大学院情報科学研究科講師

難波英嗣

PROFILE

1996 年東京理科大学理工学部電気工学科卒業。2001 年北陸先端科学技術大学院大学情報科学研究科博士後期課程修了。同年、日本学術振興会特別研究員。2002 年東京工業大学精密工学研究所助手。同年、広島市立大学情報科学部講師。2007 年 4 月広島市立大学大学院情報科学研究科講師、現在に至る。博士 ( 情報科学 )。言語処理学会、情報処理学会、人工知能学会、ACL、ACM 各会員。

nanba@hiroshima-cu.ac.jp

広島市立大学大学院情報科学研究科教授

竹澤寿幸

082-830-1584

PROFILE

1984 年早稲田大学理工学部電気工学科卒業。1989 年早稲田大学大学院博士後期課程修了。同年（株）国際電気通信基礎技術研究所入社。2007 年広島市立大学大学院情報科学研究科教授、現在に至る。工学博士。音声対話翻訳の研究開発に従事。平成 18 年度
電子情報通信学会 ISS 論文賞受賞。電子情報通信学会、人工知能学会、日本音響学会、言語処理学会各会員。

1 はじめに

許用語は「機械翻訳」の他にも「自動翻訳」「言語変換」などがある。このため、単純に表層的な単語の一致度を用いる従来の分類モデルでは、十分な分類精度が得られ学術論文の特許分類体系への分類は、特許と論文を対るとは限らない。さらに、より網羅的な調査や分析を可象とした網羅的かつ効率的な先行技術調査、無効資料調能にするためには、複数の言語で記述された論文を分類査、技術動向分析などを可能にする。しかし、特許の場対象にする必要がある。

合と同様に論文発表時に著者本人に特許分類コードを付これらの問題を解決するため、本研究では、特許用お与してもらうことや、すでに発表済みのすべての論文によび論文用の 2 種類の翻訳システムを用いた分類手法を人手で分類コードを付与することは、コスト面から考え提案する。特許と論文では使われる用語が違うことから、て現実的ではない。そこで、本研究では、学術論文を特入力された論文を翻訳する際、特許用の翻訳システムは、許分類体系に自動的に分類する手法を提案する。

論文用のものと同等の翻訳精度が期待できない。しかし、

こ れ ま で に、 特 許 を 自 動 的 に 分 類 す る 研 究 は、 国特許用システムによる翻訳結果に特許用語が数多く含ま

立情報学研究所が主催の評価ワークショップ NTCIR-

れていれば、文書分類の段階での精度向上が期待できる

5[Iwayama 2005] と 6[Iwayama 2007] において、ため、総合的に見れば特許用翻訳システムを用いるメリッF ターム分類タスクとして実施されてきたが、学術論文トがあると考えられる。本研究では、第 7 回 NTCIR ワーを特許分類体系に分類する場合には、特許と論文で使わクショップ（NTCIR-7）特許マイニングタスク [Nanbaれる用語の違いについて新たに検討する必要がある。

2008:a]において実施された言語横断サブタスク（E2J）

特許では請求範囲をなるべく広く確保するため、一般のデータを用い、提案手法の有効性を検証する。

性の高い特許用語を用いて記述する傾向がある。また、

本 論 文 の 構 成 は 以 下 の と お り で あ る。 次 章 で は、特許では学術用語よりも多様な表現が用いられることがNTCIR-7 特許マイニングタスクについて述べる．3 章で多い。例えば、「機械翻訳」という論文用語に対する特は、2 種類の翻訳システムを用いた論文の分類手法を提178

寄稿集検索の高効率化と精度向上3案する。4 章では、提案手法の有効性を調べるために行っジャンル G2 に属する言語 L2 で記述されたラベル付きた実験について述べる。最後に 5 章で本論文をまとめる。

文書集合を訓練用データとして用いて文書分類する手2順を、【図 1】を用いて説明する。一般的には、（1）

NTCIR-7 特許マイニングタスク

ジャンル G1 用の翻訳システムを用いて入力文書の記NTCIR-7 特許マイニングタスク [Nanba 2008:a]

語を変換した上で ( 図中 O')、(3) 文書分類を実施する、は、特許と論文を対象にした情報アクセスに関する研究という 3 つのステップが必要となる．ここで、ジャンプロジェクトである。これは、特許と論文を対象にした

ル G2 用の機械翻訳システムが存在する場合、この翻検索や動向分析など、様々な目的に利用可能な言語処理訳システムを用いて入力文書 I を翻訳すれば、出力結果技術の開発を最終目標としたプロジェクトであり、そのにはジャンル G2 に適合した語彙が使われているため、第一歩として、NTCIR-7 では、学術論文を国際特許分上述のステップ（1）と（2）を同時に解決できる可能類に自動分類するタスクを設定している。特許マイニン性がある。しかしながら、ジャンル G2 用の翻訳シスグタスクでは、以下の 4 つのサブタスクが実施された。

テムは、言語 L1 で記述されたジャンル G2 の文書が入●日本語サブタスク：日本語の論文を日本語で記載され力されることが前提となっているため、G1 用の翻訳シた特許データを訓練用データとして用いて分類する。

ステムを用いた場合と比べ、翻訳結果には、誤訳が含ま●英語サブタスク：英語の論文を英語で記載された特許れる可能性も高くなる．そこで、ジャンル G1 用と G2データを訓練用データとして用いて分類する。

述言語を L1 から L2 に翻訳した後 ( 図中 O)、（2）
ジャンルにより異なる用語の使われ方を考慮して適宜用用の翻訳システムによる結果を組み合わせる（O+O'）●言語横断サブタスク（J2E）：日本語の論文を英語ことにより、ジャンル G2 の語彙を含みつつ、G2 用翻で記載された特許データを訓練用データとして用いて訳器の誤訳の影響を最小限にとどめたジャンル横断、言分類する。

語横断文書分類の実現を目指す。

●言語横断サブタスク（E2J）：英語の論文を日本語で記載された特許データを訓練用データとして用いて分類する。
本研究では、特許マイニングタスクの中でも、NTCIR-7で参加者がいなかった言語横断サブタスク（E2J）のデータを用い、提案手法の有効性を検証する。

3
3.1

学術論文の特許分類体系への自動分類

提案手法

図1

提案手法

ジャンル G1 に属する言語 L1 で記述された文書 I を、

179

成には Giza を、デコーダには Moses を、利用した。
言語モデルおよびフレーズテーブル獲得用の日英対訳データとして、NTCIR-7 特許翻訳タスク [Fujii 2008]
で配布されている約 1、800、000 日英訳文対を、論文用翻訳システムの獲得には NTCIR-1、 2 言語横断検索タスクで配布されている論文抄録データから抽出した約 300、000 日英訳文対を、それぞれ全て用いた。
また、索引語の翻訳には、Giza と Moses を用いて特許用翻訳システムと論文用翻訳システムを獲得する過程
図2

システム概要で得られるフレーズテーブルの中で、フレーズの英日翻訳確率が最も高いものを英語索引語の日本語訳として用いた。

3.2

システムの構成

本研究では、「英語論文（言語 L1、ジャンル G1）を、日本語（言語 L2）で記述された特許データ（ジャンル G2）を訓練用データとして用いて特許分類体系に文書分類モジュール
文書分類には、k-NN 法に基づく Nanba の分類器を用 い る [Nanba 2008:b]。 こ の 分 類 器 は、NTCIR-6
特許検索タスク [Fujii 2007] 用に開発された特許検索自動分類する」という課題に取り組む。【図 2】にシステムの構成を示す。提案システムは、「日本語索引作成モジュール」と「文書分類モジュール」から構成されている。以下に、各モジュールについて説明する。

英語表題：A Sandblast-Processed Color-PDP
Phosphor Screen
英語概要：Barrier ribs in the color PDP haveusually been fabricated by multiple screen

日本語索引作成モジュール

printing. However, the precise rib printing of

日本語索引作成モジュールは、【図 3】に示すような

fine patterns for the high resolution display

英語表題と概要の対を入力とし、特許用および論文用のpanel is difficult to make well in proportion

2 種類の翻訳システムを用いて、【図 4】に示す日本語

as the panel size grow larger. On the otherの索引を出力する 1。日本語索引を作成するには、2 つ

hand, luminance and luminous efficiencyの方法：（A）入力された英語表題と概要を日本語に翻訳した後、内容語 ( 名詞 / 名詞句、動詞、形容詞 ) 抽出して索引を作成する方法と、(B) 入力された英語表題と概要から内容語を抽出して英語索引を作成した後、各索of reflective phosphor screen will beexpected to increase when the phosphor isdeposited on the inner wall of display cells.
Sandblasting technique has been applied tomake barrier ribs for the high resolution PDP

引語を翻訳する方法が考えられる。今回は、（A）（B）

and nonffat phosphor screens on the inner

2 種類の方法で実験を行った。なお、言語モデルの作成

wall of display cells.には SRILM を、フレーズテーブル ( 翻訳モデル ) の作
1 なお、各用語の左に記載されている数値は用語の文書内頻度を示している。

180

図3

英語表題と概要

寄稿集
検索の高効率化と精度向上

3

国際的に統一されて用いられている分類体系であり、特18 形成

許文献の技術内容によって上から順に「セクション」、18 ＰＤＰ「クラス」、「サブクラス」、「メイングループ」、18 型蛍光面
12 障壁形成「サブグループ」の 5 階層から構成・分類されており、

12 障壁

国際特許分類第 6 版ではサブグループのレベルで約12 蛍光50,000 の IPC コード 2 が存在する。本研究では、最12 カラーＰＤＰ下層の「サブグループ」レベルの IPC コードを論文抄12 反射型蛍光録に付与することを目的とする。

12 型蛍光12 サンドブラ

4 実験

（以下略）
図4

日本語索引

システム [Nanba 2007] を内部で利用している。

提案手法の有効性を調べるため、実験を行った。本章

この検索システムは検索モデルとしてベクトル空間

では、4.1 節で実験方法について、4.2 節で比較手法

型モデルを、索引語には MeCab を用いて抽出されたについて、それぞれ説明する。また、4.3 節で実験結果名詞または名詞句 ( 連続して出現する名詞 )、動詞、形を報告し、4.4 節で結果を考察する。

容詞を、単語の重みの計算には tf(term frequency)を、類似度尺度には SMART を、それぞれ採用している。入力された日本語索引に対応する IPC コードを、

4.1

実験方法

NTCIR-7 特許マイニングタスク言語横断サブタスク

以下の手順で自動的に付与する。

(E2J) のデータを用い、実験を行った。

1.

正解データ

2.

3.

入力クエリ（日本語索引）に対して特許検索システ
ムを用いて検索し、上位 170 件の結果を得る。

【図 3】に示すような英語論文抄録 879 件に、人手手順 1 で得られた各特許に付与された IPC コードで IPC コードを付与したデータを用いた。1 抄録あたを獲得する。

り平均 2.2 個の正解の IPC コードが付与されている。

以下の式に基づいて IPC コードをランク付けし、このデータを、システムが出力した IPC コードのリス出力する。

ト（抄録毎に最大 1000 件）と比較し、MAP（Meanこ こ で、X は IPC コ ー ド、n は 検 索 結 果 上 位 170

Average Precision）により評価した。

件の中で X が付与されている特許数を示す。また、“Relevance score of each patent”は、検索された各特許と入力クエリとの類似度を示す。

文書データ
実験に用いた文書データを【表 1】にまとめる。

国際特許分類への自動分類
本研究では、学術論文を分類する特許分類体系のひとつとして、国際特許分類（IPC）を用いる。IPC は、比較手法
以下に示す 3 種類の提案手法、7 種類の比較手法、

2 NTCIR-7 特許マイニングタスクでは、これらのうち、学術分野とは関連性の低い分野を除外した 30,885 の IPC コードを対象としている。

181

データ名

年

サイズ

文書数3.5M日

0.26M

日/英日本国公開

1993-2002

100

特許公報

02

GB

NTCIR-1，

1988-19

1.4GB

NTCIR-299たものと Index(Patent) の和集合

言語

● SMT(Paper)+SMT(Patent): 論文用翻訳システムと特許用翻訳システムを使って英語論文を和訳した
後、それらの和集合を利用

言語横断タスクデータ ( 論文抄録）

比較手法
表1

● SMT(Paper): 論文用翻訳システムを使って英語論文文書データを和訳した後、日本語索引を作成● SMT(Patent): 特許用翻訳システムを使って英語論および 2 種類の手法 ( システムの上限 ) で実験を行った。

文を和訳した後、日本語索引を作成

な お、“SMT(X)” と“Index(X)” は、 そ れ ぞ れ「 翻● Index(Paper): 論文翻訳用フレーズテーブルを使っ訳システム X を使って全文を翻訳した後、日本語索引て英語索引を和訳を作成」と「英語索引を作成した後、翻訳システム X● Index(Patent): 特許翻訳用フレーズテーブルを使っ用のフレーズテーブルを使って日本語索引を作成」を意て英語索引を和訳味する。
提案手法

システムの上限● Index(Paper)*Index(Patent): 論 文 翻 訳 用 お よ び●日本語サブタスク : 入力された英語論文の対訳データを理想的な翻訳と考え、日本語索引を作成

特許翻訳用システム構築の際に作成されたフレーズテーブルを使って英語索引をそれぞれ和訳し、その積4.2集合を利用実験結果● Index(Paper)+Index(Patent): 論 文 翻 訳 用 お よ び【表 2】に実験結果を示す。論文用翻訳モジュール

特許翻訳用のフレーズテーブルを使って英語索引をそを利用した“SMT(Paper)”は理想的な翻訳（“日本れぞれ和訳し、その和集合を利用語サブタスク”）を用いた時の結果に非常に近い結果と● SMT(Paper)+Index(Patent): 論文用翻訳システムなった。提案手法および比較手法の中では、提案手法のを使って英語論文を和訳した後、日本語索引を作成しひとつである“SMT(Paper)+Index(Patent)”が最も提案手法

比較手法

上限手法

MAP 値

Index(Paper)*Index(Patent)

0.2230Index(Paper)+Index(Patent)

0.2596

SMT(Paper)+Index(Patent)

0.2897

SMT(Paper)+SMT(Patent)

0.2826

SMT(Paper)

0.2777

SMT(Patent)

0.2507

Index(Paper)

0.2433

Index(Patent)

0.2373

日本語サブタスク ( 理想的な翻訳 )0.3267

表2182

実験結果

寄稿集
検索の高効率化と精度向上
高い MAP 値を得た。

3

日本語表題：サンドブラスト法によるカラー PDP
蛍光面の試作4.3

考察

日本語概要：PDP の大型化、高精細化においてス【表 3】に、フレーズテーブルを用いた英語索引の翻クリーン印刷による障壁形成は、種々の問題点を有訳結果を示す。表は、NTCIR-7 特許マイニングタスクする。我々は、この障壁形成プロセスを検討した結言語横断（E2J）サブタスクのトピック番号 351（【図果、サンドブラスト法による新規形成プロセスを見3】）から生成された英語索引から、論文用および特許いだし、大型 PDP、高精細 PDP の障壁形成に有用翻訳システムのフレーズテーブルを用いて日本語に翻訳した結果の一部である。また、参考までに、【図 5】に、論文の著者自身が作成したトピック番号 351 の対訳データを示す。

効であることを確認した。また、障壁壁面に反射型蛍光面を形成することにより輝度効率の向上が期待される。我々は、サンドブラスト法の検討を進めることにより、この手法が上記の反射型蛍光面の形成にも有効であることを確認し、8 インチ DC 型

この表において、たとえば“screen”という用語は論文用のフレーズテーブルを用いた場合には「スクリーカラー PDP を試作し、従来の透過型蛍光面を有するカラー PDP と比較検討を行った。

ン」、特許用のフレーズテーブルを用いた場合には「画図5面」と翻訳されている。一般的には「スクリーン」と「画日本語論文データの例

面」は同義語であるが、統計的に見れば、論文では「ス限 以 外 の 手 法 で 最 も 高 い MAP 値 を 得 たクリーン」、特許では「画面」と表記する可能性が高い“SMT(Paper)+Index(Patent)”が、どの程度実用にと考えられる。実際、【図 5】における著者自身が作成耐えうる物かを調べるため、上位 n 件の再現率を調べした日本語論文内でも「スクリーン」という用語が使用た。ここで、再現率 (Recall) は以下の式により定義さされている。

れる。

提案手法の実用性
最 後 に、 提 案 手 法 の ひ と つ で あ り、 上
結果を【表 4】に示す。この結果より、上位 10 件で英語索引

論文用翻訳システムのフレーズテーブル

特許用翻訳システムのフレーズテーブル

screenスクリーン

画面display

ディスプレイ表示

high resolution高分解能

高解像度

inner wall

ひだの集中内壁

結果は、特許の検索初心者にとってはある程度有効であinner

内部インナーると考えられる。一般に、特許を効率的に検索するため

resolution

分解能

解像度には、検索キーワードに加え IPC などの特許分類コー

barrier

障壁バリアドも併用される。しかし、検索初心者にとって、適切な表32 種類のフレーズテーブルを用いた英語索引の翻訳結果

約 40%、上位 100 件で約 70% の IPC コードが正しく付与できていることが分かる。特許と論文を対象にした技術動向分析の支援を行うためには、上位 1 位における再現率のさらなる向上が必要であるものの、今回の特許分類コードの選択そのものが困難であり、これには183ある程度の技術と経験が必要とされる。このような場成する手法と、論文用翻訳システムを用いて英語論文を合、ユーザが本システムに調べたい分野の論文を入力す

和訳した後、日本語索引を作成する手法を組み合わせたれば、その論文と関連する IPC コードが列挙される。

場合（“SMT(Paper)+Index(Patent)”）に、最も高【表 4】から、ユーザが結果の上位 20 件まで見れば、い MAP 値：0。2897 が得られた。この値は、論文用50% 以上の確率で該当する IPC コードが得られること

翻訳システムを単体で用いた場合（“SMT(Paper)”）

から、特許検索初心者に対する IPC コードを用いた特よりも高く、今回提案した 2 種類の翻訳システムを用

許検索の敷居をある程度下げる効果があり、検索支援にいた分類手法が、ジャンルの異なる分類体系への文書分つながると思われる。

類に有効であることが実証された。
(SMT(Paper)+Index(Patent))

順位

Recall10.110 ( 226/2051)

20.169 ( 347/2051)

30.215 ( 440/2051)

40.250 ( 512/2051)

50.277 ( 567/2051)

100.377 ( 774/2051)

200.467 ( 958/2051)

500.597 (1224/2051)

100

0.673 (1381/2051)

500

0.728 (1494/2051)

10000.728 (1494/2051)
表4

上位 n 件の再現率

6 謝辞
本研究では、NTCIR-1、 2 の言語横断検索タスクおよび NTCIR-7 の特許マイニングタスクのデータを利用させていただいた。

参考文献[Fujii 2007] Fujii, A., Iwayama, M., and Kando,
N.: Overview of the Patent Retrieval Task
at NTCIR-6 Workshop, Proc. the 6th NTCIR
Workshop Meeting, pp. 359-365 (2007).
[Fujii 2008] Fujii, A., Utiyama, M., Yamamoto,
M. and Utsuro T.:

Overview of the PatentTranslation Task at the NTCIR-7 Workshop,

5 おわりにEvaluation of Information Access Technologies:

本研究では、2 種類の翻訳システムを用いた学術論文

Cross-lingual Information Access}, pp. 389-400

Proc. the 7th NTCIR Workshop Meeting on

Information Retrieval, Question Answering andの国際特許分類への自動分類手法を提案した。提案手法(2008).の有効性を検証するため、第 7 回 NTCIR ワークショッ[Iwayama 2005] Iwayama, M., Fujii, A., andプ特許マイニングタスクのデータを用いて実験を行っ

Kando, N.: Overview of Classification Subtask

た。実験の結果、入力された英語論文から英語索引を作

at NTCIR-5 Patent Retrieval Task, Proc. the 5th

成した後、特許用フレーズテーブルを用いて索引語を作

NTCIR Workshop Meeting (2005).

184寄稿集検索の高効率化と精度向上

3[Iwayama 2007] Iwayama, M., Fujii, A., andKando, N.: Overview of Classification Subtask
at NTCIR-6 Patent Retrieval Task, Proc. the 6thNTCIR Workshop Meeting (2007).
[Nanba 2007] Nanba, H.: Query Expansion using
an Automatically Constructed Thesaurus, Proc.
the 6th NTCIR Workshop Meeting, pp. 414-419(2007).
[Nanba 2008:a] Nanba, H., Fujii, A., Iwayama,M., and Hashimoto, T.:

Overview of the Patent

Mining Task at the NTCIR-7 Workshop, Proc. the7th NTCIR Workshop Meeting on Evaluation ofInformation Access Technologies: InformationRetrieval, Question Answering and Cross-lingual
Information Access, pp. 325-332 (2008).
[Nanba 2008:b] Nanba, H.: Hiroshima City
University at NTCIR-7 Patent Mining Task.
Proc. the 7th NTCIR Workshop Meeting on
Evaluation of Information Access Technologies:
Information Retrieval, Question Answering andCross-lingual Information Access, pp. 369-372(2008).

185