同義語抽出手法を利用した論文用語の特許用語への自動変換
難波英嗣
広島市立大学

竹澤寿幸
広島市立大学

内山清子
国立情報学研究所

相澤彰子
国立情報学研究所

事集合中での出現頻度と特許中での出現頻度の違いを考慮して単語の重み付けを行うことで、ジャ近年、学術情報量が爆発的に増加し、専門家はンルを横断した文献の対応付けを行っている。し自分の専門分野の最新動向を把握するために、絶かし、この方法は、たとえば「磁気記録媒体」のえず膨大な量の文献を読まなければならない状況ように特許中では一般的に使われるが論文中ではに直面している。また、研究分野の専門分化に伴まったく使われない用語に対しては適用できない。
い、ある分野の知識を得るために、さらに複数のこの問題に対し、難波ら[難波 2009:a]は、論文別の分野についても知らなければならないという用語を特許用語に自動変換する手法を提案していことも、もはや一般的になりつつある。バイオテる。例えば、論文用語「フロッピーディスク」をクノロジー、半導体、情報科学のように研究・開
特許用語「磁気記録媒体」に自動変換される、し発・製品化のサイクルが非常に短い分野では、論文だけでなく、特許等、他のジャンルの文献 にも かし、この手法は、論文用語をユーザが 1 語ずつ入力することを前提としており、どの語を変換す注意を払う必要がある。しかし、特許では権利範るかは、ユーザの判断に委ねられている。一般に、囲をなるべく広く確保するため、一般性の高い特論文中には特許用語に変換する必要のない語も含許用語を用いて記述する傾向がある。このため、まれている。詳細は後述するが、本タスクのよう単純に表層的な単語の一致度を見るだけである従に、学術論文を入力とし、国際特許分類(IPC)に自来の検索モデルでは、同じキーワードで特許デー動分類する場合には、論文中のどの語を変換し、タベースと論文データベースを検索しても、用語どの語を変換しないかを別途決定する必要が出ての使われ方の違いから、そのキーワードに関するくる。また、この手法は、日本語以外の言語への論文や特許を十分に収集できるとは限らない。そ拡張が容易でない、という問題もある。
こで、本研究では、同義語抽出手法を利用し、論論文用語の特許用語への自動変換に関連するこ
文用語を特許用語に自動的に変換する手法を提案の他の研究に難波らのものがある[難波 2009:b]。
する。また、文書分類実験により、その有効性をこの研究では、日本語で記載された特許データを確認する。
本論文の構成は以下のとおりである。次節では、 訓練用データとして用いて英語論文を IPC に自動分類することを目的とし、特許用および論文用の関連研究について述べる。3 節では、同義語抽出
2 種類の機械翻訳システムを用いた分類手法を提手法を利用した論文用語の特許用語への自動変換案している。一般に、特許と論文では使われる用手法を提案する。4 節では、提案手法の有効性を語が違うことから、入力された論文を翻訳する際、調べるために行った実験について述べる。最後に特許用の翻訳システムは、論文用のものと同等の5 節で本論文をまとめる。
翻訳精度が期待できない。しかし、特許用システ
2. 関連研究ムによる翻訳結果に特許用語が数多く含まれていジャンル横断検索や文書分類に関しては、これれば、文書分類の段階での精度向上が期待できるまでにいくつかの先行研究がある。NTCIR-3 で実 ため、総合的に見れば特許用翻訳システムを用い施された技術動向調査タスク[Iwayama 2002]でるメリットがあると考えられる。そこで、難波らは、与えられた新聞記事と関連する特許を検索すは、入力された英語論文を、2 つの翻訳システムる、という課題が設定された。このタスクにおいを用いて和訳し、その結果を統合して索引を作成て、Itoh ら[Itoh 2002]は、“Term Distillation”と することにより、1 つの翻訳システムを用いる場いう手法を提案している。例えば、「社長」という 合と比べ、学術論文の分類精度が向上することを単語は新聞記事中では高頻度で出現するが、特許実証している。この研究は、理想的な翻訳を介し中では出現頻度が非常に低い。このため、「一般的 た論文用語の特許用語への変換に関するひとつのな用語ほど重要ではない」という考えに基づいてアプローチととらえることができるが、本研究で単語の重要度を計算する tf*idf などの手法を用い は、このような理想的な翻訳を利用しない点で、ると、同じ単語でも新聞記事と特許では重要度が難波らの研究と比べ、より難しい課題と考えられ大きく異なる。そこで、Itoh らは、単語の新聞記 る。

1. はじめに

特許と論文を対象にした情報アクセスに関するこの他の研究として、NTCIR-7 および NTCIR-8
特 許 マ イ ニ ン グ タ ス ク [Nanba 2008, Nanba
2010]が挙げられる。これは、特許と論文を対象にした検索や動向分析など、様々な目的に利用可能な言語処理技術の開発を最終目標とした研究プロジェクトであり、
NTCIR-7 および NTCIR-8 では、学術論文を IPC に自動分類するタスクを設定してい る 。上 述の 難波 らの 研究 [ 難 波 2009:b] は 、
NTCIR-7 のデータセットを用いたものであり、本研究でも、このデータを実験に用い、提案手法の有効性を検証する。
特許と論文を対象としたこの他の研究として、TREC Chemistry Track1が挙げられる。これは、評価ワークショップ TREC において 2009 年より新しく始まったタスクのひとつであり、化学分野の論文と特許に特化したジャンル横断検索を目的としている。

3. 同義語抽出手法を利用した論文用語の特許用語への自動変換
本節では、同義語抽出手法を利用した論文用語の特許用語への変換手法を 2 種類提案する。
3.1 統計翻訳技術を用いた用語の変換「磁気記録媒体」の英訳が“magnetic recordingmedium”、「磁気記憶媒体」の英訳も“magneticrecording medium”であるとき、英訳が共通である「磁気記録媒体」と「磁気記憶媒体」は同義語であると考えられる。この考え方に基づき、統計的機械翻訳技術を用いて自動的に獲得された翻訳
モ デ ル か ら 同 義語 を 抽 出 し、 情 報 検 索の 際 のquery expansion に用いたり[海野 2008]、機械翻訳[Kauchak 2006]や自動要約の評価[Zhou 2006,
平原 2009]に利用したりする研究が近年行われるようになってきている。ここで、論文用翻訳モデルにおいて“high resolution”と「高分解能」が、特許用翻訳モデルにおいて“high resolution”と“高解像度”とがそれぞれ対応付けられている場
合、論文用語「高分解能」を特許用語「高解像度」に変換できるはずである、というのが、基本的な考え方である。
3.2 分布類似度を用いた用語の変換
文書中から自動的に同義語を抽出するこの他の手法として、分布類似度を用いた手法がある[相澤2008]。この手法は、文書集合中で、「ある用語がどの語と何回係り受け関係にあるか」(以後、共起語ベクトル)により、その用語の意味を表現し、係り受け関係にある語の一致度に応じて、用語と用語の意味的な類似度を数値化する手法である。この考え方に基づき、あらかじめ、共起語ベクトル(係り受け関係にある語およびその頻度のリスト)を、論文データベース、特許データベースから、それぞれ作成しておくことにより、論文用語を特許用語に変換することができる。例えば、以下の例のように、論文データベース中の「フロッピーディスク」の共起語ベクトルと特許データベース中の「磁気記録媒体」の共起ベクトルの一致度が高い場合、論文用語「フロッピーディスク」は特許用語「磁気記録媒体」に変換される。
フロッピーディスク(論文用語)
3 に_書き込む
2 に_収める
2 に_取り込む
1 は_読み取る

4. 実験
提案手法の有効性を調べるため、実験を行った。
4.1 実験方法
タスク
本研究では、NTCIR-7[Nanba 2008]特許マイニ
ングタスクにおける学術論文分類サブタスクのデータを用いて実験を行った。このタスクでは、入力された学術論文(論文表題と概要)を IPC に自動的に分類することを目的としている。IPC は、特許文献の技術内容によって上から順に「セクション」、「クラス」、「サブクラス」、「メイングループ」、「サブグループ」の 5 階層から構成・分類されており、国際特許分類第 6 版ではサブグループのレベルで約 50,0002の IPC コードが存在する。本課
題では、「サブクラス」、「メイングループ」、「サブグループ」レベルの IPC コードを論文抄録に付与することを目的とする。
評価用データおよび評価尺度
評価用データには、879 論文に人手で「サブクラス」、「メイングループ」、「サブグループ」レベルで IPC コードを付与したものを、評価尺度は、MAP (Mean Average Precision)を、それぞれ用いた。なお、評価用データには、1 論文あたり平均2.2 個の IPC コードが付与されている。
学術論文分類システム
IPC のコード数はサブグループレベルで 30,855
2

1

https://wiki.ir-facility.org/index.php/TREC_Chemistry_Track

磁気記録媒体(特許用語)
4 に_書き込む
2 を_作る2 は_読み取る
1 を_傷つける

NTCIR-7 特許マイニングタスクでは、これらのうち、学術分野とは関連性の低い分野を除外した 30,885 の IPC コード(サブグループレベル)を対象としている。

個と非常に多く、さらに、訓練用データ(1993～2002 年の公開公報。各公報にはひとつ以上の IPCが人手で付与されており、これを分類の際の訓練用データとして用いる)も約 350 万件と膨大である。このため、本研究では、自然言語処理分野における分類問題では一般的な機械学習は莫大な計算コストがかかると判断し、代わりに k-NearestNeighbor（k-NN）法を採用した。
以下、k-NN 法に基づいた学術論文の分類システムについて述べる。まず、学術論文から内容語(名詞句、動詞、形容詞)を抽出して索引を作成する。
次に、この索引に対応する IPC コードを、以下の手順で自動的に付与する。
1. 入力クエリ（索引）に対して特許検索システ
ムを用いて検索し、上位 170 件の結果を得る。
2. 手順 1 で得られた各特許に付与された IPC コードを獲得する。
3. 以下の式に基づいて IPC コードをランク付けし、出力する。
Score X =検索された各特許の、入力クエリとの類似度

分布類似度
特許用共起語ベクトルの構築には、1993～2002
年の公開公報約 6 億文、論文用には、NII-ELS の日本語論文概要約 60 万文を用いた。また、構文解
析には CaboCha を用いた。
比較手法
以下に示す 6 種類の提案手法および 1 種類のベースライン手法を用いて、比較実験を行った。
提案手法
 SMT_ABST: PAPER(ベースライン)手法をABST モデルで拡張
 SMT_ABST+IDF: SMT_ABST 手法において、IDF 値の低い論文用語は特許用語に変換しない SMT_TITLE: PAPER 手法を TITLE モデルで拡張
 SMT_TITLE+IDF: SMT_TITLE 手法において、IDF 値の低い論文用語は特許用語に変換しない DS:分布類似度を用いた用語変換
 DS+IDF: DS 手法において、IDF 値の低い論文用語は特許用語に変換しない

ここで、X は IPC コード、n は検索結果上位 170
件の中で X が付与されている特許数を示す。
なお、 ベースライン手法
170 という値は、NTCIR-7 特許マイニングタスク  PAPER (ベースライン): 論文表題+概要中のドライランデータを用いて決定した。
用語をそのまま利用提案手法による索引の変換
4.2 結果上記手順 1 の入力クエリ(索引)を、3.1 節および実験結果を表 1 に示す。表から分かるとおり、3.2 節で述べた手法で特許用語に変換する。ここで、 統計翻訳技術を用いた用語変換手法は、サブグル「研究」や「手法」など、論文中で一般的に使わープおよびメイングループレベルでの分類で、分れる(分類に寄与しない)用語を変換の対象にする 布類似度を用いた手法は、サブクラスレベルでのと、かえって分類精度を低下させる可能性がある。 分類で、ベースライン手法を上回っている。
そこで、各索引語の IDF 値が閾値以上のもののみを変換の対象とした場合(以後、IDF)と、すべての 表 1 「サブクラス」、「メイングループ」、「サブグ
索引語を変換の対象とした場合の 2 種類で実験を ループ」レベルにおける提案手法およびベースラ行う。
イン手法の MAP 値手法
サ ブ グ メインサブ翻訳モデル
グループ
ループクラス
特許用翻訳モデル構築用のデータとして
SMT_ABST
0.37860.5186
0.6691NTCIR-7 特許翻訳タスク[Fujii 2008]で配布され
SMT_ABST+IDF
0.3812 0.5197 0.6709ている約 1,800,000 対の日英対訳文を、論文用翻
SMT_TITLE
0.3797 0.5208 0.6688
訳モデル構築用には NII-ELS 論文データベース
SMT_TITLE+IDF
0.3799 0.5204 0.6710
から抽出した 1,763,217 対の日英論文表題(以後、DS
0.3793 0.5182 0.6717
TITLE モデル)を、それぞれ用いた。この他、
DS+IDF
0.3794 0.5175 0.6744
NII-ELS の概要から抽出した 600,000 対の日英PAPER (baseline)
0.3792 0.5185 0.6720
対訳文からも論文用翻訳モデル(以後、ABST モデル)を構築した。また、翻訳モデル構築のためのツ 4.3 考察ールとして、GIZA を用いた。
IDF の有効性について
6 種類の提案手法のうち、IDF を用いたものと用いないものを比較すると、メイングループレベ
ルで一部若干の逆転があるものの、概ね、IDF を用いた手法が良好な結果が得られている。このことから、一般性の高い論文用語は特許用語に変換しない方が良いと言える。

情報処理学会 自然言語処理・音声言語情報処理
合同研究会，NL-191 / SLP-76，(2009)．
[Itoh 2002] Itoh, H., Mano, H., and Ogawa, Y.:
Term Distillation for Cross-DB Retrieval,
Proc. Working Notes of the 3rd NTCIR
Workshop Meeting, Part III: Patent Retrieval
2 種類の変換手法について
Task (2002).
索引の特許用語への変換結果を確認したところ、 [Iwayama 2002] Iwayama, M., Fujii, A., Kando,
統計翻訳技術を用いた変換手法では、同義語に変and N., Takano, A.: Overview of Patent
換されるのに対し、分布類似度を用いた手法では、Retrieval Task at NTCIR-3, Proc. Working
Notes of the 3rd NTCIR Workshop Meeting,
索引語と共通の性質を持つ関連語や類義語などにPart III: Patent Retrieval Task (2002).
変換される傾向にあることが分かった。前者は、[Kauchak 2006] Kauchak, D. and Barzilay, R:
より狭い範囲の関連特許の収集に、後者は前者よParaphrasing for Automatic Evaluation, Proc.
りも広い範囲の特許の収集に向いていると言える。
2006
Human
LanguageTechnology
実際、統計翻訳技術を用いた用語変換手法は、サConference of the North American Chapter of
ブグループおよびメイングループレベルでの分類
the Association for Computational Linguistics
で、分布類似度を用いた手法は、サブクラスレベ(HLT-NAACL), pp.455-462 (2006).
ルでの分類で、ベースライン手法の分類精度を向[Nanba 2008] Nanba, H., Fujii, A., Iwayama, M.,
上させるのに有用であることは、すでに 4.2 節でand Hashimoto, T.: Overview of the Patent
述べたとおりである。
Mining Task at the NTCIR-7 Workshop, Proc.
the 7th NTCIR Workshop Meeting, pp.325-332
5. おわりに(2008).
本研究では、2 種類の同義語抽出手法を利用し[難波 2009:a] 難波英嗣，釜屋英昭，竹澤寿幸，た論文用語の特許用語への自動変換手法を提案し
奥村学，谷川英和，新森昭宏: 特許用語の論文た。また、提案手法の有効性を確認するため、用語への自動変換，情報処理学会論文誌データ
NTCIR-7 特許マイニングタスクのデータを用い、ベース，Vol.2，No.1，pp.81-92 (2009).
学術論文を IPC に自動分類する実験を行った。実[難波 2009:b] 難波英嗣，竹澤寿幸: 2 種類の翻訳
験の結果、統計翻訳技術を用いた変換手法
システムを用いた学術論文の特許分類体系への(SMT_ABST+IDF)はサブグループレベルでベー
自動分類，情報処理学会論文誌データベース，スライン手法の MAP 値を 0.0020、分布類似度をVol.2，No.3，pp.76-86 (2009).
用いた手法(DS+IDF)はサブクラスレベルでベー[Nanba 2010] Nanba, H., Fujii, A., Iwayama, M.,
スライン手法を 0.0024 向上できることが確認さ
and Hashimoto, T.: Overview of the Patent
れた。
Mining Task at the NTCIR-8 Workshop". Proc.
the 8th NTCIR Workshop Meeting (2010) (to参考文献appear)[相澤 2008] 相澤彰子: 大規模テキストコーパス[海野 2008] 海野裕也, 宮尾祐介, 辻井潤一: 自を用いた語の類似度計算に関する考察，情報処
動獲得された言い換え表現を使った情報検索，
理 学 会 論 文 誌 ， Vol.49, No.3, pp.1426-1436
言語処理学会第 14 回年次大会，pp.123-126(2008).
(2008).
[Fujii 2008] Fujii, A., Utiyama, M., Yamamoto,[Zhou 2006] Zhou, L., Lin, C.-Y., Munteanu,D.S.,
M. and Utsuro T.: Overview of the Patentand Hovy, E: ParaEval: Using Paraphrases toTranslation Task at the NTCIR-7 Workshop,
Evaluate Summaries Automatically. Proc.
Proc. the 7th NTCIR Workshop Meeting on2006HumanLanguage
Technology
EvaluationofInformation
AccessConference of the North American Chapter ofTechnologies: Information Retrieval, Question
the Association for Computational Linguistics
Answering and Cross-lingual Information(HLT-NAACL), pp.447-454 (2006).
Access, pp.389-400 (2008).
[平原 2009] 平原一帄，難波英嗣，竹澤寿幸，奥村学: 言い換えを用いたテキストの自動評価，