F タームに基づいたオントロジーの構築
福田悟志†1難波英嗣 †1
竹澤寿幸†1乾孝司†2
岩山真†3
橋田浩一†4藤井敦†5†1 広島市立大学大学院 情報科学研究科†2 筑波大学大学院 システム情報工学研究科†4 東京大学大学院 情報理工学系研究科

1.

はじめに

本稿では，特許データベースから様々な文献に利用できるようなオントロジーを構築する手法について述べる．オントロジーとは，文献の検索や高度な言語処理に重要な情報源である．しかし，オントロ
ジーを人手で構築し，更新することは非常にコストがかかる．一方で，テキストデータベースからシソーラスやオントロジーを自動構築する様々な手法が提案されているものの，人手による構築作業に取って代わるレベルまでには至っていない．そこで本稿
では，最小減の労力で効率的にオントロジーを構築する枠組みについて述べる．
オントロジーを効率的に構築するため，我々は特許分類コード体系のひとつである F タームに着目す
る．F タームとは，特許を目的・利用分野・材料といった様々な観点から分類することを目的として日本国特許庁が構築した特許の分類体系のひとつである．
F タームの詳細については 3 節で述べるが，実は，Fタームの構造そのものがオントロジーに近い体系になっている．そこで本研究では，F タームの体系をオントロジーの構築に流用する．これをベースに，ブートストラッピング法と機械学習を組み合わせた手法を用いて，特許との親和性を保持しながら，学術論文など他のジャンルの文献にも利用可能なオント
ロジーの構築を目指す．
本論文の構成は以下のとおりである．次節では，関連研究について述べる．3 節では，F タームに基づくオントロジー構築手法を提案する．提案手法の有効性を確認するために行った実験について 4 節で報告し，5 節で本論文をまとめる．

2.

関連研究

2.1. 用語間関係の判別
大量のテキストデータから用語間の関係を判別す
る手法はこれまでに数多く提案されている．一般的†3 日立製作所 中央研究所†5 東京工業大学 情報理工学研究科に，論文や特許などのテキストベースを対象とする
場合，X を上位語，Y を下位語とした時，「Y などの(等の)X」といった定型表現を用いる手法が一般的である[1, 2, 3, 4]．上記の定型表現を用いることで，Xと Y は上位下位関係であることを判別することができる．この他にも，安藤ら[5]は，「Y という X」「Yのような X」「Y といった X」などのパターンも上位
下位関係を判定するために有用であることを分析している．Kozareva ら[6]は，「X such as Y」「X are Y that」「X including Y」「X like Y」「such X as Y」という 5
種類の上位下位関係を表す表層パターンを用いることで，X と Y の位置関係を判別している．しかし，大量のテキストデータを対象に様々な用語対を判別する場合，上記で述べたパターン以外にも有用なものは数多く存在すると考えられる．また上位下位関係以外の様々な関係(例：部分全体関係)においても有用な判別パターンが存在すると考えられるが，これらを網羅的に人手で収集することは困難である．そのため本研究では，ブートストラッピング法[7, 8]により，複数の用語間関係を判別するために有用なパターンを網羅的に収集する．

2.2. ブートストラッピング法
本研究では，シードインスタンス集合を入力とした，パターン抽出とインスタンス抽出の 2 つのフェーズを繰り返すブートストラッピング法を考える．
シードとして(X, Y)を与えた場合，パターン抽出フェーズにおいて，X と Y に挟まれているパターンを抽出する．そして，抽出したパターン集合から，「Y な
どの X」のようにインスタンスと共起しやすいパターンをいくつか選択する．インスタンス抽出フェー
ズでは，選択したパターンと共起するインスタンスを獲得する．そして，獲得したインスタンス集合か
らいくつか選択し，再びパターンを抽出する．このような処理を，停止条件が満たされるまで繰り返す．

本研究では，上位下位，部分全体，定義域属性関係という 3 種類の関係を対象に，そのカテゴリに属する新たな用語対を抽出することを目的としている(3.1 節で詳しく述べる)．このように複数のカテゴリを対象とした場合，特定のカテゴリに属するいくつかの用語対をシードとして用いる事が一般的である．
複数のカテゴリを対象にしたブートストラッピン
グ法によるパターン・インスタンスの獲得を行う研究は数多く存在する．Krishnan ら[9]は，医学分野の特許文書集合を対象に，ブートストラッピング法を用いることで用語間の Treatment 関係(例：「A cure B」)と Causal 関係(例：「A impact B」)を表す動詞(句)を抽出している．小町ら[10]および伊藤ら[11]は，Tchai
アルゴリズムと呼ばれるブートストラッピング法を用いて，旅行，金融，番組名，芸能人などのカテゴ
リを対象に，Web 検索履歴から関連性の高いキーワ
ード群を抽出している．Abe ら[12]は，動名詞を伴う
複数の事態間関係(行為効果関係，部分全体関係)を収集するために，ブートストラッピング法を用いている．また，Kiso ら[13]は，ブートストラッピング法における重要な問題の一つである「各カテゴリにおける良質な(シード)インスタンスをどのように発見するのかa」を，HIS アルゴリズム[14]と組み合わせることで解決している．
上記で述べた研究におけるアプローチは全てEspresso アルゴリズム[15]に基づいている．これは，近年注目されている非常に精巧なブートストラッピ
ング法のひとつである．次節では Espresso アルゴリ
ズムの詳細を述べる．

2.3. Espresso アルゴリズム
公開公報から新たな用語間関係を収集するためのブートストラッピング法として，本研究では Espresso
アルゴリズムを適用する．Espresso アルゴリズムは，
少量のシードインスタンスを用いて反復的に表層パターンの抽出を行い，多くの新たなインスタンスを収集する手法である．このアルゴリズムでは，従来のブートストラッピング法で問題となっていた意味
ドリフトを考慮している．意味ドリフトとは，反復過程において複数のカテゴリで出現するようなパターン(ジェネリックパターン)やインスタンスを獲得
してしまい，徐々にシードと関連性の低いものに移り変わっていく現象である．従来では，ジェネリッ
クパターンを排除することで意味ドリフトを抑えることを行っていたが，獲得できるインスタンスの数が減少するという問題が新たに発生し，その結果，a

一般的には，特定のカテゴリ内で頻出するものを選択する方法，
人手により選別する方法，ランダムに選択する方法が挙げられる．

精度は高いが再現率が十分でないという欠点があった．このような意味ドリフトによる問題を軽減する
ために，Espresso アルゴリズムでは，スコアリング関数を用いて相互再帰的にインスタンスとパターンのスコアを定義している．これは，信頼度の高いパターンと頻繁に共起するインスタンスは信頼度が高く，信頼度の高いインスタンスと共起するパターンは非
常に信頼性があるという考えに基づいている．パターン p およびインスタンス i ( 𝑖 = {𝑥, 𝑦} (x,y: イン
スタンスにおける用語))のスコアをそれぞれ𝑟𝜋 (𝑝)，𝑟𝚤 (𝑖)とした時，以下の式を用いて信頼度を計算する．
𝑟𝜋 (𝑝) =1
𝑝𝑚𝑖(𝑖, 𝑝)
∑
𝑟 (𝑖)
|𝐼|
max 𝑝𝑚𝑖 𝚤

(1)

𝑖∈𝐼

𝑟𝚤 (𝑖) =1
𝑝𝑚𝑖(𝑖, 𝑝)∑𝑟 (𝑝) (2)|𝑃|
max 𝑝𝑚𝑖 𝜋𝑝∈𝑃|𝑥, 𝑝, 𝑦|(3)|𝑥,∗, 𝑦 || ∗. 𝑝,∗ |ここで，P はパターン集合，I はインスタンス集合であり，|P|と|I|はパターンとインスタンスの数を表す．
|𝑥, 𝑝, 𝑦 |はインスタンスを伴うパターン p の頻度を表している．また， |𝑥,∗, 𝑦 | はインスタンスの頻度，| ∗. 𝑝,∗ |はパターンの頻度を表す．pmi(i,p)はインスタ
ンスとパターン間の自己相互情報量(PMI: Pointwise
Mutual Information)を表しており，max pmi は全てのインスタンスとパターンの組み合わせの間におけるpmi の最大値である．なお，𝑟𝜋 (𝑝)，𝑟𝚤 (𝑖)の初期値はそれぞれ 1 である．
Espresso アルゴリズムでは，反復過程において(1)式と(2)式を適用することで，精度を高く保ちながら再現率を大幅に向上させ ている．本研究では，
Espresso アルゴリズムによるブートストラッピング法を用いることで，特許との親和性を保持した新たな用語間関係を獲得することを目指す．
𝑝𝑚𝑖(𝑖, 𝑝) = log

2.4. 機械学習による関係判別
Espresso アルゴリズムを用いることで，シードイン
スタンスとの関連性の高いパターンを獲得することができるが，獲得したパターンを用いてインスタンスを抽出する場合，特定のカテゴリに特化したようなインスタンスが必ず獲得されるとは限らない．例
えば，上位下位関係のカテゴリに属するシードイン
スタンスを用いて「Y といった X」というパターンが獲得されたとする．このパターンを用いて新たなインスタンスを獲得する場合，「キーボードといった入力装置」という文から(入力装置，キーボード)というインスタンスが獲得されるが，「キーボードといった入力部」という文が存在する場合，(入力部，キーボード)というインスタンスが抽出される．このインスタンスは，部分全体関係にあるものと考えられる
ため，上位下位関係のカテゴリから除去する必要があるが，収集した全てのインスタンスを人手で判定することは困難である．
Girju ら[16]は，C4.5 と呼ばれる分類器を用いてインスタンスを分類する手法を提案している．この手法では，Iterative Semantic Specialization (ISS)手法により，パターンによる分類ルールを学習しており，高い精度と再現率を示している．しかし，訓練用デー
タの作成に多大なコストを要しており，人手によるタグ付けを行う必要がある．また，対象としている
用語間関係が部分全体関係のみである．本研究では，
F タームにおける複数の用語間関係を対象としており，ブートストラッピング法により獲得した複数のカテゴリにおけるパターン集合を組み合わせて機械学習に適用することでインスタンスの判別を行う点で異なる．また，本研究で用いる訓練用データは，F
タームに基づいたオントロジーを用いるため，非常に信頼性が高いという点が挙げられる．

F タームに基づくオントロジーの構築

3.

本節では，F タームに基づくオントロジーの構築手法について述べる．本研究では，以下のステップによりオントロジーの構築を行う．


に示す「・多言語間」(AA01)や「・2 言語間」(AA03)といった F タームコードが存在する．F タームコード間で一般/具体関係がある時には，ドットレベル記法で表すことになっている．図 1 の例では，「翻訳方式」(BA11)の下位分類として「直接翻訳」(BA12)と「間接翻訳」(BA13)があり，さらに「間接翻訳」の下位分類には「トランスファー方式」(BA14)と「ピボット方式」(BA17)がある．
BA11
BA12
BA13
BA14
BA15
BA16
BA17

図 1 テーマ”5B091(機械翻訳)”の F タームコードの例

3.1.2. F タームからの知識抽出
本研究で構築するオントロジーでは，3 種類の用語間の関係「上位・下位」「属性・定義域・値域」「全体・部分」を扱う．図 1 のドットレベル記法では明示されていないこれらの関係を人手で判断し，図 2のような知識を獲得する．
関係 1

Step 1: F タームからの知識抽出
Step 2: Step 1 で得られた知識(用語間関係)をシードとして新たな用語間関係を獲得

関係 2
関係 3

各ステップにおける詳細を次節で述べる．

3.1.

F タームからの知識抽出

3.1.1. F タームとはF タームは，特許を目的・効果・構成などの様々な観点から分類することを目的とした分類体系であり，技術分野を示すテーマコードと観点の集合から構成される．ここでは，機械翻訳分野の F タームを例に説明する．機械翻訳には 5B091 という 1 つのテーマ
コードが，また「言語」(AA00)，「処理対象要素」(AB00)，「翻訳方式」(BA00)などの 9 個の観点が設けられている．ある機械翻訳システムについて考えた場合，そのシステムの対象言語は何か，どんな仕組みで翻訳するのか，などの属性が存在するが，これがそれぞれ「言語」(AA00)や「翻訳方式」(BA00)などの観点にあたると考えて良い．
F タームでは，観点が階層化されており，例えば，「言語」(AA00)という観点には，この観点を具体的

・翻訳方式
・・直接翻訳
・・間接翻訳・・・トランスファー方式
・・・・意味解析
・・・・・文脈解析
・・・ピボット方式

関係 4

関係 5

3.2.

属性: 方式
定義域: 機械翻訳
値域: 直接翻訳，間接翻訳
上位: 間接翻訳
下位: トランスファー方式
上位: 間接翻訳
下位: ピボット方式
属性: 利用技術
定義域: トランスファー方式
値域: 意味解析
属性: 利用技術
定義域: 意味解析
値域: 文脈解析
図 2 図 1 から得られる知識

F タームからの知識をシードとして利用した用語間関係の獲得

Step 1 で得られた知識(用語間関係)をシードとし，F タームオントロジーには存在しない新たな知識を
公開公報データベースから自動的に収集する．F ター
ムからの用語間関係をシードとして利用した用語間関係の獲得は，以下のステップから構成される．

Step 2-1: Espresso アルゴリズムによるパター
ン・インスタンスの獲得
Step 2-2: 機械学習による Step 2-1 で得られたインスタンスのクリーニング
Step 2-3: 新たなインスタンスが獲得されなくな
るまで Step 2-1，Step 2-2 を繰り返す

図 3 に上記のステップの流れを概略図として示す．
本手法におけるパターン，インスタンス獲得はパターンマッチを用いて行う．また，インスタンス抽出
フェーズでは，パターンの前後に存在する名詞(句)を抽出する．Step 2-1 および Step 2-2 における詳細を次節で述べる．

で，特許との親和性を保持しながら，特定の関係に属するインスタンスを獲得することができる．
ここで，F タームからのシードインスタンスを用いて獲得するパターンについて，「X<パターン>Y」と「Y<パターン>X」という 2 種類の組み合わせから，それぞれのパターンを抽出する．例えば，F タームにおいて上位下位関係を持つ(間接翻訳，ピボット方式)というシードインスタンスから，「ピボット方式<パ
ターン>間接翻訳」および「間接翻訳<パターン>ピボ
ット方式」という組み合わせにより，パターンをそれぞれ抽出する．この処理を他の 2 種類の関係においても適用するため，合計 6 種類のパターン集合が獲得される．その後，そのパターンを抽出した組み合わせからインスタンスを新たに抽出する．そのため，6 種類のインスタンスが獲得される．ここで，より精巧なパターンおよびインスタンスを獲得するた
めに，獲得されたパターン・インスタンスの選定を行う．具体的には，獲得したパターンまたはインス
タンス集合において，2 種類以上の関係に属するパターン(インスタンス)を除去する．これは，複数の関係に出現するパターンは，特定の関係のみに出現するインスタンスを発見する場合において有益でないと考えられるためである(インスタンスの選定においても同様)[17]．

機械学習による獲得したインスタンスのクリーニング
機械学習によるインスタンスの判別に対する概要を図 4 に示す．本研究では，各カテゴリにおけるシードインスタンスを用いて獲得したそれぞれのパターン集合を組み合わせて用語間の関係を判別する．
各セル内の値は，「Y<パターン>X」という表現が公開公報データベース中で何回出現しているかを示している．これらの値の組み合わせにより，各カテゴ
リにおいて収集したインスタンスの用語間が統計的に成立しているかどうかを機械学習により判断する．
機械学習による用語間関係の判別を行うときに重要となることは，カテゴリ間で収集したパターンをどのように組み合わせるかということである．本研
究では，各カテゴリにおいて獲得したパターンが他の同様の組み合わせによるカテゴリ内にどのくらい存在しているかを統計的に判定することに焦点を当てる．そのため，「下位－上位」「部分－全体」「属性－定義域」のカテゴリで収集したインスタンスの判定を行う場合には，これらのカテゴリ内で獲得したパターンを組み合わせる．同様に，「上位－下位」「全体－部分」「定義域－属性」のカテゴリにおけるインスタンスの判別では，これら 3 種類のカテゴリにおいて獲得されたパターンを組み合わせる．
3.2.2.

図 3 F タームからの知識をシードとして利用した用語間関係の獲得の概要

Espresso アルゴリズムによるパターン・イ
ンスタンスの獲得
Espresso アルゴリズムにおけるシードインスタン
スとして，本研究では，3.1 節で構築した F タームオ
ントロジーから特定の関係(上位下位，部分全体，定義域属性)に属する少数の用語対を用いる．そして，
そのインスタンス間に出現しているパターンを獲得
し，(1)式を用いてパターンの信頼度を計算する．次に，パターンの前後に出現する用語対をインスタン
スとして獲得し，パターンの信頼度と(2)式を用いてインスタンスの信頼度を計算する．その後，獲得されたインスタンスを用いてパターンを収集する．このように，F タームの体系を流用したインスタンスおよびパターンの抽出と信頼度の計算を繰り返すこと
3.2.1.

図 4 機械学習によるインスタンス内の用語間の関係
判別

3.3.

複数言語による用語間関係の判別

本アプローチの特徴は，言語に依存していないという点である．ブートストラッピングアプローチにおけるパターン抽出では，パターンマッチにより 2
つの用語間に存在するものを抽出しており，インス
タンス抽出では，パターンの前後にある名詞(句)を抽出している．また，機械学習アプローチでは，パターンとインスタンスの組み合わせの出現回数から統計的に用語間の関係を判別している．そのため，シードインスタンスとして用いる F タームを対象の言語に翻訳することで，様々な言語で記述された特許文書に対しても同様のアプローチを適用できると考えられる．
さらに，複数の言語を対象に，それぞれの抽出したパターンやインスタンスを比較することで，より正確な用語間の関係を判別することができると考えられる．例えば，「スマートフォン等の携帯端末」と「スマートフォン等のバッテリー」という文について考える．上記の 2 文は日本語公開公報に存在するため，(携帯端末，スマートフォン)だけでなく，(バッテリー，スマートフォン)に対しても上位下位関係が成立してしまう．しかし英語特許中に，「mobile
computers, such as smartphones」という文が存在し，「batteries, such as smartphones」が存在しない場合，(携帯端末，スマートフォン)は上位下位関係として成立するが，(バッテリー，スマートフォン)は上位下位関係でない確率が高くなると考えられる．
ここで，どのように複数の言語間を対応付けるのかについて考える．専門用語の訳語推定法について
は，統計的機械翻訳モデルを用いて専門用語の訳語を推定する手法および既存の対訳辞書を利用した要素合成法を併用して専門用語の訳語を推定する手法が提案されている[18]．本研究では，抽出したパターンやインスタンスを専門用語とみなしたとき，統計的機械翻訳モデルを用いる手法について着目する．
これは，統計的機械翻訳では，対象とする言語に関する文法的知識を必要としないため，容易に翻訳システムを構築することができるためである．また，

統計的機械翻訳ツールには GIZA++bを使用し，入力言語を日本語，出力言語を英語としたとき，約 90%の精度で翻訳することができると報告されている．
本研究でシードインスタンスとして用いた F ター
ムには日本語版を翻訳した英語版がある．これをブートストラッピングアプローチのシードインスタン
スとして用いる．そして 2 種類の言語(日本語，英語)
によるパターンとインスタンスをそれぞれ抽出する．
そして，統計的機械翻訳モデルにより，言語間のパ
ターンとインスタンスに対して対応付けを行う．その後，機械翻訳により，抽出したインスタンスの関係を判別する．このように，複数の言語による，より多くの根拠を利用することで，正確な用語間の自動判別を実現できると考えられる．

4.

実験

3 節で提案した手法のうち，各カテゴリにおけるシードインスタンスを用いて獲得したパターンと，機械学習によるインスタンスの判別の有効性を調べるために実験を行った．なお，本実験では，3.1 節と 3.2
節で述べた手法に対する実験のみを行った．

4.1.

実験方法

4.1.1. 実験条件
本実験のブートストラッピングアプローチにおける実験設定は以下のとおりである．


シードインスタンスとして，F タームコードリ
ストから，各カテゴリに属する 20 個の(名詞(句)で構成されている)用語対をそれぞれ人手で選択し，パターンを抽出する．
インスタンス抽出フェーズにおいて，ランク付
けされた上位 50 パターンを用いる．

本実験では，1 回目の反復により獲得したパターンとインスタンスを用いて提案手法の有効性を確かめる．また，機械学習に用いるパターンとして，Espresso
アルゴリズムによる信頼度によってランク付けされた各パターン集合から，それぞれ上位 100 パターンを使用した(表 1)．

4.1.2. 実験データ
本実験では，以下の 2 種類のデータを用いた．
b

日本国特許全文データ：公開公報 1993-2012 年(396,532 文書，約 14GB)

http://www.fjoch.com/GIZA++.html

表 1 機械学習に用いるパターンの例
下位<P>上位
部分<P>全体 属性<P>定義域
を行う
を格納する
を備える
等の他の
で構成された を提供する
といった
等からなる
を有することを特徴とするを保持するとして多用さ を備えたことを
れている
特徴とする
上位<P>下位
全体<P>部分 定義域<P>属性、すなわちに格納されて を実行する
いる
、例えば、
が有する
を実現する
を 用 い て い る には、複数の の基本的なが、システムにおけ が記憶するを行うように制る
御するF タームから獲得した用語間関係リスト：11,842
個 (102 テーマ)

特許全文データに関して，本研究では，情報分野に関連する IPC コード G06F，G06K，G06T，G11Cが付与されているデータを対象に実験を行った．これに関連し，上記の IPC コードを F タームのテーマの範囲に含むものを F タームリストから抽出を行った．その結果，F ターム全 2,790 テーマ中，102 テー
マが選出され，これらのテーマに関連する F ターム
コード 11,842 個が抽出された．
機械学習に用いる訓練用データとして，シードイ
ンスタンスを除いた F タームコードを使用した．機
械学習に用いるインスタンスにおいて，それぞれが名詞(句)のみで構成されているもののみを対象とした．その結果，上位下位，部分全体，定義域属性関係において，2,719 個，664 個，415 個の F タームコードを機械学習の素性に用いた．

4.1.3. 評価方法
評価用データは，以下の手順により作成した．
1.

2.

c

各カテゴリに対する反復過程においてランク付けされた 6 種類のインスタンス集合からそれぞれ上位 100 個および上位 500 件から 600 件までのインスタンスを選択するc．
各インスタンスに対して，そのカテゴリが表す関係として本当に正しいかどうか人手で判定する．

_上位に出現したインスタンスは一般的な表現のものが多く，下位にランク付けされた結果ほど特徴的なインスタンスが出現している傾向があった．そのため，各ランクの位置におけるインスタンスに対して，本手法がどのくらい性能を示すのかについて調査した．

評価尺度として，精度と再現率を用いた．また，機械学習を用いない場合をベースラインとする．

4.2.

実験結果

実験結果を表 2 に示す．ベースラインと比較すると，「下位－上位」「属性－定義域」「定義域－属性」
に関して，再現率を 70-80%程度に保ちながら精度を向上させていることがわかる．この結果から，機械学習による用語間関係の判別は有効であることがわかる．しかし，部分全体関係に関して，精度が向上しないまま再現率が大幅に低下している．これは，部分全体関係を判別するような特徴的なパターンが上位に出現していないからだと考えられる．また，
本実験では，機械学習に用いるパターンの数や組み合わせ方法，ブートストラッピングアプローチにおけるパラメータ(シードインスタンス数，インスタン
ス抽出に用いるパターンの数)を固定していたため，これらの最適な値の設定を調査する必要がある．最後に，本手法により獲得したパターンおよびインス
タンスを表 3 に示す．
表 2 実験結果
上位 1-100 件
下位<P>上位
上位<P>下位部分<P>全体
全体<P>部分
属性<P>定義域
定義域<P>属性
上位 500-600 件
下位<P>上位
上位<P>下位部分<P>全体
全体<P>部分
属性<P>定義域
定義域<P>属性

4.3.

提案手法
精度
再現率
0.576
0.792
0.526
0.788
0.500
0.314
0.698
0.448
0.973
0.706
0.893
0.848
提案手法
精度
再現率
0.513
0.848
0.400
0.829
0.417
0.227
0.529
0.383
0.857
0.732
0.700
0.672

ベースライン
精度
再現率
0.480
1.000
0.520
1.000
0.510
1.000
0.670
1.000
0.510
1.000
0.790
1.000
ベースライン
精度
再現率
0.460
1.000
0.410
1.000
0.440
1.000
0.470
1.000
0.410
1.000
0.470
1.000

考察

前節でも述べたように，機械学習によるインスタンスの判別性能をさらに向上させるためには，そのカテゴリに対するより特徴的なパターンを用いる必要があると考えられる．例えば，「を添付した」というパターンは「部分<パターン>全体」の組み合わせ
からのみ獲得できる特徴的なパターンであるが，Espresso アルゴリズムによる信頼度の値は低かった．
このような特徴的なパターンの信頼度を向上させるための方法として，情報利得を用いたリランキング
方法が考えられる．

表 3 本手法により獲得されたインスタンス
下位<P>上位
部分<P>全体
上位
1-100 件属性<P>定義域

上位：処理

上位：情報

全体：データ全体：テーブル

定義域：プログラ

定義域：処理

下位：送信

下位：アドレス

部分：タグ

部分：データ

ム

属性：手段

属性：機能

上位
500-600件
上位
1-100 件

上位：処理

上位：操作

全体：レジスタ

全体：テーブル

定義域：ＩＣカー

定義域：システム

下位：書き込み

下位：削除

部分：アドレス

部分：キー

ド

属性：構成

属性：手段
上位：入力装置

上位：処理

全体：テーブル

全体：キャッシュ

定義域：受信定義域：アクセス

下位：キーボード

下位：表示処理部分：ブロック

部分：アドレス

属性：受信手段

属性：手段

上位
500-600
件

上位：アドレス

上位：構成

全体：画面

全体：記憶部

定義域：情報処理

定義域：記憶下位：物理アドレ

下位：組合せ部分：検索結果

部分：テーブル装置

属性：記憶手段上位
1-100 件

上位：情報

上位：処理

全体：キーボード

全体：レジスタ

定義域：アクセス

定義域：アクセス

下位：電子メール

下位：取得

部分：キー

部分：値

属性：手段

属性：方法

上位
500-600件
上位
1-100 件

上位：情報

上位：情報

全体：メモリセル

全体：ＲＯＭ

定義域：アプリケ

定義域：認証

下位：識別情報

下位：識別情報アレイ

部分：制御プログ

ーション

属性：手段

部分：メモリセル

ラム

属性：機能

ス

属性：形態

上位<P>下位

全体<P>部分

定義域<P>属性

上位：不揮発性メ

上位：コンピュー

全体：チャネルＭ

全体：プリンタ

定義域：移行

定義域：バックア

モリタＯＳトランジスタ

部分：印刷データ

属性：手段

ップ

下位：フラッシュ

下位：サーバ装置

部分：ゲート

上位：情報

上位：情報

全体：フラッシュ

全体：制御部

定義域：リフレッ

定義域：ジョブ

下位：個人情報

下位：購入者

メモリ

部分：制御プログ

シュ

属性：要求

部分：ブロック

ラム

属性：手段

属性：機能

メモリ

上位
500-600
件

情報利得を用いることで，特定のパターンに対するカテゴリへの曖昧さ(エントロピー)を把握し，曖昧さが少ないパターンを選定することができると考えられる．表 4 に，3 種類のカテゴリ(「下位－上位，
部分－全体，属性－定義域」または「上位－下位，
全体－部分，定義域－属性」)を対象とした各カテゴ
リにおけるパターンのリランキング結果の例を示す．
なお，リランキング方法として，Espresso アルゴリズ
ムによる信頼度と情報利得値を掛け合わせ，値の高い順に並べ替えている．また，これらのパターンをインスタンス抽出フェーズに用いることで，Espresso
アルゴリズムによるパターン集合だけでは獲得できない特徴的なインスタンスを抽出することができると考えられる．

表 4 情報利得による各カテゴリ内のパターン集合のリランキング結果
下位<P>上位
部分<P>全体
属性<P>定義域
システムのとして添付された に よ り 生 成 さ
れた
手段の
を添付した
を通じて
に代わる
を除いた当該にて装置及びそのを除いた前記により、前記上位<P>下位
全体<P>部分
定義域<P>属性を行い、に添付されている を受け付ける部におけるに添付されたの構成を示すは従来のから分離されたの一実施例を示す手段によるに記憶されたの一実施例の

5. おわりに本研究では，特許データベースを対象に，ブート
ストラッピング法と機械学習を組み合わせた手法を提案した．本手法では，F タームに基づいたオントロ
ジーをシードインスタンスとして使用しており，特許との親和性を保持した新たな用語間関係を獲得できることを示した．また，本手法は言語に非依存である．今後は米国特許を対象とした実験を行い，統計的機械翻訳を用いて 2 種類の言語間を対応付けることで正確な用語間の自動判別を行うことを目指す．

参考文献
1.

2.

3.

4.

5.
6.

7.

8.
9.

10.

11.

12.

13.

14.

15.

16.

17.

Hearst, M.A.: Automatic Acquisition of Hyponyms from
Large Text Corpora, Proceedings of the 14th International
Conference on Computational Linguistics, pp. 539-545,
1992.
相澤彰子: 類語関係抽出タスクにおけるコーパス規模拡大の影響，情報処理学会研究報告 自然言語処理，NL-175，
pp. 91-98, 2006.
Nanba, H.: Query Expansion using an AutomaticallyConstructed Thesaurus, Proceedings of the 6th NTCIR
Workshop Meeting, pp. 414-419, 2007.
Kozareva, Z. and Hovy, E.: Learning Arguments
Supertypes of Semantic Relations using Recursive Patterns,
Proceedings of the 48th Annual Meeting of the Association
for Computational Linguistics, pp. 1482-1491, 2010.
安藤まや，関根聡: 上位語・下位語を含む連体修飾表現の言語的分析，言語処理学会第 10 回年次大会，2004.
Kozareva, Z. and Hovy, E.: A Semi-Supervised Method to
Learn and Construct Taxonomy using the Web,
Proceedings of the 2010 Conference on Empirical Methods
in Natural Language Processing, pp. 1110–1118, 2010.
Yarowsky, D.: Unsupervised Word Sense Disambiguation
Rivaling Supervised Methods, Proceedings of the 33rd
Annual Meeting on Association for Computational
Linguistics (SCL’ 95), pp. 189-196, 1995.
Abney, S.: Understanding the Yarowsky algorithm, Journalof Computer Linguistics, Vol. 30, No. 3, pp. 365-395, 2004.
Krishnan, A., Cardenas, A.F. and Springer, D.: Search for
Patents using Treatment and Causal Relationships,
Proceedings of the 3rd International Workshop on Patent
Information Retrieval, 2010.
小町守，鈴木久美: 検索ログからの半教師あり意味知識獲得の改善，人工知能学会論文誌，Vol. 23，No. 3，
2008.
伊藤淳，戸田浩之，廣嶋伸章，望月祟由，鈴木智也，
筧捷彦: クエリログをコーパスとした意味知識獲得法の改善，第2回データ工学と情報マネジメントに関するフォーラム(DEIM2010)，2010.
Abe, S., Inui, K. and Matsumoto, Y.: Acquiring Event
Relation Knowledge by Learning Co-occurrence Patterns
and Fertilizing Co-occurrence Samples with Verbal Nouns,
Proceedings of the Third International Joint Conference on
Natural Language Processing (IJCNLP 2008), pp. 497-504,
2008.
Kiso, T., Shimbo, M., Komachi, M. and Matsumoto, Y.:
HITS-based Seed Selection and Stop List Construction for
Bootstrapping, Proceedings of the 49th Annual Meeting of
the Association for Computational Linguistics: Human
Language Technologies, Vol. 2, pp. 30-36, 2011.
Kleinberg, J.M.: Authoritative Sources in a Hyperlinked
Enviroment, Journal of the ACM, Vol. 46, No. 5, pp.
604-632, 1999.
Pantel, P. and Pennacchiotti, M.: Espresso: Leveraging
Generic Patterns for Automatically Harvesting Semantic
Relations, Proceedings of the 21st International Conference
on Computational Linguistics and the 44th Annual Meeting of
the ACL, pp. 113-120, 2006.
Girju, R., Badulescu, T. and Moldovan, D.: Automatic
Discovery of Part–Whole Relations, Journal of theComputational Linguistics, Vol. 32, No. 1, pp. 83-135,
2006.
Curran, J.R., Murphy, T. and Scholz, B. Minimising.:

Semantic Drift with Mutual Exclusion Bootstrapping,
Proceedings of the Conference of the Pacific Association
for Computational Linguistics, pp. 172-180, 2007.
18. 森下洋平，梁冰，宇津呂武仁，山本幹雄: フレーズテーブル及び既存対訳辞書を用いた 専門用語の訳語推定，電子情報通信学会論文誌 D，Vol. J93-D，No. 11，
pp. 2525-2537，2010．