(57)【要約】【課題】テキストコーパスから２つのエンティティ間の関係抽出を行う。【解決手段】複数のエンティティペア、複数の語彙パターンのいずれか一方を行、他方を列として、各エンティティペアと各語彙パターンとを関連付ける頻度を要素とする第１共起行列を作成するステップと、第１共起行列において、前記複数のエンティティペア、前記複数の語彙パターンをそれぞれ頻度が大きい順にソートして第２共起行列を作成するステップと、第２共起行列において、複数のエンティティペア、複数の語彙パターンをクラスタリングして、エンティティペアのクラスタ、語彙パターンのクラスタを取得し、取得したエンティティペアのクラスタ、語彙パターンのクラスタのいずれか一方を行、他方を列とし、クラスタリングにより加算された頻度を要素とする第３共起行列を作成するクラスタリングステップと、を備える。【選択図】図２
2011227688.tif 000002
【特許請求の範囲】
【請求項１】
テキストコーパスにおいて、複数のエンティティペアを抽出すると共に、抽出された各エンティティペアの頻度を取得するステップと、
テキストコーパスにおいて、抽出した複数のエンティティペアの周辺の文脈から複数の語彙パターンを抽出すると共に、抽出された各語彙パターンの頻度を取得するステップと、
複数のエンティティペア、複数の語彙パターンのいずれか一方を行、他方を列として、各エンティティペアと各語彙パターンとを関連付ける頻度を要素とする第１共起行列を作成するステップと、
前記第１共起行列において、前記複数のエンティティペア、前記複数の語彙パターンをそれぞれ頻度が大きい順にソートして第２共起行列を作成するステップと、
前記第２共起行列において、複数のエンティティペア、複数の語彙パターンをクラスタリングして、エンティティペアのクラスタ、語彙パターンのクラスタを取得し、取得したエンティティペアのクラスタ、語彙パターンのクラスタのいずれか一方を行、他方を列とし、クラスタリングにより加算された頻度を要素とする第３共起行列を作成するクラスタリングステップと、を備え、
前記クラスタリングステップは、
ソート順に１つの行を選択し、選択された行と既に生成されている１個以上の行クラスタとの類似度を両者の行ベクトルを用いて計算し、計算された類似度の中で最大の類似度が事前に設定された第１の閾値よりも大きい場合には、当該選択された行を、当該選択された行との間で前記最大の類似度となる行クラスタに統合し、前記最大の類似度が前記第１の閾値以下の場合または行クラスタが存在しない場合には、当該選択された行から新しい行クラスタを作成する行クラスタリングステップと、
ソート順に１つの列を選択し、選択された列と既に生成されている１個以上の列クラスタとの類似度を両者の列ベクトルを用いて計算し、計算された類似度の中で最大の類似度が事前に設定された第２の閾値よりも大きい場合には、当該選択された列を、当該選択された行との間で前記最大の類似度となる列クラスタに統合し、前記最大の類似度が前記第２の閾値以下の場合または列クラスタが存在しない場合には、当該選択された列から新しい列クラスタを作成する列クラスタリングステップと、を備えている、
テキストコーパスにおける２つのエンティティ間の関係抽出方法。
【請求項２】
前記行クラスタリングステップと列クラスタリングステップを交互に実行することを特徴とする、請求項１に記載のテキストコーパスにおける２つのエンティティ間の関係抽出方法。
【請求項３】
さらに、品詞パターンを抽出すると共に、抽出された品詞パターンの頻度を取得するステップを備え、
前記第１共起行列は、複数のエンティティペア、複数の語彙パターン及び品詞パターンのいずれか一方を行、他方を列として、各エンティティペアと各語彙パターン・各品詞パターンとを関連付ける頻度を要素とするものであり、
前記第２共起行列を作成するステップは、前記複数の語彙パターン及び品詞パターンを頻度が大きい順にソートすることを含み、
前記第３共起行列を作成するステップは、複数の語彙パターン・品詞パターンをクラスタリングして、語彙パターン・品詞パターンのクラスタを取得することを含み、前記第３共起行列は、取得したエンティティペアのクラスタ、語彙パターン・品詞パターンのクラスタのいずれか一方を行、他方を列とする、請求項１、２いずれか１項に記載のテキストコーパスにおける２つのエンティティ間の関係抽出方法。
【請求項４】
語彙パターンのクラスタリングは、類義語及び／あるいは上位概念語−下位概念語の関係が登録された辞書を用いて、類義語同士及び／あるいは下位概念語を上位概念語にクラスタリングすることを含む、請求項１乃至３いずれか１項に記載のテキストコーパスにおける２つのエンティティ間の関係抽出方法。
【請求項５】
テキストコーパスにおいて、複数のエンティティペアを抽出する手段と、
抽出された各エンティティペアの頻度を取得する手段と、
テキストコーパスにおいて、抽出した複数のエンティティペアの周辺の文脈から複数の語彙パターンを抽出する手段と、
抽出された各語彙パターンの頻度を取得する手段と、
複数のエンティティペア、複数の語彙パターンのいずれか一方を行、他方を列として、各エンティティペアと各語彙パターンとを関連付ける頻度を要素とする第１共起行列を作成する手段と、
前記第１共起行列において、前記複数のエンティティペア、前記複数の語彙パターンをそれぞれ頻度が大きい順にソートして第２共起行列を作成する手段と、
前記第２共起行列において、複数のエンティティペア、複数の語彙パターンをクラスタリングして、エンティティペアのクラスタ、語彙パターンのクラスタを取得し、取得したエンティティペアのクラスタ、語彙パターンのクラスタのいずれか一方を行、他方を列とし、クラスタリングにより加算された頻度を要素とする第３共起行列を作成するクラスタリング手段と、を備え、
前記クラスタリング手段は、行クラスタリング手段と、列クラスタリング手段と、を備え、
前記行クラスタリング手段は、ソート順に１つの行を選択し、選択された行と既に生成されている１個以上の行クラスタとの類似度を両者の行ベクトルを用いて計算し、計算された類似度の中で最大の類似度が事前に設定された第１の閾値よりも大きい場合には、当該選択された行を、当該選択された行との間で前記最大の類似度となる行クラスタに統合し、前記最大の類似度が前記第１の閾値以下の場合または行クラスタが存在しない場合には、当該選択された行から新しい行クラスタを作成するように構成され、
前記列クラスタリング手段は、ソート順に１つの列を選択し、選択された列と既に生成されている１個以上の列クラスタとの類似度を両者の列ベクトルを用いて計算し、計算された類似度の中で最大の類似度が事前に設定された第２の閾値よりも大きい場合には、当該選択された列を、当該選択された行との間で前記最大の類似度となる列クラスタに統合し、前記最大の類似度が前記第２の閾値以下の場合または列クラスタが存在しない場合には、当該選択された列から新しい列クラスタを作成するように構成されている、
テキストコーパスにおける２つのエンティティ間の関係抽出装置。
【請求項６】
前記行クラスタリング手段と前記列クラスタリング手段は、行クラスタリングと列クラスタリングステップを交互に実行するように構成されている、請求項５に記載のテキストコーパスにおける２つのエンティティ間の関係抽出装置。
【請求項７】
さらに、品詞パターンを抽出すると共に、抽出された品詞パターンの頻度を取得する手段を備え、
前記第１共起行列は、複数のエンティティペア、複数の語彙パターン及び品詞パターンのいずれか一方を行、他方を列として、各エンティティペアと各語彙パターン・各品詞パターンとを関連付ける頻度を要素とするものであり、
前記第２共起行列を作成する手段は、前記複数の語彙パターン及び品詞パターンを頻度が大きい順にソートすることを含み、
前記第３共起行列を作成する手段は、複数の語彙パターン・品詞パターンをクラスタリングして、語彙パターン・品詞パターンのクラスタを取得することを含み、前記第３共起行列は、取得したエンティティペアのクラスタ、語彙パターン・品詞パターンのクラスタのいずれか一方を行、他方を列とする、請求項５、６いずれか１項に記載のテキストコーパスにおける２つのエンティティ間の関係抽出装置。
【請求項８】
さらに、語彙パターンのクラスタリングは、類義語及び／あるいは上位概念語−下位概念語の関係が登録された辞書を備え、
語彙パターンのクラスタリングは、前記辞書を用いて、類義語同士及び／あるいは下位概念語を上位概念語にクラスタリングすることを含む、請求項５乃至７いずれか１項に記載のテキストコーパスにおける２つのエンティティ間の関係抽出装置。
【請求項９】
テキストコーパスにおける２つのエンティティ間の関係を抽出するために、コンピュータに請求項１乃至４いずれか１項に記載のステップを実行させるコンピュータプログラム。
【請求項１０】
テキストコーパスにおいて、複数のエンティティペアを抽出すると共に、抽出された各エンティティペアの頻度を取得するステップと、
テキストコーパスにおいて、抽出した複数のエンティティペアの周辺の文脈から複数の語彙パターン及び／あるいは品詞パターンを抽出すると共に、抽出された各語彙パターン及び／あるいは品詞パターンの頻度を取得するステップと、
複数のエンティティペア、複数の語彙パターン及び／あるいは品詞パターンのいずれか一方を行、他方を列として、各エンティティペアと各語彙パターン及び／あるいは品詞パターンとを関連付ける頻度を要素とする第１共起行列を作成するステップと、
前記第１共起行列において、前記複数のエンティティペア、前記複数の語彙パターン及び／あるいは品詞パターンをそれぞれ頻度が大きい順にソートして第２共起行列を作成するステップと、
前記第２共起行列において、複数のエンティティペア、複数の語彙パターン及び／あるいは品詞パターンをクラスタリングして、エンティティペアのクラスタ、語彙パターン及び／あるいは品詞パターンのクラスタを取得し、取得したエンティティペアのクラスタ、語彙パターン及び／あるいは品詞パターンのクラスタのいずれか一方を行、他方を列とし、クラスタリングにより加算された頻度を要素とする第３共起行列を作成するクラスタリングステップと、を備え、
前記クラスタリングステップは、
ソート順に１つの行を選択し、選択された行と既に生成されている１個以上の行クラスタとの類似度を両者の行ベクトルを用いて計算し、計算された類似度の中で最大の類似度が事前に設定された第１の閾値よりも大きい場合には、当該選択された行を、当該選択された行との間で前記最大の類似度となる行クラスタに統合し、前記最大の類似度が前記第１の閾値以下の場合または行クラスタが存在しない場合には、当該選択された行から新しい行クラスタを作成する行クラスタリングステップと、
ソート順に１つの列を選択し、選択された列と既に生成されている１個以上の列クラスタとの類似度を両者の列ベクトルを用いて計算し、計算された類似度の中で最大の類似度が事前に設定された第２の閾値よりも大きい場合には、当該選択された列を、当該選択された行との間で前記最大の類似度となる列クラスタに統合し、前記最大の類似度が前記第２の閾値以下の場合または列クラスタが存在しない場合には、当該選択された列から新しい列クラスタを作成する列クラスタリングステップと、を備えている、
テキストコーパスにおける２つのエンティティ間の関係抽出方法。
【請求項１１】
前記行クラスタリングステップと列クラスタリングステップを交互に実行することを特徴とする、請求項１０に記載のテキストコーパスにおける２つのエンティティ間の関係抽出方法。
【請求項１２】
テキストコーパスにおいて、複数のエンティティペアを抽出する手段と、
抽出された各エンティティペアの頻度を取得する手段と、
テキストコーパスにおいて、抽出した複数のエンティティペアの周辺の文脈から複数の語彙パターン及び／あるいは品詞パターンを抽出する手段と、
抽出された各語彙パターン及び／あるいは品詞パターンの頻度を取得する手段と、
複数のエンティティペア、複数の語彙パターン及び／あるいは品詞パターンのいずれか一方を行、他方を列として、各エンティティペアと各語彙パターン及び／あるいは品詞パターンとを関連付ける頻度を要素とする第１共起行列を作成する手段と、
前記第１共起行列において、前記複数のエンティティペア、前記複数の語彙パターン及び／あるいは品詞パターンをそれぞれ頻度が大きい順にソートして第２共起行列を作成する手段と、
前記第２共起行列において、複数のエンティティペア、複数の語彙パターン及び／あるいは品詞パターンをクラスタリングして、エンティティペアのクラスタ、語彙パターン及び／あるいは品詞パターンのクラスタを取得し、取得したエンティティペアのクラスタ、語彙パターン及び／あるいは品詞パターンのクラスタのいずれか一方を行、他方を列とし、クラスタリングにより加算された頻度を要素とする第３共起行列を作成するクラスタリング手段と、を備え、
前記クラスタリング手段は、行クラスタリング手段と、列クラスタリング手段と、を備え、
前記行クラスタリング手段は、ソート順に１つの行を選択し、選択された行と既に生成されている１個以上の行クラスタとの類似度を両者の行ベクトルを用いて計算し、計算された類似度の中で最大の類似度が事前に設定された第１の閾値よりも大きい場合には、当該選択された行を、当該選択された行との間で前記最大の類似度となる行クラスタに統合し、前記最大の類似度が前記第１の閾値以下の場合または行クラスタが存在しない場合には、当該選択された行から新しい行クラスタを作成するように構成され、
前記列クラスタリング手段は、ソート順に１つの列を選択し、選択された列と既に生成されている１個以上の列クラスタとの類似度を両者の列ベクトルを用いて計算し、計算された類似度の中で最大の類似度が事前に設定された第２の閾値よりも大きい場合には、当該選択された列を、当該選択された行との間で前記最大の類似度となる列クラスタに統合し、前記最大の類似度が前記第２の閾値以下の場合または列クラスタが存在しない場合には、当該選択された列から新しい列クラスタを作成するように構成されている、
テキストコーパスにおける２つのエンティティ間の関係抽出装置。
【請求項１３】
前記行クラスタリング手段と前記列クラスタリング手段は、行クラスタリングと列クラスタリングステップを交互に実行するように構成されている、請求項１２に記載のテキストコーパスにおける２つのエンティティ間の関係抽出装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、大量のテキストコーパス（典型的にはＷｅｂテキスト）から２つのエンティティ間の関係抽出を行う手法に関するものである。本明細書において、「エンティティ」とは、１つあるいは複数の単語（すなわち語句）であり、典型的には単一名詞、または複数の単語からなる名詞句である。
【背景技術】
【０００２】
近年ＷＷＷ上のデータが膨大に増加しつつある。その膨大な情報の中に、エンティティ間の関係が多数潜在している。従来のキーワードベース検索エンジンは、キーワードを受け取り、そのキーワードを含む文章を見つけ出すことができるが、エンティティ間の関係を検索することは出来ない。従来のキーワードベース検索エンジンでは、ＷＷＷ上の膨大な情報中に潜在的に存在する多くの関係情報を積極的に利用することはできない。
【０００３】
ＷＷＷ上の膨大な情報中に潜在的に存在する多くの関係情報を積極的に利用するためには、膨大なテキストコーパスから有益なエンティティ間の関係を如何に抽出するかが重要である。例えば、ＷＷＷ上の情報空間の中でペアを形成する２つのエンティティにおけるエンティティ間の関係を利用して検索を行うためには、エンティティ間の関係の抽出が必須である。
【０００４】
２つのエンティティ間の関係は、その２つのエンティティを含むテキストにおける２つのエンティティの周辺の文脈に基づいて抽出することができる。エンティティペアの周辺の文脈としては、典型的に２つのエンティティが同時に出現する文中の語彙パターン(lexical pattern)を用いることが考えられる。語彙パターン(lexical
pattern)とは、文中における順序を保った語彙の列である。例えば、コーパスの中で「アメリカの大統領オバマ」という句がある時、“の大統領”という語彙パターンを抽出し、このパターンをエンティティペア(アメリカ，オバマ)における「アメリカ」と「オバマ」との間の潜在的な関係を特徴づけるパターンの１つとする。エンティティペアのエンティティ間の関係を特徴付けるパターンは複数存在し得るので、その特徴的なパターンを頻度のベクトルとして表現することができる。
【０００５】
抽出したエンティティ間の関係は、その関係が利用可能（例えば、関係検索に利用可能）な形式で取得する必要がある。ＷＷＷ上の膨大な情報中では、同一または類似の言葉や関係を表すものとして複数の異なる表層表現が用いられることが多い。利用可能な形式でエンティティ間の関係を抽出するためには、異なる表層表現を如何にまとめるかが重要である。具体的には、エンティティペアのエンティティ間の関係を表現する語彙パターンは多数あり、完全に一致する語彙パターンが少ないこともある。そのためには、「同一関係を表すために使われる異なる表層表現」をまとめることが必要となる。例えば、「の大統領」という関係は「国のリーダ」とか、「政府のリーダ」などの形式でも表現され得る。したがって、語彙パターンをクラスタリングすることにより、低頻度の問題を解決し、更に、語彙パターンが完全に一致しなくても、検索の再現率を上げるようにすることが必要となる。同様に、固有名詞の複数形式(例えば、United States，U.S.，USA,…)を１つのエンティティとして扱えるように、それらの表現形式をクラスタリングすることで、United States，U.S.，USAを１つのクラスタに属するようにすることも必要となる。
【０００６】
クラスタリングは、データマイニングの解析手法の1つとして知られている。非特許文献１では、関係類似度（２つのエンティティペア間の類似度）の精度を上げるためにクラスタリングを用いた特徴ベクトル次元の削減方法を提案している。
比較的新しいクラスタリング手法として、共クラスタリング（co-clustering）手法が提案されている（非特許文献２〜５）。共クラスタリングアルゴリズムは、「お互い何らかの制約を満たしている二つの量を同時にクラスタリングする」アルゴリズムである。特許文献１、２には、共クラスタリングアルゴリズムを用いた手法が開示されている。
【先行技術文献】
【特許文献】
【０００７】
【特許文献１】特開２００６−９９７５３
【特許文献２】特開２００９−１６３６１５
【非特許文献】
【０００８】
【非特許文献１】Danushka Bollegala, YutakaMatsuo and Mitsuru Ishizuka: Measuring the Similarity between Implicit SemanticRelations from the Web , Proceedings of the 18th International World Wide WebConference (WWW 2009), pp. 651-660(2009).
【非特許文献２】A. Banerjee,I. Dhillon, J. Ghosh, S. Merugu, and D. S. Modha. A generalized maximum entropyapproach to bregman co-clustering and matrix approximation. JAIR, pages 1919-1986,2007.
【非特許文献３】H. Cho, I.Dhillon, Y. Guan, and S. Sra. Minimum sum-squared residue co-clustering of geneexpression data. In fourth SIAM Intl. Conf. on Data Mining, pages 114-125,2004.
【非特許文献４】I. Dhillon,S. Mallela, and D. Modha. Information-theoretic co-clustering. In KDD’01, pages89-98, 2003.
【非特許文献５】Q. Gu and J.Zhou. Co-clustering on manifolds. In Proc. Of KDD’09, pages 359-367, 2009.
【発明の開示】
【発明が解決しようとする課題】
【０００９】
本発明は、新しい共クラスタリング手法（Co-clustering）を用いることで、テキストコーパスから２つのエンティティ間の関係抽出を行うことを目的とするものである。
【課題を解決するための手段】
【００１０】
本発明が採用したテキストコーパスにおける２つのエンティティ間の関係抽出方法は、
テキストコーパスにおいて、複数のエンティティペアを抽出すると共に、抽出された各エンティティペアの頻度を取得するステップと、
テキストコーパスにおいて、抽出した複数のエンティティペアの周辺の文脈から複数の語彙パターンを抽出すると共に、抽出された各語彙パターンの頻度を取得するステップと、
複数のエンティティペア、複数の語彙パターンのいずれか一方を行、他方を列として、各エンティティペアと各語彙パターンとを関連付ける頻度を要素とする第１共起行列を作成するステップと、
前記第１共起行列において、前記複数のエンティティペア、前記複数の語彙パターンをそれぞれ頻度が大きい順にソートして第２共起行列を作成するステップと、
前記第２共起行列において、複数のエンティティペア、複数の語彙パターンをクラスタリングして、エンティティペアのクラスタ、語彙パターンのクラスタを取得し、取得したエンティティペアのクラスタ、語彙パターンのクラスタのいずれか一方を行、他方を列とし、クラスタリングにより加算された頻度を要素とする第３共起行列を作成するクラスタリングステップと、を備え、
前記クラスタリングステップは、
ソート順に１つの行を選択し、選択された行と既に生成されている１個以上の行クラスタとの類似度を両者の行ベクトルを用いて計算し、計算された類似度の中で最大の類似度が事前に設定された第１の閾値よりも大きい場合には、当該選択された行を、当該選択された行との間で前記最大の類似度となる行クラスタに統合し、前記最大の類似度が前記第１の閾値以下の場合または行クラスタが存在しない場合には、当該選択された行から新しい行クラスタを作成する行クラスタリングステップと、
ソート順に１つの列を選択し、選択された列と既に生成されている１個以上の列クラスタとの類似度を両者の列ベクトルを用いて計算し、計算された類似度の中で最大の類似度が事前に設定された第２の閾値よりも大きい場合には、当該選択された列を、当該選択された行との間で前記最大の類似度となる列クラスタに統合し、前記最大の類似度が前記第２の閾値以下の場合または列クラスタが存在しない場合には、当該選択された列から新しい列クラスタを作成する列クラスタリングステップと、を備えている、
テキストコーパスにおける２つのエンティティ間の関係抽出方法、である。
【００１１】
１つの態様では、上記方法は、さらに、品詞パターンを抽出すると共に、抽出された品詞パターンの頻度を取得するステップを備え、
前記第１共起行列は、複数のエンティティペア、複数の語彙パターン及び品詞パターンのいずれか一方を行、他方を列として、各エンティティペアと各語彙パターン・各品詞パターンとを関連付ける頻度を要素とするものであり、
前記第２共起行列を作成するステップは、前記複数の語彙パターン及び品詞パターンを頻度が大きい順にソートすることを含み、
前記第３共起行列を作成するステップは、複数の語彙パターン・品詞パターンをクラスタリングして、語彙パターン・品詞パターンのクラスタを取得することを含み、前記第３共起行列は、取得したエンティティペアのクラスタ、語彙パターン・品詞パターンのクラスタのいずれか一方を行、他方を列とする。
【００１２】
本発明が採用した他のテキストコーパスにおける２つのエンティティ間の関係抽出方法は、
テキストコーパスにおいて、複数のエンティティペアを抽出すると共に、抽出された各エンティティペアの頻度を取得するステップと、
テキストコーパスにおいて、抽出した複数のエンティティペアの周辺の文脈から複数の語彙パターン及び／あるいは品詞パターンを抽出すると共に、抽出された各語彙パターン及び／あるいは品詞パターンの頻度を取得するステップと、
複数のエンティティペア、複数の語彙パターン及び／あるいは品詞パターンのいずれか一方を行、他方を列として、各エンティティペアと各語彙パターンとを関連付ける頻度を要素とする第１共起行列を作成するステップと、
前記第１共起行列において、前記複数のエンティティペア、前記複数の語彙パターン及び／あるいは品詞パターンをそれぞれ頻度が大きい順にソートして第２共起行列を作成するステップと、
前記第２共起行列において、複数のエンティティペア、複数の語彙パターン及び／あるいは品詞パターンをクラスタリングして、エンティティペアのクラスタ、語彙パターン及び／あるいは品詞パターンのクラスタを取得し、取得したエンティティペアのクラスタ、語彙パターン及び／あるいは品詞パターンのクラスタのいずれか一方を行、他方を列とし、クラスタリングにより加算された頻度を要素とする第３共起行列を作成するクラスタリングステップと、を備え、
前記クラスタリングステップは、
ソート順に１つの行を選択し、選択された行と既に生成されている１個以上の行クラスタとの類似度を両者の行ベクトルを用いて計算し、計算された類似度の中で最大の類似度が事前に設定された第１の閾値よりも大きい場合には、当該選択された行を、当該選択された行との間で前記最大の類似度となる行クラスタに統合し、前記最大の類似度が前記第１の閾値以下の場合または行クラスタが存在しない場合には、当該選択された行から新しい行クラスタを作成する行クラスタリングステップと、
ソート順に１つの列を選択し、選択された列と既に生成されている１個以上の列クラスタとの類似度を両者の列ベクトルを用いて計算し、計算された類似度の中で最大の類似度が事前に設定された第２の閾値よりも大きい場合には、当該選択された列を、当該選択された行との間で前記最大の類似度となる列クラスタに統合し、前記最大の類似度が前記第２の閾値以下の場合または列クラスタが存在しない場合には、当該選択された列から新しい列クラスタを作成する列クラスタリングステップと、を備えている。
【００１３】
本発明が採用したテキストコーパスにおける２つのエンティティ間の関係抽出装置は、
テキストコーパスにおいて、複数のエンティティペアを抽出する手段と、
抽出された各エンティティペアの頻度を取得する手段と、
テキストコーパスにおいて、抽出した複数のエンティティペアの周辺の文脈から複数の語彙パターンを抽出する手段と、
抽出された各語彙パターンの頻度を取得する手段と、
複数のエンティティペア、複数の語彙パターンのいずれか一方を行、他方を列として、各エンティティペアと各語彙パターンとを関連付ける頻度を要素とする第１共起行列を作成する手段と、
前記第１共起行列において、前記複数のエンティティペア、前記複数の語彙パターンをそれぞれ頻度が大きい順にソートして第２共起行列を作成する手段と、
前記第２共起行列において、複数のエンティティペア、複数の語彙パターンをクラスタリングして、エンティティペアのクラスタ、語彙パターンのクラスタを取得し、取得したエンティティペアのクラスタ、語彙パターンのクラスタのいずれか一方を行、他方を列とし、クラスタリングにより加算された頻度を要素とする第３共起行列を作成するクラスタリング手段と、を備え、
前記クラスタリング手段は、行クラスタリング手段と、列クラスタリング手段と、を備え、
前記行クラスタリング手段は、ソート順に１つの行を選択し、選択された行と既に生成されている１個以上の行クラスタとの類似度を両者の行ベクトルを用いて計算し、計算された類似度の中で最大の類似度が事前に設定された第１の閾値よりも大きい場合には、当該選択された行を、当該選択された行との間で前記最大の類似度となる行クラスタに統合し、前記最大の類似度が前記第１の閾値以下の場合または行クラスタが存在しない場合には、当該選択された行から新しい行クラスタを作成するように構成され、
前記列クラスタリング手段は、ソート順に１つの列を選択し、選択された列と既に生成されている１個以上の列クラスタとの類似度を両者の列ベクトルを用いて計算し、計算された類似度の中で最大の類似度が事前に設定された第２の閾値よりも大きい場合には、当該選択された列を、当該選択された行との間で前記最大の類似度となる列クラスタに統合し、前記最大の類似度が前記第２の閾値以下の場合または列クラスタが存在しない場合には、当該選択された列から新しい列クラスタを作成するように構成されている。
【００１４】
１つの態様では、上記装置は、さらに、品詞パターンを抽出すると共に、抽出された品詞パターンの頻度を取得する手段を備え、
前記第１共起行列は、複数のエンティティペア、複数の語彙パターン及び品詞パターンのいずれか一方を行、他方を列として、各エンティティペアと各語彙パターン・各品詞パターンとを関連付ける頻度を要素とするものであり、
前記第２共起行列を作成する手段は、前記複数の語彙パターン及び品詞パターンを頻度が大きい順にソートすることを含み、
前記第３共起行列を作成する手段は、複数の語彙パターン・品詞パターンをクラスタリングして、語彙パターン・品詞パターンのクラスタを取得することを含み、前記第３共起行列は、取得したエンティティペアのクラスタ、語彙パターン・品詞パターンのクラスタのいずれか一方を行、他方を列とする。
【００１５】
本発明が採用した他のテキストコーパスにおける２つのエンティティ間の関係抽出装置は、
テキストコーパスにおいて、複数のエンティティペアを抽出する手段と、
抽出された各エンティティペアの頻度を取得する手段と、
テキストコーパスにおいて、抽出した複数のエンティティペアの周辺の文脈から複数の語彙パターン及び／あるいは品詞パターンを抽出する手段と、
抽出された各語彙パターン及び／あるいは品詞パターンの頻度を取得する手段と、
複数のエンティティペア、複数の語彙パターン及び／あるいは品詞パターンのいずれか一方を行、他方を列として、各エンティティペアと各語彙パターン及び／あるいは品詞パターンとを関連付ける頻度を要素とする第１共起行列を作成する手段と、
前記第１共起行列において、前記複数のエンティティペア、前記複数の語彙パターン及び／あるいは品詞パターンをそれぞれ頻度が大きい順にソートして第２共起行列を作成する手段と、
前記第２共起行列において、複数のエンティティペア、複数の語彙パターン及び／あるいは品詞パターンをクラスタリングして、エンティティペアのクラスタ、語彙パターン及び／あるいは品詞パターンのクラスタを取得し、取得したエンティティペアのクラスタ、語彙パターン及び／あるいは品詞パターンのクラスタのいずれか一方を行、他方を列とし、クラスタリングにより加算された頻度を要素とする第３共起行列を作成するクラスタリング手段と、を備え、
前記クラスタリング手段は、行クラスタリング手段と、列クラスタリング手段と、を備え、
前記行クラスタリング手段は、ソート順に１つの行を選択し、選択された行と既に生成されている１個以上の行クラスタとの類似度を両者の行ベクトルを用いて計算し、計算された類似度の中で最大の類似度が事前に設定された第１の閾値よりも大きい場合には、当該選択された行を、当該選択された行との間で前記最大の類似度となる行クラスタに統合し、前記最大の類似度が前記第１の閾値以下の場合または行クラスタが存在しない場合には、当該選択された行から新しい行クラスタを作成するように構成され、
前記列クラスタリング手段は、ソート順に１つの列を選択し、選択された列と既に生成されている１個以上の列クラスタとの類似度を両者の列ベクトルを用いて計算し、計算された類似度の中で最大の類似度が事前に設定された第２の閾値よりも大きい場合には、当該選択された列を、当該選択された行との間で前記最大の類似度となる列クラスタに統合し、前記最大の類似度が前記第２の閾値以下の場合または列クラスタが存在しない場合には、当該選択された列から新しい列クラスタを作成するように構成されている。
【００１６】
本発明では、エンティティペアが出現する文脈として、語彙パターン及び／あるいは品詞パターンを用いる。すなわち、語彙パターンのみを用いる場合（特徴ベクトルは語彙パターンの頻度）、品詞パターンのみを用いる場合（特徴ベクトルは品詞パターンの頻度）、語彙パターンと品詞パターンの両方を用いる場合（特徴ベクトルは、語彙パターンの頻度及び品詞パターンの頻度）がある。典型的な態様では、語彙パターン（必須要素）を中心に用いて、品詞パターン（任意要素）は補助的に用いる。
特徴ベクトルの作成、クラスタリングなど全ての処理において語彙パターンと品詞パターンは同じように扱うことができ、本明細書において「語彙パターン」に関して記述されている文は「品詞パターン」に援用することができる。
【００１７】
１つの態様では、エンティティペア及び語彙パターンの取得は、
テキストコーパスから取得した文を単語に切り分けるステップと、
切り分けられた単語から候補エンティティペアを作成するステップと、
候補エンティティペアが含まれる元の文において、エンティティペアの第１エンティティをＸに、第２エンティティをＹに置き換えて、Ｘ，Ｙを含む部分列Ｓを生成し、部分列Ｓのn-gram(ｎは1からＫまで)を生成するステップと、
得られたn-gramを特徴ベクトルの１つの次元として、エンティティペアを含む全ての文において頻度を数えるステップと、を備えており、
n-gramの頻度を語彙パターンの頻度として、エンティティペアと関連付けて保存する。
ここで、部分列Ｓは、Ｘの直前のｍ１個の単語，Ｘ，ＸＹ間の単語列，Ｙ，Ｙの直後のｍ２個の単語、である。ｍ１、ｍ２、Ｋは、整数のパラメータである。
１つの態様では、前記候補エンティティペアの２つエンティティ間の距離Ｄが、閾値Ｄｔｈ以下の場合にのみ候補エンティティペアの周辺の文脈の語彙パターンを取得する。
１つの態様では、前記候補エンティティペアを作成するステップにおいて、固有名詞を含むエンティティペアを候補エンティティペアとして優先的に抽出する。
【００１８】
候補エンティティペアの周辺の文脈の品詞パターンについても、語彙パターンと同様の方法で取得することができる。すなわち、単語に分割されたテキストを品詞タガー(Part-of-speech tagging, POS tagging)により品詞タグ付けして、候補エンティティペアの周辺の品詞列を取得し、この品詞列から語彙パターン抽出の際に行ったと同様にn-gram(最大kまで)を生成し、得られたn-gramを特徴ベクトルの１つの次元とする。
【００１９】
本発明では、テキストコーパスから、エンティティペアのエンティティ間の関係を表現するための特徴ベクトルを定義する。共クラスタリングアルゴリズムにおける類似度の計算は、特徴ベクトルの間の距離によって算出されるため、まず特徴ベクトルを作成しておく必要がある。
特徴ベクトルの要素は、「特徴(次元)」とその「値(特徴量)」であり、文脈を語彙パターンとした場合には、「特徴（次元）」＝「語彙パターン」、「値（特徴量）」＝「語彙パターンの頻度」、となる。すなわち、「語彙パターンの頻度を基に計算する重み」を特徴量にした特徴ベクトルでエンティティペア間の関係を表現する。同様に、文脈を品詞パターンとした場合には、「特徴（次元）」＝「品詞パターン」、「値（特徴量）」＝「品詞パターンの頻度」、となる。
典型的な態様では、類似度は、両者の特徴ベクトル間のコサイン類似度に基づいて算出される。特徴ベクトル間の距離尺度については、ユーグリット距離、マハラノビス距離等の公知の距離尺度を用いることができる。
【００２０】
特徴ベクトルと類似度について図１に基づいて具体的に説明する。Google
acquires YouTube”を含む文が１０回, Google buys YouTubeを含む文が8回出現した場合、エンティティペア(Google, YouTube)の特徴ベクトルは図１の列ベクトルＶ１のように表現される。そのペアに含まれない語彙パターンの頻度は0とする。同様に、エンティティペア(Microsoft, Powerset)の特徴ベクトルは図１の列ベクトルＶ２のように表現される。列ベクトルＶ１と列ベクトルＶ２のコサイン類似度は高いので、エンティティペア(Google, YouTube) とエンティティペア(Microsoft, Powerset)との類似度は高いと言え、１つの態様では、クラスタリングによって、これらの２つのエンティティペアは同じクラスタに属する。同様に、エンティティペア(Obama, United States)とエンティティペア(Barak Obama, U.S.)に対して共通して出現している語彙パターン（例えばX is the president of Yなど)があれば、エンティティペア同士の関係類似度が高くなり、クラスタリングによって、これらの２つのエンティティペアは同じクラスタに属することになる。
一方、語彙パターンX acquires Yと共にエンティティペア(Google,
YouTube)が１０回出現し、語彙パターンX acquires Yと共にエンティティペア(Microsoft, Powerset)が９回出現した場合、語彙パターンX acquires Yの特徴ベクトルは図１の行ベクトルＶ３のように表現される。同様に、語彙パターンX buys Yの特徴ベクトルは図１の列ベクトルＶ４のように表現される。行ベクトルＶ３と行ベクトルＶ４のコサイン類似度は高いので、語彙パターンX acquires Y と語彙パターンX buys Yとの類似度は高いと言え、１つの態様では、クラスタリングによって、これらの２つのエンティティペアは同じクラスタに属する。
【００２１】
品詞パターンの頻度を特徴とする類似度計算の仕方は語彙パターンの場合と全く同じであり、品詞パターンを抽出し、品詞パターンの出現頻度を要素とする特徴ベクトルを作成し、特徴ベクトル間の類似度（典型的にはコサイン類似度）を計算する。語彙パターンの頻度及び品詞パターンの頻度の両方を用いる場合に、一つの態様では、パターン抽出後は、語彙パターン、品詞パターンの区別は行わない。語彙パターンと品詞パターンは同じようにクラスタリングされ、関係が同じあるいは似ているエンティティペアに対して出現する語彙パターンと品詞パターンは同じクラスタの中に属することになる。
【００２２】
語彙パターンと品詞パターンの両方を用いる場合に、品詞パターンは語彙パターンの欠点を補完する機能を備えている。
語彙パターンは単語そのものから構成されているため、語彙パターンに含まれている単語がそのまま文書に出現していないとマッチされないという欠点がある。例えば、X is a large Yというパターンは「large」という単語の場合はマッチするが、great, bigなど同じ意味をもつ他の形容詞の場合にはマッチしない。この例において、品詞パターンX VBZ DT JJ Yを用いることで、largeだけではなく、どの形容詞についてもマッチされるようになり、品詞情報を用いて語彙パターンをより一般化（抽象化）することができる。
【００２３】
語彙パターンを抽象化する（より広い範囲でマッチさせるため）手段は、品詞情報を用いるものに限定されないことが当業者に理解される。例えば、類義語辞書（シソーラス）を使ってlarge, great, bigをどれも同じものとしてマッチさせるとか、上位概念語−下位概念語の関係が登録されているオントロジー（語彙体系）を使って、下位概念語（例えば、prius, lexus, corolla）を上位概念語（「トヨタ車」）として抽象化するなど取り得る。すなわち、語彙パターンを抽象化する手段として、語彙パターンを品詞情報を使って抽象化する「品詞パターン(part-of-speech patterns)」に加えて、類義語辞書を使って抽象化する「類義語パターン(synonym patterns)」やオントロジーを使って抽象化する「上位概念語―下位概念語パターン(hypernym patterns)」など他の抽象化パターンを取り得ることが当業者に理解される。
また、このような辞書自体は公知であり、エンティティペアのクラスタリングにおいて、辞書を用いてエンティティペアを構成するエンティティをクラスタリングしてもよい。
【００２４】
本発明では、選択された行と行クラスタとの類似度を行ベクトル（特徴ベクトル）を用いて算出し、選択された列と列クラスタとの類似度を列ベクトル（特徴ベクトル）を用いて算出する。
１つの態様では、列クラスタ、行クラスタの特徴ベクトルは、重心ベクトルを用いる。重心ベクトルは、クラスタ内に属するエンティティペアあるいは語彙パターンの列ベクトルあるいは行ベクトルの和をエンティティペアあるいは語彙パターンの個数で割ったものである。
語彙パターンと品詞パターンの両方を用いる場合に、１つの態様では、パターン抽出後は、語彙パターン、品詞パターンの区別を行なうことなくエンティティペアを表す特徴として用いられる。したがって、同じ行ベクトルあるいは列ベクトルの中に、語彙パターンの頻度、品詞パターンの頻度がランダムに混在する。頻度が大きい順にソートすることで頻度が大きい語彙パターン、品詞パターンが上位に位置することになる。
１つの態様では、必要に応じて、語彙パターンと品詞パターンの頻度に重み付けを行ってもよい。
【００２５】
１つの態様では、行クラスタリングと列クラスタリングは交互に実行される。すなわち、上記方法においては、前記行クラスタリングステップと列クラスタリングステップを交互に実行され、上記装置においては、前記行クラスタリング手段と前記列クラスタリング手段は、行クラスタリングと列クラスタリングステップを交互に実行するように構成されている。
行数と列数が異なる場合には、行クラスタリングと列クラスタリングを交互に実行した後に、数が多い方の行または列のみのクラスタリングを行う。
【００２６】
本発明は、また、コンピュータに上記ステップを実行させるための、あるいは、コンピュータを上記手段として機能させるためのコンピュータプログラムとしても提供される。
【００２７】
本発明は、関係双対性（Relational Duality）を用いて共クラスタリングを行うことを特徴の1つとしている。任意の関係Ｒは２つの側面から定義することができる。一つは、いわゆる外延的定義であり、関係Ｒにある「エンティティのペア」により定義される。もう一つは、いわゆる内包的定義であり、関係Ｒを「語彙パターン」で表現することで定義される。この２通りの定義は同一の関係Ｒを定義しているためそれらの間には「双対性」(duality)が存在する。
【００２８】
具体的には、関係Ｒが買収関係（ある会社が別の会社に買われる）の場合、関係Ｒを定義するためには買収関係にある会社のペアを挙げることができる。例えば、(Google, YouTube), (Microsoft, Powerset)などが挙げられ、これは外延的定義である。買収関係を内包的に定義するためには二つの会社ＸとＹの間に買収関係が存在することを示す語彙パターンを用いれば良い。例えば、YはXに買われる, X acquires
Y, X bought Y, Y is acquired by Xなどが考えられる。
【００２９】
本発明は、この双対となる関係の定義に基づくクラスタリング手法を提案し、それを用いて関係抽出を行う。提案するクラスタリング手法は、語彙パターンとエンティティペアを「同時に」クラスタリングするものであり、共クラスタリングアルゴリズムの一種ではあるが、関係の異なる定義の双対性という制約に基づいて実現する点に特徴がある。
【発明の効果】
【００３０】
本発明は、教師なし学習であるクラスタリングによるので、訓練用データを必要としない。共クラスタリング（co-clustering）によりエンティティペアの関係種別クラスタリングに使う特徴量となる語彙パターンも同時にクラスタリングするので、特徴ベクトルの次元を圧縮し安定的なクラスタリングを可能とする。また、クラスタ数を予め決定することなくクラスタリングを行うことができる。クラスタ数は第１の閾値、第２の閾値をどのように選択するかによって間接的に設定される。
【００３１】
行クラスタリングステップと列クラスタリングステップを交互に実行することで、直前に作られたエンティティペアクラスタあるいは語彙・品詞パターンクラスタが次のクラスタリングステップで類似度を計測する際に反映されるという利点がある。例えば、語彙・品詞パターンをまず全部クラスタリングし終わってからエンティティペアをクラスタリングし始めるという設定だと、語彙・品詞パターンをクラスタリングする際に類似度を計算する時には似たようなエンティティペア（例：(Barack Obama, United States)と(Barack Obama,
U.S.))が同一クラスタに入っていないので類似度が小さくなってしまうという問題が生じ得る。
【図面の簡単な説明】
【００３２】
【図１】エンティティペア、語彙パターン、特徴ベクトルの関係を示す図である。
【図２】本実施形態に係る関係抽出システムの概念図である。
【図３】複数のデータポイント間の類似度の分布を近似する図である。正規化した頻度（頻度をＴ（Ｔ−１）／２で割ったもの）を示し、棒グラフの合計が１となる。ヒストグラムにおける棒グラフの中点を結んだ線により類似度の分布を表す。
【図４】共クラスタリングの結果として３つのエンティティペアクラスタ（A,B,C）、４つの語彙パターンクラスタ(1,2,3,4)が作成されている場合を示す図である。
【図５】検索システムの概念図である。
【発明を実施するための形態】
【００３３】
［Ａ］本実施形態の概要
本実施形態は、大量のテキストコーパスから近接して共起するエンティティペアを抽出し、抽出された大量のエンティティペアをそのエンティティ周辺の語彙パターンと合わせてco-clusteringを行うことにより、その結果として有意な関係種別を有するエンティティペア集合を代表クラスタとして抽出する。そしてその代表クラスタの関係種別を表すラベルを見出す。本実施形態に係る関係抽出システムの概念図を図２に示す。本実施形態の手法は次の４つの部分から構成される。
（１）エンティティペアの抽出（外延的な定義の自動抽出）
（２）語彙パターンの抽出（内包的な定義の自動抽出）
（３）共クラスタリング（Co-clustering）アルゴリズム
（４）各クラスタから代表的な関係を選択する。
【００３４】
本実施形態に係る関係抽出システムは、一つあるいは複数のコンピュータから構成されており、当該コンピュータは、ハードウェアとしての処理手段（ＣＰＵ等）、記憶手段（ハードディスク、ＲＡＭ、ＲＯＭ等）、入力手段、出力手段ないし表示手段、ソフトウエアとしてのコンピュータを動作させる制御プログラム等を備えている。例えば、テキストコーパスはハードディスクに記憶されており、本明細書で詳述する各処理手段によって実行される各処理で得られた生成物（エンティティペア、語彙パターン、品詞パターン、これらの頻度、エンティティペアクラスタ、語彙パターンクラスタ等）はハードディスクあるいはＲＡＭに記憶される。類義語や上位概念語―下位概念語の辞書を用いる場合には、これらの辞書はハードディスクあるいはＲＯＭに記憶されている。
【００３５】
［Ｂ］エンティティペア及び語彙パターンの抽出
テキストコーパスからエンティティペア間の関係を抽出するためには、先ず、テキストコーパスからエンティティペア及び語彙パターンを抽出する必要がある。コーパスは、例えば、システムのローカルハードディスクにあるローカルコーパス(local diskにあるテキストの集合やクロールしたＷｅｂテキストなど)である。このようなテキストコーパスには、大量のエンティティとそれらの間の潜在的な関係が含まれている。
【００３６】
これらのテキストをまず文単位に切る。文単位で処理することによって計算に必要なリソース（メモリなど）効率的に使うことができる。そして、それらの文を単語に分けて、品詞をつける。この処理は、品詞タグ付け（part-of-speech(POS) tagging）として知られている。文の品詞タグ付けを行って名詞句を抽出する。例えば、固有名詞や名詞と固有名詞の連続する出現をエンティティとして選択する一つの文で二つ以上のエンティティが存在すると、エンティティペアとそのエンティティペアが出現する文脈から語彙パターンを生成する。以下に、より具体的に説明する。
【００３７】
「東京は日本の首都である」という文があったときに、品詞タグ付け後、<東京/名詞，は/助詞，日本/名詞，の/助詞，首都/名詞，で/助動詞，ある/助動詞>の列が得られる。得られた単語と品詞列から、名詞、動詞、形容詞、形容動詞を取り、それらのエンティティをエンティティペアの要素の候補とする。前記の文では、「東京」、「日本」と「首都」が抽出の候補エンティティになる。
【００３８】
候補エンティティから、候補となるエンティティペアを作る。候補エンティティペアは文の中の順序を保った２つの候補エンティティである。例えば、前記の文であれば、(東京、日本)、(日本、首都)、(東京、首都)という３つのエンティティペアを候補エンティティペアとする。文の中で候補エンティティペアが出現したら、そのエンティティペアを記録し、頻度を増やす。また、そのペアが出現する文の位置(document IDとdocument中の文の位置)も記録する。
【００３９】
１つの態様では、品詞タガーを使って、名詞句を全てエンティティとして抽出するが、候補エンティティとして固有名詞を優先的に抽出したい場合には、ＮＥＲ(Named Entity Recognizer)を使って、文中の固有名詞を抽出し、エンティティペアに固有名詞があったら、それを記録するようにしてもよい。
【００４０】
上記の候補エンティティペアの頻度を全コーパスで数えるために、コーパス全体に対して、上記の処理を実行する。候補エンティティペアを抽出した後、候補エンティティペア及びコーパス中に出現するそれらのエンティティペアの頻度が分かり、更に、どのエンティティペアが固有名詞を含むかも分かる。この処理が終わった後、新しくテキストがコーパスに入るときには、逐次的にそのテキストに同じ処理を施すことにより頻度を更新できる。
【００４１】
取得した候補エンティティペアを使い、候補エンティティペアの周辺の文脈から語彙パターンを抽出する。その時、固有名詞を含むエンティティペアや頻度の高いエンティティペアの語彙パターンを優先的に抽出する。候補エンティティペアの語彙パターン抽出前に様々なフィルタリング手法（例えば、エンティティペアの出現頻度やエンティティ間の距離を用いる）を使い、ノイズやあまり関係のないようなエンティティペアを発見し、それらのペアを除去する。例えば、頻度の少ないエンティティペア(例えば４回以下)に対しては、ノイズとして認識し、語彙パターン抽出を実行しない。新しいテキストがコーパスに追加されるときに、もしエンティティペアの頻度が４回以上になったら、エンティティペアはノイズではなくなり、通常通りに語彙パターンを抽出する。それぞれのエンティティペアに対して、そのエンティティペアはどういった語彙パターンと一緒に出現したか（共起したか）ということを記録しておく。
【００４２】
語彙パターンを決めるために、先ず、候補エンティティペアの２つエンティティ間のテキストにおける距離Ｄを測る。距離Ｄは単に２つのエンティティ間の単語数とする。距離Ｄが、閾値Ｄthよりも大きいエンティティペアに対しては、エンティティ間の関連性が低いとして、語彙パターンを抽出しない。
【００４３】
閾値Ｄth以下のエンティティペアについて、元の文においてエンティティペアの第１エンティティをＸに、エンティティペアの第２エンティティをＹに置き換えた後、Ｘ，Ｙを含む以下の部分列（単語列）Ｓを取り出し、単語列Ｓのn-gram(nは1からＫまで)を全て生成する。得られたn-gramを特徴ベクトルの１つの次元として、エンティティペアを含む文にわたって頻度を数える。特徴ベクトルはn-gramを次元として、その値はn-gramの頻度である。
部分列Ｓ＝PreX X InXY Y PostY
ここで、PreX は Xの(文中の)直前のｍ1個の単語列で、PostYはYの直後のｍ2個の単語列である。また、InXY は (X, Y)の間の単語列である。１つの態様では、パラメータm1 とm2は５である。InXY が10以下であれば候補ペアとして抽出する(つまり、InXYの長さＤがＤthよりも大きいと抽出しない。)。N-gramの nは１からＫまでとする。１つの態様では、Ｋ＝７である。1つの態様では、ＤがＫ−２よりも大きい(Ｄ＞Ｋ−２、即ち、Ｄ＋２＞Ｋ)の時、(X, InXY, Y)というn-gramも生成する。
【００４４】
さらに具体的に説明する。
エンティティの前後のｍ個の単語、エンティティ間の全ての単語
(ただし、エンティティ間の距離ＤがＤth以内)の n-gram (ｎ＝1,2,3, …,K)を取る。
例えば、
They  discussed  with  Barack  Obama,  president  of  the  United  States  in  December  to  find  a  solution  to  the  problem.
ｍ1 ＝ m2 ＝２、Ｄth＝１０、とすると、
抽出対象となる部分列Ｓは、
Ｓ＝discussed  with  Barack  Obama,  president  of  the  United  States  in  December
となる。
抽出されるn-gramは、
［Ｋ＝７の時（Ｄ＝４,Ｄ＜Ｋ−２］
n = 4:discussed  with  X,；with  X,  president；X,  president  of； ...；the  Y  in  December
n = 6:discussed  with  X,  president  of；with  X,  president  of  the；X,  president  of  the  Y；...
n = 7:discussed  with  X,  president  of  the；with  X,  president  of  the  Y；X,  president  of  the  Y  in；,  president  of  the  Y  in  December
n = 2:discussed  with；with  X；X,；,  president；president  of；of  the；the  Y；Y  in；in  December
また、別の例として、文が:
“They  discussed  with  Barack  Obama,  the  first  African  American  president  of  the  United  States  in  December  to  find  a  solution  to  the
problem”
m1＝m2＝２,Ｄth＝１０とすると、抽出対象列
Ｓ＝“discussed  with  X,  the  first  African  American  president  of  the  Y  in  December”
この場合、Ｄ＝８(つまり、”, the  first  African  American  president  of  the”の長さなので、Ｄ＝８である)。また、Ｋ＝７と仮定すると、Ｄ＝８＞Ｋ−２である。
［K = 7の時、 D = 8 > K−2］
抽出されるn-gram は、
ｎ＝1, 2, .., 7のn-gramのすべて(上記の例と同様にｎ＝1から7までのn-gramをすべて生成) と次のパターン:
X,  the  first  African  American  president  of  the  Y(n＝8)
すなわち、ＤがＫ−２よりも大きい場合は、n＝1からＫまでのn-gramの全てに加えて、部分列(X,  InXY,  Y)もn-gramとして抽出する(この部分列はn-gramであるが、nがＫよりも大きい)。
生成されたn-gram の全てを関係を表す特徴として用いる。
１つの態様では、語彙パターン抽出は文を切り出した後に行う。つまり、１つの文から部分列を抽出し、その部分列からn-gramを生成する。１つの態様では、文中にエンティティペアの一方あるいは両方が複数に表れても、置き換えられた出現（ＸないしＹ）は１つだけにするが、同時に置き換えてもよい。
【００４５】
パラメータＤth、ｍ１、ｍ２、Ｋは、閾値として当業者において適宜設定され得るものであり、上述の態様ではＤth ＝10、ｍ１＝５、ｍ２＝５、Ｋ＝７としているが、これらに限定されない。例えば、Ｄth ＝10の場合、エンティティペアが単語10個以上離れている場合には、語彙パターン・特徴ベクトルの抽出を行わない。また、特徴ベクトルを計算するときに、閾値Ｄth を動的閾値（例えば、1 〜10 まで動的に変化可能）としてもよい。また、検索データベースに、所望の語彙パターンが出現できるようにするために、最小の
Ｄthの値を記録してもよい。例えば、「Obama  is  the  president  of  the  USA」 という文について、「X  is  the  president  of  the  Y」が出現するための最小のＤthは5である。もし、Ｄth = 4 であれば、この語彙パターンは出現しないとして、検索アルゴリズムが実行される。
【００４６】
品詞パターンについて説明する。例えば、Obama  is  the  president  of  the  U.S.という文の中で、
Obama/PERSON；is/VBZ；the/DT；president/NN；of/IN；the/DT；U.S./LOCATION
ここで、VBZ:動詞-３人称単数、DT:限定詞、NN:名詞（単数または不可算名詞）、IN:前提詞または従属接続詞）と解釈されたときに、ObamaとU.S.の関係(エンティティペア(Obama, U.S.) の特徴)を表す。
1つの語彙パターンは 「is the president of the」、
１つの品詞パターンは 「VBZ DT NN IN DT」、となる。
品詞パターンが同じであればエンティティペアのエンティティ間の関係が類似する可能性がある。例えば、上記の文と下記の文の品詞パターンは同じある。
Obama  is  the  leader  of  the  U.S.
【００４７】
品詞パターンは語彙パターンに比べてより抽象化されているので語彙パターンがマッチされない場合でも品詞パターンがマッチされるので語彙パターンだけだと類似度がゼロになってしまうエンティティペアに関してもある程度の類似度の値を計算することができる。いわばパターンのゼロ頻度問題を回避するために品詞パターンを用いることができる。例をあげて説明する。
エンティティペア(ostrich,bird)に関してX is a large Yという語彙パターンと、それに対応する X  VBZ  DT  JJ  Yという品詞パターンのみが抽出されているとする。一方、エンティティペア(lion,cat)に関してはX is a big Yという語彙パターンと、それに対応するX  VBZ  DT  JJ  Yという品詞パターンのみが抽出されているとする。
語彙パターンのみを用いてこれらのエンティティペア間の関係類似度（パターンベクトル間のコサイン類似度）を計算すると、共通して出現する語彙パターンがないため類似度はゼロとなる。一方、品詞パターンまでベクトルに含めるとlargeもbigも両方とも形容詞(adjective)なのでコサイン類似度は0.5となる。
【００４８】
表１に、エンティティペア及び語彙パターンの抽出の他の例を示す。語彙パターンについては、スペースの都合上、一部の語彙パターンのみを示している。また、対応する品詞パターン（統語構造）も合わせて記載してある。
【表１】
2011227688.tif 000003
エンティティペア及び語彙パターンを抽出する際に、Lemmatizationによって名詞の複数形を単数形とし、動詞の活用形（過去形や進行形）を基底形とすることで、活用によるばらつきが吸収される。lowercaseにすることで大文字、小文字によるばらつきが吸収される。
エンティティペア及び語彙パターン、品詞パターンの抽出の具体的な手法については、上記実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において様々な変形や変更が施され得ることが当業者に理解される。
【００４９】
コーパスを最後まで処理することで、多数のエンティティペア、多数の語彙パターンが抽出される。それぞれのエンティティペアに対して、そのエンティティペアはどういった語彙パターンと一緒に出現したか（共起したか）という出現回数（共起頻度）も取得される。そして、多数のエンティティペアを行に、多数の語彙パターンを列に持つ行列を作成する。エンティティペア、語彙パターンと「行」、「列」との対応を逆にしてもよい。この共起行列の要素は、各々あるエンティティペアはある語彙パターンに対して何回出現したかという出現回数（共起頻度）を表している。この共起行列は次に述べる共クラスタリングアルゴリズムへの入力となる。
【００５０】
［Ｃ］共クラスタリング（Co-clustering）アルゴリズム
抽出された全てのエンティティペアの集合Ｅ、抽出された全ての語彙パターンの集合Ｐを用いて、各エンティティペアと各語彙パターンの関係を行列Ａで表す。各エンティティペアを「行」、各語彙パターンを「列」とする。行列Ａの要素Ａｉ，ｊは、エンティティペアｅｉに対して抽出された語彙パターンｐｉの出現回数である。
【００５１】
行列Ａにおいて、正規化された各行ベクトルｅｉは、複数の語彙パターンに対するエンティティペアｅｉの分布を表す。同様に、行列Ａにおいて、正規化された各列ベクトルｐｊは、複数のエンティティペアに対する語彙パターンエンｐｊの分布を表す。
正規化について説明する。あるエンティティペアに対する行ベクトルを正規化するためにはまずその行の要素をそれぞれ二乗して足し、その総和の平方根（ルート）をとり、その値で全ての要素を割り算する。ベクトルx=[x1,x2,…,xn]で表すとそのノルムLが次の式で定義される。
2011227688.tif 000004
次に、ベクトルxをその長さが1になるように正規化(normalize)するためにはLで各要素を割る。正規化されたベクトルはx/Lである。正規化することによって要素の絶対値により違いがなくなる。この処理をベクトルAの行ベクトルと列ベクトルに適応してから各クラスタリングステップで類似度を計算する。コサイン類似度を計算する場合は必ずしもベクトル同士が正規化されていなくても良いが、それぞれのベクトルのノルムを用いる。
Distributional hypothesisから、二つのエンティティペアが語彙パターンの集合に対して類似の分布を有する場合には、これらのエンティティペアは類似の関係を備えていると言える。すなわち、似ているエンティティペアとは、そのエンティティペアが出現する語彙パターンの分布が似ているものであり、似ている語彙パターンとは、その語彙パターンが出現するエンティティペアの分布が似ているものである。本実施形態では、分布の類似を用いることでエンティティペアと語彙パターンを同時にクラスタリングする。
【００５２】
本実施形態の共クラスタリング（co-clustering）アルゴリズムの擬似コードを表２に示す。
【表２】
2011227688.tif 000005
共クラスタリングアルゴリズムは、エンティティペアの集合Ｅ、語彙パターン・品詞パターンの集合Ｐ、エンティティペアと語彙パターン・品詞パターンの関係を表す行列Ａ、行クラスタリング用閾値φ、列クラスタリング用閾値θを入力とし、行クラスタＣＥ、列クラスタＣＰを出力する。具体的な処理の流れは次の通りである。
【００５３】
エンティティペアはその頻度の総和（全ての語彙パターンに対して何回出現したかということ、つまり行の和ΣｊＡｉ，ｊ）で大きいものから小さいものの順にソートする。語彙パターン・品詞パターンはその頻度の総和（全てのエンティティペアに対して何回出現したかということ、つまり列の和ΣｉＡｉ，ｊ）で大きいものから小さいものの順にソートする。表２の行番号１と２ではそれぞれエンティティペアのリストE、語彙パターン・品詞パターンのリストPをソースすることを、SORT関数で表している。出現回数が多い順にソートを行うことで、コーパスにおいてより一般的なエンティティペア及び語彙パターン・品詞パターンが、エンティティペアの集合Ｅ、語彙パターン・品詞パターンの集合Ｐの上位に現れ、より一般的でないエンティティペア及び語彙パターン・品詞パターンがエンティティペアの集合Ｅ、語彙パターン・品詞パターンの集合Ｐの下位に位置することになる。
【００５４】
行３において、行クラスタＣＥ、列クラスタＣＰの空集合を用意する。
【００５５】
次に、語彙パターン・品詞パターンとエンティティペアを同時にco-clusteringを行う（表２の行番号４〜９までのループ）。まず語彙パターン・品詞パターンの集合Ｐの先頭にある語彙パターン（または品詞パターン）pを取り出してPOPする。これにより語彙パターン・品詞パターンの集合Ｐのサイズが１つだけ小さくなる。関数ＡＳＳＩＧＮは、パターンｐに対応するベクトルｐと列クラスタの集合ＣＰの各列クラスタｃｊとの類似度を計算する。ｃｊはｊ番目の列クラスタの重心ベクトルを表す。ベクトルｐとベクトルｃｊとの間の類似度をコサイン類似度を用いて計算する。ベクトルｐと既存の全ての語彙パターン・品詞パターンクラスタＣｊとのコサイン類似度を計算し、最大の類似度が予め決められた列クラスタリング用閾値（語彙パターン・品詞パターンクラスタリング用閾値）θより大きい場合には、その類似度が最大となる語彙パターン・品詞パターンクラスタｃ＊にベクトルpを統合する。ベクトルｐと最も類似度が高いクラスタｃ＊の類似度が列クラスタリング閾値θ以下の場合には、ベクトルｐからなる新しい列クラスタを作成して、列クラスタ集合ＣＰに加える。
【００５６】
同様に、エンティティペアの集合Ｅの先頭にあるエンティティペアｅを取り出してPOPする。これによりエンティティペアの集合Ｅのサイズが１つだけ小さくなる。関数ＡＳＳＩＧＮは、エンティティペアｅに対応するベクトルｅと行クラスタの集合ＣＥの各行クラスタｃｉとの類似度を計算する。ｃｉはｉ番目の行クラスタの重心ベクトルを表す。ベクトルｅとベクトルｃｉとの間の類似度をコサイン類似度を用いて計算する。ベクトルｅと最も類似度が高いクラスタｃ＊の類似度が行クラスタリング用閾値φよりも大きい場合には、ベクトルｅをクラスタベクトルｃ＊に統合する。ベクトルｅと最も類似度が高いクラスタｃ＊の類似度が行クラスタリング閾値φ以下の場合には、ベクトルｅをからなる新しい行クラスタを作成して、行クラスタ集合ＣＥに加える。
【００５７】
この処理は語彙パターン・品詞パターンの集合Pとエンティティペアの集合Eが空になるまで繰り返す。一回whileループを回すとPとEは一つずつ減るので、PとEの要素数が大きい方のリストの要素数になると（つまり、max(|P|,|E|)）クラスタリングが終了する。
【００５８】
本実施形態に係る共クラスタリングについて、表３の５×６の行列を例にとって説明する。表３の行列には行が５つ、列が６つ存在する。説明上の簡便のため表３の行列は０または１のみを要素としているが、共クラスタリングアルゴリズムは任意の正の実数を要素として持つ行列に適用される。列クラスタリング用閾値と行クラスタリング用閾値は共に0.5に設定した。
【表３Ａ】
2011227688.tif 000006
ベクトル間のコサイン類似度を考えると同じ次元に１が含まれていればコサイン類似度が高くなるので、第５列と第６列の間には高い（類似度が１）類似度があることになる。同様に、第１列と第3列ベクトル同士のコサイン類似度が1/√2となる。第2列ベクトルと第４の列ベクトル間のコサイン類似度も1/√2である。従って、直感的には（第１、第3列）、（第2、第４列）と（第４、第５列）として３つの列クラスタが作成されるのが妥当と思われる。本実施形態の共クラスタリングアルゴリズムを表３の共起行列に適用することで、どのようなクラスタが得られるかについて説明する。
【００５９】
本実施形態に係る共クラスタリング手法ではまず、行と列をその要素の総和の降順にソートする。表３の行列は既にこの規則に従っているので、この操作を行っても何も変化がない。
【００６０】
さて、ここから共クラスタリングルーチンが始まるが、まずは第１列を自分自身からなるクラスタにする。最初の列クラスタが作成後の行列を表３Ｂに示す。つまり、最初の列クラスタは[1]となる。ここでは列の番号を使って列クラスタを参照することにする。この処理によって表３の行列は変化しないので表３Ｂで示す行列は表３Ａと同じである。
【表３Ｂ】
2011227688.tif 000007
【００６１】
本実施形態に係る共クラスタリングアルゴリズムは行と列を交互に操作するので、次に、行をクラスタリングする。まだ行クラスタは１つも作成されていないので最初の行クラスタとして第１行そのものが選択される。最初の行クラスタが作成後の行列を表３Ｃに示す。この操作によって表３Ｂの行列は変化しない。最初の行クラスタを[1]で表現する。ここでは行の番号を使って行クラスタを参照することにする。
【表３Ｃ】
2011227688.tif 000008
【００６２】
次の、列クラスタリングを行う。第２列を選択し、第２列を既に作成した列クラスタ（[1])と比較して類似度を計算する。類似度がゼロであり、列クラスタリング用閾値より小さいため第２列は自分自身のみが入っている新たなクラスタを生成する。第２列が新たなクラスタを作った後の行列を表３Ｄに示す。現時点では列クラスタは[1]と[2]である。この操作によって行列は変化しない（表３Ｄ参照）。
【表３Ｄ】
2011227688.tif 000009
【００６３】
第２行を選択し、第２行を既に作成した行クラスタ（[1])と比較して類似度を計算する。類似度がゼロであり、行クラスタリング用閾値より小さいため第２行は自分自身のみが入っている新たなクラスタを生成する。第２行が新たなクラスタを作った後の行列を表３Ｅに示す。現時点では行クラスタは[1]と[2]である。この操作によって行列は変化しない（表３Ｅ参照）。
【表３Ｅ】
2011227688.tif 000010
【００６４】
次に、第３列が選択されるが、第３列は第１列が作成した列クラスタと0.707
(=1/√2)の類似度を持っており、類似度が列クラスタリング用閾値(0.5)より大きいため、第１列クラスタの中に統合される。列クラスタは[1,3], [2]となる。第１列と第３列ベクトルが足されるのでここで初めて行列が変化する。（表３Ｆ参照）。列の数が一つ減っていることに注意されたい。
【表３Ｆ】
2011227688.tif 000011
【００６５】
次に第３行が選択されるが、既存の行クラスタとの間の類似度がいずれもゼロであり、類似度が行クラスタリング用閾値より低いため、自分自身で新たなクラスタを作成する（表３Ｇ参照）。
【表３Ｇ】
2011227688.tif 000012
【００６６】
次に、第４列が選択されるが、第４列と第２列クラスタとの類似度が列クラスタリング用閾値(0.5)より大きいため、第２列クラスタの中に統合される（図３Ｈ参照）。
【表３Ｈ】
2011227688.tif 000013
【００６７】
次に、第４行が選択されるが、第４行と第２行クラスタとの類似度が行クラスタリング用閾値(0.5)より大きいため、第２行クラスタの中に統合される（図３Ｉ参照）。
【表３Ｉ】
2011227688.tif 000014
【００６８】
次に第５列が選択されるが、既存の列クラスタとの間の類似度がいずれもゼロであり、類似度が列クラスタリング用閾値より低いため、自分自身で新たなクラスタを作成する（表３Ｊ参照）。
【表３Ｊ】
2011227688.tif 000015
【００６９】
次に、第５行が選択されるが、第４行と第２行クラスタとの類似度が行クラスタリング用閾値(0.5)より大きいため、第２行クラスタの中に統合される（図３Ｋ参照）。
【表３Ｋ】
2011227688.tif 000016
【００７０】
これで行は全てクラスタリングされたので、この後は列のみをクラスタリングして行く。次に、第６列が選択されるが、第６列と第５列により生成されたクラスタとの類似度が列クラスタリング用閾値(0.5)より大きいため、第５列クラスタの中に統合される（図３Ｌ参照）。これでクラスタリングアルゴリズムが修了する。
【表３Ｌ】
2011227688.tif 000017
結果として、列クラスタ[1,3]、[2,4]、[5,6]と行クラスタ[1,4]、[2,5]、[3]が出来上がる。
【００７１】
語彙パターン・品詞パターンクラスタリング用閾値φと、エンティティペアクラスタリング用閾値θの決め方について説明する。一つの態様では、閾値φ、θは、いくつかの組み合わせで何回か共クラスタリングアルゴリズムを繰り返し実行してより良いクラスタリング結果を出力する閾値を実験的に決めることができる。例えば、あるデータセット（テキストコーパス）において閾値φ、θを０〜１の範囲で変化させながら複数の組み合わせの精度を比較し、精度が良好な場合の値の組み合わせを閾値φ、θとする。
あるいは、閾値φ、θをデータから計算してもよい。閾値計算方法の１つの態様について説明する。
閾値は行クラスタリング類似度閾値（エンティティペアクラスタリング用閾値）θと列クラスタリング類似度閾値（語彙・品詞パターンクラスタリング用閾値）φとして2つあるが、計算の仕方は同じであるため、閾値φの方だけ説明する。
まずは全ての語彙・品詞パターン間の類似度を計測し、その頻度分布（ヒストグラム、つまりある範囲内の類似度があるパターンペアがいくつあるか）を描く（図３）。図３から「類似度が小さいペアが沢山あって、類似度が高いペアは圧倒的に少ない」ということがわかる。このような現象は言語処理の様々なところで現れ、例えば、単語の出現頻度とその順位の間の関係はこのような形をしており、ジップの法則(Zipf’s law)と呼ばれている。本実施形態では、この類似度分布を指数分布（正確にはZeta分布）として仮定し、その分布のパラメータの値をデータの中から近似的に計算する。類似度の分布を近似できればその平均値を計算することができる。理想的なクラスタリングができている場合（つまり、全てのクラスタ同士の類似度がゼロである場合）は閾値φと類似度分布の平均が等しくなる。式（6）が閾値の近似値を与えている。
以下に具体的に説明する。
閾値はクラスタリング対象の点（エンティティペアあるいは語彙・品詞パターン）の類似度分布から近似的に計算される。まず、類似度分布を指数分布として仮定し、次の式で定義されるものとする。
2011227688.tif 000018
ここで、xは類似度を表し、g(x)はxの類似度を持つ点同士の数を意味する。更に、aとk(1<k<2)は定数である。類似度が幅dとなる領域に分割しているものとすると類似度が[0, d]範囲の点ペア数g(d)は次の式（2)で与えられる。
2011227688.tif 000019
g(x)は正規化されている分布であるため次の式(3)を満たす。
2011227688.tif 000020
式(2)と式(3)からaとkは次のように計算できる。
2011227688.tif 000021
本実施形態の共クラスタリング（co-clustering）手法は既に作られているクラスタと次にクラスタリングしたい点との類似度を計測し、最大な類似度をもつクラスタの類似度が閾値以上であればそのクラスタにその点を入れるようにしている。従って、クラスタリングする点の数が増えると各クラスタの平均類似度がおよそ閾値と等しくなる。一方、理想的なクラスタリングができている場合はクラスタ間の類似度がゼロなはずである。従って、その場合点の間の類似度の平均は閾値と等しくなる。つまり、以上計算した類似度分布の平均と理想的なクラスタリング結果をもたらす閾値は等しくなる。このことを使って閾値の値は次のように計算できる。
2011227688.tif 000022
【００７２】
図４に、共クラスタリングの結果として３つのエンティティペアクラスタ（A,B,C）、４つの語彙パターンクラスタ(1,2,3,4)が作成されている場合を示す。(B,2)はエンティティペアクラスタBと語彙パターンクラスタ2の間の双対性を示しており、(B,2)で表現される関係の外延的定義はBで、内包的定義は2である。共クラスタリングアルゴリズムから得られる語彙パターンクラスタとエンティティペアクラスタは対応している。例えば、
{(Google，YouTube)，(Microsoft，Powerset)，(Yahoo，Inktomi)}というエンティティペアクラスタと、{Y  is  acquired  by  X， X  purchases  Y， Y  goes  X}という語彙パターンクラスタは対応している。
【００７３】
各エンティティペアクラスタは異なる関係を表現している。そこで、各エンティティペアクラスタに固有な擬似ラベルを付けることは有用である。各エンティティペアクラスタに属するエンティティペアを語彙パターンの頻度のベクトルで表し、各エンティティペアクラスタの重心ベクトルを求める（重心ベクトルとはそのクラスタ内に存在するエンティティペアを表す語彙パターンベクトルの和をその個数で割ったものである）。各エンティティペアクラスタを語彙パターンを次元とする一つのベクトルで表し、次に多クラス分類機であるMulti-class Logistic Regression with L1 regularizationを用いエンティティペアクラスタを識別する。この解析ではそれぞれのエンティティペアクラスタを他のエンティティペアクラスタから識別する語彙パターンが分かるのでそのような特徴的な語彙パターンを使って各エンティティペアクラスタをラベル付けすることができる。例えば、{(Google,YouTube),(Microsoft,Powerset)}のような買収関係にある会社ペアを含むエンティティペアクラスタであれば、X acquire Yのような語彙パターンがそのクラスタのラベルとして選択される。このラベル付けの技術は(L1正則化を用いる最大エントロピー法)既存のものである。
各クラスタから選択された１０個の代表クラスタ（ラベル）を表４に例示する。表４における各クラスタのタイトルは便宜上設けたものである。
【表４】
2011227688.tif 000023
【００７４】
本実施形態の２つのエンティティ間の関係抽出は、図５に示すような検索システムに利用することができる。図５に示す検索システムは、２つのエンティティペア{(Ａ，Ｂ)，(Ｃ，？)}がクエリとして入力され、「?」として適切なエンティティを検索する。検索システムの出力「？」は、(Ａ，Ｂ)のエンティティＡ，Ｂ間の関係と似ている関係を持つ(Ｃ，Ｘ)となるようなエンティティＸである。典型的には、エンティティＸは、ランキングされたリストとして得られる。例えば、本検索システムは、入力として{(日本、東京)，(フランス，?)}の3つのエンティティ（単語）が与えられた時、最上位の結果として、「パリ」を「?」として出力する。つまり、「日本」と「東京」の関係は「フランス」と「パリ」の関係とよく似ていることを示している。上記のようなクエリに答えるためには、エンティティＡとエンティティＢの間の関係を抽出し、それらの関係を持つ他のエンティティペア(Ｃ，Ｘ)をデータベースから検索する必要がある。本実施形態の２つのエンティティ間の関係抽出により取得された共起行列を検索データベースに用いることができる。
【００７５】
本発明は、これらの実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において様々な変形や変更が施され得ることが当業者に理解される。
【図１】
2011227688.tif 000024
【図２】
2011227688.tif 000025
【図３】
2011227688.tif 000026
【図４】
2011227688.tif 000027
【図５】
2011227688.tif 000028