(57)【要約】【課題】  異なる文書分類体系間における分類カテゴリーの整合をより的確に行うことを目的とする。【解決手段】  構造マッチング装置１０は、第１の文書分類体系に含まれるトピックのマッチング要求を受け付け、第１の文書分類体系とは異なる第２の文書分類体系および第１の文書分類体系の各文書生成確立モデルを記憶装置１２から読み出す。また、構造マッチング装置１０は、記憶装置１２から読み出した各文書生成確率モデルをもとに、マッチング要求されたトピックから、第２の文書分類体系におけるトピック度ベクトルをパラメトリック混合モデルの基本原理を適用して推定する。さらに、構造マッチング装置１０は、推定したトピック度ベクトルに基づいて、マッチング要求されたトピックとマッチングする第２の文書分類体系に含まれる１ないし複数のトピックを探索し、検索結果を利用者用端末３０に出力する。【選択図】      図１
2006004103.tif 000002
【特許請求の範囲】
【請求項１】
文書分類体系毎に、かつ文書分類体系に含まれる分類カテゴリー毎に、文書中に出現する単語の単語頻度分布を表した文書生成確立モデルを格納する記憶装置を備えた構造マッチング装置における文書分類体系間の構造マッチング方法であって、
前記構造マッチング装置は、
第１の文書分類体系に含まれる分類カテゴリーのマッチング要求を受け付けるステップと、
前記第１の文書分類体系とは異なる第２の文書分類体系および前記第１の文書分類体系の各文書生成確立モデルを前記記憶装置から読み出し、その各文書生成確率モデルをもとに、前記マッチング要求された分類カテゴリーから、前記第２の文書分類体系におけるカテゴリー度ベクトルをパラメトリック混合モデルの基本原理を適用して推定するステップと、
前記推定したカテゴリー度ベクトルに基づいて、前記マッチング要求された分類カテゴリーとマッチングする前記第２の文書分類体系に含まれる１ないし複数の分類カテゴリーを探索するステップと、
前記探索した分類カテゴリーを外部出力するステップと、
を実行することを特徴とする文書分類体系間の構造マッチング方法。
【請求項２】
前記構造マッチング装置は、前記第２の文書分類体系に含まれる分類カテゴリーを探索するステップを実行する際に、前記記憶装置に格納されている最小記述長原理の条件により、前記分類カテゴリーの探索を行うことを特徴とする請求項１に記載の文書分類体系間の構造マッチング方法。
【請求項３】
文書分類体系毎に、かつ文書分類体系に含まれる分類カテゴリー毎に、文書中に出現する単語の単語頻度分布を表した文書生成確立モデルを格納する記憶装置を備えた構造マッチング装置であって、
前記構造マッチング装置は、
第１の文書分類体系に含まれる分類カテゴリーのマッチング要求を受け付ける受付機能と、
前記第１の文書分類体系とは異なる第２の文書分類体系および前記第１の文書分類体系の各文書生成確立モデルを前記記憶装置から読み出し、その各文書生成確率モデルをもとに、前記マッチング要求された分類カテゴリーから、前記第２の文書分類体系におけるカテゴリー度ベクトルをパラメトリック混合モデルの基本原理を適用して推定する推定機能と、
前記推定したカテゴリー度ベクトルに基づいて、前記マッチング要求された分類カテゴリーとマッチングする前記第２の文書分類体系に含まれる１ないし複数の分類カテゴリーを探索する探索機能と、
前記探索した分類カテゴリーを外部出力する出力機能と、
を備えたことを特徴とする構造マッチング装置。
【請求項４】
前記構造マッチング装置は、前記第２の文書分類体系に含まれる分類カテゴリーを探索する際に、前記記憶装置に格納されている最小記述長原理の条件により、前記分類カテゴリーの探索を行うことを特徴とする請求項３に記載の構造マッチング装置。
【請求項５】
請求項１または請求項２に記載の文書分類体系間の構造マッチング方法をコンピュータに実行させるための構造マッチングプログラム。
【請求項６】
請求項１または請求項２に記載の文書分類体系間の構造マッチング方法をコンピュータに実行させるための構造マッチングプログラムを記録したコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、文書分類体系間の構造マッチング方法及び構造マッチング装置に関するものである。
【背景技術】
【０００２】
文書分類とは、文書をその内容に応じて、あらかじめ設定されているトピックなどの分類カテゴリーに割り当てることをいうが、その体系は、階層構造になっていることが多い。そして、文書分類の体系（以下「文書分類体系」という。）は、分類目的や設計者の意図に依存し多様に存在している。したがって、たとえば、同じドメイン（分類カテゴリー群）であっても、多様な文書分類体系を持つこととなる。
具体例で説明する。たとえば、図７に示すように、「ｇｏｏ（Ｒ）」や「ｅｘｃｉｔｅ（Ｒ）」というＷｅｂ（World Wide Web）検索に用いられる２つの文書分類体系の場合をみてみる。同図（Ａ）の「ｇｏｏ（Ｒ）」では、「ノンアルコールドリンク」というトピックが存在するのに対して、同図（Ｂ）の「ｅｘｃｉｔｅ（Ｒ）」では、「ノンアルコールドリンク」のトピックが存在せず、「ノンアルコールドリンク」に類似する「嗜好品」というトピックが存在している。また、両者に共通に存在している「パン」というトピックは、階層の位置が異なっている。たとえば、同図（Ａ）の「ｇｏｏ（Ｒ）」では、「パン」のトピックは上位ノードになっているが、同図（Ｂ）の「ｅｘｃｉｔｅ（Ｒ）」では、「パン」のトピックは下位ノードになっている。
このように、２つの文書分類体系は、多様な階層構造を持っているが、その一方で、同一のトピックに属する文書など、互いに関連のある文書が割り当てられている。このため、異なる文書分類体系間でのトピックの対応関係を整合（マッチング）することによって、２つの文書分類体系に割り当てられている文書を有効に利用することが可能となる。そこで、従来は、ある文書分類体系に含まれる一つのトピックに適する他の一つのトピックを他の文書分類体系から抽出している。すなわち、文書分類体系間の一対一対応の抽出手法である（例えば、非特許文献１）。
【非特許文献１】A.Doan,J.Madhavan, J.Madhavan，P.Domingos，and A.Halevy，“leaning to map between ontologies on the semantic web”、［online］、２００２年５月、［平成１６年６月１５日検索］、インターネット＜ＵＲＬ：http:www2002.org／CDROM/refered/232/＞
【発明の開示】
【発明が解決しようとする課題】
【０００３】
しかしながら、文書は一般に複数のトピックを持ち得る。たとえば、文書はパンやレシピなどの各種トピックを同時に複数持ち得る。つまり、文書が多重トピックを持つということである。このため、非特許文献１に開示された一対一対応の抽出手法では、文書が持つトピックの多重対応が考慮されずに抽出されるため、異なる文書分類体系間におけるトピックの整合をより的確に行うことができないという問題があった。
【０００４】
そこで、本発明は、前記した課題を解決するためになされたものであり、その目的は、異なる文書分類体系間における分類カテゴリーの整合をより的確に行うことができる文書分類体系間の構造マッチング方法、構造マッチング装置、構造マッチングプログラム及びそのプログラムを記録した記録媒体を提供することである。
【課題を解決するための手段】
【０００５】
前記課題を解決するために本発明は、文書分類体系毎に、かつ文書分類体系に含まれる分類カテゴリー毎に、文書中に出現する単語の単語頻度分布を表した文書生成確立モデルを格納する記憶装置を備えた構造マッチング装置における文書分類体系間の構造マッチング方法であって、構造マッチング装置は、第１の文書分類体系に含まれる分類カテゴリーのマッチング要求を受け付けるステップと、第１の文書分類体系とは異なる第２の文書分類体系および第１の文書分類体系の各文書生成確立モデルを記憶装置から読み出し、その各文書生成確率モデルをもとに、マッチング要求された分類カテゴリーから、第２の文書分類体系におけるカテゴリー度ベクトルをパラメトリック混合モデルの基本原理を適用して推定するステップと、推定したカテゴリー度ベクトルに基づいて、前記マッチング要求された分類カテゴリーとマッチングする第２の文書分類体系に含まれる１ないし複数の分類カテゴリーを探索するステップと、探索した分類カテゴリーを外部出力するステップとを実行する、という手法を採用している。
【０００６】
また、本発明は、文書分類体系毎に、かつ文書分類体系に含まれる分類カテゴリー毎に、文書中に出現する単語の単語頻度分布を表した文書生成確立モデルを格納する記憶装置を備えた構造マッチング装置であって、構造マッチング装置は、第１の文書分類体系に含まれる分類カテゴリーのマッチング要求を受け付ける受付機能と、第１の文書分類体系とは異なる第２の文書分類体系および第１の文書分類体系の各文書生成確立モデルを記憶装置から読み出し、その各文書生成確率モデルをもとに、前記マッチング要求された分類カテゴリーから、前記第２の文書分類体系におけるカテゴリー度ベクトルをパラメトリック混合モデルの基本原理を適用して推定する推定機能と、推定したカテゴリー度ベクトルに基づいて、マッチング要求された分類カテゴリーとマッチングする第２の文書分類体系に含まれる１ないし複数の分類カテゴリーを探索する探索機能と、探索した分類カテゴリーを外部出力する出力機能とを備えた、という構成を採用している。
【０００７】
また、本発明は、前記した構造マッチング方法をコンピュータに実行させるための構造マッチングプログラムである。さらに、本発明は、前記した構造マッチング方法をコンピュータに実行させるための構造マッチングプログラムを記録したコンピュータ読み取り可能な記録媒体である。
【発明の効果】
【０００８】
本発明によると、異なる文書分類体系間における分類カテゴリーの整合をより的確に行うことができる。
【発明を実施するための最良の形態】
【０００９】
まず、本発明に係る基礎技術を解説する。
［文書分類体系]
文書分類体系について説明する。ここで、文書分類体系をＳ，文書分類体系Ｓのトピック集合をｃk[ｃk；ｋ＝１，・・・，Ｋ]，各トピックに分類される文書集合をｄn[ｄn；ん＝１，・・・，Ｎ]で表す。そして、これらのトピック集合ｃkと文書集合ｄnとの間での各要素が有向リンクで結ばれ、文書分類体系Ｓの全体がＤＡＧ（Direct Acyclic Graph）構造になっていることとする。
ＤＡＧ構造では、非循環有向グラフの略で、複数のノードが他のノードと循環しないで結びついたものである。ＤＡＧ構造は、図７に示したＷｅｂディレクトリ構造に代表される標準的な構造である。ただし、ここでは、ある文書ｄ（文書ｄは任意の文書を表す。以下同じ。）から他のノードへのリンクは考慮しないが、任意である複数のトピックからその文書ｄへのリンクは許容することとする。つまり、文書ｄの多重トピックが許容されるということである。
このような文書分類体系Ｓでは、上位ノードのトピックは、有向リンクに基づき下位ノードに多重承継されることになる。すなわち、あるノードのトピックｃ（トピックｃは任意のトピックを表す。以下同じ。）から有向リンクをたどって到達するすべての文書群は、そのトピックｃを持つことになる。図７（Ａ）の文書分類体系Ｓの場合をみてみる。図７（Ａ）の文書分類体系Ｓでは、たとえば、「パン」のトピックｃに分類されるすべての文書群は、そのトピックｃの上位ノードである「料理、グルメ」のトピックｃを持っている。
【００１０】
［文書の表現］
次に、文書ｄの表現について説明する。文書ｄは、その内容を意味のある単位により認識する必要があるため、ここでは、たとえば、ＢＯＷ（Bag-of-Words）表現（「e.g.,C.D.Manning,and H.Schutze,“Foundations of statistical natural language processing,”MIT press,1999.）参照」）により認識することとする。これにより、文書ｄ中に出現する単語の順序を無視し、その単語の出現頻度のみに着目して文書ｄを記述することが可能となる。
【００１１】
[単語頻度によるトピック表現]
そして、文書ｄを単語頻度ベクトルｘ＝（ｘ1，ｘ2，・・・，ｘi，・・・，ｘV）で表現する。なお、「ｘV」のＶは文書中での異なる単語数（語彙規模），「ｘi」は文書ｄのｉ番目に現れた単語の頻度である。
ここで、たとえば、あるノードのトピックciを承継する文書集合をＤ（ｃ）で表し、そのＤ（ｃ）に含まれる文書ｄの単語頻度ベクトルｘを加算する。そうすると、前記した文書ｄを単語頻度ベクトルｘ＝（ｘ1，ｘ2，・・・，ｘi，・・・，ｘV）で表現した場合と同様、トピックcに分類される文書群も単語頻度べクトルｙ＝（ｙ1，ｙ2，・・・，ｙi，・・・，ｙV）で表現することが可能となる。
【００１２】
[文書生成確率モデル]
次に、文書生成確率モデルについて説明する。文書生成確率モデルとは、文書分類体系Ｓに含まれるトピックｃ（分類カテゴリー）毎に文書ｄ中に出現する単語の単語頻度分布を表したものである。ここでは、分類カテゴリーをトピックとして説明するが、分類カテゴリーの種類は特に制約を受けない。
ここで、たとえば、前記したＢＯＷに基づく文書分類などで広く採用されているナイーブベイズ（以下「ＮＢ」と略す。ＮＢ：Naive Bayes）モデル（「R.O.Duda,P.E.Hart,and D.G.Stork,“Pattern classification(2nd Ed.),”John Wiley and Sons,2000」参照）の場合について説明する。ＮＢモデルは、シンプルでロバストな手法の一つである。
ＮＢモデルでは、トピックcを持つ文書ｘ（文書ｘは単語頻度ベクトルｘで表現された文書ベクトルを表す。以下同じ。）は、文書中に使用されている語彙に関する多項分布により生成されていると仮定する。そして、文書ｘを観測する条件付確率を次式（１）で示す。
【００１３】
【数１】
2006004103.tif 000003
【００１４】
式（１）に基づいてトピックｃの文書ｘが生成されることとなる。トピックｃに分類されている文書群の単語頻度ベクトルｙ＝（ｙ1，ｙ2，・・・，ｙi，・・・，ｙV）の各ベクトル値（ｙ1など）の総和Ｔで各ベクトル値を除算することにより、トピックｃのＮＢパラメータθiを求めることができる。すなわちθi＝ｙi／Ｔである。
【００１５】
[文書生成確率モデルを用いたマッチング法]
次に、前記した文書生成確率モデルを用いたマッチング法について説明する。ここでは、第１の文書分類体系Ｓから第２の文書分類体系Ｓへのマッチング法として、次のような場合を考えてみる。第１の文書分類体系Ｓの一つのトピックｃを、第２の文書分類体系Ｓのトピック集合[ck；ｋ＝１，・・・，Ｋ]に確率的に推定して対応付ける場合である。
ここで、まず、パラメトリック混合モデル（以下「ＰＭＭ」と略す。ＰＭＭ：Parametric Mixture Model．「N.Ueda and K.saito,“single-shot detection of multiple topics using parametric mixture models,”Proc.ACM SIGKDD'02,p.626-631,2002」参照）の基本原理について説明する。ＰＭＭは、多重分類を行う数理モデルであり、多重トピックを扱う文書生成確率モデルの基本原理として好適である。このＰＭＭでは、多重トピックを持つ文書ｄは、各トピックｃに特徴的な単語が混合して出現するという考えにより、これらの各トピックｃのＮＢパラメータを線形結合させ、多項分布を構成する。そして、ＰＭＭの基本原理により、トピックｃが未知の文書に対し、文書ｄ中に使用されている単語と既に学習済みの単語頻度分布（訓練データ）とを照合し、その未知の文書ｄのトピックｃを多重許容して自動抽出する。
【００１６】
ここで、トピックｃの単語頻度ベクトルをｙ，トピックｃkのＮＢパラメータをθk,トピック度ベクトル（カテゴリー度ベクトル）をｗ=(ｗ0,・・・,ｗk）で表し、以下、ＰＭＭの考え方に基づくマッチング法を説明する。ＰＭＭの考え方によると、トピック度ベクトル（カテゴリー度ベクトル）ｗ=(ｗ0,・・・,ｗk）に対し、次式（２）を用いて、最尤推定の問題を解く。これにより、第２の文書分類体系Ｓへの対応関係を得ることが可能となる。なお、式（２）において、１／Ｖはどの単語が使用されているかが分からないこと（つまり予測不能であること）を表している。
【００１７】
【数２】
2006004103.tif 000004
【００１８】
しかしながら、式（２）により、最尤推定の問題を解くためには、次のような二つの問題を解決する必要がある。
第一に、式（２）の解は一般に唯一に定まらないという問題を解決する必要がある。（Ｖ−１）次元単体上で、[θk；ｋ＝１，・・・，Ｋ]が互いに線形独立であるならば、尤度Ｌ0（ｗ）は、凸領域で定義された凸関数であるので、式（２）は、唯一の最適解を持つことが保証されている。しかし、第１の文書分類体系Ｓから第２の文書分類体系Ｓへのトピックの対応関係を得る場合には、一般に、[θk；ｋ＝１，・・・，Ｋ]が互いに線形独立とならない。
たとえば、トピックｃが２つの下位ノードのトピックｃ1，ｃ2を持つ場合、これらのトピックｃ，ｃ1，ｃ2の単語頻度ベクトルｙ，ｙ1，ｙ2の間には、ｙ＝ｙ1＋ｙ2の関係が成り立つケースが容易に生じる。なお、ｙはトピックｃに分類される文書群の単語頻度ベクトルを、ｙ1はトピックｃ1に分類される文書群の単語頻度ベクトルを、ｙ2はトピックｃ2に分類される文書群の単語頻度ベクトルを、それぞれ表す。
したがって、単語頻度ベクトルｙを正規化して得られるＮＢパラメータθkは、線形従属になってしまう。
【００１９】
第二に、式（２）を解いたとしても簡潔な対応関係を得ることができないという問題を解決する必要がある。要するに、第１の文書分類体系Ｓに含まれるトピックｃの第２の文書分類体系Ｓへの対応関係を直感的に理解することが困難なので、これを解決する必要があるということである。
したがって、この第二番目にあげた学習問題の観点からは、次のような問題が生じることとなり、最適なモデル選択をすることが必要になる。単語頻度ベクトルｙに対して、すべてのＮＢパラメータθkの混合モデルを用いた場合、第２の文書分類体系Ｓへの対応関係が一般に過剰に適合してしまうという問題である。
【００２０】
それゆえ、前記した二つの問題を克服するために、ここでは、まず、トピックｃの部分集合Ｇ⊂[１，・・・，Ｋ]という概念を導入し、次式（３）の最尤推定の問題を考える。これにより、ＮＢパラメータの線形従属という第一番目の問題を解決することが可能となる。
【００２１】
【数３】
2006004103.tif 000005
【００２２】
次に、最小記述長（以下「ＭＤＬ」と略す。ＭＤＬ：Minimum Description Length）原理（「J.Rissanen，“Stochastic Complexity in Statistical Inquiry”World Scientific，1989」参照）を導入して、次式（４）の目的関数（ＭＤＬ原理の条件）に基づくモデルの探索問題を考える。なお、ここでは、探索問題として、ＭＤＬ原理を適用することとするが、この原理に限定されない。
このようにすると、最適なモデル選択をすることが可能となる（第二番目の課題）。ＭＤＬ原理というのは、データをモデルとそのモデルからの偏差とを用いて記述したとき、その記述長が最小となるときが最良の記述で、そのときのモデルの形状がデータにおいて本質的構造であるとする考え方である。なお、式（４）に基づく検索アルゴリズムは、後記の図４で詳述する。
【００２３】
【数４】
2006004103.tif 000006
【００２４】
前記した内容を踏まえ、以下、本発明の実施の形態を図１ないし図７に基づいて説明する。
図１は、本発明の実施の形態に係る構造マッチング装置を含むシステムを示すブロック図である。
図１において、構造マッチング装置１０は、インターネットなどの通信ネットワーク２０を介して利用者用端末３０に接続されている。
構造マッチング装置１０は、通信装置１１、記憶装置１２および処理装置１３を備えている。たとえば、サーバ装置などのコンピュータがこれに用いられる。
通信装置１１は入出力インターフェースであり、記憶装置１２はメモリ、ハードディスクなどであり、処理装置１３はＣＰＵなどである。なお、図１では、単一の構造マッチング装置１０を示しているが、複数のコンピュータを用いて分散処理を行うように構造マッチング装置１０を構成してもよい。
【００２５】
記憶装置１２には、文書分類体系Ｓ毎に文書生成確率モデルが格納されている。ここでは、文書分類体系Ｓは、Ｗｅｂページの文書分類体系とするが、電子メール、電子図書、特許公報、学術論文などの文書の文書分類体系であってもよい。たとえば、図７（Ａ）、（Ｂ）に示した文書分類体系Ｓの各文書生成確立モデルがそれぞれ記憶装置１２に格納されている。文書生成確立モデルの例を図２に示す。図２の文書生成確立モデルでは、文書分類体系Ｓに含まれるトピック（「料理、グルメ」など）ｃ毎に、文書ｄ中に出現する単語の単語頻度分布が表されている。なお、文書生成確率モデルは、たとえば、ファイル形式で記憶装置１２に保存されている。
【００２６】
処理装置１３は、受付機能、推定機能、探索機能および出力機能を有するが、これらの機能は後記する。
【００２７】
利用者用端末３０は、パーソナルコンピュータなどのコンピュータであり、次のような一般的な構成となっている。すなわち、利用者用端末３０は、キーボードなどの入力装置と、コンピュータディスプレイなどの表示装置と、ハードディスク、メモリなどの記憶装置と、ＣＰＵなどの処理装置とを備えている。
【００２８】
次に、構造マッチング装置１０におけるマッチング処理を説明する。図３は、構造マッチング装置１０におけるマッチング処理の動作全体の手順を示す図である。なお、構造マッチング装置１０の動作は、処理装置１３が記憶装置１２に格納された構造マッチングプログラムを逐次実行することによって実現される。構造マッチングプログラムは、コンピュータ読み込み可能な記録媒体から読み込まれてもよい。記録媒体としては、たとえば、ＣＤ−ＲＯＭ、半導体メモリ、磁気ディスクなどがある。
【００２９】
まず、ユーザが利用者用端末３０を操作して、通信ネットワーク２０を介して構造マッチング装置１０にアクセスする。そしてその後、構造マッチング装置１０の処理装置１３は、利用者用端末３０からの要求により、マッチング対象のトピックｃを受け付ける（Ｓ１：これを「受付機能」という。）。マッチング対象のトピックｃは、たとえば、図７（Ａ）に示した第１の文書分類体系Ｓに含まれるパンなどのトピックｃである。
【００３０】
続いて、処理装置１３は、Ｓ１で受け付けたトピックｃを含む第１の文書分類体系Ｓとは異なる第２の文書分類体系（たとえば図７（Ｂ）に示したもの）Ｓおよび第１の文書分類体系Ｓの各文書生成確立モデルを記憶装置１２から読み出す。そして、処理装置１３は、読み出した各文書生成確率モデルをもとに、Ｓ１でマッチング要求されたトピックｃから、第２の文書分類体系Ｓにおけるトピック度ベクトルｗ=(ｗ0,・・・,ｗk）をパラメトリック混合モデルの基本原理を適用し推定処理を行う（Ｓ２：これを「推定機能」という。）。推定処理では、前記した式（３）の最尤推定の問題を解く。これにより、式（３）のトピック度ベクトルｗが求められ、マッチング対象のトピックｃの単語頻度分布と最も確からしい第２の文書分類体系Ｓのトピックｃが抽出される。
【００３１】
次に、処理装置１３は、Ｓ２で推定したトピック度ベクトルｗ=(ｗ0,・・・,ｗk）に基づいて、Ｓ１でマッチング要求されたトピックｃとマッチングする第２の文書分類体系Ｓに含まれる１ないし複数のトピックｃの探索処理を行う（Ｓ３：これを「探索機能」という。）。探索処理では、処理装置１３は、前記した式（４）の目的関数を記憶装置１２を読み出し、この目的関数によるモデル推定問題を解くが、これについては、後記の図４で詳述する。なお、マッチングは、完全一致の場合に限らず、類似する場合も含む。
【００３２】
そして、処理装置１３は、検索結果の出力として、Ｓ３で探索したトピックｃを通信ネットワーク２０を介して利用者用端末３０に送信する（Ｓ４：これを「出力機能」という。）。これにより、ユーザは、マッチング対象のトピックｃと適合する第２の文書分類体系Ｓのトピックｃを１ないし複数確認することができる。たとえば、ユーザは、図７（Ｂ）に示した「料理」や「お茶」などの各種トピックを複数確認することができる。
【００３３】
ここで、図３の探索処理Ｓ３を詳述する。図４は、探索処理Ｓ３の処理手順を示す図である。探索処理Ｓ３の実行になると、処理装置１３は、まず、第２の文書分類体系Ｓの初期化処理を行う（Ｓ３１）。たとえば、処理装置１３は、図３の推定処理Ｓ２で推定した第２の文書分類体系Ｓに含まれる複数のトピックｃのうち、文書ｄに直接リンクされているノードのトピックｃのみを選択する。そして、処理装置１３は、選択したトピックｃの部分集合Ｇ（０）を構成する。なお、Ｇ（０）については後記する。
【００３４】
続いて、処理装置１３は、Ｓ３１で初期化処理を行った第２の文書分類体系Ｓに含まれる下位ノード群を上位ノードに汎化（ここでは「集約」という意味）することができるかどうかを判断する（Ｓ３２）。そして、汎化することができると判断された場合（Ｓ３２の「Ｙｅｓ」の場合）、処理装置１３は、上位ノードへの汎化処理を行う（Ｓ３３）。たとえば、図７（Ｂ）では、「コーヒー」のトピックｃが「お茶」のトピックｃに集約される。そして、上位ノードへの汎化処理が終了すると、処理装置１３は、Ｓ３２に戻り、他の下位ノード群を上位ノードに汎化することができるかを判断する。
このようにして、処理装置１３は、すべての下位ノードについて、Ｓ３２およびＳ３３の処理を繰り返す。これにより、文書分類体系Ｓの下位ノード群が上位ノードに集約されることとなる。
【００３５】
そして、Ｓ３２における判断において、汎化することができないと判断された場合（Ｓ３の「Ｎｏ」の場合）、処理装置１３は、文書分類体系Ｓに不要ノードがあるかどうかを判断する（Ｓ３４）。不要ノードは、図３のＳ１で受け付けたマッチング対象のトピックｃと類似度の低いノードである。たとえば、マッチング対象が図７（Ａ）の「パン」のトピックｃであった場合、この「パン」のトピックｃと類似度の低い図７（Ｂ）の「嗜好品」などのトピックｃが不要ノードに該当する。
そして、Ｓ３４で、不要ノードがあると判断された場合（Ｓ３４の「Ｙｅｓ」の場合）、処理装置１３は、不要ノードの枝刈処理を行う（Ｓ３５）。たとえば、枝刈処理では、不要ノードを削除する。そして、枝刈処理が終了すると、処理装置１３は、Ｓ３４に戻り、他の不要ノードがあるかどうかを判断する。
このようにして、処理装置１３は、すべてのノードについて、Ｓ３４およびＳ３５の処理を繰り返す。これにより、第２の文書分類体系Ｓのノードが簡略化され、探索処理Ｓ３が完了する。
【００３６】
ここで、初期化処理Ｓ３１から枝刈処理Ｓ３５までの処理について変数および関数を用いて順に詳述する。ここでは、変数および関数を次のように表して説明する。マッチング対象のトピックｃのトピック番号ｋのノードが直接リンクしているノード群のトピック番号集合をＡ（ｋ）で表す。トピック番号ｋは、トピックｃを識別するための番号である。
また、Ｓ３での探索結果（出力用）の結果集合をＧ’，マッチングの探索制御用の集合をＮＧで表す。さらに、ループ制御変数をｔで表す。
【００３７】
初期化処理Ｓ３１になると、処理装置１３は、まず、Ｇ’＝Ｇ（０）、ＮＧ＝φ（ここでは空集合を表す。以下同じ。）、ｔ＝０として初期化する。Ｓ３２では、処理装置１３は、ｋ∈ＮＧ∧Ａ（ｋ）⊆Ｇ（ｔ−１）の条件を満たすトピック番号ｋを任意に選び、Ｇ(ｔ)=Ｇ(ｔ-１)∪[ｋ]とする。そして、その条件を満たすｋがなければ、処理装置１３は、ＮＧ＝φとしてＳ３４に進む。
【００３８】
Ｓ３３では、処理装置１３は、ＭＤＬ（Ｇ（ｔ））＜ＭＤＬ（Ｇ（ｔ−１））ならば、ｔ＝ｔ＋１とし、ＭＤＬ（Ｇ（ｔ））＜ＭＤＬ（Ｇ（ｔ−１））でなければ、ＮＧ＝ＮＧ＋[ｋ]としてＳ３２に戻る
【００３９】
Ｓ３４では、処理装置１３は、ｋ∈（Ｇ（ｔ−１）−ＮＧ）の条件を満たすトピック番号ｋを選び、Ｇ（ｔ）＝Ｇ（ｔ−１）−[ｋ]とする。もし、その条件を満たすｋが存在しなければ、検索結果であるトピックの部分集合Ｇ’を出力して（図２のＳ４）終了する。
【００４０】
Ｓ３５では、処理装置１３は、ＭＤＬ（Ｇ（ｔ））＜ＭＤＬ（Ｇ（ｔ−１））ならば、ｔ＝ｔ＋１とし、ＭＤＬ（Ｇ（ｔ））＜ＭＤＬ（Ｇ（ｔ−１））でなければ、ＮＧ＝ＮＧ＋[ｋ]としてＳ３４に戻る。
【００４１】
このようにすると、トピックの部分集合Ｇで規定するＮＢパラメータ群の線形独立性を保持しつつ、Ｓ３２およびＳ３３で下位ノード群を上位ノードに汎化できるかを調べることが可能となる。また、Ｓ３４およびＳ３５で不要ノードの枝刈りができるかどうかを調べることが可能となる。したがって、簡易かつ適切な文書生成確率モデルの探索を実行することが可能となる。
さらに、最終的なトピック度ベクトルｗkは、ｋ∈Ｇ’ならば、前記した式（３）で求まる推定量とする。また、ｋ∈Ｇ'でなければ０とする。これにより、明らかに、ｗ0＋・・・＋ｗk＝１の制約は保持されることになる。
【００４２】
このように、実施の形態では、構造マッチング装置１０は、第１の文書分類体系Ｓに含まれるトピックｃのマッチング要求を受け付ける受付機能を備えている。また、構造マッチング装置１０は、第１の文書分類体系Ｓとは異なる第２の文書分類体系Ｓおよび第１の文書分類体系Ｓの各文書生成確立モデルを記憶装置１２から読み出し、その各文書生成確率モデルをもとに、マッチング要求されたトピックｃから、第２の文書分類体系Ｓにおけるトピック度ベクトルｗをパラメトリック混合モデルの基本原理を適用して推定する推定機能を備えている。さらに、構造マッチング装置１０は、推定機能により推定されたトピック度ベクトルｗに基づいて、前記マッチング要求されたトピックｃとマッチングする第２の文書分類体系Ｓに含まれる１ないし複数のトピックｃを探索する探索機能を備えている。そして、構造マッチング装置１０は、探索機能により探索されたトピックｃを外部出力する出力機能を備えている。
【００４３】
このため、文書分類体系Ｓに含まれるトピックｃやそのディレクトリ構造だけに着目するのではなく、文書ｄに含まれている単語の出現頻度に着目して、異なる文書分類体系Ｓ間のトピックｃのマッチングを行うことができる。また、文書ｄが持つ多重トピックを考慮して、文書分類体系Ｓ間のトピックｃの探索を行うことができる。したがって、異なる文書分類体系Ｓ間のトピックｃの整合をより的確に行うことができる。
【００４４】
しかも、異なる文書分類体系Ｓ間で同一の文書が体系化されていない場合であっても、文書ｄに含まれている単語の出現頻度に着目して、他の文書分類体系Ｓへのトピックｃのマッチングを適切に行うことができるので、有益である。
【００４５】
また、構造マッチング装置１０は、第２の文書分類体系Ｓに含まれるトピックｃを探索する際に、記憶装置１２に格納されているＭＤＬ原理の条件により、トピックｃの探索を行うようになっている。この場合、前記した式（４）により最良のトピックｃが探し出されるという効果がある。
【００４６】
［抽出評価の実験］
次に、本発明の有効性を評価するための抽出評価の実験について説明する。ここでは、図７で説明した「ｇｏｏ（Ｒ）」と「ｅｘｃｉｔｅ（Ｒ）」との２つのポータルサイトに着目し、これらの各ポータルサイトから、たとえば、「グルメ」をトピックに持つＷｅｂページ群の収集を行った。そして、収集した両ポータルサイトのＷｅｂページ群の対応関係について、さまざまな一般的な方法を用いて抽出し、それらの方法と本発明に係る方法（ＭＤＬを適用した方法）とを比較することにより、本発明の有効性を評価することとした。
【００４７】
前記したＷｅｂページ群の収集方法について詳述する。収集には、ＧｎｕＷｇｅｔと呼ばれるインターネットロボットを用い、このインターネットロボットにより、それぞれのポータルサイトから直接リンクされるポータルサイト外のＷｅｂページ（実際の文書）と、各文書分類体系Ｓを規定するリンク情報（アドレス）とを得た。そして、各ポータルサイトにおける収集の処理において、収集したＷｅｂページ中の単語には、動詞の活用形などを基本形に統一する語末処理を施した。このため、冠詞などの不要語（stop words）を２０５個削除し、また出現単語数が５０個未満のＷｅｂページを除外して考えた。さらに、単語頻度が１０未満の単語を無視して考えた。その結果、収集したＷｅｂページ中も単語の総数は１０，６９５となった。収集したＷｅｂページ群の結果、すなわち評価データの基本統計量を表１に示す。
【００４８】
【表１】
2006004103.tif 000007
【００４９】
表１において、リンク数にはトピックｃから文書ｄへのノード間のリンクの数も含まれている。なお、表１の２つのポータルサイトに共通して含まれているＷｅｂページ数は２０４であった。
【００５０】
［評価尺度と比較法］
［１］次に、抽出評価の実験の結果を定量的に評価するための評価尺度について説明する。ここでは、２名の被験者が、「ｇｏｏ（Ｒ）」のみに登録されているＷｅｂページ群について、「ｅｘｃｉｔｅ（Ｒ）」の文書分類体系Ｓであれば、どのトピックｃに分類するかのラベリングをそれぞれ行った。このとき、単一のＷｅｂページであっても、「ｅｘｃｉｔｅ（Ｒ）」の文書分類体系Ｓへの複数のトピックｃのラベリングを許容した。また、「ｅｘｃｉｔｅ（Ｒ）」の文書分類体系Ｓへの適切なトピックｃの分類が困難な場合、どのトピックｃにも分類されないことを示す「その他」というラベルを対象のＷｅｂページに付与することとした。
【００５１】
そして、前記したラベリングの完了後、「ｇｏｏ（Ｒ）」の各トピックｃに対する「ｅｘｃｉｔｅ（Ｒ）」でのトピック度ベクトルｈ＝（ｈ0,ｈ1，・・・，ｈk）を求めた。トピック度ベクトルｈは、ＭＤＬを適用した方法で得たトピック度ベクトルｗ（ｗ0＋・・・＋ｗk＝１）と対比するために用いられるものであり、ここでは、文書ｄ毎に、総和が１となるようにあらかじめ正規化を行った。正規化には、０−１ラベリングベクトルを用いた。０−１ラベリングベクトルは、前記したラベリングによって表されるものであり、「ｅｘｃｉｔｅ（Ｒ）」の文書分類体系Ｓへのトピックｃがあれば「１」を表し、トピックｃがなければ「０」を表す。なお、ｈ0は「その他」のラベルに対応するものである。
【００５２】
正規化について詳述する。まず、対象とするディレクトリ（対応元）に含まれる文書ｄnに対して、対応先のどのディレクトリに格納すべきか、被験者に判定して貰い、Ｋ次元の０−１ラベリングベクトルｚnを作成する。ただし、対応先ディレクトリは、一つに限定されず、複数のディレクトリに対応させることを許容する。そして、ラベリングベクトルｚnを足して１になるように正規化する。この算出式を次式（５）に示す。
【００５３】
【数５】
2006004103.tif 000008
【００５４】
ただし、対応先のディレクトリには複数の文書が存在するので、すべてのラベリングベクトルを足し合わせてから１に正規化するようになっている。この算出式を次式（６）に示す。
【００５５】
【数６】
2006004103.tif 000009
【００５６】
そして、前記したトピック度ベクトルｈと、前記したトピック度ベクトルｗとの一致する正当率（「一致正当率」という。）を示す評価尺度Ｅ（ｃ）を次式（７）により求めた。
【００５７】
【数７】
2006004103.tif 000010
【００５８】
式（７）によると、評価尺度Ｅ（ｃ）は、トピック度ベクトルｈとトピック度ベクトルｗとの分布が共通する部分を示す。したがって、双方のトピック度ベクトルｈ，ｗが完全に一致した場合は、評価尺度Ｅ（ｃ）は１になり、一致しない場合は、評価尺度Ｅ（ｃ）は０になる。なお、「評価尺度Ｅ（ｃ）＝１」は最良の結果を示す。
【００５９】
［２］次に、比較法について説明する。ここでは、ｃｏｓ法とｍｕｌｔｉ法の２つの代表的な比較法を用いた。ｃｏｓ法は、コサイン類似度を土台にトピックｃを抽出する方法であり、ＢＯＷに基づくテキスト処理で幅広く採用されている。ｍｕｌｔｉ法は、多項分布を土台にトピックｃを抽出する方法である。ｃｏｓ法でのトピック度ベクトルｕkを次式（８）に、ｍｕｌｔｉ法によるトピック度ベクトルｖkを次式（９）に、それぞれ示す。なお、実験では、ＮＢパラメータθ0＝（１／Ｖ，・・・，１／Ｖ）として、式（８）のｕ0および式（９）のｖ0を求めた。ｕ0，ｖ0はいずれにも対応しない特別なノード（「その他」のラベルに対応するもの）を表している。
【００６０】
【数８】
2006004103.tif 000011
【００６１】
【数９】
2006004103.tif 000012
【００６２】
なお、実験では、式（８）および式（９）中のスケーリングパラメータ（scaling parameter）βの値を適当に変化させて、抽出評価を行った。また、式（９）のＮＢパラメータθiにはラプラススムージングを施した。ラプラススムージングは、ＮＢパラメータθiが０にならないように無条件で１にするための処理である。ラプラススムージングの算出式を次式（１０）に示す。ここでは、対象とするディレクトリでｉ番目の単語が使われた回数をｎiとしている。なお、式（１０）中、Ｖは異なる種類の単語数（語彙規模）を表す。
【００６３】
【数１０】
2006004103.tif 000013
【００６４】
［評価結果］
次に、評価結果について説明する。図５は、すべてのノードを対象とした場合の比較法およびＭＤＬを適用した評価結果を示す図である。図５によると、スケーリングパラメータβがいずれの値であっても、ＭＤＬでの正当率は３３％程度になったのに対し、２種類の比較法での正当率はそれよりも低くなった。これにより、ＭＤＬを適用した方法での優位性が実証された。
【００６５】
なお、図５に示したように、すべてのノードを対象として抽出した場合、ＭＤＬでは、モデル選択によりトピック群が限定されることになるのに対し、比較法では、すべてのトピックが抽出の対象になるので、両者の比較は公平でない面がある。そこで、図６に示すように、リーフノードのみを対象として抽出した場合についての評価を行った。なお、この場合、被験者のラベリングにより求めたトピック度ベクトルｈを含むすべての中間ノードにおいて、トピック度ベクトルｈを下位ノード群へのリンク数で割って足し込む操作を再帰的に繰り返した。
【００６６】
図６は、リーフノードのみを対象とした場合の比較法およびＭＤＬを適用した評価結果を示す図である。図６によると、ＭＤＬでの正当率は３７％程度となり、図５の場合よりも正当率が向上した。これは、次のような理由によるものと考えられる。すなわち、図５の場合よりも、対象のトピック数が少なくなり、モデルの探索問題の難易度が緩和したからである。また、図６では、ＭＤＬでの正当率と両比較法での正当率との差が、図５の場合よりも若干小さくなったものの、それでも、スケーリングパラメータβがどの値に変化しても、ＭＤＬを適用した方法での正当率は、２種類の比較法を用いた場合よりも高くなった。したがって、このようにしても、ＭＤＬを適用した方法での優位性が実証された。
【００６７】
なお、本発明は、前記した実施の形態に限られるものではない。記憶装置１２のデータ構造及びプログラム処理の順序は、既知の技術により種々の変更が可能である。
【図面の簡単な説明】
【００６８】
【図１】本発明の実施の形態に係る文書分類体系間の構造マッチング装置を含むシステムの構成を示すブロック図である。
【図２】図１の記憶装置に格納されている文書生成確率モデルを示す説明図である。
【図３】図１の構造マッチング装置におけるマッチング処理の動作全体の手順を示す図である。
【図４】図３の探索処理の処理手順を示す図である
【図５】すべてのトピックをマッチング対象とした場合におけるマッチングの評価結果の一例を示す説明図である。
【図６】リーフトピックのみをマッチング対象とした場合におけるマッチングの評価結果の一例を示す説明図である。
【図７】文書分類体系のＷｅｂディレクトリ構造を示す説明図である。
【符号の説明】
【００６９】
１０      構造マッチング装置
１２      記憶装置
１３      処理装置
３０      利用者用端末
【図１】
2006004103.tif 000014
【図２】
2006004103.tif 000015
【図３】
2006004103.tif 000016
【図４】
2006004103.tif 000017
【図５】
2006004103.tif 000018
【図６】
2006004103.tif 000019
【図７】
2006004103.tif 000020