(57)【要約】【課題】ラベル付与技術において、計算量を抑え、かつ、コンテンツに対する「ラベルなし」判定を低減すること。【解決手段】本発明は、少なくとも文字と画像のいずれかを有するコンテンツにその内容の種別を表すラベルを１つ以上付与するラベル付与装置である。ラベル付与装置は、特徴ベクトルと２値分類器とを用いてスコア関数を生成し、そのスコア関数とラベル付与可否判定用のしきい値とを有する識別関数を生成し、その識別関数によって算出した識別関数値によってラベル付与の可否を判定する。【選択図】図１
2008276571.tif 000002
【特許請求の範囲】
【請求項１】
少なくとも文字と画像のいずれかを有するコンテンツにその内容の種別を表すラベルを１つ以上付与するラベル付与装置によるラベル付与方法であって、
前記ラベル付与装置は、スコア関数生成部、識別関数生成部およびラベル付与部を含む処理部と、記憶部と、を備え、
前記スコア関数生成部は、前記記憶部からそれぞれ読み出した、前記コンテンツの各特徴の出現頻度を集めた特徴ベクトルと、個々の前記ラベルごとに設計されるプログラムである２値分類器と、を用いて、ラベルごとのその付与の可否を判定するためのスコアをラベル付与対象コンテンツごとに算出するスコア関数を生成し、
前記識別関数生成部は、前記記憶部から読み出した、付与されるラベルがすでに決定されているコンテンツからなる訓練データ集合を用いて、前記スコア関数と、前記スコア関数によって算出されるスコアを用いてラベル付与の可否を判定するためのしきい値と、を有する識別関数を生成し、
前記ラベル付与部は、前記識別関数を用いてそれぞれの前記ラベルに対する前記ラベル付与対象コンテンツの識別関数値を算出し、その識別関数値が所定値以上になったときのラベルを、そのラベル付与対象コンテンツに対応付けて前記記憶部に格納することでラベル付与を行う
ことを特徴とするラベル付与方法。
【請求項２】
前記スコア関数生成部は、
前記２値分類器として、コンテンツにラベルを付与する確率を与える確率モデルに基づく分類器を用い、付与されるラベルがすでに決定されているコンテンツからなる訓練データ集合を用いてその分類器が予め学習されている場合、
前記記憶部から読み出した前記２値分類器を用いて、前記ラベル付与対象コンテンツにラベルを付与すると仮定したときの確率とラベルを付与しないと仮定したときの確率とをそれぞれ算出し、前記ラベルを付与すると仮定したときの確率を前記ラベルを付与しないと仮定したときの確率で除した値の対数を、前記ラベル付与対象コンテンツへのラベル付与の可否を判定するスコアとして算出するスコア関数を生成する
ことを特徴とする請求項１に記載のラベル付与方法。
【請求項３】
前記識別関数生成部は、識別関数を生成する場合、
前記訓練データ集合から１つの訓練データを除外して計算される２値分類器のパラメータの推定値から算出されるスコアの予測値を用いてその除外された訓練データに付与されるラベルの組み合わせが、その予測値を用いて正しく付与されるラベルの個数をその訓練データに付与すべきラベルの総数で除した値と、その予測値を用いて正しく付与されるラベルの個数をその予測値を用いて付与されるラベルの総数で除した値と、の調和平均を最大化する基準に適合するように、前記識別関数のパラメータの推定値を算出する
ことを特徴とする請求項１に記載のラベル付与方法。
【請求項４】
前記識別関数生成部は、
前記調和平均を最大化する基準に適合するように前記識別関数のパラメータの推定値を算出するときに、前記識別関数のパラメータで与えられるしきい値とスコア関数値の差を変数とするロジスティック関数を用いて定義される調和平均の近似値を最大化する前記識別関数のパラメータの推定値を、勾配法を用いて探索する
ことを特徴とする請求項３に記載のラベル付与方法。
【請求項５】
少なくとも文字と画像のいずれかを有するコンテンツにその内容の種別を表すラベルを１つ以上付与するラベル付与装置であって、処理部と、記憶部と、を備え、
前記処理部は、
前記記憶部からそれぞれ読み出した、前記コンテンツの各特徴の出現頻度を集めた特徴ベクトルと、個々の前記ラベルごとに設計されるプログラムである２値分類器と、を用いて、ラベルごとのその付与の可否を判定するためのスコアをラベル付与対象コンテンツごとに算出するスコア関数を生成するスコア関数生成部と、
前記記憶部から読み出した、付与されるラベルがすでに決定されているコンテンツからなる訓練データ集合を用いて、前記スコア関数と、前記スコア関数によって算出されるスコアを用いてラベル付与の可否を判定するためのしきい値と、を有する識別関数を生成する識別関数生成部と、
前記識別関数を用いてそれぞれの前記ラベルに対する前記ラベル付与対象コンテンツの識別関数値を算出し、その識別関数値が所定値以上になったときのラベルを、そのラベル付与対象コンテンツに対応付けて前記記憶部に格納することでラベル付与を行うラベル付与部と、を備える
ことを特徴とするラベル付与装置。
【請求項６】
請求項１から請求項４のいずれか１項に記載のラベル付与方法をコンピュータに実行させることを特徴とするプログラム。
【請求項７】
請求項６に記載のプログラムが記憶されたことを特徴とするコンピュータに読み取り可能な記憶媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、文字や画像を有するコンテンツにその内容の種別を表すラベルを付与する技術に関する。
【背景技術】
【０００２】
近年、データベースに含まれるコンテンツにラベルを付与する技術の研究や開発が盛んに行われている。ここで、コンテンツとは、論文、特許公報、オンラインニュースデータ、電子メール等のテキスト情報からなるものや、Ｗｅｂデータ、ブログデータ等のテキスト情報とリンク情報からなるもの、さらに、画像データからなるものなどのことを指す。また、この場合、コンテンツは、特徴ベクトルにより表現可能であることが必要である。
【０００３】
特徴ベクトルとは、コンテンツに含まれる要素（特徴）の出現頻度の比をベクトルで表したものである。たとえば、あるコンテンツに「データ」「情報」「処理」という単語（特徴）が、それぞれ「３回」「１回」「２回」出現する（使用されている）とき、そのコンテンツの特徴ベクトルは｛３，１，２｝あるいは｛３／６，１／６，２／６｝等と表現することができる。
【０００４】
また、ラベルとは、前記したようにコンテンツの内容の種別を表すものであり、「コンピュータ」「スポーツ」「音楽」「数学」といったものが挙げられる。たとえば、コンテンツが特許文書である場合、ＩＰＣ（国際特許分類）、Ｆターム（File Forming Term）、ＦＩ(File Index)等がラベルに相当する。
【０００５】
そして、ラベル付与技術において、使用するラベルは予め決定されていることが一般的である。たとえば、付与すべきラベルがすでに決定されているコンテンツ（訓練データ）の集合に関する統計情報を用いて、コンテンツの特徴ベクトルを入力、ラベル付与の推定値を出力とする多重ラベル付与器（その機能を有するプログラム）を学習し、その多重ラベル付与器を用いてラベル未付与のコンテンツ（ラベル付与対象コンテンツ）に１つ以上のラベルを付与（多重ラベル付与）する方法がある。
【０００６】
非特許文献１，２に示す多重ラベル付与器は、コンテンツに複数のラベルを付与する問題において、個々のラベルごとにコンテンツの特徴ベクトルを入力、ラベル付与の可否を出力とする２値分類器を用いて設計される。すなわち、各ラベルに対応する２値分類器を複数用いて複数のラベルの付与を判定する多重ラベル付与器を実現する。この非特許文献１，２に示す多重ラベル付与器では、訓練データを用いた２値分類器の学習と、学習された２値分類器を用いたコンテンツへのラベル付与の可否の判定が、個々のラベルごとに独立して行われることを特徴とする。
【０００７】
そして、非特許文献１，２の技術では、個々のラベルごとに２値分類器を設計する。各ラベルに対応する２値分類器では、他のラベルと比較して、訓練データを用いた学習と、コンテンツへのラベル付与の判定が行われる。２値分類器が個々のラベルごとに設計されるため、多重ラベル付与器の学習とコンテンツのラベル付与に要する計算量はラベル数に比例する。これは、高速に多重ラベル付与を実現できることを意味する。
【０００８】
また、非特許文献３，４に示す多重ラベル付与器は、入力であるコンテンツの特徴ベクトルに対して、付与すべきラベルの組み合わせを直接出力する多重分類器により実現される。この非特許文献３，４に示す多重ラベル付与器は、コンテンツに対してラベルの組み合わせの候補の中から最適な組み合わせを選択することを特徴とする。
【非特許文献１】K.Nigam, A.McCallum, S.Thrunand T.Mitchell: Text classification from labeled and unlabeled documents using EM, Machine Learning, 39, 103-134(2000).
【非特許文献２】T. Joachims: Text categorization with support machines: Learning with many relevant features, Proceeding of 10th European Conference on Machine Learning(ECML-98), 137-142(1998).
【非特許文献３】上田修功、斉藤和巳：「多重トピックテキストの確率モデル−パラメトリック混合モデル−」、電子情報通信学会論文誌、Ｊ８７-Ｄ-ＩＩ（３）、872-883、２００４年
【非特許文献４】賀沢秀人、泉谷知範、平博順、前田英作、磯崎秀樹：「最大マージン原理に基づく多重ラベリング学習」、電子情報通信学会論文誌、Ｊ８８-Ｄ-ＩＩ（１１）、2246-2259、２００５年
【発明の開示】
【発明が解決しようとする課題】
【０００９】
しかしながら、非特許文献１，２の技術では、コンテンツに本来付与すべきラベルを付与しないように判定することがしばしば起きる欠点がある。一般的に、多重ラベル付与の問題において、個々のラベルは、付与されるべきコンテンツの数が、付与されるべきでないコンテンツの数よりも圧倒的に少ないことが多い。このような場合では、２値分類器があるラベルをすべてのコンテンツに付与しないように判定しても、その２値分類器の分類精度は高いことになりえる。したがって、多重ラベル付与の問題では、大多数のコンテンツにラベルを付与しないように判定する２値分類器を、訓練データを用いた学習で獲得する傾向があり、そうすると、多重ラベル付与器があるラベル付与対象コンテンツに対して１つもラベルを付与しないように判定する事態がしばしば発生するという問題がある。
【００１０】
一方、非特許文献３，４の技術では、前記したように、コンテンツに対してラベルの組み合わせの候補から最適なラベルの組み合わせを選択する多重ラベル付与器を設計する。この多重ラベル付与器は、コンテンツの最適なラベルの組み合わせが、まったくラベルを付与しない、すなわち「ラベルなし」になる場合を除外して設計することができる。このため、非特許文献３，４の技術では、非特許文献１，２の技術で生じる、多くのコンテンツを「ラベルなし」と判定する問題を回避することができ、より高精度な多重ラベル付与を期待できる。
【００１１】
しかし、この種の多重ラベル付与器では、個々のラベルではなく、膨大なラベルの組み合わせ（ラベル数のべき乗のオーダ）を扱わなければならないという問題がある。これは、ラベル数がある程度多いと、コンテンツにラベルを付与するのに膨大な計算量を必要とすることを意味する。非特許文献３，４の技術では、この問題に対処する近似アルゴリズムを用いているが、それでも、それぞれラベル数の２乗、３乗のオーダの計算量を必要とする。つまり、特許文献３，４の技術には、非特許文献１，２の技術よりもラベル付与に多くの時間がかかることがあるという問題がある。
【００１２】
そこで、本発明は、前記問題点に鑑みてなされたものであり、ラベル付与技術において、少ない計算量でコンテンツに対して適切なラベルを１つ以上付与し、かつ、コンテンツに対する「ラベルなし」の判定を低減することを目的とする。
【課題を解決するための手段】
【００１３】
前記課題を解決するために、本発明にかかるラベル付与方法を実行するラベル付与装置は、少なくとも文字と画像のいずれかを有するコンテンツにその内容の種別を表すラベルを１つ以上付与する。ラベル付与装置は、スコア関数生成部、識別関数生成部およびラベル付与部を含む処理部と、記憶部と、を備える。
スコア関数生成部は、記憶部からそれぞれ読み出した、コンテンツの各特徴の出現頻度を集めた特徴ベクトルと、個々のラベルごとに設計されるプログラムである２値分類器と、を用いて、ラベルごとのその付与の可否を判定するためのスコアをラベル付与対象コンテンツごとに算出するスコア関数を生成する。
識別関数生成部は、記憶部から読み出した、付与されるラベルがすでに決定されているコンテンツからなる訓練データ集合を用いて、スコア関数と、スコア関数によって算出されるスコアを用いてラベル付与の可否を判定するためのしきい値と、を有する識別関数を生成する。
ラベル付与部は、識別関数を用いてそれぞれのラベルに対するラベル付与対象コンテンツの識別関数値を算出し、その識別関数値が所定値以上になったときのラベルを、そのラベル付与対象コンテンツに対応付けて記憶部に格納することでラベル付与を行う。
【００１４】
かかる発明によれば、特徴ベクトルと２値分類器とを用いてスコア関数を生成し、そのスコア関数とラベル付与可否判定用のしきい値とを有する識別関数を生成し、その識別関数によって算出した識別関数値によってラベル付与の可否を判定するため、ラベル付与に要する計算量をラベル数に比例する時間に抑制することができ、かつ、「ラベルなし」と誤判定する可能性を低減することができる。
【００１５】
また、本発明にかかるラベル付与装置では、スコア関数生成部が、２値分類器として、コンテンツにラベルを付与する確率を与える確率モデルに基づく分類器を用い、付与されるラベルがすでに決定されているコンテンツからなる訓練データ集合を用いてその分類器が予め学習されている場合、記憶部から読み出した２値分類器を用いて、ラベル付与対象コンテンツにラベルを付与すると仮定したときの確率とラベルを付与しないと仮定したときの確率とをそれぞれ算出し、ラベルを付与すると仮定したときの確率をラベルを付与しないと仮定したときの確率で除した値の対数を、ラベル付与対象コンテンツへのラベル付与の可否を判定するスコアとして算出するスコア関数を生成する。
【００１６】
かかる発明によれば、ラベルを付与すると仮定したときの確率をラベルを付与しないと仮定したときの確率で除した値の対数を、ラベル付与対象コンテンツへのラベル付与の可否を判定するスコアとして用いることで、スコア関数生成部を適切に実現することができる。つまり、このスコア関数生成部を用いることで、任意のコンテンツに対して、識別関数生成部が計算に用いるのに適したスコアを算出することができる。
【００１７】
また、本発明にかかるラベル付与装置では、識別関数生成部が、識別関数を生成する場合、訓練データ集合から１つの訓練データを除外して計算される２値分類器のパラメータの推定値から算出されるスコアの予測値を用いてその除外された訓練データに付与されるラベルの組み合わせが、その予測値を用いて正しく付与されるラベルの個数をその訓練データに付与すべきラベルの総数で除した値と、その予測値を用いて正しく付与されるラベルの個数をその予測値を用いて付与されるラベルの総数で除した値と、の調和平均を最大化する基準に適合するように、識別関数のパラメータの推定値を算出する。
【００１８】
かかる発明によれば、ラベルの組み合わせが前記した調和平均を最大化する基準に適合するように識別関数のパラメータの推定値を算出するようにしたことで、識別関数生成部を適切に実現することができる。つまり、この識別関数生成部を用いて新規のコンテンツにラベルを付与することで、前記の調和平均を大きくすることが期待できる。
【００１９】
また、本発明にかかるラベル付与装置では、所定のロジスティック関数を用いて定義される調和平均の近似値を最大化する識別関数のパラメータの推定値を、勾配法を用いて探索する。
【００２０】
かかる発明によれば、準ニュートン法などの勾配法を用いることで、前記した識別関数のパラメータの推定値を効率的に探索することができる。
【００２１】
また、本発明にかかるプログラムは、前記したラベル付与装置によるラベル付与方法をコンピュータに実行させることを特徴とする。
【００２２】
かかる発明によれば、ラベル付与方法をコンピュータに実行させることができる。
【００２３】
また、本発明にかかる記憶媒体は、前記したプログラムが記憶されたことを特徴とするコンピュータに読み取り可能な記憶媒体である。
【００２４】
かかる発明によれば、ラベル付与方法のプログラムを記憶することができる。
【発明の効果】
【００２５】
本発明によれば、ラベル付与技術において、少ない計算量でコンテンツに対して適切なラベルを１つ以上付与し、かつ、コンテンツに対する「ラベルなし」の判定を低減することができる。
【発明を実施するための最良の形態】
【００２６】
以下、本発明を実施するための最良の形態（以下、実施形態という。）について、図面を参照しながら説明する。なお、実施形態の概要、実施形態の具体例、実施例の順で説明する。
（実施形態の概要）
図１は、本実施形態の多重ラベル付与装置（ラベル付与装置）の構成を示す機能ブロック図である。多重ラベル付与装置１は、訓練データＤＢ２（記憶部）、スコア関数生成部３（処理部）、識別関数生成部４（処理部）、メモリ５（記憶部）、多重ラベル付与部６（処理部）、入力部７および出力部８を備えて構成される。
【００２７】
多重ラベル付与装置１は、具体的にはコンピュータ装置であり、ＣＰＵ（Central Processing Unit）、ＲＡＭ（Random Access Memory）、ＲＯＭ（Read Only Memory）、ＨＤＤ（Hard Disk Drive）などを備えている。たとえば、訓練データＤＢ２はＨＤＤなどによって実現され、スコア関数生成部３、識別関数生成部４および多重ラベル付与部６は、ＲＯＭやＨＤＤに記憶された各種プログラムをＣＰＵが実行することによって実現される。また、メモリ５はＲＡＭなどによって実現される。
【００２８】
訓練データＤＢ２には、これからラベルを付与するコンテンツ（以下、「ラベル付与対象コンテンツ」という。）と同様の形式を持つコンテンツの例を集めた訓練データ集合が記憶されている。この訓練データ集合は、ラベル付与の可否を判定する識別関数（詳細は後記）を学習させるためのデータである。たとえば、コンテンツの種類が特許文書である場合、複数の特許文書とそれぞれに付与されているラベル（ＩＰＣ、Ｆターム等）が予め用意され、コンテンツ本体とラベル付与ベクトルの対の集合が訓練データＤＢ２に記憶される。ここで、ラベル付与ベクトルとは、すべてのラベル候補に対する付与の可否をベクトルとして表現したもので（詳細は後記）、多重ラベル付与装置１の利用者（以下、単に「利用者」という。）あるいは多重ラベル付与装置１の設計者によって予め付与されている。
【００２９】
スコア関数生成部３は、個々のラベルごとにコンテンツのスコアを算出するスコア関数を訓練データＤＢ２に記憶された訓練データ集合から生成する。識別関数生成部４は、スコアを基にコンテンツへのラベル付与の可否を推定するための識別関数を訓練データ集合から生成する。メモリ５は、その生成された識別関数などを記憶する。多重ラベル付与部６は、その識別関数を用いてコンテンツへのラベル付与の可否を判定する。
【００３０】
入力部７は、利用者がラベル付与を要求するコンテンツ（ラベル付与対象コンテンツ）を入力する際のインタフェースであり、たとえば、キーボードやマウスである。出力部８は、多重ラベル付与装置１による多重ラベル付与の結果などを画面表示したり外部装置に出力したりするインタフェースであり、たとえば、液晶ディスプレイや通信装置である。
【００３１】
次に、多重ラベル付与装置１の処理について説明する。図２は、多重ラベル付与装置の処理の概要を示したフローチャートである。図３は、スコアの予測値の計算の処理（図２のステップＳ１０３）を示したフローチャートである。図４は、識別関数のパラメータ学習の処理（図２のステップＳ１０４）を示したフローチャートである。図５は、識別関数を用いてコンテンツへのラベル付与の可否を判定する処理（図２のステップＳ１０５）を示したフローチャートである。
【００３２】
2008276571.tif 000003
【００３３】
2008276571.tif 000004
【００３４】
2008276571.tif 000005
【００３５】
2008276571.tif 000006
【００３６】
2008276571.tif 000007
【００３７】
2008276571.tif 000008
【００３８】
2008276571.tif 000009
【００３９】
2008276571.tif 000010
【００４０】
このように、本実施形態の多重ラベル付与装置１では、まず、従来の２値分類器の技術を基に、個々のラベルごとにコンテンツへのラベル付与の可能性を示すスコアを与えるスコア関数を設計する。次に、このスコア関数によってラベルごとに得られたスコアから、ラベル付与の可否を判定するための識別関数を設計する。識別関数の設計では、ラベル付与の可否を与えるスコアのしきい値を設定する。そして、コンテンツに付与すべきラベルを検索する問題に対して定義されるＦ値を最大化するように識別関数を学習することで最適なしきい値を得ることができる。
【００４１】
すなわち、本実施形態の多重ラベル付与装置１によれば、個々のラベルごとに２値分類器の技術を基にスコア関数を設計し、そのスコア関数を用いてコンテンツの各ラベルに対するスコアを算出し、そのスコアを用いて個々にラベル付与の可否を判定することで、ラベル付与に要する計算量をラベル数に比例する時間に抑制することができる。また、本実施形態の多重ラベル付与装置１では、ラベル付与の判定を与えるスコアのしきい値を、付与すべきラベルを検索する問題に対して定義されるＦ値の最大化に基づいて獲得する。Ｆ値は０から１までの値を取り、付与すべきラベルがあるコンテンツを「ラベルなし」と誤判定する場合に０となる指標である。したがって、Ｆ値の最大化に基づいて獲得されるしきい値を用いることで、「ラベルなし」と判定する可能性を大きく低減することができ、ラベル付与の精度を向上させることができる。
【００４２】
（実施形態の具体例）
次に、前記した実施形態の概要の具体例について説明する。ここでは、Ｋ個のラベル｛１，・・・，ｋ，・・・，Ｋ｝の候補からコンテンツに付与すべきラベルを１個以上選択する多重ラベル付与問題において、既知の任意の２値分類器を用いてスコア関数を定義して使用する場合の具体例について説明する。
【００４３】
コンテンツに含まれる単語等により構成される特徴空間をＴ＝｛ｔ１，…，ｔｉ，…，ｔＶ｝とするとき、コンテンツの特徴ベクトルｘは、コンテンツに含まれるｔｉの頻度を基にｘ＝｛ｘ１，…，ｘｉ，…，ｘＶ｝と表現される。Ｖは、コンテンツに含まれる可能性がある特徴の種類の数を表す。たとえば、コンテンツがテキストデータである場合、Ｖはコンテンツで出現する可能性がある語彙（単語）の種類の総数を表す。
【００４４】
コンテンツの特徴ベクトルｘに対してラベルｋの付与の可否を判定する２値分類器には、ナイーブベイズ（ＮＢ）モデル（非特許文献１）や、最大エントロピー（ＭＥ）モデル（K.Nigam, J.Lafferty, and A.McCallum: Using maximum entropy for text classification, IJCAI-99 Workshop on Machine Learning for Information Filtering, 61-67(1999).）、ＮＢモデルとＭＥモデルのハイブリッドに基づく分類器（ハイブリッド分類器、特開2006-107354号公報参照）、サポートベクターマシーン（ＳＶＭ）（非特許文献２）などの既存の分類器を用いることができる。
【００４５】
2008276571.tif 000011
【００４６】
2008276571.tif 000012
【００４７】
2008276571.tif 000013
【００４８】
2008276571.tif 000014
【００４９】
2008276571.tif 000015
【００５０】
2008276571.tif 000016
【００５１】
2008276571.tif 000017
【００５２】
2008276571.tif 000018
【００５３】
2008276571.tif 000019
【００５４】
2008276571.tif 000020
【００５５】
2008276571.tif 000021
【００５６】
2008276571.tif 000022
【００５７】
2008276571.tif 000023
【００５８】
2008276571.tif 000024
【００５９】
2008276571.tif 000025
【００６０】
2008276571.tif 000026
【００６１】
2008276571.tif 000027
【００６２】
2008276571.tif 000028
【００６３】
なお、このようなアルゴリズムのパラメータ学習とラベル付与の方法は、図２〜図５のフローチャートを実行するプログラムを作成することで、コンピュータ装置である多重ラベル付与装置１において実現することができる。さらに、それらのプログラムは、ハードディスク、フラッシュメモリ、ＣＤ−ＲＯＭ（Compact Disk Read Only Memory）、ＤＶＤ（Digital Versatile Disk）などの記憶媒体に保存することが可能である。
【００６４】
（実施例）
次に、本発明の実施例について説明する。表１は、国立情報学研究所主催のＮＴＣＩＲ-６プロジェクトから提供された日本語特許文書データベースに含まれる特許文書にＦタームを付与する問題に、前記した本実施形態の多重ラベル付与装置１(本願)を適用した場合と、従来技術（比較例）を適用した場合の結果を示す表である。
【表１】
2008276571.tif 000029
【００６５】
このデータベースは、コンテンツである特許文書を含み、各特許文書には関係するＦタームが付与されている。Ｆタームは特許の大分類を与えるテーマごとに用意されており、特許文書の検索キーとして利用される。Ｆタームは、各テーマごとに、１８個から１０００個弱設定されている。
【００６６】
本実施例では、テーマが既知の新規の特許文書にＦタームを自動的に付与する問題に対して、Ｆタームがすでに付与された過去の特許文書を訓練データとして用いて設計した実施形態の具体例の多重ラベル付与装置１を適用することで本発明の性能を評価した。ここで、過去の特許文書として、1993-1997年に出願された文書を用い、新規の特許文書として、1998-1999年に出願された１０８テーマに関する21606文書を用いた。なお、テーマごとに設定されているＦタームの数は、平均230、最小35、最大797であった。
【００６７】
実施形態の多重ラベル付与装置１のスコア関数生成部３で用いる２値分類器には、特開2006-107354号公報で示されたハイブリッド分類器を用いた。ハイブリッド分類器は、コンテンツに含まれる構成要素ごとにＮＢモデルを適用して設計される。本実施例では、特許文書に含まれる「発明の名称」、「発明者、出願人」、「要約」、「特許請求の範囲」、「その他の本文（明細書等）」を構成要素としてハイブリッド分類器を設計した。また、識別関数生成部４で識別関数のパラメータｗを計算する際に事前に設定するαとγの値をそれぞれ0.5と１とした。
【００６８】
新規の特許文書に対して実施形態の具体例の多重ラベル付与装置１を適用して得られるＦタームの付与の正確性とＦタームの検索順位（優先度）の正確性を、Ｆ値と１１点平均適合率（詳細は後記）を用いて評価した。
【００６９】
2008276571.tif 000030
【００７０】
2008276571.tif 000031
【００７１】
2008276571.tif 000032
【００７２】
2008276571.tif 000033
【００７３】
１１点平均適合率が大きいほど、特許文書に与えられるＦタームの検索順位が正確であることを示す。つまり、付与される正解Ｆタームの数が同じでも、検索順位が正確であるほど１１点平均適合率の値は大きくなる。Ｆ値と１１点平均適合率は、ラベルが付与される特許文書ごとに算出される評価尺度であるので、多重ラベル付与装置１の評価には、すべての特許文書に対するＦ値の平均と１１点平均適合率の平均の値を用いた。
【００７４】
表１に示した本願による方法と比較例による方法は、２値分類器として、いずれも、特開2006-107354号公報で示されたハイブリッド分類器を用いた。比較例による方法ではこのハイブリッド分類器のみを用いてラベル付与を行ったのに対し、本願による方法では識別関数生成部４により識別関数を新たに設定する点で比較例による方法と異なっている。
【００７５】
表１に示すように、Ｆ値は比較例による方法よりも本願による方法のほうが高く、１１点平均適合率は比較例による方法と本願による方法が同程度である。このように、本願による方法は、比較例による方法と比べて、ラベル付与の正確性の点で優位性を示し、ラベル検索順位の正確性の点で同等の性能を有していることがわかる。つまり、本願による方法は、比較例による方法よりも、「ラベルなし」と判定する可能性が低い。また、ここでは実証データを示していないが、本願による方法が、非特許文献３，４で示した方法と比べて、要する計算量が有意に少ないのは、本明細書の全文から明らかである。
【００７６】
以上で実施形態の説明を終えるが、本発明の態様はこれらに限定されるものではない。
たとえば、コンテンツは、特許文書でなくても、特徴ベクトルを表現可能なものであれば、論文や小説などの他の文書や、また、画像データなどであってもよい。その他、ラベルやフローチャートなどの具体的な構成について、本発明の趣旨を逸脱しない範囲で適宜変更が可能である。
【図面の簡単な説明】
【００７７】
【図１】本実施形態の多重ラベル付与装置の構成を示す機能ブロック図である。
【図２】多重ラベル付与装置の処理の概要を示したフローチャートである。
【図３】スコアの予測値の計算の処理を示したフローチャートである。
【図４】識別関数のパラメータ学習の処理を示したフローチャートである。
【図５】識別関数を用いてコンテンツへのラベル付与の可否を判定する処理を示したフローチャートである。
【符号の説明】
【００７８】
１      多重ラベル付与装置
２      訓練データＤＢ
３      スコア関数生成部
４      識別関数生成部
５      メモリ
６      多重ラベル付与部
７      入力部
８      出力部
【図１】
2008276571.tif 000034
【図２】
2008276571.tif 000035
【図３】
2008276571.tif 000036
【図４】
2008276571.tif 000037
【図５】
2008276571.tif 000038