(57)【要約】      （修正有）【課題】未知語のみからなるラベル無し文書のクラスラベルを推定し、未知語と既知語とからラベル無し文書について分類性能の高い分類器の構築を図る。【解決手段】文書分類装置１の単語ペアデータ生成部４は、外部文書から単語ペアを抽出して単語ペアデータを生成する。特徴付与部２０は、ラベル付き文書に文書特徴表現を付与し（特徴付きラベル付き文書）、ラベル無し文書に文書特徴表現を付与する（特徴付きラベル無し文書）。擬似特徴付与部５０は、特徴付きラベル付き文書を単語に分割し、単語ペアデータ中で分割された単語とペアの他の単語擬似特徴表現を定める。この擬似特徴表現を特徴付きラベル付き文書に付与して擬似特徴付きラベル付文書とする。推定部１１０は、擬似特徴付きラベル付き文書で学習して生成したクラス分類モデルに基づき特徴付きラベル無し文書のラベルを推定する。【選択図】図１
2015176511.tif 000002
【特許請求の範囲】
【請求項１】
文書を文書内容に応じてクラスに分類する文書分類装置であって、
外部文書から任意の単語ペアを抽出して単語ペアデータを生成する単語ペアデータ生成部と、
クラスラベルの付されたラベル付き文書に文書特徴表現を付与して特徴付きラベル付き文書とする一方、クラスラベルの未知なラベル無し文書に文書特徴表現を付与して特徴付きラベル無し文書とする特徴付与部と、
特徴付きラベル付き文書を単語に分割し、各単語ペアデータ中において前記分割された単語とペアの他の単語群を用いて擬似特徴表現を定め、定められた擬似特徴表現を特徴付きラベル付き文書に付与して擬似特徴付きラベル付き文書とする擬似特徴付与部と、
擬似特徴付きラベル付き文書を用いて学習して生成したクラス分類モデルに基づき特徴付きラベル無し文書のラベルを推定する推定部と、
を備えることを特徴とする文書分類装置。
【請求項２】
単語ペアデータ生成部は、抽出された単語ペアにおける各単語の関連度を単語ペアデータに含めて生成し、
擬似特徴付与部は、前記分割された単語を含む単語ペアの関連度に応じて前記他の単語の擬似特徴量を求め、
前記他の単語群の擬似特徴量を合わせて擬似特徴表現を定めることを特徴とする請求項１記載の文書分類装置。
【請求項３】
文書を文書内容に応じてクラスに分類する装置の実行する文書分類方法であって、
外部文書から任意の単語ペアを抽出して単語ペアデータを生成する単語ペアデータ生成ステップと、
クラスラベルの付されたラベル付き文書に文書特徴表現を付与して特徴付きラベル付き文書とする一方、クラスラベルの未知なラベル無し文書に文書特徴表現を付与して特徴付きラベル無し文書とする特徴付与ステップと、
特徴付きラベル付き文書を単語に分割し、各単語ペアデータ中において前記分割された単語とペアの他の単語群を用いて擬似特徴表現を定め、定められた擬似特徴表現を特徴付きラベル付き文書に付与して擬似特徴付きラベル付き文書とする擬似特徴付与ステップと、
擬似特徴付きラベル付き文書を用いて学習して生成したクラス分類モデルに基づき特徴付きラベル無し文書のラベルを推定する推定ステップと、
を有することを特徴とする文書分類方法。
【請求項４】
単語ペアデータ生成ステップにおいて、抽出された単語ペアにおける各単語の関連度を単語ペアデータに含めて生成し、
擬似特徴付与ステップにおいて、前記分割された単語を含む単語ペアの関連度に応じて前記他の単語の擬似特徴量を求め、
前記他の単語群の擬似特徴量を合わせて擬似特徴表現を定めることを特徴とする請求項３記載の文書分類方法。
【請求項５】
請求項１または２のいずれか１項に記載の文書分類装置の各部としてコンピュータを機能させることを特徴とする文書分類プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、電子文書（以下、文書と省略する。）を複数クラスに分類する文書分類の技術に関する。
【背景技術】
【０００２】
文書を文書内容の分野などに基づき複数のクラスに分類可能な場合、分類したい文書中に含まれる情報や、既にクラスラベルが付与されている文書群から非特許文献１の手法を用いて分類を構築することにより未知の文書が属するクラスを判別することが可能である。以下、クラスラベルが付与されている文書をラベル付き文書と呼び、クラスラベルが未知の文書をラベル無し文書と呼ぶ。
【０００３】
従来から文書中に含まれる単語に関する様々な特徴を用いた文書分類の手法が提案されている。例えば特許文献１は文書中に含まれる単語から文書全体をベクトルで表現し、ベクトル間の距離を用いて類似する文書を分類する手法を提案している。
【０００４】
また、非特許文献２には文書中に含まれる単語の出現回数や文書に含まれる単語のTF-IDFの値をその文書の特徴とする手法が提案されている。この特徴を用いてラベル付き文書について表現した単語から推定器を生成し、ラベル無し文書の自動クラス分類を行なっていた。このようにラベル付き文書に含まれる単語の特徴を用いて生成した推定器によりラベル無し文書のクラスラベルを推定することが可能である。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２０１２−３３３４
【非特許文献】
【０００６】
【非特許文献１】Chih-Chung Chang and Chih-Jen Lin.LIBSVM:A Library for support vector machines.ACM Transactions on Intelligent Systems and Technology,Vol.2,pp.27:1-27:27,2011
【非特許文献２】Thorsten Joachims.Text categorization with suport vector machines:Learning with many relevant features.In  Proceedings of the 10th European Conference on Machine Learning,ECML ’98,pp.137-142.Springer-Verlag,1998
【非特許文献３】Takeshi Fuchi and Shinichiro Takagi.Japanese morphological analyzer using word co-occurrence:Jtag.In Proceedings of the 36th Annual Meeting of the Association for Conmputational Linguistics and 17th International Conference on Computational Linguistics-Volume 1,pp.409-413,Stroudsburg,PA,USA,1998,Association for Computational Linguistics.
【非特許文献４】Fabrizio Sebastiani.Machine learning in automated text categorization ACM Comput.Surv.,Vol.34,pp.1-47,2002
【発明の概要】
【発明が解決しようとする課題】
【０００７】
しかしながら、前記手法はラベル付き文書群中に出現している単語（以下，既知語とする）の特徴を用いて学習しているため、以下の問題１，２が生じてしまう。
（１）すなわち、分類器に入力されたラベルなし文書に含まれる単語のうち、ラベル付き文書群に出現していない単語（以下、未知語とする）の特徴は考慮できない。したがって、分類したいラベル無し文書に含まれている単語が全て未知語である場合、その文書に対して分類に有効な特徴を付与することができず，分類不可能なおそれがある（問題１）。
（２）また、分類したいラベル無し文書に既知語だけでなく未知語も含まれている場合、その未知語が特定のクラスに出現する特徴的な単語であっても，分類に考慮することはできない。そのため、既知語のみしか分類に考慮することが出来ず，誤ったクラスに分類されてしまう可能性がある（問題２）。
【０００８】
このような問題１，２により前記手法は、クラスラベルの推定モデルの分類性能が低下するおそれがあった。なお、分類性能とは各クラスにおける再現率，適合率，Ｆ１値，または全クラスにおける再現率，適合率，Ｆ１値のマクロ平均などで測ることができる。
【０００９】
ここでクラスＣにおける再現率，適合率，Ｆ１値の求め方を説明する。ラベル無し文書のうち、クラスＣを正解クラスとする文書が「ｄs」件あり、正しくクラスＣであると推定できた文書が「ｄt」件ある場合、再現率Ｒは「Ｒ＝ｄt／ｄs」で求められる。
【００１０】
また、ラベル無し文書のうち、クラスＣであると推定された文書が「ｄi」件あり，そのうち正解クラスがＣである文書がｄj件ある場合、適合率Ｐは「Ｐ＝ｄj／ｄi」で求められる。このＦ１値は式（１）により求められる。
【００１１】
【数１】
2015176511.tif 000003
【００１２】
（３）本発明は、上述のような従来技術の問題点を解決するためになされ、未知語のみからなるラベル無し文書を既知語からなるラベル無し文書と同様にクラスラベルを推定し、未知語と既知語とからラベル無し文書についても分類性能の高い分類器の構築することを解決課題としている。
【課題を解決するための手段】
【００１３】
そこで、本発明は、ラベル付き文書群以外の外部データを用いてラベル付き文書群に出現しない単語に擬似特徴を付与し、未知語のみからなるラベル無し文書を既知語からなるラベル無し文書と同様にクラスラベルを推定する。このとき未知語に擬似特徴が付与されることから、未知語と既知語とからラベル無し文書についても未知語の特徴を既知語と同様に分類に考慮することができる。
【００１４】
本発明の文書分類装置は、外部文書から任意の単語ペアを抽出して単語ペアデータを生成する単語ペアデータ生成部と、クラスラベルの付されたラベル付き文書に文書特徴表現を付与して特徴付きラベル付き文書とする一方、クラスラベルの未知なラベル無し文書に文書特徴表現を付与して特徴付きラベル無し文書とする特徴付与部と、特徴付きラベル付き文書を単語に分割し、各単語ペアデータ中において前記分割された単語とペアの他の単語群を用いて擬似特徴表現を定め、定められた擬似特徴表現を特徴付きラベル付き文書に付与して擬似特徴付きラベル付き文書とする擬似特徴付与部と、擬似特徴付きラベル付き文書を用いて学習して生成したクラス分類モデルに基づき特徴付きラベル無し文書のラベルを推定する推定部と、を備えることを特徴としている。
【００１５】
本発明の文書分類方法は、外部文書から任意の単語ペアを抽出して単語ペアデータを生成する単語ペアデータ生成ステップと、クラスラベルの付されたラベル付き文書に文書特徴表現を付与して特徴付きラベル付き文書とする一方、クラスラベルの未知なラベル無し文書に文書特徴表現を付与して特徴付きラベル無し文書とする特徴付与ステップと、特徴付きラベル付き文書を単語に分割し、各単語ペアデータ中において前記分割された単語とペアの他の単語群を用いて擬似特徴表現を定め、定められた擬似特徴表現を特徴付きラベル付き文書に付与して擬似特徴付きラベル付き文書とする擬似特徴付与ステップと、擬似特徴付きラベル付き文書を用いて学習して生成したクラス分類モデルに基づき特徴付きラベル無し文書のラベルを推定する推定ステップと、を有することを特徴としている。
【００１６】
なお、本発明は、前記文書分類装置としてコンピュータを機能させるプログラムの態様としてもよい。このプログラムは、ネットワークや記録媒体などを通じて提供することができる。
【発明の効果】
【００１７】
本発明によれば、未知語のみからなるラベル無し文書を既知語からなるラベル無し文書と同様にクラスラベルを推定することができる。また、未知語と既知語とからラベル無し文書について分類性能の高い分類器を構築することができる。
【図面の簡単な説明】
【００１８】
【図１】本発明の実施形態に係る文書分類装置の構成例。
【図２】従来手法の装置構成図。
【図３】本発明の実施形態に係る文書分類装置のハードウェア構成図。
【図４】同  単語ペアデータ生成部の処理ステップを示すフローチャート。
【図５】同  擬似特徴付与部の処理ステップを示すフローチャート。
【図６】同  データ学習部の処理ステップを示すフローチャート。
【図７】従来手法のデータ学習部の処理ステップを示すフローチャート。
【図８】本発明の実施形態に係る文書分類装置の推定部の処理ステップを示すフローチャート。
【図９】（ａ）は文書数と分類精度との関係を示す評価実験のグラフ（正解ラベルが画像カテゴリ）、（ｂ）は同（正解ラベルがショッピングカテゴリ）。
【発明を実施するための形態】
【００１９】
以下、本発明の実施形態に係る文書分類装置を説明する。この分類装置はラベル無し文書を分類するにあたって、ラベル付き文書群以外の外部データから取得した擬似特徴表現とクラスラベルとに基づき学習し、学習結果のクラス分類モデルからラベル無し文書のクラスラベルを推定している。
【００２０】
≪構成例≫
図１に基づき前記文書分類装置の構成例を説明する。この文書分類装置１はコンピュータにより構成され、通常のコンピュータのハードウェアリソース、例えば図３のＣＰＵ１１，ＲＡＭ１２やＲＯＭ１３などの一次記憶装置，ハードディスクドライブ装置１４や記録媒体１６の読み取り用の駆動装置１５などの二次記憶装置，Ｉ／Ｆ（ユーザインターフェース）１７を備える。
【００２１】
このハードウェアリソースとソフトウェアリース（ＯＳ，アプリケーションなど）の協働の結果、前記文書分類装置１は、図１に示すように、データ学習部Ａとクラス推定部Ｂとを実装している。このデータ学習部Ａは、前処理部Ｃが含まれて構成されている。この前処理部Ｃは外部データＤＢ３，単語ペアデータ生成部４，単語ペアデータＤＢ５を備えている。
【００２２】
データ学習部Ａは、さらにラベル付き文書ＤＢ１０，特徴付与部２０，特徴付きラベル付き文書ＤＢ３０，擬似特徴付与部５０，擬似特徴付きラベル付き文書ＤＢ６０，学習部７０，クラス分類モデルＤＢ８０を備えている。このデータ学習部Ａは、前処理部Ｃ，擬似特徴付与部５０，擬似特徴付きラベル付き文書ＤＢ６０を備えている点で、図２に示す従来の文書学習装置２におけるデータ学習部ａと相違している。これによりデータ学習部Ａは、クラス分類モデルＤＢ８０の格納データがデータ学習部ａと相違する。
【００２３】
クラス推定部Ｂは、ラベル無し文書ＤＢ９０，特徴付きラベル無し文書ＤＢ１００，推定部１１０，推定ラベル付き文書ＤＢ１２０を備えている。このクラス推定部Ｂは、文書学習装置２のクラス推定部ｂとほぼ同様な処理を実行する。なお、前記各ＤＢ３，５，１０，３０，６０，８０，１００，１２０は前記記憶装置に構築されているものとする。以下、前記各部４，２０，５０，７０，１１０を前記各ＤＢ３，５，１０，３０，６０，８０，１００，１２０の格納データと併せて説明する。
【００２４】
（１）単語ペアデータ生成部４
単語ペアデータ生成部４は外部データＤＢ３の格納データを入力とし、単語ペアデータを生成し、単語ペアデータＤＢ５に出力して格納させている。
【００２５】
外部データＤＢ３には大量のテキストデータが格納されている。ここに格納されたテキストデータは複数の単語を含んでいるものとする。このテキストデータとしては、ウェブ上のホームページ，ブログ記事，ニュース記事，マイクロブログ記事，音声対話形式の検索サービスの発話入カログなどでよい。また、自然文で書かれている文書や，商用検索エンジンの検索クエリ，前述の自然文によるテキストから単語を抽出した文書など，単語が複数羅列されている文書や，その組み合わせでもよい。なお、外部データＤＢ３に格納されるテキストデータは、ラベル付き文書ＤＢ１０には含まれていないデータであることが望ましい。
【００２６】
【表１】
2015176511.tif 000004
【００２７】
表１は、外部データＤＢ３の格納データに商用検索エンジンの検索クエリログを用いた場合のデータ格納形式の一例を示し、データＩＤはある１ユーザによる１回の検索で入力されたクエリを一意に決めるＩＤを示し、キストデータはクエリとして入力されたフレーズを示している。ここではテキストデータに複数の単語が含まれているクエリのみを格納しているが，単数の単語からなるクエリや，自然文で入力されたクエリを含めてもよい。この外部データＤＢ３のデータ格納形式は特に限定されていなく、元となるテキスト記事やログをそのまま格納してもよく、各文書について単語単位に分割して回数を数えるなどの分析を行った結果を格納してもよい。
【００２８】
【表２】
2015176511.tif 000005
【００２９】
表２は単語ペアデータＤＢ５の格納データのデータ構造例を示している。ここでは外部データＤＢ３のテキストデータから抽出した任意の単語ペアと関連度スコアとを併せた単語ペアデータが格納されている。この関連度スコアは、任意の一対の単語が与えられた時にその単語間の関係の強さを数値化した値を示している。以下、前記一対の単語を単語ペアと呼ぶ。
【００３０】
この単語ペアは単語の順番を考慮してもよいし、単語の組合せでもよい。例えば任意の単語「Ｗ1，Ｗ2」について、関連度スコアが（Ｗ1，Ｗ2）と（Ｗ2，Ｗ1）とで異なる値をなってもよく、関連度スコアは単語ペアが定まれば一意に決まるものとする。
【００３１】
図４は、表１の外部データＤＢ３の格納データに基づく単語ペアデータの生成方法を示している。ここでは商用検索エンジンのクエリログを用いて単語ペアデータが生成されている。以下、単語ペアデータ生成部４の実行する処理ステップを説明する。
【００３２】
Ｓ０１〜Ｓ０３：まず、処理が開始されると単語ペアデータ生成部４は、外部データＤＢ３から未処理のレコードを選択し、選択したレコードのテキストデータを「Ｑ」とする（Ｓ０１）。ここでは商用検索エンジンのクエリを用いているため、クエリとして入力されたフレーズを「Ｑ」とする。
【００３３】
つぎにテキストデータ「Ｑ」を単語に分割する（Ｓ０２）。この分割に用いる手法の如何は問わず公知の手法を用いることができる。例えば非特許文献３に記載された手法を用いることができる。ここで分割された単語のうち未処理の単語を選択し、単語「ｗ」とする。
【００３４】
Ｓ０４：単語ペアデータ生成部４は、外部データＤＢ３の格納データのうち、単語「ｗ」を含んだ２単語以上のフレーズ（文字列）を有するテキストデータが格納されたレコードを選択する。選択されたテキストデータから単語「ｗ」と共起している単語を１つ取り出し、取り出された単語を「ｕ」とする。
【００３５】
Ｓ０５：単語ペアデータ生成部４は、単語「ｗ」と単語「ｕ」との関連度を計算し、保持する（Ｓ０５）。この関連度スコアは、単語「ｗ」と単語「ｕ」との関係の強さを表す値であればよい。
【００３６】
以下、商用検索エンジンのクエリを用いた場合の関連度スコアの一例を説明する。ここでは単語ペアは組み合わせとし、順序は考慮しないものとする。また、外部データＤＢ３には、単語「ｗ」を含むテキストデータのレコードが「ｒw」個あり、単語「ｕ」を含むテキストデータを持つレコードが「ｒu」個あり、単語「ｗ」と単語「ｕ」を含むテキストデータを持つレコードが「ｃwu」個あるものとする。この場合の単語ペアの関連度スコア「Ｓwu」は式（２）のように求めることができる。
【００３７】
【数２】
2015176511.tif 000006
【００３８】
単語ペア（ｗ，ｕ）の関係の強さを表す値（関連度スコア）の他例としては、
（Ａ）当該単語ペアが共起しているテキストデータを持つ外部データＤＢ３のレコード数「ｃwu」
（Ｂ）外部データＤＢ３に格納されているテキストデータのうち、当該単語ペアの合計出現回数
などを用いることができる。なお、関連度スコアの数値は、これらに限定されず、外部データＤＢ３の格納データに基づき単語同士の結び付きを数値化した値でよい。
【００３９】
Ｓ０６：単語ペアデータ生成部４は、外部データＤＢ３に単語「ｗ」を含むテキストデータを含む未処理のレコードがあるか否か確認する。確認の結果、未処理のレコードがあればＳ０４に戻って該レコードの処理を実行する一方、未処理のレコードがなければＳ０７に進む。
【００４０】
Ｓ０７：単語ペアデータ生成部４は、単語ペアとＳ０５で計算した関連度スコアとを併せて単語ペアデータＤＢ５に格納する。このとき既に単語ペアデータＤＢ５にデータが格納されている単語ペアについてはデータを更新してもよい。
【００４１】
Ｓ０８：単語ペアデータ生成部４は、テキストデータＱに未処理の単語があるか否かを確認する。確認の結果、未処理の単語があればＳ０３に戻って該単語の処理を続行する一方、未処理の単語がなければＳ０９に進む。
【００４２】
Ｓ０９：単語ペアデータ生成部４は、外部データＤＢ３にＳ０１〜Ｓ０８の未処理のレコードがあるか否か確認する。確認の結果、未処理のレコードがあればＳ０１に戻って該レコードの処理を続行する一方、未処理のレコードがなければ処理を終了する。
【００４３】
（２）特徴付与部２０
特徴付与部２０は、ラベル付き文書ＤＢ１０の格納データ（クラスラベルが付与されている文書）と、ラベル無し文書ＤＢ９０の格納データ（クラスラベルが未知の文書）とを入力とする。
【００４４】
ここでラベル付き文書ＤＢ１０の格納データの入力に対しては特徴付きラベル付き文書を出力し、特徴付きラベル付き文書ＤＢ３０に格納させる。一方、ラベル無し文書ＤＢ９０の格納データの入力に対しては、特徴付きラベル無し文書を出力し、特徴付きラベル無し文書ＤＢ１００に格納させる。
【００４５】
【表３】
2015176511.tif 000007
【００４６】
表３は、ラベル付き文書ＤＢ１０のデータ構造例を示している。このＤＢ１０は文書が属しているクラスのクラスラベルを格納したデータベースに関し、クラスは例えばカテゴリや分野といったように文書の内容などの特徴に基づいて決まる複数の文書分類先候補を意味し、各文書はいずれか１つのクラスに属する。
【００４７】
文書を識別するために一意に付与された表現を文書ＩＤとし、クラスを識別するために一意に付与された表現をクラスラベルとする。ここでは各クラスを数字で表したクラスラベルの使用例が示されている。そして、ラベル付き文書ＤＢ１０には、何らかの方法で予め属しているクラスが明らかになっている文書について、文書のテキストと文書の属しているクラスのクラスラベルとが対応付けて格納されている。
【００４８】
【表４】
2015176511.tif 000008
【００４９】
表４は、特徴付きラベル付き文書ＤＢ３０のデータ構造例を示している。このＤＢ３０はラベル付き文書ＤＢ１０に格納されている各文書に対して、特徴付与部２０により文書特徴表現を付与した特徴付きラベル付き文書を格納している。なお、表４中の文書ＩＤとクラスラベルは、表３と同一である。
【００５０】
文書特徴表現は文書ＩＤが示す文書の特徴を表している。この文書特徴表現は、文書が出現しているクラスと、文書中に出現する単語の関係を表すものであればよい。ここでクラスと単語との関係を表す値を特徴量とし、例えば文書中に出現した単語と、該単語の出現回数とのペアを羅列したものを用いることができ、これを本実施形態では用いる。ただし、特徴量として用いる値は、これに限らず非特許文献４に示されている重み付けした値などでもよい。
【００５１】
また、文書中に出現する単語の特徴量を合わせたものを文書の特徴表現（文書特徴表現）とする。ここでは”単語：関連性”の形式で書いた特徴量を羅列したものを文書特徴表現としているが，格納形式はこれに限らない。さらに各単語とクラスとの関係のみではなく、出現単語の組み合わせとクラスとの関係や、文書中に出現する品詞とクラスとの関係など文書中に出現している単語を用いて文書自体の特性を表現している値を組み合わせて文書特徴表現としてもよい。
【００５２】
【表５】
2015176511.tif 000009
【００５３】
表５は、ラベル無し文書ＤＢ９０のデータ構造例を示している。このＤＢ９０はクラスを推定する文書を格納したデータベースに関し、文書を識別するために一意に付与された表現を文書ＩＤとして、クラスラベルが未知である文書の文書ＩＤとテキストとを対応させて格納している。このＤＢ９０に格納された文書のクラスラベルを文書分類装置１により推定する。
【００５４】
【表６】
2015176511.tif 000010
【００５５】
表６は、特徴付きラベル無し文書ＤＢ１００のデータ構造例を示している。このＤＢ１００はラベル無し文書ＤＢ９０に格納されている各文書に対して、特徴付与部２０により文書特徴表現が付与された特徴付きラベル無し文書のデータを格納している。なお、表６中の文書ＩＤは表５と同一であり、文書特徴表現は特徴付きラベル付き文書ＤＢ３０における説明と同義である。
【００５６】
（３）擬似特徴付与部５０
擬似特徴付与部５０は，特徴付きラベル付き文書ＤＢ３０の格納データと単語ペアデータＤＢ５の格納データとを入力とする。この入力に対して擬似特徴付きラベル付き文書を出力し、擬似特徴付きラベル付き文書ＤＢ６０に格納させている。
【００５７】
【表７】
2015176511.tif 000011
【００５８】
表７は、擬似特徴付きラベル付き文書ＤＢ６０のデータ構造例を示している。このＤＢ６０には、特徴付きラベル付き文書ＤＢ３０の各格納文書に対して、擬似特徴付与部５０にて擬似特徴表現を付与した擬似特徴付きラベル付き文書が格納されている。なお、文書ＩＤは表３および表４と同一であり、文書特徴表現は特徴付きラベル付き文書ＤＢ３０の説明と同義である。以下、図５に基づき擬似特徴付与部５０の処理内容を説明する。
【００５９】
Ｓ１１〜Ｓ１４：まず、擬似特徴付与部５０は処理が開始されると、特徴付きラベル付き文書ＤＢ３０から未処理のテキストを選択し、選択したテキストを「Ｔ」とする（Ｓ１１）。
【００６０】
つぎに擬似特徴付与部５０は、選択されたテキスト「Ｔ」を単語に分割する（Ｓ１２）。この単語分割に用いる手法は問わない。例えば非特許文献３に記載された手法を用いることができる。ここで分割された単語のうち、未処理の単語を選択し、選択した単語を「ｗ」とする（Ｓ１３）。
【００６１】
Ｓ１４：擬似特徴付与部５０は、単語ペアデータＤＢ５に格納されている単語ペアデータのレコードのうち、単語「ｗ」を単語ペアに含むレコードを選択し、選択したレコードで単語「ｗ」とペアとなっている他の単語を単語「ｕ」とする。
【００６２】
Ｓ１５：擬似特徴付与部５０は、単語「ｕ」の擬似特徴量を計算して保持する。擬似特徴量としては、単語ペアデータＤＢ５に格納されている単語「ｗ」と単語「ｕ」との関連度スコアを用いる。
【００６３】
このとき関連度スコアをそのまま単語「ｗ」の擬似特徴量としてもよく、関連度スコアを任意の方法で重み付けした数値などを用いてもよい。また、既に単語「ｕ」の擬似特徴量を保持している場合には、擬似特徴量の合計値や平均値あるいは大きい値を用いるなど任意の方法で一つに定め、必要に応じて値を更新する。
【００６４】
Ｓ１６：擬似特徴付与部５０は、単語ペアデータＤＢ５に未処理のレコードがあるか否かを確認する。確認の結果、未処理のレコードがあればＳ１４に戻って該レコードの処理を続行する一方、未処理のレコードがなければＳ１７に進む。
【００６５】
Ｓ１７：擬似特徴付与部５０は、テキストＴに未処理の単語があるか否か確認する（Ｓ１７）。確認の結果、未処理の単語があればＳ１３に戻って該単語について処理を続行する一方、未処理の単語がなければＳ１８に進む。
【００６６】
Ｓ１８：擬似特徴付与部５０は、各単語についてＳ１５で計算した擬似特徴量を合わせてテキストＴの擬似特徴表現し、これを擬似特徴付きラベル付き文書ＤＢ６０に格納する。
【００６７】
ここでテキストＴの擬似特徴表現としては、各単語と擬似特徴量表現との組合せを羅列したものでよく、また計算した全単語の擬似特徴量をテキストＴの擬似特徴表現としてもよく、さらには一部の単語の擬似特徴量のみをテキストＴの擬似特徴表現としてもよく、擬似特徴量を用いていればその形式は問わない。例えば擬似特徴量が大きい単語から並べた上位ｎ個の単語や、予め決めた闘値を超える擬似特徴量を持つ単語のみを用いてもよい。ただし，ｎは１以上の任意の整数とする。
【００６８】
Ｓ１９：擬似特徴付与部５０は、特徴付きラベル付き文書ＤＢ３０に未処理のレコードがあるか否か確認する。確認の結果、未処理のレコードがあればＳ１１に戻って該レコードの処理を続行する一方、未処理のレコードがなければ処理を終了する。
【００６９】
（４）学習部７０
学習部７０は、擬似特徴付きラベル付き文書ＤＢ６０の格納データを入力とし、クラス分類モデルを生成する。生成されたクラス分類モデルをクラス分類モデルＤＢ８０に出力して格納させる。このクラス分類モデルの生成方法は、擬似特徴付きラベル付き文書ＤＢ６０の格納データ、即ち擬似特徴表現とクラスラベルに基づいて学習する方法であれば、その如何を問わない。例えば非特許文献１に記載された学習方法を用いることができる。
【００７０】
（５）推定部１１０
推定部１１０は、特徴付きラベル無し文書ＤＢ１００の格納データと、クラス分類モデルＤＢ８０の格納データとを入力とする。この入力に対して推定ラベル付き文書を出力し、推定ラベル付き文書ＤＢ１２０に格納させる。
【００７１】
【表８】
2015176511.tif 000012
【００７２】
表８は、推定ラベル付き文書ＤＢ１２０に格納されるデータ構造例を示している。このＤＢ１２０には、ラベル無し文書ＤＢ９０の格納データに推定クラスラベルが付与された推定ラベル付き文書が格納されている。なお、文書ＩＤとテキストは表５と同一あり、また推定クラスラベルは表３および表７のクラスラベルと同一が好ましい。
【００７３】
具体的には推定部１１０は、特徴付きラベル無し文書ＤＢ１００の格納データと、クラス分類モデルＤＢ８０の格納データとを用いて、ラベル無し文書ＤＢ９０に格納された各文書が、どのクラスに属するのかを推定し、推定結果を推定ラベル付き文書ＤＢ１２０に格納する。この推定方法は公知の方法を採用することができ、例えば非特許文献１の方法を用いることができる。
【００７４】
≪データ学習部Ａの処理ステップ≫
以下、図６に基づきデータ学習部Ａの処理ステップを説明する。図６は前処理部Ｃの処理後におけるデータ学習部Ａの処理ステップを示し、単語ペアデータＤＢ５には、予め単語ペアデータ生成部４で格納データ（単語ペアデータ）が生成され、蓄積されているものとする。
【００７５】
ここではデータ学習部Ａは、ラベル付き文書ＤＢ１０の格納データと単語ペアデータＤＢ５の格納データとを入力とし、最終的にクラス分類モデルＤＢ８０の格納データを蓄積していく。
【００７６】
Ｓ２１，Ｓ２２：処理が開始されると特徴付与部２０が、ラベル付き文書ＤＢ１０の格納データ中から未処理のレコードを選択し、選択した文書を文書Ｄとする（Ｓ２１）。この文書Ｄのテキストを特徴付与部２０にて単語に分割する（Ｓ２２）。この分割の手法には前述のように非特許文献３に記載された手法を用いることができる。
【００７７】
Ｓ２３，Ｓ２４：特徴付与部２０にてＳ２２で分割した単語のうち、未処理の単語を選択する（Ｓ２３）。ここで選択された単語と、単語の特徴量とのペアを文書Ｄの特徴表現に加える（Ｓ２４）。
【００７８】
Ｓ２５，Ｓ２６：特徴付与部２０は、文書ＤのテキストについてＳ２２で分割した単語のうち、未処理の単語があるか否かを確認する（Ｓ２５）。未処理の単語があればＳ２３に戻って該単語について処理を続行する一方、未処理の単語がなければＳ２６に進む。すなわち、特徴付与部２０にて文書Ｄと特徴表現とのペアを特徴付きラベル付き文書とし、特徴付きラベル付き文書ＤＢ３０に格納する（Ｓ２６）。
【００７９】
Ｓ２７：特徴付与部２０は、ラベル付き文書ＤＢ１０に未処理のレコード（文書）があるか否かを確認する。確認の結果、未処理のレコードがあればＳ２１に戻って該レコードの処理を続行する一方、未処理のレコードがなければＳ２８に進む。
【００８０】
Ｓ２８，Ｓ２９：擬似特徴付与部５０にて、特徴付きラベル付き文書ＤＢ３０から未処理のレコードを選択し、選択されたレコードを文書ｄとする（Ｓ２８）。
【００８１】
その後に擬似特徴付与部５０は、単語ペアＤＢ５を参照して文書ｄに擬似特徴表現を付与し、付与した結果（擬似特徴付きラベル付き文書）を擬似特徴付きラベル付き文書ＤＢ６０に格納する（Ｓ２９）。
【００８２】
Ｓ３０：擬似特徴付与部５０にて、特徴付きラベル付き文書ＤＢ３０に未処理のレコードがあるか否か確認する。確認の結果、未処理のレコードがあればＳ２８に戻って該レコードの処理を続行する一方、未処理のレコードがなければＳ３１に進む。
【００８３】
Ｓ３１：学習部７０において擬似特徴付きラベル付き文書ＤＢ６０の格納データを用いて学習し、生成したモデルをクラス分類モデルＤＢ８０に格納して処理を終了する。
【００８４】
このデータ学習部Ａの処理ステップを図７のデータ学習部ａの処理内容と比較すれば、図６のＳ２１〜Ｓ２７は図７のＳ４１〜Ｓ４７に相当するものの、データ学習部ＡがＳ２８〜Ｓ３０を実行する点で大きく相違する。これによりＳ３１の学習には、特徴付きラベル付き文書ＤＢ３０の格納データではなく、擬似特徴付きラベル付き文書ＤＢ６０の格納データが用いられ、この点でＳ４８と学習データが相違する。
【００８５】
≪クラス推定部Ｂの処理ステップ≫
以下、図８に基づきクラス推定部Ｂの処理ステップを説明する。このクラス推定部Ｂでは、ラベル無し文書ＤＢ９０の格納データとクラス分類モデルＤＢ８０の格納データとを入力とする。この入力に対して推定ラベル付き文書を推定ラベル付き文書ＤＢ１２０に出力し、推定ラベル付き文書ＤＢ１２０に格納させている。
【００８６】
なお、Ｓ５１〜Ｓ５７は特徴付与部２０が実行するものの、特徴付きラベル無し文書ＤＢ１００にデータ格納する処理ステップなため、クラス推定部Ｂの処理ステップの一環として説明する。
【００８７】
Ｓ５１，Ｓ５２：まず、処理が開始されると特徴付与部２０にてラベル無し文書ＤＢ９０から未処理のレコードを選択し、選択した文書を文書Ｋとする（Ｓ５１）。つぎに特徴付与部２０にて文書Ｋのテキストを単語に分割する（Ｓ５２）。この単語分割の手法は問わず、前述のように非特許文献３に記載された手法を用いることができる。
【００８８】
Ｓ５３，Ｓ５４：特徴付与部２０にてＳ５２で分割した単語のうち、未処理の単語を選択する（Ｓ５３）。ここで選択された単語と該単語の特徴量とのペアを文書Ｋの特徴表現に加える（Ｓ５４）。
【００８９】
Ｓ５５，Ｓ５６：特徴付与部２０にて、文書ＫのテキストについてＳ５２で分割した単語のうち、未処理の単語があるか否か確認する（Ｓ５５）。確認の結果、未処理の単語があればＳ５３に戻って該単語について処理を続行する一方、未処理の単語がなければＳ５６に進む。すなわち、特徴付与部２０は、文書Ｋと特徴表現とのペアを特徴付きラベル無し文書とし、特徴付きラベル無し文書ＤＢ１００に格納する（Ｓ５６）。
【００９０】
Ｓ５７：特徴付与部２０は、ラベル無し文書ＤＢ９０に未処理のレコードがあるか否か確認する。確認の結果、未処理のレコードがあればＳ５１に戻って該レコードの処理を続行する一方、未処理のレコードがなければＳ５８に進む。
【００９１】
Ｓ５８，Ｓ５９：推定部１１０において、クラス分類モデルＤＢ８０の格納データを用いて特徴付きラベル無し文書ＤＢ１００に格納されている文書のラベルを推定する（Ｓ５８）。その後に推定部１１０は、特徴付きラベル無し文書ＤＢ１００に格納されている各文書と、該各文書について推定されたラベルとのペアとを推定ラベル付き文書ＤＢ１２０に格納する（Ｓ５９）。
【００９２】
このような前記文書分類装置１によれば、従来手法では分類に考慮できる単語がなくラベル推定が不可能であった未知語だけのラベル無し文書についてもラベルの推定が可能となる。
【００９３】
すなわち、前記文書分類装置１によれば、外部データＤＢ３に格納された外部データからラベル付き文書群に未出現の未知語を擬似的に出現させた擬似特徴表現を用いている。これにより学習部７０は未知語の特徴を含むデータ（擬似特徴付きラベル付き文書ＤＢ３０の格納データ）を用いて学習することができる。
【００９４】
したがって、学習に用いられる単語の分類数、即ち分類に考慮できる単語の種類数が増加し、未知語のみのラベル無し文書が入力された場合であっても分類に考慮できる単語が存在し、既知語からなるラベル無し文書と同様にクラスラベルを推定することが可能となる。
【００９５】
また、従来手法によれば、未知語と既知語との双方を含むラベル無し文書については既知語のみしか分類に考慮することができず、文書自体の特徴表現が十分に表現できず、分類を誤ることがあった。
【００９６】
これに対して前記文書分類装置１によれば、未知語と既知語の双方を含むラベル無し文書についても分類に考慮可能な単語数が増え、文書自体の特徴表現も増え、より相応しいクラスへの分類が可能となり、分類性能が向上する。特に未知語に擬似特徴が付与される。したがって、未知語と既知語とからなるラベル無し文書についても、未知語の特徴を既知語と同様に分類に考慮することができ、分類性能の高い分類器の構築が可能となる。
【００９７】
≪評価試験≫
以下、前記文書分類装置１の効果を確認する評価実験の結果を説明する。この評価試験では、１文または単語の羅列からなる文書データを用いている。また、各文書は全１５種類のカテゴリのうち、いずれか１つのカテゴリに属しているものとし、このカテゴリをラベルとして推定する。
【００９８】
文書データ「５７，１００４件」について、半分の「２８，５０２件」はクラスラベルを推定するテストデータとし、残りの「２８，５０２件」については推定モデルを生成するための学習データとする。比較するベースラインは、外部データを用いることなく、文書中での単語の出現を「０／１」で表現した「Ｂａｇ  ｏｆ  Ｗｏｒｄｓ」を特徴として推定した結果を用いている。分類には、「ＬＩＢＬＩＮＥＲ」を用い、また分類戦略は「ｏｎｅ  ｖｅｒｓｕｓ  ｒｅｓｔ法」を用いた。
【００９９】
【表９】
2015176511.tif 000013
【０１００】
表９は、全カテゴリのおける適合率，再現率，Ｆ１値の平均を示している。このいずれの値も、前記文書分類装置１の擬似特徴がある場合のほうが高い値を示している。これにより前記分類装置１は従来手法の精度を落とすことなく分類可能なことが判明した。
【０１０１】
つぎに学習データとして用いる文書数と分類精度の関係を調べた。学習データを１００分割し、２８６件から１％ずつデータを増やしながら推定モデルを生成した。
【０１０２】
この場合、前半の１０％まで増やした時の結果のうち、前記分類装置１の手法と従来手法の差が特に顕著なものを図９（ａ）（ｂ）に示した。この図９（ａ）（ｂ）中の「Ｐ」は前記文書分類装置１の手法（擬似特徴あり）の結果を示し、「Ｑ」は従来手法（擬似特徴なし）の結果を示している。
【０１０３】
図９（ａ）に示すように、正解ラベルが「画像」である画像カテゴリの文書については、学習データを増やしても従来手法での分類性能は低いままである（０．６未満）。一方、擬似特徴を用いた前記分類装置１の手法では、最も学習データが少ない時から「０．８以上」のＦ１値を維持した。
【０１０４】
また、図９（ｂ）に示すように、正解ラベルが「ショッピング」であるショッピングカテゴリの文書については従来手法でも学習データを増やすと分類性能が上がるものの、前記分類装置１の手法が常により高い分類性能を示した。この評価試験により前記分類装置１の擬似特徴を用いた手法によれば、分類性能が向上することが示唆された。
【０１０５】
≪その他・プログラム≫
本発明は、上記実施形態に限定されるものではなく、各請求項に記載された範囲内で応用や変形して実施することができる。例えば装置構成において前処理部Ｃは、必ずしもデータ学習部Ａに含まれていなくともよい
また、本発明は、前記文書分類装置１の各部３，４，５，１０，２０，３０，５０，６０，７０，８０，９０，１００，１１０，１２０の一部もしくは全部として、コンピュータを機能させる文書検索プログラムとして構成することもできる。このプログラムによれば、Ｓ０１〜Ｓ０９，Ｓ１１〜Ｓ１９，Ｓ２１〜Ｓ３１，Ｓ５１〜Ｓ５９の一部あるいは全部をコンピュータに実行させることが可能となる。
【０１０６】
前記プログラムは、Ｗｅｂサイトや電子メールなどネットワークを通じて提供することができる。また、前記プログラムは、ＣＤ−ＲＯＭ，ＤＶＤ−ＲＯＭ，ＣＤ−Ｒ，ＣＤ−ＲＷ，ＤＶＤ−Ｒ，ＤＶＤ−ＲＷ，ＭＯ，ＨＤＤ，ＢＤ−ＲＯＭ，ＢＤ−Ｒ，ＢＤ−ＲＥなどの記録媒体に記録して、保存・配布することも可能である。この記録媒体は、記録媒体駆動装置を利用して読み出され、そのプログラムコード自体が前記実施形態の処理を実現するので、該記録媒体も本発明を構成する。
【符号の説明】
【０１０７】
１…文書分類装置
３…外部データＤＢ
４…単語ペアデータ生成部
５…単語ペアデータＤＢ
１０…ラベル付き文書ＤＢ
２０…特徴付与部
３０…特徴付きラベル付き文書ＤＢ
５０…擬似特徴付与部
６０…擬似特徴付きラベル付き文書ＤＢ
７０…学習部
８０…クラス分類モデルＤＢ
９０…ラベル無し文書ＤＢ
１００…特徴付きラベル無し文書ＤＢ
１１０…推定部
１２０…推定ラベル付き文書ＤＢ
Ａ…データ学習部
Ｂ…クラス推定部
Ｃ…前処理部
【図１】
2015176511.tif 000014
【図２】
2015176511.tif 000015
【図３】
2015176511.tif 000016
【図４】
2015176511.tif 000017
【図５】
2015176511.tif 000018
【図６】
2015176511.tif 000019
【図７】
2015176511.tif 000020
【図８】
2015176511.tif 000021
【図９】
2015176511.tif 000022