(57)【特許請求の範囲】
【請求項１】
ジャンルを表すラベルが付与されたラベル付き文書、及び、前記ラベルが付与されていないラベル無し文書に、文書に含まれるシンボルの特徴を含む、文書の特徴を表す特徴表現を付与する特徴付与部と、
前記ラベル付き文書に前記特徴表現が付与された特徴付きラベル付き文書に、予め定めたシンボルが含まれる場合、前記ラベルが表すジャンルに対して予め定めた検索条件として指定可能な項目の各々の、少なくとも１つのシンボルからなるバリエーションに基づいて、前記予め定めたシンボルを含む前記バリエーションから、前記予め定めたシンボルに関連する関連シンボルを選択し、前記特徴付きラベル付き文書に、前記関連シンボルの特徴を表す拡張特徴表現を付与する拡張特徴付与部と、
前記拡張特徴表現が付与された拡張特徴付きラベル付き文書の各々について、前記特徴表現、前記拡張特徴表現、及び前記ラベルを用いて、前記ラベル無し文書をジャンル毎に分類するための分類モデルを学習する学習部と、
前記分類モデルを用いて、前記ラベル無し文書に前記特徴表現が付与された特徴付きラベル無し文書の前記ラベルを推定する推定部と、
を備えた文書分類装置。
【請求項２】
前記シンボルは、単語及び固有表現のカテゴリの少なくとも一方を含み、
前記バリエーションは、少なくとも１つの単語からなる単語群、又は、少なくとも１つの前記カテゴリからなるカテゴリ群である
請求項１記載の文書分類装置。
【請求項３】
ジャンルを表すラベルが付与されたラベル付き文書、及び、前記ラベルが付与されていないラベル無し文書に、文書に含まれるシンボルの特徴を含む、文書の特徴を表す特徴表現を付与する特徴付与ステップと、
前記ラベル付き文書に前記特徴表現が付与された特徴付きラベル付き文書に、予め定めたシンボルが含まれる場合、前記ラベルが表すジャンルに対して予め定めた検索条件として指定可能な項目の各々の、少なくとも１つのシンボルからなるバリエーションに基づいて、前記予め定めたシンボルを含むバリエーションから、前記予め定めたシンボルに関連する関連シンボルを選択し、前記特徴付きラベル付き文書に、前記関連シンボルの特徴を表す拡張特徴表現を付与する拡張特徴付与ステップと、
前記拡張特徴表現が付与された拡張特徴付きラベル付き文書の各々について、前記特徴表現、前記拡張特徴表現、及び前記ラベルを用いて、前記ラベル無し文書をジャンル毎に分類するための分類モデルを学習する学習ステップと、
前記分類モデルを用いて、前記ラベル無し文書に前記特徴表現が付与された特徴付きラベル無し文書の前記ラベルを推定する推定ステップと、
を行う文書分類方法。
【請求項４】
コンピュータを、請求項１又は２記載の文書分類装置の各部として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、文書分類装置、文書分類方法、及び文書分類プログラムに係り、特に、テキスト文書を複数のジャンルに分類する文書分類装置、文書分類方法、及び文書分類プログラムに関する。
【背景技術】
【０００２】
近年、スマートフォン又はパソコンのアプリケーションソフトウェア、Ｗｅｂサイト等で、様々なジャンルの質問文をテキスト入力、音声入力等で受け付け、情報提供・検索サービスと連携して回答文を生成し、提示するサービスが一般化している。このようなサービスでは、入力された質問、雑談等を文書化し、文書化した文書が表す内容のジャンルを判定する。また、ジャンル毎に予め準備された正規表現等を用いたルールを適用して、文書中に含まれる検索条件を表す情報を抽出し、抽出した情報を用いてデータベース、外部の情報提供・検索サービス等で検索して回答を生成する。
【０００３】
ここでは、この一連のサービスの中で、文書のジャンルを判定する機能に着目する。各々の文書について、文書の内容の分野等に基づいてジャンルに分類する場合、既にジャンルの情報が付与されている文書群から、例えば下記非特許文献１に開示されている手法を用いて分類器を構築することにより、ジャンルが未知である文書が属するジャンルを判定することが可能となる。以下、文書のジャンルを識別するための数値、記号等を「ラベル」といい、ラベルが付与されている質問文等の文書を「ラベル付き文書」といい、ラベルが付与されていない質問文等の文書を「ラベル無し文書」という。
【０００４】
従来、文書中に含まれる単語に関する様々な特徴を用いた文書分類の手法が考えられてきた。文書中に含まれる単語から文書全体をベクトルで表現し、そのベクトル間の距離を用いて類似している文書を分類する手法（特許文献１及び非特許文献２参照）がある。他にも、文書中に含まれる単語の出現回数、文書に含まれる単語をＴＦ−ＩＤＦ（Term Frequency-Inverse Document Frequency）の値をその文書の特徴とする手法（非特許文献３参照）等があり、この特徴を用いてラベル付き文書について表現した単語から推定器を生成し、ラベル無し文書の自動クラス分類を行なっていた。このように、ラベル付き文書に含まれている単語の特徴を用いて生成した推定器を用いて、ラベル無し文書のジャンルを推定することが可能である。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２０１２−３３３４号公報
【非特許文献】
【０００６】
【非特許文献１】CHIH-CHUNG CHANG and CHIH-JEN LIN, "A Library for Support Vector Machines", ACM Transactions on Intelligent Systems and Technology, Vol. 2, No. 3, Article 27, Publication date: April 2011.
【非特許文献２】Takeshi FUCHI and Shinichiro TAKAGI, "Japanese Morphological Analyzer using Word Co-occurrence", In Proceedings of the 36th Annual Meeting of the Association for Computational Linguistics and 17th International Conference on Computational Linguistics - Volume 1, pages 409{413, Stroudsburg, PA, USA, 1998. Association for Computational Linguistics.
【非特許文献３】Thorsten Joachims, "Text Categorization with Support Vector Machines: Learning with Many Relevant Features", In Proceedings of the 10th European Conference on Machine Learning, ECML '98, pages 137{142. Springer-Verlag, 1998.
【発明の概要】
【発明が解決しようとする課題】
【０００７】
前述の方法では、ラベル付き文書群中に出現している単語（以下、「既知の単語」という）の特徴を用いて学習している。この場合、分類器に入力されたラベルなし文書に含まれる単語のうち、ラベル付き文書群に出現していない単語（以下、「未知の単語」という）の特徴は考慮することができない。また、ラベル付き文書群中に出現している固有表現のカテゴリ情報を特徴に付加する方法もあり、ラベル付き文書群に出現している固有表現のカテゴリに属する固有表現（以下、「既知カテゴリ固有表現」という）の特徴を分類に考慮することが可能である。しかし、ラベル付き文書群に出現している固有表現のカテゴリ以外の、未知のカテゴリに属する単語（以下、「未知カテゴリ固有表現」という）の特徴を考慮することはできない。よって、分類したいラベル無し文書に含まれている単語が全て未知の単語及び未知カテゴリ固有表現である場合、その文書に対して分類に有効な特徴を付与することができず、分類不可能となる（課題１）。
【０００８】
また、分類したいラベル無し文書に既知の単語だけでなく未知の単語及び未知カテゴリ固有表現も含まれている場合、その未知の単語が特定のジャンルに出現する特徴的な単語であっても、分類に考慮することはできない。そのため、既知の単語のみしか分類に考慮することができず、誤ったジャンルに分類されてしまう可能性がある（課題２）。
【０００９】
このように、上記課題１及び上記課題２により、ジャンルの推定モデルの分類性能が低下するおそれがあった。
【００１０】
本発明は、以上のような事情に鑑みてなされたものであり、テキスト文書のジャンルを推定してテキスト文書をジャンル毎に分類する際の分類精度を向上させることができる文書分類装置、文書分類方法、及び文書分類プログラムを提供することを目的とする。
【課題を解決するための手段】
【００１１】
上記目的を達成するために、本発明の文書分類装置は、ジャンルを表すラベルが付与されたラベル付き文書、及び、前記ラベルが付与されていないラベル無し文書に、文書に含まれるシンボルの特徴を含む、文書の特徴を表す特徴表現を付与する特徴付与部と、前記ラベル付き文書に前記特徴表現が付与された特徴付きラベル付き文書に、予め定めたシンボルが含まれる場合、前記ラベルが表すジャンルに対して予め定めた検索条件として指定可能な項目の各々の、少なくとも１つのシンボルからなるバリエーションに基づいて、前記予め定めたシンボルを含む前記バリエーションから、前記予め定めたシンボルに関連する関連シンボルを選択し、前記特徴付きラベル付き文書に、前記関連シンボルの特徴を表す拡張特徴表現を付与する拡張特徴付与部と、前記拡張特徴表現が付与された拡張特徴付きラベル付き文書の各々について、前記特徴表現、前記拡張特徴表現、及び前記ラベルを用いて、前記ラベル無し文書をジャンル毎に分類するための分類モデルを学習する学習部と、前記分類モデルを用いて、前記ラベル無し文書に前記特徴表現が付与された特徴付きラベル無し文書の前記ラベルを推定する推定部と、を備える。
【００１２】
なお、前記シンボルは、単語及び固有表現のカテゴリの少なくとも一方を含み、前記バリエーションは、少なくとも１つの単語からなる単語群、又は、少なくとも１つの前記カテゴリからなるカテゴリ群であるようにしても良い。
【００１３】
上記目的を達成するために、本発明の文書分類方法は、ジャンルを表すラベルが付与されたラベル付き文書、及び、前記ラベルが付与されていないラベル無し文書に、文書に含まれるシンボルの特徴を含む、文書の特徴を表す特徴表現を付与する特徴付与ステップと、前記ラベル付き文書に前記特徴表現が付与された特徴付きラベル付き文書に、予め定めたシンボルが含まれる場合、前記ラベルが表すジャンルに対して予め定めた検索条件として指定可能な項目の各々の、少なくとも１つのシンボルからなるバリエーションに基づいて、前記予め定めたシンボルを含むバリエーションから、前記予め定めたシンボルに関連する関連シンボルを選択し、前記特徴付きラベル付き文書に、前記関連シンボルの特徴を表す拡張特徴表現を付与する拡張特徴付与ステップと、前記拡張特徴表現が付与された拡張特徴付きラベル付き文書の各々について、前記特徴表現、前記拡張特徴表現、及び前記ラベルを用いて、前記ラベル無し文書をジャンル毎に分類するための分類モデルを学習する学習ステップと、前記分類モデルを用いて、前記ラベル無し文書に前記特徴表現が付与された特徴付きラベル無し文書の前記ラベルを推定する推定ステップと、を行う。
【００１４】
上記目的を達成するために、本発明の文書分類プログラムは、コンピュータを、上記文書分類装置の各部として機能させるためのプログラムである。
【発明の効果】
【００１５】
本発明によれば、テキスト文書のジャンルを推定してテキスト文書をジャンル毎に分類する際の分類精度を向上させることが可能となる。
【図面の簡単な説明】
【００１６】
【図１】実施形態に係る文書分類装置の構成の一例を示す機能ブロック図である。
【図２】実施形態に係るラベル付き文書データベースに格納されるデータの構成の一例を示す模式図である。
【図３】実施形態に係る特徴付きラベル付き文書データベースに格納されるデータの構成の一例を示す模式図である。
【図４】実施形態に係るラベル無し文書データベースに格納されるデータの構成の一例を示す模式図である。
【図５】実施形態に係る特徴付きラベル無し文書データベースに格納されるデータの構成の一例を示す模式図である。
【図６】実施形態に係る検索条件の一例を示す模式図である。
【図７】実施形態に係る検索条件データベースに格納されるデータの構成の一例を示す模式図である。
【図８】実施形態に係る拡張特徴付きラベル付き文書データベースに格納されるデータの構成の一例を示す模式図である。
【図９】実施形態に係る検索条件データベースに格納されるデータの構成の一例を示す模式図である。
【図１０】実施形態に係る文書分類装置により実行される学習処理の流れを示すフローチャートである。
【図１１】実施形態に係る文書分類装置により実行される拡張特徴付与処理のサブルーチンの流れを示すフローチャートである。
【図１２】実施形態に係る文書分類装置により実行される推定処理の流れを示すフローチャートである。
【図１３】実施形態に係る検索条件データベースに格納されるデータの構成の別例を示す模式図である。
【図１４】実施形態に係る文書分類装置により実行される学習処理に関する説明図である。
【図１５】実施形態に係る文書分類装置により実行される計算処理に関する説明図である。
【発明を実施するための形態】
【００１７】
以下、本発明の実施形態について図面を用いて説明する。
【００１８】
本実施形態に係る文書分類装置１０は、上記ラベルが付与されたラベル付き文書を用いて、上記ラベルが付与されていないラベル無し文書をジャンル毎に分類するための分類モデルを学習するデータ学習部１２と、分類モデルを用いて、ラベル無し文書のラベルを推定するラベル推定部１４と、を有する。
【００１９】
データ学習部１２は、ラベル付き文書データベース２０、特徴付きラベル付き文書データベース２２、検索条件データベース２４、拡張特徴付きラベル付き文書データベース２６、分類モデルデータベース２８を有している。また、データ学習部１２は、特徴付与部３０、拡張特徴付与部３２、及び、学習部３４を有する。
【００２０】
また、ラベル推定部１４は、ラベル無し文書データベース４０、特徴付きラベル無し文書データベース４２、推定ラベル付き文書データベース４４、上述した分類モデルデータベース２８、上述した特徴付与部３０、及び、推定部５０を有する。
【００２１】
ラベル付き文書データベース２０には、上記ラベル付き文書が格納されており、一例として図２に示すように、何らかの方法で予め属しているジャンルが明らかになっている文書について、文書を識別するために一意に付与される文書ＩＤ、上述したラベル、及び、文書の内容本体となるテキストが各々対応付けられて格納されている。このようにして各々の文書が属しているジャンルのラベルが格納される。各々の文書は複数のジャンルのうちの何れか１つのジャンルに属する。また、ラベルは、各々の文書のジャンルを識別するために、文書に一意に付与される。なお、本実施形態では、図２に示すように、各々のジャンルを数字で表したラベルを用いた場合について説明する。
【００２２】
特徴付きラベル付き文書データベース２２には、ラベル付き文書に特徴表現が付与された特徴付きラベル付き文書が格納されており、一例として図３に示すように、ラベル付き文書データベース２０に格納されている各々の文書について、文書ＩＤ、ラベル、及び、文書の特徴を表す特徴表現が各々対応付けられて格納されている。特徴付きラベル付き文書データベース２２には、ラベル付き文書データベース２０に格納されている各々の文書に、特徴表現を付与した情報である。
【００２３】
特徴表現は、文書が属しているジャンル、及び文書中に出現する単語の関係を表す表現である。ジャンル及び単語の関係を表す値を特徴量という。本実施形態では、特徴量として、図３に示す「東京：１」のように、文書中に出現した単語及び出現回数のペアを用いたり、図３に示す「Ｃｉｔｙ：１」のように、文書中に出現した固有表現のカテゴリ及び出現回数のペアを用いたりする。
【００２４】
ここで、固有表現のカテゴリとは、地名・駅名・日付・時間というように、固有表現が表す内容を分類したものを指す。本実施形態では、分類の例として、下記参考文献１に示される２００種類のリストを例に用いるが、固有表現の内容を表すカテゴリ情報であればこの分類に限らない。以下、固有表現のカテゴリを「ＥＮＥカテゴリ」という。なお、カテゴリはクラスとも表現される。
【００２５】
［参考文献１］http://sites.google.com/site/extendednamedentityhierarchy/
【００２６】
また、文書中の固有表現を抽出する手法は、一例として、下記参考文献２が例示される。
【００２７】
［参考文献２］K. Sadamitsu, R. Higashinaka, T. Hirano, and T. Izumi, "Knowledge extraction from text for intelligent responses", NTT Technical Review, 11:1{5, 2013.
【００２８】
また、特徴量の表し方は上述した手法に限らず、参考文献３に示されている重み付けした値であっても良い。文書中に出現する単語の特徴量を合わせたものを、特徴表現という。本実施形態では、特徴表現について、“単語：関連性”又は“ＥＮＥカテゴリ：関連性”の形式で記述した特徴量を羅列させた状態で格納するが、特徴表現の格納形式はこれに限らない。また、本実施形態では、関連性として、単語の出現回数を用いた場合について説明する。
【００２９】
［参考文献３］Fabrizio Sebastiani, "Machine learning in automated text categorization", ACM Comput. Surv., 34:1-47, 2002.
【００３０】
また、出現単語の組み合わせとジャンルとの関係、文書中に出現する品詞とジャンルとの関係等、文書中に出現している単語を用いて文書自体の特性を表現している値を組み合わせて特徴表現としてもよい。
【００３１】
特徴付与部３０は、ラベル付き文書データベース２０に格納されているラベル付き文書、又はラベル無し文書データベース４０に格納されているラベル無し文書を入力する。また、特徴付与部３０は、ラベル付き文書を入力した場合には、ラベル付き文書に、文書に含まれるシンボルの特徴を含む、文書の特徴を表す特徴表現を付与した特徴付きラベル付き文書を生成して、特徴付きラベル付き文書データベース２２に出力する。また、特徴付与部３０は、ラベル無し文書を入力した場合には、ラベル無し文書に、文書に含まれるシンボルの特徴を含む、文書の特徴を表す特徴表現を付与する特徴付きラベル無し文書を生成して、特徴付きラベル無し文書データベース４２に出力する。
【００３２】
なお、ここでいうシンボルは、例えば、単語、又はＥＮＥカテゴリである。
【００３３】
ラベル無し文書データベース４０には、上記ラベル無し文書が格納されており、一例として図４に示すように、ラベルが未知である文書について、文書ＩＤ、及び、文書のテキストが各々対応付けられて格納されている。なお、ラベル無し文書データベース４０は、ジャンルの推定対象とする文書を格納するためのデータベースである。
【００３４】
特徴付きラベル無し文書データベース４２には、ラベル無し文書に特徴表現が付与された特徴付きラベル無し文書が格納されており、一例として図５に示すように、ラベル無し文書データベース４０に格納されている各々の文書について、文書ＩＤ、及び、特徴表現が各々対応付けられて格納されている。特徴付きラベル無し文書データベース４２には、ラベル無し文書データベース４０に格納されている各々の文書に対して、特徴表現を付与したものを格納している。ここでは、特徴表現として、“単語：関連性”の格納形式で記述した特徴量を羅列した状態で格納しているが、格納形式はこれに限らない。
【００３５】
拡張特徴付与部３２は、特徴付きラベル付き文書データベース２２から特徴付きラベル付き文書を入力すると共に、検索条件データベース２４から検索条件を入力する。また、拡張特徴付与部３２は、特徴付きラベル付き文書に予め定めたシンボルが含まれる場合、ラベルが表すジャンルに対して予め定めた検索条件として指定可能な項目の各々の、少なくとも１つのシンボルからなるバリエーションに基づいて、上記予め定めたシンボルを含むバリエーションから、上記予め定めたシンボルに関連する関連シンボルを選択する。また、拡張特徴付与部３２は、特徴付きラベル付き文書に、関連シンボルの特徴を表す拡張特徴表現を付与した拡張特徴付きラベル付き文書を生成して、拡張特徴付きラベル付き文書データベース２６に出力する。
【００３６】
なお、上記バリエーションは、シンボルが単語である場合には、少なくとも１つの単語からなる単語群であり、シンボルがＥＮＥカテゴリである場合は、少なくとも１つのＥＮＥカテゴリからなるＥＮＥカテゴリ群である。
【００３７】
具体的には、まず、サービスが連携しているデータベース、情報提供・検索サービスにおいて、入力を受け付けている検索条件に着目する。本実施形態では、検索を行う際に、一例として図６に示すような検索条件リスト５２を用いている。検索条件リスト５２では、ラベル、連携データベース／サービス、及び、指定可能な検索条件が各々対応付けられている。本実施形態では、連携データベース／サービスとして、レストラン検索サービス、及び、乗換案内サービスを兼ね備えたサービスを想定した場合について説明する。そして、利用者からの入力がレストラン検索に関する質問文なのか、乗換案内に関する質問文なのかを分類する場合について説明する。
【００３８】
レストラン検索サービスでは、場所、料理ジャンル、料理名、利用用途の４種類の項目で表される検索条件からの絞込みが可能であり、レストラン情報が格納されたデータベースにおいて、各々の項目で表される検索条件からデータを絞り込み、検索条件に応じた検索結果を提示する。
【００３９】
また、乗換案内サービスでは、出発地、到着地、時間、移動手段の４種類の項目で表される検索条件を指定することで、各駅の時刻表と照らし合わせ、乗換案内を提示している。
【００４０】
利用者が入力した質問文には、これらの検索条件に該当する情報の全て又は一部が含まれており、質問文に対する回答文を生成する際には、質問文をジャンルに分類した後に、検索条件に該当する単語を抽出する処理が行われる。例えば、質問文が「東京から横浜まで車で行きたい」であった場合、出発地が“東京”であること、到着地が“横浜”であること、移動手段が“車”であること、という３つの検索条件の項目が含まれている。
【００４１】
また、質問文が「このあたりでカレーを食べたい」であった場合、場所が“このあたり”であること、料理名が“カレー”であること、という２つの検索条件の項目が含まれている。
【００４２】
自然文で入力された質問文の場合、検索条件を指定するために、「このあたり」のような相対的な表現を用いられることもあるが、一般的には、「東京」、「横浜」、「車」、「カレー」というように、検索条件としてそのまま用いることができる固有表現が利用されることが多い。また、多くの場合、レストラン検索で場所を絞り込む際には、地名又は駅名が入力され、乗換案内で時間を指定する際には、日付及び時間を表す固有表現が入力される。同様に、レストラン検索で料理ジャンルを絞り込む際には、「和食」、「中華」等といった単語が非常に高い頻度で用いられる。
【００４３】
レストラン検索サービス及び乗換案内サービスの検索条件について、利用者からの入力が想定される単語又はＥＮＥカテゴリを併記したものを一例として図７に示した。検索条件データベース２４には、図７に示すように、ラベル毎に、検索条件として指定可能な項目の各々の、少なくとも１つの単語又はＥＮＥカテゴリからなるバリエーションが各々対応付けられて格納されている。なお、図７に示す例では、ラベル「１」がレストラン検索サービスに対応していて、ラベル「２」が乗換案内サービスに対応している。
【００４４】
検索条件データベース２４は、指定可能な全ての検索条件の項目に関する情報を保有しているとは限らない。例えば、レストラン検索において、場所及び料理名についてはそれらを表現する代表的なＥＮＥカテゴリが存在し、料理ジャンルについても、使用される頻度が高い単語を列挙することができるが、利用用途については、特定のＥＮＥカテゴリに限定できず、様々な品詞の単語を用いて表現されることが多く、代表的なＥＮＥカテゴリを列挙するのが難しい。このような検索条件については、検索条件データベース２４には格納されていなくても良い。よって、図６に示す検索条件リスト５２と、図７に示す検索条件データベース２４における各々のレコードとは、全て対応付けられている必要はない。
【００４５】
図７に示す例では、ラベル「１」に対応するレストラン検索サービスについては、場所の項目に対応するＥＮＥカテゴリ「Ｃｉｔｙ」、「Ｓｔａｔｉｏｎ」、及び「Ｌｏｃａｔｉｏｎ」が１つのレコードに格納され、料理名の項目に対応するＥＮＥカテゴリ「Ｄｉｓｈ」が１つのレコードに格納され、料理ジャンルの項目に対応する単語群「イタリアン」、「和食」、「中華」、「洋食」、及び「フレンチ」が１つのレコードに格納されており、それ以外の検索条件の項目については省略している。また、ラベル「２」に対応する乗換案内サービスについては、出発地の項目に対応するＥＮＥカテゴリ「Ｓｔａｔｉｏｎ」が１つのレコード（ラベル「２」に対応する１行目のレコード）に格納され、到着地の項目に対応するＥＮＥカテゴリ「Ｓｔａｔｉｏｎ」が１つのレコード（ラベル「２」に対応する２行目のレコード）に格納され、時間の項目に対応するＥＮＥカテゴリ「Ｄａｔｅ」、「Ｔｉｍｅｘ」、「Ｔｉｍｅ」が１つのレコードに格納され、移動手段の項目に対応する単語群「電車」、「飛行機」、「新幹線」、及び「有料特急」が１つのレコードに格納されており、それ以外の検索条件の項目については省略している。
【００４６】
なお、ここでは、上述した料理ジャンルの項目に対応する単語群、上述した移動手段の項目に対応する単語群等の単語群として、名詞を羅列しているが、検索条件によって動詞、形容詞等の他の品詞の単語が格納されても良い。
【００４７】
また、乗換案内サービスにおいて、出発地及び到着地には同じＥＮＥカテゴリの固有表現が入力されることが予想されるため、ＥＮＥカテゴリ「Ｓｔａｔｉｏｎ」の重複する２つのレコードが存在するが、これらの２つのレコードをまとめてＥＮＥカテゴリ「Ｓｔａｔｉｏｎ」の１つのレコードとしても良い。また、本実施形態では、各々のレコードを検索条件の各々の項目とし、項目毎にＥＮＥカテゴリ名を羅列させた状態で格納しているが、格納形式はこれに限らない。
【００４８】
拡張特徴付きラベル付き文書データベース２６には、特徴付きラベル付き文書に関連ＥＮＥカテゴリが付与された拡張特徴付きラベル付き文書が格納されており、一例として図８に示すように、文書ＩＤ、ラベル、特徴表現、及び、拡張特徴表現が各々対応付けられて格納されている。拡張特徴付きラベル付き文書データベース２６には、特徴付きラベル付き文書データベース２２に格納されている各々の特徴付きラベル付き文書が格納されている。
【００４９】
ここでは、“単語：関連性”の格納形式で記述した特徴量が羅列された状態で格納されているが、格納形式はこれに限らない。また、ここでは、特徴付与部３０により付与された特徴表現と、拡張特徴付与部３２により付与される拡張特徴表現とを分けて格納しているが、格納形式はこれに限らない。
【００５０】
例えば、「東京でカレーが食べたい」という質問文が学習データにある場合、この質問文は、場所及び料理名の２つの検索条件の項目が含まれたレストラン検索に関する質問文であることがわかる。この質問文に、特徴付与部３０により特徴表現が付与されると、以下に示す８個の特徴量が付与されると共に、レストラン検索に対応するラベルが付与され、学習に用いられる。
【００５１】
・単語の表層：東京、で、カレー、が、食べ、たい
・ＥＮＥカテゴリ：Ｃｉｔｙ（東京のＥＮＥカテゴリ）、Ｄｉｓｈ（カレーのＥＮＥカテゴリ）
【００５２】
ここで、上記質問文には存在しないが、質問文における場所の指定方法として、駅名、地名等を用いた場合にも同様に、レストラン検索の質問文であると想定できる。そこで、図７に示す検索条件データベース２４に基づいて、駅名であるＳｔａｔｉｏｎ、地名であるＬｏｃａｔｉｏｎを含む、以下のような特徴量を持つ質問文を新たに架空に作成する。
【００５３】
・単語の表層：東京、で、カレー、が、食べ、たい
・ＥＮＥカテゴリ：Ｃｉｔｙ（東京のＥＮＥカテゴリ）、Ｄｉｓｈ（カレーのＥＮＥカテゴリ）、Ｓｔａｔｉｏｎ（架空のＥＮＥカテゴリ（関連ＥＮＥカテゴリに対応））、Ｌｏｃａｔｉｏｎ（架空のＥＮＥカテゴリ（関連ＥＮＥカテゴリに対応））
【００５４】
これらの単語の表層、及びＥＮＥカテゴリに、レストラン検索に対応するラベルが付与された文書「ａ００１’」を生成し、生成した文書「ａ００１’」を拡張特徴付きラベル付き文書として追加する。追加された拡張特徴付きラベル付き文書は、学習に用いられる。これにより、利用者に入力された質問文に駅名が含まれた場合であっても、乗換案内である可能性のみでなく、レストラン検索である可能性をも考慮した分類ができるモデルを生成することができる。
【００５５】
また、例えば、「デートにオススメのフレンチはどこ」という質問文が学習データにある場合、この質問文に、特徴付与部３０により特徴表現が付与されると、以下に示す７個の特徴量が付与されると共に、レストラン検索に対応するラベルが付与され、学習に用いられる。
・単語の表層：デート、に、オススメ、の、フレンチ、は、どこ
・ＥＮＥカテゴリ：（無し）
【００５６】
この単語の表層を、以下に示すように、検索条件に用いられる単語のバリエーションに拡張する。
・単語の表層：デート、に、オススメ、の、フレンチ、は、どこ、イタリアン、和食、中華、洋食
【００５７】
これにより、「フレンチ」という単語から拡張された単語を含む、新たな架空の質問文を作成することができる。これらの単語の表層に、レストラン検索に対応するラベルが付与された文書「ａ００２’」を生成し、生成した文書「ａ００２’」を拡張特徴付きラベル付き文書として追加する。追加された拡張特徴付きラベル付き文書は、学習に用いられる。これにより、利用者に入力された質問文に「フレンチ」以外の料理ジャンルが含まれた場合であっても、レストラン検索である可能性を考慮した分類ができるモデルを生成することができる。
【００５８】
このように、学習データの質問文に含まれる検索条件について、その検索条件が入力を想定している他の単語又はＥＮＥカテゴリを新たな素性として質問文の特徴表現に付加することで、少ない学習データを補い、作成された分類モデルの分類精度を向上することができる。
【００５９】
以下、文書中に出現している単語に紐付いて、新たに素性として付加された単語を、拡張単語といい、文書中に出現しているＥＮＥカテゴリに紐付いて、新たに素性として付加されたＥＮＥカテゴリを、拡張ＥＮＥカテゴリといい、拡張単語及び拡張ＥＮＥカテゴリの特徴表現を拡張特徴表現という。
【００６０】
学習部３４は、拡張特徴付きラベル付き文書データベース２６に格納されている拡張特徴付きラベル付き文書及び特徴付きラベル付き文書の各々を入力し、特徴表現、拡張特徴表現、及びラベルを用いて、ラベル無し文書をジャンル毎に分類するための分類モデルを学習して作成し、作成した分類モデルを分類モデルデータベース２８に出力する。分類モデルの作成方法は、拡張特徴付きラベル付き文書及び特徴付きラベル付き文書が持つ特徴表現、拡張特徴表現、及びラベルに基づいて学習する方法であれば、如何なる方法を用いても良い。分類モデルの作成方法としては、例えば、上記非特許文献１に開示された方法を用いることができる。
【００６１】
推定部５０は、特徴付きラベル無し文書データベース４２に格納された特徴付きラベル無し文書を入力する。また、推定部５０は、分類モデルを用いて、特徴付きラベル無し文書データベース４２に格納されている特徴付きラベル無し文書（すなわち、ラベル無し文書データベース４０に格納されているラベル無し文書）のラベルを推定する。
【００６２】
ラベルの推定方法としては、例えば、上記非特許文献１に開示された方法を用いることができる。推定部５０は、推定したラベルである推定ラベルが特徴付きラベル付き文書に付与された、推定ラベル付き文書を生成し、生成した推定ラベル付き文書を推定ラベル付き文書データベース４４に出力する。
【００６３】
推定ラベル付き文書データベース４４には、上記推定ラベル付き文書が格納されており、一例として図９に示すように、文書ＩＤ、ラベル、及び、文書のテキストが各々対応付けられて格納されている。なお、推定ラベルは、ラベル付き文書、及び拡張特徴付きラベル付き文書のラベルと同一の表現方法であることが望ましい。
【００６４】
なお、本実施形態に係る文書分類装置１０は、例えば、ＣＰＵ（Central Processing Unit）、ＲＡＭ（Random Access Memory）、各種プログラムを記憶するＲＯＭ（Read Only Memory）を備えたコンピュータ装置で構成される。また、文書分類装置１０を構成するコンピュータは、ハードディスクドライブ、不揮発性メモリ等の記憶部を備えていても良い。本実施形態では、ＣＰＵがＲＯＭ、ハードディスク等の記憶部に記憶されているプログラムを読み出して実行することにより、上記のハードウェア資源とプログラムとが協働し、上述した機能が実現される。
【００６５】
本実施形態に係る文書分類装置１０は、複数のラベル付き文書を用いて学習することにより分類モデルを作成する学習処理、及び、ラベル無し文書のラベルを分類モデルを用いて推定する推定処理を行う。
【００６６】
まず、本実施形態に係る文書分類装置１０による学習処理の流れを、図１０に示すフローチャートを用いて説明する。
【００６７】
ステップＳ１０１では、特徴付与部３０が、ラベル付き文書データベース２０から、後述するステップＳ１０３乃至Ｓ１０７の処理を行っていない未処理のレコードを選択し、選択したレコードに対応する文書を文書Ｄとする。例えば、特徴付与部３０は、図２に示すラベル付き文書データベース２０の１行目の文書ＩＤ「ａ００１」、ラベル「１」、テキスト「東京でカレーが食べたい」に対応する文書を文書Ｄとする。
【００６８】
ステップＳ１０３では、特徴付与部３０が、文書Ｄのテキストを単語に分割し、固有表現が含まれる場合には、含まれる固有表現のＥＮＥカテゴリを求める。例えば、特徴付与部３０が、文書Ｄのテキスト「東京でカレーが食べたい」を単語に分割して「東京、で、カレー、が、食べ、たい」とし、固有表現である「東京」及び「カレー」のＥＮＥカテゴリを求める。例えば、「東京」に対してＥＮＥカテゴリ「Ｃｉｔｙ」が求められ、「カレー」に対してＥＮＥカテゴリ「Ｄｉｓｈ」が求められる。なお、単語の分割手法としては任意の手法を用いることができ、例えば、上記非特許文献２に開示されている手法を用いることができる。また、固有表現のＥＮＥカテゴリを求める方法も任意の手法を用いることができ、例えば、上記参考文献２に開示されている手法を用いることができる。
【００６９】
ステップＳ１０５では、特徴付与部３０が、文書Ｄのテキストから、単語、又はＥＮＥカテゴリを選択する。例えば、拡張特徴付与部３２は、単語に分割したテキスト「東京、で、カレー、が、食べ、たい」から、単語である「東京」、「で」、「カレー」、「が」、「食べ」及び「たい」の何れか、又は、ＥＮＥカテゴリ「Ｃｉｔｙ」及び「Ｄｉｓｈ」の何れかを抽出する。
【００７０】
ステップＳ１０７では、特徴付与部３０が、単語及び特徴量のペア、又は、ＥＮＥカテゴリ及び特徴量のペアを、文書Ｄの特徴表現に追加する。
【００７１】
ステップＳ１０９では、特徴付与部３０が、文書Ｄのテキストに、ステップＳ１０５及びＳ１０７の処理を行っていない未処理の単語又はＥＮＥカテゴリがあるか否かを判定する。ステップＳ１０９で未処理の単語又はＥＮＥカテゴリがあると判定した場合（Ｓ１０９，Ｙ）はステップＳ１０５に移行し、未処理の単語又はＥＮＥカテゴリがないと判定した場合（Ｓ１０９，Ｎ）はステップＳ１１１に移行する。
【００７２】
ステップＳ１１１では、特徴付与部３０が、一例として図３に示すように、文書Ｄの文書ＩＤ、ラベル、及び特徴表現を各々対応付けて、特徴付きラベル付き文書データベース２２に格納させる。
【００７３】
ステップＳ１１３では、特徴付与部３０が、ラベル付き文書データベース２０に、上記ステップＳ１０３乃至Ｓ１０７の処理を行っていない未処理のレコードがあるか否かを判定する。ステップＳ１１３で未処理のレコードがあると判定した場合（Ｓ１１３，Ｙ）はステップＳ１０１に移行し、未処理のレコードがないと判定した場合（Ｓ１１３，Ｎ）はステップＳ１１５に移行する。
【００７４】
ステップＳ１１５では、拡張特徴付与部３２が、特徴付きラベル付き文書データベース２２から、後述するステップＳ１１７乃至Ｓ１１９の処理を行っていない未処理のレコードを選択し、選択したレコードに対応する文書を文書ｄとする。例えば、拡張特徴付与部３２は、図３に示す特徴付きラベル付き文書データベース２２の１行目の文書ＩＤ「ａ００１」、ラベル「１」、特徴表現「東京：１，で：１，カレー：１，が：１，食べ：１，たい：１」に対応する文書を文書ｄとする。
【００７５】
ステップＳ１１７では、拡張特徴付与部３２が、特徴付きラベル付き文書に、拡張特徴表現を付与する拡張特徴付与処理を行う。本実施形態に係る文書分類装置１０による拡張特徴付与処理の流れを、図１１に示すフローチャートを用いて説明する。
【００７６】
ステップＳ２０１では、拡張特徴付与部３２が、特徴付きラベル付き文書データベース２２から、後述するステップＳ２０３乃至Ｓ２０９の処理を行っていない未処理のテキストを選択してテキストＴとし、テキストＴのラベルをラベルＬとする。例えば、拡張特徴付与部３２は、テキスト「横浜周辺でオムライスを食べたい」をテキストＴとする。
【００７７】
ステップＳ２０３では、拡張特徴付与部３２が、テキストＴを解析し、テキストＴに含まれるＥＮＥカテゴリを抽出する。例えば、「横浜」に対してはＥＮＥカテゴリ「Ｓｔａｔｉｏｎ」が求められ、「オムライス」に対してはＥＮＥカテゴリ「Ｄｉｓｈ」が求められる。
【００７８】
ステップＳ２０５では、拡張特徴付与部３２が、テキストＴに含まれるＥＮＥカテゴリのうち、後述するステップＳ２０７乃至Ｓ２０９の処理を行っていない未処理のシンボルを選択して、シンボルｃとする。
【００７９】
ステップＳ２０７では、拡張特徴付与部３２が、図７に示す検索条件データベース２４に格納されている、ラベルＬに該当するレコードのうち、バリエーションのカラムにシンボルｃが格納されているレコードを選択し、選択したレコードに記憶されているバリエーションをバリエーションＣ’＝｛ｃ’１，ｃ’２，…｝とする。この際、シンボルｃを含むレコードが複数ある場合には、全てのレコードのシンボルを対象としても良く、任意の方法でレコードに優先順位をつけ、何れか１つのレコードのみのシンボルを選択対象とする等の絞り込みを行っても良い。
【００８０】
ステップＳ２０９では、拡張特徴付与部３２が、バリエーションＣ’から、上記未処理のシンボルを拡張特徴としてテキストＴの特徴表現に付加する。ただし、バリエーションＣ’に含まれているシンボルであっても、テキストＴの特徴表現に既に含まれているシンボルについては、拡張特徴としての付加を行わない。例えば、テキストＴの特徴表現にシンボル（ｃ１，ｃ２）が含まれていて、かつ、検索条件データベース２４にシンボル（ｃ１，ｃ２，ｃ３）を含むレコードが存在するとする。この場合には、シンボルｃ２は、テキストＴの特徴表現に含まれているため、拡張特徴として付与されない。一方、シンボルｃ３は、テキストＴの特徴表現に含まれていないため、拡張特徴として付与される。
【００８１】
また、この際、拡張特徴の特徴量は任意の数値でよく、従来の特徴量と同様に、テキストＴにおける出現回数を用いても良い。また、テキストＴにおける出現回数を用いる代わりに、テキストＴにおいて拡張特徴として付加された回数を用いても良い。また、バリエーションＣ’に含まれている数に応じて拡張特徴の特徴量に重み付けを行ったり、拡張特徴の質問文における使用頻度が高くなるほど、拡張特徴の重みを高くしたりする等、拡張特徴の特徴量に対して任意の方法で重み付けを行った数値を拡張特徴の特徴量として用いても良い。
【００８２】
ステップＳ２１１では、拡張特徴付与部３２が、バリエーションＣ'に、上記ステップＳ２０９の処理を行っていない未処理のシンボルがあるか否かを判定する。ステップＳ２１１で未処理のシンボルがあると判定した場合（Ｓ２１１，Ｙ）はステップＳ２０９に移行し、未処理のシンボルがないと判定した場合（Ｓ２１１，Ｎ）はステップＳ２１３に移行する。
【００８３】
ステップＳ２１３では、拡張特徴付与部３２が、テキストＴに上記ステップＳ２０７乃至Ｓ２０９の処理を行っていない未処理のシンボルがあるか否かを判定する。ステップＳ２１３で未処理のシンボルがあると判定した場合（Ｓ２１３，Ｙ）はステップＳ２０５に移行し、未処理のシンボルがないと判定した場合（Ｓ２１３，Ｎ）は本拡張特徴付与処理のプログラムの実行を終了し、図１０に示す学習処理のステップＳ１１９に移行する。
【００８４】
ステップＳ１１９では、拡張特徴付与部３２が、一例として図８に示すように、文書ｄの文書ＩＤ、ラベル、特徴表現、及び拡張特徴表現を各々対応付けて、拡張特徴付きラベル付き文書データベース２６に格納させる。なお、テキストＴの拡張特徴表現は、テキストＴに含まれる全ての固有表現から拡張した拡張特徴を用いても良く、一部の拡張特徴のみを用いても良い。例えば、特徴量が大きい拡張特徴から並べた上位ｎ（ｎは１以上の任意の整数）個の拡張特徴のみを用いても良い。また、特徴量が予め決めた閾値を超える拡張特徴のみを用いても良い。また、拡張特徴付与部３２が、文書ｄの文書ＩＤ、ラベル、及び特徴表現を各々対応付けて、拡張特徴付きラベル付き文書データベース２６に格納させる。
【００８５】
ステップＳ１２１では、拡張特徴付与部３２が、特徴付きラベル付き文書データベース２２から、上記ステップＳ１１７乃至Ｓ１１９の処理を行っていない未処理のレコードがあるか否かを判定する。ステップＳ１２１で未処理のレコードがあると判定した場合（Ｓ１２１，Ｙ）はステップＳ１１５に移行し、未処理のレコードがないと判定した場合（Ｓ１２１，Ｎ）はステップＳ１２３に移行する。
【００８６】
ステップＳ１２３では、学習部３４が、拡張特徴付きラベル付き文書データベース２６に格納された拡張特徴付きラベル付き文書及び特徴付きラベル付き文書を用いて学習することにより、ラベル無し文書をジャンル毎に分類するための分類モデルを作成し、作成した分類モデルを分類モデルデータベース２８に格納させ、本学習処理のプログラムの実行を終了する。
【００８７】
次に、本実施形態に係る文書分類装置１０による推定処理の流れを、図１２に示すフローチャートを用いて説明する。
【００８８】
ステップＳ３０１では、特徴付与部３０が、ラベル無し文書データベース４０からラベル無し文書を選択し、選択したラベル無し文書を文書Ｋとする。
【００８９】
ステップＳ３０３では、特徴付与部３０が、文書Ｋのテキストを単語に分割し、固有表現が含まれる場合には、そのＥＮＥカテゴリを求める。例えば、特徴付与部３０が、文書Ｋのテキスト「横浜周辺でオムライスを食べたい」を単語に分割して「横浜、周辺、で、オムライス、を、食べ、たい」とし、固有表現である「横浜」及び「オムライス」のＥＮＥカテゴリを求める。例えば、「横浜」に対してはＥＮＥカテゴリ「Ｃｉｔｙ」が求められ、「オムライス」に対してはＥＮＥカテゴリ「Ｄｉｓｈ」が求められる。なお、単語の分割手法としては任意の手法を用いることができる。例えば、上記非特許文献２に開示されている手法を用いることができる。また、固有表現のＥＮＥカテゴリを求める方法としても任意の方法を用いることができる。例えば、参考文献２に開示されている手法を用いることができる。
【００９０】
ステップＳ３０５では、特徴付与部３０が、文書Ｋのテキストから、単語、又はＥＮＥカテゴリを選択する。例えば、拡張特徴付与部３２は、単語に分割したテキスト「横浜、周辺、で、オムライス、を、食べ、たい」から、単語である「横浜」、「周辺」、「で」、「オムライス」、「を」、「食べ」及び「たい」の何れか、又は、ＥＮＥカテゴリ「Ｃｉｔｙ」及び「Ｄｉｓｈ」の何れかを抽出する。
【００９１】
ステップＳ３０７では、特徴付与部３０が、単語及び特徴量のペア、又は、ＥＮＥカテゴリ及び特徴量のペアを、文書Ｋの特徴表現に追加する。
【００９２】
ステップＳ３０９では、特徴付与部３０が、文書Ｋのテキストに、ステップＳ３０５及びＳ３０７の処理を行っていない未処理の単語又はＥＮＥカテゴリがあるか否かを判定する。ステップＳ３０９で未処理の単語又はＥＮＥカテゴリがあると判定した場合（Ｓ３０９，Ｙ）はステップＳ３０５に移行し、未処理の単語又はＥＮＥカテゴリがないと判定した場合（Ｓ３０９，Ｎ）はステップＳ３１１に移行する。
【００９３】
ステップＳ３１１では、特徴付与部３０が、一例として図５に示すように、文書Ｋの文書ＩＤ、及び特徴表現を各々対応付けて、特徴付きラベル無し文書データベース４２に格納させる。
【００９４】
ステップＳ３１３では、特徴付与部３０が、ラベル無し文書データベース４０に、上記ステップＳ３０３乃至Ｓ３０７の処理を行っていない未処理のレコードがあるか否かを判定する。ステップＳ３１３で未処理のレコードがあると判定した場合（Ｓ３１３，Ｙ）はステップＳ３０１に移行し、未処理のレコードがないと判定した場合（Ｓ３１３，Ｎ）はステップＳ３１５に移行する。
【００９５】
ステップＳ３１５では、推定部５０が、分類モデルデータベース２８に格納されている分類モデルを用いて、特徴付きラベル無し文書データベースに格納されている特徴付きラベル無し文書のラベルを推定する。
【００９６】
ステップＳ３１７では、推定部５０が、ラベル無し文書、及びステップＳ３１５で推定したラベルを各々対応付けて、推定ラベル付き文書データベース４４に格納させ、本推定処理のプログラムの実行を終了する。
【００９７】
このようにして、本実施形態に係る文書分類装置１０は、ジャンルを表すラベルが付与されたラベル付き文書、又は、ラベルが付与されていないラベル無し文書に、文書の特徴を表す特徴表現を付与する。また、本実施形態に係る文書分類装置１０は、ラベル付き文書に特徴表現が付与された特徴付きラベル付き文書に、予め定めたシンボルが含まれる場合、特徴付きラベル付き文書に、予め定めたシンボルに関連する関連シンボルの特徴を表す拡張特徴表現を付与する。また、本実施形態に係る文書分類装置１０は、拡張特徴表現が付与された拡張特徴付きラベル付き文書の各々について、特徴表現、拡張特徴表現、及びラベルを用いて、ラベル無し文書をジャンル毎に分類するための分類モデルを学習する。そして、本実施形態に係る文書分類装置１０は、ラベル無し文書に特徴表現が付与された特徴付きラベル無し文書、及び分類モデルを用いて、特徴付きラベル無し文書のラベルを推定する。
【００９８】
なお、本実施形態では、検索条件データベース２４に、各々のジャンルにおいて、シンボルを検索条件毎に１つのレコードに格納した場合について説明したが、検索条件データベース２４におけるシンボルの格納方法はこれに限らない。例えば、各々のジャンルにおいて、全ての検索条件のシンボルを１つのバリエーションとしてまとめて１つのレコードに格納しても良い。すなわち、一例として図１３に示すように、ラベル、及び、１つのバリエーションとして１つのレコードに格納された複数のシンボルが各々対応付けられて検索条件データベース２４Ａに格納されていても良い。この場合には、ジャンルＹに対応するバリエーションＺに含まれる、少なくとも１つのシンボルｚ１が、ラベル付き文書Ｘに含まれる場合、バリエーションＺに含まれる、シンボルｚ１以外のシンボルが、ラベル付き文書Ｘに拡張特徴表現として付与される。
【００９９】
以上のような手法を用いて上記分類モデルを作成する一例を図１４に示した。図１４に示すように、検索条件が「場所」の場合に入力が予想されるＥＮＥカテゴリは、「Ｃｉｔｙ」、「Ｓｔａｔｉｏｎ」、及び「Ｌｏｃａｔｉｏｎ」の何れかであり、検索条件が「料理名」の場合に入力が予想されるＥＮＥカテゴリは、「Ｄｉｓｈ」であるとする。
【０１００】
ここで、レストラン検索サービスに対応することがわかっている学習データである質問文Ａ「東京でカレーが食べたい」を用いて学習する場合、単語の表層である「東京」、「で」、「カレー」、「が」、「食べ」及び「たい」の各々の特徴量が特徴表現として文書Ａに付与される。また、ＥＮＥカテゴリである「Ｃｉｔｙ」（東京のＥＮＥカテゴリ）、及び「Ｄｉｓｈ」（カレーのＥＮＥカテゴリ）の各々の特徴量が特徴表現として文書Ａに付与される。また、拡張ＥＮＥカテゴリとして「Ｌｏｃａｔｉｏｎ」及び「Ｓｔａｔｉｏｎ」が拡張特徴表現として文書Ａに付与される。そして、特徴表現及び拡張特徴表現が付与された文書Ａを用いて分類モデルが作成される。
【０１０１】
このように、ＥＮＥカテゴリは、質問文に対して回答を作成する対話サービスとして連携するデータベース／サービスにおいて、指定可能な検索条件として利用されると共に、入力が想定されるＥＮＥカテゴリとしても利用される。また、学習データ内で出現したＥＮＥカテゴリから、学習データ内で出現していないＥＮＥカテゴリの特徴表現を擬似的に作成して付与することで、学習データに含まれない固有表現をも考慮した分類モデルを作成することができる。
【０１０２】
すなわち、各々のジャンルで指定可能な検索条件を用いて、各々の検索条件において入力が期待される固有表現のＥＮＥカテゴリを、学習データの文書中に含まれている固有表現に紐付けて擬似的に出現させた特徴表現を用いることにより、ラベル付き文書を用いて分類モデルを作成する際、ラベル付き文書に含まれない単語の特徴をも考慮された分類モデルを作成することができる。
【０１０３】
また、学習に用いられる固有表現のカテゴリの種類数が増え、分類の際に考慮できる単語の種類数が増える。これにより、未知の単語及び未知の固有表現のみからなるラベル無し文書が入力された場合でも、未知の固有表現のＥＮＥカテゴリが拡張ＥＮＥカテゴリに含まれていれば、分類に用いる単語が存在し、未知のラベル無し文書のラベルを正しく推定することができる。
【０１０４】
従来手法を用いる場合、未知の単語及び未知の固有表現のみからなるラベル無し文書は、分類の際に考慮できる特徴がないため、ラベル無し文書のラベルを推定することはできなかった。
【０１０５】
また、既知の単語及び未知の単語の双方を含むラベル無し文書について、未知の単語が未知の固有表現であっても、拡張ＥＮＥカテゴリに含まれていれば分類の際に当該未知の単語を考慮でき、文書自体の特徴表現を増やすことができる。これにより、文書をより相応しいジャンルに分類することが可能となり、分類性能が向上する。
【０１０６】
一方、従来手法を用いる場合、未知の単語と既知の単語の両方を含むラベル無し文書については、既知の単語と既知カテゴリ固有表現のみしか分類に考慮することができなかったため、文書自体の特徴表現を十分に表現できず、分類を誤ることがあった。
【０１０７】
例えば、ラベル付き文書のうち、レストラン検索サービスに対応する文書において、場所について地名で指定した文書は含まれていても、場所について駅名を用いて指定した文書が含まれていない場合を考える。
【０１０８】
駅名を表す固有表現を含むラベル無し文書のジャンルを判定する際、駅名の単語は未知の単語かつ未知の固有表現であり、分類の際に特徴表現として利用できず、それ以外の単語のみでジャンルを判定しなければならない。また、レストラン検索サービスに対応するラベル付き文書には駅名を含む文書が含まれないが、乗換案内サービスに対応するラベル付き文書には含まれている場合、ラベル無し文書に駅名の単語が含まれているという特徴表現から、レストランに関する文書を乗換案内に誤分類してしまう可能性もある。これに対し、拡張ＥＮＥカテゴリとして駅名のＥＮＥカテゴリを付与したラベル無し文書を生成し、拡張特徴付きラベル付き文書に追加し、分類モデルを作成するための学習に用いることで、駅名を含む文書について、レストラン検索サービスを利用する可能性をも考慮して分類することが可能となる。
【０１０９】
一例として図１５に示すように、ラベルが付与されていない、すなわちレストラン検索サービスを利用したいのか、乗換案内サービスを利用したいのかがわからない質問文Ｂ「品川駅周辺で歓迎会したい」が入力されたとする。なお、質問文Ｂは、レストランの検索を目的とした文書である。また、学習データにおいて、ＥＮＥカテゴリ「Ｓｔａｔｉｏｎ」を含む文書は乗換案内サービスに対応する文書に出現しているが、レストラン検索サービスに対応する文書には出現していないものとする。
【０１１０】
この場合、文書Ｂから、単語の表層である「品川駅」、「周辺」、「で」、「歓迎会」、「する」、及び「たい」が抽出される。また、文書Ｂから、ＥＮＥカテゴリである「Ｓｔａｔｉｏｎ」（「品川駅」のＥＮＥカテゴリ）が抽出される。
【０１１１】
従来の手法では、レストラン検索サービスに対応するＥＮＥカテゴリに「Ｓｔａｔｉｏｎ」が含まれておらず、乗換案内サービスに対応するＥＮＥカテゴリには「Ｓｔａｔｉｏｎ」が含まれているため、ＥＮＥカテゴリ「Ｓｔａｔｉｏｎ」により乗換案内サービスが選択される。
【０１１２】
一方、本実施形態では、レストラン検索サービスの拡張ＥＮＥカテゴリに「Ｓｔａｔｉｏｎ」が含まれており、乗換案内サービスに対応するＥＮＥカテゴリにも「Ｓｔａｔｉｏｎ」が含まれているため、レストラン検索サービス及び乗換案内サービスの何れも選択可能であるが、単語の表層「歓迎会」等によりレストラン検索サービスが選択される。
【０１１３】
これにより、各々のジャンルで指定可能な検索条件を用いて、各々の検索条件において入力が期待されるＥＮＥカテゴリを、文書中に含まれている固有表現に紐付けて特徴表現に付与することで、これまで分類不可能だった、未知の単語および未知の固有表現のみからなるラベル無し文書についても、既知の単語からなるラベル無し文書と同様にジャンルを推定することが可能となる。また、拡張特徴表現が付与されて学習されたモデルを利用することで、未知の単語及び未知の固有表現と、既知の単語とからなるラベル無し文書についても、既知の単語と同様に分類に考慮することができ分類精度が向上する。
【０１１４】
なお、本実施形態では、図１に示す機能の構成要素の動作をプログラムとして構築し、文書分類装置１０として利用されるコンピュータにインストールして実行させるが、これに限らず、ネットワークを介して流通させても良い。
【０１１５】
また、構築されたプログラムをハードディスクやフレキシブルディスク、ＣＤ−ＲＯＭ等の可搬記憶媒体に格納し、コンピュータにインストールしたり、配布したりしても良い。
【符号の説明】
【０１１６】
１０  文書分類装置
１２  データ学習部
１４  ラベル推定部
２０  ラベル付き文書データベース
２２  特徴付きラベル付き文書データベース
２４  検索条件データベース
２６  拡張特徴付きラベル付き文書データベース
２８  分類モデルデータベース
３０  特徴付与部
３２  拡張特徴付与部
３４  学習部
４０  ラベル無し文書データベース
４２  拡張特徴付きラベル付き文書データベース
４４  推定ラベル付き文書データベース
５０  推定部
【図１】
0006509718.tif 000002
【図２】
0006509718.tif 000003
【図３】
0006509718.tif 000004
【図４】
0006509718.tif 000005
【図５】
0006509718.tif 000006
【図６】
0006509718.tif 000007
【図７】
0006509718.tif 000008
【図８】
0006509718.tif 000009
【図９】
0006509718.tif 000010
【図１０】
0006509718.tif 000011
【図１１】
0006509718.tif 000012
【図１２】
0006509718.tif 000013
【図１３】
0006509718.tif 000014
【図１４】
0006509718.tif 000015
【図１５】
0006509718.tif 000016