(57)【特許請求の範囲】
【請求項１】
各種情報を蓄積する蓄積部と、この蓄積部の情報に対して演算処理を行う処理部とを有する典型文分析装置により、所定の分析対象に関する記述を示す複数のテキストを要素とする分析対象集合について、前記各テキストからその分析対象集合を代表する度合いを分析する典型文分析方法であって、
前記蓄積部に蓄積されている、前記分析対象集合と、前記分析対象と比較する各比較対象に関する記述を示す複数のテキストをそれぞれ要素とする複数の比較対象集合とから、前記処理部により、前記分析対象集合に含まれる各テキストがその分析対象集合を代表する度合いとして、前記分析対象集合に含まれる各テキストごとに、前記分析対象集合に対する当該テキストのベイズ事後確率を計算する事後確率計算ステップを備える
ことを特徴とする典型文分析方法。
【請求項２】
請求項１記載の典型文分析方法において、
前記処理部により、前記分析対象集合に含まれる各テキストのうち、ベイズ事後確率が高い順に１つ以上のテキストを前記分析対象集合の典型文として抽出するテキスト抽出ステップをさらに備えることを特徴とする典型文分析方法。
【請求項３】
請求項１または２記載の典型文分析方法において、
前記事後確率計算ステップでベイズ事後確率を計算する際、
前記分析対象集合および前記各比較対象集合に含まれる各テキストから、当該テキストを分解して得られる各単位表現の当該集合における出現回数を計数するとともに、前記分析対象集合および前記各比較対象集合の各集合に含まれるテキスト数をそれぞれの集合ごとに計数し、これら計数結果に基づいて前記分析対象集合に含まれる各テキストごとのベイズ事後確率を計算することを特徴とする典型文分析方法。
【請求項４】
請求項３記載の典型文分析方法において、
前記事後確率計算ステップで前記計数結果からベイズ事後確率を計算する際、
前記各単位表現の出現回数に基づき個々の単位表現の前記各集合における出現確率を推定するとともに、前記各集合のテキスト数に基づき前記各集合の出現確率を推定し、これら推定結果を用いて前記分析対象集合に含まれる各テキストごとのベイズ事後確率を計算することを特徴とする典型文分析方法。
【請求項５】
請求項１〜４のいずれか記載の典型文分析方法において、
前記比較対象集合群の各集合を空集合とすることを特徴とする典型文分析方法。
【請求項６】
各種情報を蓄積する蓄積部と、この蓄積部の情報に対して演算処理を行う処理部とを有し、所定の分析対象に関する記述を示す複数のテキストを要素とする分析対象集合について、前記各テキストからその分析対象集合を代表する度合いを分析する典型文分析装置であって、
前記蓄積部に蓄積されている、前記分析対象集合と、前記分析対象と比較する各比較対象に関する記述を示す複数のテキストをそれぞれ要素とする複数の比較対象集合とから、前記処理部により、前記分析対象集合に含まれる各テキストがその分析対象集合を代表する度合いとして、前記分析対象集合に含まれる各テキストごとに、前記分析対象集合に対する当該テキストのベイズ事後確率を計算する事後確率計算手段を備えることを特徴とする典型文分析装置。
【請求項７】
請求項６記載の典型文分析装置において、
前記処理部により、前記分析対象集合に含まれる各テキストのうち、ベイズ事後確率が高い順に１つ以上のテキストを前記分析対象集合の典型文として抽出するテキスト抽出手段を備えることを特徴とする典型文分析装置。
【請求項８】
請求項６または７記載の典型文分析装置において、
前記処理部により、前記分析対象集合および前記各比較対象集合に含まれる各テキストから、当該テキストを分解して得られる各単位表現の当該集合における出現回数を計数する表現ヒストグラム計算手段と、
前記処理部により、前記分析対象集合および前記各比較対象集合の各集合に含まれるテキスト数をそれぞれの集合ごとに計数するカテゴリヒストグラム計算手段とをさらに備え、
前記事後確率計算手段は、これら計数結果に基づいて前記分析対象集合に含まれる各テキストごとのベイズ事後確率を計算することを特徴とする典型文分析装置。
【請求項９】
請求項８記載の典型文分析装置において、
前記事後確率計算手段は、前記各単位表現の出現回数に基づき個々の単位表現の前記各集合における出現確率を推定するとともに、前記各集合のテキスト数に基づき前記各集合の出現確率を推定し、これら推定結果を用いて前記分析対象集合に含まれる各テキストごとのベイズ事後確率を計算することを特徴とする典型文分析装置。
【請求項１０】
請求項６〜９のいずれか記載の典型文分析装置において、
前記比較対象集合群の各集合として空集合を用いることを特徴とする典型文分析装置。
【請求項１１】
各種情報を蓄積する蓄積部と、この蓄積部の情報に対して演算処理を行う処理部とを有する典型文分析装置により、所定の分析対象に関する記述を示す複数のテキストを要素とする分析対象集合について、前記各テキストからその分析対象集合を代表する度合いを分析する際に用いられ、前記典型文分析装置のコンピュータで、請求項１〜５のいずれか記載の典型文分析方法を実行させるためのプログラムを記録した記録媒体。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、典型文分析方法、装置および記録媒体に関し、特に特定の集合に属する各テキストから、その集合を代表する典型文を分析する典型文分析方法、装置および記録媒体に関するものである。
【０００２】
【従来の技術】
ビジネス分野において、アンケート調査に基づくマーケティング分析は、商品やサービスに関する顧客の評価を取得する上で非常に重要視されている。特に、自由記述回答欄を含むアンケートでは、顧客の生の声を汲み取ることができ、アンケート以外にはｗｅｂ上で自由に書き込まれた各種意見も同様である。
従来、このような自由記述欄などに記載された複数のテキスト（文字情報）からなる集合について、その集合を代表するテキストを抽出する場合、これらテキストを要約する技術が用いられていた（例えば、特開平１０−１３４０６６号公報など参照）。この種の文書分析技術は、その集合に含まれる各テキストから１つの要約した文章を作成するものである。
【０００３】
【発明が解決しようとする課題】
しかしながら、このような従来の文書分析技術では、分析対象となるテキスト集合を適切かつ詳細に分析できないという問題点があった。
通常、アンケート回答の分析では、「男性からの回答テキストの集合」などのように、趣味・嗜好の異なる複数の顧客層を含み類似性の低いテキスト集合についても分析対象となり、有効な代表テキストが必要とされる。しかし、従来の文書分析技術では、分析対象とする集合に含まれる各テキストが互いに類似していない場合、その集合を代表する適切な文章が得られない。
【０００４】
また「男性からの回答における典型例」や「男性からの回答としては珍しい例」に相当するテキストの抽出など、各テキストがその集合を代表する度合いすなわち典型度が得られれば、より有益な情報が得られる。しかし、従来の文書分析技術では、元のテキスト集合から新たなテキストが生成されることから、その集合の要素である各テキストについて「その集合を代表するものとして、どれだけ相応しいか」を分析することができない。
本発明はこのような課題を解決するためのものであり、分析対象となるテキスト集合を適切かつ詳細に分析できる典型文分析方法、装置および記録媒体を提供することを目的としている。
【０００５】
【課題を解決するための手段】
このような目的を達成するために、本発明にかかる典型文分析方法は、各種情報を蓄積する蓄積部と、この蓄積部の情報に対して演算処理を行う処理部とを有する典型文分析装置により、所定の分析対象に関する記述を示す複数のテキストを要素とする分析対象集合について、各テキストからその分析対象集合を代表する度合いを分析する典型文分析方法であって、蓄積部に蓄積されている、分析対象集合と、分析対象と比較する各比較対象に関する記述を示す複数のテキストをそれぞれ要素とする複数の比較対象集合とから、処理部により、分析対象集合に含まれる各テキストがその分析対象集合を代表する度合いとして、分析対象集合に含まれる各テキストごとに、分析対象集合に対する当該テキストのベイズ事後確率を計算する事後確率計算ステップを備えている。
【０００６】
これに加えて、処理部により、分析対象集合に含まれる各テキストのうち、ベイズ事後確率が高い順に１つ以上のテキストを分析対象集合の典型文として抽出するテキスト抽出ステップをさらに備えてもよい。
【０００７】
事後確率計算ステップでベイズ事後確率を計算する際、分析対象集合および各比較対象集合に含まれる各テキストから、当該テキストを分解して得られる各単位表現の当該集合における出現回数を計数するとともに、分析対象集合および各比較対象集合の各集合に含まれるテキスト数をそれぞれの集合ごとに計数し、これら計数結果に基づいて分析対象集合に含まれる各テキストごとのベイズ事後確率を計算するようにしてもよい。
【０００８】
事後確率計算ステップで計数結果からベイズ事後確率を計算する際、各単位表現の出現回数に基づき個々の単位表現の各集合における出現確率を推定するとともに、各集合のテキスト数に基づき各集合の出現確率を推定し、これら推定結果を用いて分析対象集合に含まれる各テキストごとのベイズ事後確率を計算するようにしてもよい。
比較対象集合群の各集合を空集合としてもよい。
【０００９】
また、本発明にかかる典型文分析装置は、各種情報を蓄積する蓄積部と、この蓄積部の情報に対して演算処理を行う処理部とを有し、所定の分析対象に関する記述を示す複数のテキストを要素とする分析対象集合について、各テキストからその分析対象集合を代表する度合いを分析する典型文分析装置であって、蓄積部に蓄積されている、分析対象集合と、分析対象と比較する各比較対象に関する記述を示す複数のテキストをそれぞれ要素とする複数の比較対象集合とから、処理部により、分析対象集合に含まれる各テキストがその分析対象集合を代表する度合いとして、分析対象集合に含まれる各テキストごとに、分析対象集合に対する当該テキストのベイズ事後確率を計算する事後確率計算手段を備えるものである。
【００１０】
これに加えて、処理部により、分析対象集合に含まれる各テキストのうち、ベイズ事後確率が高い順に１つ以上のテキストを分析対象集合の典型文として抽出するテキスト抽出手段を設けても良い。
【００１１】
また、処理部により、分析対象集合および各比較対象集合に含まれる各テキストから、当該テキストを分解して得られる各単位表現の当該集合における出現回数を計数する表現ヒストグラム計算手段と、処理部により、分析対象集合および各比較対象集合の各集合に含まれるテキスト数をそれぞれの集合ごとに計数するカテゴリヒストグラム計算手段とをさらに備え、事後確率計算手段で、これら計数結果に基づいて分析対象集合に含まれる各テキストごとのベイズ事後確率を計算するようにしてもよい。
【００１２】
さらに、事後確率計算手段で、各単位表現の出現回数に基づき個々の単位表現の各集合における出現確率を推定するとともに、各集合のテキスト数に基づき各集合の出現確率を推定し、これら推定結果を用いて分析対象集合に含まれる各テキストごとのベイズ事後確率を計算するようにしてもよい。
また、比較対象集合群の各集合として空集合を用いるようにしてもよい。
【００１３】
また、本発明にかかる記録媒体は、各種情報を蓄積する蓄積部と、この蓄積部の情報に対して演算処理を行う処理部とを有する典型文分析装置により、所定の分析対象に関する記述を示す複数のテキストを要素とする分析対象集合について、各テキストからその分析対象集合を代表する典型文を分析する際に用いられ、典型文分析装置のコンピュータで、上記各典型文分析方法を実行させるためのプログラムを記録したものである。
【００１４】
【発明の実施の形態】
次に、本発明の実施の形態について図面を参照して説明する。
図１は本発明の一実施の形態にかかる典型文分析装置の構成を示すブロック図である。
この典型文分析装置１００は、全体としてコンピュータからなり、蓄積部１、処理部２、分析対象テキスト入力手段３、比較対象テキスト集合群入力手段４、記憶部５、操作入力部６および画面表示部７が設けられている。
【００１５】
分析対象テキスト入力手段３は、アンケート調査やｗｅｂから収集した分析対象、例えば所定商品の評価に関して記述したテキスト（文字情報）の集合を入力する手段である。比較対象テキスト集合群入力手段４は、同じくアンケート調査やｗｅｂから収集した分析対象、例えば所定商品と同じ商品種別に属する他の商品の評価に関して記述したテキスト（文字情報）の集合を入力する手段である。これら分析対象テキスト入力手段３や比較対象テキスト集合群入力手段４は、テキストデータを操作入力するためのキーボードやｗｅｂ上のテキストデータをダウンロードするアプリケーションなどの一般的な情報入力手段により構成される。
【００１６】
蓄積部１は、分析対象テキスト入力手段３から入力されたテキストデータをカテゴリ１０というテキスト集合として蓄積するとともに、比較対象テキスト集合群入力手段４から入力されたテキストデータを各比較対象ごとにカテゴリ１１〜１ｎというテキスト集合として蓄積する手段である。この蓄積部１は、ハードディスクやメモリなどの情報記憶装置から構成される。
図２に各カテゴリの構成例を示す。例えばカテゴリ１０は「商品Ａへの意見」に関して記述されたテキストの集合であり、テキスト集合の要素して「商品Ａは使いにくい。遅い。」や「商品Ａは大きくなってしまった。小さい方がよい。」などのテキストが含まれている。
【００１７】
操作入力部６は、オペレータが処理部２での分析処理を指示／制御するための操作を入力するための手段であり、キーボードやマウスから構成される。
画面表示部７は、処理部２での処理過程や分析結果を画面表示するための手段であり、ＣＲＴ装置やＬＣＤ装置から構成される。
【００１８】
記憶部５は、記録媒体９から予め読み込まれ処理部２で実行されるプログラム５１や、処理部２での分析処理に用いる各種情報を記憶するハードディスクやメモリなどの情報記憶装置から構成される。
処理部２は、ＣＰＵなどのマイクロプロセッサおよびその周辺回路と、記憶部５のプログラム５１とが協働することにより各種機能手段を構成する機能部である。
この機能手段としては、表現ヒストグラム計算手段２１、カテゴリヒストグラム計算手段２２、事後確率計算手段２３およびテキスト抽出手段２４とが設けられている。
【００１９】
表現ヒストグラム計算手段２１では、各カテゴリ１０〜１ｎごとに、当該カテゴリに含まれる各テキストで使用されている各表現の出現回数を計数する。この表現とは、各テキストを分解して得られる単語や文節などの単位表現であり、例えば自立語など特定の品詞に属する単語や、時制（現在形、過去形、未来形あるいは進行形など）の違いを無視して同一分類とした文節などで区分されたものである。
図３に表現の区分例を示す。ここでは自立語という品詞に基づきテキストから表現を抽出した例が示されており、「商品Ａは使いにくい。遅い。」というテキスト３０から、「商品Ａ」、「使いにくい」、「遅い」という３つの表現３１〜３３が抽出されている。このようなテキスト中にどのような表現が存在しているかを調べるには、形態素解析に関する公知技術を応用できる。このようにして各テキストから抽出された表現が、同一表現ごとに計数される。
【００２０】
カテゴリヒストグラム計算手段２２では、各カテゴリ１０〜１ｎごとに、当該カテゴリに含まれているテキストすなわち要素の数を計数する。
事後確率計算手段２３では、表現ヒストグラム計算手段２１およびカテゴリヒストグラム計算手段２２で得られた計数結果に基づき、分析対象のテキスト集合すなわちカテゴリ１０の各テキストごとに、事後確率を計算する。
【００２１】
一般に、確率モデルの考え方では、与えられたデータｘは、ある確率変数Ｘの実現値と見なされる。特にこの確率変数の確率密度関数が有限次元のパラメータｔを持つ固定された関数形ｆ（ｘ｜ｔ）を持つと仮定すると、その確率密度関数族Ｆ＝｛ｆ（ｘ｜ｔ）；ｔ∈Ｔ｝をパラメトリック確率モデルという。
また、データｘに基づきパラメータｔの値を推測することを推定という。例えば、ｆ（ｘ｜ｔ）をｔの関数（尤度関数）と見なし、これを最大にするｔを推定値とする最尤推定法なとが一般的である。
【００２２】
一方、ベイズ統計（Bayesian Statistics）では、パラメータｔも確率変数と見なし、その確率密度関数ｇ（ｔ）すなわち事前確率（ベイズ事前確率）を考える。そしてこの事前確率と尤度関数とからベイズの定理によって、ｔの事後確率（ベイズ事後確率）ｇ（ｔ｜ｘ）が求められる。事後確率ｇ（ｔ｜ｘ）に関するｔの平均をｔの推定値とする方法をベイズ推定法といい、ｇ（ｔ｜ｘ）を最大にするｔを推定する方法を、最大事後確率推定法（ＭＡＰ推定法）という。
【００２３】
事後確率計算手段２３では、カテゴリ１０の各テキストごとの事後確率を以下のようにして計算する。
今、カテゴリ１０をｃ0、カテゴリ１０に含まれる任意のテキストをＳ、そのテキストＳで出現する表現をｗ1〜ｗmとすると、そのテキストＳに対する事後確率ｐ（ｃ0｜Ｓ）は、数１で求められる。
【００２４】
【数１】
0003767516.tif 000002
【００２５】
ここで、カテゴリヒストグラム計算手段２２での計数結果から、すべてのカテゴリに含まれるテキストの総数をＮ、カテゴリｃ0に含まれるテキストの数をＮ0，カテゴリｃiに含まれるテキストの数をＮiとすると、数１で用いられる、各カテゴリの出現確率を示す事前確率ｐ（ｃ0），ｐ（ｃi）は、ラプラス型の推定量から数２により推定される。但し、ｎは比較対象テキスト集合の数を示す。
【００２６】
【数２】
0003767516.tif 000003
【００２７】
また、表現ヒストグラム計算手段２１での計数結果から、すべてのカテゴリに含まれる各テキストで出現した表現ｗの総数をＫ、カテゴリｃ0に含まれる各テキストで出現した表現ｗjの出現回数をＫ0wj、カテゴリｃiに含まれる各テキストで出現した表現ｗjの出現回数をＫiwjとすると、数１で用いられる、カテゴリｃ0における表現ｗjの出現確率ｐ（ｗj｜ｃ0）、およびカテゴリｃiにおける表現ｗjの出現確率ｐ（ｗj｜ｃi）は、ラプラス型の推定量から数３により推定される。但し、Ｋ0は、カテゴリＣ0における表現の総出現回数、ＫiはカテゴリＣiにおける表現の総出現回数を示す。
【００２８】
【数３】
0003767516.tif 000004
【００２９】
テキスト抽出手段２４では、このようにして事後確率計算手段２３により求められたカテゴリ１０の各テキストに関する事後確率に基づき、事後確率の高い順あるいは低い順にカテゴリ１０からテキストを抽出し、画面表示部７へ表示出力する。
【００３０】
次に、図４を参照して、本実施の形態にかかる典型文分析装置の動作について説明する。図４は典型文分析装置の動作を示すフローチャートである。
操作入力部６によるオペレータの処理開始操作に応じて、まず、分析対象テキスト入力手段３では、分析対象となるテキスト集合を取り込んで蓄積部１へカテゴリ１０として格納する（ステップ２００）。これと前後して、比較対象テキスト集合群入力手段４では、比較対象となるテキスト集合群を取り込んで蓄積部１へカテゴリ１１〜１ｎとして格納する（ステップ２０１）。
【００３１】
続いて、処理部２の表現ヒストグラム計算手段２１では、各カテゴリ１０〜１ｎごとに、当該カテゴリに含まれる各テキストで使用されている各表現の出現回数を計数する（ステップ２０２）。これと前後して、カテゴリヒストグラム計算手段２２では、各カテゴリ１０〜１ｎごとに、当該カテゴリに含まれているテキストすなわち要素の数を計数する（ステップ２０３）。
そして、事後確率計算手段２３では、表現ヒストグラム計算手段２１での計数結果に基づく各表現の出現確率ｐ（ｗj｜ｃ0），ｐ（ｗj｜ｃi）の推定（ステップ２０４）、およびカテゴリヒストグラム計算手段２２での計数結果に基づく事前確率ｐ（ｃ0），ｐ（ｃi）の推定（ステップ２０５）を前後して実行し、これら推定結果を用いて、カテゴリ１０の各テキストＳに関する事後確率ｐ（ｃ0｜Ｓ）を求める（ステップ２０６）。
【００３２】
その後、必要に応じてテキスト抽出手段２４では、カテゴリ１０に含まれる各テキストのうち、それぞれの事後確率の高い順あるいは低い順にテキストを抽出して画面表示部７へ表示出力し（ステップ２０７）、一連の処理を終了する。
【００３３】
分析対象となるカテゴリ１０の各テキストごとに求めた事後確率は、「当該テキストと同じ表現を持つテキストが与えられた場合、そのテキストがカテゴリ１０に属する確率」と解釈することができる。
したがって、分析対象の各テキストごとに事後確率を求め、その事後確率を各テキストが分析対象を代表する度合いすなわち典型度として用いることにより、従来のように各テキスト相互間で類似性がない場合でも適切に分析できるとともに、従来のように新たなテキストを生成するものではなく個々のテキストについて個別に典型度が得られることから、より詳細な分析結果が得られる。
【００３４】
なお、以上の説明では、事後確率そのものを典型度として用いる場合について説明したが、事後確率の関数のうち計算処理がより簡単なものを典型度として用いても良い。例えば、事後確率の逆数から１を引いたものは、事後確率そのものに比べて計算処理が少なくて済む。
また、上記事後確率やその関数で定義した典型度を用いて計算した１表現当たりの典型度などを、改めて修正典型度と定義しても良い。この場合、テキストＳの修正典型度は修正前の典型度をテキストＳにおける表現数でわり算したものになる。
【００３５】
図５に本実施の形態にかかる典型文分析装置１００による分析結果出力例を示す。ここでは、図４に示したように、商品Ａに関する記述を示すテキストを分析対象であるカテゴリ１０とし、他の商品Ｂ，Ｃ，…に関する記述を示すテキストを比較対象であるカテゴリ１１〜１ｎとして分析を行い、典型度が高い順に１０個のテキストを典型文として抽出した。なお、典型度の値としては、事後確率の逆数から１を引いたものの自然対数値を、当該テキストの表現数で割ったものが用いられている。
【００３６】
なお、以上の説明では、比較対象テキスト集合群すなわちカテゴリ１１〜１ｎを用いる場合を例として説明したが、こらテキスト集合が空集合であっても、上記と同様に問題なく各テキストの典型度を求めることができる。比較対象として空集合しか入力しない場合、比較対象テキスト集合群入力手段４は不要となる。
【００３７】
【発明の効果】
以上説明したように、本発明は、所定の分析対象に関する複数のテキストを要素とする分析対象集合と、分析対象と比較する各比較対象に関する複数のテキストをそれぞれ要素とする複数の比較対象集合からなる比較対象群とから、分析対象集合に含まれる各テキストがその分析対象集合を代表する度合いとして、分析対象集合に含まれる各テキストごとに、分析対象集合に対する当該テキストのベイズ事後確率を計算するようにしたので、従来のように各テキスト相互間で類似性がない場合でも適切に分析できるとともに、従来のように新たなテキストを生成するものではなく個々のテキストについて個別に典型度が得られることから、より詳細な分析結果が得られる。
【図面の簡単な説明】
【図１】  本発明の一実施の形態にかかる典型文分析装置の構成を示すブロック図である。
【図２】  各カテゴリの構成例である。
【図３】  表現の区分例である。
【図４】  典型文分析装置の動作を示すフローチャートである。
【図５】  分析結果出力例である。
【符号の説明】
１…蓄積部、１０〜１ｎカテゴリ、２…処理部、２１…表現ヒストグラム計算手段、２２…カテゴリヒストグラム計算手段、２３…事後確率計算手段、２４…テキスト抽出手段、３…分析対象テキスト入力手段、４…比較対象テキスト集合群入力手段、５…記憶部、６…操作入力部、７…画面表示部、９…記録媒体。
【図１】
0003767516.tif 000005
【図２】
0003767516.tif 000006
【図３】
0003767516.tif 000007
【図４】
0003767516.tif 000008
【図５】
0003767516.tif 000009