(57)【要約】【課題】被分類テキストを精度よく分類する。【解決手段】機能・内容語分割手段１ａは、被分類テキストＡ２を機能語と内容語に分割し、Ｎ−ｇｒａｍ手段１ｂは、機能語と内容語の各々においてＮを段階的に変化させたＮ−ｇｒａｍを行う。特徴ベクトル生成手段１ｃは、Ｎ−ｇｒａｍ毎における機能語特徴ベクトルと内容語特徴ベクトルを生成する。領域判断手段１ｆは、機能語特徴ベクトルと内容語特徴ベクトルの各々が、分類モデル１ｅの手順、非手順の領域のどちらに属するかを判断する。分類手段１ｇは、Ｎが増加するとともに、機能語特徴ベクトルによる分類性能が向上した場合又は内容語特徴ベクトルによる分類性能が悪化した場合高い評価値をとり、機能語特徴ベクトルによる分類性能が悪化した場合又は内容語特徴ベクトルによる分類性能が向上した場合低い評価値をとるような評価基準を用いて、被分類テキストＡ２の手順を示しているか否かの分類をする。【選択図】        図１
2004348239.tif 000002
【特許請求の範囲】
【請求項１】
手順を示しているか否かによってテキストを分類するテキスト分類プログラムにおいて、
コンピュータに、
被分類テキストを機能語と内容語とに分割し、
前記機能語と前記内容語との各々において、組み合わせ単語数を段階的に変化させたＮ−ｇｒａｍを行い、
前記Ｎ−ｇｒａｍごとにおける前記機能語の機能語特徴ベクトルと前記内容語の内容語特徴ベクトルとを生成し、
前記機能語特徴ベクトルと前記内容語特徴ベクトルとの各々が、学習用テキストを学習して生成した分類モデルの手順を示している領域と手順を示してない領域とのどちらの領域に属するかを判断し、
前記Ｎ−ｇｒａｍに用いるＮが増加するとともに、前記機能語特徴ベクトルによる分類の性能が向上した場合又は前記内容語特徴ベクトルによる分類の性能が悪化した場合において高い評価値をとり、前記機能語特徴ベクトルによる分類の性能が悪化した場合又は前記内容語特徴ベクトルによる分類の性能が向上した場合に、低い評価値をとるような評価基準を用いて、前記被分類テキストの手順を示しているか否かの分類をする、
処理を実行させることを特徴とするテキスト分類プログラム。
【請求項２】
前記機能語と前記内容語との各々において、ｕｎｉ−ｇｒａｍ、ｂｉ−ｇｒａｍ、及びｔｒｉ−ｇｒａｍを行うことを特徴とする請求項１記載のテキスト分類プログラム。
【請求項３】
前記学習用テキストの機能語と内容語との各々において、組み合わせ単語数を段階的に変化させたＮ−ｇｒａｍを行うことを特徴とする請求項１記載のテキスト分類プログラム。
【請求項４】
前記Ｎ−ｇｒａｍごとに前記分類モデルを生成することを特徴とする請求項３記載のテキスト分類プログラム。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明はテキスト分類プログラムに関し、特に手順を示したテキストを分類するテキスト分類プログラムに関する。
【０００２】
【従来の技術】
近年、電子文書の蓄積に加え、インターネットの普及によりＷｅｂ上の大量のテキストへのアクセスが容易となり、コンピュータによる情報検索技術の重要性が増している。ＣＲＭ（Ｃｕｓｔｏｍｅｒ  Ｒｅｌａｔｉｏｎｓｈｉｐ  Ｍａｎａｇｅｍｅｎｔ）やＷｅｂナビゲーションの分野では、自動質問応答などにおいてテキスト自動分類技術が用いられる。これらの応用分野では、従来のテキストの分野やジャンルに基づく分類に加えて、それとは異なる軸を持つ分類、例えば、テキストの記述スタイルや特定の質問に対する回答候補の絞込みに役立つ分類などが必要となっている。
【０００３】
Ｗｅｂ上で手順に関するテキストの検索を可能にするには、コンピュータにテキストの記述スタイルを、例えば、ＳＶＭ（サポートベクトルマシン）により学習させる。そして、予め被検索対象となる被検索テキストを、手順を示すテキストとそうでないテキストとに、学習結果に基づいて分類し記憶しておく。ユーザから手順に関するテキストのキーワード検索要求があった場合、分類された手順を示す被検索テキストの中からそのキーワードに合致するテキストを検索する。このとき、手順を示すテキストを確実に検索できるには、コンピュータのＳＶＭ学習によるテキストの分類精度が高い必要がある。
【０００４】
なお、文章の構造を解析することは、従来から行われている。表、箇条書き、多段組等任意にレイアウトされた文書から、意味あるテキストブロックを抽出する文書処理方法がある（例えば、特許文献１参照）。
【０００５】
【特許文献１】
特開２００２−０３２７７０号公報（第６頁、第８図）
【０００６】
【発明が解決しようとする課題】
ところで、手順を示すか否かによってテキスト（被分類テキスト）を分類するには、その被分類テキストの特徴ベクトルを生成する。そして、その特徴ベクトルが、学習によって得られた分類モデルの手順を示す領域に属するか属さないかによって分類される。被分類テキストの分類精度は、特徴ベクトルの基となるパラメータに依存するので、分類精度を高めるためのパラメータを選択する必要がある。
【０００７】
本発明はこのような点に鑑みてなされたものであり、被分類テキストの機能語と内容語との各々において特徴ベクトルを生成することにより精度よく分類することができるテキスト分類プログラムを提供することを目的とする。
【０００８】
【課題を解決するための手段】
本発明では上記課題を解決するために、図１に示すような、手順を示しているか否かによってテキストを分類するテキスト分類プログラムにおいて、コンピュータに、被分類テキストＡ２を機能語と内容語とに分割し、機能語と内容語との各々において、組み合わせ単語数を段階的に変化させたＮ−ｇｒａｍを行い、Ｎ−ｇｒａｍごとにおける機能語の機能語特徴ベクトルと内容語の内容語特徴ベクトルとを生成し、機能語特徴ベクトルと内容語特徴ベクトルとの各々が、学習用テキストＡ１を学習して生成した分類モデルの手順を示している領域と手順を示してない領域とのどちらの領域に属するかを判断し、Ｎ−ｇｒａｍに用いるＮが増加するとともに、機能語特徴ベクトルによる分類の性能が向上した場合又は内容語特徴ベクトルによる分類の性能が悪化した場合において高い評価値をとり、機能語特徴ベクトルによる分類の性能が悪化した場合又は内容語特徴ベクトルによる分類の性能が向上した場合に、低い評価値をとるような評価基準を用いて、被分類テキストＡ２の手順を示しているか否かの分類をする、処理を実行させることを特徴とするテキスト分類プログラムが提供される。
【０００９】
このような、テキスト分類プログラムによれば、被分類テキストＡ２を機能語と内容語とに分割し、各々において単語数を段階的に変化させたＮ−ｇｒａｍを行う。Ｎ−ｇｒａｍごとにおける機能語の機能語特徴ベクトルと内容語の内容語特徴ベクトルとを生成し、分類モデルの手順を示している領域と手順を示してない領域とのどちらの領域に属するかを判断する。そして、Ｎ−ｇｒａｍに用いるＮが増加するとともに、機能語特徴ベクトルによる分類の性能が向上した場合又は内容語特徴ベクトルによる分類の性能が悪化した場合において高い評価値をとり、機能語特徴ベクトルによる分類の性能が悪化した場合又は内容語特徴ベクトルによる分類の性能が向上した場合に、低い評価値をとるような評価基準を用いることによって、被分類テキストＡ２の手順を示しているか否かの分類をする。これにより、被分類テキストを分類精度よく分類することが可能となる。
【００１０】
【発明の実施の形態】
以下、本発明の実施の形態を図面を参照して説明する。図１は、本発明の原理を説明する原理図である。図に示すように、コンピュータ１は、機能・内容語分割手段１ａ、Ｎ−ｇｒａｍ手段１ｂ、特徴ベクトル生成手段１ｃ、学習手段１ｄ、分類モデル１ｅ、領域判断手段１ｆ、及び分類手段１ｇを有している。また、図１には、学習用テキストＡ１、被分類テキストＡ２が示してある。
【００１１】
機能・内容語分割手段１ａは、被分類テキストＡ２を機能語と内容語とに分割する。
Ｎ−ｇｒａｍ手段１ｂは、機能・内容語分割手段１ａによって分割された機能語と内容語の各々においてＮ−ｇｒａｍを行う。Ｎ−ｇｒａｍは、機能語、内容語の組み合わせ単語数が段階的に変化するよう行われる。例えば、ｕｎｉ−ｇｒａｍ（１−ｇｒａｍ）、ｂｉ−ｇｒａｍ（１−ｇｒａｍと２−ｇｒａｍ）、ｔｒｉ−ｇｒａｍ（１−ｇｒａｍと２−ｇｒａｍと３−ｇｒａｍ）が行われる。
【００１２】
特徴ベクトル生成手段１ｃは、Ｎ−ｇｒａｍごと（例えば、ｕｎｉ／ｂｉ／ｔｒｉ−ｇｒａｍの各々）における機能語の機能語特徴ベクトルを生成する。また、特徴ベクトル生成手段１ｃは、Ｎ−ｇｒａｍごとにおける内容語の内容語特徴ベクトルを生成する。
【００１３】
学習手段１ｄは、学習用テキストＡ１を読込み、学習用テキストＡ１の機能語と内容語との各々において学習し分類モデル１ｅを生成する。分類モデル１ｅは、手順を示す領域と手順を示していない領域とを具備している。
【００１４】
領域判断手段１ｆは、機能語特徴ベクトルのＮ−ｇｒａｍごとにおいて、その機能語特徴ベクトルが、分類モデル１ｅの手順を示す領域と手順を示していない領域のどちらに属するかを判断する。また、領域判断手段１ｆは、内容語特徴ベクトルのＮ−ｇｒａｍごとにおいて、その内容語特徴ベクトルが、分類モデル１ｅの手順を示す領域と手順を示していない領域のどちらに属するかを判断する。
【００１５】
分類手段１ｇは、Ｎ−ｇｒａｍに用いるＮが増加するとともに、領域判断手段１ｆによって判断された機能語特徴ベクトルによる分類の性能が向上した場合又は内容語特徴ベクトルによる分類の性能が悪化した場合において高い評価値をとり、機能語特徴ベクトルによる分類の性能が悪化した場合又は内容語特徴ベクトルによる分類の性能が向上した場合に、低い評価値をとるような評価基準を用いて、分類テキストの手順を示しているか否かの分類をする。例えば、ｕｎｉ−ｇｒａｍ、ｂｉ−ｇｒａｍ、ｔｒｉ−ｇｒａｍの機能語特徴ベクトルでは、領域判断手段１ｆによるｕｎｉ−ｇｒａｍの機能語特徴ベクトルの判断結果より、ｔｒｉ−ｇｒａｍの機能語特徴ベクトルの判断結果を尊重する。また、ｕｎｉ−ｇｒａｍ、ｂｉ−ｇｒａｍ、ｔｒｉ−ｇｒａｍ内容語特徴ベクトルでは、領域判断手段１ｆによるｔｒｉ−ｇｒａｍの内容語特徴ベクトルの判断結果より、ｕｎｉ−ｇｒａｍの内容語特徴ベクトルの判断結果を尊重する。そして、分類手段１ｇは、その判断結果に基づいて被分類テキストＡ２の手順を示しているか否かの分類をする。
【００１６】
ところで、手順を示すテキストと手順を示さないテキストにおいて、機能語は、Ｎ−ｇｒａｍの単語数が増加するにつれ、テキストの分類精度が高くなり、内容語は、分類精度が悪くなるという傾向が実験的に確かめられている。すなわち、機能語と内容語の特徴ベクトルの、分類モデルによる分類結果をＮ−ｇｒａｍの単語数の増加に伴って重みを持たせることにより、精度よくテキストを分類するができる。
【００１７】
次に本発明の実施の形態の構成例について説明する。図２は、本発明の実施の形態の構成例を示す図である。図に示すように、分類サーバ１０は、ネットワーク３０を介して、端末装置２１、サーバ２２と接続されている。ネットワーク３０は、例えば、インターネットである。
【００１８】
分類サーバ１０は、サーバ２２から情報検索の対象となる被検索テキストを、そのＵＲＬ（Ｕｎｉｆｏｒｍ  Ｒｅｓｏｕｒｃｅ  Ｌｏｃａｔｏｒ）とともにネットワーク３０を介して受信する。分類サーバ１０は、受信した被検索テキストを、分類モデルを参照して、手順を示しているか否かによって分類し、記憶する。手順の具体例としては、ソフトウェアのインストール手順や料理の手順などである。非手順の具体例としては、単なる記事の表示、情報の羅列である。
【００１９】
分類サーバ１０は、手順を示した学習用テキストと手順を示していない学習用テキストが入力される。分類サーバ１０は、入力された学習用テキストを学習して、被検索テキストを分類するためのモデルとなる分類モデルを生成する。分類サーバ１０は、サーバ２２から受信した被検索テキスト（被検索テキストの特徴ベクトル）を、分類モデルの手順を示すテキストの領域に属するか、手順を示さないテキストの領域に属するかによって分類する。
【００２０】
分類サーバ１０は、端末装置２１からの手順検索（手順を示す内容を含むテキスト検索）又は通常検索（手順を示していないテキストの検索）の指示を受付ける。分類サーバ１０は、端末装置２１からキーワードを受信し、受付けた手順検索又は通常検索の指示に従って、分類した被検索テキストを検索する。そして、分類サーバ１０は、キーワードに合致する被検索テキストのＵＲＬを端末装置２１に送信する。端末装置２１は、受信したＵＲＬ（サーバ２２）にアクセスすることによって、希望する被検索テキストを参照することができる。
【００２１】
なお、端末装置２１とサーバ２２は、１つしか示してないが、複数の端末装置とサーバがネットワーク３０に接続される。分類サーバ１０は、複数のサーバから被検索テキストが入力され、複数の端末装置から情報検索が行われる。
【００２２】
次に、分類サーバ１０のハードウェア構成について説明する。図３は、分類サーバのハードウェア構成を示すブロック図である。図に示すように、分類サーバ１０は、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）１０ａによって装置全体が制御されている。ＣＰＵ１０ａには、バス１０ｇを介してＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）１０ｂ、ハードディスクドライブ（ＨＤＤ：Ｈａｒｄ  Ｄｉｓｋ  Ｄｒｉｖｅ）１０ｃ、グラフィック処理装置１０ｄ、入力インタフェース１０ｅ、及び通信インタフェース１０ｆが接続されている。
【００２３】
ＲＡＭ１０ｂには、ＣＰＵ１０ａに実行させるＯＳ（Ｏｐｅｒａｔｉｎｇ  Ｓｙｓｔｅｍ）のプログラムや、学習用テキストを学習し、被検索テキストを分類するためのアプリケーションプログラムの少なくとも一部が一時的に格納される。また、ＲＡＭ１０ｂには、ＣＰＵ１０ａによる処理に必要な各種データが保存される。ＨＤＤ１０ｃには、上記のＯＳやアプリケーションプログラム、各種データなどが格納される。
【００２４】
グラフィック処理装置１０ｄには、モニタ１０ｈが接続されている。グラフィック処理装置１０ｄは、ＣＰＵ１０ａからの命令に従って、画像をモニタ１０ｈの表示画面に表示させる。入力インタフェース１０ｅには、キーボード１０ｉと、マウス１０ｊとが接続されている。入力インタフェース１０ｅは、キーボード１０ｉやマウス１０ｊから送られてくる信号を、バス１０ｇを介してＣＰＵ１０ａに送信する。
【００２５】
通信インタフェース１０ｆは、ネットワーク３０に接続されている。通信インタフェース１０ｆは、ネットワーク３０を介して、端末装置２１、サーバ２２と通信を行う。
【００２６】
なお、端末装置２１、サーバ２２も図３と同様のハードウェア構成で実現することができる。ただし、端末装置２１、サーバ２２のハードディスクドライブには、各々が処理するのに必要なプログラム及びデータが格納される。
【００２７】
以上のようなハードウェア構成によって、本実施の形態を実現することができる。
次に、分類サーバ１０の機能について説明する。図４は、分類サーバの機能ブロック図である。図に示すように、分類サーバ１０は、ＳＶＭ部１１を有している。ＳＶＭ部１１は、学習用に与えられるデータをサポートベクトルマシンによって学習する。そして、ＳＶＭ部１１は、別に与えられるデータを学習した結果に基づいて分類する。ＳＶＭ部１１は、特徴抽出部１２、モデル生成部１３、データベースである分類モデルＤＢ１４、分類器１５、分類結果テーブル１６、及び評価部１７を有している。
【００２８】
図４には学習用テキストＢ１と被検索テキストＢ２が示してある。学習用テキストＢ１、被検索テキストＢ２は、例えば、ＨＴＭＬ（Ｈｙｐｅｒ  Ｔｅｘｔ  Ｍａｒｋｕｐ  Ｌａｎｇｕａｇｅ）で記述されている。学習用テキストＢ１は、人によって収集され、その内容が手順を示すものか否かの識別子が付与されて、ＳＶＭ部１１に入力される。被検索テキストＢ２は、ＳＶＭ部１１に入力され、ＳＶＭ部１１の学習結果に基づいて手順を示すテキストか否かに分類される。
【００２９】
特徴抽出部１２は、入力される学習用テキストＢ１、被検索テキストＢ２の機能語と内容語の各々において特徴ベクトルを生成する。特徴抽出部１２は、生成した特徴ベクトルをモデル生成部１３及び分類器１５に出力する。
【００３０】
図５は、特徴抽出部の詳細を示した機能ブロック図である。図に示すように、特徴抽出部１２は、形態素解析器１２ａ、解析済み文書ＤＢ（ＤＢ：データベース）１２ｂ、品詞フィルタ部１２ｃ、パターン辞書ＤＢ１２ｄ、パターンマイニング部１２ｅ、Ｎ−ｇｒａｍ計算部１２ｆ、及びベクトル生成部１２ｇを有している。
【００３１】
形態素解析器１２ａは、入力される学習用テキストＢ１、被検索テキストＢ２を形態素解析する。形態素解析器１２ａは、形態素解析した学習用テキストＢ１、被検索テキストＢ２を解析済み文書ＤＢ１２ｂに格納する。
【００３２】
品詞フィルタ部１２ｃは、解析済み文書ＤＢ１２ｂに格納されている形態素解析された学習用テキストＢ１、被検索テキストＢ２の機能語と内容語を抽出する。
【００３３】
パターンマイニング部１２ｅは、品詞フィルタ部１２ｃで抽出された機能語の繰り返し出現するパターンを、シーケンシャルパターンマイニング（Ｓｅｑｕｅｎｔｉａｌ  ｐａｔｔｅｒｎ  ｍｉｎｉｎｇ）によって抽出する。機能語の繰り返し出現するパターンは、予めパターン辞書ＤＢ１２ｄに格納されており、パターンマイニング部１２ｅは、パターン辞書ＤＢ１２ｄを参照することによって、抽出された機能語の繰り返し出現するパターンを抽出する。パターンマイニング部１２ｅは、機能語の場合と同様にして、品詞フィルタ部１２ｃで抽出された内容語の繰り返し出現するパターンを、パターン辞書ＤＢ１２ｄを参照し、シーケンシャルパターンマイニングによって抽出する。
【００３４】
Ｎ−ｇｒａｍ計算部１２ｆは、品詞フィルタ部１２ｃで抽出された機能語の、Ｎ（組み合わせ単語数）を変更した複数のＮ−ｇｒａｍを作成する。例えば、Ｎ−ｇｒａｍ計算部１２ｆは、まず、機能語のｕｎｉ（Ｎ＝１）−ｇｒａｍ、ｂｉ（Ｎ＝２）−ｇｒａｍ、及びｔｒｉ（Ｎ＝３）−ｇｒａｍを作成し、これらの組み合わせとして最終的にＮ＝ｕｎｉ，Ｎ＝ｕｎｉ＋ｂｉ，Ｎ＝ｕｎｉ＋ｂｉ＋ｔｒｉの計３つの組み合わせを作成する。同様にＮ−ｇｒａｍ計算部１２ｆは、品詞フィルタ部１２ｃで抽出された内容語の、Ｎを変更した複数のＮ−ｇｒａｍを作成する。
【００３５】
ベクトル生成部１２ｇは、パターンマイニング部１２ｅによって抽出された機能語の出現パターンと、Ｎ−ｇｒａｍ計算部１２ｆによって作成された機能語の複数のＮ−ｇｒａｍ各々において、特徴ベクトルを生成する。すなわち、ベクトル生成部１２ｇは、機能語の出現パターンとｕｎｉ−ｇｒａｍの特徴ベクトル、機能語の出現パターンと（ｕｎｉ＋ｂｉ）−ｇｒａｍの特徴ベクトル、及び機能語の出現パターンと（ｕｎｉ＋ｂｉ＋ｔｒｉ）−ｇｒａｍの特徴ベクトルを生成する。
【００３６】
図６は、特徴ベクトル成分を説明する図である。図に示すように、特徴ベクトルは、成分ｔｆ１，ｔｆ２，…，ｔｆｉ，…，ｔｆｌ，ｐ０，ｐ１，…，ｐｉ，…，ｐｍ（ｉ，ｌ，ｍ：正の整数でｉ＜ｌ＜ｍ）から構成されている。
【００３７】
成分ｔｆ１，ｔｆ２，…，ｔｆｉ，…，ｔｆｌの各々は、例えば、‘０’，‘１’の２値で表される。成分ｔｆ１，ｔｆ２，…，ｔｆｉ，…，ｔｆｌの各々は、Ｎ−ｇｒａｍの文字列が対応し、Ｎ−ｇｒａｍ計算部１２ｆによって作成された機能語の文字列の組み合わせが、その各成分に対応した文字列に一致していれば‘１’となる。一致していなければ、‘０’となる。
【００３８】
成分ｐ０，ｐ１，…，ｐｉ，…，ｐｍの各々は、例えば、‘０’，‘１’の２値で表される。成分ｐ０，ｐ１，…，ｐｉ，…，ｐｍの各々は、繰り返し出現するパターンが対応し、抽出した機能語の繰り返し出現するパターンが、その各成分に対応したパターンに一致していれば‘１’となる。一致していなければ、‘０’となる。
【００３９】
ベクトル生成部１２ｇは、同様にして内容語における特徴ベクトルを生成する。ベクトル生成部１２ｇは、生成した機能語と内容語の特徴ベクトルをモデル生成部１３、分類器１５に出力する。
【００４０】
図４の説明に戻る。モデル生成部１３は、特徴空間上に点在する、特徴抽出部１２から出力される学習用テキストＢ１の機能語における特徴ベクトルを、人によって付与された識別子を参照して、手順を示したものとそうでないものとに分ける識別平面を算出する。モデル生成部１３は、これらの特徴ベクトル、識別平面を分類モデルとして、分類モデルＤＢ１４に記憶する。同様にモデル生成部１３は、学習用テキストＢ１の内容語における分類モデルを生成し、分類モデルＤＢ１４に記憶する。
【００４１】
分類器１５は、特徴抽出部１２から出力される被検索テキストＢ２の機能語における特徴ベクトルが、分類モデルＤＢ１４に記憶されている機能語の分類モデルの、識別平面の手順を示している側の特徴空間に存在しているか、手順を示していない側の特徴空間に存在しているかを判断する。なお、上述したように被検索テキストＢ２の機能語における特徴ベクトルは、複数のＮ−ｇｒａｍにおいて生成されるので、分類器１５は、それぞれの特徴ベクトルにおいて判断をする。分類器１５は、同様に特徴抽出部１２から出力される被検索テキストＢ２の内容語における特徴ベクトルが、分類モデルＤＢ１４に記憶されている内容語の分類モデルの、識別平面の手順を示している側の特徴空間に存在しているか、手順を示していない側の特徴空間に存在しているかを判断する。
【００４２】
分類器１５は、判断結果を示した分類結果リストを生成する。分類器１５は、その分類結果リストに基づいて、被検索テキストＢ２が手順を示しているか否かの最終判断をするためのスコアを算出し、分類結果テーブル１６に記憶する。
【００４３】
図７は、分類器が生成する分類結果リストを示した図である。図に示す分類結果リスト４０は、被検索テキストＢ２の機能語におけるｕｎｉ−ｇｒａｍの特徴ベクトルの分類結果を示している。分類結果リスト４０には、被検索テキストＢ２に含まれている箇条書き部分に付与されるｉｄ（識別子）、その箇条書き部分の特徴ベクトルが、特徴空間の手順側の領域に属しているか（手順タイプ）非手順側の領域に属しているか（非手順タイプ）を示すクラスが示されている。
【００４４】
手順は、一般に箇条書きされていることが多く、被検索テキストＢ２に含まれている箇条書き部分にｉｄが付与される。クラスは、１で特徴ベクトルが手順タイプであることを示し、−１で非手順タイプであることを示している。
【００４５】
分類結果リストは、被検索テキストＢ２の複数のＮ−ｇｒａｍにおける特徴ベクトルごとに生成され、例えば、上記例では、ｂｉ−ｇｒａｍ、ｔｒｉ−ｇｒａｍにおける特徴ベクトルにおいても生成される。また、分類リストは、同様に内容語においても生成される。
【００４６】
図８は、分類結果テーブルのデータ構成例である。図に示すように、分類結果テーブル１６は、ｉｄ、Ｎ＝１、Ｎ＝１＋２、Ｎ＝１＋２＋３、及びスコアの欄が設けられている。
【００４７】
ｉｄの欄には、被検索テキストＢ２に含まれる箇条書き部分に付与された識別子が格納される。Ｎ＝１の欄には、被検索テキストＢ２の機能語と内容後のｕｎｉ−ｇｒａｍにおける特徴ベクトルのクラスが格納される。Ｎ＝１＋２の欄には、被検索テキストＢ２の機能語と内容語のｂｉ−ｇｒａｍにおける特徴ベクトルのクラスが格納される。Ｎ＝３の欄には、被検索テキストＢ２の機能語と内容語のｔｒｉ−ｇｒａｍにおける特徴ベクトルのクラスが格納される。スコアの欄には、被検索テキストＢ２が手順を示しているか否かを判断するスコアが格納される。
【００４８】
スコアの算出について説明する。機能語の特徴ベクトルの分類精度は、特徴ベクトルに与えられるパラメータ（成分）のＮ−ｇｒａｍのＮが大きくなる（ｕｎｉ、ｂｉ、ｔｒｉ）につれ高くなる傾向がある。また、内容語の特徴ベクトルによる分類精度は、特徴ベクトルに与えられるパラメータのＮ−ｇｒａｍのＮが大きくなるにつれ低くなる傾向がある。
【００４９】
従って、被検索テキストＢ２の手順を示しているか否かの判断をするには、機能語においては、Ｎ−ｇｒａｍのＮが大きくなるにつれ、クラスの重みを大きく評価し、内容語においては、Ｎ−ｇｒａｍのＮが大きくなるほど、クラスの重みを小さく評価するようにすればよい。これにより、手順を示しているか否かの分類精度が高くなる。このような評価を行うスコア計算式を、式（１）に示す。
【００５０】
【数１】
2004348239.tif 000003
【００５１】
式（１）に示すα１，α２，β１，β２は、Ｎ−ｇｒａｍにおけるＮの値Ｎ＝１，１＋２，１＋２＋３別に与えられる正の整数で、分類モデルＤＢ１４を参照し、スコア計算式による分類が一番精度よく実行されるよう値を決める。具体的には、学習用テキストＢ１の分類結果の値を、式（１）に代入して、スコアの判定に用いるしきい値と比較して、４変数の連立不等式を解く。
【００５２】
式（１）で示されるｓｃｏｒｅ（スコア）は、Ｎ−ｇｒａｍに用いるＮが増加するとともに、機能語特徴ベクトルによる分類の性能が向上した場合又は内容語特徴ベクトルによる分類の性能が悪化した場合において高い値をとり、機能語特徴ベクトルによる分類の性能が悪化した場合又は内容語特徴ベクトルによる分類の性能が向上した場合に、低い値をとる。算出されるスコアの値が、所定のしきい値以上か否かによって、被検索テキストＢ２が手順を示しているか否かを判断、分類する。例えば、図８の例において、スコアが所定のしきい値未満であれば、被検索テキストＢ２は、手順を示さないテキスト、しきい値以上であれば、手順を示すテキストと分類することができる。
【００５３】
ところで、上記の機能語、内容語の特徴ベクトルによる分類精度の傾向は、実験において確認されている。図９は、機能語と内容語の分類結果を示す図である。図に示す表４１は、コンピュータ分野の箇条書き及びその他の分野の箇条書きを、学習と評価の役割を入れ替えたときの分類の再現率（再び同じ分類が行われる率）を示している。表４１に示すように、機能語における再現率は、Ｎ−ｇｒａｍのＮが大きくなるにつれて高くなる傾向にある。内容語における再現率は、Ｎ−ｇｒａｍのＮが大きくなるにつれて低くなる傾向にある。このような傾向は、以下のような理由により生じると考えられている。機能語は、助動詞、助詞、接辞などの品詞であり、テキストの記述スタイルの依存性が高く、手順（箇条書き）を示した文章の特徴を捉えやすい。一方、内容語は、名詞、動詞などの用言であり、テキストのトピックス、ジャンルの依存性が高く、通常（非手順）の文章の特徴を捉えやすいと考えられるからである。
【００５４】
図４の説明に戻る。評価部１７は、分類結果テーブル１６のスコアを参照して、ＳＶＭ部１１に入力された被検索テキストＢ２が手順を示しているか否かを評価する。
【００５５】
次に、図４、図５に示す分類サーバ１０の動作を、流れ図を用いて説明する。図１０は、分類サーバの学習時の動作の流れを示す流れ図である。分類サーバ１０は、以下のステップに従って学習し、分類モデルを生成する。
【００５６】
［ステップＳ１］特徴抽出部１２は、学習用テキストＢ１を受け付ける。
［ステップＳ２］特徴抽出部１２の形態素解析器１２ａは、学習用テキストＢ１の形態素解析を行う。形態素解析器１２ａは、形態素解析した学習用テキストＢ１を解析済み文書ＤＢ１２ｂに格納する。
【００５７】
［ステップＳ３］品詞フィルタ部１２ｃは、解析済み文書ＤＢ１２ｂに格納されている形態素解析された学習用テキストＢ１から抽出すべき語として機能語を選択する。なお、機能語の分類モデルが生成され、再びこのステップに戻った時は、品詞フィルタ部１２ｃは、内容語を選択する。
【００５８】
［ステップＳ４］品詞フィルタ部１２ｃは、解析済み文書ＤＢ１２ｂに格納されている形態素解析された学習用テキストＢ１から、ステップＳ３で選択された機能語、又は内容語を抽出する。
【００５９】
［ステップＳ５］パターンマイニング部１２ｅは、パターン辞書ＤＢ１２ｄを参照して、ステップＳ４で抽出された機能語又は内容語のパターンマイニングを行う。
【００６０】
［ステップＳ６］Ｎ−ｇｒａｍ計算部１２ｆは、ステップＳ４で抽出された機能語又は内容語のＮ−ｇｒａｍ作成を行う。
［ステップＳ７］ベクトル生成部１２ｇは、ステップＳ５、ステップＳ６のパターンマイニング処理、Ｎ−ｇｒａｍ作成より、学習用テキストＢ１の特徴ベクトルを生成する。
【００６１】
［ステップＳ８］モデル生成部１３は、ベクトル生成部１２ｇより生成された特徴ベクトルから分類モデルを生成する。モデル生成部１３は、生成した分類モデルを分類モデルＤＢ１４に記憶する。
【００６２】
［ステップＳ９］品詞フィルタ部１２ｃ、パターンマイニング部１２ｅ、Ｎ−ｇｒａｍ計算部１２ｆ、及びモデル生成部１３は、Ｎ−ｇｒａｍのＮ＝１，１＋２，１＋２＋３の全てにおいて、特徴ベクトルを生成するようステップＳ４〜ステップＳ８の処理を繰り返す。
【００６３】
［ステップＳ１０］内容語にける特徴ベクトルを生成するようステップＳ３へ進む。機能語と内容語の両方において、特徴ベクトルを生成した場合は、ステップＳ１１へ進む。
【００６４】
［ステップＳ１１］分類器１５は、各学習用テキストＢ１のスコアを計算する。
［ステップＳ１２］分類器１５は、被検索テキストＢ２を精度よく分類できるようα１，α２，β１，β２を決定する。
【００６５】
図１１は、分類サーバの分類時の動作の流れを示す流れ図である。分類サーバ１０は、以下のステップに従って被検索テキストＢ２を分類する。
［ステップＳ２１］特徴抽出部１２は、被検索テキストＢ２を受け付ける。
【００６６】
［ステップＳ２２］特徴抽出部１２の形態素解析器１２ａは、被検索テキストＢ２の形態素解析を行う。形態素解析器１２ａは、形態素解析した被検索テキストＢ２を解析済み文書ＤＢ１２ｂに格納する。
【００６７】
［ステップＳ２３］品詞フィルタ部１２ｃは、解析済み文書ＤＢ１２ｂに格納されている形態素解析された被検索テキストＢ２から抽出すべき語として機能語を選択する。なお、機能語の分類モデルが生成され、再びこのステップに戻った時は、品詞フィルタ部１２ｃは、内容語を選択する。
【００６８】
［ステップＳ２４］品詞フィルタ部１２ｃは、解析済み文書ＤＢ１２ｂに格納されている形態素解析された被検索テキストＢ２から、ステップＳ２３で選択された機能語、又は内容語を抽出する。
【００６９】
［ステップＳ２５］パターンマイニング部１２ｅは、パターン辞書ＤＢ１２ｄを参照して、ステップＳ２４で抽出された機能語又は内容語のパターンマイニングを行う。
【００７０】
［ステップＳ２６］Ｎ−ｇｒａｍ計算部１２ｆは、ステップＳ２４で抽出された機能語又は内容語のＮ−ｇｒａｍ作成を行う。
［ステップＳ２７］ベクトル生成部１２ｇは、ステップＳ２５、ステップＳ２６のパターンマイニング処理、Ｎ−ｇｒａｍ作成より、被検索テキストＢ２の特徴ベクトルを生成する。
【００７１】
［ステップＳ２８］分類器１５は、分類モデルＤＢ１４を参照して、被検索テキストＢ２の特徴ベクトルが、分類モデルの手順側の領域に属するか非手順側の領域に属するかを判断する（クラスを算出する）。
【００７２】
［ステップＳ２９］品詞フィルタ部１２ｃ、パターンマイニング部１２ｅ、Ｎ−ｇｒａｍ計算部１２ｆ、及びモデル生成部１３は、Ｎ−ｇｒａｍのＮ＝１，１＋２，１＋２＋３の全てにおいて、特徴ベクトルを生成するようステップＳ４〜ステップＳ８の処理を繰り返す。
【００７３】
［ステップＳ３０］内容語にける特徴ベクトルを生成するようステップＳ２３へ進む。機能語と内容語の両方において、特徴ベクトルを生成した場合は、ステップＳ３１へ進む。
【００７４】
［ステップＳ３１］分類器１５は、Ｎ−ｇｒａｍのＮ＝１，１＋２，１＋２＋３の全てにおける特徴ベクトルのクラスを用いてスコアを算出する。
［ステップＳ３２］評価部１７は、スコアを参照して、被検索テキストＢ２が手順を示しているか非手順を示しているかを判断する。
【００７５】
このように、機能語と内容語において、Ｎ−ｇｒａｍを段階的に変化させ、それぞれのＮ−ｇｒａｍにおいて、特徴ベクトルを生成し、クラスを算出する。Ｎ−ｇｒａｍに用いるＮが増加するとともに、機能語特徴ベクトルによる分類の性能が向上した場合又は内容語特徴ベクトルによる分類の性能が悪化した場合において高い値となり、機能語特徴ベクトルによる分類の性能が悪化した場合又は内容語特徴ベクトルによる分類の性能が向上した場合に、低い値となるスコアを算出する。そして、スコアの値によって、被検索テキストを分類するようにした。これにより、被分類テキストを精度よく分類することができる。
【００７６】
なお、上記の処理機能を実現するプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリなどがある。磁気記録装置には、ハードディスク装置（ＨＤＤ）フレキシブルディスク（ＦＤ）、磁気テープなどがある。光ディスクには、ＤＶＤ（Ｄｉｇｉｔａｌ  Ｖｅｒｓａｔｉｌｅ  Ｄｉｓｃ）、ＤＶＤ−ＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）、ＣＤ−ＲＯＭ（Ｃｏｍｐａｃｔ  Ｄｉｓｃ  Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）、ＣＤ−Ｒ（Ｒｅｃｏｒｄａｂｌｅ）／ＲＷ（ＲｅＷｒｉｔａｂｌｅ）などがある。光磁気記録媒体には、ＭＯ（Ｍａｇｎｅｔｏ−Ｏｐｔｉｃａｌ  ｄｉｓｃ）などがある。
【００７７】
プログラムを流通させる場合には、例えば、そのプログラムが記録されたＤＶＤ、ＣＤ−ＲＯＭなどの可搬型記録媒体が販売される。また、プログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することもできる。
【００７８】
プログラムを実行するコンピュータは、例えば、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、自己の記憶装置に格納する。そして、コンピュータは、自己の記憶装置からプログラムを読み取り、プログラムに従った処理を実行する。なお、コンピュータは、可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することもできる。また、コンピュータは、サーバコンピュータからプログラムが転送される毎に、逐次、受け取ったプログラムに従った処理を実行することもできる。
【００７９】
【発明の効果】
以上説明したように本発明では、被分類テキストを機能語と内容語とに分割し、各々において単語数を段階的に変化させたＮ−ｇｒａｍを行う。Ｎ−ｇｒａｍごとにおける機能語の機能語特徴ベクトルと内容語の内容語特徴ベクトルとを生成し、分類モデルの手順を示している領域と手順を示してない領域とのどちらの領域に属するかを判断する。そして、Ｎ−ｇｒａｍに用いるＮが増加するとともに、機能語特徴ベクトルによる分類の性能が向上した場合又は内容語特徴ベクトルによる分類の性能が悪化した場合において高い評価値をとり、機能語特徴ベクトルによる分類の性能が悪化した場合又は内容語特徴ベクトルによる分類の性能が向上した場合に、低い評価値をとるような評価基準を用いることによって、被分類テキストの手順を示しているか否かの分類をするようにした。これにより、被分類テキストを精度よく分類することができる。
【図面の簡単な説明】
【図１】本発明の原理を説明する原理図である。
【図２】本発明の実施の形態の構成例を示す図である。
【図３】分類サーバのハードウェア構成を示すブロック図である。
【図４】分類サーバの機能ブロック図である。
【図５】特徴抽出部の詳細を示した機能ブロック図である。
【図６】特徴ベクトル成分を説明する図である。
【図７】分類器から出力される分類結果リストを示した図である。
【図８】分類結果テーブルのデータ構成例である。
【図９】機能語と内容語の分類結果を示す図である。
【図１０】分類サーバの学習時の動作の流れを示す流れ図である。
【図１１】分類サーバの分類時の動作の流れを示す流れ図である。
【符号の説明】
１  コンピュータ
１ａ  機能・内容語分割手段
１ｂ  Ｎ−ｇｒａｍ手段
１ｃ  特徴ベクトル生成手段
１ｄ  学習手段
１ｅ  分類モデル
１ｆ  領域判断手段
１ｇ  分類手段
１０  分類サーバ
１１  ＳＶＭ部
１２  特徴抽出部
１２ａ  形態素解析器
１２ｂ  解析済み文書ＤＢ
１２ｃ  品詞フィルタ部
１２ｄ  パターン辞書ＤＢ
１２ｅ  パターンマイニング部
１２ｆ  Ｎ−ｇｒａｍ計算部
１２ｇ  ベクトル生成部
１３  モデル生成部
１４  分類モデルＤＢ
１５  分類器
１６  分類結果テーブル
１７  評価部
Ａ１，Ｂ１  学習用テキスト
Ａ２  被分類テキスト
Ｂ２  被検索テキスト
【図１】
2004348239.tif 000004
【図２】
2004348239.tif 000005
【図３】
2004348239.tif 000006
【図４】
2004348239.tif 000007
【図５】
2004348239.tif 000008
【図６】
2004348239.tif 000009
【図７】
2004348239.tif 000010
【図８】
2004348239.tif 000011
【図９】
2004348239.tif 000012
【図１０】
2004348239.tif 000013
【図１１】
2004348239.tif 000014