(57)【要約】【課題】テキストを、所定のカテゴリ集合の内のいずれかのカテゴリに分類するタスクの精度を向上するためのテキスト分類装置を提供する。【解決手段】任意の単語Ａに対し、各座標が、単語または単語意味属性に対応し、該座標の値が、単語Ａと、該座標に対応する単語または単語意味属性との共起頻度の相対値である単語ベクトルを生成する単語ベクトル生成手段１０１と、任意の単語Ｂ、Ｃの前記手段１０１で得られた単語ベクトル間の、カルバック・ライブラー距離の小さい順に単語Ｃをランキングした順位により、単語ＢとＣの関連度を算出する単語間関連度算出手段１０２と、カテゴリの集合と、任意のテキストを入力とし、各カテゴリに対し、テキスト中の単語Ｄと、該カテゴリ中の単語Ｅとの間の前記手段１０２で算出した関連度により、該テキストと該カテゴリとの間の関連度を算出するテキスト・カテゴリ間関連度算出手段１０３とを備える。【選択図】図１
2008282328.tif 000002
【特許請求の範囲】
【請求項１】
テキストを、所定のカテゴリ集合のうちのいずれかのカテゴリに分類するためのテキスト分類装置であって、
コーパスを入力とし、任意の単語Ａに対し、各座標が、単語または単語意味属性に対応し、該座標の値が、単語Ａと、該座標に対応する単語または単語意味属性との共起頻度の相対値である単語ベクトルを生成する単語ベクトル生成手段と、
任意の単語Ｂに対し、単語Ｂの前記単語ベクトル生成手段で得られた単語ベクトルと、任意の単語Ｃの前記単語ベクトル生成手段で得られた単語ベクトルとの間の、カルバック・ライブラー距離を算出し、該距離の小さい順に単語Ｃをランキングし、該ランキングにおける順位により、単語Ｂと単語Ｃとの関連度を算出する単語間関連度算出手段とを備えたことを特徴とするテキスト分類装置。
【請求項２】
ある単語集合が対応付けられているカテゴリの集合と、任意のテキストを入力とし、各カテゴリに対し、該テキスト中の単語Ｄと、該カテゴリ中の単語Ｅとの間の前記単語間関連度算出手段で算出した関連度により、該テキストと該カテゴリとの間の関連度を算出するテキスト・カテゴリ間関連度算出手段をさらに備えたことを特徴とする請求項１に記載のテキスト分類装置。
【請求項３】
前記単語ベクトル生成手段は、
単語と前記単語の意味属性の組の集合を格納する辞書と、
テキストを形態素解析し、処理に必要な単語を特定する形態素解析手段と、
前記形態素解析手段の解析結果から、前記辞書内の任意の単語の対、又は該辞書内の任意の単語と意味属性の対に対し、前記テキストにおける一つまたは複数の所定の範囲のそれぞれにおいて、前記対が共起する事象を、テキスト全体にわたって計数した頻度を算出し、各単語に対し、各座標の値が、前記単語と、前記座標に対応する単語又は意味属性との共起頻度を記録した行列を生成する共起行列生成手段と、
前記共起行列生成手段によって生成された行列の行ベクトルの各座標の値を、相対頻度に変換する相対頻度算出手段と、
を備えたことを特徴とする請求項１又は２に記載のテキスト分類装置。
【請求項４】
前記単語間関連度算出手段における関連度は、前記ランキングの順位の逆数により算出することを特徴とする請求項１ないし３のいずれかに記載のテキスト分類装置。
【請求項５】
前記単語間関連度算出手段における関連度は、前記単語Ｂ、Ｃの各単語ベクトル間のコサインに基づいて算出することを特徴とする請求項１ないし３のいずれかに記載のテキスト分類装置。
【請求項６】
前記テキスト・カテゴリ間関連度算出手段は、
ＯＲ結合された文字列が対応付けられたカテゴリＣｐの各文字列Ｚｐｑを形態素解析し、前記各文字列Ｚｐｑを、各文字列中の必要語終止形の異なりとその頻度の組の集合に変換し、
任意のテキストＵを形態素解析し、前記テキストＵ中の必要語終止形の異なりとその頻度の組の集合に変換し、
テキストＵ中の単語Ｄと前記カテゴリＣｐ中の単語Ｅとの間の前記単語間関連度算出手段で算出した関連度をもとに、前記テキストＵ中の単語ＤとカテゴリＣｐ中の文字列Ｚｐｑとの間の関連度を算出し、
任意のテキストＵと任意のカテゴリＣｐの間の関連度を算出する
ことを特徴とする請求項２ないし５のいずれかに記載のテキスト分類装置。
【請求項７】
テキストを、所定のカテゴリ集合のうちのいずれかのカテゴリに分類するためのテキスト分類方法であって、
単語ベクトル生成手段が、コーパスを入力とし、任意の単語Ａに対し、各座標が、単語または単語意味属性に対応し、該座標の値が、単語Ａと、該座標に対応する単語または単語意味属性との共起頻度の相対値である単語ベクトルを生成する単語ベクトル生成ステップと、
単語間関連度算出手段が、任意の単語Ｂに対し、単語Ｂの前記単語ベクトル生成手段で得られた単語ベクトルと、任意の単語Ｃの前記単語ベクトル生成手段で得られた単語ベクトルとの間の、カルバック・ライブラー距離を算出し、該距離の小さい順に単語Ｃをランキングし、該ランキングにおける順位により、単語Ｂと単語Ｃとの関連度を算出する単語間関連度算出ステップとを備えたことを特徴とするテキスト分類方法。
【請求項８】
テキスト・カテゴリ間関連度算出手段が、ある単語集合が対応付けられているカテゴリの集合と、任意のテキストを入力とし、各カテゴリに対し、該テキスト中の単語Ｄと、該カテゴリ中の単語Ｅとの間の前記単語間関連度算出手段で算出した関連度により、該テキストと該カテゴリとの間の関連度を算出するテキスト・カテゴリ間関連度算出ステップをさらに備えたことを特徴とする請求項７に記載のテキスト分類方法。
【請求項９】
前記単語ベクトル生成ステップは、
形態素解析手段が、テキストを形態素解析し、処理に必要な単語を特定する形態素解析ステップと、
共起行列生成手段が、前記形態素解析ステップの解析結果から、単語と前記単語の意味属性の組の集合を格納した辞書内の任意の単語の対、又は該辞書内の任意の単語と意味属性の対に対し、前記テキストにおける一つまたは複数の所定の範囲のそれぞれにおいて、前記対が共起する事象を、テキスト全体にわたって計数した頻度を算出し、各単語に対し、各座標の値が、前記単語と、前記座標に対応する単語又は意味属性との共起頻度を記録した行列を生成する共起行列生成ステップと、
相対頻度算出手段が、前記共起行列生成ステップによって生成された行列の行ベクトルの各座標の値を、相対頻度に変換する相対頻度算出ステップと、
を備えたことを特徴とする請求項７又は８に記載のテキスト分類方法。
【請求項１０】
前記単語間関連度算出ステップにおける関連度は、前記ランキングの順位の逆数により算出することを特徴とする請求項７ないし９のいずれかに記載のテキスト分類方法。
【請求項１１】
前記単語間関連度算出ステップにおける関連度は、前記単語Ｂ、Ｃの各単語ベクトル間のコサインに基づいて算出することを特徴とする請求項７ないし９のいずれかに記載のテキスト分類方法。
【請求項１２】
前記テキスト・カテゴリ間関連度算出ステップは、
ＯＲ結合された文字列が対応付けられたカテゴリＣｐの各文字列Ｚｐｑを形態素解析し、前記各文字列Ｚｐｑを、各文字列中の必要語終止形の異なりとその頻度の組の集合に変換し、
任意のテキストＵを形態素解析し、前記テキストＵ中の必要語終止形の異なりとその頻度の組の集合に変換し、
テキストＵ中の単語Ｄと前記カテゴリＣｐ中の単語Ｅとの間の前記単語間関連度算出手段で算出した関連度をもとに、前記テキストＵ中の単語ＤとカテゴリＣｐ中の文字列Ｚｐｑとの間の関連度を算出し、
任意のテキストＵと任意のカテゴリＣｐの間の関連度を算出する
ことを特徴とする請求項８ないし１１のいずれかに記載のテキスト分類方法。
【請求項１３】
コンピュータを、請求項１ないし６のいずれかに記載の単語ベクトル生成手段、単語間関連度算出手段として機能させるためのテキスト分類プログラム。
【請求項１４】
コンピュータを、請求項２ないし６のいずれかに記載のテキスト・カテゴリ間関連度算出手段として機能させるためのテキスト分類プログラム。
【請求項１５】
請求項１３又は１４に記載のテキスト分類プログラムを記録したコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、テキストを、所定のカテゴリ集合の内のいずれかのカテゴリに分類するためのテキスト分類装置及び方法及びプログラム並びにプログラムを記録した記録媒体に関する。
【背景技術】
【０００２】
単語間の関連度を算出する従来技術として、非特許文献１の手法がある。この手法では、テキスト中の単語間の共起頻度を算出して単語間共起頻度行例を作成する。該行列の各行ベクトルは、対応する単語の、他の単語と共起するパターンを表している。意味の似た単語は、共通の単語と共起する傾向があるので、対応するパターンも似る傾向がある。そこで、単語間の関連度を、対応するベクトルのコサインとして算出する。
【０００３】
非特許文献２の手法では、単語に意味属性が付随した辞書を用いて、テキスト中の単語・意味属性間の共起頻度を算出し単語・意味属性間共起頻度行列を作成する。該行列の各行ベクトルは、対応する単語の、意味属性と共起するパターンを表している。意味の似た単語は、共通の意味属性と共起する傾向があるので、対応するパターンも似る傾向がある。そこで、単語間の関連度を、対応するベクトルのコサインとして算出する。
【０００４】
非特許文献１の手法も、非特許文献２の手法も、共起頻度行列を特異値分解して列数の縮退した行列に変換することにより、ベクトル間の関連度の精度を上げている。
【０００５】
ある単語集合が対応付けられているカテゴリの集合が与えられていて、テキストをいずれかのカテゴリに分類するタスクにおいては、上記で生成されたベクトルを用い、カテゴリやテキストのベクトルを、それに含まれる単語のベクトルの重心として算出し、該重心ベクトル間のコサインを、該テキストと該カテゴリとの間の関連度とし、関連度の大きいカテゴリを、分類先のカテゴリとする。
【非特許文献１】Ｈ．Ｓｃｈｕｔｚｅ，Ｄｉｍｅｎｓｉｏｎｓ  ｏｆ  Ｍｅａｎｉｎｇ，Ｐｒｏｃ．ｏｆ  Ｓｕｐｅｒｃｏｍｐｕｔｉｎｇ’９２，ｐｐ．７８６−７９６，１９９２．
【非特許文献２】別所克人，内山俊郎，片岡良治：単語・意味属性間共起に基づく概念ベースの拡張方式，情報処理学会研究報告，Ｖｏ１．ＳＩＧ−ＩＣＳ  １４４，ｐｐ．２９−３４，２００６．
【発明の開示】
【発明が解決しようとする課題】
【０００６】
上記従来技術においては、重心ベクトル間のコサインを用いている。ベクトル間のコサインでは、一つの単語と関連度の高い単語として、該単語の上位・下位概念にあたる単語のみならず、同じ上位概念をもつ兄弟関係にある単語も導出する。この結果、テキストが、その内容の兄弟概念にあたるカテゴリに誤分類されるという問題がある。例えば、コサインでは「精神病」という単語に対し、「心臓病」といった、共通の上位概念「病気」をもつ兄弟関係にある単語も導出する。この結果、「精神病」に関するテキストが、「心臓病」に関するカテゴリに誤って分類されるということがあった。
【０００７】
本発明は、この課題を解決するために考え出されたものであり、本発明の目的は、テキストを、所定のカテゴリ集合の内のいずれかのカテゴリに分類するタスクの精度を向上するためのテキスト分類装置、テキスト分類方法及びテキスト分類プログラム並びにそのプログラムを記録した記録媒体を提供することにある。
【課題を解決するための手段】
【０００８】
上記課題を解決するための請求項１に記載のテキスト分類装置は、テキストを、所定のカテゴリ集合のうちのいずれかのカテゴリに分類するためのテキスト分類装置であって、コーパスを入力とし、任意の単語Ａに対し、各座標が、単語または単語意味属性に対応し、該座標の値が、単語Ａと、該座標に対応する単語または単語意味属性との共起頻度の相対値である単語ベクトルを生成する単語ベクトル生成手段と、任意の単語Ｂに対し、単語Ｂの前記単語ベクトル生成手段で得られた単語ベクトルと、任意の単語Ｃの前記単語ベクトル生成手段で得られた単語ベクトルとの間の、カルバック・ライブラー距離を算出し、該距離の小さい順に単語Ｃをランキングし、該ランキングにおける順位により、単語Ｂと単語Ｃとの関連度を算出する単語間関連度算出手段とを備えたことを特徴としている。
【０００９】
また請求項７に記載のテキスト分類方法は、テキストを、所定のカテゴリ集合のうちのいずれかのカテゴリに分類するためのテキスト分類方法であって、単語ベクトル生成手段が、コーパスを入力とし、任意の単語Ａに対し、各座標が、単語または単語意味属性に対応し、該座標の値が、単語Ａと、該座標に対応する単語または単語意味属性との共起頻度の相対値である単語ベクトルを生成する単語ベクトル生成ステップと、単語間関連度算出手段が、任意の単語Ｂに対し、単語Ｂの前記単語ベクトル生成手段で得られた単語ベクトルと、任意の単語Ｃの前記単語ベクトル生成手段で得られた単語ベクトルとの間の、カルバック・ライブラー距離を算出し、該距離の小さい順に単語Ｃをランキングし、該ランキングにおける順位により、単語Ｂと単語Ｃとの関連度を算出する単語間関連度算出ステップとを備えたことを特徴している。
【００１０】
また請求項３に記載のテキスト分類装置は、前記単語ベクトル生成手段は、単語と前記単語の意味属性の組の集合を格納する辞書と、テキストを形態素解析し、処理に必要な単語を特定する形態素解析手段と、前記形態素解析手段の解析結果から、前記辞書内の任意の単語の対、又は該辞書内の任意の単語と意味属性の対に対し、前記テキストにおける一つまたは複数の所定の範囲のそれぞれにおいて、前記対が共起する事象を、テキスト全体にわたって計数した頻度を算出し、各単語に対し、各座標の値が、前記単語と、前記座標に対応する単語又は意味属性との共起頻度を記録した行列を生成する共起行列生成手段と、前記共起行列生成手段によって生成された行列の行ベクトルの各座標の値を、相対頻度に変換する相対頻度算出手段と、を備えたことを特徴としている。
【００１１】
また請求項９に記載のテキスト分類方法は、前記単語ベクトル生成ステップは、形態素解析手段が、テキストを形態素解析し、処理に必要な単語を特定する形態素解析ステップと、共起行列生成手段が、前記形態素解析ステップの解析結果から、単語と前記単語の意味属性の組の集合を格納した辞書内の任意の単語の対、又は該辞書内の任意の単語と意味属性の対に対し、前記テキストにおける一つまたは複数の所定の範囲のそれぞれにおいて、前記対が共起する事象を、テキスト全体にわたって計数した頻度を算出し、各単語に対し、各座標の値が、前記単語と、前記座標に対応する単語又は意味属性との共起頻度を記録した行列を生成する共起行列生成ステップと、相対頻度算出手段が、前記共起行列生成ステップによって生成された行列の行ベクトルの各座標の値を、相対頻度に変換する相対頻度算出ステップと、を備えたことを特徴としている。
【００１２】
また請求項４に記載のテキスト分類装置は、前記単語間関連度算出手段における関連度は、前記ランキングの順位の逆数により算出することを特徴としている。
【００１３】
また請求項１０に記載のテキスト分類方法は、前記単語間関連度算出ステップにおける関連度は、前記ランキングの順位の逆数により算出することを特徴としている。
【００１４】
また請求項５に記載のテキスト分類装置は、前記単語間関連度算出手段における関連度は、前記単語Ｂ、Ｃの各単語ベクトル間のコサインに基づいて算出することを特徴としている。
【００１５】
また請求項１１に記載のテキスト分類方法は、前記単語間関連度算出ステップにおける関連度は、前記単語Ｂ、Ｃの各単語ベクトル間のコサインに基づいて算出することを特徴としている。
【００１６】
上記構成によれば、任意の単語Ｂに対し、単語Ｂから任意の単語Ｃへのカルバック・ライブラー距離の小さい順に、単語Ｃをランキングするため、単語Ｂの上位概念である度合いの大きい順に単語Ｃがランキングされる。単語Ｂごとのランキング結果上位におけるカルバック・ライブラー距離の大きさは異なるが、この大きさに関わらず、ランキングの上位は、常に上位概念が占める。したがって、ランキングにおける順位により算出される関連度は、[ＢならばＣ]である度合いを的確に表す。
【００１７】
また請求項２に記載のテキスト分類装置は、請求項１のテキスト分類装置に、ある単語集合が対応付けられているカテゴリの集合と、任意のテキストを入力とし、各カテゴリに対し、該テキスト中の単語Ｄと、該カテゴリ中の単語Ｅとの間の前記単語間関連度算出手段で算出した関連度により、該テキストと該カテゴリとの間の関連度を算出するテキスト・カテゴリ間関連度算出手段をさらに備えたことを特徴としている。
【００１８】
また請求項６に記載のテキスト分類装置は、前記テキスト・カテゴリ間関連度算出手段は、ＯＲ結合された文字列が対応付けられたカテゴリＣｐの各文字列Ｚｐｑを形態素解析し、前記各文字列Ｚｐｑを、各文字列中の必要語終止形の異なりとその頻度の組の集合に変換し、任意のテキストＵを形態素解析し、前記テキストＵ中の必要語終止形の異なりとその頻度の組の集合に変換し、テキストＵ中の単語Ｄと前記カテゴリＣｐ中の単語Ｅとの間の前記単語間関連度算出手段で算出した関連度をもとに、前記テキストＵ中の単語ＤとカテゴリＣｐ中の文字列Ｚｐｑとの間の関連度を算出し、任意のテキストＵと任意のカテゴリＣｐの間の関連度を算出することを特徴としている。
【００１９】
また請求項８に記載のテキスト分類方法は、請求項７のテキスト分類方法に、テキスト・カテゴリ間関連度算出手段が、ある単語集合が対応付けられているカテゴリの集合と、任意のテキストを入力とし、各カテゴリに対し、該テキスト中の単語Ｄと、該カテゴリ中の単語Ｅとの間の前記単語間関連度算出手段で算出した関連度により、該テキストと該カテゴリとの間の関連度を算出するテキスト・カテゴリ間関連度算出ステップをさらに備えたことを特徴としている。
【００２０】
また請求項１２に記載のテキスト分類方法は、前記テキスト・カテゴリ間関連度算出ステップは、ＯＲ結合された文字列が対応付けられたカテゴリＣｐの各文字列Ｚｐｑを形態素解析し、前記各文字列Ｚｐｑを、各文字列中の必要語終止形の異なりとその頻度の組の集合に変換し、任意のテキストＵを形態素解析し、前記テキストＵ中の必要語終止形の異なりとその頻度の組の集合に変換し、テキストＵ中の単語Ｄと前記カテゴリＣｐ中の単語Ｅとの間の前記単語間関連度算出手段で算出した関連度をもとに、前記テキストＵ中の単語ＤとカテゴリＣｐ中の文字列Ｚｐｑとの間の関連度を算出し、任意のテキストＵと任意のカテゴリＣｐの間の関連度を算出することを特徴としている。
【００２１】
上記構成によれば、テキスト中の単語Ｄとカテゴリ中の単語Ｅとの間の[ＤならばＥ]である度合いを表す関連度からテキスト・カテゴリ間関連度を算出するため、このテキスト・カテゴリ間関連度は、[該テキストならば該カテゴリ]である度合いを的確に表す。この関連度に基づきテキストを分類することにより、テキストを、その内容の兄弟概念にあたるカテゴリに誤分類されることが抑制され、分類の精度が向上する。
【００２２】
また請求項１３に記載のテキスト分類プログラムは、コンピュータを、請求項１ないし６のいずれかに記載の単語ベクトル生成手段、単語間関連度算出手段として機能させるためのテキスト分類プログラムとしたことを特徴としている。
【００２３】
また請求項１４に記載のテキスト分類プログラムは、コンピュータを、請求項２ないし６のいずれかに記載のテキスト・カテゴリ間関連度算出手段として機能させるためのテキスト分類プログラムとしたことを特徴としている。
【００２４】
また請求項１５に記載の記録媒体は、請求項１３又は１４に記載のテキスト分類プログラムを記録したコンピュータ読み取り可能な記録媒体としたことを特徴としている。
【発明の効果】
【００２５】
（１）請求項１〜１３、１５に記載の発明によれば、任意の単語Ｂに対し、単語Ｂから任意の単語Ｃへのカルバック・ライブラー距離の小さい順に、単語Ｃをランキングするため、単語Ｂの上位概念である度合いの大きい順に単語Ｃがランキングされる。単語Ｂごとのランキング結果上位におけるカルバック・ライブラー距離の大きさは異なるが、この大きさに関わらず、ランキングの上位は、常に上位概念が占める。したがって、ランキングにおける順位により算出される関連度は、[ＢならばＣ]である度合いを的確に表す。
（２）請求項２〜１５に記載の発明によれば、テキスト中の単語Ｄとカテゴリ中の単語Ｅとの間の[ＤならばＥ]である度合いを表す関連度からテキスト・カテゴリ間関連度を算出するため、このテキスト・カテゴリ間関連度は、[該テキストならば該カテゴリ]である度合いを的確に表す。この関連度に基づきテキストを分類することにより、テキストを、その内容の兄弟概念にあたるカテゴリに誤分類されることが抑制され、分類の精度が向上する。
【発明を実施するための最良の形態】
【００２６】
以下、図面を参照しながら本発明の実施の形態を説明するが、本発明は下記の実施形態例に限定されるものではない。
【００２７】
図１は、本発明の請求項１及び２の実施例におけるテキスト分類装置の構成例を示す。請求項１は、単語ベクトル生成手段１０１、単語間関連度算出手段１０２から構成され、請求項２は、それにテキスト・カテゴリ間関連度算出手段１０３を加えて構成される。
【００２８】
これら単語ベクトル生成手段１０１、単語間関連度算出手段１０２およびテキスト・カテゴリ間関連度算出手段１０３が有する後述する各機能は、例えばコンピュータにより達成されるものである。
【００２９】
単語ベクトル生成手段１０１は、コーパスを入力とし、任意の単語Ａに対し、各座標が、単語または単語意味属性に対応し、該座標の値が、単語Ａと、該座標に対応する単語または単語意味属性との共起頻度の相対値である単語ベクトルを生成する。図２は、単語ベクトル生成手段１０１の詳細な構成例であり、形態素解析手段２０１、共起行列生成手段２０２、相対頻度算出手段２０３、単語辞書２０４を有している。
【００３０】
図２において、形態素解析手段２０１は、テキストを形態素解析する。この形態素解析は、単語辞書２０４を参照して行うが、図３はその辞書の内容の一例である。同図では、単語辞書は、１レコードが１単語に関する情報となっており、１レコードは、カンマで区切られた３つの項目から構成されている。第１項目は単語の表記であり、第２項目は該単語の品詞情報である。第３項目は該単語の意味属性である。なお、単語ベクトル生成手段１０１において、単語・単語間の共起をとる場合は、第３項目の意味属性はなくてもよい。また、活用語に対しては、終止形も登録しておいてもよい。
【００３１】
単語の意味属性とは、単語の属する意味カテゴリを表す。意味カテゴリとは一般に、事物を抽象化した概念である。これは一般に、人が個々の単語の意味を吟味した上で得られるものである。意味カテゴリの集合は、一例として図４で表されるような意味体系をなしている。図４では、各意味カテゴリを言葉として表現しているが、意味カテゴリ自体は必ずしも言葉として表現されているとは限らない概念である。各意味カテゴリには、それを特定するためのＩＤが付与されている。本実施例では、このＩＤを便宜上、意味属性と同一視する。
【００３２】
意味体系は、それ自体が上位・下位の概念体系を表しているものの、人手で作成するため、作成の労力が大きいことや、作成者の恣意性に左右されることから、その体系は一般に不完全性が大きい。例えば、「病気」という意味属性に、「精神病」や「鬱病」といった単語が分類されていたりして、これらの単語が上位・下位関係になっていないということがある。また、上位・下位関係にない意味属性に属している単語が、実は上位・下位関係にあるということもある。このように、意味体系は、人手で作成するため、単語の意味に関する貴重な情報を含んでいるものの、上位・下位関係を正確かつ網羅的には表していない。
【００３３】
図３の単語辞書において、一般に内容語には、一つまたは複数の意味属性が対応している。図３においては、複数の意味属性をコロンで区切っている。１単語に複数の意味属性があるとき、よく使用される順に意味属性を並べておいてもよい。新しい単語を単語辞書に登録するとき、既存の意味属性のどれが該単語に対応するかを、一般に、人が該単語の品詞や意味を吟味した上で付与する。
【００３４】
図５は、形態素解析手段２０１に入力されるテキストの一例であり、図６は、図５のテキストの形態素解析結果の一例である。形態素間は”／”で区切られている。各形態素は、単語表記、終止形、品詞情報、意味属性、必要語フラグから成っており、それぞれ”，”で区切られている。単語辞書２０４に終止形が登録されていない場合は、形態素解析後に、単語表記と品詞情報から終止形を導出する。終止形がない単語に対しては、単語表記を終止形とする。必要語フラグは、形態素解析後はヌルである。なお、単語ベクトル生成手段１０１において、単語・単語間の共起をとる場合は、形態素解析結果に意味属性のカラムがなくてもよい。
【００３５】
また、単語・意味属性間の共起をとる場合では、形態素解析用の単語辞書と、単語とその意味属性の組の集合が格納された辞書とは別にしておき、処理の過程で、ある単語の意味属性を取得する必要があるときは、該単語で後者の辞書を検索して、対応する意味属性を取得するというようにしてもよい。以後の説明は、形態素解析用の単語辞書に意味属性も格納されており、形態素解析結果に意味属性も出力されているという前提で述べる。
【００３６】
次に、不要単語テーブル、不要品詞テーブルを参照することにより、形態素解析結果中の形態素が、その後の処理に必要な語かそうでないかを判断し、必要語ならば必要語フラグを１とし、必要語でないならば必要語フラグを０とする。図７は、不要単語テーブルの一例である。不要とされる各単語の終止形が１レコードとして記述されている。図８は、不要品詞テーブルの一例である。不要とされる各品詞情報が１レコードとして記述されている。対象としている形態素の終止形が不要単語テーブルのあるレコードと一致するか、あるいは、対象としている形態素の品詞情報が不要品詞テーブルのあるレコードと一致する場合、該形態素を必要語でないと判断する。この処理により、図６の形態素解析結果は、図９のようになる。
【００３７】
共起行列生成手段２０２は、形態素解析手段２０１で得られた形態素解析結果から、必要語の終止形の異なりの集合を取得する。次に、単語・意味属性間の共起をとる場合では、図１０のような、取得した必要語の終止形の異なりの集合（単に単語集合と呼ぶ）と意味属性集合との間の共起頻度行列を生成する。共起頻度行列における各行は一単語に対応し、各列は一意味属性に対応する。各行ベクトルは、対応する単語の、各座標が意味属性に対応し、該座標の値が該単語と該意味属性との間の共起頻度であるようなベクトルである。各行ベクトルの全座標値を０にセットする。
【００３８】
なお、単語・単語間の共起をとる場合では、各列に必要語の終止形の異なりを対応させる。このとき、後の処理の計算量低減のため、各列に対応する必要語の終止形の異なりの集合を、入力テキスト中における高頻度語のみに限定してもよい。
【００３９】
次に、単語・意味属性間の共起をとる場合では、単語と意味属性とが共起する頻度を算出する処理の対象となるテキスト中の範囲を決定する。所定の範囲としては、一文、一段落や所定の数の単語の列等がある。所定の範囲を一文とした場合は、まず、テキスト中の最初の文を処理対象とする。処理対象とした文に関する処理が終了したならば、その次の文を処理対象とする。最後の文に関する処理が終了したならば、処理対象の文はないので、共起行列生成手段２０２の処理を終了する。所定の範囲を、他のものとした場合も同様である。
【００４０】
各処理対象のテキストの範囲における処理は、以下のように行う。
【００４１】
まず前記範囲における必要語の終止形（同一のものが複数あれば別物とする）の意味属性の頻度をカウントする。図９に表示した、テキストの１範囲の形態素解析結果からは、図１１の、意味属性とその頻度の組の集合である頻度ハッシュが得られる。
【００４２】
ここで、単語辞書２０４において、１単語における複数の意味属性が、よく使用される順に並べられており、形態素解析結果における形態素中の意味属性の順番もそれを引き継いでいる場合、形態素中の意味属性の列の中の最初から指定した数だけの意味属性のみをカウントする対象としてもよい。
【００４３】
次に、該範囲における各必要語の終止形（同一のものが複数あれば別物とする）に対し、以下の処理を行う。共起頻度行列中の、該必要語の終止形に対応する行ベクトルの、頻度ハッシュにおける各意味属性に対応する座標の値に、該頻度ハッシュにおける該意味属性の頻度を加算する。
【００４４】
ここで、該必要語の終止形とその形態素内の意味属性との共起はカウントしないというようにしてもよい。すなわち、頻度ハッシュから、該必要語の終止形が保持しているカウント対象の意味属性に対応する座標の値から、１だけ減じて得られる一時的な頻度ハッシュを生成し、この一時的な頻度ハッシュにおける各意味属性の頻度を加算するというようにしてもよい。例えば、図９に表示した、テキストの１範囲の形態素解析結果における処理において、必要語終止形「米」に対しては、意味属性１１，９１を保持しているので、図１１の頻度ハッシュから、図１２の一時的な頻度ハッシュが得られる。共起頻度行列が図１０の状態で、かつ図９に表示した、テキストの１範囲の形態素解析結果を処理した場合、図１３の共起頻度行列が得られる。
【００４５】
全ての範囲に対する処理が終了すると、入力テキストにおける任意の単語と任意の意味属性との間の共起頻度が記録された行列が得られ、この行列における各行ベクトルが、共起行列生成手段２０２が求める、対応する単語のベクトルとなる。
【００４６】
上記の、一範囲における単語と意味属性との間の共起頻度算出は、単語の頻度をカウントするプロセスが一切ないようにして実行できる。したがって、単語・意味属性間共起頻度行列の生成は、単語間共起頻度行列を生成するプロセスを介在させることなく実行できる。
【００４７】
なお、ここでは、一範囲において、ある必要語の終止形Ｍがｍ回、意味属性Ｎがｎ回出現している場合、該範囲におけるＭとＮの共起頻度をｍ×ｎまたはｍ×（ｎ−１）としたが、ＭやＮが同一の範囲に複数回出現しても、該範囲における共起頻度は１とするというようにすることもできる。
【００４８】
単語・単語間の共起をとる場合の共起行列生成手段２０２の共起頻度算出は、上記の単語・意味属性間の共起をとる場合での説明における「（必要語の終止形の）意味属性」を、共起頻度行列の列に対応する必要語の終止形の異なりとして行う。
【００４９】
相対頻度算出手段２０３は、共起行列生成手段２０２によって生成されたベクトルの各座標の値を、相対頻度に変換する。
【００５０】
共起行列生成手段２０２によって生成されたある単語のベクトルが、（ａ1，ａ2，Λ，ａn）であったとする。相対頻度算出手段２０３によって、この単語のベクトルは、
【００５１】
【数１】
2008282328.tif 000003
【００５２】
に変換される。各ｘi（１≦ｉ≦ｎ）は、変換前のベクトルにおける、対応する座標の値の、全座標の値の和に対する相対頻度である。
【００５３】
【数２】
2008282328.tif 000004
【００５４】
であるので、変換後のベクトルは、各座標を確率変数、座標値を確率値とする確率分布ととらえることができる。
【００５５】
単語間関連度算出手段１０２は、任意の単語Ｘに対し、単語Ｘの前記単語ベクトル生成手段１０１で得られた単語ベクトルと、任意の単語Ｙの前記単語ベクトル生成手段１０１で得られた単語ベクトルとの間の、カルバック・ライブラー距離（二つの確率分布間の距離）を算出し、距離の小さい順に単語Ｙをランキングし、ランキングにおける順位により、単語Ｘと単語Ｙとの関連度を算出する。図１４は、単語間関連度算出手段１０２の詳細なフローチャートである。
【００５６】
以下、単語間関連度算出手段１０２の説明では、ベクトルの各座標が意味属性に対応している構成に基づいて行うこととする。ベクトルの各座標が必要語の終止形の異なりに対応している構成でも、同様に説明される。
（ステップＳ１）
これまでに処理していない単語の中で、処理対象とする単語Ｘを一つ決定する。あれば、ステップＳ２に進み、なければ、単語間関連度算出手段１０２の処理を終了する。
（ステップＳ２）
これまでに処理していない単語の中で、処理対象とする単語Ｙを一つ決定する。あれば、ステップＳ３に進み、なければ、ステップＳ４に進む。
（ステップＳ３）
単語の対Ｘ、Ｙに対し、Ｘ、Ｙのベクトルｖ（Ｘ）、ｖ（Ｙ）が、
ｖ（Ｘ）：＝（ｘ1，ｘ2，Λ，ｘn）
ｖ（Ｙ）：＝（ｙ1，ｙ2，Λ，ｙn）
のようになっているとき、ＸからＹへのカルバック・ライブラー距離Ｐ（Ｘ，Ｙ）を、
【００５７】
【数３】
2008282328.tif 000005
【００５８】
として算出する。
【００５９】
ここで、
【００６０】
【数４】
2008282328.tif 000006
【００６１】
と定義する。しかし、この定義だとｘi≠０かつｙi＝０であるような座標ｉが一つでもあると、Ｐ（Ｘ，Ｙ）＝∞となってしまうため、上位・下位関係にある単語対に対し距離が∞となるものが多数出てしまい、上位・下位関係の単語対の再現率が下がってしまう問題がある。
【００６２】
距離値を常に有限値にする場合は、以下のようにする。
【００６３】
【数５】
2008282328.tif 000007
【００６４】
Ｐ（Ｘ，Ｙ）は、現実の分布としてｖ（Ｘ）があり、それをｖ（Ｙ）で近似した場合の情報損失量の期待値を表す。
【００６５】
【数６】
2008282328.tif 000008
【００６６】
がとりわけ大きくなるのは、ｙiが０あるいは０に近く、ｘiがｙｉと比してはるかに大きい場合である。ＹがＸの上位概念の場合、一般に、Ｘが座標ｉの意味属性と共起すれば、Ｙも座標ｉの意味属性と共起する傾向があるので、このような事態はあまり生じない。従って、ＹがＸの上位概念の場合、ＹがＸの上位概念でない場合と比較して、カルバック・ライブラー距離Ｐ（Ｘ，Ｙ）は小さくなる傾向がある。
【００６７】
ベクトルの長さを１に正規化したときのユークリッド距離は、コサイン類似度と等価である。この距離尺度は、ベクトル値の差分が小さいものを距離が小さいとするため、上位・下位関係の単語のみならず、兄弟関係の単語も相対的に距離が小さいものとして判定する。
【００６８】
カルバック・ライブラー距離を用いれば、単語Ｘを指定したとき、カルバック・ライブラー距離Ｐ（Ｘ，Ｙ）が相対的に小さい単語Ｙを、Ｘの上位概念の単語として検出することが可能となる。
【００６９】
ステップＳ３の処理が終了した後、ステップＳ２に進む。
（ステップＳ４）
Ｐ（Ｘ，Ｙ）の小さい順に単語Ｙをランキングする。これは、単語Ｘの上位概念である度合いの大きい順である。図１５は、Ｘを「精神病」としたときの単語Ｙのランキングである。
【００７０】
任意の単語対Ｘ，Ｙに対しＰ（Ｘ，Ｙ）を算出する処理の計算量を低減するために、単語Ｙの集合を、例えば、分類先カテゴリに対応付けられている単語集合群と、コーパス中の高頻度語集合をマージしたものに限定してもよい。
【００７１】
ステップＳ４の処理が終了した後、ステップＳ５に進む。
（ステップＳ５）
任意の単語Ｙに対し、Ｙの順位をｍとしたとき、[ＸならばＹ]である度合いを表すＸ，Ｙ間の関連度Ｅ（Ｘ，Ｙ）を、一例として、
【００７２】
【数７】
2008282328.tif 000009
【００７３】
として算出する。
【００７４】
単語Ｘごとのランキング結果上位におけるカルバック・ライブラー距離の大きさは異なる。しかし、Ｘの上位概念の単語Ｙ’に対するカルバック・ライブラー距離Ｐ（Ｘ，Ｙ’）は、Ｘの上位概念でない単語Ｙ’’に対するカルバック・ライブラー距離Ｐ（Ｘ，Ｙ’’）よりも小さいので、ランキングの上位は、Ｘごとの距離の大きさの違いに関わらず、常に上位概念が占める。したがって、ランキングにおける順位こそ、Ｘの上位概念である度合いを表す。よって、この順位により算出される関連度は、[ＸならばＹ]である度合いを的確に表す。
【００７５】
ここで、例えば、非特許文献１や非特許文献２の手法で得られるＸ，Ｙのベクトルｖ’（Ｘ），ｖ’（Ｙ）の間のコサイン
【００７６】
【数８】
2008282328.tif 000010
【００７７】
を０以上１以下の値になるように変換したＣＯ’（Ｘ，Ｙ）＝０．５・ＣＯ（Ｘ，Ｙ）＋０．５と組み合せて、
Ｅ’（Ｘ，Ｙ）＝α・Ｅ（Ｘ，Ｙ）＋（１−α）・ＣＯ’（Ｘ，Ｙ）  （０≦α≦１）
とおくと、Ｅ’（Ｘ，Ｙ）は、Ｅ（Ｘ，Ｙ）、ＣＯ（Ｘ，Ｙ）それぞれの連想の傾向を兼ね備えた関連度となる。この関連度を単語間関連度算出手段１０２の導出する最終的な関連度としてもよい。
【００７８】
ステップＳ５の処理が終了した後、ステップＳ１に進む。
【００７９】
テキスト・カテゴリ間関連度算出手段１０３は、ある単語集合が対応付けられているカテゴリの集合と、任意のテキストを入力とし、各カテゴリに対し、該テキスト中の単語Ｘと、該カテゴリ中の単語Ｙとの間の前記単語間関連度算出手段１０２で算出した関連度により、該テキストと該カテゴリとの間の関連度を算出する。
【００８０】
カテゴリＣp（１≦ｐ≦ｈ）に対し、以下のｓｐ個の文字列Ｚpq（１≦ｑ≦ｓｐ）のＯＲ結合が対応付けられているとする。
【００８１】
【数９】
2008282328.tif 000011
【００８２】
上記の例として、カテゴリ「テレビ番組ＯＲラジオ番組」がある。
【００８３】
各文字列Ｚpq（１≦ｑ≦ｓｐ）を形態素解析する。
【００８４】
各文字列Ｚpqを、その中の必要語終止形の異なりＹpqr（１≦ｒ≦ｔpq）とその頻度ＴＦpqr（１≦ｒ≦ｔpq）の組の集合に変換し、以下のように表す。
【００８５】
【数１０】
2008282328.tif 000012
【００８６】
カテゴリ「テレビ番組ＯＲラジオ番組」からは、「（テレビ：１，番組：１）ＯＲ（ラジオ：１，番組：１）」が得られる。
【００８７】
任意のテキストＵに対し、それを形態素解析する。その中の必要語終止形の異なりＸug（１≦ｇ≦ｔｕ）とその頻度ＴＦｕｇ（１≦ｇ≦ｔｕ）の組の集合に変換し、以下のように表す。
【００８８】
【数１１】
2008282328.tif 000013
【００８９】
尚、前記カテゴリＣpの各文字列Ｚpqおよび前記テキストＵに対する形態素解析は、前記単語ベクトル生成手段１０１の形態素解析手段２０１によって行われる。
【００９０】
任意のテキストＵを固定したとき、任意のカテゴリＣpに対する、[テキストＵならばカテゴリＣp]である度合いを表すＵ，Ｃp間の関連度Ｅ（Ｕ，Ｃp）を、図１６のフローで算出する。
（ステップＳ１１）
これまでに処理していないカテゴリの中で、処理対象とするカテゴリＣpを一つ決定する。あれば、ステップＳ１２に進み、なければ、終了する。
（ステップＳ１２）
カテゴリＣp中の、これまでに処理していない文字列の中で、処理対象とする文字列Ｚpqを一つ決定する。あれば、ステップＳ１３に進み、なければ、ステップＳ１６に進む。
（ステップＳ１３）
テキストＵ中の、これまでに処理していない単語の中で、処理対象とする単語Ｘugを一つ決定する。あれば、ステップＳ１４に進み、なければ、ステップＳ１５に進む。
（ステップＳ１４）
[ＸugならばＺpq]である度合いを表すＸug，Ｚpq間の関連度Ｅ（Ｘug，Ｚpq）を以下の式により算出する。
【００９１】
【数１２】
2008282328.tif 000014
【００９２】
ここで、Ｅ（Ｘug，Ｙpqr）が存在しない場合はＴＦpqr＝０とし、Ｅ（Ｘug，Ｚpq）の分母が０の場合はＥ（Ｘug，Ｚpq）＝０とする。
【００９３】
尚、テキストＵ中の単語ＸugとカテゴリＣp中の単語Ｙpqrとの間の、[ＸugならばＹpqr]である度合いを表す関連度Ｅ（Ｘug，Ｙpqr）は、単語間関連度算出手段１０２によって算出処理される。
【００９４】
ステップＳ１４の処理が終了した後、ステップＳ１３に進む。
（ステップＳ１５）
[ＵならばＺpq]である度合いを表すＵ，Ｚpq間の関連度Ｅ（Ｕ，Ｚpq）を以下の式により算出する。
【００９５】
【数１３】
2008282328.tif 000015
【００９６】
ここで、Ｅ（Ｕ，Ｚpq）の分母が０の場合はＥ（Ｕ，Ｚpq）＝０とする。
【００９７】
ステップＳ１５の処理が終了した後、ステップＳ１２に進む。
（ステップＳ１６）
[ＵならばＣp]である度合いを表すＵ，Ｃp間の関連度Ｅ（Ｕ，Ｃp）を以下の式により算出する。
【００９８】
【数１４】
2008282328.tif 000016
【００９９】
ステップＳ１６の処理が終了した後、ステップＳ１１に進む。
【０１００】
前記ステップＳ１４における算出は、テキストＵ中の単語ＸugとカテゴリＣp中の単語Ｙpqrとの間の、[ＸugならばＹpqr]である度合いを表す関連度Ｅ（Ｘug，Ｙpqr）（すなわち前記単語間関連度算出手段１０２で算出した関連度）をもとにしており、Ｅ（Ｕ，Ｃｐ）はこのＥ（Ｘug，Ｙpqr）から構成されるので、[ＵならばＣp]である度合いを的確に表す。
【０１０１】
なお、上記において、各異なり単語Ｗｉに対応する頻度ＴＦiの代わりに、以下の式で表される該単語のＴＦＩＤＦiを用いてもよい。
【０１０２】
【数１５】
2008282328.tif 000017
【０１０３】
ここで、ＤＮは、あるコーパスにおける文書数であり、ＯＮiは、該異なり単語Ｗiの該コーパスにおける出現文書数である。上記ステップＳ１４において、ＴＦＩＤＦpqrが存在しない場合はＴＦＩＤＦpqr＝０とし、ステップＳ１５において、ＴＦＩＤＦugが存在しない場合はＴＦＩＤＦug＝０とする。
【０１０４】
このようにして、各カテゴリＣｐに対しＥ（Ｕ，Ｃp）が得られる。テキストＵを、Ｅ（Ｕ，Ｃp）が最も大きいＣpに分類することができる。また、Ｅ（Ｕ，Ｃp）がある閾値以上の値をとるＣpに分類することもできる。Ｅ（Ｕ，Ｃp）は、[ＵならばＣp]である度合いであるため、テキストが、その内容の兄弟概念にあたるカテゴリに誤分類されることが抑制され、分類の精度が向上する。
【０１０５】
上記の実施の形態における処理をプログラムとして構築し、当該プログラムを通信回線または記憶媒体からインストールし、ＣＰＵ等の手段で実施することが可能である。
【０１０６】
すなわち前記プログラムを記録した記録媒体を、システム、又は装置に供給し、そのシステム又は装置のＣＰＵ（ＭＰＵ）が記録媒体に格納されたプログラムを読み出し実行することも可能である。この場合記録媒体から読み出されたプログラム自体が上記実施形態の機能を実現することになり、このプログラムを記録した記録媒体としては、例えば、ＣＤ−ＲＯＭ，ＤＶＤ−ＲＯＭ，ＣＤ−Ｒ，ＣＤ−ＲＷ，ＭＯ及びＨＤＤ等がある。
【０１０７】
なお、本発明は、上記の実施の形態に限定されることなく、特許請求の範囲内において種々変更・応用が可能である。
【産業上の利用可能性】
【０１０８】
本発明は、言語処理技術に適用可能である。
【図面の簡単な説明】
【０１０９】
【図１】本発明の一実施形態例のテキスト分類装置の構成図。
【図２】本発明の一実施形態例のテキスト分類装置における単語ベクトル生成手段の構成図。
【図３】本発明の一実施形態例の単語ベクトル生成手段における単語辞書の内容の一例を示す説明図。
【図４】本発明の一実施形態例で用いる意味カテゴリの集合を示す説明図。
【図５】本発明の一実施形態例における形態素解析手段に入力されるテキストの一例を示す説明図。
【図６】本発明の一実施形態例における形態素解析の途中の結果の一例を示す説明図。
【図７】本発明の一実施形態例における不要単語テーブルの一例を示す説明図。
【図８】本発明の一実施形態例における不要品詞テーブルの一例を示す説明図。
【図９】本発明の一実施形態例における形態素解析の最終結果の一例を示す説明図。
【図１０】本発明の一実施形態例における単語集合と意味属性集合との間の共起頻度行列の一例を示す説明図。
【図１１】本発明の一実施形態例における頻度ハッシュの一例を示す説明図。
【図１２】本発明の一実施形態例における頻度ハッシュの他の例を示す説明図。
【図１３】本発明の一実施形態例における単語集合と意味属性集合との間の共起頻度行列を表し、図９の形態素解析結果を処理し、頻度ハッシュの頻度を加算した場合の共起頻度行列を示す説明図。
【図１４】本発明の一実施形態例における単語間関連度算出手段の処理手順を表すフローチャート。
【図１５】本発明の一実施形態例の単語間関連度算出手段における、単語Ｘを「精神病」としたときの単語Ｙのランキングを表す説明図。
【図１６】本発明の一実施形態例におけるテキスト・カテゴリ間関連度算出手段の処理手順を表すフローチャート。
【符号の説明】
【０１１０】
１０１…単語ベクトル生成手段、１０２…単語間関連度算出手段、１０３…テキスト・カテゴリ間関連度算出手段、２０１…形態素解析手段、２０２…共起行列生成手段、２０３…相対頻度算出手段、２０４…単語辞書。
【図１】
2008282328.tif 000018
【図２】
2008282328.tif 000019
【図３】
2008282328.tif 000020
【図４】
2008282328.tif 000021
【図５】
2008282328.tif 000022
【図６】
2008282328.tif 000023
【図７】
2008282328.tif 000024
【図８】
2008282328.tif 000025
【図９】
2008282328.tif 000026
【図１０】
2008282328.tif 000027
【図１１】
2008282328.tif 000028
【図１２】
2008282328.tif 000029
【図１３】
2008282328.tif 000030
【図１４】
2008282328.tif 000031
【図１５】
2008282328.tif 000032
【図１６】
2008282328.tif 000033
【手続補正書】
【提出日】平成20年2月28日(2008.2.28)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】請求項３
【補正方法】変更
【補正の内容】
【請求項３】
前記単語ベクトル生成手段は、
テキストを形態素解析し、処理に必要な単語を特定する形態素解析手段と、
前記形態素解析手段の解析結果から、任意の単語の対、又は任意の単語と任意の単語意味属性の対に対し、前記テキストにおける一つまたは複数の所定の範囲のそれぞれにおいて、前記対が共起する事象を、テキスト全体にわたって計数した頻度を算出し、各単語に対し、各座標の値が、前記単語と、前記座標に対応する単語又は単語意味属性の対に対し算出された前記頻度であるベクトルを対応づけて得られる共起頻度行列を生成する共起行列生成手段と、
前記共起行列生成手段によって生成された共起頻度行列の行ベクトルの各座標の値を、相対頻度に変換する相対頻度算出手段と、
を備えたことを特徴とする請求項１又は２に記載のテキスト分類装置。
【手続補正２】
【補正対象書類名】特許請求の範囲
【補正対象項目名】請求項９
【補正方法】変更
【補正の内容】
【請求項９】
前記単語ベクトル生成ステップは、
形態素解析手段が、テキストを形態素解析し、処理に必要な単語を特定する形態素解析ステップと、
共起行列生成手段が、前記形態素解析ステップの解析結果から、任意の単語の対、又は任意の単語と任意の単語意味属性の対に対し、前記テキストにおける一つまたは複数の所定の範囲のそれぞれにおいて、前記対が共起する事象を、テキスト全体にわたって計数した頻度を算出し、各単語に対し、各座標の値が、前記単語と、前記座標に対応する単語又は単語意味属性の対に対し算出された前記頻度であるベクトルを対応づけて得られる共起頻度行列を生成する共起行列生成ステップと、
相対頻度算出手段が、前記共起行列生成ステップによって生成された共起頻度行列の行ベクトルの各座標の値を、相対頻度に変換する相対頻度算出ステップと、
を備えたことを特徴とする請求項７又は８に記載のテキスト分類方法。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】０００５
【補正方法】変更
【補正の内容】
【０００５】
ある単語集合が対応付けられているカテゴリの集合が与えられていて、テキストをいずれかのカテゴリに分類するタスクにおいては、上記で生成されたベクトルを用い、カテゴリやテキストのベクトルを、それに含まれる単語のベクトルの重心として算出し、該重心ベクトル間のコサインを、該テキストと該カテゴリとの間の関連度とし、関連度の大きいカテゴリを、分類先のカテゴリとする。
【非特許文献１】Ｈ．Ｓｃｈｕｔｚｅ，Ｄｉｍｅｎｓｉｏｎｓ  ｏｆ  Ｍｅａｎｉｎｇ，Ｐｒｏｃ．ｏｆ  Ｓｕｐｅｒｃｏｍｐｕｔｉｎｇ’９２，ｐｐ．７８６−７９６，１９９２．
【非特許文献２】別所克人，内山俊郎，片岡良治：単語・意味属性間共起に基づく概念ベースの拡張方式，情報処理学会研究報告，Ｖｏｌ．ＳＩＧ−ＩＣＳ  １４４，ｐｐ．２９−３４，２００６．
【手続補正４】
【補正対象書類名】明細書
【補正対象項目名】００１０
【補正方法】変更
【補正の内容】
【００１０】
また請求項３に記載のテキスト分類装置は、前記単語ベクトル生成手段は、テキストを形態素解析し、処理に必要な単語を特定する形態素解析手段と、前記形態素解析手段の解析結果から、任意の単語の対、又は任意の単語と任意の単語意味属性の対に対し、前記テキストにおける一つまたは複数の所定の範囲のそれぞれにおいて、前記対が共起する事象を、テキスト全体にわたって計数した頻度を算出し、各単語に対し、各座標の値が、前記単語と、前記座標に対応する単語又は単語意味属性の対に対し算出された前記頻度であるベクトルを対応づけて得られる共起頻度行列を生成する共起行列生成手段と、前記共起行列生成手段によって生成された共起頻度行列の行ベクトルの各座標の値を、相対頻度に変換する相対頻度算出手段と、を備えたことを特徴としている。
【手続補正５】
【補正対象書類名】明細書
【補正対象項目名】００１１
【補正方法】変更
【補正の内容】
【００１１】
また請求項９に記載のテキスト分類方法は、前記単語ベクトル生成ステップは、形態素解析手段が、テキストを形態素解析し、処理に必要な単語を特定する形態素解析ステップと、共起行列生成手段が、前記形態素解析ステップの解析結果から、任意の単語の対、又は任意の単語と任意の単語意味属性の対に対し、前記テキストにおける一つまたは複数の所定の範囲のそれぞれにおいて、前記対が共起する事象を、テキスト全体にわたって計数した頻度を算出し、各単語に対し、各座標の値が、前記単語と、前記座標に対応する単語又は単語意味属性の対に対し算出された前記頻度であるベクトルを対応づけて得られる共起頻度行列を生成する共起行列生成ステップと、相対頻度算出手段が、前記共起行列生成ステップによって生成された共起頻度行列の行ベクトルの各座標の値を、相対頻度に変換する相対頻度算出ステップと、を備えたことを特徴としている。
【手続補正６】
【補正対象書類名】明細書
【補正対象項目名】００５０
【補正方法】変更
【補正の内容】
【００５０】
共起行列生成手段２０２によって生成されたある単語のベクトルが、（ａ1，ａ2，…，ａn）であったとする。相対頻度算出手段２０３によって、この単語のベクトルは、
【手続補正７】
【補正対象書類名】明細書
【補正対象項目名】００５１
【補正方法】変更
【補正の内容】
【００５１】
【数１】
2008282328.tif 000034
【手続補正８】
【補正対象書類名】明細書
【補正対象項目名】００５６
【補正方法】変更
【補正の内容】
【００５６】
以下、単語間関連度算出手段１０２の説明では、ベクトルの各座標が意味属性に対応している構成に基づいて行うこととする。ベクトルの各座標が必要語の終止形の異なりに対応している構成でも、同様に説明される。
（ステップＳ１）
これまでに処理していない単語の中で、処理対象とする単語Ｘを一つ決定する。あれば、ステップＳ２に進み、なければ、単語間関連度算出手段１０２の処理を終了する。
（ステップＳ２）
これまでに処理していない単語の中で、処理対象とする単語Ｙを一つ決定する。あれば、ステップＳ３に進み、なければ、ステップＳ４に進む。
（ステップＳ３）
単語の対Ｘ、Ｙに対し、Ｘ、Ｙのベクトルｖ（Ｘ）、ｖ（Ｙ）が、
ｖ（Ｘ）：＝（ｘ1，ｘ2，…，ｘn）
ｖ（Ｙ）：＝（ｙ1，ｙ2，…，ｙn）
のようになっているとき、ＸからＹへのカルバック・ライブラー距離Ｐ（Ｘ，Ｙ）を、