(57)【要約】【課題】小さなトピック区間と大きなトピック区間の双方の検出の精度を向上させる。【解決手段】本発明は、テキストを形態素解析して単語に分解し、単語毎にベクトルを格納する概念ベースを検索し、各単語に対応するベクトルを取得し、テキストを構成する少なくとも２つ以上の区間毎に分解された単語に対応する単語ベクトルの重心、重心に対する各単語のベクトル間の距離を計算し、区間毎の単語ベクトル、距離からなるコスト値を計算し、コスト値を記憶手段に格納し、あらゆる区間の組み合わせのうちコスト値を最小にする区間の組み合わせを特定する。【選択図】      図１
2004234512.tif 000002
【特許請求の範囲】
【請求項１】
テキストを意味的なまとまりの単位であるトピックに分割し、該トピック間の境界を決定するトピック境界決定方法において、
前記テキストを形態素解析して、単語に分割する形態素解析過程と、
単語の意味を表現するベクトルが格納されている記憶手段である概念ベースを検索することによって、前記形態素解析過程で得られた各単語に対応するベクトルを取得する単語ベクトル取得過程と、
単語ベクトルの系列において、ある単語または文から、それ以降のある単語または文までの範囲の単語ベクトルの系列である区間に対し、該区間内の単語ベクトルの重心ベクトルと各単語ベクトルとの間のユークリッド距離の自乗の和を含むコストを求め、任意の分割数に対し、該分割数の分割を構成する各区間のコストの和の、または、一定の制約条件下における、最小値及び該最小値をとる分割を求める最小コスト分割取得過程と、
各分割数に対応する最小コスト値間の比を含む、各分割数に対応する最小コストに関係する値及び分割数が一定の条件を満足する分割を最適な分割と認定する最適分割取得過程と、からなることを特徴とするトピック境界決定方法。
【請求項２】
テキストを意味的なまとまりの単位であるトピックに分割し、該トピック間の境界を決定するトピック境界決定装置であって、
前記テキストを形態素解析して、単語に分割する形態素解析手段と、
単語の意味を表現するベクトルが格納されている記憶手段である概念ベースと、
前記概念ベースを検索することによって、前記形態素解析手段で得られた各単語に対応するベクトルを取得する単語ベクトル取得手段と、
単語ベクトルの系列において、ある単語または文から、それ以降のある単語または文までの範囲の単語ベクトルの系列である区間に対し、該区間内の単語ベクトルの重心ベクトルと各単語ベクトルとの間のユークリッド距離の自乗の和を含むコストを求め、任意の分割数に対し、該分割数の分割を構成する各区間のコストの和の、または、一定の制約条件下における、最小値及び該最小値をとる分割を求める最小コスト分割取得手段と、
各分割数に対応する最小コスト値間の比を含む、各分割数に対応する最小コストに関係する値及び分割数が一定の条件を満足する分割を最適な分割と認定する最適分割取得手段と、からなることを特徴とするトピック境界決定装置。
【請求項３】
テキストを意味的なまとまりの単位であるトピックに分割し、該トピック間の境界を決定するトピック境界決定プログラムであって、
前記テキストを形態素解析して、単語に分割する形態素解析ステップと、
単語の意味を表現するベクトルが格納されている記憶手段である概念ベースを検索することによって、前記形態素解析ステップで得られた各単語に対応するベクトルを取得する単語ベクトル取得ステップと、
単語ベクトルの系列において、ある単語または文から、それ以降のある単語または文までの範囲の単語ベクトルの系列である区間に対し、該区間内の単語ベクトルの重心ベクトルと各単語ベクトルとの間のユークリッド距離の自乗の和を含むコストを求め、任意の分割数に対し、該分割数の分割を構成する各区間のコストの和の、または、一定の制約条件下における、最小値及び該最小値をとる分割を求める最小コスト分割取得ステップと、
各分割数に対応する最小コスト値間の比を含む、各分割数に対応する最小コストに関係する値及び分割数が一定の条件を満足する分割を最適な分割と認定する最適分割取得ステップと、を実行することを特徴とするトピック境界決定プログラム。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、トピック境界決定方法及び装置及びトピック境界決定プログラムに係り、特に、複数の文もしくは、単語からなるテキストを意味的なまとまりの単位であるトピック区間に分割し、トピック間の境界を決定するトピック境界決定方法及び装置及びトピック境界決定プログラムに関する。
【０００２】
【従来の技術】
従来技術として、テキストをトピック単位に分割するＨｅａｒｓｔ法がある（例えば、非特許文献１，非特許文献２参照。）。Ｈｅａｒｓｔ法では、テキストを単語に分割し、不要語を除去した後、各単語境界の前後に一定の単語数の単語列の窓をとり、各窓毎に窓に含まれる単語の出現頻度ベクトルをとり、前後の窓に対応するベクトル間の余弦測度を当該単語境界の結束度として計算する。結束度が極小となる単語境界あるいはその直近の文境界をトピック境界と認定する。
【０００３】
また、形態素解析処理で得られた各単語に対応するベクトルを取得し、単語の境界の前後にある個数の集合である単語列をとり、各単語列を構成する単語のベクトルの情報から前後の単語列の類似尺度、または、距離尺度である単語列結束度を算出し、単語列結束度が類似尺度である場合、極小である単語境界を、距離尺度である場合、極大である単語境界を、テキストの意味段落の境界とする方法がある（特許文献１参照。）。
【０００４】
【特許文献１】
特開２００２−３４２３２４号公報
【０００５】
【非特許文献１】
Ｈｅａｒｓｔ，  Ｍ．Ａ．：  Ｍｕｌｔｉ−Ｐａｒａｇｒａｐｈ  Ｓｅｇｍｅｎｔａｔｉｏｎ  ｏｆ  Ｅｘｐｏｓｉｔｏｒｙ  Ｔｅｘｔ，  ３２ｎｄ  Ａｎｎｕａｌ  Ｍｅｅｔｉｎｇ  ｏｆ  ｔｈｅ  Ａｓｓｏｃｉａｔｉｏｎ  ｆｏｒ  Ｃｏｍｐｕｔａｔｉｏｎａｌ  Ｌｉｎｇｕｉｓｔｉｃｓ，  ｐｐ．９−１６  （１９９４）．
【０００６】
【非特許文献２】
Ｈｅａｒｓｔ，  Ｍ．Ａ．：  ＴｅｘｔＴｉｌｉｎｇ：  Ｓｅｇｍｅｎｔｉｎｇ  Ｔｅｘｔ  ｉｎｔｏ  Ｍｕｌｔｉ−ｐａｒａｇｒａｐｈ  Ｓｕｂｔｏｐｉｃ  Ｐａｓｓａｇｅｓ，  Ｃｏｍｐｕｔａｔｉｏｎａｌ  Ｌｉｎｇｕｉｓｔｉｃｓ，  Ｖｏｌ．２３，  Ｎｏ．１，  ｐｐ．３３−６４  （１９９７）．
【０００７】
【発明が解決しようとする課題】
しかしながら、上記従来のＨｅａｒｓｔ法や単語ベクトルに基づく結束度を用いる方法においては、一定の大きさの窓を各単語境界の前後にとるが、トピック区間が窓幅よりも小さい場合、窓に対応するベクトルは、該トピックの意味を適切に表せず、結果として結束度も適切なものではないため、小さいトピック区間の検出が困難であるという問題がある。
【０００８】
また、Ｈｅａｒｓｔ法や単語ベクトルに基づく結束度を用いる方法では、テキストの局所的な範囲でトピックの変わり目を判断しているため、大きなトピック区間も細かく分断されていくつかのトピック区間として検出されることがあり、大きなトピック区間の検出が困難であるという問題もある。
【０００９】
本発明は、上記の点に鑑みなされたもので、小さなトピック区間と大きなトピック区間の双方の検出の精度を向上させることが可能なトピック境界決定方法及び装置及びトピック境界決定プログラムを提供することを目的とする。
【００１０】
【課題を解決するための手段】
図１は、本発明の原理を説明するための図である。
【００１１】
本発明は、テキストを意味的なまとまりの単位であるトピックに分割し、該トピック間の境界を決定するトピック境界決定方法において、
テキストを形態素解析して、単語に分割する形態素解析過程（ステップ１）と、
単語の意味を表現するベクトルが格納されている記憶手段である概念ベースを検索することによって、形態素解析過程で得られた各単語に対応するベクトルを取得する単語ベクトル取得過程（ステップ２）と、
単語ベクトルの系列において、ある単語または文から、それ以降のある単語または文までの範囲の単語ベクトルの系列である区間に対し、区間内の単語ベクトルの重心ベクトルと各単語ベクトルとの間のユークリッド距離の自乗の和を含むコストを求め、任意の分割数に対し、該分割数の分割を構成する各区間のコストの和の、または、一定の制約条件下における、最小値及び該最小値をとる分割を求める最小コスト分割取得過程（ステップ３）と、
各分割数に対応する最小コスト値間の比を含む、各分割数に対応する最小コストに関係する値及び分割数が一定の条件を満足する分割を最適な分割と認定する最適分割取得過程（ステップ４）と、からなる。
【００１２】
図２は、本発明の原理構成図である。
【００１３】
本発明は、テキストを意味的なまとまりの単位であるトピックに分割し、該トピック間の境界を決定するトピック境界決定装置であって、
テキストを形態素解析して、単語に分割する形態素解析手段１０と、
単語の意味を表現するベクトルが格納されている記憶手段である概念ベース３０と、
概念ベース３０を検索することによって、形態素解析手段１０で得られた各単語に対応するベクトルを取得する単語ベクトル取得手段２０と、
単語ベクトルの系列において、ある単語または文から、それ以降のある単語または文までの範囲の単語ベクトルの系列である区間に対し、区間内の単語ベクトルの重心ベクトルと各単語ベクトルとの間のユークリッド距離の自乗の和を含むコストを求め、任意の分割数に対し、該分割数の分割を構成する各区間のコストの和の、または、一定の制約条件下における、最小値及び該最小値をとる分割を求める最小コスト分割取得手段４０と、
各分割数に対応する最小コスト値間の比を含む、各分割数に対応する最小コストに関係する値及び分割数が一定の条件を満足する分割を最適な分割と認定する最適分割取得手段５０と、からなる。
【００１４】
本発明は、テキストを意味的なまとまりの単位であるトピックに分割し、該トピック間の境界を決定するトピック境界決定プログラムであって、
テキストを形態素解析して、単語に分割する形態素解析ステップと、
単語の意味を表現するベクトルが格納されている記憶手段である概念ベースを検索することによって、形態素解析ステップで得られた各単語に対応するベクトルを取得する単語ベクトル取得ステップと、
単語ベクトルの系列において、ある単語または文から、それ以降のある単語または文までの範囲の単語ベクトルの系列である区間に対し、区間内の単語ベクトルの重心ベクトルと各単語ベクトルとの間のユークリッド距離の自乗の和を含むコストを求め、任意の分割数に対し、該分割数の分割を構成する各区間のコストの和の、または、一定の制約条件下における、最小値及び該最小値をとる分割を求める最小コスト分割取得ステップと、
各分割数に対応する最小コスト値間の比を含む、各分割数に対応する最小コストに関係する値及び分割数が一定の条件を満足する分割を最適な分割と認定する最適分割取得ステップと、を実行する。
【００１５】
上記のように、本発明は、任意の区間列のクラスタ群としての妥当性をもとに最尤の分割を決定することを可能とする。本発明では、任意の区間を考慮しており、テキストの局所的な範囲も大局的な範囲も同時にみて判断を行うことにより、小さなトピック区間と大きなトピック区間の双方の検出の精度が向上する。
【００１６】
【発明の実施の形態】
以下に、図面と共に本発明の実施の形態を説明する。
【００１７】
図３は、本発明の一実施の形態におけるトピック境界決定装置の構成を示す。同図に示すトピック境界決定装置は、形態素解析部１０、単語ベクトル取得部２０、概念ベース３０、最小コスト分割取得部４０、最適分割取得部５０から構成される。
【００１８】
なお、形態素解析部１０、単語ベクトル取得部２０、最小コスト分割取得部４０、最適分割取得部５０は、ＣＰＵ等の制御手段で行い、単語と対応付けられた単語ベクトル、計算されたコストを分割（区間）の組み合わせと対応付けて記憶手段に格納するものとする。
【００１９】
形態素解析部１０は、入力されたテキストを形態素解析して品詞付きの単語に分解する。形態素解析の結果得られた単語の内、付属語等の単語はトピック境界認定に無関係と考えられるので、形態素解析の後、このような不要語を削除してもよい。
【００２０】
単語ベクトル取得部２０は、各単語に対応して意味を示すベクトル値が格納されている概念ベース３０を検索することにより、形態素解析部１０で分解された単語に対する単語ベクトルを取得する。
【００２１】
図４は、本発明の一実施の形態における概念ベース例を示す。同図に示す概念ベース３０は、ハードディスク等の記憶手段に格納され、各単語毎に、ｆ次元のベクトル値が付与されている。概念ベース３０中の単語は、名詞や動詞、形容詞等の自立語である。概念ベース３０における単語ベクトルは、意味的に類似している単語間ほど距離が近く、意味的に類似していない単語間ほど距離が遠くなるように値が設定されている。
【００２２】
概念ベースの例としては、特開平６−１０３３１５の「類似性判別装置」や、特開平７−３０２２６５の「類似性判別用データ精錬方法およびこの方法を実施する装置」で開示されているデータベースがある。
【００２３】
また、Ｄｅｅｒｗｅｓｔｅｒの論文（Ｄｅｅｒｗｅｓｔｅｒ，  Ｓ．，  Ｄｕｍａｉｓ，  Ｓ．Ｔ．，  Ｆｕｒｎａｓ，  Ｇ．Ｗ．，  Ｌａｎｄａｕｅｒ，  Ｔ．Ｋ．，  ａｎｄ  Ｈａｒｓｈｍａｎ，  Ｒ．：  Ｉｎｄｅｘｉｎｇ  ｂｙ  Ｌａｔｅｎｔ  Ｓｅｍａｎｔｉｃ  Ａｎａｌｙｓｉｓ，  Ｊｏｕｒｎａｌ  ｏｆ  ｔｈｅ  Ａｍｅｒｉｃａｎ  Ｓｏｃｉｅｔｙ  ｆｏｒ  Ｉｎｆｏｒｍａｔｉｏｎ  Ｓｃｉｅｎｃｅ，  ｐｐ．３９１−４０７（１９９０））  では、単語の文書における頻度を記録した単語・文書間の共起行列を特異値分解により次元数を縮退させた行列に変換しているが、この変換後の行列も概念ベースの一例である。Ｓｃｈｕｔｚｅ  の論文（Ｓｃｈｕｔｚｅ，Ｈ．：  Ｄｉｍｅｎｓｉｏｎｓ  ｏｆ  Ｍｅａｎｉｎｇ，  Ｐｒｏｃ．  ｏｆ  Ｓｕｐｅｒｃｏｍｐｕｔｉｎｇ  ’９２，ｐｐ．７８６−７９６  （１９９２））では、コーパス中の単語間の共起頻度を記録した単語・単語間の共起行列を特異値分析により次元数を縮退させた行列に変換しているが、この変換後の行列も概念ベースの一例である。
【００２４】
最小コスト分割取得部４０は、単語ベクトルの系列において、ある単語または文から、それ以降のある単語または文までの範囲の単語ベクトルの系列である区間に対し、区間内の単語ベクトルの重心ベクトルと各単語ベクトルとの間のユークリッド距離の自乗の和等のコストを求め、任意の分割数に対し、当該分割数の分割を構成する各区間のコストの和の最小値及び当該最小値をとる分割を求める。また、最小値としては、一定の制約条件下における最小値を用いることもある。
【００２５】
最適分割取得部５０は、各分割数に対応する最小コスト値間の比を含む、各分割数に対応する最小コストに関係する値及び分割数が一定の条件を満足する分割を最適な分割と認定する。
【００２６】
次に、上記の構成における動作を説明する。
【００２７】
図５は、本発明の一実施の形態におけるトピック境界決定のフローチャートである。
【００２８】
ステップ１０１）  形態素解析部１０において、入力テキストを形態素解析して単語に分割する。形態素解析の結果得られた単語のうち、付属語等の単語は、トピック境界認定に無関係と考えられるので、形態素解析の後、このような不要語を削除してもよい。
【００２９】
ステップ１０２）  単語ベクトル取得部２０において、単語の意味を表現するベクトルが格納されている概念ベース３０を検索し、形態素解析部１０で得られた各単語に対応するベクトルを取得する。
【００３０】
ステップ１０３）  最小コスト分割取得部４０において、単語ベクトルの系列において、ある単語または文から、それ以降のある単語または文までの範囲の単語ベクトルの系列である区間に対し、区間内の単語ベクトルの重心ベクトルと各単語ベクトルとの間のユークリッド距離の自乗の和等のコストを求め、任意の分割数に対し、該分割数の分割を構成する各区間のコストの和の、または、一定の制約条件下における最小値及び該最小値をとる分割を求める。例えば、入力テキストの単語ベクトルの系列を、
ｗ１  ，ｗ２  ，…，ｗｘ                      …（数１）
とする。
【００３１】
また、入力テキストの文の系列を、
ｓ１  ，ｓ２  ，…，ｓｇ                      …（数２）
とする。
【００３２】
トピック境界は常に文境界であると仮定した場合、入力テキストを分割する任意の区間列は、文番号１≦ｈ≦ｇの分割
Ｔ１  ＝（１，２，…，ｎ２  −１），
Ｔ２  ＝（ｎ２  ，ｎ２  ＋１，…，ｎ３  −１），
・
・
Ｔｉ  ＝（ｎｉ  ，ｎｉ  ＋１，…，ｎｉ＋１  −１），
・
・
Ｔｊ  ＝（ｎｊ  ，ｎｊ  ＋１，…，ｇ）                      …（数３）
という形になる。各文ｓｈ  は、単語ベクトルの系列
【００３３】
【数１】
2004234512.tif 000003
から成り立っているものとする。
【００３４】
ここで、トピック境界は文境界とは限らないと仮定したときは、上記の（数２）において各文を単語とみなせばよい。
【００３５】
区間Ｔｉ  ＝（ｎｉ  ，ｎｉ  ＋１，…，ｎｉ＋１  −１）のコストｃ（ｎｉ  ，ｎｉ＋１  −１）を、
【００３６】
【数２】
2004234512.tif 000004
【００３７】
【数３】
2004234512.tif 000005
と定義する。ここで、
【００３８】
【数４】
2004234512.tif 000006
は、区間Ｔｉ  内の単語ベクトルの重心ベクトルであり、ｃ（ｎｉ  ，ｎｉ＋１  −１）は、当該重心ベクトルと各単語ベクトルとの間のユークリッド距離の自乗和である。
【００３９】
分割Ｔ１  ，Ｔ２  ，…，Ｔｊ  のコストｅ（Ｔ１  ，Ｔ２  ，…，Ｔｊ  ）を、
【００４０】
【数５】
2004234512.tif 000007
と定義する。各区間をクラスタとみたとき、ｅ（Ｔｉ  ，Ｔ２  ，…，Ｔｊ  ）は、いわゆるクラスタ内変動である。
【００４１】
クラスタ内変動とクラスタ間変動の和は常に全変動に等しいという性質がある。ここでこのことについて説明する。
【００４２】
全変動及びクラスタ間変動の算出は、本発明では必ずしも必要ではない。
【００４３】
入力テキストの単語ベクトルの系列（数１）の全変動Ａは、
【００４４】
【数６】
2004234512.tif 000008
【００４５】
【数７】
2004234512.tif 000009
と定義される。
【００４６】
また、区間列（数３）のクラスタ間変動Ｂ（Ｔ１  ，Ｔ２  ，…，Ｔｊ  ）は、
【００４７】
【数８】
2004234512.tif 000010
と定義される。
【００４８】
任意の区間列（数３）に対し、
Ａ＝Ｂ（Ｔ１  ，Ｔ２  ，…，Ｔｊ  ）＋ｅ（Ｔ１  ，Ｔ２  ，…，Ｔｊ  ）…（数１０）
が成立する。
【００４９】
全変動Ａは一定であるので、クラスタ内変動ｅ（Ｔ１  ，Ｔ２  ，…，Ｔｊ  ）が小さいほど、クラスタ間変動Ｂ（Ｔ１  ，Ｔ２  ，…，Ｔｊ  ）は大きくなり、各区間の間はクラスタとしてよく分離されているといえる。
【００５０】
上記の（数１０）の式から分かることは、ある区間列を更に細分割して得られる区間列のコストは、分割前の区間列のコスト以下となるということである。クラスタ内変動ｅ（Ｔ１  ，Ｔ２  ，…，Ｔｊ  ）は、分割数が一つの場合（ｊ＝１）、最も大きく、各区間が一文の場合（ｊ＝ｇ）、最も小さくなる。従って、クラスタ群として妥当かどうかは、分割数を固定した場合に意味がある。
【００５１】
任意の分割数ｊに対し、分割数ｊの分割のコストの最小値及び当該最小値をとる分割を求める。
【００５２】
文の系列ｓ１  ，ｓ２  ，…，ｓｈ  （１≦ｈ≦ｇ）をｑ個に分割する分割で、最小のコストをとる分割をＰ（ｈ，ｑ）と表すことにする。
【００５３】
Ｐ（ｈ，ｑ）：Ｔ１  ＝（１，２，…，ｎ２  −１），…，
Ｔｑ−１  ＝（ｎｑ−１  ，ｎｑ−１  ＋１，…，ｎｑ  −１），
Ｔｑ  ＝（ｎｑ  ，ｎｑ  ＋１，…，ｈ）              …  （数１１）
としたとき、区間列のコストは、各区間のコストの和なので、
Ｐ（ｎｑ  −１，ｑ−１）：Ｔ１  ＝（１，２，…ｎ２  −１），…，Ｔｑ−１  ＝（ｎｑ−１  ，ｎｑ−１  ＋１，…ｎｑ  −１）…（数１２）
となる。
【００５４】
この性質を用いて、任意の分割数ｊに対し、Ｐ（ｇ，ｊ）及びｅ（Ｐ（ｇ，ｊ））を、以下のダイナミック・プログラミングで効率的に求めることができる。
（１）  １≦ｒ≦ｓ≦ｇなるすべてのｒ，ｇに対して、区間（ｒ，ｒ＋１，…，ｓ）のコストＣ（ｒ，ｓ）を計算する。
【００５５】
（２）  ｅ（Ｐ（ｈ，２））（２≦ｈ≦ｇ）を、
【００５６】
【数９】
2004234512.tif 000011
として求める。
【００５７】
【数１０】
2004234512.tif 000012
として記憶しておく。
【００５８】
（３）  分割数３≦ｑ≦ｇに対し、ｅ（Ｐ（ｈ，ｑ））（ｑ≦ｈ≦ｇ）を、
【００５９】
【数１１】
2004234512.tif 000013
として求める。
【００６０】
【数１２】
2004234512.tif 000014
として記憶しておく。
【００６１】
（４）  分割数２≦ｊ≦ｇに対し、分割Ｐ（ｇ，ｊ）を求める。
【００６２】
2004234512.tif 000015
より求めようとする区間列の一番最後の区間の最初の文番号を取得できることから、分割Ｐ（ｇ，ｊ）の区間列を得ることができる。
【００６３】
ステップ１０４）  最適分割取得部５０において、各分割数に対応する最小コスト値間の比を含む、各分割数に対応する最小コストに関係する値及び分割数が一定の条件を満足する分割を最適な分割と認定する。
【００６４】
分割数ｊの最小コストｅ（Ｐ（ｇ，ｊ））をＥｊ  と表すことにする。上記の（数１０）の式により、ｊが増えるにつれ、Ｅｊ  は、単調減少していく。
【００６５】
最適分割認定の一例として、Ｅｊ  の平均をμ、標準偏差をσとしたときに、閾値α＝μ＋ｚσ（ｚ：例えば、１．５）をとり、
【００６６】
【数１３】
2004234512.tif 000016
となるｊで、最大のｊに対応する分割Ｐ（ｇ，ｊ）を最適分割と認定する。
【００６７】
最小コスト値の間の比
【００６８】
【数１４】
2004234512.tif 000017
は一般に、ｊが増えるにつれ単調減少していく傾向がある。分割がトピック分割とほぼ一致しているとき、それ以上分割数が増えてもコストは殆どで減少することなく変わらず、比の値は１に近くなる。最適分割認定の別の一例として、閾値α（α：例えば１．０００５）をとり、Ｒｊ  ≧αとなるｊで、最大のｊに対応する分割Ｐ（ｇ，ｊ）を最適分割と認定する。
【００６９】
また、別の一例として、Ｒｊ  の平均をμ、標準偏差をσとしたときに、閾値α＝μ＋ｚσ（ｚ：例えば０．８）をとり、
【００７０】
【数１５】
2004234512.tif 000018
となるｊで、最大のｊに対応する分割Ｐ（ｇ，ｊ）を最適分割と認定する。
【００７１】
以上、一連の各過程の説明を行ったが、上記のステップ１０３において、区間Ｔｉ  ＝（ｎｉ  ，ｎｉ  ＋１，…，ｎｉ＋１  −１）のコストＣ（ｎｉ  ，ｎｉ＋１  −１）として、以下のように区間内の単語ベクトルのメディアン（各座標毎に中央値をとって得られるベクトル）と各単語ベクトルとの間のマンハッタン距離（各座標毎に値の差の絶対値をとり、それを全ての座標にわたって足し合わせた値）の和をとることもできる。
【００７２】
【数１６】
2004234512.tif 000019
【００７３】
【数１７】
2004234512.tif 000020
また、上記のステップ１０３において、任意の分割数に対し、当該分割数で、コストが最小ではないが、一定の制約条件下で最小となる分割及びそのコストを、先に述べたダイナミック・プログラミングよりも短い時間で求めることができる。例えば、以下の（１）、（２）の方法が挙げられる。
【００７４】
（１）  文番号列１≦ｈ≦ｇを２分割するコスト最小の分割を求める。次に、先に２分割した分割位置は固定のまま、文番号列１≦ｈ≦ｇを３分割するコスト最小の分割を求める。以降同様に、これまで得られた分割位置を固定したまま、１回分割してコストが最小となる分割を求めていく。
【００７５】
（２）  文番号列１≦ｈ≦ｇをｇ分割されたｇ個のクラスタとする。隣接する２個のクラスタを結合して１つのクラスタにすることによって、コストが最小となる分割を求める。以降同様に、これまで得られたクラスタは分割することなく、隣接する２個のクラスタを結合して１つのクラスタにすることによって、コストが最小となる分割を求めていく。
【００７６】
なお、上記の形態素解析、単語ベクトル取得、コスト計算、分割取得等の処理をプログラムとして構築し、当該プログラムを通信回線または、記憶媒体からインストールし、ＣＰＵ等の制御手段で実施することが可能である。
【００７７】
なお、本発明は、上記の実施の形態に限定されることなく、特許請求の範囲内において、種々変更・応用が可能である。
【００７８】
【発明の効果】
上述のように、本発明によれば、任意の区間列のクラスタ群としての妥当性をもとに最尤の分割を決定し、また、任意の区間を考慮しており、テキストの局所的な範囲も大局的な範囲も同時にみて判断行うことにより、小さなトピック区間と大きなトピック区間の双方の検出の精度が向上する。
【図面の簡単な説明】
【図１】本発明の原理を説明するための図である。
【図２】本発明の原理構成図である。
【図３】本発明の一実施の形態におけるトピック境界決定装置の構成図である。
【図４】本発明の一実施の形態における概念ベースの例である。
【図５】本発明の一実施の形態におけるトピック境界決定のフローチャートである。
【符号の説明】
１０  形態素解析手段、形態素解析部
２０  単語ベクトル取得手段、単語ベクトル取得部
３０  概念ベース
４０  最小コスト分割取得手段、最小コスト分割取得部
５０  最適分割取得手段、最適分割取得部
【図１】
2004234512.tif 000021
【図２】
2004234512.tif 000022
【図３】
2004234512.tif 000023
【図４】
2004234512.tif 000024
【図５】
2004234512.tif 000025