(57)【特許請求の範囲】
【請求項１】
自然言語からなる文章における単語間の共起情報を記憶する共起情報記憶手段と、
自然言語からなる文章を入力する文章入力手段と、
該文章入力手段から入力された前記文章を、単語を単位にして分割する形態素解析手段と、
該形態素解析手段が分割した単語に基づいて前記共起情報記憶手段に記憶された共起情報を参照し、前記文章のトピックを抽出するトピック抽出手段と
を備え、
前記トピック抽出手段は、
前記形態素解析手段が分割した単語を入力し、該単語に対して共起し易い単語を、前記共起情報記憶手段に記憶された共起情報から参照し、この参照が、前記共起し易い単語の中で前記入力された文章に現われる単語だけを対象とする共起情報参照手段と、
前記分割した単語に対して共起し易い単語の中で前記入力された文章に現われる単語を、単語クラスタ（グループ）に纏める単語クラスタ纏め手段と、
該単語クラスタ纏め手段が纏めた単語クラスタ内における個々の単語の出現割合を計算する第１出現割合計算手段と、
前記単語クラスタ纏め手段が纏めた複数の単語クラスタからなるトピックの前記入力した文章全体における出現割合を計算する第２出現割合計算手段と
を備えた
ことを特徴とする文章処理装置。
【請求項２】
前記文章入力手段から入力した文章を、段落で分割する文章分割手段を備えた
ことを特徴とする請求項１記載の文章処理装置。
【請求項３】
前記トピック抽出手段が抽出した文章のトピックを表示する表示手段を備えた
ことを特徴とする請求項１または請求項２記載の文章処理装置。
【請求項４】
前記トピック抽出手段が抽出した文章のトピックを表示する表示手段を備え、
前記表示手段は、前記文章分割手段で分割した文章と、前記単語クラスタ纏め手段が纏めた単語クラスタと、前記第２出現割合計算手段が計算したトピックの出現割合とを、３次元で表示する
ことを特徴とする請求項２記載の文章処理装置。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、文章処理装置に関し、特に英語，日本語等の自然言語の文章から、その文章がトピックとしている事柄を正確に反映して抽出することが可能な文章処理装置に関する。
【０００２】
【従来の技術】
インターネットや電子図書館において、英語，日本語等の自然言語によって書かれた文章（テキスト，ドキュメント）から情報検索，情報抽出，情報要約を、如何に有効に行うかが益々重要な課題になってきている。
【０００３】
従来、文章のトピック（話題）をキーワードの形で表現し、キーワードを文章から自動的に抽出する技術が開発されている。ユーザにキーワードを提示することによって、文章のトピックを大まかに把握してもらうことができる。例えば、文章内に現われる単語のｔｆ−ｉｄｆと呼ばれる重みを計算し、ｔｆ−ｉｄｆの値の大きい単語をキーワードとする方法が広く使われている（Ｇ．  Ｓａｌｔｏｎ，  Ａ．  Ｗｏｎｇ  ａｎｄ  Ｃ．Ｓ．  Ｙａｎｇ，  Ａ  Ｖｅｃｔｏｒ  Ｓｐａｃｅ  Ｍｏｄｅｌ  ｆｏｒ  Ａｕｔｏｍａｔｉｃ  Ｉｎｄｅｘｉｎｇ，  Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ  ｏｆ  ｔｈｅ  ＡＣＭ，  Ｖｏｌｕｍｅ  １８，  Ｎｕｍｂｅｒ  １１，ｐｐ  ６１３−６２０，  １９７５）。ｔｆ−ｉｄｆの値は、単語の注目文章内における頻度と比例する。つまり、単語が注目文章内に頻繁に現われれば、そのｔｆ−ｉｄｆの値も大きい。
【０００４】
別の従来技術は、文章自動分割（セグメンテーション）技術の開発である。例えば、ハーストが提案した方式（Ｍａｒｔｉ  Ｈｅａｒｓｔ，  ＴｅｘｔＴｉｌｉｎｇ：  Ｓｅｇｍｅｎｔｉｎｇ  Ｔｅｘｔ  ｉｎｔｏ  Ｍｕｌｔｉ−ｐａｒａｇｒａｐｈ  Ｓｕｂｔｏｐｉｃ  Ｐａｓｓａｇｅｓ，  Ｃｏｍｐｕｔａｔｉｏｎａｌ  Ｌｉｎｇｕｉｓｔｉｃｓ，  Ｖｏｌｕｍｅ  ２３，  Ｎｕｍｂｅｒ  １，  ｐｐ  ３３−６４，  １９９７）では、単語の出現頻度ベクトルの間の距離を基に、文章を幾つかの部分に分割することができる。また、「特開平１１−２７２６９９号公報：文章要約装置およびその方法」のようなハーストの方式を拡張したものも提案されている。
【０００５】
【発明が解決しようとする課題】
従来のキーワード方式では、キーワード、つまり、単語を基に文章のトピックを抽出する場合、それをうまく抽出できないことがあった。例えば、トピックを表す単語の出現頻度の低い時、それらの単語の表すトピックも抽出され難かった。例えば、或る新聞記事に、「貿易」，「関税」，「輸入」，「輸出」という単語が一回ずつ現われたと仮定する。「貿易」，「関税」，「輸入」，「輸出」は全て貿易と関係するものなので、「貿易」というトピックが抽出されるべきである。しかし、個々の単語の出現頻度が低いので、それらの単語はキーワードとして抽出され難かった。よって、それらの単語の表す「貿易」というトピックも抽出され難かった。
【０００６】
また、従来の文章自動分割方式では、単語の出現頻度ベクトルに基づいて文章の分割を行っているので、文章をそのトピック構造の変化に応じてうまく分割することができなかった。更に、分割された各部分のトピックはキーワード抽出法を用いて抽出する以外に方法がなかった。ここにも前記キーワードによるトピック抽出の問題点がある。
【０００７】
そこで本発明の課題は、英語，日本語等の自然言語の文章から、その文章がトピックとしている事柄を正確に反映して抽出することが可能な文章処理装置を提供することである。
【０００８】
【課題を解決するための手段】
前記課題を解決するために本発明は、自然言語からなる文章における単語間の共起情報を記憶する共起情報記憶手段と、自然言語からなる文章を入力する文章入力手段と、該文章入力手段から入力された前記文章を、単語を単位にして分割する形態素解析手段と、該形態素解析手段が分割した単語に基づいて前記共起情報記憶手段に記憶された共起情報を参照し、前記文章のトピックを抽出するトピック抽出手段とを備え、前記トピック抽出手段は、前記形態素解析手段が分割した単語を入力し、該単語に対して共起し易い単語を、前記共起情報記憶手段に記憶された共起情報から参照し、この参照が、前記共起し易い単語の中で前記入力された文章に現われる単語だけを対象とする共起情報参照手段と、前記分割した単語に対して共起し易い単語の中で前記入力された文章に現われる単語を、単語クラスタ（グループ）に纏める単語クラスタ纏め手段と、該単語クラスタ纏め手段が纏めた単語クラスタ内における個々の単語の出現割合を計算する第１出現割合計算手段と、前記単語クラスタ纏め手段が纏めた複数の単語クラスタからなるトピックの前記入力した文章全体における出現割合を計算する第２出現割合計算手段とを備えたことを特徴とする。
【０００９】
また、前記文章入力手段から入力した文章を、段落で分割する文章分割手段を備えたことを特徴とする。
このようにすれば、トピック抽出手段が文章を構成する単語の共起情報に基づいて文章のトピックを抽出するので、文章のトピックを正確に抽出することができる。
【００１０】
さらに、このようにすれば、例えば図１２（Ｂ）に示すように、共起し易い単語のクラスタ（例えば貿易関係トピックのクラスタ）における個々の単語（例えばtrade）の出現割合（この場合は0．4（=40％））が一目で判別できる。
しかも、このようにすれば、例えば図１２（Ｂ）に示すように、共起し易い単語のクラスタ（貿易関係トピック，時間関係トピック，OTHERSの各クラスタ）からなるトピックが、文章全体でどの程度出現するかの割合が一目で判別できる。例えば、OTHERSのクラスタは、文章全体で0.4（=40％）の割合で出現している。
【００１１】
また、前記トピック抽出手段が抽出した文章のトピックを表示する表示手段を備えたことを特徴とする。
このようにすれば、例えば図１２（Ｂ）のように表示できる。
【００１２】
また、前記トピック抽出手段が抽出した文章のトピックを表示する表示手段を備え、前記表示手段は、前記文章分割手段で分割した文章と、前記単語クラスタ纏め手段が纏めた単語クラスタと、前記第２出現割合計算手段が計算したトピックの出現割合とを、３次元で表示することを特徴とする。
このようにすれば、例えば図１６に示すように、単語クラスタをＸ軸方向,段落をＹ軸方向,確率（出現割合）をＺ軸方向に表現するので、単語クラスタのトピックの出現割合を一目で判別できる。
【００１３】
【発明の実施の形態】
以下、本発明を図示の第１〜第４実施例に基づいて説明する。第１〜第４実施例の文章処理装置Ｂの基本構成を図１に示し、夫々の実施例の相違点は処理部４０の構成のみである。
【００１４】
（１）第１実施例
図１に示すように、本実施例の文章処理装置Ｂは、「共起情報記憶手段」である記憶部１０と、「文章入力手段」である入力部２０と、「形態素解析手段」である形態素解析部３０と、「トピック抽出手段」である処理部４０と、表示部５０を備える。
【００１５】
記憶部１０は、単語の共起情報を記憶し、どの単語とどの単語が共起し易いという単語の共起情報を記憶する。ここに、共起とは、言語学で２つ以上の言語現象が同じ発話や文の中で同時に起り得ることをいい、例えば「よちよち」は「歩く」とは共起するが、「走る」とは共起しない（三省堂、新明解国語辞典・第五版）。  図２に単語（英語）の共起情報の具体例を示す。例えば、単語「ｔｒａｄｅ」は、単語「ｉｍｐｏｒｔ］，「ｅｘｐｏｒｔ］等と共起し易い、つまり、単語間における共起し易いことに関する情報が共起情報である。
【００１６】
記憶部１０における単語の共起情報は人間が作成したものでもよく、コンピュータが自動的に収集したものでもよい。コンピュータが自動的に収集する場合、最も簡単な方法は、大量の文章を集め、同じ文章に現われる任意の二つの単語の共起頻度をカウントし、共起頻度の高い単語ペアが共起し易いと判断することである。但し、本発明において、共起情報の集め方はここで説明した方法に限定するものではない。
【００１７】
入力部２０は、英語，日本語等の自然言語の文章を入力する。文章が長いものでもよく、短いものでもよい。
【００１８】
形態素解析部３０は入力部２０から文章を入力し、単語の列に分割する。図３（Ａ）は日本語の文章の一例を示す。図３（Ｂ）は、図３（Ａ）の文章に対して形態素解析を行った結果の例を示す。即ち、日本語では形態素解析によって文章が単語に分割される。図４（Ａ）は英語の文章の一例を示す。図４（Ｂ）は、図４（Ａ）の文章に対して形態素解析を行った結果の例を示す。即ち、英語では形態素解析によって単語が原型に変換される。
【００１９】
図５は第１実施例の処理部４０の構成図である。
処理部４０は、形態素解析部３０から単語の列を入力し、記憶部１０に記憶された単語共起情報を参照する「共起情報参照手段」である共起情報参照部４１と、単語の列における共起し易い単語を単語のクラスタに纏める「単語クラスタ纏め手段」である単語クラスタ纏め部４２を備える。
【００２０】
また、処理部４０は、単語のクラスタからなる確率モデルを作成する線形結合モデル作成部４３を備える。前記確率モデルは、単語クラスタ内の確率分布を単語クラスタ間の確率分布によって線形結合する（線形結合モデルと称する）（図１２（Ｂ）参照・後述する）。また、線形結合モデルにおける単語クラスタ内の確率分布と単語クラスタ間の確率分布を計算する確率モデル計算部４４を備える。
【００２１】
例えば、或る単語クラスタ内の確率分布で或る単語の出現頻度が低い場合でも、前記或る単語は単語クラスタ間では出現頻度が高い場合がある。従って、線形結合モデルを作成することにより、或る単語クラスタ内の出現頻度のみならず、単語クラスタ間の出現頻度を含めた、文章全体のトピックを正確に反映することができることになる。前記線形結合モデル作成部４３と確率モデル計算部４４とが「第１出現割合計算手段」と「第２出現割合計算手段」を構成する。
【００２２】
表示部５０は、処理部４０から単語クラスタ間の確率分布を入力し、単語クラスタ間の確率分布、或は単語クラスタ間の確率分布における確率の高い単語クラスタを、文章処理装置のユーザに表示する。
【００２３】
図６は、本実施例の文章処理装置の処理のフローチャートを示す。
本実施例の文章処理装置を用いれば、図７（Ａ）に示す入力文章から、図７（Ｂ）に示す単語クラスタによって表現されたトピックを、表示部５０を介してユーザに提示する。図７（Ｂ）の単語クラスタ「ｍｏｎｔｈ−Ｊａｎｕａｒｙ−Ｆｅｂｒｕａｒｙ」が一つのトピックを表し、図７（Ｃ）の単語クラスタ「ｔｒａｄｅ−ｅｘｐｏｒｔ−ｉｍｐｏｒｔ」が別のトピックを表す。
【００２４】
図７（Ｃ）は、図７（Ａ）の文章からｔｆ−ｉｄｆを使って抽出したキーワード（トピック）である。共に７単語からなるものであるが、図７（Ｂ）の抽出されたトピックが、図７（Ｃ）の抽出されたトピックより適切であることがわかる。また、ユーザにとって図７（Ｂ）のほうが図７（Ｃ）より分り易いことも明らかである。
【００２５】
以下、どのようにして、単語クラスタ纏め部４２が単語を単語クラスタに纏め、線形結合モデル作成部４３が線形結合モデルを作成し、確率モデル計算部４４が線形結合モデルにおける確率分布を計算するかについて、具体的に説明する。
【００２６】
単語クラスタ纏め部４２は、例えば、以下のように入力文章にある単語を単語クラスタに纏める。但し、本発明において、単語クラスタの纏め方はここで説明した方法に限定されるものではない。
先ず、入力文章中の各単語のｔｆ−ｉｄｆの値を図８（Ａ）のように計算し、ｔｆ−ｉｄｆの値の高いものを集める。以下、ｔｆ−ｉｄｆの大きい単語をシード単語と呼ぶことにする。図８（Ｂ）は、図８（Ａ）の文章から抽出したシード単語を示す。
【００２７】
共起情報参照部４１は、シード単語に対して共起し易い単語を記憶部１０から参照する。なお、共起し易い単語の中で、入力文章に現われるものだけを対象にする。図９（Ａ）に示すのは、シード単語に共起しやすく、入力文章に現われた単語である。
【００２８】
単語クラスタ纏め部４２は、シード単語と、それに共起しやすく入力文章に現われた単語を一つの単語クラスタに纏める。つまり、シード単語を中心に同義語や関連語の一つの単語集合を作成する。単語クラスタには必ずシード単語がある。また、入力文章に現われたその他の単語を一つの特別なクラスタ「ＯＴＨＥＲＳ」に纏める。図９（Ｂ）に示すのは纏められた単語クラスタの例である。
【００２９】
次に単語クラスタ纏め部４２は、作成された単語クラスタを更に幾つかの大きい単語クラスタにマージ（合併）する。但し、このマージの処理を省略してよい。また、マージの方法はここで説明した方法に限定するものではない。
単語クラスタ纏め部４２は、シード単語が互いに共起し易い二つのクラスタをマージする。例えば、シード単語「ｔｒａｄｅ」の共起単語に「ｓｕｒｐｌｕｓ」がある。同時に、シード単語「ｓｕｒｐｌｕｓ」の共起単語に「ｔｒａｄｅ」がある。単語クラスタ纏め部４２は、この「ｔｒａｄｅ」と「ｓｕｒｐｌｕｓ」をシード単語として持つ二つの単語クラスタを一つに纏める。処理部４０の単語クラスタマージアルゴリズムを図１０に示す。更に、図１１にそのフローチャートを示す。
【００３０】
処理部４０の線形結合モデル作成部４３は、単語クラスタからなる線形結合モデルを作成する。前述の如く線形結合モデルは、文章内におけるトピックの変化を正確に反映するものである。具体的には、単語クラスタはトピックに対応し、単語クラスタに属する単語はそのトピックに関連している単語であると解釈することができる。一般に、文章は或る一つのトピックに集中するが、そのトピックから離れた別のトピックに一時的に移行する場合がある。また、文章が一つのトピックに集中しているときは、そのトピックに関連の深い単語を多く用いる傾向がある。例えば、或る文章に「ｔｒａｄｅ」というトピックについて論じることが多く、そのとき「ｔｒａｄｅ」に関連の深い単語を多く用いるが、たまには「ｐｏｌｉｔｉｃｓ」のトピックに移行することもある。即ち、「ｐｏｌｉｔｉｃｓ」に関連の深い言葉を用いるようになる。
【００３１】
図１２（Ａ）は線形結合モデルの数式を示す。Ｗが単語を表し、ｋが単語クラスを表す。単語ｗの単語クラスタｋからの生起確率はＰ（ｗ／ｋ）と表現される。Ｐｋ（ｗ／ｋ）はクラスタ内分布における確率である。単語クラスタｋの生起確率はＰ（ｋ）と表現される。Ｐ（ｋ）はクラスタ間の分布における確率である。
【００３２】
図１２（Ｂ）は線形結合モデルの例を示す。単語クラスタはトピックを表す。図１２（Ｂ）では、例えば、左の単語クラスタが貿易関係のトピックを表し、真中の単語クラスタが時間関係のトピックを表す。また、右の単語クラスタがＯＴＨＥＲＳに当たる。同じ単語が複数の単語クラスタに属してもよい。
【００３３】
単語クラスタ間の確率分布は、トピックが夫々どのぐらいの確率（相対頻度）で入力文章で言及されているかを表す。単語クラスタ内の確率分布は、単語が夫々どのぐらいの確率で関係するトピック内で言及されているかを表す。例えば、図１２（Ｂ）では、値「０．３（３０％），０．３（３０％），０．４（４０％）」が単語クラスタ間の分布を示す。これは、或る文章内で、貿易関係のトピック、時間関係のトピック、およびＯＴＨＥＲＳが夫々０．３（３０％），０．３（３０％），０．４（４０％）の確率で言及されている（登場している）ことを意味する。また、例えば、貿易関係の単語クラスタでは、値「０．４，０．１，０．２５，０．２５」が一つの単語クラスタ内の確率分布を形成する。単語「ｔｒａｄｅ」が０．４の確率で貿易関係のトピックで言及されるていることを意味する。
【００３４】
処理部４０の確率モデル計算部４４は、入力文章における単語の出現頻度を基に、線形結合モデルの確率を計算する。計算のアルゴリズムを図１３に示す。この計算では、線形結合モデルにおける確率値の初期値を先ず適宜に設定する。次に、文章における単語の出現頻度を基に繰り返し計算によって線形結合モデルの各確率値を計算する。この計算によって、例えば文章内で貿易関係の単語が多ければ、貿易関係のトピック（単語クラスタ）の確率が大きくなる。また、文章内で「ｉｍｐｏｒｔ」の出現頻度が多ければ、貿易関係のトピック（単語クラスタ）内で「ｉｍｐｏｒｔ」の確率が大きくなる。但し、本発明において、確率の計算方法はここで説明した方法に限定されるものではない。
【００３５】
表示部５０が最終的に確率の高いキーワードではなく、確率の高い単語クラスタをユーザにトピックとして表示する。或は、表示部５０は、単語クラスタ間の確率分布そのものをユーザに表示する。但し、本発明においてユーザへのトピックの表示方法はここで説明された方法に限定されるものではない。
【００３６】
（２）第２実施例
本実施例の構成は前述の如く処理部４０Ａのみが第１実施例と相違し、その他の記憶部１０，入力部２０，形態素解析部３０，表示部５０は第１実施例に同一である。
図１４は本実施例の処理部４０Ａを示し、共起情報参照部４１と単語クラスタ纏め部４２と線形結合モデル作成部４３は第１実施例に同一なので、重複説明を省略する。
【００３７】
処理部４０Ａの文章分割部４５は、入力された単語の列を幾つかの部分に分割し、線形結合モデル作成部４３は分割された各部分において、纏められた単語クラスタからなる線形結合モデルを作成する。更に、確率分布計算部４６は、各部分における線形結合モデル中の単語クラスタ内の確率分布と単語クラスタ間の確率分布を計算する。
表示部５０は、確率分布計算部４６から各部分における単語クラスタ間の確率分布、或は単語クラスタ間の確率分布における確率の高い単語クラスタを入力し、ユーザに表示する。
【００３８】
図１５は、本実施例の文章処理装置の処理のフローチャートを示す。
本実施例の文章処理装置は文章を幾つかの部分に分割し（第一段落，第二段落，第三段落等）、それぞれの部分の重要トピックとして単語クラスタを抽出する点で前記第１実施例と異る。
文章の分割は従来法、例えば、ハースト法を用いることが考えられる。但し、ハースト法に限定するものではない。
【００３９】
例えば、図１６に示すのは、本実施例の文章処理装置が表示した文章内の各部分のトピックの例である。文章は、その内容に応じて分割され、また、各分割された部分のトピックは単語クラスタとその確率によって表現される。即ち、Ｘ軸方向に単語クラスタを示し、Ｙ軸方向に分割されたブロックを示し、Ｚ軸方向に単語クラスタの確率を示す。この表示によってユーザが素早く文章のトピック構造を的確に把握することができる。
【００４０】
また、例えば、図１７に示すのは、本実施例の文章処理装置が表示した文章の分割された各部分と各部分のトピックの例である。この表示によってユーザが文章のトピック構造を的確に把握することができる。ここでは、各部分のトピックを太字表示や赤色表示することにより、ユーザに一目でトピックが何であるかを分かり易くしてもよい。
本発明においてユーザへのトピックの表示方法はここで説明された方法に限定されるものではない。
【００４１】
（３）第３実施例
本実施例の構成は前述の如く処理部４０Ｂのみが第１実施例と相違し、その他の記憶部１０，入力部２０，形態素解析部３０，表示部５０は第１実施例に同一である。
図１８は本実施例の処理部４０Ｂを示し、共起情報参照部４１と単語クラスタ纏め部４２と線形結合モデル作成部４３は第１実施例に同一なので、重複説明を省略する。
【００４２】
処理部４０Ｂの文章分割部４７は、線形結合モデルを用いて入力された単語の列を幾つかの部分に分割し、確率分布計算部４８は、各部分における線形結合モデル中の単語クラスタ内の確率分布と単語クラスタ間の確率分布を計算する。
表示部５０は、確率分布計算部４８から、各部分における単語クラスタ間の確率分布、或は単語クラスタ間の確率分布における確率値の高い単語クラスタを入力し、ユーザに表示する。
【００４３】
図１９は、本実施例の文章処理装置の処理のフローチャートを示す。
本実施例の文章処理装置は、先ず線形結合モデルを作成し、それから作成された線形結合モデルを用いて文章を分割する。線形結合モデルを用いて分割を行う点で第２実施例と異る。
処理部４０Ｂの線形結合モデル作成部４３が作成した線形結合モデルは、図１２（Ａ）に示すものと同じである。
文章分割部４７は、線形結合モデルを用いて文章の分割を行う。以下はその方法を示す。但し、線形結合モデルを用いた文章の分割法は以下の説明に限定されたわけではない。
【００４４】
先ず、入力文章における分割点となり得る点を特定する。通常文章内の各文の終わりがこのような点に当たる。例えば、図７（Ａ）の文章では、「ｓａｉｄ．」、「ｒｅｓｐｅｃｔｉｖｅｌｙ．」、「ｙｅａｒ．」の直後が分割点となり得る点である。
次に、分割点の左と右のｋ単語内の単語を集め、夫々を一つの疑似文章とする。或は、左右ｋ文内の単語を集め、夫々を一つの疑似文章としてもよい。ｋは予め決めた値である。左右夫々の疑似文章を基に作成された線形結合モデルにおける確率分布を計算する。確率の計算法は図１３に示すものであってもよいが、例えば、図２０に示すものでもよい。
【００４５】
次に、計算された左右の二つの線形結合モデルの間の距離を計算する。図２１は確率モデルの間の距離の計算式を示す。左右の線形結合モデルの間の距離が予め定められた閾値以上であれば、この点が分割点であると判断する。
以上の処理を全ての分割点の候補に対して行い、分割点となる点を決め、文章の分割を行う。
表示部５０は、例えば、分割された各部分の確率の大きい単語クラスタをトピックとし、ユーザに表示する。
【００４６】
（４）第４実施例
本実施例は入力部２０に大量の文章を入力した場合であり、文章処理装置の構成は前記第３実施例に同じである。
処理部４０の文章分割部４７は、線形結合モデルを用いて入力された単語の列を幾つかの部分に分割し、各部分における線形結合モデル中の単語クラスタ内の確率分布と単語クラスタ間の確率分布を計算する。
【００４７】
表示部５０は、処理部４０から、各部分における単語クラスタ間の確率分布、或は単語クラスタ間の確率分布における確率の高い単語クラスタを入力し、ユーザに表示する。
本実施例の文章処理装置の特徴は大量の文章の時系列におけるトピックの変化を表示できることである。例えば、一年間の新聞記事を入力し、その年の新聞記事におけるトピックの変化状況をみることができる。
【００４８】
【発明の効果】
以上説明したように本発明によれば、文章から意味のまとまった単語クラスタを抽出し、文章のトピックとしているので、キーワードにより正確にかつユーザにわかり易い形でトピックを抽出することができる。図７（Ｂ），（Ｃ）の例からこのことがよくわかる。
また、文章を分割し、分割された各部分のトピックを示すことによって、文章の内容を更にユーザに分り易い形で表示することができる。ユーザは本発明を使って重要なトピックだけでなく、文章内におけるトピックの変化もみることができる。
【図面の簡単な説明】
【図１】本発明の各実施例の構成図である。
【図２】同各実施例に適用する単語の共起情報の例である。
【図３】入力文章の例である。
【図４】別の入力文章の例である。
【図５】第１実施例の処理部の構成図である。
【図６】第１実施例のフローチャートである。
【図７】第１実施例における処理例であり、（Ａ）は文章の例、（Ｂ）は（Ａ）の文章から抽出した単語クラスタ、（Ｃ）は（Ａ）の文章から抽出したキーワードである。
【図８】（Ａ）は単語のｔｆ−ｉｄｆの値の計算式、（Ｂ）は図７（Ａ）のｔｆ−ｉｄｆの値の大きい単語である。
【図９】（Ａ）は図７（Ａ）の文章のシード単語と共起情報、（Ｂ）は図７（Ａ）の文章のシード単語とそのクラスタである。
【図１０】単語クラスタのマージのアルゴリズムである。
【図１１】単語クラスタのマージのフローチャートである。
【図１２】（Ａ）は線形結合モデルの計算式、（Ｂ）は線形結合モデルの例である。
【図１３】線形結合モデルにおける確率分布の計算方法である。
【図１４】第２実施例の処理部の構成図である。
【図１５】第２実施例における処理のフローチャートである。
【図１６】第２実施例の出力例である。
【図１７】第２実施例の出力例である。
【図１８】第３実施例の処理部の構成図である。
【図１９】第３実施例のフローチャートである。
【図２０】線形結合モデルにおける確率分布計算方法である
【図２１】線形結合モデルの間の距離の計算式である。
【符号の説明】
Ｂ  文章処理装置
１０  記憶部
２０  入力部
３０  形態素解析部
４０，４０Ａ，４０Ｂ  処理部
４１  共起情報参照部
４２  単語クラスタまとめ部
４３  線形結合モデル作成部
４４  確率モデル計算部
４５  単語後列分割部
４６  確率分布計算部
４７  文章分割部
４８  確率分布計算部
５０  表示部
【図１】
0003606159.tif 000002
【図２】
0003606159.tif 000003
【図３】
0003606159.tif 000004
【図４】
0003606159.tif 000005
【図５】
0003606159.tif 000006
【図６】
0003606159.tif 000007
【図７】
0003606159.tif 000008
【図８】
0003606159.tif 000009
【図９】
0003606159.tif 000010
【図１０】
0003606159.tif 000011
【図１１】
0003606159.tif 000012
【図１２】
0003606159.tif 000013
【図１３】
0003606159.tif 000014
【図１４】
0003606159.tif 000015
【図１５】
0003606159.tif 000016
【図１６】
0003606159.tif 000017
【図１７】
0003606159.tif 000018
【図１８】
0003606159.tif 000019
【図１９】
0003606159.tif 000020
【図２０】
0003606159.tif 000021
【図２１】
0003606159.tif 000022