(57)【特許請求の範囲】
【請求項１】
単語系列を入力とし、その単語系列の内容を表す複数の話題単語を話題抽出モデルを用いて抽出する、頻度テーブルと話題抽出メモリを有するコンピュータが行う処理方法であって、
本文とその見出しよりなる多数の記事テキストを学習データとし記事テキストを解析して、記事テキストの見出しから話題単語を、記事テキストの本文から文中単語を得る工程と、
上記各話題単語の出現頻度と、上記各文中単語の出現頻度と、１つの記事テキスト中の上記話題単語と上記文中単語の各組み合せが同時に得られる共起頻度とをそれぞれ計数し、記録手段である頻度テーブルに格納する工程と、
上記頻度テーブルを参照し、話題単語の出現頻度と文中単語の出現頻度と各共起頻度とを用いて各話題単語と各文中単語との関連度を相互情報量に基づいて求める工程と、
話題単語と文中単語の共起が観測されなかった場合には、当該話題単語と当該文中単語との関連度をゼロに設定する工程と、
求められた話題単語と文中単語との関連度、当該関連度の話題単語、当該関連度の文中単語とからなる話題抽出モデルを話題抽出メモリに格納する工程と、
入力された単語系列に対して、上記話題抽出モデル中の各話題単語について、上記話題抽出メモリに格納された話題抽出モデルを参照し、単語系列の各入力単語を上記話題抽出モデルにおける文中単語に対応させて、当該話題単語と各入力単語との関連度を求めて当該話題単語の関連度系列を作り、
各話題単語について、当該話題単語の関連度系列の各関連度の和を求めて、上記入力された単語系列に対する当該話題単語の関連度の合計値とし、
これら話題単語の関連度の合計値の大きいものから順にＱ個（Ｑは１以上の整数）のものとそれぞれ対応する話題単語を出力する
ことを特徴とするコンピュータが行う話題単語抽出方法。
【請求項２】
単語系列を入力とし、その単語系列の内容を表す複数の話題単語を話題抽出モデルを用いて抽出する、頻度テーブルと話題抽出メモリを有するコンピュータが行う処理方法であって、
本文とその見出しよりなる多数の記事テキストを学習データとし記事テキストを解析して、記事テキストの見出しから話題単語を、記事テキストの本文から文中単語を得る工程と、
上記各話題単語の出現頻度と、上記各文中単語の出現頻度と、１つの記事テキスト中の上記話題単語と上記文中単語の各組み合せが同時に得られる共起頻度とをそれぞれ計数し、記録手段である頻度テーブルに格納する工程と、
上記頻度テーブルを参照し、話題単語の出現頻度と文中単語の出現頻度と各共起頻度とを用いて各話題単語と各文中単語との関連度を、話題単語に対する文中単語の頻度ｆと期待度数Ｆからχ２法に基づいて求める工程と、
出現頻度ｆが期待度数Ｆより小さい場合には、当該話題単語と当該文中単語との関連度をゼロに設定する工程と、
求められた話題単語と文中単語との関連度、当該関連度の話題単語、当該関連度の文中単語とからなる話題抽出モデルを話題抽出メモリに格納する工程と、
入力された単語系列に対して、上記話題抽出モデル中の各話題単語について、上記話題抽出メモリに格納された話題抽出モデルを参照し、単語系列の各入力単語を上記話題抽出モデルにおける文中単語に対応させて、当該話題単語と各入力単語との関連度を求めて当該話題単語の関連度系列を作り、
各話題単語について、当該話題単語の関連度系列の各関連度の和を求めて、上記入力された単語系列に対する当該話題単語の関連度の合計値とし、
これら話題単語の関連度の合計値の大きいものから順にＱ個（Ｑは１以上の整数）のものとそれぞれ対応する話題単語を出力する
ことを特徴とするコンピュータが行う話題単語抽出方法。
【請求項３】
上記関連度系列の各関連度に対し、これと対応する入力単語の尤度で重み付けて上記各関連度の和を求めることを特徴とする請求項１乃至２の何れかに記載の話題単語抽出方法。
【請求項４】
連続した音声信号を単語音声認識して、上記入力単語系列を得ることを特徴とする請求項１乃至３の何れかに記載の話題単語抽出方法。
【請求項５】
入力テキストを、形態素解析し、その解析結果の形態素を上記入力単語系列とすることを特徴とする請求項１乃至３の何れかに記載の話題単語抽出方法。
【請求項６】
上記認識結果又は上記解析結果として複数の上位の候補系列を上記入力単語系列とし、順位の高いほど大きい重みで上記関連度の和を求めることを特徴とする請求項４又は５に記載の話題単語抽出方法。
【請求項７】
請求項１乃至６の何れかに記載のコンピュータが行う話題単語抽出方法を、コンピュータが実行するためのコンピュータプログラムで実現し、当該コンピュータプログラムを記録した記録媒体。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
この発明は、連続発生された音声の単語認識結果やテキストを形態素解析により分割された単語などの単語列に対し、その内容を表す話題単語を抽出する方法と話題単語抽出プログラムを記録した記録媒体に関する。
【０００２】
【従来の技術】
連続発声された音声からのその内容を表わす話題抽出では５〜１０種類の分野のうちのいずれかの分野に依存度の高いキーワードを予め選択しておき、それらのキーワードを音声区間中から検出（キーワードスポッティング）して、検出されたキーワード集合が最も高い依存度を示す話題を結果として出力する方法が多くとられる。例えば横井、河原、堂下、“キーワードスポッティングに基づくニュース音声の話題同定”、情処研報、SLP6−３、1995．櫻井、有木、“キーワードスポッティングによるニュース音声の索引付けと分類”、信学技法、SP96−66、1996．R.C.Rose，E.L.Chang ，and R.P.Lippmann，“Techniques for Information Retrieval from Voice Messages”，Proc.ICASSP-91，pp.317-320，1991．などに示されている。
【０００３】
また従来の文章（テキスト）から話題を抽出する方法は文中の特定の個所を抽出して行うもので、その処理が複雑であった。
【０００４】
【発明が解決しようとする課題】
従来の連続音声の話題抽出方法では、限られた数のキーワードしか用いることができず、またキーワードの数を増やした場合には、誤って検出されるキーワードが増えてしまう、また話題の分野が少ないため、情報検索や索引付けに使うことができないという問題があった。また従来のテキストよりの話題抽出方法は、特定の個所を探して行うため、その処理が複雑であった。これを連続音声の話題抽出に適用すると、その所定個所についての単語認識を誤ると、話題抽出は誤ってしまう。
【０００５】
この発明の目的は比較的簡単な処理で話題単語を抽出することができる話題単語抽出方法、そのプログラムを記録した記録媒体とを提供することにある。
【０００６】
【課題を解決するための手段】
この発明の話題抽出モデルは、本文とその見出しよりなるテキストを多数用いて、それぞれ形態素解析を用い、本文単語と話題単語（見出し中の）と得、これら本文単語の出現頻度、話題単語の出現頻度、１テキスト中に本文単語と話題単語の組み合せが同時に存在する共起頻度をそれぞれ求め、これら頻度から各話題単語と、本文単語との関連度を求め、これらを話題抽出モデルとして格納しておく。
【０００７】
この発明の話題抽出方法では前記の話題抽出モデルを用い、入力音声の音声認識や入力テキストの形態素解析で、入力単語系列を得、各話題単語と入力単語系列中の各単語との関連度とを話題抽出モデルを参照して求めて話題単語ごとの関連度系列を得、これら関連度系列から各話題単語の入力単語系列との関連度をそれぞれ求め、これら入力単語系列の関連度中の大きいものと対応する話題単語を入力音声又はテキストに対する話題として出力する。
【０００８】
この発明の記録媒体はこの発明の話題抽出方法をコンピュータで実行させるためのプログラムが記録されている。
【０００９】
【発明の実施の形態】
まずこの発明の話題抽出モデルとこの作成方法の実施例を説明する。
話題抽出モデルの学習（作成）はある話題について述べられているテキストとその内容を表わす複数の話題単語との組を大量に用いて行う。一例として新聞記事の本文と見出しを用いて話題抽出モデルを学習（作成）する場合、約５年分の新聞記事よりその見出しと本文とをそれぞれ取出し（Ｓ１）、これらを形態素解析を行い（Ｓ２）、単語（形態素）に分割し、見出しの形態素（話題単語）と、本文の形態素（文中単語）とを得る。
【００１０】
これら話題単語と文中単語について、大量のデータにおける出現頻度と、共起頻度とを用いて、文中単語と話題単語との関連度を求める。しかし、文中単語と話題単語の組み合わせは非常に莫大な数になる。従ってこの実施例では話題単語については、出現回数が２回以上の単語に限り（Ｓ３）、文中単語については出現頻度が上位１５万の単語のみを選出し（Ｓ４）、更に情報検索という観点からより意味的情報を伝達すると考えられる名詞、動詞などの内容語に着目し、ここでは話題単語、文中単語の何れについても名詞、動詞、形容詞、形容動詞、副詞のみを取出す（Ｓ５）。更に話題単語と文中単語との組合せで同一記事に出現するのが１度しかなかったものは除外し、つまり話題単語と文中単語の組み合わせで同一記事に出現することが２回以上のもののみを残した（Ｓ６）。このようにして話題単語の総頻度１２．３×１０6 が６．３×１０6 となり総数１３６×１０3 が７４×１０3 となり、文中単語の総頻度２１８．８×１０6 が９０．１×１０6 となり総数６４０×１０3 が１４７×１０3 となり、２回以上起きた共起の組み合わせは約５８００万種類となった。
【００１１】
この約５８００万種類について、これら単語の出現頻度と共起頻度を用いて文中単語と話題単語との関連度を求める。文中単語ｗi と話題単語ｔj との関連度は以下のようにして求める。
相互情報量に基づく関連度
Ｉ（ｗi ：ｔj ）＝ log（Ｐ（ｗi ，ｔj ）／Ｐ（ｗi ）Ｐ（ｔj ))  …(1)
Ｐ（ｗi ，ｔj ）：ｗi とｔj が同時に出現する確率
Ｐ（ｗi ）：ｗi の出現確率、Ｐ（ｔj ）：ｔj の出現確率
χ2 法に基づく関連度
χij2 ＝（ｆij−Ｆij）2 ／Ｆij
【００１２】
【数１】
0003794597.tif 000002
Ｎ：文中単語の種類数、Ｍ：話題単語の種類数、
ｆij：話題単語ｔj に対する文中単語ｗi の頻度、
Ｆij：話題単語ｔj に対する文中単語ｗi の理論（期待）度数
相互情報量の計量において、学習データ中に文中単語ｗi と話題単語ｔj の共起が観測されない場合、Ｐ（ｗi ，ｔj ）＝０となり、関連度の合計を求める際に問題が生じる。そこで、共起が観測されなかった場合には情報が得られなかったものとして、実際には次式のように相互情報量に基づく関連度を計算する。
【００１３】
0003794597.tif 000003
一方、χ2 法における理論度数Ｆijとは、全ての話題単語に対して文中単語ｗi が等確率で出現した場合の出現頻度である。実際の出現頻度と理論度数とのずれが大きければ、その文中単語はその話題単語に対して偏って出現していることになる。しかし、上述のχ2 法の式では、実際の出現頻度ｆijが理論度数Ｆijより小さい場合にも、関連度が正の値となってしまうため、実際には次式のようにχ2 法に基づく関連度を計算する。
【００１４】
0003794597.tif 000004
従って、ステップＳ６で得られた文中単語ｗi と話題単語ｔj との各組み合せについて、その各頻度Ｐ（ｗi ）：Ｐ（ｔj ），Ｐ（ｗi ，ｔj ）、またはｆij，をそれぞれ演算し（Ｓ７）、頻度テーブル１１に格納する。これを学習データが終るまで行う（Ｓ８）。学習データが終ると、頻度テーブル１１内に演算した頻度を用いて関連度Ｉ（ｗi ，ｔj ）又はＦijの計算を行って話題抽出モデルを得る（Ｓ9 ）。
【００１５】
従って話題抽出モデルは図２Ａに示すように、話題単語の種類ｔ1 ，ｔ2 ，…ｔM それぞれについて、これと２回以上共起する文中単語、つまりｔ1 についてはｗ11，ｗ12，ｗ13，…との関連度ｒ111 ，ｒ112 ，ｒ113 ，…が、またｔ2 についてはｗ21，ｗ22，ｗ23，…との関連度ｒ211 ，ｒ212 ，ｒ213 ，…が、以下同様に文中単語との関連度が格納されている。
【００１６】
次にこの話題抽出モデルを用いて連続入力単語列から話題を抽出する方法を図２Ｂを参照して説明する。連続発声される音声を入力とする場合、その入力音声を単語音声認識し（Ｓ１）、認識結果として単語系列ｗ1 ，ｗ2 ，…ｗn を得る（Ｓ２）、これら単語系列ｗ1 ，ｗ2 ，…ｗn の各単語について、話題抽出モデル１１を参照して、その各話題単語ｔ1 ，ｔ2 ，…ｔM に対する関連度を求める。つまり認識単語ｗ1 に対する話題単語ｔ1 ，ｔ2 ，…ｔM との各関連度ｒ11，ｒ21，…，ｒM1を求め、単語ｗ2 に対する話題単語ｔ1 ，ｔ2 ，…ｔM との各関連度ｒ12，ｒ22，…，ｒM2を求め、以下同様に求める。
【００１７】
各話題単語ｔ1 ，ｔ2 ，…，ｔM についての各認識単語ｗ1 ，ｗ2 ，…，ｗn との関連度の合計、つまり単語系列に対する関連度Ｒj を計算する。即ち、話題単語ｔ1 についてはｒ11，ｒ12，…，ｒ1nの和Ｒ1 ＝Σk=1 n ｒ1kを求め、ｔ2 についてはｒ21，ｒ22，…，ｒ2nの和Ｒ2 ＝Σk=1 n ｒ2kを求め、以下同様にＲ3 ，…，ＲM を求める（Ｓ３）。これら単語系列に対する関連度Ｒ1 ，…，ＲM 中で関連度が大きいものから順にＱ個（Ｑは１以上の整数）のものとそれぞれ対応する話題単語ｔj の組合せを、その単語系列に対する話題とする（Ｓ４）。Ｑは１でもよいが、通常は複数で例えば５程度である。関連度Ｒ1 ，…，ＲM 中の大きいものから順に対応する話題単語の複数個を候補として出力してもよい。
【００１８】
単語系列から話題の抽出としてはテキストを入力し（Ｓ５）、これを形態素解析し（Ｓ６）、形態素つまり単語列ｗ1 ，ｗ2 ，…，ｗn を得て、これを音声入力の場合と同様に話題抽出モデル１１を用いて処理して、テキストに対する話題を抽出することもできる。
関連度をｗi とｔj の相互情報量に基づいて求める場合は式（１）、つまり２点間の相互情報量に基づいて決めた。一方、ｎ点間の相互情報量は次式で定義される。
【００１９】
【数２】
0003794597.tif 000005
Πは、あい異なる添字の全ての組み合せについて計算する。
従ってｘ1 ，ｘ2 ，…，ｘn 中１つの話題単語と他のｎ−１個を文中単語との相互情報量をＩ（ｘ1 ：ｘ2 ：…：ｘn ）により求めることができる。このように、複数の文中単語と１つの話題単語との関連度を求めておくと、例えば「コンピュータ」と「インターネット」の関連度、また「ネットワーク」と「インターネット」の関連度はそれ程大きくないが、「コンピュータ」と「ネットワーク」が同じ文中にあった場合の「インターネット」への関連度が大きくなるような話題抽出モデルの学習ができる。つまり式（１）の関連度では話題として「インターネット」を抽出できない場合に、式（２）の関連度によると「インターネット」を話題として抽出でき、適切な話題を抽出することができることがある。
【００２０】
話題単語ｔk と単語系列ｗ1 ，ｗ2 ，…，ｗn との関連度Ｒk はｔk に対する各単語の関連度の和ｒk1＋ｒk2＋，…，＋ｒknで求められるが、その加算の際に各単語に対する重みｓ1 ，ｓ2 ，…，ｓn をそれぞれ付けて、ｒk1×ｓ1 ＋ｒk2×ｓ2＋，…，＋ｒkn×ｓn というようにして、より適切な関連度Ｒk を得るようにすることもできる。ここで重みｓ1 ，ｓ2 ，…，ｓn としては、各単語ｗ1 ，ｗ2 ，…，ｗn のその音声認識時の単語の確からしさ（音響的尤度）や言語的尤度、つまりその単語がその前の単語に対し、文法や言語上存在する確からしさ（大語彙音声認識に用いられる言語モデルに示されている）を用いることができ
る。
【００２１】
音声認識結果の単語系列に対して話題抽出を行う際に、認識言語系列候補の第１位だけでなく、上位ｂ位までの候補（ｗ1-1 ，ｗ1-2 ，…，ｗ1-n1），（ｗ2-1 ，ｗ2-2 ，…，ｗ2-n2）…（ｗb-1 ，ｗb-2 ，…，ｗb-nb）を用いて話題抽出を行う。この際、順位の高い程重みが大きくなるようにすることもできる。この場合第１位から第ｂ位までの候補系列は、相互に１単語又は２単語しか違いがない候補系列が多くなる。よってこれら候補系列を、その同一単語を排除して複数単語木構造乃至単語ネットワークあるいは単語ラティスの配列とし、これを用いて第１位〜第ｂ位の候補系列について話題抽出をするようにすれば、その複数の候補系列を少ない容量のメモリに格納して処理することができる。
【００２２】
【発明の効果】
評価は、ニュース音声の書き起こし文および２万語彙の大語彙連続音声認識システムによる音声認識結果に対してこの発明の評価を行った。書き起こし文に対して３人の被験者が人手で付与した話題を評価対象とした。話題抽出モデルが出力した話題単語のうち上位５単語までを出力結果とした場合の適合率（抽出した話題単語のうち、正解の話題単語の割合）は、３人の被験者の付与した話題に対して７０％以上となった。また、単語誤り率２５％の音声認識結果に対する話題抽出結果の適合率も６５％以上となった。各被験者が付与した話題間の重複は約７０％であるので、この話題抽出結果は利用可能な精度であるといえる。関連度の尤度としてχ2 法を用いた方が相互情報量を用いた場合より良い結果が得られた。
【００２３】
この発明によれば、大量のテキストデータを用いて非常に多くの文中単語および話題単語間の関連度を学習した話題抽出モデルを用いることにより、テキストおよび誤りを含む大語彙連続音声認識結果から詳細な話題抽出を行うことができるという利点がある。
つまり、音声からの話題抽出において、連続音声認識技術を用いることにより、限られた数のキーワードを検出するキーワードスポッティングに基づく方法に比べ、音声中の多くの情報を用いて話題抽出を行うことが可能であり、また、音声の内容を表す単語（話題単語）を複数抽出することにより、音声をいくつかの分野に分類する話題抽出（話題同定・話題認識）に比べ、詳細な話題が抽出できるという利点がある。
【００２４】
特に従来のテキストに対する話題抽出では、特定の関係のものを抽出するため、複雑な処理を必要としたが、この発明では比較的簡単に行うことができる。特に連続音声に対する抽出ではその特定部分に対して認識誤りが生じると、致命的であるが、この発明は文全体の各単語に対して関連性をみるため正しく話題を抽出することができる。
【００２５】
またこのような正しい抽出ができるのは、大量のテストデータを用いて作成した話題単語と各単語との関連度を記憶した話題抽出モデルを用いるからである。
【図面の簡単な説明】
【図１】この発明に用いられるモデル作成方法を示す流れ図。
【図２】Ａはこの発明に用いられる話題抽出モデルの例を示す図、Ｂはこの発明の話題抽出方法を示す図である。
【図１】
0003794597.tif 000006
【図２】
0003794597.tif 000007