(57)【特許請求の範囲】
【請求項１】
文字列間の接合度を示す接合スコア毎に、または、前記接合スコアの範囲に応じて分類された接合スコア群毎に、文字列間の単語境界の存否の確率を示す単語境界存否確率を記憶する単語境界存否確率記憶部と、
前記接合スコアの信頼性を示す信頼性スコアを付与する信頼性スコア付与部と、
単語境界の判定対象の文字列に含まれる文字列間の前記接合スコアの前記信頼性スコアを用いて当該文字列内の単語境界を判定する判定部と
を備え、
前記信頼性スコア付与部は、
一の文字列間の前記接合スコアの前記信頼性スコアとして、前記単語境界存否確率記憶部に記憶されている当該文字列間の前記接合スコアに対応する前記単語境界存否確率を付与し、
前記判定部は、
単語境界に係る情報を有する単語境界の判定対象の文字列に含まれる文字列間の前記接合スコアの前記信頼性スコアに基づいて、ｎ番目の文字列間の前記接合スコア（Ｅｎ）の信頼性スコアのうち、単語境界が存在する確率を信頼性スコアＰ（Ｅｎ）Ａ、単語境界が存在しない確率を信頼性スコアＰ（Ｅｎ）Ｂとしたときに、前記接合スコア（Ｅｎ）に対して夫々のエントロピー値（Ｉｎ）を、前記信頼性スコアＰ（Ｅｎ）Ａと前記信頼性スコアＰ（Ｅｎ）Ｂとを用いて算出し、
算出した夫々のエントロピー値（Ｉｎ）と所定の閾値（Ｃ１）との大小関係に基づいて、当該文字列内の単語境界の存否を判定することを特徴とする単語境界判定装置。
【請求項２】
文字列間の接合度を示す接合スコア毎に、または、前記接合スコアの範囲に応じて分類された接合スコア群毎に、文字列間の単語境界の存否の確率を示す単語境界存否確率を記憶する単語境界存否確率記憶部と、
前記接合スコアの信頼性を示す信頼性スコアを付与する信頼性スコア付与部と、
単語境界の判定対象の文字列に含まれる文字列間の前記接合スコアの前記信頼性スコアを用いて当該文字列内の単語境界を判定する判定部と
を備え、
前記信頼性スコア付与部は、
一の文字列間の前記接合スコアの前記信頼性スコアとして、前記単語境界存否確率記憶部に記憶されている当該文字列間の前記接合スコアに対応する前記単語境界存否確率を付与し、
前記判定部は、
単語境界に係る情報を有しない単語境界の判定対象の文字列に含まれる文字間の前記接合スコアおよび前記接合スコアの前記信頼性スコアに基づいて、ｎ番目の文字列間の前記接合スコア（Ｅｎ）の信頼性スコアのうち、単語境界が存在する確率を信頼性スコアＰ（Ｅｎ）Ａ、単語境界が存在しない確率を信頼性スコアＰ（Ｅｎ）Ｂとしたときに、前記接合スコア（Ｅｎ）に対して夫々のエントロピー値（Ｉｎ）を、前記信頼性スコアＰ（Ｅｎ）Ａと前記信頼性スコアＰ（Ｅｎ）Ｂとを用いて算出し、
算出した夫々のエントロピー値（Ｉｎ）と所定の閾値（Ｃ１）との大小関係、および、前記接合スコア（Ｅｎ）と所定の閾値（Ｃ２）との大小関係とに基づいて、当該文字列内の単語境界の存否を判定することを特徴とする単語境界判定装置。
【請求項３】
第１の文字列と第２の文字列との間の前記接合スコアを算出する接合スコア算出部を更に備え、
前記接合スコア算出部は、
文章内において前記第１の文字列に続いて前記第２の文字列が出現した第１の出現回数と、文章内において前記第１の文字列に続いて前記第２の文字列以外の文字列が出現した第２の出現回数と、文章内において前記第１の文字列以外の文字列に続いて前記第２の文字列が出現した第３の出現回数と、文章内において前記第１の文字列以外の文字列に続いて前記第２の文字列以外の文字列が出現した第４の出現回数とを集計し、前記第１の出現回数、前記第２の出現回数、前記第３の出現回数および前記第４の出現回数に基づいて、前記第１の文字列と第２の文字列との間の前記接合スコアを算出することを特徴とする請求項１又は請求項２に記載の単語境界判定装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、単語境界判定装置に関する。
【背景技術】
【０００２】
形態素解析において、単語として特定できない文字列（以降、「未知文字列」と呼ぶ）が出力されることが多い。一般に、形態素解析装置の主部（以下、「形態素解析エンジン」という）によって参照される辞書（以下、「形態素解析用辞書」という）に登録されていない文字列が未知文字列として出力される。
【０００３】
文字列から単語を正しく特定するための技術に関し、n-gramの統計情報を用いて、未知文字列のうち、単語となる境界を推定し、単語と推定した箇所に対し、品詞を推定する方式も考えられる（非特許文献１参照）。例えば、非特許文献１に係る論文における方法では、n-gramの統計情報を用いて、文字の出現頻度から計算した確率を基にした文字間の関連度を元に、文字列から単語を生成する。その後は閾値を用いることで、単語の品詞を推定するという方式を採る。また、この他に、閾値はデータによって異なることが多いため、入力データを変更する都度、閾値を再調整する。
【先行技術文献】
【非特許文献】
【０００４】
【非特許文献１】「nグラム統計によるコーパスからの未知語抽出」  著者  森 信介、長尾 眞、情報処理学会論文誌、Vol.95,No.168,pp.7-12,1998
【非特許文献２】Kazunori Matsumoto, Kazuo Hashimoto, "Schema Design for Causal Law Mining from Incomplete Database", Discovery Science, Second International Conference, DS '99, Tokyo, Japan, December, 1999, Proceedings. Lecture Notes in Computer Science 1721 Springer, pp.92-102, 1999.
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、非特許文献１に係る論文における方法には、以下の問題がある。統計情報は確率によって表現されるが、確率を用いる場合、もともと保持していた情報量の信頼性が破棄されてしまうという問題がある。例えば、１００文中１０回登場した単語は、１０文中１回登場した単語に比べ、情報量の観点から言えば信頼性が高いが、確率を用いる場合、共に単に確率「０．１」として取り扱われ、情報量の信頼性が破棄される。さらに、非特許文献１では、任意の文字列に後続する文字との関連を検証するが、文字列の前に存在する文字との関連も同時に検証する場合と比べ、精度が落ちてしまう欠点が挙げられる。また、閾値を使う場合では線形的に境界を判別することになるため、精度のことを踏まえ、非線形的な判別が可能な単語境界の推定方式を利用することが望ましい。
【０００６】
本発明は、上述した課題に鑑みてなされたものであって、高い信頼性で文字列内の単語境界を判定する技術を提供することを目的とする。
【課題を解決するための手段】
【０００７】
上記問題を解決するために、本発明の一態様である単語境界判定装置は、文字列間の接合度を示す接合スコア毎に、または、前記接合スコアの範囲に応じて分類された接合スコア群毎に、文字列間の単語境界の存否の確率を示す単語境界存否確率を記憶する単語境界存否確率記憶部と、前記接合スコアの信頼性を示す信頼性スコアを付与する信頼性スコア付与部と、単語境界の判定対象の文字列に含まれる文字列間の前記接合スコアの前記信頼性スコアを用いて当該文字列内の単語境界を判定する判定部とを備え、前記信頼性スコア付与部は、一の文字列間の前記接合スコアの前記信頼性スコアとして、前記単語境界存否確率記憶部に記憶されている当該文字列間の前記接合スコアに対応する前記単語境界存否確率を付与することを特徴とする。
【００１０】
上記単語境界判定装置は、第１の文字列と第２の文字列との間の前記接合スコアを算出する接合スコア算出部を更に備え、前記接合スコア算出部は、文章内において前記第１の文字列に続いて前記第２の文字列が出現した第１の出現回数と、文章内において前記第１の文字列に続いて前記第２の文字列以外の文字列が出現した第２の出現回数と、文章内において前記第１の文字列以外の文字列に続いて前記第２の文字列が出現した第３の出現回数と、文章内において前記第１の文字列以外の文字列に続いて前記第２の文字列以外の文字列が出現した第４の出現回数とを集計し、前記第１の出現回数、前記第２の出現回数、前記第３の出現回数および前記第４の出現回数に基づいて、前記第１の文字列と第２の文字列との間の前記接合スコアを算出するようにしてもよい。
【００１１】
具体的には、前記接合スコア算出部は、前記第１の出現回数をａ、前記第２の出現回数をｂ、前記第３の出現回数をｃ、前記第４の出現回数をｄ、ａ＋ｂをｈ、ａ＋ｃをｋ、ａ＋ｂ＋ｃ＋ｄをｎとしたときに、下記算術式に従って第１のスコアと第２のスコアを算出し、前記第１の文字列と第２の文字列との間の前記接合スコアとして、前記第１のスコアと前記第２のスコアの差を算出してもよい。
（第１のスコアの算術式）
第１のスコア＝−２×｛ｈｌｏｇｈ＋ｋｌｏｇｋ＋（ｎ−ｈ）ｌｏｇ（ｎ−ｈ）＋（ｎ−ｋ）ｌｏｇ（ｎ−ｋ）−２ｎｌｏｇｎ｝＋２×３
（第２のスコアの算術式）
第２のスコア＝−２×｛ａｌｏｇａ＋ｂｌｏｇｂ＋ｃｌｏｇｃ＋ｄｌｏｇｄ−ｎｌｏｇｎ｝＋２×２
【００１２】
前記判定部は、単語境界に係る情報を有する単語境界の判定対象の文字列に含まれる文字列間の前記接合スコアの前記信頼性スコアに基づいて、ｎ番目の文字列間の前記接合スコア（Ｅｎ）の信頼性スコアのうち、単語境界が存在する確率を信頼性スコアＰ（Ｅｎ）Ａ、単語境界が存在しない確率を信頼性スコアＰ（Ｅｎ）Ｂとしたときに、前記接合スコア（Ｅｎ）に対して夫々のエントロピー値（Ｉｎ）を、前記信頼性スコアＰ（Ｅｎ）Ａと前記信頼性スコアＰ（Ｅｎ）Ｂとを用いて算出し、算出した夫々のエントロピー値（Ｉｎ）と所定の閾値（Ｃ１）との大小関係に基づいて、当該文字列内の単語境界の存否を判定するようにしてもよい。
【００１３】
前記判定部は、単語境界に係る情報を有しない単語境界の判定対象の文字列に含まれる文字間の前記接合スコアおよび前記接合スコアの前記信頼性スコアに基づいて、ｎ番目の文字列間の前記接合スコア（Ｅｎ）の信頼性スコアのうち、単語境界が存在する確率を信頼性スコアＰ（Ｅｎ）Ａ、単語境界が存在しない確率を信頼性スコアＰ（Ｅｎ）Ｂとしたときに、前記接合スコア（Ｅｎ）に対して夫々のエントロピー値（Ｉｎ）を、前記信頼性スコアＰ（Ｅｎ）Ａと前記信頼性スコアＰ（Ｅｎ）Ｂとを用いて算出し、算出した夫々のエントロピー値（Ｉｎ）と所定の閾値（Ｃ１）との大小関係、および、前記接合スコア（Ｅｎ）と所定の閾値（Ｃ２）との大小関係とに基づいて、当該文字列内の単語境界の存否を判定するようにしてもよい。
【００１４】
単語境界の判定結果に基づいて、前記学習データを更新する更新部を更に備えるようにしてもよい。
【００１５】
単語境界の判定結果に基づいて、前記学習データを更新する更新部を備え、前記更新部は、一の対象文字列内の各エントロピー値（Ｉｎ）の平均値ＩＡＶＥと所定の閾値（Ｃ３）の大小関係を比較し、平均値ＩＡＶＥ＜閾値（Ｃ３）の場合には、当該対象文字列を学習データに更新するようにしてもよい。また、一の対象文字列内の前記接合スコア（Ｅｎ）の平均値ＥＡＶＥと所定の閾値（Ｃ４）の大小関係を比較するとともに、当該対象文字列内の各エントロピー値（Ｉｎ）の平均値ＩＡＶＥと所定の閾値（Ｃ３）の大小関係を比較し、平均値ＥＡＶＥ≧閾値（Ｃ４）、かつ、ＩＡＶＥ＜閾値（Ｃ３）の場合には、当該対象文字列を学習データに更新するようにしてもよい。
【発明の効果】
【００１６】
本発明によれば、高い信頼性で文字列内の単語境界を判定することができるようになる。
【図面の簡単な説明】
【００１７】
【図１】本発明の第１の実施形態による単語境界判定装置の機能ブロック図の一例である。
【図２】接合スコア算出部による接合スコアの生成過程を説明する図である。
【図３】接合スコア記憶部に記憶されている情報の一例である。
【図４】単語境界存否確率記憶部に記憶されている情報の一例である。
【図５】単語境界判定装置の動作の一例を示すフローチャートである。
【発明を実施するための形態】
【００１８】
以下、本発明の第１の実施形態について図面を参照して詳細に説明する。本発明の第１の実施形態による単語境界判定装置１は、図１に示すように、接合スコア算出部１０、単語境界推定部２０、単語境界存否確率算出部３０、抽出部４０、信頼性スコア付与部５０、学習データ更新部６０、ラベル有データ記憶部９０、接合スコア記憶部９２、ラベル有データ記憶部９４および単語境界存否確率記憶部９６を備える。
【００１９】
ラベル有データ記憶部９０は、単語境界を含む文章データを記憶する。ラベル有データ記憶部９０に記憶される文章データは、学習データとして、ユーザによって入力された品詞無単語データである。また、ラベル有データ記憶部９０に記憶される文章データは、未知文字列を多く含むものであることが好ましい。
【００２０】
接合スコア算出部１０は、ラベル有データ記憶部９０に記憶されている文章データ（学習データ）を用いて、接合スコアを算出する。接合スコアとは、文字列間の接合度を示す指標である。接合スコアは、学習データとして与えられる文章に含まれる文字列（１以上の文字から構成される文字列）を対象として、当該文章中において当該文字列の前後に出現する文字の分布を集計して算出される。接合スコアの値は、文章内において、ある文字列と隣接する他の文字列の間に単語境界が成立しない事象が多いほど大きい。つまり、接合スコアの値が大きければ大きいほど、両文字列間に単語境界が成立し難いことを意味する。
【００２１】
以下、接合スコア算出部１０の接合スコア算出機能について詳細に説明する。接合スコア算出部１０は、文章内の一の文字列と、当該文章内の当該一の文字列の前後に出現する出現文字列とから構成される組別に、当該文章内における前記出現文字列の出現回数を集計し、組別の出現回数に基づいて、当該一の文字列と出現文字列との間の接合スコアを算出する。具体的には、接合スコア算出部１０は、モデル検定による評価手法を活用し、文字（列）間の関連度（接合度）を計測する。
【００２２】
具体的には、接合スコア算出部１０は、第１の文字列と第２の文字列との間の接合スコアを算出する場合、文章内において第１の文字列に続いて第２の文字列が出現した第１の出現回数と、文章内において第１の文字列に続いて第２の文字列以外の文字列が出現した第２の出現回数と、文章内において第１の文字列以外の文字列に続いて第２の文字列が出現した第３の出現回数と、文章内において第１の文字列以外の文字列に続いて第２の文字列以外の文字列が出現した第４の出現回数とを集計し、第１の出現回数、第２の出現回数、第３の出現回数および第４の出現回数に基づいて、第１の文字列と第２の文字列との間の接合スコアを算出する。
【００２３】
より詳細には、接合スコア算出部１０は、ｋ−ｓｔｒｉｎｇとｖ−ｓｔｒｉｎｇの組毎に、図２（ａ）に示すように、出現回数ａ１１、ａ１２、ａ２１、ａ２２を集計する。“ｋ−ｓｔｒｉｎｇ”はＮ−ｇｒａｍであって上述の「第１の文字列」に該当し、“ｖ−ｓｔｒｉｎｇ”はｋ−ｓｔｒｉｎｇに対し、接合すべきかの判定対象である文字列であって上述の「第２の文字列」に該当する。つまり、ｋ−ｓｔｒｉｎｇとｖ−ｓｔｒｉｎｇの組は、第１の文字列と第２の文字列とから構成される組に該当する。図２（ｂ）においても同様である。
【００２４】
“ａ１１”は、文章内においてｋ−ｓｔｒｉｎｇにｖ−ｓｔｒｉｎｇが隣接して出現した出現回数である。つまり、ａ１１は、文章内において第１の文字列に続いて第２の文字列が出現した上記第１の出現回数に相当する。
例えば、ｋ−ｓｔｒｉｎｇ「旧」、ｖ−ｓｔｒｉｎｇ「姓」としたとき、ラベル有データ記憶部９０に記憶されている文章データ（学習データ）内における、文字列「旧姓」の出現回数が１回であった場合、図２（ａ）の如く、ａ１１「１」となる。
なお、ａ１１において、第１の文字列および第２の文字列は、一の文字列および出現文字列に相当する。
【００２５】
“ａ１２”は、文章内においてｋ−ｓｔｒｉｎｇにｖ−ｓｔｒｉｎｇが隣接して出現しなかった回数、換言すれば、ｋ−ｓｔｒｉｎｇにｖ−ｓｔｒｉｎｇ以外の任意の文字が隣接して出現した出現回数である。つまり、ａ１２は、文章内において第１の文字列に続いて第２の文字列以外の文字列が出現した上記第２の出現回数に相当する。
例えば、ｋ−ｓｔｒｉｎｇ「旧」、ｖ−ｓｔｒｉｎｇ「姓」としたとき、ラベル有データ記憶部９０に記憶されている文章データ（学習データ）内における、文字列「旧暦」、文字列「旧モ」などの出現回数が合計３００回であった場合、図２（ａ）の如くａ１２「３００」となる。なお、文字列「旧モ」は、例えば、文字列「旧モデル」の一部である。
なお、ａ１２において、第１の文字列および第２の文字列以外の文字列は、一の文字列および出現文字列に相当する。
【００２６】
“ａ２１”は、文章内においてｖ−ｓｔｒｉｎｇがｋ−ｓｔｒｉｎｇに隣接しなかった回数、換言すれば、ｖ−ｓｔｒｉｎｇがｋ−ｓｔｒｉｎｇ以外の任意の文字列に隣接して出現した出現回数である。つまり、ａ２１は、文章内において第１の文字列以外の文字列に続いて第２の文字列が出現した上記第３の出現回数に相当する。
例えば、ｋ−ｓｔｒｉｎｇ「旧」、ｖ−ｓｔｒｉｎｇ「姓」としたとき、ラベル有データ記憶部９０に記憶されている文章データ（学習データ）内における、文字列「の姓」、文字列「（姓」などの出現回数が合計１回であった場合、図２（ａ）の如くａ２１「１」となる。なお、文字列「（姓」は、例えば、文字列「氏（姓）」の一部である。
なお、ａ２１において、第１の文字列以外の文字列および第２の文字列は、一の文字列および出現文字列に相当する。
【００２７】
“ａ２２”は、文章内においてｋ−ｓｔｒｉｎｇでもｖ−ｓｔｒｉｎｇでもない数、換言すれば、ｖ−ｓｔｒｉｎｇ以外の任意の文字列がｖ−ｓｔｒｉｎｇ以外の任意の文字に隣接して出現した出現回数である。つまり、ａ２２は、文章内において第１の文字列以外の文字列に続いて第２の文字列以外の文字列が出現した上記第４の出現回数に相当する。
例えば、ｋ−ｓｔｒｉｎｇ「旧」、ｖ−ｓｔｒｉｎｇ「姓」としたとき、ラベル有データ記憶部９０に記憶されている文章データ（学習データ）内における、文字列「私は」、文字列「明日」などの出現回数が合計３００回であった場合、図２（ａ）の如くａ２２「３００」となる。
なお、ａ２２においては、第１の文字列以外の文字列および第２の文字列以外の文字列は、一の文字列および出現文字列に相当する。
【００２８】
一の組の出現回数ａ１１、ａ１２、ａ２１、ａ２２を集計した接合スコア算出部１０は、出現回数ａ１１、ａ１２、ａ２１、ａ２２に基づいて、当該組を構成するｋ−ｓｔｒｉｎｇとｖ−ｓｔｒｉｎｇとの間の接合スコア（図２において「ｓｃｏｒｅ」と表記）を算出する。例えば、接合スコア算出部１０は、図２（ｂ）に示すように、ｋ−ｓｔｒｉｎｇ「旧」、ｖ−ｓｔｒｉｎｇ「姓」の組の出現回数ａ１１、ａ１２、ａ２１、ａ２２に基づいて、ｋ−ｓｔｒｉｎｇ「旧」とｖ−ｓｔｒｉｎｇ「姓」との間のｓｃｏｒｅ「０．３３」を算出する。
【００２９】
図２（ｂ）において、“ａｉｃ（ＩＭ）”は、ａ１１、ａ１２、ａ２１、ａ２２を独立現象と仮定し、算出したスコアである。具体的には、ａ１１＋ａ１２をｈ、ａ１１＋ａ２１をｋ、ａ１１＋ａ１２＋ａ２１＋ａ２２をｎとしたとき、下記式（１）により算出する。
【００３０】
【数１】
0005566704.tif 000002
【００３１】
図２（ｂ）において、“ａｉｃ（ＤＭ）”は、ａ１１、ａ１２、ａ２１、ａ２２を独立現象と仮定し、算出したスコアである。具体的には、ａ１１をａ、ａ１２をｂ、ａ２１をｃ、ａ２２をｄ、ａ１１＋ａ１２＋ａ２１＋ａ２２をｎとしたとき、下記式（２）により算出する。
【００３２】
【数２】
0005566704.tif 000003
【００３３】
接合スコアは、ａｉｃ（ＩＭ）およびａｉｃ（ＤＭ）から算出する。具体的には、ａ１１／（ａ１１＋ａ１２）＞ａ２１／（ａ２１＋ａ２２）のとき、下記式（３）により算出し、ａ１１／（ａ１１＋ａ１２）＜ａ２１／（ａ２１＋ａ２２）のとき、下記式（４）により算出する。
【００３４】
【数３】
0005566704.tif 000004
【００３５】
接合スコアを算出した接合スコア算出部１０は、接合スコア記憶部９２に出力する。例えば、接合スコア算出部１０は、図２（ｃ）に示すように、組（ｋ−ｓｔｒｉｎｇ、ｖ−ｓｔｒｉｎｇ）に対応付けて、接合スコアを接合スコア記憶部９２に出力する。
【００３６】
接合スコア記憶部９２は、接合スコア算出部１０から出力される接合スコアを記憶する。例えば、接合スコア記憶部９２は、図３に示すように、組（ｋ−ｓｔｒｉｎｇ、ｖ−ｓｔｒｉｎｇ）に対応付けて、接合スコアを記憶する。図３に示す例において、接合スコア記憶部９２は、ｋ−ｓｔｒｉｎｇ「旧」、ｖ−ｓｔｒｉｎｇ「姓」の組に対応付けてＳｃｏｒｅ「０．３３」を記憶している。なお、図３は、「旧姓は中野。」に係る各接合スコアであるが、組（旧、姓）の以外の組の接合スコアの値の記載は省略している。
【００３７】
単語境界推定部２０は、接合スコア算出部１０によって生成された接合スコア（即ち、接合スコア記憶部９２に記憶されている接合スコア）と、未知文字列記憶装置（非図示）に記憶されている未知文字列とから、当該未知文字列を単語毎に分割する際の文字列の単語境界を推定する。未知文字列の単語境界を推定した単語境界推定部２０は、当該単語境界にて未知文字列を分割した各単語を抽出する。未知文字列から各単語を抽出した単語境界推定部２０は、品詞無単語データとして、各単語をラベル有データ記憶部９４に記憶する。
【００３８】
ラベル有データ記憶部９４は、単語境界推定部２０から出力される品詞無単語データを記憶する。つまり、前述のラベル有データ記憶部９０に記憶される品詞無単語データが、ユーザによって入力されたデータであるのに対し、ラベル有データ記憶部９４に記憶される品詞無単語データは、機械的（単語境界推定部２０）に出力されたデータである。ラベル有データ記憶部９４に記憶される品詞無単語データは、品詞推定装置（非図示）による品詞推定に用いられる。
【００３９】
単語境界存否確率算出部３０は、接合スコア記憶部９２に記憶されている接合スコアを参照し、接合スコア毎に、単語境界存否確率を算出する。単語境界存否確率とは、文字列間に単語の境界が存在（成立）するか否かを表す確率である。
【００４０】
例えば、単語境界存否確率算出部３０は、各接合スコアＥＸ（Ｘ＝１、２、…、ｎ）の事例数ＺＸ、即ち組数ＺＸを算出するとともに、各事例数ＺＸにおいて単語境界が存在した回数ＡＸ、単語境界が存在しなかった回数ＢＸを算出する。そして、単語境界存否確率算出部３０は、接合スコアＥＸ毎に、単語境界存否確率として、単語境界が存在する確率ＡＸ／ＺＸ、および、単語境界が存在しない確率ＢＸ／ＺＸを算出する。即ち、単語境界存否確率算出部３０は、接合スコアＥ１の単語境界存否確率として、Ａ１／Ｚ１およびＢ１／Ｚ1を算出し、接合スコアＥ２の単語境界存否確率として、Ａ２／Ｚ２およびＢ２／Ｚ２を算出し、・・・、接合スコアＥｎの単語境界存否確率として、Ａｎ／ＺｎおよびＢｎ／Ｚｎを算出する。なお、単語境界存否確率算出部３０は、ＡＸ／ＺＸまたはＢＸ／ＺＸの何れか一方のみを算出してもよい。
【００４１】
また、例えば、単語境界存否確率算出部３０は、接合スコア毎ではなく、接合スコアの範囲（値の範囲）に応じて分類された接合スコア群ＥＧＸ（Ｘ＝１、２、…、ｍ）毎に、単語境界存否確率（ＡＧＸ／ＺＧＸ、ＢＧＸ／ＺＧＸ）を算出してもよい。つまり、単語境界存否確率算出部３０は、近しい接合スコアをグループ化し（ＥＧ１、ＥＧ２、…）、グループ毎に、単語境界存否確率を算出してもよい。即ち、単語境界存否確率算出部３０は、接合スコア群ＥＧ１の単語境界存否確率として、ＡＧ１／ＺＧ１およびＢＧ１／ＺＧ１を算出し、接合スコアＥＧ２の単語境界存否確率として、ＡＧ２／ＺＧ２およびＢＧ２／ＺＧ２を算出し、・・・、接合スコアＥｍの単語境界存否確率として、ＡＧｍ／ＺＧｍおよびＢＧｍ／ＺＧｍを算出する。なお、単語境界存否確率算出部３０は、ＡＧＸ／ＺＧＸまたはＢＧＸ／ＺＧＸの何れか一方のみを算出してもよい。なお、事例数ＺＧＸは、事例数ＺＸよりも多いため、接合スコア群毎に単語境界存否確率を算出すれば、事例数Ｚが極端に少ない場合に生じる、妥当な単語境界存否確率が算出されないという問題を解決することができる。
【００４２】
単語境界存否確率算出部３０は、接合スコア毎または接合スコア群毎に算出した単語境界存否確率を単語境界存否確率記憶部９６に記憶する。
【００４３】
単語境界存否確率記憶部９６は、単語境界存否確率算出部３０から出力される単語境界存否確率を記憶する。例えば、単語境界存否確率記憶部９６は、図４（ａ）に示すように、接合スコア毎の単語境界存否確率を記憶する。また、単語境界存否確率記憶部９６は、図４（ｂ）に示すように、接合スコア群毎の単語境界存否確率を記憶する。
【００４４】
抽出部４０は、外部、または、信頼性スコア付与部５０からの要求に応じて、ラベル有データ記憶部９４から単語境界の判定対象の文字列（以下、「対象文字列」という）を抽出する。具体的には、抽出部４０は、対象文字列として、単語境界に係る情報を有する文字列（ラベル情報を保持したままの文字列）をラベル有データ記憶部９４から抽出する（以下、当該抽出態様を「単語境界有抽出」という）。また、抽出部４０は、対象文字列として、単語境界に係る情報を有しない文字列（ラベル情報を切り捨てた文字列）をラベル有データ記憶部９４から抽出してもよい（以下、当該抽出態様を「単語境界無抽出」という）。なお、単語境界判定装置１は、抽出部４０が、単語境界有抽出または単語境界無抽出の何れの抽出を行うかについて、予め固定的に予め設定しておいてもよいし、外部からの入力に応じて、単語境界有抽出と単語境界無抽出とを切り替えるようにしてもよい。
【００４５】
抽出部４０は、抽出した対象文字列（単語境界に係る情報を有する文字列または単語境界に係る情報を有しない文字列）を信頼性スコア付与部５０に出力する。
【００４６】
信頼性スコア付与部５０は、抽出部４０から対象文字列を取得する。対象文字列を取得した信頼性スコア付与部５０は、対象文字列に含まれる各文字列間の各接合スコアの信頼性スコアを付与する。具体的には、信頼性スコア付与部５０は、一の文字列間の接合スコアの信頼性スコアとして、単語境界存否確率記憶部９６に記憶されている各接合スコアに対応する単語境界存否確率を付与する。信頼性スコアとは、各接合スコアの信頼性を示す指標である。
【００４７】
以下、信頼性スコア付与部５０の信頼性スコア付与機能について、単語境界存否確率算出部３０による単語境界存否確率の算出単位（接合スコア単位または接合スコア群単位）別、および、抽出部４０による抽出態様別に詳細に説明する。
【００４８】
（接合スコア単位の単語境界存否確率の算出、かつ、単語境界有抽出の場合）
なお、信頼性スコア付与部５０は、抽出部４０から、単語境界に係る情報を有する対象文字列「／すぐ／行く／！／」（「／」は単語境界に係る情報）を取得した場合を例にして説明する。
【００４９】
対象文字列「／すぐ／行く／！／」を取得した信頼性スコア付与部５０は、対象文字列「／すぐ／行く／！／」に含まれる各文字列間の各接合スコアを接合スコア記憶部９２から取得する。つまり、信頼性スコア付与部５０は、１番目の文字列間（（文字無）／すぐ）の接合スコアＥ１、２番目の文字列間（すぐ／行く）の接合スコアＥ２の接合スコアＥ２、３番目の文字列間（行く／！）の接合スコアＥ３、４番目の文字列間（！／（文字無））の接合スコアＥ４を接合スコア記憶部９２から取得する。
【００５０】
各文字列間の各接合スコアを取得した信頼性スコア付与部５０は、１〜４番目の各文字列間の各接合スコアＥ１、Ｅ２、Ｅ３、Ｅ４に対応する単語境界存否確率を単語境界存否確率記憶部９６から取得し、信頼性スコアとして各接合スコアＥ１、Ｅ２、Ｅ３、Ｅ４に付与する。
【００５１】
即ち、単語境界存否確率記憶部９６には接合スコア毎の単語境界存否確率が記憶されているが、例えば、単語境界存否確率記憶部９６にＥ１の単語境界存否確率として、Ａ１／Ｚ１とＢ１／Ｚ１とが記憶されている場合、１番目の文字列間の接合スコアＥ１にＡ１／Ｚ１とＢ１／Ｚ１とを付与し、単語境界存否確率記憶部９６にＥ２の単語境界存否確率として、Ａ２／Ｚ２とＢ２／Ｚ２とが記憶されている場合、２番目の文字列間の接合スコアＥ２にＡ２／Ｚ２とＢ２／Ｚ２とを付与し、…、単語境界存否確率記憶部９６にＥ４の単語境界存否確率として、Ａ４／Ｚ４とＢ４／Ｚ４とが記憶されている場合、４番目の文字列間の接合スコアＥ４にＡ４／Ｚ４とＢ４／Ｚ４とを付与する。
【００５２】
（接合スコア群単位の単語境界存否確率の算出、かつ、単語境界有抽出の場合）
なお、信頼性スコア付与部５０は、上記同様、対象文字列「／すぐ／行く／！／」を取得した場合を例にして説明する。
【００５３】
対象文字列「／すぐ／行く／！／」を取得した信頼性スコア付与部５０は、接合スコア単位の算出、かつ、単語境界有抽出の場合と同様、１番目の文字列間（（文字無）／すぐ）の接合スコアＥ１、２番目の文字列間（すぐ／行く）の接合スコアＥ２の接合スコアＥ２、３番目の文字列間（行く／！）の接合スコアＥ３、４番目の文字列間（！／（文字無））の接合スコアＥ４を接合スコア記憶部９２から取得する。
【００５４】
各文字列間の各接合スコアを取得した信頼性スコア付与部５０は、１〜４番目の各文字列間の各接合スコアＥ１、Ｅ２、Ｅ３、Ｅ４を含む接合スコア群の単語境界存否確率を単語境界存否確率記憶部９６から取得し、信頼性スコアとして各接合スコアＥ１、Ｅ２、Ｅ３、Ｅ４に付与する。
【００５５】
即ち、単語境界存否確率記憶部９６には接合スコア群毎の単語境界存否確率が記憶されているが、例えば、単語境界存否確率記憶部９６にＥ１を含む接合スコア群ＥＧ１の単語境界存否確率として、ＡＧ１／ＺＧ１とＢＧ１／ＺＧ１とが記憶されている場合、１番目の文字列間の接合スコアＥ１にＡＧ１／ＺＧ１とＢＧ１／ＺＧ１とを付与し、単語境界存否確率記憶部９６にＥ２を含む接合スコア群ＥＧ２の単語境界存否確率として、ＡＧ２／ＺＧ２とＢＧ２／ＺＧ２とが記憶されている場合、２番目の文字列間の接合スコアＥ２にＡＧ２／ＺＧ２とＢＧ２／ＺＧ２とを付与し、…、単語境界存否確率記憶部９６にＥ４を含む接合スコア群ＥＧ４の単語境界存否確率として、ＡＧ４／Ｚ４とＢＧ４／ＺＧ４とが記憶されている場合、４番目の文字列間の接合スコアＥ４にＡＧ４／ＺＧ４とＢＧ４／ＺＧ４とを付与する。
【００５６】
（接合スコア単位の単語境界存否確率の算出、かつ、単語境界無抽出の場合）
なお、信頼性スコア付与部５０は、抽出部４０から、単語境界に係る情報を有しない対象文字列「すぐ行く！」を取得した場合を例にして説明する。
【００５７】
対象文字列「すぐ行く！」を取得した信頼性スコア付与部５０は、対象文字列「すぐ行く！」に含まれる各文字間の各接合スコアを接合スコア記憶部９２から取得する。つまり、信頼性スコア付与部５０は、１番目の文字間（（文字無）／す）の接合スコアＥ１’、２番目の文字間（す／ぐ）の接合スコアＥ２’、３番目の文字列間（ぐ／行）の接合スコアＥ３’、４番目の文字間（行／く）の接合スコアＥ４’、５番目の文字間（く／！）の接合スコアＥ５’、６番目の文字間（！／（文字無））の接合スコアＥ６’を接合スコア記憶部９２から取得する。なお、６番目の文字間（！／（文字無））の接合スコアＥ６’は、対象文字列「／すぐ／行く／！／」を取得した際の４番目の文字列間（！／（文字無））の接合スコアＥ４と同一である。
【００５８】
各文字間の各接合スコアを取得した信頼性スコア付与部５０は、１〜６番目の各文字列間の各接合スコアＥ１’、Ｅ２’、Ｅ３’、Ｅ４’、Ｅ５’、Ｅ６’に対応する単語境界存否確率を単語境界存否確率記憶部９６から取得し、信頼性スコアとして各接合スコアに付与する。
【００５９】
即ち、単語境界存否確率記憶部９６には接合スコア毎の単語境界存否確率が記憶されているが、例えば、単語境界存否確率記憶部９６にＥ１’の単語境界存否確率として、Ａ１’／Ｚ１’とＢ１’／Ｚ１’とが記憶されている場合、１番目の文字列間の接合スコアＥ１’にＡ１’／Ｚ１’とＢ１’／Ｚ１’とを付与し、単語境界存否確率記憶部９６にＥ２’の単語境界存否確率として、Ａ２’／Ｚ２’とＢ２’／Ｚ２’とが記憶されている場合、２番目の文字列間の接合スコアＥ２’にＡ２’／Ｚ２’とＢ２’／Ｚ２’とを付与し、…、単語境界存否確率記憶部９６にＥ６’の単語境界存否確率として、Ａ６’／Ｚ６’とＢ６’／Ｚ６’とが記憶されている場合、６番目の文字列間の接合スコアＥ６’にＡ６’／Ｚ６’とＢ６’／Ｚ６’とを付与する。
【００６０】
（接合スコア群単位の単語境界存否確率の算出、かつ、単語境界無抽出の場合）
なお、信頼性スコア付与部５０は、上記同様、対象文字列「すぐ行く！」を取得した場合を例にして説明する。
【００６１】
対象文字列「すぐ行く！」を取得した信頼性スコア付与部５０は、接合スコア単位の算出、かつ、単語境界無抽出の場合と同様、１番目の文字間（（文字無）／す）の接合スコアＥ１’、２番目の文字間（す／ぐ）の接合スコアＥ２’、３番目の文字列間（ぐ／行）の接合スコアＥ３’、４番目の文字間（行／く）の接合スコアＥ４’、５番目の文字間（く／！）の接合スコアＥ５’、６番目の文字間（！／（文字無））の接合スコアＥ６’を接合スコア記憶部９２から取得する。
【００６２】
各文字列間の各接合スコアを取得した信頼性スコア付与部５０は、１〜６番目の各文字列間の各接合スコアＥ１’、Ｅ２’、Ｅ３’、Ｅ４’、Ｅ５’、Ｅ６’を含む接合スコア群の単語境界存否確率を単語境界存否確率記憶部９６から取得し、信頼性スコアとして各接合スコアＥ１’、Ｅ２’、Ｅ３’、Ｅ４’、Ｅ５’、Ｅ６’に付与する。
【００６３】
即ち、単語境界存否確率記憶部９６には接合スコア群毎の単語境界存否確率が記憶されているが、例えば、単語境界存否確率記憶部９６にＥ１’を含む接合スコア群ＥＧ１’ の単語境界存否確率として、ＡＧ１’／ＺＧ１’とＢＧ１’／ＺＧ１’とが記憶されている場合、１番目の文字列間の接合スコアＥ１’にＡＧ１’／ＺＧ１’とＢＧ１’／ＺＧ１’とを付与し、単語境界存否確率記憶部９６にＥ２’を含む接合スコア群ＥＧ２’の単語境界存否確率として、ＡＧ２’／ＺＧ２’とＢＧ２’／ＺＧ２’とが記憶されている場合、２番目の文字列間の接合スコアＥ２’にＡＧ２’／ＺＧ２’とＢＧ２’／ＺＧ２’とを付与し、…、単語境界存否確率記憶部９６にＥ６を含む接合スコア群ＥＧ６’の単語境界存否確率として、ＡＧ６’／ＺＧ６’とＢＧ６’／ＺＧ６’とが記憶されている場合、４番目の文字列間の接合スコアＥ４にＡＧ６’／ＺＧ６’とＢＧ６’／ＺＧ６’とを付与する。
【００６４】
各接合スコアの信頼性スコアを付与した信頼性スコア付与部５０は、各接合スコアの信頼性スコアを学習データ更新部６０に出力する。具体的には、抽出部４０による抽出が単語境界有抽出の場合、即ち、信頼性スコア付与部５０は、単語境界に係る情報を有する対象文字列を抽出部４０から取得し信頼性スコアを付与した場合には、当該対象文字列に含まれる各文字列間の各接合スコアの信頼性スコアを学習データ更新部６０に出力する。一方、抽出部４０による抽出が単語境界無抽出の場合、即ち、信頼性スコア付与部５０は、単語境界に係る情報を有しない対象文字列を抽出部４０から取得し信頼性スコアを付与した場合には、当該対象文字列に含まれる各文字列間の各接合スコアおよび各接合スコアの信頼性スコアを学習データ更新部６０に出力する。
【００６５】
学習データ更新部６０は、対象文字列に含まれる各文字列間の各接合スコアの信頼性スコアを信頼性スコア付与部５０から取得する。具体的には、抽出部４０による抽出が単語境界有抽出の場合、学習データ更新部６０は、対象文字列に含まれる各文字列間の各接合スコアの信頼性スコアを信頼性スコア付与部５０から取得する。一方、抽出部４０による抽出が単語境界無抽出の場合、学習データ更新部６０は、対象文字列に含まれる各文字列間の各接合スコアおよび各接合スコアの信頼性スコアを信頼性スコア付与部５０から取得する。
【００６６】
各接合スコアの信頼性スコアを取得した学習データ更新部６０は、対象文字列内の単語境界を判定する。具体的には、学習データ更新部６０は、対象文字列に含まれる各文字列間の各接合スコアの信頼性スコアを信頼性スコア付与部５０から取得した場合（各接合スコア自体は取得しなかった場合）、各文字列間の各接合スコアの信頼性スコアに基づいて対象文字列内の単語境界を判定する。換言すれば、学習データ更新部６０は、抽出部４０による抽出が単語境界有抽出の場合、各文字列間の各接合スコアの信頼性スコアのみに基づいて対象文字列内の単語境界を判定する。
【００６７】
一方、学習データ更新部６０は、対象文字列に含まれる各文字列間の各接合スコアおよび各接合スコアの信頼性スコアを信頼性スコア付与部５０から取得した場合（各接合スコア自体も取得した場合）、各文字列間の各接合スコアおよび各接合スコアの信頼性スコアに基づいて対象文字列内の単語境界を判定する。換言すれば、学習データ更新部６０は、抽出部４０による抽出が単語境界無抽出の場合、各文字列間の各接合スコアおよび信頼性スコアに基づいて対象文字列内の単語境界を判定する。
【００６８】
以下、信頼性スコアのみに基づいて単語境界を判定する場合、および、接合スコアおよび信頼性スコアに基づいて単語境界を判定する場合の学習データ更新部６０の単語境界の判定機能について詳細に説明する。
【００６９】
（信頼性スコアのみに基づいて単語境界を判定する場合）
なお、学習データ更新部６０は、対象文字列「／すぐ／行く／！／」に含まれる、１番目の文字列間（（文字無）／すぐ）の接合スコアＥ１の信頼性スコア（ＡＧ１／ＺＧ１とＢＧ１／ＺＧ1）、２番目の文字列間（すぐ／行く）の接合スコアＥ２の信頼性スコア（ＡＧ２／ＺＧ２とＢＧ２／ＺＧ２）、３番目の文字列間（行く／！）の接合スコアＥ３の信頼性スコア（ＡＧ３／ＺＧ３とＢＧ３／ＺＧ３）、および、４番目の文字列間（！／（文字無））の接合スコアＥ４の信頼性スコア（ＡＧ４／ＺＧ４とＢＧ４／ＺＧ４）を取得した場合を例にして説明する。
また、説明の便宜上、接合スコアＥ１の信頼性スコアのうち、単語境界が存在する確率（上記例ではＡＧ１／ＺＧ１）を信頼性スコアＰ（Ｅ１）Ａ、単語境界が存在しない確率（上記例ではＢＧ１／ＺＧ１）を信頼性スコアＰ（Ｅ１）Ｂと表記し、接合スコアＥ２の信頼性スコアのうち、単語境界が存在する確率（上記例ではＡＧ２／ＺＧ２）を信頼性スコアＰ（Ｅ２）Ａ、単語境界が存在しない確率（上記例ではＢＧ２／ＺＧ２）を信頼性スコアＰ（Ｅ２）Ｂと表記する。接合スコアＥ３およびＥ４についても同様に表記する。
【００７０】
対象文字列「／すぐ／行く／！／」に係る、各Ｅ１〜Ｅ４に対して、Ｐ（Ｅ１）Ａ、Ｐ（Ｅ１）Ｂ、Ｐ（Ｅ２）Ａ、Ｐ（Ｅ２）Ｂ、Ｐ（Ｅ３）Ａ、Ｐ（Ｅ３）Ｂ、Ｐ（Ｅ４）ＡおよびＰ（Ｅ４）Ｂを取得した学習データ更新部６０は、参考文献１のエントロピーの公式を用いて、具体的には、下記式（５）により、各Ｅｎ（ｎ＝１、２、３、４）に対して、エントロピー値Ｉｎを算出する。Ｉｎの値は、曖昧性の高さを示す指標である。
（参考文献１）
M. Li and I. K. Sethi, "Confidence-Based Active Learning", IEEE Transactions on Pattern Analysis and Machine Intelligence, vol. 28, no. 8, pp. 1251-1261, 2006
【００７１】
【数４】
0005566704.tif 000005
【００７２】
学習データ更新部６０は、Ｉｎと所定の閾値Ｃ１との大小関係を比較する。そして、学習データ更新部６０は、Ｉｎと所定の閾値Ｃ１との大小関係に基づいて、Ｅｎに係る文字列間の単語境界の存否を判定する。
【００７３】
具体的には、学習データ更新部６０は、Ｉｎ＜Ｃ１の場合には、Ｅｎに係る文字列間に単語境界が存在すると判定する。例えば、Ｉ２＜Ｃ１である場合、２番目の文字列間（すぐ／行く）に単語境界が存在すると判定する。Ｉｎの値が小さいときは、抽出部４０がラベル有データ記憶部９４から抽出した単語境界に係る情報によるＥｎの信頼性（確実性）が高いからである。また、学習データ更新部６０は、Ｉｎ≧Ｃ１の場合には、Ｅｎに係る文字列間に単語境界が存在しない判定する。Ｉｎの値が大きいときは、抽出部４０がラベル有データ記憶部９４から抽出した単語境界に係る情報によるＥｎの信頼性が高くないからである。
【００７４】
以上のように、学習データ更新部６０は、対象文字列に含まれる各文字列間の各接合スコアの信頼性スコアのみに基づいて対象文字列内の単語境界を判定する。
【００７５】
なお、上記説明では、学習データ更新部６０が、各Ｅ１〜Ｅ４に対して、Ｐ（Ｅ１）Ａ、Ｐ（Ｅ１）Ｂ、Ｐ（Ｅ２）Ａ、Ｐ（Ｅ２）Ｂ、Ｐ（Ｅ３）Ａ、Ｐ（Ｅ３）Ｂ、Ｐ（Ｅ４）ＡおよびＰ（Ｅ４）Ｂを取得する例を説明したが、学習データ更新部６０が、各Ｅ１〜Ｅ４に対して、Ｐ（Ｅ１）Ｂ、Ｐ（Ｅ２）Ｂ、Ｐ（Ｅ３）ＢおよびＰ（Ｅ４）Ｂを取得せずに、Ｐ（Ｅ１）Ａ、Ｐ（Ｅ２）Ａ、Ｐ（Ｅ３）ＡおよびＰ（Ｅ４）Ａのみを取得した場合には、下記式（６）により、エントロピー値Ｉｎを算出する。
【００７６】
【数５】
0005566704.tif 000006
【００７７】
（接合スコアおよび信頼性スコアに基づいて単語境界を判定する場合）
なお、学習データ更新部６０は、対象文字列「すぐ行く！」に含まれる、１番目の文字間（（文字無）／す）の接合スコアＥ１’の信頼性スコア（ＡＧ１’／ＺＧ１’とＢＧ１’／ＺＧ1’）、２番目の文字列間（す／ぐ）の接合スコアＥ２’の信頼性スコア（ＡＧ２’／ＺＧ２’とＢＧ２’／ＺＧ２’）、３番目の文字列間（ぐ／行）の接合スコアＥ３’の信頼性スコア（ＡＧ３’／ＺＧ３’とＢＧ３’／ＺＧ３’）、４番目の文字列間（行／く）の接合スコアＥ４’の信頼性スコア（ＡＧ４’／ＺＧ４’とＢＧ４’／ＺＧ４’）、５番目の文字列間（く／！）の接合スコアＥ５’の信頼性スコア（ＡＧ５’／ＺＧ５’とＢＧ５’／ＺＧ５’）、および、６番目の文字列間（！／（文字無））の接合スコアＥ６’の信頼性スコア（ＡＧ６’／ＺＧ６’とＢＧ６’／ＺＧ６’）を取得した場合を例にして説明する。
また、説明の便宜上、接合スコアＥ１’の信頼性スコアのうち、単語境界が存在する確率（上記例ではＡＧ１’／ＺＧ１’）を信頼性スコアＰ（Ｅ１’）Ａ、単語境界が存在しない確率（上記例ではＢＧ１’／ＺＧ１’）を信頼性スコアＰ（Ｅ１’）Ｂと表記し、接合スコアＥ２’の信頼性スコアのうち、単語境界が存在する確率（上記例ではＡＧ２’／ＺＧ２’）を信頼性スコアＰ（Ｅ２’）Ａ、単語境界が存在しない確率（上記例ではＢＧ２’／ＺＧ２’）を信頼性スコアＰ（Ｅ２’）Ｂと表記する。接合スコアＥ３’〜Ｅ６’についても同様に表記する。
【００７８】
対象文字列「すぐ行く！」に係る、各Ｅ１〜Ｅ６に対して、Ｐ（Ｅ１’）Ａ、Ｐ（Ｅ１’）Ｂ、Ｐ（Ｅ２’）Ａ、Ｐ（Ｅ２’）Ｂ、Ｐ（Ｅ３’）Ａ、Ｐ（Ｅ３’）Ｂ、Ｐ（Ｅ４’）Ａ、Ｐ（Ｅ４’）Ｂ、Ｐ（Ｅ５’）Ａ、Ｐ（Ｅ５’）Ｂ、Ｐ（Ｅ６）ＡおよびＰ（Ｅ６’）Ｂを取得した学習データ更新部６０は、上記式（５）により、各Ｅｎ（ｎ＝１、２、３、４、５、６）に対して、エントロピー値Ｉｎを算出する。
【００７９】
学習データ更新部６０は、各接合スコアＥｎと所定の閾値Ｃ２の大小関係、および、Ｉｎと所定の閾値Ｃ１との大小関係を比較する。そして、学習データ更新部６０は、各接合スコアＥｎと所定の閾値Ｃ２との大小関係、および、Ｉｎと所定の閾値Ｃ１との大小関係に基づいて、文字列間の単語境界の存否を判定する。
【００８０】
具体的には、学習データ更新部６０は、Ｅｎ＜Ｃ２、かつ、Ｉｎ＜Ｃ１の場合には、Ｅｎに係る文字列間に単語境界が存在すると判定する。例えば、Ｅ２＜Ｃ２、かつ、Ｉ２＜Ｃ１である場合、２番目の文字列間（す／ぐ）に単語境界が存在すると判定する。Ｅｎの値が小さく、かつ、Ｉｎの値が小さいときは、「両文字列間に単語境界が成立する事象が多い」ということの信頼性（確実性）が高いからである。また、学習データ更新部６０は、Ｅｎ≧Ｃ２、かつ、Ｉｎ＜Ｃ１の場合には、Ｅｎに係る文字列間に単語境界が存在しない判定する。Ｅｎの値が大きく、かつ、Ｉｎの値が小さいときは、「両文字列間に単語境界が成立しない事象が多い」ということの信頼性が高いからである。また、学習データ更新部６０は、Ｉｎ≧Ｃ１の場合には、Ｅｎによって示される文字列間に単語境界が存在しない判定する。Ｅｎの値に関わらず、Ｉｎの値が大きいときは、Ｅｎの値自体の信頼性が高くないからである。
【００８１】
以上のように、学習データ更新部６０は、対象文字列に含まれる各文字列間の各接合スコア、および、各接合スコアの信頼性スコアに基づいて対象文字列内の単語境界を判定する。
【００８２】
対象文字列内の各単語境界の存否を判定した学習データ更新部６０は、単語境界の判定結果に基づいて、ラベル有データ記憶部９０に記憶されている品詞無単語データ（学習データ）を更新する。
【００８３】
具体的には、ラベル有データ記憶部９０に、ユーザによって入力された品詞無単語データを記憶する第１の領域と、学習データ更新部６０による判定結果に従った境界において対象文字列を分割した各文字列（各品詞無単語データ）を記憶する第２の領域とを設けておき、学習データ更新部６０は、判定結果に従った境界において対象文字列を分割した各文字列（各品詞無単語データ）を、上記第２の領域に追加する。なお、接合スコア算出部１０は、最終的には、ラベル有データ記憶部９０の第２の領域に記憶されているデータ（学習データ）を用いて、接合スコアを算出するようにすることが好ましい。これにより、ラベル有データ記憶部９４に記憶される品詞無単語データの精度が向上し、品詞推定装置（非図示）の品詞推定の精度も向上するようになる。
【００８４】
なお、ラベル有データ記憶部９０に、上記第２の領域を設けずに、学習データ更新部６０は、判定結果に従った境界において対象文字列を分割した各文字列（各品詞無単語データ）がラベル有データ記憶部９０に記憶されていなければ追加し、判定結果に従った境界と異なる境界において対象文字列を分割した各文字列（各品詞無単語データ）がラベル有データ記憶部９０に記憶されていれば削除するようにしてもよい。
【００８５】
以上のように、学習データ更新部６０は、単語境界の判定結果に基づいて、判定対象の文字列内の各単語の学習データへの反映の採否を決定し、単語毎に、学習データを更新する。なお、学習データ更新部６０は、単語境界の判定結果に基づいて、判定対象の文字列全体の学習データへの反映の採否を決定し、文字列毎に、学習データを更新してもよい。
【００８６】
例えば、学習データ更新部６０は、信頼性スコアのみに基づいて単語境界を判定した場合（抽出部４０による抽出が単語境界有抽出の場合）には、一の対象文字列内の各Ｉｎの平均値ＩＡＶＥを算出する。そして、学習データ更新部６０は、ＩＡＶＥと所定の閾値Ｃ３の大小関係を比較し、ＩＡＶＥ＜Ｃ３の場合には、対象文字列全体を学習データに反映する。ＩＡＶＥの値が小さいときは、抽出部４０がラベル有データ記憶部９４から抽出した単語境界に係る情報によるＥｎの信頼性（確実性）が、対象文字列全体として平均的に高いからである。また、学習データ更新部６０は、ＩＡＶＥ≧Ｃ３の場合には、対象文字列全体を学習データに反映しない。ＩＡＶＥの値が大きいときは、抽出部４０がラベル有データ記憶部９４から抽出した単語境界に係る情報によるＥｎの信頼性が、対象文字列全体として平均的に高くないからである。
【００８７】
また、例えば、学習データ更新部６０は、接合スコアおよび信頼性スコアに基づいて単語境界を判定した場合（抽出部４０による抽出が単語境界無抽出の場合）には、一の対象文字列内の各Ｅｎの平均値ＥＡＶＥ、および、各Ｉｎの平均値ＩＡＶＥを算出する。そして、学習データ更新部６０は、ＥＡＶＥと所定の閾値Ｃ４の大小関係、および、ＩＡＶＥと所定の閾値Ｃ３の大小関係を比較し、学習データの更新の要否を判定してもよい。一例として、学習データ更新部６０は、ＥＡＶＥ≧Ｃ４、かつ、ＩＡＶＥ＜Ｃ３の場合には、対象文字列全体を学習データに反映するようにしてもよい。ＥＡＶＥの値が大きく、かつ、ＩＡＶＥの値が小さいときは、対象文字列全体が一塊であることの信頼性（確実性）が高いからである。
【００８８】
続いて、単語境界判定装置１の動作を説明する。図５（ａ）は単語境界存否確率記憶部９６に単語境界存否確率が記憶される迄の動作の一例を示すフローチャートである。図５（ｂ）はラベル有データ記憶部９４に品詞無単語データが記憶される迄の動作の一例を示すフローチャートである。図５（ｃ）はラベル有データ記憶部９０が更新される迄の動作の一例を示すフローチャートである。
【００８９】
図５（ａ）において、接合スコア算出部１０は、ラベル有データ記憶部９０に記憶されている文章データ（学習データ）を用いて、接合スコアを算出する（ステップ１０）。接合スコアを算出した接合スコア算出部１０は、接合スコアを接合スコア記憶部９２に出力する。単語境界存否確率算出部３０は、接合スコア記憶部９２に記憶されている接合スコアを参照し、接合スコア毎または接合スコア群毎に単語境界存否確率を算出する（ステップＳ２０）。接合スコア毎または接合スコア群毎に単語境界存否確率を算出した単語境界存否確率算出部３０は、単語境界存否確率を単語境界存否確率記憶部９６に記憶する。そして、図５（ａ）に示すフローチャートは終了する。
【００９０】
図５（ｂ）において、単語境界推定部２０は、接合スコア記憶部９２に記憶されている接合スコアと未知文字列とから、未知文字列の単語境界を推定し、単語境界にて未知文字列を分割した各単語を抽出する（ステップＳ１１０）。各単語を抽出した単語境界推定部２０は、品詞無単語データとして、各単語をラベル有データ記憶部９４に記憶する（ステップＳ１２０）。そして、図５（ｂ）に示すフローチャートは終了する。
【００９１】
図５（ｃ）において、抽出部４０は、ラベル有データ記憶部９４から対象文字列を抽出する（ステップＳ２１０）。対象文字列を抽出した抽出部４０は、対象文字列を信頼性スコア付与部５０に出力する。対象文字列を取得した信頼性スコア付与部５０は、対象文字列に含まれる各文字列間の各接合スコアに、信頼性スコアを付与する（ステップＳ２２０）。具体的には、信頼性スコア付与部５０は、対象文字列に含まれる各文字列間の各接合スコアの信頼性スコアとして、単語境界存否確率記憶部９６に記憶されている各接合スコアに対応する単語境界存否確率を付与する。各接合スコアの信頼性スコアを付与した信頼性スコア付与部５０は、各接合スコアの信頼性スコアを学習データ更新部６０に出力する。
【００９２】
各接合スコアの信頼性スコアを取得した学習データ更新部６０は、対象文字列内の単語境界を判定する（ステップＳ２３０）。対象文字列内の各単語境界の存否を判定した学習データ更新部６０は、単語境界の判定結果に基づいて、ラベル有データ記憶部９０に記憶されている品詞無単語データ（学習データ）を更新する（ステップＳ２４０）。そして、図５（ｃ）に示すフローチャートは終了する。
【００９３】
以上、本発明の実施形態による単語境界判定装置１によれば、接合スコアに対する信頼性に基づいて単語境界を判定するため、文字列内の単語境界を高い精度で判定することができるようになる。
【００９４】
また、単語境界の判定結果に基づいて、学習データ（ラベル有データ記憶部９０に記憶されている品詞無単語データ）を更新するため、接合スコア記憶部９２に記憶される接合スコアの値の信頼性が向上し、単語境界推定部２０による単語境界の推定の信頼性が向上し、ラベル有データ記憶部９４に記憶される品詞無単語データの信頼性が向上する。換言すれば、形態素解析を行う際に発生する未知語の単語境界の推定の精度が向上する。よって、未知語に対して割り当てるべき品詞を高精度に推定することができるようになる。  
【００９５】
一般に、ラベル有データを学習用データとして使用する教師あり学習に基づく単語境界推定方式の場合、半教師あり学習を行う際に、ラベル判定済みデータは、再帰的に学習される（取り込まれる）。しかし、誤ったラベルがデータに付与されていた場合、誤ったラベルが付与されたデータも再帰的に学習されるため、単語境界推定の精度低下が発生するという問題がある。しかしながら、上記実施形態による単語境界判定装置１を上記単語境界推定方式に適用した場合、信頼性スコアを用いて接合スコアの信頼性を評価するため、信頼性の高いラベル（確からしいラベル）が付与されたデータのみが再帰的学習が学習されるようになり、再帰的に学習しても、単語境界推定の精度低下を極力抑えることができるようになる。
【００９６】
つまり、従来、ユーザ（人手）によって入力した学習データのみを使用するのは非効率であるため、効率的にラベル判定済みデータを再帰的に学習していた。しかし、再帰的に学習すると単語境界推定の精度が低下するという問題があった。この問題に対し、単語境界判定装置１では、ラベル判定済みデータを再帰的に学習しても単語境界推定の精度低下が抑えられるため、効率的に、かつ、高精度に、単語境界推定を行うことができるようになる。
【００９７】
なお、本発明の一実施形態による単語境界判定装置１の各処理を実行するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、当該記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、本発明の一実施形態による単語境界判定装置１に係る上述した種々の処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、ＯＳや周辺機器等のハードウェアを含むものであってもよい。また、「コンピュータシステム」は、ＷＷＷシステムを利用している場合であれば、ホームページ提供環境（あるいは表示環境）も含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、フラッシュメモリ等の書き込み可能な不揮発性メモリ、ＣＤ−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
【００９８】
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ（例えばＤＲＡＭ（Dynamic Random Access Memory））のように、一定時間プログラムを保持しているものも含むものとする。また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク（通信網）や電話回線等の通信回線（通信線）のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル（差分プログラム）であっても良い。
【００９９】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【符号の説明】
【０１００】
１  単語境界判定装置  １０  接合スコア算出部１０  単語境界推定部  ３０  単語境界存否確率算出部  ４０  抽出部  ５０  信頼性スコア付与部  ６０  学習データ更新部  ９０  ラベル有データ記憶部（人手）  ９２  接合スコア記憶部  ９４  ラベル有データ記憶部（機械）  ９６  単語境界存否確率記憶部  
【図１】
0005566704.tif 000007
【図２】
0005566704.tif 000008
【図３】
0005566704.tif 000009
【図４】
0005566704.tif 000010
【図５】
0005566704.tif 000011