(57)【特許請求の範囲】
【請求項１】
拡張単語候補の各々について、代表文に含まれる代表語と前記拡張単語候補との類似度、及び前記代表文に対応する参照文と前記拡張単語候補との類似度に基づいて、前記代表語と前記拡張単語候補との類似度を算出する単語類似度算出部と、
前記代表文に対応する参照文と、他の代表文に対応する参照文とに基づいて、前記代表語の判別度を算出する判別度算出部と、
前記単語類似度算出部によって前記拡張単語候補の各々について算出された前記類似度と、前記判別度算出部によって算出された前記代表語の判別度とに基づいて、前記拡張単語候補の各々に対する、拡張語としてのスコアを算出し、前記代表語の拡張結果を出力するスコア算出部と、
を含む単語拡張装置。
【請求項２】
拡張単語候補の各々について、参照文に含まれる代表語と前記拡張単語候補との類似度、及び前記参照文と前記拡張単語候補との類似度に基づいて、前記代表語と前記拡張単語候補との類似度を算出する単語類似度算出部と、
前記参照文と、他の参照文とに基づいて、前記代表語の判別度を算出する判別度算出部と、
前記単語類似度算出部によって前記拡張単語候補の各々について算出された前記類似度と、前記判別度算出部によって算出された前記代表語の判別度とに基づいて、前記拡張単語候補の各々に対する、拡張語としてのスコアを算出し、前記代表語の拡張結果を出力するスコア算出部と、
を含む単語拡張装置。
【請求項３】
請求項１又は２記載の単語拡張装置によって複数の代表語について出力された前記代表語の拡張結果に基づいて、入力文に含まれる単語が、前記拡張結果として含まれる前記代表語に対して予め与えられている対象ラベルを、前記入力文の分類結果として出力するルールマッチ部
を含む分類装置。
【請求項４】
請求項１又は２記載の単語拡張装置によって複数の代表語について出力された前記代表語の拡張結果に基づいて、複数の代表文に含まれる複数の代表語の各々について、前記代表語の拡張結果に含まれる、前記代表語を拡張結果とする前記スコアを素性として用いて表現した、素性化済みデータを出力する機械学習素性化部と、
前記複数の代表語の各々について出力された素性化済みデータと、前記複数の代表語の各々に対して予め与えられている対象ラベルとに基づいて、単語を対象ラベルに分類するための機械学習モデルを学習する機械学習部と、
を含む機械学習装置。
【請求項５】
請求項１又は２記載の単語拡張装置によって複数の代表語について出力された前記代表語の拡張結果に基づいて、入力文に含まれる単語の各々について、前記単語が、前記拡張結果として含まれる前記代表語のうち、前記スコアが最大となる前記代表語を取得し、前記取得した前記代表語に対する、前記単語のスコアを、素性として用いて表現した、素性化済みデータを出力する素性化部と、
複数の代表語の各々についての素性化済みデータと、前記複数の代表語の各々に対して与えられている対象ラベルとに基づいて予め学習された、単語を対象ラベルに分類するための機械学習モデルと、前記素性化部によって出力された前記単語の各々についての素性化済みデータとに基づいて、前記入力文に含まれる単語の各々を、前記対象ラベルに分類し、前記入力文の分類結果とする分類部と
を含む分類装置。
【請求項６】
請求項１又は２記載の単語拡張装置によって複数の代表語について出力された前記代表語の拡張結果に基づいて、複数の代表文に含まれる複数の代表語の各々について、前記代表語の拡張結果に含まれる、前記代表語を拡張結果とする前記スコアを素性として用いて表現した、素性化済みデータを出力する機械学習素性化部と、
前記複数の代表語の各々について出力された素性化済みデータと、前記複数の代表語の各々に対して予め与えられている対象ラベルとに基づいて、単語を対象ラベルに分類するための機械学習モデルを学習する機械学習部と、
前複数の代表語について予め求められた前記代表語の拡張結果に基づいて、入力文に含まれる単語の各々について、前記単語が、前記拡張結果として含まれる前記代表語のうち、前記スコアが最大となる前記代表語を取得し、前記取得した前記代表語に対する、前記単語のスコアを、素性として用いて表現した、素性化済みデータを出力する素性化部と、
前記素性化部によって出力された前記単語の各々についての素性化済みデータと、前記機械学習部のよって学習された機械学習モデルとに基づいて、前記入力文に含まれる単語の各々を、前記対象ラベルに分類し、前記入力文の分類結果とする分類部と
を含む分類装置。
【請求項７】
単語類似度算出部と、判別度算出部と、スコア算出部とを含む、単語拡張装置における単語拡張方法であって、
前記単語類似度算出部は、拡張単語候補の各々について、代表文に含まれる代表語と前記拡張単語候補との類似度、及び前記代表文に対応する参照文と前記拡張単語候補との類似度に基づいて、前記代表語と前記拡張単語候補との類似度を算出し、
前記判別度算出部は、前記代表文に対応する参照文と、他の代表文に対応する参照文とに基づいて、前記代表語の判別度を算出し、
前記スコア算出部は、前記単語類似度算出部によって前記拡張単語候補の各々について算出された前記類似度と、前記判別度算出部によって算出された前記代表語の判別度とに基づいて、前記拡張単語候補の各々に対する、拡張語としてのスコアを算出し、前記代表語の拡張結果を出力する
単語拡張方法。
【請求項８】
単語類似度算出部と、判別度算出部と、スコア算出部とを含む単語拡張装置における単語拡張方法であって、
前記単語類似度算出部は、拡張単語候補の各々について、参照文に含まれる代表語と前記拡張単語候補との類似度、及び前記参照文と前記拡張単語候補との類似度に基づいて、前記代表語と前記拡張単語候補との類似度を算出し、
前記判別度算出部は、前記参照文と、他の参照文とに基づいて、前記代表語の判別度を算出し、
前記スコア算出部は、前記単語類似度算出部によって前記拡張単語候補の各々について算出された前記類似度と、前記判別度算出部によって算出された前記代表語の判別度とに基づいて、前記拡張単語候補の各々に対する、拡張語としてのスコアを算出し、前記代表語の拡張結果を出力する
単語拡張方法。
【請求項９】
コンピュータを、請求項１又は２記載の単語拡張装置の各部として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、単語を拡張するための単語拡張装置、分類装置、機械学習装置、方法、及びプログラムに関するものである。
【背景技術】
【０００２】
従来、正例、負例に対する大量の教師用入力文を用意した上で、機械学習を用いて分類器を学習している。
【先行技術文献】
【非特許文献】
【０００３】
【非特許文献１】Cortes, C.; Vapnik, V. (1995). "Supportvector networks".Machine Learning 20 (3): 273.
【発明の概要】
【発明が解決しようとする課題】
【０００４】
複数の対象ラベルの各々に対する代表文、代表文に対応付く文書集合がある場合において、代表文中の単語を拡張する。また、拡張した代表文中の単語を用いて、入力した文の分類を行う。この場合、代表文及び複数の対象ラベルに対する参照文の量は少量である。しかし、従来技術では、正例・負例に対する大量の教師用入力文を用意した上で、機械学習を用いて分類器を学習しなければならないという問題がある。また、従来技術では、学習に用いた分のフォーマットと、分類対象となる文のフォーマットが異なる場合には、分類器を通常の学習で行うのは困難であるという問題がある。
【０００５】
本発明では、上記問題点を解決するために成されたものであり、参照文の数が少量であっても、単語の意味に沿って単語を拡張することができる単語拡張装置、分類装置、機械学習装置、方法、及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００６】
上記目的を達成するために、第１の発明に係る単語拡張装置は、拡張単語候補の各々について、代表文に含まれる代表語と前記拡張単語候補との類似度、及び前記代表文に対応する参照文と前記拡張単語候補との類似度に基づいて、前記代表語と前記拡張単語候補との類似度を算出する単語類似度算出部と、前記代表文に対応する参照文と、他の代表文に対応する参照文とに基づいて、前記代表語の判別度を算出する判別度算出部と、を含んで構成されている。
【０００７】
また、第２の発明に係る単語拡張方法は、単語類似度算出部と、判別度算出部と、スコア算出部とを含む、単語拡張装置における単語拡張方法であって、前記単語類似度算出部は、拡張単語候補の各々について、代表文に含まれる代表語と前記拡張単語候補との類似度、及び前記代表文に対応する参照文と前記拡張単語候補との類似度に基づいて、前記代表語と前記拡張単語候補との類似度を算出し、前記判別度算出部は、前記代表文に対応する参照文と、他の代表文に対応する参照文とに基づいて、前記代表語の判別度を算出し、前記スコア算出部は、前記単語類似度算出部によって前記拡張単語候補の各々について算出された前記類似度と、前記判別度算出部によって算出された前記代表語の判別度とに基づいて、前記拡張単語候補の各々に対する、拡張語としてのスコアを算出し、前記代表語の拡張結果を出力する。
【０００８】
第１及び第２の発明によれば、単語類似度算出部により、拡張単語候補の各々について、代表語と拡張単語候補との類似度を算出し、判別度算出部により、代表語の判別度を算出し、スコア算出部により、拡張単語候補の各々について算出された類似度と、算出された代表語の判別度とに基づいて、拡張単語候補の各々に対する、拡張語としてのスコアを算出し、代表語の拡張結果を出力する。
【０００９】
このように、拡張単語候補の各々について、代表語と拡張単語候補との類似度を算出し、代表語の判別度を算出し、拡張単語候補の各々について算出された類似度と、算出された代表語の判別度とに基づいて、拡張単語候補の各々に対する、拡張語としてのスコアを算出し、代表語の拡張結果を出力することにより、参照文の数が少量であっても、単語の意味に沿って単語を拡張することができる。
【００１０】
第３の発明に係る単語拡張装置は、拡張単語候補の各々について、参照文に含まれる代表語と前記拡張単語候補との類似度、及び前記参照文と前記拡張単語候補との類似度に基づいて、前記代表語と前記拡張単語候補との類似度を算出する単語類似度算出部と、前記参照文と、他の参照文とに基づいて、前記代表語の判別度を算出する判別度算出部と、前記単語類似度算出部によって前記拡張単語候補の各々について算出された前記類似度と、前記判別度算出部によって算出された前記代表語の判別度とに基づいて、前記拡張単語候補の各々に対する、拡張語としてのスコアを算出し、前記代表語の拡張結果を出力するスコア算出部と、を含んで構成されている。
【００１１】
また、第４の発明に係る単語拡張方法は、単語類似度算出部と、判別度算出部と、スコア算出部とを含む単語拡張装置における単語拡張方法であって、前記単語類似度算出部は、拡張単語候補の各々について、参照文に含まれる代表語と前記拡張単語候補との類似度、及び前記参照文と前記拡張単語候補との類似度に基づいて、前記代表語と前記拡張単語候補との類似度を算出し、前記判別度算出部は、前記参照文と、他の参照文とに基づいて、前記代表語の判別度を算出し、前記スコア算出部は、前記単語類似度算出部によって前記拡張単語候補の各々について算出された前記類似度と、前記判別度算出部によって算出された前記代表語の判別度とに基づいて、前記拡張単語候補の各々に対する、拡張語としてのスコアを算出し、前記代表語の拡張結果を出力する。
【００１２】
第３及び第４の発明によれば、単語類似度算出部により、拡張単語候補の各々について、代表語と拡張単語候補との類似度を算出し、判別度算出部により、代表語の判別度を算出し、スコア算出部により、拡張単語候補の各々について算出された類似度と、算出された代表語の判別度とに基づいて、拡張単語候補の各々に対する、拡張語としてのスコアを算出し、代表語の拡張結果を出力する。
【００１３】
このように、拡張単語候補の各々について、代表語と拡張単語候補との類似度を算出し、代表語の判別度を算出し、拡張単語候補の各々について算出された類似度と、算出された代表語の判別度とに基づいて、拡張単語候補の各々に対する、拡張語としてのスコアを算出し、代表語の拡張結果を出力することにより、参照文の数が少量であっても、単語の意味に沿って単語を拡張することができる。
【００１４】
第５の発明に係る分類装置は、第１又は第３の発明に係る単語拡張装置によって複数の代表語について出力された前記代表語の拡張結果に基づいて、入力文に含まれる単語が、前記拡張結果として含まれる前記代表語に対して予め与えられている対象ラベルを、前記入力文の分類結果として出力するルールマッチ部を含んで構成されている。
【００１５】
また、第６の発明に係る分類方法は、ルールマッチ部を含む分類装置における分類方法であって、前記ルールマッチ部は、第２又は第４の発明に係る単語拡張方法によって複数の代表語について出力された前記代表語の拡張結果に基づいて、入力文に含まれる単語が、前記拡張結果として含まれる前記代表語に対して予め与えられている対象ラベルを、前記入力文の分類結果として出力する。
【００１６】
第５及び第６の発明によれば、ルールマッチ部により、単語拡張方法によって複数の代表語について出力された代表語の拡張結果に基づいて、入力文に含まれる単語が、拡張結果として含まれる代表語に対して予め与えられている対象ラベルを、入力文の分類結果として出力する。
【００１７】
このように、単語拡張方法によって複数の代表語について出力された代表語の拡張結果に基づいて、入力文に含まれる単語が、拡張結果として含まれる代表語に対して予め与えられている対象ラベルを、入力文の分類結果として出力することにより、入力文を精度よく分類することができる。
【００１８】
第７の発明に係る機械学習装置は、複数の代表語について予め求められた、拡張単語候補の各々に対する、拡張語としてのスコアに基づく前記代表語の拡張結果に基づいて、複数の代表文に含まれる複数の代表語の各々について、前記代表語の拡張結果に含まれる、前記代表語を拡張結果とする前記スコアを素性として用いて表現した、素性化済みデータを出力する機械学習素性化部と、前記複数の代表語の各々について出力された素性化済みデータと、前記複数の代表語の各々に対して予め与えられている対象ラベルとに基づいて、単語を対象ラベルに分類するための機械学習モデルを学習する機械学習部と、を含んで構成されている。
【００１９】
第８の発明に係る機械学習方法は、機械学習素性化部と、機械学習部とを含む機械学習装置における、機械学習方法であって、前記機械学習素性化部は、複数の代表語について予め求められた、拡張単語候補の各々に対する、拡張語としてのスコアに基づく前記代表語の拡張結果に基づいて、複数の代表文に含まれる複数の代表語の各々について、前記代表語の拡張結果に含まれる、前記代表語を拡張結果とする前記スコアを素性として用いて表現した、素性化済みデータを出力し、前記機械学習部は、前記複数の代表語の各々について出力された素性化済みデータと、前記複数の代表語の各々に対して予め与えられている対象ラベルとに基づいて、単語を対象ラベルに分類するための機械学習モデルを学習する。
【００２０】
第７及び第８の発明によれば、機械学習素性化部により、複数の代表語について予め求められた、拡張単語候補の各々に対する、拡張語としてのスコアに基づく代表語の拡張結果に基づいて、複数の代表文に含まれる複数の代表語の各々について、代表語の拡張結果に含まれる、代表語を拡張結果とするスコアを素性として用いて表現した、素性化済みデータを出力し、機械学習部により、複数の代表語の各々について出力された素性化済みデータと、複数の代表語の各々に対して予め与えられている対象ラベルとに基づいて、単語を対象ラベルに分類するための機械学習モデルを学習する。
【００２１】
このように、複数の代表語について予め求められた、拡張単語候補の各々に対する、拡張語としてのスコアに基づく代表語の拡張結果に基づいて、複数の代表文に含まれる複数の代表語の各々について、素性化済みデータを出力し、複数の代表語の各々について出力された素性化済みデータと、複数の代表語の各々に対して予め与えられている対象ラベルとに基づいて、単語を対象ラベルに分類するための機械学習モデルを学習することにより、入力文を精度よく分類することができる機械学習モデルを学習することができる。
【００２２】
第９の発明に係る分類装置は、複数の代表語について予め求められた、拡張単語候補の各々に対する、拡張語としてのスコアに基づく前記代表語の拡張結果に基づいて、入力文に含まれる単語の各々について、前記単語が、前記拡張結果として含まれる前記代表語のうち、前記スコアが最大となる前記代表語を取得し、前記取得した前記代表語に対する、前記単語のスコアを、素性として用いて表現した、素性化済みデータを出力する素性化部と、複数の代表語の各々についての素性化済みデータと、前記複数の代表語の各々に対して与えられている対象ラベルとに基づいて予め学習された、単語を対象ラベルに分類するための機械学習モデルと、前記素性化部によって出力された前記単語の各々についての素性化済みデータとに基づいて、前記入力文に含まれる単語の各々を、前記対象ラベルに分類し、前記入力文の分類結果とする分類部とを含んで構成される。
【００２３】
第１０の発明に係る分類方法は、素性化部と、分類部とを含む分類装置における、分類方法であって、前記素性化部は、複数の代表語について予め求められた、拡張単語候補の各々に対する、拡張語としてのスコアに基づく前記代表語の拡張結果に基づいて、入力文に含まれる単語の各々について、前記単語が、前記拡張結果として含まれる前記代表語のうち、前記スコアが最大となる前記代表語を取得し、前記取得した前記代表語に対する、前記単語のスコアを、素性として用いて表現した、素性化済みデータを出力し、前記分類部は、複数の代表語の各々についての素性化済みデータと、前記複数の代表語の各々に対して与えられている対象ラベルとに基づいて予め学習された、単語を対象ラベルに分類するための機械学習モデルと、前記素性化部によって出力された前記単語の各々についての素性化済みデータとに基づいて、前記入力文に含まれる単語の各々を、前記対象ラベルに分類し、前記入力文の分類結果とする。
【００２４】
第９及び第１０の発明によれば、素性化部により、複数の代表語について予め求められた、拡張単語候補の各々に対する、拡張語としてのスコアに基づく代表語の拡張結果に基づいて、入力文に含まれる単語の各々について、単語が、拡張結果として含まれる代表語のうち、スコアが最大となる代表語を取得し、取得した代表語に対する、単語のスコアを、素性として用いて表現した、素性化済みデータを出力し、分類部により、複数の代表語の各々についての素性化済みデータと、複数の代表語の各々に対して与えられている対象ラベルとに基づいて予め学習された、単語を対象ラベルに分類するための機械学習モデルと、素性化部によって出力された単語の各々についての素性化済みデータとに基づいて、入力文に含まれる単語の各々を、対象ラベルに分類し、入力文の分類結果とする。
【００２５】
このように、拡張単語候補の各々に対する代表語の拡張結果に基づいて、入力文に含まれる単語の各々について、単語が、拡張結果として含まれる代表語のうち、スコアが最大となる代表語を取得し、取得した代表語に対する素性化済みデータを出力し、予め学習された、単語を対象ラベルに分類するための機械学習モデルと、出力された単語の各々についての素性化済みデータとに基づいて、入力文に含まれる単語の各々を、対象ラベルに分類し、入力文の分類結果とすることにより、入力文を精度良く分類することができる。
【００２６】
また、第１１の発明に係る分類装置は、複数の代表語について予め求められた、拡張単語候補の各々に対する、拡張語としてのスコアに基づく前記代表語の拡張結果に基づいて、複数の代表文に含まれる複数の代表語の各々について、前記代表語の拡張結果に含まれる、前記代表語を拡張結果とする前記スコアを素性として用いて表現した、素性化済みデータを出力する機械学習素性化部と、前記複数の代表語の各々について出力された素性化済みデータと、前記複数の代表語の各々に対して予め与えられている対象ラベルとに基づいて、単語を対象ラベルに分類するための機械学習モデルを学習する機械学習部と、前複数の代表語について予め求められた前記代表語の拡張結果に基づいて、入力文に含まれる単語の各々について、前記単語が、前記拡張結果として含まれる前記代表語のうち、前記スコアが最大となる前記代表語を取得し、前記取得した前記代表語に対する、前記単語のスコアを、素性として用いて表現した、素性化済みデータを出力する素性化部と、前記素性化部によって出力された前記単語の各々についての素性化済みデータと、前記機械学習部のよって学習された機械学習モデルとに基づいて、前記入力文に含まれる単語の各々を、前記対象ラベルに分類し、前記入力文の分類結果とする分類部とを含んで構成される。
【００２７】
第１１の発明によれば、機械学習素性化部により、複数の代表語について予め求められた、拡張単語候補の各々に対する、拡張語としてのスコアに基づく代表語の拡張結果に基づいて、複数の代表文に含まれる複数の代表語の各々について、代表語の拡張結果に含まれる、代表語を拡張結果とするスコアを素性として用いて表現した、素性化済みデータを出力し、機械学習部により、複数の代表語の各々について出力された素性化済みデータと、複数の代表語の各々に対して予め与えられている対象ラベルとに基づいて、単語を対象ラベルに分類するための機械学習モデルを学習し、素性化部により、複数の代表語について予め求められた代表語の拡張結果に基づいて、入力文に含まれる単語の各々について、単語が、拡張結果として含まれる代表語のうち、スコアが最大となる代表語を取得し、取得した代表語に対する、単語のスコアを、素性として用いて表現した、素性化済みデータを出力し、分類部により、素性化部によって出力された単語の各々についての素性化済みデータと、機械学習部のよって学習された機械学習モデルとに基づいて、入力文に含まれる単語の各々を、対象ラベルに分類し、入力文の分類結果とする。
【００２８】
このように、複数の代表語について予め求められた、拡張単語候補の各々に対する、拡張語としてのスコアに基づく代表語の拡張結果に基づいて、複数の代表文に含まれる複数の代表語の各々について、素性化済みデータを出力し、複数の代表語の各々について出力された素性化済みデータと、複数の代表語の各々に対して予め与えられている対象ラベルとに基づいて、単語を対象ラベルに分類するための機械学習モデルを学習し、複数の代表語について予め求められた代表語の拡張結果に基づいて、入力文に含まれる単語の各々について、単語が、拡張結果として含まれる代表語のうち、スコアが最大となる代表語を取得し、取得した代表語に対する、素性化済みデータを出力し、出力された単語の各々についての素性化済みデータと、学習された機械学習モデルとに基づいて、入力文に含まれる単語の各々を、対象ラベルに分類し、入力文の分類結果とすることにより、入力文を精度よく分類することができる。
【００２９】
また、本発明のプログラムは、コンピュータを、上記の単語拡張装置、機械学習装置、分類装置の各部として機能させるためのプログラム、又はコンピュータに、上記の単語拡張方法、機械学習方法、分類方法の各ステップの処理を実行させるためのプログラムである。
【発明の効果】
【００３０】
以上説明したように、本発明の単語拡張装置、方法、及びプログラムによれば、拡張単語候補の各々について、代表語と拡張単語候補との類似度を算出し、代表語の判別度を算出し、拡張単語候補の各々について算出された類似度と、算出された代表語の判別度とに基づいて、拡張単語候補の各々に対する、拡張語としてのスコアを算出し、代表語の拡張結果を出力することにより、参照文の数が少量であっても、単語の意味に沿って単語を拡張することができる。
【００３１】
また、分類装置、方法、及びプログラムによれば、単語拡張方法によって複数の代表語について出力された代表語の拡張結果に基づいて、入力文に含まれる単語が、拡張結果として含まれる代表語に対して予め与えられている対象ラベルを、入力文の分類結果として出力することにより、入力文を精度よく分類することができる。
【００３２】
また、機械学習装置、方法、及びプログラムによれば、複数の代表語について予め求められた、拡張単語候補の各々に対する、拡張語としてのスコアに基づく代表語の拡張結果に基づいて、複数の代表文に含まれる複数の代表語の各々について、素性化済みデータを出力し、複数の代表語の各々について出力された素性化済みデータと、複数の代表語の各々に対して予め与えられている対象ラベルとに基づいて、単語を対象ラベルに分類するための機械学習モデルを学習することにより、入力文を精度よく分類することができる機械学習モデルを学習することができる。
【図面の簡単な説明】
【００３３】
【図１】対象ラベル、代表文、代表語、参照文、及び拡張語の一例を示す図である。
【図２】単純な単語拡張の一例を示す図である。
【図３】第１の実施形態に係る単語拡張装置における単語拡張の一例を示す図である。
【図４】本発明の第１の実施形態に係る単語拡張装置の機能的構成を示すブロック図である。
【図５】拡張結果の一例を示す図である。
【図６】本発明の第１の実施形態に係る分類装置の機能的構成を示すブロック図である。
【図７】本発明の第１の実施形態に係る単語拡張装置における単語拡張処理ルーチンを示すフローチャートである。
【図８】本発明の第１の実施形態に係る分類装置における分類処理ルーチンを示すフローチャートである。
【図９】本発明の第２の実施形態に係る機械学習装置の機能的構成を示すブロック図である。
【図１０】本発明の第２の実施形態に係る分類装置の機能的構成を示すブロック図である。
【図１１】本発明の第２の実施形態に係る機械学習装置における機械学習処理ルーチンを示すフローチャートである。
【図１２】本発明の第２の実施形態に係る分類装置における分類処理ルーチンを示すフローチャートである。
【図１３】本発明の第３の実施形態に係る機械学習装置の機能的構成を示すブロック図である。
【図１４】本発明の第３の実施形態に係る分類装置の機能的構成を示すブロック図である。
【図１５】本発明の第３の実施形態に係る機械学習装置における機械学習処理ルーチンを示すフローチャートである。
【図１６】本発明の第３の実施形態に係る分類装置における分類処理ルーチンを示すフローチャートである。
【図１７】本発明の第５の実施形態に係る単語拡張装置の機能的構成を示すブロック図である。
【図１８】本発明の第５の実施形態に係る単語拡張装置における単語拡張処理ルーチンを示すフローチャートである。
【発明を実施するための形態】
【００３４】
以下、図面を参照して本発明の実施形態を詳細に説明する。
【００３５】
＜第１の実施形態の概要＞
まず、第１の実施形態の概要について説明する。第１の実施形態に係る単語拡張装置は、与えられた代表文ｒに含まれる単語から、代表文ｒと対応付く任意の文書、又は文書集合との類似度を考慮して、代表文ｒ中の単語を拡張するものである。
【００３６】
第１の実施形態においては、複数の対象ラベルｅに対する代表文ｒ、及び代表文ｒに対応付く文書（以後、参照文ｓとする）又は文書集合（以後、参照文集合Ｓとする）が有る場合、当該代表文ｒ中の単語（以後、代表語ｖとする）を拡張する。また、拡張した単語を用いて、未知の入力文に対する語の抽出や、テキスト分類を行う。なお、対象ラベルｅ、代表文ｒ、参照文ｓ、及び代表文ｒに含まれる代表語ｖの関係は、「１：１：１以上：１以上」である。また、代表文ｒ中の代表語ｖは予め定義されているものとする。
【００３７】
ここで、対象ラベルｅは、例えば、「幼児語の獲得に関する研究」という展示項目とする。また、代表文ｒは、任意の文字列であり、例えば、ルール、タイトル、及びキーワード等とする。ルールである場合は、例えば、「幼児語」、及び「獲得」であり、タイトルの場合は、例えば、「幼児／語／の／獲得／に／関する／研究」とする。また、参照文ｓは、例えば、「幼児期に獲得される言語は人間が知的に発達していく過程を理解する上で重要です。…」とする。
【００３８】
また、拡張された代表文ｒ中の代表語ｖが、例えば、「幼児」で有る場合に、当該代表語ｖを拡張して「子供」に拡張される。また、未知の入力文「子供に関する研究はありますか」の分類の例として、まず、入力文に含まれる「子供」が代表文ｒに関連すると判定し、入力文から「子供」を抽出し、かつ対象ラベルｅ「幼児語の獲得に関する研究」に分類する。その結果「｛子供｝といえば、｛幼児語の獲得に関する研究｝があります」という結果を出力することができる。ここで、「｛｝」が抽出結果、及び分類結果を表し、残りの文字列は、適当な文生成ルールを用いればよい。図１に、対象ラベルｅ、代表文ｒ、代表語ｖ、参照文ｓ、及び拡張語ｖ´の一例を示す。また、図１中の「￥ｂｗ」は、参照文ｓ中に存在する各単語ｗの単語集合を表す。
【００３９】
なお、第１の実施形態の適用が有効となる前提条件としては、代表文ｒ及び複数の対象ラベルｅに対する参照文ｓ又は参照文ｓ集合の量が少量であることと、代表文ｒと学習用説明文のフォーマットが異なる場合、例えば、入力文が質問形であり、説明文のフォーマットと著しく異なることである。
【００４０】
また、第１の実施形態においては、代表文ｒに含まれる代表語ｖを拡張する際に、代表語ｖからの類似度だけでなく、参照文ｓに含まれる他の単語との類似度と、当該代表語ｖの判別能力を加味する。このようにすることによって、代表文ｒに含まれる代表語ｖを、当該代表語ｖが用いられる意味に沿って拡張することができる。また、このように拡張された単語、或いは当該単語のスコアを用いて、用語抽出、或いはテキスト分類を行うことにより、単なる単語の表層マッチだけではなく、意味を踏まえた抽出、及び分類が可能となる。図２に単純な単語拡張の例を示し、図３に第１の実施形態に係る単語拡張装置における単語拡張の例を示す。
【００４１】
＜第１の実施形態に係る単語拡張装置の構成＞
次に、第１の実施形態に係る単語拡張装置の構成について説明する。図４に示すように、第１の実施形態に係る単語拡張装置１００は、ＣＰＵと、ＲＡＭと、後述する単語拡張処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することができる。この単語拡張装置１００は、機能的には図４に示すように入力部１０と、演算部２０と、出力部９０とを備えている。
【００４２】
入力部１０は、対象ラベルｅが付加された少なくとも１つ以上の代表文ｒと、当該代表文ｒの参照文ｓと、一般類似度モデルとを受け付ける。なお、代表文ｒに含まれる代表語ｖは、予め定められているものとする。なお、第１の実施形態においては、受け付けた代表文ｒの参照文ｓ、及び当該代表文ｒの代表語ｖは、１つずつとする。また、第１の実施形態においては、受け付けた代表文ｒの参照文ｓ、及び当該代表文ｒの代表語ｖは、１つずつとする場合について説明するが、受け付けた代表文ｒの参照文ｓ、及び当該代表文ｒの代表語ｖは、少なくとも１つ以上であってもよい。また、対象ラベルｅは、代表語ｖについても付加されているものとする。
【００４３】
ここで、一般類似度モデルとは、教師なし文書から事前に学習された単語同士の１対１の類似度であり、例えば、ｗｏｒｄ２ｖｅｃを用いることができる（非特許文献２：Mikolov, Tomas, et al. "Efficient estimation of word representations in vector space." arXiv preprint arXiv:1301.3781 (2013).）。以後、単語ａと単語ｂとのｗｏｒｄ２ｖｅｃ類似度を、「ｗ２ｖ（ａ，ｂ）」と表す。
【００４４】
演算部２０は、判別度算出部２２と、単語類似度算出部２４と、スコア算出部３０と、記憶部３２とを含んで構成されている。
【００４５】
判別度算出部２２は、入力部１０において受け付けた代表文ｒの各々に含まれる代表語ｖの各々について、入力部１０において受け付けた代表語ｖ、代表文ｒについての参照文ｓ、及び代表文ｒ以外の代表文ｒ´についての参照文ｓ´とに基づいて、当該代表語ｖが他の対象ラベルｅ´の文脈（当該代表語ｖの代表文ｒ以外の、他の対象ラベルｅ´が付加された代表文ｒ´の参照文ｓ´）からの判別能力を表す判別度ｃｌｓ＿ｓｃｏｒｅ（ｓ,ｖ）を、下記（１）式に従って、算出する。なお、下記（１）式は、ｔｆｉｄｆを、文長を補正項として修正したものである。また、代表語ｖの参照文ｓとは、代表語ｖの代表文ｒの参照文ｓであるものとする。また、判別度は、高ければ高い程、判別能力が高いものとする。
【００４６】
【数１】
0006531025.tif 000002
【００４７】
ここで、ｌｅｎ（ｓ）は参照文ｓの単語数であり、ａｖｅ＿ｌｅｎは代表文ｒ以外の代表文ｒ´、及び参照文ｓ´を含んだ全文における文毎の平均単語数であり、cは定数であり、ｔｆ（ｓ,ｖ）は代表語ｖの参照文ｓ中の出現頻度であり、ｄｆ（ｖ）は、当該代表語ｖの参照文ｓ及び他の代表語の参照文ｓ´を全文としたときの当該代表語ｖの出現文数である。
【００４８】
単語類似度算出部２４は、入力部１０において受け付けた代表文ｒの各々に含まれる代表語ｖの各々について、入力部１０において受け付けた一般類似度モデルと当該代表語ｖの参照文ｓとに基づいて、他の単語との類似度ｓｉｍ＿ｓｃｏｒｅ（ｖ´,ｖ,ｓ）を算出する。また、単語類似度算出部２４は、ｗ２ｖ算出部２６と、ｄ２ｖ算出部２８とを含んで構成されている。
【００４９】
ｗ２ｖ算出部２６は、入力部１０において受け付けた代表語ｖの各々について、入力部１０において受け付けた一般類似度モデルに含まれる単語であって、かつ代表語ｖとの類似度ｗ２ｖ（ｖ´，ｖ）（例えば、ｗｏｒｄ２ｖｅｃ類似度）の上位Ｎ単語を抽出し、当該代表語ｖの拡張単語候補集合「￥ｂ｛ｖ´｝」とする。また、取得した拡張単語候補集合￥ｂ｛ｖ´｝に含まれる拡張単語候補ｖ´の各々と当該代表語ｖとの類似度ｗ２ｖ（ｖ´，ｖ）も併せて取得する。なお、第１の実施形態においては、類似度ｗ２ｖ（ｖ´，ｖ）の上位Ｎ単語を抽出する場合について説明したが、これに限定されるものではなく、例えば、予め定められた閾値Ｔ以上の類似度ｗ２ｖ（ｖ´，ｖ）を持つ単語を拡張単語候補集合￥ｂ｛ｖ´｝としてもよい。
【００５０】
ｄ２ｖ算出部２８は、入力部１０において受け付けた代表語ｖの各々について、入力部１０において受け付けた一般類似度モデル、及び当該代表語ｖの参照文ｓと、ｗ２ｖ算出部２６において取得した当該代表語ｖの拡張単語候補集合￥ｂ｛ｖ´｝とに基づいて、当該代表語ｖの拡張単語候補ｖ´の各々と参照文ｓに含まれる単語集合￥ｂ｛ｗ｝との平均類似度ｄ２ｖ（ｓ，ｖ´）を下記（２）式に従って算出する。なお、第１の実施形態においては、下記（２）式において、ｌｅｎ（ｓ）で割っているが、ｄｆ（ｖ）２で割ってもよい。また、平均類似度は高い程似ていることを表す。
【００５１】
【数２】
0006531025.tif 000003
【００５２】
また、ｄ２ｖ算出部２８は、代表語ｖの各々について、ｗ２ｖ算出部２６において取得した類似度ｗ２ｖ（ｖ´，ｖ）の各々と、算出した平均類似度ｄ２ｖ（ｓ，ｖ´）の各々とに基づいて、下記（３）式に従って、拡張単語候補ｖ´と代表語ｖ及び参照文ｓの組み合わせ｛ｖ，ｓ｝との類似度ｓｉｍ＿ｓｃｏｒｅ（ｖ´,ｖ,ｓ）を算出する。
【００５３】
【数３】
0006531025.tif 000004
【００５４】
ここで、Ｃはスコア調整項であり、１／ｄｆ（ｖ）２とする。
【００５５】
スコア算出部３０は、入力部１０において受け付けた代表語ｖの各々について、入力部１０において受け付けた当該代表語ｖの参照文ｓと、単語類似度算出部２４において取得した、当該代表語ｖの拡張単語候補ｖ´の各々、類似度ｓｉｍ＿ｓｃｏｒｅ（ｖ´,ｖ,ｓ）と、判別度算出部２２において取得した判別度ｃｌｓ＿ｓｃｏｒｅ（ｓ,ｖ)とに基づいて、下記（４）式に従って、当該代表語ｖの拡張単語候補ｖ´の各々の拡張語としてのスコアｓｃｏｒｅ（ｖ’,ｖ）を算出する。なお、下記（４）式の左辺に参照文ｓが存在しないのは、便宜的な省略であり、当該拡張語としてのスコアは代表語ｖによって一意に決定するためである。
【００５６】
【数４】
0006531025.tif 000005
【００５７】
また、スコア算出部３０は、入力部１０において受け付けた代表語ｖの各々について、当該拡張単語候補ｖ´の各々について算出した拡張語としてのスコアの上位Ｎ件の拡張単語候補を拡張語とし、拡張結果として、拡張語、及び当該拡張語としてのスコアを取得する。なお、第１の実施形態においては、拡張語としてのスコアの上位Ｎ件を拡張結果とする場合について説明したが、これに限定されるものではなく、例えば、当該スコアが閾値Ｔ以上であるものを拡張結果として取得してもよい。
【００５８】
また、スコア算出部３０は、取得した拡張結果と、入力部１０において受け付けた代表語ｖの各々に対応する対象ラベルｅ、及び参照文ｓとに基づいて、図５に示すような拡張結果を示す表を作成し、記憶部３２に記憶すると共に、出力部９０から出力する。
【００５９】
記憶部３２には、スコア算出部３０において取得した、例えば、図５に示すような拡張結果を示す表が記憶されている。ここで、図５に示す代表語ｖは、対象に対して１つの場合もあれば、複数の場合もあり得る。図５の例では、ｅ１が複数の代表語ｖ（ｖ１，ｖ２）に対応し、ｅ３は１つの代表語ｖ（ｖ５）に対応していることを表す。
【００６０】
＜第１の実施形態に係る分類装置の構成＞
次に、第１の実施形態に係る分類装置の構成について説明する。図６に示すように、第１の実施形態に係る分類装置３００は、ＣＰＵと、ＲＡＭと、後述する分類処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することができる。この分類装置３００は、機能的には図６に示すように入力部３１０と、演算部３２０と、出力部３９０とを備えている。
【００６１】
入力部３１０は、分類対象となる入力文ｔを受け付ける。ここで、入力文ｔは、例えば、「子供に関する研究」であり、入力文ｔは「子供、に、関する、研究」のように、各単語に分割されているものとする。
【００６２】
演算部３２０は、記憶部３２２と、ルールマッチ部３２４とを含んで構成されている。
【００６３】
記憶部３２２には、上述した単語拡張装置１００において取得した、例えば、図５に示すような拡張結果を示す表が記憶されている。
【００６４】
ルールマッチ部３２４は、入力部３１０において受け付けた入力文ｔと、記憶部３２２に記憶されている拡張結果を示す表とに基づいて、入力文ｔからの単語の抽出結果と分類結果とを取得し、出力部３９０から出力する。
【００６５】
具体的には、ルールマッチ部３２４は、入力文ｔに含まれる各単語ｕについて、記憶部３２２に記憶されている拡張結果を示す表に基づいて、当該単語ｕを拡張語としてスコアが一番高い代表語ｖ、及び対象ラベルｅとスコアとの組み合わせを特定する。また、入力文ｔに含まれる各単語ｕについて特定された代表語ｖ、及び対象ラベルｅとスコアとの組み合わせのうち、一番スコアが高い対象ラベルｅを当該入力文ｔの分類結果として取得する。また、一番スコアが高い対象ラベルｅの代表語ｖの拡張語と一致する、入力文ｔに含まれる単語ｕを単語の抽出結果として取得する。
【００６６】
なお、複数の拡張結果にマッチする場合、全入力単語ｕ中でスコアの最も高いものを採用してもよい。
【００６７】
また、第１の実施形態においては、単語の抽出結果と分類結果とを出力する場合について説明したが、これに限定されるものではない。例えば、分類結果のみを出力してもよい。この場合、ルールマッチ部３２４は、入力文ｔに含まれる各単語ｕについて、記憶部３２２に記憶されている拡張結果を示す表に基づいて、当該単語ｕを拡張語としてスコアが一番高い対象ラベルｅを取得する。そして、取得した対象ラベルｅの数が最大となる対象ラベルｅを分類結果として出力する。
【００６８】
あるいは、ルールマッチ部３２４は、入力文ｔに含まれる各単語ｕについて、記憶部３２２に記憶されている拡張結果を示す表に基づいて、当該単語ｕを拡張語としてスコアが一番高い対象ラベルｅと当該スコアとの組み合わせを取得する。そして、取得した対象ラベルｅについてのスコアの総和が最大となる対象ラベルｅを分類結果として出力してもよい。
【００６９】
＜第１の実施形態に係る単語拡張装置の作用＞
次に、第１の実施形態に係る単語拡張装置１００の作用について説明する。単語拡張装置１００は、入力部１０において、対象ラベルｅが付加された少なくとも１つ以上の代表文ｒ（代表語ｖを含む）と、当該代表文ｒの参照文ｓと、一般類似度モデルとを受け付けると、単語拡張装置１００のＲＯＭに記憶されたプログラムを、ＣＰＵが実行することにより、図７に示す単語拡張処理ルーチンを実行する。
【００７０】
まず、ステップＳ１００では、入力部１０において受け付けた代表語ｖのうち、処理対象となる代表語ｖを決定する。
【００７１】
次に、ステップＳ１０１では、処理対象となる代表語ｖについて、代表語ｖを含む代表文ｒについての参照文ｓ、及び代表文ｒ以外の代表文ｒ´についての参照文ｓ´とに基づいて、上記（１）式に従って、判別度ｃｌｓ＿ｓｃｏｒｅ（ｓ,ｖ)を算出する。
【００７２】
次に、ステップＳ１０２では、処理対象となる代表語ｖについて、入力部１０において受け付けた一般類似度モデルに含まれる単語であって、かつ当該代表語ｖとの類似度ｗ２ｖ（ｖ´，ｖ）の上位Ｎ単語を抽出し、当該代表語ｖの拡張単語候補集合「￥ｂ｛ｖ´｝」とする。また、取得した拡張単語候補集合￥ｂ｛ｖ´｝に含まれる拡張単語候補ｖ´の各々と当該代表語ｖとの類似度ｗ２ｖ（ｖ´，ｖ）も併せて取得する。
【００７３】
次に、ステップＳ１０４では、処理対象となる代表語ｖについて、入力部１０において受け付けた一般類似度モデル、及び当該代表語ｖの参照文ｓと、ステップＳ１０２において取得した当該代表語ｖの拡張単語候補集合￥ｂ｛ｖ´｝とに基づいて、当該代表語ｖの拡張単語候補ｖ´の各々と参照文ｓに含まれる単語集合￥ｂ｛ｗ｝との平均類似度ｄ２ｖ（ｓ，ｖ´）を上記（２）式に従って算出する。
【００７４】
次に、ステップＳ１０６では、処理対象となる代表語ｖについて、ステップＳ１０２において取得した類似度ｗ２ｖ（ｖ´，ｖ）の各々と、ステップＳ１０４において取得した平均類似度ｄ２ｖ（ｓ，ｖ´）の各々とに基づいて、上記（３）式に従って、拡張単語候補ｖ´と代表語ｖ及び参照文ｓの組み合わせ｛ｖ，ｓ｝との類似度ｓｉｍ＿ｓｃｏｒｅ（ｖ´,ｖ,ｓ）を算出する。
【００７５】
次に、ステップＳ１０８では、処理対象となる代表語ｖについて、当該代表語ｖの参照文ｓと、ステップＳ１０２において取得した当該代表語ｖの拡張単語候補ｖ´の各々と、ステップＳ１０６において取得した類似度ｓｉｍ＿ｓｃｏｒｅ（ｖ´,ｖ,ｓ）と、ステップＳ１０１において取得した判別度ｃｌｓ＿ｓｃｏｒｅ（ｓ,ｖ)とに基づいて、上記（４）式に従って、当該代表語ｖの拡張単語候補ｖ´の各々の拡張語としてのスコアｓｃｏｒｅ（ｖ’,ｖ）を算出する。
【００７６】
次に、ステップＳ１０９では、入力部１０において受け付けた全ての代表語ｖについてステップＳ１０１〜ステップＳ１０８までの処理を終了したか否かを判定する。全ての代表語ｖについてステップＳ１０１〜ステップＳ１０８までの処理を終了している場合には、単語拡張処理ルーチンは、ステップＳ１１０へ移行する。一方、全ての代表語ｖについてステップＳ１０１〜ステップＳ１０８までの処理を終了していない場合には、ステップＳ１００に移行し、処理対象となる代表語ｖを変更し、ステップＳ１０１〜ステップＳ１０９までの処理を繰り返す。
【００７７】
次に、ステップＳ１１０では、代表語ｖの各々について、ステップＳ１０８において取得した当該代表語ｖについての拡張単語候補ｖ´の各々について算出した拡張語としてのスコアの上位Ｎ件を拡張結果として、当該拡張語としてのスコアと共に取得する。また、取得した拡張結果と、入力部１０において受け付けた代表語ｖの各々に対応する対象ラベルｅ、及び参照文ｓとに基づいて、図５に示すような拡張結果を示す表を作成し、記憶部３２に記憶する。
【００７８】
次に、ステップＳ１１２では、ステップＳ１１０において取得した拡張結果を示す表を出力部９０から出力して、単語拡張処理ルーチンを終了する。
【００７９】
＜第１の実施形態に係る分類装置の作用＞
次に、第１の実施形態に係る分類装置３００の作用について説明する。分類装置３００は、入力部３１０において、分類対象となる入力文ｔを受け付けると、分類装置３００のＲＯＭに記憶されたプログラムを、ＣＰＵが実行することにより、図８に示す分類処理ルーチンを実行する。
【００８０】
まず、ステップＳ３００では、記憶部３２２に記憶されている拡張結果を示す表を読み込む。
【００８１】
次に、ステップＳ３０２では、入力部３１０において受け付けた入力文ｔに含まれる各単語ｕのうち、処理対象となる単語ｕを決定する。
【００８２】
次に、ステップＳ３０４では、処理対処となる単語ｕと、ステップＳ３００において取得した拡張結果を示す表とに基づいて、当該単語ｕを拡張語としてスコアが一番高い代表語ｖ、及び対象ラベルｅとスコアとの組み合わせを特定する。
【００８３】
次に、ステップＳ３０６では、入力部３１０において受け付けた入力文ｔに含まれる全ての単語ｕについてステップＳ３０４の処理を終了したか否かを判定する。全ての単語についてステップＳ３０４の処理を終了している場合には、分類処理ルーチンは、ステップＳ３０８へ移行する。一方、全ての単語についてステップＳ３０４の処理を終了していない場合には、分類処理ルーチンは、ステップＳ３０２へ移行し、処理対象となる単語ｕを変更し、ステップＳ３０４〜ステップＳ３０６までの処理を繰り返す。
【００８４】
次に、ステップＳ３０８では、ステップＳ３０４において取得した、当該単語ｕを拡張語としてスコアが一番高い代表語ｖ、及び対象ラベルｅとスコアとの組み合わせの各々に基づいて、入力文ｔの分類結果を取得すると共に、単語の抽出結果を取得する。
【００８５】
次に、ステップＳ３１２では、ステップＳ３０８において取得した分類結果及び抽出結果を出力部３９０から出力して、分類処理ルーチンを終了する。
【００８６】
以上説明したように、第１の実施形態に係る単語拡張装置によれば、拡張単語候補の各々について、代表語と拡張単語候補との類似度を算出し、代表語の判別度を算出し、拡張単語候補の各々について算出された類似度と、算出された代表語の判別度とに基づいて、拡張単語候補の各々に対する、拡張語としてのスコアを算出し、代表語の拡張結果を出力することにより、参照文の数が少量であっても、単語の意味に沿って単語を拡張することができる。
【００８７】
また、第１の実施形態に係る分類装置によれば、単語拡張装置によって複数の代表語について出力された代表語の拡張結果に基づいて、拡張結果に含まれるスコアを用いて、入力文に含まれる単語が、拡張結果として含まれる代表語に対して予め与えられている対象ラベルを取得し、入力文の分類結果として出力することにより、入力文を精度よく分類することができる。
【００８８】
また、ｇｉｖｅｎな単語集合の拡張をすることができる。また、代表文は、一種のルールとすることができるため、ルールとして扱うことで、実用状のメンテナンス性の向上を見込める。
【００８９】
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【００９０】
次に、第２の実施形態に係る単語拡張装置、機械学習装置、及び分類装置について説明する。
【００９１】
第２の実施形態においては、機械学習を用いて、入力文ｔからの単語の抽出結果、及び分類結果を取得する点が第１の実施形態と異なる。なお、第２の実施の形態に係る単語拡張装置は、第１の実施形態に係る単語拡張装置１００と同様の構成であるため、同一の符号を付して説明を省略する。また、第１の実施形態に係る分類装置３００と同様の構成となる部分については、同一の符号を付して説明を省略する。
【００９２】
＜第２の実施形態に係る機械学習装置の構成＞
まず、第２の実施形態に係る機械学習装置の構成について説明する。図９に示すように、第２の実施形態に係る機械学習装置４００は、ＣＰＵと、ＲＡＭと、後述する機械学習処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することができる。この機械学習装置４００は、機能的には図９に示すように入力部４１０と、演算部４２０と、出力部４９０とを備えている。
【００９３】
入力部４１０は、対象ラベルｅが付加された少なくとも１つ以上の代表文ｒ（代表語ｖを含む）を受け付ける。
【００９４】
演算部４２０は、記憶部４２２と、機械学習素性化部４２４と、機械学習部４２６と、学習モデル記憶部４２８とを備えている。
【００９５】
記憶部４２２には、単語拡張装置１００において取得した、例えば、図５に示すような拡張結果を示す表が記憶されている。
【００９６】
機械学習素性化部４２４は、入力部４１０において受け付けた代表語ｖの各々について、記憶部４２２に記憶されている拡張結果を示す表と、当該代表語ｖとに基づいて、素性化（特徴量抽出）し、当該素性化した結果を素性化済みデータとして取得する。
【００９７】
具体的には、拡張結果を示す表のうち、代表語ｖを拡張結果及び代表語とするスコアｓｃｏｒｅ（ｖ，ｖ）と、当該代表語ｖが代表語ｖとして強調されているという情報と、を当該代表語ｖの素性化済みデータとして取得する。
【００９８】
機械学習部４２６は、機械学習素性化部４２４において取得した代表語ｖの各々についての素性化済みデータと、前記代表語ｖの各々について予め与えられている対象ラベルｅとに基づいて、ＣＲＦ等の既存の機械学習アルゴリズムを用いて、入力文からキーとなる単語を抽出し、当該単語を対象ラベルｅに分類するための機械学習モデルを学習する（非特許文献３：Lafferty, John, Andrew McCallum, and Fernando CN Pereira. "Conditional random fields: Probabilistic models for segmenting and labeling sequence data." (2001).）。
【００９９】
具体的には、拡張単語の単語位置の範囲と、各拡張単語に対応する元代表語ｖに対応する学習を行う。また、機械学習部４２６は、取得した機械学習モデルを、学習モデル記憶部４２８に記憶すると共に、出力部４９０から出力する。
【０１００】
＜第２の実施形態に係る分類装置の構成＞
次に、第２の実施形態に係る分類装置の構成について説明する。図１０に示すように、第２の実施形態に係る分類装置５００は、ＣＰＵと、ＲＡＭと、後述する分類処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することができる。この分類装置５００は、機能的には図１０に示すように入力部５１０と、演算部５２０と、出力部５９０とを備えている。
【０１０１】
入力部５１０は、分類対象となる入力文ｔを受け付ける。ここで、入力文ｔは、例えば、「子供に関する研究」であり、入力文ｔは「子供、に、関する、研究」のように、各単語ｕに分割されているものとする。
【０１０２】
演算部５２０は、記憶部５２２と、素性化部５２４と、分類部５２６とを含んで構成されている。
【０１０３】
記憶部５２２には、単語拡張装置１００において取得した、例えば、図５に示すような拡張結果を示す表、及び上述した機械学習装置４００において学習された機械学習モデルが記憶されている。
【０１０４】
素性化部５２４は、入力部５１０において受け付けた入力文ｔと、記憶部３２２に記憶されている拡張結果を示す表とに基づいて、入力文ｔに含まれる各単語ｕの各々について、素性化し、素性化済みデータを取得する。
【０１０５】
具体的には、素性化部５２４は、単語ｕの各々について、例えば図５に示すような拡張結果に基づいて、当該単語ｕを拡張単語とした場合における、一番スコアの高い代表語ｖとのスコアｓｃоｒｅ（ｕ，ｖ）を素性化済みデータとして取得する。
【０１０６】
分類部５２６は、素性化部５２４において取得した各単語ｕの素性化済みデータと、記憶部５２２に記憶されている機械学習モデルとに基づいて、入力文ｔからキーとなる単語を抽出した抽出結果を示すラベル付きの単語系列を取得すると共に、抽出された単語の分類結果となる対象ラベルｅとを取得する。
【０１０７】
＜第２の実施形態に係る機械学習装置の作用＞
次に、第２の実施形態に係る機械学習装置４００の作用について説明する。まず、単語拡張装置１００によって得られた拡張結果を示す表が、記憶部４２２に格納される。そして、機械学習装置４００は、入力部４１０において、対象ラベルｅが付加された少なくとも１つ以上の代表文ｒ（代表語ｖを含む）を受け付けると、機械学習装置４００のＲＯＭに記憶されたプログラムを、ＣＰＵが実行することにより、図１１に示す機械学習処理ルーチンを実行する。
【０１０８】
まず、ステップＳ４００で、記憶部４２２に記憶されている拡張結果を示す表を読み込む。
【０１０９】
次に、ステップＳ４０２で、入力部４１０において受け付けた代表語ｖのうち、処理対象となる代表語ｖを決定する。
【０１１０】
次に、ステップＳ４０４で、処理対象となる代表語ｖについて、ステップＳ４００において取得した拡張結果を示す表と、当該代表語ｖとに基づいて、素性化し、素性化済みデータとして取得する。
【０１１１】
次に、ステップＳ４０６で、入力部４１０において受け付けた全ての代表語ｖについて、ステップＳ４０４の処理を終了したか否かを判定する。全ての代表語ｖについてステップＳ４０４の処理を終了した場合には、機械学習処理ルーチンは、ステップＳ４０８へ移行する。一方、全ての代表語ｖについて、ステップＳ４０４の処理を終了していない場合には、ステップＳ４０２へ移行し、処理対象となる代表語ｖを変更して、ステップＳ４０４〜ステップＳ４０６までの処理を繰り返す。
【０１１２】
次に、ステップＳ４０８で、ステップＳ４０４において取得した素性化済みデータの各々と、代表語ｖの各々に予め与えられている対象ラベルｅとに基づいて、ＣＲＦを用いて、機械学習モデルを学習し、学習モデル記憶部４２８に記憶する。
【０１１３】
次に、ステップＳ４１０で、ステップＳ４０８において取得した機械学習モデルを、出力部４９０から出力して機械学習処理ルーチンを終了する。
【０１１４】
＜第２の実施形態に係る分類装置の作用＞
次に、第２の実施形態に係る分類装置５００の作用について説明する。分類装置５００は、入力部５１０において、分類対象となる入力文ｔを受け付けると、分類装置５００のＲＯＭに記憶されたプログラムを、ＣＰＵが実行することにより、図１２に示す分類処理ルーチンを実行する。
【０１１５】
まず、ステップＳ５００では、記憶部５２２に記憶されている機械学習モデルを読み込む。
【０１１６】
次に、ステップＳ５０２では、記憶部５２２に記憶されている拡張結果を示す表を読み込む。
【０１１７】
次に、ステップＳ５０４では、入力部５１０において受け付けた入力文ｔに含まれる各単語ｕのうち、処理対象となる単語ｕを決定する。
【０１１８】
次に、ステップＳ５０６では、処理対処となる単語ｕについて、当該単語ｕと、ステップＳ５０２において取得した拡張結果を示す表とに基づいて、素性化し、素性化済みデータを取得する。
【０１１９】
次に、ステップＳ５０８では、入力部５１０において受け付けた入力文ｔに含まれる全ての単語ｕについてステップＳ５０６の処理を終了したか否かを判定する。全ての単語についてステップＳ５０６の処理を終了している場合には、分類処理ルーチンは、ステップＳ５１０へ移行する。一方、全ての単語についてステップＳ５０６の処理を終了していない場合には、分類処理ルーチンは、ステップＳ５０４へ移行し、処理対象となる単語ｕを変更し、ステップＳ５０６〜ステップＳ５０８までの処理を繰り返す。
【０１２０】
次に、ステップＳ５１０では、ステップＳ５０６において取得した、単語ｕの各々の素性化済みデータと、ステップＳ５００において取得した機械学習モデルとに基づいて、分類結果及び単語の抽出結果を取得する。
【０１２１】
次に、ステップＳ５１２では、ステップＳ５１０において取得した分類結果及び単語の抽出結果を出力部５９０から出力して、分類処理ルーチンを終了する。
【０１２２】
以上説明したように、第２の実施形態に係る機械学習装置によれば、複数の代表語について予め求められた、拡張単語候補の各々に対する、拡張語としてのスコアに基づく代表語の拡張結果に基づいて、複数の代表文に含まれる複数の代表語の各々について、素性化済みデータを出力し、複数の代表語の各々について出力された素性化済みデータと、複数の代表語の各々に対して予め与えられている対象ラベルとに基づいて、単語を対象ラベルに分類するための機械学習モデルを学習することにより、入力文を精度よく分類することができる機械学習モデルを学習することができる。
【０１２３】
また、第２の実施形態に係る分類装置によれば、拡張単語候補の各々に対する代表語の拡張結果に基づいて、入力文に含まれる単語の各々について、単語が、拡張結果として含まれる代表語のうち、スコアが最大となる代表語を取得し、取得した代表語に対する素性化済みデータを出力し、予め学習された、単語を対象ラベルに分類するための機械学習モデルと、出力された単語の各々についての素性化済みデータとに基づいて、入力文に含まれる単語の各々を、対象ラベルに分類し、入力文の分類結果とすることにより、入力文を精度良く分類することができる。
【０１２４】
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【０１２５】
次に、第３の実施形態に係る単語拡張装置、機械学習装置、及び分類装置について説明する。
【０１２６】
第３の実施形態においては、機械学習を用いて、入力文ｔからの単語の抽出結果を取得せずに、入力文ｔの分類結果を取得する点が第２の実施形態と異なる。なお、第３の実施の形態に係る単語拡張装置は、第１の実施形態に係る単語拡張装置１００と同様の構成であるため、同一の符号を付して説明を省略する。また、第２の実施形態に係る機械学習装置、及び分類装置と同様の構成及び作用については、同一の符号を付して説明を省略する。
【０１２７】
＜第３の実施形態に係る機械学習装置の構成＞
まず、第３の実施形態に係る機械学習装置の構成について説明する。図１３に示すように、第３の実施形態に係る機械学習装置４５０は、ＣＰＵと、ＲＡＭと、後述する機械学習処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することができる。この機械学習装置４５０は、機能的には図１３に示すように入力部４１０と、演算部４７０と、出力部４９０とを備えている。
【０１２８】
演算部４７０は、記憶部４２２と、機械学習素性化部４７４と、機械学習部４７６と、学習モデル記憶部４７８とを備えている。
【０１２９】
機械学習素性化部４７４は、入力部４１０において受け付けた代表語ｖの各々について、記憶部４２２に記憶されている拡張結果を示す表と、当該代表語ｖとに基づいて、素性化（特徴量抽出）し、当該素性化した結果を素性化済みデータとして取得する。
【０１３０】
具体的には、拡張結果を示す表のうち、代表語ｖを拡張結果及び元代表語とするスコアｓｃｏｒｅ（ｖ，ｖ）を当該代表語ｖの素性化済みデータとして取得する。
【０１３１】
機械学習部４７６は、機械学習素性化部４７４において取得した代表語ｖの各々についての素性化済みデータと、前記代表語ｖの各々について予め与えられている対象ラベルｅとに基づいて、ＳＶＭ等の既存の機械学習アルゴリズムを用いて、単語を対象ラベルｅに分類するための機械学習モデルを学習する（非特許文献１）。具体的には、拡張単語の各拡張単語に対応する元代表語ｖに対応する学習を行う。また、機械学習部４７６は、取得した機械学習モデルを、学習モデル記憶部４７８に記憶すると共に、出力部４９０から出力する。
【０１３２】
＜第３の実施形態に係る分類装置の構成＞
次に、第３の実施形態に係る分類装置の構成について説明する。図１４に示すように、第３の実施形態に係る分類装置５５０は、ＣＰＵと、ＲＡＭと、後述する分類処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することができる。この分類装置５５０は、機能的には図１４に示すように入力部５１０と、演算部５７０と、出力部５９０とを備えている。
【０１３３】
演算部５７０は、記憶部５７２と、素性化部５２４と、分類部５７６とを含んで構成されている。
【０１３４】
記憶部５７２には、単語拡張装置１００において取得した、例えば、図５に示すような拡張結果を示す表、及び上述した機械学習装置において学習された機械学習モデルが記憶されている。
【０１３５】
分類部５７６は、素性化部５２４において取得した各単語ｕの素性化済みデータと、記憶部５７２に記憶されている機械学習モデルとに基づいて、各単語ｕを対象ラベルｅに分類し、分類結果となる対象ラベルｅを取得する。
【０１３６】
＜第３の実施形態に係る機械学習装置の作用＞
次に、第３の実施形態に係る機械学習装置４５０の作用について説明する。まず、単語拡張装置１００によって得られた拡張結果を示す表が、記憶部４２２に格納される。そして、機械学習装置４５０は、入力部４１０において、対象ラベルｅが付加された少なくとも１つ以上の代表文ｒ（代表語ｖを含む）を受け付けると、機械学習装置４５０のＲＯＭに記憶されたプログラムを、ＣＰＵが実行することにより、図１５に示す機械学習処理ルーチンを実行する。
【０１３７】
図１５のステップＳ４２４で、処理対象となる代表語ｖについて、ステップＳ４００において取得した拡張結果を示す表と、当該代表語ｖとに基づいて、素性化し、素性化済みデータとして取得する。
【０１３８】
ステップＳ４２８で、ステップＳ４２４において取得した素性化済みデータの各々と、受け付けた代表語ｖの各々に予め与えられている対象ラベルｅとに基づいて、ＳＶＭを用いて、機械学習モデルを学習し、学習モデル記憶部４７８に記憶する。
【０１３９】
＜第３の実施形態に係る分類装置の作用＞
次に、第３の実施形態に係る分類装置５５０の作用について説明する。分類装置５５０は、入力部５１０において、分類対象となる入力文ｔを受け付けると、分類装置５５０のＲＯＭに記憶されたプログラムを、ＣＰＵが実行することにより、図１６に示す分類処理ルーチンを実行する。
【０１４０】
図１６のステップＳ５３０では、ステップＳ５０６において取得した、単語ｕの各々の素性化済みデータと、ステップＳ５００において取得した機械学習モデルとに基づいて、分類結果を取得する。
【０１４１】
以上説明したように、第３の実施形態に係る機械学習装置によれば、複数の代表語について予め求められた、拡張単語候補の各々に対する、拡張語としてのスコアに基づく代表語の拡張結果に基づいて、複数の代表文に含まれる複数の代表語の各々について、素性化済みデータを出力し、複数の代表語の各々について出力された素性化済みデータと、複数の代表語の各々に対して予め与えられている対象ラベルとに基づいて、単語を対象ラベルに分類するための機械学習モデルを学習することにより、入力文を精度よく分類することができる機械学習モデルを学習することができる。
【０１４２】
また、第３の実施形態に係る分類装置によれば、拡張単語候補の各々に対する代表語の拡張結果に基づいて、入力文に含まれる単語の各々について、単語が、拡張結果として含まれる代表語のうち、スコアが最大となる代表語を取得し、取得した代表語に対する素性化済みデータを出力し、予め学習された、単語を対象ラベルに分類するための機械学習モデルと、出力された単語の各々についての素性化済みデータとに基づいて、入力文に含まれる単語の各々を、対象ラベルに分類し、入力文の分類結果とすることにより、入力文を精度良く分類することができる。
【０１４３】
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【０１４４】
例えば、第２及び第３の実施形態においては、機械学習装置と分類装置とを別々の装置として構成する場合について説明したが、これに限定されるものではなく、機械学習装置と分類装置とを同一の装置として構成してもよい。
【０１４５】
次に、第４の実施形態に係る単語拡張装置について説明する。
【０１４６】
第４の実施形態においては、単語拡張装置において算出する判別度を、機械学習の分類スコアから取得する点が第１〜第３の実施形態と異なる。なお、第４の実施の形態に係る単語拡張装置は、第１の実施形態に係る単語拡張装置１００と同様の構成であるため、同一の符号を付して説明を省略する。
【０１４７】
具体的には、第４の実施形態の単語拡張装置の判別度算出部２２は、入力部１０において受け付けた代表語ｖ、当該代表語ｖの代表文ｒの参照文ｓ、及び当該代表語ｖの代表文ｒ以外の代表文ｒ´の参照文ｓ´を入力とし、参照文ｓ、及び参照文ｓ´についての、例えば、ＳＶＭである分類器を学習し、そこから当該代表文ｒに分類するために得られた素性のうち、代表語ｖに対する重みを判別度ｃｌｓ＿ｓｃоｒｅ（ｓ，ｖ）とする。
【０１４８】
なお、第４の実施形態に係る単語拡張装置の他の構成及び作用については、第１の実施形態と同様であるため、説明を省略する。
【０１４９】
次に、第５の実施形態に係る単語拡張装置、及び分類装置について説明する。
【０１５０】
第５の実施形態においては、代表文ｒが存在せず、参照文ｓのみが存在する中から、代表的な単語を抽出した上で、抽出単語を参照文ｓとの類似度に基づいて拡張する点が第１の実施形態と異なる。なお、第１の実施形態に係る単語拡張装置１００、及び分類装置３００と同様の構成及び作用については、同一の符号を付して説明を省略する。
【０１５１】
＜第５の実施形態の概要＞
第５の実施形態に係る単語拡張装置は、代表文ｒが存在せず、対象ラベルｅに対応する参照文ｓのみが存在する中から、代表的な単語を抽出した上で、抽出した単語を参照文ｓとの類似度に基づいて拡張するものである。
【０１５２】
なお、上述の第１の実施形態に係る単語拡張装置においては、代表文ｒが入力されるが、第５の実施形態に係る単語拡張装置においては、代表文ｒが入力されないため、上述の第１の実施形態に係る単語拡張装置において、単語を拡張する場合よりも困難となる。また、第５の実施形態においては、参照文ｓに含まれる判別に重要となる単語を拡張する目的において、当該拡張元の単語の判別能力を元として、拡張元の単語からの類似度と、参照文ｓに含まれる他の単語との類似度を加味する。
【０１５３】
＜第５の実施形態に係る単語拡張装置の構成＞
次に、第５の実施形態に係る単語拡張装置の構成について説明する。図１７に示すように、第５の実施形態に係る単語拡張装置２００は、ＣＰＵと、ＲＡＭと、後述する単語拡張処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することができる。この単語拡張装置２００は、機能的には図１７に示すように入力部２１０と、演算部２２０と、出力部２９０とを備えている。
【０１５４】
入力部２１０は、少なくとも１つ以上の、対象ラベルｅが付加された少なくとも１つ以上の参照文ｓと、一般類似度モデルとを受け付ける。なお、第５の実施形態においては、受け付けた同一の対象ラベルｅが付加された参照文ｓは、１つずつとする場合について説明するが、受け付けた同一の対象ラベルｅの参照文ｓは、少なくとも１つ以上であってもよい。
【０１５５】
演算部２２０は、判別度算出部２２２と、単語類似度算出部２２４と、スコア算出部２３０と記憶部２３２とを含んで構成されている。
【０１５６】
判別度算出部２２２は、入力部１０において受け付けた参照文ｓの各々に対し、当該参照文ｓに含まれる各単語ｗについて、下記（５）式に従って、各単語ｗの判別度を算出する。
【０１５７】
【数５】
0006531025.tif 000006
【０１５８】
ここで、ｄｆ（ｗ）は、参照文ｓ、及び参照文ｓに対応する対象ラベルｅ以外の対象ラベルｅ´が付加された参照文ｓ´を全文としたときの単語ｗの出現文数である。
【０１５９】
また、判別度算出部２２２は、算出した各単語ｗの判別度の値の高い上位Ｎ単語を、代表語集合「￥ｂｖ」として取得する。ここで、代表語集合￥ｂｖに含まれる各単語を代表語ｖとし、各代表語ｖの判別度をｃｌｓ＿ｓｃоｒｅ（ｓ，ｖ）とする。なお、判別度の値が、予め定められた閾値以上の単語の各々を代表語集合「￥ｂｖ」としてもよい。ここで、代表語集合として取得される単語は、当該参照文ｓ中において特徴的な単語で有ると判断される。
【０１６０】
単語類似度算出部２２４は、判別度算出部２２２において取得した代表語ｖの各々について、入力部２１０において受け付けた一般類似度モデルと当該代表語ｖの参照文ｓとに基づいて、他の単語との類似度ｓｉｍ＿ｓｃｏｒｅ（ｖ´,ｖ,ｓ）を算出する。また、単語類似度算出部２２４は、ｗ２ｖ算出部２２６と、ｄ２ｖ算出部２２８とを含んで構成されている。
【０１６１】
ｗ２ｖ算出部２２６は、判別度算出部２２２において取得した代表語ｖの各々について、入力部２１０において受け付けた一般類似度モデルに含まれる単語であって、かつ代表語ｖとの類似度ｗ２ｖ（ｖ´，ｖ）（例えば、ｗｏｒｄ２ｖｅｃ類似度）の上位Ｎ単語を抽出し、当該代表語ｖの拡張単語候補集合「￥ｂ｛ｖ´｝」とする。また、取得した拡張単語候補集合￥ｂ｛ｖ´｝に含まれる拡張単語候補ｖ´の各々と当該代表語ｖとの類似度ｗ２ｖ（ｖ´，ｖ）も併せて取得する。なお、第５の実施形態においては、類似度ｗ２ｖ（ｖ´，ｖ）の上位Ｎ単語を抽出する場合について説明したが、これに限定されるものではなく、例えば、予め定められた閾値Ｔ以上の類似度ｗ２ｖ（ｖ´，ｖ）を持つ単語を拡張単語候補集合￥ｂ｛ｖ´｝としてもよい。
【０１６２】
ｄ２ｖ算出部２２８は、判別度算出部２２２において取得した代表語ｖの各々について、入力部２１０において受け付けた一般類似度モデル、及び当該代表語ｖの参照文ｓと、ｗ２ｖ算出部２２６において取得した当該代表語ｖの拡張単語候補集合￥ｂ｛ｖ´｝とに基づいて、当該代表語ｖの拡張単語候補ｖ´の各々と参照文ｓに含まれる単語集合￥ｂ｛ｗ｝との平均類似度ｄ２ｖ（ｓ，ｖ´）を下記（６）式に従って算出する。なお、第５の実施形態においては、下記（６）式において、ｌｅｎ（ｓ）で割っているが、ｄｆ（ｖ）２で割ってもよい。また、平均類似度は高い程似ていることを表す。
【０１６３】
【数６】
0006531025.tif 000007
【０１６４】
また、ｄ２ｖ算出部２２８は、代表語ｖの各々について、ｗ２ｖ算出部２２６において取得した類似度ｗ２ｖ（ｖ´，ｖ）の各々と、算出した平均類似度ｄ２ｖ（ｓ，ｖ´）の各々とに基づいて、上記（３）式に従って、拡張単語候補ｖ´と代表語ｖ及び参照文ｓの組み合わせ｛ｖ，ｓ｝との類似度ｓｉｍ＿ｓｃｏｒｅ（ｖ´,ｖ,ｓ）を算出する。
【０１６５】
ここで、Ｃはスコア調整項であり、１／ｄｆ（ｖ）２とする。
【０１６６】
スコア算出部２３０は、判別度算出部２２２において取得した代表語ｖの各々について、入力部２１０において受け付けた当該代表語ｖの参照文ｓと、単語類似度算出部２２４において取得した、当該代表語ｖの拡張単語候補ｖ´の各々、類似度ｓｉｍ＿ｓｃｏｒｅ（ｖ´,ｖ,ｓ）と、判別度算出部２２２において取得した判別度ｃｌｓ＿ｓｃｏｒｅ（ｓ,ｖ)とに基づいて、上記（４）式に従って、当該代表語ｖの拡張単語候補ｖ´の各々の拡張語としてのスコアｓｃｏｒｅ（ｖ’,ｖ）を算出する。なお、上記（４）式の左辺に参照文ｓが存在しないのは、便宜的な省略であり、当該拡張語としてのスコアは代表語ｖによって一意に決定するためのである。
【０１６７】
また、スコア算出部２３０は、判別度算出部２２２において取得した代表語ｖの各々について、当該拡張単語候補ｖ´の各々について算出した拡張語としてのスコアの上位Ｎ件の拡張単語候補を拡張語とし、を拡張結果として、拡張語、及び当該拡張語としてのスコアを取得する。なお、第５の実施形態においては、拡張語としてのスコアの上位Ｎ件を拡張結果とする場合について説明したが、これに限定されるものではなく、例えば、当該スコアが閾値Ｔ以上であるものを拡張結果として取得してもよい。
【０１６８】
また、スコア算出部２３０は、取得した拡張結果と、判別度算出部２２２において取得した代表語ｖの各々に対応する対象ラベルｅ、及び参照文ｓとに基づいて、拡張結果を示す表を作成し、記憶部２３２に記憶すると共に、出力部２９０から出力する。なお、代表語ｖに対応する対象ラベルｅは、代表語ｖに対応する参照文ｓに対応する対象ラベルｅである。
【０１６９】
記憶部２３２には、スコア算出部２３０において取得した、拡張結果を示す表が記憶されている。
【０１７０】
＜第５の実施形態に係る単語拡張装置の作用＞
次に、第５の実施形態に係る単語拡張装置２００の作用について説明する。単語拡張装置２００は、入力部２１０において、対象ラベルｅが付加された少なくとも１つ以上の参照文ｓと、一般類似度モデルとを受け付けると、単語拡張装置２００のＲＯＭに記憶されたプログラムを、ＣＰＵが実行することにより、図１８に示す単語拡張処理ルーチンを実行する。
【０１７１】
まず、ステップＳ２００では、入力部２１０において受け付けた参照文ｓのうち、処理対象となる参照文ｓを決定する。
【０１７２】
次に、ステップＳ２０２では、処理対象となる参照文ｓについて、当該参照文ｓに含まれる単語ｗ毎に、入力部２１０において受け付けた当該参照文ｓ、及び参照文ｓに対応する対象ラベルｅ以外の対象ラベルｅに対応する参照文ｓに基づいて、上記（５）式に従って、各単語ｗの判別度ｃｌｓ＿ｓｃｏｒｅ（ｓ,ｗ)を算出する。
【０１７３】
次に、ステップＳ２０４では、ステップＳ２０２において取得した各単語ｗの判別度ｃｌｓ＿ｓｃｏｒｅ（ｓ,ｗ)に基づいて、代表語集合￥ｂｖを取得する。
【０１７４】
次に、ステップＳ２０６では、入力部２１０において受け付けた全ての参照文ｓについて、ステップＳ２０２〜ステップＳ２０４までの処理を終了したか否かを判定する。全ての参照文ｓについてステップＳ２０２〜ステップＳ２０４までの処理を終了した場合には、単語拡張処理ルーチンは、ステップＳ２０８へ移行する。全ての参照文ｓについて、ステップＳ２０２〜ステップＳ２０４までの処理を終了していない場合には、単語拡張処理ルーチンは、ステップＳ２００へ移行し、処理対象となる参照文ｓを変更し、ステップＳ２０２〜ステップＳ２０６までの処理を繰り返す。
【０１７５】
次に、ステップＳ２０８では、ステップＳ２０４において取得した代表語集合￥ｂｖに含まれる代表語ｖのうち、処理対象となる代表語ｖを決定する。
【０１７６】
次に、ステップＳ２１０では、処理対象となる代表語ｖについて、入力部２１０において受け付けた一般類似度モデルに含まれる単語であって、かつ当該代表語ｖとの類似度ｗ２ｖ（ｖ´，ｖ）の上位Ｎ単語を抽出し、当該代表語ｖの拡張単語候補集合「￥ｂ｛ｖ´｝」とする。また、取得した拡張単語候補集合￥ｂ｛ｖ´｝に含まれる拡張単語候補ｖ´の各々と当該代表語ｖとの類似度ｗ２ｖ（ｖ´，ｖ）も併せて取得する。
【０１７７】
次に、ステップＳ２１２では、処理対象となる代表語ｖについて、入力部２１０において受け付けた一般類似度モデル、及び当該代表語ｖの参照文ｓと、ステップＳ２１０において取得した当該代表語ｖの拡張単語候補集合￥ｂ｛ｖ´｝とに基づいて、当該代表語ｖの拡張単語候補ｖ´の各々と参照文ｓに含まれる単語集合￥ｂ｛ｗ｝との平均類似度ｄ２ｖ（ｓ，ｖ´）を上記（６）式に従って算出する。
【０１７８】
次に、ステップＳ２１３では、処理対象となる代表語ｖについて、ステップＳ２１０において取得した類似度ｗ２ｖ（ｖ´，ｖ）の各々と、ステップＳ２１２において取得した平均類似度ｄ２ｖ（ｓ，ｖ´）の各々とに基づいて、上記（３）式に従って、拡張単語候補ｖ´と代表語ｖ及び参照文ｓの組み合わせ｛ｖ，ｓ｝との類似度ｓｉｍ＿ｓｃｏｒｅ（ｖ´,ｖ,ｓ）を算出する。
【０１７９】
次に、ステップＳ２１４では、処理対象となる全ての代表語ｖについて、ステップＳ２１０〜ステップＳ１０８までの処理を終了したか否かを判定する。全ての代表語ｖについて、ステップＳ２１０〜ステップＳ１０８までの処理を終了したと判定した場合には、単語拡張処理ルーチンは、ステップＳ１１０へ移行する。一方、全ての代表語ｖについて、ステップＳ２１０〜ステップＳ１０８までの処理を終了していないと判定した場合には、単語拡張処理ルーチンは、ステップＳ２０８へ移行し、処理対象となる代表語ｖを変更し、ステップＳ２１０〜ステップＳ２１４までの処理を繰り返す。
【０１８０】
以上説明したように、第５の実施形態に係る単語拡張装置によれば、拡張単語候補の各々について、代表語と拡張単語候補との類似度を算出し、代表語の判別度を算出し、拡張単語候補の各々について算出された類似度と、算出された代表語の判別度とに基づいて、拡張単語候補の各々に対する、拡張語としてのスコアを算出し、代表語の拡張結果を出力することにより、参照文の数が少量であっても、単語の意味に沿って単語を拡張することができる。
【０１８１】
また、参照文ｓ中の判別に有効な単語を、当該単語が用いられる意味に沿って拡張することができる。
【０１８２】
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【０１８３】
次に、第６の実施形態に係る単語拡張装置について説明する。
【０１８４】
第６の実施形態においては、単語拡張装置において算出する判別度を、機械学習の分類スコアから取得する点が第５の実施形態と異なる。なお、第６の実施の形態に係る単語拡張装置は、第５の実施形態に係る単語拡張装置２００と同様の構成であるため、同一の符号を付して説明を省略する。
【０１８５】
具体的には、第６の実施形態の単語拡張装置の判別度算出部２２２は、入力部２１０において受け付けた参照文ｓ、当該参照文ｓに対応する対象ラベルｅ以外の対象ラベルｅ´に対応する参照文ｓ´を入力とし、例えば、参照文ｓ以外の参照文ｓ´集合と、その教師信号（例えば、一意のＩＤ）によって分類器を学習させ、そこから参照文ｓに対応する教師信号に分類するために得られた素性（例えば単語）のうち、単語に対する重みの大きな上位Ｎ単語、或いは任意の閾値以上の値を持つ全単語を代表語集合￥ｂｖとする。また、当該重みを判別度ｃｌｓ＿ｓｃоｒｅ（ｓ，ｖ）とする。
【０１８６】
なお、第６の実施形態に係る単語拡張装置の他の構成及び作用については、第５の実施形態と同様であるため、説明を省略する。
【０１８７】
また、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【０１８８】
また、本願明細書中において、プログラムが予めインストールされている実施形態として説明したが、当該プログラムを、コンピュータ読み取り可能な記録媒体に格納して提供することも可能であるし、ネットワークを介して提供することも可能である。
【符号の説明】
【０１８９】
１０、２１０、３１０、４１０、５１０      入力部
２０、２２０、３２０、４２０、４７０、５２０、５７０    演算部
２２、２２２  判別度算出部
２４、２２４  単語類似度算出部
２６、２２６  ｗ２ｖ算出部
２８、２２８  ｄ２ｖ算出部
３０、２３０  スコア算出部
３２、２３２、３２２、４２２、５２２、５７２     記憶部
９０、２９０、３９０、４９０、５９０      出力部
１００、２００       単語拡張装置
３００、５００、５５０      分類装置
３２４ ルールマッチ部
４００、４５０       機械学習装置
４２４、４７４       機械学習素性化部
４２６、４７６       機械学習部
４２８、４７８       学習モデル記憶部
５２４ 素性化部
５２６、５７６       分類部
【図１】
0006531025.tif 000008
【図２】
0006531025.tif 000009
【図３】
0006531025.tif 000010
【図４】
0006531025.tif 000011
【図５】
0006531025.tif 000012
【図６】
0006531025.tif 000013
【図７】
0006531025.tif 000014
【図８】
0006531025.tif 000015
【図９】
0006531025.tif 000016
【図１０】
0006531025.tif 000017
【図１１】
0006531025.tif 000018
【図１２】
0006531025.tif 000019
【図１３】
0006531025.tif 000020
【図１４】
0006531025.tif 000021
【図１５】
0006531025.tif 000022
【図１６】
0006531025.tif 000023
【図１７】
0006531025.tif 000024
【図１８】
0006531025.tif 000025