(57)【特許請求の範囲】
【請求項１】
ある事象の問題の内容を示す表現である問題表現を抽出する規則を含む問題パタン辞書を記憶する問題パタン辞書記憶手段と、
ある事象で問題が発生した原因を示す表現である原因表現を抽出する規則を含む原因パタン辞書を記憶する原因パタン辞書記憶手段と、
入力された複数の応答事例を含む文書群の中から前記問題パタン辞書を用いて前記問題表現を抽出し、前記文書群の中から前記原因パタン辞書を用いて前記原因表現を抽出し、同一の応答事例から抽出した前記問題表現と前記原因表現の対である問題表現・原因表現対を作成する問題・原因表現対抽出手段と、
抽出された問題表現・原因表現対の各々について、問題表現中に含まれる単語である問題単語および原因表現中に含まれる単語である原因単語を抽出し、当該問題単語と当該原因単語のそれぞれを対にした単語対を因果単語対候補として作成する因果単語対候補抽出手段と、
前記問題・原因表現対抽出手段が抽出した問題表現と原因表現との関連度を、当該問題表現と原因表現の組に含まれる各因果単語対候補の当該因果単語対候補が因果単語対である尤もらしさを示すスコアである尤度スコア、当該問題表現における因果単語対候補の問題単語の特徴度、および、当該原因表現における因果単語対候補の原因単語の特徴度に基づいて計算する問題・原因表現関連度計算手段と、
前記問題・原因表現関連度計算手段が計算した問題表現・原因表現対の関連度と、当該問題表現・原因表現対における問題表現と当該問題表現・原因表現対における原因表現とは異なる原因表現との関連度の差が予め定めた閾値以下である場合、当該関連度の計算に利用した因果単語対候補の前記尤度スコアを、前記問題表現における問題単語の特徴度と、前記原因表現における原因単語の特徴度との積に比例した値に応じて変化させる因果単語対学習手段と、
前記尤度スコアが閾値以上の因果単語対候補を因果単語対として抽出する因果単語対抽出手段とを備えた
ことを特徴とする因果単語対抽出装置。
【請求項２】
因果単語対候補抽出手段は、抽出した単語対のうち、入力された複数の応答事例全件に対する出現頻度が、予め定めた基準よりも高い単語対を因果単語対候補として抽出する
請求項１記載の因果単語対抽出装置。
【請求項３】
因果単語対学習手段は、両者の関連度の差が予め定めた閾値以下である場合、因果単語対候補の尤度スコアを、問題表現・原因表現対に含まれる原因表現の問題単語の特徴度と当該問題表現・原因表現対における原因表現とは異なる原因表現の特徴度との差分値に対して問題表現における問題単語の特徴度を乗じた値に応じて変化させる
請求項１または請求項２記載の因果単語対抽出装置。
【請求項４】
因果単語対候補抽出手段は、問題単語の特徴度として問題表現に偏って出現するほど高くなる特徴度を用い、原因単語の特徴度として原因表現に偏って出現する単語ほど高くなる特徴度を用いる
請求項１から請求項３のうちのいずれか１項に記載の因果単語対抽出装置。
【請求項５】
因果単語対学習手段は、オンライン学習により学習データを作成する
請求項１から請求項４のうちのいずれか１項に記載の因果単語対抽出装置。
【請求項６】
問題・原因表現対抽出手段が、入力された複数の応答事例を含む文書群の中から、ある事象の問題の内容を示す表現である問題表現を抽出する規則を含む問題パタン辞書を用いて当該問題表現を抽出し、
前記問題・原因表現対抽出手段が、前記文書群の中から、ある事象で問題が発生した原因を示す表現である原因表現を抽出する規則を含む原因パタン辞書を用いて当該原因表現を抽出し、
前記問題・原因表現対抽出手段が、同一の応答事例から抽出された前記問題表現と前記原因表現の対である問題表現・原因表現対を作成し、
因果単語対候補抽出手段が、抽出された問題表現・原因表現対の各々について、問題表現中に含まれる単語である問題単語および原因表現中に含まれる単語である原因単語を抽出し、
前記因果単語対候補抽出手段が、前記問題単語と前記原因単語のそれぞれを対にした単語対を因果単語対候補として作成し、
問題・原因表現関連度計算手段が、前記文書群から抽出された問題表現と原因表現との関連度を、当該問題表現と原因表現の組に含まれる各因果単語対候補の当該因果単語対候補が因果単語対である尤もらしさを示すスコアである尤度スコア、当該問題表現における因果単語対候補の問題単語の特徴度、および、当該原因表現における因果単語対候補の原因単語の特徴度に基づいて計算し、
因果単語対学習手段が、問題表現・原因表現対の関連度と、当該問題表現・原因表現対における問題表現と当該問題表現・原因表現対における原因表現とは異なる原因表現との関連度の差が予め定めた閾値以下である場合、当該関連度の計算に利用した因果単語対候補の前記尤度スコアを、前記問題表現における問題単語の特徴度と、前記原因表現における原因単語の特徴度との積に比例した値に応じて変化させ、
因果単語対抽出手段が、前記尤度スコアが閾値以上の因果単語対候補を因果単語対として抽出する
ことを特徴とする因果単語対抽出方法。
【請求項７】
因果単語対候補抽出手段が、抽出された単語対のうち、入力された複数の応答事例全件に対する出現頻度が、予め定めた基準よりも高い単語対を因果単語対候補として抽出する
請求項６記載の因果単語対抽出方法。
【請求項８】
コンピュータに、
入力された複数の応答事例を含む文書群の中から、ある事象の問題の内容を示す表現である問題表現を抽出する規則を含む問題パタン辞書を用いて当該問題表現を抽出し、前記文書群の中から、ある事象で問題が発生した原因を示す表現である原因表現を抽出する規則を含む原因パタン辞書を用いて当該原因表現を抽出し、同一の応答事例から抽出した前記問題表現と前記原因表現の対である問題表現・原因表現対を作成する問題・原因表現対抽出処理、
抽出された問題表現・原因表現対の各々について、問題表現中に含まれる単語である問題単語および原因表現中に含まれる単語である原因単語を抽出し、当該問題単語と当該原因単語のそれぞれを対にした単語対を因果単語対候補として作成する因果単語対候補抽出処理、
前記問題・原因表現対抽出処理で抽出された問題表現と原因表現との関連度を、当該問題表現と原因表現の組に含まれる各因果単語対候補の当該因果単語対候補が因果単語対である尤もらしさを示すスコアである尤度スコア、当該問題表現における因果単語対候補の問題単語の特徴度、および、当該原因表現における因果単語対候補の原因単語の特徴度に基づいて計算する問題・原因表現関連度計算処理、
前記問題・原因表現関連度計算処理で計算された問題表現・原因表現対の関連度と、当該問題表現・原因表現対における問題表現と当該問題表現・原因表現対における原因表現とは異なる原因表現との関連度の差が予め定めた閾値以下である場合、当該関連度の計算に利用した因果単語対候補の前記尤度スコアを、前記問題表現における問題単語の特徴度と、前記原因表現における原因単語の特徴度との積に比例した値に応じて変化させる因果単語対学習処理、および、
前記尤度スコアが閾値以上の因果単語対候補を因果単語対として抽出する因果単語対抽出処理
を実行させるための因果単語対抽出用プログラム。
【請求項９】
コンピュータに、
因果単語対候補抽出処理で、抽出した単語対のうち、入力された複数の応答事例全件に対する出現頻度が、予め定めた基準よりも高い単語対を因果単語対候補として抽出させる
請求項８記載の因果単語対抽出用プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、文書群から原因と結果を示す単語のペアを抽出する因果単語対抽出装置、因果単語対抽出方法および因果単語対抽出用プログラムに関する。
【背景技術】
【０００２】
ある現象について書かれた記述である現象表現（例えば、「逮捕された」）が検索クエリとして与えられると、その現象の原因について書かれた記述である原因表現（例えば、「彼は殺人を犯したので、」）を検索対象文書群から検索して返す原因表現抽出装置が提案されている。
【０００３】
また、一般的な原因表現抽出装置の一例が、特許文献１に記載されている。特許文献１に記載された原因表現抽出装置は、次のように動作する。
【０００４】
まず、原因表現パタン辞書と因果単語辞書の２種の辞書を事前に用意する。原因表現パタン辞書とは、原因表現を抽出する規則を格納した辞書である。原因表現を抽出する規則には、例えば、原因表現に含まれる文字列（例えば、「〜したので」や「原因は〜」）が定義される。因果単語辞書とは、原因と結果のペアを格納した辞書である。以下、原因と結果を示す単語のペアのことを、因果単語対と記す。因果単語対の例として、例えば、「殺人」と「逮捕」との単語対が挙げられる。この単語対は、「殺人」を犯したことが原因で、「逮捕」される結果が生じることを表す。以下の説明では、因果関係を示す単語対を原因と結果を矢印（→）で結んで表す。「殺人」と「逮捕」の単語対の場合、「殺人→逮捕」と表す。
【０００５】
次に、現象表現が検索クエリとして与えられると、類似文検索により検索対象コーパスから原因表現候補を抽出し、その各々について前述の辞書（原因表現パタン辞書および因果単語辞書）を用いてスコアを計算する。具体的には、第１に、原因表現パタン辞書中の規則を満たす原因表現候補には、原因を表す確率が高いとして高スコアが付与される。第２に、因果単語辞書中の単語対が、現象表現と原因表現候補との対に出現する場合に、その候補には、現象表現と因果関係にある確率が高いとして高スコアが付与される。
【０００６】
そして、スコア計算後、高いスコアの原因表現候補を、与えられた現象表現の原因表現として抽出する。このように、特許文献１に記載された原因表現抽出装置では、単なる類似文検索以外の類似指標である因果単語辞書を用いて抽出精度を向上させている。
【０００７】
また、非特許文献１には、機械学習方法の一例が記載されている。非特許文献１に記載された方法では、まず、事前に用意した入力表現と出力表現の組を学習データとして重み行列Ｗを学習する。そして、検索クエリとして入力表現が与えられると、学習した重み行列Ｗに基づいて、対応する出力表現を上位にランキングする。
【０００８】
なお、因果単語辞書を構築する場合、入力表現として現象表現が用いられ、出力表現として原因表現が用いられる。学習される重み行列Ｗは、２次元行列である。重み行列Ｗのｉ行ｊ列目の要素Ｗｉｊは、現象表現に表れるｉ番目の単語ｗｉと、原因表現に表れるｊ番目の単語ｗｊの関連度を表す。この値（関連度）が大きい単語の組を含む現象表現と原因表現の組ほど、対応関係にある可能性が高いことを示す。つまり、正しい現象表現と原因表現の組を学習データとして用意して重み行列Ｗの学習を行うことで、Ｗｉｊが一定の値以上になる単語の組を因果関係のある単語対として抽出できる。
【先行技術文献】
【特許文献】
【０００９】
【特許文献１】特開２００９−１５７７９１号公報
【非特許文献】
【００１０】
【非特許文献１】Bing Bai et al,“Supervised Semantic Indexing”, Proceedings of the 18th ACM Conference on Information and Knowledge Management, ACM, p.187-196,2009
【発明の概要】
【発明が解決しようとする課題】
【００１１】
一方、因果単語対を抽出する対象のドメインが変化すると、原因表現を抽出する際に有効な単語対が大きく変化する。そのため、特許文献１に記載された原因表現抽出装置を用いてドメインに合わせた因果単語辞書の再構築をする場合、高いコストが必要になるという問題がある。
【００１２】
例えば、大規模データベースなどのように専門性が高いドメインの製品を扱う製品コンタクトセンタにおいて、顧客からの問い合わせを現象表現として、その発生原因をから検索することを考える。「殺人→逮捕」など、一般語の因果単語対は、専門性の高いドメインの文書には出現する可能性が低い。そのため、このような因果単語対を用いても原因表現を抽出できる効果は低い。このような場合、そのドメイン固有の専門用語（例えば、エラー番号、エラーを起こす原因になる機能やモジュール名など）を用いた因果単語対が重要になる。
【００１３】
特許文献１に記載された原因表現抽出装置では、新聞などの一般ドメイン文書を元に膨大な人手工数を掛けて整備した辞書が因果単語辞書として利用される。適用するドメインが変化するごとに同様の人手コストをかけ因果単語辞書を再構築する方法は現実的ではない。例えば、特許文献１には、正しい現象表現と原因表現の組を１０００組程度人手で作成する例が記載されている。しかし、この規模の学習データ量を人手で作成するのは困難である。一方で、ドメイン固有の因果単語辞書を用いない場合、与えられた現象表現に対応する原因表現を特定するための情報が不足し、十分な精度で抽出が行うことができないという問題がある。
【００１４】
例えば、現象表現「プロセス実行時にエラーコード９４２が発生した」に対して、「原因は〜、〜ことが原因です」を含む文を検索することを規定した原因表現パタン辞書を用いて、共通の単語「プロセス」を含む類似文検索を行ったとする。そして、この検索の結果、第１の候補である「表へのアクセス権限がプロセスにないことが原因です。」と、第２の候補である「原因は、プロセスがメモリ不足に陥ったためです。」が抽出されたとする。しかし、ドメイン固有の因果単語辞書が存在しない場合、どちらの候補がより適切か判別することは困難である。
【００１５】
また、非特許文献１に記載された機械学習方法を用いる場合、学習させる重み行列Ｗの大きさは、［現象表現中の単語バリエーション数×原因表現中の単語バリエーション数］と非常に巨大である。そのため、学習処理を収束させるためには、膨大な学習データ（例えば、１０万組〜１００万組）が必要になってしまうという問題がある。
【００１６】
そこで、本発明は、精度の高いドメイン固有の因果単語対を文書群から容易に抽出できる因果単語対抽出装置、因果単語対抽出方法および因果単語対抽出用プログラムを提供することを目的とする。
【課題を解決するための手段】
【００１７】
本発明による因果単語対抽出装置は、ある事象の問題の内容を示す表現である問題表現を抽出する規則を含む問題パタン辞書を記憶する問題パタン辞書記憶手段と、ある事象で問題が発生した原因を示す表現である原因表現を抽出する規則を含む原因パタン辞書を記憶する原因パタン辞書記憶手段と、入力された複数の応答事例を含む文書群の中から問題パタン辞書を用いて問題表現を抽出し、文書群の中から原因パタン辞書を用いて原因表現を抽出し、同一の応答事例から抽出した問題表現と原因表現の対である問題表現・原因表現対を作成する問題・原因表現対抽出手段と、抽出された問題表現・原因表現対の各々について、問題表現中に含まれる単語である問題単語および原因表現中に含まれる単語である原因単語を抽出し、その問題単語とその原因単語のそれぞれを対にした単語対を因果単語対候補として作成する因果単語対候補抽出手段と、問題・原因表現対抽出手段が抽出した問題表現と原因表現との関連度を、その問題表現と原因表現の組に含まれる各因果単語対候補のその因果単語対候補が因果単語対である尤もらしさを示すスコアである尤度スコア、その問題表現における因果単語対候補の問題単語の特徴度、および、その原因表現における因果単語対候補の原因単語の特徴度に基づいて計算する問題・原因表現関連度計算手段と、問題・原因表現関連度計算手段が計算した問題表現・原因表現対の関連度と、その問題表現・原因表現対における問題表現とその問題表現・原因表現対における原因表現とは異なる原因表現との関連度の差が予め定めた閾値以下である場合、その関連度の計算に利用した因果単語対候補の尤度スコアを、問題表現における問題単語の特徴度と、原因表現における原因単語の特徴度との積に比例した値に応じて変化させる因果単語対学習手段と、尤度スコアが閾値以上の因果単語対候補を因果単語対として抽出する因果単語対抽出手段とを備えたことを特徴とする。
【００１８】
本発明による因果単語対抽出方法は、問題・原因表現対抽出手段が、入力された複数の応答事例を含む文書群の中から、ある事象の問題の内容を示す表現である問題表現を抽出する規則を含む問題パタン辞書を用いてその問題表現を抽出し、問題・原因表現対抽出手段が、文書群の中から、ある事象で問題が発生した原因を示す表現である原因表現を抽出する規則を含む原因パタン辞書を用いてその原因表現を抽出し、問題・原因表現対抽出手段が、同一の応答事例から抽出された問題表現と原因表現の対である問題表現・原因表現対を作成し、因果単語対候補抽出手段が、抽出された問題表現・原因表現対の各々について、問題表現中に含まれる単語である問題単語および原因表現中に含まれる単語である原因単語を抽出し、因果単語対候補抽出手段が、問題単語と原因単語のそれぞれを対にした単語対を因果単語対候補として作成し、問題・原因表現関連度計算手段が、文書群から抽出された問題表現と原因表現との関連度を、その問題表現と原因表現の組に含まれる各因果単語対候補のその因果単語対候補が因果単語対である尤もらしさを示すスコアである尤度スコア、その問題表現における因果単語対候補の問題単語の特徴度、および、その原因表現における因果単語対候補の原因単語の特徴度に基づいて計算し、因果単語対学習手段が、問題表現・原因表現対の関連度と、その問題表現・原因表現対における問題表現とその問題表現・原因表現対における原因表現とは異なる原因表現との関連度の差が予め定めた閾値以下である場合、その関連度の計算に利用した因果単語対候補の尤度スコアを、問題表現における問題単語の特徴度と、原因表現における原因単語の特徴度との積に比例した値に応じて変化させ、因果単語対抽出手段が、尤度スコアが閾値以上の因果単語対候補を因果単語対として抽出することを特徴とする。
【００１９】
本発明による因果単語対抽出用プログラムは、コンピュータに、入力された複数の応答事例を含む文書群の中から、ある事象の問題の内容を示す表現である問題表現を抽出する規則を含む問題パタン辞書を用いてその問題表現を抽出し、文書群の中から、ある事象で問題が発生した原因を示す表現である原因表現を抽出する規則を含む原因パタン辞書を用いてその原因表現を抽出し、同一の応答事例から抽出した問題表現と原因表現の対である問題表現・原因表現対を作成する問題・原因表現対抽出処理、抽出された問題表現・原因表現対の各々について、問題表現中に含まれる単語である問題単語および原因表現中に含まれる単語である原因単語を抽出し、その問題単語とその原因単語のそれぞれを対にした単語対を因果単語対候補として作成する因果単語対候補抽出処理、問題・原因表現対抽出処理で抽出された問題表現と原因表現との関連度を、その問題表現と原因表現の組に含まれる各因果単語対候補のその因果単語対候補が因果単語対である尤もらしさを示すスコアである尤度スコア、その問題表現における因果単語対候補の問題単語の特徴度、および、その原因表現における因果単語対候補の原因単語の特徴度に基づいて計算する問題・原因表現関連度計算処理、問題・原因表現関連度計算処理で計算された問題表現・原因表現対の関連度と、その問題表現・原因表現対における問題表現とその問題表現・原因表現対における原因表現とは異なる原因表現との関連度の差が予め定めた閾値以下である場合、その関連度の計算に利用した因果単語対候補の尤度スコアを、問題表現における問題単語の特徴度と、原因表現における原因単語の特徴度との積に比例した値に応じて変化させる因果単語対学習処理、および、尤度スコアが閾値以上の因果単語対候補を因果単語対として抽出する因果単語対抽出処理を実行させることを特徴とする。
【発明の効果】
【００２０】
本発明によれば、精度の高いドメイン固有の因果単語対を文書群から容易に抽出できる。
【図面の簡単な説明】
【００２１】
【図１】本発明による因果単語対抽出装置の一実施形態を示すブロック図である。
【図２】本実施形態の因果単語対抽出装置の動作例を示すフローチャートである。
【図３】問題表現および原因表現の例を示す説明図である。
【図４】単語に付与された特徴度の例を示す説明図である。
【図５】本発明による因果単語対抽出装置の最小構成の例を示すブロック図である。
【発明を実施するための形態】
【００２２】
以下、本発明の実施形態を図面を参照して説明する。
【００２３】
実施形態１．
図１は、本発明による因果単語対抽出装置の一実施形態を示すブロック図である。本実施形態における因果単語対抽出装置は、入力手段１と、プログラム制御により動作するデータ処理装置２と、記憶装置３と、出力手段４とを備えている。
【００２４】
入力手段１は、複数の応答事例を含む文書群を入力する。応答事例の例として、例えば、質問者からの質問に対して、回答者から回答が示されるまでの質問者と回答者の対話内容が挙げられる。
【００２５】
記憶装置３は、問題パタン辞書記憶手段３１と、原因パタン辞書記憶手段３２とを含む。問題パタン辞書記憶手段３１および原因パタン辞書記憶手段３２は、例えば、磁気ディスク等により実現される。
【００２６】
問題パタン辞書記憶手段３１は、問題の内容を記述した問題表現を抽出する規則を格納した問題パタン辞書を記憶する。ここで、問題表現とは、ある事象の問題の内容を示す表現ということができる。
【００２７】
原因パタン辞書記憶手段３２は、問題が発生した原因を記述した原因表現を抽出する規則を格納した原因パタン辞書を記憶する。ここで、原因表現とは、ある事象で問題が発生した原因を示す表現と言うことができる。
【００２８】
データ処理装置２は、問題・原因表現対抽出手段２１と、因果単語対候補抽出手段２２と、問題・原因表現関連度計算手段２３と、因果単語対学習手段２４と、因果単語対抽出手段２５とを含む。
【００２９】
問題・原因表現対抽出手段２１は、入力された複数の応答事例を含む文書群の中から、問題パタン辞書を用いて問題表現を抽出する。また、問題・原因表現対抽出手段２１は、入力された文書群の中から、原因パタン辞書を用いて原因表現を抽出する。さらに、問題・原因表現対抽出手段２１は、同一の応答事例から抽出された問題表現と原因表現の対（以下、問題表現・原因表現対と記す。）を作成する。
【００３０】
問題・原因表現対抽出手段２１が抽出する問題表現および原因表現の単位は任意である。問題表現および原因表現を抽出する単位は、予め定められていてもよく、所定の条件に基づいて定められるようにしてもよい。また、問題表現および原因表現として、複数の単位の表現が混在していてもよい。例えば、抽出する単位の基本を文単位としておき、特定の条件の時のみ、抽出する単位を段落単位に変更するとしてもよい。ただし、抽出する単位は、文単位または段落単位に限定されない。
【００３１】
因果単語対候補抽出手段２２は、抽出された問題表現・原因表現対の各々について、問題表現中に含まれる単語（以下、問題単語と記す。）と原因表現中に含まれる単語（以下、原因単語と記す。）を抽出し、問題単語と原因単語のそれぞれを対にした単語対を作成する。この単語対が後述する因果単語対候補に対応する。また、因果単語対候補抽出手段２２は、応答事例全体での出現頻度が予め定めた基準よりも高い単語対を因果単語対候補として抽出してもよい。因果単語対候補抽出手段２２は、例えば、出現頻度が予め定めた閾値以下の単語対を除外することで、因果単語対候補として抽出してもよい。また、因果単語対候補抽出手段２２は、単語対を出現頻度の高い順に並べた後、予め定めた下位の一定割合に含まれる単語対を除外することで、因果単語対候補として抽出してもよい。
【００３２】
また、因果単語対候補抽出手段２２は、抽出した問題単語および原因単語の特徴度を算出する。ここで、特徴度とは、各問題表現や原因表現に偏って出現する単語ほど高くなる値である。すなわち、因果単語対候補抽出手段２２は、問題単語の特徴度として問題表現に偏って出現するほど高くなる特徴度を用い、原因単語の特徴度として原因表現に偏って出現する単語ほど高くなる特徴度を用いる。因果単語対候補抽出手段２２は、特徴度として、例えば、検索の分野で広く用いられているｔｆ＊ｉｄｆを用いてもよい。ただし、特徴度は、ｔｆ＊ｉｄｆに限定されない。なお、問題単語および原因単語の特徴度の算出処理を、問題・原因表現対抽出手段２１が行ってもよい。
【００３３】
問題・原因表現関連度計算手段２３は、問題・原因表現対抽出手段２１が抽出した問題表現と原因表現との関連度を計算する。具体的には、問題・原因表現関連度計算手段２３は、ある問題表現と原因表現の関連度を、当該問題表現と原因表現の組に含まれる各因果単語対候補について、当該因果単語対候補のスコア、当該問題表現における当該因果単語対候補の問題単語の特徴度と、当該原因表現における当該因果単語対候補の原因単語の特徴度、の３値に基づいて計算する。すなわち、問題・原因表現関連度計算手段２３は、問題・原因表現対抽出手段２１が作成した問題表現・原因表現対以外の問題表現と原因表現の組についても関連度を算出する。ここで、因果単語対候補のスコアとは、その因果単語対候補が因果単語対である尤もらしさの度合いを示す値を意味する。
【００３４】
すなわち、問題・原因表現関連度計算手段２３は、問題表現と原因表現との関連度を、その問題表現と原因表現の組に含まれる各因果単語対候補の、その因果単語対候補が因果単語対である尤もらしさを示すスコアと、その問題表現における因果単語対候補の問題単語の特徴度と、その原因表現における因果単語対候補の原因単語の特徴度とに基づいて計算する。なお、関連度の算出方法については後述する。
【００３５】
因果単語対学習手段２４は、抽出された問題表現・原因表現対の各々について、問題・原因表現関連度計算手段２３が求めた問題表現・原因表現対における問題表現と原因表現との関連度が、問題表現・原因表現対における問題表現とその原因表現以外の原因表現との関連度より十分に大きくない場合、その２つの関連度の計算に使用した因果単語対候補の各々のスコアを、因果単語対候補の問題単語の問題表現における特徴度と、原因単語の原因表現における特徴度の積に比例した値の分だけ変化させる。
【００３６】
すなわち、因果単語対学習手段２４は、問題・原因表現対抽出手段２１が抽出した問題表現・原因表現対について問題・原因表現関連度計算手段２３が計算した関連度と、その問題表現・原因表現対における問題表現とその問題表現・原因表現対における原因表現とは異なる原因表現との関連度の差が予め定めた閾値よりも大きいか否かを判断する。そして、両者の関連度の差が予め定めた閾値以下である場合、因果単語対学習手段２４は、関連度の計算に利用した因果単語対候補のスコアを、問題表現に含まれる問題単語の特徴度と、原因表現に含まれる原因単語の特徴度との積に比例した値に応じて変化させる。
【００３７】
具体的には、両者の関連度の差が予め定めた閾値以下である場合、因果単語対学習手段２４は、因果単語対候補のスコアを、問題表現・原因表現対に含まれる原因表現の問題単語の特徴度と問題表現・原因表現対における原因表現とは異なる原因表現の特徴度との差分に対して問題表現における問題単語の特徴度を乗じた値に応じて変化させる。
【００３８】
因果単語対抽出手段２５は、スコアが閾値以上の因果単語対候補を、因果単語対として抽出する。
【００３９】
出力手段４は、因果単語対抽出手段２５が抽出した因果単語対を出力する。
【００４０】
問題・原因表現対抽出手段２１と、因果単語対候補抽出手段２２と、問題・原因表現関連度計算手段２３と、因果単語対学習手段２４と、因果単語対抽出手段２５とは、プログラム（因果単語対抽出用プログラム）に従って動作するコンピュータのＣＰＵによって実現される。例えば、プログラムは、データ処理装置２の記憶部（図示せず）に記憶され、ＣＰＵは、そのプログラムを読み込み、プログラムに従って、問題・原因表現対抽出手段２１、因果単語対候補抽出手段２２、問題・原因表現関連度計算手段２３、因果単語対学習手段２４、および因果単語対抽出手段２５として動作してもよい。
【００４１】
また、問題・原因表現対抽出手段２１と、因果単語対候補抽出手段２２と、問題・原因表現関連度計算手段２３と、因果単語対学習手段２４と、因果単語対抽出手段２５とは、それぞれが専用のハードウェアで実現されていてもよい。
【００４２】
次に、本実施形態の因果単語対抽出装置の動作を説明する。図２は、本実施形態の因果単語対抽出装置の動作例を示すフローチャートである。まず、問題・原因表現対抽出手段２１は、質問者からの質問に回答者から回答が示されるまでの質問者と回答者の対話内容を記録した応答事例の各々から、問題パタン辞書を用いて問題表現を抽出する。また、問題・原因表現対抽出手段２１は、応答事例の各々から、原因パタン辞書を用いて原因表現を抽出する。そして、問題・原因表現対抽出手段２１は、同じ応答事例から抽出された問題表現と原因表現の対（問題表現・原因表現対）を作成する（ステップＳ１）。
【００４３】
続いて、因果単語対候補抽出手段２２は、抽出された問題表現・原因表現対の各々について、問題表現中の単語である問題単語と原因表現中の単語である原因単語を単語対として抽出する。そして、因果単語対候補抽出手段２２は、応答事例全件での出現頻度が高い単語対を因果単語対候補として抽出する（ステップＳ２）。
【００４４】
続いて、因果単語対学習手段２４は、抽出された問題表現・原因表現対の中から１つの問題表現・原因表現対を１つ取り出す。ここで取り出した１つの問題表現・原因表現対を正例と呼ぶ。さらに、因果単語対学習手段２４は、取り出した問題表現・原因表現対における原因表現以外の原因表現を、問題・原因表現対抽出手段２１が抽出した原因表現の中から選択する。そして、因果単語対学習手段２４は、取り出した問題表現・原因表現対における問題表現と、選択した原因表現とを組み合わせる。これらの表現の組合せを負例と呼ぶ（ステップＳ３）。
【００４５】
続いて、問題・原因表現関連度計算手段２３は、ステップＳ３で抽出された正例と負例の各々について、問題表現と原因表現の関連度を、その問題表現と原因表現の対に含まれる各因果単語対候補について、その因果単語対候補のスコア、その問題表現における因果単語対候補の問題単語の特徴度、および、その原因表現における因果単語対候補の原因単語の特徴度の３値に基づいて計算する（ステップＳ４）。
【００４６】
続いて、因果単語対学習手段２４は、ステップＳ４で得られた正例の関連度が負例の関連度より十分大きいか否かを判断する（ステップＳ５）。正例の関連度が負例の関連度より十分大きい場合（ステップＳ５におけるｙｅｓ）、ステップＳ３以降の処理を繰り返す。一方、正例の関連度が負例の関連度より十分大きくない場合（ステップＳ５におけるｎｏ）、ステップＳ６以降の処理を行う。
【００４７】
ステップＳ６において、因果単語対学習手段２４は、ステップＳ４での正例と負例の関連度の計算に使用した因果単語対候補の各々のスコアを、そのスコアと、問題表現における上記因果単語対候補の問題単語の特徴度と、原因表現における上記因果単語対候補の原因単語の特徴度との積に比例した値の分だけ変化させる（ステップＳ６）。
【００４８】
続いて、因果単語対学習手段２４は、学習を終了する条件を満たしているか否かを判断する（ステップＳ７）。学習を終了する条件を満たしている場合（ステップＳ７におけるｙｅｓ）、ステップＳ８以降の処理を行う。一方、学習を終了する条件を満たしていない場合（ステップＳ７におけるｎｏ）、ステップＳ３以降の処理を繰り返す。
【００４９】
最後に、ステップＳ８において、因果単語対抽出手段２５は、閾値以上のスコアの因果単語対候補を、因果単語対として出力する。
【００５０】
以上のように、本実施形態によれば、問題・原因表現対抽出手段２１が、入力された文書群の中から、問題パタン辞書を用いて問題表現を抽出し、また、原因パタン辞書を用いて当該原因表現を抽出する。また、問題・原因表現対抽出手段２１が、同一の応答事例から抽出された問題表現と原因表現の対（問題表現・原因表現対）を作成する。さらに、因果単語対候補抽出手段２２が、抽出された問題表現・原因表現対の各々について、問題表現中に含まれる問題単語および原因表現中に含まれる原因単語を抽出する。そして、問題単語と原因単語のそれぞれを対にした単語対を因果単語対候補として作成する。
【００５１】
そして、問題・原因表現関連度計算手段２３が、文書群から抽出された問題表現と原因表現との関連度を、その問題表現と原因表現の組に含まれる各因果単語対候補のスコア、その問題表現における因果単語対候補の問題単語の特徴度、および、その原因表現における因果単語対候補の原因単語の特徴度に基づいて計算する。
【００５２】
また、因果単語対学習手段２４が、問題表現・原因表現対の関連度と、その問題表現・原因表現対における問題表現とその問題表現・原因表現対における原因表現とは異なる原因表現との関連度の差が予め定めた閾値以下である場合、その関連度の計算に利用した因果単語対候補のスコアを、問題表現における問題単語の特徴度と、原因表現における原因単語の特徴度との積に比例した値に応じて変化させる。そして、因果単語対抽出手段２５が、スコアが閾値以上の因果単語対候補を因果単語対として抽出する。
【００５３】
よって、精度の高いドメイン固有の因果単語対を文書群から容易に抽出できる。
【００５４】
また、本実施形態では、ステップＳ１において、問題・原因表現対抽出手段２１が、同じ応答事例から抽出された問題表現と原因表現の対を作成すると、その問題表現・原因表現対が、因果単語対辞書の学習に要する学習データとして利用される。そのため、このような学習データを人手で作成する必要がないため、対象とするドメインが変化しても、ドメイン固有の因果単語対辞書を容易に構築できる。
【００５５】
また、本実施形態では、ステップＳ２において、因果単語対候補抽出手段２２が、応答事例全件での出現頻度が高い単語対を因果単語対候補として抽出する。このように、因果単語対候補を絞り込むことで、学習が必要なパラメータ数を減らすことができ、少ない学習データから学習可能となるため、高精度な因果単語対辞書が構築できる。すなわち、本実施形態では、例えば、非特許文献１に記載されているような重み行列Ｗ全体を学習せず、高い頻度で出現する問題表現中の単語表現および原因表現中の単語の組のみを対象に機械学習を行っている。このように、学習が必要なパラメータ数を減らしたことでより少ない学習データからでも学習できるようになる。そのため、高精度な因果単語対辞書を構築できる。
【００５６】
一方、本実施形態では、学習データは自動で機械的に作成される。そのため、作成された学習データに誤った問題表現・原因表現の対が混入し、誤った因果単語対候補が抽出される可能性がある。しかし、誤った因果単語対候補の出現頻度は、正しい問題表現・原因表現対に含まれる因果単語対候補よりも低い。そのため、本実施形態では、因果単語対候補抽出手段２２が、抽出された単語対のうち、出現頻度の低い候補を除外するため、誤った因果単語対候補の発生を抑制できる。
【００５７】
また、例えば、本実施形態における因果単語対抽出装置を用いることで、原因表現抽出装置が利用する因果単語対のドメインが変化しても、質問者からの質問に回答者から回答が示されるまでの質問者・回答者のやりとりを記録した応対事例から、適切な因果単語対を抽出できる。
【実施例】
【００５８】
以下、具体的な実施例により本発明を説明するが、本発明の範囲は以下に説明する内容に限定されない。本実施例では、大規模データベースの製品サポートを行うバックエンドコールセンタに対して顧客が問い合わせを行うという問題が発生することとなった原因を、原因表現抽出装置が過去事例から抽出することにより因果単語対辞書を作成することを想定する。
【００５９】
最初に、原因表現抽出を行う対象となる文書群、問題パタン辞書、および、原因パタン辞書を用意する。上述の通り、文書群とは、質問者からの１つの質問に対して回答者から回答が示されるまでの質問者と回答者の対話内容を記録した応答事例の集合である。また、本実施例では、応答事例とは、顧客が製品について抱える問題をオペレータが受け付けてからオペレータによる回答が示されるまでの顧客とオペレータの応答である。
【００６０】
問題パタン辞書は、問題の内容を記述した問題表現を抽出する規則を格納した辞書である。本実施例では、問題パタン辞書は、顧客の問題点が含まれる箇所を応答事例から抽出するための規則を格納する。問題表現の抽出単位は、文単位であってもよく、段落単位であってもよい。ただし、問題表現の抽出単位は、文単位または段落単位に限定されない。
【００６１】
問題表現を抽出する規則は、特定の文字列や正規表現が抽出単位に含まれるか否かに基づいて判定する正規表現ベースの規則（以下、第１規則と記す。）であってもよい。また、問題表現を抽出する規則は、抽出単位に形態素解析、係り受け解析、意味分類付与等の言語処理を施して構造化された特定の構造が抽出単位に含まれるか否かに基づいて判定する構造ベースの規則（以下、第２規則と記す。）であってもよい。また、問題表現を抽出する規則は、発言者や発言日時など、応答事例を格納したデータベースのフィールドに基づいて判定するフィールドベースの規則（以下、第３規則と記す。）であってもよい。また、第１規則から第３規則までの規則を人手または機械学習により組み合わせた規則であってもよい。
【００６２】
本実施例では、文単位に分割された応答事例の各文が問題表現を含むか否かを判定する規則として、正規表現ベースの規則を用意するものとする。以下に、正規表現ベースの規則の例を示す。
【００６３】
（出来ません｜できません｜出来なくなります｜出来なくなりました）．｛０，５｝（。｜、｜＄）
（されません｜されませんでした）．｛０，５｝（。｜、｜＄）
（てしまいます｜てしまいました）．｛０，５｝（。｜、｜＄）
（失敗します｜失敗しました）．｛０，５｝（。｜、｜＄）
エラーコード［０−９］＋（が｜も）（発生｜出る｜でる）．｛０，５｝（。｜、｜＄）
．．．
【００６４】
例えば、上記に例示する１番目は、ある一文に“出来ません”、“できません”、“出来なくなります”または“出来なくなりました”のうちのいずれかの文字列が出現し、かつ、文字列の後方に５文字空けずに文末または句読点が存在する場合に、その一文は問題表現を含むと判定することを意味する正規表現である。なお、それ以外の規則も、一般的に知られた正規表現に基づいて作成されているため、詳細な説明を省略する。
【００６５】
原因パタン辞書は、問題が発生した原因を記述した原因表現を抽出する規則を格納した辞書である。本実施例では、原因パタン辞書は、顧客の問題点の発生原因が含まれる箇所を応答事例から抽出するための規則を格納する。原因表現を抽出する規則の規定方法は、問題パタン辞書の場合と同様である。
【００６６】
本実施例では、問題パタン辞書と同様、文単位に分割された応答事例の各文が問題表現を含むか否かを判定する規則として、正規表現ベースの規則を用意するものとする。以下に、正規表現ベースの規則の例を示す。
【００６７】
＾｛０，５｝原因は
ことが原因．｛０，５｝（思われ｜考えられ｜。｜、｜＄）
ため．｛０，５｝（思われ｜考えられ｜。｜、｜＄）
ことにより
．．．
【００６８】
なお、上記に例示する規則も、一般的に知られた正規表現に基づいて作成されているため、詳細な説明を省略する。
【００６９】
次に、用意した文書群、問題パタン辞書および原因パタン辞書を用いて因果単語対を抽出する動作を説明する。まず、入力手段１は、応答事例の集合である文書群を受け付け、受け付けた文書群をデータ処理装置２に入力する。
【００７０】
続いて、問題・原因表現対抽出手段２１は、受け付けた文書群の各応答事例から、問題パタン辞書を用いて問題表現を抽出する。また、問題・原因表現対抽出手段２１は、原因パタン辞書を用いて原因表現を抽出する。本実施例では、問題・原因表現対抽出手段２１は、応答事例を予め文の単位に分割する。その後、問題・原因表現対抽出手段２１は、問題パタン辞書３１中の正規表現を満たす文を問題表現として抽出し、原因パタン辞書中の正規表現を満たす文を原因表現として抽出する。なお、問題パタン辞書および原因パタン辞書には、抽出単位を定める規則を含んでいてもよい。
【００７１】
図３は、文書群中の各応答事例から抽出された問題表現および原因表現の例を示す説明図である。図３に示す例において、「ＩＤ」欄は、抽出された表現（問題表現または原因表現）を識別する固有の識別子を表し、「事例番号」欄は、各表現の抽出元の応答事例を識別する番号を表す。また、図３に示す例において、「種別」欄は、問題表現または原因表現の別を表し、「表現」欄は、抽出された問題表現や原因表現の文字列を表す。
【００７２】
図３に示す例では、ＩＤ「１」、ＩＤ「２」は、１つの応答事例から複数の問題表現が抽出されたことを示す。また、図３に示す例では、ＩＤ「４」は、１つの応答事例から問題表現が抽出できた一方で、原因表現が抽出できなかったことを示す。本実施例では、図３に例示する問題表現および原因表現が抽出されたものとする。
【００７３】
次に、問題・原因表現対抽出手段２１は、同じ応答事例に出現する全ての問題表現と原因表現との対（問題表現・原因表現対）を作成する。図３に示す例では、事例番号「１」の応答事例には、ＩＤ「１」およびＩＤ「２」で識別される２つの表現が問題表現として含まれ、ＩＤ「３」で識別される１つの表現が原因表現として含まれる。そこで、問題・原因表現対抽出手段２１は、「ＩＤ１→ＩＤ３」と「ＩＤ２→ＩＤ３」の２つの対を作成する。なお、図３に例示する事例番号「２」の応答事例のように、問題表現と原因表現の何れかが抽出できなかった場合、問題・原因表現対抽出手段２１は、問題表現と原因表現との対を作成しない。
【００７４】
さらに、問題・原因表現対抽出手段２１は、抽出された問題表現および原因表現を、形態素解析等により単語単位に分割し、分割した各単語に特徴度を付与する。各単語には、各問題表現や原因表現に偏って出現する単語に高い値の特徴度が付与される。なお、本実施例では、ｔｆ＊ｉｄｆを特徴度として用いるものとする。
【００７５】
図４は、単語に付与された特徴度の例を示す説明図である。図４に示す例では、図３に例示する表現が単語に分割され、分割された各単語に特徴度が付与されたことを示す。図４に示す例において、単語の右側に記載された数字が、その単語の特徴度を表す。
【００７６】
続いて、因果単語対候補抽出手段２２は、作成された問題表現・原因表現対から、因果単語対の候補となる因果単語対候補を抽出する。まず、因果単語対候補抽出手段２２は、問題表現・原因表現対ごとに、問題表現を分割して得られた単語の各々と、原因表現を分割して得られた単語の各々の全ての組み合わせを対にした単語対を作成する。
【００７７】
図４に示す例では、ＩＤ「１」で識別される問題表現には、「集計処理」、「エラーコード９４２」および「発生」の３単語が含まれ、ＩＤ「３」で識別される原因表現には、「アクセス権限」、「適切」、「設定」、「生じる」および「可能性」の５単語が含まれる。そこで、因果単語対候補抽出手段２２は、それらの全ての組み合わせとして、１５通りの単語対を作成する。因果単語対候補抽出手段２２は、他の問題表現・原因表現対についても同様に単語対を作成する。
【００７８】
次に、因果単語対候補抽出手段２２は、作成した全ての単語対を対象として、各単語対の出現頻度を算出（計測）する。そして、因果単語対候補抽出手段２２は、算出した出現頻度に応じて一部の単語対を除外し、残り単語対を因果単語対候補とする。因果単語対候補抽出手段２２は、単語対を除外する方法として、例えば、閾値以下の出現頻度の単語対を除外する方法を用いてもよい。また、因果単語対候補抽出手段２２は、単語対を除外する方法として、単語対を出現頻度の高い順に並べ、下位一定割合の単語対を除外する方法を用いてもよい。
【００７９】
本実施例において、後述する因果単語対の学習に用いられる学習用データは、上記問題パタン辞書および原因パタン辞書を用いて自動抽出された問題表現・原因表現対である。そのため、自動抽出の際、誤った問題表現・原因表現が抽出され得るため、誤った因果単語対候補が生成される可能性がある。しかし、本実施例では、低頻度な（出現頻度の低い）因果単語対候補が除外されるため、誤った因果単語対候補の割合を低減させることができる。
【００８０】
なお、出現頻度の低い単語対を除外する理由は、以下の仮説に基づく。すなわち、誤った因果単語対候補は、正しい候補に比べて単語対のバリエーションが多い。そのため、誤った因果単語対候補の出現頻度は、正しい因果単語対候補の出現頻度に比べて低くなるからである。
【００８１】
例えば、非特許文献１に記載されているように、学習データが全て正しく潤沢な場合には、出現した単語を全て利用する方が入力表現と出力表現の対応関係をより正確に学習できる。一方、本実施例によれば、学習データが必ずしも正しくなく、量も比較的少量の場合であっても、出現頻度の低い単語対を除外することによって学習データの精度を高めることができる。
【００８２】
次に、因果単語対学習手段２４は、各因果単語対候補のスコアを学習する。まず、各因果単語対候補のスコアの初期値として、正規分布からランダムにサンプリングした乱数を利用する。なお、本実施例では、因果単語対学習手段２４が学習する方法として、オンライン学習を用いる。
【００８３】
ここで、オンライン学習とオフライン学習について説明する。オフライン学習とは、機械学習において、Ｎ個のデータが一括して与えられ、そのデータからパラメータを決定するなどの学習をする方法である。一方、オンライン学習とは、データが一つずつ逐次的に与えられ、データが与えられるたびにパラメータを更新する学習方法である。例えば、データをＮ個観測した後で推定されたパラメータがθ（Ｎ）であるとする。このとき、Ｎ＋１個目のデータと、θ（Ｎ）とから、パラメータθ（Ｎ＋１）を順次求めるようにする学習方法がオンライン学習の一例である。
【００８４】
上述の通り、本実施例では、因果単語対学習手段２４がオンライン学習により学習データを作成するため、一つの学習データを処理するごとに学習結果が更新される。オンライン学習は、オフライン学習に比べて消費するメモリ量が非常に少ない。そのため、本タスクのように、学習するパラメータ数が多い学習を行う場合（例えば、単語数×単語数に比例したパラメータを学習する場合）には、オフライン学習により現実的な時間で学習が可能である。
【００８５】
また、本実施例では、評価関数として、ｍａｒｇｉｎ  ｒａｎｋｉｎｇ  ｌｏｓｓ関数を学習に用いる。これは、学習データにおいて正しい検索結果の検索スコアが誤った検索結果の検索スコアより、一定のマージン以上大きくなるように学習させる評価関数である。なお、この正しい検索結果が、上記実施形態における正例に対応し、誤った検索結果が上記実施形態における負例に対応する。
【００８６】
まず、因果単語対学習手段２４は、問題・原因表現対抽出手段２１が抽出した複数の問題表現・原因表現対の中から１つをランダムに選択し、これを正例とする。次に、因果単語対学習手段２４は、選択した問題表現・原因表現対の問題表現と、選択した問題表現・原因表現対とは異なる原因表現をランダムに選択して組み合わせ、これを負例とする。そして、問題・原因表現関連度計算手段２３は、この正例、負例のそれぞれについて、問題表現と原因表現とがどの程度の因果関係（すなわち、問題と原因の関係）にあるかを示す度合い（以下、関連度と記す。）を計算する。
【００８７】
具体的には、問題・原因表現関連度計算手段２３は、その問題表現と原因表現の組に含まれる各因果単語対候補の各々のスコア、その問題表現に含まれる因果単語対候補の問題単語の特徴度、その原因表現に含まれる因果単語対候補の原因単語の特徴度、の３値に基づいて関連度を計算する。３値に基づいた計算方法として、例えば、３値の積を計算し、更にその問題表現と原因表現の組に含まれる全ての因果単語対候補についてのその積の和を求める方法が挙げられる。すなわち、問題・原因表現関連度計算手段２３は、問題表現と原因表現の組に含まれる因果単語対候補ごとに、上述する３値の積を計算し、計算した全ての積の和を求めることで、特徴度を算出してもよい。
【００８８】
例えば、図４に示す例において、「ＩＤ１→ＩＤ３」をランダムに選択された正例、ＩＤ３の原因表現をＩＤ４の原因表現で置き換えた「ＩＤ１→ＩＤ４」を負例とする。また、この正例に含まれる因果単語対候補が１７対存在し、各因果単語対候補の現時点でのスコアが、「集計処理→適切：−０．５」，「集計処理→設定：０．４」，「集計処理→生じる：−０．３」，「集計処理→可能性：０．５」，「エラーコード９４２→アクセス権限：  ０．６」，「エラーコード９４２→適切：−０．３」，「エラーコード９４２→設定：０．２」，「エラーコード９４２→生じる：０．５」，「エラーコード９４２→可能性：−０．２」，「発生→アクセス権限：−０．３」，「発生→適切：０．３」，「発生→設定：０．２」，「発生→生じる：−０．１」，「発生→可能性：０．３」であったとする。ここで、「：」の後ろに記載された値が因果単語対候補のスコアを示す。また、単語対「集計処理→アクセス権限」は、出現頻度が低いため、因果単語対候補抽出手段２２が除外したものとする。
【００８９】
また、図４に例示するように、ＩＤ「１」で識別される問題表現の各単語の特徴度は、それぞれ、「集計処理：０．５３」，「エラーコード９４２：０．８０」，「発生：０．２７」である。また、ＩＤ「３」で識別される原因表現の各単語の特徴度は、それぞれ「アクセス権限：０．６８」，「適切：０．３４」，「設定：０．３１」，「生じる：０．３７」，「可能性：０．４４」である。ここで、「：」の後ろに記載された値が単語の特徴度を示す。
【００９０】
そこで、問題・原因表現関連度計算手段２３は、正例（すなわち、ＩＤ「１」とＩＤ「３」）の関連度を、以下に示す式１で算出する。
【００９１】
【数１】
0005682448.tif 000002
【００９２】
同様に、図４に示す例において、負例に含まれる因果単語対候補が７対存在し、各因果単語対候補の現時点でのスコアが、「集計処理→原因：−０．２」，「集計処理→思う：−０．１」，「エラーコード９４２→原因：０．２」，「エラーコード９４２→思う：０．１」，「発生→メモリ不足：０．９」，「発生→原因：０．１」，「発生→思う：０．１」であったとする。また、単語対「集計処理→メモリ不足」，「エラーコード９４２→メモリ不足」は、出現頻度が低いため、因果単語対候補抽出手段２２が除外したものとする。問題・原因表現関連度計算手段２３は、式１と同様の方法で、負例（すなわち、ＩＤ「１」とＩＤ「４」）の関連度を算出する。この場合、関連度＝０．２６１６と計算される。
【００９３】
次に、因果単語対学習手段２４は、両者の関連度の差が予め定めた閾値よりも大きいか否かを判断する。ここでは、評価関数であるｍａｒｇｉｎ  ｒａｎｋｉｎｇ  ｌｏｓｓ関数のマージンを１に設定する。本実施例では、正例の関連度０．４２と負例の関連度０．２６１６の差がマージンの値１より小さい。そこで、因果単語対学習手段２４は、因果単語対候補のスコアを修正する。なお、関連度の差がマージンより大きい場合、因果単語対学習手段２４は、因果単語対候補のスコアを修正しない。
【００９４】
因果単語対学習手段２４は、正例および負例の関連度を計算する際に使用した因果単語対候補の各々のスコアを、そのスコアと、問題表現に含まれるその因果単語対候補の問題単語の特徴度と、原因表現に含まれる原因単語の特徴度の積に比例した値の分だけ変化させる。このようにして、因果単語対学習手段２４は、因果単語対候補のスコアを修正する。
【００９５】
「ＩＤ１→ＩＤ３」を正例、「ＩＤ１→ＩＤ４」を負例とした上記の例では、用いられた因果単語対候補は、正例１７対＋負例７対の計２４対存在する。そこで、因果単語対学習手段２４は、これら全てについて個別に因果単語対候補のスコアを修正する。例えば、因果単語対候補である「エラーコード９４２→アクセス権限」の場合、単語「エラーコード９４２」のＩＤ「１」における特徴度は０．８０であり、単語「アクセス権限」の正例（＝ＩＤ３）における特徴度が０．６８である。また、単語「アクセス権限」の負例（＝ＩＤ４）における特徴度は、単語「アクセス権限」が出現していないため、０である。ここで、比例定数λ＝０．１とすると、修正後のスコアは、以下に示す式２で算出される。
【００９６】
【数２】
0005682448.tif 000003
【００９７】
このようにスコアを更新することで、正例に偏って出現する因果単語対候補（例えば、「エラーコード９４２→アクセス権限」）のスコアがより高くなる。また、正例と負例の区別無く出現する因果単語対候補のスコアは０に近づく。さらに、負例に偏って出現する因果単語対候補のスコアは負の値になる。
【００９８】
ここで、学習終了のための条件を満たしていない場合、因果単語対学習手段２４は、再度、問題表現と原因表現の組をランダムに選択し、その組を用いた学習を繰り返す。例えば、通常の機械学習と同様、学習に用いない問題表現と原因表現の組をテストセットとして別途用意しておき、テストセットを用いた場合の損失関数の変化が一定値以下に収束することを学習終了のための条件としてもよい。
【００９９】
本実施例ではｍａｒｇｉｎ  ｒａｎｋｉｎｇ  ｌｏｓｓ関数を用いている。そこで、因果単語対学習手段２４は、テストセットの全ての問題表現と原因表現の組に対して、０と（１−正例の関連度＋負例の関連度）のうちの大きい方の値を選択し、それらの和の値を評価する。なお、１つの学習データを処理するごとに終了判定を行うと計算量が多くなる。そこで、一定数以上の学習データを処理した後に終了判定を行う方法を用いることで、効率良く判定することが可能になる。
【０１００】
最後に、因果単語対抽出手段２５は、学習したスコアが高い因果単語対候補を、因果単語対として抽出する。本実施例では、例えば、負例に出現せず、正例にのみ偏って出現する単語の組である「エラーコード９４２→アクセス権限」が得られる。
【０１０１】
以上のように、本実施例では、応対事例からの原因表現を抽出する場合に、対象とする応答事例のドメインが変化しても、人手をかけずに因果単語対の抽出を行うことができる。また、本実施例に示すように、大規模データベースドメインの文書群から、「エラーコード９４２→アクセス権限」といったドメイン固有の因果単語対を抽出できる。
【０１０２】
例えば、特許文献１に記載された原因表現抽出装置では、ドメイン固有の因果単語辞書が存在しないことが原因で、現象表現「プロセス実行時にエラーコード９４２が発生した」に対する２つの原因表現候補「表へのアクセス権限がプロセスにないことが原因です。」，「原因は、プロセスがメモリ不足に陥ったためです。」のうち、どちらの候補がより適切か判別することは困難であった。しかし、本実施例によれば、上記２つの原因表現候補の中から、正しく前者を選択することが可能になる。
【０１０３】
言い換えると、本実施例によれば、ある現象（問題）についての記述が与えられた際、その現象が発生する原因についての記述を大規模コーパスから抽出している。そのため、例えば、顧客の複雑な問題解決を目的としたバックエンドコールセンタにおいて、顧客が問い合わせを行うという問題が発生した原因を過去事例から抽出することができる。
【０１０４】
次に、本発明の最小構成の例を説明する。図５は、本発明による因果単語対抽出装置の最小構成の例を示すブロック図である。本発明による因果単語対抽出装置は、ある事象の問題の内容を示す表現である問題表現を抽出する規則を含む問題パタン辞書を記憶する問題パタン辞書記憶手段８１（例えば、問題パタン辞書記憶手段３１）と、ある事象で問題が発生した原因を示す表現である問題表現を抽出する規則を含む原因パタン辞書を記憶する原因パタン辞書記憶手段８２（例えば、原因パタン辞書記憶手段３２）と、入力された複数の応答事例を含む文書群の中から問題パタン辞書を用いて問題表現を抽出し、文書群の中から原因パタン辞書を用いて原因表現を抽出し、同一の応答事例から抽出した問題表現と原因表現の対である問題表現・原因表現対を作成する問題・原因表現対抽出手段８３（例えば、問題・原因表現対抽出手段２１）と、抽出された問題表現・原因表現対の各々について、問題表現中に含まれる単語である問題単語および原因表現中に含まれる単語である原因単語を抽出し、その問題単語と原因単語のそれぞれを対にした単語対を因果単語対候補として作成する因果単語対候補抽出手段８４（例えば、因果単語対候補抽出手段２２）と、問題・原因表現対抽出手段２１が抽出した問題表現と原因表現との関連度を、その問題表現と原因表現の組に含まれる各因果単語対候補のその因果単語対候補が因果単語対である尤もらしさを示すスコアである尤度スコア（例えば、因果単語対候補のスコア）、その問題表現における因果単語対候補の問題単語の特徴度、および、その原因表現における因果単語対候補の原因単語の特徴度に基づいて計算する問題・原因表現関連度計算手段８５（例えば、問題・原因表現関連度計算手段２３）と、問題・原因表現関連度計算手段８５が計算した問題表現・原因表現対の関連度と、その問題表現・原因表現対における問題表現とその問題表現・原因表現対における原因表現とは異なる原因表現との関連度の差が予め定めた閾値（例えば、マージン）以下である場合、その関連度の計算に利用した因果単語対候補の尤度スコアを、問題表現における問題単語の特徴度と、原因表現における原因単語の特徴度との積に比例した値に応じて変化させる因果単語対学習手段８６（例えば、因果単語対学習手段２４）と、尤度スコアが閾値以上の因果単語対候補を、因果単語対として抽出する因果単語対抽出手段８７（例えば、因果単語対抽出手段２５）とを備えている。
【０１０５】
そのような構成により、精度の高いドメイン固有の因果単語対を文書群から容易に抽出できる。すなわち、対象とするドメインの変化に合わせてドメイン固有の因果単語対辞書を容易に構築できる。その結果、対象とするドメインが変化しても、応答事例から容易に高精度の原因表現を抽出できる。具体的には、応答事例から原因表現を抽出する原因表現抽出器を容易かつ高精度に作成できる。
【０１０６】
また、因果単語対候補抽出手段８４は、抽出した単語対のうち、入力された複数の応答事例全件に対する出現頻度が、予め定めた基準よりも高い単語対を因果単語対候補として抽出してもよい。
【０１０７】
また、因果単語対学習手段８６は、両者の関連度の差が予め定めた閾値以下である場合、因果単語対候補の尤度スコアを、問題表現・原因表現対に含まれる原因表現の問題単語の特徴度とその問題表現・原因表現対における原因表現とは異なる原因表現の特徴度との差分値に対して問題表現における問題単語の特徴度を乗じた値に応じて（例えば、式２に基づいて）変化させてもよい。
【０１０８】
また、因果単語対候補抽出手段８４は、問題単語の特徴度として問題表現に偏って出現するほど高くなる特徴度を用い、原因単語の特徴度として原因表現に偏って出現する単語ほど高くなる特徴度を用いてもよい。
【０１０９】
また、因果単語対学習手段８６は、オンライン学習により学習データを作成してもよい。
【産業上の利用可能性】
【０１１０】
本発明は、文書群から原因と結果を示す単語のペアを抽出する因果単語対抽出装置に好適に適用される。例えば、本発明を、質問者からの問い合わせに関連する過去の回答を検索する情報検索装置や、情報検索装置をコンピュータに実現させるプログラムに適用できる。
【符号の説明】
【０１１１】
１  入力手段
２  データ処理装置
２１  問題・原因表現対抽出手段
２２  因果単語対候補抽出手段
２３  問題・原因表現関連度計算手段
２４  因果単語対学習手段
２５  因果単語対抽出手段
３  記憶装置
３１  問題パタン辞書記憶手段
３２  原因パタン辞書記憶手段
４  出力手段
【図１】
0005682448.tif 000004
【図２】
0005682448.tif 000005
【図３】
0005682448.tif 000006
【図４】
0005682448.tif 000007
【図５】
0005682448.tif 000008