(57)【特許請求の範囲】
【請求項１】
複数の正例データペアの各々は互いに予め決められた意味関係にある言語データから構成されており、前記複数の正例データペアを格納している正例データ記憶部から、前記複数の正例データペアを取得し、前記言語データを組み合わせることによって複数の負例データペアを作成し、前記複数の負例データペアの各々は互いに前記予め決められた意味関係にない言語データから構成される、負例データ作成部と、
前記複数の負例データペアの各々を構成する前記言語データから特徴量を抽出する特徴量抽出部と、
前記複数の負例データペアの各々における前記言語データの前記特徴量の間の類似度を算出する類似度算出部と、
前記類似度に基づいて、前記複数の負例データペアを予め決められた複数の類似度範囲に分類することによって、又は、前記類似度に基づいて、前記複数の負例データペアを構成する前記言語データと前記複数の正例データペアを構成する前記言語データとから作成された複数の学習用負例データペアを予め決められた複数の類似度範囲に分類することによって、前記複数の類似度範囲に対応する複数の学習用負例データセットを作成し、前記複数の学習用負例データセットの各々は前記複数の負例データペアのうちの１つ以上の負例データペアを含む、学習用負例データ作成部と、
前記複数の類似度範囲に基づいて予め決められた選択スケジュールに従う順序で、前記複数の学習用負例データセットのうちのいずれかの学習用負例データセットを選択する学習データセット選択部と、
前記学習データセット選択部によって選択された前記学習用負例データセットと前記複数の正例データペアとを用いて機械学習処理を行う学習処理部と、
を備えることを特徴とする意味関係学習装置。
【請求項２】
前記予め決められた意味関係にある前記言語データは、互いに同義関係にある言語データであり、
前記予め決められた意味関係にない前記言語データは、互いに同義関係にない言語データであり、
前記学習用負例データ作成部は、前記類似度に基づいて、前記複数の負例データペアを予め決められた複数の類似度範囲に分類することによって、前記複数の学習用負例データセットを作成する
ことを特徴とする請求項１に記載の意味関係学習装置。
【請求項３】
前記学習データセット選択部は、
ｎを１以上の整数としたときに、
前記複数の類似度範囲のうちのｎ番目に低い値の類似度範囲に対応する学習用負例データセットがｎ番目に選択されるように、前記選択スケジュールを決定する
ことを特徴とする請求項２に記載の意味関係学習装置。
【請求項４】
前記予め決められた意味関係にある前記言語データは、質問文を示す言語データと回答文を示す言語データであり、
前記予め決められた意味関係にない前記言語データは、質問文を示す第１の言語データと質問文を示す第２の言語データ、又は、回答文を示す第３の言語データと回答文を示す第４の言語データであり、
前記学習用負例データ作成部は、前記類似度に基づいて、前記複数の負例データペアと前記複数の正例データペアとから作成された複数の学習用負例データペアを予め決められた複数の類似度範囲に分類することによって、前記複数の学習用負例データセットを作成する
ことを特徴とする請求項１に記載の意味関係学習装置。
【請求項５】
前記予め決められた意味関係にある前記言語データは、質問文を示す言語データと回答文を示す言語データであり、
前記予め決められた意味関係にない前記言語データは、質問文を示す第１の言語データと質問文を示す第２の言語データ、又は、回答文を示す第３の言語データと回答文を示す第４の言語データであり、
前記学習用負例データ作成部は、前記複数の正例データペアの各々の質問文データを、前記複数の負例データペアのうちのいずれかの負例データペアの前記第１の言語データ若しくは前記第２の言語データで置き換えることによって、又は、前記複数の正例データペアの各々の回答文データを、前記複数の負例データペアのうちのいずれかの負例データペアの前記第３の言語データ若しくは前記第４の言語データで置き換えることによって、作成された複数の学習用負例データペアを予め決められた複数の類似度範囲に分類することによって、前記複数の学習用負例データセットを作成する
ことを特徴とする請求項１に記載の意味関係学習装置。
【請求項６】
前記学習データセット選択部は、
ｎを１以上の整数としたときに、
前記複数の類似度範囲のうちのｎ番目に低い値の類似度範囲に対応する学習用負例データセットがｎ番目に選択されるように、前記選択スケジュールを決定する
ことを特徴とする請求項４又は５に記載の意味関係学習装置。
【請求項７】
前記複数の正例データペアを格納している前記正例データ記憶部をさらに備えたことを特徴とする請求項１から６のいずれか１項に記載の意味関係学習装置。
【請求項８】
前記学習用負例データ作成部によって作成された前記複数の学習用負例データセットを格納する学習用負例データ記憶部をさらに備えたことを特徴とする請求項１から７のいずれか１項に記載の意味関係学習装置。
【請求項９】
前記学習処理部によって行われた前記機械学習処理の結果を記憶する記憶部をさらに備えたことを特徴とする請求項１から８のいずれか１項に記載の意味関係学習装置。
【請求項１０】
複数の正例データペアの各々は互いに予め決められた意味関係にある言語データから構成されており、意味関係学習装置が、前記複数の正例データペアを格納している正例データ記憶部から、前記複数の正例データペアを取得し、前記言語データを組み合わせることによって複数の負例データペアを作成し、前記複数の負例データペアの各々は互いに前記予め決められた意味関係にない言語データから構成される、負例データ作成ステップと、
前記意味関係学習装置が、前記複数の負例データペアの各々を構成する前記言語データから特徴量を抽出する抽出ステップと、
前記意味関係学習装置が、前記複数の負例データペアの各々における前記言語データの前記特徴量の間の類似度を算出する算出ステップと、
前記意味関係学習装置が、前記類似度に基づいて、前記複数の負例データペアを予め決められた複数の類似度範囲に分類することによって、又は、前記類似度に基づいて、前記複数の負例データペアを構成する前記言語データと前記複数の正例データペアを構成する前記言語データとから作成された複数の学習用負例データペアを予め決められた複数の類似度範囲に分類することによって、前記複数の類似度範囲に対応する複数の学習用負例データセットを作成し、前記複数の学習用負例データセットの各々は前記複数の負例データペアのうちの１つ以上の負例データペアを含む、学習用負例データ作成ステップと、
前記意味関係学習装置が、前記複数の類似度範囲に基づいて予め決められた選択スケジュールに従う順序で、前記複数の学習用負例データセットのうちのいずれかの学習用負例データセットを選択する選択ステップと、
前記意味関係学習装置が、選択された前記学習用負例データセットと前記複数の正例データペアとを用いて機械学習処理を行う学習ステップと、
を有することを特徴とする意味関係学習方法。
【請求項１１】
複数の正例データペアの各々は互いに予め決められた意味関係にある言語データから構成されており、前記複数の正例データペアを格納している正例データ記憶部から、前記複数の正例データペアを取得し、前記言語データを組み合わせることによって複数の負例データペアを作成し、前記複数の負例データペアの各々は互いに前記予め決められた意味関係にない言語データから構成される、負例データ作成処理と、
前記複数の負例データペアの各々を構成する前記言語データから特徴量を抽出する抽出処理と、
前記複数の負例データペアの各々における前記言語データの前記特徴量の間の類似度を算出する算出処理と、
前記類似度に基づいて、前記複数の負例データペアを予め決められた複数の類似度範囲に分類することによって、又は、前記類似度に基づいて、前記複数の負例データペアを構成する前記言語データと前記複数の正例データペアを構成する前記言語データとから作成された複数の学習用負例データペアを予め決められた複数の類似度範囲に分類することによって、前記複数の類似度範囲に対応する複数の学習用負例データセットを作成し、前記複数の学習用負例データセットの各々は前記複数の負例データペアのうちの１つ以上の負例データペアを含む、学習用負例データ作成処理と、
前記複数の類似度範囲に基づいて予め決められた選択スケジュールに従う順序で、前記複数の学習用負例データセットのうちのいずれかの学習用負例データセットを選択する選択処理と、
選択された前記学習用負例データセットと前記複数の正例データペアとを用いて機械学習処理を行う学習処理と、
をコンピュータに実行させることを特徴とする意味関係学習プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、機械学習を行う意味関係学習装置、並びに、機械学習を行うために使用される意味関係学習方法及び意味関係学習プログラムに関する。
【背景技術】
【０００２】
パソコン及びインターネットの普及によって、ユーザがアクセス可能な電子化データの量が増大している。このため、大規模な電子化データの中から、所望のデータを効率的に発見するための技術が求められている。自然言語処理の分野では、言い換え文（すなわち、意味的に等価な文）の検索のために、同義関係にあるテキストのペアである正例と同義関係にないテキストのペアである負例とを、教師データとして予め人手で作成し、作成された教師データを用いてテキスト間の意味関係を統計的に機械学習する学習装置が使用されている。この機械学習の結果を用いれば、入力されたテキストと同義関係にあるテキストを検索及び推定することができる。【０００３】
例えば、特許文献１は、文中に含まれる述部の同義判定処理を行う装置を提案している。この装置は、互いに同じ意味を持つ述語（すなわち、互いに同義関係にあるテキストの例）のペアを正例とし、互いに異なる意味を持つ述語（すなわち、互いに同義関係にないテキストの例）のペアを負例とし、正例と負例とを教師データとし機械学習処理を行い、その結果、同義判定処理に用いられる判定用モデルを取得している。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１４−１１９９８８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、上記装置が行う機械学習処理で用いられる負例では、非常に近い意味を持つ言語データから構成される負例と非常に遠い意味を持つ言語データから構成される負例とが、区別されておらず、混在していると考えられる。したがって、このような負例を教師データとする機械学習処理によって、良好な意味関係の判別を可能にする判別用モデルを得ることは難しい。
【０００６】
本発明は、上記従来技術の課題を解決するためになされたものであり、良好な意味関係の判別を可能にする機械学習処理を行うことができる意味関係学習装置、並びに、良好な意味関係の判別を可能にする機械学習処理を行うために使用される意味関係学習方法及び意味関係学習プログラムを提供することを目的とする。
【課題を解決するための手段】
【０００７】
本発明の一態様による意味関係学習装置は、複数の正例データペアの各々は互いに予め決められた意味関係にある言語データから構成されており、前記複数の正例データペアを格納している正例データ記憶部から、前記複数の正例データペアを取得し、前記言語データを組み合わせることによって複数の負例データペアを作成し、前記複数の負例データペアの各々は互いに前記予め決められた意味関係にない言語データから構成される、負例データ作成部と、前記複数の負例データペアの各々を構成する前記言語データから特徴量を抽出する特徴量抽出部と、前記複数の負例データペアの各々における前記言語データの前記特徴量の間の類似度を算出する類似度算出部と、前記類似度に基づいて、前記複数の負例データペアを予め決められた複数の類似度範囲に分類することによって、又は、前記類似度に基づいて、前記複数の負例データペアを構成する前記言語データと前記複数の正例データペアを構成する前記言語データとから作成された複数の学習用負例データペアを予め決められた複数の類似度範囲に分類することによって、前記複数の類似度範囲に対応する複数の学習用負例データセットを作成し、前記複数の学習用負例データセットの各々は前記複数の負例データペアのうちの１つ以上の負例データペアを含む、学習用負例データ作成部と、前記複数の類似度範囲に基づいて予め決められた選択スケジュールに従う順序で、前記複数の学習用負例データセットのうちのいずれかの学習用負例データセットを選択する学習データセット選択部と、前記学習データセット選択部によって選択された前記学習用負例データセットと前記複数の正例データペアとを用いて機械学習処理を行う学習処理部と、を備えることを特徴とする。
【０００８】
本発明の一態様による意味関係学習方法は、複数の正例データペアの各々は互いに予め決められた意味関係にある言語データから構成されており、意味関係学習装置が、前記複数の正例データペアを格納している正例データ記憶部から、前記複数の正例データペアを取得し、前記言語データを組み合わせることによって複数の負例データペアを作成し、前記複数の負例データペアの各々は互いに前記予め決められた意味関係にない言語データから構成される、負例データ作成ステップと、前記意味関係学習装置が、前記複数の負例データペアの各々を構成する前記言語データから特徴量を抽出する抽出ステップと、前記意味関係学習装置が、前記複数の負例データペアの各々における前記言語データの前記特徴量の間の類似度を算出する算出ステップと、前記意味関係学習装置が、前記類似度に基づいて、前記複数の負例データペアを予め決められた複数の類似度範囲に分類することによって、又は、前記類似度に基づいて、前記複数の負例データペアを構成する前記言語データと前記複数の正例データペアを構成する前記言語データとから作成された複数の学習用負例データペアを予め決められた複数の類似度範囲に分類することによって、前記複数の類似度範囲に対応する複数の学習用負例データセットを作成し、前記複数の学習用負例データセットの各々は前記複数の負例データペアのうちの１つ以上の負例データペアを含む、学習用負例データ作成ステップと、前記意味関係学習装置が、前記複数の類似度範囲に基づいて予め決められた選択スケジュールに従う順序で、前記複数の学習用負例データセットのうちのいずれかの学習用負例データセットを選択する選択ステップと、前記意味関係学習装置が、選択された前記学習用負例データセットと前記複数の正例データペアとを用いて機械学習処理を行う学習ステップと、を有することを特徴とする。
【発明の効果】
【０００９】
本発明によれば、良好な意味関係の判別を可能にする機械学習処理を行うことができる。
【図面の簡単な説明】
【００１０】
【図１】本発明の実施の形態１に係る意味関係学習装置の構成を概略的に示す機能ブロック図である。
【図２】実施の形態１に係る意味関係学習装置のハードウェア構成の例を示す図である。
【図３】実施の形態１に係る意味関係学習装置の動作を示すフローチャートである。
【図４】実施の形態１における負例データ作成部の動作を示すフローチャートである。
【図５】実施の形態１における特徴量抽出部の動作を示すフローチャートである。
【図６】実施の形態１における類似度算出部の動作を示すフローチャートである。
【図７】実施の形態１における学習用負例データ作成部の動作を示すフローチャートである。
【図８】実施の形態１における学習データ選択部の動作を示すフローチャートである。
【図９】実施の形態１における学習処理部の動作を示すフローチャートである。
【図１０】本発明の実施の形態２に係る意味関係学習装置の構成を概略的に示す機能ブロック図である。
【図１１】実施の形態２に係る意味関係学習装置の動作を示すフローチャートである。
【図１２】実施の形態２における負例データ作成部の動作を示すフローチャートである。
【図１３】実施の形態２における特徴量抽出部の動作を示すフローチャートである。
【図１４】実施の形態２における類似度算出部の動作を示すフローチャートである。
【図１５】実施の形態２における学習用負例データ作成部の動作を示すフローチャートである。
【発明を実施するための形態】
【００１１】
以下に、本発明の実施の形態に係る意味関係学習装置、意味関係学習方法、及び意味関係学習プログラムを、図面を参照しながら説明する。なお、以下の実施の形態は、例にすぎず、本発明の範囲内で種々の変更が可能である。
【００１２】
実施の形態に係る意味関係学習装置は、意味関係の判別処理を行う意味関係判別部を備えた意味関係判別装置に備えることができる学習装置である。実施の形態に係る意味関係学習方法は、意味関係の判別処理で使用される意味関係判別用モデルを取得するための学習方法である。実施の形態に係る意味関係学習プログラムは、意味関係の判別処理で使用される意味関係判別用モデルを取得するためのソフトウェアプログラムである。
【００１３】
《１》実施の形態１．
《１−１》実施の形態１の構成．
図１は、本発明の実施の形態１に係る意味関係学習装置１の構成を概略的に示す機能ブロック図である。図１に示されるように、意味関係学習装置１は、実施の形態１に係る意味関係学習方法を実施することができる装置である。図１に示されるように、意味関係学習装置１は、負例データ作成部１２と、特徴量抽出部１３と、類似度算出部１４と、学習用負例データ作成部１５と、学習データセット選択部１７と、学習処理部１８とを備えている。また、意味関係学習装置１は、正例データ記憶部１１と、学習用負例データ記憶部１６とを備えてもよい。
【００１４】
正例データ記憶部１１は、複数の正例データペア（以下、「正例」とも言う。）Ａ１１を格納している。複数の正例データペアの各々は、互いに予め決められた意味関係にある言語に関するデータ（以下、「言語データ」とも言う。）から構成されている。実施の形態１において、予め決められた意味関係は、同義関係である。互いに同義関係にある言語データのペアは、例えば、互いに同義関係にあるテキストのペアである。ここで、テキストは、単語及び文を含む。なお、予め決められた意味関係は、同義関係に限定されない。
【００１５】
負例データ作成部１２は、正例データ記憶部１１に格納されている複数の正例データペアＡ１１を取得する。負例データ作成部１２は、複数の正例データペアＡ１１の各々を構成する言語データを組み合わせることによって複数の負例データペア（以下、「負例」とも言う。）Ａ１２を作成する。複数の負例データペアＡ１２の各々は、互いに予め決められた意味関係にない言語データから構成される。実施の形態１においては、複数の負例データペアＡ１２の各々は、互いに同義関係にない言語データから構成される。互いに同義関係にない言語データのペアは、例えば、互いに同義関係にないテキストのペアである。ここで、テキストは、単語及び文を含む。
【００１６】
特徴量抽出部１３は、負例データ作成部１２によって作成された複数の負例データペアＡ１２の各々を構成する言語データから特徴量Ａ１３を抽出、すなわち、算出する。特徴量としては、利用する類似度と言語データの性質などに適した特徴量を利用することができる。例えば、負例データペアを構成する言語データがテキストデータである場合には、テキスト間の類似度の算出のための特徴量として、テキストの文長、テキストの文字種、テキストの形態素解析の結果、テキストの係り受け解析の結果、テキストから変換された多次元ベクトル、などのうちの１つ以上を使用することができる。テキストを多次元ベクトルに変換する方法は、公知であり、例えば、非特許文献１に記載の方法を使用することができる。
【００１７】
【非特許文献１】Ｔｏｍａｓ  Ｍｉｋｏｌｏｖ、外３名、  “Ｅｆｆｉｃｉｅｎｔ  Ｅｓｔｉｍａｔｉｏｎ  ｏｆ  Ｗｏｒｄ  Ｒｅｐｒｅｓｅｎｔａｔｉｏｎｓ  ｉｎ  Ｖｅｃｔｏｒ  Ｓｐａｃｅ”、  ＩＣＬＲ（Ｉｎｔｅｒｎａｔｉｏｎａｌ  Ｃｏｎｆｅｒｅｎｃｅ  ｏｎ  Ｌｅａｒｎｉｎｇ  Ｒｅｐｒｅｓｅｎｔａｔｉｏｎｓ）  ２０１３
【００１８】
類似度算出部１４は、複数の負例データペアＡ１２の各々における特徴量Ａ１３の間の類似度を算出する。類似度算出部１４は、算出された類似度を、この類似度に対応する負例データペアＡ１２に付与して、類似度が付与された負例データペアＡ１４を作成する。
【００１９】
類似度としては、言語データの性質に応じて事前に定義されたものを使用することができる。例えば、負例データペアを構成する言語データがテキストデータである場合には、テキスト間の文長の差異、テキストの編集距離（すなわち、レーベンシュタイン距離）、テキストを形態素解析して得られた単語列の重複度合い、テキストを係り受け解析した結果得られた文節単位の重複度合い、テキストを係り受け解析した結果得られた係り受け関係の重複度合い、テキストから変換された多次元ベクトルのユークリッド距離又はコサイン類似度など、のうちの１つ以上を使用することができる。
【００２０】
例えば、テキスト間の文長の差異が小さいほど、類似度が高い。また、テキストの編集距離が短いほど、類似度が高い。また、テキストを形態素解析して得られた単語列の重複度合いが大きいほど、類似度が高い。また、テキストを係り受け解析した結果得られた文節単位の重複度合いが大きいほど、類似度が高い。また、テキストを係り受け解析した結果得られた係り受け関係の重複度合いが大きいほど、類似度が高い。また、テキストから変換された多次元ベクトルのユークリッド距離が短いほど、類似度が高い。テキストを多次元ベクトルに変換する方法は、公知であり、例えば、非特許文献１に記載の方法を使用することができる。また、コサイン類似度は、ベクトル空間モデルにおいて、文書同士を比較する際に用いられ、その計算方法は公知である。また、事前に用意された学習装置によって出力される尤度、などの判別結果を、類似度として用いてもよい。
【００２１】
学習用負例データ作成部１５は、類似度算出部１４によって算出された類似度が付与された負例データペアＡ１４に基づいて、複数の負例データペアＡ１４を予め決められた複数の類似度範囲に分類することによって、複数の類似度範囲に対応する複数の学習用負例データセットＡ１５を作成する。複数の学習用負例データセットＡ１５の各々は、類似度が付与された複数の負例データペアＡ１４のうちの１つ以上の負例データペアを含む。
【００２２】
例えば、負例データペアがテキストペアであり、類似度がベクトル化されたテキスト間のユークリッド距離である場合には、学習用負例データ作成部１５は、負例データ作成部１２で作成されたテキストを、類似度算出部１４で算出されたユークリッド距離に基づいて分類することによって、類似度算出部１４で算出されたユークリッド距離の範囲ごとに分類された学習用負例データセットＡ１５を作成する。ここで、類似度範囲であるユークリッド距離ｄ１の範囲は、例えば、
０．１≦ｄ１＜０．３の範囲である第１の類似度範囲、
０．３≦ｄ１＜０．５の範囲である第２の類似度範囲、及び
０．５≦ｄ１≦０．７の範囲である第３の類似度範囲、
である。この例は、負例データペアを、類似度範囲別に、３つのデータセットに分類する場合の例である。なお、作成する学習用負例データセットの類似度範囲の広さ、類似度範囲の数は、上記の例に限定されない。
【００２３】
学習用負例データ記憶部１６は、学習用負例データ作成部１５によって作成された、複数の類似度範囲に対応する複数の学習用負例データセットＡ１５を受け取り、複数の学習用負例データセットＡ１６として格納する。
【００２４】
学習データセット選択部１７は、複数の類似度範囲に基づいて予め決められた選択スケジュールに従う順序で、学習用負例データ記憶部１６に格納されている複数の学習用負例データセットＡ１６のうちの、いずれかの学習用負例データセットＡ１７を選択する。
【００２５】
具体的には、学習データセット選択部１７は、類似度範囲の類似度が低い学習用負例データセットから順に学習処理部１８へ出力し、学習処理部１８における学習処理を実行する。１回の学習処理が終了したら次に類似度が高い学習用負例データセットを学習処理部１８へ出力し、学習用負例データセットの選択スケジュールが終了するまで、同様の順番で処理を繰り返す。
【００２６】
言い換えれば、学習データセット選択部１７は、先ず、複数の類似度範囲のうちの１番低い（すなわち、最も低い）値の類似度範囲に対応する学習用負例データセットが１番目に選択されるように、次に、複数の類似度範囲のうちの２番目に低い値の類似度範囲に対応する学習用負例データセットが２番目に選択されるように、選択スケジュールを決定する。つまり、学習データセット選択部１７は、ｎを１以上の整数としたときに、複数の類似度範囲のうちのｎ番目に低い値の類似度範囲に対応する学習用負例データセットがｎ番目に選択されるように、選択スケジュールを決定する。
【００２７】
このように、類似度が低い学習用負例データセットから学習を開始し、徐々に類似度が高い学習用負例データセットを学習することで、意味関係学習装置は、良い解に早く収束することができる。また、意味関係学習装置によって得られた意味関係判別用モデルの汎化性能を向上させることができる。なお、学習用負例データセットの選択スケジュールでは、任意の学習回数を設定してもよい。また、意味関係学習装置の精度が最も高くなるようにするため、学習用負例データセットの選択スケジュールの決定に、ベイズ最適化などによる最適化の結果を用いてもよい。
【００２８】
つまり、電子化データの意味関係判別のための学習において、類似度を考慮した負例データペアを事前に用意し、難易度の低い簡単な問題設定（例えば、類似度が低い言語データから構成される負例データペアを用いた問題）の学習を先に行い、難易度の高い問題設定（例えば、類似度が高い言語データから構成される負例データペアを用いた問題）の学習を後で行う。このようにすれば、意味関係学習装置１が良い解に早く収束するだけでなく、意味関係学習装置１を備えた意味関係判別装置の汎化性能を向上させることができる。
【００２９】
学習処理部１８は、学習データセット選択部１７によって選択された学習用負例データセットＡ１７と正例データ記憶部１１に格納されている複数の正例データペアＡ１１とを用いて機械学習処理を行う。機械学習処理には、公知の学習アルゴリズムを用いることができる。使用可能なアルゴリズムとしては、ＳＶＭ（Ｓｕｐｐｏｒｔ  Ｖｅｃｔｏｒ  Ｍａｃｈｉｎｅ）、ニューラルネットワーク、又は決定木、などがある。
【００３０】
図２は、実施の形態１に係る意味関係学習装置１のハードウェア構成の例を示す図である。意味関係学習装置１は、例えば、ソフトウェアとしてのプログラム、すなわち、実施の形態１に係る意味関係学習プログラムを格納する記憶装置としてのメモリ１０２と、メモリ１０２に格納されたプログラムを実行する情報処理部としてのプロセッサ１０１と備えている。意味関係学習装置１は、例えば、コンピュータである。実施の形態１に係る意味関係学習プログラムは、情報を記憶する記憶媒体から読取装置（図示せず）を介して又はインターネットなどに接続可能な通信インタフェース（図示せず）を介してメモリ１０２に格納される。また、意味関係学習装置１は、マウス１０３及びキーボード１０４などのようなユーザ操作部である入力装置と、画像を表示する表示装置１０５及び音声を出力する音声出力部（図示せず）などのような出力装置とを有してもよい。また、意味関係学習装置１は、データベースなどの各種情報を格納する補助記憶装置１０６を有してもよい。補助記憶装置１０６は、必ずしも意味関係学習装置１の内部に存在する必要は無く、通信インターフェースを介してクラウド上に存在する記憶装置であってもよい。
【００３１】
図１に示される負例データ作成部１２、特徴量抽出部１３、類似度算出部１４、学習用負例データ作成部１５、学習データセット選択部１７、及び学習処理部１８は、メモリ１０２に格納されているプログラムを実行するプロセッサ１０１によって実現されることができる。また、図１に示される正例データ記憶部１１及び学習用負例データ記憶部１６は、補助記憶装置１０６の一部であってもよい。
【００３２】
《１−２》実施の形態１の動作．
図３は、実施の形態１に係る意味関係学習装置１の動作を示すフローチャートである。また、図４は、実施の形態１における負例データ作成部１２の動作を示すフローチャートである。まず、負例データ作成部１２は、正例データ記憶部１１から複数の正例データペアＡ１１を取得することで、複数の正例データペアＡ１１の各々を構成する言語データを取得する（ステップＳ１１、ステップＳ１１１）。
【００３３】
次に、負例データ作成部１２は、正例データ記憶部１１から取得された言語データを組み合わせることによって複数の負例データペアＡ１２を作成する（ステップＳ１２、ステップＳ１１２）。複数の負例データペアＡ１２の各々は、互いに同義関係にない言語データから構成される。つまり、負例データ作成部１２は、正例データペアＡ１１以外の言語データの組み合わせから複数の負例データペアＡ１２を作成する。負例データ作成部１２は、正例データペアＡ１１以外の言語データの全ての組み合わせから複数の負例データペアＡ１２を作成することが望ましい。負例データ作成部１２は、負例データペアＡ１２を特徴量抽出部１３及び類似度算出部１４へ出力する（ステップＳ１１３）。
【００３４】
図５は、実施の形態１における特徴量抽出部１３の動作を示すフローチャートである。特徴量抽出部１３は、複数の負例データペアＡ１２を取得し、複数の負例データペアＡ１２の各々を構成する言語データから特徴量Ａ１３を抽出、すなわち、算出する（ステップＳ１３、ステップＳ１３１，Ｓ１３２）。特徴量抽出部１３は、特徴量Ａ１３を類似度算出部１４へ出力する（ステップＳ１３３）。
【００３５】
図６は、実施の形態１における類似度算出部１４の動作を示すフローチャートである。類似度算出部１４は、複数の負例データペアＡ１２及び複数の特徴量Ａ１３を取得し、複数の負例データペアＡ１２の各々における特徴量Ａ１３の間の類似度を算出する（ステップＳ１４、ステップＳ１４１，Ｓ１４２）。類似度算出部１４は、類似度を負例データペアに付与し、類似度が付与された負例データペアＡ１４を学習用負例データ作成部１５へ出力する（ステップＳ１４３）。
【００３６】
図７は、実施の形態１における学習用負例データ作成部１５の動作を示すフローチャートである。学習用負例データ作成部１５は、類似度が付与された複数の負例データペアＡ１４を取得し、複数の負例データペアＡ１４を予め決められた複数の類似度範囲に分類することによって、複数の類似度範囲に対応する複数の学習用負例データセットＡ１５を作成する（ステップＳ１５、ステップＳ１５１，Ｓ１５２）。つまり、複数の学習用負例データセットＡ１５の各々は、複数の負例データペアＡ１２のうちの１つ以上の負例データペアを含むデータのグループである。複数の類似度範囲に対応する複数の学習用負例データセットＡ１５は、学習用負例データ記憶部１６に格納される（ステップＳ１５３）。
【００３７】
図８は、実施の形態１における学習データセット選択部１７の動作を示すフローチャートである。学習データセット選択部１７は、複数の類似度範囲に基づいて予め決められた選択スケジュールに従う順序で、学習用負例データ記憶部１６に格納されている複数の学習用負例データセットＡ１６のうちの、いずれかの学習用負例データセットＡ１７を選択する（ステップＳ１６、ステップＳ１６１）。選択された学習用負例データセットＡ１７は、学習処理部１８へ出力される（ステップＳ１６２）。
【００３８】
図９は、実施の形態１における学習処理部１８の動作を示すフローチャートである。学習処理部１８は、選択された学習用負例データセットＡ１７と正例データ記憶部１１に格納されている複数の正例データペアＡ１１とを用いて機械学習処理を行う（ステップＳ１７、ステップＳ１７１）。図３におけるステップＳ１６及びＳ１７の処理は、学習用負例データセットの選択スケジュールが終了するまで繰り返される（ステップＳ１８）。
【００３９】
《１−３》実施の形態１の効果．
以上に説明したように、実施の形態１に係る意味関係学習装置１、意味関係学習方法、又は意味関係学習プログラムを用いれば、良好な意味関係の判別を可能にする機械学習処理を行うことができる。
【００４０】
具体的に言えば、類似度を考慮した負例データペアＡ１４を事前に用意し、類似度が低い言語データから構成される負例データペアを用いる学習を最初に行い、次に、類似度が次に低い言語データから構成される負例データペアを用いる学習を行う。つまり、徐々に難易度が高い問題設定（すなわち、類似度が高い言語データから構成される負例データペアを用いた問題設定）へ学習を進める。このようにすれば、良い解に早く収束するだけでなく、汎化性能を向上させることができる。
【００４１】
《２》実施の形態２．
《２−１》実施の形態２の構成．
図１０は、本発明の実施の形態２に係る意味関係学習装置２の構成を概略的に示す機能ブロック図である。意味関係学習装置２は、実施の形態２に係る意味関係学習方法を実施することができる装置である。図１０に示されるように、意味関係学習装置２は、負例データ作成部２２と、特徴量抽出部２３と、類似度算出部２４と、学習用負例データ作成部２５と、学習データセット選択部２７と、学習処理部２８とを備えている。また、意味関係学習装置２は、正例データ記憶部２１と、学習用負例データ記憶部２６とを備えてもよい。以下に、実施の形態２を、実施の形態１と異なる箇所を中心に、説明する。
【００４２】
正例データ記憶部２１は、複数の正例データペアＡ２１を格納している。複数の正例データペアの各々は、互いに予め決められた意味関係にある言語データから構成されている。実施の形態２において、予め決められた意味関係は、質問文と回答文の関係である。互いに予め決められた意味関係にある言語データは、例えば、質問文データと回答文データである。なお、予め決められた意味関係は、質問文と回答文の関係に限定されない。
【００４３】
負例データ作成部２２は、正例データ記憶部２１に格納されている複数の正例データペアＡ２１を取得する。負例データ作成部２２は、複数の正例データペアＡ２１の各々を構成する言語データを組み合わせることによって複数の負例データペアＡ２２を作成する。複数の負例データペアＡ２２の各々は、互いに予め決められた意味関係にない言語データから構成される。実施の形態２においては、複数の負例データペアＡ２２の各々は、互いに質問文と回答文の関係にない言語データから構成される。負例データペアＡ２２は、例えば、質問文と質問文とから構成されるデータペア、及び回答文と回答文とから構成されるデータペアである。
【００４４】
特徴量抽出部２３は、負例データ作成部２２によって作成された複数の負例データペアＡ２２の各々を構成する言語データから特徴量Ａ２３を抽出、すなわち、算出する。実施の形態１の場合と同様に、特徴量としては、利用する類似度と言語データの性質などに適した特徴量を利用することができる。
【００４５】
類似度算出部２４は、複数の負例データペアＡ２２の各々における特徴量Ａ２３の間の類似度を算出する。類似度算出部２４は、算出した類似度を、この類似度に対応する負例データペアＡ２２に付与して、類似度が付与された負例データペアＡ２４を作成する。類似度としては、実施の形態１の場合と同様のものを使用することができる。
【００４６】
学習用負例データ作成部２５は、類似度算出部２４で作成された類似度が付与された負例データペアＡ２４に含まれる質問文データで、正例データ記憶部２１に格納されている正例データペアＡ２１を構成する質問文データを置き換えることによって、又は、類似度算出部２４で作成された類似度が付与された負例データペアＡ２４に含まれる回答文データで、正例データ記憶部２１に格納されている正例データペアＡ２１を構成する回答文データを置き換えることによって、複数の学習用負例データペアを作成する。学習用負例データ作成部２５は、類似度算出部２４によって算出された類似度に基づいて、複数の学習用負例データペアを構成する言語データを予め決められた複数の類似度範囲に分類することによって、複数の類似度範囲に対応する複数の学習用負例データセットＡ２５を作成する。複数の学習用負例データセットＡ２５の各々は、類似度が付与された複数の学習用負例データペアＡ２４のうちの１つ以上の負例データペアを含む。
【００４７】
例えば、学習用負例データ作成部２５が、「質問文データＤ１０」と「回答文データＤ２０」とから構成される正例データペアから、「質問文データＤ１０」と「質問文データＤ１１」とから構成される負例データペアを用いて、「質問文データＤ１１」と「回答文データＤ２０」とから構成される学習用負例データペアを作成する場合を説明する。この場合、学習用負例データ作成部２５は、正例データペアの「質問文データＤ１０」を、負例データペアの「質問文データＤ１１」で置き換えることによって、「質問文データＤ１１」と「回答文データＤ２０」とから構成される学習用負例データペアを作成する。このとき、作成された学習用負例データペアには、「質問文データＤ１０」と「質問文データＤ１１」とから構成される負例データペアに付与されている類似度が付与される。
【００４８】
また、例えば、学習用負例データ作成部２５が、「質問文データＤ１０」と「回答文データＤ２０」とから構成される正例データペアから、「回答文データＤ２０」と「回答文データＤ２１」とから構成される負例データペアを用いて、「質問文データＤ１０」と「回答文データＤ２１」とから構成される学習用負例データペアを作成する場合を説明する。この場合、学習用負例データ作成部２５は、正例データペアの「回答文データＤ２０」を、負例データペアの「回答文データＤ２１」で置き換えることによって、「質問文データＤ１０」と「回答文データＤ２１」とから構成される学習用負例データペアを作成する。このとき、作成された学習用負例データペアには、「回答文データＤ２０」と「回答文データＤ２１」とから構成される負例データペアに付与されている類似度が付与される。
【００４９】
例えば、負例データ作成部２２で作成された負例データペアを構成する「質問文Ａ」と「質問文Ｂ」との間の類似度について説明する。類似度算出部２４は、「質問文Ａ」のテキストデータと「質問文Ｂ」のテキストデータとを、それぞれ多次元ベクトルに変換し、多次元ベクトルに基づいてテキスト間のユークリッド距離ｄ２を算出し、この算出で得られたユークリッド距離ｄ２を類似度とする。このように処理することで、類似度が付与された、「質問文」と「回答文」から構成される学習用負例データペアが作成される。
【００５０】
学習用負例データ作成部２５は、算出されたユークリッド距離ｄ２に基づいて、「質問文」と「回答文」から構成される学習用負例データペアを、ユークリッド距離ｄ２の範囲ごとに分類された学習用負例データセットＡ２５を作成する。ここで、類似度範囲であるユークリッド距離ｄ２の範囲は、例えば、
０．１≦ｄ２＜０．３の範囲である第１の類似度範囲、
０．３≦ｄ２＜０．５の範囲である第２の類似度範囲、及び
０．５≦ｄ２≦０．７の範囲である第３の類似度範囲、
である。この例は、学習用負例データペアを、類似度範囲別に、３つのデータセットに分類する場合の例である。なお、作成する学習用負例データセットの類似度範囲の広さ、類似度範囲の数は、上記の例に限定されない。
【００５１】
学習用負例データ記憶部２６は、学習用負例データ作成部２５によって作成された、複数の類似度範囲に対応する複数の学習用負例データセットＡ２５を受け取り、複数の学習用負例データセットＡ２６として格納する。
【００５２】
学習データセット選択部２７は、複数の類似度範囲に基づいて予め決められた選択スケジュールに従う順序で、学習用負例データ記憶部２６に格納されている複数の学習用負例データセットＡ２６のうちの、いずれかの学習用負例データセットＡ２７を選択する。
【００５３】
具体的には、学習データセット選択部２７は、類似度範囲の類似度が低い学習用負例データセットから順に学習処理部２８へ出力し、学習処理部２８における学習処理を実行する。１回の学習処理が終了したら次に類似度が高い学習用負例データセットを学習処理部２８へ出力し、学習用負例データセットの選択スケジュールが終了するまで、同様の順番で処理を繰り返す。
【００５４】
言い換えれば、学習データセット選択部２７は、先ず、複数の類似度範囲のうちの１番低い（すなわち、最も低い）値の類似度範囲に対応する学習用負例データセットが１番目に選択されるように、次に、複数の類似度範囲のうちの２番目に低い値の類似度範囲に対応する学習用負例データセットが２番目に選択されるように、選択スケジュールを決定する。つまり、学習データセット選択部１７は、ｎを１以上の整数としたときに、複数の類似度範囲のうちのｎ番目に低い値の類似度範囲に対応する学習用負例データセットがｎ番目に選択されるように、選択スケジュールを決定する。
【００５５】
このように、類似度が低い学習用負例データセットから学習を開始し、徐々に類似度が高い学習用負例データセットを学習することで、意味関係学習装置２は、良い解に早く収束することができる。また、意味関係学習装置２によって得られた意味関係判別用モデルの汎化性能を向上させることができる。なお、学習用負例データセットの選択スケジュールでは、任意の学習回数を設定してもよい。また、意味関係学習装置２の精度が最も高くなるようにするため、学習用負例データセットの選択スケジュールの決定に、ベイズ最適化などによる最適化の結果を用いてもよい。
【００５６】
つまり、電子化データの意味関係判別のための学習において、類似度を考慮した学習用負例データペアを事前に用意し、難易度の低い簡単な問題設定（例えば、類似度が低い言語データから構成される学習用負例データペアを用いた問題）の学習を先に行い、難易度の高い問題設定（例えば、類似度が高い言語データから構成される学習用負例データペアを用いた問題）の学習を後で行う。このようにすれば、意味関係学習装置２が良い解に早く収束するだけでなく、意味関係学習装置２を備えた意味関係判別装置の汎化性能を向上させることができる。
【００５７】
学習処理部２８は、学習データセット選択部２７によって選択された学習用負例データセットＡ２７と正例データ記憶部２１に格納されている複数の正例データペアＡ２１とを用いて機械学習処理を行う。学習処理部２８の機能は、実施の形態１における学習処理部１８の機能と同様である。
【００５８】
また、実施の形態２に係る意味関係学習装置２のハードウェア構成は、図２に示されるものと同様である。
【００５９】
《２−２》実施の形態２の動作．
図１１は、実施の形態２に係る意味関係学習装置２の動作を示すフローチャートである。また、図１２は、実施の形態２における負例データ作成部２２の動作を示すフローチャートである。まず、負例データ作成部２２は、正例データ記憶部２１から複数の正例データペアＡ２１を取得することで、複数の正例データペアＡ２１の各々を構成する言語データである質問文データと回答文データとを取得する（ステップＳ２１、ステップＳ２１１）。
【００６０】
次に、負例データ作成部２２は、正例データ記憶部２１から取得された質問文データ同士を組み合わせることによって及び回答文同士を組み合わせることによって、複数の負例データペアＡ２２を作成する（ステップＳ２２、ステップＳ２１２，Ｓ２１３）。複数の負例データペアＡ２２の各々は、予め決められた意味関係にない言語データのペアから構成される。つまり、負例データ作成部２２は、正例データペアＡ２１以外の言語データの組み合わせから複数の負例データペアＡ２２を作成する。負例データ作成部２２は、負例データペアＡ２２を特徴量抽出部２３及び類似度算出部２４へ出力する（ステップＳ２１４）。
【００６１】
図１３は、実施の形態２における特徴量抽出部２３の動作を示すフローチャートである。特徴量抽出部２３は、複数の負例データペアＡ２２を取得し、複数の負例データペアＡ２２の各々を構成する言語データから特徴量Ａ２３を抽出、すなわち、算出する（ステップＳ２３、ステップＳ２３１，Ｓ２３２）。特徴量抽出部２３は、特徴量Ａ２３を類似度算出部１４へ出力する（ステップＳ２３３）。
【００６２】
図１４は、実施の形態２における類似度算出部２４の動作を示すフローチャートである。類似度算出部２４は、複数の負例データペアＡ２２及び複数の特徴量Ａ２３を取得し、複数の負例データペアＡ２２の各々における特徴量Ａ２３の間の類似度を算出する（ステップＳ２４、ステップＳ２４１，Ｓ２４２）。類似度算出部１４は、類似度を負例データペアに付与し、類似度が付与された負例データペアＡ２４を学習用負例データ作成部２５へ出力する（ステップＳ２４、ステップＳ２４２，Ｓ２４３）。
【００６３】
図１５は、実施の形態２における学習用負例データ作成部２５の動作を示すフローチャートである。学習用負例データ作成部２５は、類似度に基づいて、複数の負例データペアＡ２４を構成する言語データと複数の正例データペアＡ１１を構成する言語データとから作成された複数の学習用負例データペアを予め決められた複数の類似度範囲に分類することによって、複数の学習用負例データセットＡ２５を作成する（ステップＳ１５、ステップＳ１５１，Ｓ１５２）。つまり、複数の学習用負例データセットＡ１５の各々は、複数の負例データペアＡ１２のうちの１つ以上の負例データペアを含むデータのグループである。複数の類似度範囲に対応する複数の学習用負例データセットＡ１５は、学習用負例データ記憶部１６に格納される（ステップＳ１５３）。
【００６４】
学習データセット選択部２７及び学習処理部２８の動作は、実施の形態１における学習データセット選択部１７及び学習処理部１８と同様である。
【００６５】
《２−３》実施の形態２の効果．
以上に説明したように、実施の形態２に係る意味関係学習装置２、意味関係学習方法、又は意味関係学習プログラムを用いれば、良好な意味関係の判別を可能にする機械学習処理を行うことができる。
【００６６】
具体的に言えば、類似度を考慮した負例データペアＡ２４を事前に用意し、類似度が低い言語データから構成される学習用負例データペアの学習用負例データペアセットを用いる学習を最初に行い、次に、類似度が次に低い言語データから構成される学習用負例データペアの学習用負例データペアセットを用いる学習を行う。つまり、徐々に難易度が高い問題設定（すなわち、類似度が高い言語データから構成される負例データペアの学習用負例データペアセットを用いた問題設定）へ学習を進める。このようにすれば、良い解に早く収束するだけでなく、汎化性能を向上させることができる。
【符号の説明】
【００６７】
１，２  意味関係学習装置、  １１，２１  正例データ記憶部、  １２，２２  負例データ作成部、  １３，２３  特徴量抽出部、  １４，２４  類似度算出部、  １５，２５  学習用負例データ作成部、  １６，２６  学習用負例データ記憶部、  １７，２７  学習データセット選択部、  １８，２８  学習処理部。
【図１】
0006899973.tif 000002
【図２】
0006899973.tif 000003
【図３】
0006899973.tif 000004
【図４】
0006899973.tif 000005
【図５】
0006899973.tif 000006
【図６】
0006899973.tif 000007
【図７】
0006899973.tif 000008
【図８】
0006899973.tif 000009
【図９】
0006899973.tif 000010
【図１０】
0006899973.tif 000011
【図１１】
0006899973.tif 000012
【図１２】
0006899973.tif 000013
【図１３】
0006899973.tif 000014
【図１４】
0006899973.tif 000015
【図１５】
0006899973.tif 000016