(57)【要約】【課題】機械学習のための教師データに追加する用語の中から不適切な用語を省き、教師データに適合する用語を追加し、教師データの精度を向上させる機械学習装置及び方法を提供すること。【解決手段】本発明に係る機械学習装置１０は、教師データＤＢ３１と、ＮＥ辞書ＤＢ４１とを備え、教師データＤＢ３１から教師データを取得し、取得した教師データとともに出現する用語との組合せを取得し、取得した組合せにおいて、教師データの出現部分を任意の置き換え可能な用語が入るとみなしたパターンとして抽出し、抽出したパターンの置き換え可能な部分に入る用語であるパターン対応用語を、コーパスの中から取得する。そして、取得した、パターン対応用語がＮＥ辞書ＤＢ４１に基づいて固有の表現に適合するか否かを判定し、判定に基づいて適合するパターン対応用語を取得し、取得した適合するパターン対応用語を教師データＤＢ３１に追加する。【選択図】図１
2010198189.tif 000002
【特許請求の範囲】
【請求項１】
予め与えられたカテゴリごとの教師データに基づいてコンピュータが学習する機械学習装置であって、
前記教師データを記憶する教師データ記憶手段と、
予め記憶されている前記教師データのカテゴリと一致したカテゴリのテキストを形態素解析する形態素解析手段と、
前記形態素解析した形態素の素性を抽出する素性抽出手段と、
抽出した前記素性の中で特定の素性を有する形態素の前及び後の形態素の情報である前後情報を抽出する前後情報抽出手段と、
前記抽出した前後情報に基づいて固有の表現を取得する固有表現取得手段と、
前記取得した固有の表現を固有表現記憶手段に記憶する固有表現記憶処理手段と、
を有し、
前記教師データ記憶手段から教師データを取得する教師データ取得手段と、
取得した前記教師データとともに出現する用語との組合せを取得する組合せ取得手段と、
取得した前記組合せにおいて、前記教師データの出現部分を任意の置き換え可能な用語が入るとみなしたパターンとして抽出するパターン抽出手段と、
抽出した前記パターンの前記置き換え可能な部分に入る用語であるパターン対応用語を、コーパスの中から取得するパターン対応用語取得手段と、
取得した、前記パターン対応用語が前記固有表現記憶手段に基づいて前記固有の表現に適合するか否かを判定するパターン対応用語判定手段と、
前記判定に基づいて適合するパターン対応用語を取得し、取得した前記適合するパターン対応用語を教師データとして前記教師データ記憶手段に追加する教師データ追加手段と、
を備えることを特徴とする機械学習装置。
【請求項２】
前記コーパスは、検索クエリを記憶した検索ログであることを特徴とする請求項１に記載の機械学習装置。
【請求項３】
予め与えられたカテゴリごとの教師データを記憶する教師データ記憶手段に基づいてコンピュータが学習する機械学習方法であって、
予め記憶されている前記教師データのカテゴリと一致したカテゴリのテキストを形態素解析するステップと、
前記形態素解析した形態素の素性を抽出するステップと、
抽出した前記素性の中で特定の素性を有する形態素の前及び後の形態素の情報である前後情報を抽出するステップと、
前記抽出した前後情報に基づいて固有の表現を取得するステップと、
前記取得した固有の表現を固有表現記憶手段に記憶するステップと、を有し、
前記教師データ記憶手段から教師データを取得するステップと、
取得した前記教師データとともに出現する用語との組合せを取得するステップと、
取得した前記組合せにおいて、前記教師データの出現部分を任意の置き換え可能な用語が入るとみなしたパターンとして抽出するステップと、
抽出した前記パターンの前記置き換え可能な部分に入る用語であるパターン対応用語を、コーパスの中から取得するステップと、
取得した、前記パターン対応用語が前記固有表現記憶手段に基づいて前記固有の表現に適合するか否かを判定するステップと、
前記判定に基づいて適合するパターン対応用語を取得し、取得した前記適合するパターン対応用語を教師データとして前記教師データ記憶手段に追加するステップと、
を備えることを特徴とする機械学習方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、機械学習装置及び方法に関する。特に、機械学習の教師データを追加する機械学習装置及び方法に関する。
【背景技術】
【０００２】
従来、コンピュータがサンプルデータに基づいて有用な規則等を抽出する機械学習では、有用な規則を抽出するために大量のサンプルデータが必要であり、この大量のサンプルデータである学習データを作成するには膨大な人手が必要である。この膨大な人手を解消するための手法として、ブートストラップ手法がある。
【０００３】
ブートストラップ手法は、少量の初期学習データを基にした規則に適合するデータを抽出し、学習データに追加することにより大量の学習データを作成する。このブートストラップ手法では、不適切なデータであっても学習データを基にした規則に適合すると学習データに追加するので、不適切なデータを含む学習データを基にした規則に適合するデータを抽出してしまうことになり、作成した大量の学習データには大量の不適切なデータを含むことになってしまっていた。このようなブートストラップ手法において、学習データを追加する際に不適切なデータを除去するようにした特許文献１の発明が知られている。
【０００４】
特許文献１に記載された発明は、ブートストラップ手法の学習データ成長の過程において、評価予測が誤っているデータが学習データに組み込まれることを回避するため、学習データを複数のサブ学習データに分割し、不適切なデータを含まない学習データに基づく機械学習を行なう機会を得る。そして、得られた複数の学習結果に基づく評価予測を用いて総合的な評価予測を行ない、データを学習データに組み込む。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２００５−９２２５３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、特許文献１のように、学習データを複数のサブ学習データに分割したとしても、不適切なデータを全く含まない学習データに基づく機械学習を行なう機会が得られるわけではないので、総合的な評価予測によっては誤っているデータが学習データに組み込まれることがある。このように、評価が誤っているデータが学習データに組み込まれるような機械学習が積み重なると、サブ学習データに分割したとしても、不適切なデータを含まない学習データに基づく機械学習を行なう機会は少なくなるので、最終的に得られる学習データの信頼性は低いものになりかねない。
【０００７】
そこで、機械学習のための教師データに追加する用語の中から不適切な用語を省く機械学習装置が望まれている。
【０００８】
本発明は、機械学習のための教師データに追加する用語の中から不適切な用語を省き、教師データに適合する用語を追加し、教師データの精度を向上させる機械学習装置及び方法を提供することを目的とする。
【課題を解決するための手段】
【０００９】
本発明では、以下のような解決手段を提供する。
【００１０】
（１）  予め与えられたカテゴリごとの教師データに基づいてコンピュータが学習する機械学習装置であって、前記教師データを記憶する教師データ記憶手段と、予め記憶されている前記教師データのカテゴリと一致したカテゴリのテキストを形態素解析する形態素解析手段と、前記形態素解析した形態素の素性を抽出する素性抽出手段と、抽出した前記素性の中で特定の素性を有する形態素の前及び後の形態素の情報である前後情報を抽出する前後情報抽出手段と、前記抽出した前後情報に基づいて固有の表現を取得する固有表現取得手段と、前記取得した固有の表現を固有表現記憶手段に記憶する固有表現記憶処理手段と、を有し、前記教師データ記憶手段から教師データを取得する教師データ取得手段と、取得した前記教師データとともに出現する用語との組合せを取得する組合せ取得手段と、取得した前記組合せにおいて、前記教師データの出現部分を任意の置き換え可能な用語が入るとみなしたパターンとして抽出するパターン抽出手段と、抽出した前記パターンの前記置き換え可能な部分に入る用語であるパターン対応用語を、コーパスの中から取得するパターン対応用語取得手段と、取得した、前記パターン対応用語が前記固有表現記憶手段に基づいて前記固有の表現に適合するか否かを判定するパターン対応用語判定手段と、前記判定に基づいて適合するパターン対応用語を取得し、取得した前記適合するパターン対応用語を教師データとして前記教師データ記憶手段に追加する教師データ追加手段と、を備えることを特徴とする機械学習装置。
【００１１】
（１）の構成によれば、本発明に係る機械学習装置は、予め与えられたカテゴリごとの教師データに基づいてコンピュータが学習する機械学習装置であって、教師データを記憶する教師データ記憶手段と、予め記憶されている教師データのカテゴリと一致したカテゴリのテキストを形態素解析し、形態素解析した形態素の素性を抽出し、抽出した素性の中で特定の素性を有する形態素の前及び後の形態素の情報である前後情報を抽出し、抽出した前後情報に基づいて固有の表現を取得し、取得した固有の表現を固有表現記憶手段に記憶する。そして、教師データ記憶手段から教師データ（例えば、○○）を取得し、取得した教師データとともに出現する用語との組合せ（例えば、「○○  口座」、「○○  支店」・・・）を取得し、取得した組合せにおいて、教師データの出現部分を任意の置き換え可能な用語が入るとみなしたパターン（例えば、「＃  口座」、「＃  支店」。ここで、＃は任意の置き換え可能な用語が出現する箇所を示す）として抽出し、抽出したパターンの置き換え可能な部分に入る用語であるパターン対応用語を、コーパスの中から取得する（例えば、「××  口座」、「東京  支店」からなるコーパスを取得した場合、抽出したパターンに対応する置き換え可能な部分に入る用語は、××及び東京となる）。そして、取得した、パターン対応用語（例えば、××、東京）が固有表現記憶手段に基づいて機械学習すべき固有の表現に適合するか否かを判定し、判定に基づいて適合するパターン対応用語（例えば、××）を取得し、取得した適合するパターン対応用語（例えば、××）を教師データとして教師データ記憶手段に追加する。
【００１２】
すなわち、本発明に係る機械学習装置は、コーパスの中から、教師データとともに出現するパターンのパターン対応用語を取得し、取得したパターン対応用語が固有表現記憶手段に基づいて機械学習すべき固有の表現に適合するか否かを判定し、適合するパターン対応用語を教師データ記憶手段に追加し、適合しないパターン対応用語は教師データ記憶手段に追加しない。したがって、本発明に係る機械学習装置は、機械学習のための教師データに追加する用語の中から不適切な用語を省き、教師データに適合する用語を追加し、教師データの精度を向上させることができる。
【００１３】
（２）  前記コーパスは、検索クエリを記憶した検索ログであることを特徴とする（１）に記載の機械学習装置。
【００１４】
（２）の構成によれば、（１）に記載の機械学習装置が取得するコーパスは、検索クエリを記憶した検索ログである。一般的に、例えばＷｅｂ検索の検索ログは、検索サイトにおいて一般ユーザが検索したい事柄を検索窓に入力したものであるが、検索結果を絞るために、複数の検索クエリ（検索キーワード）をスペースを用いて入力することが多い。よって、検索ログは、適切に単語単位で区切られており単語を抽出しやすく扱いやすい。このような検索クエリを記憶した検索ログの中から、機械学習装置は、教師データとともに出現するパターンを抽出し、抽出したパターンのパターン対応用語を取得する。したがって、本発明に係る機械学習装置は、機械学習のための教師データに追加する用語を適切なコーパスから取得するので、不適切な用語を省き、教師データに適合する用語を追加し、教師データの精度を向上させることができる。
【００１５】
（３）  予め与えられたカテゴリごとの教師データを記憶する教師データ記憶手段に基づいてコンピュータが学習する機械学習方法であって、予め記憶されている前記教師データのカテゴリと一致したカテゴリのテキストを形態素解析するステップと、前記形態素解析した形態素の素性を抽出するステップと、抽出した前記素性の中で特定の素性を有する形態素の前及び後の形態素の情報である前後情報を抽出するステップと、前記抽出した前後情報に基づいて固有の表現を取得するステップと、前記取得した固有の表現を固有表現記憶手段に記憶するステップと、を有し、前記教師データ記憶手段から教師データを取得するステップと、取得した前記教師データとともに出現する用語との組合せを取得するステップと、取得した前記組合せにおいて、前記教師データの出現部分を任意の置き換え可能な用語が入るとみなしたパターンとして抽出するステップと、抽出した前記パターンの前記置き換え可能な部分に入る用語であるパターン対応用語を、コーパスの中から取得するステップと、取得した、前記パターン対応用語が前記固有表現記憶手段に基づいて前記固有の表現に適合するか否かを判定するステップと、前記判定に基づいて適合するパターン対応用語を取得し、取得した前記適合するパターン対応用語を教師データとして前記教師データ記憶手段に追加するステップと、を備えることを特徴とする機械学習方法。
【００１６】
（３）の構成によれば、本発明に係る機械学習方法は、予め与えられたカテゴリごとの教師データを記憶する教師データ記憶手段に基づいてコンピュータが、予め記憶されている教師データのカテゴリと一致したカテゴリのテキストを形態素解析し、形態素解析した形態素の素性を抽出し、抽出した素性の中で特定の素性を有する形態素の前及び後の形態素の情報である前後情報を抽出し、抽出した前後情報に基づいて固有の表現を取得し、取得した固有の表現を固有表現記憶手段に記憶する。そして、教師データ記憶手段から教師データ（例えば、○○）を取得し、取得した教師データとともに出現する用語との組合せ（例えば、「○○  口座」、「○○  支店」・・・）を取得し、取得した組合せにおいて、教師データの出現部分を任意の置き換え可能な用語が入るとみなしたパターン（例えば、「＃  口座」、「＃  支店」。ここで、＃は任意の置き換え可能な用語が出現する箇所を示す）として抽出し、抽出したパターンの置き換え可能な部分に入る用語であるパターン対応用語を、コーパスの中から取得する（例えば、「××  口座」、「東京  支店」からなるコーパスを取得した場合、抽出したパターンに対応する置き換え可能な部分に入る用語は、××及び東京となる）。そして、取得した、パターン対応用語（例えば、××、東京）が固有表現記憶手段に基づいて機械学習すべき固有の表現に適合するか否かを判定し、判定に基づいて適合するパターン対応用語（例えば、××）を取得し、取得した適合するパターン対応用語（例えば、××）を教師データとして教師データ記憶手段に追加する。したがって、本発明に係る機械学習方法は、機械学習のための教師データに追加する用語の中から不適切な用語を省き、教師データに適合する用語を追加し、教師データの精度を向上させることができる。
【発明の効果】
【００１７】
本発明によれば、機械学習のための教師データに追加する用語の中から不適切な用語を省き、教師データに適合する用語を追加し、教師データの精度を向上させることができる。
【図面の簡単な説明】
【００１８】
【図１】本発明の一実施形態に係る機械学習装置１０の機能を示す機能ブロック図である。
【図２】本発明の一実施形態に係る機械学習装置１０のハードウェア構成の一例を示す図である。
【図３】本発明の一実施形態に係るコーパスＤＢ３２を示す図である。
【図４】本発明の一実施形態に係るパターンＤＢ３３を示す図である。
【図５】本発明の一実施形態に係るＮＥ辞書ＤＢ４１を示す図である。
【図６】本発明の一実施形態に係る機械学習装置１０の処理内容を示すフローチャートである。
【図７】本発明の一実施形態に係る機械学習装置１０のＮＥ辞書作成処理を示すフローチャートである。
【図８】本発明の一実施形態に係る教師データＤＢ３１を示す図である。
【発明を実施するための形態】
【００１９】
以下、本発明の実施形態について図を参照しながら説明する。
【００２０】
図１は、本発明の一実施形態に係る機械学習装置１０の機能を示す機能ブロック図である。本発明の一実施形態に係る機械学習装置１０は、教師データ記憶手段として教師データＤＢ３１と、固有表現記憶手段としてＮＥ（Ｎａｍｅｄ  Ｅｎｔｉｔｙ）辞書ＤＢ４１と、教師データ取得手段として教師データ取得部１１と、組合せ取得手段として組合せ取得部１２と、パターン抽出手段としてパターン抽出部１３と、パターン対応用語取得手段としてパターン対応用語取得部１４と、パターン対応用語判定手段としてパターン対応用語判定部１５と、教師データ追加手段として教師データ追加部１６と、を備えている。更に、パターンを記憶するパターンＤＢ３３と、ＮＥ辞書ＤＢ４１に固有の表現を記憶するための、形態素解析手段として形態素解析部２１と、素性抽出手段として素性抽出部２２と、前後情報抽出手段として前後情報抽出部２３と、固有表現取得手段として固有表現取得部２４と、固有表現記憶処理手段として固有表現記憶処理部２５と、を備えている。
【００２１】
教師データＤＢ３１は、カテゴリごとの教師データを記憶する。教師データの初期値は、正解事例データである。例えば、教師データが金融カテゴリの固有表現を記憶する場合には、初期値は、金融カテゴリの固有表現の正解事例データとして、周知の銀行名を「○○」とした場合の「○○」が記憶されている。
【００２２】
ＮＥ辞書ＤＢ４１は、教師データのカテゴリと一致したカテゴリのテキストを形態素解析し、解析した形態素の素性を抽出し、抽出した素性に関する情報とともに、抽出した素性の中で特定の素性を有する形態素の前及び後の形態素の情報に基づいて取得した固有の表現を記憶する。抽出した素性に関する情報には、形態素解析で与えられる表記及び品詞タグと、素性である文字種（平仮名、片仮名、漢字、英字、大文字、小文字、文字数等）、表記先頭一文字、表記末尾一文字、デフォルトタグ（正解コーパス中でカウントしてみて、多数派のタグ）等がある。特定の素性を有する形態素には、例えば、名詞や大文字等である。前及び後の形態素の情報は、特定の素性を有する形態素とともに共起する形態素や、特定の素性を有する形態素の直前及び直後の形態素等である。固有の表現には、例えば、人名、地名、組織名等の固有名詞的表現、日付や時間等の時間表現、及び金額や割合等の数値表現等がある。ＮＥ辞書ＤＢ４１は、カテゴリごとに固有の表現（例えば、カテゴリが金融における、○○、××等、ここで××も周知の銀行名とする）を対応付けて記憶する。また、カテゴリにおける固有の表現が有する、抽出した素性に関する情報と、前及び後の形態素の情報とを固有の表現に対応付けて記憶している。そして、抽出した素性に関する情報と、前及び後の形態素の情報とに基づいて求められた固有の表現のタイプ（例えば、固有、曖昧な表現、頻出する表現等）を記憶している。
【００２３】
教師データ取得部１１は、教師データＤＢ３１から教師データ（例えば、○○）を取得する。
【００２４】
組合せ取得部１２は、取得した教師データ（例えば、○○）とともに出現する用語との組合せを取得する。例えば、「○○」とともに出現する「○○  口座」、「○○  支店」等の組合せを取得する。
【００２５】
パターン抽出部１３は、取得した組合せにおいて、教師データの出現部分を任意の置き換え可能な用語が入るとみなしたパターンとして抽出する。例えば、「○○  口座」、「○○  支店」等の組合せにおいて、教師データ（例えば、○○）の出現部分を任意の置き換え可能な用語が入るとみなしたパターン（例えば、「＃  口座」、「＃  支店」等）として抽出する。パターンＤＢ３３は、抽出されたパターンを記憶する。コーパスが検索ログの場合において、パターン抽出部１３は、検索ログの中から、教師データの文字列以外の全文字列をパターンとして抽出する。
【００２６】
パターン対応用語取得部１４は、抽出したパターンの置き換え可能な部分に入る用語であるパターン対応用語を、コーパスの中から取得する。抽出したパターン（例えば、「＃  口座」、「＃  支店」）の＃に対応するパターン対応用語（例えば、××、東京）を、コーパスの中から取得する。コーパスは、例えば、Ｗｅｂデータや、検索ログ等から構成されるコーパスＤＢ３２から取得することができる。特に検索ログは、ユーザが単語分割を指定しており、単語を抽出しやすく扱いやすい。
【００２７】
パターン対応用語判定部１５は、取得したパターン対応用語（例えば、××、東京）がＮＥ辞書ＤＢ４１に基づいて固有の表現に適合するか否かを判定する。取得したパターン対応用語が、固有の表現に適合するか否かの判定は、取得したパターン対応用語が、ＮＥ辞書ＤＢ４１に固有の表現として記憶されており、取得すべきカテゴリと一致している場合に、適合すると判定する。また、取得したパターン対応用語が、ＮＥ辞書ＤＢ４１に固有の表現として記憶されていない場合であっても、取得したパターン対応用語及びパターンの出現する頻度が所定の閾値以上である場合に適合すると判定する。具体的には、取得したパターン対応用語が「東京」の場合に、「東京」がＮＥ辞書ＤＢ４１に記憶されているが、取得すべきカテゴリと一致しないような表現であると記憶されている場合には、「東京」は固有の表現に適合しないと判定する。一方、取得したパターン対応用語「××」が、取得すべきカテゴリと一致していると記憶されている場合には、固有の表現に適合すると判定する。また、取得したパターン対応用語が、本来取得すべきパターン対応用語であったとしても、珍しい表現である場合（この例の場合では、例えば他国の銀行名）、固有の表現としてＮＥ辞書に記憶されていない可能性があるが、この場合であっても機械学習を繰り返し行ない、出現頻度が所定の閾値以上である場合に適合すると判定する。
【００２８】
教師データ追加部１６は、判定に基づいて適合するパターン対応用語（例えば、××）を取得し、取得した適合するパターン対応用語（例えば、××）を教師データＤＢ３１に追加する。
【００２９】
形態素解析部２１は、教師データのカテゴリと一致したカテゴリのテキスト（例えば、Ｗｅｂ文書等）を形態素解析し、素性抽出部２２は、形態素解析部２１が形態素解析した形態素の素性を抽出する。そして、前後情報抽出部２３は、素性抽出部２２が抽出した素性の中で特定の素性を有する形態素の前及び後の形態素の情報である前後情報を抽出し、固有表現取得部２４が前後情報に基づいて固有の表現を取得し、固有表現記憶処理部２５が取得した固有の表現をＮＥ辞書ＤＢ４１に記憶する。
【００３０】
ここで、形態素（ｍｏｒｐｈｅｍｅ）とは、意味を持つ最小の言語単位のことで、自然言語で書かれた文章を分割する際に利用される言語単位である。例えば、「今日はいい天気です」は、「今日／は／いい／天気／です」の形態素に分割される。形態素を特徴づける素性としては、品詞、語形等の他に、例えば、文字種、文字、デフォルトタグ、付加情報、細分類情報等、がある。
【００３１】
ＮＥ辞書ＤＢ４１の記憶において、素性を表す文字列と識別子ＩＤとの対応表である素性マップに基づいて、抽出した素性に関する情報をコード化し、文字列で書かれた素性の表現を数値化して記憶してもよい。例えば、普通名詞：５３、助詞：５４等という素性マップに基づいて、固有の表現「○○」について抽出した素性に関する情報（例えば、普通名詞、漢字等）をコード化し、「○○」の素性「５３：１、５４：０」の様に数値化する。ここで、意味ありを１、意味なしを０で数値化している。このように、数値化することによってコンピュータによる迅速な処理が可能である。
【００３２】
図２は、本発明の一実施形態に係る機械学習装置１０のハードウェア構成の一例を示す図である。機械学習装置１０は、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）１０１０（マルチプロセッサ構成ではＣＰＵ１０１２等複数のＣＰＵが追加されてもよい）、バスライン１００５、通信Ｉ／Ｆ１０４０、メインメモリ１０５０、ＢＩＯＳ（Ｂａｓｉｃ  Ｉｎｐｕｔ  Ｏｕｔｐｕｔ  Ｓｙｓｔｅｍ）１０６０、ＵＳＢポート１０９０、Ｉ／Ｏコントローラ１０７０、並びにキーボード及びマウス１１００等の入力手段や表示装置１０２２を備える。
【００３３】
ＣＰＵ１０１０は、機械学習装置１０を統括的に制御し、ハードディスク１０７４に記憶された各種プログラムを適宜読み出して実行することにより、上述したハードウェアと協働し、本発明に係る各種機能を実現している。
【００３４】
Ｉ／Ｏコントローラ１０７０には、テープドライブ１０７２、ハードディスク１０７４、光ディスクドライブ１０７６、半導体メモリ１０７８、等の記憶手段を接続することができる。
【００３５】
ＢＩＯＳ１０６０は、機械学習装置１０の起動時にＣＰＵ１０１０が実行するブートプログラムや、機械学習装置１０のハードウェアに依存するプログラム等を格納する。
【００３６】
ハードディスク１０７４は、機械学習装置１０が本発明の機能を実行するためのプログラムを記憶しており、更に、教師データＤＢ３１、パターンＤＢ３３、ＮＥ辞書ＤＢ４１等の各種データベースを構成可能である。
【００３７】
光ディスクドライブ１０７６としては、例えば、ＤＶＤ−ＲＯＭドライブ、ＣＤ−ＲＯＭドライブ、ＤＶＤ−ＲＡＭドライブ、ＣＤ−ＲＡＭドライブを使用することができる。この場合は各ドライブに対応した光ディスク１０７７を使用する。光ディスク１０７７から光ディスクドライブ１０７６によりプログラム又はデータを読み取り、Ｉ／Ｏコントローラ１０７０を介してメインメモリ１０５０又はハードディスク１０７４に提供することもできる。また、同様にテープドライブ１０７２に対応したテープメディア１０７１を主としてバックアップのために使用することもできる。
【００３８】
機械学習装置１０に提供されるプログラムは、ハードディスク１０７４、光ディスク１０７７、又はメモリカード等の記録媒体に格納されて提供される。このプログラムは、Ｉ／Ｏコントローラ１０７０を介して、記録媒体から読み出され、又は通信Ｉ／Ｆ１０４０を介してダウンロードされることによって、機械学習装置１０にインストールされ実行されてもよい。
【００３９】
前述のプログラムは、内部又は外部の記憶媒体に格納されてもよい。ここで、記憶媒体としては、ハードディスク１０７４、光ディスク１０７７、又はメモリカードの他に、ＭＤ等の光磁気記録媒体、テープ媒体を用いることができる。また、専用通信回線やインターネットに接続されたサーバシステムに設けたハードディスク又は光ディスクライブラリ等の記憶装置を記録媒体として使用し、通信回線を介してプログラムを機械学習装置１０に提供してもよい。
【００４０】
ここで、表示装置１０２２は、機械学習装置１０による演算処理結果の画面を表示したりするものであり、ブラウン管表示装置（ＣＲＴ）、液晶表示装置（ＬＣＤ）等のディスプレイ装置を含む。
【００４１】
また、通信Ｉ／Ｆ１０４０は、機械学習装置１０を専用ネットワーク又は公共ネットワークを介してコーパスＤＢ３２等と接続できるようにするためのネットワーク・アダプタである。通信Ｉ／Ｆ１０４０は、モデム、ケーブル・モデム及びイーサネット（登録商標）・アダプタを含んでよい。
【００４２】
図３は、本発明の一実施形態に係るコーパスＤＢ３２を示す図である。
【００４３】
コーパスＤＢ３２は、検索ログを記憶している。検索ログは、ユーザが情報を検索するときに入力した検索クエリを記憶している。例えば、ユーザが、○○銀行の支店の場所を検索する場合に、入力した「○○  支店」を記憶している。
【００４４】
図４は、本発明の一実施形態に係るパターンＤＢ３３を示す図である。
【００４５】
パターンＤＢ３３は、パターンを記憶している。パターンは、教師データとともに出現するパターンである。コーパス（例えば、「○○  口座」、「○○  支店」等を含む検索ログ）の中からパターン抽出部１３が抽出した、教師データ（例えば、○○）とともに出現するパターン（例えば、「＃  口座」、「＃  支店」）を記憶する。ここで＃は、パターン対応用語が出現する位置を表す。なお、パターンＤＢ３３は、パターンとともにパターン対応用語や頻度も記憶していてもよく、パターン対応用語は、パターンに対応する取得した用語であり、頻度は、パターンとともに出現するパターン対応用語の出現回数である。
【００４６】
図５は、本発明の一実施形態に係るＮＥ辞書ＤＢ４１を示す図である。
【００４７】
ＮＥ辞書ＤＢ４１は、教師データのカテゴリと一致したカテゴリのテキストから抽出された固有の表現が記憶されており、テキスト中に出現する頻度や、抽出された固有の表現の素性が、対応付けて記憶されている。図５の例は、「○○」が金融カテゴリのテキストに頻度が８６９で出現する固有の表現であり素性が固有名詞、漢字、組織名、・・・、「××」が金融カテゴリのテキストに頻度が７８３で出現する固有の表現であり素性が固有名詞、英字、大文字、組織名、・・・、であることを示している。そして、「東京」は、金融カテゴリのテキストに頻度が３００で出現する固有の表現であり素性が固有名詞、漢字、場所を示す表現、・・・、であることを示している。また、これらの情報以外に、口座という固有の表現とともに出現する固有の表現は金融機関を表す固有の表現（の可能性が高い）であることや、支店という固有の表現とともに出現する固有の表現は場所を表す固有の表現（の可能性が高い）であるといった、固有の表現間の共起度を記録していてもよい。
【００４８】
図６は、本発明の一実施形態に係る機械学習装置１０の処理内容を示すフローチャートである。なお、本処理は、プログラム開始指令を受けて処理を開始し、プログラム終了指令を受けて処理を終了する。
【００４９】
ステップＳ１０１において、ＣＰＵ１０１０は、教師データＤＢ３１から教師データを取得する。その後、ＣＰＵ１０１０は、処理をステップＳ１０２に移す。
【００５０】
ステップＳ１０２において、ＣＰＵ１０１０は、コーパスを取得する。より具体的には、ＣＰＵ１０１０は、教師データのカテゴリと同一のカテゴリのコーパスをコーパスＤＢ３２から取得する。その後、ＣＰＵ１０１０は、処理をステップＳ１０３に移す。
【００５１】
ステップＳ１０３において、ＣＰＵ１０１０は、取得したコーパスの中からパターンを抽出する。より具体的には、ＣＰＵ１０１０は、取得したコーパスの中を、教師データで検索し、教師データとともに出現する用語との組合せを取得し、取得した組合せにおいて、教師データの出現部分を任意の置き換え可能な用語が入るとみなしたパターンとして抽出する。その後、ＣＰＵ１０１０は、処理をステップＳ１０４に移す。
【００５２】
ステップＳ１０４において、ＣＰＵ１０１０は、パターン対応用語を取得する。より具体的には、ＣＰＵ１０１０は、抽出したパターンに基づいて、更にコーパスＤＢ３２を検索し、抽出したパターンの置き換え可能な部分に入る用語であるパターン対応用語を取得する。その後、ＣＰＵ１０１０は、処理をステップＳ１０５に移す。
【００５３】
ステップＳ１０５において、ＣＰＵ１０１０は、取得したパターン対応用語がＮＥ辞書ＤＢ４１に記憶されているか否かを判断する。より具体的には、ＣＰＵ１０１０は、取得したパターン対応用語でＮＥ辞書ＤＢ４１を検索し、記憶されているか否かを判断する。この判断がＹＥＳの場合は処理をステップＳ１０６に移し、ＮＯの場合は処理をステップＳ１０８に移す。
【００５４】
ステップＳ１０６において、ＣＰＵ１０１０は、ＮＥ辞書ＤＢ４１において、検索した固有の表現に対応付けられた頻度や、取得したパターン対応用語に対応するパターンの共起度から、当該パターン対応用語が取得すべき固有の表現かを判断する。この判断がＹＥＳの場合は処理をステップＳ１０７に移し、ＮＯの場合は処理を終了する。なお、判断において具体的に説明すると、例えば「××」は金融カテゴリのテキストに頻度が７８３で出現しており頻度が高く、更に「＃  口座」のパターンから取得されたパターン対応用語であるため、共起度の観点からも口座という固有の表現とともに出現したため金融機関である可能性が高く、金融カテゴリに属する用語であると判断する。対して「東京」は頻度が３００で低く、「＃  支店」のパターンから取得されたパターン対応用語であるため、共起度の観点からも支店という固有の表現とともに出現したため場所を表す固有の表現である可能性が高く、取得すべき用語ではないと判断する。なお、どの程度の頻度、共起度であれば適合しているかといった評価はこれに限定されることなく、適宜設定すればよい。
【００５５】
ステップＳ１０７において、ＣＰＵ１０１０は、取得したパターン対応用語を適合する用語として教師データＤＢ３１に追加する。
【００５６】
ステップＳ１０８において、ＣＰＵ１０１０は、パターンＤＢ３３において、取得したパターン対応用語がパターンとともに出現する頻度が所定回数以上であるか否かを判断する。この判断がＹＥＳの場合は処理をステップＳ１０７に移し、ＮＯの場合は処理を終了する。
【００５７】
図７は、本発明の一実施形態に係る機械学習装置１０のＮＥ辞書作成処理を示すフローチャートである。なお、本処理は、プログラム開始指令を受けて処理を開始し、プログラム終了指令を受けて処理を終了する。
【００５８】
ステップＳ２０１において、ＣＰＵ１０１０は、教師データのカテゴリと一致したカテゴリのテキスト（例えば、Ｗｅｂ文書）について、形態素解析をする。その後、ＣＰＵ１０１０は、処理をステップＳ２０２に移す。
【００５９】
ステップＳ２０２において、ＣＰＵ１０１０は、形態素解析した形態素の素性を抽出する。その後、ＣＰＵ１０１０は、処理をステップＳ２０３に移す。
【００６０】
ステップＳ２０３において、ＣＰＵ１０１０は、前後情報を抽出する。より具体的には、ＣＰＵ１０１０は、形態素の素性の中で特定の素性を有する形態素の前及び後に出現する形態素の情報を抽出する。また、このときに合わせて形態素の出現頻度もカウントしておく。その後、ＣＰＵ１０１０は、処理をステップＳ２０４に移す。
【００６１】
ステップＳ２０４において、ＣＰＵ１０１０は、前後情報に基づいて固有の表現を取得する。その後、ＣＰＵ１０１０は、処理をステップＳ２０５に移す。
【００６２】
ステップＳ２０５において、ＣＰＵ１０１０は、取得した固有の表現をＮＥ辞書ＤＢ４１に記憶する。ＮＥ辞書ＤＢ４１には、固有の表現の出現頻度や素性を記憶する。その後、ＣＰＵ１０１０は、処理を終了する。
【００６３】
図８は、本発明の一実施形態に係る教師データＤＢ３１を示す図である。
【００６４】
教師データＤＢ３１は、カテゴリごとに、教師データを記憶している。例えば、図８の例は、教師データＤＢ３１のカテゴリが「金融」に、予め、教師データとして属性が銀行名である「○○」が記憶されている。機械学習装置１０は、教師データ「○○」に基づいてコーパスＤＢ３２から「＃  口座」及び「＃  支店」のパターンを抽出し、抽出した「＃  口座」及び「＃  支店」のパターンでコーパスＤＢ３２を検索し、パターンのパターン対応用語「××」及び「東京」を取得する。そして、機械学習装置１０は、ＮＥ辞書ＤＢ４１に基づいて、取得した「××」及び「東京」が固有の表現に適合するか否かを、素性や共起度を参照して判定し、適合しない不適切な「東京」を省き、適合する「××」を教師データＤＢ３１に追加する。図８の例は、「××」を追加し、教師データである「○○」の属性を「××」に付し、新たな教師データとして銀行名「××」を追加したことを示している。
【００６５】
実施例によれば、本発明に係る機械学習装置１０は、教師データを記憶する教師データＤＢ３１と、予め記憶されている教師データのカテゴリと一致したカテゴリのテキストを形態素解析し、形態素解析した形態素の素性を抽出し、抽出した素性の中で特定の素性を有する形態素の前及び後の形態素の情報である前後情報を抽出し、抽出した前後情報に基づいて固有の表現を取得し、取得した固有の表現をＮＥ辞書ＤＢ４１に記憶する。そして、教師データＤＢ３１から教師データ（例えば、○○）を取得し、取得した教師データとともに出現する用語との組合せ（例えば、「○○  口座」、「○○  支店」・・・）を取得し、取得した組合せにおいて、教師データの出現部分を任意の置き換え可能な用語が入るとみなしたパターン（例えば、「＃  口座」、「＃  支店」。ここで、＃は任意の置き換え可能な用語が出現する箇所を示す）として抽出し、抽出したパターンの置き換え可能な部分に入る用語であるパターン対応用語を、コーパスの中から取得する（例えば、「××  口座」、「東京  支店」からなるコーパスを取得した場合、抽出したパターンに対応する置き換え可能な部分に入る用語は、××及び東京となる）。そして、取得した、パターン対応用語（例えば、××、東京）がＮＥ辞書ＤＢ４１に基づいて機械学習すべき固有の表現に適合するか否かを判定し、判定に基づいて適合する用語（例えば、××）を取得し、取得した適合する用語（例えば、××）を教師データとして教師データ記憶手段に追加する。したがって、本発明に係る機械学習装置１０は、機械学習のための教師データに追加する用語の中から不適切な用語を省き、教師データに適合する用語を追加し、教師データの精度を向上させることができる。
【００６６】
更に、本発明に係る機械学習装置１０は、適切に単語単位で区切られている検索クエリを記憶したコーパスＤＢ３２の中から、教師データとともに出現するパターンを抽出し、抽出したパターンのパターン対応用語を取得する。したがって、本発明に係る機械学習装置１０は、機械学習のための教師データに追加する用語を適切なコーパスから取得するので、不適切な用語を省き、教師データに適合する用語を追加し、教師データの精度を向上させることができる。
【００６７】
以上、本発明の実施形態について説明したが、本発明は上述した実施形態に限るものではない。また、本発明の実施形態に記載された効果は、本発明から生じる最も好適な効果を列挙したに過ぎず、本発明による効果は、本発明の実施例に記載されたものに限定されるものではない。
【符号の説明】
【００６８】
１０    機械学習装置
１１    教師データ取得部
１２    組合せ取得部
１３    パターン抽出部
１４    パターン対応用語取得部
１５    パターン対応用語判定部
１６    教師データ追加部
２１    形態素解析部
２２    素性抽出部
２３    前後情報抽出部
２４    固有表現取得部
２５    固有表現記憶処理部
３１    教師データＤＢ
３２    コーパスＤＢ
３３    パターンＤＢ
４１    ＮＥ辞書ＤＢ
【図１】
2010198189.tif 000003
【図２】
2010198189.tif 000004
【図３】
2010198189.tif 000005
【図４】
2010198189.tif 000006
【図５】
2010198189.tif 000007
【図６】
2010198189.tif 000008
【図７】
2010198189.tif 000009
【図８】
2010198189.tif 000010