(57)【要約】  複数エージェントがネットワーク構造を共有し、各々の学習結果を改善することができる構造学習装置を提供する。  共有するネットワークからネットワーク構造を学習し、候補となるネットワーク構造を決定するネットワーク構造学習手段と、ネットワーク構造学習手段によって候補とされたネットワーク構造の混合パラメータをネットワーク構造レベルにて推定するネットワーク構造混合パラメータ推定手段と、ネットワーク構造学習手段によって候補とされたネットワーク構造の混合パラメータをエージェントレベルにて推定するエージェント混合パラメータ推定手段と、を備える。【特許請求の範囲】
【請求項１】
共有するネットワークからネットワーク構造を学習し、候補となるネットワーク構造を決定するネットワーク構造学習手段と、
前記ネットワーク構造学習手段によって候補とされた前記ネットワーク構造の混合パラメータをネットワーク構造レベルにて推定するネットワーク構造混合パラメータ推定手段と、
前記ネットワーク構造学習手段によって候補とされた前記ネットワーク構造の混合パラメータをエージェントレベルにて推定するエージェント混合パラメータ推定手段と、を備えることを特徴とする構造学習装置。
【請求項２】
前記ネットワーク構造学習手段にて候補として適合する前記ネットワーク構造が無かったと判断された場合に、新たなネットワーク構造を生成するネットワーク構造生成手段を備えることを特徴とする請求項１記載の構造学習装置。
【請求項３】
前記ネットワーク構造学習手段は、前記ネットワーク構造混合パラメータ推定手段、及び前記エージェント混合パラメータ推定手段による推定結果が収束するまで繰り返し学習することを特徴とする請求項１又は２記載の構造学習装置。
【請求項４】
請求項１から３のいずれか１項に記載の構造学習装置を複数備えることを特徴とする構造学習システム。
【請求項５】
共有するネットワークからネットワーク構造を学習し、候補となるネットワーク構造を決定するネットワーク構造学習ステップと、
前記ネットワーク構造学習ステップによって候補とされた前記ネットワーク構造の混合パラメータをネットワーク構造レベルにて推定するネットワーク構造混合パラメータ推定ステップと、
前記ネットワーク構造学習ステップによって候補とされた前記ネットワーク構造の混合パラメータをエージェントレベルにて推定するエージェント混合パラメータ推定ステップと、を備えることを特徴とする構造学習方法。
【請求項６】
前記ネットワーク構造学習ステップにて候補として適合する前記ネットワーク構造が無かったと判断された場合に、新たなネットワーク構造を生成するネットワーク構造生成ステップを備えることを特徴とする請求項５記載の構造学習方法。
【請求項７】
前記ネットワーク構造学習ステップは、前記ネットワーク構造混合パラメータ推定ステップ、及び前記エージェント混合パラメータ推定ステップによる推定結果が収束するまで繰り返し学習することを特徴とする請求項５又は６記載の構造学習方法。
【請求項８】
請求項５から７のいずれか１項に記載の構造学習方法をコンピュータに実行させるプログラム。
【請求項９】
請求項８に記載のプログラムを格納したコンピュータ読取可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、他のエージェントが持つネットワーク構造情報を共有して利用することで、自身が持つネットワーク構造学習結果を改良する構造学習装置、構造学習システム、構造学習方法、プログラム及び記録媒体に関する。
【背景技術】
【０００２】
ネットワーク構造学習システムの学習方法としては、例えば非特許文献１に記載されている。【０００３】
非特許文献１記載のネットワーク構造学習システムは、ネットワーク構造学習手段と、ネットワーク構造混合パラメータ推定手段とから構成されている。このような構成を有するネットワーク構造学習システムは、次のように動作する。【０００４】
すなわち、ネットワークの構造学習とネットワーク構造混合パラメータの推定を結果が収束するまでＥＭアルゴリズムと呼ばれる方法で計算を行う。
【先行技術文献】
【非特許文献】
【０００５】
【非特許文献１】Marina Meila, Michael I. Jordan, "Learning with Mixtures of Trees", Journal of Machine Learning Research, Vol 1, p.1-48(2000)
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、非特許文献１に記載の技術は、複数エージェントによるネットワーク構造の共有が考慮されていないため、複数エージェントがネットワーク構造を共有し、各々の学習結果を改善することができない。【０００７】
また、複数エージェントによるネットワーク構造の共有、及び複数エージェントの類似性が考慮されていないため、複数エージェントを類似したもの同士にクラスタリングすることができない。【０００８】
また、パラメトリックモデルを用いているため、モデルの混合数として有限の値をあらかじめ定める必要がある。【０００９】
そこで本発明は、上記問題点に鑑みてなされたもので、複数エージェントがネットワーク構造を共有し、各々の学習結果を改善することができる構造学習装置を提供することを目的とする。
【課題を解決するための手段】
【００１０】
上記課題を解決するため、本発明における構造学習装置は、共有するネットワークからネットワーク構造を学習し、候補となるネットワーク構造を決定するネットワーク構造学習手段と、ネットワーク構造学習手段によって候補とされたネットワーク構造の混合パラメータをネットワーク構造レベルにて推定するネットワーク構造混合パラメータ推定手段と、ネットワーク構造学習手段によって候補とされたネットワーク構造の混合パラメータをエージェントレベルにて推定するエージェント混合パラメータ推定手段と、を備えることを特徴とする。【００１１】
ネットワーク構造学習手段にて候補として適合するネットワーク構造が無かったと判断された場合に、新たなネットワーク構造を生成するネットワーク構造生成手段を備えることを特徴とする。【００１２】
ネットワーク構造学習手段は、ネットワーク構造混合パラメータ推定手段、及びエージェント混合パラメータ推定手段による推定結果が収束するまで繰り返し学習することを特徴とする。【００１３】
また、本発明における構造学習システムは、上記記載の構造学習装置を複数備えることを特徴とする。【００１４】
また、本発明における構造学習方法は、共有するネットワークからネットワーク構造を学習し、候補となるネットワーク構造を決定するネットワーク構造学習ステップと、ネットワーク構造学習ステップによって候補とされたネットワーク構造の混合パラメータをネットワーク構造レベルにて推定するネットワーク構造混合パラメータ推定ステップと、ネットワーク構造学習ステップによって候補とされたネットワーク構造の混合パラメータをエージェントレベルにて推定するエージェント混合パラメータ推定ステップと、を備えることを特徴とする。【００１５】
ネットワーク構造学習ステップにて候補として適合するネットワーク構造が無かったと判断された場合に、新たなネットワーク構造を生成するネットワーク構造生成ステップを備えることを特徴とする。【００１６】
ネットワーク構造学習ステップは、ネットワーク構造混合パラメータ推定ステップ、及びエージェント混合パラメータ推定ステップによる推定結果が収束するまで繰り返し学習することを特徴とする。【００１７】
また、本発明におけるプログラムは、上記記載の構造学習方法をコンピュータに実行させることを特徴とする。【００１８】
また、本発明における記録媒体は、上記記載のプログラムを格納したコンピュータ読取可能な記録媒体であることを特徴とする。
【発明の効果】
【００１９】
本発明により、複数エージェントによるネットワーク構造の共有を考慮したモデルを用いるため、複数エージェントがネットワーク構造を共有し、各々の学習結果を改善することができる。
【図面の簡単な説明】
【００２０】
【図１】本発明の実施形態に係る構成を示すハードウェア構成図である。
【図２】本発明の実施形態に係る構成を示すシステムブロック図である。
【図３】本発明の実施形態に係るフローチャート図である。
【図４】本発明の実施形態に係る動作の具体例を示す図である。
【発明を実施するための形態】
【００２１】
次に、発明を実施するための最良の形態について図面を参照して詳細に説明する。
【００２２】
図１は、本発明の実施形態におけるネットワーク構造学習装置のハードウェア構成図である。本装置は、操作部１と、ＣＰＵ２と、メモリ３と、ＲＯＭ４と、ネットワークインターフェース５と、を有して構成される。
【００２３】
ＣＰＵ２は、装置全体の制御を司り、ＲＯＭ４には、ＣＰＵ２が実行するプログラム、その他の固定データが格納されている。また、メモリ３は、ＣＰＵ２による演算の際等にデータの一時格納に用いられる。さらに、ネットワークインターフェース５により、ネットワークが実現され、操作部１にて情報の入出力を行うことが可能である。
【００２４】
図２は、本発明の実施形態におけるネットワーク構造学習装置のシステムブロック図である。本ネットワーク構造学習装置は、入力手段１１と、ネットワーク構造学習手段１２と、ネットワーク構造生成手段１３と、ネットワーク構造混合パラメータ推定手段１４と、エージェント混合パラメータ推定手段１５と、出力手段１６と、を有して構成される。
【００２５】
入力手段１１は、観測対象のデータを取り込み、ネットワーク構造学習手段１２では、観測データを生成するネットワーク構造を学習する。
【００２６】
また、ネットワーク構造生成手段１３は、ネットワーク構造学習手段１２で既存のネットワーク構造が観測値にうまく適合しない場合に新たなネットワーク構造を生成する。
【００２７】
ネットワーク構造混合パラメータ推定手段１４は、ネットワーク構造レベルの混合確率を推定し、エージェント混合パラメータ推定手段１５は、エージェントレベルの混合確率の推定を行う。
【００２８】
一方、出力手段１６は、学習したネットワーク構造、及びその混合確率における推定結果の出力を行う。
【００２９】
図３のフローチャートを参照して、本発明の実施形態における全体の動作について詳細に説明する。
【００３０】
まず、入力手段１１により観測対象のデータを取り込む（ステップＳ１）。次に、ネットワーク構造学習手段１２により観測データを生成するネットワーク構造として最も適合する構造を学習し（ステップＳ２）、今までに他エージェントも含め、学習して得られた構造でうまく適合するものがあるか否かを判断する（ステップＳ３）。
【００３１】
今までの学習で得られたネットワーク構造でうまく適合するものがない場合は、ネットワーク構造のベースとなる分布から新たに最も適合するネットワーク構造を生成する（ステップＳ４）。
【００３２】
適合するネットワーク構造があった場合や新たなネットワーク構造生成後、ネットワーク構造レベルにおいて該ネットワーク構造がどのような混合確率を持っているか計算し、混合確率の推定を行い（ステップＳ５）、推定結果が収束したか否かを判断する（ステップＳ６）。ここで、収束しない場合には、ステップＳ２に戻って学習しなおす。
【００３３】
一方、収束すれば、エージェントレベルにおいてエージェントがどのような混合確率を持っているかを計算し、混合確率の推定を行い（ステップＳ７）、推定結果が収束したか否かを判断する（ステップＳ８）。ここで、収束しない場合には、ステップＳ２に戻って学習しなおす。
【００３４】
学習・推定の結果が収束するまで繰り返し、最後に、ステップＳ２で学習したネットワーク構造、及びステップＳ５、Ｓ７で推定した混合確率の出力を行う（ステップＳ９）。
【００３５】
以下、図４を参照してより具体的に本発明を実施するための最良の形態の動作を説明する。
【００３６】
ある属性を表す頂点集合｛ｖ∈Ｖ｝と頂点間を結ぶ枝集合｛（ｕ，ｖ）∈Ｅ｝からなるネットワーク構造Ｇ＝（Ｖ，Ｅ）が与えられたとき、ネットワークの観測データｘの生成モデルを考える。
【００３７】
ある頂点対およびその間の枝(ｕ，ｖ)∈Ｅの挙動を表すパラメータ集合をθE＝｛θuv｝(u,v)∈Eとし、ネットワーク構造も含めてθT＝｛Ｅ，θE｝と定義すると、ネットワークの確率分布Ｔは
【００３８】
【数１】
2010035690.tif 000002
【００３９】
と表される。
【００４０】
次に、エージェントｊ,（ｊ＝１,...,Ｊ）が、エージェント間に共通の属性を表す頂点をそれぞれ持つ場合に、お互いのネットワーク構造に関する情報を共有する場合を考える。ｘji,（ｉ＝１,...,Ｎj）をエージェントｊ,（ｊ＝,...,Ｊ）からの観測値とする。ここでＮjはエージェントｊにおけるデータの観測数を表す。観測値はエージェント内において交換可能であるとし、確率分布ｘji〜Ｔ（・｜θT:ji）に従って生成される。ここでネットワーク構造とそのパラメータθT:jiはＧjから生成されるとし、すべての
【００４１】
【数２】
2010035690.tif 000003
【００４２】
は、次のような数学的表現で表される混合モデルを経由してリンクされている。
【００４３】
【数３】
2010035690.tif 000004
【００４４】
【数４】
2010035690.tif 000005
【００４５】
【数５】
2010035690.tif 000006
【００４６】
【数６】
2010035690.tif 000007
【００４７】
【数７】
2010035690.tif 000008
【００４８】
ここでδはDiracのデルタ関数である。混合確率πk，ωklは、
【００４９】
【数８】
2010035690.tif 000009
【００５０】
【数９】
2010035690.tif 000010
【００５１】
【数１０】
2010035690.tif 000011
【００５２】
【数１１】
2010035690.tif 000012
【００５３】
に従う。これはDirichlet  processの構成法の一つでstick-breaking  processと呼ばれる。これをπ（＝（π1,...,πk））〜Stick（α）,ωk（＝（ωk1,...,ωkl））〜Stick（β）と表すことにする。Ｈはネットワーク構造とそのパラメータに対する事前分布である。
【００５４】
上記処理において混合分布として利用される｛Ｇ1,...,Ｇj｝は、nested  Dirichlet  process（nDP）に従うという。パラメータはα,β,Ｈであり、nDP（α,β,Ｈ）と表される。nDPはネットワーク構造レベルとエージェントレベルの両方において混合分布を用いているので、ネットワーク構造とエージェントのクラスタリングを同時に行うことができる。
【００５５】
ここで次のようなインデックスを導入しておく。インデックスｃjはエージェントｊのネットワーク構造を生成する混合ネットワーク構造を表す。インデックスｓjiはデータ点ｘji生成するネットワーク構造を表す。
【００５６】
nDPおよび共有されるネットワーク構造の学習・推定はギブスサンプラーに基づいて行うことができ、収束するまで以下のステップを繰り返す。
【００５７】
i）.  すべてのエージェントｊ＝１,...,Ｊに対して、インデックスｃjを、事後確率ｐ（ｃj＝ｋ｜｛ｘji｝）従ってサンプルする。
【００５８】
ii）.  すべてのエージェントｊ＝１,...,Ｊ、すべてのデータｉ＝１,...,Ｎjに対して、インデックスｓjiを、事後確率ｐ（ｓji＝ｌ｜｛ｘji｝）に従ってサンプルする。
【００５９】
iii）.  エージェントレベルの混合重みπkを事後確率ｐ（πk＝｛ｘji｝,｛ｃj｝）に従って生成する。
【００６０】
iv）.  ネットワーク構造レベルの混合重みωklを事後確率ｐ（ωkl＝｛ｘji｝,｛ｓji｝）に従って生成する。
【００６１】
v）.  ネットワーク構造とパラメータ
【００６２】
【数１２】
2010035690.tif 000013
【００６３】
を事後確率
【００６４】
【数１３】
2010035690.tif 000014
【００６５】
に従ってサンプルする。もし観測値が割り当てられていない場合は事前分布Ｈから生成される。
【００６６】
上記で説明した処理は、(ii)、(iv)が図２のネットワーク構造混合パラメータ推定手段１４、及び図３のステップＳ５に対応し、(i)、(iii)が図２のエージェント混合パラメータ推定手段１５、及び図３のステップＳ７に対応し、(v)が図２のネットワーク構造学習手段１２、ネットワーク構造生成手段１３、及び図３のステップＳ２〜Ｓ４に対応する。
【００６７】
次に、本実施形態の効果について説明する。
【００６８】
本実施形態では、複数エージェントがネットワーク構造を共有するというように構成されているため、複数エージェントがネットワーク構造を共有し各々の学習結果を改善することができる。
【００６９】
また、本実施形態では、さらに、各エージェントのモデルに混合モデルを用いるというように構成されているため、複数エージェントを類似したもの同士にクラスタリングすることができる。
【００７０】
また、本実施形態では、さらに、モデル化、学習、推定をノンパラメトリックなモデルを用いて行うため、モデルの混合数として有限の値をあらかじめ定める必要がない。
【産業上の利用可能性】
【００７１】
本発明は、次のような利用可能性が考えられる。【００７２】
例えば、自動車などの機械システムにおいて，様々な車種の特定のパーツ間の挙動には相関構造が観察される。これらのパーツ相関構造は、ある特定の機能を実現した結果であり、車種間でほぼ同様のパーツ相関構造を共有している。【００７３】
複数の車種（軽，トラック，ディーゼル，ハイブリッド，…）で考えた場合、エンジン制御などの基本的なパーツ相関構造は、類似した挙動を示すが、例えばハイブリッド車の場合などは、電子モーター制御など車種独自のパーツ相関構造を持つ。【００７４】
このような場合に、車種間において互いに共通するパーツ相関構造に関しては、他の車種の情報を共有することで学習精度を改善し、特定の車種のみに見られるパーツ相関構造は各車種独自に学習することが可能であり、さらに車種における独自性の高いパーツ相関構造を共有する車種同士を類似した車種としてクラスタリングする、といった用途に適用できる。【００７５】
また、金融機関が内部損失データを共有するデータコンソーシアムにおいて、各銀行の内部損失事象を考えた場合に、特定の損失事象間の発生には、通常は相関構造があるとされている。【００７６】
複数の銀行間で考えた場合、業務のうち預金業務や貸出業務などのある特定の業務にかかわる損失事象に関しては類似した損失事象相関構造を持っていると考えられる。【００７７】
このような場合に、銀行間において互いに共通する損失事象相関構造に関しては、他の銀行の情報を共有することで学習精度を改善することができる。【００７８】
しかしながら、各銀行の特性（特定の業務の多寡や有無，地震や台風の発生などの地域特性）を考慮した場合、特定の銀行のみに見られるような損失事象相関構造も存在し、この場合はその特定の損失事象相関構造を保有する銀行間で情報を共有し、それらを類似した損失事象相関構造を持つ銀行としてクラスタリングする、といった用途にも適用可能である。【００７９】
以上、本発明の好適な実施の形態により本発明を説明した。ここでは特定の具体例を示して本発明を説明したが、特許請求の範囲に定義された本発明の広範囲な趣旨および範囲から逸脱することなく、これら具体例に様々な修正および変更が可能である。【００８０】
なお、この出願は、２００８年９月２４日に出願した、日本特許出願番号２００８−２４４１６８号を基礎とする優先権を主張し、その開示の全てをここに取り込む。
【符号の説明】
【００８１】
１１    入力手段
１２    ネットワーク構造学習手段
１３    ネットワーク構造生成手段
１４    ネットワーク構造混合パラメータ推定手段
１５    エージェント混合パラメータ推定手段
１６    出力手段
【図１】
2010035690.tif 000015
【図２】
2010035690.tif 000016
【図３】
2010035690.tif 000017
【図４】
2010035690.tif 000018