(57)【要約】【課題】局所解に陥ることが少なく、パラメータ収束に関する速度が速く、総合的な観測コストを低く押さえられる可能性が高い、パラメータ推定装置を提供すること。【解決手段】パラメータの推定の各時点で、次にサンプルとして値を観測すべき対象として、当該対象の観測値と現在までに得られている情報とを利用して推定されるパラメータの分布と、現在までに得られている情報のみによって推定されるパラメータの分布との差の期待値を、観測コストで割った値が大きい対象を選択する。【選択図】　図１
2004046677.tif 000002
【特許請求の範囲】
【請求項１】
複数の観測対象の観測を行なうことを繰り返して目的パラメータの確率分布を推定するパラメータ推定装置であって、
前記目的パラメータの確率分布を計算する目的パラメータ分布計算部と、
観測対象の中から任意の観測対象（注目点）を選択し、その観測対象の取り得る観測値それぞれについて、その取り得る観測値と既に観測されている全観測結果とを併せたデータ集合に基づいて前記目的パラメータ分布計算部が計算する目的パラメータの確率分布１と、既に観測されている全観測結果から前記目的パラメータ分布計算部が計算する目的パラメータの確率分布２との違い（分布差評価値）を計算する目的パラメータ分布差評価部と、
前記分布の違いに基づいて観測有効度を計算する観測有効度計算部と、
前記観測有効度に基づいて、観測対象の中から実際に観測する対象を選択する観測対象選択部とを備え、
前記目的パラメータ分布計算部が、前記観測対象選択部により逐次選択される観測対象の全観測値に基づいて前記目的パラメータの確率分布を推定することを特徴とするパラメータ推定装置。
【請求項２】
前記観測有効度に基づいて、データ観測の停止の是非を判定する観測停止判定部をさらに備え、前記観測停止判定部の判定結果に応じて、前記目的パラメータ分布計算部は目的パラメータの確率分布の予測処理を停止することを特徴とする請求項１記載のパラメータ推定装置。
【請求項３】
前記目的パラメータ分布計算部により計算された目的パラメータの値の確率分布を出力する目的パラメータ分布出力部をさらに備えることを特徴とする請求項１または２に記載のパラメータ推定装置。
【請求項４】
前記観測有効度計算部は、前記分布差評価値の期待値を観測有効度として計算することを特徴とする請求項１乃至３に記載のパラメータ推定装置。
【請求項５】
前記観測対象それぞれに対して、観測値を得るのにかかる観測コストを計算する観測コスト計算部を備え、
前記観測対象それぞれに対して、前記観測有効度計算部が観測有効度を計算する際に前記観測有効度を前記観測コストに応じて補正することを特徴とする請求項１乃至４に記載のパラメータ推定装置。
【請求項６】
前記観測対象それぞれについて、観測前の観測値の確率分布を予測する観測値事前分布予測部をさらに備え、
前記目的パラメータ分布計算部が、既に観測されている観測結果に、前記観測値事前分布予測部によってその確率分布が予測される観測対象の予測値も加えて前記目的パラメータの確率分布１及び２の計算を行なうことを特徴とする請求項１に記載のパラメータ推定装置。
【請求項７】
前記注目点に対する観測結果が得られたと仮定したときの、前記注目点以外の観測対象に対する観測値の確率分布を計算する観測値事後分布予測部を備え、
前記データ集合は、前記注目点以外の観測対象について前記仮定された注目点の観測結果に対応して前記観測値事後分布分布予測部によって予測される当該観測対象の観測値の予測結果も前記データ集合に追加したものであることを特徴とする請求項１に記載のパラメータ推定装置。
【請求項８】
前記目的パラメータは、任意の観測対象が予め定めた特定の分類に属する度合を示す帰属度を計算するためのモデルを規定するパラメータであることを特徴とする請求項１乃至７記載のパラメータ推定装置。
【請求項９】
前記観測対象選択部が各観測対象に関する情報を、前記観測有効度計算部によって計算された観測有効度の大きい順に一定数まで表示する観測対象選択部をさらに備えたことを特徴とする請求項１乃至８に記載のパラメータ推定装置。
【請求項１０】
ユーザが次に観測する観測対象を選択するためのユーザ評価入力部をさらに備えたことを特徴とする請求項１乃至９に記載のパラメータ推定装置。
【請求項１１】
ユーザが前記ユーザ評価部を介して前記観測対象選択部により表示される各観測対象に対して、前記観測対象の観測値を入力することを可能としたことを特徴とする請求項１０に記載のパラメータ推定装置。
【請求項１２】
前記観測対象選択部が、前記観測有効度が大きい点に関する情報を表示する際に、前記観測値分布予測部によって予測される観測対象のうち、前記帰属度が高い点の集合と、低い点の集合に分けて表示することを特徴とする請求項１乃至１１に記載のパラメータ推定装置。
【請求項１３】
複数の観測対象の観測を行なうことを繰り返して目的パラメータの確率分布を推定するためにコンピュータを、
前記目的パラメータの確率分布を計算する目的パラメータ分布計算部、
観測対象の中から任意の観測対象（注目点）を選択し、その観測対象の取り得る観測値それぞれについて、その取り得る観測値と既に観測されている全観測結果とを併せたデータ集合に基づいて前記目的パラメータ分布計算部が計算する目的パラメータの確率分布１と、既に観測されている全観測結果から前記目的パラメータ分布計算部が計算する目的パラメータの確率分布２との違い（分布差評価値）を計算する目的パラメータ分布差評価部、
前記分布の違いに基づいて観測有効度を計算する観測有効度計算部、
前記観測有効度に基づいて、観測対象の中から実際に観測する対象を選択する観測対象選択部として機能させることにより、
前記目的パラメータ分布計算部が、前記観測対象選択部により逐次選択される観測対象の全観測値に基づいて前記目的パラメータの確率分布を推定することを特徴とするパラメータ推定プログラム。
【請求項１４】
複数の観測対象の観測を行なうことを繰り返して目的パラメータの確率分布を推定するパラメータ推定方法であって、
前記目的パラメータの確率分布を計算する目的パラメータ分布計算部と、
観測対象の中から任意の観測対象（注目点）を選択し、その観測対象の取り得る観測値それぞれについて、その取り得る観測値と既に観測されている全観測結果とを併せたデータ集合に基づいて前記目的パラメータ分布計算部が計算する目的パラメータの確率分布１と、既に観測されている全観測結果から前記目的パラメータ分布計算部が計算する目的パラメータの確率分布２との違い（分布差評価値）を計算する目的パラメータ分布差評価部と、
前記分布の違いに基づいて観測有効度を計算する観測有効度計算部と、
前記観測有効度に基づいて、観測対象の中から実際に観測する対象を選択する観測対象選択部とを備え、
前記目的パラメータ分布計算部が前記目的パラメータ確率分布１を計算する第１のステップと、
前記目的パラメータ分布計算部が前記目的パラメータの確率分布２を計算する第２のステップと、
前記目的パラメータ分布差評価部が前記分布差評価値を計算する第３のステップと、
前記観測有効度計算部が前記分布差評価値に基づいて観測有効度を計算する第４のステップと、
前記観測対象選択部が前記観測有効度に基づいて次に観測する対象を選択する第５のステップとから成り、
上記第１のステップから第５のステップを繰り返すことにより、前記目的パラメータ分布計算部が、前記目的パラメータの確率分布を推定することを特徴とするパラメータ推定方法。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、複数の観測対象から観測対象を選択してデータの観測を行ない目的パラメータの値の確率分布を予測する、パラメータ推定装置に関する。
【０００２】
【従来の技術】
観測によって、パラメータの推定を行うパラメータ推定においては、過去に観測された観測結果を踏まえて次の観測対象を選択する「能動学習」が提案されている。能動学習の手法、能動学習に関しては、例えば、１９９７年発行の「情報処理」第３８巻７号５５８頁〜５８８頁に、特集記事がある。
【０００３】
能動学習に関しては、多くの手法が提案されているが、たとえば、「委員会による質問（クエリ・バイ・コミッティ）」という手法は、過去のデータを元に生成された仮説群によって予想される観測値の差が最も大きな点を次の観測点とする、という手法がある（Ｓｅｕｎｇ　ｅｔ　ａｌ．，”Ｑｕｅｒｙ　ｂｙ　Ｃｏｍｍｉｔｔｅｅ”，　Ｐｒｏｃ．　ｏｆ　ｔｈｅ　Ｆｉｆｔｈ　Ａｎｎｕａｌ　ＡＣＭ　Ｗｏｒｋｓｈｏｐ　ｏｎ　Ｃｏｍｐｕｔａｔｉｏｎａｌ　Ｌｅａｒｎｉｎｇ　Ｔｈｅｏｒｙ　（ＣＯＬＴ　’９２）ｐｐ．２８７−２９４，１９９２．）。
【０００４】
特願平１１−３１６７５４「実験計画法および実験計画プログラムを記録した記録媒体」は、上記の「委員会による質問」型学習において、仮説群を生成する下位学習機械として、ブースティングによる学習を行なう学習機械を利用する、という方法である。
【０００５】
また、特に、文書検索などで多く用いられている「関連度フィードバック（ｒｅｌｅｖａｎｃｅ　ｆｅｅｄｂａｃｋ）という手法は、ユーザにより入力された検索式からの情報に加えて、過去において提示された候補に対するユーザの評価（フィードバック）を元に、ユーザの検索意図に近いと判定された点を上位から順に表示し、それらに対するユーザの評価から、「ユーザの検索意図に最も近い仮想的な点」を表すパラメータを更新していくというものである。
【０００６】
【発明が解決しようとする課題】
しかしこれらの手法は、データの観測がパラメータ分布推定結果に与える影響の度合いに基づいて観測点を選んでいるわけではないので、選ばれた観測点に対して、値の観測を行なってパラメータの分布に対する推定結果を更新しても、観測後に得られる分布が観測前に得られていた分布とほとんど変わらない効率の悪い観測を必然的に避け得るものではなかった。
【０００７】
特に、ローカルフィードバック手法により選択される観測点候補は、もともと現在のパラメータ推定結果に基づいて、最も検索条件に適合すると予測された点であり、ユーザによって、それらが検索条件に合っていることが示されても、パラメータ推定結果に対する変動はほとんど得られない、という局所解（ローカル・ミニマム）に陥りやすいという問題があった。
【０００８】
また、従来の観測点選択方法においては、観測に要するコストが考慮されていなかったため、効率が悪いばかりでなく、観測コストも高いような観測が行なわれることを防ぐことができなかった。ここで観測コストとは、観測するための時間、費用、危険性を指す。
【０００９】
本発明が解決しようとする課題は、局所解に陥ることが少なく、パラメータ収束に関する速度が速く、総合的な観測コストを低く押さえられる可能性が高い、パラメータ推定装置を提供することである。
【００１０】
【課題を解決するための手段】
上記課題を解決するために、請求項１記載のパラメータ推定装置は、複数の観測対象の観測を行なうことを繰り返して目的パラメータの確率分布を推定するパラメータ推定装置であって、前記目的パラメータの確率分布を計算する目的パラメータ分布計算部と、観測対象の中から任意の観測対象（注目点）を選択し、その観測対象の取り得る観測値それぞれについて、その取り得る観測値と既に観測されている全観測結果とを併せたデータ集合に基づいて前記目的パラメータ分布計算部が計算する目的パラメータの確率分布１と、既に観測されている全観測結果から前記目的パラメータ分布計算部が計算する目的パラメータの確率分布２との違い（分布差評価値）を計算する目的パラメータ分布差評価部と、前記分布の違いに基づいて観測有効度を計算する観測有効度計算部と、前記観測有効度に基づいて、観測対象の中から実際に観測する対象を選択する観測対象選択部とを備え、前記目的パラメータ分布計算部が、前記観測対象選択部により逐次選択される観測対象の全観測値に基づいて前記目的パラメータの確率分布を推定することを特徴とするパラメータ推定装置である。
【００１１】
請求項２に記載の発明は、観測有効度に基づいて、データ観測の停止の是非を判定する観測停止判定部をさらに備え、前記観測停止判定部の判定結果に応じて、前記目的パラメータ分布計算部は目的パラメータの確率分布の予測処理を停止することを特徴とするパラメータ推定装置である。
【００１２】
請求項３に記載の発明は、目的パラメータ分布計算部により計算された目的パラメータの値の確率分布を出力する目的パラメータ分布出力部をさらに備えることを特徴とするパラメータ推定装置である。
【００１３】
請求項４に記載の発明は、観測有効度計算部は、前記分布差評価値の期待値を観測有効度として計算することを特徴とするパラメータ推定装置である。
【００１４】
請求項５に記載の発明は、観測対象それぞれに対して、観測値を得るのにかかる観測コストを計算する観測コスト計算部を備え、前記観測対象それぞれに対して、前記観測有効度計算部が観測有効度を計算する際に前記観測有効度を前記観測コストに応じて補正することを特徴とするパラメータ推定装置である。
【００１５】
請求項６に記載の発明は、観測対象それぞれについて、観測前の観測値の確率分布を予測する観測値事前分布予測部をさらに備え、前記目的パラメータ分布計算部が、既に観測されている観測結果に、前記観測値事前分布予測部によってその確率分布が予測される観測対象の予測値も加えて前記目的パラメータの確率分布１及び２の計算を行なうことを特徴とするパラメータ推定装置である。
【００１６】
請求項７に記載の発明は、前記注目点に対する観測結果が得られたと仮定したときの、前記注目点以外の観測対象に対する観測値の確率分布を計算する観測値事後分布予測部を備え、前記データ集合は、前記注目点以外の観測対象について前記仮定された注目点の観測結果に対応して前記観測値事後分布分布予測部によって予測される当該観測対象の観測値の予測結果も前記データ集合に追加したものであることを特徴とするパラメータ推定装置である。
【００１７】
請求項８に記載の発明は、前記目的パラメータは、任意の観測対象が予め定めた特定の分類に属する度合を示す帰属度を計算するためのモデルを規定するパラメータであることを特徴とするパラメータ推定装置である。
【００１８】
請求項９に記載の発明は、前記観測対象選択部が各観測対象に関する情報を、前記観測有効度計算部によって計算された観測有効度の大きい順に一定数まで表示する観測対象選択部をさらに備えたことを特徴とするパラメータ推定装置である。
【００１９】
請求項１０に記載の発明は、ユーザが次に観測する観測対象を選択するためのユーザ評価入力部をさらに備えたことを特徴とするパラメータ推定装置である。
【００２０】
請求項１１に記載の発明は、ユーザがユーザ評価部を介して観測対象選択部により表示される各観測対象に対して、前記観測対象の観測値を入力することを可能としたことを特徴とするパラメータ推定装置である。
【００２１】
請求項１２に記載の発明は、前記観測対象選択部が、前記観測有効度が大きい点に関する情報を表示する際に、前記観測値分布予測部によって予測される観測対象のうち、前記帰属度が高い点の集合と、低い点の集合にわけて表示することを特徴とするパラメータ推定装置である。
【００２２】
請求項１３に記載の発明は、複数の観測対象の観測を行なうことを繰り返して目的パラメータの確率分布を推定するためにコンピュータを、前記目的パラメータの確率分布を計算する目的パラメータ分布計算部、観測対象の中から任意の観測対象（注目点）を選択し、その観測対象の取り得る観測値それぞれについて、その取り得る観測値と既に観測されている全観測結果とを併せたデータ集合に基づいて前記目的パラメータ分布計算部が計算する目的パラメータの確率分布１と、既に観測されている全観測結果から前記目的パラメータ分布計算部が計算する目的パラメータの確率分布２との違い（分布差評価値）を計算する目的パラメータ分布差評価部、前記分布の違いに基づいて観測有効度を計算する観測有効度計算部、前記観測有効度に基づいて、観測対象の中から実際に観測する対象を選択する観測対象選択部として機能させることにより、前記目的パラメータ分布計算部が、前記観測対象選択部により逐次選択される観測対象の全観測値に基づいて前記目的パラメータの確率分布を推定することを特徴とするパラメータ推定プログラムである。
【００２３】
請求項１４に記載の発明は、複数の観測対象の観測を行なうことを繰り返して目的パラメータの確率分布を推定するパラメータ推定方法であって、前記目的パラメータの確率分布を計算する目的パラメータ分布計算部と、観測対象の中から任意の観測対象（注目点）を選択し、その観測対象の取り得る観測値それぞれについて、その取り得る観測値と既に観測されている全観測結果とを併せたデータ集合に基づいて前記目的パラメータ分布計算部が計算する目的パラメータの確率分布１と、既に観測されている全観測結果から前記目的パラメータ分布計算部が計算する目的パラメータの確率分布２との違い（分布差評価値）を計算する目的パラメータ分布差評価部と、前記分布の違いに基づいて観測有効度を計算する観測有効度計算部と、前記観測有効度に基づいて、観測対象の中から実際に観測する対象を選択する観測対象選択部とを備え、その処理の流れは図７に示す通りである。すなわち、前記目的パラメータ分布計算部が前記目的パラメータ確率分布１を計算する第１のステップ（Ｓ７２）と、前記目的パラメータ分布計算部が前記目的パラメータの確率分布２を計算する第２のステップ（Ｓ７３）と、前記目的パラメータ分布差評価部が前記分布差評価値を計算する第３のステップと（Ｓ７４）、前記観測有効度計算部が前記分布差評価値に基づいて観測有効度を計算する第４のステップ（Ｓ７５）と、前記観測対象選択部が前記観測有効度に基づいて次に観測する対象を選択する第５のステップ（Ｓ７６）とから成り、上記第１のステップから第５のステップを繰り返すことにより、前記目的パラメータ分布計算部が、前記目的パラメータの確率分布を推定することを特徴とするパラメータ推定方法である。
【００２４】
【発明の実施の形態】
以下、本発明の実施の一形態について説明する。
【００２５】
図１は、本発明の実施の一形態のパラメータ推定装置の構成図である。
【００２６】
本実施例は、１次元の空間（数直線）上に配置された点の集合について、特定の分類Ｃに属すものの中心の座標の値μを点推定するパラメータ推定装置である。各点に対する観測値は、分類Ｃへの帰属度である。ここでは、簡単の為に、１（当該点が分類Ｃに属すとき）または０（当該点が分類Ｃに属さないとき）の二値のいずれかであるとするが、観測値が連続値の場合でも適用できる。
【００２７】
本実施例のパラメータ推定装置は、前記１次元空間上に配置された点の集合のうち、分類Ｃへの帰属度をまだ観測していない点の集合を格納する、観測対象格納部１０１と、観測された帰属度を格納する、観測結果格納部１０２と、観測対象格納部１０１に格納されている各未観測点について、観測結果格納部１０２に帰属度が格納されている観測済みの点のうち、前記未観測点から、距離が正の定数δ以内にあるようなものの帰属度の平均と、観測結果格納部１０２に帰属度が格納されているすべての観測済みの点の帰属度の平均を、重みをつけて平均した値を帰属度とする、観測値事前分布予測部１０３と、観測結果格納部１０２に格納されている帰属度観測結果と観測値事前分布予測部１０３によって予測される、観測対象格納部１０１に格納されている各観測対象の帰属度の分布に基づいて、分類Ｃに属す点の集合の中心の座標値を計算する目的パラメータ分布計算部１０４と、観測結果格納部１０２に格納された観測結果を目的パラメータ分布計算部１０４に与えて得られる分類Ｃに属す点の集合の中心の座標値を格納する、目的パラメータ分布格納部１０５と、分類Ｃに属す点の集合の中心の座標値として二つの値が与えられたときに、それらの差の二乗を、二つの確率分布の差を表す値を計算する、目的パラメータ分布差評価部１０６と、観測対象格納部１０１に格納されている、ある未観測点に対する帰属度が得られたと仮定したときの、残りの未観測点の帰属度に対する確率分布を計算する、観測値事後分布予測部１０７と、観測対象格納部１０１に格納されている各未観測点ｘｉに対して、観測の際に必要となる観測コストＣ（ｘｉ）を返す観測コスト計算部１０８と、観測対象格納部１０２に格納されている各未観測点に対して、当該点の観測値が、１と０のそれぞれの場合に対して、観測結果格納部１０２に格納されている観測結果に、当該観測値に加えて、当該観測点以外の観測対象格納部１０１に格納されている未観測点に対する、観測値事後分布予測部１０７による帰属度の予測結果を追加したものを仮想的な観測結果として目的パラメータ分布計算部１０６に与えて得られる分類Ｃに属す点の集合の中心の座標値と、目的パラメータ分布格納部１０５に格納されている分類Ｃに属す点の集合の中心の座標値とを、目的パラメータ分布差評価部１０６に与えて得られる目的パラメータ分布差評価値（＝二つの座標値の差の二乗）に、観測値予測部１０３によって当該観測値に対して与えられている確率を重みとしてかけて、合計することによって得られる値を、当該未観測点の、観測有効度として計算する、観測有効度計算部１０９と、観測対象格納部１０１に格納されている各未観測点に対する、観測有効度計算部１０９により計算されるすべての観測有効度があらかじめ決められた値Ｖ０　より小さければ、観測の繰り返しを終了し、そうでない場合は観測の繰り返しを続けるべきと判定する観測停止判定部１１０と、観測停止判定部１１０によって観測を終了すべきと判定されたときに、目的パラメータ分布格納部１０５に格納されている分類Ｃに属す点の集合の中心の座標値を出力する、目的パラメータ分布出力部１１１と、観測停止判定部１１０によって観測を続けるべきと判定されたとき���、観測対象格納部１０１に格納された各未観測点に関する情報を、観測有効度計算部１０９によって計算された観測有効度の大きい順に２０個まで抽出し、観測値事後分布予測部１０７により計算されている分類Ｃへの帰属度が高い１０個と、低い１０個に分けて、リスト形式でユーザに提示する、観測対象選択部１１２と、目的パラメータ分布格納部１０５により格納されている分類Ｃに属す点の集合の中心の座標値に従って、前記ベクトル空間中に配置された点が分類Ｃに属す帰属度を計算する帰属度計算部１１３と、ベクトル空間中に配置された点の集合の中から、帰属度計算部１１３によって計算される分類Ｃへの帰属度が高い順に一定個数の点を選択し、当該点に関する情報をユーザに提示する、高帰属度点表示部１１４と、観測対象格納部１０１に格納されている未観測点のうち、観測対象選択部１１２または前記高帰属度点表示部１１４により表示されているものに対して、当該点が分類Ｃに属すかどうかをユーザに選択的に入力させる、ユーザ評価入力部１１５と、ユーザ評価入力部１１５により入力された値を観測値とする，データ観測部１１６と、データ観測部１１６による帰属度観測後に、観測対象格納部１０１に格納されている未観測点の集合から、帰属度が入力された点を除く、観測対象更新部１１７と、データ観測部１１６による帰属度観測結果を観測結果格納部１０２に追加格納する、観測結果更新部１１８を備える。
【００２８】
図２は、観測対象格納部１０１の内容を示した図である。
【００２９】
図３は、観測結果格納部１０１の内容を示した図である。
【００３０】
図４は、本実施の形態のパラメータ推定装置における処理の流れを示す流れ図である。以下、図４にしたがって、本実施の形態のパラメータ推定装置における処理を説明する。
【００３１】
なお、本実施の形態のパラメータ推定装置においては、初期状態で、観測対象格納部１０１には、当該ベクトル空間中に配置された点がすべて未観測点として格納され、観測結果格納部１０２は、空である、とする。
【００３２】
まず、ステップＳ１０において、観測値事前分布予測部１０３が、観測結果１０２に格納されている観測結果を基に、観測対象格納部１０１に格納されている未観測点における分類Ｃへの帰属度の分布を推定する。
【００３３】
ここでは、座標の値がｘであるような未観測点における分類Ｃへの帰属度ζ（ｘ）を、ある正の定数δについて、座標がｘ−δ　から、ｘ＋δまでの値を取る点のうち、観測値１が得られている点数をｎ１（ｘ）、観測値０が得られている点数をｎ０（ｘ）、全点のうち、観測値１が得られている点数をＮ１、観測値０が得られている点数をＮ０、としたときに、
【００３４】
【数１】
2004046677.tif 000003
【００３５】
で計算するものとする。
この式の意味について説明すると、まず、分子に現れる
【００３６】
【数２】
2004046677.tif 000004
【００３７】
という項は、観測点全体における、分類Ｃへの帰属度の平均の推定値であり、帰属度の事前分布として、ベータ分布Ｂｅ（１，１）（無情報事前分布として良く使われる）を採用してベイズによる事後分布の推定方法を適用した結果得られる式である。
上のζ（ｘ）全体は、同様に、事前分布として、
【００３８】
【数３】
2004046677.tif 000005
【００３９】
を採用して、ベイズによる事後分布の推定を行なった結果得られる式である。
また、便宜上、観測値が得られている点ｘについても、帰属度ζ（ｘ）を、
【００４０】
【数４】
2004046677.tif 000006
【００４１】
【数５】
2004046677.tif 000007
【００４２】
と定義する。
【００４３】
初期状態においては、Ｎ１、Ｎ０、およびすべてのｘに対して、ｎ１（ｘ）、ｎ０（ｘ）が、すべて０であるので、すべてのｘに対して、
【００４４】
【数６】
2004046677.tif 000008
【００４５】
と予測される。
【００４６】
続いて、ステップＳ２０において、目的パラメータ分布計算部１０４が、観測結果格納部１０２に格納されている帰属度観測結果と観測値事前分布予測部１０３によって予測された観測対象格納部１０１に格納されている各観測対象の帰属度の分布に基づいて分類Ｃの中心の座標μを次式のように求める。
【００４７】
【数７】
2004046677.tif 000009
【００４８】
これは、空間中の点の座標の、分類Ｃへの帰属度による重み付き平均である。
【００４９】
続いて、ステップＳ３０において、観測有効度計算部１０９が、観測対象格納部１０１に格納されている座標ｘｉを持つ未観測点の、観測有効度ｖ（ｘｉ）を、次のように計算する。
【００５０】
まず、観測値事後分布予測部１０７が、当該点に対する観測値が１であった場合（当該点が分類Ｃに属すと観測されたとき）の未観測点に対する帰属度関数ζ１（ｘ）を、
【００５１】
【数８】
2004046677.tif 000010
【００５２】
【数９】
2004046677.tif 000011
【００５３】
により計算し、このときの、仮想的な新しい中心μ１（ｘｉ）を、
【００５４】
【数１０】
2004046677.tif 000012
【００５５】
により求める。
【００５６】
上記第１のζ１（ｘ）の定義式は、新しい観測点の近傍における帰属度を修正するものである。
分子に＋１という項が現れているのは、近傍中の点Ｘｉが分類Ｃに属するという仮定によるもので、分子の
【００５７】
【数１１】
2004046677.tif 000013
【００５８】
という項は、空間全体において、分類Ｃに属する点が一つ増えたという仮定によって、現在の空間全体での帰属度の推定値
【００５９】
【数１２】
2004046677.tif 000014
【００６０】
を修正したものである。分母の＋２という項は、近傍中に観測済みの点が一つ増えたという仮定に由来する補正である。
上記第２のζ１（ｘ）の定義式は、新しい観測点の近傍以外における帰属度を修正するものである。
分子に＋１という項が現れていないのは、分類Ｃに属する仮定された点ｘｉ近傍中にないことによるもので、
【００６１】
【数１３】
2004046677.tif 000015
【００６２】
という項は、上記にて説明した空間全体での帰属度の変化に関する補正項なので、ここにも現れている。
【００６３】
分母の＋１がそのままなのは、近傍中の観測点の数に変化が無いからである。また、当該点に対する観測値が０であった場合（当該点が分類Ｃに属さないと観測されたとき）の未観測点に対する帰属度関数ζ０（ｘ）を、観測値事後分布予測部１０７が同様に、
【００６４】
【数１４】
2004046677.tif 000016
【００６５】
【数１５】
2004046677.tif 000017
【００６６】
により計算し、このときの、仮想的な新しい中心μ０（ｘｉ）を、
【００６７】
【数１６】
2004046677.tif 000018
【００６８】
により求める。ζ０（ｘ）の第１の定義式においても分子に＋１という項が現れないのは、近傍中に分類Ｃに属す観測点が増えなかったことによる。分子に共通して現れる
【００６９】
【数１７】
2004046677.tif 000019
【００７０】
という項は、空間全体における帰属度の平均の修正を反映したものであり、その中の分母の＋３という項は、空間全体に、分類Ｃに属さない項が一つ観測されたということを反映している。なお分母の＋２という項は、近傍中に観測点が一つ増えたことを反映している。
【００７１】
ζ０（ｘ）の第２の定義式における補正についても、すでに説明した補正と同じ考え方に基づく。
これらを使って、観測有効度ｖ（ｘｉ）を、
【００７２】
【数１８】
2004046677.tif 000020
【００７３】
により求める。
【００７４】
ただし、ｃ（ｘｉ）は、未観測点ｘｉでの観測に必要と予測される観測コストである。また、上記式右辺の分子の第１項及び第２項の括弧の自乗箇所を、「分布差評価値」と呼ぶ。また、上記式右辺の分子は、分布差評価値の期待値を示している。
【００７５】
観測コストは、例えばその観測値を得るのに必要な時間、費用、危険性について評価した値であり、観測コスト計算部１０８により取得される。その方法としては、例えば図６に示すように各観測対象Ｘｉに対する時間、費用、危険性について数値による数段階のランク付けがされた表を保持し、観測コスト計算部がそれらのランク値の平均を計算することにより、その観測値Ｘｉに対するコストＣ（ｘｉ）を計算する。
【００７６】
分子第１項は、Ｘｉが分類Ｃに属したときの、目的パラメータ分布差評価部１０６によって計算される中心の移動量の二乗に、現時点でｘｉが分類Ｃに属す確率をかけたもの、第２項は、ｘｉが分類Ｃに属さなかったときの、目的パラメータ分布差評価部１０６によって計算される中心の移動量の二乗に、現時点でｘｉが分類Ｃに属す確率をかけたものである。
【００７７】
続いて、ステップＳ４０で、ステップＳ３０で各未観測点に対して求めた観測有効度が、すべて、あらかじめ決められた値Ｖ０より小さければ、観測停止判定部１１０が観測を終了し、
ステップＳ９０で、目的パラメータ分布出力部Ｓ９０が分類Ｃに属す点の中心値μを出力して停止する。そうでなければ、ステップＳ５０に進む。
【００７８】
ステップＳ５０では、観測対象選択部１１２が、ステップＳ３０で求めた観測有効度が大きい順に、観測対象格納部１０１に格納されている未観測点を２０個抽出し、リストの形式にして、ユーザに提示する。
【００７９】
ここでは、２０個の未観測点を、分類Ｃへの帰属度が高い１０個と、低い１０個に分けて、提示している。
【００８０】
続いて、ステップＳ６０で、帰属度計算部１１３が、当該ベクトル空間中に配置された点の集合の中に対して、分類Ｃへの帰属度を計算し、高帰属度点表示部１１４が、その中から帰属度が高い順に２０個の点を選択し、当該点に関する情報をユーザに提示する
図３は、このときの提示画面例である。リスト３１０は、観測有効度が高い２０個のうち、分類Ｃへの帰属度が高い１０個のリストである。
【００８１】
リスト３２０は、観測有効度が高い２０個のうち、分類Ｃへの帰属度が低い１０個のリストである。
【００８２】
リスト３００は、帰属度計算部１１３により計算された分類Ｃへの帰属度が高い２０点のリストである。
【００８３】
３０２、３１２、３２２は、各点に関する情報を表したものであり、例えば、分類される点が、文書の場合は、文書の見出しなどを用いる。
【００８４】
３０３、３０４、３０５、３１３、３１４、３１５、３２３、３２４、３２５は、各点の分類Ｃへの所属・非所属に関する観測値の観測状況を示すと同時に、ステップＳ７０で、ユーザから評価を受け取るためのラジオボタンであり、ユーザ評価入力部１１５として機能する。
【００８５】
図においては、３０４、３１４、３２４の各ラジオボタン群がチェックされているが、これは、表示中の各点に対するが所属・非所属の別が、まだユーザから与えられていないことを示している。
【００８６】
３０１、３１１、３２１は、分類Ｃへの帰属度の高い順に各点を順序づけたときの順位を参考のために表示したものである。
【００８７】
続いて、ステップＳ７０において、ユーザ評価入力部１１５が、ユーザから、ステップＳ５０，Ｓ６０において提示した点の一部または全部に対する、分類Ｃへの帰属の有無に関する情報を受け取り、データ観測部１１５が、それらを新しい観測値とする。
【００８８】
なお、ユーザが新しい観測値を入力する代わりに、または入力するとともに、Ｓ５０において観測対象選択部１１２によりユーザに提示する有効度付きの観測対象に対し、ユーザがユーザ評価入力部１１５を介して次に観測する観測対象を選択できるようにしても良い。
【００８９】
ここでは、図３に示された３０３、３０４、３０５、３１３、３１４、３１５、３２３、３２４、３２５のラジオボタン群により、同情報を受け取る。
【００９０】
例えば、ユーザが、点βは分類Ｃに属さないと判断した場合は、リスト３１０で点βの右にあるラジオボタン群のうち、もっとも右のラジオボタンにチェックする。
【００９１】
また、ユーザが点（イ）が分類Ｃに属すと判断した場合は、リスト３２０で点（イ）の右にあるラジオボタン群のうち、もっとも左にあるラジオボタンにチェックする。
【００９２】
続いて、ステップＳ８０で、観測対象更新部１１７が、観測対象格納部１０１に格納されている未観測点の集合から、帰属度が入力された点を除き、観測結果更新部１１８が、データ観測部１１６による帰属度観測結果を観測結果格納部１０２に追加格納し、再び、ステップＳ１０に戻る。
【００９３】
本実施例では、以上の繰り返しにより、分類Ｃの中心の値μの推定を行なう。なお、未観測点の帰属度の予測方法は、上記の方法に限定されるものではなく、例えば、事前分布として他の分布を用いても良いが、近傍における観測結果の単純平均と、空間全体における観測結果の単純平均とのバランスを取った形であり、かつ、近傍に観測済みの点が存在しない場合にも有限の値を取るような式を採用するのがよい。
【００９４】
近傍の定義に関しても、空間全体をいくつかの区間に分割し、各未観測点に対する観測有効度を計算する際に、当該点が属す区間を、当該点の近傍として使用するようにしてもよい。さらに、各区間の未観測点から代表点を選び、その区間に属す未観測点の観測有効度を、前記代表点に対する観測有効度計算結果によって代用しても良い。
【００９５】
さらに、未観測点の分布や、各未観測点の分布に、パラメトリックなモデルを導入し、解析的な方法やシミュレーションによって、観測有効度が高くなるような部分空間を推定し、得られた部分空間中の未観測点に限定して観測有効度の計算を行なったり、当該部分空間中の未観測点を観測有効度以外の条件によって観測点として選択するようにしてもよい。
【００９６】
観測有効度の計算において、観測前後の推定すべきパラメータの分布のずれを表す量（分布差評価値）として、本実施例ではパラメータの値の点推定値の二乗差を採用したが、これに限定されるものではない。たとえば、パラメータの値の分布の差を表す量（例えば、ＫＬ情報量）を採用しても良い。
【００９７】
また、観測の停止に関する値Ｖ０は、観測サイクルの途中で、観測結果に応じて、再計算しても良い。また、観測の停止に関しては、ユーザの判断により行なうようにしてもよい。
【００９８】
また、ユーザに提示するリストに含める観測点候補の数をあらかじめ決めておくのではなく、一定の条件を満たす観測点はすべてリストに含めるようにしても良い。
【００９９】
また、一定以上の観測有効度を持つ観測点候補を、観測有効度の計算が済んだ順にリストに加えて行き、一定の数に達したら観測有効度の計算と追加を止め、リストの並べ替えを行なうようにしてもよい。この方法は、観測有効度を計算すべき未観測点の数が多い場合や、観測有効度の計算にかかる時間的・空間的コストが大きい場合に有効である。
【０１００】
本実施例においては、簡単のために１次元のパラメータ推定を例としたが、本発明のパラメータ推定装置は、多次元のパラメータ推定にも、もちろん利用可能である。
【０１０１】
その際、すべてのパラメータについて、完全な観測有効度を求めるのではなく、各観測サイクルでは、特定のパラメータに限定して観測有効度を用いた観測点候補の選択を行ない、次の観測サイクルでは別のパラメータに対する観測有効度に基づいた観測点候補の選択を行なうようにしてもよい。
【０１０２】
【発明の効果】
以上説明したように、本発明により、パラメータの値に大きく影響するかもしれない点に対する観測値は、早い段階で観測されるので、パラメータの取り得る値の分布範囲が、初めは広く仮定され、徐々に狭い範囲に限定されていくことになるので、局所解にも陥りにくく、また、初期において収束速度が速いので、効率の良い推定が可能になる。
【０１０３】
また、前記観測対象格納部に格納されている各観測対象に対して、観測の際に必要となる観測コストを計算する、観測コスト計算部を備え、観測コストが低い点の観測有効度は、より高く評価されるように、観測コストが高い点の観測有効度は、より低く評価されるように組み入れることにより、観測に必要となる総コストの削減を意識した効率的な観測が可能になる。
【０１０４】
さらに、本願発明の構成の一つである観測有効度計算部によって計算された観測有効度の大きい順に一定数まで表示する、観測対象選択部を備えることによって、観測を行なう順位の決定にユーザの判断を反映させることもできる。
【０１０５】
さらに、前記観測対象選択部が、観測有効度が大きい点に関する情報を表示する際に、前記観測値分布予測部によって予測される、前記特定の分類に属す確率分布の平均値が高い点の集合と、低い点の集合にわけて表示することにより、観測有効度が高いにもかかわらず、分類への帰属度が低い点のリストが提示されるので、分類結果に大きな影響を与える重要な「もれ」がないかユーザが確認することが可能になり、また、分類への帰属度が高く、観測有効度も高い点のリストが提示されるので、分類結果に大きな影響を与える重要な「ゴミ」が入っていないかユーザが確認することが可能になる。
【０１０６】
さらに、本願発明の構成である帰属度計算部がベクトル空間中に配置された点が特定の分類に属す帰属度を計算し、そのベクトル空間中に配置された点の集合の中から、特定の分類に属する帰属度の期待値が高い順に一定個数の点を選択し、当該点に関する情報をユーザに提示する、高帰属度点表示部を備えることにより、分類に対してどのような点が当該時点で最も典型的と計算されるかをユーザが確認することが可能になる。
【図面の簡単な説明】
【図１】この発明の一実施の形態における、パラメータ推定装置の構成図
【図２】この発明の一実施の形態における、動作の流れを示す流れ図
【図３】この発明の一実施の形態における、ユーザへの表示画面の例を示す図
【図４】この発明の位置実施の形態における、観測対象格納部の内容を示す図
【図５】この発明の位置実施の形態における、観測結果格納部の内容を示す図
【図６】この発明の観測コスト計算部が保持する観測コストテーブルの例を示す図
【図７】この発明のパラメータ推定方法の処理手順を示した流れ図
【符号の説明】
１０１　観測対象格納部
１０２　観測結果格納部
１０３　観測値事前分布予測部
１０４　目的パラメータ分布計算部
１０５　目的パラメータ分布格納部
１０６　目的パラメータ分布差評価部
１０７　観測値事後分布予測部
１０８　観測コスト計算部
１０９　観測有効度計算部
１１０　観測停止判定部
１１１　目的パラメータ分布出力部
１１２　観測対象選択部
１１３　帰属度計算部
１１４　高帰属度点表示部
１１５　ユーザ評価入力部
１１６　データ観測部
１１７　観測対象更新部
１１８　観測結果更新部
【図１】
2004046677.tif 000021
【図２】
2004046677.tif 000022
【図３】
2004046677.tif 000023
【図４】
2004046677.tif 000024
【図５】
2004046677.tif 000025
【図６】
2004046677.tif 000026
【図７】
2004046677.tif 000027