(57)【要約】計量適用部は、複数の属性を有する分析対象データと分析対象データ間の距離を表す計量とを入力として、分析対象データ間の距離を求め、求めた分析対象データ間の距離を用いて所定の関数による分析対象データの分析から得られたデータ分析結果を、出力および記憶する。計量最適化部は、分析対象データ間の類似度と属性とのいずれか、または、それらの組合せからなる外部から入力されたフィードバック情報が示す指示に基づいて、サイド情報を生成し、生成したサイド情報に基づいて所定の条件に従った計量を生成し、生成した計量を計量学習結果記憶部に記憶させる。
2009104324.tif 000002
【特許請求の範囲】
【請求項１】
複数の属性を有する分析対象データと該分析対象データ間の距離を計算するための計量とを入力として、前記分析対象データ間の距離を計算する計量適用部と、
前記計量適用部が計算した前記分析対象データ間の距離を用いて所定の関数により該分析対象データを分析し、該分析によって得られたデータ分析結果を出力するデータ分析部と、
前記データ分析部が出力したデータ分析結果を記憶する分析結果記憶部と、から構成される計量適用データ分析部と、
前記分析結果記憶部に記憶されている分析対象データ間の類似度と属性とのいずれか、または、それらの組合せからなる外部から入力されたフィードバック情報が示す指示に基づいて、計量学習に必要な情報であるサイド情報を生成するフィードバック変換部と、
前記フィードバック変換部が生成したサイド情報に基づいて所定の条件に従った計量を生成し、該生成した計量を計量学習結果記憶部に記憶させる計量学習部と、から構成される計量最適化部と、を有し、
前記計量適用部は、
前記計量学習結果記憶部に記憶されている計量を用いて、前記分析対象データ間の距離を計算することを特徴とする能動計量学習装置。
【請求項２】
前記分析対象データと、該分析対象データに計量を適用して得られたデータと、該計量を分析した結果である分析結果とのいずれか、または、それらの組合せに基づいて、前記分析対象データの能動学習を行い、該学習した能動学習結果を能動学習記憶部に記憶させる能動学習部、を有することを特徴とする請求項１に記載の能動計量学習装置。
【請求項３】
前記計量適用データ分析部は、
前記分析結果記憶部に記憶されている分析結果に対し次元変換を施す次元変換部と、
前記次元変換部が次元変換を施した後の分析結果を表示する分析結果出力部とを有することを特徴とする請求項１または２に記載の能動計量学習装置。
【請求項４】
前記計量最適化部は、
前記フィードバック変換部が生成したサイド情報に基づいて前記計量学習部が生成した計量を表示する計量可視化部、を有することを特徴とする請求項１乃至３のいずれか１項に記載の能動計量学習装置。
【請求項５】
前記フィードバック変換部が生成するサイド情報が、前記分析対象データ集合間の類似度と、該分析対象データ集合と該分析対象データとの間の距離と、該分析対象データと他の分析対象データとの関係を示すペアであることを特徴とする請求項１乃至３のいずれか１項に記載の能動計量学習装置。
【請求項６】
前記能動学習部は、
前記分析対象データと、該分析対象データに計量を適用したデータと、分析結果とのいずれか、またはこれらの組合せに基づいて過去にフィードバックされた属性と相関のある属性を特定する能動学習処理部と、
前記能動学習処理部が特定した属性を、フィードバックのための候補として提示する能動学習結果出力部と、を有することを特徴とする請求項２乃至４のいずれか１項に記載の能動計量学習装置。
【請求項７】
前記計量適用部は、計量対象とする計量パラメータと、該距離の算出対象である複数の分析対象データの差分との積に基づいて、前記分析対象データ間の距離を計算することを特徴とする請求項１に記載の能動計量学習装置。
【請求項８】
前記データ分析部が前記分析対象データを分析する際の前記所定の関数が、該分析対象データの一次変換であることを特徴とする請求項１または２に記載の能動計量学習装置。
【請求項９】
前記所定の重要データを学習する際に、実験計画法を用いることを特徴とする請求項２に記載の能動計量学習装置。
【請求項１０】
前記所定の重要データを学習する際に、マージンを最大化することを特徴とする請求項２に記載の能動計量学習装置。
【請求項１１】
前記所定の重要データを学習する際に、相互情報量を最適化することを特徴とする請求項２に記載の能動計量学習装置。
【請求項１２】
前記フィードバック変換部が前記サイド情報を生成する際に用いるフィードバック情報が示す指示は、クラスタの要否と、属性の要否と、クラスタ間距離の調整との少なくとも１つであることを特徴とする請求項１または２に記載の能動計量学習装置。
【請求項１３】
前記フィードバック変換部は、
前記フィードバック情報がクラスタが必要であることを指示する場合、該クラスタの特徴的な属性をもつデータ同士の距離を小さくする制約条件に対応するよう、前記サイド情報を生成することを特徴とする請求項１２に記載の能動計量学習装置。
【請求項１４】
前記フィードバック変換部は、
前記フィードバック情報がクラスタが必要であることを指示する場合、該クラスタの特徴的な属性の重要度を大きくする制約条件に対応するよう、前記サイド情報を生成することを特徴とする請求項１２に記載の能動計量学習装置。
【請求項１５】
前記フィードバック変換部は、
前記フィードバック情報がクラスタが不要であることを指示する場合、該クラスタの特徴的な属性の重要度を小さくする制約条件に対応するよう、前記サイド情報を生成することを特徴とする請求項１２に記載の能動計量学習装置。
【請求項１６】
前記フィードバック変換部は、
前記フィードバック情報がクラスタ間の距離を調整することを示す場合、該クラスタの中心の間の距離を調整する制約条件に対応するよう、前記サイド情報を生成することを特徴とする請求項１２に記載の能動計量学習装置。
【請求項１７】
前記フィードバック変換部は、
前記フィードバック情報がクラスタを分割することを示す場合、クラスタ内の複数の特徴となる属性を同定し、それらを含むデータを抽出し、それぞれの重要度を大きくするサイド情報を生成することを特徴とする請求項１２に記載の能動計量学習装置。
【請求項１８】
前記フィードバック変換部は、
前記フィードバック情報がクラスタを分割することを示す場合、クラスタ内の複数の特徴となる属性を同定し、それらを含むデータを抽出し、それぞれの重要度を大きくし、かつ、それぞれの集合の中心を遠ざけるようにサイド情報を生成することを特徴とする請求項１２に記載の能動計量学習装置。
【請求項１９】
前記フィードバック変換部は、
前記フィードバック情報がクラスタを分割することを示す場合、そのクラスタを再クラスタリングし、結果生成した複数のクラスタ内のデータとその中心との距離を近づけるようにサイド情報を生成することを特徴とする請求項１２に記載の能動計量学習装置。
【請求項２０】
前記フィードバック変換部は、
前記フィードバック情報がクラスタを分割することを示す場合、そのクラスタを再クラスタリングし、結果生成した複数のクラスタ内のデータとその中心との距離を近づけるように、かつ中心間の距離を遠ざけるようにサイド情報を生成することを特徴とする請求項１２に記載の能動計量学習装置。
【請求項２１】
前記次元変換部は、前記次元変換を施す際に、特異値分解を用いることを特徴とする請求項３に記載の能動計量学習装置。
【請求項２２】
前記次元変換部は、前記次元変換を施す際に、該次元変換の直前に実行した次元変換によって得られた変換結果に近づける制約をつけた特異値分解を用いることを特徴とする請求項３に記載の能動計量学習装置。
【請求項２３】
前記次元変換部は、前記次元変換を施す際に、非負行列分解を用いることを特徴とする請求項３に記載の能動計量学習装置。
【請求項２４】
前記次元変換部は、前記次元変換を施す際に、該次元変換の直前に実行した次元変換によって得られた変換結果に近づける制約をつけた非負行列分解を用いることを特徴とする請求項３に記載の能動計量学習装置。
【請求項２５】
前記計量学習部は、前記計量を生成する際に、半正定値計画問題を一般的ライブラリを用いて解くことを特徴とする１または２に記載の能動計量学習装置。
【請求項２６】
前記計量学習部は、前記計量を生成する際に、分析対象データが構成するグループに付与されたラベルに基づいて変形された半正定値計画問題を、一変数の場合を含む小問題に分割して最適化を繰返し実行することにより解くことを特徴とする請求項１または２に記載の能動計量学習装置。
【請求項２７】
前記計量学習部は、前記計量を生成する際に、計量対象である計量パラメータのランクを低くした半正定値計画問題を、一変数の場合を含む小問題に分割して最適化を繰返し実行することにより解くことを特徴とする請求項１または２に記載の能動計量学習装置。
【請求項２８】
前記能動学習処理部は、相関係数に基づいて、前記相関のある属性を特定することを特徴とする請求項６に記載の能動計量学習装置。
【請求項２９】
前記能動学習処理部は、共起数に基づいて、前記相関のある属性を特定することを特徴とする請求項６に記載の能動計量学習装置。
【請求項３０】
前記能動学習処理部は、相互情報量に基づいて、前記相関のある属性を特定することを特徴とする請求項６に記載の能動計量学習装置。
【請求項３１】
前記能動学習処理部は、条件付確率に基づいて、前記相関のある属性を特定することを特徴とする請求項６に記載の能動計量学習装置。
【請求項３２】
複数の属性を有する分析対象データと該分析対象データ間の距離を計算するための計量とを入力として、前記分析対象データ間の距離を計算する計量適用処理と、
前記計量適用処理にて計算した前記分析対象データ間の距離を用いて所定の関数により該分析対象データを分析し、該分析によって得られたデータ分析結果を出力するデータ分析処理と、
前記データ分析処理にて出力したデータ分析結果を記憶する分析結果記憶処理と、から構成される計量適用データ分析処理と、
前記分析結果記憶処理により記憶されている分析対象データ間の類似度と属性とのいずれか、または、それらの組合せからなる外部から入力されたフィードバック情報が示す指示に基づいて、計量学習に必要な情報であるサイド情報を生成するフィードバック変換処理と、
前記フィードバック変換処理にて生成したサイド情報に基づいて所定の条件に従った計量を生成し、該生成した計量を計量学習結果記憶処理により記憶させる計量学習処理と、から構成される計量最適化処理と、を有し、
前記計量適用処理では、
前記計量学習結果記憶処理により記憶されている計量を用いて、前記分析対象データ間の距離を計算することを特徴とする能動計量学習方法。
【請求項３３】
前記分析対象データと、該分析対象データに計量を適用して得られたデータと、該計量を分析した結果である分析結果とのいずれか、または、それらの組合せに基づいて、前記分析対象データの能動学習を行い、該学習した能動学習結果を能動学習記憶処理にて記憶させる能動学習処理、を有することを特徴とする請求項３２に記載の能動計量学習方法。
【請求項３４】
前記計量適用データ分析処理では、
前記分析結果記憶処理にて記憶されている分析結果に対し次元変換を施す次元変換処理と、
前記次元変換処理にて次元変換を施した後の分析結果を表示する分析結果出力処理とを有することを特徴とする請求項３２または３３に記載の能動計量学習方法。
【請求項３５】
前記計量最適化処理では、
前記フィードバック変換処理にて生成したサイド情報に基づいて前記計量学習処理にて生成した計量を表示する計量可視化処理、を有することを特徴とする請求項３２乃至３４のいずれか１項に記載の能動計量学習方法。
【請求項３６】
前記フィードバック変換処理にて生成するサイド情報が、前記分析対象データ集合間の類似度と、該分析対象データ集合と該分析対象データとの間の距離と、該分析対象データと他の分析対象データとの関係を示すペアであることを特徴とする請求項３２乃至３４のいずれか１項に記載の能動計量学習方法。
【請求項３７】
前記分析対象データと、該分析対象データに計量を適用したデータと、分析結果とのいずれか、またはこれらの組合せに基づいて過去にフィードバックされた属性と相関のある属性を特定する能動学習処理と、
前記能動学習処理にて特定した属性を、フィードバックのための候補として提示する能動学習結果出力処理と、から構成される能動学習処理、
を有することを特徴とする請求項３３乃至３５のいずれか１項に記載の能動計量学習方法。
【請求項３８】
前記計量適用処理では、計量対象とする計量パラメータと、該距離の算出対象である複数の分析対象データの差分との積に基づいて、前記分析対象データ間の距離を計算することを特徴とする請求項３２に記載の能動計量学習方法。
【請求項３９】
前記データ分析処理にて前記分析対象データを分析する際の前記所定の関数が、該分析対象データの一次変換であることを特徴とする請求項３２または３３に記載の能動計量学習方法。
【請求項４０】
前記所定の重要データを学習する際に、実験計画法を用いることを特徴とする請求項３３に記載の能動計量学習方法。
【請求項４１】
前記所定の重要データを学習する際に、マージンを最大化することを特徴とする請求項３３に記載の能動計量学習方法。
【請求項４２】
前記所定の重要データを学習する際に、相互情報量を最適化することを特徴とする請求項３３に記載の能動計量学習方法。
【請求項４３】
前記フィードバック変換処理にて前記サイド情報を生成する際に用いるフィードバック情報が示す指示は、クラスタの要否と、属性の要否と、クラスタ間距離の調整との少なくとも１つであることを特徴とする請求項３２または３３に記載の能動計量学習方法。
【請求項４４】
前記フィードバック変換処理では、
前記フィードバック情報がクラスタが必要であることを指示する場合、該クラスタの特徴的な属性をもつデータ同士の距離を小さくする制約条件に対応するよう、前記サイド情報を生成することを特徴とする請求項４３に記載の能動計量学習方法。
【請求項４５】
前記フィードバック変換処理では、
前記フィードバック情報がクラスタが必要であることを指示する場合、該クラスタの特徴的な属性の重要度を大きくする制約条件に対応するよう、前記サイド情報を生成することを特徴とする請求項４３に記載の能動計量学習方法。
【請求項４６】
前記フィードバック変換処理では、
前記フィードバック情報がクラスタが不要であることを指示する場合、該クラスタの特徴的な属性の重要度を小さくする制約条件に対応するよう、前記サイド情報を生成することを特徴とする請求項４３に記載の能動計量学習方法。
【請求項４７】
前記フィードバック変換処理では、
前記フィードバック情報がクラスタ間の距離を調整することを示す場合、該クラスタの中心の間の距離を調整する制約条件に対応するよう、前記サイド情報を生成することを特徴とする請求項４３に記載の能動計量学習方法。
【請求項４８】
前記フィードバック変換処理では、
前記フィードバック情報がクラスタを分割することを示す場合、クラスタ内の複数の特徴となる属性を同定し、それらを含むデータを抽出し、それぞれの重要度を大きくするサイド情報を生成することを特徴とする請求項４３に記載の能動計量学習方法。
【請求項４９】
前記フィードバック変換処理では、
前記フィードバック情報がクラスタを分割することを示す場合、クラスタ内の複数の特徴となる属性を同定し、それらを含むデータを抽出し、それぞれの重要度を大きくし、かつ、それぞれの集合の中心を遠ざけるようにサイド情報を生成することを特徴とする請求項４３に記載の能動計量学習方法。
【請求項５０】
前記フィードバック変換処理では、
前記フィードバック情報がクラスタを分割することを示す場合、そのクラスタを再クラスタリングし、結果生成した複数のクラスタ内のデータとその中心との距離を近づけるようにサイド情報を生成することを特徴とする請求項４３に記載の能動計量学習方法。
【請求項５１】
前記フィードバック変換処理では、
前記フィードバック情報がクラスタを分割することを示す場合、そのクラスタを再クラスタリングし、結果生成した複数のクラスタ内のデータとその中心との距離を近づけるように、かつ中心間の距離を遠ざけるようにサイド情報を生成することを特徴とする請求項４３に記載の能動計量学習方法。
【請求項５２】
前記次元変換処理では、前記次元変換を施す際に、特異値分解を用いることを特徴とする請求項３４に記載の能動計量学習方法。
【請求項５３】
前記次元変換処理では、前記次元変換を施す際に、該次元変換の直前に実行した次元変換によって得られた変換結果に近づける制約をつけた特異値分解を用いることを特徴とする請求項３４に記載の能動計量学習方法。
【請求項５４】
前記次元変換処理では、前記次元変換を施す際に、非負行列分解を用いることを特徴とする請求項３４に記載の能動計量学習方法。
【請求項５５】
前記次元変換処理では、前記次元変換を施す際に、該次元変換の直前に実行した次元変換によって得られた変換結果に近づける制約をつけた非負行列分解を用いることを特徴とする請求項３４に記載の能動計量学習方法。
【請求項５６】
前記計量学習処理では、前記計量を生成する際に、半正定値計画問題を一般的ライブラリを用いて解くことを特徴とする３２または３３に記載の能動計量学習方法。
【請求項５７】
前記計量学習処理では、前記計量を生成する際に、分析対象データが構成するグループに付与されたラベルに基づいて変形された半正定値計画問題を、一変数の場合を含む小問題に分割して最適化を繰返し実行することにより解くことを特徴とする請求項３２または３３に記載の能動計量学習方法。
【請求項５８】
前記計量学習処理では、前記計量を生成する際に、計量対象である計量パラメータのランクを低くした半正定値計画問題を、一変数の場合を含む小問題に分割して最適化を繰返し実行することにより解くことを特徴とする請求項３２または３３に記載の能動計量学習方法。
【請求項５９】
前記能動学習処理では、相関係数に基づいて、前記相関のある属性を特定することを特徴とする請求項３７に記載の能動計量学習方法。
【請求項６０】
前記能動学習処理では、共起数に基づいて、前記相関のある属性を特定することを特徴とする請求項３７に記載の能動計量学習方法。
【請求項６１】
前記能動学習処理では、相互情報量に基づいて、前記相関のある属性を特定することを特徴とする請求項３７に記載の能動計量学習方法。
【請求項６２】
前記能動学習処理では、条件付確率に基づいて、前記相関のある属性を特定することを特徴とする請求項３７に記載の能動計量学習方法。
【請求項６３】
複数の属性を有する分析対象データと該分析対象データ間の距離を計算するための計量とを入力として、前記分析対象データ間の距離を計算する計量適用手順と、
前記計量適用手順にて計算した前記分析対象データ間の距離を用いて所定の関数により該分析対象データを分析し、該分析によって得られたデータ分析結果を出力するデータ分析手順と、
前記データ分析手順にて出力したデータ分析結果を記憶する分析結果記憶手順と、から構成される計量適用データ分析手順と、
前記分析結果記憶手順により記憶されている分析対象データ間の類似度と属性とのいずれか、または、それらの組合せからなる外部から入力されたフィードバック情報が示す指示に基づいて、計量学習に必要な情報であるサイド情報を生成するフィードバック変換手順と、
前記フィードバック変換手順にて生成したサイド情報に基づいて所定の条件に従った計量を生成し、該生成した計量を計量学習結果記憶手順により記憶させる計量学習手順と、から構成される計量最適化手順と、をコンピュータに実行させるプログラムにおいて、
前記計量適用手順では、
前記計量学習結果記憶手順により記憶されている計量を用いて、前記分析対象データ間の距離を計算することを特徴とするプログラム。
【請求項６４】
前記分析対象データと、該分析対象データに計量を適用して得られたデータと、該計量を分析した結果である分析結果とのいずれか、または、それらの組合せに基づいて、前記分析対象データの能動学習を行い、該学習した能動学習結果を能動学習記憶手順にて記憶させる能動学習手順、を有することを特徴とする請求項６３に記載のプログラム。
【請求項６５】
前記計量適用データ分析手順では、
前記分析結果記憶手順にて記憶されている分析結果に対し次元変換を施す次元変換手順と、
前記次元変換手順にて次元変換を施した後の分析結果を表示する分析結果出力手順とを有することを特徴とする請求項６３または６４に記載のプログラム。
【請求項６６】
前記計量最適化手順では、
前記フィードバック変換手順にて生成したサイド情報に基づいて前記計量学習手順にて生成した計量を表示する計量可視化手順、を有することを特徴とする請求項６３乃至６５のいずれか１項に記載のプログラム。
【請求項６７】
前記フィードバック変換手順にて生成するサイド情報が、前記分析対象データ集合間の類似度と、該分析対象データ集合と該分析対象データとの間の距離と、該分析対象データと他の分析対象データとの関係を示すペアであることを特徴とする請求項６３乃至６５のいずれか１項に記載のプログラム。
【請求項６８】
前記分析対象データと、該分析対象データに計量を適用したデータと、分析結果とのいずれか、またはこれらの組合せに基づいて過去にフィードバックされた属性と相関のある属性を特定する能動学習手順と、
前記能動学習手順にて特定した属性を、フィードバックのための候補として提示する能動学習結果出力手順と、から構成される能動学習手順、
を有することを特徴とする請求項６４乃至６６のいずれか１項に記載のプログラム。
【請求項６９】
前記計量適用手順では、計量対象とする計量パラメータと、該距離の算出対象である複数の分析対象データの差分との積に基づいて、前記分析対象データ間の距離を計算することを特徴とする請求項６３に記載のプログラム。
【請求項７０】
前記データ分析手順にて前記分析対象データを分析する際の前記所定の関数が、該分析対象データの一次変換であることを特徴とする請求項６３または６４に記載のプログラム。
【請求項７１】
前記所定の重要データを学習する際に、実験計画法を用いることを特徴とする請求項６４に記載のプログラム。
【請求項７２】
前記所定の重要データを学習する際に、マージンを最大化することを特徴とする請求項６４に記載のプログラム。
【請求項７３】
前記所定の重要データを学習する際に、相互情報量を最適化することを特徴とする請求項６４に記載のプログラム。
【請求項７４】
前記フィードバック変換手順にて前記サイド情報を生成する際に用いるフィードバック情報が示す指示は、クラスタの要否と、属性の要否と、クラスタ間距離の調整との少なくとも１つであることを特徴とする請求項６３または６４に記載のプログラム。
【請求項７５】
前記フィードバック変換手順では、
前記フィードバック情報がクラスタが必要であることを指示する場合、該クラスタの特徴的な属性をもつデータ同士の距離を小さくする制約条件に対応するよう、前記サイド情報を生成することを特徴とする請求項７４に記載のプログラム。
【請求項７６】
前記フィードバック変換手順では、
前記フィードバック情報がクラスタが必要であることを指示する場合、該クラスタの特徴的な属性の重要度を大きくする制約条件に対応するよう、前記サイド情報を生成することを特徴とする請求項７４に記載のプログラム。
【請求項７７】
前記フィードバック変換手順では、
前記フィードバック情報がクラスタが不要であることを指示する場合、該クラスタの特徴的な属性の重要度を小さくする制約条件に対応するよう、前記サイド情報を生成することを特徴とする請求項７４に記載のプログラム。
【請求項７８】
前記フィードバック変換手順では、
前記フィードバック情報がクラスタ間の距離を調整することを示す場合、該クラスタの中心の間の距離を調整する制約条件に対応するよう、前記サイド情報を生成することを特徴とする請求項７４に記載のプログラム。
【請求項７９】
前記フィードバック変換手順では、
前記フィードバック情報がクラスタを分割することを示す場合、クラスタ内の複数の特徴となる属性を同定し、それらを含むデータを抽出し、それぞれの重要度を大きくするサイド情報を生成することを特徴とする請求項７４に記載のプログラム。
【請求項８０】
前記フィードバック変換手順では、
前記フィードバック情報がクラスタを分割することを示す場合、クラスタ内の複数の特徴となる属性を同定し、それらを含むデータを抽出し、それぞれの重要度を大きくし、かつ、それぞれの集合の中心を遠ざけるようにサイド情報を生成することを特徴とする請求項７４に記載のプログラム。
【請求項８１】
前記フィードバック変換手順では、
前記フィードバック情報がクラスタを分割することを示す場合、そのクラスタを再クラスタリングし、結果生成した複数のクラスタ内のデータとその中心との距離を近づけるようにサイド情報を生成することを特徴とする請求項７４に記載のプログラム。
【請求項８２】
前記フィードバック変換手順では、
前記フィードバック情報がクラスタを分割することを示す場合、そのクラスタを再クラスタリングし、結果生成した複数のクラスタ内のデータとその中心との距離を近づけるように、かつ中心間の距離を遠ざけるようにサイド情報を生成することを特徴とする請求項７４に記載のプログラム。
【請求項８３】
前記次元変換手順では、前記次元変換を施す際に、特異値分解を用いることを特徴とする請求項６５に記載のプログラム。
【請求項８４】
前記次元変換手順では、前記次元変換を施す際に、該次元変換の直前に実行した次元変換によって得られた変換結果に近づける制約をつけた特異値分解を用いることを特徴とする請求項６５に記載のプログラム。
【請求項８５】
前記次元変換手順では、前記次元変換を施す際に、非負行列分解を用いることを特徴とする請求項６５に記載のプログラム。
【請求項８６】
前記次元変換手順では、前記次元変換を施す際に、該次元変換の直前に実行した次元変換によって得られた変換結果に近づける制約をつけた非負行列分解を用いることを特徴とする請求項６５に記載のプログラム。
【請求項８７】
前記計量学習手順では、前記計量を生成する際に、半正定値計画問題を一般的ライブラリを用いて解くことを特徴とする６３または６４に記載のプログラム。
【請求項８８】
前記計量学習手順では、前記計量を生成する際に、分析対象データが構成するグループに付与されたラベルに基づいて変形された半正定値計画問題を、一変数の場合を含む小問題に分割して最適化を繰返し実行することにより解くことを特徴とする請求項６３または６４に記載のプログラム。
【請求項８９】
前記計量学習手順では、前記計量を生成する際に、計量対象である計量パラメータのランクを低くした半正定値計画問題を、一変数の場合を含む小問題に分割して最適化を繰返し実行することにより解くことを特徴とする請求項６３または６４に記載のプログラム。
【請求項９０】
前記能動学習手順では、相関係数に基づいて、前記相関のある属性を特定することを特徴とする請求項６８に記載のプログラム。
【請求項９１】
前記能動学習手順では、共起数に基づいて、前記相関のある属性を特定することを特徴とする請求項６８に記載のプログラム。
【請求項９２】
前記能動学習手順では、相互情報量に基づいて、前記相関のある属性を特定することを特徴とする請求項６８に記載のプログラム。
【請求項９３】
前記能動学習手順では、条件付確率に基づいて、前記相関のある属性を特定することを特徴とする請求項６８に記載のプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、利用者からのサイド情報を用いた計量学習装置、計量学習方法およびプログラムに関する。
【背景技術】
【０００２】
利用者から入力されたサイド情報を用いて、データ間の距離計量を学習するための様々な技術が提案されている。【０００３】
例えば、E.Xing  and  A.Ng  and  M.Jordan  and  S.Russell,  Distance  metric  learning,  with  application  to  clustering  with  side-information,  Proceedings  of  the  Conference  on  Advance  in  Neural  Information  Processing  Systems,  2003（文献１）に開示されているように、サイド情報を用いてクラスタリングを行う距離計量学習方法が考えられている。【０００４】
また、K.Q.Weinberger,  J.Blitzer,  L.K.Saul  :  Distance  Metric  Learining  for  Large  Margin  Nearest  Neighbor  Classification,  Proceedings  of  the  Conference  on  Advance  in  Neural  Information  Processing  Systems,  2006（文献２）に開示されているように、所定データを中心とする円領域に基づいて、所定データに類似する対象データを特定するよう学習を行う距離計量学習方法が考えられている。この距離計量学習方法では、円領域よりも小さい半径を有する同心状の領域を円領域のうちに設け、その同心状の領域に含まれる対象データを特定し、特定した対象データの位置に応じて同心状の領域の半径をさらに変更する。【０００５】
また、J.  Davis,  B.  Kulis,  P.  Jain,  S.  Sra,  I.  Dhillon.Information-Theoretic  Metric  Learning.  Proceedings  of  the  24  th  International  Conference  on  Machine  Learning,  2007（文献３）に開示されているように、距離関数のクラス（例えば、Mahalanobis  distance）と多変量ガウス関数とに基づいて、計量学習を行う距離計量学習方法が考えられている。【０００６】
このような距離計量に関する学習は機械学習の一分野に属するものであり、計量学習装置が学習した学習データの入力に加えて、利用者からのサイド情報を入力し、距離計算において必要な属性空間の相関を含む共分散行列を出力する。文献１〜３において用いられるサイド情報とは、データ間または属性間の関連する度合である関連度を示す情報である。つまり、計量学習システムは、データ間の距離に関するユーザ情報に基づいて、入力されたデータ間の距離を満たすように共分散行列を最適化する。【０００７】
利用者により入力されるサイド情報を用いた距離の学習は、機械を用いて距離を学習する機械学習によるデータ分析において有用である。その理由は、以下に示す通りである。
（１）属性最適化：データ間の距離の学習はデータ表現の学習を含む。ここで、データ表現の学習とはデータが有する属性の学習であり、データ分析において最も重要なプロセスの１つである。
（２）ユーザ知識取得：利用者からの知識の導入が容易である。すなわち、より低いコスト（例えば、演算コスト）で知識を反映することが可能である。【０００８】
（１）に記載した理由は、データ表現や属性の最適化に関連するものである。データ分析には、所定の目的に適合した表現が必要である。所定の目的とは、利用者が任意に選択可能であるため、属性の生成や最適化には、利用者からの知識の導入（すなわち、情報の入力）が不可欠である。データ間の距離の調整に利用者の知識を導入することにより、属性空間の表現を同時に最適化することも可能になる。なお、利用者の知識が反映されていないデータ表現（属性など）に基づいてデータ分析を行う場合、利用者の所望しない、予測不可能な結果が出力されるため、所定の目的が十分達成されないおそれがある。【０００９】
（２）に記載した理由は、ユーザ知識の取得に関連するものである。ここでいうユーザ知識の形態は多様であるが、絶対的なユーザ知識と相対的なユーザ知識とに分別することが可能である。【００１０】
「絶対的なユーザ知識」とは、例えば、データが属するクラスを定義するラベルである。【００１１】
また、「相対的なユーザ知識」とは、例えば、データ間の距離やデータ間の関連性である。なお、相対的なユーザ知識は、絶対的なユーザ知識であるラベルを付与することにより、定義されることも多い。具体例として、ウェブ上で複数の文書ファイルを分別する場合を例に挙げて説明する。ラベルを付与する方法は任意であるため、文書ファイルに対するラベルの付替（変更）が必要な場合も起こり得る。また、ランク付（例えば、重要か否かを相対的に定義する「重要度」の付与）では、２つのデータ間の関係は容易に定義できるが、利用者が認識している各分析対象に対する重要度の識別が必要な場合もあるため、絶対的なランク付方法を単純に計量学習に適用できないおそれもある。【００１２】
一方、各データ間における相対的な関係は、容易に識別できる場合が多い。ラベルが完全な情報である場合には、複数のデータ間の関係は不完全なラベル（不完全な情報）と捉えることが可能であり、利用者側の理解も不完全なものでよい。例えば、ウェブ上での利用者によるクリック操作の検出、消費動向に関するデータ分析などにおいては、このような不完全な情報を容易に特定できる。【００１３】
また、能動学習を用いた計量学習も一般的に行われている。能動学習とは、重要なデータを選択するよう利用者に促し、利用者が入力した各種命令発行用のクエリの結果を用いて、計量学習を行うものである。一般的に、能動学習では、データのラベル情報に関するクエリを利用者から取得することでなるべく少ないラベルで学習動作を実行する。能動学習は、テキストの分類や薬品に使用する分子の分類など、ラベル付の演算コストが高いデータに適用される場合が多い。演算コストの高いデータの重要度を示す指標には、多様な形態が提唱されている。【００１４】
例えば、特許公開２００４−０２１５９０号公報に開示されているように、サポートベクトルマシンの学習に対して、能動学習を適用したシステムが考えられている。このシステムでは、正解事例データベースに記録された正解事例を用いてサポートベクトルマシンによる能動学習を行い、能動学習による学習結果に基づいてデータを分類する。なお、このシステムにおける能動学習の進み具合は、クエリの形態に依存する。ここで、クエリは、各データに関するラベルを要求することに限定されない。【００１５】
また、H.  Raghavan,  O.  Madani,  R.  Jones.  Active  Learning  with  Feedback  on  Both  Features  and  Instances,  Journal  of  Machine  Learning  Research,  7  Aug:第1655頁〜第1686頁,  2006に開示されているように、属性の選択に関するクエリおよびデータ点のラベル情報に関するクエリの出力により、属性の選択処理およびデータの分別処理を交互に行い、クエリの数を抑制しつつ、良好な精度の結果を取得するシステムが考えられている。【００１６】
文献１〜３に開示された一般的な距離計量学習技術では、定式化に使用される情報は、データ間の関連性に関する情報のみであり、それ以外の情報（例えば、データの集合、各集合間の関連性、属性に関連する情報など）は定式化に使用される情報として入力することができない。そのため、計量学習を実行する過程にて、利用者が有する情報を十分に活用できないおそれがあるという第１の問題点がある。【００１７】
また、文献１〜３に開示された一般的な距離計量学習技術にて用いられるユーザインターフェースでは、操作性を重視して構成されていない。そのため、サイド情報を生成する際に、データを照会するための処理に手間がかかってしまうという第２の問題点がある。【００１８】
また、文献１〜３に開示された一般的な距離計量学習技術では、多量のデータのうちから重要なデータを選択する機能を有していない。そのため、分析対象データが多数である場合に、各分析対象データに対するサイド情報をそれぞれ取得しなければならない。そのため、分析対象データのうちからデータ分析において重要となるデータを選択できず、作業効率を向上できないおそれがあるという第３の問題点がある。
【発明の開示】
【００１９】
本発明は、上述した課題を解決する能動計量学習装置、能動計量学習方法およびプログラムを提供することを目的とする。
【００２０】
上記課題を解決するために、本発明の能動計量学習装置は、複数の属性を有する分析対象データと該分析対象データ間の距離を計算するための計量とを入力として、前記分析対象データ間の距離を計算する計量適用部と、前記計量適用部が計算した前記分析対象データ間の距離を用いて所定の関数により該分析対象データを分析し、該分析によって得られたデータ分析結果を出力するデータ分析部と、前記データ分析部が出力したデータ分析結果を記憶する分析結果記憶部と、から構成される計量適用データ分析部と、前記分析結果記憶部に記憶されている分析対象データ間の類似度と属性とのいずれか、または、それらの組合せからなる外部から入力されたフィードバック情報が示す指示に基づいて、計量学習に必要な情報であるサイド情報を生成するフィードバック変換部と、前記フィードバック変換部が生成したサイド情報に基づいて所定の条件に従った計量を生成し、該生成した計量を計量学習結果記憶部に記憶させる計量学習部と、から構成される計量最適化部と、を有し、前記計量適用部は、前記計量学習結果記憶部に記憶されている計量を用いて、前記分析対象データ間の距離を計算することを特徴とする。
【００２１】
上記課題を解決するために、本発明の能動計量学習方法は、複数の属性を有する分析対象データと該分析対象データ間の距離を計算するための計量とを入力として、前記分析対象データ間の距離を計算する計量適用処理と、前記計量適用処理にて計算した前記分析対象データ間の距離を用いて所定の関数により該分析対象データを分析し、該分析によって得られたデータ分析結果を出力するデータ分析処理と、前記データ分析処理にて出力したデータ分析結果を記憶する分析結果記憶処理と、から構成される計量適用データ分析処理と、前記分析結果記憶処理により記憶されている分析対象データ間の類似度と属性とのいずれか、または、それらの組合せからなる外部から入力されたフィードバック情報が示す指示に基づいて、計量学習に必要な情報であるサイド情報を生成するフィードバック変換処理と、前記フィードバック変換処理にて生成したサイド情報に基づいて所定の条件に従った計量を生成し、該生成した計量を計量学習結果記憶処理により記憶させる計量学習処理と、から構成される計量最適化処理と、を有し、前記計量適用処理では、前記計量学習結果記憶処理により記憶されている計量を用いて、前記分析対象データ間の距離を計算することを特徴とする。
【００２２】
また、コンピュータに実行させるプログラムであって、複数の属性を有する分析対象データと該分析対象データ間の距離を計算するための計量とを入力として、前記分析対象データ間の距離を計算する計量適用手順と、前記計量適用手順にて計算した前記分析対象データ間の距離を用いて所定の関数により該分析対象データを分析し、該分析によって得られたデータ分析結果を出力するデータ分析手順と、前記データ分析手順にて出力したデータ分析結果を記憶する分析結果記憶手順と、から構成される計量適用データ分析手順と、前記分析結果記憶手順により記憶されている分析対象データ間の類似度と属性とのいずれか、または、それらの組合せからなる外部から入力されたフィードバック情報が示す指示に基づいて、計量学習に必要な情報であるサイド情報を生成するフィードバック変換手順と、前記フィードバック変換手順にて生成したサイド情報に基づいて所定の条件に従った計量を生成し、該生成した計量を計量学習結果記憶手順により記憶させる計量学習手順と、から構成される計量最適化手順と、をコンピュータに実行させるプログラムにおいて、前記計量適用手順では、前記計量学習結果記憶手順により記憶されている計量を用いて、前記分析対象データ間の距離を計算することを特徴とする。
【００２３】
本発明によれば、複数の属性を有する分析対象データと分析対象データ間の距離を計算するための計量とを入力として、分析対象データ間の距離を計算し、計算した分析対象データ間の距離を用いて所定の関数により分析対象データを分析し、分析によって得られたデータ分析結果を出力し、出力したデータ分析結果を記憶し、記憶されている分析対象データ間の類似度と属性とのいずれか、または、それらの組合せからなる外部から入力されたフィードバック情報が示す指示に基づいて、計量学習に必要な情報であるサイド情報を生成し、生成したサイド情報に基づいて所定の条件に従った計量を生成し、生成した計量を記憶させ、記憶されている計量を用いて、分析対象データ間の距離を計算する構成としたため、一般的な計量学習装置よりも多様なサイド情報を処理可能となり、利用者が有する情報を十分に活用可能となり、利用者がサイド情報を生成する際の手間が軽減されるとともに、多量のデータのうちから抽出した重要な情報を利用者に提示することにより、作業の効率を向上できる。
【図面の簡単な説明】
【００２４】
【図１】本発明の実施形態に従った能動計量学習装置の物理構成を示す図である。
【図２】本発明の実施形態に従った能動計量学習装置の機能構成を示す図である。
【図３】図２に示した計量適用データ分析部の構成を示す図である。
【図４】図２に示した計量最適化部の構成を示す図である。
【図５】図４に示したサイド情報のデータ構造の一例を示す図である。
【図６】図２に示した能動学習部の構成を示す図である。
【図７ａ】複数の分析対象データのグループと重要データとの分布の一例を示す図である。
【図７ｂ】ラベリングにより、複数の分析対象データのグループのうちのいずれかに重要データを分別したときの分布の第１の例を示す図である。
【図７ｃ】ラベリングにより、複数の分析対象データのグループのうちのいずれかに重要データを分別したときの分布の第２の例を示す図である。
【図８ａ】分析対象データが所属するクラスタと重要データとの分布の一例を示す図である。
【図８ｂ】ラベリングにより、重要データをクラスタに所属させたときの領域の一例を示す図である。
【図８ｃ】ラベリングにより、重要データをクラスタに所属させなかったときの領域の一例を示す図である。
【図９ａ】分析対象データ同士を接近させる操作、または、分析対象データ同士を離す操作の各例を示す図である。
【図９ｂ】分析対象データをグループに所属させる操作、または、分析対象データをグループに所属しないようにする操作の各例を示す図である。
【図１０ａ】グループ同士を接近させる操作、または、グループ同士を離す操作の各例を示す図である。
【図１０ｂ】属性の重要度の変更指示に応じて、計量最適化の対象である行列を変更する操作の例を示す図である。
【図１１】計量マップ図のデータ構造の一例を示す図である。
【図１２】計量学習処理における動作を示すフローチャートである。
【図１３】データ分析マップ図のデータ構造の第１の例を示す図である。
【図１４】データ分析マップ図のデータ構造の第２の例を示す図である。
【図１５】図１４に示したデータ分析マップ図に基づいて計量したときの、計量マップ図のデータ構造を示す図である。
【発明を実施するための最良の形態】
【００２５】
以下、本発明の実施形態に従った能動計量学習装置（能動計量学習方法、プログラムを含む）を説明する。【００２６】
先ず、本実施形態の能動計量学習装置の物理的構成を説明する。図１に示すように、能動計量学習装置１００は、ＣＰＵ（Central  Processing  Unit）１０と、ＲＯＭ（Read  Only  Member）２０と、ＲＡＭ（Random  Access  Memory）３０と、バス４０と、入出力インターフェース５０と、ハードディスクドライブ６０とを有する。【００２７】
ＣＰＵ１０は、マイクロプロセッサユニットなどで構成され、能動計量学習装置１００全体を制御する。ＣＰＵ１０は、例えば、ＲＯＭ２０に記憶されているプログラム、またはハードディスクドライブ６０からＲＡＭ３０に読み出されたプログラムに従って、各種の処理を実行する。【００２８】
ＲＯＭ２０は、読込専用のメモリであり、電源がオフの状態であっても情報を保持する不揮発性メモリである。ＲＯＭ２０は、例えば、能動計量学習装置１００が、能動計量学習動作を実行するためのプログラムなどを記憶する。【００２９】
ＲＡＭ３０は、揮発性メモリでありＣＰＵ１０が各種の処理を実行する上において必要なデータなども適宜記憶される。また、ＣＰＵ１０が作業するときのワークメモリとしても機能する。【００３０】
バス４０は、各構成要素を相互に接続する。【００３１】
入出力インターフェース５０は、能動計量学習装置１００の外部から入力されたデータの受付、能動計量学習装置１００の外部へのデータの出力などを行うためのインターフェースである。入出力インターフェース５０には、例えば、キーボード、マウス、表示装置（例えば、ディスプレイ）、スピーカ、ネットワークアダプタなどが接続されており、後述する計量可視化部３４０やフィードバック情報取得部５００として機能する。【００３２】
ハードディスクドライブ６０は、大容量のデータを記憶可能なディスク装置である。ハードディスクドライブ６０は、ディスク装置に限らず、ＤＶＤドライブなどの所定の記憶媒体へのデータを読書可能な装置でもよい。【００３３】
ハードディスクドライブ６０は、後述する計量記憶部２６０、分析結果記憶部２５０、サイド情報記憶部３２０、計量学習結果記憶部３５０として機能する。【００３４】
つぎに、本実施形態の能動計量学習装置１００の機能構成について説明する。図２に示すように、能動計量学習装置１００は、分析対象データ記憶部１１０と、計量適用データ分析部２００と、計量最適化部３００と、能動学習部４００と、フィードバック情報取得部５００とを有する。【００３５】
各構成要素１１０、２００、３００、４００および５００は、図１に示したバス４０により相互に接続されている。【００３６】
分析データ記憶部１１０は、図１に示したＲＡＭ３０を用いて実現され、外部から入力された分析対象データＤ１〜Ｄｎを記憶する。【００３７】
「計量適用データ分析部２００」は、図１に示したＣＰＵ１０と、ＲＡＭ３０と、入出力インターフェース５０とを用いて実現される。【００３８】
計量適用データ分析部２００は、「計量適用データ分析処理」を実行し、分析データ記憶部１１０に記憶されている分析対象データＤ１〜Ｄｎに関するデータ分析を行い、データ分析後の結果である「データ分析結果ＡＲ」を生成する。また、計量適用データ分析部２００は、データ分析結果ＡＲおよび後述する「分析結果マップ図ＡＭ」を出力する。【００３９】
本実施形態では、「分析対象データＤ１〜Ｄｎ」は、ｎ個のデータを含んでおり、属性の数をｎとする。なお、以下では、ｉ番目（ｉ：１〜ｎのうちのいずれか）の分析対象データをＤｉで表す。【００４０】
また、「分析結果マップ図ＡＭ」とは、計量適用データ分析部２００が生成したデータ分析結果ＡＲを低次元空間に対応させて示した図であり、利用者がデータ分析結果ＡＲを認識するためのものである。【００４１】
なお、分析対象データＤ１〜Ｄｎが未入力の状態にあり、分析対象データＤ１〜Ｄｎに対する計量学習が行われていない場合、利用者は初期計量（計量を開始するための初期値）を入力する。この初期計量は、デフォルトで定められたデータのうちから選択するようにしてもよい。計量適用データ分析部２００は、入力された初期計量に基づいて「計量適用データ分析処理」の実行を開始する。計量の対象は、以下の式１で定義されるように、距離を与えるものであれば任意でよい。【００４２】
【数１】
2009104324.tif 000003
ここで、j  は２つのデータｘｉとｘｊとの間の距離を与える関数である。本実施形態では、各データｘｉ、ｘｊとして、上述の分析対象データＤ１〜Ｄｎを適用する。なお、関数j  の引数となるデータｘｉ、ｘｊ（分析対象データＤ１〜Ｄｎ）としては、数値でもよくシンボルでもよい。以下では、属性間の重みや相関を表す行列Ａ（計量パラメータ）によって距離を表す場合を例に挙げて説明する。この場合、データｘｉとｘｊとの間の距離ｄ（ｘｉ，ｘｊ）は、以下の式２で与えられる。【００４３】
【数２】
2009104324.tif 000004
式２で定義される距離ｄ（ｘｉ，ｘｊ）においては、各データｘｉ、ｘｊは、実数値を有するベクトルである。また、行列Ａは、属性の重要度または各属性間の関連を定義する変換行列で、その固有値がすべて非負（０または正）である「半正定値行列」である。そのため、初期値として単位行列を選択した場合、属性の重みをすべて「１」に定め、かつ、各属性間における相関を「０」に定めることに等しい。【００４４】
すなわち、計量適用データ分析部２００は、計量対象とする計量パラメータ（行列Ａ）と、該距離の算出対象である複数の分析対象データｘｉとｘｊとの差分との積に基づいて、前記分析対象データ間の距離を算出する。【００４５】
つぎに、「計量適用データ分析部２００」の構成について詳細に説明する。【００４６】
図３に示すように、計量適用データ分析部２００は、計量適用部２１０と、データ分析部２２０と、分析結果出力部２３０と、記憶部２４０と、分析結果記憶部２５０と、計量記憶部２６０とを有する。【００４７】
計量適用部２１０は、「計量適用処理」を実行し、分析対象データＤ１〜Ｄｎに計量を適用し、分析対象データＤ１〜Ｄｎに基づき計量から得られたデータ（例えば、計量後の値）をデータ分析部２２０に出力する。ここで、「計量」とは、「所定の関数」を分析対象データＤ１〜Ｄｎに適用し、所定値（例えば、２つの分析対象データ間の距離）を定める操作のことを指す。【００４８】
なお、計量を適用する際の「所定の関数」については特に限定しない。例えば、分析対象データＤ１〜Ｄｎに一次変換を施してもよい。この場合、Ａ＝Ｂ´Ｂの関係を満たす行列（例えば、行列Aを下三角行列と上三角行列との積に分解するＬＵ変換、行列の平方根）を用いて、ｘｉ´  ＝Ｂｘｉ  と変換する。また、例えば、上述の式２に基づいて距離を算出するものでもよい。【００４９】
データ分析部２２０は、「データ分析処理」を実行し、計量適用部２１０による計量により定められたデータを分析する。ここで、データ分析方法については限定しない。また、データ分析部２２０が分析対象とする問題は、各データｘｉとｘｊとの間の距離に基づいてデータを分析する問題であれば、任意である。例えば、分類問題、回帰問題、クラスタリング、ランキング問題などでもよい。【００５０】
分析結果出力部２３０は、「分析結果出力処理」を実行し、データ分析部２２０による分析結果を示すデータ分析結果ＡＲ、データ分析結果ＡＲに基づいて生成された分析結果マップ図ＡＭを、ファイルや外部の表示装置（図示せず）に出力する。【００５１】
この「分析結果マップ図ＡＭ」は、例えば、入出力インターフェース５０に接続されたキーボードやマウスなどの操作により、詳細情報の表示が可能なものである。また、利用者は、分析結果マップ図ＡＭに基づいて、フィードバック情報取得部５００に入力するためのフィードバック情報ＦＤの生成が可能である。【００５２】
また、分析結果出力部２３０は、次元変換部２３１を有する。この「次元変換部２３１」は、「次元変換処理」を実行し、分析結果マップ図ＡＭを生成する際に、データ分析部２２０によるデータ分析結果ＡＲをより低次元空間に対応させるよう、データ分析結果ＡＲに含まれる要素の次元を変換する。【００５３】
ここで、次元変換部２３１が次元変換する方法については限定しない。例えば、次元変換部２３１は、次元変換を施す際に、実数あるいは複素数（この説明例では、実数）を成分とする行列に対して行列分解を行う「特異値分解」を用いてもよい。さらに、特異値分解を用いる際には、その直前に実行した次元変換によって得られた変換結果に近づける制約条件を設けてもよい。【００５４】
また、例えば、次元変換部２３１は、次元変換を施す際に、求めた基底行列が負要素を含まない「非負行列分解」を用いてもよい。さらに、非負行列分解を用いる際には、その直前に実行した次元変換によって得られた変換結果に近づける制約条件を設けてもよい。【００５５】
分析結果出力部２３０は、例えば、各分析対象データＤｉが属するクラスやクラスタの可視化、データ点から元データ、クラスやクラスタを特徴づける属性などを外部の表示装置（図示せず）に表示する機能を有する。なお、この表示装置は、計量学習装置１００に必須の構成要素ではないが、計量学習装置１００に設けるよう構成してもよい。また、表示装置は、タッチパネル機能を有するものでもよい。この場合、表示装置は、利用者の操作に応じて各種データを入力する役割も果たす。【００５６】
記憶部２４０は、各種のデータを記憶する。例えば、記憶部２４０は、計量適用部２１０による分析対象データＤ１〜Ｄｎに計量を適用して得られた結果を記憶する。なお、データ分析部２２０は、記憶部２４０が記憶している計量適用後の結果を読み出す。【００５７】
分析結果記憶部２５０は、データ分析部２２０が分析した結果であるデータ分析結果ＡＲを記憶する。【００５８】
計量記憶部２６０は、計量適用部２１０が「計量適用処理」を実行するために必要な各種データを記憶する。ここでいうデータとは、例えば、計量最適化部３００によって最適化された分析対象データ計量用の所定の関係式（例えば、式２に示した関係式）を定義するデータである。【００５９】
つぎに、「計量最適化部３００」について説明する。【００６０】
計量最適化部３００は、図１に示したＣＰＵ１０と、ＲＡＭ３０と、入出力インターフェース５０と、ハードディスクドライブ６０とを用いて実現される。【００６１】
計量最適化部３００は、利用者が行う操作によりフィードバック情報取得部５００にて入力されたフィードバック情報ＦＤと、分析対象データＤ１〜Ｄｎとを取得し、取得した分析対象データＤ１〜Ｄｎに基づいて、計量を最適化することにより計量学習を行う。最適化処理の実行後、計量最適化部３００は、「計量学習結果ＭＲ」や「計量マップ図ＭＭ」を出力する。【００６２】
ここで、「計量学習結果ＭＲ」とは、上述の行列Ａに加えて、最適化処理によって得られたその他の情報を含むものである。【００６３】
また、「計量マップ図ＭＭ」とは、計量パラメータである行列Ａを低次元空間に対応させて示したものであり、分析対象データＤ１〜Ｄｎが有する属性の重要性、属性の関連性などを利用者が認識するためのものである。【００６４】
なお、計量マップ図ＭＭは、利用者により直接編集可能なものであり、計量マップ図ＭＭの編集操作によってフィードバック情報取得部５００がフィードバック情報ＦＤを取得し、取得したフィードバック情報ＦＤが計量最適化部３００に入力される。【００６５】
また、計量最適化部３００は、「計量学習終了判別処理」を実行し、計量学習の終了指示がされたか否かを判別する機能を有する。【００６６】
以下、計量最適化部３００が具備する構成について、詳細に説明する。図４に示すように、計量最適化部３００は、フィードバック変換部３１０と、サイド情報記憶部３２０と、計量学習部３３０と、計量可視化部３４０と、計量学習結果記憶部３５０とを有する。【００６７】
フィードバック変換部３１０は、「フィードバック変換処理」を実行し、フィードバック情報取得部５００にて入力されたフィードバック情報ＦＤに基づいて、「サイド情報ＳＤ」を生成する。【００６８】
ここで、「サイド情報ＳＤ」とは、計量学習に必要な情報であって、フィードバック情報ＦＤから数学的表現に変換された情報である。ここで、「サイド情報ＳＤ」が計量学習に必要とされるのは、サイド情報ＳＤは利用者の知識に基づいて生成されたものであり、サイド情報ＳＤが示す条件を分析対象データ間の距離ｄ（ｘｉ，ｘｊ）が満たすように、計量学習部３３０が計量学習を実行するからである。【００６９】
サイド情報記憶部３２０は、フィードバック変換部３１０がフィードバック情報ＦＤに基づいて生成したサイド情報ＳＤを記憶する。【００７０】
以下、この「サイド情報ＳＤ」について、詳細に説明する。【００７１】
図５に示すように、サイド情報ＳＤの種類には、分析対象データＤ１〜Ｄｎ間相互の類似度を示すペア情報３２１と、分析対象データがそれぞれ所属する各グループを示すグループ情報３２２と、各グループに所属する分析対象データの属性を示す属性情報３２３とがある。利用者から入力されたフィードバック情報ＦＤは、これらのサイド情報ＳＤを組合せることにより、その表現が変換される。【００７２】
例えば、クラスタ分析において、フィードバック情報取得部５００にて、所定のクラスタが不要であることを示すフィードバック情報ＦＤが、利用者により入力されたものとする。【００７３】
このフィードバック情報ＦＤに基づいて能動計量学習装置１００が選択可能な動作には、例えば、クラスタ中のデータを削除する動作、クラスタの分散を大きくする動作およびクラスタの特徴を示す属性の重要度を低くする動作などが対応する。この場合、能動計量学習装置１００は、入力されたフィードバック情報ＦＤに基づいて、自己が実行すべき動作を一意に定めることができない（数学的な解釈上も一意に定まらないことに対応する）。すなわち、入力されたフィードバック情報ＦＤに基づいて能動計量学習装置１００が実行すべき動作は、データセット（分析対象データＤ１〜Ｄｎ）や問題（データ分析によって利用者が所望する目的）に応じて異なる。【００７４】
このような問題を回避するために、フィードバック変換部３１０は、利用者により入力されたフィードバック情報ＦＤに基づいて、フィードバック情報ＦＤに応答して能動計量学習装置１００の動作を一意に特定する数学的表現を示す情報（サイド情報ＳＤ）に変換する。【００７５】
計量学習部３３０は、「計量学習処理」を実行し、計量（分析対象データ計量用の所定の関係式）の最適化処理である「計量学習」を行う。計量学習部３３０は、サイド情報記憶部３２０が記憶しているサイド情報ＳＤを読み出し、サイド情報ＳＤが定める条件を満たすように、距離計量に含まれるパラメータを決定変数として、最適化する。例えば、距離ｄ（ｘｉ，ｘｊ）が式２に示した関係で定められる場合、計量学習部３３０は、計量パラメータである行列Ａ内の成分の変更などにより、サイド情報ＳＤが示す条件を距離ｄ（ｘｉ，ｘｊ）が満たすように演算を実行する。【００７６】
サイド情報ＳＤには様々な形態があるが、本発明の能動計量学習装置１００では、一般的なデータペアの関係に加え、分析対象データの集合（グループ）と分析対象データとの間の距離、データ集合（グループ）間の関連度（類似性）に関する情報を、サイド情報ＳＤとして利用する。【００７７】
演算後、計量学習部３３０は、変更した「行列Ａ」に加えて、後述する「グループ半径Rk」、「グループ中心ck」、「スラック関数ξ」が有する値などを出力する。【００７８】
なお、計量学習部３３０が「グループ半径Rk」、「グループ中心ck」を求める手法については、詳細な説明を後述する。【００７９】
計量可視化部３４０は、「計量可視化処理」を実行し、計量パラメータ（例えば、行列A）を表示装置（図示せず）に表示する。計量パラメータが行列Aである場合、この計量パラメータは、高次元の空間に対して射影される。そのため、次元削減などの一般的な方法により、低次元に対応させて表した計量パラメータを算出し、計量可視化部３４０は、低次元空間に対応させた計量パラメータを図示するための計量マップ図ＭＭを出力する。【００８０】
利用者は、この計量マップ図ＭＭを参照することにより、計量学習装置１００の計量最適化部３００が学習した計量パラメータ（例えば、行列Ａ）を認識することが可能である。【００８１】
また、能動計量学習装置１００には、計量可視化部３４０が表示中の計量マップ図ＭＭが示す計量パラメータに対して、利用者が新たな制約条件を付加するためのユーザインターフェース（後述する、フィードバック情報取得部５００）が設けられている。そのため、利用者は、計量学習結果ＭＲが利用者の所望する学習結果と異なる場合、このユーザインターフェースを通じて、計量マップ図ＭＭが示す計量パラメータに対して簡易に新たな制約条件を付加可能である。【００８２】
計量学習結果記憶部３５０は、「計量学習結果記憶処理」を実行し、計量学習部３３０が演算により求めた、行列Ａ、グループ半径Rk、グループ中心ck、スラック関数ξの値などを記憶する。また、計量学習結果記憶部３５０は、利用者が連続して計量学習装置１００を利用したときの履歴を示す「利用履歴情報」を記憶する。【００８３】
つぎに、「能動学習部４００」の構成について、詳細に説明する。【００８４】
能動学習部４００は、図１に示したＣＰＵ１０と、ＲＡＭ３０と、入出力インターフェース５０とを用いて実現される。【００８５】
能動学習部４００は、計量適用データ分析部２００によるデータ分析結果ＡＲまたは分析対象データＤ１〜Ｄｎのうちから、データ分析結果ＡＲに影響を与える可能性のある重要なデータである「重要データＩＭ」を抽出する。【００８６】
さらに、能動学習部４００は、抽出した重要データＩＭをランク付する。このランク付方法は、例えば、重要データＩＭに重要度を付与するなどの一般的なランク付方法でよい。また、能動学習部４００は、「能動学習可否判別処理」により、計量学習の際に能動学習を実行するか否かを判別する機能を有する。【００８７】
ここで、能動学習部４００が抽出する「重要データＩＭ」とは、重要データＩＭの値に応じて、データ分析の進展（データ分析の途中におけるデータ分析結果）に大きな変化をもたらすデータであり、「相関のある属性」である。ここで、重要データＩＭの種別については特に限定しない。なお、重要データＩＭに関する詳細な説明は後述する。【００８８】
また、図６に示すように、能動学習部４００は、能動学習処理部４１０と、能動学習記憶部４２０と、能動学習結果出力部４３０とを有する。【００８９】
能動学習処理部４１０は、「能動学習処理」を実行し、データ分析時の計量を能動的に学習する。また、能動学習処理部４１０は、能動的に学習した結果である「能動学習結果ＳＲ」を出力する。ここで能動学習処理部４１０が行う学習動作とは、例えば、分析対象データＤ１〜Ｄｎのうちから上述した重要データＩＭを抽出する動作、抽出した重要データＩＭをランク付する動作などである。【００９０】
なお、能動学習処理部４１０は、分析結果記憶部２５０から取得したデータ分析結果ＡＲと、計量学習結果記憶部３５０から取得した計量学習結果ＭＲと、外部から取得した分析対象データＤ１〜Ｄｎと、フィードバック情報取得部５００が取得したフィードバック情報ＦＤとに基づいて、「能動学習処理」を実行する。また、能動学習処理部４１０は、「分析対象データ間を基準とする所定位置」（例えば、クラスやクラスタの分離面など）に位置している分析対象データを学習し、学習した能動学習結果ＳＲを能動学習記憶部４２０に記憶させる。【００９１】
能動学習処理部４１０が、「相関のある属性（重要データＩＭ）」を特定する特定方法は任意である。例えば、２つの変数の間の相関（類似性の度合）を示す統計学的指標である「相関係数」に基づいて、相関のある属性を特定してもよい。【００９２】
また、例えば、頻出する度合を示す「共起数」に基づいて、相関のある属性を特定してもよい。【００９３】
また、例えば、相互情報量に基づいて、相関のある属性を特定してもよく、条件付確率に基づいて、相関のある属性を特定してもよい。【００９４】
能動学習記憶部４２０は、「能動学習記憶処理」の実行により、能動学習処理部４１０による能動学習結果ＳＲ（例えば、能動学習処理部４１０が抽出した重要データＩＭなど）、フィードバック情報ＦＤを記憶する。【００９５】
能動学習結果出力部４３０は、「能動学習結果出力処理」を実行し、能動学習処理部４１０の「能動学習処理」によって得られた能動学習結果ＳＲ（例えば、重要データＩＭ、各重要データＩＭの重要度）を出力する。ここで能動学習結果の出力形態は、特に限定しない。例えば、外部の表示装置（図示せず）への表示でもよく、ファイルへの書込などであってもよい。【００９６】
以下、能動学習処理部４１０による抽出対象である「重要データＩＭ」について、より具体的に説明する。第１の例として、図７ａに示すように、複数（この例では「２」）の異なるクラス（クラスaおよびクラスb）からサンプルとして抽出した分析対象データＡ−１〜Ａ−５、Ｂ−１〜Ｂ−５を、各分析対象データが所属するクラスa、bに応じてそれぞれ分類する境界線ＢＤを定める分類問題を例に挙げて説明する。図７ａに示す重要データＩＭがクラスbに所属するデータＢ−６であるようラベリングを行えば、クラスaとクラスbとの境界線が図７ｂに示す境界線ＢＤ−１に定まる。一方、図７ａに示す重要データＩＭがクラスaに所属するデータＡ−６であるようラベリングを行えば、クラスaとクラスbとの境界線が図７ｃに示す境界線ＢＤ−２に定まる。そのため、重要データＩＭに対するラベリングの結果が、データ分析結果（境界線）に大きく影響する。【００９７】
また、第２の例として、図８ａに示す、所定のクラスタに所属する分析対象データが存在する領域を定めるクラスタリングを例に挙げて説明する。クラスタリングでも、上述の分類問題と同様に、重要データＩＭに対するラベリングの結果がデータ分析結果（領域）を大きく左右する。すなわち、図８ａに示す重要データＩＭがクラスタＣ１に属するデータＣ１−６であるようラベリングした場合、クラスタＣ１の領域は図８ｂに示す領域ＣＲ−１に定まる。一方、図８ａに示す重要データＩＭがクラスタＣ２に属するデータＣ２−１であるようラベリングした場合、クラスタＣ１の領域は、領域ＣＲ−１とは大きく異なり、図８ｃに示す領域ＣＲ−２に定まる。【００９８】
つぎに、「フィードバック情報取得部５００」について説明する。【００９９】
フィードバック情報取得部５００は、図１に示した入出力インターフェース５０と、入出力インターフェース５０に接続されたキーボード（図示せず）などを用いて実現される。【０１００】
フィードバック情報取得部５００は、「フィードバック情報取得処理」を実行し、利用者による入力操作に応じたフィードバック情報ＦＤを取得し、フィードバック変換部３１０および能動学習処理部４１０に出力する。フィードバック情報取得部５００は、利用者からの操作を受け付けるための各種入力装置（例えば、キーボード、マウス、タッチパネルなど）を有するように構成されていてもよい。また、フィードバック情報取得部５００は、「フィードバック有無判別処理」を実行することにより、利用者によるフィードバック情報ＦＤの入力の有無を判別する機能を有する。【０１０１】
つぎに、上述した構成を有する計量学習装置１００のフィードバック変換部３１０により生成される「サイド情報ＳＤ」について詳細に説明する。【０１０２】
一般的な計量学習技術で用いられる最も基本的なサイド情報ＳＤは、一対のデータ同士の距離の遠近の度合である。この場合、フィードバック情報ＦＤとして、多数存在する各分析対象データＤ１〜Ｄｎが同一のクラスタに所属するか否かを示す情報が入力された場合、最適化問題の規模（例えば、問題解決時に実行する手順の数）が大きくなってしまう。より詳細には、サイド情報ＳＤとしての対の数が、全分析対象データＤ１〜Ｄｎの数ｎの２乗のオーダ程度の値になる。【０１０３】
このような問題を回避するために、本発明の計量学習装置１００では、計量学習部３３０が、各分析対象データＤ１〜Ｄｎの少なくとも一部をまとまった１つのグループとして扱い、そのグループの半径が小さいという条件（以下、「グループ所属条件」という）を指定する。【０１０４】
換言すれば、「グループ所属条件」とは、グループ中心ckからそのグループに所属する各分析対象データへの距離が小さいということである。なお、クラスタにラベルが付与されていない状態では、グループとクラスタとは一致しない場合があることに留意する必要がある。グループとクラスタとが一致しない場合とは、例えば、複数のグループが同一のクラスタに所属する場合である。【０１０５】
本発明の計量学習装置１００では、「グループ中心ｃｋ」およびグループ中心ｃｋからの距離である「グループ半径Ｒｋ」という概念を導入してデータｘｉ、ｘｊ（分析対象データＤ１〜Ｄｎに相当する）を取り扱うことにより、所定のデータが所定のグループに所属しないという条件（以下、「グループ非所属条件」という）を指定することが可能である。【０１０６】
さらに、本発明の計量学習装置１００では、「計量学習部３３０」が、グループ半径Rkおよびグループ中心ckを用いて、グループ間の関係（例えば、各グループ間の遠近の程度）を定めることが可能である。【０１０７】
グループ中心ck間が近い場合には、各グループがそれぞれ有するグループ中心ck間の距離が、各グループがそれぞれ有するグループ半径Rkの和よりも小さくなる。また、グループ中心ckが互いに遠く離れている場合には、各グループがそれぞれ有するグループ中心ck同士の距離が、各グループがそれぞれ有するグループ半径Rk同士の和よりも大きくなる。なお、計量学習部３３０は、属性の重要度と属性間の関係についてもグループ中心ckおよびグループ半径Rkを用いて、データ分析時の条件を指定することが可能である。【０１０８】
「グループ中心ｃｋ」および「グループ半径Ｒｋ」を導入した場合、距離計量のパラメータ（例えば、式２に示した行列Ａ）に対する初期値Ａ0を与えて、与えられた初期値Ａ0からの変更値を所定範囲内に収める（初期値Ａ0からあまり遠ざからない）という条件を指定することも可能である。このような条件の指定方法によれば、行列Ａを正則化することが可能である。また、行列Ａが有していた初期値Ａ0からの変更値が小さいため、データ分析処理を繰り返し実行させる場合でも、行列Ａを初期値Ａ0に用いることが可能である。本実施形態では、最適化問題を定式化する際に、上述した「グループ所属条件」や「グループ非所属条件」などを考慮する。なお、最適化問題の処理時において指定する条件が複数ある場合、多目的最適化方法の適用による定式化が可能である。【０１０９】
以下に、この多目的最適化方法について、より具体的に説明する。この説明例では、以下の式３に基づいて、定式化を行う。【０１１０】
【数３】
2009104324.tif 000005
なお、式３において、Ｄ（Ａ，Ａ０）はＡとＡ０との差を示す量であり、例えば、行列、ベクトルノルムおよびBregman  divergence（一般的にベクトルに対して定義される擬距離）などである。また、式３中の「min」とは「minimize」の意味であり、「min」以下に記載された量を最小化することを示す。また、式３中の「s.t.」とは「subject  to」の意味であり、「s.t.」以下に記載されたconstraints（例えば、数式など）が制約条件であることを示す。【０１１１】
例えば、Ｄ（Ａ，Ａ０）が行列成分のＬ１ノルムであれば、以下の式４で表される。【０１１２】
【数４】
2009104324.tif 000006
また、例えば、Ｄ（Ａ，Ａ０）が  Burg  matrix  divergenceであれば、以下の式５で表される。【０１１３】
【数５】
2009104324.tif 000007
式４および５はそれぞれ、以下の式６に示す関係を満たす。【０１１４】
【数６】
2009104324.tif 000008
そして、Ｄ（Ａ，Ａ０）を最小化することは計量パラメータ（行列Ａ）を初期値Ａ0に近づけることである。この場合、式３に示したconstraints  （制約条件）としては、分析対象データＤ１〜Ｄｎ間の関係またはデータグループ間の関係などのような各種のサイド情報ＳＤを、制約条件として不等号の形で表現した関係式が適用される。なお、式６に示した条件は、行列Ａが半正定値行列であるための条件であり、正しいデータ間の距離を定めるための条件である。【０１１５】
式３の制約条件には様々な条件が含まれるため、すべての不等式を満たすことができない場合がある。すべての不等式が満たされない場合とは、ノイズ成分が存在する場合、サイド情報ＳＤに誤りがある場合、制約条件として与えられた関係式のうちに相互に矛盾する関係のものが存在する場合などである。このような場合、以下の式７に示すように、満たされない量をなるべく小さくするように制約条件を定式化することが可能である。【０１１６】
【数７】
2009104324.tif 000009
なお、式７に示した「Loss」とは損失関数であり、例えば、凸関数（ノルム、線形関数）などを適用する。また、距離Ｄ（Ａ，Ａ０）と損失関数Lossとの重み付き線形和を求めることにより、距離Ｄ（Ａ，Ａ０）を最小化するか、または、制約条件をなるべく満たすようにするか、のいずれかを優先するようにトレードオフの割合を調節することが可能である。【０１１７】
つぎに、図９ａ、９ｂ、図１０ａ、１０ｂを参照し、サイド情報ＳＤの定式化について詳細に説明する。【０１１８】
図９ａに示すデータ間の関連を示すための不等式は、以下の式８ａおよび式８ｂで表すことができる。【０１１９】
【数８】
2009104324.tif 000010
ここで、式８ａに示したＳは互いに類似した（similar）距離が近いデータの集合である。また、式８ｂに示したＤは互いに類似しない（dissimilar）距離の遠いデータの集合である。また、式８ａに示したξij  Sは、互いに類似したデータの集合Ｓに関するエラーの度合を示すスラック変数であり、式８ｂに示したξij  Ｄは、互いに類似しないデータの集合Ｄに関するエラーの度合を示すスラック変数である。なお、「スラック変数」とは、任意の個数以上の等式が成り立つ点である極可能点を検出するために導入された変数である。【０１２０】
また、図９ｂに示すグループ（この例では、グループb、g）内に分析対象データαが所属するか否かを判別するための不等式は、以下の式９ａおよび式９ｂで表すことができる。【０１２１】
【数９】
2009104324.tif 000011
上述の式９ａおよび式９ｂにおいて「ck」は（この例では、ｋ＝１〜２）、各グループｋのグループ中心である。グループｋに所属する場合（ＭＥＭ）には、式９ａに示したように、グループ中心ck  からの距離はグループ半径Rk以下の範囲にある。また、グループｋに所属しない場合（ＮＭＥＭ）には、式９ｂに示したように、グループ中心ck  からの距離はグループ半径Rkよりも大きな値を有する。【０１２２】
また、図１０ａに示すグループa、bおよびg  間の関連性は、以下の式１０で表すことができる。【０１２３】
【数１０】
2009104324.tif 000012
上述の式１０ａに示したＳ（ｋ）は、グループｋと近いグループの集合であり、式１０ｂに示したＤ（ｋ）は、グループｋから遠いグループの集合である。【０１２４】
さらに、以下の式１１により、図１０ｂに示した行列Ａの要素に関する制約条件を設定する。【０１２５】
【数１１】
2009104324.tif 000013
なお、式１１の左辺では、行列Ａが有する固有値の和を求めている。従って、行列Ｙi  は、行列Ａに含まれる各要素を抽出する役割を果たしている。計量学習部３３０が、フィードバック情報取得部５００が取得したフィードバック情報ＦＤまたは能動学習部４００が抽出した重要データＩＭに基づいて行列Ｙi  を変更することにより、計量最適化の対象である行列Ａの要素間の関連（属性の重要度）を変更することが可能である。なお、行列Ｙiの変更方法については限定しない。例えば、ロボットなどの外部装置から指示されたときに行列Ｙi  を変更してもよく、Ｗｅｂなどを通じて受けた指示に応答して行列Ｙi  を変更してもよい。【０１２６】
さらに、上述した式８〜１１の条件を同時に最適化する際の、条件の定式化について説明する。【０１２７】
【数１２】
2009104324.tif 000014
ここで、式１２において「ｒ」は各条件の重要度を表すパラメータであり、「Ｋ」はグループの個数である。計量学習部３３０は、上述の各パラメータの値とサイド情報ＳＤとに基づいて、最適化された行列Ａを求める。さらに、計量学習部３３０は、求めた行列Ａを用いてデータ間の距離（例えば、式２に示した距離ｄ（ｘｉ，ｘｊ））などを定める。【０１２８】
以上の問題を解くには、半正定値問題を解くための一般的なソフトウェアを用いる方法がある。しかし、このようなソフトウェアを用いた方法は、半正定値問題を解く場合の方法として最善または最速の方法ではない。能動計量学習装置１００は、ユーザインタラクション（フィードバック情報ＦＤの入力）が重要なよう構成されているため、半正定値問題をより好適に解けるように特化されている必要がある。【０１２９】
半正定値問題を簡単化した問題に関して、ＳＶＭ（サポートベクトルマシン）で一般的に用いられる「sequential  minimal  optimization  」という方法を適用する。まず、以下のような問題に、半正定値問題を簡単化する。【０１３０】
【数１３】
2009104324.tif 000015
上述の式１３にはグループ同士の関連度に関する制約条件は含まれていないが、式の変形により対応可能である。【０１３１】
なお、以下の説明においては、上述した添字を付替えて説明する。i番目の組は（j,k）の組を指すものとする。また、「ラベルｌ」を導入する。i番目の組がＤに属する場合には、i番目のラベルｌi＝１  であり、Ｓに属する場合には、ラベルｌi＝−１  である。したがって、以下の式１４に示す問題について、計量学習を実行する。【０１３２】
【数１４】
2009104324.tif 000016
また、双対問題は、以下の式１５で与えられる。【０１３３】
【数１５】
2009104324.tif 000017
式１５中には「log  det」が目的関数として含まれている。そのため、行列Ａやその逆行列  Ａ−１は正定値行列となる。正定値制約は目的関数により満たされるので、線形制約条件を満たすように、式１５の双対問題に対応する解を求めてやればよい。【０１３４】
以下では、式１５中のαiを逐次的に求める方法を説明する。なお、式１５中のαiを逐次的に求める場合、αiを更新する際には、式１６の関係を満たすように更新しなければならない。【０１３５】
【数１６】
2009104324.tif 000018
つまり、１つの要素αiだけでなく、２つの要素αiおよびｌiを同時に更新する。この更新式は、以下の式１７で与えられる。【０１３６】
【数１７】
2009104324.tif 000019
ここで、式１７中のｅj  はｊ番目の要素の値が「１」で、かつ、他の要素の値が「０」であるベクトルであり、τはステップサイズである。式１７に示した形式を双対問題の更新に当てはめた場合、以下の式１８で表される。【０１３７】
【数１８】
2009104324.tif 000020
ステップサイズτは、  logdetＡ−1（τ+1）のτによる微分が０となるように求めるのがよい。この場合には閉じた解が得られ、ステップサイズτは、以下の式１９で表される。【０１３８】
【数１９】
2009104324.tif 000021
さらに、この双対問題を解く際には、式１５に示した制約条件（以下の式２０が示す関係）を満たす必要がある。【０１３９】
【数２０】
2009104324.tif 000022
この場合、ステップサイズτは、以下のような条件付の関係式として、式２１で表される。【０１４０】
【数２１】
2009104324.tif 000023
0≦  ai  ≦Ｃiの制約条件および式１６に示した制約条件から、αを更新する際の条件が、さらに１つ必要となる。αの上限値Ｕi、αの下限値Ｌiは、ｉ番目のラベルｌiとｊ番目のラベルｌjとが等しいときは、以下の式２２で表される。【０１４１】
【数２２】
2009104324.tif 000024
αの上限値Ｕi、αの下限値Ｌiは、ｉ番目とｊ番目とのラベル間の関係が  ｌi  ≠ｌjのときは、以下の式２３で表される。【０１４２】
【数２３】
2009104324.tif 000025
すべての条件を満たす更新は、以下の式２４で表される。【０１４３】
【数２４】
2009104324.tif 000026
上述した方法を能動計量学習装置１００の計量学習部３３０に実行させる場合、アルゴリズムの概略は以下のようになる。【０１４４】
（１）初期値のαが、制約条件を満たすように選択する。【０１４５】
（２）主問題の条件を満たされない点をヒューリスティック（自己発見的学習）を用いて選択し、選択した点に関して計量パラメータの更新を行う。
（３）主問題の解は、ＫＫＴ（Karush-Kuhn-Tucker）条件（最適性の必要十分条件）に基づいて求める。【０１４６】
このように、式１４に示したように簡単化された問題に関して、逐次的に解を求めていくことができる。式１２ａ〜１２ｈに示した問題に関しても、同様の方法を適用して解けばよい。【０１４７】
式１２ａ〜１２ｈに示した問題および式１４に示した問題は、行列Ａが正定値行列となるような解を求めるものである。しかし、一般的に、距離を求めるための演算時間が大きくなってしまう場合がある。【０１４８】
この問題を回避し、演算時間を短縮するためには、行列Ａのランクを低くする必要がある。以下、行列Ａのランクを低くした低ランクの行列を求める方法を説明する。行列Ａのランクを低くする場合に解くべき双対問題は、以下の式２５で表される。【０１４９】
【数２５】
2009104324.tif 000027
行列Ａは、半正定値であるため、そのトレース（固有値の和）を最小化することにより、固有値のＬ１ノルムを最小化できる。これにより、固有値のスパース（ランクを低く落とすこと）が可能である。そのため、式２５の双対問題は、以下の式２６で表わすことができる。【０１５０】
【数２６】
2009104324.tif 000028
式２６にて、Ｄは行列Ａの双対変数であり、半正定値である。この双対変数Ｄに関する半正定値条件を線形条件で近似した場合、以下の式２７で表わすことができる。【０１５１】
【数２７】
2009104324.tif 000029
式２７に示した線形条件（線形条件により近似した半正定値条件）を用いると、式２６に示した双対問題は、以下の式２８で表わすことができる。【０１５２】
【数２８】
2009104324.tif 000030
ここで、式２８中のｄｋのノルムは「１」であるものとする。一般に、ｄｋが無限個あれば、元の半正定値計画問題と同じ問題に帰着することが知られている。この場合、双対問題を、１次不等式で表される制約条件のもとで１次の目的関数の最大値（あるいは最小値）を求める「線形計画問題」として扱うことが可能であり、その双対問題は、以下の式２９で表される。【０１５３】
【数２９】
2009104324.tif 000031
式２９に示した問題は線形計画問題であり、その問題に対する元の解Ａは、以下の式３０に対応する。【０１５４】
【数３０】
2009104324.tif 000032
式２９の問題を逐次的に解く場合、更新するαの選択基準は、主問題の制約条件を最も満たさないようにαを選択することである。【０１５５】
また、距離ｄは、以下の式３１（上述の式２８に示した制約条件の左辺）が有する値を最小化する問題である。【０１５６】
【数３１】
2009104324.tif 000033
すなわち、以下の式３２に示す値の最大固有ベクトルを求める問題に帰着する。【０１５７】
【数３２】
2009104324.tif 000034
上述した方法を計量学習部３３０に実行させる場合、アルゴリズムは以下のようになる。
（１）αの初期値を選択し、式２８に示した双対問題を解き、距離ｄを決める。
（２）距離ｄを用いて、式２８に示した双対問題に対応する式２９の線形計画問題を解き、αを改めて選択する。【０１５８】
なお、この問題を解く際の終了条件は、以下の式３３で表される値の最小固有値が非負であることと、かつ、式２９の線形計画問題に含まれるすべての制約条件が満たされることである。【０１５９】
【数３３】
2009104324.tif 000035
線形計画問題を逐次的に解くことにより、上述した双対問題の解を得るための演算時間をより短縮し、効率よく解くことが可能である。なお、この説明例で適用した解法は「cutting  plane」と呼ばれる手法と、「column  generation」と呼ばれる手法とを組合わせたものである。【０１６０】
計量学習部３３０は、上述した手法に従って求めた行列Ａ、グループ中心ｃｋ、グループ半径Ｒｋおよびスラック変数ξの値などを出力し、計量学習結果記憶部３５０は、計量学習部３３０が出力した各値を記憶する。また、利用者が複数回連続して能動計量学習装置１００を使用した場合、計量学習結果記憶部３５０は、使用の履歴が登録された「利用履歴情報」も記憶する。【０１６１】
つぎに、計量最適化部３００が最適化した計量結果を利用者が視認できるよう、計量可視化部３４０が、最適化した結果を、入出力インターフェース５０に接続された表示装置に表示する「計量可視化処理」について説明する。【０１６２】
計量可視化部３４０は、図１に示した入出力インターフェース５０に接続された表示装置に、計量パラメータ（行列Ａ）を表示する。ここで、行列Ａは、対角成分が属性の重要性を示す情報と、非対角成分は属性間の類似度を示す情報とを有するものである。そのため、行列Ａが有する各情報を、計量マップ図ＭＭとして表示装置に表示することにより可視化する。【０１６３】
「計量マップ図ＭＭ」は、行列Ａを低次元空間に対応させることにより行列Ａを示した図であり、分析対象データＤ１〜Ｄｎが有する属性の重要性や属性間の関連性を利用者が視覚的に認識可能なものである。この計量マップ図ＭＭを、利用者が直接編集することで、フィードバック情報ＦＤをフィードバック情報取得部５００に入力することが可能となる。【０１６４】
以下に、最適化された計量を可視化するために、計量可視化部３４０が表示する「計量マップ図ＭＭ」を説明する。【０１６５】
図１１に示すように、計量マップ図ＭＭは、計量パラメータ（行列Ａ）の非対角成分を用いて、類似度の高い属性間にエッジを張り、グラフとして表す。【０１６６】
さらに、計量可視化部３４０は、多次元尺度構成法により、各属性の低次元空間（図１１の場合、２次元）での座標を計算し、描画する。なお、図１１に示す計量マップ図ＭＭでは、「属性の重み」を反映するために、属性の重みに応じて、属性名（単語）を示す文字のサイズを大きくして表示している。【０１６７】
また、行列Ａは類似する程度を示す「類似度行列」であるため、カーネル主成分分析などを行う場合にも適用可能である。このように、計量マップ図ＭＭを用いて、行列Ａが有する要素を分析することにより、利用者は、学習した計量に関する知見を得ることが可能となる。【０１６８】
また、学習した結果が、利用者が所望する目的に適合しない場合、新たな制約条件を設定し（与え）、設定した制約条件を適用し、新たな学習動作を実行させればよい。そのため、計量マップ図ＭＭに対する新たな制約条件を利用者が設定可能とするためのフィードバック情報取得部５００（ユーザインタフェース）を備え、制約条件を簡単に追加することが可能である。【０１６９】
本発明の計量学習装置１００では、上述した制約条件下で計量学習を行う際に、外部から入力された分析対象データＤ１〜Ｄｎに応じて各種の計量学習動作を実行するよう構成されていてもよい。【０１７０】
そのため、計量学習装置１００が有する能動学習処理部４１０は、入力されたデータに応じた複数の異なる計量学習時の動作モードを有する。【０１７１】
以下、能動学習処理部４１０による各動作モードについて説明する。【０１７２】
第１の動作モードは、計量学習を行う際に、分析対象データＤ１〜Ｄｎ、または、分析対象データＤ１〜Ｄｎに計量を適用して得られた演算結果を用いる「第１計量学習モード」である。第１計量学習モードでは、まず、（ア）能動学習処理部４１０は、分析に重要な重要データＩＭを抽出する。ここで抽出する重要データＩＭは、処理対象とする問題や分析対象データＤ１〜Ｄｎに依存する。処理対象とする問題とは、例えば、一般的な技術の実験計画法、データ間の関連性（相関を含む）からネットワーク上でハブに相当する点の抽出などである。続いて、（イ）抽出した重要データＩＭが有する属性のうちから、重要な属性を抽出する。重要な属性の抽出方法は、一般的な抽出方法でよい。【０１７３】
また、第２の動作モードは、計量学習を行う際に、データ分析結果ＡＲおよび分析対象データＤ１〜Ｄｎに計量を適用して得られた演算結果を用いる「第２計量学習モード」である。第２計量学習モードでは、能動学習処理部４１０は、データ分析結果ＡＲに対する重要データＩＭを抽出する。なお、抽出する重要データＩＭは、処理対象とする問題や分析対象データＤ１〜Ｄｎに依存する。例えば、図７ａに示した分類問題や図８ａに示したクラスタリングの場合、分類面に近い点（マージン指標）などが使用できる。【０１７４】
また、「第３計量学習モード」では、能動学習処理部４１０は計量学習を能動的に行う際に、計量記憶部３５０が記憶している計量パラメータおよび利用履歴情報と、分析対象データＤ１〜Ｄｎから計量の変化、分析対象データＤ１〜Ｄｎがそれぞれ有する各属性間の相関などの関連性から、フィードバック情報取得部５００がつぎに取得するフィードバック情報ＦＤを予測する。ここで予測するフィードバック情報ＦＤとは、例えば、新たな属性、新たな属性の関連性、不要となる属性、不要となる関連性などである。このようなフィードバック情報ＦＤの変化に応じて能動学習動作は、本発明に特徴的な動作であり、一般的な計量学習技術が有しないものである。【０１７５】
また、「第４計量学習モード」では、フィードバック情報ＦＤを用いて、フィードバック変換部３１０による「フィードバック変換処理」を実行し、フィードバック情報ＦＤの解釈を示すサイド情報ＳＤを生成する。例えば、クラスタが不要であることを示すフィードバック情報ＦＤが入力された場合、クラスタに含まれている文書の要否、属性に付与された重要度が過大であるか否かなどの確認を利用者に促すメッセージを表示する。そして、そのメッセージに応じて利用者から入力された指示（例えば、文書が必要である、重要度が過大である、など）に従って、能動学習処理部４１０は、計量学習動作を能動的に実行する。【０１７６】
また、「第４計量学習モード」では、フィードバック情報ＦＤのうちから属性に関連する可能性のある情報を識別することにより自動的に抽出し、利用者に確認を促すメッセージを表示するようにしてもよい。そのメッセージに応じて、利用者が、例えば、「２つのクラスを同一視する（処理上、同一のクラスとして取り扱う）」というフィードバック情報ＦＤを入力した場合、２つのクラスを同一のクラスとして取り扱うための属性を表示する。【０１７７】
次に、上述した構成を有する計量学習装置１００にて計量学習動作を行う場合の処理内容を説明する。図１２に示すように、この一連の計量学習動作は、「分析対象データ入力処理（ステップ６１１）」と、「能動学習処理（ステップ６１２）」と、「フィードバック有無判別処理（ステップ６１３）」と、「フィードバック情報取得処理（ステップ６１４）」と、「計量学習処理（ステップ６１５）」と、「計量適用データ分析処理（ステップ６１６）」と、「計量学習終了判別処理（ステップ６１７）」とによって実行される。【０１７８】
「分析対象データ入力処理（ステップ６１１）」により、計量適用データ分析部２００、計量最適化部３００および能動学習部４００は、外部から入力された分析対象データＤ１〜Ｄｎを取得する。【０１７９】
続いて、能動学習部４００は、「能動学習可否判別処理」により能動学習を行うか否かを判別する。能動学習を行うと判別した場合、能動学習部４００は、「能動学習処理（ステップ６１２）」を実行し、重要データＩＭの抽出、抽出した重要データＩＭのランク付などを実行する。能動学習を行わないと判別した場合、「能動学習処理（ステップ６１２）」を実行することなく、後述のステップ６１３の処理を実行する。【０１８０】
フィードバック情報取得部５００は、「フィードバック有無判別処理（ステップ６１３）」を実行し、利用者によるフィードバック情報ＦＤの入力の有無を判別する。フィードバック情報ＦＤが入力されたと判別した場合（ステップ６１３；Ｙｅｓ）、フィードバック情報取得部５００は、「フィードバック情報取得処理（ステップ６１４）」を実行し、フィードバック情報ＦＤを取得する。その後、フィードバック情報取得部５００が取得したフィードバック情報ＦＤに基づいて、能動学習部４００が「能動学習処理（ステップ６１２）」を実行する。一方、フィードバック情報取得部５００がフィードバック情報ＦＤが入力されていないと判別した場合（ステップ６１３；Ｎｏ）、後述のステップ６１５の処理を実行する。【０１８１】
計量最適化部３００は、「計量学習処理（ステップ６１５）」を実行し、フィードバック情報取得部５００が取得したフィードバック情報ＦＤをサイド情報ＳＤに変換する。そして、計量最適化部３００は、変換したサイド情報ＳＤが示す条件を満たすように計量の最適化処理を実行し、最適化処理によって求めた行列Ａ、グループ半径Rk、グループ中心ck、スラック関数ξなどの値を出力する。【０１８２】
計量適用データ分析部２００は、「計量適用データ分析処理（ステップ６１６）」を実行し、計量最適化部３００により最適化された行列Ａによる計量を分析対象データＤ１〜Ｄｎに適用する。そして、計量適用データ分析部２００は、分析対象データＤ１〜Ｄｎに対する計量適用後の値を求め、求めた値にデータ分析処理を施した後に、データ分析結果ＡＲを、入出力インターフェース５０に接続された表示装置に出力する。【０１８３】
計量最適化部３００は、「計量学習終了判別処理（ステップ６１７）」を実行し、計量学習の終了指示がされたか否かを判別する。計量学習の終了指示がされていなければ（ステップ６１７；Ｎｏ）、ステップ６１２の処理を再度実行する。一方、計量学習の終了指示がされていれば（ステップ６１７；Ｙｅｓ）、一連の計量学習動作を終了する。【０１８４】
つぎに、このような計量学習動作に従って、能動計量学習装置１００が各種の問題に関する計量を学習する具体例を説明する。【０１８５】
能動計量学習装置１００が処理対象とする問題は、任意の場面における問題であってよい。第１の例として、商品のマーケッタが、商品に関するブログデータのうちから所定期間を１つのまとまった単位とするブログデータまたは文章のデータをその内容（トピック）に応じて分別し、分別したデータからトレンドや評判を抽出または収集する場合に適用可能である。【０１８６】
また、第２の例として、研究者が、新規に与えられた研究を開始する際に、その研究が属する分野における情報を検索する場合にも適用可能である。【０１８７】
上述の２つの例では、いずれの場合においても、一般的なクラスタリングシステムを用いると、先ず、前処理として分析に使用する単語の集合を選定する必要がある。この選定作業は、専門知識を必要とするものであり、手間のかかる作業である。しかし、本発明の能動計量学習装置１００では、能動学習部４００が、フィードバックを与える可能性のある情報（例えば、ヒント）や重要な属性などを識別し、出力（例えば、表示装置への表示など）を行う。これにより、利用者は、単語を選定する際、語彙の追加情報などを取得でき、専門知識を有していない場合でも、情報の検索などを行うことが可能である。【０１８８】
また、計量最適化部３００は、属性、文書クラスタリングの場合、単語に関する重要度や関連度をサイド情報ＳＤが示す条件を満たすよう、最適化する。すなわち、一般的なクラスタリングシステムでは、前処理として検索対象の単語の集合を選定する際、利用者が専門知識を有していない場合、好適な単語を選定できないおそれがある。しかし、本発明の計量学習装置１００では、計量が最適化されるため、単語の集合を選定する際の補助機能を果たす。【０１８９】
さらに、計量学習装置１００は、機械システムなどの故障診断に関する問題を処理対象とすることも可能である。この場合、故障の原因となる属性や属性間の関連性を、所定基準値と異なる外れ値を検出する外れ値検出問題、分類問題、クラスタリングなどを通じて、効率的に検出することが可能となる。【０１９０】
以下、上述の第１の例である「文書クラスタリング」についての実施例を詳細に説明する。なお、この例では、入力される分析対象データは「文書データ」であるものとする。また、計量学習前に実行される「数値化処理」により、文書データは計量を定義可能なよう数値化され、ベクトルとして表される。ここで数値化の方法については特に限定しないが、例えば、公知の形態素解析等を利用して単語を抽出する方法、文書の属性を定義および抽出する方法などが適用可能である。【０１９１】
「文書クラスタリング」で学習対象とする計量は「各文書間の距離ｄ（ｘｉ，ｘｊ）」であり、計量パラメータＡを用いて、上述の式２で表される。なお、計量を計算するためのパラメータ（行列Ａ）は、単語の重要度や単語間の関連度を表す行列である。【０１９２】
入力された分析対象データは「数値化処理」によって数値化された後、文書ベクトルとして、分析対象データ記憶部１１０に記憶される。【０１９３】
分析対象データ（文書データ）に対して、能動学習装置４００が、一般的な実験計画法、一般的な１クラスＳＶＭなどの特異値検出法により、データの重要度に応じて、データに対するスコア付を行う。【０１９４】
また、属性についても、上述と同様の方法により重要度を算出し、算出した重要度を用いて、データや重要な属性に関する質問内容（属性は重要であるか、それとも外れ値であるかの確認、データは重要であるか、それとも外れ値であるかの確認などを含む）と、各質問内容に回答するよう利用者に促すメッセージとを、入力インターフェース５０に接続された表示装置（図示せず）に表示する。能動学習結果記憶部４４０は、表示装置（図示せず）に表示されたメッセージに応じて利用者が入力した質問に対する回答を示すフィードバック情報ＦＤを記憶する。【０１９５】
能動計量学習装置１００は、能動学習結果記憶部４４０が記憶するフィードバック情報ＦＤが示す利用者の回答内容に基づいて、分析対象データや属性に関する重要度を、使用属性や使用データを削減する。分析対象データ記憶部１１０は、削減した結果を記憶する。【０１９６】
また、能動学習の結果を用いて、計量最適化部３００を用いて計量学習を行うことも可能である。この場合、重要である単語（または文書）の重みを上げ、重要でない単語（または文書）には重みを下げるように計量パラメータを学習する。計量最適化部３００にて学習した計量パラメータは、計量学習結果記憶部３５０に記憶される。【０１９７】
続いて、データ分析部２２０は、削減されたデータまたは計量学習の結果を用いて、クラスタ分析を行う。クラスタの分析方法は、一般的なクラスタ分析方法と同じである。クラスタ分析時では、能動学習処理を省くことも可能である。この場合、入力データに対してデータ間距離ｄ（ｘｉ，ｘｊ）を基礎情報として用いて、クラスタ分析を実行すればよい。なお、分析結果記憶部２５０は、クラスタ分析によって得られたデータ分析結果ＡＲを記憶する。【０１９８】
上述の処理を、より詳細な具体例を用いて説明する。まず、入出力インターフェース５０に接続されたキーボードなどにより、利用者により入力されたＰＣ（Personal  Computer）についてのブログ記事を取得する。【０１９９】
つぎに、一般的な形態素解析プログラム（例えば、Juman）を用いて、ＣＰＵ１０が、取得したブログ記事の内容から単語を抽出し、抽出した単語を分別し、１記事を１ベクトル（文書ベクトル）に変換する。分析対象データ記憶部１１０は、ベクトルに変換された各記事を記憶する。【０２００】
データ分析部２２０は、ベクトル変換された各記事と属性とに対して主成分分析を実行し、分布の中央付近のデータ（記事）および属性、分布から外れているデータおよび属性を抽出する。ここで行う主成分分析の方法は、一般的な主成分分析の方法でよい。【０２０１】
能動計量学習装置１００は、単語や属性の重要性に関する質問内容（ある単語が重要な値または外れ値であるか、ある属性が重要な値または外れ値であるか、など）と、その質問に回答するよう利用者に促すメッセージとを、表示装置（図示せず）に表示する。能動学習結果記憶部４４０は、フィードバック情報取得部５００にて取得したフィードバック情報ＦＤ（利用者が入力した質問に対する回答）を記憶する。利用者の回答内容とは、例えば、重要な値である場合には「Ｙｅｓ」、外れ値である場合には「Ｎｏ」、である。【０２０２】
この例では、以下のような第１の質問内容を表示したものとする。【０２０３】
（第１の質問例）ブログデータにて出現する頻度の多い、「２００７年」、「日記」、「ＰＣ」、「モバイルＰＣ」はそれぞれ重要な値であるか、それとも外れ値であるか？
また、第１の質問に対する回答として、以下のような回答を、フィードバック情報取得部５００が利用者から取得したものとする。【０２０４】
（第１の質問に対する回答例）ＮＯ、ＮＯ、ＹＥＳ、ＹＥＳ
さらに、この例では、以下のような第２の質問内容を表示したものとする。【０２０５】
（第２の質問例）外れ値と推定される「ＡＣＥＲ」、「俳句」はそれぞれ重要な値であるか、それとも外れ値であるか？
（第２の質問に対する回答例）ＹＥＳ、ＮＯ
能動学習結果記憶部４４０は、フィードバック情報取得部５００にて取得した、各質問に対する利用者の回答を示すフィードバック情報ＦＤを記憶する。【０２０６】
また、フィードバック情報取得部５００により利用者から得たフィードバック情報ＦＤに対応する２つの異なる動作（アクション）が可能である。【０２０７】
「第１の動作」は、ＣＰＵ１０が、重要でないデータまたは重要でない属性を「削減」する動作である。この場合、重要でないデータが削減された後の残りの分析対象データを、分析対象データ記憶部１１０に記憶させる。【０２０８】
続いて、計量最適化部３００は、利用者の回答をフィードバック情報ＦＤとして、利用者の回答を反映するように計量パラメータ（行列Ａ）を最適化する。計量記憶装置３５０は、最適化によって得られた結果を記憶する。【０２０９】
データ分析部２２０は、計量最適化部３００にて最適化された計量パラメータＡを用いて、一般的なk-meansクラスタ分析を実行する。分析結果記憶部２５０は、k-meansクラスタ分析により得られた結果を記憶する。【０２１０】
なお、事前情報がない場合、最初（第１回目）の分析に用いる計量パラメータには、すべての属性に対して重みが同一で、かつ、類似度が「０」である単位行列を用いる。また、事前情報が存在する場合や、以前の分析結果に続けて分析を開始したい場合には、任意の行列を計量の初期行列として用いる。なお、計量パラメータ（行列Ａ）は、計量学習結果記憶部３５０に記憶されている。【０２１１】
分析結果記憶部２５０に記憶されているクラスタ分析の結果は、各文書が所属するクラスタを示す情報である。このクラスタ分析の結果に基づいて、各クラスタに属するすべての文書ベクトルの特定が可能である。これにより、クラスタ中心、クラスタ半径（例えば、クラスタ中心からの距離の平均または７５％点など）などを算出できる。分析結果出力部２３０は、クラスタ中心やクラスタ半径を算出し、分析結果記憶部２５０は、その算出結果を記憶する。【０２１２】
データ分析部２２０が分析した結果を図示するための分析結果マップ図ＡＭ（クラスタマップ図）を参照することにより、利用者は、データ分析部２２０が分析した結果を俯瞰することが可能であり、また、詳細を調べることが可能となる。このクラスタマップ図は、以下の３つの要素を有する。【０２１３】
１．各クラスタの大きさ（クラスタが所属するデータの数）、クラスタ半径
２．各クラスタを特徴付ける特徴属性（特徴語）の数、特徴語を有する文書の数、特徴語がそのクラスタに出現する割合などの簡単な統計量
３．クラスタ間の距離を反映した配置やクラスタ類似度を示すためのリンク
ここで、分析結果マップ図ＡＭの一例であるクラスタマップ図について説明する。【０２１４】
図１３に示すように、分析結果マップ図ＡＭ（クラスタマップ図）において、各クラスタＣ１１、Ｃ１２、Ｃ１３は円柱として表され、各円柱の体積は各クラスタＣ１１〜Ｃ１３に含まれる文書数を表し、円柱の半径は分布の散布する程度（散らばり度）を表す。また、図１３の例では、各クラスタにおいて複数の特徴語ＦＷ１〜ＦＷ６が表示されている。また、互いに類似するクラスタ間では、互いに類似することを示すための「リンク」が張られている。例えば、クラスタＣ１１とクラスタＣ１２とが類似することを示すために、リンクＬ１２が張られている。【０２１５】
利用者は、このクラスタマップ図を参照した状態で、能動学習結果からヒントなどを得ることが可能となる。そして、図１に示した入出力インターフェースに接続されたキーボードやマウスなどの操作により、フィードバック情報ＦＤをフィードバック情報取得部５００に入力する。【０２１６】
なお、図１３に示した分析結果マップ図ＡＭ（クラスタマップ図）の参照時に入力可能なフィードバック情報ＦＤの種類としては、例えば、以下のような情報がある。【０２１７】
１．クラスタが必要であるか否か（「必要」または「不要」のいずれか）
２．クラスタを「分割」するか、または、「結合」するか
３．類似するクラスタ間におけるリンクの「接続」、または、「切断」
これらのフィードバック情報ＦＤは、フィードバック情報取得部５００による取得後、フィードバック変換部３１０によりサイド情報ＳＤに変換される。【０２１８】
１．必要なクラスタについては、そのクラスタに属し、かつ特徴語を含む文書ベクトルを抽出し、抽出により得られたデータが構成するデータ集合のグループ半径Ｒｋを小さくするような制約条件を生成する。この制約条件は、上述した式１２ｃに相当する。【０２１９】
２．また、不要なクラスタについては、クラスタの特徴語の重みを下げる。この場合、式１２ｇに示した制約条件に相当する。【０２２０】
３．クラスタ分割の場合は、分割対象となるクラスタに所属する複数の特徴語を、複数のグループに分別する。その後、各特徴語を含む文書ベクトルを抽出することにより、複数のクラスタ（グループ）を作成する。この場合、式１２ｃに示した制約条件を複数作成する。【０２２１】
また、分割したクラスタ（グループ）同士の距離ｄが近い場合、分割前に同一のクラスタに含まれていた特徴語が再度同じクラスタに所属する場合がある。これを回避し、分割したクラスタ同士を遠ざけるために、式１２ｆに示した制約条件を使用する。【０２２２】
４．クラスタを結合する場合には、結合対象とするクラスタの特徴語を含む文書ベクトルをそれぞれ抽出し、マージした上で、グループを生成する。この場合、式１２ｃに示した制約条件を使用する。【０２２３】
５．クラスタ間の関連性を示す情報は、クラスタ間の距離ｄが近い場合には、式１２ｅに示した制約条件を使用する。また、クラスタ間の距離ｄが遠い場合には、式１２ｆに示した制約条件を使用する。【０２２４】
以上の制約条件（サイド情報ＳＤ）は、サイド情報記憶部３２０に記憶される。【０２２５】
つぎに、利用者によりフィードバック情報ＦＤが入力される例について説明する。【０２２６】
図１４に示すように、クラスタ間を接続するためのリンクＬを追加する場合、各クラスタから延びたリンクの先端が接続可能であることを示すマーク（図中の○）で表される。【０２２７】
図１４の例では、利用者は、ビジネス用途のパソコン（クラスタＣ２５に所属する特徴語）が、特選街というサイト（クラスタＣ２３に所属する特徴語）で販売している、ということを認識している。そのため、クラスタＣ２５とクラスタＣ２３とを互いに接続させようとしている。【０２２８】
一方、クラスタ間のリンクＬを切断する場合、各クラスタから延びたリンクの先端が接続されていないことを示すマーク（図中の×）で表される。【０２２９】
図１４の例では、利用者は、ビジネス用途のパソコン（クラスタＣ２５に所属する特徴語）を所望しており、直販サイトが一般用途のパソコン（クラスタＣ２２に所属する特徴語）のみを取り扱っていることを認識している。そのため、クラスタＣ２５とクラスタＣ２２とを切断しようとしている。【０２３０】
さらに、利用者は、特選街というサイト（クラスタＣ２３に所属する特徴語）では、一般用途のパソコン（クラスタＣ２２に所属する特徴語）を販売していない、ということを認識している。そのため、クラスタＣ２３とクラスタＣ２２とを切断しようとしている。【０２３１】
また、図１４に示した分析結果マップ図ＡＭの例では、利用者は、クラスタＣ２１の特徴語は必要であると認識している一方、クラスタＣ２４の特徴語は不要（外れ値）であると認識している。そのため、利用者の認識に対応したフィードバック情報ＦＤが、フィードバック情報取得部５００に入力される。【０２３２】
その後、フィードバック変換部３１０は、フィードバック情報ＦＤに変換を施すことにより、サイド情報ＳＤを生成する。サイド情報記憶部３２０は、生成されたサイド情報ＳＤを記憶する。計量学習部３３０は、そのサイド情報ＳＤを用いて、計量パラメータＡを最適化する。計量学習結果記憶部３５０は、求めた計量パラメータ（行列Ａ）を記憶する。計量可視化部３４０は、学習した行列Ａを表す計量マップ図ＭＭを、表示装置（図示せず）に表示する。【０２３３】
図１１に示したように、「計量マップ図ＭＭ」において、各単語は長方形の枠内に表される。また、各長方形の大きさは、単語の重要度をそれぞれ表している。また、単語間におけるリンクの長さまたは太さにより、単語間の類似度を表す。上述したように、単語の重要度は軽量パラメータ（行列Ａ）の対角成分であり、単語間類似度は行列Ａの非対角成分である。【０２３４】
利用者は、この計量マップ図ＭＭを参照しつつ、単語や単語間類似度の重要度に関するフィードバック情報ＦＤをフィードバック情報取得部５００に入力することが可能である。さらに、単語を新規に登録し、登録された単語と他の単語との間の類似度を入力することも可能である。【０２３５】
また、能動学習部４００は、重要なデータや属性に関する質問のほか、フィードバック手順の調整、最適化なども行う。【０２３６】
つまり、利用者が所望の目的を達成するためのヒントを得られるよう、各種のフィードバック情報ＦＤを選択するための最適化された順序を表示する。ここでいう「フィードバック情報ＦＤを選択するための順序」とは、例えば、不要クラスタを最初に選択し、必要クラスタをつぎに選択し、クラスタ間リンクに関するフィードバックをさらに選択するといった一連の選択順序である。能動学習結果出力部４３０は、この選択順序に従って選択することを利用者に促すメッセージを表示する。これにより、計量学習処理の開始から終了までの分析ループ回数、分析時間を短縮することを可能にする。【０２３７】
計量適用データ分析部２００は、得られた計量を適用して、計量適用データ分析を行う。これにより、フィードバック情報ＦＤに基づいて求めた計量結果が、利用者が所望するデータ分析結果に適合しているか否かを識別する。【０２３８】
計量学習処理部３３０は、分析結果マップ図ＡＭの表示中に入力されたフィードバック情報ＦＤに対応して計量を適用する。計量可視化部３４０は、計量適用後のクラスタリングの結果（計量マップ図ＭＭ）を表示する。【０２３９】
例えば、図１４に示した分析結果マップ図ＡＭの表示中に入力されたフィードバック情報ＦＤに対応して計量を適用した場合、図１５に示すクラスタリング結果（計量マップ図ＭＭ）が得られる。この例では、パソコンと経帯電話との組に分別されている。【０２４０】
さらに、ビジネス用途のパソコンに関するクラスタと、一般用途のパソコン販売に関するクラスタとが分別されており、用途別に分別されている。利用者は、図１５の計量結果を所望の目的に適合するようさらに変更するため、新たなフィードバック情報ＦＤを入力し、能動計量学習を再度実行させることができる。【０２４１】
なお、利用者が所望する結果が得られた場合、計量最適化部３００は、「計量学習終了判別処理」を実行し、計量学習の終了指示がされたか否かを判別する。計量学習の終了指示がされていると判別した場合、計量学習動作を終了する。【０２４２】
以上説明したように、本発明の能動計量学習装置１００によれば、フィードバック変換部３１０は、外部から取得したフィードバック情報ＦＤに基づいて計量学習に必要なサイド情報ＳＤを生成し、計量学習部３３０は、サイド情報ＳＤに基づいて、計量学習を実行する。【０２４３】
これにより、一般的な計量学習装置よりも多様なサイド情報ＳＤを処理可能となり、利用者が有する情報を十分に活用可能となる。【０２４４】
また、本発明の能動計量学習装置１００によれば、計量可視化部３４０は、計量パラメータ（例えば、行列Aなど）を低次元に対応させて表した計量マップ図ＭＭを出力する。これにより、利用者は、この計量マップ図ＭＭを参照することにより、計量学習装置１００の計量最適化部３００が学習した計量パラメータ（例えば、行列Ａ）を認識することが可能である。【０２４５】
また、本発明の能動計量学習装置１００によれば、計量最適化部３００には、計量マップ図ＭＭが示す計量パラメータに対して、利用者が新たな制約条件を付加するためのユーザインターフェースが設けられている。これにより、利用者がサイド情報ＳＤを生成する際の手間（例えば、データ照会の処理における手間）が軽減される。【０２４６】
また、本発明の能動計量学習装置１００によれば、能動学習部４００は、データ分析結果ＡＲや分析対象データＤ１〜Ｄｎのうちから、データ分析結果ＡＲに影響を与える可能性のある重要データＩＭを抽出する。そして、能動学習部４００は、抽出した重要データＩＭのランク付を行い、能動学習結果出力部４３０が、能動学習結果を出力する。これにより、多量の分析対象データＤ１〜Ｄｎから抽出した重要な情報を利用者に提示可能となり、ひいては、利用者の作業効率を向上できる。【０２４７】
また、本発明の能動計量学習装置１００によれば、外部から取得した分析対象データＤ１〜Ｄｎのうちの少なくとも１つの分析対象データをそれぞれ含む複数のグループを生成し、各グループが有するグループ中心ckおよびグループ半径Rkに基づいて、計量を最適化する。【０２４８】
これにより、データ分析における計量を学習する際に、演算コストを低減することができる。【０２４９】
なお、本発明においては、能動計量学習装置１００内の処理は上述の専用のハードウェアにより実現されるもの以外に、その機能を実現するためのプログラムを能動計量学習装置１００にて読取可能な記録媒体に記録し、この記録媒体に記録されたプログラムを能動計量学習装置１００に読み込ませ、実行するものであってもよい。能動計量学習装置１００にて読取可能な記録媒体とは、フロッピーディスク（登録商標）、光磁気ディスク、ＤＶＤ、ＣＤなどの移設可能な記録媒体の他、能動計量学習装置１００に内蔵されたＨＤＤ等を指す。この記録媒体に記録されたプログラムは、例えば、能動計量学習装置１００が有するＣＰＵ１０にて読み込まれ、ＣＰＵ１０の制御によって、上述したものと同様の処理が行われる。【０２５０】
ここで、能動計量学習装置１００が有するＣＰＵ１０は、プログラムが記録された記録媒体から読み込まれたプログラムを実行するコンピュータとして動作するものである。【０２５１】
以上、本実施形態を参照して本発明を説明したが、本発明は上記実施形態に限定されるものではない。本発明の構成や詳細には、本発明の要旨を逸脱しない範囲で当業者が理解し得る各種の変形が可能である。【０２５２】
この出願は、２００８年２月２２日に出願された日本出願特願２００８−０４１４２０を基礎とする優先権を主張し、その開示のすべてをここに取り込む。
【図１】
2009104324.tif 000036
【図２】
2009104324.tif 000037
【図３】
2009104324.tif 000038
【図４】
2009104324.tif 000039
【図５】
2009104324.tif 000040
【図６】
2009104324.tif 000041
【図７ａ】
2009104324.tif 000042
【図７ｂ】
2009104324.tif 000043
【図７ｃ】
2009104324.tif 000044
【図８ａ】
2009104324.tif 000045
【図８ｂ】
2009104324.tif 000046
【図８ｃ】
2009104324.tif 000047
【図９ａ】
2009104324.tif 000048
【図９ｂ】
2009104324.tif 000049
【図１０ａ】
2009104324.tif 000050
【図１０ｂ】
2009104324.tif 000051
【図１１】
2009104324.tif 000052
【図１２】
2009104324.tif 000053
【図１３】
2009104324.tif 000054
【図１４】
2009104324.tif 000055
【図１５】
2009104324.tif 000056
【手続補正書】
【提出日】平成22年8月23日(2010.8.23)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
複数の属性を有する分析対象データと該分析対象データ間の距離を計算するための計量とを入力として、前記分析対象データ間の距離を計算する計量適用部と、
前記計量適用部が計算した前記分析対象データ間の距離を用いて所定の関数により該分析対象データを分析し、該分析によって得られたデータ分析結果を出力するデータ分析部と、
前記データ分析部が出力したデータ分析結果を記憶する分析結果記憶部と、
から構成される計量適用データ分析部と、
前記分析結果記憶部に記憶されている分析対象データ間の類似度と属性とのいずれか、または、それらの組合せからなる外部から入力されたフィードバック情報が示す指示に基づいて、計量学習に必要な情報であるサイド情報を生成するフィードバック変換部と、
前記フィードバック変換部が生成したサイド情報に基づいて所定の条件に従った計量を生成し、該生成した計量を計量学習結果記憶部に記憶させる計量学習部と、
から構成される計量最適化部と、
を有し、
前記計量適用部は、前記計量学習結果記憶部に記憶されている計量を用いて、前記分析対象データ間の距離を計算する、
ことを特徴とする能動計量学習装置。
【請求項２】
前記分析対象データと、該分析対象データに計量を適用して得られたデータと、該計量を分析した結果である分析結果とのいずれか、または、それらの組合せに基づいて、前記分析対象データの能動学習を行い、該学習した能動学習結果を能動学習記憶部に記憶させる能動学習部、を有することを特徴とする、請求項１に記載の能動計量学習装置。
【請求項３】
前記計量適用データ分析部は、
前記分析結果記憶部に記憶されている分析結果に対し次元変換を施す次元変換部と、
前記次元変換部が次元変換を施した後の分析結果を表示する分析結果出力部と、
を有することを特徴とする、請求項１または２に記載の能動計量学習装置。
【請求項４】
前記フィードバック変換部が生成するサイド情報が、前記分析対象データ集合間の類似度と、該分析対象データ集合と該分析対象データとの間の距離と、該分析対象データと他の分析対象データとの関係を示すペアであることを特徴とする、請求項１から３のいずれか１項に記載の能動計量学習装置。
【請求項５】
前記能動学習部は、
前記分析対象データと、該分析対象データに計量を適用したデータと、分析結果とのいずれか、またはこれらの組合せに基づいて過去にフィードバックされた属性と相関のある属性を特定する能動学習処理部と、
前記能動学習処理部が特定した属性を、フィードバックのための候補として提示する能動学習結果出力部と、
を有することを特徴とする、請求項２または３に記載の能動計量学習装置。
【請求項６】
前記計量適用部は、計量対象とする計量パラメータと、該距離の算出対象である複数の分析対象データの差分との積に基づいて、前記分析対象データ間の距離を計算することを特徴とする、請求項１に記載の能動計量学習装置。
【請求項７】
前記データ分析部が前記分析対象データを分析する際の前記所定の関数が、該分析対象データの一次変換であることを特徴とする請求項１または２に記載の能動計量学習装置。
【請求項８】
前記所定の重要データを学習する際に、実験計画法を用いる、マージンを最大化する、相互情報量を最適化する、のいずれかを行うことを特徴とする、請求項２に記載の能動計量学習装置。
【請求項９】
前記フィードバック変換部が前記サイド情報を生成する際に用いるフィードバック情報が示す指示は、クラスタの要否と、属性の要否と、クラスタ間距離の調整との少なくとも１つであり、
前記フィードバック変換部は、
前記フィードバック情報が、クラスタが必要であることを指示する場合、該クラスタの特徴的な属性をもつデータ同士の距離を小さくする制約条件に対応するように、前記サイド情報を生成する、
前記フィードバック情報が、クラスタが必要であることを指示する場合、該クラスタの特徴的な属性の重要度を大きくする制約条件に対応するように、前記サイド情報を生成する、
前記フィードバック情報が、クラスタが不要であることを指示する場合、該クラスタの特徴的な属性の重要度を小さくする制約条件に対応するように、前記サイド情報を生成する、
前記フィードバック情報がクラスタ間の距離を調整することを示す場合、該クラスタの中心の間の距離を調整する制約条件に対応するように、前記サイド情報を生成する、
前記フィードバック情報がクラスタを分割することを示す場合、クラスタ内の複数の特徴となる属性を同定し、それらを含むデータを抽出し、それぞれの重要度を大きくするサイド情報を生成する、
前記フィードバック情報がクラスタを分割することを示す場合、クラスタ内の複数の特徴となる属性を同定し、それらを含むデータを抽出し、それぞれの重要度を大きくし、かつ、それぞれの集合の中心を遠ざけるようにサイド情報を生成する、
前記フィードバック情報がクラスタを分割することを示す場合、そのクラスタを再クラスタリングし、結果生成した複数のクラスタ内のデータとその中心との距離を近づけるようにサイド情報を生成する、
前記フィードバック情報がクラスタを分割することを示す場合、そのクラスタを再クラスタリングし、結果生成した複数のクラスタ内のデータとその中心との距離を近づけるように、かつ中心間の距離を遠ざけるようにサイド情報を生成する、
のいずれかを行うことを特徴とする、請求項１または請求項２に記載の能動計量学習装置。
【請求項１０】
前記次元変換部は、前記次元変換を施す際に、
特異値分解、
該次元変換の直前に実行した次元変換によって得られた変換結果に近づける制約をつけた特異値分解、
非負行列分解、
該次元変換の直前に実行した次元変換によって得られた変換結果に近づける制約をつけた非負行列分解、
のいずれかを用いることを特徴とする、請求項３に記載の能動計量学習装置。
【請求項１１】
前記計量学習部は、前記計量を生成する際に、
半正定値計画問題を、一般的ライブラリを用いて解き、または
分析対象データが構成するグループに付与されたラベルに基づいて変形された半正定値計画問題を、一変数の場合を含む小問題に分割して最適化を繰返し実行することにより解き、または
計量対象である計量パラメータのランクを低くした半正定値計画問題を、一変数の場合を含む小問題に分割して最適化を繰返し実行することにより解く、
ことを特徴とする、請求項１または２に記載の能動計量学習装置。
【請求項１２】
前記能動学習処理部は、相関係数、共起数、相互情報量、条件付確率のいずれかに基づいて、前記相関のある属性を特定することを特徴とする、請求項５に記載の能動計量学習装置。
【請求項１３】
複数の属性を有する分析対象データと該分析対象データ間の距離を計算するための計量とを入力として、前記分析対象データ間の距離を計算する計量適用処理と、
前記計量適用処理にて計算した前記分析対象データ間の距離を用いて所定の関数により該分析対象データを分析し、該分析によって得られたデータ分析結果を出力するデータ分析処理と、
前記データ分析処理にて出力したデータ分析結果を記憶する分析結果記憶処理と、
から構成される計量適用データ分析処理と、
前記分析結果記憶処理により記憶されている分析対象データ間の類似度と属性とのいずれか、または、それらの組合せからなる外部から入力されたフィードバック情報が示す指示に基づいて、計量学習に必要な情報であるサイド情報を生成するフィードバック変換処理と、
前記フィードバック変換処理にて生成したサイド情報に基づいて所定の条件に従った計量を生成し、該生成した計量を計量学習結果記憶処理により記憶させる計量学習処理と、  から構成される計量最適化処理と、
を有し、
前記計量適用処理では、前記計量学習結果記憶処理により記憶されている計量を用いて、前記分析対象データ間の距離を計算する、
ことを特徴とする能動計量学習方法。
【請求項１４】
前記分析対象データと、該分析対象データに計量を適用して得られたデータと、該計量を分析した結果である分析結果とのいずれか、または、それらの組合せに基づいて、前記分析対象データの能動学習を行い、該学習した能動学習結果を能動学習記憶処理にて記憶させる能動学習処理、を有することを特徴とする、請求項１３に記載の能動計量学習方法。
【請求項１５】
前記計量適用データ分析処理では、
前記分析結果記憶処理にて記憶されている分析結果に対し次元変換を施す次元変換処理と、
前記次元変換処理にて次元変換を施した後の分析結果を表示する分析結果出力処理と、  を有することを特徴とする、請求項１３または１４に記載の能動計量学習方法。
【請求項１６】
前記フィードバック変換処理にて生成するサイド情報が、前記分析対象データ集合間の類似度と、該分析対象データ集合と該分析対象データとの間の距離と、該分析対象データと他の分析対象データとの関係を示すペアであることを特徴とする、請求項１３から１５のいずれか１項に記載の能動計量学習方法。
【請求項１７】
前記分析対象データと、該分析対象データに計量を適用したデータと、分析結果とのいずれか、またはこれらの組合せに基づいて過去にフィードバックされた属性と相関のある属性を特定する能動学習処理と、
前記能動学習処理にて特定した属性を、フィードバックのための候補として提示する能動学習結果出力処理と、
から構成される能動学習処理を有することを特徴とする、請求項１４または１５に記載の能動計量学習方法。
【請求項１８】
前記計量適用処理では、計量対象とする計量パラメータと、該距離の算出対象である複数の分析対象データの差分との積に基づいて、前記分析対象データ間の距離を計算することを特徴とする、請求項１３に記載の能動計量学習方法。
【請求項１９】
前記データ分析処理にて前記分析対象データを分析する際の前記所定の関数が、該分析対象データの一次変換であることを特徴とする、請求項１３または請求項１４に記載の能動計量学習方法。
【請求項２０】
前記所定の重要データを学習する際に、実験計画法を用いる、マージンを最大化する、相互情報量を最適化する、のいずれを行うことを特徴とする、請求項１４に記載の能動計量学習方法。
【請求項２１】
前記フィードバック変換処理にて前記サイド情報を生成する際に用いるフィードバック情報が示す指示は、クラスタの要否と、属性の要否と、クラスタ間距離の調整との少なくとも１つであり、
前記フィードバック変換処理では、
前記フィードバック情報が、クラスタが必要であることを指示する場合、該クラスタの特徴的な属性をもつデータ同士の距離を小さくする制約条件に対応するように、前記サイド情報を生成する、
前記フィードバック情報が、クラスタが必要であることを指示する場合、該クラスタの特徴的な属性の重要度を大きくする制約条件に対応するように、前記サイド情報を生成する、
前記フィードバック情報が、クラスタが不要であることを指示する場合、該クラスタの特徴的な属性の重要度を小さくする制約条件に対応するように、前記サイド情報を生成する、
前記フィードバック情報がクラスタ間の距離を調整することを示す場合、該クラスタの中心の間の距離を調整する制約条件に対応するように、前記サイド情報を生成する、
前記フィードバック情報がクラスタを分割することを示す場合、クラスタ内の複数の特徴となる属性を同定し、それらを含むデータを抽出し、それぞれの重要度を大きくするサイド情報を生成する、
前記フィードバック情報がクラスタを分割することを示す場合、クラスタ内の複数の特徴となる属性を同定し、それらを含むデータを抽出し、それぞれの重要度を大きくし、かつ、それぞれの集合の中心を遠ざけるようにサイド情報を生成する、
前記フィードバック情報がクラスタを分割することを示す場合、そのクラスタを再クラスタリングし、結果生成した複数のクラスタ内のデータとその中心との距離を近づけるようにサイド情報を生成する、
前記フィードバック情報がクラスタを分割することを示す場合、そのクラスタを再クラスタリングし、結果生成した複数のクラスタ内のデータとその中心との距離を近づけるように、かつ中心間の距離を遠ざけるようにサイド情報を生成する
のいずれかを行うことを特徴とする、請求項１３または１４に記載の能動計量学習方法。
【請求項２２】
前記次元変換処理では、前記次元変換を施す際に、
特異値分解、
該次元変換の直前に実行した次元変換によって得られた変換結果に近づける制約をつけた特異値分解、
非負行列分解、
該次元変換の直前に実行した次元変換によって得られた変換結果に近づける制約をつけた非負行列分解
のいずれかを用いることを特徴とする、請求項１５に記載の能動計量学習方法。
【請求項２３】
前記計量学習処理では、前記計量を生成する際に、
半正定値計画問題を、一般的ライブラリを用いて解く、または
分析対象データが構成するグループに付与されたラベルに基づいて変形された半正定値計画問題を、一変数の場合を含む小問題に分割して最適化を繰返し実行することにより解く、または
計量対象である計量パラメータのランクを低くした半正定値計画問題を、一変数の場合を含む小問題に分割して最適化を繰返し実行することにより解く
ことを特徴とする、請求項１３または１４に記載の能動計量学習方法。
【請求項２４】
前記能動学習処理では、相関係数、共起数、相互情報量、条件付確率のいずれかに基づいて、前記相関のある属性を特定することを特徴とする、請求項１７に記載の能動計量学習方法。
【請求項２５】
複数の属性を有する分析対象データと該分析対象データ間の距離を計算するための計量とを入力として、前記分析対象データ間の距離を計算する計量適用手順と、
前記計量適用手順にて計算した前記分析対象データ間の距離を用いて所定の関数により該分析対象データを分析し、該分析によって得られたデータ分析結果を出力するデータ分析手順と、
前記データ分析手順にて出力したデータ分析結果を記憶する分析結果記憶手順と、
から構成される計量適用データ分析手順と、
前記分析結果記憶手順により記憶されている分析対象データ間の類似度と属性とのいずれか、または、それらの組合せからなる外部から入力されたフィードバック情報が示す指示に基づいて、計量学習に必要な情報であるサイド情報を生成するフィードバック変換手順と、
前記フィードバック変換手順にて生成したサイド情報に基づいて所定の条件に従った計量を生成し、該生成した計量を計量学習結果記憶手順により記憶させる計量学習手順と、  から構成される計量最適化手順と、
をコンピュータに実行させるプログラムにおいて、
前記計量適用手順では、前記計量学習結果記憶手順により記憶されている計量を用いて、前記分析対象データ間の距離を計算することを特徴とするプログラム。
【請求項２６】
前記分析対象データと、該分析対象データに計量を適用して得られたデータと、該計量を分析した結果である分析結果とのいずれか、または、それらの組合せに基づいて、前記分析対象データの能動学習を行い、該学習した能動学習結果を能動学習記憶手順にて記憶させる能動学習手順、を有することを特徴とする、請求項２５に記載のプログラム。
【国際調査報告】
2009104324.tif 000057
2009104324.tif 000058
2009104324.tif 000059
2009104324.tif 000060