(57)【特許請求の範囲】
【請求項１】
マルチ・ファクタ・データの分析及び合成を行うコンピュータに基づく装置であって、
少なくとも２つの分離可能なファクタによって定義可能な複数の観測されたデータ値を蓄積するための手段と、
前記の観測されたデータに基づいて前記の少なくとも２つの分離可能なファクタの各々についてパラメータ・ベクトルを決定するためのパラメータ手段と、
前記の観測されたデータに基づき、前記の少なくとも２つのファクタ同士の相互作用を表す少なくとも１つの結合行列を決定するための行列手段と、
を備え、
各データ・ポイントがモデル化され、２つのファクタの場合のモデルの対称バージョンが式(１)として表され、
【数１】
0004279375.tif 000007
Ｙkscは第１のファクタのインデックスＳ及び第２のファクタのインデックスＣで観測されたデータのｋ番目のベクトル成分、ａｓは第１のファクタのインデックスＳについての第１のファクタのパラメータを表すＩ次元ベクトル、ｂｃは第２のファクタのインデックスＣについての第２のファクタのパラメータを表すＪ次元ベクトル、ｇｉｊｋはｋ番目の出力成分についての２つのファクタ同士の相互作用を表すＩ×Ｊ結合行列を表し、ファクタが追加されると、追加のパラメータ・ベクトルが式(１)の被乗数に含まれ、結合行列ｇはファクタの個数と同じ数の次元を持ち、積は全てのファクタにわたって合計される、
ことを特徴とするマルチ・ファクタ・データ分析・合成装置。
【請求項２】
前記の観測されたデータ値の各々は複数の成分を含んでおり、前記行列手段は該データ値の各成分に対応する結合行列を決定することを特徴とする請求項１に記載のマルチ・ファクタ・データ分析・合成装置。
【請求項３】
少なくとも１つの試験データを受け入れるための手段と、
その少なくとも１つの試験データに関して少なくとも１つのファクタについて少なくとも１つのパラメータ・ベクトルを決定するための手段と、
をさらに備えたことを特徴とする請求項１に記載のマルチ・ファクタ・データ分析・合成装置。
【請求項４】
少なくとも１つのファクタについて観測されたデータとは異なるファクタ値を有する複数の試験データを受け入れるための手段と、
その試験データの少なくとも１つのファクタについて試験パラメータ・ベクトルを決定するための手段と、
その試験パラメータ・ベクトルに基づいて新しいデータを作るための手段と、  をさらに備えたことを特徴とする請求項１に記載のマルチ・ファクタ・データ分析・合成装置。
【請求項５】
マルチ・ファクタ・データの分析及び合成を行うコンピュータに基づく装置であって、
少なくとも２つの分離可能なファクタによって定義可能な複数の観測されたデータ値を蓄積するための手段と、
前記の観測されたデータに基づいて少なくとも１つの分離可能なファクタについてパラメータ・ベクトルを決定するためのパラメータ手段と、
前記の観測されたデータに基づいて少なくとも１つの他の分離可能なファクタについてパラメータ行列を決定するための行列手段と、
を備え、
各データ・ポイントがモデル化され、２つのファクタの場合のモデルの非対称バージョンが式(２)として表され、
【数２】
0004279375.tif 000008
Ｙkscは第１のファクタのインデックスＳ及び第２のファクタのインデックスＣで観測されたデータのｋ番目のベクトル成分、Ａは第１のファクタを表すパラメータ行列、ｂｃは第２のファクタのインデックスＣについての第２のファクタのパラメータを表すＪ次元ベクトルを表し、Ａは第１のファクタのインデックスＳについての第１のファクタのパラメータを表すベクトルａｓとｋ番目の出力成分についての２つのファクタ同士の相互作用を表す行列ｇｋの積であり、ファクタが追加されると、追加のパラメータ・ベクトルが式(２)の被乗数に含まれ、行列ｇはファクタの個数と同じ数の次元を持ち、積は全てのファクタにわたって合計されることを特徴とするマルチ・ファクタ・データ分析・合成装置。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、データを分析して未知のデータの内容を分類したり、失われているデータの内容を作り直すためのマルチ・ファクタ・データ分析・合成装置、特に、複数のファクタの行列として表現され得るデータの分析に関する。
【０００２】
【従来の技術】
多くの学習問題は、複数の独立したファクタの相互作用を通して作られたデータの認識、分類、或いは合成を必要とする。例えば、光学式文字認識システムを使用して、珍しいフォントの文字を認識することができる。音声分析は、いろいろな音色特性を有するいろいろな話者からの単語の認識を必要とする。適応型コントローラは、新しいペイロード条件で状態−空間軌道を作ることを必要とすることがある。これらの種類の問題は、各々、２つのファクタに分解することができ、その各ファクタは複数の要素を持っていて、それらは相互に作用し合って実際のデータを作る。解説を容易にするために、その２つのファクタを“内容”及び“スタイル”と称することにする。例えば、光学式文字認識に使用されるタイポグラフィでは、各文字は、内容として字(Ａ、Ｂ、Ｃ、等)と、スタイルとしてのフォント(タイムズ、ヘルベチカ、クーリエ、等)とを包含する。印刷及び手書きの双方で、人は一般にフォントや手書きとは無関係に字を認識することができる。しかし、光学式文字認識システムは一般にテンプレート比較に基づいている。従って、それらのシステムは、未知のフォントではうまく動作せず、手書きの多様さでは極端にまずい。従って、それらのシステムは他のファクタ(フォント又は手書き)と無関係に１つのファクタ(字)の要素を分類することはできない。
【０００３】
同様に、音声認識では、発音された単語(内容)の音は話者(スタイル)から大きな影響を受ける。従って、音を分析してパターンを決定するシステムは、新しい話者には困惑する。このことは、特に話者が強いアクセントを持っているときに、人についても当てはまる。しかし、アクセントの強い人に或る時間にわたってさらされると、聞く人は、発音された単語を遙かに容易に確定できるようになる。聞く人は話のスタイルから内容を区別することを学習する。一方、音声認識システムは、各話者について特別のトレーニングをしなければならない。その様なシステムは、一般に、新しい話者やアクセントを認識せず、時間がたってもそれを学習することができない。
【０００４】
従って、新しいスタイルを伴う内容を認識するためにデータの内容及びスタイルを容易に分離するシステムが必要である。既知のスタイルで新しい内容を作ることもできるシステムが必要である。
【０００５】
協同ベクトル量子化(Cooperative Vector Quantization (ＣＶＱ))によってファクタの複合体から形成されるデータのモデル化についての理論的研究がいろいろな人によってなされている。G.E. Hinton及びR.Zemelは、“オートエンコーダー、最小記述長及びヘルムホルツの自由エネルギー”("Autoencoders, Minimum Description Length and Helmholtz Free Energy,", NIPS 6, (1994))でファクタ複合体(factorial mixtures)に関する理論を開示している。Z. Ghahramaniは、“ファクタ学習及びＥＭアルゴリズム”("Factorial Learning and the EM Algorithm," NIPS 7, 657-674 (1995))で、複合体モデルをデータ分析に応用するシステムを開示している。これらのシステムで使用されるＣＶＱでは、各ファクタの各要素にコード・ベクトルが割り当てられる。各データ・ポイントは、各ファクタからの１コード・ベクトルの一次結合としてモデル化される。従って、ファクタ同士は加法的にのみ作用し合う。これらの研究者が提案したモデルの一次性は、この人たちの理論のモデル化能力をひどく制限する。ファクタ同士が加法的にも作用し合わないことがしばしばある。例えば、タイポグラフィ(活版印刷術)では、字とフォントとは各文字を形成するために加法的に結合されない。むしろ、フォントは各字の一定の特徴を著しく限定する。
【０００６】
【発明が解決しようとする課題】
従って、ファクタ同士の複雑な相互作用をモデル化すると共に、データ分析時にモデルを簡単に処理できるようにするシステムが必要であるという課題があった。
【０００７】
現存するシステムと、複数ファクタ問題について以前になされた理論的アプローチとの欠点は、複数ファクタ・データ用のコンピュータに基づく装置を提供する本発明によって実質的に克服される。
【０００８】
【課題を解決するための手段】
この発明は、マルチ・ファクタ・データの分析及び合成を行うコンピュータに基づく装置であって、少なくとも２つの分離可能なファクタによって定義可能な複数の観測されたデータ値を蓄積するための手段と、前記の観測されたデータに基づいて前記の少なくとも２つの分離可能なファクタの各々についてパラメータ・ベクトルを決定するためのパラメータ手段と、前記の観測されたデータに基づき、前記の少なくとも２つのファクタ同士の相互作用を表す少なくとも１つの結合行列を決定するための行列手段と、を備え、各データ・ポイントがモデル化され、２つのファクタの場合のモデルの対称バージョンが式(１)として表され、
【数３】
0004279375.tif 000002
Ｙkscは第１のファクタのインデックスＳ及び第２のファクタのインデックスＣで観測されたデータのｋ番目のベクトル成分、ａｓは第１のファクタのインデックスＳについての第１のファクタのパラメータを表すＩ次元ベクトル、ｂｃは第２のファクタのインデックスＣについての第２のファクタのパラメータを表すＪ次元ベクトル、ｇｉｊｋはｋ番目の出力成分についての２つのファクタ同士の相互作用を表すＩ×Ｊ結合行列を表し、ファクタが追加されると、追加のパラメータ・ベクトルが式(１)の被乗数に含まれ、結合行列ｇはファクタの個数と同じ数の次元を持ち、積は全てのファクタにわたって合計される、ことを特徴とするマルチ・ファクタ・データ分析・合成装置にある。
【０００９】
またこの発明は、前記の観測されたデータ値の各々は複数の成分を含んでおり、前記行列手段は該データ値の各成分に対応する結合行列を決定することを特徴とするマルチ・ファクタ・データ分析・合成装置にある。
【００１０】
またこの発明は、少なくとも１つの試験データを受け入れるための手段と、その少なくとも１つの試験データに関して少なくとも１つのファクタについて少なくとも１つのパラメータ・ベクトルを決定するための手段と、をさらに備えたことを特徴とするマルチ・ファクタ・データ分析・合成装置にある。
【００１１】
またこの発明は、少なくとも１つのファクタについて観測されたデータとは異なるファクタ値を有する複数の試験データを受け入れるための手段と、その試験データの少なくとも１つのファクタについて試験パラメータ・ベクトルを決定するための手段と、その試験パラメータ・ベクトルに基づいて新しいデータを作るための手段と、をさらに備えたことを特徴とするマルチ・ファクタ・データ分析・合成装置にある。
【００１２】
またこの発明は、マルチ・ファクタ・データの分析及び合成を行うコンピュータに基づく装置であって、少なくとも２つの分離可能なファクタによって定義可能な複数の観測されたデータ値を蓄積するための手段と、前記の観測されたデータに基づいて少なくとも１つの分離可能なファクタについてパラメータ・ベクトルを決定するためのパラメータ手段と、前記の観測されたデータに基づいて少なくとも１つの他の分離可能なファクタについてパラメータ行列を決定するための行列手段と、を備え、各データ・ポイントがモデル化され、２つのファクタの場合のモデルの非対称バージョンが式(２)として表され、
【数４】
0004279375.tif 000003
Ｙkscは第１のファクタのインデックスＳ及び第２のファクタのインデックスＣで観測されたデータのｋ番目のベクトル成分、Ａは第１のファクタを表すパラメータ行列、ｂｃは第２のファクタのインデックスＣについての第２のファクタのパラメータを表すＪ次元ベクトルを表し、Ａは第１のファクタのインデックスＳについての第１のファクタのパラメータを表すベクトルａｓとｋ番目の出力成分についての２つのファクタ同士の相互作用を表す行列ｇｋの積であり、ファクタが追加されると、追加のパラメータ・ベクトルが式(２)の被乗数に含まれ、行列ｇはファクタの個数と同じ数の次元を持ち、積は全てのファクタにわたって合計されることを特徴とするマルチ・ファクタ・データ分析・合成装置にある。
【００１３】
本発明の１つの特徴に従って、データは、各ファクタのパラメータに対応する２つの一次形式の積としてモデル化される。データは、データをモデル化するために使用される双一次形式を有する物理的プロセスから得られるとは限らない。しかし、双一次形式の次元数を充分に大きくすれば、モデルは既知のトレーニング・データを任意の精度で表すことができる。
【００１４】
本発明の他の特徴に従って、このシステムは複数ファクタ相互作用を有するトレーニングからモデル・パラメータを決定する。通常、トレーニング・データは、各内容及びスタイルの種類に関する観測結果の完全な行列である。しかし、或る種の分析では、トレーニング・データに内容及びスタイルに関して完全なラベルを付けても良く、ラベルを全く付けなくても良く、また部分的にラベルを付けても良い。更に、本システムはその行列の中に未知の観測結果を有するトレーニング・データからパラメータを合理的に決定することができる。そのパラメータを決定するために、システムは、各ファクタについてのパラメータ・ベクトルと、各ファクタについてのパラメータ・ベクトルを結合させるための結合行列とに基づいてモデルを作る。パラメータ・ベクトル及び結合行列の中の要素の値は、トレーニング・データに基づいて、推定−最大化法(Estimation‐Maximization (EM) techniques)によって反復的に決定される。
【００１５】
本発明の他の特徴に従って、パラメータ・ベクトルが得られると、システムを使用して未知のデータを分析することができる。その分析を使用して、未知のスタイルでのデータの内容を分類することができる。この様に、このシステムを使用して、光学式文字認識との関係で新しいスタイルの字を認識したり、或いは新しい話者の言葉を認識したりすることができる。その分析を使用して既知のスタイルの新しい内容を作ることもできる。従って、このシステムは、例えば、与えられたフォントの、失われた文字を作るなど、失われたデータを完成させることができる。
【００１６】
【発明の実施の形態】
本発明は、既知のデータ及び未知のデータを分析するために双一次モデルを使用する。双一次モデルは、２つ以上のファクタに分解することのできるデータを表現する。２つのファクタを“内容”及び“スタイル”と見なすことができる。図１の(ａ)〜(ｃ)は、タイポグラフィのフォントに適用されるときの２つのファクタを示している。内容は表示されている字であり、スタイルはフォントである。下記の例は２つのファクタに関するものであるけれども、本発明のプロセスは任意の数のファクタを含むようにも容易に拡張し得るものである。
【００１７】
本発明の実施の形態では、各データ・ポイントは、その下にあるファクタの分離可能な関数として、即ち、ファクタのパラメータに対応する一次形式の積として、モデル化される。そのために、各ファクタは任意の疑似変換でモデルの出力に作用することができる。種々のファクタ・モデルを使用してデータ及びファクタを表示することができる。全てのスタイル操作が疑似変換に対応するわけではないけれども、ファクタのベクトル表示に基づく単純な一次モデルが容易な学習で充分に正確な処理結果を提供する。もちろん、もっと複雑な、非一次モデルを使用してファクタ相互作用を表示することができるけれども、ファクタ・パラメータの学習及び応用の両方のために、だんだん複雑になってゆく計算が必要になる。モデルの対称バージョンが式(１)として表されている。
【００１８】
【数１】
0004279375.tif 000004
【００１９】
この式で、Ｙkscは、スタイル・インデックスＳ及び内容−クラス・インデックスCで観測されたデータのｋ番目のベクトル成分であり、ａｓは、スタイル・インデックスＳについての第１ファクタのパラメータを表すＩ次元ベクトルであり、ｂｃは内容クラス・インデックスＣについての第２ファクタのパラメータを表すＪ次元ベクトルであり、ｇｉｊｋはｋ番目の出力成分についての２つのファクタ同士の相互作用を表すＩ×Ｊ行列である。ファクタが追加されると、追加のパラメータ・ベクトルが式(１)の被乗数に含まれることになり、結合アレイｇはファクタの個数と同じ数の次元を持つことになり、積は全てのファクタにわたって合計される。
【００２０】
本発明は、一次相互作用を伴う物理的プロセスから生じるデータのモデル化には限定されない。双一次モデルではファクタ同士が線形に作用し合うけれども、物理的プロセスが線形である必要はない。ファクタのパラメータは、そのファクタの実際の或いは既知の変数と必ずしも関連するとは限らない。それは仮想変数の線形性を表す。例えば、関数ｙ＝ｃ３ｘ３＋ｃ２ｘ２＋ｃ１ｘは変数ｘの立方方程式である。一方、これをベクトルＢ＝(ｘ３,ｘ２,ｘ)の一次方程式であると見なすことができる。パラメータ・ベクトルはファクタの実際の変数と特定の対応関係を持っていないので、ベクトルの次元を大きくすると、実際にファクタの下にある変数に非線形性を取り入れる結果となり得る。更に、式(１)のパラメータ・ベクトル及び結合行列は、後述するように、反復プロセスを通して実際のトレーニング・データから学習されるので、パラメータ・ベクトルの次元の数はトレーニング・プロセス中に使用される既知のデータの量によってのみ限定される。
【００２１】
式(１)のモデルでは、各データ・ポイントに寄与する別々のファクタを識別することはできない。場合によっては、１つ以上のファクタが特別に重要となる。その様な場合には、モデルの非対称型バージョン、即ち式(２)、を使用することができる。式(２)では、Ａは第１ファクタを表す行列であり、ｂは、この場合にも第２ファクタについてのパラメータ・ベクトルである。従って、Ａは式(１)のａ及びｇの積である。式(２)を使用すれば、第１ファクタについてのパラメータ・ベクトルと結合行列との両方のいろいろな要素を決定する必要はない。従って、式(２)は、式(１)の場合よりも少ない学習データで有意義な情報を提供することができる。
【００２２】
【数２】
0004279375.tif 000005
【００２３】
双一次モデルは、既知のトレーニング・データからパラメータを決定すると共に、決定されたパラメータに基づいて未知のデータを分析するための基礎として使用される。図１の(ａ)〜(ｃ)は、本発明を使用するデータの実行可能な分析を示している。これらの図の各々において、３４０は、トレーニング・プロセスで使用される既知のデータの行列を表している。図示のように、この行列は５つの既知のスタイルと既知の５種類の内容とを含んでいる。パラメータが学習されると、未知のデータを分類(図１の(ａ))、外挿(図１の(ｂ))、及び変換(図１の(ｃ))のために分析することができる。分類については、未知のデータ３５０は、新しいスタイルの未分類のデータを含んでいる。システムはデータから適切なカテゴリー、即ち字、を決定する。外挿については、システムは新しい観測結果の集合から新しいデータ・ポイントを作る。図１の(ｂ)に示されているように、システムは新しいスタイル３６５の失われている内容(“？”３６０で表されている)を確定することができる。同様に新しい内容の失われているスタイルも確定することができる。最後に、変換では、システムは、新しい内容と新しいスタイル３７５との両方を有するデータで内容３７０とスタイル３８０とのデータを作る。
【００２４】
図２は、本発明との関連で使用することのできるコンピュータ・ハードウェアを示している。命令ステップの集合がメモリ２０に蓄積されて、メモリ２０に接続されている中央処理装置(ＣＰＵ)１０で実行される。メモリは、ＲＡＭ、ＲＯＭ、ＣＤ−ＲＯＭ、及び磁気ディスク又は磁気テープなど、既知の如何なる種類のメモリでも良い。ＣＰＵ１０は、その命令の実行中に必要に応じてユーザーに情報を出力するためのディスプレイ３０にも接続されている。キーボード４０及びマウス５０などの入力装置がＣＰＵ１０に接続されていて、ユーザーは命令の実行を制御するときに入力をすることができるようになっている。本発明のシステムによって処理されるデータを入力するために、入力６０もＣＰＵ１０に接続されている。入力６０を通して入力されたデータは、処理中メモリ２０に蓄積されることができる。或いは、データを蓄積するために、実行可能な命令を有するメモリとは別のメモリ(図示せず)を使用することもできる。出力７０は、データに関連する情報をＣＰＵ１０から出力することを可能にする。
【００２５】
図３は、本発明のシステムの動作の流れ図である。システムは２部分で動作する。トレーニング・プロセス１００では、２つのファクタの各々についてパラメータを決定するために行列に編成されたデータが分析される。トレーニング・プロセス１００の後のアプリケーション・プロセス２００では、前述したように、失われている情報を確定するために２つのファクタについてのパラメータが未知のデータに適用される。アプリケーション・プロセス２００はトレーニング・プロセス後のどのときに行われても良く、異なる未知のデータで何回繰り返されても良い。ファクタについてのパラメータをより厳密に確定するために、新しいデータでトレーニング・プロセス１００を反復して、既知のデータのいっそう大きな行列を作ることができる。
【００２６】
トレーニング・データを適当なモデルに適合させるために幾つかの方法を使用することができる。トレーニング・データ中の情報の量及び種類に基づいて方法が選択される。トレーニング・データにはラベルが付けられ、或いはラベルが付けられず、或いは部分的にラベルが付けられる。図１のタイポグラフィのデータについては、各字は字の値とフォントとに従って分類される。或いは、字の値は分かっているけれども、フォントが分からない(或いはその逆)ということもあり得る。また、字とフォントとが与えられないこともある。また、データと所望のアプリケーションとに応じて、式(１)又は式(２)がモデルとして選択される。
【００２７】
トレーニング・データを適合させるためのプロセスとしてどのような方法が選択されるとしても、そのプロセスは、双一次関数での正則値分解(singular value decomposition (SVD))の使用に基づいている。トレーニング・データが既知のスタイル及び内容の両方の完全な行列を含んでいるならば、このＳＶＤプロセスを後述するように直ちに使用することができる。このプロセスは図３では明確に示されていない。また、非対称モデルをトレーニング・データに適合させるための正則値分解プロセスの使用方法が文献“J. KoenderinckおよびA. van Doorn, インターナショナル・ジャーナル・オブ・コンピュータ・ビジョン(Int´l Journal of Computer Vision) (1997)”で解説されており、これを参照により本書に取り入れるものとする。対称モデルについては、正則値分解プロセスの使用方法が文献“D. Marimount and B. Wandell,ジャーナル・オブ・ザ・オプティカル・ソサエティ・オブ・アメリカ(Journal of the Optical Society of America), A 9, 1905 (1992)”で解説されており、これを参照により本書に取り入れるものとする。
【００２８】
トレーニング・データの完全な行列が与えられると、与えられたスタイル及び内容の観測データの平均値としてｋ次元ベクトルが作られる。それらのベクトルは、スタイル及び内容に対応する行及び列を持った観測行列に形成される。非対称モデルを適合させるために、ＹのＳＶＤ(ＵＳＶＴ)が計算される。Ｕの始めのＪ個の列は行列Ａとして定義され、ＳＶＴの始めのＪ個の行は行列Ｂとして定義される。モデルの次元数Ｊを、先行する情報により、データの充分に良好な近似を求めることにより、或いは正則値スペクトルのギャップを探すことにより、選択することができる。行列Ａ及びＢはパラメータ推定値として識別される。
【００２９】
対称モデルについては、反復処理手順を使用してモデル・パラメータを適合させて局所的に最適の解を確定することができる。非対称モデルの場合と同様にＳＶＤが適用されるけれども、スタイル・ファクタ及び内容ファクタの役割を交替させるために観察行列の要素が整理し直される。通常は５回以内の反復で反復処理手順の収斂が達成される。
【００３０】
図３は、トレーニング・データに関して完全とは言えない情報が知られているときに使用される、もう少し複雑なプロセスを示している。これは、データが失われていること、或いはトレーニング・データの一部又は全部の(内容又はスタイルに関する)ラベルが失われていることの結果として行われることのあるプロセスである。図３に示されているトレーニング・プロセス１００において、ステップ１１０で既知のデータが受け入れられる。既知のデータは、データ・ポイントと、両方のファクタにおけるそれぞれの位置とを含む。図１に示されているタイポグラフィ・データについては、既知のデータは、各字についてのビット・パターンと、対応する字と、フォントとから成る。ステップ１２０で、パラメータ・ベクトルについての初期値が決定される。このステップはＥＭアルゴリズムの出発点を与える。異なる手法を使用して初期出発条件を決定することができる。例えば、任意に決定された値を各変数に割り当てることができる。或いは、異なる処理をされたものを使用して、より正確な初期条件を与えることもできる。新しいフォントを学習するとき、字についてのパラメータ・ベクトルと、タイポグラフィについての結合行列とはおそらく良好な出発点を与える。実際、これはアプリケーション・プロセスの際の初期出発条件である。
【００３１】
ステップ１３０で、最初に決定された条件に基づいてポテンシャル関数が作られる。ポテンシャル関数は、モデル出力の各成分とトレーニング・データとの差の二乗の、トレーニング・データ全体の全ての成分にわたって合計された総和である。標準的最小二乗法は、モデルとデータとの差の二乗の総和を最小にするパラメータ値を見出す。モデル出力は、どのモデルが使用されるかにより、式(１)又は式(２)によって与えられる。式(３)のための値が確定されると、新しいステップ方向がステップ１４０で決定される。ステップ方向は、変化させられる変数と、変化の大きさとを指す。パラメータの任意の値で、ファクタ・パラメータ・ベクトルの各々が最小化のために次々に選択される。ステップ１５０で、そのベクトルについてのパラメータの変化の大きさを決定するために一般的最小化法が使用される。ポテンシャル関数を作るステップ１３０、ステップ方向を決定するステップ１４０、及び関数を最小化するステップ１５０は、最適値に到達する(ステップ１６０)まで反復される。その後、各ファクタについてのパラメータ・ベクトルがデータについてのモデルとして蓄積されるか又は出力される。
【００３２】
モデル情報は、アプリケーション・プロセス２００の間、新しいデータを分析して分類、外挿、或いは変換を行うために使用される。図３に示されているように、アプリケーション・プロセスの第１ステップは、試験データを入力するステップである(ステップ２２０)。このステップは、トレーニング・プロセスの直ぐ後に続いても良いし、ステップ２１０を通して入ることで、しばらく後に始まっても良い。試験データが入力された後、システムは、行われる可能性のある異なる２つのプロセス、即ち、１つはデータを内容及びスタイルに関して分類するプロセス、もう１つは内容及びスタイルに関して新しいデータを作るプロセス、を有する。図３は、新しいスタイルの内容の分類(ステップ２３０〜２５０)と、新しいスタイルの内容の作成(ステップ２７０〜２９０)とを示している。スタイル及び内容についてのパラメータで、順序を逆にして、同じプロセスを使用することにより、新しい内容をスタイルに関して分類したり或いは古いスタイルを新しい内容で作ったりすることができる。これらのプロセスは、トレーニング・プロセスの際にパラメータを決定するためのプロセスと同様である。
【００３３】
【数３】
0004279375.tif 000006
【００３４】
一実施の形態では、反復的最小二乗法を使用して、導出されたモデルを新しいデータに適用する。式(３)は、新しいデータについて式(１)の対称モデルについての適当なパラメータを発見するために最小化されるべき式を示している。各データ・ポイントについて、推定されたパラメータでの式(１)の値と実際のデータ・ポイントとの差が最小化される。この最小化は、それらの値のうちの２つ(例えばｂ及びｇ)を固定して第３の値(例えばａ)について一般最小二乗法を用いて最小化を行うことによって達成される。その後、そのプロセスが他の各変数について反復される。真の最小値を発見するために各変数に対してこのプロセスは更に繰り返し実行される。
【００３５】
新しいスタイルでの分類のためには、新しいデータについて内容ラベルとスタイル・パラメータとの両方を決定しなければならない。もし内容ラベルが分かっているならば、スタイル・パラメータをトレーニングの時と同様に決定することができる。内容ラベルが分からなければ、システムは分離可能な混合モデルを使用してデータをＥＭ法によって効率よく適合させる。分離可能な混合モデルは、双一次モデルをガウス混合モデル(gaussian mixture model)に埋め込むことによって形成される。プロセスを簡単にするために、割り当て変数を表す追加のパラメータが内容ベクトルに追加される。この変数は、その特定の内容について１の値を有し、他の全ての位置で０の値を有する。アプリケーション・プロセスも、ファクタ混合モデルに適用される予想−最大化(ＥＭ)アルゴリズム(an expectation‐maximization (EM) algorithm)の使用に基づいている。これらのプロセスは、モデル化されたデータの容易な分析を可能にする。ＥＭアルゴリズムは，Ｅ((expectation)予測)ステップとＭ((maximization)最大化)ステップとを連続的に交互に実行することによって、実行される。そのプロセスは、決定されるべきパラメータを伴う式をデータに適合させる。ステップ２３０で、初期条件が設定される。新しいデータのスタイルだけが変更されているであろうから、初期条件は、明らかに、トレーニング・プロセス中に決定された内容パラメータ・ベクトルと結合行列とを含んでいるべきである。スタイル・パラメータについての初期条件は、ランダムに設定されても良く、既知のスタイルについてのパラメータの平均値に設定されても良く、また別様に選択されても良い。
【００３６】
システムは次にステップ２４０でスタイル・パラメータと内容パラメータの割り当て変数とを決定する。各観測結果に内容クラスを割り当てる割り当て変数の初期値は、トレーニング集合の中の最も似ている観測結果の内容クラスに設定される。新しいスタイルでの内容の分類のために、新しいスタイルと既知の内容とによって作られる新しい、ラベルの付されていない観測結果の確率が双一次モデルの予測値を中心とするガウス分布を有するということが仮定される。全体の確率は混合分布で与えられる。前の確率は、全てのスタイル及び内容にわたって合計で１になるように同等に設定される。内容ベクトルはトレーニング・プロセスから分かるので、ＥＭプロセスは２ステップを交互に実行して、新しいデータを最も良く描写するスタイル行列及びラベルを発見する。第１ステップ(Ｅ)では、各試験ベクトルが特定のスタイル及び内容に属する確率が現在のスタイル行列推定値を用いて推定される。第２ステップ(Ｍ)では、試験データの総対数確率(Ｌ＝Σlog ｐ(ｙ))を最大にするために新しいスタイル行列が推定される。式 ∂Ｌ／∂Ａ＝０を解くことによってＭステップを閉鎖形で計算することができるが、これらの式はＥステップからの確率推定値が与えられて線形である。ＥＭアルゴリズムは、確実に極小に収斂する。通常、収斂に到達するために１０〜２０回反復される。収斂したならば、総確率を最大にする内容クラスを選択することによって、新しいスタイルでの試験ベクトルを分類することができる。割り当て変数はステップ２５０で未知のデータの内容として出力され、プロセスは終了する(ステップ２６０)。
【００３７】
システムは、ステップ２７０〜２９０で示されているように、失われているデータを新しいスタイルで作ることもできる(外挿又は変換)。始めに、新しいスタイルについてのパラメータ・ベクトルが既知のデータに基づいて学習されなければならない。ステップ２７０で、初期条件が設定される。前述したように、既知のスタイルについてのパラメータの平均値を用いるなど、いろいろなメカニズムを用いて初期条件を設定することができる。その後、既知の内容に基づいて、新しいスタイルについてのパラメータがステップ２８０で決定される。トレーニング・プロセスの場合と同じく、それらのパラメータは、ポテンシャル関数を作って、それを最小化することによって決定される。
【００３８】
もしデータに内容についてのラベルが付されていなければ、前記の割り当て変数を含むこととなるように内容パラメータを調節する必要がある。新しいデータのスタイル・パラメータと内容とがこの様にして決定される。新しいスタイルのスタイル・パラメータが決定されると、結合行列を用いて、新しいスタイル・パラメータを、モデルに従って失われているデータについての内容パラメータ・ベクトルと結合させることができる。その後、処理は終了する。
【００３９】
本発明のシステムは、タイポグラフィ記号の分析、音声認識、ヘッド・ポーズ、ヘッド照明、及び色彩恒常性の分析のために試験されている。タイポグラフィ記号へのシステムの適用においては、歪み表示と称されるターゲット形状を形成するために基準形状からインク粒子の集合が被らなければならない変位の２×３８×３８次元ベクトルによって文字が表された。類似する字を表す類似する歪みを得るために、物理的モデルが使用された。基準形状の中の各ピクセルは正の電荷を有すると見なされ、ターゲット形状の中の各ピクセルは負の電荷を有すると見なされた。クーロンの法則から計算された静電気力線が基準形状の中の各粒子からターゲット字の平面へ引かれ、基準形状に平行な平行線の前に位置するようにセットされた。それらの力線は一様な密度でターゲット字の上に着き、その結果として滑らかで濃密な歪み地図(warp map)が得られた。もちろん、字の他の表示方法も使用することができる。
【００４０】
図４のデータは、システムのこのアプリケーションのためのトレーニング集合の一部分を表している。５つのフォントについての別々のＡｉモデルと、６２種類の文字(Ａ〜Ｚ、ａ〜ｚ、０〜９)の各々についての別々のｂｉモデルとを決定するためにシステムはトレーニング・データ４００と式(２)のモデルとでトレーニングされた。モデルの次元数(Ｉ、Ｊ)は全てのモデルについて３０に設定され、各ピクセルは別々のデータ要素(ｋ)として処理された。モデルが学習された後、新しいスタイルで失われているデータを作るアプリケーションを試験するために他のフォントが使用された。試験データ４１０の部分集合が図４の一番下の行に示されている。図４は、また、モデルによって作られた文字４３０と、新しいフォントの中の実際に失われている文字４４０で示している。アプリケーション・プロセスのための初期条件は、５種類のトレーニング・スタイルの最適な一次結合を利用して決定された。これにより、そのプロセスは最小限のトレーニングと新しいデータとでパラメータを推定することができた。
【００４１】
ヘッド・ポーズは、人がカメラに向かう方向に関連する。この場合には、被写体がスタイルであり、頭の方向が内容であった。トレーニング集合は１１人の被写体と１５個の方向とから成っていた。式(１)を使ってパラメータ・ベクトルと結合行列とを決定した後、システムが未知の被写体について方向を決定するために使用された。システムは試行のうちの５５％で正しい方向を発見し、９３％で正しい方向の１つのロケーションの中にあった。これは、４８％で正確にマッチし、８７％で最近傍アプローチ(a nearest neighbor approach)について１つのロケーションの中にあること(48% exact matches and 87% within one location)に匹敵する。もちろん、追加のトレーニング集合又はもっと次元の大きなベクトルを使用すれば、もっと正確なパラメータを得てシステムの効率を高めることができる。
【００４２】
以上の説明は単なる例示であって、限定をするものではないことは専門家にとっては明らかであるはずである。いろいろな修正や他の実施の形態が当業者の範囲内にあって、添付の請求項で定義されている発明の範囲内に属すると考えられる。
【００４３】
【発明の効果】
本発明により、分離可能な混合モデルに従ってマルチ・ファクタ・データを分析してデータを分類し、外挿し、変換することのできるマルチ・ファクタ・データ分析・合成装置を提供することができる。分離可能な混合モデルは、その下にあるファクタと、対応するパラメータとの関数として各データ・ポイントを表す。２ファクタでは、それらのファクタをスタイル及び内容と呼ぶことができる。具体的には、特定のデータ・ポイントを、分離可能な混合モデルに従って、それらのファクタの各々についてのパラメータ・ベクトルの積の組み合わせとして表すことができる。該装置は、既知のデータと所望の分析とに基づいて選択される、パラメータ・ベクトルの相互作用の対称モデル及び非対称モデルに対処する。選択されたモデルと既知のデータとを使用して、この装置は、その既知のデータを記述する関連パラメータを作る。パラメータ・ベクトル情報を使用して試験データを分析し合成することができる。分類時には、新しいスタイルの未知のデータは内容に関して分類され、或いはその逆の分類もなされる。外挿時には、新しいスタイルの完全な内容が、その新しいスタイルの観測結果の集合から作られる。変換時には、新しいスタイル及び内容の両方を有するデータを使用して、新しいデータに対応する内容及びスタイルの完全な集合を作る。この装置は、タイポグラフィ、音声認識、いろいろなポーズ或いは照明での顔面認識、及び色彩恒常性を含む、いろいろな種類のマルチ・ファクタ又は２ファクタのデータに適用可能である。
【図面の簡単な説明】
【図１】  トレーニング・データと未知のデータの分析の種類とを表す図である。
【図２】  本発明を実施するために使用することのできるコンピュータ・ハードウェアを表す図である。
【図３】  本発明の動作を示す流れ図である。
【図４】  本発明における光学式文字分析での外挿分析の結果を示す図である。
【符号の説明】
１０  ＣＰＵ、２０  メモリ、３０  ディスプレイ、４０  キーボード、５０マウス、６０  入力、７０  出力。
【図１】
0004279375.tif 000009
【図２】
0004279375.tif 000010
【図３】
0004279375.tif 000011
【図４】
0004279375.tif 000012