(57)【要約】【課題】人工知能（ＡＩ）システム（１０２）は、ＡＩシステムのモジュールを実行するように構成されたプロセッサを含む。【解決手段】モジュールは、特徴抽出器（２０４）と、敵対的ノイズ生成器（２０６）と、圧縮器（２０８）と、分類器（２１０）とを備える。特徴抽出器は、入力データ（１０４）を処理して、入力データの分類のために入力データの特徴を抽出するようにトレーニングされる。敵対的ノイズ生成器は、入力データの特徴の分布についてノイズデータを生成するようにトレーニングされ、生成されたノイズデータで破損された抽出された特徴を含む破損された特徴の誤分類率は、抽出された特徴の誤分類率よりも大きい。圧縮器は、抽出された特徴を圧縮するように構成される。圧縮された特徴は、破損された特徴よりも抽出された特徴に近い。分類器は、圧縮された特徴を分類するようにトレーニングされる。【選択図】図２Ｂ
2022002080.tif 000002
【特許請求の範囲】
【請求項１】
データの分類のための人工知能（ＡＩ）システムであって、前記ＡＩシステムのモジュールを実行するように構成されたプロセッサを含み、前記モジュールは、
入力データの分類のために前記入力データの特徴を抽出するために前記入力データを処理するようにトレーニングされた特徴抽出器と、
前記入力データの特徴の分布についてノイズデータを生成するようにトレーニングされる敵対的ノイズ生成器とを備え、生成されたノイズデータで破損された抽出された特徴を含む破損された特徴の誤分類率は、前記抽出された特徴の誤分類率よりも大きく、前記モジュールはさらに、
前記抽出された特徴を圧縮するよう構成される圧縮器を備え、圧縮された特徴は、前記破損された特徴よりも前記抽出された特徴に近く、前記モジュールはさらに、
前記圧縮された特徴を分類するようにトレーニングされる分類器を備える、ＡＩシステム。
【請求項２】
前記圧縮器は、さらに、コスト関数を最適化する多目的最適化を解くことによって前記圧縮された特徴を判断するように構成され、
前記コスト関数は、前記圧縮された特徴と前記抽出された特徴との間の距離を減少させ、
前記コスト関数は、前記圧縮された特徴と前記破損された特徴との間の距離を増加させる、請求項１に記載のＡＩシステム。
【請求項３】
前記敵対的ノイズ生成器は、敵対的生成ネットワーク（ＧＡＮ）を用いてトレーニングされる、請求項１に記載のＡＩシステム。
【請求項４】
前記ＧＡＮは、
前記抽出された特徴の統計的分布から前記ノイズデータを生成するように構成される生成器を含み、
前記破損された特徴の分類の成功率は、前記抽出された特徴の分類の成功率未満であり、前記ＧＡＮはさらに、
前記破損された特徴の分布が前記抽出された特徴の前記統計的分布と一致するかどうかをテストするように構成された弁別器を含む、請求項３に記載のＡＩシステム。
【請求項５】
前記圧縮器は、前記破損された特徴の生成された分布の失敗と前記分類の失敗との組み合わせを含む損失関数を最小化するようにトレーニングされる、請求項４に記載のＡＩシステム。
【請求項６】
前記生成器は、さらに、
前記抽出された特徴を複製し、
前記ノイズデータを各複製された特徴と組み合わせることによって、前記抽出された特徴の各複製された特徴について、破損された特徴を生成するよう構成される、請求項４に記載のＡＩシステム。
【請求項７】
前記圧縮器は、前記入力データの時間的順序を学習するように構成される、請求項２に記載のＡＩシステム。
【請求項８】
前記圧縮器は、さらに、前記圧縮された特徴を部分空間に投影して前記入力データの時間的に接続されたデータのシーケンスの部分空間表現を生成するように構成され、前記時間的に接続されたデータのシーケンスは前記時間的順序に基づく、請求項７に記載のＡＩシステム。
【請求項９】
前記圧縮器は、さらに、歪みペナルティに基づいて、前記部分空間表現が前記入力データから発散するのを防止するように構成される、請求項８に記載のＡＩシステム。
【請求項１０】
前記プロセッサは、さらに、監視システムのカメラから前記入力データを受信するように構成される、請求項１に記載のＡＩシステム。
【請求項１１】
前記入力データは、音声データ、画像データ、映像データ、および／またはテキストデータのうちの１つを含む、請求項１に記載のＡＩシステム。
【請求項１２】
データの分類のための、コンピュータにより実現される方法であって、
入力データの分類のために、入力データの特徴を抽出することと、
前記入力データの特徴の分布についてノイズデータを生成することとを含み、前記生成されたノイズデータで破損された抽出された特徴を含む破損された特徴の誤分類率は、前記抽出された特徴の誤分類率よりも大きく、前記方法はさらに、
前記抽出された特徴を圧縮することを含み、圧縮された特徴は、前記破損された特徴よりも前記抽出された特徴に近く、前記方法はさらに、
前記圧縮された特徴を分類することを含む、コンピュータにより実現される方法。
【請求項１３】
前記抽出された特徴の圧縮は、コスト関数を最適化する多目的最適化を解くことを含み、前記コスト関数は、前記圧縮された特徴と前記抽出された特徴との間の距離を減少させ、前記コスト関数は、前記圧縮された特徴と前記破損された特徴との間の距離を増加させる、請求項１２に記載のコンピュータにより実現される方法。
【請求項１４】
前記ノイズデータは、敵対的生成ネットワーク（ＧＡＮ）によって生成される、請求項１２に記載のコンピュータにより実現される方法。
【請求項１５】
前記方法はさらに、
前記抽出された特徴の統計的分布から前記ノイズデータを生成することを含み、前記破損された特徴の分類の成功は前記抽出された特徴の分類の成功率未満であり、前記方法はさらに、
前記破損された特徴の分布が前記抽出された特徴の前記統計的分布と一致するかどうかをテストすることを含む、請求項１４に記載のコンピュータにより実現される方法。
【請求項１６】
前記生成された分布の失敗と前記分類の失敗との組み合わせを含む損失関数を最小化することをさらに含む、請求項１４に記載のコンピュータにより実現される方法。
【請求項１７】
前記方法はさらに、
前記抽出された特徴を複製することと、
前記ノイズデータを前記抽出された特徴の各複製された特徴と組み合わせることと、
前記組み合わせに基づいて、前記抽出された特徴の各複製された特徴について、破損された特徴を生成することとを含む、請求項１４に記載のコンピュータにより実現される方法。
【請求項１８】
前記入力データの時間的順序を学習することをさらに含む、請求項１３に記載のコンピュータにより実現される方法。
【請求項１９】
前記圧縮された特徴を部分空間に投影して前記入力データの時間的に接続されたデータのシーケンスの部分空間表現を生成することをさらに含み、前記時間的に接続されたデータのシーケンスは、前記時間的順序に基づく、請求項１８に記載のコンピュータにより実現される方法。
【請求項２０】
歪みペナルティに基づいて前記部分空間表現が前記入力データから発散するのを防止することをさらに含む、請求項１９に記載のコンピュータにより実現される方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、概して、人工知能（ＡＩ）に関し、より具体的には、対照学習に基づくデータの分類のためのＡＩシステムに関する。
【背景技術】
【０００２】
背景
機械学習の分野では、入力データを解析することにより、オブジェクト分類、オブジェクト検出、ジェスチャー検出等の様々な機能を実行するために、様々なモデル（例えば、分類モデル）が用いられる。場合によっては、これらのモデルは、悪意のある入力データに起因して誤った出力を生成させる可能性がある。これにより、分類モデルは入力データを誤分類する。例えば、画像データに追加される小さい、知覚不能な最適化された摂動は、画像を分類するようにトレーニングされた分類モデルによって誤分類を引き起こす可能性がある。
【０００３】
一般に、機械学習技術は、トレーニングデータおよびテストデータが同一の統計的分布から生成されると仮定される静止環境および良性環境に対して設計される。しかしながら、これらのモデルが実世界のアプリケーションで実施される場合、入力データにおける摂動の存在は、統計的仮定に反する可能性がある。これは、入力データが、学習アルゴリズムの特定の脆弱性を利用し、機械学習システムのセキュリティを損なうように操作され得ることを示している。例えば、ニューラルネットワークを用いて入力データの分類を実行するＡＩシステムの内部アーキテクチャの知識により、ＡＩシステムを操作し、違法な出力を生成するために、敵対的入力が展開され得る。様々な機械学習技術は、対照学習アプローチによってそのような敵対的入力を利用する。対照学習アプローチは、入力データの類似する特徴または異なる特徴間の特殊性を学習するための学習モデルを提供する。例えば、対照学習では、ラベル付けされていないデータセット上の入力データ（入力画像など）の一般的な表現が学習され、次いで、所与の分類タスクのためのラベル付けされた画像の小さなデータセットで微調整されるが、それらの表現は、敵対的入力を含む。それらの表現は、同じ画像の異なるバージョンまたはビュー間の一致を同時に最大化し、対照学習を用いて差分を切り取ることによって学習される。ニューラルネットワークのパラメータがこの対照的目的を用いて更新されると、対応するビューの表現は互いを「引き付ける」一方、対応しないビューの表現は互いに「反発」する。しかしながら、分類モデルによる誤分類に向けた敵対的入力の発生は未知であり、制御されない場合がある。場合によっては、分類モデルは、敵対的入力において有用な情報を学習することを逃し得る。
【０００４】
したがって、対照学習に基づいて入力データを正確に分類するシステムが求められている。
【発明の概要】
【課題を解決するための手段】
【０００５】
概要
いくつかの実施形態の目的は、データ圧縮タスクに敵対的機械学習を採用することである。いくつかの実施形態の別の目的は、敵対的機械学習、対照学習、および／またはそれらの組み合わせで圧縮されたデータの分類を実行することである。
【０００６】
具体的には、いくつかの実施形態は、分類の観点から解析されるデータが、分類に有用な情報および分類に有用でない情報を含み得るという認識に基づく。例えば、分類器が画像データなどの入力データを分類するようにトレーニングされる場合である。画像データは、犬または猫の画像を含んでもよい。分類器は、画像データから数個の特徴を用いて画像データを分類する。しかしながら、分類器は、分類のために画像データの他の特徴を使用しないかもしれない。分類器によって用いられる特徴は、本明細書では有用な特徴と称され、分類において用いられない特徴は、無用な特徴と称される。
【０００７】
いくつかの実施形態は、入力データから抽出される特徴が圧縮され得るという理解に基づく。抽出された特徴は、分類の精度を犠牲にすることなく有用な特徴を含むように圧縮される。いくつかの例示的な実施形態では、特徴は、分類のために予めトレーニングされたニューラルネットワークによって抽出されてもよい。しかしながら、ニューラルネットワークは、抽出された特徴において有用な特徴および無用な特徴を識別することができない場合がある。この目的のために、いくつかの実施形態は、敵対的機械学習および対照学習の原理を用いて、抽出された特徴における有用な特徴および無用な特徴を識別することができる、という認識に基づいている。具体的には、無用な特徴を判断するために、敵対的機械学習が用いられ得る。
【０００８】
いくつかの実施形態は、敵対的機械学習が、抽出された特徴を破損させるために用いられる、という認識に基づく。抽出された特徴は、分類器が抽出された特徴を誤分類するように破損される。例えば、抽出された特徴は、犬を含む画像からのものである。分類器は、抽出された特徴を、犬を含む画像に属して分類してもよい。破損された特徴が分類器に提供されると、分類器は、抽出された特徴を、犬を含む画像とは異なる画像に誤分類してもよい。敵対的機械学習の目的は、同一の分類器が特徴を誤分類するように特徴を破損させることである。例えば、分類器は、犬の画像の特徴を猫の画像に誤分類する。
【０００９】
このような目的を達成するために、敵対的機械学習は、分類に用いられる抽出された特徴の一部を破損させてもよい。そのために、抽出された特徴における有用な特徴は、敵対的機械学習に基づいて破損されてもよい。抽出された特徴における無用な特徴は、破損された特徴の完全性を維持するのに不利であり得るため、破損されなくてもよい。したがって、破損された特徴においては、無用な特徴は保存され得る一方、有用な特徴は変更される。
【００１０】
有用な特徴は、元の抽出された特徴に存在し得、一方、無用なデータは、元の抽出された特徴および破損された特徴の両方に存在し得る。この理解に基づいて、いくつかの実施形態では、抽出された特徴は、圧縮された特徴が入力データの元の特徴に近く、破損された特徴が抽出された特徴から遠いように、圧縮される。
【００１１】
いくつかの実施形態では、圧縮された特徴は、多目的最適化を解くことによって判断され得る。多目的最適化は、コスト関数を最適化する。コスト関数は、圧縮された特徴と抽出された特徴との間の距離を減少させる。コスト関数はまた、圧縮された特徴と破損された特徴との間の距離を増加させる。
【００１２】
いくつかの実施形態では、抽出された特徴は、敵対的ノイズ生成器によって生成されたノイズデータを用いて破損される。敵対的ノイズ生成器は、敵対的生成ネットワーク（ＧＡＮ）に基づいてトレーニングされ得る。ＧＡＮは、生成器および弁別器を含む。敵対的ノイズ生成器は、抽出された特徴の統計的分布からノイズデータを生成する。生成されたノイズデータは、抽出された特徴の分類の成功率未満である、破損された特徴の分類の成功率を、分類器に提供する。破損された特徴の分布は、弁別器によってテストされる。そのために、いくつかの実施形態では、生成器は、抽出された特徴を複製し、抽出された特徴の各複製された特徴に対して、破損された特徴を生成してもよい。破損された特徴は、ノイズデータを各複製された特徴と組み合わせることによって生成される。
【００１３】
例示的な実施形態では、ノイズデータの分布は、入力データと無相関であってもよい。したがって、本開示の目的は、ノイズデータを有する、抽出された特徴を含む破損された特徴の分布が、抽出された特徴の分布により近いことである。そのために、抽出された特徴の圧縮は、抽出された特徴の生成された分布の失敗と入力データの分類の失敗との組み合わせを含む損失関数を最小化するようにトレーニングされてもよい。
【００１４】
いくつかの実施形態では、圧縮された特徴は、入力データの時間的に接続されたデータのシーケンスの部分空間表現を生成するために部分空間に投影され得る。そのために、時間的に接続されたデータのシーケンスは、入力データの時間的順序から導出されてもよい。いくつかの例示的な実施形態では、時間的順序は、順序制約型主成分分析（ＰＣＡ）技法を用いて取得され得る。場合によっては、部分空間表現は、入力データから発散する場合がある。そのために、歪みペナルティを部分空間表現に適用して、入力データから発散するのを防いでもよい。
【００１５】
したがって、一実施形態は、敵対的機械学習で圧縮されたデータの分類のための人工知能（ＡＩ）システムを開示する。ＡＩシステムは、ＡＩシステムのモジュールを実行するように構成されたプロセッサを含む。モジュールは、特徴抽出器と、敵対的ノイズ生成器と、圧縮器と、分類器とを備える。特徴抽出器は、入力データを処理して、入力データの分類のために入力データの特徴を抽出するようにトレーニングされる。敵対的ノイズ生成器は、入力データの特徴の分布についてノイズデータを生成するようにトレーニングされる。ノイズデータは、それによって破損された抽出された特徴を含む破損された特徴が、抽出された特徴の誤分類率よりも大きい誤分類率を有するように、生成される。圧縮器は、抽出された特徴を圧縮するように構成される。圧縮された特徴は、破損された特徴よりも抽出された特徴に近い。分類器は、圧縮された特徴を分類するようにトレーニングされる。
【００１６】
別の実施形態は、敵対的機械学習によって圧縮されたデータの分類のための、コンピュータにより実現される方法を開示する。この方法は、入力データの分類のために入力データの特徴を抽出することを含む。この方法は、生成されたノイズデータで破損された抽出された特徴を含む破損された特徴の誤分類率が、抽出された特徴の誤分類率より大きくなるように、入力データの特徴の分布についてノイズデータを生成することを含む。この方法は、圧縮された特徴が、破損された特徴よりも、抽出された特徴により近くなるように、抽出された特徴を圧縮することを含む。本方法は、圧縮された特徴を分類することをさらに含む。
【００１７】
さらなる特徴および利点は、添付の図面と併せて、以下の詳細な説明からより容易に明らかになるであろう。
【００１８】
図面の簡単な説明
本開示は、本開示の例示的な実施形態の非限定的な例として、添付の複数の図面を参照して以下の詳細な説明においてさらに説明され、図面のいくつかの図を通して、同様の参照番号は同様の部分を表す。示される図面は、必ずしも一定の縮尺ではなく、代わりに、概して、ここに開示される実施形態の原理を例示することに強調がおかれる。
【図面の簡単な説明】
【００１９】
【図１Ａ】本開示のいくつかの実施形態による、人工知能（ＡＩ）システムを用いた入力データの分類を示す概略図である。
【図１Ｂ】本開示のいくつかの実施形態による、分類のために入力データからの圧縮された特徴の抽出を示す表現を示す図である。
【図１Ｃ】本開示のいくつかの実施形態による、圧縮された特徴の対照学習表現を示す図である。
【図２Ａ】本開示のいくつかの例示的実施形態による、ＡＩシステムのモジュールを示す概略図である。
【図２Ｂ】本開示のいくつかの実施形態による、入力データの分類のためのノイズデータの生成を示す概略図である。
【図２Ｃ】本開示のいくつかの例示的実施形態による、ＡＩシステムの処理パイプラインを示す図である。
【図３】本開示のいくつかの例示的実施形態による、ＡＩシステムの敵対的ノイズ生成器のブロック図を示す図である。
【図４】本開示のいくつかの例示的な実施形態によるＡＩシステムの圧縮器のブロック図を示す図である。
【図５】本開示のいくつかの例示的実施形態による、圧縮された特徴上における抽出された特徴の投影を示すグラフィカルプロットを示す図である。
【図６Ａ】本開示のいくつかの例示的実施形態による、ＡＩシステムのリアルタイム適用を示す図である。
【図６Ｂ】本開示のいくつかの他の例示的実施形態による、ＡＩシステムのリアルタイム適用シナリオを示す図である。
【図７】本開示のいくつかの例示的実施形態による、敵対的機械学習を用いて圧縮されたデータの分類のための方法フローを示す図である。
【図８】本開示のいくつかの例示的な実施形態によるＡＩシステムの全体ブロック図である。
【発明を実施するための形態】
【００２０】
上記で識別された図面は、ここに開示される実施形態を記載しているが、議論に記載するように、他の実施形態も企図される。本開示は、限定ではなく例示として例示的な実施形態を提示する。当業者は、本開示の実施形態の原理の範囲および精神に含まれる多数の他の修正および実施形態を考案することができる。
【００２１】
詳細な説明
以下の説明では、説明の目的のために、本開示の完全な理解を提供するために、多数の具体的な詳細が記載される。しかしながら、本開示は、これらの具体的な詳細がなくても実施され得ることが当業者には明白であろう。他の事例では、装置および方法が、本開示を不明瞭にすることを避けるためにブロック図の形式でのみ示される。
【００２２】
本明細書および特許請求の範囲で用いられる場合、用語「例えば」、「例として」、「等」、ならびに動詞「備える」、「有する」、「含む」、およびそれらの他の動詞形は、１つもしくは複数の構成要素または他の項目のリストとともに用いられる場合、各々オープンエンドと解釈されるべきであり、リストは、他の追加の構成要素または項目を排除するものと見なすべきではないことを意味する。用語「〜に基づく」は、少なくとも部分的に基づくことを意味する。さらに、本明細書で用いられる表現および用語は、説明の目的のためのものであり、限定と見なされるべきではないことを理解されたい。本記載内で利用されるいずれの見出しも、便宜のためだけのものであり、法的または限定的な効果を有さない。
【００２３】
概観
提案される人工知能（ＡＩ）システムは、入力データの特徴を圧縮するために表現の学習を可能にする。表現は、入力データの逐次的／時間的な順序に関する低次元部分空間表現であり得る。ＡＩシステムの目的は、表現を学習するために入力データの時空間情報などの暗黙的な情報的暗示を捕捉することである。入力データの時空間情報は、入力データの分類のために入力データから特徴を抽出することによって捕捉され得る。そのために、特徴抽出は、入力データからのそのような情報暗示について最大化され得る。いくつかの実施形態では、特徴抽出は、対照表現学習を用いて最大化され得る。
【００２４】
図１Ａは、本開示のいくつかの実施形態による、人工知能（ＡＩ）システム１０２を用いた入力データ１０４の分類を示す概略図１００である。例示的な実施形態では、入力データ１０４は、映像のフレーム１０４Ａ、１０４Ｂ、および１０４Ｃのシーケンスを含み得る。フレーム１０４Ａ、１０４Ｂ、および１０４Ｃのシーケンスは、時間的シーケンスに関連付けられ得る。入力データ１０４は、入力データ１０４の分類のためにＡＩシステム１０２に提供される。例示的なシナリオでは、フレーム１０４Ａ、１０４Ｂ、および１０４Ｃのシーケンスは、人間のアクションを含み得る。ＡＩシステム１０２は、提供され得る人間のアクションを、分類されたアクション１０６として識別する。図１Ａに示されるように、人間のアクションは、フレーム１０４Ａ、１０４Ｂ、および１０４Ｃのシーケンスにおいて手をたたくアクションを含む。したがって、分類されたアクション１０６は、手をたたくアクションとして識別され得る。場合によっては、分類されたアクション１０６は、フレームのシーケンスのうちの１つから識別され得る。しかしながら、入力データ１０４の１フレームに基づく人間のアクションの分類は、その分類を妨害する可能性がある。いくつかの他の場合では、分類のためにフレーム１０４Ａ、１０４Ｂ、および１０４Ｃのシーケンスの各々を使用することは、限られたメモリおよび処理リソースのため、実現可能および効率的でない可能性がある。
【００２５】
そのために、いくつかの実施形態は、いくつかの場合においては、分類のために提供される入力データ１０４が圧縮され得るという認識に基づいており、これは図１Ｂに示される。
【００２６】
図１Ｂは、本開示のいくつかの実施形態による、分類のために入力データから圧縮された特徴の抽出を示す概略図である。そのために、入力データ１０４は、後続の分類の精度を維持しながら、データの複雑さが低減されるように圧縮されてもよい。例えば、ＡＩシステム１０２は、フレーム１０４のシーケンスの各々から特徴１１０（Ｘ＝ｘ１，ｘｔ，ｘｎ）を抽出する。ＡＩシステム１０２は、抽出された特徴１１０を圧縮された特徴１１２に圧縮する。圧縮された特徴１１２は、分類されたアクション１０６を提供するための分類１１４を経て、データ複雑性は、より少ない。
【００２７】
圧縮された特徴１１２は、分類器が、抽出された特徴と入力データ１０４の破損された特徴などの他の特徴との間の類似性および差異を学習することを可能にする。このような学習は、図１Ｃを参照して次に説明される対照学習を意味する。
【００２８】
図１Ｃは、本開示のいくつかの実施形態による、圧縮された特徴の対照学習表現１１６を示す図である。抽出された特徴１１０（Ｘ）は、破損された特徴１１８（Ｙ）のような、他の特徴と類似することからかけ離れた、圧縮された特徴１１２を用いて表される。そのような表現は、圧縮された特徴１１２（Ｕ）が、破損された特徴１１８（Ｙ）内に存在しない、抽出された特徴１１０（Ｘ）内の情報を押し出し得ることを示唆する。圧縮された特徴１１２（Ｕ）は、破損された特徴１１８（Ｙ）と対照的であり、それは、入力データ１０４の分類のための特徴の対照学習を表す。
【００２９】
そのために、本開示の目的は、破損された特徴１１８（Ｙ）からかけ離れた、圧縮された特徴を生成することである。破損された特徴１１８（Ｙ）は、図１Ｃのグラフプロット１２０に示されるように、特徴空間内にある敵対的ノイズデータなどのノイズデータに基づいて生成されてもよい。抽出された特徴１１０（Ｘ）の各々について、抽出された特徴１１０（Ｘ）の分布についての敵対的ノイズデータが生成される。破損された特徴１１８（Ｙ）は、破損された特徴１１８（Ｙ）が抽出された特徴１１０（Ｘ）に類似するように、抽出された特徴１１０（Ｘ）およびノイズデータを含む。しかしながら、破損された特徴１１８（Ｙ）が分類器への入力として提供されると、分類器は破損された特徴１１８（Ｙ）を誤分類する。
【００３０】
いくつかの実施形態では、破損された特徴１１８（Ｙ）は、ＡＩシステム１０２によって生成され、これは、本開示の後続の図の説明においてさらに説明される。いくつかの実施形態では、ＡＩシステム１０２は、図２Ａを参照して次に説明される入力データ１０４の分類のためのモジュールを備えてもよい。
【００３１】
図２Ａは、本開示のいくつかの実施形態によるＡＩシステム１０２のモジュールを示す概略図である。ＡＩシステム１０２は、メモリ２０２に格納されたＡＩシステム１０２のモジュールを実行するように構成されたプロセッサ２００を備える。モジュールは、特徴抽出器２０４、敵対的ノイズ生成器２０６、圧縮器２０８、および分類器２１０を含み得る。特徴抽出器２０４は、入力データ１０４に含まれるオブジェクトの分類のために入力データ１０４の特徴を抽出するために入力データ１０４を処理するようにトレーニングされ得る。敵対的ノイズ生成器２０６は、入力データ１０４の破損された特徴の分布のためにノイズデータを生成するようにトレーニングされる。抽出された特徴は、生成されたノイズデータによって破損され、破損された特徴を提供する。破損された特徴および抽出された特徴が分類を経るとき、破損された特徴は、抽出された特徴の誤分類率よりも大きい誤分類率を有する。いくつかの例示的な実施形態では、ノイズデータはガウスノイズに対応し得る。さらに、圧縮器２０８は、抽出された特徴を圧縮するように構成される。圧縮された特徴は、破損された特徴よりも抽出された特徴に近い。分類器２１０は、圧縮された特徴を分類するように構成される。
【００３２】
次に、図２Ｂを参照して、敵対的ノイズ生成器２０６によるノイズデータの生成について説明する。
【００３３】
図２Ｂは、本開示のいくつかの実施形態による、ＡＩシステム１０２による入力データ１０４の分類のためのノイズデータの生成を示す概略図である。フレーム１０４Ａ、１０４Ｂ、および１０４Ｃのシーケンスは、特徴抽出器２０４に供給される。特徴抽出器２０４は、フレーム１０４Ａ、１０４Ｂ、および１０４Ｃのシーケンスを処理して、分類のための特徴２１４（例えば、抽出された特徴１１０（Ｘ））を抽出する。いくつかの例示的な実施形態では、特徴抽出器２０４は、フレーム１０４Ａ、１０４Ｂ、１０４Ｃのシーケンスを（Ｘ＝ｘ１，ｘｔ，．．．，ｘｎ）などの特徴ベクトルのセットに符号化することができる。フレーム１０４Ａ、１０４Ｂ、および１０４Ｃのシーケンスは、予めトレーニングされたニューラルネットワークを用いて符号化され得る。追加または代替として、特徴抽出器２０４は、フレーム１０４Ａ、１０４Ｂ、および１０４Ｃのシーケンスの時空間的暗示などの情報的暗示を捕捉するよう、特徴２１４の抽出を最大にすることができる。
【００３４】
【数１】
2022002080.tif 000003
【００３５】
さらに、抽出された特徴２１４の平均および正規分布は、敵対的ノイズ生成器２０６に供給される。敵対的ノイズ生成器２０６は、特徴２１４の分布についてノイズデータ（ｚ）を生成するようにトレーニングされる。例示的な実施形態では、敵対的ノイズ生成器２０６は、抽出された特徴２１４の分布（μｘ）により近い、破損された特徴２１６の分布（ｖｙ）を生成する。破損された特徴２１６（例えば、破損された特徴１１８（Ｙ））は、生成されたノイズデータ（ｚ）で破損された抽出された特徴２１４を含む。破損された特徴２１６は、（Ｙ＝ｙ１，ｙｔ，．．．，ｙｎ）によって表され得る。これらの生成されたノイズデータは、抽出された特徴２１４（Ｘ）の有用な特徴に影響を与えなくてもよい。
【００３６】
【数２】
2022002080.tif 000004
【００３７】
破損された特徴２１６が分類器２１０に提供されるとき、破損された特徴２１６の誤分類率は、抽出された特徴２１４の誤分類率より大きい。
【００３８】
いくつかの実施形態では、分類器２１０は、異なるアクションのためにラベルのセットを含む正解（ground truth）クラスラベルに関連付けることができる。例えば、分類器２１０は、ラベルのセットに基づいて、抽出された特徴２１４を「手をたたく」アクション２２０として分類することができる。いくつかの例示的な実施形態では、分類器２１０は、破損された特徴２１６を破損された特徴２１６内のノイズデータ（ｚ）として誤分類し得、分類のための情報的暗示を含まない場合がある。これは、破損された特徴２１６が、抽出された特徴２１４とは異なり、それから離れていることを示す。例えば、分類器２１０は、破損された特徴２１６を、「手をたたかない」アクション２２２として分類し得る。
【００３９】
さらに、抽出された特徴２１４は、圧縮器２０８によって圧縮され、圧縮された特徴２２０を生成する。例示的な実施形態では、圧縮された特徴２２０は、抽出された特徴２１４から、要約された表現を表し得る。抽出された特徴２１４は、入力データ１０４の長さが任意であり得るため、任意の長さであり得る。しかしながら、要約された表現の長さは固定長であってもよい。例えば、抽出された特徴２１４は、各々１０００個の要素を有し、１００個のベクトルの長さを有することができる。これらの１００個のベクトルは、各々１０００個の要素を有する１０個のベクトルに圧縮され得る。したがって、圧縮器２０８は、各々１０００個の要素を有する抽出された特徴２１４の１００個のベクトルから、各々１０００個の要素を有する１０個のベクトルの要約された表現を生成することができる。
【００４０】
いくつかの実施形態では、圧縮器２１０はまた、抽出された特徴２１４の圧縮のために、破損された特徴２１６を使用する。圧縮された特徴２２０（例えば、圧縮された特徴１１２（Ｕ））は、破損された特徴２１６よりも抽出された特徴２１４により近くてもよく、すなわち、圧縮された特徴２２０は抽出された特徴２１４に類似している。圧縮された特徴２１８は、分類器２１０に提供され、分類器２１０は、圧縮された特徴２１８を効率的な方法で分類する。いくつかの実施形態では、圧縮された２１８は、図２Ａを参照してさらに説明される多目的最適化に基づいて判断される。
【００４１】
図２Ｃは、本開示のいくつかの例示的実施形態によるＡＩシステム１０２の処理パイプライン２２４を示す。最初に、入力データ１０４は特徴抽出器２０４に供給される。
【００４２】
ステップ２２６では、特徴抽出器２０４により入力データ１０４から特徴抽出が行われる。特徴抽出器２０４は、特徴２１４を抽出する。いくつかの例示的な実施形態では、特徴２１４は、予めトレーニングされたニューラルネットワークを用いて、フレーム１０４Ａ、１０４Ｂ、および１０４Ｃのシーケンスを特徴ベクトルのセットに符号化することによって、抽出され得る。特徴２１４の抽出はまた、フレーム１０４Ａ、１０４Ｂ、および１０４Ｃのシーケンスの時空間的暗示などの情報的暗示を捕捉し得る。時空間的暗示は、抽出された特徴２１４の平均値および正規分布に基づいて捕捉され得る。
【００４３】
ステップ２２８では、敵対的ノイズ生成器２０６によって入力データ１０４からノイズデータ（ｚ）が生成される。敵対的ノイズ生成器２０６はまた、ノイズデータ生成のために、抽出された特徴２１４の平均および正規分布を受信する。抽出された特徴２１４は、ノイズデータで破損され、破損された特徴２１６を生成する。ステップ２３０において、破損された特徴２１６は、抽出された特徴２１４の分布に従って分布される。
【００４４】
ステップ２３２では、圧縮された特徴２１８を生成するために、抽出された特徴２１４が圧縮器２０８によって圧縮される。いくつかの実施形態では、圧縮器２０８は、多目的最適化を解くことによって、圧縮された特徴２１８を判断するように構成される。ステップ２３４において、圧縮器２０８は、コスト関数を最適化する多目的最適化を解く。コスト関数は、圧縮された特徴２１８と抽出された特徴２１４との間の距離を減少させる。コスト関数最適化では、圧縮された特徴２１８は、抽出された特徴２１４と結合される。コスト関数はまた、圧縮された２１８と破損された特徴２１６との間の距離を増加させる。
【００４５】
例示的な実施形態では、圧縮された特徴２１８と破損された特徴２１６との間の距離は、ワッサースタイン距離（２つの分布間の最適輸送）に対応し得る。最適輸送は、抽出された特徴２１４の確率測度（μ）と破損された特徴２１６の確率測度（ν）との間の距離である距離であるＷＣ（μ，ν）によって表され得る。確率測度μおよびνは、コスト関数ｃ（ｘ，ｙ）に関してＲｄ上でサポートされ、ここで、ｘ，ｙ∈Ｒｄである。ＷＣ（μ，ν）は、以下のように表され得る：
【００４６】
【数３】
2022002080.tif 000005
【００４７】
ここで、Π（μ，ν）は、周辺確率測度μおよびνを伴うすべての結合（例えば、同時確率分布）の集合を表す。
【００４８】
特徴のセットＸのような抽出された特徴２１４については、μＸを経験分布とする。
【００４９】
【数４】
2022002080.tif 000006
【００５０】
同様に、破損された特徴２１６の経験分布をνＹで表すことができる。経験分布νＹもまた、抽出された特徴２１４にわたって一様な確率を有する。例示的な実施形態では、抽出された特徴２１４と破損された特徴２１６との間の最良の結合は、最適輸送によって判断される。
【００５１】
ステップ２３６では、圧縮された２１８は、圧縮された２１８が抽出された特徴２１４に類似し、破損された特徴２１６と異なるように、生成される。ステップ２３８において、圧縮された特徴２１８は、分類器２１０によって分類される。
【００５２】
いくつかの実施形態では、圧縮器２０８は、損失関数を最小化するようにトレーニングされてもよい。損失関数は、生成されたノイズデータ１２０の失敗と分類器２１０による分類の失敗との組み合わせを含む。
【００５３】
【数５】
2022002080.tif 000007
【００５４】
損失関数ＬＤは、正解ラベルｌｉに対して、各シーケンスＸｉごとに表現Ｕｉ上で分類器２１０をトレーニングすることにおける誤差ＬＣを集約する。表現（Ｕｉ’ｓ）は、グラフィカルプロットに投影される。さらに、Ｕｉ’ｓは、損失ＬＲによって捕捉されるシーケンスレベル表現を最適化することによって得られる。古典的特徴学習セットアップでは、ＬＲは、たとえば、平均二乗誤差を、平均的特徴を提供する入力データ１０４に最小化するベクトルＵを見つける。そのような場合、arg min最適化は、平均プール化スキームに対応し得る。いくつかの例示的な実施形態では、損失ＬＣおよびＬＲは、エンドツーエンド方式で一緒にトレーニングされ得る。
【００５５】
本開示の目的は、圧縮された特徴２１８が抽出された特徴２１４により近く、破損された特徴２１６が抽出された特徴２１４から離れるように、ノイズデータが生成されることである。そのために、幾つかの実施形態では、図３を参照して次に説明する敵対的生成ネットワーク（ＧＡＮ）を用いて、敵対的ノイズ生成器がトレーニングされる。
【００５６】
図３は、本開示のいくつかの例示的実施形態による、ＡＩシステム１０２の敵対的ノイズ生成器２０６のブロック図３００を示す。敵対的ノイズ生成器２０６は、敵対的生成ネットワーク（ＧＡＮ）３０２を用いてトレーニングされ得る。ＧＡＮ３０２は、生成器３０４および弁別器３０６を含む。生成器３０４は、抽出された特徴２１４を入力として受け取り、ノイズデータを生成する。弁別器３０６は、破損された特徴２１６の分布をテストする。弁別器３０６は、生成された破損された特徴２１６の分布が、抽出された特徴２１４の統計的分布に対応するかどうかをチェックする。
【００５７】
例示的な実施形態では、生成器３０４は、抽出された特徴２１４の統計的分布からノイズデータを生成するように構成される。統計的分布は、抽出された特徴２１４からプロセッサ２００によって判断された正規分布から導出される。追加または代替として、ノイズデータは、Ｎ（ｘ，σ）などの正規分布からランダムにサンプリングされてもよく、ここでσは、ユーザ定義の標準偏差である。
【００５８】
そのために、生成器３０４は、分類器２１０が、あるクラスについて最も高いスコアを有する圧縮された特徴２１８に対して、あるラベルベクトルを生成し、圧縮された特徴２１８が用いられると最も高いスコアを受け取ったクラスについて最も低いスコアを有する破損された特徴２１６に対して、あるラベルベクトルを生成する、という基準を満たすようにトレーニングされ得る。このような基準により、生成器３０４は、抽出された特徴２１４のそれぞれの分布から任意のランダムなサンプルノイズデータについて敵対的ノイズデータを生成することが可能になる。
【００５９】
さらに、統計的分布に基づくノイズデータの生成は、抽出された特徴２１４の分類の成功率未満である、破損された特徴の成功率を提供する。そのために、いくつかの実施形態では、生成器３０４は、さらに、抽出された特徴２１４を複製し、ノイズデータを各複製された特徴と組み合わせることによって、抽出された特徴２１４の各複製された特徴について、破損された特徴を生成するように構成されてもよい。そのために、破損された特徴の特徴ベクトルの各々は、ノイズデータのため、異なり得る。異なる種類の破損された特徴の生成は、抽出された特徴２１４の分布を有する圧縮された特徴を生成するために、無用な特徴を判断する機会を増加させ得る。
【００６０】
いくつかの例示的な実施形態では、入力データ１０４の時間的順序が、圧縮された特徴２１８に追加されてもよく、これは、図４を参照してさらに説明される。
【００６１】
図４は、本開示のいくつかの例示的な実施形態によるＡＩシステム１０２の圧縮器２０８のブロック図４００を示す。圧縮器２０８は、コスト関数を最適化する多目的最適化のような最適化４０２を実行する。コスト関数最適化では、抽出された特徴２１４と破損された特徴２１８との間の最適輸送結合が最小化される。いくつかの実施形態では、圧縮器２０８は、入力データ１０４の時間的順序４０４を学習するように構成される。圧縮器２０８は、時間的順序４０４の順に圧縮された２１８を生成する。いくつかの例示的な実施形態では、圧縮された特徴２１８は、部分空間表現４１０を生成するために部分空間に投影される。部分空間表現４１０は、入力データ１０４の時間的に接続されたデータのシーケンスを有する学習表現である。例示的な実施形態では、時間的に接続されたデータのシーケンスは、主成分分析（ＰＣＡ）を用いて捕捉され得る時間的順序４０４に基づく。順序付け制約を有するＰＣＡは、入力データ１０４の順次順序を捕捉する。
【００６２】
部分空間表現４１０は、抽出された特徴２１４の部分空間表現４１０上への投影と破損された特徴２１６の投影との間の距離を最大化する。そのために、部分空間表現は、歪みペナルティ４０６に基づいて、抽出された特徴２１４から発散するのを防止される。例示的な実施形態では、歪みペナルティ４０６は、抽出された特徴２１４から圧縮器２０８によって判断される歪みメトリックを含み得る。歪みメトリックは、部分空間表現４１０が抽出された特徴２１４から発散するのを防止する正則化として作用してもよい。正則化は、部分空間表現４１０上でＰＣＡタイプの再構成損失を解くことによって達成され得る。部分空間表現４１０は、生成されたノイズデータからフィルタリングされる、分類に対する特徴を提供することができる。
【００６３】
例示的な実施形態では、部分空間表現４１０（Ｕ）は、以下のように定式化され得る：
【００６４】
【数６】
2022002080.tif 000008
【００６５】
ここで、ｆＵはｆＵ：Ｒｄ→Ｒｄで表されるマッピングである。ｆＵは、圧縮された特徴１２２から部分空間表現４１０のためにパラメータ化され得る。マッピングｆは、正規直交関数Ｕ∈Ｒｄ×ｋについてｆ＝ＵＵＴとして定義され、すなわち、ＵＴＵ＝Ｉｋであり、Ｉｋはｋ×ｋ恒等行列およびｋ≦ｄを示す。
【００６６】
（１）の最適輸送は、経験的な形態で再構成され、（２）のマッピングｆと組み合わされて、対照表現学習目的を以下のように示すことができる：
【００６７】
【数７】
2022002080.tif 000009
【００６８】
いくつかの例示的な実施形態では、Ｕ∈Ｇ（ｄ，ｋ）は、Ｒｄのすべてのｋ次元部分空間のGrass-mannマニホールドに対応し得る。ここで、Ｇ（ｄ，ｋ）は、右回転に対して不変である全てのｄ×ｋの直交行列Ｓ（ｄ，ｋ）の商空間Ｓ（ｄ，ｋ）／Ｏ（ｋ）を表す。任意のｋ×ｋの直交行列Ｒについて損失ＬＯＴ（Ｕ）＝ＬＯＴ（ＵＲ）が与えられると、部分空間表現学習目的のためにGrass-mannマニホールドが選択される。
【００６９】
抽出された特徴２１４および破損された特徴２１６の投影は、図５に示される。
【００７０】
図５は、本開示のいくつかの例示的実施形態による、抽出された特徴２１４の投影および破損された特徴２１６の投影を示すグラフィカルプロット５００を示す。
【００７１】
【数８】
2022002080.tif 000010
【００７２】
グラフィカルプロット５００は、部分空間表現４１０を用いて、抽出された特徴２１４の方向Ｕ１を示し、ＰＣＡを用いて、抽出された特徴２１４の方向Ｕ２を示す。基本的に、圧縮された特徴２１８は、データが方向Ｕ２において最もよく分布される方向を捕捉する。しかしながら、破損された特徴２１６（Ｙ）におけるポイントでは、方向Ｕ２は、抽出された特徴２１４（Ｘ）におけるポイントから逸脱し、Ｕ１までの距離を最小化し、破損された特徴２１６の分布までの距離を最大化する、異なる方向である。
【００７３】
ＡＩシステム１０２は、図６を参照して次に説明される映像認識などのリアルタイムまたはオフラインアプリケーションにおいて用いられ得る。
【００７４】
図６Ａは、本開示のいくつかの例示的実施形態によるＡＩシステム１０２のリアルタイムアプリケーション６００を示す。一実施形態例では、リアルタイムアプリケーション６００は、映像認識アプリケーションを含むことができる。映像認識アプリケーションでは、カメラ６０２は、入力データとしてＡＩシステム１０２に提供される映像を捕捉することができる。映像は、任意の長さのフレームのシーケンスを含み得る。ＡＩシステム１０２は、フレームのシーケンスの各フレームから特徴を抽出することができる。抽出される特徴は、フレームの各々において、データベース６０６に格納されたそれらのそれぞれの映像ラベルに対してトレーニングされるフレームレベルディープニューラルネットワークの出力に対応し得る。ＡＩシステム１０２は、抽出された特徴の変動を生成することができる。抽出された特徴の変動は、ＡＩシステム１０２の敵対的ノイズ生成器２０６によって生成されるノイズデータを用いて達成され得る。
【００７５】
さらに、抽出された変動の特徴は、映像認識のために部分空間表現を生成するために圧縮される。部分空間表現は、生成されたノイズデータおよび部分空間表現を生成するために用いられる圧縮された特徴の対照的性質のため、他の視覚的情報暗示に対して不変であり得る。対照学習は、部分空間表現をデータ変動に対して可能にし、映像認識の精度を増大させ得る。ＡＩシステム１０２は、出力６０４を介して映像認識の結果を提供することができる。
【００７６】
別の例示的な実施形態では、ＡＩシステム１０２は、データベース６０６に格納された画像の集まりからの画像認識に使用することができる。例えば、画像の集まりは、人物の画像を含む。ＡＩシステム１０２は、データベース６０６から画像にアクセスし、画像から特徴を抽出することができる。抽出された特徴は、圧縮器２０８を用いて圧縮される。圧縮された特徴は、画像認識のために人物の正体を表すための部分空間表現を提供する。部分空間表現は、データベース６０６に格納される。画像認識には、そのような、人物の画像の抽出された特徴に近い部分空間表現を用いることができる。
【００７７】
別の例示的な実施形態では、ＡＩシステム１０２は、映像検索のために用いられ得る。ＡＩシステム１０２は、カメラ６０２から映像クリップを受信することができる。映像クリップは、いくつかの人間のアクションのフレームのシーケンスを含み得る。データベース６０６には、人間のアクション用のクラスのプリセットからなるトレーニングセットが記憶されてもよい。しかしながら、ＡＩシステム１０２は、映像クリップ内の人間のアクションに一致するクラスを見つけない場合がある。そのような場合、ＡＩシステム１０２は、映像クリップから抽出された特徴からノイズデータを生成し得る。ノイズデータは、破損された特徴を生成するよう、抽出された特徴と組み合わされてもよい。破損された特徴は、映像クリップの抽出された特徴を圧縮することによって生成される部分空間表現と対照するよう敵対するものとして用いられ得る。そのような部分空間表現は、映像認識のために用いられ得る。認識された映像は、出力６０４を介して提供されてもよい。
【００７８】
別の例示的な実施形態では、リアルタイムアプリケーション６００はテキスト文書認識を含むことができる。テキスト文書認識において、抽出された特徴は、「word2vec」モデルなどのテキスト埋め込みモデルの出力であり得る。テキスト埋め込みモデルは、文書認識のためにデータベース６０６に記憶されてもよい。ＡＩシステム１０２は、文書の各単語が別の単語に誤分類されるようにノイズデータを生成するようトレーニングされ得る。生成されたノイズデータは、元の文書から変形された文書のセットを生成するよう、文書から抽出された特徴と組み合わされてもよい。さらに、ＡＩシステム１０２は、抽出された特徴を圧縮することによって、文書について、圧縮された特徴を生成する。圧縮された特徴は、文書のために部分空間表現を生成するために用いられる。生成された部分空間表現は、文書のセットと比較される。部分空間表現は、文書のセットが元の文書から変化するにつれて、文書のセットから離れる。部分空間表現は、文書中の単語の文法的順序に基づいて構築され得る。文書のそのような部分空間表現は、文書認識のために用いられ得る。
【００７９】
同様に、ＡＩシステム１０２は、音声認識、音声クリップ検索などの音声アプリケーションに用いてもよい。
【００８０】
図６Ｂは、本開示のいくつかの他の例示的実施形態によるＡＩシステム１０２のリアルタイムアプリケーションシナリオ６０６を示す。例示的なシナリオ例では、リアルタイムアプリケーションシナリオ６０６は、オフィスビル、大学、住宅エリアなどの、構内６０８の監視システムに対応し得る。構内６０８の監視は、図６Ｂに示されるように、監視システムのカメラ６０２、例えば閉回路テレビ（ＣＣＴＶ）カメラ６０２を介して捕捉される。例えば、構内６０８では、人間６１０のような物体がドアに向かって移動する。ＣＣＴＶカメラ６０２は、人間６１０の動きの映像を捕捉する。捕捉された映像は、ネットワーク６１２を介してＡＩシステム１０２に送られ得る。追加または代替として、捕捉された映像は、データベース６０６などのクラウドベースのデータベースに記憶され得る。ＡＩシステム１０２は、データベース６０６から、記憶された映像にアクセスすることができる。
【００８１】
さらに、ＡＩシステム１０２は、映像の各フレームから特徴を抽出し、ノイズデータを用いて、抽出された特徴の変動を生成し得る。これらの変動された抽出された特徴は、人間６１０の歩行動作など、映像認識のために部分空間表現を生成するよう圧縮される。場合によっては、人間６１０の正体は、部分空間表現を用いて判断されてもよい。いくつかの他の場合では、歩行動作を含む映像クリップなどの映像のいくつかのフレームは、部分空間表現を用いて検索することができる。これにより、構内６０８の監視が行われる。
【００８２】
図７は、本開示のいくつかの例示的実施形態による、敵対的機械学習を用いて圧縮されたデータの分類のための方法フロー７００を示す。方法７００は、ＡＩシステム１０２によって実行される。動作７０２において、入力データ１０４などの入力データの特徴が、入力データ１０４の分類のために抽出される。入力データ１０４の特徴は、予めトレーニングされたニューラルネットワークを用いて、入力データ１０４を特徴ベクトルのセットに符号化することによって抽出され得る。
【００８３】
動作７０４では、ノイズデータ分布を用いて、入力データ１０４について、破損された特徴が生成される。そのために、破損された特徴が得られるように、ノイズデータが、入力データ１０４の特徴２１６の分布について生成され、生成されたノイズデータで破損された抽出された特徴２１４を含む破損された特徴２１６の誤分類率は、抽出された特徴２１４の誤分類率よりも大きい。ノイズデータは、ＧＡＮ３０２によってトレーニングされる敵対的ノイズ生成器（例えば、敵対的生成器２０６）によって生成される。ＧＡＮ３０２は、ノイズデータ１２０を生成する生成器と、破損された特徴２１６の分布が抽出された特徴２１６の統計的分布と一致するか否かをテストする弁別器とを備える。
【００８４】
動作７０６では、抽出された特徴２１６が圧縮される。圧縮された特徴２１８は、破損された特徴２１６よりも抽出された特徴２１４に近い。圧縮された特徴２１８は、ＩＡシステム１０２の圧縮器２０８によって生成される。圧縮された特徴２１８は、コスト関数を最適化する多目的最適化を解くことによって生成され得る。コスト関数は、圧縮された特徴と抽出された特徴２１４との間の距離を減少させる。コスト関数はまた、圧縮された２１８と破損された特徴２１６との間の距離を増加させる。いくつかの実施形態では、圧縮された２１８は、損失関数を通して最小化処理を経ることもできる。損失関数は、生成された分布の失敗と分類の失敗との組み合わせを含む。いくつかの実施形態では、圧縮された２１８は、入力データの時間的に接続されたデータのシーケンスの部分空間表現を生成するために部分空間に投影され得る。時間的に接続されたデータのシーケンスは、入力データ１０４の時間的順序に基づいて判断されてもよい。時間的順序は、ＰＣＡ技術を用いて判断され得る。部分空間表現は、歪みペナルティに基づいて入力データ１０４から発散することを防がれる。
【００８５】
動作７０８では、圧縮された特徴２１８が分類される。圧縮された特徴２１８は、ノイズデータからフィルタリングされ、抽出された特徴２１４に近い。例示的な実施形態では、分類された圧縮された２１８は、入力データ１０４に近いクラスに分類され得る。
【００８６】
図８は、本開示のいくつかの例示的な実施形態によるＡＩシステム８００の全体ブロック図である。
【００８７】
ＡＩシステム８００は、図１のＡＩシステム１０２に対応する。ＡＩシステム８００は、格納された命令を実行するように構成されたプロセッサ８０４と、プロセッサ８０４によって実行可能な命令を格納するメモリ８０６とを含む。プロセッサ８０４は、プロセッサ２００に対応する。プロセッサ８０４は、シングルコアプロセッサ、マルチコアプロセッサ、コンピューティングクラスタ、または任意の数の他の構成とすることができる。メモリ８０６は、ランダムアクセスメモリ（ＲＡＭ）、読み取り専用メモリ（ＲＯＭ）、フラッシュメモリ、または任意の他の好適なメモリシステムを含むことができる。プロセッサ８０４は、バス８１６を介して入力インターフェース８０２に接続される。これらの命令は、圧縮された特徴２１８など、圧縮された特徴の分類のための方法７００を実現する。
【００８８】
いくつかの実施形態では、ＡＩシステム８００は、入力データ８２２を受信するために異なるタイプおよび組み合わせの入力インターフェースを有し得る。一実施形態では、入力インターフェース８０２は、とりわけ、キーボードおよび／またはマウス、トラックボール、タッチパッド、ジョイスティック、ポインティングスティック、スタイラスもしくはタッチスクリーンなどのポインティングデバイスを含み得る。
【００８９】
追加的または代替的に、ネットワークインターフェースコントローラ８１６は、バス８１６を介してＡＩシステム８００をネットワーク８２６に接続するように適合され得る。ネットワーク８２６を介して、入力データ８２２は、記憶および／またはさらなる処理のためにメモリ８０６内にダウンロードおよび記憶され得る。
【００９０】
いくつかの実施形態では、メモリ８０６は、特徴抽出器８０８、敵対的ノイズ生成器８１０、圧縮器８１２、および分類器８１４などのモジュールを記憶するように構成される。モジュールは、圧縮された特徴の分類のためにプロセッサ８０４によって実行される。特徴抽出器８０８は、入力データ８２２の分類のために入力データ８２２の特徴を抽出するために入力データ８２２を処理するようにトレーニングされ得る。敵対的ノイズ生成器８１０は、入力データ８２２の特徴の分布についてノイズデータを生成するようにトレーニングされる。生成されたノイズデータは、抽出された特徴と結合されて、破損された特徴を生成する。ノイズデータは、破損された特徴の誤分類率が抽出された特徴の誤分類率より大きくなるように生成される。圧縮器８１２は、抽出された特徴を圧縮するように構成される。圧縮された特徴は、破損された特徴よりも抽出された特徴に近い。分類器は、圧縮された特徴を分類するようにトレーニングされる。
【００９１】
追加または代替として、入力データ８２２の分類のための正解ラベルクラスのセットが、記憶装置８２８に記憶され得る。
【００９２】
入力インターフェース８０２に加えて、ＡＩシステム８００は、分類された圧縮された特徴を出力するために１つまたは複数の出力インターフェースを含み得る。例えば、ＡＩシステム８００は、バス８１６を介して、ＡＩシステム８００を出力装置８２６に接続するように適合された出力インターフェース８２４にリンクされてもよく、出力装置８２６は、コンピュータモニタ、プロジェクタ、ディスプレイ装置、スクリーン、モバイルデバイスを含んでもよい。
【００９３】
このようにして、ＡＩシステム８００は、部分空間表現として用いられ得る圧縮された特徴データを生成する。部分空間表現は、効率的な方法で入力データの分類に用いられ得る低次元の表現である。部分空間表現は、分類の正確な出力を生成するのに役立ち得る任意のランダムに生成されたノイズデータからフィルタリングされる。部分空間表現は、入力データの異なるモダリティで生成することが可能である。異なるモダリティは、画像データ、映像データ、音声データ、テキストデータなどを含み得る。これは、ＡＩシステム８００の使用における柔軟性および汎用性を提供する。
【００９４】
本開示の上記の実施形態は、多くの方法のいずれかで実施され得る。例えば、実施形態は、ハードウェア、ソフトウェア、またはそれらの組み合わせを用いて実施され得る。ソフトウェアで実現する場合、ソフトウェアコードは、単一のコンピュータに提供されるか、または複数のコンピュータに分散されるかに関わらず、任意の好適なプロセッサまたはプロセッサの集合上で実行することができる。そのようなプロセッサは、１つまたは複数のプロセッサが集積回路構成要素にある集積回路として実現され得る。しかしながら、プロセッサは、任意の好適なフォーマットの回路を用いて実現されてもよい。
【００９５】
また、本明細書で概説されるさまざまな方法またはプロセスは、さまざまなオペレーティングシステムまたはプラットフォームのいずれか１つを用いる１つまたは複数のプロセッサ上で実行可能なソフトウェアとしてコード化され得る。さらに、そのようなソフトウェアは、いくつかの好適なプログラミング言語および／またはプログラミングツールもしくはスクリプトツールのいずれかを用いて書かれてもよく、フレームワークもしくは仮想マシン上で実行される実行可能な機械語コードまたは中間コードとしてコンパイルされてもよい。典型的には、プログラムモジュールの機能は、さまざまな実施形態において所望に応じて組み合わせるか、または分散させることができる。
【００９６】
また、本開示の実施形態は、一例が提供された方法として具現化され得る。方法の一部として実行される行為は、任意の好適な方法で順序付けられてもよい。したがって、例示的な実施形態では順次動作として示されているが、いくつかの動作を同時に実行することを含み得る、示されたものとは異なる順序で動作が実行される実施形態が構築され得る。したがって、特許請求の範囲の目的は、本開示の真の精神および範囲内にあるような変形および修正をすべて網羅することである。 
【図１Ａ】
2022002080.tif 000011
【図１Ｂ】
2022002080.tif 000012
【図１Ｃ】
2022002080.tif 000013
【図２Ａ】
2022002080.tif 000014
【図２Ｂ】
2022002080.tif 000015
【図２Ｃ】
2022002080.tif 000016
【図３】
2022002080.tif 000017
【図４】
2022002080.tif 000018
【図５】
2022002080.tif 000019
【図６Ａ】
2022002080.tif 000020
【図６Ｂ】
2022002080.tif 000021
【図７】
2022002080.tif 000022
【図８】
2022002080.tif 000023
【外国語明細書】
2022002080000001.pdf