(57)【特許請求の範囲】
【請求項１】
第１の畳み込みレイヤーに信号を供給するように構成された入力レイヤーと、最後の畳み込みレイヤーとを備える畳み込みニューラルネットワークを動作させることと、
第１の中間分類器を前記第１の畳み込みレイヤーの特徴マップのセットで動作させることと、
前記第１の中間分類器による判定に基づいて信号セットの処理を中止するか継続するかを判定することと、
を含む方法であって、
前記畳み込みニューラルネットワークの各畳み込みレイヤーが、それぞれ直前の畳み込みレイヤーの出力を受信し、前記信号セットをさらに処理するように構成された複数のカーネルを有する、
方法。
【請求項２】
前記第１の畳み込みレイヤーの特徴マップの前記セットは、前記第１の畳み込みレイヤーの全特徴マップのサブセットを含む、請求項１に記載の方法。
【請求項３】
請求項１または２に記載の方法であって、
前記畳み込みニューラルネットワークは、前記第１の畳み込みレイヤーと前記最後の畳み込みレイヤーとの間に設けられた第２の畳み込みレイヤーと、前記第２の畳み込みレイヤーの特徴マップのセットで動作する第２の中間分類器とを備え、
前記方法は、前記第２の中間分類器による判定に基づいて前記信号セットの処理を中止するか継続するかを判定することを含む、
方法。
【請求項４】
前記第２の畳み込みレイヤーの特徴マップの前記セットは、前記第２の畳み込みレイヤーの全特徴マップのサブセットを含む、請求項３に記載の方法。
【請求項５】
請求項３または４に記載の方法であって、
前記畳み込みニューラルネットワークは、前記第２の畳み込みレイヤーと前記最後の畳み込みレイヤーとの間に設けられた第３の畳み込みレイヤーと、前記第３の畳み込みレイヤーの特徴マップのセットで動作する第３の中間分類器とを備え、
前記方法は、前記第３の中間分類器による判定に基づいて前記信号セットの処理を中止するか継続するかを判定することを含む、
方法。
【請求項６】
前記第３の畳み込みレイヤーの特徴マップの前記セットは、前記第３の畳み込みレイヤーの全特徴マップのサブセットを含む、請求項５に記載の方法。
【請求項７】
少なくとも１つの基準に基づき、前記第１の畳み込みレイヤーの特徴マップの前記セットと、前記第２の畳み込みレイヤーの特徴マップの前記セットと、前記第３の畳み込みレイヤーの特徴マップの前記セットとの少なくとも１つを選択することを含む、請求項５または６に記載の方法。
【請求項８】
前記信号セットは、前記入力レイヤーからの画像の部分像が処理されたものを含む、請求項１から７のいずれかに記載の方法。
【請求項９】
前記信号セットは、前記入力レイヤーからの画像が処理されたものを含む、請求項１から７のいずれかに記載の方法。
【請求項１０】
前記畳み込みニューラルネットワークは、人物の画像を検出するように構成された、請求項１から９のいずれかに記載の方法。
【請求項１１】
前記畳み込みニューラルネットワークは、歩行者の画像を検出するように構成された、請求項１から９のいずれかに記載の方法。
【請求項１２】
前記複数のカーネルが、それぞれ直前の畳み込みレイヤーの出力のみを受信し、前記信号セットをさらに処理するように構成される、請求項１から１１のいずれかに記載の方法。
【請求項１３】
処理手段及び記憶手段を備える装置であって、前記記憶手段はプログラム命令を格納し、前記プログラム命令は、前記処理手段に実行されると、前記装置に、請求項１から１２のいずれかに記載の方法を遂行させるように構成される、装置。
【請求項１４】
装置の処理手段に実行されると、前記装置に、請求項１から１２のいずれかに記載の方法を遂行させるように構成されるプログラム命令を備える、コンピュータプログラム。
【請求項１５】
第１の畳み込みレイヤーに信号を供給するように構成された入力レイヤーと、最後の畳み込みレイヤーとを備える畳み込みニューラルネットワークを動作させる手段と、
第１の中間分類器を前記第１の畳み込みレイヤーの特徴マップのセットで動作させる手段と、
前記第１の中間分類器による判定に基づいて信号セットの処理を中止するか継続するかを判定する手段と、
を備える装置であって、
前記畳み込みニューラルネットワークの各畳み込みレイヤーが、それぞれ直前の畳み込みレイヤーの出力を受信し、前記信号セットをさらに処理するように構成された複数のカーネルを有する、
装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、演算ネットワークを用いたオブジェクトの検出に関する。
【背景】
【０００２】
機械学習では、データを基にした学習を通じてアルゴリズムの設計を求める。機械学習アルゴリズムでは、入力によりモデルが構築され、新たなデータに対する予測に使用できる。機械学習は、統計、人工知能、最適化に関連し、明確な規則に基づくアルゴリズムを構築できないようなタスクに利用される。そのようなタスクの例としては、光学画像認識、文字認識、電子メール用スパムフィルタリングが挙げられる。
【０００３】
人工ニューラルネットワーク（Artificial Neural Network）は、機械学習が可能な演算ツールである。人工ニューラルネットワーク（以下ニューラルネットワークと称する）では、「ニューロン」と呼ばれる相互結合された演算部が、トレーニングデータに適応でき、その後協働してモデルにおける予測を行う。これは、生物学的ニューラルネットワークにおける処理にある程度似通っている。
【０００４】
ニューラルネットワークは、いくつかのレイヤーを有してもよい。このうち、第１のレイヤーは入力を受け付けるように構成された入力レイヤーである。入力レイヤーは、隠れレイヤーとも称される第２のレイヤーのニューロンに接続されたニューロンを有する。隠れレイヤーのニューロンは、別の隠れレイヤーまたは出力レイヤーに接続されていてもよい。
【０００５】
ニューラルネットワークによっては、レイヤーの各ニューロンが後続のレイヤーの各ニューロンに接続されるものもある。そのようなニューラルネットワークは、全結合ネットワークと呼ばれる。トレーニングデータは、各接続について当該接続の強度を特徴付ける重みを推定可能とするために使用される。全結合レイヤーおよび全結合ではないレイヤーを有するニューラルネットワークも存在する。畳み込みニューラルネットワークにおける全結合レイヤーは、密結合レイヤーとも称される。
【０００６】
ニューラルネットワークによっては、信号が入力レイヤーから出力レイヤーへと一方向にのみ伝搬するものもある。この場合、入力レイヤーに戻るように伝搬するための接続は存在しない。このようなニューラルネットワークは、フィードフォワードニューラルネットワークと呼ばれる。入力レイヤーに戻るように伝搬するための接続が存在するようなニューラルネットワークは、リカレント（再帰型）ニューラルネットワークと呼ばれる。
【０００７】
畳み込みニューラルネットワーク（Convolutional Neural Network：ＣＮＮ）は、フィードフォワードニューラルネットワークであり、全結合レイヤーではないレイヤーを有する。ＣＮＮでは、畳み込みレイヤーのニューロンは前段のレイヤーのサブセットまたは近傍のニューロンに接続される。これにより、少なくともいくつかのＣＮＮでは、入力の空間特徴が保たれる。
【摘要】
【０００８】
本発明は、独立クレームの特徴によって定められている。いくつかの特定の実施形態は、従属クレームに定められている。
【０００９】
本発明の第１の態様では装置が提供され、当該装置は、少なくとも１つのプロセッサコアと、コンピュータプログラムコードを含む少なくとも１つのメモリとを備え、前記少なくとも１つのメモリおよび前記コンピュータプログラムコードは、前記少なくとも１つのプロセッサコアとともに、前記装置が少なくとも、第１の畳み込みレイヤーに信号を供給するように構成された入力レイヤーと、最後の畳み込みレイヤーとを備える畳み込みニューラルネットワークを動作させ、第１の中間分類器を前記第１の畳み込みレイヤーの特徴マップのセットで動作させ、前記第１の中間分類器による判定に基づいて信号セットの処理を中止するか継続するかを判定する、ように構成される。
【００１０】
第１の態様の様々な実施形態は、以下に挙げる少なくとも１つの特性を備えてもよい。
・  前記畳み込みニューラルネットワークは、前記第１の畳み込みレイヤーと前記最後の畳み込みレイヤーとの間に設けられた第２の畳み込みレイヤーと、前記第２の畳み込みレイヤーの特徴マップのセットで動作する第２の中間分類器とを備え、前記装置は、前記第２の中間分類器による判定に基づいて前記信号セットの処理を中止するか継続するかを判定するように構成される。
・  前記畳み込みニューラルネットワークは、前記第２の畳み込みレイヤーと前記最後の畳み込みレイヤーとの間に設けられた第３の畳み込みレイヤーと、前記第３の畳み込みレイヤーの特徴マップのセットで動作する第３の中間分類器とを備え、前記装置は、前記第３の中間分類器による判定に基づいて前記信号セットの処理を中止するか継続するかを判定するように構成される。
・  前記第１の畳み込みレイヤーの特徴マップの前記セットは、前記第１の畳み込みレイヤーの全特徴マップのサブセットを含む。
・  前記第２の畳み込みレイヤーの特徴マップの前記セットは、前記第２の畳み込みレイヤーの全特徴マップのサブセットを含む。
・  前記第３の畳み込みレイヤーの特徴マップの前記セットは、前記第３の畳み込みレイヤーの全特徴マップのサブセットを含む。
・  前記信号セットは、前記入力レイヤーからの画像の部分像が処理されたものを含む。
・  前記信号セットは、前記入力レイヤーからの画像が処理されたものを含む。
・  前記畳み込みニューラルネットワークは、人物の画像を検出するように構成される。
・  前記畳み込みニューラルネットワークは、歩行者の画像を検出するように構成される。
・  前記装置は、少なくとも１つの基準に基づき、前記第１の畳み込みレイヤーの特徴マップの前記セットと、前記第２の畳み込みレイヤーの特徴マップの前記セットと、前記第３の畳み込みレイヤーの特徴マップの前記セットとの少なくとも１つを選択するように構成される。
【００１１】
本発明の第２の態様では方法が提供され、当該方法は、第１の畳み込みレイヤーに信号を供給するように構成された入力レイヤーと、最後の畳み込みレイヤーとを備える畳み込みニューラルネットワークを動作させることと、第１の中間分類器を前記第１の畳み込みレイヤーの特徴マップのセットで動作させることと、前記第１の中間分類器による判定に基づいて信号セットの処理を中止するか継続するかを判定することと、を含む。
【００１２】
第２の態様の様々な実施形態は、第１の態様に関連して挙げられた上述の項目における特性に対応する少なくとも１つの特性を含んでもよい。
【００１３】
本発明の第３の態様では装置が提供され、当該装置は、第１の畳み込みレイヤーに信号を供給するように構成された入力レイヤーと、最後の畳み込みレイヤーとを備える畳み込みニューラルネットワークを動作させる手段と、第１の中間分類器を前記第１の畳み込みレイヤーの特徴マップのセットで動作させる手段と、前記第１の中間分類器による判定に基づいて信号セットの処理を中止するか継続するかを判定する手段とを備える。
【００１４】
本発明の第４の態様では非一時的コンピュータ可読媒体が提供され、当該媒体には一連のコンピュータ可読命令が記憶され、当該命令は少なくとも１つのプロセッサによって実行されると、装置に少なくとも、第１の畳み込みレイヤーに信号を供給するように構成された入力レイヤーと、最後の畳み込みレイヤーとを備える畳み込みニューラルネットワークを動作させ、第１の中間分類器を前記第１の畳み込みレイヤーの特徴マップのセットで動作させ、前記第１の中間分類器による判定に基づいて信号セットの処理を中止するか継続するかを判定させる。
【００１５】
本発明の第５の態様では、第２の態様による方法を実施させるように構成されたコンピュータプログラムが提供される。
【産業上の利用可能性】
【００１６】
本発明の少なくともいくつかの実施形態は、機械ベースのパターン認識を向上させる点において産業上の利用ができる。
【図面の簡単な説明】
【００１７】
【図１】図１は、本発明の少なくともいくつかの実施形態をサポートしうる例示のシステムを示す。
【００１８】
【図２】図２は、本発明の少なくともいくつかの実施形態による例示のＣＮＮを示す。
【００１９】
【図３】図３は、本発明の少なくともいくつかの実施形態をサポートしうる例示の装置を示す。
【００２０】
【図４】図４は、本発明の少なくともいくつかの実施形態による例示の中間分類器を示す。
【００２１】
【図５】図５は、本発明の少なくともいくつかの実施形態によるＣＮＮにおけるレイヤーごとの判定を示す。
【００２２】
【図６】図６は、本発明の少なくともいくつかの実施形態による方法のフローチャートである。
【例示的実施形態の詳細説明】
【００２３】
画像データが畳み込みニューラルネットワークでさらに処理される前に、中間分離器がこの画像データの処理を中止することができれば、パターンデータ分析の処理負荷を低減できる。中間分類器は、直前の畳み込みレイヤーの特徴マップで動作できる。それぞれ直前のレイヤーの特徴マップで動作する複数の中間分類器を使用してもよく、その場合、各中間分類器は異なる畳み込みレイヤーの特徴マップで動作する。
【００２４】
図１は、本発明の少なくともいくつかの実施形態をサポートしうる例示のシステムを示す。図１は、歩行者１２０が歩く道路１０１の画像１１０を示す。ここでは歩行者検出について説明するが、本発明はこれに限定されるものではなく、当業者であれば理解できるように、本発明は視覚的、聴覚的、またはその他の種類のデータについてのパターン認識に幅広く適用可能である。例えば、本発明は該当する実施形態に応じて、手書き文字認識、顔認識、交通標識認識、音声認識、言語認識、手話認識、および／またはスパムメール認識に対して有効に適用である。
【００２５】
図１において、道路１０１はカメラ１３０により撮影される。カメラ１３０は道路の少なくとも一部を含む画像１１０を撮影するように構成される。カメラ１３０は、カメラ１３０に含まれる電荷結合素子（Charge-Coupled Device：ＣＣＤ）等の撮像装置から得られた画像データに対して前処理を実行するように構成されてもよい。前処理の例としては、モノクロ変換、コントラスト調整、および撮像画像内のダイナミックレンジを広げるための輝度調整を含む。いくつかの実施形態では、画像データはさらに、画像認識アルゴリズム供給に適したビット深度となるよう縮小される。前処理は、例えば画像認識アルゴリズムへ供給される領域１２５のような関心領域を選択することを含んでもよい。ただし、ＣＮＮは、通常入力データはＣＮＮに供給される前に過度に前処理される必要がないという利点を持つため、前処理は実質的に不要または限定的であってもよい。例えば、カメラ１３０は自動運転車両に備えられてもよい。あるいは、カメラ１３０は人間の運転手が運転する車に、歩行者や動物をはねそうになったら警告および／または自動ブレーキを作用させるために設けられてもよい。
【００２６】
データは、カメラ１３０からフェーズ１４０、１５０、１６０、１７０を有する畳み込みニューラルネットワークに供給される。フェーズ１４０は、カメラ１３０から受信した画像を処理するように構成された第１の畳み込みレイヤーを有する。第１の畳み込みレイヤー１４０は、それぞれカメラ１３０から受信した画像の一部からのデータを処理するように配置された複数のカーネルを有してもよい。カーネルに供給される当該画像の一部は、カーネルの受信野と称してもよい。カーネルはフィルターとも称される。隣接するカーネルの受信野同士は、ある程度重複してもよく、それにより畳み込みニューラルネットワークは画像内で移動するオブジェクトに対応可能となる。いくつかの実施形態では、第１の畳み込みレイヤー１４０の各カーネルは同じ重みを利用してもよい。つまり、カーネルのニューロン間で重みが異なっていても、第１の畳み込みレイヤー１４０の各カーネルの重み表は同じとなる。これにより独自の重みの数を低減でき、畳み込みニューラルネットワークが画像の様々な部位を同様に処理可能となる。例えば歩行者検出では、歩行者は画像のあらゆる部位に存在しうるため、このことが有効となりうる。独立した重みの数を制御することはさらに、畳み込みニューラルネットワークのトレーニングが容易となるという利点をもたらしうる。
【００２７】
第１の畳み込みレイヤー１４０は、複数の特徴マップを有する。中間分類器１５０は、第１の畳み込みレイヤー１４０から特徴マップを受信または読み出し可能であってもよい。中間分類器１５０は、第１の畳み込みレイヤー１４０の特徴マップの全てまたはそのサブセットを使用してもよい。ここでのサブセットとは、第１の畳み込みレイヤー１４０の特徴マップの少なくとも１つであって、全体を含まないセットを意味する。中間分類器１５０は、画像または部分画像に歩行者が存在しないと判定し、第２の畳み込みレイヤー１６０において画像データがさらに処理されないように構成されてもよい。これにより、省演算資源効果が得られる。
【００２８】
いくつかの実施形態では、中間分類器１５０は第１の畳み込みレイヤー１４０のカーネルのサブセットに対応する画像データがさらに処理されないよう判定するように構成される。例えば、画像１１０内に歩行者が存在したとしても、歩行者が存在する部位は例えば領域１２５のように画像１１０のほんの一部に過ぎない可能性がある。その他の部位は背景と称されてもよい。この場合、画像１１０に歩行者が存在するかという最終的判定に対して、領域１２５から信号を受信しないカーネルからのさらなるデータの処理が寄与することはない。当該判定に寄与するのは、領域１２５から信号を受信する１つまたは複数のカーネルのみである。このことから、領域１２５を、それぞれカーネルの受信野に対応する、画像１１０の複数の部分画像の１つと捉えることができる。あるいは、またはさらに、あるカーネルが信号を受信する画像の領域を部分画像と捉えることもできる。中間分類器１５０は、背景部分画像のさらなる処理を防止するように構成されたものであってもよい。
【００２９】
中間分類器１５０は、画像データに対するさらなる処理について判定するように構成されてもよい。例えば、第１の畳み込みレイヤー１４０の特徴マップの特徴で動作するように構成されてもよい。上述のように、第１の畳み込みレイヤー１４０の特徴マップのサブセットのみを使用することで、省演算資源となる。中間分類器を構成する際、第１の畳み込みレイヤー１４０における最も識別能力の高い特徴マップが認識され、これが中間分類器１５０の動作のために選択されてもよい。
【００３０】
中間分類器１５０において、選択された第１の畳み込みレイヤー１４０の特徴マップは、決定木となるように配置されてもよい。これは、中間分類器生成のために、マップをカスケード接続して退化型（degenerate）決定木を形成することを含む。
【００３１】
中間分類器１５０によりさらなる処理が防止されない画像データは、第２の畳み込みレイヤー１６０に供給される。第２の畳み込みレイヤー１６０は、第１の畳み込みレイヤー１４０の出力を受信し、画像データをさらに処理するように構成された複数のカーネルを有してもよい。より具体的には、各カーネルは第１の畳み込みレイヤー１４０の１つ以上のカーネルからのデータを処理するように構成されてもよい。第２の畳み込みレイヤー１６０のカーネルに信号を供給する第１の畳み込みレイヤー１４０の一部は、第２の畳み込みレイヤー１６０の当該カーネルの受信野とも称される。第２の畳み込みレイヤー１６０の隣接するカーネルの受信野同士は、ある程度重複してもよく、それにより畳み込みニューラルネットワークは画像内で移動するオブジェクトに対応可能となる。いくつかの実施形態では、第２の畳み込みレイヤー１６０の各カーネルは同じ重みを利用してもよい。つまり、カーネルのニューロン間で重みが異なっていても、第２の畳み込みレイヤー１６０の各カーネルの重み表は同じとなる。これにより独自の重みの数を低減でき、畳み込みニューラルネットワークが画像の様々な部位を同様に処理可能となる。
【００３２】
第１の畳み込みレイヤー１４０および第２の畳み込みレイヤー１６０は、それぞれ異なるレベルの表現を学習するものであってもよい。これにより、異なるレイヤー同士で上位、下位概念が扱われることになる。したがって、第１の畳み込みレイヤー１４０および第２の畳み込みレイヤー１６０は、オブジェクトを異なる観点、態様で表現可能となる。この構成によると、いくつかの実施形態では、異なる概念レイヤーで部分画像を評価し、最終的判定の前段階で区別できるようになる。すなわち、前段における分類器または判定レイヤーは、後段のレイヤーが扱うデータ量を低減するために、ターゲットパターンを含まない部分画像を排除してもよい。
【００３３】
図１のＣＮＮのフェーズ１７０は、例えば全結合レイヤーを含む判定レイヤーである。図１の例では、判定レイヤーの出力は、画像１１０が歩行者を含むかの判定に相当する。
【００３４】
第１の畳み込みレイヤー１４０および第２の畳み込みレイヤー１６０について説明したが、本発明の別の実施形態では、さらに少なくとも第３の畳み込みレイヤーが存在してもよい。そのような構成では、第２の畳み込みレイヤー１６０の特徴マップで動作するように配置された第２の中間分類器がさらに存在してもよい。第２の中間分類器は、中間分類器１５０が通過させて第２の畳み込みレイヤー１６０に送られたいくつかの背景部分画像のさらなる処理を防止するようにしてもよい。このような構成によると、中間分類器が１つの場合と比較して、判定レイヤー１７０が受信する背景部分画像がさらに低減できるという利点がある。
【００３５】
例えば、図１のカメラ１３０およびＣＮＮは、携帯電話、スマートフォン、その他の同様の機器のような携帯機器に備えられてもよい。携帯機器を車に設置して、前方に歩行者がいる可能性がある場合に車の運転手に警告を発することを可能としてもよい。
【００３６】
いくつかの実施形態では、カメラ１３０およびＣＮＮが同じ装置に備えられていない。例えば、カメラ１３０は、車や携帯機器に備えられ、撮影した映像を少なくとも部分的におよび／または処理しておよび／または圧縮して、バックエンドサーバ装置または車のコンピュータで動作するＣＮＮに供給するように構成されてもよい。例えば、サーバが車または携帯機器に対して戻される判定の指示を供給してもよい。
【００３７】
いくつかの実施形態では、例えば第１の畳み込みレイヤー１４０および第２の畳み込みレイヤー１６０のようなＣＮＮレイヤーがそれぞれ異なる装置に含まれる。例えば、第１の装置がカメラ１３０および第１の畳み込みレイヤー１４０を有し、第２の装置が第２の畳み込みレイヤー１６０を動作するように構成されてもよい。原則として第３の装置が中間分類器１５０を動作しうる。第１の装置、第２の装置および／または第３の装置は携帯機器であってもよく、あるいはその内の少なくとも１つが、例えばバックエンドサーバであってもよい。第１、第２、第３の装置の少なくとも２つが携帯機器である場合、例えばＮＦＣまたはＢｌｕｅｔｏｏｔｈ（登録商標）のような近距離無線通信インターフェースにより通信するように構成されてもよい。
【００３８】
図２は、本発明の少なくともいくつかの実施形態による例示的ＣＮＮを示す。この例示的ＣＮＮは、図２でＣ１、Ｃ２、Ｃ３、Ｃ４、Ｆ５、Ｆ６が付された６層を有する。「Ｃ」が付されたレイヤーは畳み込みレイヤーであり、「Ｆ」が付されたレイヤーは全結合レイヤーである。すなわち、最後の２層が全結合レイヤーであり、最初の４層が畳み込みレイヤーである。最終レイヤーの出力は、歩行者、背景それぞれに対する信頼度を提供する二元判定となる。
【００３９】
図示の例では、最初の３つの畳み込みレイヤーの後に、局地コントラスト正規化動作が実行される。さらに当該局地正規化動作に続いて、サブサンプリング動作が実行される。
【００４０】
図示の例では、入力レイヤーである第１の畳み込みレイヤーは、１画素のストライドで、７×７×１サイズの１６個のカーネルにより１３４×７０×１の入力画像をフィルタリングする。第１の畳み込みレイヤーの出力は第２の畳み込みレイヤーに入力され、例えば正規化、サブサンプリングされてもよい。レイヤー１である第２の畳み込みレイヤーは、入力されたものを５×５×１６サイズの３２個のカーネルによりフィルタリングする。レイヤー２である第３の畳み込みレイヤーは、第２の畳み込みレイヤーの、例えば正規化およびサブサンプリングされていてもよい出力に接続される５×５×３２サイズの３２個のカーネルを有する。レイヤー３である第４の畳み込みレイヤーは、５×５×３２サイズのカーネルを有する。全結合レイヤーは、２５６個のニューロンを有する。図２のＣＮＮでは、サブサンプリングにより、判定段に向かってレイヤーのサイズが低減していく。
【００４１】
図３は、例えば少なくとも１つの中間分類器を有するＣＮＮを動作させることで、本発明の少なくともいくつかの実施形態に対応できる例示的装置を示す。図示の装置３００は、例えばコンピュータまたは演算装置であってもよい。装置３００は、例えばシングルコアまたはマルチコアプロセッサであってもよいプロセッサ３１０を有する。シングルコアプロセッサは、単一のプロセッサコアを有し、マルチコアプロセッサは２つ以上のプロセッサコアを有するものである。プロセッサ３１０は、例えばクアルコム社製、スナップドラゴン８００プロセッサであってもよい。プロセッサ３１０は、２つ以上のプロセッサであってもよい。プロセッサコアは、例えばＡＲＭホールディングス製のＣｏｒｔｅｘ−Ａ８プロセッサコアまたは、アドバンスト・マイクロ・デバイセズ製Ｂｒｉｓｂａｎｅプロセッサコアであってもよい。プロセッサ３１０は、クアルコム社製、スナップドラゴンおよび／またはインテル社製、Ａｔｏｍプロセッサの少なくとも１つであってもよい。プロセッサ３１０は、少なくとも１つの特定用途向け集積回路（Application-Specific Integrated Circuit：ＡＳＩＣ）を含んでもよい。プロセッサ３１０は、少なくとも１つのフィールドプログラマブルゲートアレイ（Field-Programmable Gate Array：ＦＰＧＡ）を含んでもよい。プロセッサ３１０は、装置３００における方法ステップを実現する手段であってもよい。プロセッサ３１０は、少なくとも一部がコンピュータ命令により動作を実行するように構成されてもよい。
【００４２】
装置３００は、メモリ３２０を有してもよい。メモリ３２０は、ランダムアクセスメモリおよび／または固定メモリを含んでもよい。メモリ３２０は、少なくとも１つのＲＡＭチップを含んでもよい。例えばメモリ３２０は、磁気、光学および／またはホログラフィックメモリを含んでもよい。メモリ３２０の少なくとも一部は、プロセッサ３１０にアクセス可能であってもよい。メモリ３２０は、情報を記憶する手段であってもよい。メモリ３２０は、プロセッサ３１０が実行するように構成されたコンピュータ命令を含んでもよい。プロセッサ３１０に所定の動作を実行させるように構成されたコンピュータ命令がメモリ３２０に記憶され、装置３００全体がメモリ３２０からのコンピュータ命令を使用したプロセッサ３１０の命令に基づいて動作するように構成されている場合、プロセッサ３１０および／またはその少なくとも１つのプロセッサコアが当該所定の動作を実行するように構成されているとみなすことができる。メモリ３２０は、少なくとも部分的にプロセッサ３１０内に構成されてもよい。
【００４３】
装置３００は、送信部３３０を有してもよい。装置３００は、受信部３４０を有してもよい。送信部３３および受信部３４０は、少なくとも１つのセルラーまたはノンセルラー通信規格に従って互いに情報を送受信するように構成されてもよい。送信部３３０は、２つ以上の送信部であってもよい。受信部３４０は、２つ以上の受信部であってもよい。例えば、送信部３３０および／または受信部３４０は、ＷＬＡＮ、イーサネット（登録商標））、ＷＣＤＭＡ（登録商標）、および／またはＷｉＭＡＸ（登録商標）の規格に従って動作するように構成されてもよい。
【００４４】
装置３００は、ユーザインターフェース（ＵＩ）３６０を有してもよい。ＵＩ３６０は、ディスプレイ、キーボード、タッチスクリーンの少なくとも１つであってもよい。例えば、ユーザは人工ニューラルネットワークを構成するように、ＵＩ３６０を介して装置３００を操作可能であってもよい。
【００４５】
プロセッサ３１０には、プロセッサ３１０から情報を、装置３００内に設けられた別装置に、装置３００内の電線を介して出力するように構成された送信部が設けられてもよい。例えば、当該送信部は、メモリ３２０への少なくとも１つの電線を介して、メモリ３２０への記録用に情報を出力するように構成された、シリアルバス送信部であってもよい。当該送信部は、シリアルバスではなく、並列バス送信部であってもよい。同様に、プロセッサ３１０は、装置３００内の別装置から、装置３００内の電線を介して、プロセッサ３１０内に情報を受信するように構成された受信部を有してもよい。例えば、当該受信部は、受信部３４０からの少なくとも１つの電線を介して、プロセッサ３１０内での処理用に情報を受信するように構成されたシリアルバス受信部であってもよい。当該受信部は、シリアルバスではなく、並列バス受信部であってもよい。
【００４６】
装置３００はさらに、図３に図示されていない装置をさらに有してもよい。装置３００は、装置３００のユーザを少なくとも部分的に認証するように構成された指紋センサを有してもよい。いくつかの実施形態では、装置３００は上述の装置の内、少なくとも１つを含まない。
【００４７】
プロセッサ３１０、メモリ３２０、送信部３３０、受信部３４０、および／またはＵＩ３６０は、様々な形式で、装置３００内の電線により相互接続されていてもよい。例えば、上述の装置はそれぞれ、独立して装置３００内のマスターバスに接続されて、情報のやり取りが可能であってもよい。ただし、当業者に理解されるように、これは単に一例であって、実施形態によっては、本発明の範囲から逸脱することなく、上述の装置の少なくとも２つを様々な方法で内部接続してもよい。
【００４８】
図４は、本発明の少なくともいくつかの実施形態による例示的な中間分類器を示す。例示的中間分類器は、図２の例におけるレイヤー１に基づく。当該レイヤーは６４×３２サイズの１６個の特徴マップを有する。各特徴マップは入力画像の一形態を表すものであって、分類器のトレーニングに各特徴マップを供することが可能である。例えば、単一の特徴マップの６４×３２＝２０４８個の要素を１つのベクトルに集約してもよい。例えば、サポートベクターマシーン（ＳＶＭ）または多レイヤーパーセプトロン（ＭＬＰ）分類器をトレーニングしてもよい。図４の例では、ＳＶＭ分類器について説明する。この例では、それぞれの分類誤差でランク付けされた、合計１６個の線形ＳＶＭが得られる。省演算資源のため、識別能力の高い順に５つのＳＶＭを選択して中間レイヤー分類器１を構成してもよい。
【００４９】
次に、トレーニングされたＳＶＭのランキングについて簡潔に説明する。サンプルｘとして、特徴ｆｉ（ｘ）に対するＳＶＭ分類器ｈｉ（ｘ，ｗｉ）（第ｉ特徴マップから得られるベクトル）は以下のとおりとなる。
【００５０】
［式１］
0006488380.tif 000002
【００５１】
式中、thiはトレーニング処理中に得られる閾値である。さらに、各ＳＶＭ分類器の重み付け分類誤差を計算してもよい。分類誤差が最小である最も高性能のものを最初に選択し、次の反復において、トレーニングサンプルの重みを再計算する。選択処理は、全てのＳＶＭ分類器が選択されるまで繰り返されてもよい。
【００５２】
レイヤー分類器を構成するＳＶＭの数は以下のとおりに決定できる。例えばレイヤー分類器は、直前のレイヤーからの背景画像ウィンドウの６０〜７０％をフィルタリングし、歩行者、またはより一般的には対象パターンを含む入力画像ウィンドウをすべて通過可能ものとする。この要件を満たすまで、ランキングされたＳＶＭを１つずつつなげて退化型決定木を形成すると、ＳＶＭの数が求められる。同様に、図２の中間レイヤー分類器２、３、４が、それぞれレイヤー２、レイヤー３、レイヤー４の特徴マップに基づいて得られる。最終的に、元は単一判定のＣＮＮが、図５に示すようなレイヤーごとに判定を行うＣＮＮとなる。
【００５３】
すなわち、複数の中間分類器を構成し、それぞれが直前の畳み込みレイヤーの特徴マップで動作するようにしてもよい。各中間分類器は、ＣＮＮが対象とするパターンを含まないデータがさらに処理されないように構成されることで、省演算資源効果が得られる。それぞれ直前の畳み込みレイヤーの特徴マップのサブセットで動作するようにすることにより、さらなる省演算資源効果が得られる。ＣＮＮ構造によっては、畳み込みニューラルネットワーク内のレイヤーは、数十さらには数百もの特徴マップを有してもよい。この構成で最も識別能力が高いものを選択することで、構造にもよるが、適度または超高度な省演算資源効果が得られる。
【００５４】
図５は、本発明の少なくともいくつかの実施形態によるＣＮＮにおけるレイヤーごとの判定を示す。図５に示すシステムでは、図２と同様のＣＮＮに４つの中間分類器が設けられている。レイヤー１の特徴マップで動作するレイヤー分類器１の構成は、図４に示したとおりである。
【００５５】
図示のシステムでは、中間分類器は、レイヤー分類器１、レイヤー分類器２、レイヤー分類器３、レイヤー分類器４を含み、それぞれ背景部分、すなわち入力画像の内の歩行者を含まない部分の７０％が後段で処理されないようにする。その結果、出力レイヤーで評価されるのは、元の背景部分画像の（１−０．７）４＝０．８％にすぎない。ＩＮＲＩＡ（歩行者）データセットを使用したテストでは、中間判定を用いない同様のＣＮＮと比較して、処理速度が５．２倍向上した。
【００５６】
ここでは、各隣接する畳み込みレイヤー間に中間分類器が設けられるが、いくつかの実施形態では中間分類器はより少なくともよい。例えば、図５のシステムにおいて、第１の中間分類器すなわちレイヤー１分類器のみが設けられている場合でも、中間判定のないＣＮＮよりは十分に計算的に有利である。単一の中間分類器でも、ＣＮＮの後段での背景部分量を低減できるのである。あるいは図５のシステムにおいて、レイヤー分類器１およびレイヤー分類器２のみが使用されていてもよい。
【００５７】
図６は、本発明の少なくともいくつかの実施形態による方法のフローチャートを示す。図示の方法におけるフェーズは、例えば図３に示す装置３００のような装置で実行できる。
【００５８】
フェーズ６１０では、第１の畳み込みレイヤーに信号を供給するように構成された入力レイヤーと、最後の畳み込みレイヤーとを備える畳み込みニューラルネットワークを動作させる。フェーズ６２０では、第１の中間分類器を第１の畳み込みレイヤーの特徴マップのセットで動作させる。第１の中間分類器は、例えば第１の畳み込みレイヤーと最後の畳み込みレイヤーとの間で動作してもよい。最後に、フェーズ６３０では、第１の中間分類器による判定に基づいて信号セットの処理を中止するか継続するかを判定する。信号セットは、部分画像、より広い概念としては、畳み込みニューラルネットワークへの入力の例えばフィルタリング済みサブセットのようなサブセットであってもよい。
【００５９】
開示された本発明の実施形態は、本明細書に開示された特定の構造、プロセスステップ、または材料に限定されるものではなく、当該技術分野の当業者によって認識されるであろう均等物にまで拡張されることは理解されるであろう。また、本明細書に使用されている用語は、特定の実施形態を記載する目的のみに用いられているものであり、限定する意図はないことも理解されるであろう。
【００６０】
本明細書の全体を通じて、「１つの実施形態」または「ある実施形態」との言及は、当該実施形態に関連して記載されている特定の特性、構造、または特徴が本発明の少なくとも１つの実施形態に含まれていることを示している。したがって、本明細書の各所に述べられた「１つの実施形態では」または「ある実施形態では」という表現が、すべて同一の実施形態に言及しているとは限らない。
【００６１】
本明細書で使用されている複数の品目、構造的要素、組成要素、および／または材料は、便宜上、共通のリストとして提示されていてもよい。しかし、これらのリストは、それぞれの部材が別個で特異な部材であると個別に識別されるものであると解されるべきである。したがって、別途反対の記載がない限り、共通の群として示されているということのみを理由に、これらのリストの個別の部材が、同じリストの任意の他の部材の事実上の均等物であると解されるべきではない。さらに、本発明の各種実施形態および例は、本明細書においてその様々な構成要素に対する代替物と併せて言及されていてもよい。このような実施形態、例、および代替物は、互いの事実上の均等物であると解されるものではなく、本発明の別個の自律的な描写であると考えられることが理解されるであろう。
【００６２】
さらに、記載された特性、構造、または特徴は、１または複数の実施形態において任意の方法で組み合わされてもよい。以下の説明では、長さ、幅、形状等の例といった数々の特定の詳細を挙げて本発明の実施形態の完全な理解を促している。しかし、当該技術分野の当業者は、本発明が１または複数の特定の詳細を除いても、または他の方法、構成要素、材料等によっても実施しうることを認識するであろう。その他の例として、公知の構造、材料、または動作は、本発明の態様が不明瞭となるのを避けるため、詳細に図示または記載されていない。
【００６３】
上述の例は、１または複数の適用例における本発明の原則を例示するものであり、発明の才能を発揮することなく、また、本発明の原則および概念から逸脱することなく、形式、使用、および実施の詳細において様々な変更をなしうることは当業者には明らかであろう。したがって、以下に定められている請求項を除いては、本発明の限定を意図するものではない。
【図１】
0006488380.tif 000003
【図２】
0006488380.tif 000004
【図３】
0006488380.tif 000005
【図４】
0006488380.tif 000006
【図５】
0006488380.tif 000007
【図６】
0006488380.tif 000008