(57)【要約】【課題】物体の特性を相対的に粗い第１の精度で識別可能な識別装置及び物体の特性を相対的に細かい第２の精度で識別可能な識別装置を、相対的に効率的に構築する。【解決手段】識別装置（１）は、物体の識別に関する共通処理を行うことで共通処理の結果を出力する第１ニューラルネットワーク（１１）と、第１ニューラルネットワークの出力が入力され、物体の特性を第１の精度で識別するための第１識別処理の結果を出力する第２ニューラルネットワーク（１２）と、第１ニューラルネットワークの出力及び第１識別処理の過程で第２ニューラルネットワークが生成する中間データが入力され、物体の特性を第１の精度よりも細かい第２の精度で識別するための第２識別処理の結果を出力する第３ニューラルネットワーク（１３）とを備える。【選択図】図１
2019028616.tif 000002
【特許請求の範囲】
【請求項１】
物体に関する第１入力データが入力され、且つ、前記第１入力データに基づいて、前記物体の識別に関する共通処理を行うことで前記共通処理の結果を出力する第１ニューラルネットワークと、
前記第１ニューラルネットワークの出力が第２入力データとして入力され、且つ、前記第２入力データに基づいて、前記物体の特性を第１の精度で識別するための第１識別処理を行って前記第１識別処理の結果を出力する第２ニューラルネットワークと、
前記第１ニューラルネットワークの出力及び前記第１識別処理の過程で前記第２ニューラルネットワークが生成する中間データが第３入力データとして入力され、且つ、前記第３入力データに基づいて、前記物体の特性を前記第１の精度よりも細かい第２の精度で識別するための第２識別処理を行って前記第２識別処理の結果を出力する第３ニューラルネットワークと
を備えることを特徴とする識別装置。
【請求項２】
前記第１から第３ニューラルネットワークの夫々は、前記第１入力データと、前記第１入力データに対応する前記物体の特性を前記第１の精度で示す第１正解データ及び前記第１入力データに対応する前記物体の特性を前記第２の精度で示す第２正解データとを関連付けた第１学習データを用いた第１学習処理を行う
ことを特徴とする請求項１に記載の識別装置。
【請求項３】
前記第１及び第２ニューラルネットワークの夫々は、前記第１入力データと前記第１入力データに対応する前記物体の特性を前記第１の精度で示す第１正解データとを関連付けている一方で、前記第１入力データに対応する前記物体の特性を前記第２の精度で示す第２正解データを含んでいない第２学習データを用いた第２学習処理を行い、
前記第１及び第２ニューラルネットワークの夫々が前記第２学習処理を行っている期間中は、前記第３ニューラルネットワークは、前記第２学習処理を行わない
ことを特徴とする請求項１又は２に記載の識別装置。
【請求項４】
前記第１及び第２ニューラルネットワークを、前記第３ニューラルネットワークとは独立して切り離して、前記第１及び第２ニューラルネットワークを備える一方で前記第３ニューラルネットワークを備えていない別の識別装置を構築可能である
ことを特徴とする請求項１から３のいずれか一項に記載の識別装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、例えば、物体の特性を識別可能な識別装置の技術分野に関する。
【背景技術】
【０００２】
このような識別装置の一例として、特許文献１には、ニューラルネットワークを用いて、画像中の物体がどのような物体であるかを識別する識別装置が開示されている。更に、特許文献２には、ニューラルネットワークを用いて、入力される音声がどのような言語の音声であるかを識別する識別装置が開示されている。更に、特許文献３には、ニューラルネットワークを用いて、画像中の物体のカテゴリを識別する識別装置が開示されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１７−０８４３２０号公報
【特許文献２】特開２０１４−２２９１２４号公報
【特許文献３】特開２０１６−０３３８０６号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
識別装置は、様々な用途で用いられる。この場合、第１の用途で用いられる識別装置は、物体の特性を相対的に粗い（言い換えれば、低い）第１の精度で識別すれば十分である一方で、第１の用途とは異なる第２の用途で用いられる識別装置は、物体の特性を相対的に細かい（言い換えれば、高い）第２の精度で識別する必要がある状況が生じえる。この場合、通常は、物体の特性を第１の精度で識別する識別装置と、物体の特性を第２の精度で識別する識別装置とが別個独立に構築される。つまり、物体の特性を識別する精度が異なる２種類の識別装置が夫々備える２種類のニューラルネットワークが別個に構築される。
【０００５】
しかしながら、これら２種類の識別装置は、物体の同じ特性を識別するという点では共通している。このため、２種類の識別装置を効率的に構築するという点で改善を図ることが可能であると推定される。
【０００６】
本発明が解決しようとする課題には上記のようなものが一例としてあげられる。本発明は、物体の特性を相対的に粗い第１の精度で識別可能な識別装置及び物体の特性を相対的に細かい第２の精度で識別可能な識別装置を、相対的に効率的に構築することを課題とする。
【課題を解決するための手段】
【０００７】
本発明の識別装置の一の態様は、物体に関する第１入力データが入力され、且つ、前記第１入力データに基づいて、前記物体の識別に関する共通処理を行うことで前記共通処理の結果を出力する第１ニューラルネットワークと、前記第１ニューラルネットワークの出力が第２入力データとして入力され、且つ、前記第２入力データに基づいて、前記物体の特性を第１の精度で識別するための第１識別処理を行って前記第１識別処理の結果を出力する第２ニューラルネットワークと、前記第１ニューラルネットワークの出力及び前記第１識別処理の過程で前記第２ニューラルネットワークが生成する中間データが第３入力データとして入力され、且つ、前記第３入力データに基づいて、前記物体の特性を前記第１の精度よりも細かい第２の精度で識別するための第２識別処理を行って前記第２識別処理の結果を出力する第３ニューラルネットワークとを備える。
【図面の簡単な説明】
【０００８】
【図１】図１は、本実施形態の識別装置の構成を示すブロック図である。
【図２】図２は、特徴抽出器の構成を示すブロック図である。
【図３】図３は、分類器の構成を示すブロック図である。
【図４】図４は、第１の実装方法で識別装置が実装される車両の構成を示すブロック図である。
【図５】図５は、第１の実装方法で実装される識別装置の構成を示すブロック図である。
【図６】図６は、第２の実装方法で識別装置が実装される車両の構成を示すブロック図である。
【図７】図７は、第２の実装方法で実装される識別装置の構成を示すブロック図である。
【図８】図８は、識別装置の学習動作の流れを示すフローチャートである。
【図９】図９は、学習動作で用いられる学習データの一例を示すテーブルである。
【発明を実施するための形態】
【０００９】
以下、識別装置の実施形態について説明する。以下では、本発明の識別装置の一実施形態として、車両３に搭載されたカメラ３１が撮像した画像に写っている物体のカテゴリを、相対的に粗い第１の精度で識別すると共に相対的に細かい第２の精度で識別することが可能な識別装置１について説明する。
【００１０】
（１）識別装置１の構成
はじめに、図１を参照しながら、本実施形態の識別装置１の構成について説明する。図１は、本実施形態の識別装置１の構成を示すブロック図である。
【００１１】
図１に示すように、識別装置１は、後述する付記における「第１ニューラルネットワーク」の一具体例である共通ニューラルネットワーク１１と、後述する付記における「第２ニューラルネットワーク」の一具体例である分岐ニューラルネットワーク１２と、後述する付記における「第３ニューラルネットワーク」の一具体例である分岐ニューラルネットワーク１３とを備える。尚、識別装置１は、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）やＥＣＵ（Ｅｌｅｃｔｒｏｎｉｃ  Ｃｏｎｔｒｏｌ  Ｕｎｉｔ）等の処理装置２上でソフトウェアが実行されることで、当該処理装置２上で論理的に実現される処理ブロックである。
【００１２】
共通ニューラルネットワーク１１には、車両３に搭載されたカメラ３１が撮像した画像を示す画像データが入力される。尚、画像データは、後述する付記における「第１入力データ」の一具体例である。共通ニューラルネットワーク１１は、画像データに対して、物体のカテゴリの識別に関する共通処理を行う。共通処理は、画像データが示す画像に写っている物体のカテゴリを相対的に粗い第１の精度で識別するための第１識別処理及び物体のカテゴリを相対的に細かい第２の精度で識別するための第２識別処理に共通して行われる処理である。つまり、共通処理は、第１識別処理を行う分岐ニューラルネットワーク１２及び第２識別処理を行う分岐ニューラルネットワーク１３の前段で行われる処理である。
【００１３】
共通処理は、画像データに基づいて、物体の特徴を示す特徴量ベクトルＣを算出する第１特徴抽出処理を含む。第１特徴抽出処理を行うために、共通ニューラルネットワーク１１は、Ｌ個（但し、Ｌは２以上であるが、１であってもよい）の特徴抽出器１１１を備えている。各特徴抽出器１１１は、物体の特徴を示す特徴量ベクトルＣを算出可能である。Ｌ個の特徴抽出器１１１は、前段の特徴抽出器１１１が算出した特徴量ベクトルＣが後段の特徴抽出器１１１に入力されるように直列に多段接続されている。但し、初段の特徴抽出器１１１には、他の特徴抽出器１１１が算出した特徴量ベクトルＣではなく、画像データが入力される。更に、最終段の特徴抽出器１１１が算出した特徴量ベクトルＣは、他の特徴抽出器１１１に入力されない。
【００１４】
特徴抽出器１１１は、特徴量を抽出するための既存のアルゴリズムを用いて、特徴量ベクトルＣを算出する。但し、以下では、説明の便宜上、各特徴抽出器１１１が、各特徴抽出器１１１に入力される入力データ（つまり、画像データ又は他の特徴抽出器１１１が算出した特徴量ベクトルＣ）に畳み込み処理を行うことで特徴量ベクトルＣを算出する例について説明する。つまり、以下では、共通ニューラルネットワーク１１が、畳み込みニューラルネットワーク（ＣＮＮ：Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）である例について説明する。この場合、各特徴抽出器１１１は、例えば、図２に示すように、畳み込み処理部１１１１と、プーリング処理部１１１２とを備える。尚、畳み込み処理部１１１１が行う畳み込み処理は既存の畳み込み処理と同一であってもよく、プーリング処理部１１１２が行うプーリング処理は既存のプーリング処理と同一であってもよい。このため、説明の簡略化のために、畳み込み処理及びプーリング処理の詳細な説明は省略するが、以下のその概要について簡単に説明する。畳み込み処理部１１１１は、入力データに対して、所望のフィルタ特性を有する畳み込みフィルタを用いた畳み込み処理を行う。畳み込み処理の結果得られるデータ（いわゆる、特徴マップ）は、プーリング処理部１１１２に入力される。プーリング処理部１１１２は、特徴マップに対して、プーリング処理を行う。その結果、プーリング処理部１１１２は、入力データの特徴（つまり、物体の特徴）を示す所定次元の特徴量ベクトルＣを出力する。
【００１５】
再び図１において、分岐ニューラルネットワーク１２には、共通ニューラルネットワーク１１から出力される出力データが、入力データとして入力される。共通ニューラルネットワーク１１から出力される出力データは、共通処理の結果を示すデータであり、具体的には、最終段の特徴抽出器１１１が算出した特徴量ベクトルＣである。以下、共通ニューラルネットワーク１１から出力される出力データに相当する特徴量ベクトルＣを、“特徴量ベクトルＣ１１”と称する。尚、特徴量ベクトルＣ１１は、後述する付記における「第２入力データ」の一具体例である。分岐ニューラルネットワーク１２は、特徴量ベクトルＣ１１に基づいて、物体のカテゴリを相対的に粗い第１の精度で識別するための第１識別処理を行う。より具体的には、分岐ニューラルネットワーク１２は、第１識別処理として、特徴量ベクトルＣ１１に基づいて、物体が複数の大カテゴリのいずれに属するのかを推定するための第１推定処理を行う。
【００１６】
第１推定処理は、特徴量ベクトルＣ１１に基づいて、物体の特徴を示す特徴量ベクトルＣを算出する第２特徴抽出処理を含む。第２特徴抽出処理は、共通ニューラルネットワーク１１で行われる第１特徴抽出処理と比較して、物体のカテゴリを第１の精度で識別することにより一層適した特徴量ベクトルＣを算出するという点で異なっていてもよい。更に、第１推定処理は、第２特徴抽出処理の結果に基づいて、物体が複数の大カテゴリの夫々に属する確率ｐ１を算出する第１分類処理を含む。
【００１７】
第２特徴抽出処理を行うために、分岐ニューラルネットワーク１２は、Ｍ個（但し、Ｍは２以上であるが、１であってもよい）の特徴抽出器１２１を備えている。尚、各特徴抽出器１２１は、後述する付記における「第１処理ブロック」の一具体例である。各特徴抽出器１２１は、物体の特徴を示す特徴量ベクトルＣを算出可能である。Ｍ個の特徴抽出器１２１は、前段の特徴抽出器１２１が算出した特徴量ベクトルＣが後段の特徴抽出器１２１に入力されるように直列に多段接続されている。但し、初段の特徴抽出器１２１には、他の特徴抽出器１２１が算出した特徴量ベクトルＣではなく、共通ニューラルネットワーク１１が出力する特徴量ベクトルＣ１１が入力される。更に、最終段の特徴抽出器１２１が算出した特徴量ベクトルＣは、他の特徴抽出器１２１に入力されない。
【００１８】
特徴抽出器１２１は、特徴量を抽出するための既存のアルゴリズムを用いて、特徴量ベクトルＣを算出する。但し、以下では、説明の便宜上、各特徴抽出器１２１が、各特徴抽出器１２１に入力される入力データ（つまり、共通ニューラルネットワーク１１が出力する特徴量ベクトルＣ１１又は他の特徴抽出器１２１が算出した特徴量ベクトルＣ）に畳み込み処理を行うことで特徴量ベクトルＣを算出する例について説明する。つまり、以下では、分岐ニューラルネットワーク１２が、畳み込みニューラルネットワークである例について説明する。この場合、各特徴抽出器１２１は、上述した特徴抽出器１１１と同様に、不図示の畳み込み処理部１２１１と、不図示のプーリング処理部１２１２とを備える。尚、畳み込み処理部１２１１が用いる畳み込みフィルタは、物体のカテゴリを第１の精度で識別することにより一層適しているという点で、畳み込み処理部１１１１が用いる畳み込みフィルタとは異なっていてもよい。その他の点に関しては、畳み込み処理部１２１１及びプーリング処理部１２１２は、夫々、畳み込み処理部１１１１及びプーリング処理部１１１２と同じであってもよい。
【００１９】
更に、第１分類処理を行うために、分岐ニューラルネットワーク１２は、分類器１２２を備えている。分類器１２２には、第２特徴抽出処理の結果を示すデータが、入力データとして入力される。第２特徴抽出処理の結果を示すデータは、最終段の特徴抽出器１２１が算出した特徴量ベクトルＣである。以下、第２特徴抽出処理の結果を示すデータに相当する特徴量ベクトルＣを、“特徴量ベクトルＣ１２”と称する。分類器１２２は、特徴量ベクトルＣ１２に基づいて、画像に写っている物体が複数の大カテゴリの夫々に属する確率ｐ１を算出する。例えば、図１は、分類器１２２が、物体が「四輪車」という大カテゴリに属する確率ｐ１（＃１）、物体が「二輪車」という大カテゴリに属する確率ｐ１（＃２）及び物体が「人間」という大カテゴリに属する確率ｐ１（＃３）等を算出する例を示している。
【００２０】
このような分類器１２２は、例えば、図３に示すように、Ｘ（但し、Ｘは１以上の整数）次元の特徴量ベクトルＣ１２を構成するＸ個の入力値（ｄ１（＃１）、ｄ１（＃２）、ｄ１（＃３）、・・・、ｄ１（＃Ｘ））が入力される全結合層１２２１と、全結合層１２２１からの出力に基づいて確率ｐ１を出力する出力層１２２２とを備えている。
【００２１】
再び図１において、分岐ニューラルネットワーク１３には、共通ニューラルネットワーク１１から出力される出力データ（つまり、特徴量ベクトルＣ１１）が入力される。尚、特徴量ベクトルＣ１１は、後述する付記における「第３入力データ」の一具体例でもある。分岐ニューラルネットワーク１３は、特徴量ベクトルＣ１１に基づいて、物体のカテゴリを相対的に細かい第２の精度で識別するための第２識別処理を行う。より具体的には、分岐ニューラルネットワーク１３は、第２識別処理として、特徴量ベクトルＣ１１に基づいて、物体が、複数の大カテゴリを更に細分化した複数の小カテゴリのいずれに属するかを推定するための第２推定処理を行う。
【００２２】
第２推定処理は、特徴量ベクトルＣ１１に基づいて、物体の特徴を示す特徴量ベクトルＣを算出する第３特徴抽出処理を含む。第３特徴抽出処理は、共通ニューラルネットワーク１１で行われる第１特徴抽出処理及び分岐ニューラルネットワーク１２で行われる第２特徴抽出と比較して、物体のカテゴリを第２の精度で識別することにより一層適した特徴量ベクトルＣを算出するという点で異なっていてもよい。更に、第２推定処理は、第３特徴抽出処理の結果に基づいて、物体が複数の小カテゴリの夫々に属する確率ｐ２を算出する第２分類処理を含む。
【００２３】
第３特徴抽出処理を行うために、分岐ニューラルネットワーク１３は、Ｎ個（但し、Ｎは２以上であるが、１であってもよい）の特徴抽出器１３１を備えている。尚、各特徴抽出器１３１は、後述する付記における「第２処理ブロック」の一具体例である。各特徴抽出器１３１は、物体の特徴を示す特徴量ベクトルＣを算出可能である。Ｎ個の特徴抽出器１３１は、前段の特徴抽出器１３１が算出した特徴量ベクトルＣが後段の特徴抽出器１３１に入力されるように直列に多段接続されている。但し、初段の特徴抽出器１３１には、他の特徴抽出器１３１が算出した特徴量ベクトルＣではなく、共通ニューラルネットワーク１１が出力する特徴量ベクトルＣ１１が入力される。更に、最終段の特徴抽出器１３１が算出した特徴量ベクトルＣは、他の特徴抽出器１３１に入力されない。
【００２４】
各特徴抽出器１３１には更に、各特徴抽出器１３１に対応する特徴抽出器１２１が算出した特徴量ベクトルＣが入力される。従って、各特徴抽出器１３１は、共通ニューラルネットワーク１１が出力する特徴量ベクトルＣ１１又は他の特徴抽出器１３１が算出した特徴量ベクトルＣに加えて、対応する特徴抽出器１２１が算出した特徴量ベクトルＣに基づいて、特徴量ベクトルＣを算出する。尚、図１は、特徴抽出器１３１の数が特徴抽出器１２１の数と等しく、且つ、各特徴抽出器１３１に、各特徴抽出器１３１と同じ段の特徴抽出器１２１が算出した特徴量ベクトルＣが入力される例を示している。また、特徴抽出器１２１から特徴抽出器１３１に入力される特徴量ベクトルＣは、後述する付記における「中間データ」の一具体例である。
【００２５】
特徴抽出器１３１は、特徴量を抽出するための既存のアルゴリズムを用いて、特徴量ベクトルＣを算出する。但し、以下では、説明の便宜上、各特徴抽出器１３１が、各特徴抽出器１３１に入力される入力データ（つまり、共通ニューラルネットワーク１１が出力する特徴量ベクトルＣ１１又は他の特徴抽出器１３１が算出した特徴量ベクトルＣと、対応する特徴抽出器１２１が算出した特徴量ベクトルＣ）に畳み込み処理を行うことで特徴量ベクトルＣを算出する例について説明する。つまり、以下では、分岐ニューラルネットワーク１３が、畳み込みニューラルネットワークである例について説明する。この場合、各特徴抽出器１３１は、上述した特徴抽出器１１１と同様に、畳み込み処理部１３１１と、プーリング処理部１３１２とを備える（但し、説明の便宜上、不図示）。尚、畳み込み処理部１３１１が用いる畳み込みフィルタは、物体のカテゴリを第２の精度で識別することにより一層適しているという点で、畳み込み処理部１１１１が用いる畳み込みフィルタや畳み込み処理部１２１１が用いる畳み込みフィルタとは異なっていてもよい。その他の点に関しては、畳み込み処理部１３１１及びプーリング処理部１３１２は、夫々、畳み込み処理部１１１１及びプーリング処理部１１１２（或いは、畳み込み処理部１２１１及びプーリング処理部１２１２）と同じであってもよい。
【００２６】
更に、第２分類処理を行うために、分岐ニューラルネットワーク１３は、分類器１３２を備えている。分類器１３２には、第３特徴抽出処理の結果を示すデータが、入力データとして入力される。第３特徴抽出処理の結果を示すデータは、最終段の特徴抽出器１３１が算出した特徴量ベクトルＣである。以下、第３特徴抽出処理の結果を示すデータに相当する特徴量ベクトルＣを、“特徴量ベクトルＣ１３”と称する。分類器１３２は、特徴量ベクトルＣ１３に基づいて、画像に含まれる物体が複数の小カテゴリの夫々に属する確率ｐ２を算出する。例えば、図１は、分類器１３２が、物体が「乗用車」という小カテゴリに属する確率ｐ２（＃１１）、物体が「トラック」という小カテゴリに属する確率ｐ２（＃１２）及び物体が「バス」という小カテゴリに属する確率ｐ２（＃１３）等を算出する例を示している。「乗用車」という小カテゴリ、「トラック」という小カテゴリ及び「バス」という小カテゴリの夫々は、「四輪車」という大カテゴリを細分化した小カテゴリに相当する。更に、例えば、図１は、分類器１３２が、物体が「バイク」という小カテゴリに属する確率ｐ２（＃２１）及び物体が「自転車」という小カテゴリに属する確率ｐ２（＃２２）等を算出する例を示している。「バイク」という小カテゴリ及び「自転車」という小カテゴリの夫々は、「二輪車」という大カテゴリを細分化した小カテゴリに相当する。更に、例えば、図１は、分類器１３２が、物体が「歩行者」という小カテゴリに属する確率ｐ２（＃３１）及び物体が「運転者」という小カテゴリに属する確率ｐ２（＃３２）等を算出する例を示している。「歩行者」という小カテゴリ及び「運転者」という小カテゴリの夫々は、「人間」という大カテゴリを細分化した小カテゴリに相当する。
【００２７】
このような分類器１３２は、例えば、分類器１２２と同様に、Ｙ（但し、Ｙは１以上の整数）次元の特徴量ベクトルＣ１３を構成するＹ個の入力値（ｄ２（＃１）、ｄ２（＃２）、ｄ２（＃３）、・・・、ｄ２（＃Ｙ））が入力される全結合層１３２１と、全結合層１３２１からの出力に基づいて確率ｐ２を出力する出力層１３２２とを備えている（但し、説明の便宜上、不図示）。
【００２８】
（２）識別装置１の車両３への実装方法
識別装置１は、物体のカテゴリを相対的に細かい第２の精度で識別可能な識別装置１ａとして車両３に実装可能である。識別装置１が識別装置１ａとして実装される車両３の一例として、カメラ３１が撮像した画像に基づいて自動走行可能な（つまり、ドライバの操作を必要とすることなく走行可能な車両３ａがあげられる。なぜならば、自動走行可能な車両３ａでは、車両３ａの周囲に存在する物体が具体的に何であるかを相対的に細かい精度（つまり、高い精度）で識別することが好ましいからである。
【００２９】
更に、識別装置１は、物体のカテゴリを相対的に粗い第１の精度で識別可能な識別装置１ｂとして車両３に実装可能である。識別装置１が識別装置１ｂとして実装される車両３の一例として、カメラ３１が撮像した画像に基づいて周囲に存在する物体を検出すると共に、当該物体と衝突する可能性がある場合に当該衝突を回避するための回避動作を実行可能な車両３ｂがあげられる。なぜならば、回避動作を実行可能な車両３ｂでは、車両３ｂの周囲に当該車両３ｂと衝突する可能性がある物体が存在することを検出できれば十分であり、その物体が具体的に何であるかを相対的に細かい精度で識別する必要性が薄いからである。
【００３０】
従って、以下では、識別装置１が識別装置１ａとして車両３ａに実装される第１の実装方法、及び、識別装置１が識別装置１ｂとして車両３ｂに実装される第２の実装方法について順に説明する。但し、識別装置１は、識別装置１ａ又は１ｂとして、車両３ａ及び３ｂとは異なる車両（或いは、車両とは異なる任意の機器）に実装されてもよい。
【００３１】
（２−１）識別装置１が識別装置１ａとして車両３ａに実装される第１の実装方法
はじめに、図４及び図５を参照しながら、識別装置１が識別装置１ａとして車両３ａに実装される第１の実装方法について説明する。図４は、第１の実装方法で識別装置１が実装される車両３ａの構成を示すブロック図である。図５は、第１の実装方法で実装される識別装置１ａの構成を示すブロック図である。
【００３２】
図４に示すように、車両３ａは、カメラ３１と、ＥＣＵ（Ｅｌｅｃｔｒｏｎｉｃ  Ｃｏｎｔｒｏｌ  Ｕｎｉｔ）３２ａと、エンジン３３１と、ブレーキアクチュエータ３３２と、ステアリングアクチュエータ３３３と、シフトアクチュエータ３３４と、ブレーキ装置３３５と、転蛇輪３３６と、ギヤ機構３３７とを備える。
【００３３】
カメラ３１は、車両１ａの周辺を撮像する撮像機器である。
【００３４】
ＥＣＵ３２ａは、車両１ａの全体の動作を制御する。本実施形態では特に、ＥＣＵ３２ａは、ＥＣＵ３２ａの内部に論理的に実現される処理ブロックとして、識別装置１ａと、車両制御部３２２ａとを備える。識別装置１ａは、図５に示すように、上述した識別装置１と同じ構成を有する。但し、識別装置１ａは、物体のカテゴリを相対的に粗い第１の精度で識別しなくてもよいため、分類器１２２を備えていなくてもよい。車両制御部３２２ａは、識別装置１ａの識別結果等に基づいて、車両３ａの現在位置から目標位置に至るまでに車両３ａが移動するべき移動経路を生成し、生成した移動経路に沿って車両３ａが自動的に移動するように、エンジン３３１、ブレーキアクチュエータ３３２、ステアリングアクチュエータ３３３及びシフトアクチュエータ３３４を制御する。
【００３５】
エンジン３３１は、不図示の駆動輪（つまり、車輪の少なくとも一部）に駆動力を供給する駆動源である。エンジン３３１は、車両制御部３２２ａの制御下で、駆動輪に供給する駆動力を調整可能である。ブレーキアクチュエータ３３２は、車両制御部３２２ａの制御下で、車両３ａに制動力を付与するように、不図示の車輪を制動可能なブレーキ装置３３５を制御する。ステアリングアクチュエータ３３３は、車両制御部３２２ａの制御下で、車両３ａが所望方向に向かって移動するように、転蛇可能な転蛇輪３３６を転蛇する。シフトアクチュエータ３３４は、車両制御部３２２ａの制御下で、エンジン３３１の動力を駆動輪に伝達可能なギヤ機構（いわゆる、トランスミッション）３３７のギヤレンジが所望のギヤレンジに切り替えられるように、ギヤ機構３３７を制御する。
【００３６】
（２−２）識別装置１が識別装置１ｂとして車両３ｂに実装される第２の実装方法
続いて、図６及び図７を参照しながら、識別装置１が識別装置１ｂとして車両３ｂに実装される第２の実装方法について説明する。図６は、第２の実装方法で識別装置１が実装される車両３ｂの構成を示すブロック図である。図７は、第２の実装方法で実装される識別装置１ｂの構成を示すブロック図である。尚、車両３ａが備える構成要件と同一の構成要件については、同一の参照符号を付してその詳細な説明を省略する。
【００３７】
図６に示すように、車両３ｂは、カメラ３１と、ＥＣＵ３２ｂと、ブレーキアクチュエータ３３２と、ブレーキ装置３３５と、警告装置３３８とを備える。
【００３８】
ＥＣＵ３２ｂは、車両１ｂの全体の動作を制御する。本実施形態では特に、ＥＣＵ３２ｂは、ＥＣＵ３２ｂの内部に論理的に実現される処理ブロックとして、識別装置１ｂと、車両制御部３２２ｂとを備える。識別装置１ｂは、図７に示すように、上述した識別装置１から共通ニューラルネットワーク１１及び分岐ニューラルネットワーク１２を独立して切り離すことで得られる識別装置である。つまり、識別装置１ｂは、共通ニューラルネットワーク１１及び分岐ニューラルネットワーク１２を備える一方で、分岐ニューラルネットワーク１３を備えていない識別装置である。このように識別装置１ｂが分岐ニューラルネットワーク１３を備えていなくても、共通ニューラルネットワーク１１及び分岐ニューラルネットワーク１２を備えている限りは、識別装置１ｂは、物体のカテゴリを相対的に粗い第１の精度で識別可能であることに変わりはない。車両制御部３２２ｂは、識別装置１ｂの識別結果に基づいて、車両３ｂの周囲に存在する物体に車両３ｂが衝突する可能性があるか否かを判定する。車両制御部３２２ｂは、車両３ｂの周囲に存在する物体に車両３ｂが衝突する可能性があると判定した場合には、当該衝突を回避するようにブレーキ装置３３５から車両３ｂに制動力が付与されるように、ブレーキアクチュエータ３３２を制御する。車両制御部３２２ｂは、車両３ｂの周囲に存在する物体に車両３ｂが衝突する可能性があると判定した場合には、ブレーキアクチュエータ３３２を制御することに加えて又は代えて、物体と車両３ｂとが衝突する可能性がある旨をドライバに警告するように、警告装置３３８を制御してもよい。警告装置３３８は、例えば、警告音や、警告画像や、ステアリングホイールの振動等を用いて、物体と車両３ｂとが衝突する可能性がある旨をドライバに警告する。
【００３９】
（３）識別装置１の学習動作
識別装置１が識別装置１ａ又は１ｂとして車両３ａ又は３ｂに実装される前に、識別装置１（特に、共通ニューラルネットワーク１１、分岐ニューラルネットワーク１２及び分岐ニューラルネットワーク１３）は、処理装置２上で学習動作を行う。以下、図８及び図９を参照しながら、識別装置１の学習動作について説明する。図８は、識別装置１の学習動作の流れを示すフローチャートである。図９は、学習動作で用いられる学習データの一例を示すテーブルである。
【００４０】
図８に示すように、まず、識別装置１は、予め用意された第１学習データを用いた学習動作を行う（ステップＳ１１）。第１学習データは、大カテゴリ及び小カテゴリが何であるかが既に判明している物体が写っている画像を示す画像データと、当該物体が複数の大カテゴリの夫々に属する確率ｐ１の正解を示す正解データ及び当該物体が複数の小カテゴリの夫々に属する確率ｐ２の正解を示す正解データとが関連付けられたデータセットを複数含む。
【００４１】
例えば、図９に示す例では、第１学習データは、大カテゴリが四輪車であり且つ小カテゴリが乗用車であることが判明している物体＃Ａ１が写っている画像を示す画像データと、当該物体＃Ａ１が四輪車という大カテゴリに属する確率ｐ１及び当該物体＃Ａ１が乗用車という小カテゴリに属する確率ｐ２が１であり、且つ、当該物体＃Ａ１が四輪車以外の大カテゴリに属する確率ｐ１及び当該物体＃Ａ１が乗用車以外の小カテゴリに属する確率ｐ２が０であることを示す正解データとが関連付けられたデータセットを含む。更に、図９に示す例では、第１学習データは、大カテゴリが四輪車であり且つ小カテゴリがトラックであることが判明している物体＃Ａ２が写っている画像を示す画像データと、当該物体＃Ａ２が四輪車という大カテゴリに属する確率ｐ１及び当該物体＃Ａ２がトラックという小カテゴリに属する確率ｐ２が１であり、且つ、当該物体＃Ａ２が四輪車以外の大カテゴリに属する確率ｐ１及び当該物体＃Ａ２がトラック以外の小カテゴリに属する確率ｐ２が０であることを示す正解データとが関連付けられたデータセットを含む。更に、図９に示す例では、第１学習データは、大カテゴリが四輪車であり且つ小カテゴリがバスであることが判明している物体＃Ａ３が写っている画像を示す画像データと、当該物体＃Ａ３が四輪車という大カテゴリに属する確率ｐ１及び当該物体＃Ａ３がバスという小カテゴリに属する確率ｐ２が１であり、且つ、当該物体＃Ａ３が四輪車以外の大カテゴリに属する確率ｐ１及び当該物体＃Ａ３がバス以外の小カテゴリに属する確率ｐ２が０であることを示す正解データとが関連付けられたデータセットを含む。更に、図９に示す例では、第１学習データは、大カテゴリが二輪車であり且つ小カテゴリがバイクであることが判明している物体＃Ｂ１が写っている画像を示す画像データと、当該物体＃Ｂ１が二輪車という大カテゴリに属する確率ｐ１及び当該物体＃Ｂ１がバイクという小カテゴリに属する確率ｐ２が１であり、且つ、当該物体＃Ｂ１が二輪車以外の大カテゴリに属する確率ｐ１及び当該物体＃Ｂ１がバイク以外の小カテゴリに属する確率ｐ２が０であることを示す正解データとが関連付けられたデータセットを含む。更に、図９に示す例では、第１学習データは、大カテゴリが二輪車であり且つ小カテゴリが自転車であることが判明している物体＃Ｂ２が写っている画像を示す画像データと、当該物体＃Ｂ２が二輪車という大カテゴリに属する確率ｐ１及び当該物体＃Ｂ２が自転車という小カテゴリに属する確率ｐ２が１であり、且つ、当該物体＃Ｂ２が二輪車以外の大カテゴリに属する確率ｐ１及び当該物体＃Ｂ２が自転車以外の小カテゴリに属する確率ｐ２が０であることを示す正解データとが関連付けられたデータセットを含む。更に、図９に示す例では、第１学習データは、大カテゴリが人間であり且つ小カテゴリが歩行者であることが判明している物体＃Ｃ１が写っている画像を示す画像データと、当該物体＃Ｃ１が人間という大カテゴリに属する確率ｐ１及び当該物体＃Ｃ１が歩行者という小カテゴリに属する確率ｐ２が１であり、且つ、当該物体＃Ｃ１が人間以外の大カテゴリに属する確率ｐ１及び当該物体＃Ｃ１が歩行者以外の小カテゴリに属する確率ｐ２が０であることを示す正解データとが関連付けられたデータセットを含む。更に、図９に示す例では、第１学習データは、大カテゴリが人間であり且つ小カテゴリが運転者であることが判明している物体＃Ｃ２が写っている画像を示す画像データと、当該物体＃Ｃ２が人間という大カテゴリに属する確率ｐ１及び当該物体＃Ｃ２が運転者という小カテゴリに属する確率ｐ２が１であり、且つ、当該物体＃Ｃ２が人間以外の大カテゴリに属する確率ｐ１及び当該物体＃Ｃ２が運転者以外の小カテゴリに属する確率ｐ２が０であることを示す正解データとが関連付けられたデータセットを含む。
【００４２】
第１学習データを用いた学習動作が行われる場合には、第１学習データに含まれる一の画像データが、共通ニューラルネットワーク１１に入力される。その結果、共通ニューラルネットワーク１１は、入力された一の画像データに応じた特徴量ベクトルＣ１１を、分岐ニューラルネットワーク１２及び１３の夫々に出力する。分岐ニューラルネットワーク１２は、共通ニューラルネットワーク１１から出力される特徴量ベクトルＣ１１に基づいて、入力された一の画像データに写っている一の物体が複数の大カテゴリの夫々に属する確率ｐ１を出力する。更に、分岐ニューラルネットワーク１２は、確率ｐ１を算出する過程で生成された特徴量ベクトルＣを、分岐ニューラルネットワーク１３に出力する。分岐ニューラルネットワーク１３は、共通ニューラルネットワーク１１から出力される特徴量ベクトルＣ１１及び分岐ニューラルネットワーク１２から出力される特徴量ベクトルＣに基づいて、入力された一の画像データに写っている一の物体が複数の小カテゴリの夫々に属する確率ｐ２を出力する。このような確率ｐ１及びｐ２の出力が、第１学習データに含まれるすべての画像データの共通ニューラルネットワーク１１への入力が完了するまで繰り返し行われる。
【００４３】
その後、分岐ニューラルネットワーク１２及び１３の出力と正解データとの間の誤差が小さくなるように（好ましくは、最小になるように）、共通ニューラルネットワーク１１、分岐ニューラルネットワーク１２及び分岐ニューラルネットワーク１３の動作特性を示すパラメータが調整される。つまり、識別装置１は、教師あり学習のアルゴリズムに基づく学習動作を行う。この場合、識別装置１は、例えば、誤差逆伝搬法を用いて学習動作を行ってもよい。
【００４４】
共通ニューラルネットワーク１１のパラメータの調整は、複数の特徴抽出器１１１のうちの少なくとも一つのパラメータの調整を含んでいてもよい。例えば、共通ニューラルネットワーク１１のパラメータの調整は、複数の特徴抽出器１１１のうちの少なくとも一つが用いる畳み込みフィルタのフィルタ特性の調整を含んでいてもよい。共通ニューラルネットワーク１１のパラメータの調整は、複数の特徴抽出器１１１のうちの少なくとも一つの任意の特性の調整を含んでいてもよい。分岐ニューラルネットワーク１２についても同様に、分岐ニューラルネットワーク１２のパラメータの調整は、複数の特徴抽出器１２１のうちの少なくとも一つのパラメータの調整を含んでいてもよい。分岐ニューラルネットワーク１３についても同様に、分岐ニューラルネットワーク１３のパラメータの調整は、複数の特徴抽出器１３１のうちの少なくとも一つのパラメータの調整を含んでいてもよい。
【００４５】
分岐ニューラルネットワーク１２のパラメータの調整は、分類器１２２のパラメータの調整を含んでいてもよい。例えば、分岐ニューラルネットワーク１２のパラメータの調整は、分類器１２２が備える全結合層１２２１を構成する複数のノードＮの重みの調整を含んでいてもよい。分岐ニューラルネットワーク１２のパラメータの調整は、分類器１２２が備える出力層１２２２が用いる活性化関数（いわゆる、ソフトマックス関数）の調整を含んでいてもよい。分岐ニューラルネットワーク１２のパラメータの調整は、分類器１２２の任意の特性（特に、確率ｐ１の算出に関連する特性）の調整を含んでいてもよい。分岐ニューラルネットワーク１３についても同様に、分岐ニューラルネットワーク１３のパラメータの調整は、分類器１３２のパラメータの調整を含んでいてもよい。
【００４６】
第１学習データを用いた学習動作が完了した後、続いて、識別装置１は、予め用意された第２学習データを用いた学習動作を行う（ステップＳ１２）。第２学習データは、大カテゴリが何であるかが既に判明している物体が写っている画像を示す画像データと、当該物体が複数の大カテゴリの夫々に属する確率ｐ１の正解を示す正解データとが関連付けられたデータセットを複数含む。つまり、第２学習データは、第１学習データと比較して、画像データと、物体が複数の小カテゴリの夫々に属する確率ｐ２の正解を示す正解データとが関連付けられていないという点で異なる。従って、第１学習データの一部（つまり、画像データ及び確率ｐ１の正解を示す正解データ）が、第２学習データとして使用可能である。
【００４７】
第２学習データを用いた学習動作が行われる場合には、第２学習データに含まれる一の画像データが、共通ニューラルネットワーク１１に入力される。その結果、分岐ニューラルネットワーク１２は、入力された画像データに写っている物体が複数の大カテゴリの夫々に属する確率ｐ１を出力する。一方で、分岐ニューラルネットワーク１３は、入力された画像データに写っている物体が複数の小カテゴリの夫々に属する確率ｐ２を出力しなくてもよい。このような確率ｐ１の出力が、第２学習データに含まれるすべての画像データの共通ニューラルネットワーク１１への入力が完了するまで繰り返し行われる。
【００４８】
その後、分岐ニューラルネットワーク１２の出力と正解データとの間の誤差が小さくなるように（好ましくは、最小になるように）、共通ニューラルネットワーク１１及び分岐ニューラルネットワーク１２の動作特性を示すパラメータが調整される。一方で、分岐ニューラルネットワーク１３の動作特性を示すパラメータは調整されない。尚、第２学習データを用いた学習動作で行われるパラメータの調整は、第１学習データを用いた学習動作で行われるパラメータの調整と同じである。
【００４９】
以上のステップＳ１１における学習処理と、ステップＳ１２における学習処理とが、必要に応じて繰り返される（ステップＳ１３）。
【００５０】
（４）技術的効果
以上説明したように、本実施形態では、識別装置１は、共通処理を行う共通ニューラルネットワーク１１と、物体のカテゴリを相対的に粗い第１の精度で識別するための第１識別処理を行う分岐ニューラルネットワーク１２と、物体のカテゴリを相対的に細かい第２の精度で識別するための第２識別処理を行う分岐ニューラルネットワーク１３とを備えている。更に、分岐ニューラルネットワーク１２が備える特徴抽出器１２１の出力が、分岐ニューラルネットワーク１３が備える特徴抽出器１３１に入力される。このため、物体と当該物体が属する大カテゴリ及び小カテゴリの双方との関係を示す（つまり、大カテゴリと小カテゴリの依存関係を実質的に示す）同じ第１学習データを用いて、分岐ニューラルネットワーク１２及び１３が並列して（つまり、同時に）学習可能となる。つまり、分岐ニューラルネットワーク１２及び１３が、並列して構築可能となる。その結果、物体のカテゴリを相対的に細かい第２の精度で識別可能な識別装置１ａ及び物体のカテゴリを相対的に粗い第１の精度で識別可能な識別装置１ｂの夫々として実装可能な識別装置１が、相対的に効率的に構築可能となる。つまり、識別装置１の構築が識別装置１ａ及び１ｂの並列した構築と等価であるため、識別装置１ａ及び１ｂを別個独立に構築する（例えば、別々の学習データを用いて別個に学習させる）場合と比較して、識別装置１ａ及び１ｂが相対的に効率的に構築可能となる。
【００５１】
尚、識別装置１が分岐ニューラルネットワーク１２を備えているがゆえに、識別装置１から共通ネットワーク１１及び分岐ネットワーク１２が別個に切り出されなくても、識別装置１そのものを識別装置１ｂとしても利用可能である。つまり、物体のカテゴリを相対的に細かい第２の精度で識別可能な識別装置１ａは、分岐ニューラルネットワーク１２を備えているがゆえに、物体のカテゴリを相対的に粗い第１の精度で識別可能な識別装置１ｂとしても利用可能である。この場合であっても、識別装置１の構築が識別装置１ａ及び１ｂの並列した構築と等価であるため、識別装置１ａ及び１ｂが相対的に効率的に構築可能となることに変わりはない。
【００５２】
更に、分岐ニューラルネットワーク１２が備える特徴抽出器１２１の出力が、分岐ニューラルネットワーク１３が備える特徴抽出器１３１に入力されるため、分岐ニューラルネットワーク１２の学習結果が、実質的には、分岐ニューラルネットワーク１３にも反映される。このため、分岐ニューラルネットワーク１２の学習結果が分岐ニューラルネットワーク１３に反映されない場合と比較して、分岐ニューラルネットワーク１３は、物体のカテゴリを相対的に細かい第２の精度でより一層適切に識別可能となる。
【００５３】
更に、第２学習データを用いた学習動作が行われる場合には、分岐ニューラルネットワーク１３のパラメータの調整が停止される。このため、第２学習データを用いて共通ニューラルネットワーク１１及び分岐ニューラルネットワーク１２が学習する場合であっても、当該学習によって分岐ニューラルネットワーク１３のパラメータが不必要に調整されることはない。このため、分岐ニューラルネットワーク１３に悪影響を与えることなく、共通ニューラルネットワーク１１及び分岐ニューラルネットワーク１２のみを学習させることも可能である。
【００５４】
（５）変形例
画像データは、複数チャネルのデータ成分を含むデータである場合がある。例えば、画像データは、ＲＧＢという３つのチャネルのデータ成分を含むデータである場合がある。この場合には、識別装置１ａで物体のカテゴリを識別するために実際に用いるチャネルの数と、識別装置１ｂで物体のカテゴリを識別するために実際に用いるチャネルの数とが異なっていてもよい。例えば、識別装置１ａで物体のカテゴリを識別するために実際に用いるチャネルの数よりも、識別装置１ｂで物体のカテゴリを識別するために実際に用いるチャネルの数が少なくてもよい。もちろん、識別装置１ａで物体のカテゴリを識別するために実際に用いるチャネルの数と、識別装置１ｂで物体のカテゴリを識別するために実際に用いるチャネルの数とが同じであってもよい。
【００５５】
上述した説明では、識別装置１は、物体のカテゴリを、相対的に粗い第１の精度で識別すると共に相対的に細かい第２の精度で識別することが可能である。しかしながら、識別装置１は、物体のカテゴリに加えて又は代えて、物体の任意の特性を相対的に粗い第１の精度で識別すると共に相対的に細かい第２の精度で識別することが可能であってもよい。物体の任意の特性の一例として、物体の位置（例えば、３次元空間内での位置）があげられる。この場合、識別装置１は、物体の位置を相対的に粗い（言い換えれば、大まかな）第３の精度で特定すると共に相対的に細かい第４の精度で特定することが可能であってもよい。或いは、識別装置１は、カメラ３１が撮像した画像に写っている物体の特性に加えて、任意の物体の特性を相対的に粗い第１の精度で識別すると共に相対的に細かい第２の精度で識別することが可能であってもよい。
【００５６】
特徴抽出器１１１は、畳み込み処理部１１１１及びプーリング処理部１１１２の少なくとも一方に加えて又は代えて、他の処理部を備えていてもよい。例えば、特徴抽出器１１１は、正規化処理を行う正規化処理部を備えていてもよい。特徴抽出器１２１及び１３１についても同様である。
【００５７】
上述した説明では、特徴抽出器１３１の数が特徴抽出器１２１の数と等しく、且つ、各特徴抽出器１３１に、各特徴抽出器１３１と同じ段の特徴抽出器１２１が算出した特徴量ベクトルＣが入力されている。しかしながら、特徴抽出器１３１の数が特徴抽出器１２１の数と異なっていてもよいし、複数の特徴抽出器１３１に同じ数の特徴抽出器１２１が算出した特徴量ベクトルＣが夫々入力されなくてもよい。具体的には、Ｎ個の特徴抽出器１３１のうちの少なくとも一つに、Ｍ個の特徴抽出器１２１のうちの少なくとも一つが算出した特徴量ベクトルＣが入力されてもよい。ある特徴抽出器１３１に、異なる２つ以上の特徴抽出器１２１が夫々算出した２つの特徴量ベクトルＣが入力されてもよい。異なる２つ以上の特徴抽出器１３１に、同じ特徴抽出器１２１が算出した特徴量ベクトルＣが入力されてもよい。
【００５８】
上述した説明では、共通ニューラルネットワーク１１は、畳み込みニューラルネットワークである。しかしながら、共通ニューラルネットワーク１１は、その他の種類のニューラルネットワークであってもよい。例えば、共通ニューラルネットワーク１１は、再帰型ニューラルネットワーク（ＲＮＮ：Ｒｅｃｕｒｒｅｎｔ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）であってもよい。例えば、共通ニューラルネットワーク１１は、ＬＳＴＭ（Ｌｏｎｇ  Ｓｈｏｒｔ  Ｔｅｒｍ  Ｍｅｍｏｒｙ）であってもよい。分岐ニューラルネットワーク１２及び分岐ニューラルネットワーク１３の夫々についても同様である。
【００５９】
識別装置１が識別装置１ａとして車両３ａに実装された後においても、識別装置１ａは、学習動作を行ってもよい。つまり、識別装置１ａは、オンライン学習を行ってもよい。この場合、識別装置１ａは、教師あり学習のアルゴリズムを用いてオンライン学習を行ってもよいし、教師なし学習のアルゴリズムを用いてオンライン学習を行ってもよい。識別装置１が識別装置１ｂとして車両３ｂに実装される場合も同様である。
【００６０】
（５）付記
以上説明した実施形態に関して、更に以下の付記を開示する。
【００６１】
（５−１）付記１
付記１に記載された識別装置は、物体に関する第１入力データが入力され、且つ、前記第１入力データに基づいて、前記物体の識別に関する共通処理を行うことで前記共通処理の結果を出力する第１ニューラルネットワークと、前記第１ニューラルネットワークの出力が第２入力データとして入力され、且つ、前記第２入力データに基づいて、前記物体の特性を第１の精度で識別するための第１識別処理を行って前記第１識別処理の結果を出力する第２ニューラルネットワークと、前記第１ニューラルネットワークの出力及び前記第１識別処理の過程で前記第２ニューラルネットワークが生成する中間データが第３入力データとして入力され、且つ、前記第３入力データに基づいて、前記物体の特性を前記第１の精度よりも細かい第２の精度で識別するための第２識別処理を行って前記第２識別処理の結果を出力する第３ニューラルネットワークとを備えることを特徴とする識別装置である。
【００６２】
付記１に記載された識別装置によれば、第１識別処理を行う第２ニューラルネットワークが生成する中間データが、第２識別処理を行う第３ニューラルネットワークに入力される。つまり、中間データは、第２ニューラルネットワークのみならず、第３ニューラルネットワークによっても利用される。このため、同じ第１入力データを用いて、第２ニューラルネットワークと第３ニューラルネットワークと並行して学習させることができる。つまり、第２ニューラルネットワークと第３ニューラルネットワークとを並行して構築可能である。このため、第２及び第３ニューラルネットワークを別個に構築する場合と比較して、第２ニューラルネットワークと第３ニューラルネットワークとを相対的に効率的に構築可能である。このため、第１識別処理の結果を用いれば、当該識別装置を、物体の特性を相対的に粗い第１の精度で識別可能な第１の識別装置として利用可能であるし、第２識別処理の結果を用いれば、当該識別装置を、物体の特性を相対的に細かい第２の精度で識別可能な第２の識別装置として利用可能である。或いは、当該識別装置から第１及び第２ニューラルネットワークを切り出すことで、物体の特性を相対的に粗い第１の精度で識別可能な第１の識別装置を構築可能であるし、当該識別装置をそのまま利用して、物体の特性を相対的に細かい第２の精度で識別可能な第２の識別装置を構築可能である。その結果、付記１に記載された識別装置から、２種類の識別装置を構築することができる。つまり、付記１に記載された識別装置が構築されれば２種類の識別装置が構築される。このため、物体の特性を相対的に粗い第１の精度で識別可能な識別装置及び物体の特性を相対的に細かい第２の精度で識別可能な識別装置を、相対的に効率的に構築することができる。
【００６３】
（５−２）付記２
付記２に記載された識別装置は、前記第１から第３ニューラルネットワークの夫々は、前記第１入力データと、前記第１入力データに対応する前記物体の特性を前記第１の精度で示す第１正解データ及び前記第１入力データに対応する前記物体の特性を前記第２の精度で示す第２正解データとを関連付けた第１学習データを用いた第１学習処理を行うことを特徴とする付記１に記載の識別装置である。
【００６４】
付記２に記載された識別装置によれば、第１学習データを用いて、第２ニューラルネットワークと第３ニューラルネットワークと並行して学習させることができる。このため、物体の特性を相対的に粗い第１の精度で識別可能な識別装置及び物体の特性を相対的に細かい第２の精度で識別可能な識別装置を、相対的に効率的に構築することができる。
【００６５】
（５−３）付記３
付記３に記載された識別装置は、前記第１及び第２ニューラルネットワークの夫々は、前記第１入力データと前記第１入力データに対応する前記物体の特性を前記第１の精度で示す第１正解データとを関連付けている一方で、前記第１入力データに対応する前記物体の特性を前記第２の精度で示す第２正解データを含んでいない第２学習データを用いた第２学習処理を行い、前記第１及び第２ニューラルネットワークの夫々が前記第２学習処理を行っている期間中は、前記第３ニューラルネットワークは、前記第２学習処理を行わないことを特徴とする付記１又は２に記載の識別装置である。
【００６６】
付記３に記載された識別装置によれば、物体の特性を第２の精度で示す第２正解データを含まない第２学習データを用いて第１及び第２ニューラルネットワークが学習する場合であっても、当該学習が第３ニューラルネットワークに悪影響を及ぼす（特に、第２の精度での物体の特性の識別能力に悪影響を及ぼす）ことがない。
【００６７】
（５−４）付記４
付記４に記載された識別装置は、前記第１及び第２ニューラルネットワークを、前記第３ニューラルネットワークとは独立して切り離して、前記第１及び第２ニューラルネットワークを備える一方で前記第３ニューラルネットワークを備えていない別の識別装置を構築可能であることを特徴とする付記１から３のいずれかに記載の識別装置である。
【００６８】
付記４に記載された識別装置によれば、物体の特性を相対的に粗い第１の精度で識別可能な識別装置（つまり、付記４に記載された別の識別装置）及び物体の特性を相対的に細かい第２の精度で識別可能な識別装置（つまり、付記１に記載された識別装置）を、相対的に効率的に構築することができる。
【００６９】
（５−５）付記５
付記５に記載された識別装置は、前記物体の特性は、前記物体のカテゴリを含み、前記第１識別処理は、前記物体が複数の第１カテゴリのいずれに属するのかを推定するための第１推定処理を含み、前記第２識別処理は、前記物体が前記複数の第１カテゴリよりも細分化されている複数の第２カテゴリのいずれに属するのかを推定するための第２推定処理を含むことを特徴とする付記１から４のいずれかに記載の識別装置である。
【００７０】
付記５に記載された識別装置によれば、物体が複数の第１カテゴリのいずれに属するのかを推定可能な識別装置及び物体が複数の第２カテゴリのいずれに属するのかを推定可能な識別装置を、相対的に効率的に構築することができる。
【００７１】
（５−６）付記６
付記６に記載された識別装置は、前記物体の特性は、前記物体の位置を含み、前記第１識別処理は、前記物体の位置を第３の精度で特定するための第１特定処理を含み、前記第２識別処理は、前記物体の位置を前記第３の精度よりも細かい第４の精度で特定するための第２特定処理を含むことを特徴とする付記１から５のいずれかに記載の識別装置である。
【００７２】
付記６に記載された識別装置によれば、物体の位置を第３の精度で特定可能な識別装置及び物体の位置を第４の精度で特定可能な識別装置を、相対的に効率的に構築することができる。
【００７３】
（５−７）付記７
付記７に記載された識別装置は、前記第２ニューラルネットワークは、前記第１識別処理の少なくとも一部を行うことで前記中間データを出力する第１処理ブロックを含み、前記第３ニューラルネットワークは、前記中間データが入力され且つ前記中間データに基づいて前記第２識別処理の少なくとも一部を行う第２処理ブロックを含むことを特徴とする付記１から６のいずれかに記載の識別装置である。
【００７４】
付記７に記載された識別装置によれば、第１処理ブロックを含む第２ニューラルネットワークと第２処理ブロックを含む第３ニューラルネットワークとを備える識別装置が構築される。
【００７５】
（５−８）付記８
付記８に記載された識別装置は、前記第２ニューラルネットワークは、前段の前記第１処理ブロックの出力が後段の前記第１処理ブロックに入力されるように直列に多段接続された複数の前記第１処理ブロックを含み、前記第３ニューラルネットワークは、前段の前記第２処理ブロックの出力が後段の前記第２処理ブロックに入力されるように直列に多段接続された複数の前記第２処理ブロックを含み、前記複数の第２処理ブロックのうちの一の第２処理ブロックは、前記複数の第１処理ブロックのうちの一の第１処理ブロックから入力される前記中間データに基づいて前記第２識別処理の少なくとも一部を行うことを特徴とする付記７に記載の識別装置である。
【００７６】
付記８に記載された識別装置によれば、複数の第１処理ブロックを含む第２ニューラルネットワークと複数の第２処理ブロックを含む第３ニューラルネットワークとを備える識別装置が構築される。
【００７７】
本発明は、上述した実施形態に限られるものではなく、特許請求の範囲及び明細書全体から読み取れる発明の要旨或いは思想に反しない範囲で適宜変更可能であり、そのような変更を伴う識別装置もまた本発明の技術的範囲に含まれるものである。
【符号の説明】
【００７８】
１  識別装置
１１  共通ニューラルネットワーク
１１１、１２１、１３１  特徴抽出器
１１１１、１２１１、１３１１  畳み込み処理部
１１１２、１２１２、１３１２  プーリング処理部
１２  分岐ニューラルネットワーク
１２２、１３２  分類器
１２２１  全結合層
１２２２  出力層
２  処理装置
３ａ、３ｂ  車両
３１  センサ
３２ａ、３２ｂ  ＥＣＵ
３２１ａ、３２１ｂ  識別処理部
３２２ａ、３２２ｂ  車両制御部
３３１  エンジン
３３２  ブレーキアクチュエータ
３３３  ステアリングアクチュエータ
３３４  シフトアクチュエータ
３３５  ブレーキ装置
３３５  転蛇輪
３３７  ギヤ機構
３３８  警告装置
Ｃ、Ｃ１１、Ｃ１２、Ｃ１３  特徴量ベクトル
【図１】
2019028616.tif 000003
【図２】
2019028616.tif 000004
【図３】
2019028616.tif 000005
【図４】
2019028616.tif 000006
【図５】
2019028616.tif 000007
【図６】
2019028616.tif 000008
【図７】
2019028616.tif 000009
【図８】
2019028616.tif 000010
【図９】
2019028616.tif 000011