(57)【要約】【課題】画像処理の負荷が軽減され得るデータを生成するための技術を提供することである。【解決手段】データ生成装置（２３０）は、画像処理を行なう外部装置（２４０）と通信可能に構成される。このデータ生成装置は、第１の通信インターフェイス（３３２）を介してカメラ（２１０）から受信した画像データと、第２の通信インターフェイス（３３４）を介してセンサから受信したセンサデータとを含むデータユニット（４００）を生成して、外部装置に送信するためのデータ生成部（３３６）を備える。外部装置は、データユニットに含まれるセンサデータに基づいて、当該センサデータに関連付けられる画像データに対する画像処理内容を決定するように構成される。データ生成部は、画像データと、第１の通信インターフェイスを介してカメラから受信する同期のための情報に基づいてセンサから出力されるセンサデータとを含むデータユニットを生成する。【選択図】図６
2018042196.tif 000002
【特許請求の範囲】
【請求項１】
画像処理を行なう外部装置と通信可能に構成されるデータ生成装置であって、
カメラによって取得される画像データを受信するための第１の通信インターフェイスと、
センサから出力されるセンサデータを受信するための第２の通信インターフェイスと、
前記第１の通信インターフェイスを介して受信された前記画像データと、前記第２の通信インターフェイスを介して受信された前記センサデータとを含むデータユニットを生成して、生成したデータユニットを前記外部装置に送信するためのデータ生成部を備え、
前記外部装置は、前記データユニットに含まれる前記センサデータに基づいて、当該センサデータに関連付けられる画像データに対する画像処理内容を決定するように構成され、
前記データ生成部は、前記画像データと、前記第１の通信インターフェイスを介して前記カメラから受信する同期のための情報に基づいて前記センサから出力されるセンサデータとを含むデータユニットを生成する、データ生成装置。
【請求項２】
前記同期のための情報は、前記カメラのフレームレートの情報を含む、請求項１に記載のデータ生成装置。
【請求項３】
前記データ生成部は、
前記フレームレートに従うタイミングで、前記センサから出力される前記センサデータと、前記カメラから前記画像データとをそれぞれ取得し、
前記取得したセンサデータと画像データとを含むデータユニットを生成する、請求項２に記載のデータ生成装置。
【請求項４】
前記同期のための情報は、前記カメラの垂直同期信号を含む、請求項１に記載のデータ生成装置。
【請求項５】
前記データ生成部は、
前記垂直同期信号の受信に応答して前記センサから出力される前記センサデータと、前記カメラから前記画像データとをそれぞれ取得し、
前記取得したセンサデータと画像データとを含むデータユニットを生成する、請求項４に記載のデータ生成装置。
【請求項６】
前記センサは、前記カメラから前記垂直同期信号を受信可能に構成され、
前記データ生成部は、前記垂直同期信号の受信に応答して前記カメラから取得する画像データと、前記垂直同期信号の受信に応答して前記センサから出力されるセンサデータとを含むデータ生成装置データユニットを生成する、請求項５に記載のデータ生成装置。
【請求項７】
前記データ生成部は、
Displayport規格に従うパケットデータを前記データユニットとして生成し、
ＳＤＰ（Secondary  Data  Packet）に前記センサデータを格納する、請求項１に記載のデータ生成装置。
【請求項８】
カメラと、
センサと、
データユニットを生成するデータ生成装置と、
前記データユニットに基づいて画像処理を行なう画像処理装置とを備え、
前記データ生成装置は、
前記カメラによって取得される画像データを受信するための第１の通信インターフェイスと、
前記センサから出力されるセンサデータを受信するための第２の通信インターフェイスと、
前記第１の通信インターフェイスを介して受信された前記画像データと、前記第２の通信インターフェイスを介して受信された前記センサデータとを含むデータユニットを生成して、生成したデータユニットを前記画像処理装置に送信するためのデータ生成部を含み、
前記データ生成部は、前記画像データと、前記第１の通信インターフェイスを介して前記カメラから受信する同期のための情報に基づいて前記センサによって取得されたセンサデータとを含むデータユニットを生成し、
前記画像処理装置は、前記データユニットに含まれる前記センサデータに基づいて、当該センサデータに関連付けられる画像データに対する画像処理内容を決定する、画像処理システム。
【請求項９】
外部装置に送信するためのデータユニットを生成するための方法であって、
前記外部装置は、当該データユニットに含まれるセンサデータに基づいて、当該センサデータに関連付けられる画像データに対する画像処理内容を決定するように構成され、
前記方法は、
画像処理のためのデータユニットを生成するための方法であって、
カメラによって取得される画像データを受信するステップと、
センサから出力されるセンサデータを受信するステップと、
前記カメラから同期のための情報を受信するステップと、
前記画像データと、前記同期のための情報に基づいて前記センサから出力されるセンサデータとを含むデータユニットを生成するステップとを含む、方法。
【発明の詳細な説明】
【技術分野】
【０００１】
この開示は、データユニットを生成する技術に関し、より特定的には、画像データとセンサデータとを含むデータユニットを生成する技術に関する。
【背景技術】
【０００２】
従来、画像の含む情報を有効に利用する目的で画像の変形、変換、特徴の抽出、などの様々な画像処理が行われている（たとえば、非特許文献１）。
【０００３】
また、非特許文献２は、工業製品の品質検査の目的で、画像を処理して製品の寸法検査や、微小な汚れ検出などの検査などを行なう構成を開示している。
【０００４】
また、非特許文献３は、車載用カメラが撮影する画像にリアルタイムで画像処理を行い、当該画像中に含まれる看板や信号機の強調表示を行い、ユーザに注意喚起を行なう構成を開示している。
【先行技術文献】
【非特許文献】
【０００５】
【非特許文献１】“ウェキペディア  画像処理”、［online］、［平成２８年７月７日検索］、インターネット〈URL：https://ja.wikipedia.org/wiki/%E7%94%BB%E5%83%8F%E5%87%A6%E7%90%86〉
【非特許文献２】“ＳＫＹＬＯＧＩＱ  画像検査ソフト  このような検査ができます”、［online］、［平成２８年７月７日検索］、インターネット〈URL：http://www.skylogiq.co.jp/easyinspector/kensa_gaiyou/index.html〉
【非特許文献３】市原直彦、他４名、“車載カメラ応用技術〜画像認識カーナビゲーションと車載ロボット〜”、［online］、［平成２８年７月７日検索］、インターネット〈URL：http://pioneer.jp/en/crdl_design/crdl/rd/pdf/19-1-1.pdf〉
【発明の概要】
【発明が解決しようとする課題】
【０００６】
近年、カメラの撮像素子の一層の微細加工化（すなわち、画素数増加）が進み、画像処理の負荷増大に伴う処理時間の増加、およびプロセッサでの消費電力の増加などが問題になっている。
【０００７】
非特許文献３に開示される技術は、カメラが撮影する全ての画像に対して予め定められた画像処理プログラムを行なう構成である。より具体的には、この技術は、撮影画像に看板や信号機が含まれているか否かをまず画像処理によって判断した後、これらのオブジェクトを強調表示する画像処理を行なう構成である。すなわち、この技術は、強調表示の対象が含まれない画像に対しても、一定の画像処理を行なう必要があるため、画像処理の負荷が大きい。
【０００８】
また、非特許文献１および２に開示される技術は、画像処理の負荷軽減については何ら言及していない。したがって、より画像処理の負荷を小さくする技術が求められている。
【０００９】
本開示は、上記のような問題を解決するためになされたものであって、ある局面における目的は、画像処理の負荷が軽減され得るデータを生成するためのデータ生成装置を提供することである。他の局面における目的は、画像処理の負荷が軽減され得る画像処理システムを提供することである。さらに他の局面における目的は、画像処理の負荷が軽減され得る方法を提供することである。
【００１０】
その他の課題と新規な特徴は、本明細書の記述および添付図面から明らかになるであろう。
【課題を解決するための手段】
【００１１】
ある実施形態に従うデータ生成装置は、画像処理を行なう外部装置と通信可能に構成される。このデータ生成装置は、カメラによって取得される画像データを受信するための第１の通信インターフェイスと、センサから出力されるセンサデータを受信するための第２の通信インターフェイスと、第１の通信インターフェイスを介して受信された画像データと、第２の通信インターフェイスを介して受信されたセンサデータとを含むデータユニットを生成して、生成したデータユニットを外部装置に送信するためのデータ生成部を備える。外部装置は、データユニットに含まれるセンサデータに基づいて、当該センサデータに関連付けられる画像データに対する画像処理内容を決定するように構成される。データ生成部は、画像データと、第１の通信インターフェイスを介してカメラから受信する同期のための情報に基づいてセンサから出力されるセンサデータとを含むデータユニットを生成する。
【発明の効果】
【００１２】
ある実施形態に従うデータ生成装置は、画像処理の負荷が軽減され得るデータを生成することができる。
【００１３】
この発明の上記および他の目的、特徴、局面および利点は、添付の図面と関連して理解されるこの発明に関する次の詳細な説明から明らかとなるであろう。
【図面の簡単な説明】
【００１４】
【図１】関連技術に従う画像処理の制御を説明するフローチャートである。
【図２】ある実施形態に従う画像処理システム２００の構成例について説明する図である。
【図３】ある実施形態に従う画像処理システム２００を構成する各デバイスのハードウェア構成例を説明する図である。
【図４】ディスプレイポート規格に従うパケットデータ４００の構造を説明する図である。
【図５】ある実施形態に従う画像処理の制御を説明するフローチャートである。
【図６】ある実施形態に従うデータユニットの生成方法について説明するフローチャートである。
【図７】他の局面に従うデータユニットの生成方法について説明するフローチャートである。
【図８】関連技術に従う品質検査の制御を説明するフローチャートである。
【図９】ある実施形態に従う画像処理システム９００の構成例について説明する図である。
【図１０】ある実施形態に従う品質検査（画像処理）の制御を説明するフローチャートである。
【図１１】関連技術に従う監視のための画像処理について説明するフローチャートである。
【図１２】ある実施形態に従う画像処理システム１２００の構成例について説明する図である。
【図１３】ある実施形態に従う画像処理の制御を説明するフローチャートである。
【図１４】ある実施形態に従う画像処理システム１４００の構成例を説明する図である。
【図１５】ある実施形態に従うデータユニットの生成法について説明するフローチャートである。
【発明を実施するための形態】
【００１５】
以下、この発明の実施形態について図面を参照しながら詳細に説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがって、それらについての詳細な説明は繰り返さない。
【００１６】
［実施形態１］
図１は、関連技術に従う画像処理の制御を説明するフローチャートである。図１に示される例において、プロセッサは、関連技術に従う画像処理プログラムを読み込んで、車載カメラが取得する画像データに基づいて、歩行者を検出し、当該歩行者を強調表示する。
【００１７】
ステップＳ１０５において、プロセッサは、カメラが取得する画像データに基づいて、明るさ補正量を決定する。一例として、プロセッサは、画像データを読み込んで、各画素ごとのγ特性の補正量を決定する。
【００１８】
ステップＳ１０７において、プロセッサは、決定した明るさ補正量に基づいて、画像データを補正する。
【００１９】
ステップＳ１１０において、プロセッサは、画像データに基づいて歩行者検出処理を実行する。一例として、プロセッサは、画像データ中の肌色領域を検出するなど、人間に関係のある特徴量の抽出を行う。
【００２０】
ステップＳ１１５において、プロセッサは、ステップＳ１１０の結果に基づいて、カメラによって撮影される画像の中に歩行者（人間）が存在するか否かを判断する。プロセッサは、画像の中に歩行者が存在すると判断した場合（ステップＳ１１５において歩行者あり）、処理をステップＳ１２０に進める。そうでない場合（ステップＳ１１５において歩行者なし）、プロセッサは、処理をステップＳ１２５に進める。
【００２１】
ステップＳ１２０において、プロセッサは、画像の中の歩行者が強調されるように、歩行者の周りを枠線で囲むように、画像データを加工する。
【００２２】
ステップＳ１２５において、プロセッサは、画像データを車内に設けられるディスプレイに出力する。これにより、運転手は、車の後部に歩行者がいることを認識する。
【００２３】
上記のように、関連技術に従う画像処理プログラムは、歩行者が存在しない画像に対しても、明るさ補正の画像処理（ステップＳ１０５およびＳ１０７）、および歩行者検出の画像処理（ステップＳ１１０およびＳ１１５）をプロセッサに実行させる。そのため、関連技術に従う画像処理プログラムに対するプロセッサの負荷が大きい。以下、この問題を解決し得る、ある実施形態に従う画像処理システムについて説明する。
【００２４】
図２は、ある実施形態に従う画像処理システム２００の構成例について説明する図である。図２を参照して、画像処理システム２００は、Ｉ／Ｆ（インターフェイス）ボード２１０と、カメラ２２０と、データ生成装置２３０と、情報処理端末２４０とを含む。ある局面において、画像処理システム２００は、車に搭載される。
【００２５】
Ｉ／Ｆボード２１０は、外部のセンサとデータ生成装置２３０とを接続するためのインターフェイスである。ある局面において、Ｉ／Ｆボード２１０は、ＵＳＢ（Universal  Serial  Bus）、ＩＥＥＥ（Institute  of  Electrical  and  Electronic  Engineers）１３９４、および／またはＲＳ−２３２Ｃの規格に対応する。図１の例において、Ｉ／Ｆボード２１０は、明るさセンサ２１２と、近接センサ２１４と、データ生成装置２３０とに、それぞれ電気的に接続される。
【００２６】
明るさセンサ２１２は、車外の明るさを検出する。明るさセンサ２１２は、一例として、フォトダイオードによって構成される。近接センサ２１４は、例えば車の後部に配置され、車の後部に接近する物体を検出する。近接センサ２１４は、一例として、焦電素子によって構成される。Ｉ／Ｆボード２１０は、明るさセンサ２１２から出力されるデータと、近接センサ２１４から出力されるデータとを、データ生成装置２３０に出力する。
【００２７】
カメラ２２０は、車の後部に配置され、車の後部の周囲を撮影する。カメラ２２０は、撮影により得られた画像データを、データ生成装置２３０に送信する。
【００２８】
データ生成装置２３０は、Ｉ／Ｆボード２１０から受信するセンサデータと、カメラ２２０から受信する画像データとを含むデータユニットを生成して、生成したデータユニットを情報処理端末２４０に送信する。データユニットとは、１受信単位として扱われるひとかたまりのデータである。ある局面において、データユニットは、パケットであり得る。データユニットの生成方法の詳細は、後述される。
【００２９】
情報処理端末２４０は、受信したデータユニットに基づいて画像処理を行なう。具体的には、情報処理端末２４０は、画像処理プログラム２５０を実行することにより、各種画像処理を行なう。各種画像処理の一例として、明るさ補正処理２５２、歩行者位置検出処理２５４、および／または画像加工処理２５６を含み得る。明るさ補正処理２５２は、一例として、各画素ごとのγ特性の補正量を決定する処理を含む。歩行者位置検出処理２５４は、一例として、画像データ中の肌色領域を検出するなど、人間に関係のある特徴量の抽出を行って、歩行者の位置を検出する処理を含む。画像加工処理２５６は、歩行者位置検出処理２５４によって検出した歩行者の周囲を囲むように強調表示する処理を含む。情報処理端末２４０は、画像加工処理２５６を行なった加工済みの画像データを、ディスプレイ２６０に出力する。情報処理端末２４０は、データユニットに含まれるセンサデータに基づいて、当該データユニットに含まれる画像データに対して行なう画像処理の内容を決定する。この制御の詳細は、後述する。
【００３０】
図３は、ある実施形態に従う画像処理システム２００を構成する各デバイスのハードウェア構成例を説明する図である。
【００３１】
Ｉ／Ｆボード２１０は、入力Ｉ／Ｆ３１２，３１４と、送受信処理回路３１６と、通信Ｉ／Ｆ３１８とを備える。入力Ｉ／Ｆ３１２は、明るさセンサ２１２と電気的に接続され、明るさセンサ２１２から車外の明るさに関するセンサデータの入力を受け付ける。入力Ｉ／Ｆ３１４は、近接センサ２１４と電気的に接続され、車の後部に近接する物体に関するセンサデータの入力を受け付ける。
【００３２】
Ｉ／Ｆ３１２，３１４は、入力されたデータを送受信処理回路３１６に出力する。送受信処理回路３１６は、後述する同期信号出力回路３２４によって出力される同期信号に応答して、Ｉ／Ｆ３１２，３１４を介して入力されるセンサデータを、通信Ｉ／Ｆ３１８を介してデータ生成装置２３０に出力する。
【００３３】
カメラ２２０は、撮像素子３２２と、同期信号出力回路３２４と、メモリ３２６と、通信Ｉ／Ｆ３２８とを備える。撮像素子３２２は、レンズ（不図示）によって集められた光を電気信号に変換した画像データをメモリ３２６に出力する。ある局面において、撮像素子３２２は、ＣＣＤ（Charge  Coupled  Devices）センサ、またはＣＭＯＳ（Complementary  Metal  Oxide  Semiconductor）によって構成される。
【００３４】
同期信号出力回路３２４は、撮像素子３２２によって撮影を行なうごとに同期信号（例えば、垂直同期信号）を通信Ｉ／Ｆ３２８を介してＩ／Ｆボード２１０およびデータ生成装置２３０に出力する。メモリ３２６は、画像データを一時的に記憶するバッファメモリとして機能する。
【００３５】
データ生成装置２３０は、通信Ｉ／Ｆ３３２，３３４と、メモリ３３５と、データ生成回路３３６と、出力Ｉ／Ｆ３３８とを備える。
【００３６】
通信Ｉ／Ｆ３３２は、Ｉ／Ｆボード２１０から、明るさセンサ２１２および近接センサ２１４によって取得されるセンサデータを受信する。通信Ｉ／Ｆ３３４は、カメラ２２０によって取得される画像データを受信する。メモリ３３５は、Ｉ／Ｆボード２１０とカメラ２２０とからそれぞれ受信するセンサデータと画像データとを一時的に記憶する。ある局面において、メモリ３２６およびメモリ３３５は、揮発性メモリであって、ＳＲＡＭ（Static  Random  Access  Memory）またはＤＲＡＭ（Dynamic  Random  Access  Memory）によって構成される。
【００３７】
データ生成回路３３６は、メモリ３３５に記憶される画像データとセンサデータとを含むデータユニットを生成する。一例として、ある局面に従うデータ生成回路３３６は、ディスプレイポート規格に従うパケットデータを生成する。データ生成回路３３６は、生成したパケットデータを出力Ｉ／Ｆ３３８を介して情報処理端末２４０に出力する。ある局面において、データ生成回路３３６は、生成したパケットデータを予め定められたプロトコル（たとえば、ＨＤＣＰ：High-bandwidth  Digital  Content  Protection  system）に従って、暗号化し得る。ある局面において、出力Ｉ／Ｆ３３８はディスプレイポート規格に従うコネクタによって構成され得る。ある局面において、データ生成回路３３６は、後述する回路の機能を実現するために設計された少なくとも１つのＡＳＩＣ（Application  Specific  Integrated  Circuit：特定用途向け集積回路）によって構成される。他の局面において、データ生成回路３３６は、少なくとも１つのプロセッサのような半導体集積回路、少なくとも１つのＤＳＰ（Digital  Signal  Processor）、少なくとも１つのＦＰＧＡ（Field  Programmable  Gate  Array）、および／またはその他の演算機能を有する回路を含む回路によって構成され得る。
【００３８】
情報処理端末２４０は、入力Ｉ／Ｆ３４２と、ＣＰＵ（Central  Processing  Unit）３４４と、ＲＡＭ（Random  Access  Memory）３４６と、ＲＯＭ（Read  Only  Memory）３４８とを備える。
【００３９】
入力Ｉ／Ｆ３４２は、データ生成装置２３０からデータユニットの入力を受け付ける。入力Ｉ／Ｆ３４２は、受け付けたデータユニットをＣＰＵ３４４に出力する。
【００４０】
ＣＰＵ３４４は、ＲＯＭ３４８に格納される画像処理プログラム２５０を実行することにより、データユニットに含まれる画像データに対して種々の画像処理を行なう。ＲＡＭ３４６は、典型的にはＤＲＡＭによって構成され、ＣＰＵ３４４が画像処理プログラム２５０を実行するために必要なデータ等を一時的に記憶するワーキングメモリとして機能する。ＲＯＭ３４８は、典型的にはフラッシュメモリによって構成され、画像処理プログラム２５０と、情報処理端末２４０の動作に使用される各種設定情報とを記憶する。次に、データユニットの一例である、ディスプレイポート規格に従うパケットデータのデータ構造について説明する。
【００４１】
図４は、ディスプレイポート規格に従うパケットデータ４００の構造を説明する図である。各ラインに含まれる水平ブランキング期間の最初にブランキングスタート（ＢＳ：Blanking  Start）パケット４１０が含まれる。また、画像データ４６０が存在する水平ブランキング期間の最後に、ブランキングエンド（ＢＥ：Blanking  End）パケット４２０が含まれる。画像信号４６０が存在しない垂直ブランキング期間内のラインと、画像信号４６０が存在するラインとでは、水平ブランキング期間の長さが異なる。ＢＥパケット４２０の後に、１つのラインを構成する画素のデータが含まれる。
【００４２】
パケットデータ４００は、画像信号４６０が存在しない垂直ブランキング期間内のラインにおいて、セカンダリデータパケット（ＳＤＰ：Secondary  Data  Packet）４４０を含む。ＳＤＰ４４０の前後には、セカンダリデータスタート（ＳＳ：Secondary-data  Start）パケット４３０と、セカンダリデータエンド（ＳＥ：Secondary-data  End）パケット４５０とが存在する。
【００４３】
ＳＤＰ４４０は、画像信号以外の付加的な情報を含み、一般的には音声データなどを含む。ある局面に従うデータ生成回路３３６は、カメラ２２０から取得する画像データと、Ｉ/Ｆボード２１０から取得するセンサデータとを含むパケットデータ４００を生成する。より具体的には、データ生成回路３３６は、画像データが画像信号４６０に、センサデータがＳＤＰ４４０にそれぞれ格納されるように、パケットデータ４００を生成する。
【００４４】
このように、ある局面において、データ生成回路３３６は、既存のディスプレイポート規格のＳＤＰ４４０を利用して、画像データとセンサデータとを含むパケットデータ４００を生成する。これにより、情報処理端末２４０の入力Ｉ／Ｆ３４２も既存のディスプレイポート規格に従うコネクタを採用し得る。
【００４５】
図５は、ある実施形態に従う画像処理の制御を説明するフローチャートである。図１で説明した関連技術に従う画像処理プログラムは、画像データにのみ基づいて画像処理を行なう。一方、図５に示される画像処理プログラムは、画像データとセンサデータとを含むデータユニットを用いて実行される。図５に示される例において、画像処理プログラムは、データユニットとして、パケットデータ４００を用いて画像処理を行なう。図５に示される処理は、ＣＰＵ３４４がＲＯＭ３４８に格納される画像処理プログラム２５０を実行することにより実現される。なお、図１と同一符号を付している部分については略同じ処理であるため、その部分については繰り返し説明しない場合もある。
【００４６】
ステップＳ５０５において、ＣＰＵ３４４は、パケットデータ４００のＳＤＰ４４０に含まれる近接センサ２１４が取得するセンサデータ（以下、「近接データ」とも称する）を読み込む。
【００４７】
ステップＳ５１０において、ＣＰＵ３４４は、近接データに基づいて、車の後部に歩行者（人間）が存在するか否かを判断する。ＣＰＵ３４４は、車の後部に歩行者が存在すると判断した場合（ステップＳ５１０において歩行者あり）、処理をステップＳ５１５に進める。そうでない場合（ステップＳ５１０において歩行者なし）、ＣＰＵ３４４は、処理をステップＳ１２５に進め、パケットデータ４００の画像信号４６０に含まれる画像データをディスプレイ２６０にそのまま出力する。なお、他の局面において、ＣＰＵ３４４は、画像データに対して明るさ補正を行なったデータをディスプレイ２６０に出力し得る。
【００４８】
ステップＳ５１５において、ＣＰＵ３４４は、ＳＤＰ４４０に含まれる明るさセンサ２１２が取得するセンサデータ（以下、「明るさデータ」とも称する）を読み込む。ステップＳ１０７において、ＣＰＵ３４４は、明るさデータに基づいて、明るさ補正処理２５２を実行する。一例として、ＣＰＵ３４４は、明るさデータに基づいて各画素ごとのγ特性を補正する。
【００４９】
上記によれば、画像処理プログラム２５０は、ＳＤＰ４４０に含まれる近接データに基づいて、車の後部に歩行者が近接していると判断したときのみ、後の画像処理（明るさ補正、歩行者強調）を実行する。そのため、画像処理プログラム２５０は、ＣＰＵ３４４の画像処理の負荷を軽減し得る。
【００５０】
また、画像処理プログラム２５０は、車の後部に歩行者が近接していると判断した場合においても、ＳＤＰ４４０に含まれる明るさデータに基づいて、画像データの明るさ補正処理を行なうことができる。そのため、画像処理プログラム２５０は、ＣＰＵ３４４の画像処理の負荷をより軽減できる。
【００５１】
画像処理プログラム２５０は、画像データと、当該画像データが撮影されるタイミングに同期したセンサデータとを含むデータユニットを受信することにより上記図５に示される一連の処理を実行することができる。次に、データ生成装置２３０がデータユニットを生成する方法について説明する。
【００５２】
図６は、ある実施形態に従うデータユニットの生成方法について説明するフローチャートである。
【００５３】
ステップＳ６０５およびＳ６１０において、カメラ２２０は、同期信号出力回路３２４から垂直同期信号をＩ/Ｆボード２１０およびデータ生成装置２３０にそれぞれ出力する。ステップＳ６１２において、カメラ２２０は、撮影して１フレーム目の画像データを取得する。この画像データは、メモリ３２６に一時的に記憶される。
【００５４】
ステップＳ６１５において、データ生成装置２３０のデータ生成回路３３６は、垂直同期信号の受信に応答して、データユニットの生成を開始する。
【００５５】
ステップＳ６２０において、Ｉ/Ｆボード２１０の送受信処理回路３１６は、垂直同期信号の受信に応答して、明るさセンサ２１２および近接センサ２１４からＩ／Ｆ３１２および２１４を介して１フレーム目の明るさデータと近接データとをそれぞれ取得する。
【００５６】
ステップＳ６２５において、送受信処理回路３１６は、取得した明るさデータと近接データとをデータ生成装置２３０に出力する。データ生成回路３３６は、受信した１フレーム目のセンサデータをメモリ３３５に一時的に記憶する。
【００５７】
ステップＳ６３０において、データ生成回路３３６は、通信Ｉ/Ｆ３３４および３２８を介して、カメラ２２０のメモリ３２６にアクセスして、１フレーム目の画像データを取得する。データ生成回路３３６は、画像データをメモリ３３５に一時的に記憶する。
【００５８】
ステップＳ６３５において、データ生成回路３３６は、メモリ３３５に記憶される１フレーム目の画像データとセンサデータとを含むデータユニットを生成して、データユニットの生成処理を終了する。
【００５９】
ステップＳ６４０において、データ生成回路３３６は、出力Ｉ／Ｆ３３８を介して生成したデータユニットを情報処理端末２４０に出力する。
【００６０】
ステップＳ６４５において、情報処理端末２４０のＣＰＵ３４４は、図５に示される一連の画像処理を実行する。
【００６１】
画像処理システム２００は、これらステップＳ６０５〜６４５の処理を２フレーム目以降も繰り返し実行する。
【００６２】
上記によれば、データ生成回路３３６は、画像データと、カメラ２２０から出力される垂直同期信号に基づいて各センサから出力されたセンサデータとを関連付けてデータユニットを生成することができる。これにより、データ生成回路３３６は、画像データと、当該画像データの撮影タイミングに同期して取得されたセンサデータとを関連付けてデータユニットを生成できる。その結果、データユニットを用いた画像処理プログラム２５０は、ＣＰＵ３４４の画像処理の負荷を従来よりも軽減し得る。
【００６３】
なお、上記の例では、カメラ２２０がＩ／Ｆボード２１０とデータ生成装置２３０とに垂直同期信号を出力する構成であるが、他の局面において、データ生成回路３３６にだけ出力する構成であってもよい。
【００６４】
図７は、他の局面に従うデータユニットの生成方法について説明するフローチャートである。なお、図６と同一符号を付している部分については同じ処理であるため、その部分についての説明は繰り返さない。
【００６５】
ステップＳ７１０において、データ生成回路３３６は、カメラ２２０から垂直同期信号を受信したことに応答して、Ｉ／Ｆボード２１０に対してセンサデータの出力を要求する要求信号を出力する。
【００６６】
ステップＳ７２０において、Ｉ／Ｆボード２１０の送受信処理回路３１６は、データ生成装置２３０から要求信号を受信したことに応答して、明るさセンサ２１２および近接センサ２１４から１フレーム目の明るさデータと近接データとをそれぞれ取得する。
【００６７】
上記によれば、Ｉ／Ｆボード２１０がカメラ２２０と接続できない場合（たとえば、Ｉ／Ｆボード２１０に設けられるインターフェイスの数が足りない場合）であっても、データ生成装置２３０はデータユニットを生成できる。
【００６８】
［実施形態２］
上記の実施形態では、車載カメラ２２０によって撮影される画像に対する画像処理を例にとって説明した。実施形態２では、工場等での製品の品質検査に関する画像処理を例にとって説明する。
【００６９】
図８は、関連技術に従う品質検査の制御を説明するフローチャートである。図８に示される処理は、プロセッサが関連技術に従う画像処理プログラムを実行することにより実現される。図８に示される例において、関連技術に従う画像処理プログラムは、ベルトコンベアを流れる複数の製品の各々を示す画像データに基づいて品質検査を行なう。
【００７０】
ステップＳ８０５において、プロセッサは、カメラによって取得される製品の画像データに基づいて、バーコードを認識するとともに、バーコードに含まれる製造ＩＤを特定する。
【００７１】
ステップＳ８１０において、プロセッサは、画像データに基づいて、溶接検査処理を実行する。より具体的には、プロセッサは、製品の溶接部における溶接不良が起きていないかを判断する。一例として、プロセッサは、溶接部における黄銅色部分の面積を検出する処理を行なう。溶接不良が起こると、溶接電極への酸化物付着によって溶接抵抗が増える結果、溶接部分が黄銅色になるためである。
【００７２】
ステップＳ８１５において、プロセッサは、溶接不良が起きているか否かを判断する。一例として、溶接部分における黄銅色部分の面積が予め定められた面積未満である場合、プロセッサは、溶接不良が起きていないと判断する。プロセッサは、溶接不良が起きていないと判断した場合（ステップＳ８１５においてＯＫ）、処理をステップＳ８２０に進める。そうでない場合（ステップＳ８１５においてＮＧ）、プロセッサは検査対象の製品が不良品であると判断する（ステップＳ８３５）。
【００７３】
ステップＳ８２０において、プロセッサは、画像データに基づいて、傷・ひび割れ検査処理を実行する。一例として、プロセッサは、周辺画素と比べて輝度差の大きい画素を傷・ひび割れとして抽出する。
【００７４】
ステップＳ８２５において、プロセッサは、ステップＳ８２０の検査結果に基づいて、製品に傷・ひび割れがあるか否かを判断する。プロセッサは、製品に傷・ひび割れがないと判断した場合（ステップＳ８２５においてＯＫ）、検査対象の製品が良品であると判断する（ステップＳ８３０）。そうでない場合（ステップＳ８２５においてＮＧ）、プロセッサは、検査対象の製品が不良品であると判断する（ステップＳ８３５）。
【００７５】
ステップＳ８４０において、プロセッサは、ステップＳ８０５で特定した製造ＩＤと、検査結果とを関連付けて記憶装置に保存する。
【００７６】
上記のように、関連技術に従う品質検査は、製品に生じ得る複数の検査項目のすべてに対して、画像処理を用いた検査を実施する必要がある。そのため、検査項目の数が増えるほど、プロセッサの品質検査（画像処理）に対する負荷が大きくなる。図８の例では、簡単のため検査項目を２つとして説明したが、実際には数十種類もの検査項目が存在し得る。以下、このような問題を解決し得る、ある実施形態に従う画像処理システムの構成および制御について説明する。
【００７７】
図９は、ある実施形態に従う画像処理システム９００の構成例について説明する図である。画像処理システム９００の構成は、上記の画像処理システム２００の構成と略同じであるため、相違する点についてのみ説明する。
【００７８】
画像処理システム９００は、製造ライン９１０を流れる製品９１５Ａ、９１５Ｂ、９１５Ｃ、・・・の品質検査を行なう。以下、製品９１５Ａ、９１５Ｂ、９１５Ｃ、・・・を総称して「製品９１５」とも言う。製品９１５には、互いに識別可能な製造ＩＤを示すバーコードが付されている。
【００７９】
Ｉ／Ｆボード２１０は、バーコードリーダ９２０、ラインセンサ９３０、温度センサ９４０とに、それぞれ電気的に接続される。バーコードリーダ９２０は、製品９１５に付されているバーコードから製造ＩＤを取得する。ラインセンサ９３０は、複数の投光部と受光部（フォトダイオード）とを備える。ラインセンサ９３０は、製品９１５が流れる経路に設けられ、製品９１５によって反射された光を受光部によって受け付ける。温度センサ９４０は、一例として、放射温度計であって非接触で製品９１５の溶接部の温度を測定する。
【００８０】
カメラ２２０は、製品９１５が流れる経路に設けられ、各製品９１５を撮影する。データ生成装置２３０は、カメラ２２０によって取得される製品９１５の画像データと、上記センサのセンサデータとを含むデータユニットを生成して、情報処理端末２４０に出力する。この実施形態において、センサデータは、バーコードリーダ９２０が取得する製造ＩＤと、ラインセンサ９３０の取得する製品９１５によって反射される光強度のデータ（以下、「ラインデータ」とも称する）と、温度センサ９４０が取得する製品９１５の温度のデータ（以下、「温度データ」とも称する）とを含む。ある局面において、データ生成装置２３０は、カメラ２２０が撮影する製品９１５の画像データと、センサデータを格納するＳＤＰ４４０とを含むパケットデータ４００を生成して、情報処理端末２４０に出力する。
【００８１】
情報処理端末２４０は、画像データとセンサデータとを含むデータユニットに基づいて、溶接検査処理９５２と、傷・ひび割れ検査処理９５４とを含む画像処理プログラム９５０を実行して、製品９１５の品質検査を行なう。
【００８２】
図１０は、ある実施形態に従う品質検査（画像処理）の制御を説明するフローチャートである。図１０に示される処理は、ＣＰＵ３４４がＲＯＭ３４８に格納される画像処理プログラム９５０を実行することにより実現される。他の局面において、処理の一部または全部が、回路素子その他のハードウェアによって実行されてもよい。なお、図８と同一符号を付している部分については略同じ処理であるため、その部分については繰り返し説明しない場合もある。
【００８３】
ステップＳ１００５において、ＣＰＵ３４４は、データユニットに含まれる温度データが示す温度が、適正範囲内であるか否かを判断する。ＣＰＵ３４４は溶接部の温度が適正範囲内であると判断した場合（ステップＳ１００５においてＹＥＳ）、処理をステップＳ１０１０の傷・ひび割れ検査処理に進める。そうでない場合（ステップＳ１００５においてＮＯ）、ＣＰＵ３４４は、処理をステップＳ８１０の溶接検査に進める。すなわち、ＣＰＵ３４４は、溶接部の温度が適正範囲内であると判断した場合は、溶接検査を省略する。一方、ＣＰＵ３４４は、溶接部の温度が適正範囲外であると判断した場合は、溶接部に溶接不良が生じている可能性があるとして、溶接検査を行なう。その理由は、溶接不良を起こした溶接部は、通常よりも温度が上がる傾向があるためである。
【００８４】
ステップＳ１０１０において、ＣＰＵ３４４は、データユニットに含まれるラインデータに基づいて、検査対象の製品９１５に傷またはひび割れが生じている可能性があるか否かを判断する。一例として、ＣＰＵ３４４は、周辺領域と比べて強度差の大きい領域がある場合、製品９１５に傷またはひび割れが生じている可能性があると判断する。ＣＰＵ３４４は、検査対象の製品９１５に傷またはひび割れが生じている可能性があると判断した場合（ステップＳ１０１０においてＹＥＳ）、処理をステップＳ８２０に進める。そうでない場合（ステップＳ１０１０においてＮＯ）、ＣＰＵ３４４は、検査対象の製品９１５が良品であると判断する（ステップＳ８３０）。
【００８５】
ステップＳ１０２０において、ＣＰＵ３４４は、データユニットに含まれる製造ＩＤと、検査結果とを関連付けて記憶装置（たとえば、ＲＯＭ３４８）に保存する。
【００８６】
上記によれば、ある実施形態に従う画像処理システム９００は、センサデータを用いて、可能性のない不良に対する画像処理による検査を省略し、可能性のある不良に対する画像処理による検査のみを実施する。そのため、この画像処理システム９００は、関連技術に従う画像データのみを用いた品質検査に比して、品質検査に要する時間の短縮、およびＣＰＵ３４４への画像処理負担の軽減を実現し得る。
【００８７】
また、関連技術に従う品質検査は、画像データに基づいて製造ＩＤを取得する構成であるが、カメラ２２０によって撮影される画像によっては、製造ＩＤを取得できない場合（例えば、画像にバーコードが正確に写っていない場合）もある。すなわち、当該システムは、画像データと製造ＩＤとを関連付けることが出来ない場合がある。
【００８８】
一方、実施形態に従う画像処理システム９００は、バーコードリーダ９２０によって取得される製造ＩＤの情報を画像データと関連付けたデータユニットを生成する。そのため、本システムは、製造ＩＤを取得する画像処理が不要である上に、確実に画像データと製造ＩＤとを関連付けることができる。また、本システムは、製造ＩＤを利用して、カメラ２２０によって検査画像を取り込んだ後、任意のタイミングで上記の品質検査を実施し得る。
【００８９】
なお、上記の例において、画像処理システム９００は、製品９１５に付されたバーコード（１次元コード）を、バーコードリーダ９２０によって読み取ることによって、製品９１５の製造ＩＤを取得する構成であったが、製造ＩＤの取得方法はこれに限られない。
【００９０】
他の局面において、製品９１５に、製造ＩＤを含むＱＲコード（２次元コード）（商標登録）、ＲＦＩＤ（Radio  Frequency  IDentifier）タグ、その他のシンボルが付されており、これを読み取るセンサがＩ／Ｆボード２１０に接続されていればよい。
【００９１】
［実施形態３］
実施形態３では、店舗や空港などにおける、監視カメラを利用した監視システムについて説明する。
【００９２】
図１１は、関連技術に従う監視のための画像処理について説明するフローチャートである。図１１に示される処理は、プロセッサが関連技術に従う画像処理プログラムを実行することにより実現される。図１１に示される例において、関連技術に従う画像処理プログラムは、監視カメラによって取得される画像データから人間を検出し、当該人間を特定する。
【００９３】
ステップＳ１１１０において、プロセッサは、カメラによって撮影される画像の中に人の顔が含まれているか否かを検出するための画像処理を実行する。顔検出のための画像処理は、既知の方法（たとえば、Haar-Like特徴量を利用した顔検出）によって実現され得る。
【００９４】
ステップＳ１１２０において、プロセッサは、ステップＳ１１１０における画像処理の結果に基づいて、画像の中に人の顔が含まれているか否かを判断する。プロセッサは、画像の中に人の顔が含まれていると判断した場合（ステップＳ１１２０においてＹＥＳ）、処理をステップＳ１１３０に進める。そうでない場合（ステップＳ１１２０においてＮＯ）、プロセッサは、一連の処理を終了する。
【００９５】
ステップＳ１１３０において、プロセッサは、ステップＳ１１２０で検出した顔の特徴量を算出して、当該算出した特徴量と、記憶装置に保存される過去に算出した特徴量の各々とを比較して、人物の特定を行なう。この特徴量の算出は、既知の方法によって実現され得る。
【００９６】
上記にように、関連技術に従う監視のための画像処理プログラムは、カメラによって撮影された画像すべてに対して、ステップＳ１１１０〜１１３０に示される処理を実行する必要がある。より具体的には、当該プログラムは、人（顔）が存在しない画像に対しても、人が居るか否かを判断するための処理（ステップＳ１１１０およびＳ１１２０）を実行する必要がある。そのため、プロセッサの監視のための画像処理に対する負荷は大きい。以下、このような問題を解決し得る、実施形態に従う画像処理システムの構成および制御について説明する。
【００９７】
図１２は、ある実施形態に従う画像処理システム１２００の構成例について説明する図である。画像処理システム１２００の構成は、上記の画像処理システム２００の構成と略同じであるため、相違する点についてのみ説明する。
【００９８】
Ｉ／Ｆボード２１０は、人感センサ１２１０と電気的に接続される。人感センサ１２１０は、一例として、焦電素子によって構成される。人感センサ１２１０は、カメラ２２０が撮影する視界領域において、人が存在するか否かを検出する。カメラ２２０は、監視カメラであって、店舗や空港にいる人物を撮影する。データ生成装置２３０は、カメラ２２０によって取得される画像データと、人感センサ１２１０によって取得される周囲に人が居るか居ないかを示すセンサデータ（以下、「人感データ」とも称する）とをデータユニットを生成する。データ生成装置２３０は、生成したデータユニットを情報処理端末２４０に出力する。情報処理端末２４０は、入力されるデータユニットに基づいて、顔認識処理１２５２を含む画像処理プログラム１２５０を実行する。ある局面において、データ生成装置２３０は、カメラ２２０によって取得される画像データと、人感データを格納するＳＤＰ４４０とを含むパケットデータ４００を生成して、情報処理端末２４０に出力する。
【００９９】
図１３は、ある実施形態に従う画像処理の制御を説明するフローチャートである。図１３に示される処理は、ＣＰＵ３４４がＲＯＭ３４８に格納される画像処理プログラム１２５０を実行することにより実現される。他の局面において、処理の一部または全部が、回路素子その他のハードウェアによって実行されてもよい。なお、図１１と同一符号を付している部分については同じ処理であるため、その部分については繰り返し説明しない場合もある。
【０１００】
ステップＳ１３１０において、ＣＰＵ３４４は、データユニットに含まれる人感データを読み込む。ステップＳ１３２０において、ＣＰＵ３４４は、人感データに基づいて、人感センサ１２１０が人を検出しているか否かを判断する。ＣＰＵ３４４は、人感センサ１２１０が人を検出していると判断した場合（ステップＳ１３２０においてＹＥＳ）、処理をステップＳ１１１０に進める。そうでない場合（ステップＳ１３２０においてＮＯ）、ＣＰＵ３４４は、顔認識の画像処理を実行することなく処理を終了する。
【０１０１】
上記によれば、ある実施形態に従う画像処理システム１２００は、データユニットに含まれる人感データに基づいて、カメラ２２０が撮影する視界領域に人が居ると判断した場合のみ、一連の顔認識の画像処理を実行する。そのため、本実施形態に従う画像処理システム１２００は、関連技術に従う画像データのみを用いたシステムに比して、画像処理に要する時間の短縮、およびＣＰＵ３４４への画像処理負担の軽減を実現し得る。
【０１０２】
［実施形態４］
上記の実施形態では、データ生成装置２３０は、カメラ２２０の同期信号出力回路３２４が出力する垂直同期信号に基づいて、画像データと、当該画像データが取得（撮影）されるタイミングに同期したセンサデータとを含むデータユニットを生成する。しかし、カメラの種類によっては、垂直同期信号を外部に出力する構成をもたないものも存在する。そこで、このようなカメラを用いた場合であっても、画像データと、当該画像データが撮影されるタイミングに同期したセンサデータとを含むデータユニットを生成するための構成および制御について説明する。
【０１０３】
図１４は、ある実施形態に従う画像処理システム１４００の構成例を説明する図である。なお、図３と同一符号を付している部分については同じであるため、その部分についての説明は繰り返さない。
【０１０４】
図１４を参照して、画像処理システム１４００は、カメラ２２０およびデータ生成装置２３０に替えて、カメラ１４２０およびデータ生成装置１４３０とを備える点において、画像処理システム２００と相違する。カメラ１４２０は、同期信号出力回路３２４を有さない。カメラ１４２０は、メモリ３２６に替えてメモリ１４２６を有する。メモリ１４２６には、フォーマット情報１４２７が不揮発的に記憶される。フォーマット情報１４２７は、カメラ１４２０が１秒間に撮影する画像の枚数（フレームレート）の情報を含む。フォーマット情報１４２７は、フレームレートの情報の他にも、カメラ１４２０の垂直ブランキング期間、水平ブランキング期間、垂直有効画素数、水平有効画素数、ＲＧＢ色深度（１ピクセルあたりのＲＧＢデータ量）などの情報を含み得る。
【０１０５】
データ生成装置１４３０は、データ生成回路３３６に替えてデータ生成回路１４３６を有する。データ生成回路１４３６は、タイミング生成回路１４６０と、ユニット生成回路１４７０とを含む。次に、図１５を用いてタイミング生成回路１４６０およびユニット生成回路１４７０の機能について説明する。
【０１０６】
図１５は、ある実施形態に従うデータユニットの生成法について説明するフローチャートである。
【０１０７】
ステップＳ１５０５において、タイミング生成回路１４６０は、カメラ１４２０からフォーマット情報１４２７を取得する。ステップＳ１５０７において、カメラ１４２０は、画像データを取得してメモリ１４２６に一時的に格納する。ステップＳ１５１０において、タイミング生成回路１４６０は、フォーマット情報１４２７に含まれるフレームレートの情報に基づいて、同期タイミングを生成する。一例として、フレームレートが６０Ｈｚである場合、タイミング生成回路１４６０は、６０Ｈｚの同期タイミングを生成する。
【０１０８】
ステップＳ１５１５において、タイミング生成回路１４６０は、生成した同期タイミングに従うタイミングで、ユニット生成回路１４７０に対して生成開始信号を出力する。ステップＳ１５２０において、ユニット生成回路１４７０は、生成開始信号の受信に応答して、ユニットデータの生成を開始する。
【０１０９】
ステップＳ１５２５において、タイミング生成回路１４６０は、生成した同期タイミングに従うタイミングで、Ｉ／Ｆボード２１０に対して要求信号を出力する。ステップＳ１５３０において、Ｉ／Ｆボード２１０は、データ生成装置１４３０から要求信号を受信したことに応答して、１フレーム目のセンサデータ（例えば、明るさデータおよび近接データ）を取得する。ステップＳ１５３５において、Ｉ／Ｆボード２１０は、取得した１フレーム目のセンサデータをユニット生成回路１４７０に出力する。ユニット生成回路１４７０は、受信した１フレーム目のセンサデータをメモリ３３５に一時的に記憶する。
【０１１０】
ステップＳ１５４０において、ユニット生成回路１４７０は、通信Ｉ/Ｆ３３４および３２８を介して、カメラ１４２０のメモリ１４２６にアクセスして、１フレーム目の画像データを取得する。ユニット生成回路１４７０は、画像データをメモリ３３５に一時的に記憶する。
【０１１１】
ステップＳ１５４５において、ユニット生成回路１４７０は、メモリ３３５に記憶される１フレーム目の画像データとセンサデータとを含むデータユニットを生成して、データユニットの生成処理を終了する。
【０１１２】
ステップＳ１５４７において、ユニット生成回路１４７０は、出力Ｉ／Ｆ３３８を介して生成したデータユニットを情報処理端末２４０に出力する。ステップＳ６４５において、情報処理端末２４０のＣＰＵ３４４は、１フレーム目のデータユニットに対して画像処理プログラム２５０に従う一連の画像処理を実行する。
【０１１３】
ステップＳ１５５０において、タイミング生成回路１４６０は、フレームレートの情報および前回（ステップＳ１５１０）生成した同期タイミングに基づいて、２フレーム目の同期タイミングを生成する。一例として、フレームレートが６０Ｈｚである場合、タイミング生成回路１４６０は、前回生成した同期タイミングから１／６０秒後の同期タイミングを生成する。画像処理システム１４００は、これらステップＳ１５１０〜１５４７およびステップＳ６４５の処理を、２フレーム目以降も繰り返し実行する。
【０１１４】
上記によれば、ある実施形態に従うデータ生成装置１４３０は、画像データと、フォーマット情報に基づいて各センサから出力されるセンサデータとを関連付けてデータユニットを生成できる。これにより、カメラが垂直同期信号を外部に出力する構成を有さない場合であっても、当該カメラが取得する画像データと、当該画像データが取得（撮影）されるタイミングに同期したセンサデータとを含むデータユニットを生成できる。一般的に、高価なカメラは、垂直同期信号を外部に出力する構成（同期信号出力回路）を有するが、安価なカメラは、この構成を有さない。実施形態４に従う画像処理システム１４００は、安価なカメラを用いる構成であったとしても、画像データと、センサデータとを含むデータユニットを生成できる。すなわち、実施形態４に従う画像処理システム１４００は、安価なカメラを用いる構成であったとしても、センサデータに基づいて画像処理の内容を適切に決定することにより、画像処理時間の短縮、および画像処理の負荷軽減を実現し得る。
【０１１５】
ある局面においてデータ生成回路３３６は、データユニットの一例として既知のディスプレイポート規格に従うパケットデータを生成する。これにより、情報処理端末２４０の入力Ｉ／Ｆ３４２も既存のディスプレイポート規格に従うコネクタを採用し得る。なお、他の局面において、データ生成回路３３６は、パケット化可能な他の規格に従う構成であってもよい。より好ましくは、データ生成回路３３６は、画像データとセンサデータとを含むパケットデータを生成でき、かつ、当該生成したパケットデータをカメラ２２０のフレームレートに従うタイミング（すなわち、垂直同期信号に従うタイミングを含む）で出力可能な規格であることが好ましい。これにより、情報処理端末２４０が、動画像データに対するリアルタイム画像処理（例えば、実施形態１および３で説明した処理）を実行できるためである。
【０１１６】
上記の実施形態で説明した処理は、演算機能を有する回路が有形の読取可能な少なくとも１つの媒体から、１以上の命令を読み出すことにより実行され得る。
【０１１７】
このような媒体は、磁気媒体（たとえば、ハードディスク）、光学媒体（たとえば、コンパクトディスク（ＣＤ）、ＤＶＤ）、揮発性メモリ、不揮発性メモリの任意のタイプのメモリなどの形態をとるが、これらの形態に限定されるものではない。
【０１１８】
揮発性メモリはＤＲＡＭ（Dynamic  Random  Access  Memory）およびＳＲＡＭ（Static  Random  Access  Memory）を含み得る。不揮発性メモリは、ＲＯＭ、ＮＶＲＡＭを含み得る。
【０１１９】
以上、本発明者によってなされた発明を実施形態に基づき具体的に説明したが、本発明は前記実施形態に限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能であることは言うまでもない。
【符号の説明】
【０１２０】
２１０  Ｉ／Ｆボード、２１２  明るさセンサ、２１４  近接センサ、２２０，１４２０  カメラ、２３０，１４３０  データ生成装置、２４０  情報処理端末、２５０，９５０，１２５０  画像処理プログラム、２６０  ディスプレイ、３１８，３２８，３３２，３３４  通信Ｉ／Ｆ、３１６  送受信処理回路、３２２  撮像素子、３２４  同期信号出力回路、３２６，３３５，１４２６  メモリ、３３６，１４３６  データ生成回路、３４４  ＣＰＵ、３４６  ＲＡＭ、３４８  ＲＯＭ、４００  パケットデータ、４４０  ＳＤＰ、４６０  画像信号、９２０  バーコードリーダ、９３０  ラインセンサ、９４０  温度センサ、１２１０  人感センサ、１４２７  フォーマット情報、１４６０  タイミング生成回路、１４７０  データ生成回路。
【図１】
2018042196.tif 000003
【図２】
2018042196.tif 000004
【図３】
2018042196.tif 000005
【図４】
2018042196.tif 000006
【図５】
2018042196.tif 000007
【図６】
2018042196.tif 000008
【図７】
2018042196.tif 000009
【図８】
2018042196.tif 000010
【図９】
2018042196.tif 000011
【図１０】
2018042196.tif 000012
【図１１】
2018042196.tif 000013
【図１２】
2018042196.tif 000014
【図１３】
2018042196.tif 000015
【図１４】
2018042196.tif 000016
【図１５】
2018042196.tif 000017