(57)【要約】荷物を含む色画像に基づき、荷物を認識する荷物認識装置であって、プロセッサと、メモリと、を備え、プロセッサは、メモリと協働して、色画像における、投影画像が投影された荷物の画像投影面の色から投影画像の色を差し引き、差し引いて得られた色を認識対象の色として、荷物を認識する。
2019064804.tif 000002
【特許請求の範囲】
【請求項１】
荷物を含む色画像に基づき、前記荷物を認識する荷物認識装置であって、
プロセッサと、
メモリと、を備え、
前記プロセッサは、前記メモリと協働して、
前記色画像における、投影画像が投影された前記荷物の画像投影面の色から前記投影画像の色を差し引き、
差し引いて得られた色を認識対象の色として、前記荷物を認識する、
荷物認識装置。
【請求項２】
請求項１に記載の荷物認識装置であって、
前記荷物に前記投影画像の投影を指示する投影指示装置から、前記荷物と前記投影画像の色との対応関係を示す情報を取得し、
前記取得した情報に基づいて、前記色画像における前記荷物の画像投影面の位置に対応する箇所から前記投影画像の色を差し引く、
荷物認識装置。
【請求項３】
請求項１または２に記載の荷物認識装置であって、
前記プロセッサは、前記色画像における前記荷物の画像投影面の位置を、過去の追跡結果から推測する、
荷物認識装置。
【請求項４】
請求項１から３のいずれか一項に記載の荷物認識装置であって、
前記プロセッサは、一時的に前記投影画像の投影を停止するよう指示し、
前記投影が停止されている間に取得された前記色画像から前記荷物の画像投影面の位置を認識する、
荷物認識装置。
【請求項５】
請求項１から４のいずれか一項に記載の荷物認識装置であって、
前記プロセッサは、距離画像に基づいて前記荷物の画像投影面の位置を認識する、
荷物認識装置。
【請求項６】
請求項１から５のいずれか一項に記載の荷物認識装置であって、
前記投影画像は、前記荷物の仕分け先を示す情報を含む投影画像である、
荷物認識装置。
【請求項７】
請求項１に記載の荷物認識装置を含む投影指示装置と、荷物に貼付されたラベルから荷物特定情報を読み取るラベルリーダと、前記荷物を含む色画像を取得する色画像センサと、仕分け先を示す投影画像を前記荷物に投影する画像投影装置と、を備える荷物仕分けシステム。
【請求項８】
荷物を含む色画像に基づき、前記荷物を認識する荷物認識方法であって、
プロセッサがメモリと協働して、
前記色画像における、投影画像が投影された前記荷物の画像投影面の色から前記投影画像の色を差し引き、
差し引いて得られた色を認識対象の色として、前記荷物を認識する、
荷物認識方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、荷物の仕分けに有用な荷物認識装置、荷物仕分けシステムおよび荷物認識方法に関する。
【背景技術】
【０００２】
近年の経済活動の高まりに伴い、荷物の流通量は増大する一方である。荷物の流通工程において、荷物を行先別に仕分ける仕分け作業は時間のかかる工程であり、従前から人手による作業に頼っているが、仕分け作業の少なくとも一部を自動化する技術も提案されている。【０００３】
特許文献１は、移動する荷物を追跡し、荷物から読み取った荷物に関する情報と当該荷物の位置の情報に基づき、表示する画像を決定し、プロジェクタから画像を荷物に投射して画像を荷物上に表示するシステムを開示している。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】米国特許第７０９０１３４号明細書
【発明の概要】
【０００５】
しかしながら、昨今荷物の流通量はますます増大するとともに、荷物の種類も様々なものとなっており、荷物をより効率的かつ正確に仕分ける技術が求められている。
【０００６】
本開示は、荷物の仕分けをより効率的かつ正確に行うための技術に関する。
【０００７】
本開示は、荷物を含む色画像に基づき、前記荷物を認識する荷物認識装置であって、プロセッサと、メモリと、を備え、前記プロセッサは、前記メモリと協働して、前記色画像における、投影画像が投影された前記荷物の画像投影面の色から前記投影画像の色を差し引き、差し引いて得られた色を認識対象の色として、前記荷物を認識する。
【０００８】
本開示は、上述の荷物認識装置を含む投影指示装置と、荷物に貼付されたラベルから荷物特定情報を読み取るラベルリーダと、前記荷物を含む色画像を取得する色画像センサと、仕分け先を示す投影画像を前記荷物に投影する画像投影装置と、を備える荷物仕分けシステムである。
【０００９】
本開示は、荷物を含む色画像に基づき、前記荷物を認識する荷物認識方法であって、プロセッサがメモリと協働して、前記色画像における、投影画像が投影された前記荷物の画像投影面の色から前記投影画像の色を差し引き、差し引いて得られた色を認識対象の色として、前記荷物を認識する。
【００１０】
本開示によれば、荷物の仕分けをより効率的かつ正確に行うことができ、さらなる荷物の流通量の増大にも対応することができる。特に、荷物の色の違いと投影画像の色の違いによって画像投影面の色が同じになってしまう少なくとも２つの荷物があった場合でも、それらの荷物を確実に認識することができ、ひいては荷物を精度よく追跡することが可能となる。
【図面の簡単な説明】
【００１１】
【図１】図１は、実施の形態にかかる荷物仕分けシステムの構成を示すブロック図である。
【図２】図２は、実施の形態にかかる投影指示装置の構成を示すブロック図である。
【図３Ａ】図３Ａは、荷物仕分けシステムが物流センターに設置され、稼働している状況を示す概念図である。
【図３Ｂ】図３Ｂは、荷物の上面に数字を含む投影画像を投影した状態を示す図である。
【図４】図４は、実施の形態にかかる投影指示装置で生成される投影画像の一例を示す図である。
【図５】図５は、主として投影指示装置が行う動作の概要手順を示すフローチャートである。
【図６】図６は、荷物の認識処理を示すフローチャートである。
【発明を実施するための形態】
【００１２】
以下、適宜図面を参照しながら、本開示に係る荷物認識装置、荷物仕分けシステムおよび荷物認識方法を具体的に開示した実施形態（以下、「本実施形態」という）を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより請求の範囲に記載の主題を限定することは意図されていない。
【００１３】
以下、図１〜図６を用いて本開示の実施の形態を説明する。
【００１４】
［構成］
図１は、実施の形態にかかる荷物仕分けシステムの構成を示すブロック図である。図１に示す荷物仕分けシステム１００は、例えば物流センターに設置される。荷物仕分けシステム１００は、ラベルリーダ１０と、画像センサ２０と、投影指示装置３０と、プロジェクタ４０とを備える。荷物仕分けシステム１００は、搬送コンベヤにより搬送されてくる荷物を仕分ける作業員の作業を支援するシステムである。荷物仕分けシステム１００は、例えば小売業者、卸売業者、インターネット流通業者などが所有する物流センターに設置される。仕分け対象の荷物は、一般的には略直方体の形状を有するものであるが、その外形は特に限定はされず、荷物の種類も特に限定されない。なお、荷物仕分けシステムの構成は図１に記載したものに限定されない。例えば、一台のラベルリーダ１０に複数の画像センサ２０と、投影指示装置３０と、プロジェクタ４０を接続させるなど、各構成要素の数量は目的に応じて適宜変更させることができる。
【００１５】
読取装置としてのラベルリーダ１０は、図示せぬレンズ、イメージセンサ等の各種の要素を含む装置である。ラベルリーダ１０を用いることで、搬送コンベヤにより搬送されてくる荷物に貼付されたラベルから当該荷物に関する各種の情報を記録したラベル記録情報を読み取ることができる。読み取られたラベル記録情報を用いることで、当該荷物を特定することが可能である。読み取られた情報によって荷物特定情報が定義づけられる。
【００１６】
画像センサ２０は、図示せぬレンズ、イメージセンサ等の各種の要素を含む撮像装置である。画像センサ２０は、一般的には撮像カメラとして構成される。撮像カメラは３次元カメラ、複数台の２次元カメラなどである。画像センサ２０は、距離画像センサ２２と色画像センサ２４とを含む。
【００１７】
距離画像センサ２２は、搬送コンベヤにより搬送されてくる荷物を撮像し、距離画像を生成する。生成された距離画像は、荷物の位置、荷物までの距離、荷物のサイズ等を示す情報として使用される。「距離画像」とは、撮像位置から各画素が示す位置（荷物の表面を含む）までの距離を示す距離情報を収容した画像のことをいう（つまり本開示において「画像」の語は距離画像を含む）。また、「距離画像」という文言には、距離を示す数値を列挙したテーブルなど、人の目で画像として認識できないものも含まれる。すなわち「距離画像」は、撮像した領域内における座標と距離との関係を示す情報であればよく、そのデータ構造は問わない。本開示において距離画像センサ２２は荷物の位置を特定するために用いられる。よって距離画像センサ２２は、他のセンシングデバイス（超音波センサ、赤外線センサ、ステレオカメラ、単眼ビデオカメラ）が代替することもできる。
【００１８】
色画像センサ２４は、距離画像が生成された荷物を撮像し、色画像を生成する。「色画像」とは、荷物の表面の色を所定の階調で表現した画像のことをいい、「階調」にはＲＧＢの２５６階調のみならず、グレースケール等あらゆるものが含まれる。本開示において色画像センサ２４は、距離画像センサ２２が特定した荷物について、各荷物を追跡するために用いられる。色画像センサ２４も、他のセンシングデバイス（超音波センサ、赤外線センサ、ステレオカメラ、単眼ビデオカメラ）が代替することができる。
【００１９】
つまり本開示において「画像」の語は距離画像と色画像の双方を含む。本開示においては距離画像センサおよび色画像センサを含むセンシングデバイスとしての画像センサから出力される情報をセンシング情報と呼ぶ。本実施の形態においてはセンシングデバイスの一例として画像センサ２０（距離画像センサ２２および色画像センサ２４を含む）を用いて説明を行う。また本実施の形態においては、センシング情報の例として、距離画像センサ２２の出力である距離画像、色画像センサ２４の出力である色画像を用いて説明を行う。
【００２０】
投影指示装置３０は、荷物仕分けシステム１００における演算装置としての役割を果たす。図２に示すように、投影指示装置３０は、バスを介して接続された入力部３２、プロセッサ３４、メモリ３６、出力部３８を備える。入力部３２は、ラベルリーダ１０が読み込んだラベル記録情報から取得した荷物の特定が可能な荷物特定情報、距離画像センサ２２が生成した距離画像、色画像センサ２４が生成した色画像を受け取る。プロセッサ３４は一般的な演算装置によって構成され、荷物特定情報、距離画像および色画像に基づき、荷物に投影する投影画像を生成する。記憶装置としてのメモリ３６は、プロセッサ３４が各種処理に必要な制御プログラムの読み込み、データの退避等の操作を行う。すなわち、プロセッサ３４とメモリ３６は協働して投影指示装置３０による各種処理を制御する。出力部３８は、プロセッサ３４が生成した投影画像をプロジェクタ４０に出力する。なお、本開示において「プロセッサ」は単一のプロセッサのみを意味するものではない。「プロセッサ」は、複数の同一目的のプロセッサや、目的の異なるプロセッサ（例えば、汎用ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）とＧＰＵ（Ｇｒａｐｈｉｃ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ））が共同して処理を行う場合の動作主体を意味する語としても使用される。
【００２１】
プロジェクタ４０は一般的な投影装置により構成され、投影指示装置３０から受信した投影画像を含む投影光を荷物に投影し、荷物上に表示する。
【００２２】
荷物仕分けシステム１００は、ラベルリーダ１０と、画像センサ２０（距離画像センサ２２および色画像センサ２４）と、投影指示装置３０と、プロジェクタ４０とを有線通信または無線通信で繋ぎ合わすことにより構築できる。また、ラベルリーダ１０と、画像センサ２０と、投影指示装置３０と、プロジェクタ４０のうちいずれかの二台以上の装置を一体型の装置として構築することもできる。例えば、画像センサ２０とプロジェクタ４０とを合わせて、一体型の撮像投影装置として構築することもできる（図３Ａ参照）。
【００２３】
［システムの概要］
図３Ａは、荷物仕分けシステム１００が物流センターに設置され、稼働している状況を示す概念図である。従来の方法によれば、各作業者Ｍが、搬送コンベヤ５０により矢印Ｘ方向に搬送されてくる各荷物Ｐに貼付されたラベルを目視によりチェックし、作業者自身が配送を担当する荷物が到着したら当該荷物を拾い上げて（ピックアップ）、作業者自身の足元、かご、トラックの荷台等の近傍に一旦置く必要があった。しかしながら、作業者の目視による仕分けの場合、作業者の作業効率には限界があるから、搬送速度を所定の値以下に抑える必要があった。結果として、作業者が単位時間内に仕分けることが可能な荷物の量の限界値は低かった。また、作業者がラベルの目視に際して誤認を行うことにより、仕分けに際して誤りを引き起こす可能性があった。近年、荷物の流通量は増大しており、これらの問題はより注目されつつある。
【００２４】
そこで本実施形態では、図３Ａに示すように、搬送コンベヤ５０の上方に配置されたラベルリーダ１０が、搬送コンベヤ５０により搬送されてくる各荷物Ｐに貼付されたラベルを読み取る。ラベルには、当該荷物に関する各種の情報を含むラベル記録情報が記載されている。ラベル記録情報は、当該荷物に個別に付与される荷物特定番号、発送人の氏名、住所、電話番号、受取人の氏名、住所、電話番号、荷物の種類、等に類似する情報を含む。ラベルの読み込みは、担当の作業者がラベル内のバーコードに、ラベルリーダ１０としてのバーコードリーダを手で当てて読み込むことで行っても良い。
【００２５】
さらに画像センサ２０が、搬送コンベヤ５０により搬送されてくる荷物Ｐの画像（距離画像および色画像）を撮像し、荷物Ｐの位置、荷物Ｐまでの距離、荷物Ｐのサイズ（荷物Ｐが直方体の場合は３辺の長さ）、荷物Ｐの色、荷物Ｐの模様等の情報を取得する。尚、ラベルリーダ１０、画像センサ２０の配置位置や、センシングデバイスの種類、処理の順序は特に図示した形態に限定されない。上述した様に、本例では、画像センサ２０とプロジェクタ４０が一体型の撮像投影装置６０として構築され、搬送コンベヤ５０の上方に配置されている。
【００２６】
図３では示されていない投影指示装置３０は、例えば搬送コンベヤ５０の近傍や、別の部屋に配置されたコンピュータにより構成され、ラベルリーダ１０が獲得した荷物を特定する情報と、画像センサ２０が生成した距離画像および色画像に基づき、荷物Ｐ（荷物Ｐが直方体の場合は例えば上面）に表示する投影画像を生成する。投影指示装置３０は投影画像を荷物Ｐに投影すべき投影指示をプロジェクタ４０に送る。
【００２７】
投影指示を受けた、画像投影装置としての、プロジェクタ４０は、投影指示装置３０が生成した投影画像を含む投影光を荷物Ｐに投影し、荷物Ｐ上に投影画像を表示する。ここで荷物Ｐに表示される投影画像は、例えば、当該荷物Ｐの配送先住所に対応した仕分け場所を示す色を有する丸数字の画像である（図３Ｂ参照）。ここで、丸数字は、例えば、仕分けられた荷物Ｐを運ぶトラックの番号（トラック自体の番号や駐車場番号など）や、当該トラックなどに搬入されるべき棚や箱などの番号等に対応している。また、直接的に棚や箱などの番号に対応させるのではなく、ピックアップした荷物を他の場所またはトラック等へ移動させるシューターの番号等に対応していてもよい。トラック等の駐車位置は交通状況などに応じて頻繁に変わるため搬送コンベヤ５０周辺から見た仕分け先を随時対応させることは難しいことがある。そのため、搬送コンベヤ５０と搬送トラック等との間にシューターを挟み、搬送コンベヤ５０周辺ではシューターの番号を投影することで、搬送コンベヤ５０周辺の構成を随時変えなくとも、シューターの出口の配置換えなどで仕分け先の変化に対応することが出来る。もちろん、状況に応じて、様々な種類の投影画像が表示される。数字を表示する他の例としては、配送先住所に対応した郵便番号や、荷物Ｐをピックアップすべき作業者の番号などであってもよい。また、数字以外の情報を表示する例としては、仕分け方向を示す矢印（搬送コンベヤ５０の搬送方向に対して右または左など）または文字（「左」「右」など）であってもよい。更に、表示の形態も丸数字に限られるものではなく、図４で示すような四角で囲んだ数字（“３”、“３５９”、“２４７３５”）など様々なものが考えられる。さらに、投影画像は、枠によって数字または文字を囲むものに限らず、背景を塗りつぶした白抜きの数字または文字であってもよい。また、表示する情報に応じて、丸・三角・四角など表示する数字または文字の形状を切り替えるなどとしてもよい。他にも、表示する情報ごとに個別に対応付けできるような絵を表示するなどとしてもよい。また、投影画像は静止画像に限らず、アニメーションであっても構わない。アニメーションの例としては、上記の各例を点滅させたり、拡大縮小させたり、色を変化させたりすることなど考えられる。また、仕分け方向を反映したアニメーションを投影しても構わない。仕分け方向を反映したアニメーションの例としては、例えば、仕分け方向に向かって光線または光点等を移動させたり、仕分け方向に向かって投影画像の全体または一部を形成したり色を変化させたり、仕分け方向に矢印を動かして表示するなど、さまざまなものが考えられる。投影画像の一部のみをアニメーションの対象とする場合は、数字や矢印などの作業者による仕分け先の判断への影響が大きい部分は変化させず、枠線などの仕分け先の影響の少ない部分を変化させることなどが考えられる。ただし、仕分け先の選択肢が少ない場合など、枠線内に投影される数字等の意味よりも仕分け方向を直感的に伝える方が効率的な状況では、固定された枠線内で数字や矢印などを仕分け方向に動かしてもよい。また、アニメーションは繰り返し投影されてもよいし、一度だけ投影されてもよい。なお、本開示において「画像投影装置」とは光線を直接荷物に投影するものに限定されない。本開示において「画像投影装置」には画像を表示可能な眼鏡も含む。つまり本開示において、荷物に投影光を投影する、荷物に画像を表示する、荷物に画像を投影する、などと表現した場合は、その表現は画像を表示可能な眼鏡を介して、擬似的に、荷物に投影光が投影されているかのように作業者に認識させることも含む。つまり、作業者が画像を表示可能な特殊な眼鏡を装着している場合、眼鏡を介して視認される荷物Ｐの像に、ここでの投影画像を重ねあわせてもよい。
【００２８】
図３Ａにおいて、搬送コンベヤ５０の脇には、荷物を拾い上げる担当の作業者Ｍ（他の作業者は省略）が立っており、それぞれの担当の領域に到達した荷物を、丸数字１、丸数字２、丸数字３等で示すように搬送コンベヤ５０から拾い上げる。
【００２９】
例えば荷物Ｐ１はラベルに「ＡＡＡ１１１」の荷物特定情報を持っており、「ＡＡＡ１１１」の荷物特定情報は領域Ａで仕分けの対象になる旨が特定されているとする。そこで、プロセッサ３４は、荷物Ｐ１が特定領域に到着したら、図３Ｂに示すように生成した投影画像をプロジェクタ４０に送信する。そして、プロジェクタ４０は投影画像を荷物Ｐ１に投影する。よって、当該領域の作業者は、自身が担当する特定領域に到着した自身が拾い上げるべき荷物Ｐ１に容易に着目することが可能となり、結果的に荷物の仕分けをより効率的かつ正確に行うことが可能となる。
【００３０】
本実施形態では、図３Ａに示すように１台のプロジェクタ４０に対して、複数の特定領域の投影の有無を切り替えさせてもよく、複数台のプロジェクタ４０に対して、それぞれ担当の特定領域における投影の有無を切り替えさせてもよい。
【００３１】
以下、実施形態の荷物仕分けシステム１００において、投影指示装置３０が行う荷物仕分けの動作の概要を説明する。
【００３２】
［動作の概要］
図５は、本実施形態の投影指示装置３０、特に投影指示装置３０のプロセッサ３４が主として行う動作手順の概要を示すフローチャートである。まず、ラベルリーダ１０による荷物のラベルのラベル記録情報の読み取り後、投影指示装置３０の入力部３２がラベルリーダ１０から、ラベル記録情報に対応した荷物特定情報を取得する（ステップＳ１）。荷物特定情報とは、当該荷物に個別に付与される荷物特定番号、発送人の氏名、住所、電話番号、受取人の氏名、住所、電話番号、荷物の種類、等に類似する情報の少なくとも一つ含む情報である。プロセッサ３４は、当該荷物特定情報に対して、当該荷物を特定する荷物特定番号としてのＩＤを付与し、ＩＤを付与した時刻に対応する時刻情報とともにメモリ３６に記録する（ステップＳ２）。メモリ３６に記録するＩＤは、荷物特定情報に元から記録されていた荷物特定番号でもよいし、投影指示装置３０が新しいＩＤを生成して付与してもよい。
【００３３】
一方、ステップＳ１およびステップＳ２と並行して、画像センサ２０の距離画像センサ２２による荷物の距離画像の撮像後、投影指示装置３０の入力部３２が距離画像センサ２２からセンシング情報としての距離画像を取得する（ステップＳ２０）。プロセッサ３４は、当該距離画像に存在する荷物に対応するＩＤがメモリ３６に存在するか否かを判定する。
【００３４】
当該距離画像に存在する荷物に対応するＩＤがメモリ３６に存在するか否かを判定する手法の一例としては、次のような手順によることが挙げられる。すなわち、プロセッサ３４は、ラベルリーダ１０と距離画像センサ２２との間の距離（既知とする）、および搬送コンベヤ５０の速度から、荷物がラベルリーダ１０と距離画像センサ２２の間を移動するために要する時間を計算する。そして、距離画像を取得した時刻から当該時間を引くことで、距離画像に存在する荷物がラベルリーダ１０（およびプロセッサ３４）によりＩＤを付与された時刻が推定できる。そして、当該推定した時刻に近接して付与されたＩＤが、当該距離画像に存在する荷物に対応するＩＤであると推定できる。また、他の一例としては、ラベルリーダ１０近辺に他の距離画像センサを設置する手法が挙げられる。すなわち、ラベルリーダ１０がＩＤ（およびプロセッサ３４）を付与した時から、ラベルリーダ１０近辺に設置した他の距離画像センサを用いて当該ＩＤが付与された荷物を追跡することで、時刻毎に当該荷物（およびＩＤ）とラベルリーダ１０との距離を計測する。プロセッサ３４は計測された荷物（およびＩＤ）とラベルリーダ１０との距離と、ステップＳ２０で取得された距離画像における荷物の距離と、２つの距離画像センサとの距離（既知とする）から所定のステップＳ２０で取得された距離画像における荷物のＩＤを推定することができる。
【００３５】
このようにして、プロセッサ３４は当該距離画像に含まれる荷物に対応するＩＤがメモリ３６に存在するか否かを判定する（ステップＳ３０）。すなわち、ステップＳ２で述べたように、メモリ３６には、荷物特定情報、ＩＤ、ＩＤを付与した時刻に対応する時刻情報が予め記録されている。一方、プロセッサ３４は、例えば上述したように、距離画像を取得した時刻から荷物がラベルリーダ１０と距離画像センサ２２の間を移動するために要する時間を引くことで、距離画像に存在する荷物がラベルリーダ１０（およびプロセッサ３４）によりＩＤを付与された時刻が推定できる。プロセッサ３４は、予めメモリ３６に記録された時刻情報と推定した時刻とを比較し、これらの値が近い場合は（例えば時間差が所定の閾値時間以下の場合など）、距離画像に含まれる荷物に対応するＩＤがメモリ３６に存在すると判定することができる。メモリ３６に荷物に対応するＩＤが存在すると判定した場合（ステップＳ３０；Ｙｅｓ）、ステップＳ６０以降の処理に進む。
【００３６】
メモリ３６に荷物に対応するＩＤが存在しないと判定した場合（ステップＳ３０；Ｎｏ）、プロセッサ３４は、当該荷物にＩＤが付与されていないことを前提として、当該荷物の位置を改めて特定し（ステップＳ４０）、荷物にＩＤを付与する（ステップＳ５０）。
【００３７】
上述のステップと並行して、色画像センサ２４は、距離画像を取得した各荷物の色画像を生成する。そして、プロセッサ３４は、入力部３２が取得する色画像センサ２４からの色画像に基づき、搬送コンベヤ５０により搬送されて移動するＩＤ付きの荷物を追跡する（ステップＳ６０）。そして、プロセッサ３４は、同じく色画像に基づき、追跡していた荷物が作業者により拾い上げられたか否かを判定する（ステップＳ７０）。荷物が作業者により拾い上げられていないと判定した場合（ステップＳ７０；Ｎｏ）、プロセッサ３４は、荷物が、後述する特定領域（その荷物が拾い上げられるべき所定の仕分けエリア）に存在するか否かを判定する。そして、荷物が特定領域に存在する（到達した）と判定した場合（ステップＳ８０；Ｙｅｓ）、プロセッサ３４は投影画像を生成し、プロジェクタ４０に送信する（ステップＳ９０）。荷物が特定領域に存在する（到達した）と判定しない場合（ステップＳ８０；Ｎｏ）、ステップＳ６０に戻り、プロセッサ３４は、荷物の追跡を続行する。
【００３８】
また、ステップＳ７０で、荷物が作業者により拾い上げられたと判定した場合（ステップＳ７０；Ｙｅｓ）、プロセッサ３４は、荷物の詳細情報をメモリ３６から読み出し（ステップＳ１００）、詳細情報を含む投影画像を生成し、出力部３８が生成した投影画像をプロジェクタ４０に出力する（ステップＳ９０）。投影指示装置３０から投影画像を取得したプロジェクタ４０は、当該投影画像を対応する荷物に投影する。
【００３９】
以上は、投影指示装置３０のプロセッサ３４等が行う動作手順の概略というべきものである。もちろん、動作手順は上述したものには限定されない。例えば、ステップＳ７０の判定等は省略することも可能である。また、ステップＳ７０の判定の実施には、作業者の手と荷物との接触判定や、色画像、距離画像等を利用することも可能である。以下、さらに各処理の詳細な手順について説明する。
【００４０】
［荷物の認識に用いる認識対象色の生成］
距離画像を取得した荷物の色画像を用いて荷物の認識・追従を行う場合において、複数の荷物それぞれの色が違っていても、荷物に投影する投影色によっては、画像投影面の色が同じになってしまうことがある。この場合、それらの荷物を認識することが困難になり、荷物の追跡精度が劣化してしまう。例えば、立方体状で上面（天面）の色が「赤色」の荷物Ｐａに対して「青色」の投影画像を投影した場合、荷物Ｐａの画像投影面の色が「紫色」になり、同様のことを荷物Ｐａと同様の形状で上面（天面）の色が「青色」の荷物Ｐｂに対して「赤色」の投影画像を投影した場合、荷物Ｐａの場合と同様に、荷物Ｐｂの画像投影面の色が「紫色」になる。すなわち、投影後の色が、荷物Ｐａと荷物Ｐｂ共に「紫色」になる。このようになると、荷物Ｐａと荷物Ｐｂの認識が困難となり、追跡ができなくなる可能性が生じ得る。
【００４１】
そこで、本開示では、図５のステップＳ６０において、色画像における、投影画像が投影された荷物の画像投影面の色から投影画像の色を差し引き、差し引いて得られた色を認識対象の色とすることで、荷物の認識を確実に行えるようにして、荷物の追跡を可能なものにする。
【００４２】
すなわち、プロセッサ３４は、センシング情報に含まれる荷物の色画像における、投影画像が投影された荷物の画像投影面の色から投影画像の色を差し引く。次いで、差し引いて得られた色を認識対象の色とする。例えば、上述したように、立方体状で上面の色が「赤色」の荷物Ｐａに対して「青色」の投影画像を投影した場合、荷物Ｐａの画像投影面の色が「紫色」になるが、投影後の色である「紫色」から投影色である「青色」を差し引くことで「赤色」が得られ、この「赤色」が新たな認識対象の色となる。また、荷物Ｐａと同様の形状で上面の色が「青色」の荷物Ｐｂに対して「赤色」の投影画像を投影した場合、荷物Ｐｂの画像投影面の色が「紫色」になるが、投影後の色である「紫色」から投影色である「赤色」を差し引くことで「青色」が得られ、この「青色」が新たな認識対象の色となる。このように、荷物Ｐａの認識対象の色は「赤色」となり、荷物Ｐｂの認識対象の色は「青色」となるので、荷物Ｐａ，Ｐｂを確実に認識することができる。
【００４３】
なお、プロセッサ３４が画像投影面の色から投影色を差し引くためには、色画像における荷物Ｐａ，Ｐｂの画像投影面の位置と、各荷物に投影される投影画像との対応関係を知る必要がある。ここで、各荷物の画像投影面の位置は、例えば、前の時刻において追跡している荷物の位置から現時刻における各荷物の画像投影面の位置を推測することで知ることができる。上述の通り、投影画像が投影開始後の状態では、投影画像の色と荷物の色が混ざるため、追跡ミスが発生しやすくなるが、少なくとも各荷物が正しく認識され、投影画像が投影される前の時点であれば画像投影面の正しい位置は認識できる。そこで、その時点で各荷物の位置を認識し、以降のタイミングにおいては投影画像の色を差し引いて追跡することにより、画像投影面の位置を正しく追跡し続けることができる。また、各荷物に対して投影する投影画像は投影指示装置３０にて生成するため、荷物と投影画像との対応関係は投影指示装置３０から取得することができる。なお、本開示は、色画像から投影画像の色を差し引く構造であるため、プロセッサ３４は、少なくとも投影画像の色の情報を投影指示装置３０から取得すればよい。ただし、投影画像が模様や文字など複雑な内容を含んでいる場合は、投影画像そのものの情報を取得して差し引く方が追跡の精度が向上する場合もある。
【００４４】
荷物の色は様々であり、また投影画像の色も様々であるため、荷物の色と投影画像の色の組み合わせによっては、画像投影面の色が同じになる荷物が複数存在することがあり得るが、荷物の画像投影面の色から投影画像の色を差し引く処理を行うことで、各荷物を確実に認識することができる。
【００４５】
図６は、上述の処理に対応したフローの一例である。ここで示すフローは、図５における概要手順のフローチャートの中で、ステップＳ６０における処理のサブ処理（サブルーチン）である荷物認識処理を示す。すなわち、プロセッサ３４は、まず色画像センサ２４から荷物を含む色画像を取得する（ステップＳ３０１）。次いで、プロセッサ３４は、荷物に投影画像が投影されている状況下で、色画像における、投影画像が投影された荷物の画像投影面の色から投影画像の色を差し引く（ステップＳ３０２）。例えば、上述したように、「赤色」の荷物Ｐａに対して「青色」の投影画像が投影された場合には、画像投影面の「紫色」から「青色」を差し引き、「青色」の荷物Ｐｂに対して「赤色」の投影画像が投影された場合には、画像投影面の「紫色」から「赤色」を差し引く。
【００４６】
プロセッサ３４は、荷物における画像投影面の色から投影画像の色を差し引いた後、差し引いて得られた色を認識対象の色として、荷物を認識する（ステップＳ３０３）。例えば、上述したように、荷物Ｐａにおいては「赤色」を認識対象の色として認識し、荷物Ｐｂにおいては「青色」を認識対象の色として認識する。
【００４７】
プロセッサ３４は、上記サブ処理を行って荷物を認識した後、該荷物を追跡する処理を行う。
【００４８】
上述したように、本開示によれば、荷物の色の違いと投影画像の色の違いによって画像投影面の色が同じになってしまう少なくとも２つの荷物があった場合でも、それらの荷物を確実に認識することができ、ひいては荷物を精度よく追跡することが可能となる。
【００４９】
なお、投影画像が投影された荷物の画像投影面の色は、色画像センサ２４で捉えたときに、周辺の環境光（明るさ等）により左右される場合がある。この場合、環境光に応じて、投影色のＲＧＢに係数を掛けて、それを投影画像が投影された荷物の画像投影面の色から差し引くようにしてもよい。
【００５０】
また、投影画像が投影された荷物の画像投影面の色は、色画像センサ２４で捉えたときに、荷物の光の反射率により左右される場合がある。極端な例として、荷物の画像投影面が鏡面である場合、投影色がそのまま色画像センサ２４に捉えられる形になる。この反射率は荷物の画像投影面の素材によって変わってくるものであり、例えば物流拠点などでは、段ボール素材のものが多いので、それに合わせた係数を投影色のＲＧＢに掛けて、投影画像が投影された荷物の画像投影面の色から差し引くようにしてもよい。
【００５１】
以上、図面を参照して本開示に係る荷物認識装置、荷物仕分けシステムおよび荷物認識方法の実施形態について説明したが、本開示はかかる例に限定されない。当業者であれば、請求の範囲に記載された範疇内において、各種の変更例、修正例、置換例、付加例、削除例、均等例に想到し得ることは明らかであり、それらについても当然に本開示の技術的範囲に属するものと了解される。
【００５２】
本開示では、各荷物の画像投影面の位置は、前時刻における追跡結果から推測するものとしたが、この構成では、一度追跡ミスが発生すると、それ以降、追跡ミスが発生し続けてしまうおそれがある。そこで、例えば、荷物認識装置からの指示により、一時的に投影を停止することによって正しい荷物の位置を再認識する構成にしても良い。この場合、投影を定期的に停止しても構わないし、追跡できている荷物の数が所定の閾値を下回るなど追跡ミスが発生している可能性が高いと判断される場合に停止するなどとしてもよい。なお、投影が停止されている間は作業者に対して荷物の仕分け方向を指示することができなくなるが、荷物の位置の再認識に要する時間は数フレームで十分であるため、仕分け作業に大きな影響が出る可能性は低い。
【００５３】
また、色画像に基づく追跡のみではなく距離画像に基づく追跡を併用してもよい。投影画像と荷物の色とが混ざることによる追跡ミスは色画像に基づく追跡を行うことで発生するため、投影画像の色と荷物の色との関係は距離画像に基づく追跡には影響しない。なお、距離画像単独による追跡は、色画像による追跡よりも精度が落ちるが、色画像による追跡を補完する用途であれば十分に実用的である。例えば、投影画像の色と荷物の色とが混ざることによって複数の荷物が同じ色として認識されるおそれがあっても、荷物の３次元形状が異なっていれば距離画像によって、それぞれの荷物を区別することができる。なお、一度荷物を認識できれば、以降は、本開示の手法により、投影画像の色を色画像から差し引くことによってそれぞれの荷物を追跡することができるので、それ以降のタイミングで距離画像による追跡ミスが発生してもシステム全体の精度への影響は少ない。
【産業上の利用可能性】
【００５４】
本開示は、荷物の色の違いと投影画像の色の違いによって画像投影面の色が同じになってしまう少なくとも２つの荷物があった場合でも、それらの荷物を確実に認識することができる荷物認識装置、荷物仕分けシステムおよび荷物認識方法の提供に有用である。
【符号の説明】
【００５５】
１０    ラベルリーダ
２０    画像センサ
２２    距離画像センサ
２４    色画像センサ
３０    投影指示装置
３２    入力部
３４    プロセッサ
３６    メモリ
３８    出力部
４０    プロジェクタ
５０    搬送コンベヤ
６０    撮像投影装置
１００  荷物仕分けシステム
Ｐ      荷物
【図１】
2019064804.tif 000003
【図２】
2019064804.tif 000004
【図３Ａ】
2019064804.tif 000005
【図３Ｂ】
2019064804.tif 000006
【図４】
2019064804.tif 000007
【図５】
2019064804.tif 000008
【図６】
2019064804.tif 000009
【国際調査報告】
2019064804.tif 000010
2019064804.tif 000011
2019064804.tif 000012
2019064804.tif 000013