(57)【要約】  積み荷の少なくとも１つの固定点を把持する把持手段を有する積み荷操作装置を用いる積み荷の操作方法において、同方法では、把持手段にて距離マップを割り出し、距離マップの領域内では、把持手段が取り付けられ、および／または上に別の積み荷が積み重ねられる積み荷の領域の一部および積み荷の周辺部が描かれる。【選択図】図６
2015533747.tif 000002
【特許請求の範囲】
【請求項１】
積み荷の少なくとも１つの固定点を把持する把持手段を有する積み荷操作装置を用いる積み荷の操作方法において、該方法では、
前記把持手段にて距離マップを割り出し、該距離マップの領域内では、該把持手段が取り付けられ、および／または上に別の積み荷が積み重ねられる前記積み荷の領域の一部および前記積み荷の周辺部が描かれることを特徴とする積み荷の操作方法。
【請求項２】
請求項１に記載の方法において、該方法は、
前記積み荷を前記把持手段に固定してから、前記距離マップにおいて操作する積み荷の第１の領域を特定し、
前記積み荷を前記把持手段から取り外した後に、前記距離マップにおいて操作する積み荷の第２の領域を特定し、
第１の領域と第２の領域の差を特定し、さらに、
該差に基づいて前記把持手段を制御することを特徴とする方法。
【請求項３】
前記請求項のいずれかに記載の方法において、該方法は、
前記積み荷を前記把持手段に固定してから、前記距離マップにおいて操作する積み荷の第１の領域を特定し、
前記距離マップにおいて第２の積み荷領域を特定し、
前記距離マップにて前記積み荷領域間の差を特定し、
該積み荷領域間の差に基づいて把持手段を制御することを特徴とする方法。
【請求項４】
前記請求項のいずれかに記載の方法において、該方法は前記把持手段の座標系において距離マップを割り出し、さらに、
距離マップを、前記把持手段の座標系のものとは異なる軸を有する新たな座標系に関する距離情報に変換し、前記把持手段を前記新たな座標系で制御することを特徴とする方法。
【請求項５】
前記請求項のいずれかに記載の方法において、該方法では前記把持手段を制御し、該制御には、垂直面内で前記距離マップの距離に対して、または前記距離マップの距離方向のうち奥行き方向に、またはこれらの組合せによって前記把持手段を移動させることが含まれることを特徴とする方法。
【請求項６】
前記請求項のいずれかに記載の方法において、該方法は、
積み荷のそれぞれの領域を表す複数の距離マップを割り出して、該距離マップ内に固定点または積上げ点を位置付け、
一連の距離マップを作成し、該距離マップのうち操作する積み荷を含む部分を相互におよびその周辺部から切り離すことを特徴とする方法。
【請求項７】
前記請求項のいずれかに記載の方法において、該方法は、複数の距離マップを割り出し、
前記積み荷によって特定された前記距離マップの領域の形状に基づいて前記把持手段を制御することを特徴とする方法。
【請求項８】
前記請求項のいずれかに記載の方法において、該方法は、複数の距離マップを割り出し、
該距離マップの対称性に基づいて前記把持手段を制御することを特徴とする方法。
【請求項９】
前記請求項のいずれかに記載の方法において、該方法は積み荷の操作を含み、該操作には前記積み荷の掴上げおよび／または該積み荷の別の積み荷の上への積上げが含まれることを特徴とする方法。
【請求項１０】
前記請求項のいずれかに記載の方法において、該方法は、前記把持手段を積み荷固定点に対して制御し、および／または前記積み荷を別の積み荷の上に積み上げることを特徴とする方法。
【請求項１１】
前記請求項のいずれかに記載の方法において、該方法では前記積み荷を制御する方向の平面上に前記距離マップを割り出し、該距離マップは前記平面に対し垂直な方向の距離を含むことを特徴とする方法。
【請求項１２】
前記請求項のいずれかに記載の方法において、該方法に含まれる前記距離マップは画像領域を有し、該画像領域は、距離情報、光強度情報および色情報のうち１つ以上の情報を含む像点を包含することを特徴とする方法。
【請求項１３】
前記請求項のいずれかに記載の方法において、該方法では、前記積み荷が前記把持装置に固定され、前記距離マップは前記固定された積み荷の一部を含む画像領域を有することを特徴とする方法。
【請求項１４】
前記請求項のいずれかに記載の方法において、該方法は、前記積み荷を前記把持手段に固定し、該積み荷を持ち上げている間に前記距離マップのうち前記積み荷に隠れる部分を特定して他の積み荷と区別し、例えばコンピュータの記憶装置に記憶することを特徴とする方法。
【請求項１５】
前記請求項のいずれかに記載の方法において、該方法は、前記積み荷を前記把持手段に固定し、他の積み荷の監視時に、前記距離マップ内において前記積み荷に覆われている記憶部分を無視することを特徴とする方法。
【請求項１６】
前記請求項のいずれかに記載の方法において、該方法では、前記把持手段はスプレッダを有し、該スプレッダはコンテナの角成型部に取り付けられる１または複数のツイストロック等を含むことを特徴とする方法。
【請求項１７】
前記請求項のいずれかに記載の方法において、該方法では、前記積み荷にはコンテナが含まれ、前記距離マップは、コンテナの山に置かれたコンテナまたは運搬されるコンテナまたはこれら両方の前記把持手段に対する位置を特定することを特徴とする方法。
【請求項１８】
前記請求項のいずれかに記載の方法において、該方法では、前記把持手段はスプレッダを有し、該スプレッダには、１つの外周角部または例えば長手方向もしくは対角線上に２つが対向する複数の外周角部またはすべての外周角部に距離マップを測定するセンサが設けられていることを特徴とする方法。
【請求項１９】
前記請求項のいずれかに記載の方法において、該方法では、前記距離マップを積み荷操作装置の操作者に表示して、操作者による積み荷の掴上げおよび／または積上げを補助することを特徴とする方法。
【請求項２０】
前記請求項のいずれかに記載の方法において、該方法では、画像処理によって前記距離マップを修正し、操作者による積み荷の掴上げおよび／または積上げをさらに補助することを特徴とする方法。
【請求項２１】
前記請求項のいずれかに記載の方法において、該方法では、前記距離マップがコンピュータに入力され、該コンピュータを用いて前記積み荷の掴上げおよび／または積上げを自動的に制御することを特徴とする方法。
【請求項２２】
前記請求項のいずれかに記載の方法において、該方法では、前記操作する積み荷の少なくとも２つの領域を非同時的に位置決めし、前記領域の位置を記憶して、前記積み荷の位置およびスキューを割り出すことを特徴とする方法。
【請求項２３】
前記請求項のいずれかに記載の方法において、該方法では、前記距離マップを、運搬するコンテナの角部を含む視界内で特定し、該角部は前記把持手段の固定点を有することを特徴とする方法。
【請求項２４】
前記請求項のいずれかに記載の方法において、該方法では、前記積み荷操作装置は、ガントリークレーンまたはストラドルキャリアのようなコンテナホイスト等のクレーンを含むことを特徴とする方法。
【請求項２５】
前記請求項のいずれかに記載の方法において、該方法では3Dカメラが使用され、該3Dカメラは例えば、飛行時間カメラのように光の伝播時間を計測して前記距離マップを割り出すカメラ等であることを特徴とする方法。
【請求項２６】
請求項１ないし25のいずれかに記載の方法を実行する手段を有する機構。
【請求項２７】
例えば積み荷操作装置等の装置にダウンロードされると、該装置に請求項１ないし25のいずれかに記載の方法を実行させるプログラム命令を含むコンピュータプログラム製品。
【請求項２８】
積み荷操作装置を更新する方法において、該方法では、請求項26に記載の機構または請求項27に記載のコンピュータプログラム製品を前記積み荷操作装置に組み込むことを特徴とする方法。
【発明の詳細な説明】
【発明の背景】
【０００１】
本発明は、把持装置による積み荷の操作に関するものであり、特に、積み荷の１以上の固定点に取り付ける把持手段による積み荷の操作に関する。
【０００２】
現今、国際海上輸送貨物の大部分がコンテナに収容されて輸送される。このようなコンテナは、20、40または45フィートのいずれかの長さを有する標準サイズの箱型輸送ユニットである。コンテナの幅は約2.5mで、最も一般的なコンテナの高さは、約2.6mや約2.9mである。
【０００３】
コンテナには規格化された角成型部を備え、成型部を利用して、さまざまな種類のコンテナホイストによってコンテナを吊り上げて運搬できる。コンテナホイストは一般に、巻上ロープまたは巻上チェーンに懸架されるスプレッダを備える。スプレッダは伸縮機構によって、持ち上げるコンテナの長さに応じて、例えば20フィートないし40フィートの長さに調整される。スプレッダの角部には、コンテナの把持を可能にする特設の回転式ツイストロックが設けられている。コンテナの角成型部には標準的な形状の穴が設けられ、この穴にスプレッダのツイストロックが嵌め込まれる。コンテナホイストがスプレッダをコンテナの頂部まで下降させて、スプレッダの４個のツイストロックがすべて角成型部の穴に収まったら、続いてツイストロックを90度回転させて、ツイストロックを角成型部内に緊締させる。これにより、コンテナをスプレッダから吊るしつつ空中に持ち上げることができる。
【０００４】
コンテナを１個ずつ積み重ねてもよく、一般的には、例えば５個のコンテナを積み重ねる。これによって、コンテナ港などの狭い土地面積内に多数のコンテナを保管できる。コンテナの積み重ねは慎重に行われなければならず、積み上げるべきコンテナの底部に設けられた角成型部を、少なくとも約５cmの精度で下になるコンテナの天井に設けられた角成型部に整合させるようにする。さもなければ、積み重ねられたコンテナが崩れてしまうおそれがある。
【０００５】
コンテナを持ち上げて積み重ねる用途に使用される一般的なコンテナホイストは、ガントリークレーンと呼ばれる。図１に示すガントリークレーンは、レール上を移動してもよく(レール式ガントリークレーン、RMG)、またはゴムタイヤで移動してもよい(タイヤ式ガントリークレーン、RTG)。ガントリークレーンを使用する場合、保管するコンテナ(1)はガントリークレーン(14)の脚部間に列(a、b、c、d、e)を成して配置され、通常は６〜８列のコンテナ列がガントリークレーンの脚部間に並べられる。各列には通常、例えば５個のコンテナが積み重ねられる。コンテナの操作を容易にするため、一般的には30〜50cmの間隙がコンテナ間およびコンテナ列間に設けられる。一般的には、ガントリークレーンの脚部間に連絡路(f)を確保して、コンテナがガントリークレーンの下を通って各列(a、b、c、d、e)に積み上げられるようにする。
【０００６】
ガントリークレーンでは、巻上ロープ(16)を用いてスプレッダ(2)を専用のトロリ(15)に懸架し、トロリをコンテナホイストの横方向に移動させてさまざまな位置に配することにより、個々の列のコンテナを取り扱うことができる。コンテナ列の長さは最長で数百メートルに及んでもよく、つまりは、20フィートまたは40フィート長のコンテナを数十個連続して並べることができる。シップトゥショアクレーンは、特にコンテナを船に運び入れたり、船から運び上げたりするように設計されている。このような場合、クレーンのトロリをカンチレバー構造状の橋に沿って動かし、取り扱う船上に置くこともできる。
【０００７】
別の典型的なコンテナホイストはストラドルキャリアと呼ばれるもので、ゴムタイヤによって移動するものであり、ガントリークレーンよりもかなり幅が狭い。ストラドル式のコンテナでは脚部間に置かれるコンテナ列は１列のみであり、コンテナ列には通常３〜４個のコンテナが積み重ねられる。また、コンテナ列の間には1.5mにも及ぶかなり大きな間隙が設けられ、ストラドルキャリアのタイヤがコンテナの列間を動き回るのに十分な空間を提供している。
【０００８】
また、コンテナホイストのスプレッダ(2)は、専用の精巧な移送機構を備える場合が多く、この場合、例えばスプレッダの懸架用のステイロープ(17)を使用して、またはさまざまな油圧シリンダを使用して、トロリ(15)またはコンテナホイスト(14)全体を運転または移動させることなく、スプレッダの水平位置およびスキューを調整することができる。この特性により、各コンテナを容易かつ迅速に掴み上げて積み重ねることを目指す。
【０００９】
スプレッダの精巧な移送機構を例えばステイロープ(17)を用いて実現する場合、ロープの本数は一般的に４本である。すなわち、コンテナの各角に１本ずつ配する(図７)。この場合、例えば電気モータで所望の力またはそれぞれに異なる力をステイロープに発生させ、スプレッダ(2)を所望の方向に水平 (x、y)に移動させたり、あるいはスプレッダを所望の方向に傾けたりする。ストラドルキャリアの精巧な移送機構は通常、種々の油圧シリンダを用いて実現される。
【００１０】
上述のコンテナホイスト等のコンテナ操作装置を使用してコンテナを操作する場合、操作者には様々な作業段階において高度な正確性が求められる。こういった作業段階の例としては、コンテナの把持や、コンテナを別のコンテナの上に積載する作業がある。
【００１１】
コンテナを持ち上げるために、精巧な移送機構を使用するか、またはトロリもしくはコンテナホイスト全体を移動させることによって、スプレッダを水平方向に制御して持ち上げるべきコンテナの上に正確に配置する。これによって、スプレッダがコンテナの上に下降したときに、スプレッダの４個のツイストロックすべてがコンテナの角成型部の穴に正確に収まるようにする。作業段階は、コンテナ操作装置の操作者にとって労力を要するものである。場合によっては、スプレッダに搭載された機械式の案内装置を用いることにより掴上げ工程を容易にできる。しかしながら、案内装置を用いることによって、コンテナ間の狭い隙間内での作業はより困難になる。
【００１２】
コンテナを別のコンテナの上に積み重ねるために、精巧な移送機構を使用して、またはトロリもしくはコンテナホイスト全体を移動させて、スプレッダおよびそこから懸架されるコンテナを正確に制御してコンテナを下側のコンテナの上に配置し、上側のコンテナを下側のコンテナまで完全に降下させたときに、上側コンテナの底部に設けられた角成型部が下側コンテナの角成型部と可能な限り正確に整合するようにしなければならない。目標とされる積重ね精度は、一般的には約３cmである。例えば上述したような単純な機械式案内装置を用いる場合、下側コンテナの上にコンテナを位置合わせすることは現在でも容易ではないため、この作業段階でコンテナ操作装置の操作者にはコンテナの持上げ時を超える時間や正確さが要求されることは当業者の理解の及ぶところであろう。
【００１３】
コンテナホイストの操作はどんどん自動化され、コンテナホイストの操作者の仕事は、例えばコンピュータ制御によりさらに速く、容易になっている。自動化がさらに進めば、コンテナ操作装置を操縦する操作者すらも不要になるかもしれない。その場合、コンテナ操作装置は遠隔制御および／またはコンピュータ制御による完全自立式による稼働となる。また、各作業段階を柔軟性のある方法で実行することも多々あり、自動作業段階に不具合が発生した場合には、遠隔制御を行う操作者が遠隔操作によって例外的に作業段階を実行することができる。このような場合には例えば、作業に適用される技術に、操作者を補助する機能とコンピュータで制御する自動機能の両機能を自由に採り入れることができる点で有利となるであろう。
【００１４】
コンテナの把持時に操作者を補助する従来公知の方式では、スプレッダに下向きに設置されている電荷結合素子すなわちCCDカメラを利用し、ビデオ映像を送信して、操作者がスプレッダをコンテナの上部に位置合わせできるようにする。しかしながら、カメラの映像機能によってコンテナの位置の監視を可能にする画像処理アルゴリズムは気象条件や照明条件によっては信頼性が低いため、本方法を操作の自動化に用いるには適していない。コンテナの積上げ中に、カメラセンサは下側コンテナからかなり(３ｍ)離れたところに位置するうえに、上側コンテナは操作者の視界の大部分を、または視界を完全に遮ってしまうため、本方法はコンテナの積上げにも適さない。さらに、上側コンテナが下側コンテナの上に影を投影するため、コンテナ間の隙間は非常に暗くなる。このような場合、下側コンテナをビデオ画像で識別することは非常に困難である。
【発明の簡単な説明】
【００１５】
ゆえに本発明は、上述の問題を解決する方法およびその方法を実行する装置を提供することを目的とする。本発明の目的は、本願独立請求項に記載の事項を特徴とする方法、機構およびコンピュータプログラム製品によって実現される。本発明の好適な実施例は、従属請求項に開示されている。
【００１６】
一態様によると、積み荷の少なくとも１つの固定点を把持する把持手段を有する積み荷操作装置を用いる積み荷の操作方法が提供され、この方法では、把持手段にて距離マップを割り出し、距離マップの領域内では、把持手段が取り付けられ、および／または上に別の積み荷が積み重ねられる積み荷の領域の一部および積み荷の周辺部が描かれる。
【００１７】
別の態様によると、任意の態様による方法を実行する手段を有する機構を提供する。
【００１８】
別の態様によると、積み荷操作装置等の装置にダウンロードされると、装置に任意の態様による方法を実行させるプログラム命令を含むコンピュータプログラム製品を提供する。
【００１９】
別の態様によると、積み荷操作装置を更新する方法を提供する。本方法では、一態様による機構または一態様によるコンピュータプログラム製品が積み荷操作装置に搭載される。本発明は、取付けが行われる、または上部に別の積み荷が積み重ねられる操作すべき積み荷の一部の距離マップを作成するという発想に基づく。距離マップは、距離値を有する複数のマップ点を特定する。好適には、距離には積み荷の一移動方向、例えば垂直方向における距離が含まれ、例えば、垂直方向および／または垂直方向に直角の方向等の他の移動方向に、距離マップに基づいて積み荷の移動方向を制御する。さらに、距離マップで運搬する積み荷の領域を特定し、運搬すべき積み荷の外側にある距離マップの領域を監視することによって運搬すべきコンテナを移動させることもできる。
【００２０】
本発明による方法および機構の利点は、操作すべき積み荷に関連のある要素を的確に監視できることである。加えて、人間またはコンピュータによって監視を容易かつ自在に行うことができる。監視すべき領域を操作すべき積み荷の部分のみに限定すれば、監視情報の処理を簡素に保つことができ、その場合に監視エラー量を少なく保つことができる。さらなる利点および／または便益については、以下に述べるさまざまな実施例のより詳細な説明にて開示する。
【図面の簡単な説明】
【００２１】
ここで、本発明について、好適な実施例との関連で添付の図面を参照しながらより詳細に述べる。
【図１】コンテナを下になるコンテナの上部に積み上げるガントリークレーンを示す図である。
【図２】3Dカメラのイメージセンサを示す図である。
【図３】本発明に係る機構を示す図である。
【図４】本発明に係る機構および積み荷の掴上げ時における機構の動作を示す図である。
【図５】本発明に係る機構および積み荷を把持部に取り付けた後の機構の動作を示す図である。
【図６】本発明に係る機構および積み荷の積上げ時における機構の動作を示す図である。
【図７】距離マップの領域に基づいてスプレッダ(2)を自動制御する方法を示す図である。
【図８】一実施例による積み荷の積上げ方法を示す図である。
【図９】一実施例による、クレーンの座標系およびスプレッダの座標系で割り出した距離マップに基づいて積み荷を制御する際における積み荷の操作方法を示す。
【図１０】本願の実施例による機構を実現する装置を示す。
【発明の詳細な説明】
【００２２】
実施例は、距離マップの割出しに基づくものである。距離マップは、二次元(2D)平面における複数の位置点、および位置点に関連付けられる距離情報を含む。2D平面は、例えば、積み荷把持手段で用いられる座標系に基づいて決定されてもよい。座標系は、例えばｘ軸およびｙ軸を有するデカルト座標系でよく、デカルト座標系によって2D平面はｘ軸およびｙ軸によって特定される平面として規定される。このような場合、座標軸(x、y)の値を用いて位置点を2D平面上に特定してもよい。
【００２３】
好適には、距離情報は、2D平面に対し実質的に垂直な方向における距離に関する情報を含む。2D平面をデカルト座標系のｘ軸およびｙ軸によって特定する場合、距離情報は同じ座標系のｚ軸の値を含んでいてもよい。
【００２４】
本願の実施例では、積み荷を取り付ける把持手段を使用して積み荷を操作する。このような把持手段の例には、スプレッダおよび／またはフックが含まれる。積み荷の操作には積み荷の掴上げが含まれ、この場合に把持手段は積み荷に取り付けるおよび／または積み荷を積み上げる用に供する。積上げの際、把持手段によって運搬される積み荷は別の積み荷の上に置かれる。
【００２５】
本願の実施例は、コンテナなどの積み荷を動かすための、例えば積み荷を掴み上げるときおよび／または積み荷を積み上げるときの使用に適している。なお、本願の実施例を１以上の固定点を有する他の積み荷の操作に適用して積み荷を操作することもできる点に注目すべきである。固定点は、積み荷に固定して設けられていてもよく、または厚い木板の荷を固定用の紐で結び付けるために使用されるような固定紐によって構成されてもよい。
【００２６】
本発明の一実施例は、飛行時間方式すなわちToFカメラを使用することに基づく。ToFカメラとは、例えば三次元(3D)カメラである。3Dカメラは、二次元(2D)画像および2D画像の像点に関連付けられる距離情報を生成する。2D画像の像点は画素として測定され、各画素は光の輝度値(I)のみならず、場合により色情報(RGB)にも関連付けられている。ToFカメラなどの3Dカメラは、カメラのイメージセンサから画像画素に現れる対象までの測定距離(D)を2D画像の像点に添付する。本発明の理解を容易にするために、以下に、ToF式カメラの動作原理について十分詳細に述べる。
【００２７】
従来型の電荷結合素子すなわちCCDカメラは、半導体技術を用いて製造され図２に示す標準的なラスタ(7)内に配列された受光フォトダイオードを含む受光セルを有する。このラスタは、最新の６メガピクセルのカメラを例にとると、最大で例えば2816行かつ2112列にも及び得る。このような受光フォトダイオードを画素(13)と呼ぶ。このようなフォトダイオードに対して一般的にはレンズを通して光が当たると、フォトダイオードは受光した光の放射強度(I)を測定する。したがって、従来のCCDカメラでは、ラスタ(7)の画素(13)ごとの光の強度が測定される。
【００２８】
一般に、単一の受光ダイオードで色を認識することはできないが、受光ダイオードに様々な色のカラーフィルタを被せることで、CCDカメラに画像の色を測定させることも可能である。カラーフィルタは通常、赤、緑および青(R、G、B)色である。簡単に言うと、従来のCCDカメラは画像ラスタの画素(13)ごとに数値(I、R、G、B)を測定する。しかしながら、多くの場合、色情報は不要な情報として数値から省かれる。
【００２９】
今日、CCDセルを相補型金属酸化膜半導体、すなわちCMOSのセルに置き換える動きがますます高まっている。どちらのセルも基本動作は同様であるが、とりわけA/D（アナログ−デジタル）変換における光強度の測定をCMOSセルではセル回路自体が行うのに対し、CCDセルではセル回路の外部で行われる。
【００３０】
飛行時間(ToF)式カメラは従来のCCD（およびCMOS）カメラとは異なっていて、従来型のカメラでは周囲から入射する光を測定するが、ToFカメラでは測定する光を独自に生成し、測定を行うためにカメラ自体の光源によって対象物を照らす。これに加え、ToFカメラでは、カメラが生成した光が画像上で視認できる対象物まで進んで、対象物に反射されてカメラのイメージセンサに戻ってくるまでの時間を計測する。ToFカメラでは、この伝搬時間の計測をイメージセンサ(7)(n、m)の画素(13)ごとに別々に行う。したがって、従来の画像の他に、すなわち強度マップI(n、m)および、あるならばカラーマップ(R(n、m)、G(n、m)、B(n、m))の他に、ToFカメラでは画像領域(7)の距離マップ(D(n、m))も生成する。
【００３１】
本願の実施例では、伝搬時間の計測を例えば、ToFカメラにおいて、対象物に放つ光を無線周波数(RF)の搬送波で変調し、対象物から戻る反射光の位相を元のRF搬送波の位相と比較することにより、放射光と反射光間の位相偏移を測定できるようにして実現してもよい。位相偏移は画像の画素ごとに個々に測定してもよい。位相偏移に基づいて、光がカメラから対象物に進みそして戻るまでの伝搬時間を画像画素ごとに別々に求めることも可能である。最後に、対象物から各画像画素までの距離(D)を既知の光伝播速度を利用して計算する。ToFカメラは、上述の距離測定を最高で毎秒100回実行することもできる。現今では、ToFカメラは通常、約６ｍまでの距離を測定できる。なお、一群の像点に対して上述の方法で距離の測定を行うことも可能であり、例えば、画素群における位相偏移を平均化するか、または画素群で形成される領域に相当する結合された画素の一群から画素を１つ選択する。
【００３２】
距離情報Ｄの他に、ToFカメラは通常、標準的な白黒またはカラーのカメラ画像の測定も行う。簡単に言うと、ToFカメラは以下の数値(I、R、G、B、D)を画像ラスタ(7)の画素(13)ごとに測定する。値Ｄは、カメラのイメージセンサから画像画素(13)で視認できる対象物までの三次元距離である。しかしながら、色情報は不要な情報として省かれることが多い。
【００３３】
ToFカメラの現在の解像度はまだ相対的に中程度で、一般的には例えば320×240画素であるものの、この解像度でもすでにいくつかの技術的な利用が可能である。典型的なレンズ方式では、１画素の寸法は測定対象物における約１mm〜１cmの寸法に相当する。上述のToFカメラは、可動性の機械部品を全く含んでいないため、移動型作業装置での使用に特に適し、ゆえに、例えばスプレッダ(2)に向かう衝撃に対する耐久性が非常に高い。
【００３４】
当業者であれば理解の及ぶことであるが、ToF式以外の技法を用いる3Dカメラによって本発明に係る方法および装置を実施してもよい。このようなカメラでは、例えば10Hz以上の高周波で、記録すべき対象物の画像画素に関して少なくとも距離情報(D)を生成し、実施例によっては、記録すべき対象物の画像画素に関して少なくとも輝度情報および距離情報(I、D)を生成する。
【００３５】
3Dカメラを実現するのに適した技法の例では、とりわけ、プレノプティックカメラおよびステレオペアカメラが含まれる。プレノプティックカメラでは、特有のマイクロレンズアレイがイメージセンサの前面に組み込まれる。プレノプティックカメラは、例えば、あとから所望の距離で画像を焦点に合わせることができる。同様に、ステレオペアカメラも輝度および距離に関する情報(I、D)を生成できると考え得る。しかしながら、ステレオ設備が必要となるため、ステレオペアカメラの物理的な寸法は本発明で使用するには大きく、また、ステレオマッチングアルゴリズムの実行能力に限界があるため、各画像画素の距離情報Ｄの判定は信頼できないというべきである。
【００３６】
図１は、コンテナ(1’)を下段になるコンテナ(1)の上に積み上げるガントリークレーン(14)を示す。一般的には、コンテナ(1’)はガントリークレーン(14)の脚部間に長い列を成して格納される。一般的には30〜50cmの間隙が、積み重なったコンテナの各列間に設けられている。ガントリークレーン(14)は、ガントリークレーンのトロリ(15)から巻上ロープ(16)に懸架されて吊り下がる特設のスプレッダ(2)を使用してコンテナを把持する。巻上ロープ(16)を短くしたり長くしたりすることにより、運搬すべきコンテナ(1’)を上げ下げする。運搬すべきコンテナ(1’)は、トロリ(15)もしくはガントリークレーン(14)を移動させるか、または例えばステイロープ(17)を使用して実現され得る専用の精巧な移送機構によって、水平方向に移動させてもよい。ステイロープ(17)は、スプレッダ(2)に横力を及ぼしてスプレッダ(2)を移動および／またはスキューさせる。
【００３７】
図２は、時間飛行(ToF)式カメラなどの3Dカメラ(3)のイメージセンサ(7)を示す。イメージセンサは、記録すべき対象物から来る光を受光する複数の画素(13)を有する。イメージセンサの画素は、画素に対応するカメラの画像領域を形成する。イメージセンサでは、画素が受光した入射光を電気信号に変換する。電気信号は、記録された対象物までの距離に関する情報、測定された光強度に関する情報、および色情報(R、G、Bなど)、またはこれらの情報を１以上組み合わせたものを含んでいてもよい。一般に、画素はセル(7)の整然とした列および行に配設される。3Dカメラは通常、個々の画素(13)に対して以下の数値、すなわち、各画素に対応するフォトダイオードで検出される光強度(I)と、場合によっては種々のカラーフィルタで測定される色成分の数値を測定する。3Dカメラはさらに、カメラが放射する光の伝搬時間に基づき、画像中に視認できる対象物の三次元の距離(D)を独立した画像画素(13)n、mごとに計測する。したがって3Dカメラは、従来の静止画像および／またはビデオ画像だけでなく、カメラのイメージセンサ(7)を使用して距離マップD(n、m)をも作成できる。
【００３８】
一実施例において、例えばToF方式のカメラなど、3Dカメラのイメージセンサは距離マップを作成するために使用される。イメージセンサの画素がそれぞれの位置距離情報単位で測定を行うことによって、イメージセンサの測定を行った画素(n、m)によって距離マップが作成される。例えば図７に示すコンピュータ(20)のメモリのような記憶装置に距離マップを保存してもよい。複数の距離マップを、複数の3Dカメラを使用して作成してもよい。距離マップは、静止画像またはビデオ画像として保存してもよい。
【００３９】
図３、図４、図５、図６および図７に示されるコンテナの位置はxy座標系で描かれる。ここで、座標系のｘ軸はスプレッダの幅方向に位置し、ｙ軸はスプレッダの長手方向に位置し、コンテナの位置をｘ軸の値とｙ軸の値として計測でき、また座標系の回転を利用して例えば角度として測定できる。さらに、位置にはｚ軸方向におけるコンテナの垂直位置が含まれていてもよく、これにより、回転をｚ軸を中心とした回転として測定できる。
【００４０】
図３は本発明による機構を示し、本機構では、3Dカメラ(3)がスプレッダ(2)の外周角部に取り付けられている。3Dカメラは、外周の１、２、３または４つの角部に取り付けられてもよい。3Dカメラの数が多いほど、コンテナをより正確に操作することができるとともに、容易に制御できる。
【００４１】
スプレッダ自体は角成型部を用いてコンテナに取り付けられる。このような場合、スプレッダ外周の角部に取り付けられた3Dカメラの視野は、網掛け部分(11)に示すように、運搬するコンテナ(1’)の側部およびそのコンテナの角部が含まれる。領域(9、10)はスプレッダから吊架するコンテナの下にあり、3Dカメラ(3)からは見えない。そのため、3Dカメラの画像領域には、運搬するコンテナの下にある、例えば別のコンテナの天井部などの物体の情報は含まれない。
【００４２】
一実施例では、3Dカメラはスプレッダの幅(x)および長手(y)の両方向の外周の少し外側に取り付けられる。適正な取付け位置は、例えば外周の５〜10cm外側である。好適には、3Dカメラの視野は下方向の、操作するコンテナの方を向くようにする。したがって、3Dカメラの取付け方向は、スプレッダに取り付けられるコンテナが受け渡される方向となる。
【００４３】
図３は、上述のようなカメラセンサ(3)をスプレッダ(2)に取り付ける例、およびコンテナ(1’)が別のコンテナ(1)の上に積まれる際にセンサから見た距離画像(7)を示す。センサ(3)はコンテナ(1')の外周角部の間近に取り付けられるため、センサの対象範囲にある画像領域(4)は運搬するコンテナ(1’)と部分的に一致する。このような例では、カメラセンサの画像領域の一部(10)に運搬するコンテナ(1')が含まれる。画像領域には、三角領域(11)内にあるコンテナ(1’)の一側部の像点が含まれる。カメラセンサは、三角領域内に収まる像点の像点距離値(D1)を測定し、距離値はゼロからコンテナの高さまでの間で変動する。同様に、運搬するコンテナ(1')の真下にある影の領域になっている画像領域(4)内の領域(9)は、センサ(3)からは全く見えない。広がっている画像領域(10)の度合いは、運搬するコンテナ(1')の高さに応じて変化し、さらに、運搬するコンテナをどのように置いてスプレッダのツイストロックで吊架するかに応じても多少変化する。さらにセンサ(3)は、領域(9)の外側である、下側にあるコンテナ(1)の上面(8)から、センサ(3)から下側コンテナ(1)までの距離を示す距離値(D2)を測定する。下側コンテナ(1)とは対応していないが、場合により地面またはより下に位置するコンテナに対応している画像領域(4、7)（領域８または10に含まれない画像領域７の領域）の内側に位置する外側の点から、センサ(3)は距離値(D2)よりも明らかに大きい距離値(D3)を測定する。上側および下側のコンテナの相互の位置に応じて、正方形の形状をとり得る領域(8)はＬ字部分を有し、または下側コンテナの角部が上側コンテナの下に完全に隠されるとＬ字部分が完全に見えなくなる。下側コンテナ(1)に隣接する別のコンテナが存在する場合、センサ(3)は、画像領域(4、7)の外縁からも距離D2に相当する距離の測定値を取得可能である。しかし、積み上げられるコンテナ間には約30〜50cmの隙間があるため、外側で取得した測定値は領域(8)から切り離され、誤った測定値として無視される可能性がある。
【００４４】
カメラの画像領域(4、7)内に含まれ得る下側コンテナ(1)は、その一部(8)が上側コンテナの下からカメラ画像で視認できる。影の領域(9)に残る画像領域(10)では、3Dカメラによって距離D1が測定され、カメラの画素は領域(11)において運搬するコンテナの側部を各画素の対象物として受け取る。したがって、このような場合、3Dカメラで測定した影の領域に残る領域(10)における距離D1は運搬するコンテナの高さに応じて限定され、測定される距離は運搬するコンテナの下端の範囲に収まる。よって、距離D1は、例えば直線距離にすると、コンテナ(1’)の高さｈよりも短いかまたは概ね同じ長さである。同様に、3Dカメラはコンテナ(1')の高さよりも長い画像領域(8)からの距離D2を測定する。これらの距離は、影の領域の外側(8)にある画像領域の一部分から測定される。影の領域の外側に残る領域は、コンテナおよび／または運搬するコンテナの下側に残る他の物体を含むことがある。
【００４５】
運搬するコンテナが浮遊している場合、影の領域および影の領域の外側にある領域の間にある境界は、例えば画像領域から測定した距離の変化に基づいて決定され得る。距離の変化は、隣り合う２つの画素の距離値が所定の閾値よりも大きな値となる変化として検出され得る。１つの画素に上述のコンテナ側部(11)から測定した距離情報が距離情報D(n、m)として含まれる場合、その隣の画素は3Dカメラの画像領域内の影の領域の外側の領域内にあり、コンテナの側部から測定した距離値よりも大きい閾値に近似した距離値を含んでいる。閾値は、所望の分解能に応じて設定され得る。
【００４６】
また、影の領域と影の領域の外側の領域の境界を決定する閾値をコンテナの高さに基づいて選択することも可能である。コンテナの高さは規格化されているため、コンテナの側部から測定された距離をコンテナの既知の高さと比較することによって影の領域の境界を決定することもできる。
【００４７】
さらに、境界の決定は、一般的に、閾値に対する隣接し合う画素に含まれる情報の変化により保証されてもよいという点に注目すべきである。画素に含まれる距離、強度および／または色彩情報等の情報を、例えば各情報に対して設定されている対応する閾値と比較してもよい。
【００４８】
さらに、影の領域とその外側に残る領域の間にある境界を、3Dカメラで画素ごとに測定した情報を処理することによって決定してもよい。隣り合う画素の距離情報、輝度情報および／または色彩情報を例えば微分して、導関数の値を導関数の閾値と比較してもよい。
【００４９】
3Dカメラの画像領域(7)は、影の領域(10)、影の領域の下にある3Dカメラの視界(4)に含まれない領域(9)および影の領域の外側にある領域(12、8)を含んでもよい。領域(12、8)は、例えばコンテナ、床または地面の表面など、影の領域を囲む物体の像点を含んでもよい。
【００５０】
図３を参照すると、画像領域(7)の白い領域は、影の領域の外側でありさらに3Dカメラの視界にあるコンテナ(1)の外側にある影の領域の外側でもある3Dカメラの視界(4)の一部に相当する。3Dカメラはこの領域から、距離D2よりも長く、そしてさらに影の領域を形成する運搬すべきコンテナ(1’)から測定された距離D1よりも長い距離D3を測定する。
【００５１】
図４、図５および図６では、積み荷はスプレッダ(2)によって操作されるコンテナ(1、1’)を含む。図４は、本発明による機構および積み荷を掴み上げるときの機構の動作を示す。図５は、本発明による機構および積み荷をスプレッダに取り付けた後の機構の動作を示す。図６は、本発明による機構および積み荷を積み重ねているときの機構の動作を示す。
【００５２】
図４、図５および図６では、スプレッダ(2)の外周角部に3Dカメラ(3)が設けられている。各カメラの視界(4)は、画像領域(4)に示される。3Dカメラの画像領域は、受像部(6)を構成する。受像部では、操作する積み荷を含む画像領域によって形成される距離マップの一部が、互いから、そしてそれぞれの周辺部から切り離されている。一連の画像は合成図を構成し、合成図では、操作する積み荷を含む距離マップの部分が中央に配され、操作する積み荷を表示する部分の外側に位置する距離マップの部分が合成図の端部側に配されている。
【００５３】
3Dカメラ(3)がコンテナ(1、1')の角部を捉えると、カメラの視界(4)に入る部分 (5、11)に関する限りにおいて、受像部が形成される。3Dカメラの視界に入るスプレッダに取り付けられていないコンテナの部分は、カメラの画像領域(7)に影の領域(8)として表示される。3Dカメラは、3Dカメラの視界内にある対象物(5、11)までの距離(D)を測定する。測定した距離は視界内の対象物(5、11)に対応する領域(8、10)として3Dカメラの画像領域(7)に表示される。
【００５４】
合成図のおかげで、コンテナ操作装置の操作者は、例えばコンテナの山によってできる暗い隙間の厳しい照明条件下においても、コンテナの角部の位置を明瞭に確認できる。操作者に対しては、例えば、画像フィールドの領域(画像画素)などを有するカメラの通常の輝度画像を提示してもよく、かかる領域では操作するコンテナは異なる色を用いて色付きで位置表示(8、10)される。画像フィールドの色付き部分はカメラの通常の輝度画像を彩色の下から視認できるように部分的に透明でもよく、または、画像フィールドの色付き部分(8、10)は完全に不透明でもよい。また、操作者にとって最も重要となる、例えば(8)などの領域の相対的な寸法および可検出性をコンピュータ(20)によって増大させてもよく、これによって操作者は、例えば上下のコンテナ間の小さなずれさえも簡単に検出できる。ToFカメラは、単一のカメラセンサ(3)が普通のカメラ画像（すなわち、輝度マップI(n、m)および距離マップD(n、m)）の両方を生成するため、上述の機能を実現することに特に適している。好適には、複数の3Dカメラをスプレッダに取り付けて、コンテナをスプレッダに取り付けた後に、これらのカメラが表示するコンテナの各角部の画像を他のカメラの画像と対称にする。これにより、とりわけ操作者補助機能に関連する動作によって操作者が対称の位置を検出しやすくなる。対称性は、例えば、3Dカメラの画像領域内のコンテナの領域(8)の形状および寸法が、スプレッダのすべての3Dカメラにおいて同一である場合に得られるようにしてもよい。対称性の別の形態は、例えば直線に対する図形の数学的な鏡映であり、さらに、点に対する図形の鏡映または回転でもある。このような構成は、3Dカメラが固定されるスプレッダの外周角部に対して各3Dカメラを同じ場所に設置し、必要に応じて3Dカメラの画像を拡大縮小することにより実現できる。コンテナがスプレッダに取り付けられて、複数の3Dカメラの画像領域から合成図が生成されると、3Dカメラの画像領域の対称性により、コンテナを掴み上げる際にスプレッダを制御することが可能となる。したがって、コンテナを掴み上げる間、3Dカメラの相互に対称な画像領域に対してスプレッダを制御できる。
【００５５】
一実施例において、3Dカメラの画像から受像部(6)が生成され、受像部では、持ち上げるコンテナを含む3Dカメラの画像領域の部分が中央に配され、他方、画像領域のうち、持ち上げて操作するコンテナを表示する部分の外側にある部分は合成図の端部側に配される。合成図では、個々の3Dカメラの各画像領域間にいくばくかの隙間を残しておくこともできる。その場合、各画像領域によって形成されるグリッドが、各画像を互いに区切る格子を形成する。なお、上述のような格子枠は必須ではなく、画像間に隙間を設けずに合成図に画像を表示してもよい点に注目すべきである。合成図により、持ち上げるコンテナを表示する各画像領域を相互に比較して、相互に対称的な画像領域が形成されるようにスプレッダを制御することができる。とりわけ操作者補助機能について、操作者が対称性に基づいてスプレッダの正確な配置を容易に検出できる。また、操作者の代わりにスプレッダをコンピュータ(20)などで制御する自動制御を用いる場合、画像の対称性によって、3Dカメラの画像信号処理に必要なリソースを減らすとともに、アルゴリズムの複雑性を低く抑えることができる。なぜならば、3Dカメラの画像領域の特定の部分、さらには合成図の中心部に重点を置いて、画像信号の処理を行えばよいからである。
【００５６】
図５および図６では、操作すべきコンテナがスプレッダに固定されている。この場合、図示する合成図(6)では、上述した掴み上げるべきコンテナではなく、画像領域のうち、スプレッダに固定されたコンテナ(10)を含む部分が合成図の中央部に表示されている。他方、画像領域のうち、固定されたコンテナを表示する部分の外側に残る部分は合成図の端部側に配されている。
【００５７】
例えば掴み上げるべきコンテナ(1)、運搬すべきコンテナ(1’)および／または運搬すべきコンテナの下にあるコンテナ(1)など、3Dカメラの視界に映る対象物を基に、対象物に対応する領域(10、8)を3Dカメラの画像領域に形成する。異なる領域は、例えば3Dカメラ(3)によって計測される距離(D)に基づいて識別されてもよい。
【００５８】
一実施例において、例えば図４に示すようにコンテナを掴み上げる場合、スプレッダ(2)がコンテナ(1)に向かって降下しているときに、3Dカメラの画像領域から得られる画像画素(8)のうち、測定距離(D)が所定の限界値、例えば１ｍよりも短いものを識別する。上述のとおり、場合によりコンテナ(1)の隣に置かれたコンテナ、例えば隣接するコンテナ列のコンテナから得られた測定は、コンテナ間の隙間(30〜50cm)に基づいて誤情報として除外されてもよい。次いで、例えば４つの実時間カメラ画像(7)で形成されたグリッド(6)をコンテナ操作装置の操作者に示してもよい。画像領域内の領域(8)(画像画素)は色付けされる等していて、画像内で検出された対象物(＝掴み上げるべきコンテナ)は所定の距離よりも近くに位置する。当業者であれば理解の及ぶことであるが、掴み上げるべきコンテナの高さに起因して、掴み上げるべきコンテナの周辺および地面等からの距離の測定値はかなり大きい。グリッド (6)で視認できるコンテナの角部(8)によって左右対称の図形が形成されている場合、スプレッダ(2)は掴み上げるべきコンテナに対して正しい位置にある。
【００５９】
本方法は、操作すべきコンテナに応じてスプレッダを的確な距離に伸縮させても、コンテナに対する3Dカメラの位置は変わらないため、20フィート高のコンテナを操作する場合と、40フィート高のコンテナを操作する場合のどちらにおいても同様の効果を奏する。コンテナを掴み上げる工程に限定して考えると、3Dカメラの台数を２台に減らしてもよい。その理由は、コンテナの２つの角部に対してスプレッダが所定の位置に来るように制御するのに十分だからである。残りの２つの角部は自動的にそれぞれの適正位置に配されることとなる。操作者が制御工程で画像の対称性を利用するにあたっては、3Dカメラの最も有利な位置は、スプレッダの対角部であろう。一実施例において、例えば図４のようにコンテナを掴み上げる際には、画像フィールド(7)で識別された画像画素(8)に基づいて、掴み上げるべきコンテナに対するスプレッダの側方変位(x、y)およびスキューの数値を算出することができる。数値算出は、例えばコンピュータ(20)を用いて正方形部分(8)の幅(w)および高さ(h)を画像画素として決定すること等によって実行することができる。このような数値を好適には少なくとも10Hzの周波数で繰り返し算出すれば、コンピュータ制御(20)によってスプレッダ(2)を適切な位置に調整できるため、スプレッダの側方変位(x、y)およびスキューの自動制御を実現できる。本方法の大きな利点は、完全に自動化された無人操作用および操作者の補助用のどちらにおいても同一のセンサシステムを使用できることである。
【００６０】
一実施例においては、１つまたは複数のコンテナを操作する場合、距離マップを活用してスプレッダを制御する。コンテナの操作例には、コンテナを掴み上げ、運搬すべきコンテナをその下に位置するコンテナの上に積み重ねることが含まれる。自動制御を実行してもよく、その場合には、例えばコンテナ操作装置に具備されたコンピュータ(20)または遠隔操作等による無人方式でスプレッダを制御してもよい。
【００６１】
コンテナの制御には、例えばスプレッダを用いて運搬するコンテナ(1’)を別のコンテナの上に置くように制御すること、および／またはスプレッダを用いてコンテナ(1)を掴み上げることが含まれる。スプレッダは、例えばクレーンのようなコンテナ操作装置(14、15)の座標系など、特定の座標系上で動くものでもよい。運搬すべき積み荷がない状態でスプレッダを移動させると、操作すべき積み荷（例えば、掴み上げるべき積み荷）が距離マップ上を移動する。スプレッダが積み荷を運搬するときは、操作すべき積み荷（すなわち、運搬すべき積み荷）は距離マップ上では実質的に静止状態となる。スプレッダが制御されているとき、対応する距離マップはスプレッダに取り付けられた１台以上の3Dカメラによって作成される。
【００６２】
スプレッダは、3Dカメラの像平面上を、像平面に対する奥行き方向をまたはそれらの組合せ上を移動する。複数の距離マップが作成される場合には、3Dカメラの像平面は互いに平行であることが好ましい。しかしながら、スプレッダの揺動のせいで、スプレッダの動きは異なった状態でそれぞれの距離マップに検出されることもある。
【００６３】
一実施例において、距離マップは把持手段の座標系で割り出される。このような場合、把持手段に対する距離が測定され、使用される座標系の各軸が把持手段に定められる。こうして作成された距離マップによって提供される距離情報は、把持手段の座標系の軸とは異なる軸を有する別の座標系に変換されてもよい。例えばスプレッダで１台または２台の3Dカメラしか使用せず、コンテナのすべての角部に関する距離マップの画像を取得できない場合には、このような座標系の変換は有利となり得る。把持手段は、操作されるコンテナおよび／またはその下のコンテナに関する距離マップを使って測定される距離情報を用いて、新たな座標系で制御されてもよい。なお、距離マップが提供する情報を別の座標系に変換する場合、操作すべきコンテナを全部の3Dカメラの距離マップで同時に検出する必要はないことに注目すべきである。１台の3Dカメラから取得される距離マップが提供する距離情報を新たな座標系に変換してもよく、その場合には、距離マップに検出された領域(8、10)の位置は新たな座標系で識別される。別の3Dカメラの距離マップ上で操作する積み荷(10)または操作する積み荷の外側にある物体(8)を検出した場合、他の距離マップから提供される距離情報を新たな座標系に変換してもよい。２台の3Dカメラを使用する場合には、上述のようにカメラをスプレッダの外周角部に設置してもよい。好適には、かかる角部はスプレッダの長手方向において、対角線上にあるかまたは互いに向かい合っている。スプレッダの長手方向を、コンテナの長さ方向に応じた方向であると決定してもよい。その結果として、3Dカメラを２台使用することによって、コンテナの各角部の位置を確認し、スプレッダを制御して例えばコンテナを掴み上げたり積み重ねたりできる。
【００６４】
同様に、運搬すべきコンテナが空中に浮かびその下に位置するコンテナから離れる場合、距離が設定されている下限値を下回ると運搬するコンテナの領域を識別するようにしてもよい。上述のように、下限値には運搬するコンテナの高さに基づいて限定される閾値が含まれていてもよい。また、閾値を超えた場合、運搬するコンテナの下にある他の１または複数のコンテナ等の物体を識別するようにしてもよい。
【００６５】
図５は、本発明に係る機構および積み荷(1’)が把持手段(2)に固定された後の同機構の動作を示す。図５の例では、積み荷はコンテナ(1')であり、把持手段はコンテナを操作する際に一般的に用いられるようなスプレッダ(2)である。スプレッダ(2)の外周角部には3Dカメラが設置されている。3Dカメラの視界には影の部分(9)に対応する領域(10)が含まれ、3Dカメラで測定される距離はコンテナの高さに基づいて限定される。ゆえに、影の部分から測定される距離は、運搬するコンテナの表面、例えばコンテナ側部(11)から測定される。運搬するコンテナは、3Dカメラがコンテナの下にある領域(9)を確認する妨げとなる。3Dカメラは画像領域(7)を生成し、画像領域において、影の部分の外側に位置する3Dカメラの視界の空き領域(12)から影の領域(10)を切り離してもよい。画像領域内の影の領域とその他の領域を、上述のように識別してもよい。
【００６６】
図５の機構は、積み荷が把持手段に固定された後に、運搬するコンテナの領域を距離マップで特定することができる。この領域は影の領域を形成し、影の領域内では、3Dカメラで測定された距離はコンテナの高さに基づいて限定される。そのため、運搬するコンテナの位置を3Dカメラの画像領域で特定でき、コンテナを操作して例えばコンテナを別のコンテナの上に積み重ねる際に、特定した影の領域を利用してコンテナを移動させることができる。好適には、運搬するコンテナのみが図５に示すように同一の高さ範囲で3Dカメラの視界に入るように影の領域を特定する。一例では、3Dカメラは３m以内の距離にある物体を検出するように設定される。このような3Dカメラでは、コンテナを十分な高さまで持ち上げて、運搬するコンテナ以外のコンテナまでの3Dカメラの距離が３m以上になるようにして、影の領域を特定してもよい。このようにして特定された影の領域（例えば、画像画素の一群）を、コンピュータ(20)の記憶装置などに記憶して、例えばコンテナを積み重ねる際に、下側のコンテナを求めて視界内の空き領域(12)のみを検索できるようにしてもよい。
【００６７】
一実施例においては、運搬するコンテナを制御して、各3Dカメラの画像領域の所定の高さ範囲にて、特定された影の領域(9)に対応する領域(10)のみを視認できるようにする。画像領域の所定の高さ範囲において影の領域以外の物体が視認される場合、移動を止めてもよい。特に、画像領域内で検出された物体の距離(D)がコンテナの高さよりも短い場合、画像領域平面でコンテナを移動させると検出された物体に衝突する可能性があるため、移動を止める。
【００６８】
別の例では、3Dカメラに対して特定された影の領域は、コンテナの積上げ中に運搬するコンテナを制御するために使用してもよい。このような場合、運搬するコンテナ(1’)を別のコンテナの上にくるように調整して、そのコンテナの上に下ろす。コンテナを積み上げるときには、下側のコンテナ(1)に接近する際に上側のコンテナから測定される距離測定値(D1)を、下側のコンテナから得られる距離測定値(D2)と互いに区別できるようにする必要がある。積み上げるべきコンテナ(1')と下になるコンテナ(1)が互いに接近すると、前述の距離測定値の差が減少してゼロになるため、作業が困難になる。3Dカメラの画像領域内で影の領域(10)を特定して、この影の領域(10)をコンピュータ(20)の記憶装置などに記憶した場合、下側のコンテナ(1)の位置を特定しつつ、運搬するコンテナと下側のコンテナを取り違える心配する必要もなく、影の領域の外側の領域(12)だけを監視することができる。
【００６９】
本発明に係る一実施例においては、特定した影の領域(10)を、後におけるコンテナの掴上げに活用する。コンテナ(1)をコンテナの山に置いているときに影の領域(10)を特定して、コンピュータ(20)の記憶装置などに記憶してもよい。その後、再びコンテナを掴み上げる際に、コンテナ(1)を掴み上げるためにスプレッダ(2)を正しい位置に制御するときに記憶した距離マップ(10)を利用してもよい。これによって、センサ(3)で測定した距離マップを記憶した距離マップ(10)と即時に比較することができ、さらに、操作者によって、またはコンピュータ(20)による自動制御によって、これらの距離マップを調整して一致させることができる。マップで視認できる角部の位置(21)のみならず、マップで視認できるコンテナ側部の方向もまた距離マップから特定して、コンテナ(1)のスキューを記憶した距離マップ(10)と比較する場合、最小限で１台のみの3Dカメラを使用して本方法を適用してもよい。
【００７０】
コンテナの積上げについては、図６に関連して示される。図６は、本発明に係る機構、および積み荷(1')の積上げ時における本機構の動作を示す。図６の例では、積み荷はコンテナであり、把持手段は従来型のコンテナを操作する際に一般的に用いられるようなスプレッダ(2)である。3Dカメラは、スプレッダの外周角部に設置される。カメラの設置方法は上述のとおりに実行してよい。これによって、下側のコンテナ(1)の角部が上側のコンテナ(1’)が作り出す影(9)に覆われていないならば、3Dカメラ(3)で下側コンテナ(1)の角部(5)を確認できるであろう。下側のコンテナ(1)に対応する画像領域内の領域(8)を、例えば上述のように3Dカメラによって測定される距離(D)に基づいて特定してもよい。例えば、測定された距離Ｄが、本例では運搬するコンテナ(1’)の高さよりも大きい値である規定の下限値を下回る場合に下側のコンテナの領域を特定してもよい。
【００７１】
このような場合、コンテナの制御において影の領域(10)を無視してもよく、下側のコンテナに対応する領域(8)同士の相互関係および／または下側のコンテナの領域(8)と影の領域の関係に応じてコンテナを制御してもよい。各領域を互いに比較して領域間の関係を形成してもよく、例えば3Dカメラの画像領域における各領域の位置、寸法および／または１つ以上の次元を比較する。したがって、コンテナを積み上げる際、運搬するコンテナを制御して、領域(8)が対称になるようにするとともに、影の領域(10)が下側のコンテナに対応する領域(8)を可能な限り覆うようにする。このような場合、各コンテナの位置を相互に調整すると、下側のコンテナに対応する領域は、最終的に影の領域にほとんど溶け込んでしまう。上述のとおり、各領域(8)の相対的な寸法もまた、コンピュータ(20)を使用して人為的に拡大図示して、操作者が上側のコンテナと下側のコンテナ間のわずかな位置ずれさえも容易に検知できるようにしてもよい。
【００７２】
操作すべきコンテナに応じてスプレッダを適切な長さに伸縮しても、3Dカメラはコンテナに対して同じ位置にあるため、本方法は20フィートのコンテナを操作する場合と、40フィートのコンテナを操作する場合のどちらにおいても同様に効果を発揮する。
【００７３】
一実施例において、特定された領域(8)に基づき、上側コンテナの下側コンテナに対する側方変位(x、y)およびスキューに関する数値を算出することも可能である。この算出は、例えば、コンピュータ(20)で四角形またはＬ字型の部分(8)の群の幅(w)および高さ(h)を画像画素として測定して求めてもよい。こういった数値を好適には少なくとも10Hzの周波数で継続的に決定すると、コンピュータ制御装置(20)によってスプレッダ(2)を適切な位置に制御でき、それにより、コンテナを積み上げるときにスプレッダの側方変位(x、y)およびスキューの自動制御を実現できる。本方法は、完全に自動化された無人操作および操作者の補助のどちらの場合においても同一のセンサシステムを使用できる点で大変有利となる。
【００７４】
一実施例においては、コンテナを積み上げる際に、下側のコンテナと運搬するコンテナの間のスキューを、3Dカメラで特定した下側のコンテナに対応する領域および影の領域に基づいて測定する。スキューは、影の領域および下側のコンテナに対応する領域の側部間の角度を計測することによって求められる。決定した角度に基づいて、領域間の角度がゼロになり、その結果スキューがゼロになるように、運搬するコンテナを制御することができる。このような場合、両領域は互いに対し対称になる。
【００７５】
図６はさらに、本発明の実施例による付加センサシステム(18、19)を示す。付加センサシステムにより、3Dカメラの座標系に加えて、別の座標系を積み荷の操作に使用してスプレッダを制御することが可能となる。２つ以上の座標系を使用することで、特にコンテナを積み上げるときに、スプレッダに設置すべき3Dカメラの数を減らすことができ、例えばスプレッダの外周角部ごとに設置されている４台の3Dカメラを２台に削減できる。3Dカメラの他に、3Dカメラの座標系とは異なる座標系で動作する追加のセンサを使用して、さまざまな座標系を作成してもよい。例えば、付加センサシステムおよび3Dカメラの座標系はそれぞれ異なる座標軸を有していてもよい。異なる開始点や原点を座標系ごとに選択して、異なる座標軸を構築してもよい。
【００７６】
図６では、付加センサシステムは、トロリ(15)に対するスプレッダ(2)のx、y位置およびスキューを測定する測定装置(18、19)を用いて実現される。そのため、スプレッダは3Dカメラの座標系の開始点となるのに対し、付加センサシステムを実現する測定装置の座標系の開始点は、例えば測定装置の固定場所に設定され、その固定場所はトロリ(15)でもよい。測定装置は、スプレッダに取り付けられた２つの赤外線(IR)光源(18)等を用いて実現されてもよく、各光源の位置はトロリ(15)に設置されたカメラ(19)を使って測定される。測定装置により、特にコンテナの積上げを行う際における3Dカメラの数を４台から２台に削減できる。なぜならば、２台の3Dカメラ(3)が下側のコンテナ(1)の２か所の角部を監視し、下側のコンテナの位置情報およびコンテナのスキューをトロリ(15)の座標系で測定して、コンピュータ(20)のメモリに記憶し、さらにセンサシステム(18、19)および記憶した下側のコンテナの位置情報を用いて、上側のコンテナを下側のコンテナの上に下ろすことができるからである。また、下側のコンテナ(1)の２つの角部を同時に監視する必要はない。
【００７７】
図７は、距離マップの領域に基づいてスプレッダ(2)の制御を実施する方法を示す。スプレッダに、１または複数の3Dカメラ(3)およびステイロープ(17)を有する精巧な移送機構を固定することもできる。図４に示す精巧な移送機構は、４本のステイロープ（ステイロープ１、ステイロープ２、ステイロープ３、ステイロープ４）およびスプレッダ(2)の外周角部に設置された3Dカメラ(3)を有する。3Dカメラ(3)は、上述のように設置されてもよい。3Dカメラ(3)を用いて作成された距離マップに基づいてステイロープ(17)を調整し、運搬すべきコンテナ(1)を移動させる。
【００７８】
図７の精巧な移送機構を実現するには、別々のステイロープ(17)を、スプレッダ(2)の中央部にある四つ角部の、巻上ロープ(16)のプーリの隣に取り付ける。ステイロープの上端はトロリ(15)に取り付けられ、ステイロープに加わる力を電気モータ等によってトロリから制御する。スプレッダ(2)をｘ方向に移動させるならば、ステイロープ１および２の力が増大し、同時に、ステイロープ３および４の力は減少する。スプレッダ(2)をｙ方向に移動させるならば、ステイロープ２および３の力が増大し、同時に、ステイロープ１および４の力が減少する。スプレッダ(2)をスキューさせるならば、すなわち、スプレッダの座標系のスキューを反時計回り方向に調整するならば、ステイロープ２および４の力が増大し、同時に、ステイロープ１および３の力は減少する。図７によると、ステイロープ(17)は、コンピュータ(20)を使用して、例えば上述の実施例における１または複数の方法で自動的に制御されてもよい。コンピュータを１または複数の3Dカメラ(3)に接続させて、電気測定信号および／または光測定信号などの測定データを受信してもよい。さらに、コンピュータを、座標系間の変位を測定する付加センサシステム(18、19)に接続してもよい。
【００７９】
図８は、一実施例による積み荷の積上げ方法を示す。ここから、スプレッダを使用してコンテナを操作する例を用いるとともに、図１ないし図７に示す実施例も参照し図１ないし図７で使用する参照符号を使って、本方法について説明する。さらにスプレッダは、例えばガントリークレーンのようなコンテナ操作装置の一部分でもよい。
【００８０】
本方法は、コンテナがスプレッダに固定された後にステップ802で開始する。この状態は、図５に示されている。次に、１または複数の3Dカメラがスプレッダに取り付けられ、対応する距離マップを作成する。3Dカメラの距離マップにおける影の領域は、ステップ804で特定される。距離マップは、3Dカメラごとに別々に割り出してもよく、または一斉に割り出されてもよい。以下において、１つの距離マップに関わる動作について説明する。距離マップの割出しには、運搬されるコンテナによって隠れる領域の識別が含まれていてもよい。この領域では、距離マップの各像点の距離は運搬されるコンテナの高さに基づいて限定され、例えば、運搬されるコンテナの高さよりも少しだけ長い。そのため、この領域(10)の範囲内ではコンテナの下にある物体(9)の視界は遮られ、ゆえにこの領域は影の領域(10)を形成する。
【００８１】
一実施例においては、影の領域はコンテナが空中に持ち上げられているとき、好適には運搬されるコンテナとその下にある物体の間の距離が3Dカメラの所定の検出距離よりも大きくなる高さまで持ち上げられているときに特定される。これにより、3Dカメラの影の領域の外側にある領域(12)が空き状態になり、影の領域を特定しやすくなる。
【００８２】
一実施例においては、影の領域は運搬されるコンテナの外観に基づいて特定される。例えば操作すべきコンテナの高さなどの寸法が分かっている場合、運搬されるコンテナの外観を既定の外観として判断してもよい。このような場合、距離マップ上における影の領域は、マップ上にある操作するコンテナの高さに制限された距離に位置する地点で形成される領域として特定してもよい。したがって、影の領域の外側に残る領域を、距離マップ上にある操作するコンテナの高さを超える距離に位置するマップ地点によって形成される領域として特定してもよい。
【００８３】
運搬されるコンテナは、ステップ806にて別のコンテナ(1)の上に積み重ねられる。これは、図６に示すように実行することができる。好適には、コンテナ(1')を積み上げている間、距離マップのうち影の領域の外側の部分だけを監視する。影の領域の外側にある領域に集中して下側のコンテナ(1)を監視することにより、コンテナを運搬している間中は影の領域は実質的に変化しない。そのため、監視結果を運搬すべきコンテナ(1’)と混同する危険性を避けることができ、距離マップで生成される情報の処理に利用される演算能力を、マップの変化する領域の監視に用いることができる。
【００８４】
本方法はステップ808で終了となり、それ以降コンテナは積上げ可能な状態になっている。コンテナを積み終えた後、スプレッダを取り外し、工程は次のコンテナの操作、例えばコンテナの掴上げ等に移行する。これによって、本方法は再度開始され得る。
【００８５】
図９は、一実施例による、クレーン(14、15)の座標系およびスプレッダの座標系で割り出した距離マップに基づいて積み荷を制御する際における積み荷の操作方法を示す。本方法についてこれから、コンテナをスプレッダによって操作する例を用いるとともに、図１ないし図７に示す実施例を参照し、図１ないし図７に示す参照符号を用いて説明する。さらに、スプレッダは例えばガントリークレーンのようなコンテナ操作装置の一部分でもよい。付加センサシステム(18、19)を使用する利点は、特にコンテナを積み上げる際に、操作するコンテナの監視に用いるスプレッダの3Dカメラの数を削減できることである。本方法には、図６に示すように、スプレッダのそれぞれの側部の長手方向に、例えばスプレッダの長手方向または対角線上に向かい合う外周角部に設置された3Dカメラ、およびスプレッダの位置を判断する付加センサシステムを用いて、コンテナを掴み上げることおよび／または掴み上げたコンテナを別のコンテナの上に積み上げることが含まれる。
【００８６】
スプレッダ(2)が3Dカメラで距離マップを割り出したときに、本方法はステップ902で始まる。ステップ904および906では、スプレッダの3Dカメラ(3)がスプレッダの下に置かれているコンテナの角部(21)を検出する。この検出は、個々に行われてもよく、または同時に行われてもよい。距離マップの位置点に含まれる情報は、付加センサシステム(18、19)を用いて、例えばクレーン(14、15)の座標系のような他の座標系に変換され、そして保存される。このようにして、下にあるコンテナの検出された角部(21)の位置がクレーンの座標系に提供されるため、スプレッダを制御しながら、スプレッダの下にあるコンテナの位置を入手することができる。
【００８７】
スプレッダならびに／またはスプレッダおよびそれによって運搬されるコンテナをステップ908で制御して、コンテナを、クレーンの座標系で下に位置するコンテナの角部の位置に動かしてもよい。付加センサシステム(18、19)を使用すると、スプレッダ(2)の任意の選択された点の水平座標(x、y)を、クレーン(14、15)に対して割り出すことができる。例えば、センサ(3)の位置または運搬するコンテナ(1’)の各角部の位置(22)、すなわち一般的には運搬するコンテナの角部の位置に対応するスプレッダの外周角部(22)を割り出すことができる。スプレッダを下のコンテナの上方に来るように制御して、コンテナを掴上げ可能にすると、および／または、運搬すべきコンテナを下のコンテナの上方に来るように制御して、コンテナを積上げ可能にすると、本方法はステップ910で終了する。
【００８８】
補助センサシステム(18、19)を使用する場合、スプレッダ(2)の距離マップの点の水平座標(x、y)をステップ904、906でクレーン(14、15)に対して割り出すことができる。このような場合、例えばコンテナを積み上げるときに、下側コンテナ(1)のセンサ(3)で検出された角部の位置(21)(x_corner、y_corner)が、例えば以下の式を用いて、クレーン(14、15)の座標系(x_corner_lower container、y_corner_lower container)に変換される：
x_corner_lower container = x_sensor + cos(skew)x_corner + sin(skew)y_corner          (1)
y_corner_upper container = y_sensor + cos(skew)y_corner - sin(skew)x_corner
ただし、(x_sensor、y_sensor)とは測定装置(18、19)によってクレーン(14、15)との関連で測定されるセンサ(3)の水平位置のことであり、(skew)とは測定装置(18、19)によってクレーン(14、15)との関連で測定されるスプレッダ(2)のスキューのことである。
【００８９】
座標(x_corner_lower container、y_corner_lower container)は、コンピュータの記憶装置(20)に記憶される。少なくとも２つの別々の角部の座標をコンピュータの記憶装置(20)に記憶した後、続けてステップ908で上側のコンテナ(1’)を下側のコンテナ(1)の上に揃えてもよい。コンピュータ(20)を使用してスプレッダ(2)の横位置を意図的に制御して、下側コンテナ(1)の所望の２つの角部を確実に検出するようにする。言い換えると、コンピュータ制御によって、下側コンテナ(1)の所望の２つの角部が上側のコンテナ(1’)によって絶えず覆われてしまわないことを確実にする。位置合わせを実行して、上側のコンテナ(1)を、コンピュータ制御(20)などによってコンテナ(1’)の上述の少なくとも２つの角部に位置するように制御してもよい：
x_corner_spr -> x_corner_lower container          (2)
y_corner_spr -> y_corner_lower container
ただし、(x_corner_spr、y_corner_spr)とは、測定装置(18、19)によってクレーン(14、15)に関係づけて測定される、運搬すべきコンテナ(1')の角部(22)の水平位置のことであり、(skew)は、測定装置(18、19)によってクレーン(14、15)に関連づけて測定されるスプレッダ(2)のスキューである。このような場合、スプレッダ（および上側コンテナ）の角部は、下側コンテナのちょうど真上にある。あるいは、コンテナをつかむときには、(x_corner_spr、y_corner_spr)とは測定装置(18、19)によってクレーン(14、15)に関連づけて測定されるスプレッダの外周の角部の水平位置のことである。
【００９０】
図10は、本願の実施例における機構を実現する装置を示す。図10の装置1000は、処理装置1008、記憶装置1010および接続手段1002を有する。接続手段1002は、3Dカメラなどのような１または複数のセンサを本装置に接続するものである。接続手段は、データ受信装置1004およびデータ送信装置1006を含んでいてもよい。データ受信装置を介して、3Dカメラで特定した画像画素などの情報を3Dカメラから受信してもよい。データ送信装置を介して、本装置で特定した１または複数の距離マップを、例えば、クレーンまたは把持手段の制御を担う装置に送信してもよい。
【００９１】
すべての装置は互いに電気的に接続される。記憶装置は、処理装置により実行可能な１または複数のプログラムを含んでいてもよい。処理装置の動作は、記憶装置に記憶されたプログラム命令により制御されてもよく、3Dカメラから受信する情報に基づいて距離マップを割り出すことができる。
【００９２】
一実施例において、装置1000は割り出した距離マップを用いてクレーンおよび／または把持手段を制御してもよい。このような場合、装置1000は例えば、クレーンのような積み荷操作装置の制御装置でもよく、１つ以上の3Dカメラ等のセンサに、および／または付加センサに接続される。
【００９３】
一実施例において、装置1000は、自ら割り出した距離マップを、クレーン等の積み荷操作装置の制御装置のような把持手段の制御を担う装置に転送してもよい。その結果、本装置は実装が容易となり、もともと使用しているクレーンに、3Dカメラのような１つ以上のセンサおよび／または補助センサとともに設置することができる。これにより、既存のクレーンを最新の状態にして、本願の実施例を実施することができる。
【００９４】
一実施例において、接続手段は表示部を有する。表示部によって、１または複数の積み荷操作装置の動作を監視することが可能となる。例えば複数の距離マップから形成される受像部(6)など、１つまたは複数の距離マップを表示部に表示してもよい。例えば液晶ディスプレイ(LCD)のような表示部は、接続装置の送信部としての役割を果たしてもよい。その場合、表示部は画像信号の送信に利用され、操作者などの積み荷操作装置を遠隔操作する人間または自動積み荷操作処理を監視する人間に、距離マップを表示する。表示部はさらに、接続装置の送信部および受信部の両方の役割を果たしてもよく、その場合、上述の動作に加えて情報および／または命令を受信でき、受信する命令は例えば、積み荷操作装置の制御命令および／または一連の距離マップに拡大、縮小等のような修正を施す画像処理命令である。このような表示部は、例えばタッチスクリーンを含んでいてもよい。処理装置は、命令および／または記憶装置に保存された指令に従って表示部を制御して、上述の機能を実行してもよい。
【００９５】
処理装置は、１組の記録器、論理演算装置および制御部を含んでいてもよい。制御部は、記憶装置から処理装置へ転送される一連のプログラム命令によって制御される。制御部は、基本機能用に多数のマイクロ命令を含んでいてもよい。マイクロ命令の実行は、処理装置の構成に応じて変更させてもよい。プログラム命令をプログラミング言語に符号化してもよい。プログラミング言語は、C言語やJava等のような高水準プログラミング言語、または、機械語やアセンブラなどのような低水準プログラミング言語でもよい。記憶装置は、例えばEEPROM、ROM、PROM、RAM、DRAM、SRAM、ファームウェア、プログラマブル論理回路など、揮発性メモリでも不揮発性メモリでもよい。
【００９６】
コンピュータプログラムは、ソースコード形式、オブジェクトコード形式または何らかの中間形式であってもよく、また、転送媒体に保存してもよく、転送媒体は、プログラムを記憶できる何らかの要素または装置でよい。このような転送媒体には、例えば、記憶媒体、コンピュータメモリ、読出し専用メモリ、電気搬送波、データ通信信号およびソフトウェア配布パッケージが含まれる。
【００９７】
装置1000およびその各部品は、１つ以上の集積回路、例えば、特定用途向け集積回路すなわちASICとして実施されてもよい。その他にも、例えば独立した論理型構成要素からなる回路としても実施可能である。これらのさまざまな実施方法の選択肢の混合も実行可能である。論理型構成要素で構成される回路の例としては、フィールド・プログラマブル・ゲート・アレイすなわちFPGAが挙げられる。
【００９８】
一実施例において、例を挙げると、コンテナホイスト等のクレーン、ガントリークレーンまたはストラドルキャリアのような積み荷操作装置を更新して、クレーンの把持手段における距離マップを割り出し、距離マップの領域内に、把持手段が取り付けられるおよび／または別の積み荷が上に積み上げられる積み荷の領域の一部を、積み荷の周辺部とともに描写してもよい。更新を実行するために、上述のように、把持手段に１または複数の3Dカメラを設けてもよい。他方、3Dカメラの使用台数を少なくする場合、図６に示すように、3Dカメラおよび付加センサを積み荷操作装置に取り付けてもよい。上述の装置を設置するのに加えて、装置の更新にソフトウェアの更新を含めてもよい。ソフトウェアには積み荷操作装置の記憶装置に記憶可能なコンピュータソフトウェア等を含めて、積み荷を操作するときにコンピュータソフトウェアを実行できるようにしてもよい。また、積み荷操作装置に距離マップを作成する手段がすでに設けられている場合、装置の更新ではソフトウェアのインストールのみを行うことも可能である。
【００９９】
本発明は、あらゆる積み荷操作装置、吊上げ装置、クレーン、コンテナホイスト、ガントリークレーン、ストラドルキャリア、天井クレーン、岸壁クレーンまたは積み荷を固定する把持手段を備えた別々の装置の任意の組合せに適用することができる。
【０１００】
積み荷操作装置、吊上げ装置、クレーン、コンテナホイスト、ガントリークレーン、ストラドルキャリア、天井クレーン、岸壁クレーン等のような、上述の実施例による装置の機能を実現する装置は、既存の技術手段だけでなく把持手段における距離マップを割り出す手段も有し、距離マップの領域は、把持手段が取り付けられるおよび／または別の積み荷が上に積み上げられる積み荷の領域の一部と、積み荷の周辺部を描写する。
【０１０１】
より具体的には、それらの装置は、上述の実施例で述べた装置の機能を実現する手段を有し、装置はそれぞれの異なる機能に対応する別々の手段を有していてもよく、または、手段は２つ以上の機能を実現するように構成されていてもよい。既知の装置に含まれる処理装置および記憶装置は、上述の実施例で述べた１つ以上の機能に役立てられてもよい。
【０１０２】
当業者には明白なことであるが、上述の各実施例に示す装置は、上述した部品以外の部品をも有していてもよいが、そのような部品は本発明にとっては重要ではないものであるため、説明を明確にするために省かれている。
【０１０３】
また、技術の進歩に伴って本発明の基本概念をさまざまな方法で実現可能となることは、当業者には明白なことであろう。したがって、本発明およびその実施例は上述の例に限定されるものでなく、特許請求の範囲内において変更され得る。
【図１】
2015533747.tif 000003
【図２】
2015533747.tif 000004
【図３】
2015533747.tif 000005
【図４】
2015533747.tif 000006
【図５】
2015533747.tif 000007
【図６】
2015533747.tif 000008
【図７】
2015533747.tif 000009
【図８】
2015533747.tif 000010
【図９】
2015533747.tif 000011
【図１０】
2015533747.tif 000012
【手続補正書】
【提出日】平成26年7月31日(2014.7.31)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
積み荷の少なくとも１つの固定点を把持する把持手段を有する積み荷操作装置を用いる積み荷の操作方法において、該方法では、
前記把持手段にて距離情報に関連する複数の点を包含する距離マップを割り出し、該距離マップの領域内では、該把持手段が取り付けられ、および／または上に別の積み荷が積み重ねられる前記積み荷の領域の一部および前記積み荷の周辺部が描かれることを特徴とする積み荷の操作方法。
【請求項２】
請求項１に記載の方法において、該方法は、
前記積み荷を前記把持手段に固定してから、前記距離マップにおいて操作する積み荷の第１の領域を特定し、
前記積み荷を前記把持手段から取り外した後に、前記距離マップにおいて操作する積み荷の第２の領域を特定し、
第１の領域と第２の領域の差を特定し、さらに、
該差に基づいて前記把持手段を制御することを特徴とする方法。
【請求項３】
前記請求項のいずれかに記載の方法において、該方法は、
前記積み荷を前記把持手段に固定してから、前記距離マップにおいて操作する積み荷の第１の領域を特定し、
前記距離マップにおいて第２の積み荷領域を特定し、
前記距離マップにて前記積み荷領域間の差を特定し、
該積み荷領域間の差に基づいて把持手段を制御することを特徴とする方法。
【請求項４】
前記請求項のいずれかに記載の方法において、該方法は前記把持手段の座標系において距離マップを割り出し、さらに、
距離マップを、前記把持手段の座標系のものとは異なる軸を有する新たな座標系に関する距離情報に変換し、前記把持手段を前記新たな座標系で制御することを特徴とする方法。
【請求項５】
前記請求項のいずれかに記載の方法において、該方法では前記把持手段を制御し、該制御には、垂直面内で前記距離マップの距離に対して、または前記距離マップの距離方向のうち奥行き方向に、またはこれらの組合せによって前記把持手段を移動させることが含まれることを特徴とする方法。
【請求項６】
前記請求項のいずれかに記載の方法において、該方法は、
積み荷のそれぞれの領域を表す複数の距離マップを割り出して、該距離マップ内に固定点または積上げ点を位置付け、
一連の距離マップを作成し、該距離マップのうち操作する積み荷を含む部分を相互におよびその周辺部から切り離すことを特徴とする方法。
【請求項７】
前記請求項のいずれかに記載の方法において、該方法は、複数の距離マップを割り出し、
前記積み荷によって特定された前記距離マップの領域の形状に基づいて前記把持手段を制御することを特徴とする方法。
【請求項８】
前記請求項のいずれかに記載の方法において、該方法は、複数の距離マップを割り出し、
該距離マップの対称性に基づいて前記把持手段を制御することを特徴とする方法。
【請求項９】
前記請求項のいずれかに記載の方法において、該方法は積み荷の操作を含み、該操作には前記積み荷の掴上げおよび／または該積み荷の別の積み荷の上への積上げが含まれることを特徴とする方法。
【請求項１０】
前記請求項のいずれかに記載の方法において、該方法は、前記把持手段を積み荷固定点に対して制御し、および／または前記積み荷を別の積み荷の上に積み上げることを特徴とする方法。
【請求項１１】
前記請求項のいずれかに記載の方法において、該方法では前記積み荷を制御する方向の平面上に前記距離マップを割り出し、該距離マップは前記平面に対し垂直な方向の距離を含むことを特徴とする方法。
【請求項１２】
前記請求項のいずれかに記載の方法において、前記距離マップは画像領域を有し、該画像領域は、距離情報、光強度情報および色情報のうち１つ以上の情報を含む像点を包含することを特徴とする方法。
【請求項１３】
前記請求項のいずれかに記載の方法において、該方法では、前記積み荷を前記把持装置に固定して、前記距離マップは前記固定された積み荷の一部を含む画像領域を有することを特徴とする方法。
【請求項１４】
前記請求項のいずれかに記載の方法において、該方法は、前記積み荷を前記把持手段に固定し、該積み荷を持ち上げている間に前記距離マップのうち前記積み荷に隠れる部分を特定して他の積み荷と区別し、例えばコンピュータの記憶装置に記憶することを特徴とする方法。
【請求項１５】
前記請求項のいずれかに記載の方法において、該方法は、前記積み荷を前記把持手段に固定し、他の積み荷の監視時に、前記距離マップ内において前記積み荷に覆われている記憶部分を無視することを特徴とする方法。
【請求項１６】
前記請求項のいずれかに記載の方法において、前記把持手段はスプレッダを有し、該スプレッダはコンテナの角成型部に取り付けられる１または複数のツイストロック等を含むことを特徴とする方法。
【請求項１７】
前記請求項のいずれかに記載の方法において、前記積み荷にはコンテナが含まれ、前記距離マップは、コンテナの山に置かれたコンテナまたは運搬されるコンテナまたはこれら両方の前記把持手段に対する位置を特定することを特徴とする方法。
【請求項１８】
前記請求項のいずれかに記載の方法において、前記把持手段はスプレッダを有し、該スプレッダには、１つの外周角部または例えば長手方向もしくは対角線上に２つが対向する複数の外周角部またはすべての外周角部に距離マップを測定するセンサが設けられていることを特徴とする方法。
【請求項１９】
前記請求項のいずれかに記載の方法において、該方法では、前記距離マップを積み荷操作装置の操作者に表示して、操作者による積み荷の掴上げおよび／または積上げを補助することを特徴とする方法。
【請求項２０】
前記請求項のいずれかに記載の方法において、該方法では、画像処理によって前記距離マップを修正し、操作者による積み荷の掴上げおよび／または積上げをさらに補助することを特徴とする方法。
【請求項２１】
前記請求項のいずれかに記載の方法において、該方法では、前記距離マップがコンピュータに入力され、該コンピュータを用いて前記積み荷の掴上げおよび／または積上げを自動的に制御することを特徴とする方法。
【請求項２２】
前記請求項のいずれかに記載の方法において、該方法では、前記操作する積み荷の少なくとも２つの領域を非同時的に位置決めし、前記領域の位置を記憶して、前記積み荷の位置および傾斜を割り出すことを特徴とする方法。
【請求項２３】
前記請求項のいずれかに記載の方法において、該方法では、前記距離マップを、運搬するコンテナの角部を含む視界内で特定し、該角部は前記把持手段の固定点を有することを特徴とする方法。
【請求項２４】
前記請求項のいずれかに記載の方法において、前記積み荷操作装置は、ガントリークレーンまたはストラドルキャリアのようなコンテナホイスト等のクレーンを含むことを特徴とする方法。
【請求項２５】
前記請求項のいずれかに記載の方法において、該方法では3Dカメラが使用され、該3Dカメラは例えば、飛行時間カメラのように光の伝播時間を計測して前記距離マップを割り出すカメラ等であることを特徴とする方法。
【請求項２６】
請求項１ないし25のいずれかに記載の方法を実行する手段を有する機構。
【請求項２７】
例えば積み荷操作装置等の装置にダウンロードされると、該装置に請求項１ないし25のいずれかに記載の方法を実行させるプログラム命令を含むコンピュータプログラム製品。
【請求項２８】
積み荷操作装置を更新する方法において、該方法では、請求項26に記載の機構または請求項27に記載のコンピュータプログラム製品を前記積み荷操作装置に組み込むことを特徴とする方法。
【手続補正書】
【提出日】平成27年5月22日(2015.5.22)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
積み荷の少なくとも１つの固定点を把持する把持手段を有する積み荷操作装置を用いる積み荷の操作方法において、該方法では、
前記把持手段にて距離情報に関連する複数の点を包含する距離マップを割り出し、該距離マップの領域内では、該把持手段が取り付けられ、および／または上に別の積み荷が積み重ねられる前記積み荷の領域の一部および前記積み荷の周辺部が描かれることを特徴とする積み荷の操作方法。
【請求項２】
請求項１に記載の方法において、該方法は、
前記積み荷を前記把持手段に固定してから、前記距離マップにおいて操作する積み荷の第１の領域を特定し、
前記積み荷を前記把持手段から取り外した後に、前記距離マップにおいて操作する積み荷の第２の領域を特定し、
第１の領域と第２の領域の差を特定し、さらに、
該差に基づいて前記把持手段を制御することを特徴とする方法。
【請求項３】
請求項１または２に記載の方法において、該方法は、
前記積み荷を前記把持手段に固定してから、前記距離マップにおいて操作する積み荷の第１の領域を特定し、
前記距離マップにおいて第２の積み荷領域を特定し、
前記距離マップにて前記積み荷領域間の差を特定し、
該積み荷領域間の差に基づいて把持手段を制御することを特徴とする方法。
【請求項４】
請求項１ないし３のいずれかに記載の方法において、該方法は前記把持手段の座標系において距離マップを割り出し、さらに、
距離マップを、前記把持手段の座標系のものとは異なる軸を有する新たな座標系に関する距離情報に変換し、前記把持手段を前記新たな座標系で制御することを特徴とする方法。
【請求項５】
請求項１ないし４のいずれかに記載の方法において、該方法では前記把持手段を制御し、該制御には、垂直面内で前記距離マップの距離に対して、または前記距離マップの距離方向のうち奥行き方向に、またはこれらの組合せによって前記把持手段を移動させることが含まれることを特徴とする方法。
【請求項６】
請求項１ないし５のいずれかに記載の方法において、該方法は、
積み荷のそれぞれの領域を表す複数の距離マップを割り出して、該距離マップ内に固定点または積上げ点を位置付け、
一連の距離マップを作成し、該距離マップのうち操作する積み荷を含む部分を相互におよびその周辺部から切り離すことを特徴とする方法。
【請求項７】
請求項１ないし６のいずれかに記載の方法において、該方法は、複数の距離マップを割り出し、
前記積み荷によって特定された前記距離マップの領域の形状に基づいて前記把持手段を制御することを特徴とする方法。
【請求項８】
請求項１ないし７のいずれかに記載の方法において、該方法は、複数の距離マップを割り出し、
該距離マップの対称性に基づいて前記把持手段を制御することを特徴とする方法。
【請求項９】
請求項１ないし８のいずれかに記載の方法において、該方法は積み荷の操作を含み、該操作には前記積み荷の掴上げおよび／または該積み荷の別の積み荷の上への積上げが含まれることを特徴とする方法。
【請求項１０】
請求項１ないし９のいずれかに記載の方法において、該方法は、前記把持手段を積み荷固定点に対して制御し、および／または前記積み荷を別の積み荷の上に積み上げることを特徴とする方法。
【請求項１１】
請求項１ないし10のいずれかに記載の方法において、該方法では前記積み荷を制御する方向の平面上に前記距離マップを割り出し、該距離マップは前記平面に対し垂直な方向の距離を含むことを特徴とする方法。
【請求項１２】
請求項１ないし11のいずれかに記載の方法において、前記距離マップは画像領域を有し、該画像領域は、距離情報、光強度情報および色情報のうち１つ以上の情報を含む像点を包含することを特徴とする方法。
【請求項１３】
請求項１ないし12のいずれかに記載の方法において、該方法では、前記積み荷を前記把持装置に固定して、前記距離マップは前記固定された積み荷の一部を含む画像領域を有することを特徴とする方法。
【請求項１４】
請求項１ないし13のいずれかに記載の方法において、該方法は、前記積み荷を前記把持手段に固定し、該積み荷を持ち上げている間に前記距離マップのうち前記積み荷に隠れる部分を特定して他の積み荷と区別し、例えばコンピュータの記憶装置に記憶することを特徴とする方法。
【請求項１５】
請求項１ないし14のいずれかに記載の方法において、該方法は、前記積み荷を前記把持手段に固定し、他の積み荷の監視時に、前記距離マップ内において前記積み荷に覆われている記憶部分を無視することを特徴とする方法。
【請求項１６】
請求項１ないし15のいずれかに記載の方法において、前記把持手段はスプレッダを有し、該スプレッダはコンテナの角成型部に取り付けられる１または複数のツイストロック等を含むことを特徴とする方法。
【請求項１７】
請求項１ないし16のいずれかに記載の方法において、前記積み荷にはコンテナが含まれ、前記距離マップは、コンテナの山に置かれたコンテナまたは運搬されるコンテナまたはこれら両方の前記把持手段に対する位置を特定することを特徴とする方法。
【請求項１８】
請求項１ないし17のいずれかに記載の方法において、前記把持手段はスプレッダを有し、該スプレッダには、１つの外周角部または例えば長手方向もしくは対角線上に２つが対向する複数の外周角部またはすべての外周角部に距離マップを測定するセンサが設けられていることを特徴とする方法。
【請求項１９】
請求項１ないし18のいずれかに記載の方法において、該方法では、前記距離マップを積み荷操作装置の操作者に表示して、操作者による積み荷の掴上げおよび／または積上げを補助することを特徴とする方法。
【請求項２０】
請求項１ないし19のいずれかに記載の方法において、該方法では、画像処理によって前記距離マップを修正し、操作者による積み荷の掴上げおよび／または積上げをさらに補助することを特徴とする方法。
【請求項２１】
請求項１ないし20のいずれかに記載の方法において、該方法では、前記距離マップがコンピュータに入力され、該コンピュータを用いて前記積み荷の掴上げおよび／または積上げを自動的に制御することを特徴とする方法。
【請求項２２】
請求項１ないし21のいずれかに記載の方法において、該方法では、前記操作する積み荷の少なくとも２つの領域を非同時的に位置決めし、前記領域の位置を記憶して、前記積み荷の位置および傾斜を割り出すことを特徴とする方法。
【請求項２３】
請求項１ないし22のいずれかに記載の方法において、該方法では、前記距離マップを、運搬するコンテナの角部を含む視界内で特定し、該角部は前記把持手段の固定点を有することを特徴とする方法。
【請求項２４】
請求項１ないし23のいずれかに記載の方法において、前記積み荷操作装置は、ガントリークレーンまたはストラドルキャリアのようなコンテナホイスト等のクレーンを含むことを特徴とする方法。
【請求項２５】
請求項１ないし24のいずれかに記載の方法において、該方法では3Dカメラが使用され、該3Dカメラは例えば、飛行時間カメラのように光の伝播時間を計測して前記距離マップを割り出すカメラ等であることを特徴とする方法。
【請求項２６】
請求項１ないし25のいずれかに記載の方法を実行する手段を有する機構。
【請求項２７】
例えば積み荷操作装置等の装置にダウンロードされると、該装置に請求項１ないし25のいずれかに記載の方法を実行させるプログラム命令を含むコンピュータプログラム製品。
【請求項２８】
積み荷操作装置を更新する方法において、該方法では、請求項26に記載の機構または請求項27に記載のコンピュータプログラム製品を前記積み荷操作装置に組み込むことを特徴とする方法。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】００７７
【補正方法】変更
【補正の内容】
【００７７】
図７は、距離マップの領域に基づいてスプレッダ(2)の制御を実施する方法を示す。スプレッダに、１または複数の3Dカメラ(3)およびステイロープ(17)を有する精巧な移送機構を固定することもできる。図７に示す精巧な移送機構は、４本のステイロープ（ステイロープ１、ステイロープ２、ステイロープ３、ステイロープ４）およびスプレッダ(2)の外周角部に設置された3Dカメラ(3)を有する。3Dカメラ(3)は、上述のように設置されてもよい。3Dカメラ(3)を用いて作成された距離マップに基づいてステイロープ(17)を調整し、運搬すべきコンテナ(1)を移動させる。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】００８９
【補正方法】変更
【補正の内容】
【００８９】
座標(x_corner_lower container、y_corner_lower container)は、コンピュータの記憶装置(20)に記憶される。少なくとも２つの別々の角部の座標をコンピュータの記憶装置(20)に記憶した後、続けてステップ908で上側のコンテナ(1’)を下側のコンテナ(1)の上に揃えてもよい。コンピュータ(20)を使用してスプレッダ(2)の横位置を意図的に制御して、下側コンテナ(1)の所望の２つの角部を確実に検出するようにする。言い換えると、コンピュータ制御によって、下側コンテナ(1)の所望の２つの角部が上側のコンテナ(1’)によって絶えず覆われてしまわないことを確実にする。位置合わせを実行して、上側のコンテナ(1’)を、コンピュータ制御(20)などによってコンテナ(1)の上述の少なくとも２つの角部に位置するように制御してもよい：
x_corner_spr -> x_corner_lower container          (2)
y_corner_spr -> y_corner_lower container
ただし、(x_corner_spr、y_corner_spr)とは、測定装置(18、19)によってクレーン(14、15)に関係づけて測定される、運搬すべきコンテナ(1')の角部(22)の水平位置のことであり、(skew)は、測定装置(18、19)によってクレーン(14、15)に関連づけて測定されるスプレッダ(2)のスキューである。このような場合、スプレッダ（および上側コンテナ）の角部は、下側コンテナのちょうど真上にある。あるいは、コンテナをつかむときには、(x_corner_spr、y_corner_spr)とは測定装置(18、19)によってクレーン(14、15)に関連づけて測定されるスプレッダの外周の角部の水平位置のことである。
【手続補正４】
【補正対象書類名】図面
【補正対象項目名】図９
【補正方法】変更
【補正の内容】
【図９】
2015533747.tif 000013
【国際調査報告】
2015533747.tif 000014
2015533747.tif 000015
2015533747.tif 000016
2015533747.tif 000017