(57)【要約】  多くのセンサを用いることなく、クレーンの操作者の負担を軽減するための手段を実現することを目的とする。この目的を達成するために、本発明は一実施形態として判定システム（１）を提案する。判定システム（１）は、クレーン（９２）のジブ（９２２）の先端付近に配置され継続的に下方に撮像を行う撮像装置（１１）と、撮像装置（１１）により撮像された画像を認識し、画像におけるグラブ（９２４）および貨物倉（９１）内の作業者や重機等の対象物の移動状態を特定し、特定した移動状態に基づき近い将来、グラブ（９２４）と対象物とが平面上で接触または近接する可能性の有無を判定する判定装置（１２）を備える。判定装置（１２）は、グラブ（９２４）と対象物の接触または近接の可能性があると判定した場合、クレーン（９２）の操作者に対する通知を行う。
2017141320.tif 000002
【特許請求の範囲】
【請求項１】
クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置により撮像された画像において、予め定められた外観上の特徴を有する対象物と前記吊り荷とを認識する画像認識手段と、  前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記対象物および前記吊り荷の当該画像内における位置とに基づき、前記対象物と前記吊り荷が現時点から予め定められた時間が経過するまでの期間に予め定められた距離より近付くか否かを判定する判定手段と  を備える判定装置。
【請求項２】
前記判定手段は、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記対象物および前記吊り荷の当該画像内における位置とに基づき、現時点から前記予め定められた時間が経過するまでの期間内の複数の時刻における前記対象物および前記吊り荷の位置を推定し、当該推定した位置に基づき前記判定を行う  請求項１に記載の判定装置。
【請求項３】
前記判定手段は、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記吊り荷の当該画像内における位置とに基づき、前記吊り荷の過去の移動経路の近似曲線を特定し、当該特定した近似曲線に基づき、現時点から前記予め定められた時間が経過するまでの期間における前記吊り荷の移動経路を推定する  請求項１または２に記載の判定装置。
【請求項４】
前記クレーンは船舶に配置され、  前記判定手段は、前記画像認識手段により認識された前記吊り荷の画像内における移動の軌跡に含まれる振動成分を特定し、当該特定した振動成分を用いて前記判定を行う  請求項１乃至３のいずれか１項に記載の判定装置。
【請求項５】
前記判定手段は、前記画像認識手段により認識された前記吊り荷の画像内における移動速度に応じて、前記予め定められた距離を変更する  請求項１乃至４のいずれか１項に記載の判定装置。
【請求項６】
前記判定手段は、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記吊り荷の特徴点の位置とに基づき、前記吊り荷を吊っているロープを軸とする前記吊り荷の回転の状態を特定し、当該特定した回転の状態を用いて前記判定を行う  請求項１乃至５のいずれか１項に記載の判定装置。
【請求項７】
前記クレーンは船舶に配置され、  前記画像認識手段は、前記撮像装置により撮像された画像において、予め定められた外観上の特徴を有する前記船舶の構造物の複数の部分を認識し、  前記判定手段は、前記撮像装置により複数の異なる時刻に撮像された画像のうちの一の画像において前記画像認識手段により認識された前記複数の部分の各々の位置と前記撮像装置により複数の異なる時刻に撮像された画像のうちの前記一の画像とは異なる他の画像において前記画像認識手段により認識された前記複数の部分の各々の位置とに基づき、前記一の画像において前記画像認識手段により認識された前記対象物の位置と前記他の画像において前記画像認識手段により認識された前記対象物の位置との関係、および、前記一の画像において前記画像認識手段により認識された前記吊り荷の位置と前記他の画像において前記画像認識手段により認識された前記吊り荷の位置との関係を特定する  請求項１乃至６のいずれか１項に記載の判定装置。
【請求項８】
前記撮像装置により撮像された画像に対し前記判定の結果を表す図形を付加した画像の表示を表示装置に指示する表示指示手段  を備える請求項１乃至７のいずれか１項に記載の判定装置。
【請求項９】
クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置と、  前記撮像装置と通信接続され、前記撮像装置により撮像された画像を表す画像データを前記撮像装置から受信する請求項１乃至８のいずれかに記載の判定装置と  を備える判定システム。
【請求項１０】
コンピュータに、  クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置により撮像された画像において、予め定められた外観上の特徴を有する対象物と前記吊り荷とを認識する処理と、  前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記認識する処理において認識した対象物および前記吊り荷の当該画像内における位置とに基づき、前記対象物と前記吊り荷が現時点から予め定められた時間が経過するまでの期間に予め定められた距離より近付くか否かを判定する処理と  を実行させるためのプログラム。
【請求項１１】
コンピュータに、  クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置により撮像された画像において、予め定められた外観上の特徴を有する対象物と前記吊り荷とを認識する処理と、  前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記認識する処理において認識した対象物および前記吊り荷の当該画像内における位置とに基づき、前記対象物と前記吊り荷が現時点から予め定められた時間が経過するまでの期間に予め定められた距離より近付くか否かを判定する処理と  を実行させるためのプログラムを前記コンピュータに読み取り可能に持続的に記憶する記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】  本発明は、クレーンの操作を支援するための判定装置に関する。
【背景技術】
【０００２】  ジブの旋回および起伏が可能なクレーンの操作を行う際、操作者は、吊り荷が落下した場合に備え、吊り荷が作業者や重機等の対象物の真上付近を通過しないように細心の注意を払わなければならない。【０００３】  上述したクレーンの操作者の負担を軽減するための技術が提案されている。例えば、特許文献１には、カメラにより吊り荷の上方から下方に向けて撮像したクレーン周辺領域の画像から作業者のヘルメットを認識し、認識したヘルメットの画像をクレーン周辺領域の画像に表示するように構成された安全確認装置が提案されている。【０００４】  特許文献１に記載の安全確認装置は、ジブ（ブーム）の長さ、仰角、方位に基づき算出した吊り荷位置を中心とした危険領域を設定し、危険領域内において認識された作業者のヘルメットを他のヘルメットと異なる色で表示する等により、クレーンの操作者に対し危険領域内に作業者がいることを通知する。特許文献１に記載の安全確認装置は、ワイヤ張力から特定される吊り荷重量と、ワイヤ繰り出し長さ等から特定される吊り荷高さにより危険領域の広さを変更する。また、特許文献１に記載の安全確認装置は、センサにより計測された風向および風速により危険領域の位置の補正を行う。さらに、特許文献１に記載の安全確認装置は、ジブの旋回等に応じて危険領域をジブの移動方向に拡張する。
【先行技術文献】
【非特許文献】
【０００５】
【特許文献１】特開２０１０−２４１５４８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】  特許文献１に記載の安全確認装置によれば、クレーンの操作者は危険領域内にいる作業者を容易に知ることができ、細心の注意を払うことなく危険回避のための操作を行うことができる。しかしながら、特許文献１に記載の安全確認装置においては、ジブの長さ、仰角、方位、ワイヤ張力、ワイヤ繰り出し長さ、風向、風速、ジブの旋回等の制御情報といった多くの種類の情報が利用される。従って、特許文献１に記載の安全確認装置を実現するためには、多くのセンサを導入する必要がある。【０００７】  本発明は、多くのセンサを用いることなく、クレーンの操作者の負担を軽減するための手段を実現することを目的とする。
【課題を解決するための手段】
【０００８】  上述した課題を解決するために、本発明は、クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置により撮像された画像において、予め定められた外観上の特徴を有する対象物と前記吊り荷とを認識する画像認識手段と、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記対象物および前記吊り荷の当該画像内における位置とに基づき、前記対象物と前記吊り荷が現時点から予め定められた時間が経過するまでの期間に予め定められた距離より近付くか否かを判定する判定手段とを備える判定装置を第１の態様として提案する。【０００９】  また、本発明は、上記の第１の態様において、前記判定手段は、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記対象物および前記吊り荷の当該画像内における位置とに基づき、現時点から前記予め定められた時間が経過するまでの期間内の複数の時刻における前記対象物および前記吊り荷の位置を推定し、当該推定した位置に基づき前記判定を行う、という構成を第２の態様として提案する。【００１０】  また、本発明は、上記の第１または第２の態様において、前記判定手段は、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記吊り荷の当該画像内における位置とに基づき、前記吊り荷の過去の移動経路の近似曲線を特定し、当該特定した近似曲線に基づき、現時点から前記予め定められた時間が経過するまでの期間における前記吊り荷の移動経路を推定する、という構成を第３の態様として提案する。【００１１】  また、本発明は、上記の第１乃至第３のいずれかの態様において、前記クレーンは船舶に配置され、前記判定手段は、前記画像認識手段により認識された前記吊り荷の画像内における移動の軌跡に含まれる振動成分を特定し、当該特定した振動成分を用いて前記判定を行う、という構成を第４の態様として提案する。【００１２】  また、本発明は、上記の第１乃至第４のいずれかの態様において、前記判定手段は、前記画像認識手段により認識された前記吊り荷の画像内における移動速度に応じて、前記予め定められた距離を変更する、という構成を第５の態様として提案する。【００１３】  また、本発明は、上記の第１乃至第５のいずれかの態様において、前記判定手段は、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記吊り荷の特徴点の位置とに基づき、前記吊り荷を吊っているロープを軸とする前記吊り荷の回転の状態を特定し、当該特定した回転の状態を用いて前記判定を行う、という構成を第６の態様として提案する。【００１４】  また、本発明は、上記の第１乃至第６のいずれかの態様において、前記クレーンは船舶に配置され、前記画像認識手段は、前記撮像装置により撮像された画像において、予め定められた外観上の特徴を有する前記船舶の構造物の複数の部分を認識し、前記判定手段は、前記撮像装置により複数の異なる時刻に撮���された画像のうちの一の画像において前記画像認識手段により認識された前記複数の部分の各々の位置と前記撮像装置により複数の異なる時刻に撮像された画像のうちの前記一の画像とは異なる他の画像において前記画像認識手段により認識された前記複数の部分の各々の位置とに基づき、前記一の画像において前記画像認識手段により認識された前記対象物の位置と前記他の画像において前記画像認識手段により認識された前記対象物の位置との関係、および、前記一の画像において前記画像認識手段により認識された前記吊り荷の位置と前記他の画像において前記画像認識手段により認識された前記吊り荷の位置との関係を特定する、という構成を第７の態様として提案する。【００１５】  また、本発明は、上記の第１乃至第７のいずれかの態様において、前記撮像装置により撮像された画像に対し前記判定の結果を表す図形を付加した画像の表示を表示装置に指示する表示指示手段、という構成を第８の態様として提案する。【００１６】  また、本発明は、クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置と、前記撮像装置と通信接続され、前記撮像装置により撮像された画像を表す画像データを前記撮像装置から受信する上述した第１乃至第８のいずれかの態様にかかる判定装置とを備える判定システムを第９の態様として提案する。【００１７】  また、本発明は、コンピュータに、クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置により撮像された画像において、予め定められた外観上の特徴を有する対象物と前記吊り荷とを認識する処理と、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記認識する処理において認識した対象物および前記吊り荷の当該画像内における位置とに基づき、前記対象物と前記吊り荷が現時点から予め定められた時間が経過するまでの期間に予め定められた距離より近付くか否かを判定する処理とを実行させるためのプログラムを第１０の態様として提案する。【００１８】  また、本発明は、コンピュータに、クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置により撮像された画像において、予め定められた外観上の特徴を有する対象物と前記吊り荷とを認識する処理と、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記認識する処理において認識した対象物および前記吊り荷の当該画像内における位置とに基づき、前記対象物と前記吊り荷が現時点から予め定められた時間が経過するまでの期間に予め定められた距離より近付くか否かを判定する処理とを実行させるためのプログラムを前記コンピュータに読み取り可能に持続的に記憶する記録媒体を第１１の態様として提案する。
【発明の効果】
【００１９】  本発明の第１の態様にかかる判定装置、または、第９の態様にかかる判定システムによれば、吊り荷の上方から下方に向けて撮像された画像を用いて、現在の操作を続けた場合、吊り荷と対象物が接触または近接するか否かが判定される。その結果、クレーンの操作者はジブの移動における安全を容易に確保することができる。【００２０】  本発明の第２の態様にかかる判定装置によれば、複数の時刻の各々における吊り荷と対象物の位置に基づき吊り荷と対象物が接触または近接するか否かの判定が行われるため、例えば対象物と吊り荷が時間差で同じ位置を通過すると推定されるような場合であっても、適正な判定が行われる。【００２１】  本発明の第３の態様にかかる判定装置によれば、ジブの旋回等により吊り荷が直線的な移動をしない場合であっても、吊り荷と対象物が接触または近接するか否かが適正に判定される。【００２２】  本発明の第４の態様にかかる判定装置によれば、吊り荷と対象物が接触または近接するか否かの判定において、クレーンが設置された船舶の揺れが考慮される。その結果、クレーンの操作者は必ずしも船舶の揺れの状態に細心の注意を払うことなく、ジブの移動における安全を確保することができる。【００２３】  本発明の第５の態様にかかる判定装置によれば、吊り荷と対象物が接触または近接するか否かの判定において、吊り荷の移動速度が考慮される。その結果、クレーンの操作者は安全を確保しつつ、高速にジブの移動の操作を行うことができる。【００２４】  本発明の第６の態様にかかる判定装置によれば、吊り荷と対象物が接触または近接するか否かの判定において、吊り荷の回転の状態が考慮される。その結果、クレーンの操作者は必ずしも吊り荷の回転の状態に細心の注意を払うことなく、ジブの移動における安全を確保することができる。【００２５】  本発明の第７の態様にかかる判定装置によれば、画像における吊り荷や対象物の位置の変化に含まれる撮像位置や撮像方向の変化に伴う要素が除去されるため、例えばジブが高速で移動し撮像位置が大きく変化するような場合であっても、吊り荷と対象物が接触または近接するか否かが適正に判定される。【００２６】  本発明の第８の態様にかかる判定装置によれば、クレーンの操作者は表示装置に表示される画像を見ることにより、吊り荷と対象物が接触または近接する危険性の有無を知ることができる。【００２７】  本発明の第９の態様にかかるプログラムまたは第１０の態様にかかる記録媒体によれば、本発明の第１の態様にかかる判定装置がコンピュータにより実現される。
【図面の簡単な説明】
【００２８】
【図１】一実施形態にかかる判定システムと当該判定システムの搭載された船舶を模式的に示した図。
【図２】一実施形態にかかる判定装置のハードウェアとして用いられるコンピュータの基本構成を示した図。
【図３】一実施形態にかかる判定装置の機能構成を示した図。
【図４】一実施形態にかかる記憶手段に記憶される画像テーブルのデータ構造を例示した図。
【図５】一実施形態にかかる記憶手段に記憶される吊り荷位置テーブルおよび対象物位置テーブルのデータ構造を例示した図。
【図６】一実施形態にかかる記憶手段に記憶される構造物位置テーブルのデータ構造を例示した図。
【図７Ａ】一実施形態にかかる判定手段が行う処理のフローを示した図。
【図７Ｂ】一実施形態にかかる判定手段が行う処理のフローを示した図。
【図８】一実施形態にかかる表示指示手段の指示に従い表示装置が表示する画像を例示した図。
【図９】一変形例における判定手段の処理を説明するための図。
【図１０】一変形例における判定手段の処理を説明するための図。
【図１１】一変形例における判定手段の処理を説明するための図。
【図１２】一変形例において用いられる吊り荷位置テーブルのデータ構造を例示した図。
【図１３】一変形例における判定手段の処理を説明するための図。
【図１４】一変形例における判定手段の処理を説明するための図。
【発明を実施するための形態】
【００２９】［実施形態］  以下に、本発明の一実施形態にかかる判定システム１を説明する。図１は、判定システム１と判定システム１の搭載された船舶９を模式的に示した図である。船舶９はバラ積み船であり、複数の貨物倉９１と、複数の貨物倉９１に応じて配置されたクレーン９２を備える。なお、図１においては貨物倉９１およびクレーン９２が各々２つであるが、これらの数は船舶９によって異なる。貨物倉９１は壁面および底面を構成する本体９１１と、本体９１１の上方の開口部であるハッチの周りに設けられたハッチコーミング９１２と、ハッチコーミング９１２の上に配置されたハッチカバー９１３を備える。
【００３０】  図１に例示の貨物倉９１は、船首側と船尾側に配置された２枚のハッチカバー９１３を備え、ハッチカバー９１３の各々はハッチコーミング９１２の上をスライドして、折り畳まれてハッチを覆わない開状態と、展開されてハッチを覆う閉状態の２つの状態をとることができる。図１の右側に例示の貨物倉９１のハッチカバー９１３は開状態であり、左側に例示の貨物倉９１のハッチカバー９１３は閉状態である。
【００３１】  クレーン９２はクレーンポスト９２１と、クレーンポスト９２１から外側に延伸するジブ９２２と、ジブ９２２の先端部付近から下方へと垂れ下がるロープ９２３と、ロープ９２３の先端に取り付けられたグラブ９２４を備える。なお、本実施形態において、クレーン９２の吊り荷はグラブ９２４とグラブ９２４に掴まれた貨物である。
【００３２】  クレーンポスト９２１の上部には操作者がクレーン９２を操作する空間である操作室９２５が設けられている。操作者は操作室９２５から貨物倉９１内の貨物、作業者、重機等の位置や形状、グラブ９２４の位置を目視で確認しながら、操作室９２５内に配置された操作レバー等を操作して、ジブ９２２の旋回、起伏および伸縮、ロープ９２３の繰り出しおよび巻き上げ、グラブ９２４の開閉等の各種操作を行う。
【００３３】  判定システム１は、複数のクレーン９２の各々に応じて配置されている。判定システム１は、ジブ９２２の先端付近に配置され、下方に向かい撮像を行う撮像装置１１と、操作室９２５に配置され、操作者に対し貨物倉９１内の作業者や重機等の対象物とグラブ９２４とが接触または近接する危険性の有無を通知する機能を備えた判定装置１２を備える。
【００３４】  撮像装置１１は、例えば重力により、常に撮像方向（光軸）が鉛直下方向となるように撮像装置１１を吊り下げる取付器具を介してジブ９２２に取り付けられている。撮像装置１１は、例えば所定時間の経過毎に撮像した画像を表す画像データを順次、判定装置１２に送信する。画像データの送受信のため、撮像装置１１と判定装置１２は通信接続されている。撮像装置１１と判定装置１２の通信接続は、例えば光ファイバー等の通信ケーブルを介して行われもよいし、無線により行われてもよい。
【００３５】  本実施形態において、判定装置１２は一般的なコンピュータがプログラムに従う処理を行うことにより実現される。ただし、判定装置１２が専用の装置として構成されてもよい。
【００３６】  図２は、判定装置１２のハードウェアとして用いられるコンピュータ１０の基本構成を示した図である。コンピュータ１０は、各種データを記憶するメモリ１０１、メモリ１０１に記憶されているプログラムに従う各種データ処理を行うプロセッサ１０２、撮像装置１１との間でデータ通信を行うＩＦ（Interface）である通信ＩＦ１０３、ユーザに対し画像を表示する液晶ディスプレイ等の表示装置１０４、ユーザの操作を受け付けるタッチパネル等の操作装置１０５を備える。
【００３７】  なお、コンピュータ１０に内蔵される表示装置１０４に代えて、コンピュータ１０に接続される外付けの表示装置が用いられてもよい。また、コンピュータ１０に内蔵される操作装置１０５に代えて、コンピュータ１０に接続される外付けの操作装置が用いられてもよい。
【００３８】  図３は、判定装置１２の機能構成を示した図である。コンピュータ１０が判定装置１２用のプログラムに従った処理を行うことにより、図３に示される機能構成を備える判定装置１２が実現される。以下に判定装置１２が備える機能構成を説明する。
【００３９】  判定装置１２は、各種データを記憶する記憶手段１２１と、撮像装置１１から画像データを受信する画像データ受信手段１２２と、画像データ受信手段１２２が撮像装置１１から受信した画像データが表す画像において、既知の画像認識処理によりグラブ９２４、貨物倉９１内の作業者や重機等の対象物、船舶９を構成する構造物の特徴部分を各々認識する画像認識手段１２３と、画像認識手段１２３により認識されたグラブ９２４および対象物の現在の移動状態が維持された場合、近い将来、平面上においてそれらが接触または近接するか否かを判定する判定手段１２４と、判定手段１２４による判定の結果等を表す画像の表示を表示装置１０４に対し指示する表示指示手段１２５を備える。
【００４０】  記憶手段１２１には、予め、グラブ９２４の外観上の特徴を示す吊り荷特徴データ、作業者や重機等の対象物の各々に関し当該対象物の外観上の特徴を示す対象物特徴データ、船舶９を構成する複数の部分の各々に関し当該部分の外観上の特徴を示す構造物特徴データが記憶されている。これらのデータは、画像認識手段１２３が撮像装置１１により撮像された画像においてグラブ９２４等の認識を行うために用いられるデータである。
【００４１】  また、記憶手段１２１には、画像データ受信手段１２２により撮像装置１１から受信される画像データが蓄積される。図４は、記憶手段１２１が画像データを蓄積するために用いるテーブルである画像テーブルのデータ構造を例示した図である。画像データ受信手段１２２が撮像装置１１から受信する画像データには、画像データが表す画像の撮像された時刻を示す時刻データが伴っている。画像テーブルは、時刻データを格納する「時刻」フィールドと、画像データを格納する「画像」フィールドを有する。
【００４２】  また、記憶手段１２１には、画像認識手段１２３により認識された吊り荷等の、画像における位置等を示すデータが蓄積される。図５は、記憶手段１２１がグラブ９２４（吊り荷）の位置等を示すデータを蓄積するために用いるテーブルである吊り荷位置テーブル、および、記憶手段１２１が作業者、重機等の対象物の位置等を示すデータを蓄積するために用いるテーブルである対象物位置テーブルのデータ構造を例示した図である。対象物位置テーブルは、画像認識手段１２３により認識された対象物の各々に応じて生成される。
【００４３】  吊り荷位置テーブルおよび対象物位置テーブルは、認識に用いられた画像の撮像時刻を示す時刻データを格納する「時刻」フィールドと、認識された吊り荷または対象物の位置を示す位置データを格納する「位置」フィールドと、認識された吊り荷または対象物のサイズを示すサイズデータを格納する「サイズ」フィールドを有する。「サイズ」フィールドに格納されるサイズデータは、例えば、吊り荷等の認識に用いられた画像における、認識された吊り荷等に外接する円の直径を示す。また、「位置」フィールドに格納される位置データは、例えば、吊り荷等の認識に用いられた画像における、認識された吊り荷等に外接する円の中心位置の座標を示す。
【００４４】  また、記憶手段１２１には、画像認識手段１２３により認識された船舶９を構成する構造物の特徴部分の、画像における位置等を示すデータが蓄積される。図６は、記憶手段１２１が当該特徴部分の位置等を示すデータを蓄積するために用いるテーブルである構造物位置テーブルのデータ構造を例示した図である。構造物位置テーブルは、予め選定された複数の特徴部分の各々に応じて生成される。以下、例として、貨物倉９１のハッチコーミング９１２の４つの角部分のうち船首側かつ右舷側の角部分と、船尾側かつ左舷側の角部分が特徴部分として選定されているものとする。
【００４５】  構造物位置テーブルは、認識に用いられた画像の撮像時刻を示す時刻データを格納する「時刻」フィールドと、認識された特徴部分の位置を示す位置データを格納する「位置」フィールドを有する。「位置」フィールドに格納される位置データは、例えば、特徴部分の認識に用いられた画像における、認識された特徴部分の座標を示す。
【００４６】  図３に戻り、判定装置１２の機能構成の説明を続ける。画像データ受信手段１２２は、既述のとおり、撮像装置１１から順次送信されてくる画像データを受信する。画像データ受信手段１２２により受信された画像データは画像テーブル（図４）に格納される。
【００４７】  画像認識手段１２３は、既述のとおり、既知の画像認識処理により画像データ受信手段１２２が撮像装置１１から受信した画像データが表す画像において、吊り荷特徴データを用いてグラブ９２４を、対象物特徴データを用いて貨物倉９１内の作業者や重機等の対象物を、また、構造物特徴データを用いて特徴部分（ハッチコーミング９１２の２つの角部）を、各々認識する。画像認識手段１２３により認識されたグラブ９２４等の位置等を示すデータは、吊り荷位置テーブル（図５）、対象物位置テーブル（図５）、もしくは構造物位置テーブル（図６）に格納される。
【００４８】  判定手段１２４は、既述のとおり、画像認識手段１２３により認識されたグラブ９２４および対象物の現在の移動状態が維持された場合、近い将来、平面上においてそれらが接触または近接するか否かを判定する。なお、「平面上において接触」とは、三次元空間において接触していなくても、グラブ９２４が対象物の真上を通過するような場合を含むことを意味する。
【００４９】  図７Ａおよび図７Ｂ（以下、「図７」と総称する）は、予め定められた時間の経過毎に判定手段１２４が行う処理のフローを示した図である。判定手段１２４は、まず、吊り荷位置テーブル（図５）から時刻データが示す時刻が２番目に新しいレコード（以下、時刻（ｋ−１）のレコードとする）を読み出し、時刻（ｋ−１）のレコードの位置データが示すグラブ９２４の座標（時刻（ｋ−１）に撮像された画像の座標系における吊り荷の座標）を、最新の画像（時刻（ｋ）に撮像された画像とする）の座標系における座標に変換する処理を行う（ステップＳ１０１）。
【００５０】  ステップＳ１０１の処理における座標の変換は、時刻（ｋ−１）に撮像された画像における複数の特徴部分（ハッチコーミング９１２の２つの角部分）の座標を、時刻（ｋ）に撮像された画像におけるそれらの特徴部分の座標に各々対応させる写像により行われる。具体的には、判定手段１２４は複数の特徴部分の各々に応じた構造物位置テーブル（図６）から時刻（ｋ）および時刻（ｋ−１）のレコードを読み出し、読み出したそれらのレコードの位置データが示す座標を用いた既知の行列計算により、吊り荷位置テーブルから読み出した時刻（ｋ−１）のレコードの位置データが示す座標を変換する。
【００５１】  続いて、判定手段１２４は吊り荷位置テーブル（図５）から時刻（ｔ）のレコードを読み出し、ステップＳ１０１における変換により得られた座標（時刻（ｋ−１）のグラブ９２４の座標）を始点とし、読み出した時刻（ｔ）のレコードの位置データが示す座標（時刻（ｋ）のグラブ９２４の座標）を終点とするベクトルを特定する（ステップＳ１０２）。このベクトルは、現時点におけるグラブ９２４の移動方向および移動速度を示す。判定手段１２４は、ステップＳ１０２において特定したベクトルを示すベクトルデータを一時的に記憶手段１２１に記憶させる。
【００５２】  続いて、判定手段１２４は画像認識手段１２３により認識されている対象物を順次選択するために用いるカウンタｉに初期値「１」を代入する（ステップＳ１０３）。以下、画像認識手段１２３により認識されている対象物の個数をｎとする。
【００５３】  続いて、判定手段１２４は画像認識手段１２３により認識されている対象物のうち第ｉ番目の対象物に関し、ステップＳ１０１およびＳ１０２と同様の処理を行う（ステップＳ１０４およびＳ１０５）。これにより、第ｉ番目の対象物の移動方向および移動速度を示すベクトルが特定される。判定手段１２４は、ステップＳ１０５において特定したベクトルを示すベクトルデータを一時的に記憶手段１２１に記憶させる。
【００５４】  続いて、判定手段１２４はｉ＝ｎであるか否かの判定を行う（ステップＳ１０６）。この判定は、画像認識手段１２３により認識されている全ての対象物に関し移動方向および移動速度を示すベクトルの特定が完了したか否かの判定である。ベクトルが特定されていない対象物がまだある場合（ステップＳ１０６；「Ｎｏ」）、判定手段１２４はカウンタｉを１だけ増加し（ステップＳ１０７）、処理をステップＳ１０４に戻す。
【００５５】  全ての対象物に関するベクトルの特定が完了すると（ステップＳ１０６；「Ｙｅｓ」）、判定手段１２４は続いて、ステップＳ１０２において特定したベクトルが示すグラブ９２４の移動速度に応じた距離の閾値Ｄを設定する（ステップＳ１０８）。閾値Ｄは、グラブ９２４と対象物が平面上でその距離以上に離れていればそれらが接触する危険性がない、とみなせる距離を意味する。グラブ９２４の移動速度が速い程、グラブ９２４またはグラブ９２４が掴んでいる貨物が落下した場合、落下直前のグラブ９２４の位置から遠くまで落下物が到達する可能性がある。従って、判定手段１２４はグラブ９２４の移動速度が大きい程、大きい閾値Ｄを設定する。例えば、判定手段１２４はグラブ９２４の移動速度を変数とする予め定められた関数（グラブ９２４の移動速度の単調増加関数）として閾値Ｄを算出する。
【００５６】  続いて、判定手段１２４は、現時点からの経過時間を示す変数ｔに初期値「０」を代入し、また、グラブ９２４と対象物の接触または近接の警報の要否を示すフラグｆ（１）〜ｆ（ｎ）に初期値「０」を代入する（ステップＳ１０９）。なお、フラグｆ（ｉ）は、第ｉ番目の対象物に応じたフラグである。
【００５７】  続いて、判定手段１２４は変数ｔに予め定められた時間Δｔを加算し（ステップＳ１１０）、変数ｔが予め定められた時間の閾値Ｔより大きいか否かを判定する（ステップＳ１１１）。閾値Ｔは、グラブ９２４と対象物の現時点の移動状態（本実施形態においては、移動方向と移動速度）が維持された場合、仮に現時点からその時間が経過した後に平面上でそれらが接触するとしても、その時間の経過以前にクレーン９２の操作者によりグラブ９２４の移動状態を変更する適切な操作が行われれば接触が確実に回避可能である時間を意味する。
【００５８】  変数ｔが閾値Ｔ以下である場合（ステップＳ１１１；「Ｎｏ」）、判定手段１２４はステップＳ１０２において特定したベクトルが示す移動方向および移動速度が維持されると仮定して、現時点より時間ｔが経過した時点のグラブ９２４の位置（時刻（ｋ）に撮像された画像の座標系における座標）を推定する（ステップＳ１１２）。
【００５９】  続いて、判定手段１２４はカウンタｉに初期値「１」を代入する（ステップＳ１１３）。続いて、判定手段１２４は第ｉ番目の対象物に関し、ステップＳ１１２と同様の処理、すなわち、ステップＳ１０５において特定したベクトルが示す移動方向および移動速度が維持されると仮定して、現時点より時間ｔが経過した時点の対象物の位置（時刻（ｋ）に撮像された画像の座標系における座標）を推定する（ステップＳ１１４）。
【００６０】  続いて、判定装置１２はステップＳ１１２において推定したグラブ９２４の位置と、ステップＳ１１４において推定した第１番目の対象物の位置と間の距離ｄがステップＳ１０８において設定した閾値Ｄ未満であるか否かを判定する（ステップＳ１１５）。現時点より時間ｔが経過した時点におけるグラブ９２４の位置と第１番目の対象物の位置と間の距離ｄが閾値Ｄ未満である場合（ステップＳ１１５；「Ｙｅｓ」）、判定手段１２４はフラグｆ（ｉ）に警告を要することを示す「１」を代入する（ステップＳ１１６）。一方、現時点より時間ｔが経過した時点におけるグラブ９２４の位置と第１番目の対象物の位置と間の距離ｄが閾値Ｄ以上である場合（ステップＳ１１５；「Ｎｏ」）、判定手段１２４はフラグｆ（ｉ）に変更を加えない。
【００６１】  続いて、判定手段１２４はｉ＝ｎであるか否かの判定を行う（ステップＳ１１７）。ｉ＜ｎの場合（ステップＳ１１７；「Ｎｏ」）、判定手段１２４はカウンタｉを１だけ増加し（ステップＳ１１８）、処理をステップＳ１１４に戻す。その後、別の対象物に関しステップＳ１１４以降の処理が繰り返され、グラブ９２４との接触または近接の可能性が判定される。一方、ｉ＝ｎの場合（ステップＳ１１７；「Ｙｅｓ」）、判定手段１２４は処理をステップＳ１１０に戻す。その後、さらに時間ｔが経過した時点におけるグラブ９２４とｎ個の対象物の各々との接触または近接の可能性が判定される。
【００６２】  ステップＳ１１１の判定において、変数ｔが閾値Ｔを超えた場合（ステップＳ１１１；「Ｙｅｓ」）、判定手段１２４はその時点におけるフラグｆ（１）〜ｆ（ｎ）を一時的に記憶手段１２１に記憶させ、一連の処理を終了する。
【００６３】  上述した一連の処理により、グラブ９２４およびｎ個の対象物の各々の移動方向および移動速度を示すベクトルが特定されるとともに、ｎ個の対象物の各々に関し、現時点から閾値Ｔの時間が経過するまでの間にグラブ９２４と当該対象物とが接触または近接する可能性の有無を示すフラグｆ（１）〜ｆ（ｎ）が得られる。以上が判定手段１２４により行われる処理の説明である。
【００６４】  図３に戻り、判定装置１２の機能構成の説明を続ける。表示指示手段１２５は、既述のとおり、判定手段１２４による判定の結果等を表す画像の表示を表示装置１０４に対し指示する。図８は、表示指示手段１２５の指示に従い表示装置１０４が表示する画像を例示した図である。図８の画像は、撮像装置１１により撮像された最新の画像からハッチコーミング９１２で囲まれた領域を切り出したものの上に、グラブ９２４および対象物の各々に外接する円と、それらの移動方向および移動速度を示す矢印とを付加した画像である。
【００６５】  表示指示手段１２５は、予め定められた時間の経過毎に、以下の処理を行い表示装置１０４に表示を指示する画像を生成する。まず、表示指示手段１２５は以下のデータを読み出す。（ａ）画像テーブル（図４）の最新のレコードに格納されている画像データ（ｂ）吊り荷位置テーブル（図５）の最新のレコードに格納されている位置データとサイズデータ（ｃ）対象物位置テーブル（図５）の各々の最新のレコードに格納されている位置データとサイズデータ（ｄ）記憶手段１２１に一時的に記憶されている、グラブ９２４に応じたベクトルデータ（ｅ）記憶手段１２１に一時的に記憶されている、対象物の各々に応じたベクトルデータ（ｆ）記憶手段１２１に一時的に記憶されている、フラグｆ（１）〜ｆ（ｎ）（ｇ）構造物位置テーブル（図６）の各々の最新のレコードに格納されている位置データ
【００６６】  続いて、表示指示手段１２５は、上記（ａ）で読み出した画像データが表す画像の上に、上記（ｂ）で読み出した位置データが示す位置が中心であり、上記（ｂ）で読み出したサイズデータが示す直径の円を付加する。また、表示指示手段１２５は、上記（ｄ）で読み出したベクトルデータが示すベクトルに応じた方向および長さの矢印を、当該付加した円から外側に延びるように付加する。その際、上記（ｆ）で読み出したフラグｆ（１）〜ｆ（ｎ）の全てが「０」を示す場合、表示指示手段１２５は例えば青色の円および矢印を付加し、いずれかのフラグが「１」を示す場合、表示指示手段１２５は例えば赤色の円および矢印を付加する。
【００６７】  続いて、表示指示手段１２５は、複数の対象物の各々に関し、上記（ｃ）で読み出した位置データが示す位置が中心であり、上記（ｃ）で読み出したサイズデータが示す直径の円を付加し、上記（ｅ）で読み出したベクトルデータが示すベクトルに応じた方向および長さの矢印を、当該付加した円から外側に延びるように付加する。その際、上記（ｆ）で読み出したフラグｆ（１）〜ｆ（ｎ）のうち円および矢印を付加する対象物に応じたフラグが「０」を示す場合、表示指示手段１２５は例えば青色の円および矢印を付加し、対象物に応じたフラグが「１」を示す場合、表示指示手段１２５は例えば赤色の円および矢印を付加する。
【００６８】  続いて、表示指示手段１２５は上記のように円および矢印を付加した画像のうち、上記（ｇ）で読み出した位置データが示す２つの位置（ハッチコーミング９１２の船首側かつ右舷側の角部分および船尾側かつ左舷側の角部分の位置）を結ぶ線分を対角線とする矩形領域を切り出す。
【００６９】  続いて、表示指示手段１２５は、切り出した矩形領域の画像を予め定められたサイズとなるように拡大または縮小する。その際、表示指示手段１２５は画像に付加した円や矢印の線の太さが拡大または縮小の比率にかかわらず同一となるように調整する。表示指示手段１２５は、このように生成した画像を表示装置１０４に出力し、当該画像の表示を指示する。その結果、図８に例示されるような画像が表示装置１０４により表示される。
【００７０】  操作者は、クレーン９２を操作する際、表示装置１０４により表示される画像（図８）を見ることにより、グラブ９２４の移動方向および移動速度と、貨物倉９１の作業者や重機等の対象物の各々の移動方向および移動速度とを直観的に知ることができるとともに、グラブ９２４が対象物の各々と接触または近接する可能性があるか否かを直観的に知ることができる。例えば、操作者は表示装置１０４に赤い円や矢印が表示されていない間は自由にクレーン９２の操作を行うことができるため、作業効率が上がる。そして、表示装置１０４に赤い円や矢印が表示された場合には、ジブ９２２の移動速度を落としたり、移動方向を変更したりすることで、グラブ９２４と対象物との接触や近接を回避することができる。このように、上述した実施形態にかかる判定システム１によれば、クレーン９２の操作者の負担が軽減されるとともに、作業効率の向上と安全の確保が実現する。
【００７１】［変形例］  上述した実施形態は本発明の技術的思想の範囲内において様々に変形可能である。以下にそれらの変形の例を示す。なお、これらの変形例は適宜組み合わせられてもよい。
【００７２】（１）上述した実施形態において、判定手段１２４は、吊り荷および対象物の現時点における移動方向と移動速度が現時点から時間の閾値Ｔが経過する期間（以下、便宜的に「将来の期間」という）、維持されると仮定して、吊り荷および対象物の将来の位置を推定する。判定手段１２４が吊り荷および対象物の将来における位置を推定する方法はこれに限られない。
【００７３】  例えば、判定手段１２４が、吊り荷および対象物の過去の位置の経時変化に基づき、移動方向と移動速度に加え、移動における加速度を特定して、特定した加速度が将来の期間においても維持されると仮定して、吊り荷および対象物の将来の位置を推定してもよい。
【００７４】  また、判定手段１２４が、吊り荷の過去の位置の経時変化により示される移動経路の近似曲線を既知の手法により吊り荷の移動状態を表す情報として特定し、特定した近似曲線に基づき、吊り荷の将来の期間における移動経路を推定してもよい。図９はこの変形例において判定手段１２４が行う処理を説明するための図である。図９に示される実線の曲線ＡＢは現時点に至るまでの過去の期間においてグラブ９２４が移動した経路を示している。なお、点Ｂがグラブ９２４の現時点における位置である。
【００７５】  判定手段１２４は、曲線ＡＢの近似曲線を特定する。図９に示される破線の曲線ＡＣは、判定手段１２４により特定された近似曲線の例を示している。なお、グラブ９２４の移動経路は、ジブ９２２の旋回に伴うクレーンポスト９２１の軸を中心とする円に沿った移動の成分、ジブ９２２の起伏や伸縮に伴うクレーンポスト９２１の軸を中心とする円の半径方向に沿った移動の成分等の組み合わせにより定まる。従って、クレーンの吊り荷の移動経路の近似曲線としては、多項式曲線等の非線形曲線が用いられることが望ましい。
【００７６】  判定手段１２４は将来の期間、特定した近似曲線に沿って吊り荷が移動した場合の吊り荷の将来における位置を推定し、そのように推定した位置を用いて吊り荷と対象物との接触または近接の判断を行う。
【００７７】  また、判定手段１２４が、吊り荷の画像内における移動の軌跡に含まれる振動成分を吊り荷の移動状態を表す情報として特定し、特定した振動成分を用いて吊り荷と対象物との接触または近接の判断を行ってもよい。
【００７８】  図９に示される実線の曲線ＡＢは、過去に撮像された複数の画像の各々の座標系におけるグラブ９２４の座標を、最新の画像の座標系における座標に変換したものを補間して得られた曲線である。図１０は、過去に撮像された複数の画像の各々の座標系における画像の中心点の座標を最新の画像の座標系における座標に変換したものを始点とし、過去に撮像された複数の画像の各々の座標系におけるグラブ９２４の座標を最新の画像の座標系における座標に変換したものを終点とするベクトルの経時変化を示した図である。図１０に示されるベクトルの方向は概ね１時３０分と７時３０分の方向であり、それらのベクトルの長さは周期的に増減している。
【００７９】  この変形例において、判定手段１２４は図１０に例示したような経時変化するベクトルを特定し、特定したベクトルの方向と、ベクトルの長さの増減の周期および振幅とをグラブ９２４の振動成分を表す情報として特定する。判定手段１２４は吊り荷が将来の期間、そのように特定した方向、周期および振幅の振動を継続すると仮定して、吊り荷の将来における位置を推定し、そのように推定した位置を用いて、吊り荷と対象物との接触または近接の判断を行う。
【００８０】  図１１に示される破線の曲線ＡＣは、図９に示した破線の近似曲線ＡＣに対し、上記のように特定される振動成分を付加して得られる曲線である。判定手段１２４は、吊り荷が図１１に示される破線の曲線ＡＣに沿って吊り荷が移動した場合の吊り荷の将来における位置を推定し、そのように推定した位置を用いて吊り荷と対象物との接触または近接の判断を行う。
【００８１】  なお、図１０に例示のベクトルは概ね方向が一致しているが、吊り荷の振動面が回転する場合、ベクトルの方向が時間の経過に伴い概ね一定の角速度で変化する。従って、判定手段１２４が吊り荷の移動の軌跡に含まれる振動成分を表す情報として、現時点における振動の方向、周期および振幅に加えて、振動の方向の変化率（角速度）を特定し、吊り荷と対象物との接触または近接の判断に用いてもよい。
【００８２】  また、判定手段１２４が、画像認識手段１２３により認識された吊り荷の特徴点の位置に基づき、ロープ９２３を軸とする吊り荷の回転の状態を示す情報を吊り荷の移動状態を表す情報として特定し、特定した吊り荷の回転の状態を示す情報を用いて吊り荷と対象物との接触または近接の判断を行ってもよい。
【００８３】  図１２は、この変形例において用いられる吊り荷位置テーブルのデータ構造を例示した図である。この変形例においては、画像認識手段１２３により認識された吊り荷の位置として、中心位置に加え、ロープ９２３と吊り荷の連結点の位置（連結点位置）と、吊り荷の四隅の位置（第１角位置〜第４角位置）が特定される。
【００８４】  図１３は、吊り荷位置テーブル（図１２）に格納される連結点位置の座標と第１角位置の座標とを最新の画像の座標系における座標に変換し、変換後の連結点位置の座標を始点とし、変換後の第１角位置の座標を終点とするベクトルの経時変化を示した図である。図１３に示されるベクトルの方向は概ね１１時の方向と１時の方向との間で周期的に変化している。
【００８５】  この変形例において、判定手段１２４は図１３に例示したような経時変化するベクトルを特定し、特定したベクトルの方向の変化の方向および変化の速度（角速度）を、ロープ９２３を軸とする吊り荷の回転の状態を示す情報として特定する。なお、図１３に例示のようにベクトルの方向が一定の角度範囲内で周期的に変化する場合、判定手段１２４はその角度範囲と周期を回転の状態を示す情報として特定する。また、ベクトルの方向が概ね一定の角速度で同一方向に変化する場合、判定手段１２４はその回転の方向と速度（角速度）を回転の状態を示す情報として特定する。
【００８６】  図１４は、吊り荷がグラブ９２４ではなく長尺の部材である場合を例として、吊り荷がロープ９２３を軸とする回転を伴いながら移動する様子を示した図である。図１４において、実線で示される矩形は画像認識手段１２３により認識された吊り荷の過去の位置（姿勢）を示し、破線で示される曲線は吊り荷の中心の移動経路の近似曲線を示している。また、図１４において破線で示される矩形は、将来の期間において吊り荷の中心が近似曲線に沿って移動し、かつ、上述したように特定される回転の状態が将来の期間において維持されると仮定した場合の、吊り荷の将来の位置（姿勢）を示す。
【００８７】  判定手段１２４は、図１４において破線の矩形で示される吊り荷の位置（姿勢）を推定し、推定した吊り荷の位置（姿勢）に基づき、吊り荷と対象物との接触または近接の判断を行う。
【００８８】（２）上述した実施形態においては、吊り荷の高さは考慮されない。吊り荷が移動中に落下した場合、吊り荷の高さが高い程、吊り荷は落下中に遠くまで移動する。従って、判定手段１２４が吊り荷の高さを特定し、特定した吊り荷の高さを用いて吊り荷と対象物との接触または近接の判断を行ってもよい。
【００８９】  吊り荷が高い程、画像において船舶９の構造物のサイズに対する吊り荷のサイズが大きくなる。従って、例えば、判定手段１２４が、画像認識手段１２３により画像において認識される船舶９の構造物の２つの特徴部分（例えば、ハッチコーミング９１２の２つの角部分）の間の距離に対する吊り荷のサイズの比率を算出し、当該比率が大きい程、距離の閾値Ｄを大きく設定する構成が採用されてもよい。
【００９０】（３）判定装置１２が、判定手段１２４による判定の結果に応じた音の発音を発音装置に指示する発音指示手段を備えてもよい。
【００９１】（４）判定装置１２が、判定手段１２４による判定の結果に応じた制御の実行をクレーン９２の制御装置に指示する制御指示手段を備えてもよい。例えば、判定手段１２４が、上述した実施形態において用いられる距離の閾値Ｄに加え、閾値Ｄよりも小さい値の距離の閾値Ｅを設定し、閾値Ｅの距離よりも吊り荷と対象物が近接すると推定された場合、制御指示手段がジブ９２２の移動の速度を低下させる制御をクレーン９２の制御装置に指示する構成が採用されてもよい。
【００９２】（５）上述した実施形態において吊り荷はグラブであるものとしたが、吊り荷の形態や種類は限定されない。
【００９３】（６）本発明にかかる判定システムの用途は船舶に搭載されているクレーンに限られず、例えば地上で用いられるクレーンにおいて本発明にかかる判定システムが採用されてもよい。
【符号の説明】
【００９４】１…判定システム、９…船舶、１０…コンピュータ、１１…撮像装置、１２…判定装置、９１…貨物倉、９２…クレーン、１０１…メモリ、１０２…プロセッサ、１０３…通信ＩＦ、１０４…表示装置、１０５…操作装置、１２１…記憶手段、１２２…画像データ受信手段、１２３…画像認識手段、１２４…判定手段、１２５…表示指示手段、９１１…本体、９１２…ハッチコーミング、９１３…ハッチカバー、９２１…クレーンポスト、９２２…ジブ、９２３…ロープ、９２４…グラブ、９２５…操作室
【図１】
2017141320.tif 000003
【図２】
2017141320.tif 000004
【図３】
2017141320.tif 000005
【図４】
2017141320.tif 000006
【図５】
2017141320.tif 000007
【図６】
2017141320.tif 000008
【図７Ａ】
2017141320.tif 000009
【図７Ｂ】
2017141320.tif 000010
【図８】
2017141320.tif 000011
【図９】
2017141320.tif 000012
【図１０】
2017141320.tif 000013
【図１１】
2017141320.tif 000014
【図１２】
2017141320.tif 000015
【図１３】
2017141320.tif 000016
【図１４】
2017141320.tif 000017
【手続補正書】
【提出日】平成29年1月17日(2017.1.17)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置により撮像された画像において、予め定められた外観上の特徴を有する対象物と前記吊り荷とを認識する画像認識手段と、
前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記対象物および前記吊り荷の当該画像内における位置とに基づき、前記対象物と前記吊り荷が現時点から予め定められた時間が経過するまでの期間に予め定められた距離より近付くか否かを判定する判定手段と
を備える判定装置。
【請求項２】
前記判定手段は、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記対象物および前記吊り荷の当該画像内における位置とに基づき、現時点から前記予め定められた時間が経過するまでの期間内の複数の時刻の各々における前記対象物および前記吊り荷の位置を推定し、当該推定した位置に基づき前記判定を行う
請求項１に記載の判定装置。
【請求項３】
前記判定手段は、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記吊り荷の当該画像内における位置とに基づき、前記吊り荷の過去の移動経路の近似曲線を特定し、当該特定した近似曲線に基づき、現時点から前記予め定められた時間が経過するまでの期間における前記吊り荷の移動経路を推定する
請求項１または２に記載の判定装置。
【請求項４】
前記クレーンは船舶に配置され、
前記判定手段は、前記画像認識手段により認識された前記吊り荷の画像内における移動の軌跡に含まれる振動成分を特定し、当該特定した振動成分を用いて前記判定を行う
請求項１乃至３のいずれか１項に記載の判定装置。
【請求項５】
前記判定手段は、前記画像認識手段により認識された前記吊り荷の画像内における移動速度に応じて、前記予め定められた距離を変更する
請求項１乃至４のいずれか１項に記載の判定装置。
【請求項６】
前記判定手段は、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記吊り荷の特徴点の位置とに基づき、前記吊り荷を吊っているロープを軸とする前記吊り荷の回転の状態を特定し、当該特定した回転の状態を用いて前記判定を行う
請求項１乃至５のいずれか１項に記載の判定装置。
【請求項７】
前記クレーンは船舶に配置され、
前記画像認識手段は、前記撮像装置により撮像された画像において、予め定められた外観上の特徴を有する前記船舶の構造物の複数の部分を認識し、
前記判定手段は、前記撮像装置により複数の異なる時刻に撮像された画像のうちの一の画像において前記画像認識手段により認識された前記複数の部分の各々の位置と前記撮像装置により複数の異なる時刻に撮像された画像のうちの前記一の画像とは異なる他の画像において前記画像認識手段により認識された前記複数の部分の各々の位置とに基づき、前記一の画像において前記画像認識手段により認識された前記対象物の位置と前記他の画像において前記画像認識手段により認識された前記対象物の位置との関係、および、前記一の画像において前記画像認識手段により認識された前記吊り荷の位置と前記他の画像において前記画像認識手段により認識された前記吊り荷の位置との関係を特定する
請求項１乃至６のいずれか１項に記載の判定装置。
【請求項８】
前記撮像装置により撮像された画像に対し前記判定の結果を表す図形を付加した画像の表示を表示装置に指示する表示指示手段
を備える請求項１乃至７のいずれか１項に記載の判定装置。
【請求項９】
クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置と、
前記撮像装置と通信接続され、前記撮像装置により撮像された画像を表す画像データを前記撮像装置から受信する請求項１乃至８のいずれかに記載の判定装置と
を備える判定システム。
【請求項１０】
コンピュータに、
クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置により撮像された画像において、予め定められた外観上の特徴を有する対象物と前記吊り荷とを認識する処理と、
前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記認識する処理において認識した対象物および前記吊り荷の当該画像内における位置とに基づき、前記対象物と前記吊り荷が現時点から予め定められた時間が経過するまでの期間に予め定められた距離より近付くか否かを判定する処理と
を実行させるためのプログラム。
【請求項１１】
コンピュータに、
クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置により撮像された画像において、予め定められた外観上の特徴を有する対象物と前記吊り荷とを認識する処理と、
前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記認識する処理において認識した対象物および前記吊り荷の当該画像内における位置とに基づき、前記対象物と前記吊り荷が現時点から予め定められた時間が経過するまでの期間に予め定められた距離より近付くか否かを判定する処理と
を実行させるためのプログラムを前記コンピュータに読み取り可能に持続的に記憶する記録媒体。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】０００９
【補正方法】変更
【補正の内容】
【０００９】
また、本発明は、上記の第１の態様において、前記判定手段は、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記対象物および前記吊り荷の当該画像内における位置とに基づき、現時点から前記予め定められた時間が経過するまでの期間内の複数の時刻の各々における前記対象物および前記吊り荷の位置を推定し、当該推定した位置に基づき前記判定を行う、という構成を第２の態様として提案する。
【手続補正書】
【提出日】平成29年11月1日(2017.11.1)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置により撮像された画像において、予め定められた外観上の特徴を有する対象物と前記吊り荷とを認識する画像認識手段と、
前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記対象物および前記吊り荷の当該画像内における位置とに基づき、現時点から前記予め定められた時間が経過するまでの期間内の複数の時刻の各々における前記対象物および前記吊り荷の位置を推定し、当該推定した位置に基づき、前記対象物と前記吊り荷が現時点から予め定められた時間が経過するまでの期間に予め定められた距離より近付くか否かを判定する判定手段と
を備える判定装置。
【請求項２】
前記判定手段は、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記吊り荷の当該画像内における位置とに基づき、前記吊り荷の過去の移動経路の近似曲線を特定し、当該特定した近似曲線に基づき、現時点から前記予め定められた時間が経過するまでの期間における前記吊り荷の移動経路を推定する
請求項１に記載の判定装置。
【請求項３】
前記クレーンは船舶に配置され、
前記判定手段は、前記画像認識手段により認識された前記吊り荷の画像内における移動の軌跡に含まれる振動成分を特定し、当該特定した振動成分を用いて前記判定を行う
請求項１または２に記載の判定装置。
【請求項４】
前記判定手段は、前記画像認識手段により認識された前記吊り荷の画像内における移動速度に応じて、前記予め定められた距離を変更する
請求項１乃至３のいずれか１項に記載の判定装置。
【請求項５】
前記判定手段は、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記吊り荷の特徴点の位置とに基づき、前記吊り荷を吊っているロープを軸とする前記吊り荷の回転の状態を特定し、当該特定した回転の状態を用いて前記判定を行う
請求項１乃至４のいずれか１項に記載の判定装置。
【請求項６】
船舶に配置されたクレーンに設置され、前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置により撮像された画像において、予め定められた外観上の特徴を有する対象物と前記吊り荷と前記船舶の構造物の複数の部分とを認識する画像認識手段と、
前記撮像装置により複数の異なる時刻に撮像された画像のうちの一の画像において前記画像認識手段により認識された前記複数の部分の各々の位置と前記撮像装置により複数の異なる時刻に撮像された画像のうちの前記一の画像とは異なる他の画像において前記画像認識手段により認識された前記複数の部分の各々の位置とに基づき、前記一の画像において前記画像認識手段により認識された前記対象物の位置と前記他の画像において前記画像認識手段により認識された前記対象物の位置との関係、および、前記一の画像において前記画像認識手段により認識された前記吊り荷の位置と前記他の画像において前記画像認識手段により認識された前記吊り荷の位置との関係を特定し、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記対象物および前記吊り荷の当該画像内における位置とに基づき、前記対象物と前記吊り荷が現時点から予め定められた時間が経過するまでの期間に予め定められた距離より近付くか否かを判定する判定手段と
を備える判定装置。
【請求項７】
前記撮像装置により撮像された画像に対し前記判定の結果を表す図形を付加した画像の表示を表示装置に指示する表示指示手段
を備える請求項１乃至６のいずれか１項に記載の判定装置。
【請求項８】
クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置と、
前記撮像装置と通信接続され、前記撮像装置により撮像された画像を表す画像データを前記撮像装置から受信する請求項１乃至７のいずれか１項に記載の判定装置と
を備える判定システム。
【請求項９】
コンピュータに、
クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置により撮像された画像において、予め定められた外観上の特徴を有する対象物と前記吊り荷とを認識する処理と、
前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記認識する処理において認識した対象物および前記吊り荷の当該画像内における位置とに基づき、現時点から前記予め定められた時間が経過するまでの期間内の複数の時刻の各々における前記対象物および前記吊り荷の位置を推定する処理と、
前記推定した位置に基づき、前記対象物と前記吊り荷が現時点から予め定められた時間が経過するまでの期間に予め定められた距離より近付くか否かを判定する処理と
を実行させるためのプログラム。
【請求項１０】
コンピュータに、
クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置により撮像された画像において、予め定められた外観上の特徴を有する対象物と前記吊り荷とを認識する処理と、
前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記認識する処理において認識した対象物および前記吊り荷の当該画像内における位置とに基づき、現時点から前記予め定められた時間が経過するまでの期間内の複数の時刻の各々における前記対象物および前記吊り荷の位置を推定する処理と、
前記推定した位置に基づき、前記対象物と前記吊り荷が現時点から予め定められた時間が経過するまでの期間に予め定められた距離より近付くか否かを判定する処理と
を実行させるためのプログラムを前記コンピュータに読み取り可能に持続的に記憶する記録媒体。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】０００８
【補正方法】変更
【補正の内容】
【０００８】
上述した課題を解決するために、本発明は、クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置により撮像された画像において、予め定められた外観上の特徴を有する対象物と前記吊り荷とを認識する画像認識手段と、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記対象物および前記吊り荷の当該画像内における位置とに基づき、現時点から前記予め定められた時間が経過するまでの期間内の複数の時刻の各々における前記対象物および前記吊り荷の位置を推定し、当該推定した位置に基づき、前記対象物と前記吊り荷が現時点から予め定められた時間が経過するまでの期間に予め定められた距離より近付くか否かを判定する判定手段とを備える判定装置を第１の態様として提案する。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】０００９
【補正方法】削除
【補正の内容】
【手続補正４】
【補正対象書類名】明細書
【補正対象項目名】００１０
【補正方法】変更
【補正の内容】
【００１０】
また、本発明は、上記の第１の態様において、前記判定手段は、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記吊り荷の当該画像内における位置とに基づき、前記吊り荷の過去の移動経路の近似曲線を特定し、当該特定した近似曲線に基づき、現時点から前記予め定められた時間が経過するまでの期間における前記吊り荷の移動経路を推定する、という構成を第２の態様として提案する。
【手続補正５】
【補正対象書類名】明細書
【補正対象項目名】００１１
【補正方法】変更
【補正の内容】
【００１１】
また、本発明は、上記の第１または第２のいずれかの態様において、前記クレーンは船舶に配置され、前記判定手段は、前記画像認識手段により認識された前記吊り荷の画像内における移動の軌跡に含まれる振動成分を特定し、当該特定した振動成分を用いて前記判定を行う、という構成を第３の態様として提案する。
【手続補正６】
【補正対象書類名】明細書
【補正対象項目名】００１２
【補正方法】変更
【補正の内容】
【００１２】
また、本発明は、上記の第１乃至第３のいずれかの態様において、前記判定手段は、前記画像認識手段により認識された前記吊り荷の画像内における移動速度に応じて、前記予め定められた距離を変更する、という構成を第４の態様として提案する。
【手続補正７】
【補正対象書類名】明細書
【補正対象項目名】００１３
【補正方法】変更
【補正の内容】
【００１３】
また、本発明は、上記の第１乃至第４のいずれかの態様において、前記判定手段は、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記吊り荷の特徴点の位置とに基づき、前記吊り荷を吊っているロープを軸とする前記吊り荷の回転の状態を特定し、当該特定した回転の状態を用いて前記判定を行う、という構成を第５の態様として提案する。
【手続補正８】
【補正対象書類名】明細書
【補正対象項目名】００１４
【補正方法】変更
【補正の内容】
【００１４】
また、本発明は、船舶に配置されたクレーンに設置され、前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置により撮像された画像において、予め定められた外観上の特徴を有する対象物と前記吊り荷と前記船舶の構造物の複数の部分とを認識する画像認識手段と、前記撮像装置により複数の異なる時刻に撮像された画像のうちの一の画像において前記画像認識手段により認識された前記複数の部分の各々の位置と前記撮像装置により複数の異なる時刻に撮像された画像のうちの前記一の画像とは異なる他の画像において前記画像認識手段により認識された前記複数の部分の各々の位置とに基づき、前記一の画像において前記画像認識手段により認識された前記対象物の位置と前記他の画像において前記画像認識手段により認識された前記対象物の位置との関係、および、前記一の画像において前記画像認識手段により認識された前記吊り荷の位置と前記他の画像において前記画像認識手段により認識された前記吊り荷の位置との関係を特定し、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記画像認識手段により認識された前記対象物および前記吊り荷の当該画像内における位置とに基づき、前記対象物と前記吊り荷が現時点から予め定められた時間が経過するまでの期間に予め定められた距離より近付くか否かを判定する判定手段とを備える判定装置を第７の態様として提案する。
【手続補正９】
【補正対象書類名】明細書
【補正対象項目名】００１５
【補正方法】変更
【補正の内容】
【００１５】
また、本発明は、上記の第１乃至第６のいずれかの態様において、前記撮像装置により撮像された画像に対し前記判定の結果を表す図形を付加した画像の表示を表示装置に指示する表示指示手段、という構成を第７の態様として提案する。
【手続補正１０】
【補正対象書類名】明細書
【補正対象項目名】００１６
【補正方法】変更
【補正の内容】
【００１６】
また、本発明は、クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置と、前記撮像装置と通信接続され、前記撮像装置により撮像された画像を表す画像データを前記撮像装置から受信する上述した第１乃至第７のいずれかの態様にかかる判定装置とを備える判定システムを第８の態様として提案する。
【手続補正１１】
【補正対象書類名】明細書
【補正対象項目名】００１７
【補正方法】変更
【補正の内容】
【００１７】
また、本発明は、コンピュータに、クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置により撮像された画像において、予め定められた外観上の特徴を有する対象物と前記吊り荷とを認識する処理と、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記認識する処理において認識した対象物および前記吊り荷の当該画像内における位置とに基づき、現時点から前記予め定められた時間が経過するまでの期間内の複数の時刻の各々における前記対象物および前記吊り荷の位置を推定する処理と、前記推定した位置に基づき、前記対象物と前記吊り荷が現時点から予め定められた時間が経過するまでの期間に予め定められた距離より近付くか否かを判定する処理とを実行させるためのプログラムを第９の態様として提案する。
【手続補正１２】
【補正対象書類名】明細書
【補正対象項目名】００１８
【補正方法】変更
【補正の内容】
【００１８】
また、本発明は、コンピュータに、クレーンに設置され前記クレーンの吊り荷の上方から下方に向かい撮像を行う撮像装置により撮像された画像において、予め定められた外観上の特徴を有する対象物と前記吊り荷とを認識する処理と、前記撮像装置により複数の異なる時刻に撮像された画像の各々に関する、当該画像の撮像の時刻と、前記認識する処理において認識した対象物および前記吊り荷の当該画像内における位置とに基づき、現時点から前記予め定められた時間が経過するまでの期間内の複数の時刻の各々における前記対象物および前記吊り荷の位置を推定する処理と、前記推定した位置に基づき、前記対象物と前記吊り荷が現時点から予め定められた時間が経過するまでの期間に予め定められた距離より近付くか否かを判定する処理とを実行させるためのプログラムを前記コンピュータに読み取り可能に持続的に記憶する記録媒体を第１０の態様として提案する。
【手続補正１３】
【補正対象書類名】明細書
【補正対象項目名】００１９
【補正方法】変更
【補正の内容】
【００１９】
本発明の第１の態様にかかる判定装置、または、第８の態様にかかる判定システムによれば、吊り荷の上方から下方に向けて撮像された画像を用いて、現在の操作を続けた場合、吊り荷と対象物が接触または近接するか否かが判定される。また、複数の時刻の各々における吊り荷と対象物の位置に基づき吊り荷と対象物が接触または近接するか否かの判定が行われるため、例えば対象物と吊り荷が時間差で同じ位置を通過すると推定されるような場合であっても、適正な判定が行われる。その結果、クレーンの操作者はジブの移動における安全を容易に確保することができる。
【手続補正１４】
【補正対象書類名】明細書
【補正対象項目名】００２０
【補正方法】削除
【補正の内容】
【手続補正１５】
【補正対象書類名】明細書
【補正対象項目名】００２１
【補正方法】変更
【補正の内容】
【００２１】
本発明の第２の態様にかかる判定装置によれば、ジブの旋回等により吊り荷が直線的な移動をしない場合であっても、吊り荷と対象物が接触または近接するか否かが適正に判定される。
【手続補正１６】
【補正対象書類名】明細書
【補正対象項目名】００２２
【補正方法】変更
【補正の内容】
【００２２】
本発明の第３の態様にかかる判定装置によれば、吊り荷と対象物が接触または近接するか否かの判定において、クレーンが設置された船舶の揺れが考慮される。その結果、クレーンの操作者は必ずしも船舶の揺れの状態に細心の注意を払うことなく、ジブの移動における安全を確保することができる。
【手続補正１７】
【補正対象書類名】明細書
【補正対象項目名】００２３
【補正方法】変更
【補正の内容】
【００２３】
本発明の第４の態様にかかる判定装置によれば、吊り荷と対象物が接触または近接するか否かの判定において、吊り荷の移動速度が考慮される。その結果、クレーンの操作者は安全を確保しつつ、高速にジブの移動の操作を行うことができる。
【手続補正１８】
【補正対象書類名】明細書
【補正対象項目名】００２４
【補正方法】変更
【補正の内容】
【００２４】
本発明の第５の態様にかかる判定装置によれば、吊り荷と対象物が接触または近接するか否かの判定において、吊り荷の回転の状態が考慮される。その結果、クレーンの操作者は必ずしも吊り荷の回転の状態に細心の注意を払うことなく、ジブの移動における安全を確保することができる。
【手続補正１９】
【補正対象書類名】明細書
【補正対象項目名】００２５
【補正方法】変更
【補正の内容】
【００２５】
本発明の第６の態様にかかる判定装置によれば、画像における吊り荷や対象物の位置の変化に含まれる撮像位置や撮像方向の変化に伴う要素が除去されるため、例えばジブが高速で移動し撮像位置が大きく変化するような場合であっても、吊り荷と対象物が接触または近接するか否かが適正に判定される。
【手続補正２０】
【補正対象書類名】明細書
【補正対象項目名】００２６
【補正方法】変更
【補正の内容】
【００２６】
本発明の第７の態様にかかる判定装置によれば、クレーンの操作者は表示装置に表示される画像を見ることにより、吊り荷と対象物が接触または近接する危険性の有無を知ることができる。
【手続補正２１】
【補正対象書類名】明細書
【補正対象項目名】００２７
【補正方法】変更
【補正の内容】
【００２７】
本発明の第８の態様にかかるプログラムまたは第９の態様にかかる記録媒体によれば、本発明の第１の態様にかかる判定装置がコンピュータにより実現される。
【国際調査報告】
2017141320.tif 000018
2017141320.tif 000019