(57)【要約】【課題】俯瞰画像を用いながらも車体周辺情報を運転者にとって視認しやすい形態でモニタ表示できる技術の提供。【解決手段】車体１の周辺を撮影する複数のカメラ４と、作業走行状況を検出する作業走行状況検出センサ群９と、作業走行状況検出センサ群９からの検出信号に基づいて注目領域を決定する注目領域決定部と、複数のカメラ４のうち注目領域が撮影視野に入っているカメラ４の撮影画像を優先表示画像とする優先表示画像決定部と、少なくとも優先表示画像を表示するモニタ７３と、衛星測位データに基づいて車体の位置を算出する自車位置算出部と、を備え、作業走行状況検出センサ群９に車体周辺の障害物を検出する障害物検出センサが含まれており、注目領域決定部は、障害物検出センサによって障害物が検出された場合には、障害物と車体１との距離に応じて注目領域を決定する。【選択図】図１
2020175890.tif 000002
【特許請求の範囲】
【請求項１】
車体の周辺を撮影する複数のカメラと、
作業走行状況を検出する作業走行状況検出センサ群と、
前記作業走行状況検出センサ群からの検出信号に基づいて注目領域を決定する注目領域決定部と、
前記複数のカメラのうち前記注目領域が撮影視野に入っているカメラの撮影画像を優先表示画像とする優先表示画像決定部と、
少なくとも前記優先表示画像を表示するモニタと、
衛星測位データに基づいて前記車体の位置を算出する自車位置算出部と、を備え、
前記作業走行状況検出センサ群に前記車体周辺の障害物を検出する障害物検出センサが含まれており、
前記注目領域決定部は、前記障害物検出センサによって前記障害物が検出された場合には、前記障害物と前記車体との距離に応じて前記注目領域を決定する作業車。
【請求項２】
前記複数のカメラの撮影画像を視点変換して合成することで前記車体周辺の俯瞰画像を生成する俯瞰画像生成部と、
前記俯瞰画像を表示する第１表示領域と前記優先表示画像を表示する第２表示領域とに区分けされたモニタ表示画面を生成するモニタ画面生成部と、を備え、
前記モニタ表示画面が前記モニタに表示される請求項１に記載の作業車。
【請求項３】
前記作業走行状況検出センサ群に前記車体の前進走行と後進走行とを検出する進行方向検出センサが含まれており、前記注目領域決定部は、前進走行が検出されている場合には前進方向に向き合う領域を前記注目領域とし、後進走行が検出されている場合には後進方向に向き合う領域を前記注目領域とする請求項１または２に記載の作業車。
【請求項４】
前記障害物検出センサによって前記障害物が検出された場合には前記障害物の検出方向に向き合う領域を前記注目領域とする請求項１から３のいずれか一項に記載の作業車。
【請求項５】
２台以上の前記カメラにおいて前記注目領域が撮影視野に入っている場合、当該カメラの撮影画像が順次一定時間毎に前記優先表示画像となる請求項１から４のいずれか一項に記載の作業車。
【請求項６】
２台以上の前記カメラにおいて前記注目領域が撮影視野に入っている場合、当該カメラの撮影画像を合成した合成画像が前記優先表示画像となる請求項１から４のいずれか一項に記載の作業車。
【請求項７】
前記注目領域が決定不能の場合、前記複数のカメラにおける全てのカメラの撮影画像が順次一定時間毎に前記優先表示画像となる請求項１から６のいずれか一項に記載の作業車。
【請求項８】
前記車体に姿勢変更機構を介して作業装置が装備され、かつ
前記カメラの少なくとも１つが作業装置カメラとして前記作業装置に取り付けられ、前記作業装置カメラは、撮影方向を維持するように前記作業装置の姿勢変更に応じて姿勢変更される請求項１から７のいずれか一項に記載の作業車。
【請求項９】
少なくとも１つの前記障害物検出センサが作業装置障害物検出センサとして前記作業装置に取り付けられ、
前記作業装置障害物検出センサは、前記障害物の検出方向を維持するように前記作業装置の姿勢変更に応じて姿勢変更される請求項８に記載の作業車。
【請求項１０】
前記複数のカメラの撮影画像を視点変換して合成することで前記車体周辺の俯瞰画像を生成する俯瞰画像生成部と、
前記俯瞰画像を表示する第１表示領域と前記優先表示画像を表示する第２表示領域とに区分けされたモニタ表示画面を生成するモニタ画面生成部と、を備え、
前記モニタ表示画面が前記モニタに表示され、
前記作業走行状況検出センサ群に前記車体の走行速度を検出する車速検出センサが含まれており、前記車速検出センサによって検出された前記走行速度に応じて、前記優先表示画像の前記第２表示領域への表示拡縮率が変動する請求項１から９のいずれか一項に記載の作業車。
【請求項１１】
作業走行中に前記障害物検出センサによって前記障害物が検出され、かつ、前記障害物が作業地内にある場合は、減速または停車され、前記障害物が検出されても前記障害物が作業地外にある場合は作業が維持される請求項１から１０のいずれか一項に記載の作業車。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、自車の周辺を俯瞰画像としてモニタに表示することができる作業車に関する。
【背景技術】
【０００２】
特許文献１によるコンバインは、４台のカメラで取得した自車の周囲画像から、自車を上方から見た擬似的な画像である俯瞰画像を生成し、さらに記憶部に記憶された自車の平面視画像とクローラ部の位置を示す画像とクローラ部の左右方向の端部を前方に延長した線であるクローラ仮想延長部とを俯瞰画像に合成し、表示する。その際、コンバインが前進中であると判断された場合クローラ仮想延長部は前方へ延長して表示され、コンバインが後進中と判断された場合クローラ仮想延長部は後方へ延長して表示される。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１５−１０４３７５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
上述したような作業車（コンバイン）では、表示された俯瞰画像を通じて、クローラ部周辺が直感的に把握することができる。しかしながら、複数のカメラからの撮影画像の合成画像である俯瞰画像は、車体から比較的近距離の範囲しかカバーできず、また、俯瞰画像は視点変換による変形を受けているので、俯瞰画像における被写体の状況を正確に確認することは困難である。
このような実情から、俯瞰画像を用いながらも車体周辺情報を運転者にとって視認しやすい形態でモニタ表示できる技術が要望されている。
【課題を解決するための手段】
【０００５】
本発明による作業車は、車体の周辺を撮影する複数のカメラと、作業走行状況を検出する作業走行状況検出センサ群と、前記作業走行状況検出センサ群からの検出信号に基づいて注目領域を決定する注目領域決定部と、前記複数のカメラのうち前記注目領域が撮影視野に入っているカメラの撮影画像を優先表示画像とする優先表示画像決定部と、前記複数のカメラの撮影画像を視点変換して合成することで車体周辺の俯瞰画像を生成する俯瞰画像生成部と、前記俯瞰画像を表示する第１表示領域と前記優先表示画像を表示する第２表示領域とに区分けされたモニタ表示画面を生成するモニタ画面生成部と、前記モニタ表示画面を表示するモニタとを備えている。
【０００６】
この構成によれば、この作業車の作業走行の状態を検出する種々のセンサ群から出力される検出信号に基づいて、その時点で運転者が注目すべき領域が決定され、その注目すべき領域を含む撮影画像が俯瞰画像とともにモニタに表示される。作業車の場合、道路を走行する乗用車などに比べ、頻繁に行われる、進行方向の切替、操舵動作、車速変更、作業装置の動作などによって、車体の全周囲において注目すべき領域が時々刻々で変化する。したがって、そのような運転者が注目すべき領域は、作業走行状況を検出するセンサ群からの検出信号と密接に関係している。このことから、注目領域決定部によって決定された注目領域を含む優先表示画像が俯瞰画像とともにモニタ表示されることで、運転者は、俯瞰画像から車体の周辺領域の様子を知るとともに、優先表示画像から特に注目すべき領域も同時に知ることができる。
【０００７】
作業車の作業走行において、運転者がまず意識しなければならないのは、走行方向に向き合う領域（前進走行なら車体前方領域）の様子である。このことから、本発明の好適な実施形態の１つでは、前記作業走行状況検出センサ群に前記車体の前進走行と後進走行とを検出する進行方向検出センサが含まれており、前記注目領域決定部は、前進走行が検出されている場合には前進方向に向き合う領域を前記注目領域とし、後進走行が検出されている場合には後進方向に向き合う領域を前記注目領域とする。作業車では、前進と後進とが繰り返されることも少なくないので、作業車の進行方向(前進または後進)によって自動的に進行方向に向き合う領域を映し出している撮影画像を優先表示画像としてモニタで確認できることは、好都合である。
【０００８】
道路などとは異なり、作業地には、境界柵や畦などを含め、種々の走行障害物が存在している。このため、作業走行状況検出センサとして障害物検出センサが搭載されることが多い。しかしながら、障害物検出センサが何らかの物体を検出した信号を出力した際、停車すべきか、あるいはそのまま進むべきか、あるいは方向転換によって回避するべきかを運転者が判断するためには、目視することが重要である。また、照準方向が異なる複数の障害物検出センサが装備されている場合、どの方向を注視すべきかを、咄嗟に判断できない場合がある。このため、本発明の好適な実施形態の１つでは、前記作業走行状況検出センサ群に前記車体周辺の障害物を検出する障害物検出センサが含まれており、前記障害物検出センサによって障害物が検出された場合には前記障害物の検出方向に向き合う領域を前記注目領域とする。これにより、障害物を検出した障害物検出センサの照準先の領域を映し出している撮影画像が優先表示画像としてモニタ表示されるので、好都合である。
【０００９】
作業地での作業走行の場合、作業地外に存在する障害物は無視することができる。一般に、障害物検出センサによる検出信号から障害物までの距離を算出することが可能である。したがって、衛星測位システムなどを用いて自車位置を地図座標で算出する機能が作業車に備えられていると、障害物が作業地内存在するか作業地外に存在するかを判定することが可能である。このことから、本発明の好適な実施形態の１つでは、衛星測位データに基づいて前記車体の位置を算出する自車位置算出部が備えられ、かつ前記障害物検出センサによって検出された前記障害物と車体との距離が、前記車体と作業地の境界線までの距離より長い場合、前記注目領域が取り消される。これにより、不要な障害物をモニタに表示する無駄がなくなる。
【００１０】
隣接するカメラの撮影視野の一部が互いに重なりあうように配置されている場合、それぞれのカメラの撮影画像が重なり合う領域が注目領域とみなされることがある。このような場合、どちらの撮影画像がより有効であるかどうかを判定することは困難である。その際、有効な方策の１つは、２台以上の前記カメラにおいて前記注目領域が撮影視野に入っている場合、当該カメラの撮影画像が順次一定時間毎に前記優先表示画像となるように構成することである。もう１つの方策は、２台以上の前記カメラにおいて前記注目領域が撮影視野に入っている場合、当該カメラの撮影画像を合成した合成画像が前記優先表示画像となる構成することである。その際、それぞれの撮影画像を当該カメラの台数で按分した部分ずつ（例えば、当該カメラが２台の場合にはそれぞれの撮影画像の半分ずつ）を合成すると、画像が縮小されないので好都合である。このような方策を好適な実施形態として採用することで、運転者が確実に注目領域を確認することが可能となる。
【００１１】
注目領域が決定できない場合、つまり、複数の撮影画像において、その注目度に明確な差がない場合の解決策として、本発明の好適な実施形態の１つでは、前記注目領域が決定不能の場合、前記複数のカメラにおける全てのカメラの撮影画像が順次一定時間毎に前記優先表示画像として順番に表示される。
【００１２】
車体に対して姿勢変更する作業装置が装備される作業車がある。そのような作業車の作業装置に、カメラ取り付けられている場合、作業装置が姿勢変更することで、カメラの撮影方向も変化し、最適な領域を撮影することができなくなる。このことを避けるため、本発明の好適な実施形態の１つでは、前記車体に姿勢変更機構を介して作業装置が装備され、かつ前記カメラの少なくとも１つが作業装置カメラとして前記作業装置に取り付けられ、前記作業装置カメラは、前記撮影方向を維持するように前記作業装置の姿勢変更に応じて姿勢変更される。さらに、そのような作業装置に障害物検出センサも取り付けられている場合、障害物検出センサの検出方向も作業装置の姿勢変更にかかわらず、最適な方向を維持する必要がある。このため、本発明の好適な実施形態の１つでは、前記車体に姿勢変更機構を介して作業装置が装備され、かつ少なくとも１台の前記カメラが作業装置カメラとして前記作業装置に取り付けられるとともに、少なくとも１つの前記障害物検出センサが障害物検出センサとして前記作業装置に取り付けられ、前記作業装置カメラは、撮影方向を維持するように前記作業装置の姿勢変更に応じて姿勢変更されるとともに、前記障害物検出センサは、前記障害物の検出方向を維持するように前記作業装置の姿勢変更に応じて姿勢変更される。
【００１３】
作業車は、作業に応じて、超低速から中速まで広い速度範囲で走行する。超低速では、優先表示画像としてモニタに表示される撮像画面の時間当たりの移動が小さく、画面は流れにくいが、速度が速くなるほど、撮像画面の時間当たりの移動が大きく、画面が流れていく。このため、走行速度が大きくなれば、１つの画面で大きな領域を捉えた方が好ましいので、本発明の好適な実施形態の１つでは、前記作業走行状況検出センサ群に前記車体の走行速度を検出する車速検出センサが含まれており、前記車速検出センサによって検出された前記走行速度に応じて、前記優先表示画像の前記第２表示領域への表示拡縮率が変動するように構成されている。
【図面の簡単な説明】
【００１４】
【図１】複数のカメラによる自車周辺の撮影画像に基づく俯瞰画像と優先表示画像とをモニタに表示する基本技術を説明する説明図である。
【図２】作業車の一例であるトラクタの側面図である。
【図３】トラクタの制御系を示す機能ブロック図である。
【図４】昇降する作業装置に取り付けられたカメラ及び障害物検出センサの利用形態を説明する説明図である。
【図５】昇降する作業装置に取り付けられたカメラ及び障害物検出センサの別の利用形態を説明する説明図である。
【発明を実施するための形態】
【００１５】
本発明による作業車の具体的な実施形態を説明する前に、図１を用いて、作業車に取り付けられた複数のカメラによる自車周辺の撮影画像に基づき、俯瞰画像と優先表示画像とを、モニタに表示する基本技術を説明する。
【００１６】
この作業車は、前後進可能な車体１を備え、車体１には作業装置３０が装備されている。車体には、４台のカメラ４が取り付けられている。カメラ４は、車体１の前部、車体１の左側部、車体１の右側部、車体の後部に配置されている。各カメラ４は、広角レンズを備えており、４台のカメラ４によって車体１の全周域を撮影視野に収めることができる。車体１の全周域を撮影視野に収めることができる限りは、カメラ４の台数を減らすことも可能である。また、カメラ４の台数を増やして、車体１の全周域をより密な撮影方向から撮影するような構成を採用してもよい。また、カメラ４は車体１以外に、作業装置３０に配置してもよい。
【００１７】
作業車は、種々の作業走行状況下で作業走行する。作業走行状況には、走行方向、操舵方向、車速状態、作業装置状態、作業地状態などが含まれている。これらの作業走行状況は、種々のセンサによって検出されるが、ここでは、これらのセンサをまとめて作業走行状況検出センサ群９と称している。作業走行状況検出センサ群９には障害物検出センサが含まれている場合、作業車の周囲に存在する障害物を検出することができる。障害物検出センサは、超音波ビーム、光ビーム、レーザビームなどを用いたものが採用され、障害物を検出するとともに、その検出信号を用いて車体１と障害物との間の距離を算出することが可能である。
【００１８】
この作業車には、地図上の座標位置（以下、自車位置とも称する）を算出する衛星測位機能も備えられている。
【００１９】
４台のカメラ４によって取得された撮影画像（図１ではカメラ毎の撮影画像を区別するために符号Ａ〜Ｄを付与している）は、車体１の上方に位置する視点からの画像に変換され、合成されることで、車体１が中央にくる俯瞰画像が生成される。この俯瞰画像はモニタ画面に表示され、運転者の周囲状況監視を支援する。モニタ画面は隣り合う２つの表示領域に区分けされており、一方の表示領域Ｍ１に俯瞰画像が表示される。他方の表示領域Ｍ２には、４台のカメラ４によって取得された撮影画像のうちの１つ、または２つの撮影画像の合成画像が表示される。この他方の表示領域に表示される撮影画像をここでは、優先表示画像と称する。
【００２０】
車体１の全周囲において最も注目すべき領域（注目領域）が撮影視野に入っているカメラ４の撮影画像が、優先表示画像として選択される。優先表示画像は、運転者の判断に基づいて手動で選択することも可能であるが、作業車の場合、運転者が行うべきことが多いので、運転者の負担を減らすために、本発明では、作業走行の状況に応じて自動的に注目領域が決定され、優先表示画像が選択される。もちろん、運転者により選択指示（例えば、Ａ〜Ｄの選択ボタンによる）により、運転者が所望する撮影画像を優先表示画像としてモニタ表示することも可能である。
【００２１】
作業走行の状況は、作業走行状況検出センサ群９からの検出信号によって把握することができ、その結果から、その時点での最も注目すべき領域を決定することができる。この注目領域の決定アルゴリズムとして、以下に２つの方式を例示する。
（１）ルール方式
ルール方式では、１つ以上の特定の作業状況検出センサが特定の作業走行状態を検出したことを条件として、車体周辺の特定領域を注目領域と見なし、当該特定領域を撮影視野とするカメラ４の撮影画像を優先画像とし、モニタ７３の、俯瞰画像を表示している第１表示領域の隣に位置する第２表示領域に表示する。例えば、（１−１）車体１の前進走行と後進走行とを検出する進行方向検出センサが車体１の前進走行を検出した場合には、前進方向に向き合う領域を注目領域とする。これにより、当該領域を含む撮影画像（前方を撮影視野としているカメラ４の撮影画像）をモニタ７３に表示する。逆に、車体１の後進走行が検出後進走行を検出した場合には、後進方向に向き合う領域を注目領域とし、当該領域を含む撮影画像（後方を撮影視野としているカメラ４の撮影画像）をモニタ７３に表示する。類似例として、操舵方向検出センサが左方向への操舵を検出した場合には、車体１の左側を注目領域とし、左側部を撮影視野とするカメラ４の撮影画像がモニタ７３に表示される。その際、車体１の左前方を注目領域とし、前方を撮影視野とするカメラ４の撮影画像の左半分と左側部を撮影視野とするカメラ４の撮影画像の上半分とを合成した画像を優先表示画像として、モニタ７３に表示してもよい。同様に、操舵方向検出センサが右方向への操舵を検出した場合には、車体１の右側を注目領域とし、右側部を撮影視野とするカメラ４の撮影画像がモニタ７３に表示される。なお、操舵方向による優先表示画像の決定において、車体１の右前方（または左前方）を注目領域とし、前方を撮影視野とするカメラ４の撮影画像の右半分（または左半分）と右側方（または左側方）を撮影視野とするカメラ４の撮影画像の上半分とを合成した画像を優先表示画像として、モニタ７３に表示してもよい。
【００２２】
（１−２）車体周辺の障害物を検出する障害物検出センサが障害物を検出した場合には、障害物の検出方向に向き合う領域を注目領域とし、当該注目領域を撮影視野としているカメラ４の撮影画像をモニタ７３に表示する。なお、障害物検出センサの検出信号に基づいて算出された車体１から障害物の距離と方向と、衛星測位機能によって算出される自車位置とを組み合わせると、障害物の地図座標位置を求めることができる。したがって、検出された障害物が作業地外に位置している場合、当該障害物が作業走行の邪魔にはならないので、この注目領域は無視するようにすることも可能である。
【００２３】
（２）機械学習方式
ルール方式では、１つ以上の特定の作業走行状況検出センサの検出結果と、注目領域とを予めリンクしているので、制御的には簡単であり、制御負担が軽いという利点がある。しかしながら、作業走行において注目すべき領域は、多くの条件によって影響される。例えば、左側に操舵する場合でも、その操舵角や車速や装備している作業装置３０の姿勢などによっては、左側領域や左前方領域ではなく、車体１や作業装置３０の尻振りをチェックするため右側後方領域を注目したい場合がある。また、前進走行においても、作業種類や車速などによっては、前方領域よりむしろ後方領域を注目したい場合もある。このことから、作業状況検出センサ群を構成する多数のセンサの検出信号（検出結果）を入力パラメータとして、注目領域を出力するような制御システムを構築する。その際、運転者の個性等も考慮する場合には、運転者により実際の作業走行を行い、種々の作業走行状況でどの領域を注目したいのかを学習させて、制御パラメータを決定する構成も可能である。
【００２４】
注目したい領域が複数の場合、複数の撮影画像を合成して優先表示画像とするのではなく、当該撮影画像を順次一定時間毎に優先表示画像として、順番に循環させて、モニタ表示してもよい。その際、注目度レベルが算出可能であれば、注目度レベルに応じて表示時間に差をつけてもよい。また、注目領域が決定不能の場合や、注目領域の決定機能が動作していないような場合には、全てのカメラ４の撮影画像を順次一定時間毎に優先表示画像とし、順番に循環させて、モニタ表示してもよい。
【００２５】
次に、図面を用いて、本発明による作業車の具体的な実施形態の１つを説明する。この実施形態では、作業車は、畦によって境界づけられた圃場（作業地）に対して走行作業を行うトラクタである。図２に示されているように、このトラクタは、前輪１１と後輪１２とによって支持された車体１の中央部に操縦部２０が設けられている。車体１の後部には油圧式の昇降機構（姿勢変更機構の一種）３１を介してロータリ耕耘装置である作業装置３０が装備されている。前輪１１は操向輪として機能し、その操舵角を変更することでトラクタの走行方向が変更される。前輪１１の操舵角は操舵機構１３の動作によって変更される。操舵機構１３には自動操舵のための操舵モータ１４が含まれている。手動走行の際には、前輪１１の操舵は操縦部２０に配置されているステアリングホイール２２の操作によって可能である。トラクタのキャビン２１には、ＧＮＳＳ（global navigation satellite system）モジュールとして構成されている衛星測位モジュール８０が設けられている。衛星測位モジュール８０の構成要素として、ＧＰＳ（global positioning system）信号やＧＮＳＳ信号を受信するための衛星用アンテナがキャビン２１の天井領域に取り付けられている。なお、衛星測位モジュール８０には、衛星航法を補完するために、ジャイロ加速度センサや磁気方位センサを組み込んだ慣性航法モジュールを含めることができる。
もちろん、慣性航法モジュールは、衛星測位モジュール８０とは別の場所に設けてもよい。
【００２６】
さらに、車体１に車体周囲を撮影するための４台のカメラ４が取り付けられている。第１のカメラ４は車体前部（ボンネット）の中央に配置され、第２のカメラ４と第３のカメラ４とは車体左右の側部（後輪フェンダ）に配置され、第４のカメラ４は車体後部（キャビネット後端）の中央に配置されている。各カメラ４は、ＣＣＤ（charge coupled device）やＣＩＳ（CMOS image sensor）などの撮像素子を用いて、毎秒１５〜３０フレームの２次元画像を時系列に撮影し、デジタル変換してその撮影画像をリアルタイムに出力する。各カメラ４の撮影光軸は撮影視野に車体１や作業装置３０の一部と圃場面とが入るように下方に向けられるとともに、広角レンズが装着されることで、４台のカメラ４によって取得される撮影画像は車体付近の全周領域をカバーすることができる。さらに、この実施形態では、各カメラ４に隣接して、レーザレーダとして構成された障害物検出センサ９０が取り付けられている。各障害物検出センサ９０は、９０°を超えるスキャンレンジを有することで、４つの障害物検出センサ９０によって車体付近の全周領域に存在する障害物を検出することができる。
【００２７】
図３には、このトラクタに構築されている制御系が示されている。この制御系には、図１を用いて説明された、複数のカメラ４による自車周辺の撮影画像に基づく俯瞰画像と優先表示画像とをモニタ７３に表示する基本技術が組み込まれている。この制御系の中核要素である制御ユニット５には、入出力インタフェースとして機能する、出力処理部７、入力処理部８、通信処理部７０が備えられている。出力処理部７は、車両走行機器群７１、作業装置機器群７２、液晶などのフラットパネルから構成されるモニタ７３などと接続している。図示されていないが、出力処理部７は、運転者や監視者に作業走行上の注意を促すための報知を行うランプやスピーカとも接続している。車両走行機器群７１には、操舵モータ１４をはじめ、図示されていないが、変速機構やエンジンユニットなど車両走行のために制御される機器が含まれている。作業装置機器群７２には、作業装置３０の駆動機構や、作業装置３０を昇降させる昇降機構３１などが含まれている。
【００２８】
通信処理部７０は、無線通信規格や有線通信規格を通じて外部のコンピュータとデータのやり取りを行う。図３では、外部のコンピュータとして、遠隔地の管理センタＫＳ等に構築された管理コンピュータ１００及び運転者や監視者が携帯するタブレットコンピュータやスマートフォン（モバイルフォン）からなる携帯端末１０１が示されている。
【００２９】
入力処理部８は、上述したカメラ４、衛星測位モジュール８０、自動／手動切替操作具８３、作業走行状況検出センサ群９などと接続している。作業走行状況検出センサ群９には、走行系検出センサ群８１や作業系検出センサ群８２のほか、上述した障害物検出センサ９０も含まれている。走行系検出センサ群８１には、操舵角やエンジン回転数や変速状態などの走行状態を検出するセンサが含まれている。作業系検出センサ群８２には、作業装置３０の地上高さや傾きを検出するセンサ、作業負荷などを検出するセンサなどが含まれている。自動／手動切替操作具８３は、自動操舵で走行する自動走行モードと手動操舵で走行する手動操舵モードとのいずれかを選択するスイッチである。例えば、自動操舵モードで走行中に自動／手動切替操作具８３を操作することで、手動操舵での走行に切り替えられ、手動操舵での走行中に自動／手動切替操作具８３を操作することで、自動操舵での走行に切り替えられる。
【００３０】
制御ユニット５には、図１を用いて説明された基本技術を実現するための中核機能として、監視画像処理モジュール６と障害物検出処理部５５とモニタ画面生成部５６とが構築されている。そのほか、制御ユニット５には、走行制御部５０、作業制御部５３、自車位置算出部５４、作業地管理部５７、経路生成部５８が備えられている。
【００３１】
車両走行機器群７１を制御する走行制御部５０は、このトラクタが自動走行（自動操舵）と手動走行（手動操舵）の両方で走行可能に構成されているため、手動走行制御部５１と自動走行制御部５２とが含まれている。手動走行制御部５１は、運転者による操作に基づいて車両走行機器群７１を制御する。自動走行制御部５２は、自車位置と走行経路との偏差に基づいて自動操舵指令を生成し、出力処理部７を介して操舵モータ１４に出力する。作業制御部５３は、作業装置３０の動きを制御するために、作業装置機器群７２に制御信号を与える。
【００３２】
走行制御部５０は、自動走行時と手動走行時とにおいて、異なる制御処理を実行する。自動走行時には、自車位置算出部５４によって算出された自車位置と経路生成部５８によって生成された走行経路とを比較評価し、自車位置と走行経路とに位置ずれが生じておれば、車体１が当該走行経路に沿うように、操舵変更データを生成して、自動走行制御部５２に与える機能を実現する。
【００３３】
自車位置算出部５４は、衛星測位モジュール８０から送られてくる衛星測位データに基づいて、自車位置を算出する。
【００３４】
障害物検出処理部５５は、４つの障害物検出センサ９０からの検出信号に基づき、車体１の周辺に存在する障害物を検出する。この実施形態では、障害物検出センサ９０は水平スキャンタイプであるので、障害物検出処理部５５は、検出された障害物の水平方向の幅と、車体１からの距離を算出することができる。さらに、障害物検出処理部５５は、自車位置算出部５４からの自車位置及び作業地管理部５７からの作業地境界線の地図座標を参照することで、検出された障害物が作業地内であるかどうかを判定することも可能である。つまり、作業地外の障害物は検出しないように、自車位置と作業地境界線の地図座標とを用いて、障害物検出センサ９０の作業地の外領域を障害物不検出領域と設定することができる。また、障害物検出処理部５５は、検出された障害物が作業車の進行方向に存在している場合、走行制御部５０に障害物検知情報を与える。走行制御部５０は、障害物検知情報に基づき、減速または停車、あるいは回避操舵を実行するように構成することができる。
【００３５】
作業地管理部５７は、作業走行が行われる圃場に関する情報である圃場情報（作業地情報）を管理する。圃場情報には、圃場の地図位置、形状、大きさ、作付け品種などのデータが含まれている圃場情報は、遠隔地の管理センタＫＳや農家の自宅に設置されている管理コンピュータ１００、あるいは運転者が持参する携帯端末１０１からダウンロード可能である。
【００３６】
経路生成部５８は、圃場情報から、圃場の外形データを読み出し、この圃場における適正な走行経路を生成する。この走行経路の生成は、作業者によって入力される基本的な初期パラメータに基づいて自動的に行われてもよいし、作業者によって入力される走行経路を実質的に規定する入力パラメータに基づいて行われてもよい。また、走行経路自体も管理コンピュータ１００からダウンロードされる構成を採用してもよい。いずれにしても、経路生成部５８で取得された走行経路は、メモリに展開され、自動操舵走行または手動操舵走行にかかわらず、作業車が走行経路に沿って走行するために利用される。
【００３７】
監視画像処理モジュール６は、俯瞰画像生成部６０と注目領域決定部６１とモニタ画面生成部５６とを備えている。俯瞰画像生成部６０は４台のカメラ４によって取得された撮影画像を車体中心の上方の視点への視点変換を行い、視点変換された画像を合成することで、作業車周辺を上方からみたときの俯瞰画像を生成する。視点変換には、マッピングテーブルが用いられるが、作業装置３０の種類や作業種類に応じてマッピングテーブルを変更することで、その都度の作業走行に最適な俯瞰画像の生成が可能となる。
【００３８】
注目領域決定部６１は、作業走行状況検出センサ群９からの検出信号に基づいて注目領域を決定する。作業走行状況検出センサ群９には、走行系検出センサ群８１、作業系検出センサ群８２、障害物検出センサ９０が含まれているので、昇降機構３１の状態や作業装置３０の状態（下降位置／上昇位置など）、操舵機構１３の状態（左旋回／右旋回、急旋回／緩旋回など）や後輪１２への動力伝達の状態（前進／後進、低速／高速など）、障害物の存在（検出物体の車体１からの距離と方向など）などに関する検出結果が制御ユニット５に入力される。したがって、注目領域決定部６１は、これらの検出結果を入力パラメータとして、予め設定されたルールに基づき、その時点で、車体全周囲における注目すべき領域を決定して出力することができる。基本的なルール設定では、前進走行時には前方領域、後進走行時には後方領域、左旋回時には左側領域、右旋回時には左側領域が、注目領域となる。さらに、作業装置３０の上昇位置から降下位置への移行時には、優先的に後方領域が注目領域となる。また、障害物検出センサ９０によって検出された障害物の距離の方向とから障害物が車体１から所定距離内に存在していると見なされると、最優先で、障害物が存在している領域が注目領域となる。
【００３９】
優先表示画像決定部６２は、注目領域決定部６１で決定された注目領域が撮影視野に入っているカメラ４の撮影画像を、モニタ７３に俯瞰画像とともに表示させる優先表示画像とする。このため、注目領域決定部６１で決定される任意の注目領域がどの撮影画像に含まれているかを示すテーブルが用意されており、決定された注目領域から当該注目画像を含まれている撮影画像を特定することができる。具体的には、４台のカメラ４によって取得されるそれぞれの撮影画像が１つ以上の区画で区分けされており、その区画に識別コードが付与されているとともに、注目領域決定部６１で決定される注目領域も当該識別コードによって規定される。例えば、注目領域は、特定のカメラ４の撮影画像の内の１つ以上の区画が規定される識別コードで表される。つまり、注目領域を示すこの識別コードによって、特定のカメラ４の撮影画像における特定の区画が特定される。撮影画像が区画に区分けされておらず、撮影画像が１つの区画しか持たない場合には、注目領域は、単にカメラ４を指定するだけでよい。撮影画像が複数の区画に区分けされており、注目領域がその１つの区画を指定している場合には、撮影画像から当該区画だけを切り出して優先表示画像とすることも可能である。また、注目領域を示す識別コードが複数あり、その識別コードが隣り合う２台のカメラの２つの撮影画像の区画を指定している場合、各撮影画像の指定された画像を合成して、優先表示画像とすることも可能である。つまり、優先表示画像決定部６２は、注目領域を含む撮影画像を拡縮して優先表示画像とする機能を有する。
【００４０】
モニタ画面生成部５６は、モニタ７３に４台のカメラ４による撮影画像を表示するモニタ画面を生成する。モニタ画面生成部５６は、図１に模式的に示されているように、モニタ画面を隣接する第１表示領域Ｍ１と第２表示領域Ｍ２とに区分けし、第１表示領域Ｍ１に俯瞰画像生成部６０で生成された俯瞰画像を割り当て、第２表示領域Ｍ２に優先表示画像決定部６２で決定された優先表示画像を割り当てる。
【００４１】
手動運転が行われている際には、運転者は、モニタ７３を通じて俯瞰画像及び注目すべき領域の撮影画像をチェックすることができる。自動運転が行われている際には、車外または車内で自動運転を管理している管理者は、モニタ画面生成部５６で生成されて通信処理部７０を介して送られてくる俯瞰画像と撮影画像とを含むモニタ画面を携帯端末１０１等のディスプレイでチェックすることができる。
〔別実施の形態〕
【００４２】
（１）上述した実施形態では、カメラ４及び障害物検出センサ９０は、車体１に固定されていた。これに代えて、カメラ４及び障害物検出センサ９０の少なくとも１つを昇降機構（姿勢変更機構の一種）３１によって昇降して姿勢変更する作業装置３０に取り付けることも可能である。なお、この作業装置３０は、上昇により水平姿勢から傾斜姿勢に移行する。図４で示された例では、１台のカメラ（作業装置カメラ）４と１つの（作業装置障害物検出センサ）９０が作業装置３０の後部に揺動機構を介して取り付けられている。この揺動機構は、車体横断方向に延びた揺動軸心を有し、昇降機構３１の動きに連動して、揺動することで、上昇に伴う作業装置３０の傾斜を相殺することができる。つまり、作業装置３０が上昇した後も、下降状態での作業装置３０におけるカメラ４の撮影光軸方向及び障害物検出センサ９０のビーム照射方向が維持され、実質的にカメラ４の撮影視野及び障害物検出センサ９０のスキャン領域が大きく変化しないように構成されている。
【００４３】
さらに、図５で示された例では、カメラ４及び障害物検出センサ９０は、２組用意されている。第１（上側）の組のカメラ４及び障害物検出センサ９０は、作業装置３０が下降姿勢において、それぞれ最適な撮影方向と検出方向となるように固定されており、第２（下側）の組のカメラ４及び障害物検出センサ９０は、作業装置３０が上昇姿勢において、それぞれ最適な撮影方向と検出方向となるように固定されている。制御ユニット５側では、作業装置３０が下降姿勢では、第１の組のカメラ４及び障害物検出センサ９０がＯＮとされ、第２の組のカメラ４及び障害物検出センサ９０がＯＦＦとされる。逆に、作業装置３０が上昇姿勢では、第２の組のカメラ４及び障害物検出センサ９０がＯＮとされ、第１の組のカメラ４及び障害物検出センサ９０がＯＦＦとされる。
【００４４】
（２）優先表示画像決定部６２は、注目領域を含む撮影画像を任意に拡縮（表示拡縮率の変更）して優先表示画像とする機能を有してもよい。その際、走行速度が大きくなれば、被写体の接近が速くなるので、作業走行状況検出センサ群９に含まれている車速検出センサからの信号に基づいて、高速走行であると判定された場合には、撮影画像の全域を優先表示画像（縮小画像）とすると好都合である。逆に、低速走行であると判定された場合には、撮影画像における注目領域に絞り込んだ部分領域を拡大して優先表示画像（拡大画像）とすると好都合である。
【００４５】
（３）図３で示された機能ブロック図における各機能部は、主に説明目的で区分けされている。実際には、各機能部は他の機能部と統合すること、または複数の機能部に分けることができる。
【００４６】
（４）上述した実施形態では、作業車として、ロータリ耕耘装置を作業装置３０として装備したトラクタを、作業車として取り上げたが、そのようなトラクタ以外にも、例えば、田植機、施肥機、コンバインなどの農作業車、あるいは作業装置３０としてドーザやローラ等を備える建設作業車等の種々の作業車も、実施形態として採用することができる。
【産業上の利用可能性】
【００４７】
本発明は、複数のカメラを用いて俯瞰画像をモニタに表示させる作業車に適用可能である。
【符号の説明】
【００４８】
１      ：車体
３０    ：作業装置
３１    ：昇降機構（姿勢変更機構）
４      ：カメラ（第１のカメラ、第２のカメラ、第３のカメラ、第４のカメラ、作業装置カメラ）
５４    ：自車位置算出部
５６    ：モニタ画面生成部
６１    ：注目領域決定部
６２    ：優先表示画像決定部
７３    ：モニタ
９      ：作業走行状況検出センサ群
９０    ：障害物検出センサ
【図１】
2020175890.tif 000003
【図２】
2020175890.tif 000004
【図３】
2020175890.tif 000005
【図４】
2020175890.tif 000006
【図５】
2020175890.tif 000007
【手続補正書】
【提出日】令和2年8月27日(2020.8.27)
【手続補正１】
【補正対象書類名】明細書
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、自車の周辺を俯瞰画像としてモニタに表示することができる作業車に関する。
【背景技術】
【０００２】
特許文献１によるコンバインは、４台のカメラで取得した自車の周囲画像から、自車を上方から見た擬似的な画像である俯瞰画像を生成し、さらに記憶部に記憶された自車の平面視画像とクローラ部の位置を示す画像とクローラ部の左右方向の端部を前方に延長した線であるクローラ仮想延長部とを俯瞰画像に合成し、表示する。その際、コンバインが前進中であると判断された場合クローラ仮想延長部は前方へ延長して表示され、コンバインが後進中と判断された場合クローラ仮想延長部は後方へ延長して表示される。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１５−１０４３７５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
上述したような作業車（コンバイン）では、表示された俯瞰画像を通じて、クローラ部周辺が直感的に把握することができる。しかしながら、複数のカメラからの撮影画像の合成画像である俯瞰画像は、車体から比較的近距離の範囲しかカバーできず、また、俯瞰画像は視点変換による変形を受けているので、俯瞰画像における被写体の状況を正確に確認することは困難である。
このような実情から、俯瞰画像を用いながらも車体周辺情報を運転者にとって視認しやすい形態でモニタ表示できる技術が要望されている。
【課題を解決するための手段】
【０００５】
本発明による作業車は、車体の周辺を撮影する複数のカメラと、作業走行状況を検出する作業走行状況検出センサ群と、前記作業走行状況検出センサ群からの検出信号に基づいて注目領域を決定する注目領域決定部と、前記複数のカメラのうち前記注目領域が撮影視野に入っているカメラの撮影画像を優先表示画像とする優先表示画像決定部と、少なくとも前記優先表示画像を表示するモニタと、衛星測位データに基づいて前記車体の位置を算出する自車位置算出部と、を備え、前記作業走行状況検出センサ群に前記車体周辺の障害物を検出する障害物検出センサが含まれており、前記注目領域決定部は、前記障害物検出センサによって前記障害物が検出された場合には、前記障害物と前記車体との距離に応じて前記注目領域を決定する。
また、前記複数のカメラの撮影画像を視点変換して合成することで前記車体周辺の俯瞰画像を生成する俯瞰画像生成部と、前記俯瞰画像を表示する第１表示領域と前記優先表示画像を表示する第２表示領域とに区分けされたモニタ表示画面を生成するモニタ画面生成部と、を備え、前記モニタ表示画面が前記モニタに表示されても良い。
【０００６】
この構成によれば、この作業車の作業走行の状態を検出する種々のセンサ群から出力される検出信号に基づいて、その時点で運転者が注目すべき領域が決定され、その注目すべき領域を含む撮影画像が俯瞰画像とともにモニタに表示される。作業車の場合、道路を走行する乗用車などに比べ、頻繁に行われる、進行方向の切替、操舵動作、車速変更、作業装置の動作などによって、車体の全周囲において注目すべき領域が時々刻々で変化する。したがって、そのような運転者が注目すべき領域は、作業走行状況を検出するセンサ群からの検出信号と密接に関係している。このことから、注目領域決定部によって決定された注目領域を含む優先表示画像が俯瞰画像とともにモニタ表示されることで、運転者は、俯瞰画像から車体の周辺領域の様子を知るとともに、優先表示画像から特に注目すべき領域も同時に知ることができる。
【０００７】
作業車の作業走行において、運転者がまず意識しなければならないのは、走行方向に向き合う領域（前進走行なら車体前方領域）の様子である。このことから、本発明の好適な実施形態の１つでは、前記作業走行状況検出センサ群に前記車体の前進走行と後進走行とを検出する進行方向検出センサが含まれており、前記注目領域決定部は、前進走行が検出されている場合には前進方向に向き合う領域を前記注目領域とし、後進走行が検出されている場合には後進方向に向き合う領域を前記注目領域とする。作業車では、前進と後進とが繰り返されることも少なくないので、作業車の進行方向(前進または後進)によって自動的に進行方向に向き合う領域を映し出している撮影画像を優先表示画像としてモニタで確認できることは、好都合である。
【０００８】
道路などとは異なり、作業地には、境界柵や畦などを含め、種々の走行障害物が存在している。このため、作業走行状況検出センサとして障害物検出センサが搭載されることが多い。しかしながら、障害物検出センサが何らかの物体を検出した信号を出力した際、停車すべきか、あるいはそのまま進むべきか、あるいは方向転換によって回避するべきかを運転者が判断するためには、目視することが重要である。また、照準方向が異なる複数の障害物検出センサが装備されている場合、どの方向を注視すべきかを、咄嗟に判断できない場合がある。このため、本発明の好適な実施形態の１つでは、前記障害物検出センサによって障害物が検出された場合には前記障害物の検出方向に向き合う領域を前記注目領域とする。これにより、障害物を検出した障害物検出センサの照準先の領域を映し出している撮影画像が優先表示画像としてモニタ表示されるので、好都合である。
【０００９】
【００１０】
隣接するカメラの撮影視野の一部が互いに重なりあうように配置されている場合、それぞれのカメラの撮影画像が重なり合う領域が注目領域とみなされることがある。このような場合、どちらの撮影画像がより有効であるかどうかを判定することは困難である。その際、有効な方策の１つは、２台以上の前記カメラにおいて前記注目領域が撮影視野に入っている場合、当該カメラの撮影画像が順次一定時間毎に前記優先表示画像となるように構成することである。もう１つの方策は、２台以上の前記カメラにおいて前記注目領域が撮影視野に入っている場合、当該カメラの撮影画像を合成した合成画像が前記優先表示画像となる構成することである。その際、それぞれの撮影画像を当該カメラの台数で按分した部分ずつ（例えば、当該カメラが２台の場合にはそれぞれの撮影画像の半分ずつ）を合成すると、画像が縮小されないので好都合である。このような方策を好適な実施形態として採用することで、運転者が確実に注目領域を確認することが可能となる。
【００１１】
注目領域が決定できない場合、つまり、複数の撮影画像において、その注目度に明確な差がない場合の解決策として、本発明の好適な実施形態の１つでは、前記注目領域が決定不能の場合、前記複数のカメラにおける全てのカメラの撮影画像が順次一定時間毎に前記優先表示画像として順番に表示される。
【００１２】
車体に対して姿勢変更する作業装置が装備される作業車がある。そのような作業車の作業装置に、カメラ取り付けられている場合、作業装置が姿勢変更することで、カメラの撮影方向も変化し、最適な領域を撮影することができなくなる。このことを避けるため、本発明の好適な実施形態の１つでは、前記車体に姿勢変更機構を介して作業装置が装備され、かつ前記カメラの少なくとも１つが作業装置カメラとして前記作業装置に取り付けられ、前記作業装置カメラは、前記撮影方向を維持するように前記作業装置の姿勢変更に応じて姿勢変更される。さらに、そのような作業装置に障害物検出センサも取り付けられている場合、障害物検出センサの検出方向も作業装置の姿勢変更にかかわらず、最適な方向を維持する必要がある。このため、本発明の好適な実施形態の１つでは、少なくとも１つの前記障害物検出センサが作業装置障害物検出センサとして前記作業装置に取り付けられ、前記作業装置障害物検出センサは、前記障害物の検出方向を維持するように前記作業装置の姿勢変更に応じて姿勢変更される。
【００１３】
作業車は、作業に応じて、超低速から中速まで広い速度範囲で走行する。超低速では、優先表示画像としてモニタに表示される撮像画面の時間当たりの移動が小さく、画面は流れにくいが、速度が速くなるほど、撮像画面の時間当たりの移動が大きく、画面が流れていく。このため、走行速度が大きくなれば、１つの画面で大きな領域を捉えた方が好ましいので、本発明の好適な実施形態の１つでは、前記作業走行状況検出センサ群に前記車体の走行速度を検出する車速検出センサが含まれており、前記車速検出センサによって検出された前記走行速度に応じて、前記優先表示画像の前記第２表示領域への表示拡縮率が変動するように構成されている。
また、作業走行中に前記障害物検出センサによって前記障害物が検出され、かつ、前記障害物が作業地内にある場合は、減速または停車され、前記障害物が検出されても前記障害物が作業地外にある場合は作業が維持されても良い。
【図面の簡単な説明】
【００１４】
【図１】複数のカメラによる自車周辺の撮影画像に基づく俯瞰画像と優先表示画像とをモニタに表示する基本技術を説明する説明図である。
【図２】作業車の一例であるトラクタの側面図である。
【図３】トラクタの制御系を示す機能ブロック図である。
【図４】昇降する作業装置に取り付けられたカメラ及び障害物検出センサの利用形態を説明する説明図である。
【図５】昇降する作業装置に取り付けられたカメラ及び障害物検出センサの別の利用形態を説明する説明図である。
【発明を実施するための形態】
【００１５】
本発明による作業車の具体的な実施形態を説明する前に、図１を用いて、作業車に取り付けられた複数のカメラによる自車周辺の撮影画像に基づき、俯瞰画像と優先表示画像とを、モニタに表示する基本技術を説明する。
【００１６】
この作業車は、前後進可能な車体１を備え、車体１には作業装置３０が装備されている。車体には、４台のカメラ４が取り付けられている。カメラ４は、車体１の前部、車体１の左側部、車体１の右側部、車体の後部に配置されている。各カメラ４は、広角レンズを備えており、４台のカメラ４によって車体１の全周域を撮影視野に収めることができる。車体１の全周域を撮影視野に収めることができる限りは、カメラ４の台数を減らすことも可能である。また、カメラ４の台数を増やして、車体１の全周域をより密な撮影方向から撮影するような構成を採用してもよい。また、カメラ４は車体１以外に、作業装置３０に配置してもよい。
【００１７】
作業車は、種々の作業走行状況下で作業走行する。作業走行状況には、走行方向、操舵方向、車速状態、作業装置状態、作業地状態などが含まれている。これらの作業走行状況は、種々のセンサによって検出されるが、ここでは、これらのセンサをまとめて作業走行状況検出センサ群９と称している。作業走行状況検出センサ群９には障害物検出センサが含まれている場合、作業車の周囲に存在する障害物を検出することができる。障害物検出センサは、超音波ビーム、光ビーム、レーザビームなどを用いたものが採用され、障害物を検出するとともに、その検出信号を用いて車体１と障害物との間の距離を算出することが可能である。
【００１８】
この作業車には、地図上の座標位置（以下、自車位置とも称する）を算出する衛星測位機能も備えられている。
【００１９】
４台のカメラ４によって取得された撮影画像（図１ではカメラ毎の撮影画像を区別するために符号Ａ〜Ｄを付与している）は、車体１の上方に位置する視点からの画像に変換され、合成されることで、車体１が中央にくる俯瞰画像が生成される。この俯瞰画像はモニタ画面に表示され、運転者の周囲状況監視を支援する。モニタ画面は隣り合う２つの表示領域に区分けされており、一方の表示領域Ｍ１に俯瞰画像が表示される。他方の表示領域Ｍ２には、４台のカメラ４によって取得された撮影画像のうちの１つ、または２つの撮影画像の合成画像が表示される。この他方の表示領域に表示される撮影画像をここでは、優先表示画像と称する。
【００２０】
車体１の全周囲において最も注目すべき領域（注目領域）が撮影視野に入っているカメラ４の撮影画像が、優先表示画像として選択される。優先表示画像は、運転者の判断に基づいて手動で選択することも可能であるが、作業車の場合、運転者が行うべきことが多いので、運転者の負担を減らすために、本発明では、作業走行の状況に応じて自動的に注目領域が決定され、優先表示画像が選択される。もちろん、運転者により選択指示（例えば、Ａ〜Ｄの選択ボタンによる）により、運転者が所望する撮影画像を優先表示画像としてモニタ表示することも可能である。
【００２１】
作業走行の状況は、作業走行状況検出センサ群９からの検出信号によって把握することができ、その結果から、その時点での最も注目すべき領域を決定することができる。この注目領域の決定アルゴリズムとして、以下に２つの方式を例示する。
（１）ルール方式
ルール方式では、１つ以上の特定の作業状況検出センサが特定の作業走行状態を検出したことを条件として、車体周辺の特定領域を注目領域と見なし、当該特定領域を撮影視野とするカメラ４の撮影画像を優先画像とし、モニタ７３の、俯瞰画像を表示している第１表示領域の隣に位置する第２表示領域に表示する。例えば、（１−１）車体１の前進走行と後進走行とを検出する進行方向検出センサが車体１の前進走行を検出した場合には、前進方向に向き合う領域を注目領域とする。これにより、当該領域を含む撮影画像（前方を撮影視野としているカメラ４の撮影画像）をモニタ７３に表示する。逆に、車体１の後進走行が検出後進走行を検出した場合には、後進方向に向き合う領域を注目領域とし、当該領域を含む撮影画像（後方を撮影視野としているカメラ４の撮影画像）をモニタ７３に表示する。類似例として、操舵方向検出センサが左方向への操舵を検出した場合には、車体１の左側を注目領域とし、左側部を撮影視野とするカメラ４の撮影画像がモニタ７３に表示される。その際、車体１の左前方を注目領域とし、前方を撮影視野とするカメラ４の撮影画像の左半分と左側部を撮影視野とするカメラ４の撮影画像の上半分とを合成した画像を優先表示画像として、モニタ７３に表示してもよい。同様に、操舵方向検出センサが右方向への操舵を検出した場合には、車体１の右側を注目領域とし、右側部を撮影視野とするカメラ４の撮影画像がモニタ７３に表示される。なお、操舵方向による優先表示画像の決定において、車体１の右前方（または左前方）を注目領域とし、前方を撮影視野とするカメラ４の撮影画像の右半分（または左半分）と右側方（または左側方）を撮影視野とするカメラ４の撮影画像の上半分とを合成した画像を優先表示画像として、モニタ７３に表示してもよい。
【００２２】
（１−２）車体周辺の障害物を検出する障害物検出センサが障害物を検出した場合には、障害物の検出方向に向き合う領域を注目領域とし、当該注目領域を撮影視野としているカメラ４の撮影画像をモニタ７３に表示する。なお、障害物検出センサの検出信号に基づいて算出された車体１から障害物の距離と方向と、衛星測位機能によって算出される自車位置とを組み合わせると、障害物の地図座標位置を求めることができる。したがって、検出された障害物が作業地外に位置している場合、当該障害物が作業走行の邪魔にはならないので、この注目領域は無視するようにすることも可能である。
【００２３】
（２）機械学習方式
ルール方式では、１つ以上の特定の作業走行状況検出センサの検出結果と、注目領域とを予めリンクしているので、制御的には簡単であり、制御負担が軽いという利点がある。しかしながら、作業走行において注目すべき領域は、多くの条件によって影響される。例えば、左側に操舵する場合でも、その操舵角や車速や装備している作業装置３０の姿勢などによっては、左側領域や左前方領域ではなく、車体１や作業装置３０の尻振りをチェックするため右側後方領域を注目したい場合がある。また、前進走行においても、作業種類や車速などによっては、前方領域よりむしろ後方領域を注目したい場合もある。このことから、作業状況検出センサ群を構成する多数のセンサの検出信号（検出結果）を入力パラメータとして、注目領域を出力するような制御システムを構築する。その際、運転者の個性等も考慮する場合には、運転者により実際の作業走行を行い、種々の作業走行状況でどの領域を注目したいのかを学習させて、制御パラメータを決定する構成も可能である。
【００２４】
注目したい領域が複数の場合、複数の撮影画像を合成して優先表示画像とするのではなく、当該撮影画像を順次一定時間毎に優先表示画像として、順番に循環させて、モニタ表示してもよい。その際、注目度レベルが算出可能であれば、注目度レベルに応じて表示時間に差をつけてもよい。また、注目領域が決定不能の場合や、注目領域の決定機能が動作していないような場合には、全てのカメラ４の撮影画像を順次一定時間毎に優先表示画像とし、順番に循環させて、モニタ表示してもよい。
【００２５】
次に、図面を用いて、本発明による作業車の具体的な実施形態の１つを説明する。この実施形態では、作業車は、畦によって境界づけられた圃場（作業地）に対して走行作業を行うトラクタである。図２に示されているように、このトラクタは、前輪１１と後輪１２とによって支持された車体１の中央部に操縦部２０が設けられている。車体１の後部には油圧式の昇降機構（姿勢変更機構の一種）３１を介してロータリ耕耘装置である作業装置３０が装備されている。前輪１１は操向輪として機能し、その操舵角を変更することでトラクタの走行方向が変更される。前輪１１の操舵角は操舵機構１３の動作によって変更される。操舵機構１３には自動操舵のための操舵モータ１４が含まれている。手動走行の際には、前輪１１の操舵は操縦部２０に配置されているステアリングホイール２２の操作によって可能である。トラクタのキャビン２１には、ＧＮＳＳ（global navigation satellite system）モジュールとして構成されている衛星測位モジュール８０が設けられている。衛星測位モジュール８０の構成要素として、ＧＰＳ（global positioning system）信号やＧＮＳＳ信号を受信するための衛星用アンテナがキャビン２１の天井領域に取り付けられている。なお、衛星測位モジュール８０には、衛星航法を補完するために、ジャイロ加速度センサや磁気方位センサを組み込んだ慣性航法モジュールを含めることができる。
もちろん、慣性航法モジュールは、衛星測位モジュール８０とは別の場所に設けてもよい。
【００２６】
さらに、車体１に車体周囲を撮影するための４台のカメラ４が取り付けられている。第１のカメラ４は車体前部（ボンネット）の中央に配置され、第２のカメラ４と第３のカメラ４とは車体左右の側部（後輪フェンダ）に配置され、第４のカメラ４は車体後部（キャビネット後端）の中央に配置されている。各カメラ４は、ＣＣＤ（charge coupled device）やＣＩＳ（CMOS image sensor）などの撮像素子を用いて、毎秒１５〜３０フレームの２次元画像を時系列に撮影し、デジタル変換してその撮影画像をリアルタイムに出力する。各カメラ４の撮影光軸は撮影視野に車体１や作業装置３０の一部と圃場面とが入るように下方に向けられるとともに、広角レンズが装着されることで、４台のカメラ４によって取得される撮影画像は車体付近の全周領域をカバーすることができる。さらに、この実施形態では、各カメラ４に隣接して、レーザレーダとして構成された障害物検出センサ９０が取り付けられている。各障害物検出センサ９０は、９０°を超えるスキャンレンジを有することで、４つの障害物検出センサ９０によって車体付近の全周領域に存在する障害物を検出することができる。
【００２７】
図３には、このトラクタに構築されている制御系が示されている。この制御系には、図１を用いて説明された、複数のカメラ４による自車周辺の撮影画像に基づく俯瞰画像と優先表示画像とをモニタ７３に表示する基本技術が組み込まれている。この制御系の中核要素である制御ユニット５には、入出力インタフェースとして機能する、出力処理部７、入力処理部８、通信処理部７０が備えられている。出力処理部７は、車両走行機器群７１、作業装置機器群７２、液晶などのフラットパネルから構成されるモニタ７３などと接続している。図示されていないが、出力処理部７は、運転者や監視者に作業走行上の注意を促すための報知を行うランプやスピーカとも接続している。車両走行機器群７１には、操舵モータ１４をはじめ、図示されていないが、変速機構やエンジンユニットなど車両走行のために制御される機器が含まれている。作業装置機器群７２には、作業装置３０の駆動機構や、作業装置３０を昇降させる昇降機構３１などが含まれている。
【００２８】
通信処理部７０は、無線通信規格や有線通信規格を通じて外部のコンピュータとデータのやり取りを行う。図３では、外部のコンピュータとして、遠隔地の管理センタＫＳ等に構築された管理コンピュータ１００及び運転者や監視者が携帯するタブレットコンピュータやスマートフォン（モバイルフォン）からなる携帯端末１０１が示されている。
【００２９】
入力処理部８は、上述したカメラ４、衛星測位モジュール８０、自動／手動切替操作具８３、作業走行状況検出センサ群９などと接続している。作業走行状況検出センサ群９には、走行系検出センサ群８１や作業系検出センサ群８２のほか、上述した障害物検出センサ９０も含まれている。走行系検出センサ群８１には、操舵角やエンジン回転数や変速状態などの走行状態を検出するセンサが含まれている。作業系検出センサ群８２には、作業装置３０の地上高さや傾きを検出するセンサ、作業負荷などを検出するセンサなどが含まれている。自動／手動切替操作具８３は、自動操舵で走行する自動走行モードと手動操舵で走行する手動操舵モードとのいずれかを選択するスイッチである。例えば、自動操舵モードで走行中に自動／手動切替操作具８３を操作することで、手動操舵での走行に切り替えられ、手動操舵での走行中に自動／手動切替操作具８３を操作することで、自動操舵での走行に切り替えられる。
【００３０】
制御ユニット５には、図１を用いて説明された基本技術を実現するための中核機能として、監視画像処理モジュール６と障害物検出処理部５５とモニタ画面生成部５６とが構築されている。そのほか、制御ユニット５には、走行制御部５０、作業制御部５３、自車位置算出部５４、作業地管理部５７、経路生成部５８が備えられている。
【００３１】
車両走行機器群７１を制御する走行制御部５０は、このトラクタが自動走行（自動操舵）と手動走行（手動操舵）の両方で走行可能に構成されているため、手動走行制御部５１と自動走行制御部５２とが含まれている。手動走行制御部５１は、運転者による操作に基づいて車両走行機器群７１を制御する。自動走行制御部５２は、自車位置と走行経路との偏差に基づいて自動操舵指令を生成し、出力処理部７を介して操舵モータ１４に出力する。作業制御部５３は、作業装置３０の動きを制御するために、作業装置機器群７２に制御信号を与える。
【００３２】
走行制御部５０は、自動走行時と手動走行時とにおいて、異なる制御処理を実行する。自動走行時には、自車位置算出部５４によって算出された自車位置と経路生成部５８によって生成された走行経路とを比較評価し、自車位置と走行経路とに位置ずれが生じておれば、車体１が当該走行経路に沿うように、操舵変更データを生成して、自動走行制御部５２に与える機能を実現する。
【００３３】
自車位置算出部５４は、衛星測位モジュール８０から送られてくる衛星測位データに基づいて、自車位置を算出する。
【００３４】
障害物検出処理部５５は、４つの障害物検出センサ９０からの検出信号に基づき、車体１の周辺に存在する障害物を検出する。この実施形態では、障害物検出センサ９０は水平スキャンタイプであるので、障害物検出処理部５５は、検出された障害物の水平方向の幅と、車体１からの距離を算出することができる。さらに、障害物検出処理部５５は、自車位置算出部５４からの自車位置及び作業地管理部５７からの作業地境界線の地図座標を参照することで、検出された障害物が作業地内であるかどうかを判定することも可能である。つまり、作業地外の障害物は検出しないように、自車位置と作業地境界線の地図座標とを用いて、障害物検出センサ９０の作業地の外領域を障害物不検出領域と設定することができる。また、障害物検出処理部５５は、検出された障害物が作業車の進行方向に存在している場合、走行制御部５０に障害物検知情報を与える。走行制御部５０は、障害物検知情報に基づき、減速または停車、あるいは回避操舵を実行するように構成することができる。
【００３５】
作業地管理部５７は、作業走行が行われる圃場に関する情報である圃場情報（作業地情報）を管理する。圃場情報には、圃場の地図位置、形状、大きさ、作付け品種などのデータが含まれている圃場情報は、遠隔地の管理センタＫＳや農家の自宅に設置されている管理コンピュータ１００、あるいは運転者が持参する携帯端末１０１からダウンロード可能である。
【００３６】
経路生成部５８は、圃場情報から、圃場の外形データを読み出し、この圃場における適正な走行経路を生成する。この走行経路の生成は、作業者によって入力される基本的な初期パラメータに基づいて自動的に行われてもよいし、作業者によって入力される走行経路を実質的に規定する入力パラメータに基づいて行われてもよい。また、走行経路自体も管理コンピュータ１００からダウンロードされる構成を採用してもよい。いずれにしても、経路生成部５８で取得された走行経路は、メモリに展開され、自動操舵走行または手動操舵走行にかかわらず、作業車が走行経路に沿って走行するために利用される。
【００３７】
監視画像処理モジュール６は、俯瞰画像生成部６０と注目領域決定部６１とモニタ画面生成部５６とを備えている。俯瞰画像生成部６０は４台のカメラ４によって取得された撮影画像を車体中心の上方の視点への視点変換を行い、視点変換された画像を合成することで、作業車周辺を上方からみたときの俯瞰画像を生成する。視点変換には、マッピングテーブルが用いられるが、作業装置３０の種類や作業種類に応じてマッピングテーブルを変更することで、その都度の作業走行に最適な俯瞰画像の生成が可能となる。
【００３８】
注目領域決定部６１は、作業走行状況検出センサ群９からの検出信号に基づいて注目領域を決定する。作業走行状況検出センサ群９には、走行系検出センサ群８１、作業系検出センサ群８２、障害物検出センサ９０が含まれているので、昇降機構３１の状態や作業装置３０の状態（下降位置／上昇位置など）、操舵機構１３の状態（左旋回／右旋回、急旋回／緩旋回など）や後輪１２への動力伝達の状態（前進／後進、低速／高速など）、障害物の存在（検出物体の車体１からの距離と方向など）などに関する検出結果が制御ユニット５に入力される。したがって、注目領域決定部６１は、これらの検出結果を入力パラメータとして、予め設定されたルールに基づき、その時点で、車体全周囲における注目すべき領域を決定して出力することができる。基本的なルール設定では、前進走行時には前方領域、後進走行時には後方領域、左旋回時には左側領域、右旋回時には左側領域が、注目領域となる。さらに、作業装置３０の上昇位置から降下位置への移行時には、優先的に後方領域が注目領域となる。また、障害物検出センサ９０によって検出された障害物の距離の方向とから障害物が車体１から所定距離内に存在していると見なされると、最優先で、障害物が存在している領域が注目領域となる。
【００３９】
優先表示画像決定部６２は、注目領域決定部６１で決定された注目領域が撮影視野に入っているカメラ４の撮影画像を、モニタ７３に俯瞰画像とともに表示させる優先表示画像とする。このため、注目領域決定部６１で決定される任意の注目領域がどの撮影画像に含まれているかを示すテーブルが用意されており、決定された注目領域から当該注目画像を含まれている撮影画像を特定することができる。具体的には、４台のカメラ４によって取得されるそれぞれの撮影画像が１つ以上の区画で区分けされており、その区画に識別コードが付与されているとともに、注目領域決定部６１で決定される注目領域も当該識別コードによって規定される。例えば、注目領域は、特定のカメラ４の撮影画像の内の１つ以上の区画が規定される識別コードで表される。つまり、注目領域を示すこの識別コードによって、特定のカメラ４の撮影画像における特定の区画が特定される。撮影画像が区画に区分けされておらず、撮影画像が１つの区画しか持たない場合には、注目領域は、単にカメラ４を指定するだけでよい。撮影画像が複数の区画に区分けされており、注目領域がその１つの区画を指定している場合には、撮影画像から当該区画だけを切り出して優先表示画像とすることも可能である。また、注目領域を示す識別コードが複数あり、その識別コードが隣り合う２台のカメラの２つの撮影画像の区画を指定している場合、各撮影画像の指定された画像を合成して、優先表示画像とすることも可能である。つまり、優先表示画像決定部６２は、注目領域を含む撮影画像を拡縮して優先表示画像とする機能を有する。
【００４０】
モニタ画面生成部５６は、モニタ７３に４台のカメラ４による撮影画像を表示するモニタ画面を生成する。モニタ画面生成部５６は、図１に模式的に示されているように、モニタ画面を隣接する第１表示領域Ｍ１と第２表示領域Ｍ２とに区分けし、第１表示領域Ｍ１に俯瞰画像生成部６０で生成された俯瞰画像を割り当て、第２表示領域Ｍ２に優先表示画像決定部６２で決定された優先表示画像を割り当てる。
【００４１】
手動運転が行われている際には、運転者は、モニタ７３を通じて俯瞰画像及び注目すべき領域の撮影画像をチェックすることができる。自動運転が行われている際には、車外または車内で自動運転を管理している管理者は、モニタ画面生成部５６で生成されて通信処理部７０を介して送られてくる俯瞰画像と撮影画像とを含むモニタ画面を携帯端末１０１等のディスプレイでチェックすることができる。
〔別実施の形態〕
【００４２】
（１）上述した実施形態では、カメラ４及び障害物検出センサ９０は、車体１に固定されていた。これに代えて、カメラ４及び障害物検出センサ９０の少なくとも１つを昇降機構（姿勢変更機構の一種）３１によって昇降して姿勢変更する作業装置３０に取り付けることも可能である。なお、この作業装置３０は、上昇により水平姿勢から傾斜姿勢に移行する。図４で示された例では、１台のカメラ（作業装置カメラ）４と１つの（作業装置障害物検出センサ）９０が作業装置３０の後部に揺動機構を介して取り付けられている。この揺動機構は、車体横断方向に延びた揺動軸心を有し、昇降機構３１の動きに連動して、揺動することで、上昇に伴う作業装置３０の傾斜を相殺することができる。つまり、作業装置３０が上昇した後も、下降状態での作業装置３０におけるカメラ４の撮影光軸方向及び障害物検出センサ９０のビーム照射方向が維持され、実質的にカメラ４の撮影視野及び障害物検出センサ９０のスキャン領域が大きく変化しないように構成されている。
【００４３】
さらに、図５で示された例では、カメラ４及び障害物検出センサ９０は、２組用意されている。第１（上側）の組のカメラ４及び障害物検出センサ９０は、作業装置３０が下降姿勢において、それぞれ最適な撮影方向と検出方向となるように固定されており、第２（下側）の組のカメラ４及び障害物検出センサ９０は、作業装置３０が上昇姿勢において、それぞれ最適な撮影方向と検出方向となるように固定されている。制御ユニット５側では、作業装置３０が下降姿勢では、第１の組のカメラ４及び障害物検出センサ９０がＯＮとされ、第２の組のカメラ４及び障害物検出センサ９０がＯＦＦとされる。逆に、作業装置３０が上昇姿勢では、第２の組のカメラ４及び障害物検出センサ９０がＯＮとされ、第１の組のカメラ４及び障害物検出センサ９０がＯＦＦとされる。
【００４４】
（２）優先表示画像決定部６２は、注目領域を含む撮影画像を任意に拡縮（表示拡縮率の変更）して優先表示画像とする機能を有してもよい。その際、走行速度が大きくなれば、被写体の接近が速くなるので、作業走行状況検出センサ群９に含まれている車速検出センサからの信号に基づいて、高速走行であると判定された場合には、撮影画像の全域を優先表示画像（縮小画像）とすると好都合である。逆に、低速走行であると判定された場合には、撮影画像における注目領域に絞り込んだ部分領域を拡大して優先表示画像（拡大画像）とすると好都合である。
【００４５】
（３）図３で示された機能ブロック図における各機能部は、主に説明目的で区分けされている。実際には、各機能部は他の機能部と統合すること、または複数の機能部に分けることができる。
【００４６】
（４）上述した実施形態では、作業車として、ロータリ耕耘装置を作業装置３０として装備したトラクタを、作業車として取り上げたが、そのようなトラクタ以外にも、例えば、田植機、施肥機、コンバインなどの農作業車、あるいは作業装置３０としてドーザやローラ等を備える建設作業車等の種々の作業車も、実施形態として採用することができる。
【産業上の利用可能性】
【００４７】
本発明は、複数のカメラを用いて俯瞰画像をモニタに表示させる作業車に適用可能である。
【符号の説明】
【００４８】
１      ：車体
３０    ：作業装置
３１    ：昇降機構（姿勢変更機構）
４      ：カメラ（第１のカメラ、第２のカメラ、第３のカメラ、第４のカメラ、作業装置カメラ）
５４    ：自車位置算出部
５６    ：モニタ画面生成部
６１    ：注目領域決定部
６２    ：優先表示画像決定部
７３    ：モニタ
９      ：作業走行状況検出センサ群
９０    ：障害物検出センサ