(57)【要約】【課題】建設機械の転圧作業を柔軟かつ簡単に実現できる。【解決手段】建設機械による転圧エリアの転圧作業における当該建設機械の走行経路を学習する建設機械用機械学習装置３０である。この建設機械用機械学習装置３０は、建設機械の進行方向を制御する走行制御手段３１と、走行制御手段３１により制御された走行に基づく報酬を走行制御手段３１に対して与える行動評価手段３２と、を備える。前記転圧エリアは、複数の分割領域で構成されており、行動評価手段３２は、建設機械がある分割領域から隣接する分割領域へ移動する行動ごとに走行制御手段３１に報酬を与える。走行制御手段３１は、転圧作業を繰り返し行うことで、報酬が最大化される走行経路を学習する。【選択図】図５
2019007167.tif 000002
【特許請求の範囲】
【請求項１】
建設機械による転圧エリアの転圧作業における当該建設機械の走行経路を学習する建設機械用機械学習装置であって、
前記建設機械の進行方向を制御する走行制御手段と、
前記走行制御手段により制御された走行に基づく報酬を当該走行制御手段に対して与える行動評価手段と、を備え、
前記転圧エリアは、複数の分割領域で構成されており、
前記行動評価手段は、前記建設機械がある分割領域から隣接する分割領域へ移動する行動ごとに前記走行制御手段に報酬を与え、
前記走行制御手段は、前記転圧作業を繰り返し行うことで、前記報酬が最大化される前記走行経路を学習する、
ことを特徴とする建設機械用機械学習装置。
【請求項２】
建設機械による転圧エリアの転圧作業における当該建設機械の走行経路を学習する建設機械用機械学習装置であって、
前記建設機械の進行方向を制御する走行制御手段と、
前記走行制御手段により制御された走行に基づく報酬を当該走行制御手段に対して与える行動評価手段と、を備え、
前記転圧エリアは、複数の分割領域で構成されており、
前記行動評価手段は、前記転圧エリアの転圧作業の完成により前記走行制御手段に報酬を与え、
前記走行制御手段は、前記建設機械がある分割領域から隣接する分割領域へ移動する行動ごとに次に取るべき行動を選択するための指標となる報酬の期待値を設定し、前記転圧作業を繰り返し行うことで、最終的に報酬を得た行動につながる一連の行動に対して報酬の期待値を増加させ、前記報酬の期待値を最適化した前記走行経路を学習する、
ことを特徴とする建設機械用機械学習装置。
【請求項３】
前記走行制御手段は、前記分割領域のサイズを徐々に細かくしながら前記走行経路を学習する、
ことを特徴とする請求項２に記載の建設機械用機械学習装置。
【請求項４】
請求項１ないし請求項３の何れか１項に記載の建設機械用機械学習装置を備える建設機械。
【請求項５】
建設機械による転圧エリアの転圧作業における当該建設機械の走行経路を、前記転圧エリアの仮想フィールドで前記建設機械の仮想体を走行させることにより学習する建設機械用機械学習装置であって、
前記仮想フィールドにおいて前記仮想体の進行方向を制御する走行制御手段と、
前記走行制御手段により制御された走行に基づく報酬を当該走行制御手段に対して与える行動評価手段と、を備え、
前記仮想フィールドは、複数の分割領域で構成されており、
前記行動評価手段は、前記仮想体がある分割領域から隣接する分割領域へ移動する行動ごとに前記走行制御手段に報酬を与え、
前記走行制御手段は、前記仮想体の転圧作業を繰り返し行うことで、前記報酬が最大化される前記走行経路を学習する、
ことを特徴とする建設機械用機械学習装置。
【請求項６】
建設機械による転圧エリアの転圧作業における当該建設機械の走行経路を、前記転圧エリアの仮想フィールドで前記建設機械の仮想体を走行させることにより学習する建設機械用機械学習装置であって、
前記仮想フィールドにおいて前記仮想体の進行方向を制御する走行制御手段と、
前記走行制御手段により制御された走行に基づく報酬を当該走行制御手段に対して与える行動評価手段と、を備え、
前記仮想フィールドは、複数の分割領域で構成されており、
前記行動評価手段は、前記仮想フィールドの転圧作業の完成により前記走行制御手段に報酬を与え、
前記走行制御手段は、前記仮想体がある分割領域から隣接する分割領域へ移動する行動ごとに次に取るべき行動を選択するための指標となる報酬の期待値を設定し、前記仮想体の転圧作業を繰り返し行うことで、最終的に報酬を得た行動につながる一連の行動に対して報酬の期待値を増加させ、前記報酬の期待値を最適化した前記走行経路を学習する、
ことを特徴とする建設機械用機械学習装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、建設機械用機械学習装置および建設機械に関する。
【背景技術】
【０００２】
災害復旧工事等では、作業員の安全性を確保することを目的として、無人化施工が採用される場合がある。
無人化施工は、現場から送られてくる映像を、複数のモニタ画面で確認しながらオペレータが建設機械を遠隔操作するのが一般的であるが、この方法では、オペレータの技量によって作業の品質が異なる場合がある。また、複数の画像取得のための装置と通信環境が必要となる。
【０００３】
そのため、建設機械にセンサ類を搭載させて、予め設定された計画線に沿って建設機械を走行させることにより施工を行う自律制御式の無人化施工方法が開発されている（例えば、特許文献１参照）。
この無人化施工方法では、走行エリアを複数の走行エリアに区分している。そして、建設機械が走行している位置を判定し、区分された走行エリアに基づいて制御を行うことで、現地に応じた自律走行を可能としている。
【０００４】
また、転圧路の基準線からの位置ずれ量に基づいてステアリング角度を修正する無人化施工方法が開発されている（例えば、特許文献２参照）。
この無人化施工方法によれば、走行精度が高く、一定区画を踏み残しなく均一に転圧走行する時間を短縮できる。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２００１−０６７１２６号公報
【特許文献２】特開２０１６−１２６６２５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかし、特許文献１，２に記載される技術は、人間が考えた自律制御アルゴリズムによって建設機械を自律制御するものであった。その為、想定外な事項が起こらないように、予め全ての事項を予測して完全なアルゴリズムを作成することは困難であった。また、施工完了までの作業工程をすべてプログラムとして作成する必要があり、さらに走行条件や施工の評価に基づいてプログラムの調整や改善を行わなければならなかったので、開発に多大なコストを要するという問題があった。
【０００７】
また、近年では様々な機械学習の技術が開発されているが、転圧作業では転圧回数や作業完了までの制限時間など満たさなければならない条件も多くあり、また、制御しなければならない構成要素（例えば、ステアリング角度や速度）も多岐にわたる。そのため、従来からある機械学習（特に、強化学習）の技術を転圧作業に単純に適用するのは難しい。
【０００８】
このような観点から、本発明は、建設機械の転圧作業を柔軟かつ簡単に実現できる建設機械用機械学習装置および建設機械を提供する。
【課題を解決するための手段】
【０００９】
前記課題を解決するため、本発明に係る建設機械用機械学習装置は、建設機械による転圧エリアの転圧作業における当該建設機械の走行経路を学習する建設機械用機械学習装置である。
この建設機械用機械学習装置は、前記建設機械の進行方向を制御する走行制御手段と、前記走行制御手段により制御された走行に基づく報酬を当該走行制御手段に対して与える行動評価手段と、を備える。
前記転圧エリアは、複数の分割領域で構成されており、前記行動評価手段は、前記建設機械がある分割領域から隣接する分割領域へ移動する行動ごとに前記走行制御手段に報酬を与える。前記走行制御手段は、前記転圧作業を繰り返し行うことで、前記報酬が最大化される前記走行経路を学習する。
【００１０】
また、本発明に係る建設機械用機械学習装置は、建設機械による転圧エリアの転圧作業における当該建設機械の走行経路を、前記転圧エリアの仮想フィールドで前記建設機械の仮想体を走行させることにより学習する建設機械用機械学習装置である。
この建設機械用機械学習装置は、前記仮想フィールドにおいて前記仮想体の進行方向を制御する走行制御手段と、前記走行制御手段により制御された走行に基づく報酬を当該走行制御手段に対して与える行動評価手段と、を備える。
前記仮想フィールドは、複数の分割領域で構成されており、前記行動評価手段は、前記仮想体がある分割領域から隣接する分割領域へ移動する行動ごとに前記走行制御手段に報酬を与える。前記走行制御手段は、前記仮想体の転圧作業を繰り返し行うことで、前記報酬が最大化される前記走行経路を学習する。
【００１１】
本発明に係る建設機械用機械学習装置においては、転圧エリアを複数の分割領域に分割し、建設機械や建設機械の仮想体がある分割領域から隣接する分割領域へ移動する行動を取った場合に走行制御手段に対して報酬を与える。したがって、転圧作業を繰り返し行うことにより走行経路の学習が可能であり、作業工程のプログラムの作成なしに建設機械の転圧作業を柔軟かつ簡単に実現できる。
【００１２】
また、本発明に係る建設機械用機械学習装置は、建設機械による転圧エリアの転圧作業における当該建設機械の走行経路を学習する建設機械用機械学習装置である。
この建設機械用機械学習装置は、前記建設機械の進行方向を制御する走行制御手段と、前記走行制御手段により制御された走行に基づく報酬を当該走行制御手段に対して与える行動評価手段と、を備える。
前記転圧エリアは、複数の分割領域で構成されており、前記行動評価手段は、前記転圧エリアの転圧作業の完成により前記走行制御手段に報酬を与える。
前記走行制御手段は、前記建設機械がある分割領域から隣接する分割領域へ移動する行動ごとに次に取るべき行動を選択するための指標となる報酬の期待値を設定する。また、前記走行制御手段は、前記転圧作業を繰り返し行うことで、最終的に報酬を得た行動につながる一連の行動に対して報酬の期待値を増加させ、前記報酬の期待値を最適化した前記走行経路を学習する。
【００１３】
また、本発明に係る建設機械用機械学習装置は、建設機械による転圧エリアの転圧作業における当該建設機械の走行経路を、前記転圧エリアの仮想フィールドで前記建設機械の仮想体を走行させることにより学習する建設機械用機械学習装置である。
この建設機械用機械学習装置は、前記仮想フィールドにおいて前記仮想体の進行方向を制御する走行制御手段と、前記走行制御手段により制御された走行に基づく報酬を当該走行制御手段に対して与える行動評価手段と、を備える。
前記仮想フィールドは、複数の分割領域で構成されており、前記行動評価手段は、前記仮想フィールドの転圧作業の完成により前記走行制御手段に報酬を与える。
前記走行制御手段は、前記仮想体がある分割領域から隣接する分割領域へ移動する行動ごとに次に取るべき行動を選択するための指標となる報酬の期待値を設定する。また、前記走行制御手段は、前記仮想体の転圧作業を繰り返し行うことで、最終的に報酬を得た行動につながる一連の行動に対して報酬の期待値を増加させ、前記報酬の期待値を最適化した前記走行経路を学習する。
【００１４】
本発明に係る建設機械用機械学習装置においては、転圧エリアを複数の分割領域に分割し、建設機械や建設機械の仮想体がある分割領域から隣接する分割領域へ移動する行動ごとに次に取るべき行動を選択するための指標となる報酬の期待値を設定する。そして、最終的に報酬を得た行動につながる一連の行動に対して報酬の期待値を増加させる。したがって、転圧作業を繰り返し行うことにより走行経路の学習が可能であり、作業工程のプログラムの作成なしに建設機械の転圧作業を柔軟かつ簡単に実現できる。
【００１５】
前記走行制御手段は、前記分割領域のサイズを徐々に細かくしながら前記走行経路を学習するのがよい。
【００１６】
このようにすると、分割領域の数が少ない状況で走行経路を学習し、学習した走行経路を分割領域の数が多い状況に引き継ぐことができる。そのため、分割経路の数が多い状況において何も学習していない初期段階を省略することが可能であり、走行経路の学習に費やす時間を短縮できる。
【００１７】
また、本発明に係る建設機械は、前記建設機械用機械学習装置を備える建設機械である。
【発明の効果】
【００１８】
本発明によれば、建設機械の転圧作業を柔軟かつ簡単に実現できる。
【図面の簡単な説明】
【００１９】
【図１】本発明の実施形態に係る建設機械を用いた次世代無人化施工システムを説明するための図であり、（ａ）は次世代無人化施工システムの全体図であり、（ｂ）は無人化施工を行う転圧エリアの例示である。
【図２】走行軌跡情報の例示である。
【図３】走行軌跡画像の例示であり、（ａ），（ｂ）は各々の時刻における状態を示す。
【図４】本発明の実施形態に係る建設機械の外観図である。
【図５】本発明の実施形態に係る建設機械が備える走行制御システムを説明するためのブロック図である。
【図６】本発明の実施形態に係る建設機械用機械学習装置の学習方法を説明するための図であり、（ａ）は初期段階を示し、（ｂ）は中期段階を示し、（ｃ）は後期段階を示す。
【図７】変形例に係る次世代無人化施工システムの全体図である。
【発明を実施するための形態】
【００２０】
以下、本発明の実施をするための形態を、適宜図面を参照しながら詳細に説明する。各図は、本発明を十分に理解できる程度に、概略的に示してあるに過ぎない。よって、本発明は、図示例のみに限定されるものではない。なお、各図において、共通する構成要素や同様な構成要素については、同一の符号を付し、それらの重複する説明を省略する。
【００２１】
≪本発明の概要≫
作業の進捗状況の把握を目的として、施工現場の施工状況を可視化する様々なツールが開発されており、その一つに建設機械（例えば、振動ローラ）による転圧作業を管理する転圧走行管理システムがある。この転圧走行管理システムは、転圧回数（走行回数）に応じて転圧エリアを色分けして画面表示する。施工管理者は、この画面を見ることで残りの作業量（どのエリアをあと何回転圧すればよいのか）を把握することができる。
【００２２】
本発明の発明者は、この転圧走行管理システムに着目し、転圧走行管理システムと強化学習技術とを掛け合わせることを考え出した。具体的には、転圧走行管理システムで用いられる画面表示の考え方を、建設機械を走行させる走行制御プログラムの強化学習に取り入れるというものである。これにより、施工管理者による作業工程のプログラムの作成なしに、建設機械の転圧作業を柔軟かつ簡単に実現できる。
【００２３】
≪実施形態に係る次世代無人化施工システムの構成≫
実施形態に係る次世代無人化施工システムＭを図１（ａ）に示す。次世代無人化施工システムＭは、建設機械を施工管理者による操縦なしで走行させて施工現場の地面を締め固めるものである。次世代無人化施工システムＭは、施工現場を走行しながら地面を転圧する建設機械としての振動ローラ１と、施工現場に立設されるトータルステーション２と、施工現場から離れた位置にある操作室内に設置されたホストＰＣ（Personal Computer）３とを備えて構成されている。また、次世代無人化施工システムＭは、トータルステーション２に代えて測位用衛星４を備える構成であってもよい。
振動ローラ１、トータルステーション２およびホストＰＣ３は、無線通信を用いて通信可能である。また、振動ローラ１は、測位用衛星４から発信される電波（測位用信号）を受信可能である。なお、ホストＰＣ３は、振動ローラ１に搭載することも可能な構造である。
【００２４】
本実施形態に係る振動ローラ１は、振動ローラ１を無人で走行させる走行制御プログラムの学習工程と、学習した走行制御プログラムを用いて施工現場を実際に走行させる施工工程とを行う。以下では、学習工程における走行と施工現場における走行とを区別するために、学習工程における走行を「試験走行」と呼ぶ場合がある。なお、振動ローラ１が施工現場を実際に走行しながら走行制御プログラムの学習を行うことも可能である。
【００２５】
＜トータルステーション＞
トータルステーション２は、走行する振動ローラ１を自動追尾して、振動ローラ１の位置情報を周期的（例えば、３００ミリ秒）にホストＰＣ３に対して送信する。トータルステーション２は、例えば、振動ローラ１の走行を妨害しない場所であると共に、振動ローラ１の自動追尾が常に可能な位置に設置されている。
【００２６】
＜測位用衛星＞
測位用衛星４は、全球測位衛星システム（ＧＮＳＳ：Global Navigation Satellite System）で使用される衛星であって、自身の位置情報（軌道位置情報）や時刻情報を、走行する振動ローラ１に対して周期的に送信する。測位用衛星４は、例えば、ＧＰＳ（Global Positioning System）衛星、ＧＬＯＮＡＳＳ（Global Navigation Satellite System）衛星、Ｇａｌｉｌｅｏ衛星、準天頂衛星などであってよい。
測位用衛星４から送信される情報は、振動ローラ１において、位置（緯度、経度、高度）の計算に使用される。なお、振動ローラ１は、例えばトータルステーション２から送信される位置情報の代用として測位用衛星４から送信される情報に基づいて計算した位置情報を使用する。
【００２７】
＜ホストＰＣ＞
ホストＰＣ３は、施工管理者により操作されるものである。施工管理者は、ホストＰＣ３に施工条件を予め登録する。施工条件には、例えば、（１）転圧を行う転圧エリアに関する転圧エリア情報、（２）転圧エリアを振動ローラ１が転圧する転圧条件に関する転圧条件情報などが含まれる。ここで、転圧エリアは、実際の施工においては施工現場であり、振動ローラ１の走行制御プログラムの学習における試験走行においては任意の試験エリアである。試験エリアは、施工現場と同じ形状や面積等であることが好ましい。
以下では、振動ローラ１が走行することで転圧した領域を「走行軌跡」と称する。そのため、走行軌跡は所定の幅を持つことになり、走行軌跡の幅は振動ローラ１の幅に対応している。走行軌跡は、主に転圧エリア内に形成されるが、振動ローラ１が転圧エリア外に進出した場合には転圧エリア外にも形成されることがある。
【００２８】
転圧エリア情報には、転圧エリアを特定するための座標などが含まれる。ここでの転圧エリアは、仮想的な複数の分割領域Ｋに分割されている。ここでの仮想的とは、転圧エリアが実際に分割されている必要がなく、ホストＰＣ３の処理において分割されていればよいことを意図している。分割領域Ｋは、振動ローラ１の走行軌跡を画面表示する場合に振動ローラ１が走行したか否かを識別する最小単位として使用される。分割領域Ｋは、転圧エリアを隙間なく分割できる形であればよく、例えば方形や三角形をなす。ここでは、図１（ｂ）に示すように、転圧エリアは矩形をなすと共に、ｍ×ｎ個の正方形の分割領域Ｋ（ｓ，ｔ）に分割されている場合を想定する。転圧エリア情報としては、例えば分割領域Ｋ（ｓ，ｔ）の頂点の座標が与えられる。なお、転圧エリアの分割数を指定することによって、ホストＰＣ３が分割領域Ｋ（ｓ，ｔ）の頂点の座標を計算してもよい。
【００２９】
転圧条件情報には、転圧エリアの目標転圧回数、無人化施工の制限時間や制限速度などが含まれる。目標転圧回数は振動ローラ１による転圧を行う目標回数である。制限時間は無人化施工の作業を許容する時間であり、制限速度は振動ローラ１の走行を許容する速度である。
【００３０】
施工管理者は、ホストＰＣ３に施工条件を登録した後に、施工開始または試験走行開始の指示を入力する。これにより、実際の施工においては振動ローラ１による無人化施工が開始され、また、学習のための試験走行においては試験エリアにおける走行が開始される。
無人化施工および試験走行が行われている期間、ホストＰＣ３は、トータルステーション２から受信した振動ローラ１の位置情報を振動ローラ１に対して送信する。なお、施工管理者は、施工開始または試験走行開始の指示を行った後は、原則として振動ローラ１に対して指示を行わない。
【００３１】
また、ホストＰＣ３は、無人化施工および試験走行が行われている期間に振動ローラ１の機体情報を振動ローラ１から周期的に受信し、この機体情報を表示画面に表示する。機体情報は、振動ローラ１の状態が確認できるものであればよく、例えば、振動ローラ１の進行方向（前後左右方向を含む）、速度、ステアリング角度等であってよい。施工管理者は、ホストＰＣ３に表示される振動ローラ１の機体情報を確認することで、振動ローラ１の状況を把握することが可能である。
【００３２】
また、ホストＰＣ３は、無人化施工および試験走行において、施工管理者により登録された転圧エリア情報やトータルステーション２から受信した振動ローラ１の位置情報などを用いて、振動ローラ１の走行軌跡情報を作成する。走行軌跡情報を図２に例示する。ここでの走行軌跡情報は、分割領域識別情報と、座標情報と、転圧回数情報とを含んで構成されている。
【００３３】
分割領域識別情報は、分割領域Ｋ（ｓ，ｔ）を識別する情報である。座標情報は、分割領域Ｋ（ｓ，ｔ）を特定する座標であり、ここでは分割領域Ｋ（ｓ，ｔ）の頂点の座標を示している。座標情報は、分割領域Ｋ（ｓ，ｔ）の中心点や重心の座標であってもよい。転圧回数情報は、振動ローラ１が分割領域Ｋ（ｓ，ｔ）を転圧した回数を示しており、分割領域Ｋ（ｓ，ｔ）の転圧を行うごとに加算される。ここで、振動ローラ１が分割領域Ｋ（ｓ，ｔ）の転圧を行うとは分割領域Ｋ（ｓ，ｔ）の全領域を転圧した場合に限らず、振動ローラ１が分割領域Ｋ（ｓ，ｔ）の一部を転圧した場合を含んでよい。例えば、振動ローラ１が分割領域Ｋ（ｓ，ｔ）の頂点の少なくとも何れか一つを通過した場合であってもよいし、また、分割領域Ｋ（ｓ，ｔ）の所定面積以上（例えば「50％以上」）を転圧した場合であってもよい。
【００３４】
また、ホストＰＣ３は、無人化施工および試験走行において、作成した走行軌跡情報から振動ローラ１の走行軌跡を示す走行軌跡画像を作成し、表示装置を介して走行軌跡画像を施工管理者に対して表示する。本実施形態における走行軌跡画像を図３に例示する。図３（ａ）に示す走行軌跡画像は、振動ローラ１が図面下方向に直進した後の状態を示し、図３（ｂ）に示す走行軌跡画像は、振動ローラ１が図面右方向にさらに旋回した後の状態を示す。
【００３５】
図３（ａ）に示すように、走行軌跡画像では振動ローラ１が通過した分割領域Ｋ（ｓ，ｔ）を識別可能（例えば、強調表示や色分け）に表示される。また、図３（ｂ）に示すように、走行軌跡画像では分割領域Ｋ（ｓ，ｔ）ごとに転圧回数を識別可能であることが好ましい。ここでは、転圧回数が増えるごとに斜線数を増やして分割領域Ｋ（ｓ，ｔ）を表しており、具体的には一度の転圧が行われた分割領域Ｋ（ｓ，ｔ）を一方向の斜線で表し、二度の転圧が行われた分割領域Ｋ（ｓ，ｔ）を二方向の斜線で表している。ホストＰＣ３は、例えば転圧回数に対応付けた模様情報や色情報を予め記憶しておき、走行軌跡情報の転圧回数情報を参照して対応する模様や色で分割領域Ｋ（ｓ，ｔ）を表示する。これにより、施工管理者は、この走行軌跡画像を見ることで残りの作業量（どのエリアをあと何回走行すればよいのか）を把握することができる。
【００３６】
また、ホストＰＣ３は、試験走行において、走行軌跡情報を振動ローラ１に対して随時送信する。走行軌跡情報は、振動ローラ１の走行制御プログラムの学習に用いられる。なお、振動ローラ１が施工現場を実際に走行しながら走行制御プログラムの学習を行うことも可能であり、その場合に、ホストＰＣ３は、施工現場の無人化施工において、走行軌跡情報を振動ローラ１に対して随時送信する。
【００３７】
＜振動ローラ＞
図４を参照して、建設機械の一例である振動ローラ１の構成について説明する。振動ローラ１は、車体１０と、車体１０の前後に取り付けられた二つの鉄輪１１，１１と、車体１０の下部に配置されたアーティキュレート機構１２と、車体１０の上部に設置された全周プリズム１３および通信アンテナ１４と、制御装置１５と、測位用アンテナ１６と、機体情報取得手段Ｓ（図５参照）とで構成されている。振動ローラ１は、鉄輪１１，１１の回転方向を変更することで、前進および後進が可能である。
【００３８】
車体１０は、振動ローラ１の本体となるものである。車体１０は、内部に図示しない駆動手段を収容する。以下では、「ローラの方位角Ｇ」といった場合には、車体１０の方向を意味する。
鉄輪１１は、図示しない振動を発生する装置を備え、振動しながら回転することで地面を転圧する。以下では、前側の鉄輪１１を前輪１１ａと呼び、後側の鉄輪１１を後輪１１ｂと呼ぶ場合がある。
【００３９】
アーティキュレート機構１２は、振動ローラ１を旋回させるための機構であり、車体１０の下部に設置される。アーティキュレート機構１２は、前輪１１ａを回転自在に保持する前輪保持部１２ａと、後輪１１ｂを回転自在に保持する後輪保持部１２ｂと、前輪保持部１２ａおよび後輪保持部１２ｂを連結するセンターピン１２ｃと、前輪保持部１２ａと後輪保持部１２ｂとの間に介設されるステアリングシリンダ（図示せず）とを備えている。制御装置１５から進行方向を修正する制御指令（ステアリング角度θを制御指令角度とする制御指令）を受信すると、ステアリング角度θに応じてステアリングシリンダが伸縮する。そして、ステアリングシリンダが伸縮すると、センターピン１２ｃを中心に前輪保持部１２ａおよび後輪保持部１２ｂが屈折し、それに伴い前輪１１ａおよび後輪１１ｂの方向が変化する。
【００４０】
全周プリズム１３は、トータルステーション２の追尾対象となるものである。ここで、アーティキュレート機構１２のステアリング角度θは、センターピン１２ｃの位置を基準とするので、振動ローラ１の走行制御を行う基準点をセンターピン１２ｃの位置またはセンターピン１２ｃを通る鉛直線上に設けることが好ましい。その為、振動ローラ１のようにアーティキュレート機構１２が採用されている建設機械の場合、全周プリズム１３の位置をセンターピン１２ｃの真上になるように演算により補正を行うのがよい。この補正を行うことにより、トータルステーション２を介して取得する座標が振動ローラ１の基準点（センターピン１２ｃの位置）となるので、角度修正を行う際に誤差が生じない。この補正を行うのは、振動ローラ１、トータルステーション２およびホストＰＣ３の何れであってもよく、何れかの装置で演算により行われる。
【００４１】
通信アンテナ１４は、ホストＰＣ３との通信を行うものである。具体的には、振動ローラ１の制御装置１５は、通信アンテナ１４を介してホストＰＣ３から施工条件（転圧エリア情報、転圧条件情報など）、位置情報、走行軌跡情報などを受信する。また、制御装置１５は、通信アンテナ１４を介してホストＰＣ３に対して振動ローラ１の機体情報を送信する。
【００４２】
測位用アンテナ１６は、測位用衛星４（図１参照）から発信される電波（測位用信号）を受信するものである。具体的には、振動ローラ１の制御装置１５は、測位用アンテナ１６を介して測位用衛星４から軌道位置情報や時刻情報などを受信する。制御装置１５は、測位用衛星４から受信した軌道位置情報や時刻情報を用いて振動ローラ１の位置を計算する。
【００４３】
図５を参照して、機体情報取得手段Ｓの構成について説明する。図５は、振動ローラ１の無人化走行を実現する走行制御システムＭ１の概略図である。機体情報取得手段Ｓは、姿勢検出センサＳ１と、速度検出センサＳ２と、ステア角度検出センサＳ３と、前方探査センサＳ４とで構成されている。
姿勢検出センサＳ１は、振動ローラ１の方位角Ｇ（deg）を検出するものである。姿勢検出センサＳ１は、例えば、ジャイロであって、車体１０の内部に設置される。方位角Ｇ（deg）は、制御装置１５に受け渡され、慣性航法（ＩＮＳ）を用いた現在位置の算出などに用いられる。なお、トータルステーション２により取得された振動ローラ１の位置情報や測位用衛星４から送信された情報に基づいて計算した位置情報は、姿勢検出センサＳ１のドリフトの補正に用いられる。
【００４４】
速度検出センサＳ２は、振動ローラ１が前進および後進する速度Ｖ（ｋｍ／ｈ）を検出するものである。速度検出センサＳ２は、例えば、ロータリーエンコーダであって、後輪１１ｂに設置される。速度Ｖ（ｋｍ／ｈ）は、制御装置１５に受け渡され、慣性航法（ＩＮＳ）を用いた現在位置の算出などに用いられる。
【００４５】
ステア角度検出センサＳ３は、アーティキュレート機構１２のステアリング角度θ（deg）を検出するものである。ステア角度検出センサＳ３は、例えば、ポテンショメータであって、アーティキュレート機構１２のセンターピン１２ｃに設置される。ステアリング角度θ（deg）は、制御装置１５に受け渡され、振動ローラ１の走行方向の修正などに用いられる。なお、ステアリングシリンダのロッドの進退量を検出するセンサをステア角度検出センサＳ３としてもよい。
【００４６】
前方探査センサＳ４は、振動ローラ１の前方方向の物体情報Ｑ（座標）を検出するものである。前方探査センサＳ４は、例えば、２Ｄスキャナやカメラ等であって、車体１０の前方上部に設置される。前方探査センサＳ４は、制御装置１５に受け渡され、障害物の検知及び停止制御に用いられる。
【００４７】
図５に示す制御装置１５は、例えば、ＣＰＵ（Central Processing Unit）、ＲＯＭ（Read Only Memory）、ＲＡＭ（Random Access Memory）等により構成される。制御装置１５は、建設機械用機械学習装置３０を備える。建設機械用機械学習装置３０は、振動ローラ１の走行制御プログラムの学習を行うと共に、学習を行った走行制御プログラムを用いて振動ローラ１の無人化走行を制御する。建設機械用機械学習装置３０は、走行制御手段３１と、行動評価手段３２とを備える。
【００４８】
走行制御手段３１は、図示しない記憶部から振動ローラ１を無人化走行させる走行制御プログラムを取得し、取得した走行制御プログラムをＣＰＵで実行することにより実現される。走行制御手段３１は、機体情報取得手段Ｓが取得した情報やホストＰＣ３から受信した情報を用いて無人化走行の制御を行う。ここで、施工管理者は、振動ローラ１の走行経路を設定することは行わず、走行制御手段３１は、試験走行での学習に基づいて走行経路を決定する。具体的には、走行制御手段３１は、振動ローラ１を試験走行させる学習工程において、行動評価手段３２から報酬を受け取り、受け取った報酬を用いて走行経路を学習する。走行経路の学習は、１回の転圧作業（転圧エリアを目標回数だけ転圧すること）を区切りとし、転圧作業を繰り返し行うことにより進められる。
【００４９】
行動評価手段３２は、振動ローラ１を試験走行させる学習工程において、ホストＰＣ３から受信した走行軌跡情報に基づいた報酬（正および負のものを含む）を走行制御手段３１に対して与える。行動評価手段３２による報酬の与え方は種々の方法を用いることが可能であり、例えば実験等によって適切な報酬を事前に導き出しておき、施工管理者により試験走行前に行動評価手段３２に設定される。以下では、建設機械用機械学習装置３０による走行経路の学習方法を例示する。
【００５０】
（１）分割領域Ｋ単位で報酬を与える場合
行動評価手段３２は、例えば分割領域Ｋ（ｓ，ｔ）ごとの転圧回数を手がかりとして報酬を走行制御手段３１に与える。具体的には、行動評価手段３２は、振動ローラ１が分割領域Ｋ（ｓ，ｔ）を新たに転圧した場合（何れかの分割領域Ｋ（ｓ，ｔ）の転圧回数を加算した場合）に正の報酬を与える。すなわち、行動評価手段３２は、走行制御手段３１の制御により、ある分割領域（ｓ，ｔ）から隣接する分割領域（ｓ，ｔ）に振動ローラ１が移動する行動を行った場合に正の報酬を与える。一方、行動評価手段３２は、目標転圧回数を超えて分割領域Ｋ（ｓ，ｔ）を転圧した場合や、振動ローラ１が転圧エリア外に進出した場合に負の報酬を振動ローラ１に与える。
【００５１】
なお、行動評価手段３２は、分割領域Ｋ（ｓ，ｔ）を転圧した際に、転圧回数に応じた正しい振動があったときにさらに正の報酬を与えてもよい。転圧回数に応じた正しい振動とは、例えば、転圧回数が１回目のときには比較的大きな振動であり、転圧回数が増えるに従って徐々に小さな振動である。また、行動評価手段３２は、作業効率のよい順番で分割領域Ｋ（ｓ，ｔ）を転圧した場合にさらに正の報酬を与えてもよい。
また、行動評価手段３２は、振動ローラ１が障害物に接触した場合や、障害物を検知して停止した場合に負の報酬を与えてもよい。また、行動評価手段３２は、振動ローラ１が制限速度をオーバーした場合に負の報酬を与えてもよい。また、行動評価手段３２は、転圧回数が少ない領域が点在した場合（ある分割領域Ｋ（ｓ，ｔ）の転圧回数に対して周囲の分割領域Ｋ（ｓ，ｔ）の転圧回数が多くなった場合）に負の報酬を与えてもよい。
【００５２】
走行制御手段３１は、振動ローラ１を試験走行させる学習工程において、制限時間内に受信する報酬が最大化されるように行動を選択し、選択した行動に基づき振動ローラ１を制御する。走行制御手段３１は、試験走行を繰り返し行うことで、報酬が最大化される走行経路を学習する。なお、ここで導かれる走行経路は、最良のものである必要はなく、最良に近いものも含むものである。
【００５３】
以上のように、本実施形態に係る建設機械用機械学習装置３０は、転圧エリアを複数の分割領域Ｋ（ｓ，ｔ）に分割する。そして、振動ローラ１があるある分割領域Ｋ（ｓ，ｔ）から隣接する分割領域Ｋ（ｓ，ｔ）へ移動する行動を取った場合に走行制御手段３１に対して報酬を与える。したがって、本実施形態に係る建設機械用機械学習装置３０は、転圧作業を繰り返し行うことにより走行経路の学習が可能であり、作業工程のプログラムの作成なしに振動ローラ１の転圧作業を柔軟かつ簡単に実現できる。
【００５４】
（２）転圧エリア単位で報酬を与える場合
行動評価手段３２は、例えば転圧エリアの転圧作業完了の可否を手がかりとして報酬を走行制御手段３１に与える。具体的には、行動評価手段３２は、制限時間内に転圧エリアのすべての分割領域Ｋ（ｓ，ｔ）を振動ローラ１が目標転圧回数だけ走行した場合（すなわち、目標転圧回数に対応付けた模様や色の走行軌跡画像が完成された場合）に正の報酬を走行制御手段３１に与える。一方、行動評価手段３２は、例えば制限時間内に転圧エリアのすべての分割領域Ｋ（ｓ，ｔ）を振動ローラ１が目標転圧回数だけ走行しなかった場合（すなわち、目標転圧回数に対応付けた模様や色の走行軌跡画像が完成しなかった場合）に、未転圧の分割領域Ｋ（ｓ，ｔ）の量に基づいた負の報酬を走行制御手段３１に与える。
【００５５】
この場合に、行動評価手段３２は、走行経路を予め設定した通常施工の歩掛時間（例えば、１００ｍ2で６０分）を初期値として、実際の歩掛時間との差に基づく報酬を走行制御手段３１に与えるようにしてもよい。つまり、転圧エリアの転圧作業完了までの時間が短い程に高い報酬を与えてもよい。
【００５６】
また、行動評価手段３２は、ある分割領域（ｓ，ｔ）から隣接する分割領域（ｓ，ｔ）に振動ローラ１が移動するごとに次に取るべき行動を選択するための指標となる報酬の期待値を設定する。報酬の期待値は、例えば、Ｑ学習（Q-learning）におけるＱ値（Q-value）である。行動評価手段３２は、学習工程の開始時においては報酬の期待値を乱数で初期化し、試験走行を繰り返す中で最終的に報酬を得た行動につながる一連の行動に対して報酬の期待値を増加させる。走行制御手段３１は、報酬の期待値が大きい行動を優先して次の行動を決定する。また、走行制御手段３１は、報酬の期待値とは関係なく、ある割合でランダムに行動を選択するようにしてもよい。このようにすると、報酬の期待値に設定した初期値に依存することなく、さまざまな行動に対する適切な報酬の期待値を算出することができる。
【００５７】
なお、学習工程の初期段階においては、振動ローラ１の行動は初期化された乱数により選択されることになるので、行動の結果は当然のことながら目標とする行動系列とはかけ離れたものとなる。学習工程の初期段階においては、例えば振動ローラ１がでたらめに走行して、同じ分割領域Ｋ（ｓ，ｔ）を何度も往復したり、転圧エリア外に進出することによりなかなか転圧作業が完了しないことも考えられる。このような初期段階においては、分割領域Ｋ（ｓ，ｔ）の数に対応して、目標とする行動系列に近づくまでの時間も増加する。
【００５８】
そのため、本実施形態では、図６に示すように、学習工程が進むにつれて、分割領域Ｋ（ｓ，ｔ）の分割数を徐々に増やして学習を行う。ここでは、初期段階、中期段階、後期段階の三つの段階で学習を進める場合を想定して説明するが、学習工程の段階数はここで説明するものに限定されるものではない。例えば、二つの段階や四つ以上の段階で学習が行われてもよい。
【００５９】
学習工程の初期段階では、図６（ａ）に示すように分割領域Ｋ（ｓ，ｔ）の分割数が少ない状態（分割領域Ｋ（ｓ，ｔ）のサイズが大きい状態）で学習を行う。そして、分割領域Ｋ（ｓ，ｔ）の分割数が少ない状態の学習が完了した場合に、図６（ｂ）に示すように分割領域Ｋ（ｓ，ｔ）の分割数を増やして学習を継続する。なお、分割数が少ない状態で学習が完了しても、分割領域（ｓ，ｔ）の面積が広いので、未転圧領域が多く存在することになるが、この段階ではよしとする。続いて、中期段階の学習が完了した場合に、図６（ｃ）に示すように分割領域Ｋ（ｓ，ｔ）の分割数をさらに増やして学習を継続する。図６（ｃ）に示す学習工程の後期段階では、分割領域（ｓ，ｔ）の面積が狭いので、未転圧領域はほとんど存在しない。
【００６０】
ここで、学習工程が進むにつれて、分割領域Ｋ（ｓ，ｔ）の分割数を徐々に増やして学習を行うのに加えて、分割領域Ｋ（ｓ，ｔ）の分割数の増加に対応させて報酬を増加させてもよい。これにより、細かい分割領域Ｋ（ｓ，ｔ）における試験走行の結果を学習結果により早く反映させることができる。
【００６１】
以上のように、本実施形態に係る建設機械用機械学習装置３０は、転圧エリアを複数の分割領域Ｋ（ｓ，ｔ）に分割する。また、振動ローラ１がある分割領域Ｋ（ｓ，ｔ）から隣接する分割領域Ｋ（ｓ，ｔ）へ移動する移動する行動ごとに次に取るべき行動を選択するための指標となる報酬の期待値を設定する。そして、最終的に報酬を得た行動につながる一連の行動に対して報酬の期待値を増加させる。したがって、本実施形態に係る建設機械用機械学習装置３０は、転圧作業を繰り返し行うことにより走行経路の学習が可能であり、作業工程のプログラムの作成なしに振動ローラ１の転圧作業を柔軟かつ簡単に実現できる。
【００６２】
［変形例］
以上、本発明の実施形態について説明したが、本発明はこれに限定されるものではなく、特許請求の範囲の趣旨を変えない範囲で実施することができる。実施形態の変形例を以下に例示する。
【００６３】
実施形態に係る次世代無人化施工システムＭ（図１（ａ）参照）は、振動ローラ１と、トータルステーション２（または測位用衛星４）と、ホストＰＣ３とを備えて構成されていた。そして、ホストＰＣ３が振動ローラ１に対して走行軌跡情報を送信し、振動ローラ１では行動評価手段３２が走行軌跡情報に基づいて走行制御手段３１に対して報酬を付与していた。しかしながら、振動ローラ１が有していた行動評価手段３２は、ホストＰＣ３が備える構成でもよく、また、図示しない他の装置が行動評価手段３２を備える構成でもよい。その場合、行動評価手段３２が備える装置から振動ローラ１に対して報酬を送信する。
【００６４】
また、実施形態では走行軌跡情報に基づいて報酬を付与していた。しかしながら、行動評価手段３２は、走行軌跡画像（図３参照）に基づいて走行制御手段３１に対して報酬を付与してもよい。図７に走行軌跡画像（図３参照）に基づいて報酬を付与する場合の構成を示す。
図７に示す次世代無人化施工システムＭＡは、振動ローラ１Ａと、トータルステーション２（または測位用衛星４）と、ホストＰＣ３Ａと、行動評価装置５とを備えて構成される。
振動ローラ１Ａは、行動評価手段３２を有しておらず行動評価手段３２に対応する機能を行動評価装置５が備える。そのため、ホストＰＣ３Ａは、振動ローラ１Ａに対して走行軌跡情報を送信しない。行動評価装置５はカメラ５ａを備え、ホストＰＣ３Ａに表示される走行軌跡画像（図３参照）を撮影可能に配置されている。行動評価装置５は、走行軌跡画像の撮影を行い、撮影した走行軌跡画像の画像処理を行うことで走行軌跡情報に対応する情報を算出し、算出した情報に基づいて報酬を振動ローラ１Ａに付与する。
【００６５】
また、実施形態では学習工程において振動ローラ１を実際に試験走行させていたが、試験走行に代えてシミュレーションを行い、このシミュレーションの結果により走行経路の学習を行ってもよい。ここでのシミュレーションは、例えば、転圧エリアの仮想フィールド（仮想三次元または二次元空間）を振動ローラ１の仮想体が走行するものである。転圧エリアの仮想フィールドは、転圧エリアと同様に複数の分割領域Ｋ（ｓ，ｔ）に分割されている。その場合、建設機械用機械学習装置３０の走行制御手段３１は、仮想フィールド上で振動ローラ１の仮想体の走行を制御する。仮想体は、実際の施工を行う振動ローラ１の走行性能に対応しているのが望ましく、走行性能を簡略化したものであってもよい。仮想体は、走行制御手段３１の制御により、例えば前進、後進、最小旋回半径での右旋回および左旋回を仮想フィールド上で行う。行動評価手段３２は、仮想体の走行軌跡情報に基づいた報酬（正および負のものを含む）を走行制御手段３１に対して与え、走行制御手段３１は報酬により仮想体の走行経路を変更する。そして、仮想フィールドで仮想体の転圧作業を繰り返し行うことで走行経路の学習を行い、学習した走行経路を用いて振動ローラ１を実際に走行させる。このようにすれば、振動ローラ１を実際に走行させずに走行経路の学習を行うことができる。そのため、走行経路の学習に費やす労力を抑えることができる。
【符号の説明】
【００６６】
１，１Ａ  振動ローラ（建設機械）
２      トータルステーション
３，３Ａ  ホストＰＣ
４      測位用衛星
５      行動評価装置
１５    制御装置
３０    建設機械用機械学習装置
３１    走行制御手段
３２    行動評価手段
Ｍ，ＭＡ  次世代無人化施工システム
Ｋ（ｓ，ｔ）  分割領域
【図１】
2019007167.tif 000003
【図２】
2019007167.tif 000004
【図３】
2019007167.tif 000005
【図４】
2019007167.tif 000006
【図５】
2019007167.tif 000007
【図６】
2019007167.tif 000008
【図７】
2019007167.tif 000009