(57)【要約】【課題】レーザ加工装置によるワークのレーザ加工時のレーザ加工条件を適切に調整することが可能な加工条件調整装置及び機械学習装置を提供すること。【解決手段】本発明の加工条件調整装置１が備える機械学習装置１００は、レーザ加工におけるレーザ加工条件を示す加工条件データ、及びワークのカッティングフロントの斜め後方部の昇温値を示す斜め後方昇温データを、環境の現在状態を表す状態変数として観測する状態観測部１０６と、レーザ加工におけるレーザ加工条件に基づく加工時のワークのカッティングフロントの斜め後方部の昇温値の適否を判定する昇温値判定データを、ワークの加工の適否判定結果を示す判定データとして取得する判定データ取得部１０８と、状態変数と判定データとを用いて、ワークのカッティングフロントの斜め後方部の昇温値と、レーザ加工におけるレーザ加工条件の調整とを関連付けて学習する学習部１１０と、を備える。【選択図】図２
2019198876.tif 000002
【特許請求の範囲】
【請求項１】
ワークをレーザ加工するレーザ加工装置のレーザ加工条件を調整する加工条件調整装置制御装置であって、
前記レーザ加工におけるレーザ加工条件を学習する機械学習装置を備え、
前記機械学習装置は、
前記レーザ加工におけるレーザ加工条件を示す加工条件データ、及びワークのカッティングフロントの斜め後方部の昇温値を示す斜め後方昇温データを、環境の現在状態を表す状態変数として観測する状態観測部と、
前記レーザ加工におけるレーザ加工条件に基づく加工時のワークのカッティングフロントの斜め後方部の昇温値の適否を判定する昇温値判定データを、前記ワークの加工の適否判定結果を示す判定データとして取得する判定データ取得部と、
前記状態変数と前記判定データとを用いて、ワークのカッティングフロントの斜め後方部の昇温値と、レーザ加工におけるレーザ加工条件の調整とを関連付けて学習する学習部と、
を備える加工条件調整装置。
【請求項２】
前記斜め後方昇温データは、センサにより測定された加工時のワークのカッティングフロントの斜め後方部の温度と、他のセンサにより測定されたワークのカッティングフロントの斜め後方部から離れた位置のワークの温度との差分を観測したものである、
請求項１に記載の加工条件調整装置。
【請求項３】
前記斜め後方昇温データは、センサにより測定された加工時のワークのカッティングフロントの斜め後方部の温度と、加工前のワークの温度の推定値との差分を観測したものである、
請求項１に記載の加工条件調整装置。
【請求項４】
判定データ取得部は、更に前記レーザ加工におけるレーザ加工条件に基づく加工時の反射光の適否を判定するための反射光判定データＤ２を、前記ワークの加工の適否判定結果を示す判定データとして取得する、
請求項１〜３のいずれか１つに記載の加工条件調整装置。
【請求項５】
前記学習部は、
前記適否判定結果に関連する報酬を求める報酬計算部と、
前記報酬を用いて、ワークのカッティングフロントの斜め後方部の昇温値に対するレーザ加工におけるレーザ加工条件の調整行動の価値を表す関数を更新する価値関数更新部と、
を備え、
前記報酬計算部は、前記ワークのカッティングフロントの斜め後方部の昇温値が小さい程高い報酬を与える、
請求項１〜４のいずれか１つに記載の加工条件調整装置。
【請求項６】
前記学習部は、前記状態変数と前記判定データとを多層構造で演算する、
請求項１〜５のいずれか１つに記載の加工条件調整装置。
【請求項７】
ワークをレーザ加工するレーザ加工装置のレーザ加工条件を調整する加工条件調整装置制御装置であって、
前記レーザ加工におけるレーザ加工条件を学習した機械学習装置を備え、
前記機械学習装置は、
前記レーザ加工におけるレーザ加工条件を示す加工条件データ、及びワークのカッティングフロントの斜め後方部の昇温値を示す斜め後方昇温データを、環境の現在状態を表す状態変数として観測する状態観測部と、
ワークのカッティングフロントの斜め後方部の昇温値と、レーザ加工におけるレーザ加工条件の調整とを関連付けて学習した学習部と、
前記状態観測部が観測した状態変数と、前記学習部による学習結果に基づいて、レーザ加工におけるレーザ加工条件の調整を決定する意思決定部と、
を備える加工条件調整装置。
【請求項８】
前記機械学習装置は、クラウドサーバに存在する、
請求項１〜７のいずれか１つに記載の加工条件調整装置。
【請求項９】
ワークをレーザ加工するレーザ加工装置のレーザ加工条件を学習する機械学習装置であって、
前記レーザ加工におけるレーザ加工条件を示す加工条件データ、及びワークのカッティングフロントの斜め後方部の昇温値を示す斜め後方昇温データを、環境の現在状態を表す状態変数として観測する状態観測部と、
前記レーザ加工におけるレーザ加工条件に基づく加工時のワークのカッティングフロントの斜め後方部の昇温値の適否を判定する昇温値判定データを、前記ワークの加工の適否判定結果を示す判定データとして取得する判定データ取得部と、
前記状態変数と前記判定データとを用いて、ワークのカッティングフロントの斜め後方部の昇温値と、レーザ加工におけるレーザ加工条件の調整とを関連付けて学習する学習部と、
を備える機械学習装置。
【請求項１０】
ワークをレーザ加工するレーザ加工装置のレーザ加工条件を学習した機械学習装置であって、
前記レーザ加工におけるレーザ加工条件を示す加工条件データ、及びワークのカッティングフロントの斜め後方部の昇温値を示す斜め後方昇温データを、環境の現在状態を表す状態変数として観測する状態観測部と、
ワークのカッティングフロントの斜め後方部の昇温値と、レーザ加工におけるレーザ加工条件の調整とを関連付けて学習した学習部と、
前記状態観測部が観測した状態変数と、前記学習部による学習結果に基づいて、レーザ加工におけるレーザ加工条件の調整を決定する意思決定部と、
を備える機械学習装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、加工条件調整装置及び機械学習装置に関する。
【背景技術】
【０００２】
レーザ光によりワークの切断等の加工をするレーザ加工装置の状態は、運転をする毎に構成する部品の劣化や汚れの付着等が原因で常に一定の状態であるわけではなく変化する。その為、日々行われるレーザ加工装置によるレーザ加工時の最適なレーザ加工条件は、レーザ加工装置の状態の変化に応じて変わることがある。
【０００３】
レーザ加工装置による加工時のレーザ加工条件は、加工精度や加工品質が一定の水準を保った範囲で高速に加工が実行できる条件であることが望ましい。この様なレーザ加工条件の加工条件出しに係る従来技術として、例えば特許文献１，２には、レーザ加工装置の運転時に、ワークの加工部の温度に基づいてレーザ加工条件を調整する技術が開示されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開平０７−１００６７４号公報
【特許文献２】特開２０１７−１６４８０１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
レーザ加工時における加工部の温度は、カーフ幅やアシストガスの圧力損失乃至流出等の影響で細かく変化するため、加工部の温度をレーザ加工条件の調整に用いようとしてもノイズが多くその調整が安定しない場合があるという課題がある。また、同じワークに対して連続してレーザ加工を続けていると、ワークそのものに蓄積される熱量が増加して元々の温度が上昇し、検出された絶対温度に基づいてレーザ加工条件を調整しようとしても、レーザにより加工部へと伝達した熱量を正確に把握することができず、最適なレーザ加工条件へと調整できない場合がある。
【０００６】
そこで本発明の目的は、レーザ加工装置によるワークのレーザ加工時のレーザ加工条件を適切に調整することが可能な加工条件調整装置及び機械学習装置を提供することである。
【課題を解決するための手段】
【０００７】
本発明の加工条件調整装置は、図９に示すように、レーザ加工により切断中のワークのカッティングフロントから見て加工方向に対する斜め後方部の所定周期あたりの昇温値に基づいてレーザ加工条件を調整する。ワークのカッティングフロントの斜め後方部は、既に加工が完了した部分の近傍であり、温度自体は加工部と比較してノイズが少なく安定しているため、該温度に基づいて加工の状態を把握するのに適している。また、所定周期あたりの昇温値を用いることで、環境温度の変化やワーク自体の温度上昇があった場合であっても、レーザ加工によるワークへの熱伝達量を正確に把握できるようになるため、絶対温度を用いた場合に比べて正確に加工部の状態が反映されており、これに基づくことで適切なレーザ加工条件の調整が行えるようになる。
【０００８】
そして、本発明の一態様は、ワークをレーザ加工するレーザ加工装置のレーザ加工条件を調整する加工条件調整装置制御装置であって、前記レーザ加工におけるレーザ加工条件を学習する機械学習装置を備え、前記機械学習装置は、前記レーザ加工におけるレーザ加工条件を示す加工条件データ、及びワークのカッティングフロントの斜め後方部の昇温値を示す斜め後方昇温データを、環境の現在状態を表す状態変数として観測する状態観測部と、前記レーザ加工におけるレーザ加工条件に基づく加工時のワークのカッティングフロントの斜め後方部の昇温値の適否を判定する昇温値判定データを、前記ワークの加工の適否判定結果を示す判定データとして取得する判定データ取得部と、前記状態変数と前記判定データとを用いて、ワークのカッティングフロントの斜め後方部の昇温値と、レーザ加工におけるレーザ加工条件の調整とを関連付けて学習する学習部と、を備える加工条件調整装置である。
【０００９】
本発明の他の態様は、ワークをレーザ加工するレーザ加工装置のレーザ加工条件を調整する加工条件調整装置制御装置であって、前記レーザ加工におけるレーザ加工条件を学習した機械学習装置を備え、前記機械学習装置は、前記レーザ加工におけるレーザ加工条件を示す加工条件データ、及びワークのカッティングフロントの斜め後方部の昇温値を示す斜め後方昇温データを、環境の現在状態を表す状態変数として観測する状態観測部と、ワークのカッティングフロントの斜め後方部の昇温値と、レーザ加工におけるレーザ加工条件の調整とを関連付けて学習した学習部と、前記状態観測部が観測した状態変数と、前記学習部による学習結果に基づいて、レーザ加工におけるレーザ加工条件の調整を決定する意思決定部と、を備える加工条件調整装置である。
【００１０】
本発明の他の態様は、ワークをレーザ加工するレーザ加工装置のレーザ加工条件を学習する機械学習装置であって、前記レーザ加工におけるレーザ加工条件を示す加工条件データ、及びワークのカッティングフロントの斜め後方部の昇温値を示す斜め後方昇温データを、環境の現在状態を表す状態変数として観測する状態観測部と、前記レーザ加工におけるレーザ加工条件に基づく加工時のワークのカッティングフロントの斜め後方部の昇温値の適否を判定する昇温値判定データを、前記ワークの加工の適否判定結果を示す判定データとして取得する判定データ取得部と、前記状態変数と前記判定データとを用いて、ワークのカッティングフロントの斜め後方部の昇温値と、レーザ加工におけるレーザ加工条件の調整とを関連付けて学習する学習部と、を備える機械学習装置である。
【００１１】
本発明の他の態様は、ワークをレーザ加工するレーザ加工装置のレーザ加工条件を学習した機械学習装置であって、前記レーザ加工におけるレーザ加工条件を示す加工条件データ、及びワークのカッティングフロントの斜め後方部の昇温値を示す斜め後方昇温データを、環境の現在状態を表す状態変数として観測する状態観測部と、ワークのカッティングフロントの斜め後方部の昇温値と、レーザ加工におけるレーザ加工条件の調整とを関連付けて学習した学習部と、前記状態観測部が観測した状態変数と、前記学習部による学習結果に基づいて、レーザ加工におけるレーザ加工条件の調整を決定する意思決定部と、を備える機械学習装置である。
【発明の効果】
【００１２】
本発明により、レーザ加工装置におけるワークのレーザ加工時のレーザ加工条件の調整を適切に行うことができるようになる。
【図面の簡単な説明】
【００１３】
【図１】一実施形態による加工条件調整装置の概略的なハードウェア構成図である。
【図２】一実施形態による加工条件調整装置の概略的な機能ブロック図である。
【図３】ワークの昇温値の測定方法の例を示す図である。
【図４】ワークの昇温値の測定方法の他の例を示す図である。
【図５】加工条件調整装置の一形態を示す概略的な機能ブロック図である。
【図６】機械学習方法の一形態を示す概略的なフローチャートである。
【図７Ａ】ニューロンを説明する図である。
【図７Ｂ】ニューラルネットワークを説明する図である。
【図８】加工条件調整装置を組み込んだシステムの一形態を示す概略的な機能ブロック図である。
【図９】本発明における判定データとしての昇温値の取得方法について説明する図である。
【発明を実施するための形態】
【００１４】
以下、本発明の実施形態を図面と共に説明する。
図１は第１の実施形態による加工条件調整装置の要部を示す概略的なハードウェア構成図である。加工条件調整装置１は、例えばレーザ加工装置を制御する制御装置として実装することができる。また、加工条件調整装置１は、例えばレーザ加工装置を制御する制御装置に併設されたパソコンや、制御装置に有線／無線のネットワークを介して接続されたセルコンピュータ、ホストコンピュータ、エッジサーバ、クラウドサーバ等のコンピュータとして実装することができる。本実施形態では、加工条件調整装置１を、レーザ加工装置２を制御する制御装置として実装した場合の例を示す。
【００１５】
本実施形態による加工条件調整装置１が備えるＣＰＵ１１は、加工条件調整装置１を全体的に制御するプロセッサである。ＣＰＵ１１は、ＲＯＭ１２に格納されたシステム・プログラムをバス２０を介して読み出し、該システム・プログラムに従って加工条件調整装置１の全体を制御する。ＲＡＭ１３には一時的な計算データや表示データ、図示しない入力部を介してオペレータが入力した各種データ等が一時的に格納される。
【００１６】
不揮発性メモリ１４は、例えば図示しないバッテリでバックアップされるなどして、加工条件調整装置１の電源がオフされても記憶状態が保持されるメモリとして構成される。不揮発性メモリ１４には、インタフェース１５を介して外部機器７２から読み込まれたプログラムや表示器／ＭＤＩユニット７０を介して入力されたプログラム、加工条件調整装置１の各部やレーザ加工装置２から取得された各種データ（例えば、レーザ加工装置２によるレーザ加工におけるレーザ出力、周波数、デューティー、加工速度、アシストガスの種類や圧力、ノズル径、ギャップ、焦点位置、レーザ加工装置２に取付けられたセンサ等により検出されたワークのカッティングフロントの斜め後方部の温度等）が記憶されている。不揮発性メモリ１４に記憶されたプログラムや各種データは、実行時／利用時にはＲＡＭ１３に展開されても良い。また、ＲＯＭ１２には、公知の解析プログラムなどの各種のシステム・プログラム（後述する機械学習装置１００とのやりとりを制御するためのシステム・プログラムを含む）があらかじめ書き込まれている。
【００１７】
表示器／ＭＤＩユニット７０はディスプレイやキーボード等を備えた手動データ入力装置であり、インタフェース１８は表示器／ＭＤＩユニット７０のキーボードからの指令，データを受けてＣＰＵ１１に渡す。インタフェース１９は各軸を手動で駆動させる際に用いる手動パルス発生器等を備えた操作盤７１に接続されている。
【００１８】
インタフェース２１は、加工条件調整装置１と機械学習装置１００とを接続するためのインタフェースである。機械学習装置１００は、機械学習装置１００全体を統御するプロセッサ１０１と、システム・プログラム等を記憶したＲＯＭ１０２、機械学習に係る各処理における一時的な記憶を行うためのＲＡＭ１０３、及び学習モデル等の記憶に用いられる不揮発性メモリ１０４を備える。機械学習装置１００は、インタフェース２１を介して加工条件調整装置１で取得可能な各情報（例えば、レーザ加工装置２によるレーザ加工におけるレーザ出力、周波数、デューティー、加工速度、アシストガスの種類や圧力、ノズル径、ギャップ、焦点位置、レーザ加工装置２に取付けられたセンサ等により検出されたワークのカッティングフロントの斜め後方部の温度等）を観測することができる。また、加工条件調整装置１は、機械学習装置１００から出力される、加工条件の変更指令を受けて、レーザ加工装置２の動作を制御する。
【００１９】
図２は、一実施形態による加工条件調整装置１と機械学習装置１００の概略的な機能ブロック図である。図２に示した各機能ブロックは、図１に示した加工条件調整装置１が備えるＣＰＵ１１、及び機械学習装置１００のプロセッサ１０１が、それぞれのシステム・プログラムを実行し、加工条件調整装置１及び機械学習装置１００の各部の動作を制御することにより実現される。
【００２０】
本実施形態の加工条件調整装置１は、機械学習装置１００から出力された加工条件の変更指令に基づいてレーザ加工装置２を制御する制御部３４を備える。制御部３４は、一般に制御プログラム等による指令に従ってレーザ加工装置２の動作を制御するが、その際に、機械学習装置１００から加工条件の変更指令が出力されると、前記プログラムやレーザ加工装置に事前に設定されたレーザ加工条件に代えて、機械学習装置１００から出力された加工条件となるようにレーザ加工装置２を制御する。
【００２１】
一方、加工条件調整装置１が備える機械学習装置１００は、ワークのカッティングフロントの斜め後方部の昇温値に対するレーザ加工におけるレーザ加工条件の調整を、いわゆる機械学習により自ら学習するためのソフトウェア（学習アルゴリズム等）及びハードウェア（プロセッサ１０１等）を含む。加工条件調整装置１が備える機械学習装置１００が学習するものは、ワークのカッティングフロントの斜め後方部の昇温値と、レーザ加工におけるレーザ加工条件の調整との、相関性を表すモデル構造に相当する。
【００２２】
図２に機能ブロックで示すように、加工条件調整装置１が備える機械学習装置１００は、レーザ加工におけるレーザ加工条件を示すレーザ加工条件データＳ１、及びワークのカッティングフロントの斜め後方部の昇温値を示す斜め後方部昇温データＳ２を含む環境の現在状態を表す状態変数Ｓとして観測する状態観測部１０６と、調整されたレーザ加工におけるレーザ加工条件に基づいてレーザ加工した場合のワークのカッティングフロントの斜め後方部の昇温値の適否を判定するための昇温値判定データＤ１を含む判定データＤを取得する判定データ取得部１０８と、状態変数Ｓと判定データＤとを用いて、ワークのカッティングフロントの斜め後方部の昇温値と、レーザ加工におけるレーザ加工条件の調整を関連付けて学習する学習部１１０とを備える。
【００２３】
状態観測部１０６が観測する状態変数Ｓのうち、レーザ加工条件データＳ１は、レーザ加工装置２において行われるレーザ加工におけるレーザ加工条件として取得することができる。レーザ加工におけるレーザ加工条件は、例えばレーザ加工装置２によるレーザ加工におけるレーザ出力、周波数、デューティー、加工速度、アシストガスの種類や圧力、ノズル径、ギャップ、焦点位置等が例示され、特に焦点位置、次点で加工速度はワークのレーザ加工の仕上がりに大きな影響を与えるため、少なくともこれらの条件はレーザ加工条件データＳ１に含まれていることが望ましい。これらのレーザ加工条件は、レーザ加工装置２の動作を制御するプログラムや、加工条件調整装置１に設定され、不揮発性メモリ１４に記憶されているレーザ加工パラメータ等から取得することができる。
【００２４】
レーザ加工条件データＳ１は、機械学習装置１００が学習部１１０の学習結果に基づいて１つ前の学習周期におけるワークのカッティングフロントの斜め後方部の昇温値に対して、当該学習周期において調整したレーザ加工におけるレーザ加工条件をそのまま用いることができる。このような手法を取る場合には、機械学習装置１００はレーザ加工におけるレーザ加工条件を学習周期毎にＲＡＭ１０３に一時的に記憶しておき、状態観測部１０６は、ＲＡＭ１０３から１つ前の学習周期でのレーザ加工におけるレーザ加工条件を今回の学習周期のレーザ加工条件データＳ１として取得するようにしても良い。
【００２５】
状態観測部１０６が観測する状態変数Ｓのうち、斜め後方部昇温データＳ２は、調整されたレーザ加工条件でレーザ加工されているワークから、温度センサとしてのセンサ３により検出されたワークのカッティングフロントの斜め後方部の温度の予め定めた所定周期内の温度上昇値として取得することができる。
【００２６】
斜め後方部昇温データＳ２は、例えば図３に例示されるように、ワークのカッティングフロントの斜め後方部Ａの温度を測定するセンサ３ａが測定した温度ＴAと、ワークの加工位置から十分に離れた位置Ｄの温度を測定するセンサ３ｂが測定した温度ＴDとの差分温度（ＴA−ＴD）として定義するようにしても良い。センサ３ａにより温度を測定する位置Ａを、ワークのカッティングフロントから見てどの程度離れた位置とするのかについては、予め実験等によりノイズがある程度低減される距離を求めておくと良く、通常の規模のレーザ加工装置では概ね５ｍｍ〜１０ｍｍ程度であると見込まれる。また、センサ３ｂにより温度を測定する位置Ｄをどの程度離れた位置とするのかについてはワークの材質や厚さなどによって異なるが、予め実験等により加工前のワークの温度に近い位置を求めておくと良い。
【００２７】
一方、斜め後方部昇温データＳ２は、例えば図４に例示されるように、ワークのカッティングフロントからやや離れた斜め後方部Ｂの温度を測定するセンサ３が測定した温度ＴBと、加工開始時に測定されたワークの温度ＴB0及び加工中に得られた情報とに基づいて推定される現在のワークの基準温度ＴBbと、に基づいて、温度（ＴB−ＴBb）として定義するようにしても良い。基準温度ＴBbについては、例えば、予め実験等で加工条件やワーク材質、容量等に関連付けて求めておいた加工時のワーク温度の上昇値を用いて推定するようにしても良いし、又は、設定された加工条件においてワークに与えられる熱量に基づいてシミュレーション等でワークの基準温度ＴBbの推定値を求めるようにしても良い。この方法で求められる昇温値は、推定値であるため精度は下がるものの、ノズルに取付けるセンサ３が１つで済むので、コスト面での優位性がある。
【００２８】
状態観測部１０６は、学習部１１０がオンライン学習を行う場合には、各状態変数をレーザ加工装置２やセンサ３、加工条件調整装置１の各部から逐次取得するようにしても良い。一方、学習部１１０がオフライン学習を行う場合には、ワークの加工中及び加工品質検知動作時に取得された各情報を加工条件調整装置１が不揮発性メモリ１４にログデータとして記憶するようにしておき、状態観測部１０６は、記録したログデータを解析して各状態変数を取得するようにすれば良い。
【００２９】
判定データ取得部１０８は、昇温値判定データＤ１として、調整されたレーザ加工におけるレーザ加工条件に基づいてレーザ加工した場合のワークのカッティングフロントの斜め後方部の昇温値の適否の判定結果を用いることができる。判定データ取得部１０８が用いる昇温値判定データＤ１としては、例えば、調整されたレーザ加工条件でレーザ加工されているワークから、温度センサとしてのセンサ３により検出されたワークのカッティングフロントの斜め後方部の温度の予め定めた所定周期内の温度上昇値が予め定めた所定の閾値よりも小さいか（適）、大きいか（否）といったものを使用すれば良い。ワークのカッティングフロントの斜め後方部の昇温値にはワークの種類や大きさなどに応じて適値が有ると考えられるが、基本的には小さければ小さいほど好適であるものなので、複数の閾値を用意して段階的に判定するようにしても良く、また、１つ前の学習周期において取得されたワークのカッティングフロントの斜め後方部の昇温値よりも小さいか（適）、大きいか（否）で判定するようにしても良い。
【００３０】
なお、判定データ取得部１０８は、学習部１１０による学習の段階では必須の構成となるが、学習部１１０によるワークのカッティングフロントの斜め後方部の昇温値とレーザ加工におけるレーザ加工条件の調整とを関連付けた学習が完了した後には必ずしも必須の構成ではない。例えば、学習が完了した機械学習装置１００を顧客に出荷する場合等には、判定データ取得部１０８を取り外して出荷するようにしても良い。
【００３１】
学習部１１０に対して同時に入力される状態変数Ｓは、学習部１１０による学習周期で考えた場合、判定データＤが取得された１学習周期前のデータに基づくものとなる。このように、加工条件調整装置１が備える機械学習装置１００が学習を進める間、環境においては、斜め後方部昇温データＳ２の取得、取得した各データに基づいて調整されたレーザ加工条件データＳ１に基づいたレーザ加工装置２によるワークの加工、判定データＤの取得が繰り返し実施される。
【００３２】
学習部１１０は、機械学習と総称される任意の学習アルゴリズムに従い、ワークのカッティングフロントの斜め後方部の昇温値に対する、レーザ加工におけるレーザ加工条件の調整を学習する。学習部１１０は、前述した状態変数Ｓと判定データＤとを含むデータ集合に基づく学習を反復実行することができる。ワークのカッティングフロントの斜め後方部の昇温値に対する、レーザ加工におけるレーザ加工条件の学習サイクルの反復中、状態変数Ｓは、上記したように１学習周期前におけるワークのカッティングフロントの斜め後方部の昇温値、及び１学習周期前において調整されたレーザ加工におけるレーザ加工条件から取得し、また判定データＤは、調整されたレーザ加工におけるレーザ加工条件に基づいて行われたワークの加工の適否判定結果とする。
【００３３】
このような学習サイクルを繰り返すことにより、学習部１１０は、ワークのカッティングフロントの斜め後方部の昇温値と、レーザ加工におけるレーザ加工条件の調整との相関性を暗示する特徴を識別することができるようになる。学習アルゴリズムの開始時にはワークのカッティングフロントの斜め後方部の昇温値と、レーザ加工におけるレーザ加工条件の調整の相関性は実質的に未知であるが、学習部１１０は、学習を進めるに従い徐々に特徴を識別して相関性を解釈する。ワークのカッティングフロントの斜め後方部の昇温値と、レーザ加工におけるレーザ加工条件の調整との相関性が、ある程度信頼できる水準まで解釈されると、学習部１１０が反復出力する学習結果は、現在状態（つまりワークのカッティングフロントの斜め後方部の昇温値）に対して、レーザ加工におけるレーザ加工条件をどう調整するべきかという行動の選択（つまり意思決定）を行うために使用できるものとなる。つまり学習部１１０は、学習アルゴリズムの進行に伴い、ワークのカッティングフロントの斜め後方部の昇温値に対してレーザ加工におけるレーザ加工条件をどのように調整するべきかという行動との、相関性を最適解に徐々に近づけることができる。
【００３４】
意思決定部１２２は、学習部１１０が学習した結果に基づいて、レーザ加工におけるレーザ加工条件をそれぞれの加工条件毎に調整可能な範囲で調整し（例えば、レーザの出力や加工速度等にはレーザ加工が可能な範囲で下限値が設けられる）、調整したレーザ加工におけるレーザ加工条件を制御部３４へと出力する。意思決定部１２２は、学習部１１０による学習がレーザ加工条件の調整に利用可能な状態になった段階において、機械学習装置１００にワークのカッティングフロントの斜め後方部の昇温値が入力されると、レーザ加工におけるレーザ加工条件（焦点位置、加工速度等）を出力する。意思決定部１２２は、状態変数Ｓと学習部１１０が学習した結果に基づいて、適切なレーザ加工におけるレーザ加工条件を調整する。
【００３５】
上記したように、加工条件調整装置１が備える機械学習装置１００は、状態観測部１０６が観測した状態変数Ｓと判定データ取得部１０８が取得した判定データＤとを用いて、学習部１１０が機械学習アルゴリズムに従い、ワークのカッティングフロントの斜め後方部の昇温値に対するレーザ加工におけるレーザ加工条件の調整を学習するものである。状態変数Ｓは、レーザ加工条件データＳ１、及び斜め後方部昇温データＳ２といったデータで構成され、また判定データＤは、ワークを加工した際に取得された情報から一義的に求められる。したがって、加工条件調整装置１が備える機械学習装置１００によれば、学習部１１０の学習結果を用いることで、ワークのカッティングフロントの斜め後方部の昇温値に応じた、レーザ加工におけるレーザ加工条件の調整を、自動的かつ正確に行うことが可能となる。
【００３６】
そして、レーザ加工におけるレーザ加工条件の調整を、自動的に行うことができれば、ワークのカッティングフロントの斜め後方部の昇温値（斜め後方部昇温データＳ２）を把握するだけで、レーザ加工におけるレーザ加工条件の適切な値を迅速に調整することができる。したがって、レーザ加工におけるレーザ加工条件の調整を効率よく行うことができる。
【００３７】
加工条件調整装置１が備える機械学習装置１００の一変形例として、判定データ取得部１０８は、昇温値判定データＤ１に加えて、調整されたレーザ加工におけるレーザ加工条件に基づいて行われるワークのレーザ加工における反射光の適否を判定するための反射光判定データＤ２を判定データＤとして用いるようにしても良い。判定データ取得部１０８が用いる反射光判定データＤ２としては、例えば調整されたレーザ加工におけるレーザ加工条件に基づいて行われたワークのレーザ加工における反射光の検出値が予め定めた所定の閾値よりも大きいか（適）、小さいか（否）といったような、適宜設定された判定基準により判定された結果を用いればよい。反射光判定データＤ２を判定データＤとして用いることにより、ワークの加工が正確に行われているか否かを併せて判定することができ、正しく加工されている範囲内でレーザ加工条件へと調整することができるようになる。
【００３８】
上記構成を有する機械学習装置１００では、学習部１１０が実行する学習アルゴリズムは特に限定されず、機械学習として公知の学習アルゴリズムを採用できる。図５は、図２に示す加工条件調整装置１の一形態であって、学習アルゴリズムの一例として強化学習を実行する学習部１１０を備えた構成を示す。強化学習は、学習対象が存在する環境の現在状態（つまり入力）を観測するとともに現在状態で所定の行動（つまり出力）を実行し、その行動に対し何らかの報酬を与えるというサイクルを試行錯誤的に反復して、報酬の総計が最大化されるような方策（本願の機械学習装置ではレーザ加工におけるレーザ加工条件）を最適解として学習する手法である。
【００３９】
図５に示す加工条件調整装置１が備える機械学習装置１００において、学習部１１０は、状態変数Ｓに基づいてレーザ加工におけるレーザ加工条件の調整がされ、調整されたレーザ加工におけるレーザ加工条件に基づくレーザ加工装置２によるワークの加工の適否判定結果（状態変数Ｓが取得された次の学習周期で用いられる判定データＤに相当）に関連する報酬Ｒを求める報酬計算部１１２と、報酬Ｒを用いて、レーザ加工におけるレーザ加工条件の価値を表す関数Ｑを更新する価値関数更新部１１４とを備える。学習部１１０は、価値関数更新部１１４が関数Ｑの更新を繰り返すことによってワークのカッティングフロントの斜め後方部の昇温値に対するレーザ加工におけるレーザ加工条件の調整を学習する。
【００４０】
学習部１１０が実行する強化学習のアルゴリズムの一例を説明する。この例によるアルゴリズムは、Ｑ学習（Ｑ−ｌｅａｒｎｉｎｇ）として知られるものであって、行動主体の状態ｓと、その状態ｓで行動主体が選択し得る行動ａとを独立変数として、状態ｓで行動ａを選択した場合の行動の価値を表す関数Ｑ（ｓ，ａ）を学習する手法である。状態ｓで価値関数Ｑが最も高くなる行動ａを選択することが最適解となる。状態ｓと行動ａとの相関性が未知の状態でＱ学習を開始し、任意の状態ｓで種々の行動ａを選択する試行錯誤を繰り返すことで、価値関数Ｑを反復して更新し、最適解に近付ける。ここで、状態ｓで行動ａを選択した結果として環境（つまり状態ｓ）が変化したときに、その変化に応じた報酬（つまり行動ａの重み付け）ｒが得られるように構成し、より高い報酬ｒが得られる行動ａを選択するように学習を誘導することで、価値関数Ｑを比較的短時間で最適解に近付けることができる。
【００４１】
価値関数Ｑの更新式は、一般に下記の数１式のように表すことができる。数１式において、ｓt及びａtはそれぞれ時刻ｔにおける状態及び行動であり、行動ａtにより状態はｓt+1に変化する。ｒt+1は、状態がｓtからｓt+1に変化したことで得られる報酬である。ｍａｘＱの項は、時刻ｔ＋１で最大の価値Ｑになる（と時刻ｔで考えられている）行動ａを行ったときのＱを意味する。α及びγはそれぞれ学習係数及び割引率であり、０＜α≦１、０＜γ≦１で任意設定される。
【００４２】
【数１】
2019198876.tif 000003
【００４３】
学習部１１０がＱ学習を実行する場合、状態観測部１０６が観測した状態変数Ｓ及び判定データ取得部１０８が取得した判定データＤは、更新式の状態ｓに該当し、現在状態（つまり、ワークのカッティングフロントの斜め後方部の昇温値）に対するレーザ加工におけるレーザ加工条件をどのように調整するべきかという行動は、更新式の行動ａに該当し、報酬計算部１１２が求める報酬Ｒは、更新式の報酬ｒに該当する。よって価値関数更新部１１４は、現在状態に対するレーザ加工におけるレーザ加工条件の価値を表す関数Ｑを、報酬Ｒを用いたＱ学習により繰り返し更新する。
【００４４】
報酬計算部１１２が求める報酬Ｒは、例えば、レーザ加工におけるレーザ加工条件を調整した後に行われる、調整されたレーザ加工におけるレーザ加工条件に基づくワークの加工の適否判定結果が「適」と判定される場合（例えば、ワークのカッティングフロントの斜め後方部の昇温値が予め定めた所定の閾値以下である場合、１つ前の学習周期における昇温値よりも小さい場合等）に正（プラス）の報酬Ｒとし、レーザ加工におけるレーザ加工条件を調整した後に行われる、調整されたレーザ加工におけるレーザ加工条件に基づくワークの加工の適否判定結果が「否」と判定される場合（例えば、ワークのカッティングフロントの斜め後方部の昇温値が予め定めた所定の閾値を超える場合、１つ前の学習周期における昇温値よりも大きい場合等）に負（マイナス）の報酬Ｒとすることができる。正負の報酬Ｒの絶対値は、互いに同一であってもよいし異なっていてもよい。また、判定の条件として、判定データＤに含まれる複数の値を組み合わせて判定するようにしても良い。また、調整されたレーザ加工におけるレーザ加工条件に基づくワークの加工の適否判定結果を、「適」及び「否」の二通りだけでなく複数段階に設定することができる。
【００４５】
また、複数の判定データを用いる場合には、それぞれの判定データごとに報酬の値を変化させる（重み付けをつける）ことにより、学習における目標とする状態を変更することもできる。更に、学習の初期段階は判定に用いる閾値を比較的大きく設定し、学習が進行するにつれて判定に用いる閾値を縮小する構成とすることもできる。
【００４６】
価値関数更新部１１４は、状態変数Ｓと判定データＤと報酬Ｒとを、関数Ｑで表される行動価値（例えば数値）と関連付けて整理した行動価値テーブルを持つことができる。この場合、価値関数更新部１１４が関数Ｑを更新するという行為は、価値関数更新部１１４が行動価値テーブルを更新するという行為と同義である。Ｑ学習の開始時には環境の現在状態とレーザ加工におけるレーザ加工条件の調整との相関性は未知であるから、行動価値テーブルにおいては、種々の状態変数Ｓと判定データＤと報酬Ｒとが、無作為に定めた行動価値の値（関数Ｑ）と関連付けた形態で用意されている。なお報酬計算部１１２は、判定データＤが分かれば、これに対応する報酬Ｒを直ちに算出でき、算出した値Ｒが行動価値テーブルに書き込まれる。
【００４７】
レーザ加工装置２の動作の適否判定結果に応じた報酬Ｒを用いてＱ学習を進めると、より高い報酬Ｒが得られる行動を選択する方向へ学習が誘導され、選択した行動を現在状態で実行した結果として変化する環境の状態（つまり状態変数Ｓ及び判定データＤ）に応じて、現在状態で行う行動についての行動価値の値（関数Ｑ）が書き換えられて行動価値テーブルが更新される。この更新を繰り返すことにより、行動価値テーブルに表示される行動価値の値（関数Ｑ）は、適正な行動（本発明の場合、ワークのレーザ加工が行える範囲で、焦点距離を増減させたり、加工速度を増減させたり、ノズルの交換を促したり、加工中のアシストガスの圧力を増減させたり等、レーザ加工におけるレーザ加工条件を調整する行動）であるほど大きな値となるように書き換えられる。このようにして、未知であった環境の現在状態（ワークのカッティングフロントの斜め後方部の昇温値）とそれに対する行動（レーザ加工におけるレーザ加工条件の調整）との相関性が徐々に明らかになる。つまり行動価値テーブルの更新により、ワークのカッティングフロントの斜め後方部の昇温値と、レーザ加工におけるレーザ加工条件の調整との関係が最適解に徐々に近づけられる。
【００４８】
図６を参照して、学習部１１０が実行する上記したＱ学習のフロー（つまり機械学習方法の一形態）をさらに説明する。まずステップＳＡ０１で、価値関数更新部１１４は、その時点での行動価値テーブルを参照しながら、状態観測部１０６が観測した状態変数Ｓが示す現在状態で行う行動としてレーザ加工におけるレーザ加工条件の調整行動を無作為に選択する。次に価値関数更新部１１４は、ステップＳＡ０２で、状態観測部１０６が観測している現在状態の状態変数Ｓを取り込み、ステップＳＡ０３で、判定データ取得部１０８が取得している現在状態の判定データＤを取り込む。次に価値関数更新部１１４は、ステップＳＡ０４で、判定データＤに基づき、調整されたレーザ加工におけるレーザ加工条件によるワークの加工が適当であったか否かを判断し、適当であった場合、ステップＳＡ０５で、報酬計算部１１２が求めた正の報酬Ｒを関数Ｑの更新式に適用し、次いでステップＳＡ０６で、現在状態における状態変数Ｓ及び判定データＤと報酬Ｒと行動価値の値（更新後の関数Ｑ）とを用いて行動価値テーブルを更新する。ステップＳＡ０４で、調整されたレーザ加工におけるレーザ加工条件によるワークの加工が適当でなかったと判断した場合、ステップＳＡ０７で、報酬計算部１１２が求めた負の報酬Ｒを関数Ｑの更新式に適用し、次いでステップＳＡ０６で、現在状態における状態変数Ｓ及び判定データＤと報酬Ｒと行動価値の値（更新後の関数Ｑ）とを用いて行動価値テーブルを更新する。学習部１１０は、ステップＳＡ０１〜ＳＡ０７を繰り返すことで行動価値テーブルを反復して更新し、レーザ加工におけるレーザ加工条件の調整の学習を進行させる。なお、ステップＳＡ０４からステップＳＡ０７までの報酬Ｒを求める処理及び価値関数の更新処理は、判定データＤに含まれるそれぞれのデータについて実行される。
【００４９】
前述した強化学習を進める際に、例えばニューラルネットワークを応用することができる。図７Ａは、ニューロンのモデルを模式的に示す。図７Ｂは、図７Ａに示すニューロンを組み合わせて構成した三層のニューラルネットワークのモデルを模式的に示す。ニューラルネットワークは、例えば、ニューロンのモデルを模した演算装置や記憶装置等によって構成できる。
【００５０】
図７Ａに示すニューロンは、複数の入力ｘ（ここでは一例として、入力ｘ1〜入力ｘ3）に対する結果ｙを出力するものである。各入力ｘ1〜ｘ3には、この入力ｘに対応する重みｗ（ｗ1〜ｗ3）が掛けられる。これにより、ニューロンは、次の数２式により表現される出力ｙを出力する。なお、数２式において、入力ｘ、出力ｙ及び重みｗは、すべてベクトルである。また、θはバイアスであり、ｆkは活性化関数である。
【００５１】
【数２】
2019198876.tif 000004
【００５２】
図７Ｂに示す三層のニューラルネットワークは、左側から複数の入力ｘ（ここでは一例として、入力ｘ１〜入力ｘ３）が入力され、右側から結果ｙ（ここでは一例として、結果ｙ１〜結果ｙ３）が出力される。図示の例では、入力ｘ１、ｘ２、ｘ３のそれぞれに対応の重み（総称してｗ１で表す）が乗算されて、個々の入力ｘ１、ｘ２、ｘ３がいずれも３つのニューロンＮ１１、Ｎ１２、Ｎ１３に入力されている。
【００５３】
図７Ｂでは、ニューロンＮ１１〜Ｎ１３の各々の出力を、総称してｚ１で表す。ｚ１は、入カベクトルの特徴量を抽出した特徴ベクトルと見なすことができる。図示の例では、特徴ベクトルｚ１のそれぞれに対応の重み（総称してｗ２で表す）が乗算されて、個々の特徴ベクトルｚ１がいずれも２つのニューロンＮ２１、Ｎ２２に入力されている。特徴ベクトルｚ１は、重みＷ１と重みＷ２との間の特徴を表す。
【００５４】
図７Ｂでは、ニューロンＮ２１〜Ｎ２２の各々の出力を、総称してｚ２で表す。ｚ２は、特徴ベクトルｚ１の特徴量を抽出した特徴ベクトルと見なすことができる。図示の例では、特徴ベクトルｚ２のそれぞれに対応の重み（総称してｗ３で表す）が乗算されて、個々の特徴ベクトルｚ２がいずれも３つのニューロンＮ３１、Ｎ３２、Ｎ３３に入力されている。特徴ベクトルｚ２は、重みＷ２と重みＷ３との間の特徴を表す。最後にニューロンＮ３１〜Ｎ３３は、それぞれ結果ｙ１〜ｙ３を出力する。
なお、三層以上の層を為すニューラルネットワークを用いた、いわゆるディープラーニングの手法を用いることも可能である。
【００５５】
加工条件調整装置１が備える機械学習装置１００においては、ニューラルネットワークをＱ学習における価値関数として用い、状態変数Ｓと行動ａとを入力ｘとして、学習部１１０が上記したニューラルネットワークに従う多層構造の演算を行うことで、当該状態における当該行動の価値（結果ｙ）を出力することもできる。なお、ニューラルネットワークの動作モードには、学習モードと価値予測モードとがあり、例えば学習モードで学習データセットを用いて重みｗを学習し、学習した重みｗを用いて価値予測モードで行動の価値判断を行うことができる。なお価値予測モードでは、検出、分類、推論等を行うこともできる。
【００５６】
上記した加工条件調整装置１の構成は、プロセッサ１０１が実行する機械学習方法（或いはソフトウェア）として記述できる。この機械学習方法は、レーザ加工におけるレーザ加工条件の調整を学習する機械学習方法であって、コンピュータのＣＰＵが、レーザ加工条件データＳ１、及び斜め後方部昇温データＳ２を、レーザ加工装置２が動作する環境の現在状態を表す状態変数Ｓとして観測するステップと、調整されたレーザ加工におけるレーザ加工条件に基づくワークの加工の適否判定結果を示す判定データＤを取得するステップと、状態変数Ｓと判定データＤとを用いて、斜め後方部昇温データＳ２と、レーザ加工におけるレーザ加工条件の調整とを関連付けて学習するステップとを有する。
【００５７】
図８は、加工条件調整装置１を備えた第３の実施形態によるシステム１７０を示す。システム１７０は、セルコンピュータやホストコンピュータ、クラウドサーバ等のコンピュータの一部として実装された少なくとも１台の加工条件調整装置１と、制御の対象となる複数のレーザ加工装置２と、加工条件調整装置１、レーザ加工装置２を互いに接続する有線／無線のネットワーク１７２とを備える。
【００５８】
上記構成を有するシステム１７０は、機械学習装置１００を備える加工条件調整装置１が、学習部１１０の学習結果を用いて、ワークのカッティングフロントの斜め後方部の昇温値に対するレーザ加工におけるレーザ加工条件の調整を、それぞれのレーザ加工装置２毎に自動的かつ正確に求めることができる。また、加工条件調整装置１の機械学習装置１００が、複数のレーザ加工装置２のそれぞれについて得られた状態変数Ｓ及び判定データＤに基づき、全てのレーザ加工装置２に共通するレーザ加工におけるレーザ加工条件の調整を学習し、その学習結果を全てのレーザ加工装置２の動作において共有するように構成できる。したがってシステム１７０によれば、より多様なデータ集合（状態変数Ｓ及び判定データＤを含む）を入力として、レーザ加工におけるレーザ加工条件の調整の学習の速度や信頼性を向上させることができる。
【００５９】
以上、本発明の実施の形態について説明したが、本発明は上述した実施の形態の例のみに限定されることなく、適宜の変更を加えることにより様々な態様で実施することができる。
【００６０】
例えば、機械学習装置１００が実行する学習アルゴリズムや演算アルゴリズム、加工条件調整装置１が実行する制御アルゴリズム等は、上述したものに限定されず、様々なアルゴリズムを採用できる。
【００６１】
また、上記した実施形態では加工条件調整装置１と機械学習装置１００が異なるＣＰＵを有する装置として説明しているが、機械学習装置１００は加工条件調整装置１が備えるＣＰＵ１１と、ＲＯＭ１２に記憶されるシステム・プログラムにより実現するようにしても良い。
【符号の説明】
【００６２】
１  加工条件調整装置
２  レーザ加工装置
３  センサ
１１  ＣＰＵ
１２  ＲＯＭ
１３  ＲＡＭ
１４  不揮発性メモリ
１７，１８，１９  インタフェース
２０  バス
２１  インタフェース
７０  表示器／ＭＤＩユニット
７１  操作盤
１００  機械学習装置
１０１  プロセッサ
１０２  ＲＯＭ
１０３  ＲＡＭ
１０４  不揮発性メモリ
１０６  状態観測部
１０８  判定データ取得部
１１０  学習部
１１２  報酬計算部
１１４  価値関数更新部
１２２  意思決定部
１７０  システム
１７２  ネットワーク
【図１】
2019198876.tif 000005
【図２】
2019198876.tif 000006
【図３】
2019198876.tif 000007
【図４】
2019198876.tif 000008
【図５】
2019198876.tif 000009
【図６】
2019198876.tif 000010
【図７Ａ】
2019198876.tif 000011
【図７Ｂ】
2019198876.tif 000012
【図８】
2019198876.tif 000013
【図９】
2019198876.tif 000014