(57)【特許請求の範囲】
【請求項１】
高分子材料を混練して混練物を得るための混練装置の混練条件を機械学習装置が決定する機械学習方法であって、
前記混練装置は、
前記混練物の材料が投入されるチャンバと、
前記チャンバに投入された前記材料を混練する二軸以上のロータと、
前記二軸以上のロータの制御、前記材料の混練時間の制御、及び前記混練装置の動作ステップの制御を司る制御器とを有し、
前記混練物の性能評価に関する少なくとも１つの第１評価パラメータと、少なくとも１つの混練条件とを含む状態変数を取得し、
前記状態変数に基づいて、前記少なくとも１つの混練条件の決定結果に対する報酬を計算し、
前記状態変数から前記少なくとも１つの混練条件を決定するための関数を、前記報酬に基づいて更新し、
前記関数の更新を繰り返すことによって、前記報酬が最も多く得られる混練条件を決定し、
前記少なくとも１つの第１評価パラメータは、前記混練物に関する物性特性及び形状特性の少なくとも１つを含み、
前記少なくとも１つの混練条件は、
前記材料に関する第１パラメータと、
前記ロータの制御に関する第２パラメータと、
複数のステップのうちの少なくとも１つの混練時間、各ステップのうちの少なくとも１つの材料投入時間、次のステップに進むための条件のうち少なくとも１つの条件、トータル混練時間、及び積算電力量のうちの少なくとも１つを含む第３パラメータとのうちの少なくとも１つである、
機械学習方法。
【請求項２】
前記混練装置は、さらにウエイトを備え、
前記少なくとも１つの混練条件は、前記ウエイトの動作に関する第４パラメータを含む、
請求項１に記載の機械学習方法。
【請求項３】
前記混練装置は、さらに温度調節機構を備え、
前記少なくとも１つの混練条件は、温度調節に関する第５パラメータを含む、
請求項１又は２に記載の機械学習方法。
【請求項４】
前記第１パラメータは、前記材料の配合量、前記材料の構成要素の投入順序、及び前記チャンバに対する前記材料の充填率の少なくとも１つを含む、
請求項１記載の機械学習方法。
【請求項５】
前記第２パラメータは、前記二軸以上のロータの回転数、前記二軸以上のロータの位相、及び各ロータの速度比の少なくとも１つを含む、
請求項１記載の機械学習方法。
【請求項６】
前記第３パラメータにおける前記次のステップに進むための条件は、次のステップに進むための混練時間、前記材料の温度、各ステップにおいて維持するべき前記材料の温度、前記二軸以上のロータを駆動するモータの瞬時電力、前記モータの積算電力、前記モータの瞬時電流、前記モータのトルク、及び前記材料の排出温度の少なくとも１つを含む、
請求項１に記載の機械学習方法。
【請求項７】
前記第４パラメータは、前記材料を前記チャンバに押し込む際の前記ウエイトの押し付け圧力、前記ウエイトの位置、及び前記ウエイトの速度の少なくとも１つを含む、
請求項２記載の機械学習方法。
【請求項８】
前記第５パラメータは、前記チャンバに入る循環媒体の温度、前記チャンバから出る循環媒体の温度、前記二軸以上のロータに入る循環媒体の温度、前記二軸以上のロータから出る循環媒体の温度、前記材料を排出するドアに入る循環媒体の温度、及び前記ドアから出る循環媒体の温度の少なくとも１つを含む、
請求項３記載の機械学習方法。
【請求項９】
前記状態変数は、前記混練装置の動作の安定性に関する第２評価パラメータをさらに含む、
請求項１〜８のいずれかに記載の機械学習方法。
【請求項１０】
前記物性特性は、ムーニ粘度、加硫特性、ペイン効果、添加物の分散、動的粘弾性、硬度、前記混練物の重量、及び前記混練物の温度の少なくとも１つを含む、
請求項１〜９のいずれかに記載の機械学習方法。
【請求項１１】
前記関数は深層強化学習を用いてリアルタイムで更新される、
請求項１〜１０のいずれかに記載の機械学習方法。
【請求項１２】
前記報酬の計算では、前記少なくとも１つの第１評価パラメータが各第１評価パラメータに対応する所定の基準値に近づいている場合、前記報酬を増大させ、前記少なくとも１つの第１評価パラメータが各第１評価パラメータに対応する基準値に近づいていない場合、前記報酬を減少させる、
請求項１〜１１のいずれかに記載の機械学習方法。
【請求項１３】
高分子材料を混練して混練物を得るための混練装置の混練条件を決定する機械学習装置であって、
前記混練装置は、
前記混練物を得るための材料が投入されるチャンバと、
前記チャンバに投入された前記材料を混練する二軸以上のロータと、
前記二軸以上のロータの制御、前記材料の混練時間の制御、及び前記混練装置の動作ステップの制御を司る制御器とを有し、
前記混練物の性能評価に関する少なくとも１つの第１評価パラメータと、少なくとも１つの混練条件とを含む状態変数を取得する状態取得部と、
前記状態変数に基づいて、前記少なくとも１つの混練条件の決定結果に対する報酬を計算する報酬計算部と、
前記状態変数から前記少なくとも１つの混練条件を決定するための関数を、前記報酬に基づいて更新する更新部と、
前記関数の更新を繰り返すことによって、前記報酬が最も多く得られる混練条件を決定する決定部とを備え、
前記少なくとも１つの第１評価パラメータは、前記混練物に関する物性特性及び形状特性の少なくとも１つを含み、
前記少なくとも１つの混練条件は、
前記材料に関する第１パラメータと、
前記ロータの制御に関する第２パラメータと、
複数のステップのうちの少なくとも１つの混練時間、各ステップのうちの少なくとも１つの材料投入時間、次のステップに進むための条件のうちの少なくとも１つの条件、トータル混練時間、及び積算電力量のうちの少なくとも１つを含む第３パラメータとのうちの少なくとも１つである、
機械学習装置。
【請求項１４】
高分子材料を混練して混練物を得るための混練装置の混練条件を決定する機械学習装置の機械学習プログラムであって、
前記混練装置は、
前記混練物を得るための材料が投入されるチャンバと、
前記チャンバに投入された前記材料を混練する二軸以上のロータと、
前記二軸以上のロータの制御、前記材料の混練時間の制御、及び前記混練装置の動作ステップの制御を司る制御器とを有し、
前記混練物の性能評価に関する少なくとも１つの第１評価パラメータと、少なくとも１つの混練条件とを含む状態変数を取得する状態取得部と、
前記状態変数に基づいて、前記少なくとも１つの混練条件の決定結果に対する報酬を計算する報酬計算部と、
前記状態変数から前記少なくとも１つの混練条件を決定するための関数を、前記報酬に基づいて更新する更新部と、
前記関数の更新を繰り返すことによって、前記報酬が最も多く得られる混練条件を決定する決定部としてコンピュータを機能させ、
前記少なくとも１つの第１評価パラメータは、前記混練物に関する物性特性及び形状特性の少なくとも１つを含み、
前記少なくとも１つの混練条件は、
前記材料に関する第１パラメータと、
前記ロータの制御に関する第２パラメータと、
複数のステップのうちの少なくとも１つの混練時間、各ステップのうちの少なくとも１つの材料投入時間、次のステップに進むための条件のうちの少なくとも１つの条件、トータル混練時間、及び積算電力量のうちの少なくとも１つを含む第３パラメータとのうちの少なくとも１つである、
機械学習プログラム。
【請求項１５】
高分子材料を混練して混練物を得る混練装置の混練条件を機械学習する際の通信方法であって、
前記混練物を得るための材料が投入されるチャンバと、
前記チャンバに投入された前記材料を混練する二軸以上のロータと、
前記二軸以上のロータの制御、前記材料の混練時間の制御、及び前記混練装置の動作ステップの制御を司る制御器とを有し、
前記混練物の性能評価に関する少なくとも１つの第１評価パラメータと、少なくとも１つの混練条件とを含む状態変数を観測し、
前記状態変数をネットワーク上に送信し、機械学習済みの混練条件を受信し、
前記少なくとも１つの第１評価パラメータは、前記混練物に関する物性特性及び形状特性の少なくとも１つを含み、
前記少なくとも１つの混練条件は、
前記材料に関する第１パラメータと、
前記ロータの制御に関する第２パラメータと、
複数のステップのうちの少なくとも１つの混練時間、各ステップのうちの少なくとも１つの材料投入時間、次のステップに進むための条件のうちの少なくとも１つの条件、トータル混練時間、及び積算電力量のうちの少なくとも１つを含む第３パラメータとのうちの少なくとも１つである、
通信方法。
【請求項１６】
高分子材料を混練して混練物を得る混練装置であって、
前記混練物を得るための材料が投入されるチャンバと、
前記チャンバに投入された前記材料を混練する二軸以上のロータと、
前記二軸以上のロータの制御、前記材料の混練時間の制御、及び前記混練装置の動作ステップの制御を司る制御器と、
前記混練物の性能評価に関する少なくとも１つの第１評価パラメータと、少なくとも１つの混練条件とを含む状態変数を取得する状態観測部と、
前記状態変数をネットワーク上に送信し、機械学習済みの混練条件を受信する通信部とを備え、
前記少なくとも１つの第１評価パラメータは、前記混練物に関する物性特性及び形状特性の少なくとも１つを含み、
前記少なくとも１つの混練条件は、
前記材料に関する第１パラメータと、
前記ロータの制御に関する第２パラメータと、
複数のステップのうちの少なくとも１つの混練時間、各ステップのうちの少なくとも１つの材料投入時間、次のステップに進むための条件のうちの少なくとも１つの条件、トータル混練時間、及び積算電力量のうちの少なくとも１つを含む第３パラメータとのうちの少なくとも１つである、
混練装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、混練装置の混練条件を機械学習する技術に関するものである。
【背景技術】
【０００２】
特許文献１には、瞬時電力値、温度、ロータの回転数、及びラムの位置等の密閉式ゴム混練機の状態の測定データと測定データに対応する混練の異常度を示す所与の教師データとを含む学習データを機械学習することで、混練が正常であるか異常であるかを示す機械学習モデルを生成する。そして、当該機械学習モデルを用いて混練の異常を判定する技術が開示されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０２０−３２６７６号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、特許文献１は、機械学習モデルを用いて混練の異常の有無を判定する技術であり、混練装置における混練条件を決定する技術ではない。そのため、特許文献１では、適切な混練物が得られる混練条件を決定することはできない。
【０００５】
従来、適切な混練条件は、熟練した技術者による長年の経験を頼りに決定されており、容易に決定することが困難であった。
【０００６】
本発明は、上述の問題を解決するためになされたものであり、熟練した技術者による長年の経験に頼ることなく、適切な混練物が得られる混練条件を容易に決定する機械学習装置等を提供することを目的とする。
【課題を解決するための手段】
【０００７】
本発明の一態様に係る機械学習方法は、高分子材料を混練して混練物を得るための混練装置の混練条件を機械学習装置が決定する機械学習方法であって、前記混練装置は、前記混練物の材料が投入されるチャンバと、前記チャンバに投入された前記材料を混練する二軸以上のロータと、前記二軸以上のロータの制御、前記材料の混練時間の制御、及び前記混練装置の動作ステップの制御を司る制御器とを有し、前記混練物の性能評価に関する少なくとも１つの第１評価パラメータと、少なくとも１つの混練条件とを含む状態変数を取得し、前記状態変数に基づいて、前記少なくとも１つの混練条件の決定結果に対する報酬を計算し、前記状態変数から前記少なくとも１つの混練条件を決定するための関数を、前記報酬に基づいて更新し、前記関数の更新を繰り返すことによって、前記報酬が最も多く得られる混練条件を決定し、前記少なくとも１つの第１評価パラメータは、前記混練物に関する物性特性及び形状特性の少なくとも１つを含む。
【０００８】
本態様によれば、少なくとも１つの混練条件が状態変数として取得される。さらに、混練物の物性特性及び形状特性のうちの少なくとも１つを含む第１評価パラメータが状態変数として取得される。
【０００９】
そして、取得された状態変数に基づいて、混練条件の決定結果に対する報酬が計算され、計算された報酬に基づいて、状態変数から混練条件を決定するための関数が更新され、この更新が繰り返されて報酬が最も多く得られる混練条件が学習される。そのため、本構成は適切な混練条件を熟練した技術者による長年の経験を頼らずに容易に決定できる。
【００１０】
上記機械学習方法において、前記少なくとも１つの混練条件は、前記材料に関する第１パラメータと、前記ロータの制御に関する第２パラメータとのうちの少なくとも１つであってもよい。
【００１１】
本構成によれば、混練物の材料に関する第１パラメータと、ロータの制御に関する第２パラメータとのうちの少なくとも１つの混練条件が状態変数として取得されるため、第１パラメータ及び第２パラメータを考慮に入れてより最適な混練条件を決定できる。
【００１２】
上記機械学習方法において、前記少なくとも１つの混練条件は、前記材料に関する第１パラメータと、前記ロータの制御に関する第２パラメータと、複数のステップのそれぞれの混練時間、各ステップの材料投入時間、次のステップに進むための条件、トータル混練時間、及び積算電力量のうちの少なくとも１つから選ばれる動作ステップに関する第３パラメータとのうちの少なくとも１つであってもよい。
【００１３】
本構成によれば、混練物の材料に関する第１パラメータと、ロータの制御に関する第２パラメータと、動作ステップに関する第３パラメータとのうちの少なくとも１つの混練条件が状態変数として取得されるため、第１パラメータ、第２パラメータ、及び第３パラメータを考慮に入れてより最適な混練条件を決定できる。
【００１４】
上記機械学習方法において、前記混練装置は、さらにウエイトを備え、前記少なくとも１つの混練条件は、前記ウエイトの動作に関する第４パラメータを含むことが好ましい。
【００１５】
本態様によれば、ウエイトに関する第４パラメータが状態変数としてさらに取得されているため、より適切な混練条件を決定できる。
【００１６】
上記機械学習方法において、前記混練装置は、さらに温度調節機構を備え、前記少なくとも１つの混練条件は、温度調節に関する第５パラメータを含むことが好ましい。
【００１７】
本態様によれば、温度調節に関する第５パラメータが状態変数としてさらに取得されているため、より適切な混練条件を決定できる。
【００１８】
上記機械学習方法において、前記第１パラメータは、前記材料の配合量、前記材料の構成要素の投入順序、及び前記チャンバに対する前記材料の充填率の少なくとも１つを含むことが好ましい。
【００１９】
本態様によれば、材料の配合量、材料の構成要素の投入順序、及びチャンバに対する材料の充填率の少なくとも１つが第１パラメータとして採用されているため、より適切な混練条件を決定できる。
【００２０】
上記機械学習方法において、前記第２パラメータは、前記二軸以上のロータの回転数、前記二軸以上のロータの位相、及び各ロータの速度比の少なくとも１つを含むことが好ましい。
【００２１】
本態様によれば、二軸以上のロータの回転数、二軸以上のロータの位相、及び各ロータの速度比の少なくとも１つが第２パラメータとして採用されているため、より適切な混練条件を決定できる。
【００２２】
上記機械学習方法において、前記第３パラメータにおける前記次のステップに進むための条件は、各ステップの混練時間、前記材料の温度、各ステップにおいて維持するべき前記材料の温度、前記二軸以上のロータを駆動するモータの瞬時電力、前記モータの積算電力、前記モータの瞬時電流、前記モータのトルク、及び前記材料の排出温度の少なくとも１つを含むことが好ましい。
【００２３】
本態様によれば、次のステップに進むための条件として、各ステップの混練時間、各ステップにおいて維持するべき材料の温度、二軸以上のロータを駆動するモータの瞬時電力、モータの積算電力、モータの瞬時電流、モータのトルク、及び材料の排出時温度の少なくとも１つが第３パラメータとして採用されているため、より適切な混練条件を決定できる。
【００２４】
上記機械学習方法において、前記第４パラメータは、前記材料を前記チャンバに押し込む際の前記ウエイトの押し付け圧力、前記ウエイトの位置、及び前記ウエイトの速度の少なくとも１つを含むことが好ましい。
【００２５】
本態様によれば、材料をチャンバに押し込む際のウエイトの押し付け圧力、ウエイトの位置、及びウエイトの速度の少なくとも１つが第４パラメータとして採用されているため、より適切な混練条件を決定できる。
【００２６】
上記機械学習方法において、前記第５パラメータは、前記チャンバに入る循環媒体の温度、前記チャンバから出る循環媒体の温度、前記二軸以上のロータに入る循環媒体の温度、前記二軸以上のロータから出る循環媒体の温度、前記材料を排出するドアに入る循環媒体の温度、及び前記ドアから出る循環媒体の温度の少なくとも１つを含むことが好ましい。
【００２７】
本態様によれば、チャンバに入る循環媒体の温度、チャンバから出る循環媒体の温度、二軸以上のロータに入る循環媒体の温度、ロータから出る循環媒体の温度、ドアに入る循環媒体の温度、及びドアから出る循環媒体の温度の少なくとも１つが第５パラメータとして採用されているため、より適切な混練条件を決定できる。
【００２８】
上記機械学習方法において、前記状態変数は、前記混練装置の動作の安定性に関する第２評価パラメータをさらに含むことが好ましい。
【００２９】
本態様によれば、状態変数には動作の安定性に関するパラメータが含まれているため、混練装置の動作の安定性を図りつつ、適切な混練物が得られる混練条件を得ることができる。
【００３０】
上記機械学習方法において、前記物性特性は、ムーニ粘度、加硫特性、ペイン効果、添加物の分散、動的粘弾性、硬度、前記混練物の重量、及び前記混練物の温度の少なくとも１つを含むことが好ましい。
【００３１】
本態様によれば、ムーニ粘度、加硫特性、ペイン効果、添加物の分散、動的粘弾性、硬度、混練物の重量、及び混練物の温度の少なくとも１つが物性特性として採用されているため、これらの物性特性を満たす混練物を得ることが可能な混練条件を容易に得ることができる。
【００３２】
上記機械学習方法において、前記関数は深層強化学習を用いてリアルタイムで更新されることが好ましい。
【００３３】
本態様によれば、関数の更新が深層強化学習を用いてリアルタイムで行われるため、関数の更新を正確かつ速やかに行うことができる。
【００３４】
上記機械学習方法において、前記報酬の計算では、前記少なくとも１つの第１評価パラメータが各第１評価パラメータに対応する所定の基準値に近づいている場合、前記報酬を増大させ、前記少なくとも１つの第１評価パラメータが各第１評価パラメータに対応する基準値に近づいていない場合、前記報酬を減少させることが好ましい。
【００３５】
本態様によれば、第１評価パラメータが基準値に近づくにつれて報酬が増大されるため、第１評価パラメータを速やかに基準値に到達させることができる。
【００３６】
なお、本発明において、上記の機械学習方法が備える各処理は機械学習装置に実装されてもよいし、機械学習プログラムとして実装されて流通されてもよい。この機械学習装置は、サーバで構成されてもよいし、混練装置で構成されてもよい。
【００３７】
本発明の別の一態様に係る通信方法は、高分子材料を混練して混練物を得る混練装置の混練条件を機械学習する際の通信方法であって、前記混練物を得るための材料が投入されるチャンバと、前記チャンバに投入された前記材料を混練する二軸以上のロータと、前記二軸以上のロータの制御、前記材料の混練時間の制御、及び前記混練装置の動作ステップの制御を司る制御器とを有し、前記混練物の性能評価に関する少なくとも１つの第１評価パラメータと、少なくとも１つの混練条件とを含む状態変数を観測し、前記状態変数をネットワーク上に送信し、機械学習済みの混練条件を受信し、前記少なくとも１つの第１評価パラメータは、前記混練物に関する物性特性及び形状特性の少なくとも１つを含む。
【００３８】
本態様によれば、混練条件を機械学習する際に必要な情報が提供される。このような通信方法は、混練装置にも実装可能である。
【発明の効果】
【００３９】
本発明によれば、適切な混練条件を熟練した技術者により長年の経験を頼らずに容易に決定できる。
【図面の簡単な説明】
【００４０】
【図１】本実施の形態に係る混練装置の正面断面図である。
【図２】実施の形態における混練装置を機械学習させる機械学習システムの全体構成図である。
【図３】混練条件の一例を示す図である。
【図４】混練条件の一例を示す図である。
【図５】混練条件の一例を示す図である。
【図６】混練条件の一例を示す図である。
【図７】第１評価パラメータの一例を示す図である。
【図８】第２評価パラメータの一例を示す図である。
【図９】図２に示す機械学習システムにおける処理の一例を示すフローチャートである。
【図１０】本発明の変形例に係る機械学習システムの全体構成図である。
【発明を実施するための形態】
【００４１】
図１は、本実施の形態に係る混練装置３００の正面断面図である。図１に示すように、混練装置３００は、ケーシング３と、一対のロータ（二軸以上のロータの一例）４と、ドア５と、ホッパ６と、ウエイト８と、シリンダ９と、ピストン１０と、ピストンロッド１１と、モータ１２と、減速機１３と、駆動部１４と、制御器３２０と、入力部３５０とを含む。ケーシング３は内部にチャンバ２を有する。一対のロータ４は、チャンバ２内に設けられている。ホッパ６は供給筒７に設けられている。供給筒７は、ケーシング３の上方に立設され、ホッパ６から投入された材料をチャンバ２に供給する。ウエイト８は、供給筒７内において上下移動自在に挿通されている。
【００４２】
シリンダ９は、例えば油圧シリンダ又は空圧シリンダで構成され、供給筒７の上部に連結されている。ピストン１０は、シリンダ９内に配置されている。ピストン１０は、シリンダ９の下蓋側を気密に貫通するピストンロッド１１を介してウエイト８に連結されている。ウエイト８は、シリンダ９内の上部に形成されている空間が加圧されることによって下降する。これにより、ウエイト８は、ホッパ６から供給される材料をチャンバ２に押し込む。材料は、主に樹脂又はゴム等の高分子材料を含む。さらに、材料は、フィラー（カーボン又はシリカ等）、薬品、及びオイル等を含んでもよい。
【００４３】
ケーシング３は、底部に排出口を有する。ドア５は、ドロップドアとも称され、アクチュエータ（図略）からの動力により排出口を開閉する。ドア５は、チャンバ２にて材料が混練されている場合、排出口を閉塞する。ドア５は、排出口を開放することによって、チャンバ２にて混練された混練物を排出する。
【００４４】
一対のロータ４は、水平方向において互いに隣接して平行に配置されている。一対のロータ４は、それぞれ内向きに回転する。一対のロータ４は、それぞれ外周面に複数の混練翼（図略）を有する。各混練翼の頂部とチャンバ２との間には隙間がある。一対のロータ４が回転すると、この隙間において材料に剪断力が付与される。各混練翼は、一対のロータ４の軸心まわりに螺旋状に捩られている。この捩れにより、材料は一対のロータ４の軸方向に押され、軸方向に流れる。
【００４５】
ケーシング３は、一対のロータ４の軸方向に延び、循環媒体が流れる流路（図略）を有する。一対のロータ４、ウエイト８、ドア５のそれぞれも、循環媒体が流れる流路（図略）を有する。
【００４６】
モータ１２は、一対のロータ４を減速機１３を介して回転させる。減速機１３は、モータ１２と一対のロータ４との間に設けられ、一対のロータ４の回転速度を減速させる。駆動部１４は、エアユニット又は油圧ユニットで構成されている。駆動部１４は、シリンダ９内の上部の空間を加圧することによってウエイト８を下降させ、前記空間を減圧することによってウエイト８を上昇させる。
【００４７】
制御器３２０は、混練装置３００の全体制御を司る。例えば、制御器３２０は、駆動部１４を駆動するための制御信号を出力することによって、ウエイト８の上昇及び下降を制御する。さらに、制御器３２０は、図略の加熱器を制御することによってチャンバ２内の材料の温度を制御する。さらに、制御器３２０は、モータ１２を駆動するための制御信号を出力することによって、一対のロータ４の回転を制御する。さらに、制御器３２０は、アクチュエータ（図略）に制御信号を出力することによって、ドア５の開閉を制御する。入力部３５０は、スイッチ等の操作装置で構成され、ユーザからの指示を受け付ける。ベルトコンベア１５は、材料をホッパ６に向けて搬送する。さらに、制御器３２０は、一対のロータ４の制御、材料の混練時間の制御、及び混練装置の動作ステップの制御を司る。
【００４８】
図２は、実施の形態における混練装置３００を機械学習させる機械学習システムの全体構成図である。機械学習システムは、サーバ１００、通信装置２００、及び混練装置３００を含む。サーバ１００及び通信装置２００はネットワークＮＴ１を介して相互に通信可能に接続されている。通信装置２００及び混練装置３００はネットワークＮＴ２を介して相互に通信可能に接続されている。ネットワークＮＴ１は、例えばインターネットなどの広域通信網である。ネットワークＮＴ２は、例えばローカルエリアネットワークである。サーバ１００は、例えば１以上のコンピュータで構成されるクラウドサーバである。通信装置２００は、例えば混練装置３００を使用するユーザが所持するコンピュータである。通信装置２００は、混練装置３００をネットワークＮＴ１に接続するゲートウェイとして機能する。通信装置２００は、ユーザ自身が所持するコンピュータに専用のアプリケーションソフトウェアをインストールすることで実現される。或いは通信装置２００は、混練装置３００の製造メーカがユーザに提供する専用の装置であってもよい。
【００４９】
以下、各装置の構成を具体的に説明する。サーバ１００は、プロセッサ１０２及び通信部１０１を含む。プロセッサ１０２は、ＣＰＵなどを含む制御装置である。プロセッサ１０２は、報酬計算部１１０、更新部１２０、決定部１３０、及び学習制御部１４０を含む。プロセッサ１０２が備える各ブロックは、コンピュータを機械学習システムにおけるサーバ１００として機能させる機械学習プログラムをプロセッサ１０２が実行することで実現されてもよいし、専用の電気回路で実現されてもよい。
【００５０】
報酬計算部１１０は、状態観測部３２１が観測した状態変数に基づいて、少なくとも１つの混練条件の決定結果に対する報酬を計算する。
【００５１】
更新部１２０は、状態観測部３２１が観測した状態変数から混練条件を決定するための関数を、報酬計算部１１０によって計算された報酬に基づいて更新する。関数としては、後述の行動価値関数が採用される。
【００５２】
決定部１３０は、少なくとも１つの混練条件を変更させながら、関数の更新を繰り返すことによって、報酬が最も多く得られる混練条件を決定する。
【００５３】
学習制御部１４０は、機械学習の全体制御を司る。本実施の形態の機械学習システムは強化学習によって混練条件を学習する。強化学習とは、エージェント（行動主体）が環境の状況に基づいてある行動を選択し、選択した行動に基づいて環境を変化させ、環境変化に伴う報酬をエージェントに与えることにより、エージェントにより良い行動の選択を学習させる機械学習手法である。強化学習としては、Ｑ学習及びＴＤ学習が採用できる。以下の説明では、Ｑ学習を例に挙げて説明する。本実施の形態では、報酬計算部１１０、更新部１２０、決定部１３０、学習制御部１４０、及び後述する状態観測部３２１がエージェントに相当する。本実施の形態において、通信部１０１は、状態変数を取得する状態取得部の一例である。
【００５４】
通信部１０１は、サーバ１００をネットワークＮＴ１に接続する通信回路で構成される。通信部１０１は、状態観測部３２１により観測された状態変数を通信装置２００を介して受信する。通信部１０１は、決定部１３０が決定した混練条件を通信装置２００を介して混練装置３００に送信する。通信部１０１は、学習制御部１４０が決定した混練実行コマンドを混練装置３００に送信する。
【００５５】
通信装置２００は、送信器２０１及び受信器２０２を含む。送信器２０１は、混練装置３００から送信された状態変数をサーバ１００に送信すると共に、サーバ１００から送信された混練条件を混練装置３００に送信する。受信器２０２は、混練装置３００から送信された状態変数を受信すると共に、サーバ１００から送信された混練条件を受信する。
【００５６】
混練装置３００は、通信部３１０、制御器３２０、メモリ３３０、センサ部３４０、及び入力部３５０を含む。
【００５７】
通信部３１０は、混練装置３００をネットワークＮＴ２に接続するための通信回路である。通信部３１０は、状態観測部３２１によって観測された状態変数をサーバ１００に送信する。通信部３１０は、サーバ１００の決定部１３０が決定した混練条件を受信する。通信部３１０は、学習制御部１４０が決定した後述する処理実行コマンドを受信する。
【００５８】
制御器３２０は、ＣＰＵなどを含むコンピュータである。制御器３２０は、状態観測部３２１及び混練実行部３２２を含む。通信部３１０は、状態観測部３２１が取得した状態変数をサーバ１００に送信する。制御器３２０が備える各ブロックは、例えばＣＰＵが機械学習システムの混練装置３００として機能させる機械学習プログラムを実行することで実現される。
【００５９】
状態観測部３２１は、混練終了後において、混練物の性能評価に関する第１評価パラメータと、少なくとも１つの混練条件とを含む状態変数を観測する。ここで、混練条件は、センサ部３４０の計測値及び混練実行部３２２の設定値である。また、第１評価パラメータ、センサ部３４０の計測値等である。さらに、状態観測部３２１は、混練装置３００の動作の安定性に関する第２評価パラメータを取得してもよい。
【００６０】
図３〜図６は、混練条件の一例を示す図である。混練条件は、大きく中分類に分類される。中分類には、材料に関する第１パラメータと、ロータ制御に関する第２パラメータと、動作ステップに関する第３パラメータと、ウエイト動作に関する第４パラメータと、温度調節に関する第５パラメータと、機械仕様に関する第６パラメータとのうち少なくとも１つが含まれる。
【００６１】
第１パラメータは、配合量を含む投入材料種類、材料重量、材料比重、投入順序、及び充填率の少なくとも１つを含む。投入材料種類は、さらに材料の構成物の種類を含む。配合量は、材料の構成物の各種類の量又は各種類の量の割合を含む。構成物の種類としては、例えばゴム又は樹脂、カーボン、オイル、及び薬品等である。材料重量は、材料の構成物の重量を含む。材料比重は、投入材料の構成物の各種類の比重を表す。投入順序は、材料の構成物を投入する順番である。充填率はチャンバ２の容積に対する、チャンバ２に投入される材料の容積の割合（体積率）である。
【００６２】
第２パラメータは、ロータ回転数、ロータ位相、及びロータ速度比の少なくとも１つを含む。ロータ回転数は、各動作ステップにおける一対のロータ４の単位時間当たりの回転数である。
【００６３】
混練装置３００は、ドア５から混練物を排出するまでに、材料が複数回ホッパ６から投入されるステップ処理を行う。以下、１回のステップ処理において、材料が投入されてから次に材料が投入又は掃除されるまでをステップ単位と称する。すなわち、１回のステップ処理は、１回目のステップ単位（１ｓｔ）、２回目のステップ単位（２ｎｄ）というように１以上のステップ単位に区切られる。さらに、各ステップ単位は、材料投入工程と混練工程又は掃除工程とに区切られる。これら材料投入工程、混練工程、及び掃除工程のそれぞれを総称して動作ステップ（ステップの一例）と呼ぶ。
【００６４】
材料投入時は、材料投入工程の実施時を示す。材料投入工程では、材料がホッパ６から投入され、ウエイト８によってチャンバ２に材料が押し込まれる。混練時は混練工程の実施時を示す。混練工程では、ウエイト８が下降された状態で一対のロータ４によって材料が混練される。掃除時は掃除工程の実施時を示す。掃除工程は２回目以降のステップ単位において材料投入工程に代えて適宜行われる。２回目以降ステップ単位において材料投入工程又は掃除工程の開始時にはウエイト８が上昇される。２回目以降のステップ単位において混練工程の開始時にはウエイトが下降される。
【００６５】
例えば「１ｓｔ．材料投入時」は１回目のステップ単位の材料投入工程でのロータ回転数を示し、「１ｓｔ．混練時」は１回目のステップ単位の混練工程でのロータ回転数を示す。また、「２ｎｄ．材料投入時ｏｒ掃除時」は、２回目のステップ単位の材料投入工程でのロータ回転数又は２回目の掃除工程におけるロータの回転数を示す。これらのことは３回目以降のステップ単位についても同じである。ここでは、３回目までのステップ単位が示されているが、４回目以降のステップ単位があってもよい。
【００６６】
ロータ位相は、一対のロータ４の設置角度である。例えば、一対のロータ４は９０度、１８０度といった角度で位相がずらされて設置される。ロータ速度比は一対のロータ４の単位時間あたり回転数の差である。
【００６７】
図４を参照する。第３パラメータは、各ステップの混練時間、材料投入時間、ステップ進行条件、トータル混練時間、及び積算電力量の少なくとも１つを含む。各ステップの混練時間は、各ステップ単位の混練工程に要される時間である。例えば「１ｓｔ混練ＳＴＥＰ」は１回目のステップ単位の混練工程の時間を示す。ここでは、３回までのステップ単位が示されているが４回目以降のステップ単位があってもよい。
【００６８】
材料投入時間は、各ステップ単位の材料投入工程の時間である。例えば「１ｓｔ投入ＳＴＥＰ」は１回目のステップ単位の材料投入工程の時間である。
【００６９】
ステップ進行条件は、各動作ステップから次の動作ステップへ進むための条件である。ステップ進行条件は、混練時間、材料の温度、キープ練り温度、瞬時電力、積算電力、瞬時電流、トルク、及び材料の排出時温度の少なくとも１つを含む。混練時間は、次の動作ステップに進むための所定の混練時間を示す。混練時間が所定の混練時間に到達すると、混練工程が終了し、次の動作ステップに進む。材料の温度は、次の動作ステップに進むための材料の所定の温度を示す。材料の温度が所定の温度に到達すると、混練工程が終了し、次の動作ステップに進む。キープ練り温度は、混練工程において温度を一定にして混練する場合の設定温度である。瞬時電力は、次の動作ステップへ進むためのモータ１２の所定の瞬時電力を示す。モータ１２の瞬時電力が所定の瞬時電力に到達すると、混練工程が終了し、次の動作ステップに進む。積算電力は、次の動作ステップへ進むためのモータ１２の所定の積算電力を示す。モータ１２の積算電力が所定の積算電力に到達すると、混練工程が終了し、次の動作ステップに進む。瞬時電流は、次の動作ステップへ進むためのモータ１２の所定の瞬時電流を示す。モータ１２の瞬時電流が所定の瞬時電流に到達すると、混練工程が終了し、次の動作ステップに進む。トルクは、次の動作ステップへ進むためのモータ１２の所定のトルクを示す。モータ１２のトルクが所定のトルクに到達すると、混練工程が終了し、次の動作ステップに進む。材料の排出時温度は、材料を排出する際の所定の温度である。
【００７０】
トータル混練時間は、１つのバッチ処理のトータルの混練時間である。積算電力量は１つのバッチ処理に掛ったトータルの電力量である。
【００７１】
図５を参照する。第４パラメータはウエイトシリンダ圧力、ウエイト位置、及びウエイト速度の少なくとも１つを含む。ウエイトシリンダ圧力は、各ステップ単位の混練工程においてウエイト８がチャンバ２の内部の材料を押し付ける圧力である。例えば「１ｓｔ混練ＳＴＥＰ」は１回目のステップ単位の混練工程でのウエイトシリンダ圧力を示す。
【００７２】
ウエイト位置は、ウエイト８が材料を押し付ける際のウエイト８の位置である。ウエイト速度は、ウエイト８が材料を押し付ける際のウエイト８の速度である。
【００７３】
第５パラメータは、外気温度、機械各部温度、及び循環媒体温度の少なくとも１つを含む、外気温度はステップ処理中の外気温である。機械各部温度はステップ処理中における機械の各部の温度である。機械の各部は、例えば、図１に示す供給筒７、シリンダ９、モータ１２、減速機１３、ケーシング３、一対のロータ４、及びドア５等である。
【００７４】
循環媒体温度はチャンバ入り、チャンバ出、ロータ入り、ロータ出、ウエイト入り、ウエイト出、ドア入り、ドア出の少なくとも１つを含む。チャンバ入りはケーシング３に入る循環媒体の温度である。チャンバ出はケーシング３から出てくる循環媒体の温度である。ロータ入りは一対のロータ４に入る循環媒体の温度である。ロータ出は一対のロータ４から出てくる循環媒体の温度である。ウエイト入りはウエイト８に入る循環媒体の温度である。ウエイト出はウエイト８から出てくる循環媒体の温度である。ドア入りはドア５に入る循環媒体の温度である。ドア出はドア５から出てくる循環媒体の温度である。循環媒体温度は混練物の性能に影響を与える。また、循環媒体温度は、混練される材料の熱履歴の計算に利用できる。循環媒体は、例えば、冷却水、蒸気、ホットオイル等である。循環媒体はケーシング３、一対のロータ４、ウエイト８、及びドア５等を加熱及び／又は冷却をする。
【００７５】
図６を参照する。第６パラメータは、ロータ種類、表面処理、ドアトップ形状、及びウエイト形状の少なくとも１つを含む。ロータ種類は形状に応じた一対のロータ４の種類を示す。表面処理はチャンバ２に施された硬化処理の種類を示す。表面処理には、肉盛りメッキ等がある。表面処理によりチャンバ２の耐摩耗性及び耐腐食性が向上する。ドアトップ形状は、形状に応じたドア５の種類を示す。ウエイト形状は形状に応じたドア５の種類を示す。
【００７６】
以上が混練条件の一例である。なお、上述した混練条件のうち特に重要なパラメータは以下の通りである。第１パラメータにおいては、例えば「配合量」及び「充填率」である。第２パラメータにおいては、例えば混練時の「ロータ回転数」である。第３パラメータにおいては、例えば「各ステップの混練時間」、「ステップ進行条件」、「トータル混練時間」、及び「積算電力量」である。第４パラメータにおいては、例えば「ウエイトシリンダ圧力」である。第５パラメータにおいては、例えば「循環媒体温度」である。
【００７７】
次に、第１評価パラメータについて説明する。図７は第１評価パラメータの一例を示す図である。第１評価パラメータは、大きく中分類に分類される。中分類には、物性及び形状特性の少なくとも１つが含まれる。物性は、ムーニ粘度、加硫特性、ペイン効果、添加物の分散、動的粘弾性（Ｔａｎδ）、硬度、引張応力、伸び、引張強さ、排出実重量、排出実温度、摩耗特性、曲げ強度、衝撃強度、破壊強度、弾性率、キャピラリー粘度、流動特性、及びゴム練り回転数（表面更新量）の少なくとも１つを含む。形状特性は、ブツ残り及び表面性状の少なくとも１つを含む。
【００７８】
次に、第２評価パラメータについて説明する。図８は第２評価パラメータの一例を示す図である。第２評価パラメータは、状態−ウエイト、状態−ベアリング、状態−油圧、及び状態−ロータの少なくとも１つの中分類を含む。状態−ウエイトはウエイトの状態を示す。状態−ウエイトはウエイト圧変動を含む。ウエイト圧変動は混練時におけるウエイト８の押し付け圧力の変動を示す。材料の押し上げによって押し付け圧力は変動する。状態−ベアリングは、一対のロータ４が有するベアリングの状態を示す。状態−ベアリングはスラスト荷重及びラジアル荷重の少なくとも一方を含む。スラスト荷重は混練時に一対のロータ４のベアリングにかかるスラスト方向の荷重である。ラジアル荷重は混練時に一対のロータ４のベアリングにかかるラジアル方向の荷重である。
【００７９】
状態−油圧は混練装置３００が有する油圧機器を動作させるための作動油の油圧の状態を示す。状態−油圧は、ミキサ回路圧力、ウエイト回路圧力、及びオイル清浄度の少なくとも１つを含む。ミキサ回路圧力は、ドア５を駆動するアクチュエータに供給される作動油の圧力である。ウエイト回路圧力はウエイト８を上下動させるアクチュエータに供給される作動油の圧力である。オイル清浄度は作動油の清浄度である。
【００８０】
状態−ロータは、ロータ４の状態を示す。状態−ロータは、瞬時電力、積算電力、瞬時電流、及びトルクの少なくとも１つを含む。瞬時電力はモータ１２の瞬時電力である。積算電力はモータ１２の積算電力である。瞬時電流はモータ１２の瞬時電流である。トルクはモータ１２のトルクである。
【００８１】
第１評価パラメータ及び第２評価パラメータのうち特に重要なパラメータは、例えばムーニ粘度、加硫特性、ペイン効果、添加物の分散、動的粘弾性、硬度、排出実重量、及び排出実温度である。
【００８２】
図２に参照を戻す。混練実行部３２２は、混練装置３００による混練処理の実行を制御する。例えば、混練実行部３２２は、制御器３２０の説明で上述したように、ウエイト８の上昇及び下降の制御、ウエイトシリンダの圧力の制御、加熱器の制御、モータ１２の制御、ドア５の開閉の制御等を行う。
【００８３】
メモリ３３０は、例えば不揮発性の記憶装置であり、最終的に決定された最適な混練条件などを記憶する。
【００８４】
センサ部３４０は、図３〜図６に例示された混練条件、図７に例示された第１評価パラメータ、及び図８に例示された第２評価パラメータの計測に用いられる各種センサである。具体的には、センサ部３４０は、ロータ回転数を検出するセンサ、混練時間及び材料投入時間等を計測するタイマ、材料の温度又は循環媒体の温度を計測するセンサ、モータ１２に供給される電流、電圧、及び電力を計測するセンサ、モータ１２のトルクを計測するセンサ、ウエイト８の圧力を計測するセンサ、外気温センサ、ウエイト８の位置を計測するセンサ、並びにウエイト８の速度を計測するセンサ等である。さらに、センサ部３４０は、材料及び混練物の重量を計測するセンサ、一対のロータ４のベアリングにかかるスラスト方向及びラジアル方向の荷重を計測するセンサ等である。
【００８５】
入力部３５０は、キーボード、及びマウスなどの入力装置である。入力部３５０は、例えば図６に示す第６パラメータに含まれる各種データがユーザによって入力される。さらに、入力部３５０は、例えば図７に示す第１評価パラメータの計測値がユーザによって入力される。さらに、入力部３５０は、例えば、図８に示すオイル清浄度等の各種データが入力される。
【００８６】
図９は、図２に示す機械学習システムにおける処理の一例を示すフローチャートである。ステップＳ１では、学習制御部１４０は、入力部３５０を用いてユーザにより入力された、混練条件の入力値を取得する。ここで取得される入力値は、図３に示す配合量を含む投入材料種類、材料重量、材料比重、投入順序、充填率、ロータ位相、及びロータ速度比、図６に示すロータ種類、表面処理、ドアトップ形状、ウエイト形状、並びに図５に示す外気温度等である。
【００８７】
ステップＳ２では、学習制御部１４０は、少なくとも１つの混練条件と各混練条件に対する設定値とを決定する。ここで、設定対象となる混練条件は、図３〜図６に列挙された混練条件のうち、設定値が設定可能な少なくとも１つの混練条件である。設定値が設定可能な混練条件には、例えば図３〜図６で例示された混練条件のうちステップＳ１において入力値として取得された混練条件以外の混練条件が含まれる。ここで、決定される混練条件の設定値は強化学習における行動に相当する。
【００８８】
具体的には、学習制御部１４０は、設定対象となる混練条件のそれぞれについて設定値をランダムに選択する。ここで、設定値は、混練条件のそれぞれについて所定の範囲内からランダムに選択される。混練条件の設定値の選択方法としては、例えばε−ｇｒｅｅｄｙ法が採用できる。
【００８９】
ステップＳ３では、学習制御部１４０は、混練装置３００に混練実行コマンドを送信することで、混練装置３００に混練処理を開始させる。混練実行コマンドが通信部３１０により受信されると、混練実行部３２２は、混練実行コマンドにしたがって混練条件を設定し、混練処理を開始する。混練実行コマンドには、ステップＳ１で設定された混練条件の入力値及びステップＳ２で決定された混練条件の設定値などが含まれる。
【００９０】
混練処理が終了すると、状態観測部３２１は、状態変数を観測する（ステップＳ４）。具体的には、状態観測部３２１は、図７及び図８に示す第１評価パラメータ及び第２評価パラメータと、図３〜図６に示す混練条件のうち観測対象となる混練条件とを状態変数として取得する。状態観測部３２１は、入力部３５０に入力された各種計測器の計測値及びセンサ部３４０により計測された計測値を、混練条件、第１評価パラメータ、及び第２評価パラメータとして取得すればよい。なお、混練装置３００が各種計測器と通信することで第１評価パラメータ及び第２評価パラメータは取得されてもよい。また、観測対象となる混練条件は図３〜図６に示す混練条件の中から予め定められた混練条件が採用される。なお、状態観測部３２１は、取得した状態変数を通信部３１０を介してサーバ１００に送信する。
【００９１】
ステップＳ５では、決定部１３０は、第１評価パラメータ及び第２評価パラメータを評価する。ここで、決定部１３０は、ステップＳ４で取得された第１評価パラメータ及び第２評価パラメータのうち評価対象となる評価パラメータは（以下、対象評価パラメータと呼ぶ。）が所定の基準値に到達しているか否かを判定することで第１評価パラメータ及び第２評価パラメータを評価する。対象評価パラメータは、図７及び図８に列記された第１評価パラメータ及び第２評価パラメータのうち１又は複数の評価パラメータである。対象評価パラメータが複数の場合、基準値は、各対象評価パラメータに対応する複数の基準値が存在することになる。基準値は、例えば、対象評価パラメータが一定の基準に到達していることを示す予め定められた値が採用できる。
【００９２】
基準値は、例えば上限値と下限値とを含む値であってもよい。この場合、対象評価パラメータが上限値と下限値との範囲内に入った場合、基準値に到達したと判定される。基準値は一つの値であってもよい。この場合、対象評価パラメータが基準値を超えた場合、又は基準値を下回った場合に一定の基準を満たすと判定される。
【００９３】
決定部１３０は、対象評価パラメータが基準値に到達していると判定した場合（ステップＳ６でＹＥＳ）、ステップＳ２で設定した混練条件を最終的な混練条件として出力する（ステップＳ７）。一方、決定部１３０は、対象評価パラメータが基準値に到達していないと判定した場合（ステップＳ６でＮＯ）、処理をステップＳ８に進める。なお、対象評価パラメータが複数の場合、決定部１３０は、全ての対象評価パラメータが基準値に到達した場合、ステップＳ６でＹＥＳと判定すればよい。
【００９４】
ステップＳ８では、報酬計算部１１０は、対象評価パラメータが基準値に近づいているか否かを判定する。対象評価パラメータが基準値に近づいている場合（ステップＳ８でＹＥＳ）、報酬計算部１１０は、エージェントに対する報酬を増大させる（ステップＳ９）。一方、対象評価パラメータが基準値に近づいていない場合（ステップＳ８でＮＯ）、報酬計算部１１０は、エージェントに対する報酬を減少させる（ステップＳ１０）。この場合、報酬計算部１１０は、予め定められた報酬の増減値にしたがって報酬を増減させればよい。なお、対象評価パラメータが複数の場合、報酬計算部１１０は、複数の対象評価パラメータのそれぞれについて、ステップＳ８の判定を行えばよい。この場合、報酬計算部１１０は、複数の対象評価パラメータのそれぞれについて、ステップＳ８の判定結果に基づいて報酬を増減させればよい。また、報酬の増減値は対象評価パラメータに応じて異なる値が採用されてもよい。例えば、第１評価パラメータ及び第２評価パラメータのうち上述した重要な評価パラメータについての報酬の増減値は他の評価パラメータに比べて大きく設定されていてもよい。
【００９５】
ステップＳ１１では、更新部１２０は、エージェントに付与した報酬を用いて行動価値関数を更新する。本実施の形態で採用されるＱ学習は、ある環境状態ｓの下で、行動ａを選択することへの価値であるＱ値（Ｑ（ｓ，ａ））を学習する方法である。なお、環境状態ｓｔは、上記のフローの状態変数に相当する。そして、Ｑ学習では、ある環境状態ｓのときに、Ｑ（ｓ，ａ）の最も高い行動ａが選択される。Ｑ学習では、試行錯誤により、ある環境状態ｓの下で様々な行動ａをとり、そのときの報酬を用いて正しいＱ（ｓ，ａ）が学習される。行動価値関数Ｑ（ｓｔ，ａｔ）の更新式は以下の式（１）で示される。
【００９６】
【数１】
0006886552.tif 000002
【００９７】
ここで、ｓｔ，ａｔは、それぞれ、時刻ｔにおける環境状態と行動とを表す。行動ａｔにより、環境状態はｓｔ＋１に変化し、その環境状態の変化によって、報酬ｒｔ＋１が算出される。また、ｍａｘの付いた項は、環境状態ｓｔ＋１の下で、その時に分かっている最も価値の高い行動ａを選んだ場合のＱ値（Ｑ（ｓｔ＋１，ａ））にγを掛けたものである。ここで、γは割引率であり、０＜γ≦１（通常は０．９〜０．９９）の値をとる。αは学習係数であり、０＜α≦１（通常は０．１程度）の値をとる。
【００９８】
この更新式は、状態ｓにおける行動ａのＱ値であるＱ（ｓｔ，ａｔ）よりも、行動ａによる次の環境状態ｓｔ＋１における最良の行動をとったときのＱ値に基づくγ・ｍａｘＱ（ｓｔ＋１，ａ）の方が大きければ、Ｑ（ｓｔ，ａｔ）を大きくする。一方、この更新式は、Ｑ（ｓｔ，ａｔ）よりもγ・ｍａｘＱ（ｓｔ＋１，ａ）の方が小さければ、Ｑ（ｓｔ，ａｔ）を小さくする。つまり、ある状態ｓｔにおけるある行動ａの価値を、それによる次の状態ｓｔ＋１における最良の行動の価値に近づけるようにしている。これにより、最適な混練条件が決定される。
【００９９】
ステップＳ１１の処理が終了すると、処理はステップＳ２に戻り、混練条件の設定値が変更され、同様にして行動価値関数が更新される。更新部１２０は、行動価値関数を更新したが、本発明はこれに限定されず、行動価値テーブルを更新してもよい。
【０１００】
Ｑ（ｓ，ａ）は、全ての状態と行動とのペア（ｓ，ａ）に対する値がテーブル形式で保存されてもよい。或いは、Ｑ（ｓ，ａ）は、全ての状態と行動とのペア（ｓ，ａ）に対する値を近似する近似関数によって表されてもよい。この近似関数は多層構造のニューラルネットワークにより構成されてもよい。この場合、ニューラルネットワークは、実際に混練装置３００を動かして得られたデータをリアルタイムで学習し、次の行動に反映させるオンライン学習を行えばよい。これにより、深層強化学習が実現される。
【０１０１】
従来、混練装置においては、良好な混練物が得られるように混練条件を変化させることによって混練条件の開発が行われてきた。良好な混練条件を得るためには、第１評価パラメータ及び第２評価パラメータと混練条件との関係性を見出すことが要求される。しかし、図３〜図６に示されるように混練条件の種類は膨大であるため、このような関係性を規定するには極めて多くの物理モデルが必要となり、物理モデルによってこのような関係性を記述するのは困難であるとの知見が得られた。さらに、このような物理モデルを構築するには、どのパラメータがどの評価パラメータの評価に影響を与えているのかを人為的に見いだすことも要求され、この構築は困難である。
【０１０２】
本実施の形態によれば、上述した第１〜第６パラメータと、第１評価パラメータ及び第２評価パラメータとが状態変数として観測される。そして、観測された状態変数に基づいて、混練条件の決定結果に対する報酬が計算され、計算された報酬に基づいて、状態変数から混練条件を決定するための行動価値関数が更新され、この更新が繰り返されて報酬が最も多く得られる混練条件が学習される。このように、本実施の形態は、上述の物理モデルを用いることなく、機械学習により混練条件が決定される。その結果、本実施の形態は、適切な混練条件を熟練した技術者による長年の経験を頼らずに容易に決定できる。
【０１０３】
なお、本発明は以下の変形例が採用できる。
【０１０４】
（１）図１０は、本発明の変形例に係る機械学習システムの全体構成図である。この変形例に係る機械学習システムは、混練装置３００Ａ単体で構成されている。混練装置３００Ａは、制御器３２０Ａ、入力部３９１、及びセンサ部３９２を含む。制御器３２０Ａは、機械学習部３７０及び混練部３８０を含む。機械学習部３７０は、報酬計算部３７１、更新部３７２、決定部３７３、及び学習制御部３７４を含む。報酬計算部３７１〜学習制御部３７４は、それぞれ、図２に示す報酬計算部１１０〜学習制御部１４０と同じである。混練部３８０は、状態観測部３８１、及び混練実行部３８２を含む。状態観測部３８１及び混練実行部３２２は、それぞれ図２に示す状態観測部３２１及び混練実行部３２２と同じである。入力部３９１及びセンサ部３９２は、それぞれ図２に示す入力部３５０及びセンサ部３４０と同じである。本変形例において状態観測部３８１は、状態情報を取得する状態取得部の一例である。
【０１０５】
このように、この変形例に係る機械学習システムによれば、混練装置３００Ａ単体で最適な混練条件を学習させることができる。
【０１０６】
（２）上記のフローチャートでは、処理の終了後に状態変数が観測されていたが、これは一例であり、１回の処理中に状態変数が複数観測されてもよい。例えば、状態変数が瞬時に計測可能なパラメータのみで構成されている場合、１回の処理中に複数の状態変数を観測できる。これにより、学習時間の短縮が図られる。
【符号の説明】
【０１０７】
２        ：チャンバ
３        ：ケーシング
４        ：ロータ
５        ：ドア
８        ：ウエイト
１０      ：ピストン
１２      ：モータ
１００    ：サーバ
１０１    ：通信部
１０２    ：プロセッサ
１１０    ：報酬計算部
１２０    ：更新部
１３０    ：決定部
１４０    ：学習制御部
２００    ：通信装置
２０１    ：送信器
２０２    ：受信器
３００    ：混練装置
３１０    ：通信部
３２０    ：制御器
３２１    ：状態観測部
３２２    ：混練実行部
３３０    ：メモリ
３４０    ：センサ部
３５０    ：入力部
【要約】
【課題】熟練した技術者による長年の経験を頼ることなく、適切な混練物が得られる混練条件を容易に決定する。
【解決手段】機械学習方法は、混練物の性能評価に関する少なくとも１つの第１評価パラメータと、少なくとも１つの混練条件とを含む状態変数を取得し、状態変数に基づいて、少なくとも１つの混練条件の決定結果に対する報酬を計算し、状態変数から少なくとも１つの混練条件を決定するための関数を、報酬に基づいて更新し、関数の更新を繰り返すことによって、報酬が最も多く得られる混練条件を決定し、少なくとも１つの第１評価パラメータは、混練物に関する物性特性及び形状特性の少なくとも１つを含む。
【選択図】図２【図１】
0006886552.tif 000003
【図２】
0006886552.tif 000004
【図３】
0006886552.tif 000005
【図４】
0006886552.tif 000006
【図５】
0006886552.tif 000007
【図６】
0006886552.tif 000008
【図７】
0006886552.tif 000009
【図８】
0006886552.tif 000010
【図９】
0006886552.tif 000011
【図１０】
0006886552.tif 000012