(57)【要約】【課題】複雑なアルゴリズムを手動で設定しなくても、所望の信号処理を行うことが可能な信号処理システムを提供する。【解決手段】信号処理システムは、外部に接続されたセンサーからの入力信号を受信する受信回路１と、学習回路５で使うための教師信号を自動で生成する期待信号生成回路４と、期待信号生成回路４で生成した教師信号と受信回路１からの信号から期待信号を形成するためにニューラルネットワークの重み値やバイアス値などを計算で求める学習回路５と、学習回路５で作成したニューラルネットワークの学習済みモデルに基づき信号処理する推論回路２と、推論回路２の出力信号と比較用期待信号との類似度計算を行う処理信号妥当性確認回路３’を有する。 【選択図】図１
2020107012.tif 000002
【特許請求の範囲】
【請求項１】
ニューラルネットワークを用いて第一教師信号に基づいた機械学習をするとともに、入力信号を前記ニューラルネットワークで演算する学習回路と、
前記学習回路の出力と比較用信号を比較する比較回路と、
前記比較回路の出力に基づいて、前記学習回路へ供給される第二教師信号を生成する生成回路と、
を有する演算処理装置。
【請求項２】
前記比較回路の出力に基づいて、前記機械学習の学習結果が変更される、請求項１に記載の演算処理装置。
【請求項３】
ニューラルネットワークを用いて第一教師信号に基づいた機械学習をするとともに、入力信号を当該ニューラルネットワークで演算する学習回路と、
前記学習回路の出力と比較用信号を比較する第１比較回路と、
前記第１比較回路の出力に基づいて、前記学習回路へ供給される第二教師信号を生成する生成回路と、
前記機械学習の学習結果に基づいて前記入力信号を推論する推論回路と、
を有する演算処理装置。
【請求項４】
前記推論回路の出力と比較用信号を比較する第２比較回路を有し、
前記第２比較回路の出力に基づいて前記機械学習の学習結果が変更される、請求項３に記載の演算処理装置。
【請求項５】
ニューラルネットワークを用いた機械学習方法であって、
前記ニューラルネットワークを用いて第一教師信号に基づいた機械学習をするステップと、
前記機械学習の結果に基づいて処理した信号と比較用信号を比較するステップと、
比較結果に基づいて、第二教師信号を生成するステップと、
前記第二教師信号に基づいて前記ニューラルネットワークを用いて機械学習するステップと
を有する機械学習方法。
【請求項６】
さらに前記第二教師信号に基づく機械学習の学習結果に基づいて入力信号を推論するステップと、
推論された前記入力信号と前記第二教師信号を比較するステップと、
比較結果に基づいて前記機械学習の学習結果を変更するステップと、
を有する、請求項５に記載の機械学習方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、演算処理装置および機械学習方法に関する。
【背景技術】
【０００２】
ニューラルネットワーク演算装置の学習用教師信号を自動的に設定する方法が知られている。例えば、特許文献１には、教師信号発生部を有するニューラルネットワーク学習装置が開示されている。また、特許文献２には、教師信号自動作成装置を有する画像識別装置が開示されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開平６−２６６３９８号公報
【特許文献２】特開平７−２１３７８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、特許文献１に記載の教師信号発生部は、ニューラルネットワーク演算部に送られた学習パターンの該当するカテゴリ（ここでカテゴリとは認識対象となる語彙のことである。）の番号を教師信号として発生するものであるため、予め決められた教師信号しか発生させない。また、特許文献２に記載の画像識別装置では、階層型ニューラルネットワーク演算装置が正しく処理できないような信号が入力された場合の対処方法が開示されていない。
【０００５】
本発明の課題は、ニューラルネットワークを用いた信号処理において、より容易に、所望の結果を得られるようにすることである。その他の課題および新規な特徴は、本明細書および図面の記載から明らかになる。
【課題を解決するための手段】
【０００６】
一実施の形態に係る信号処理システムは、外部に接続されたセンサーからの入力信号を受信する受信回路と、学習回路で使うための教師信号を自動で生成する期待信号生成回路と、期待信号生成回路で生成した教師信号と受信回路からの信号から期待信号を形成するためにニューラルネットワークの重み値やバイアス値などを計算で求める学習回路と、学習回路で作成したニューラルネットワークの学習済みモデルに基づき信号処理する推論回路と、推論回路の出力信号と比較用期待信号との類似度計算を行う処理信号妥当性確認回路を有する。
【発明の効果】
【０００７】
一実施の形態に係る信号処理システムでは、複雑なアルゴリズムを手動で設定しなくても、所望の信号処理を行うことができる。
【図面の簡単な説明】
【０００８】
【図１】図１は、一実施の形態に係る信号処理システムを示す回路ブロック図である。
【図２】図２は、一実施の形態に係る信号処理システムの変形例を示す回路ブロック図である。
【図３】図３（ａ）は、受信回路の出力信号および切取りのターゲット部分を説明する図であり、図３（ｂ）は、比較用期待信号の波形を示す図であり、図３（ｃ）は、受信回路の出力信号および切取られる部分を説明する図である。
【図４】図４は、信号処理システムに信号通過回路および異常検知回路を適用した一例の回路ブロック図である。
【図５】図５は、信号通過回路のブロック図である。
【図６】図６（ａ）は、受信回路の出力信号の波形を示す図であり、図６（ｂ）は、推論回路の出力信号を説明する図であり、図６（ｃ）は、信号通過回路の出力信号を説明する図である。
【図７】図７（ａ）は、正常信号に対するマスク処理を説明する図であり、図７（ｂ）は、異常信号に対するマスク処理を説明する図であり、図７（ｃ）は、異常信号に対するマスク処理を説明する図である。
【発明を実施するための形態】
【０００９】
以下、一実施の形態に係る半導体装置について、図面を参照して詳細に説明する。なお、明細書および図面において、同一の構成要件または対応する構成要件には、同一の符号を付し、重複する説明は省略する。また、図面では、説明の便宜上、構成を省略または簡略化している場合もある。また、実施の形態と各変形例との少なくとも一部は、互いに任意に組み合わされてもよい。
【００１０】
（一実施の形態にかかる信号処理システムの構成）
図１は、本実施の形態に係る信号処理システムの回路ブロック図である。信号処理システムは、受信回路１、推論回路２、処理信号妥当性確認回路（比較回路）３および３’、期待信号生成回路４、ならびに学習回路５を有する。それぞれの回路をまとめて、一つまたは複数の集積回路上に形成してもよい。また、少なくとも一部の回路同士を、ネットワークを介して接続することも可能である。
【００１１】
受信回路１は、例えば外部に接続されたセンサーからの入力信号を受信し、推論回路２、期待信号生成回路４、学習回路５等に、信号を出力する回路である。受信回路１は、Ａ／Ｄ変換回路を有してもよいし、時間や入力信号の強度に基づいて入力信号の一部のみを切取る回路を有してもよい。
【００１２】
推論回路２は、受信回路１からの信号を、学習回路５で作成したニューラルネットワークの学習済みモデルに基づき、信号処理する回路である。なお、学習済みモデルを推論回路２に受け渡す手法としては、特許文献１「ニューラルネットワークを用いた演算装置」に記載された手法がある。
【００１３】
処理信号妥当性確認回路３’は、推論回路２の出力信号と、別途入力された比較用期待信号との類似度の計算を行い、その計算値から推論回路２による信号処理が正しく実施されたかどうかを判断する機能を有する。比較用期待信号は、例えばユーザーが期待する推論回路２の出力信号である。類似度の計算は、例えば、推論回路２の出力信号と、上記比較用期待信号の差分の２乗平均の累積値で計算する。当然、前記２つの信号が似た信号であれば計算された値は小さい値となり、前記２つの信号が異なっていれば、計算された値は大きい値となる。つまり、計算された値が大きい場合は類似度が低く、計算された値が小さい場合は類似度が高い。推論回路２による信号処理が正しく実施されたかどうかの判断は、この計算された値に対し一定の閾値を用いて実施することができる。正しく実施されていないと判断された場合、その判断の原因となった受信回路１からの出力信号を、期待信号生成回路４に出力し、学習回路５でニューラルネットワークの学習を再度行わせることができる。なお類似度の計算は、比較用期待信号そのものとの比較ではなく、比較用期待信号を加工した信号との比較であってもよい。
【００１４】
処理信号妥当性確認回路３は、別途入力した比較用期待信号（簡略化のため、入力経路は図から省略している）と学習回路５の出力の類似度の計算を行い、その計算値から学習回路５による学習が正しく実施されたかどうかを判断する機能を有する。判断手法は、例えば処理信号妥当性確認回路３’について上述したものを用いることができる。また正しく学習されていないと判断された場合、処理信号妥当性確認回路３’は通知信号を期待信号生成回路４に出力することで、学習回路５においてニューラルネットワークの学習を再度行わせることができる。
【００１５】
期待信号生成回路４は、後述する学習回路５で使うための教師信号を自動で生成する機能を有する。一般的に、ディープラーニング等の学習済みモデルを生成するためには、入力信号に対する出力信号の期待値を教師信号として準備する必要がある。ただし、学習済みモデル生成のために必要な何千もの教師信号を手動で作成することは、手間がかかる。そこで期待信号生成回路４は、最初の１回、もしくは数回だけは、比較用期待信号の入力を必要とするが、それ以降は、教師信号を自動生成する機能を持たせている。例えば、パターン認識を行うアルゴリズムを実行するソフトウェアが、比較用期待信号に基づいて、受信回路１の出力信号から比較用期待信号に近い信号のみを切り出して教師信号を自動生成する。また、教師信号を自動生成する複数のアルゴリズムを有するソフトウェアを、期待信号生成回路４として用いることで、処理信号妥当性確認回路３で学習回路５からの入力信号が不良と判定された場合に、その入力信号に基づく信号を、期待信号生成回路４に入力し、別のアルゴリズムで教師信号を生成させることをできるようにすることも可能である。
【００１６】
学習回路５は、期待信号生成回路４で生成した教師信号を用いて、受信回路１から入力される信号に対し、期待信号を作り出すようなニューラルネットワークを実現できるようにニューラルネットワークの重み値や、バイアス値など計算で求めるものである。したがって、学習回路５の出力と期待信号の差分が小さくなるように学習が行われる。なお、学習回路５はサーバーやクラウドで実現することも可能である。
【００１７】
（本実施の形態にかかる信号処理システムの動作）
次いで、本実施の形態に係る信号処理システムの動作例について説明する。
【００１８】
外部からの入力信号は受信回路１により信号処理された後、上述のとおり、推論回路２、学習回路５等に送信される。期待信号生成回路４は、別途準備された比較用期待信号に基づいたアルゴリズムを実行して受信回路１からの入力信号から教師信号を作成し、学習回路５に送信する。学習回路５は、当該教師信号に基づき、受信回路１からの信号を処理し、処理信号妥当性確認回路３に送信する。処理信号妥当性確認回路３は、学習回路５からの入力信号を、比較用期待信号と比較し、例えば類似度が低いと判断した場合は、期待信号生成回路４に通知する。通知を受信した期待信号生成回路４は、例えば別のアルゴリズムに切り替え、教師信号を作成する。
【００１９】
上述の手法により学習回路５で生成した学習済みモデルは、推論回路２に送られる。推論回路２は、受信回路１からの信号をその学習済みモデルに基づき推論した後、処理信号妥当性確認回路３’等に送信する。処理信号妥当性確認回路３’は、当該信号と比較用期待信号を比較し、不良と判定した場合は期待信号生成回路４に通知信号を送る。通知を受信した期待信号生成回路４は、例えば別のアルゴリズムに切り替え、教師信号を作成する。その結果、学習回路５でニューラルネットワークの学習を再度行わせることができる。
【００２０】
なお、本実施の形態にかかる信号処理システムでは、教師信号の生成に大きく作用する期待信号生成回路４、および学習回路５を組合せた装置と、受信回路１および推論回路２を組合せた装置を物理的に別々に設置することを想定している。そのためそれぞれの装置用に処理信号妥当性確認回路３および３’を設置した。しかしながら、図２のように、一つの処理信号妥当性確認回路３だけを用いてもよい。この場合、システムの構成が簡略にできる。また推論回路２と学習回路５を一つの回路で構成しても同様の効果が得られる。
【００２１】
図３（ａ）乃至図３（ｃ）はニューラルネットワークの学習を用いない信号処理システムと、図１および図２に示す信号処理システムを波形切取りに使用した場合の、受信回路１からの出力信号、比較用期待信号、およびその切取られる部分を説明する図である。図３（ａ）に示す受信回路１からの出力信号に基づき波形ｉを切り取るために、ニューラルネットワークの学習を用いない信号処理システムでは次のアルゴリズムを設定する。
アルゴリズム
（１）信号波形が２回目に２Ｖを超えたところで切り取りを開始する。
（２）その後、２Ｖ以下になったところで切り取りを終了する。
【００２２】
この場合、図３（ｃ）に示す受信回路１からの出力信号に対しては、本アルゴリズムではターゲット部分の波形ｉｉｉは切り取られずに、波形ｉｉが切り取られてしまうため、アルゴリズムを修正しなければならず、煩雑である。
【００２３】
一方、図１および図２の信号処理システムを波形切取りに使用した場合は、図３（ｂ）に示す比較用期待信号を入力することで、ターゲット部分の波形ｉｉｉを切り取ることができる。
【００２４】
また、図１および図２に記載の処理信号妥当性確認回路３および３’のいずれか片方または両方の入力信号が、信号通過回路６を経由するようにしてもよい。さらに、図１および図２の信号処理システムの出力が、異常検知回路７を経由するようにしてもよい。図１の信号処理システムに信号通過回路６および異常検知回路７を適用した回路ブロック図を図４に、信号通過回路６のブロック図を図５に示す。
【００２５】
図５に示す通り、信号通過回路６はマルチプレクサ８で構成することができる。また信号通過回路６を適用した場合の受信回路１、推論回路２、および信号通過回路６の出力信号例をそれぞれ図６（ａ）乃至図６（ｃ）に示したが、例えば推論回路２から出力される信号が１０Ｖの時に、信号通過回路６は、受信回路１から出力される信号を通過させるが、それ以外のときは０Ｖを通過させるようにできる。また、信号通過回路６は、受信回路１から出力される信号を通過させているだけであるので、図６（ｃ）のように、信号波形にかかわらず、切り取り対象部分の波形を受信回路１の出力通りに出力できる効果がある。また、異常検知回路７を適用することにより、受信回路１への入力信号の異常が検知される。
【００２６】
図７（ａ）は正常信号に対する、図７（ｂ）および図７（ｃ）は異常信号に対するマスク処理を説明する図である。図７（ｂ）や図７（ｃ）のように受信回路１の出力信号のノイズが大きい場合や、形状がばらつく場合等は、特定の期間にマスクを掛けて処理妥当性確認回路３または３’での妥当性確認を避けることで、図１，図２の信号処理システムによって当該出力信号を処理できる。マスクの処理方法の指定は、例えば、学習回路５にて、比較用期待信号の入力と同時に指定すればよい。
【００２７】
以上、本発明者によってなされた発明を実施の形態に基づき具体的に説明したが、本発明は前記実施の形態に限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能であることはいうまでもない。例えば、受信回路１の入力信号に関する波形異常ではなく、信号強度異常や信号持続時間異常についての検知等にも、実施の形態に係わる信号処理システムは適用可能である。また、各種回路は、ファームウェアまたはソフトウェアなどを使用して、汎用回路で構成してもよい。
【符号の説明】
【００２８】
１  受信回路
２  推論回路
３、３’  処理信号妥当性確認回路
４  期待信号生成回路
５  学習回路
６  信号通過回路
７  異常検知回路
８  マルチプレクサ
【図１】
2020107012.tif 000003
【図２】
2020107012.tif 000004
【図３】
2020107012.tif 000005
【図４】
2020107012.tif 000006
【図５】
2020107012.tif 000007
【図６】
2020107012.tif 000008
【図７】
2020107012.tif 000009