(57)【要約】【課題】消費電力を抑制する。【解決手段】信号処理回路は、第１入力信号が変化する第１タイミングと、第２入力信号が変化する第２タイミングと、の間の時間長を表す第１時間長信号を出力する、第１時間長信号出力回路と、制御信号に基づくタイミングで、第１時間長信号を第２時間長信号として出力する、第２時間長信号出力回路と、を各々が含む、複数の第１回路と、複数の第１回路から夫々出力される複数の第２時間長信号の内で最も時間長が長い第２時間長信号を出力する、第２回路と、を有する。【選択図】図８
2020009317.tif 000002
【特許請求の範囲】
【請求項１】
第１入力信号が変化する第１タイミングと、第２入力信号が変化する第２タイミングと、の間の時間長を表す第１時間長信号を出力する、第１時間長信号出力回路と、制御信号に基づくタイミングで、前記第１時間長信号を第２時間長信号として出力する、第２時間長信号出力回路と、を各々が含む、複数の第１回路と、
前記複数の第１回路から夫々出力される複数の前記第２時間長信号の内で最も時間長が長い前記第２時間長信号を出力する、第２回路と、
を有する信号処理回路。
【請求項２】
前記第１時間長信号出力回路は、前記第１入力信号と前記第２入力信号とに論理演算を行う、第１論理回路である、
請求項１に記載の信号処理回路。
【請求項３】
前記第１論理回路は、排他的論理和回路である、
請求項２に記載の信号処理回路。
【請求項４】
前記第２時間長信号出力回路は、
前記第１時間長信号に基づいて蓄電素子に電荷をチャージし、前記制御信号に基づいて前記蓄電素子をディスチャージする、充放電回路と、
前記蓄電素子の電位とリファレンス電位とを比較し、前記蓄電素子の電位が前記リファレンス電位以上の期間に、前記第２時間長信号を出力する、比較回路と、
を有する請求項１に記載の信号処理回路。
【請求項５】
前記充放電回路は、
一端が前記リファレンス電位に電気的に接続された前記蓄電素子である、コンデンサと、
一端が第１電源電位に電気的に接続された、第１定電流源と、
入出力経路が、前記第１定電流源の他端と前記コンデンサの他端との間に電気的に接続され、制御端子に前記第１時間長信号が供給される、第１スイッチと、
一端が第２電源電位に電気的に接続された、第２定電流源と、
入出力経路が、前記コンデンサの他端と前記第２定電流源の他端との間に電気的に接続され、制御端子に前記制御信号が供給される、第２スイッチと、
を有する請求項４に記載の信号処理回路。
【請求項６】
前記充放電回路は、
一端が前記リファレンス電位に電気的に接続された前記蓄電素子である、コンデンサと、
一端が第１電源電位に電気的に接続された、第１抵抗と、
入出力経路が、前記第１抵抗の他端と前記コンデンサの他端との間に電気的に接続され、制御端子に前記第１時間長信号が供給される、第１スイッチと、
一端が第２電源電位に電気的に接続された、第２抵抗と、
入出力経路が、前記コンデンサの他端と前記第２抵抗の他端との間に電気的に接続され、制御端子に前記制御信号が供給される、第２スイッチと、
を有する請求項４に記載の信号処理回路。
【請求項７】
前記第２回路は、前記複数の第１回路から夫々出力される複数の前記第２時間長信号に論理演算を行う、第２論理回路
を有する請求項１に記載の信号処理回路。
【請求項８】
前記第２論理回路は、論理和回路である、
請求項７に記載の信号処理回路。
【請求項９】
前記第２回路は、前記第２論理回路の出力信号の立ち上がりエッジで、予め定められた電位を保持して出力する、第１順序回路と、前記第２論理回路の出力信号の立ち下がりエッジで、前記予め定められた電位を保持して出力する、第２順序回路と、
を更に有する請求項７に記載の信号処理回路。
【請求項１０】
前記第１順序回路及び前記第２順序回路の各々は、フリップフロップである、
請求項９に記載の信号処理回路。
【請求項１１】
前記リファレンス電位は、１個の定電圧源から前記複数の第１回路に供給される、
請求項４に記載の信号処理回路。
【請求項１２】
前記比較回路は、前記第２時間長信号を出力していない期間に、オフセット情報を取得し、前記オフセット情報に基づいて、前記第２時間長信号を出力する、
請求項４に記載の信号処理回路。
【請求項１３】
複数の信号に第１群の係数を夫々乗じた後に加算する第１の積和演算を夫々行って複数の第１信号を夫々出力し、前記複数の信号に第２群の係数を夫々乗じた後に加算する第２の積和演算を夫々行って複数の第２信号を夫々出力する、複数の積和演算回路と、
前記複数の積和演算回路に夫々電気的に接続され、前記第１信号が変化する第１タイミングと、前記第２信号が変化する第２タイミングと、の間の時間長を表す第１時間長信号を出力する、第１時間長信号出力回路と、制御信号に基づくタイミングで、前記第１時間長信号を第２時間長信号として出力する、第２時間長信号出力回路と、を各々が含む、複数の第１回路と、前記複数の第１回路から夫々出力される複数の前記第２時間長信号の内で最も時間長が長い前記第２時間長信号を出力する、第２回路と、を有する信号処理回路と、
を有する信号処理装置。
【請求項１４】
前記積和演算回路と前記信号処理回路との間に電気的に接続され、前記第１信号及び前記第２信号に非線形関数演算を行って、前記信号処理回路に出力する、第２信号処理回路
を更に有する、請求項１３に記載の信号処理装置。
【請求項１５】
第１入力信号が変化する第１タイミングと、第２入力信号が変化する第２タイミングと、の間の時間長を表す第１時間長信号を出力し、
制御信号に基づくタイミングで、前記第１時間長信号を第２時間長信号として出力し、
複数の前記第２時間長信号の内で最も時間長が長い前記第２時間長信号を出力する、
信号処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、信号処理回路、信号処理装置及び信号処理方法に関する。
【背景技術】
【０００２】
特許文献１には、演算結果の情報を２つの信号の時間差で表す積和演算装置が記載されている。特許文献１記載の積和演算装置は、ニューラルネットワーク回路に利用可能である。ニューラルネットワーク回路では、複数の積和演算回路を夫々含む複数の層が、多層に接続される。そして、１つの層と他の１つの層との間に、各種の信号処理を行う信号処理回路が設けられる。各種の信号処理は、活性化関数演算処理、最大値抽出（Max  Pooling）処理が例示される。
【０００３】
上記した各種の信号処理は、ディジタル信号処理回路で行われる。そのため、上記した各種の信号処理を行う前に、時間差で情報を表す２つの信号をディジタル信号に変換する、時間−ディジタル（Time-to-Digital）変換回路が必要である。この時間−ディジタル変換回路は、アナログ−ディジタル（Ａ／Ｄ）変換回路に相当する。更に、上記した各種の信号処理を行った後に、ディジタル信号を時間差で情報を表す２つの信号に変換する、ディジタル−時間（Digital-to-Time）変換回路が必要である。このディジタル−時間変換回路は、ディジタル−アナログ（Ｄ／Ａ）変換回路に相当する。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】国際公開第２０１８／０３４１６３号
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、時間−ディジタル変換回路及びディジタル−時間変換回路は、消費電力が大きい。
【０００６】
そこで、本開示では、消費電力を抑制することができる信号処理回路、信号処理装置及び信号処理方法を提案する。
【課題を解決するための手段】
【０００７】
本開示によれば、第１入力信号が変化する第１タイミングと、第２入力信号が変化する第２タイミングと、の間の時間長を表す第１時間長信号を出力する、第１時間長信号出力回路と、制御信号に基づくタイミングで、前記第１時間長信号を第２時間長信号として出力する、第２時間長信号出力回路と、を各々が含む、複数の第１回路と、前記複数の第１回路から夫々出力される複数の前記第２時間長信号の内で最も時間長が長い前記第２時間長信号を出力する、第２回路と、を有する。
【０００８】
また、本開示によれば、複数の信号に第１群の係数を夫々乗じた後に加算する第１の積和演算を夫々行って複数の第１信号を夫々出力し、前記複数の信号に第２群の係数を夫々乗じた後に加算する第２の積和演算を夫々行って複数の第２信号を夫々出力する、複数の積和演算回路と、前記複数の積和演算回路に夫々電気的に接続され、前記第１信号が変化する第１タイミングと、前記第２信号が変化する第２タイミングと、の間の時間長を表す第１時間長信号を出力する、第１時間長信号出力回路と、制御信号に基づくタイミングで、前記第１時間長信号を第２時間長信号として出力する、第２時間長信号出力回路と、を各々が含む、複数の第１回路と、前記複数の第１回路から夫々出力される複数の前記第２時間長信号の内で最も時間長が長い前記第２時間長信号を出力する、第２回路と、を有する信号処理回路と、を有する。
【発明の効果】
【０００９】
本開示によれば、消費電力を抑制することができる。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
【図面の簡単な説明】
【００１０】
【図１】本開示の第１の実施形態に係るニューラルネットワーク装置の構成を示す図である。
【図２】本開示の第１の実施形態に係るニューラルネットワーク装置の積和演算回路の構成を示す図である。
【図３】ＲｅＬＵの入出力特性を示す図である。
【図４】本開示の第１の実施形態に係るニューラルネットワーク装置の活性化関数回路の構成を示す図である。
【図５】本開示の第１の実施形態に係るニューラルネットワーク装置の活性化関数回路の動作タイミングを示すタイミング図である。
【図６】本開示の第１の実施形態に係るニューラルネットワーク装置の活性化関数回路の動作タイミングを示すタイミング図である。
【図７】本開示の第１の実施形態に係るニューラルネットワーク装置の活性化関数回路の入力タイミングと出力タイミングとの関係を示す図である。
【図８】本開示の第１の実施形態に係るニューラルネットワーク装置の最大値抽出回路の構成を示す図である。
【図９】本開示の第１の実施形態に係るニューラルネットワーク装置の最大値抽出回路の動作タイミングを示すタイミング図である。
【図１０】本開示の第２の実施形態の最大値抽出回路の構成を示す図である。
【図１１】本開示の第３の実施形態の最大値抽出回路の構成を示す図である。
【図１２】本開示の第４の実施形態の最大値抽出回路のコンパレータの構成を示す図である。
【図１３】本開示の第５の実施形態の活性化関数回路の構成を示す図である。
【図１４】本開示の第６の実施形態の活性化関数回路の構成を示す図である。
【図１５】本開示の第７の実施形態の活性化関数回路の構成を示す図である。
【発明を実施するための形態】
【００１１】
以下に、本開示の実施形態について図面に基づいて詳細に説明する。なお、以下の各実施形態において、同一の部位には同一の符号を付することにより重複する説明を省略する。
【００１２】
（第１の実施形態）
［第１の実施形態に係るニューラルネットワーク装置の構成］
図１は、本開示の第１の実施形態に係るニューラルネットワーク装置の構成を示す図である。ニューラルネットワーク装置１は、第１層回路２と、第１層間回路３と、第２層回路４と、第２層間回路５と、を含む。
【００１３】
ニューラルネットワーク装置１が、本開示の信号処理装置の一例である。
【００１４】
第１の実施形態では、ニューラルネットワーク装置１は、第１層回路２と、第２層回路４と、の２つの層を含むこととしたが、本開示はこれに限定されない。ニューラルネットワーク装置１は、３つ以上の層を含むこととしても良い。また、ニューラルネットワーク装置１は、半導体チップ（ダイ）上に形成されても良い。
【００１５】
第１層回路２は、複数の入力信号ｘｐｉ、ｘｍｉ（ｉは１からＮまでの自然数、Ｎは２以上の自然数）に積和演算を行って、演算結果を表す信号を第１層間回路３に出力する。第１層間回路３は、第１層回路２の出力信号に後述する処理を行って、処理結果を表す信号を第２層回路４に出力する。第２層回路４は、第１層間回路３の出力信号に積和演算を行って、処理結果を表す信号を第２層間回路５に出力する。第２層間回路５は、第２層回路４の出力信号に後述する処理を行って、処理結果を表す信号を後段の回路に出力する。
【００１６】
第１層回路２は、複数の積和演算回路１１を含む。第１層間回路３は、複数の活性化関数回路１２と、複数の最大値抽出回路１３と、を含む。第２層回路４は、複数の積和演算回路１１を含む。第２層間回路５は、複数の活性化関数回路１２と、複数の最大値抽出回路１３と、を含む。
【００１７】
最大値抽出回路１３が、本開示の信号処理回路の一例である。活性化関数回路１２が、本開示の第２信号処理回路の一例である。積和演算回路１１が、本開示の積和演算回路の一例である。
【００１８】
［積和演算回路の構成及び動作］
図２は、本開示の第１の実施形態に係るニューラルネットワーク装置の積和演算回路の構成を示す図である。積和演算回路１１は、第１積和演算回路１１ｐと、第２積和演算回路１１ｍと、を含む。
【００１９】
積和演算回路１１は、第１積和演算回路１１ｐの出力信号である、正の絶対値の信号ｔｖｉｎ＋と、第２積和演算回路１１ｍの出力信号である、負の絶対値の信号ｔｖｉｎ−と、の間の時間差で演算結果の情報を表す、時間軸積和演算回路である。
【００２０】
第１積和演算回路１１ｐは、一端が基準電位に電気的に接続されたコンデンサＣｐを含む。基準電位は、接地電位が例示されるが、本開示はこれに限定されない。また、コンデンサＣｐは、他の蓄電素子、例えば、ＭＯＳトランジスタのゲート容量であっても良い。
【００２１】
第１積和演算回路１１ｐは、抵抗Ｒｐ０を含む。また、第１積和演算回路１１ｐは、アノードが抵抗Ｒｐ０の一端に電気的に接続され、カソードがコンデンサＣｐの他端に電気的に接続された、逆流防止のためのダイオードＤを含む。抵抗Ｒｐ０の他端には、バイアス電圧ＢＴｐが入力される。従って、バイアス電圧ＢＴｐと抵抗Ｒｐ０の抵抗値とに応じた電流が、コンデンサＣｐに供給される。
【００２２】
第１積和演算回路１１ｐは、複数の抵抗Ｒｐｉ（ｉは１からＮまでの自然数、Ｎは２以上の自然数）を含む。また、第１積和演算回路１１ｐは、アノードが抵抗Ｒｐｉの一端に夫々電気的に接続され、カソードがコンデンサＣｐの他端に電気的に接続された、逆流防止のための複数のダイオードＤを含む。抵抗Ｒｐｉの他端には、入力信号ｘｐｉが入力される。従って、入力信号ｘｐｉの電圧と抵抗Ｒｐｉの抵抗値とに応じた電流が、コンデンサＣｐに供給され、コンデンサＣｐの電圧が上昇する。入力信号ｘｐｉは、パルス幅変調信号であっても良い。
【００２３】
従って、第１積和演算回路１１ｐは、次の式（１）の積和演算を行うことになる。式（１）において、ｗｉは、重み付け係数であり、抵抗Ｒｐｉの抵抗値（より詳しくは、抵抗値の逆数）で定まる。
【００２４】
【数１】
2020009317.tif 000003
【００２５】
抵抗Ｒｐｉの抵抗値は、切り替え可能であっても良いし、変更可能であっても良い。
【００２６】
第１積和演算回路１１ｐは、コンパレータＣＭＰｐを含む。コンパレータＣＭＰｐは、コンデンサＣｐの電圧が閾値電圧Ｖｔｈより小さい場合には、ローレベルの信号ｔｖｉｎ＋を出力する。コンパレータＣＭＰｐは、コンデンサＣｐの電圧が閾値電圧Ｖｔｈ以上の場合には、ハイレベルの信号ｔｖｉｎ＋を出力する。
【００２７】
積和演算結果が大きいほど、コンデンサＣｐの電圧が早く上昇するので、第１積和演算回路１１ｐがハイレベルの信号ｔｖｉｎ＋を出力するタイミングが早くなる。積和演算結果が小さいほど、コンデンサＣｐの電圧がゆっくり上昇するので、第１積和演算回路１１ｐがハイレベルの信号ｔｖｉｎ＋を出力するタイミングが遅くなる。
【００２８】
第２積和演算回路１１ｍは、一端が基準電位に電気的に接続されたコンデンサＣｍを含む。コンデンサＣｍは、他の蓄電素子、例えば、ＭＯＳトランジスタのゲート容量であっても良い。
【００２９】
第２積和演算回路１１ｍは、抵抗Ｒｍ０を含む。また、第２積和演算回路１１ｍは、アノードが抵抗Ｒｍ０の一端に電気的に接続され、カソードがコンデンサＣｍの他端に電気的に接続された、逆流防止のためのダイオードＤを含む。抵抗Ｒｍ０の他端には、バイアス電圧ＢＴｍが入力される。従って、バイアス電圧ＢＴｍと抵抗Ｒｍ０の抵抗値とに応じた電流が、コンデンサＣｍに供給される。
【００３０】
第２積和演算回路１１ｍは、複数の抵抗Ｒｍｉ（ｉは１からＮまでの自然数、Ｎは２以上の自然数）を含む。また、第２積和演算回路１１ｍは、アノードが抵抗Ｒｍｉの一端に夫々電気的に接続され、カソードがコンデンサＣｍの他端に電気的に接続された、逆流防止のための複数のダイオードＤを含む。抵抗Ｒｍｉの他端には、入力信号ｘｍｉが入力される。従って、入力信号ｘｍｉの電圧と抵抗Ｒｍｉの抵抗値とに応じた電流が、コンデンサＣｍに供給され、コンデンサＣｍの電圧が上昇する。
【００３１】
従って、第２積和演算回路１１ｍは、上記した式（１）の積和演算を行うことになる。
【００３２】
抵抗Ｒｍｉの抵抗値は、切り替え可能であっても良いし、変更可能であっても良い。
【００３３】
第２積和演算回路１１ｍは、コンパレータＣＭＰｍを含む。コンパレータＣＭＰｍは、コンデンサＣｍの電圧が閾値電圧Ｖｔｈより小さい場合には、ローレベルの信号ｔｖｉｎ−を出力する。コンパレータＣＭＰｍは、コンデンサＣｍの電圧が閾値電圧Ｖｔｈ以上の場合には、ハイレベルの信号ｔｖｉｎ−を出力する。
【００３４】
積和演算結果が大きいほど、コンデンサＣｍの電圧が早く上昇するので、第２積和演算回路１１ｍがハイレベルの信号ｔｖｉｎ−を出力するタイミングが早くなる。積和演算結果が小さいほど、コンデンサＣｍの電圧がゆっくり上昇するので、第２積和演算回路１１ｍがハイレベルの信号ｔｖｉｎ−を出力するタイミングが遅くなる。
【００３５】
積和演算回路１１は、信号ｔｖｉｎ＋と、信号ｔｖｉｎ−と、の間の時間差で演算結果の情報を表す。
【００３６】
［活性化関数回路の構成及び動作］
活性化関数回路１２は、積和演算回路１１の出力信号である信号ｔｖｉｎ＋及びｔｖｉｎ−に非線形関数演算を行う回路である。第１の実施形態では、非線形関数は、ＲｅＬＵ（Rectified  Linear  Unit）とする。ＲｅＬＵは、次の式（２）で表される。ＲｅＬＵは、ランプ関数とも呼ばれることがある。
【００３７】
【数２】
2020009317.tif 000004
【００３８】
図３は、ＲｅＬＵの入出力特性を示す図である。図３のグラフ１０１に示すように、入力値が０より小さい場合には、出力値は０になる。入力値が０以上である場合には、出力値は入力値と同じになる。
【００３９】
図４は、本開示の第１の実施形態に係るニューラルネットワーク装置の活性化関数回路の構成を示す図である。活性化関数回路１２は、論理回路を含む。
【００４０】
論理回路は、組み合わせ回路と、順序回路と、に大別される。組み合わせ回路は、現在の出力信号が、現在の入力信号にだけ依存し、過去の入力信号に依存しない回路である。組み合わせ回路は、論理和回路（ＯＲゲート回路）、論理積回路（ＡＮＤゲート回路）等が例示される。順序回路は、現在の出力信号が、現在の入力信号と、過去の入力信号と、に依存する回路である。順序回路は、Ｄ型フリップフロップ、ＲＳ型フリップフロップ等が例示される。
【００４１】
図４に示すように、活性化関数回路１２は、組み合わせ回路である論理和回路（ＯＲゲート回路）２１を含む。
【００４２】
論理和回路２１は、信号ｔｖｉｎ＋と、信号ｔｖｉｎ−と、に論理和演算を行い、論理和演算の結果である信号ｔｖｏｕｔ＋を出力する。
【００４３】
活性化関数回路１２は、信号ｔｖｉｎ−を、そのまま信号ｔｖｏｕｔ−として出力する。
【００４４】
図５は、本開示の第１の実施形態に係るニューラルネットワーク装置の活性化関数回路の動作タイミングを示すタイミング図である。詳しくは、図５は、信号ｔｖｉｎ＋の立ち上がりのタイミングが信号ｔｖｉｎ−の立ち上がりのタイミングより早い場合の、活性化関数回路１２の動作タイミングを示す図である。
【００４５】
信号ｔｖｉｎ＋は、タイミングｔ１でローレベルからハイレベルに立ち上がる。タイミングｔ１と、予め定められたタイミングＴと、の間の時間１０２が、第１積和演算回路１１ｐ（図２参照）の演算結果である、正の絶対値に対応する。
【００４６】
信号ｔｖｉｎ−は、タイミングｔ１よりも後のタイミングｔ２で、ローレベルからハイレベルに立ち上がる。タイミングｔ２と、予め定められたタイミングＴと、の間の時間１０３が、第２積和演算回路１１ｍ（図２参照）の演算結果である、負の絶対値に対応する。
【００４７】
そして、積和演算回路１１は、タイミングｔ１と、タイミングｔ２と、の間の時間差１０４（正の時間差）で、積和演算結果の情報を表す。
【００４８】
論理和回路２１は、タイミングｔ１において、信号ｔｖｉｎ＋がハイレベルになるので、ハイレベルの信号ｔｖｏｕｔ＋を出力する。
【００４９】
活性化関数回路１２は、タイミングｔ２において、信号ｔｖｉｎ−がハイレベルになるので、ハイレベルの信号ｔｖｏｕｔ−を出力する。
【００５０】
従って、信号ｔｖｏｕｔ＋と、信号ｔｖｏｕｔ−と、の間の時間差１０５は、信号ｔｖｉｎ＋と、信号ｔｖｉｎ−と、の間の時間差１０４と同じになる。
【００５１】
図６は、本開示の第１の実施形態に係るニューラルネットワーク装置の活性化関数回路の動作タイミングを示すタイミング図である。詳しくは、図６は、信号ｔｖｉｎ＋の立ち上がりのタイミングが信号ｔｖｉｎ−の立ち上がりのタイミングより遅い場合の、活性化関数回路１２の動作タイミングを示す図である。
【００５２】
信号ｔｖｉｎ−は、タイミングｔ１１でローレベルからハイレベルに立ち上がる。タイミングｔ１１と、予め定められたタイミングＴと、の間の時間１０７が、第２積和演算回路１１ｍの演算結果に対応する。
【００５３】
信号ｔｖｉｎ＋は、タイミングｔ１１よりも後のタイミングｔ１２で、ローレベルからハイレベルに立ち上がる。タイミングｔ１２と、予め定められたタイミングＴと、の間の時間１０６が、第１積和演算回路１１ｐの演算結果に対応する。
【００５４】
そして、積和演算回路１１は、タイミングｔ１１と、タイミングｔ１２と、の間の時間差１０８（負の時間差）で、積和演算結果の情報を表す。
【００５５】
論理和回路２１は、タイミングｔ１１において、信号ｔｖｉｎ−がハイレベルになるので、ハイレベルの信号ｔｖｏｕｔ＋を出力する。
【００５６】
活性化関数回路１２は、タイミングｔ１１において、信号ｔｖｉｎ−がハイレベルになるので、ハイレベルの信号ｔｖｏｕｔ−を出力する。
【００５７】
従って、信号ｔｖｏｕｔ＋と、信号ｔｖｏｕｔ−と、は、同じタイミングで出力される。
【００５８】
図７は、本開示の第１の実施形態に係るニューラルネットワーク装置の活性化関数回路の入力タイミングと出力タイミングとの関係を示す図である。
【００５９】
信号ｔｖｉｎ＋の立ち上がりのタイミングが信号ｔｖｉｎ−の立ち上がりのタイミングより先又は同じである場合には、信号ｔｖｏｕｔ＋の立ち上がりのタイミングは、信号ｔｖｉｎ＋の立ち上がりのタイミングよりも遅延時間αだけ後になる。ここで、遅延時間αは、活性化関数回路１２の伝搬遅延時間である。また、信号ｔｖｏｕｔ−の立ち上がりのタイミングは、信号ｔｖｉｎ−の立ち上がりのタイミングよりも遅延時間αだけ後になる。
【００６０】
信号ｔｖｉｎ＋の立ち上がりのタイミングが信号ｔｖｉｎ−の立ち上がりのタイミングより後である場合には、信号ｔｖｏｕｔ＋の立ち上がりのタイミングは、信号ｔｖｉｎ−の立ち上がりのタイミングよりも遅延時間αだけ後になる。同様に、信号ｔｖｏｕｔ−の立ち上がりのタイミングは、信号ｔｖｉｎ−の立ち上がりのタイミングよりも遅延時間αだけ後になる。
【００６１】
以上のように、活性化関数回路１２は、時間−ディジタル変換回路を必要とすることなく、活性化関数処理を行うことができる。また、活性化関数回路１２は、ディジタル−時間変換回路を必要とすることなく、後段の回路に活性化関数演算結果の信号を出力できる。このように、活性化関数回路１２は、時間−ディジタル変換回路及びディジタル−時間変換回路を不要にすることができる。従って、活性化関数回路１２は、時間−ディジタル変換回路及びディジタル−時間変換回路が消費する分の消費電力を抑制することができる。
【００６２】
また、活性化関数回路１２は、時間−ディジタル変換回路及びディジタル−時間変換回路を不要にすることができる。従って、活性化関数回路１２は、ニューラルネットワーク装置１の回路を、時間−ディジタル変換回路及びディジタル−時間変換回路の分だけ、小型化することができる。
【００６３】
また、活性化関数回路１２は、組み合わせ回路（第１の実施形態では論理和回路２１）で実現できる。従って、活性化関数回路１２は、時間−ディジタル変換の後にディジタル信号処理回路によって非線形関数処理を実現する場合と比較して、回路を小型化できると共に、消費電力を抑制できる。
【００６４】
また、活性化関数回路１２は、消費電力を抑制し、回路を小型化できる。従って、活性化関数回路１２は、ニューラルネットワーク装置１をより多層化することを可能とすることができる。
【００６５】
［最大値抽出回路の構成及び動作］
最大値抽出回路１３は、２つの活性化関数回路１２の出力信号の内の大きい方を抽出して出力する、Max  Pooling処理を行う回路である。
【００６６】
図８は、本開示の第１の実施形態に係るニューラルネットワーク装置の最大値抽出回路の構成を示す図である。
【００６７】
最大値抽出回路１３は、２つの第１回路４１−１及び４１−２と、第２回路４２と、を含む。
【００６８】
第１回路４１−１及び４１−２が、本開示の複数の第１回路の一例である。第２回路４２が、本開示の第２回路の一例である。
【００６９】
一方の第１回路４１−１は、第１入力信号である信号Ｓ２が変化する第１タイミングと、第２入力信号である信号Ｓ３が変化する第２タイミングと、の間の時間長を表す第１時間長信号である信号Ｓ４を出力する、第１時間長信号出力回路５１を含む。
【００７０】
第１時間長信号出力回路５１が、本開示の第１時間長信号出力回路の一例である。
【００７１】
また、第１回路４１−１は、イネーブル制御信号である信号Ｓ１に基づくタイミングで、信号Ｓ４を、第２時間長信号である信号Ｓ６として出力する、第２時間長信号出力回路５２を含む。
【００７２】
第２時間長信号出力回路５２が、本開示の第２時間長信号出力回路の一例である。
【００７３】
信号Ｓ２及びＳ３は、１つの活性化関数回路１２の出力信号である、信号ｔｖｏｕｔ＋及びｔｖｏｕｔ−である。
【００７４】
第１時間長信号出力回路５１は、信号Ｓ２と信号Ｓ３とに排他的論理和演算を行う組み合わせ回路である、排他的論理和回路（ＸＯＲゲート回路）である。
【００７５】
第２時間長信号出力回路５２は、信号Ｓ４に基づいてコンデンサ６２に電荷をチャージし、イネーブル制御信号である信号Ｓ１に基づいてコンデンサ６２をディスチャージする、充放電回路５３を含む。
【００７６】
充放電回路５３が、本開示の充放電回路の一例である。コンデンサ６２が、本開示の蓄電素子の一例である。
【００７７】
充放電回路５３は、リファレンス電位Ｖｒｅｆを出力する第１定電圧源６１を含む。また、充放電回路５３は、一端が第１定電圧源６１に電気的に接続され、他端がノードＮに電気的に接続されたコンデンサ６２を含む。
【００７８】
また、充放電回路５３は、高電位側の電源電位ＶＤＤに一端が電気的に接続された第１定電流源６４を含む。また、充放電回路５３は、入出力経路が第１定電流源６４の他端とノードＮとの間に接続され、制御端子に信号Ｓ４が供給される第１スイッチ６５を含む。
【００７９】
第１定電流源６４が、本開示の第１定電流源の一例である。第１スイッチ６５が、本開示の第１スイッチの一例である。
【００８０】
また、充放電回路５３は、基準電位に一端が接続された、第２定電流源６６を含む。また、充放電回路５３は、入出力経路が、ノードＮと第２定電流源６６の他端との間に接続され、制御端子に信号Ｓ１が供給される、第２スイッチ６７を含む。
【００８１】
第２定電流源６６が、本開示の第２定電流源の一例である。第２スイッチ６７が、本開示の第２スイッチの一例である。
【００８２】
また、充放電回路５３は、入出力経路がコンデンサ６２の両端に接続され、制御端子にリセット信号である信号Ｓ０が供給される第３スイッチ６３を含む。
【００８３】
第２時間長信号出力回路５２は、リファレンス電位Ｖｒｅｆを出力する第２定電圧源６８に反転入力端子が電気的に接続され、ノードＮに非反転入力端子が電気的に接続されたコンパレータ６９を含む。
【００８４】
コンパレータ６９が、本開示の比較回路の一例である。
【００８５】
コンパレータ６９は、信号Ｓ５とリファレンス電位Ｖｒｅｆとを比較し、信号Ｓ５がリファレンス電位Ｖｒｅｆ以上の期間に、ハイレベルの信号Ｓ６を出力する。
【００８６】
他方の第１回路４１−２は、第１入力信号である信号Ｓ７が変化する第１タイミングと、第２入力信号である信号Ｓ８が変化する第２タイミングと、の間の時間長を表す第１時間長信号である信号Ｓ９を出力する、第１時間長信号出力回路５１を含む。
【００８７】
また、第１回路４１−２は、信号Ｓ１に基づくタイミングで、信号Ｓ９を第２時間長信号である信号Ｓ１１として出力する、第２時間長信号出力回路５２を含む。
【００８８】
信号Ｓ７及びＳ８は、他の１つの活性化関数回路１２の出力信号である、信号ｔｖｏｕｔ＋及びｔｖｏｕｔ−である。
【００８９】
第１回路４１−２の回路構成は、第１回路４１−１の回路構成と同様であるので、説明を省略する。
【００９０】
第２回路４２は、信号Ｓ６と信号Ｓ１１とに論理和演算を行う組み合わせ回路である論理和回路（ＯＲゲート回路）７１を含む。
【００９１】
論理和回路７１が、本開示の第２論理回路の一例である。
【００９２】
また、第２回路４２は、論理和回路７１の出力信号である信号Ｓ１２の立ち上がりエッジで、ハイレベル（電源電位ＶＤＤ）を保持して信号Ｓ１３を出力する順序回路であるＤ型の第１フリップフロップ７２を含む。
【００９３】
第１フリップフロップ７２が、本開示の第１順序回路の一例である。
【００９４】
また、第２回路４２は、信号Ｓ１２を反転する組み合わせ回路である反転回路（ＮＯＴゲート回路）７３を含む。また、第２回路４２は、反転回路７３の出力信号の立ち上がりエッジで、ハイレベルを保持して信号Ｓ１４を出力する順序回路であるＤ型の第２フリップフロップ７４を含む。
【００９５】
第２フリップフロップ７４が、本開示の第２順序回路の一例である。
【００９６】
なお、第１の実施形態では、第２回路４２は、２つの第１回路４１−１及び４１−２の出力信号の内の大きい方を抽出して出力することとしたが、本開示はこれに限定されない。第２回路４２は、３つ以上の第１回路の出力信号の内の一番大きい信号を抽出して出力することとしても良い。例えば、論理和回路７１を３入力の論理和回路とし、論理和回路７１の３つの入力に、３つの第１回路を電気的に接続しても良い。
【００９７】
図９は、本開示の第１の実施形態に係るニューラルネットワーク装置の最大値抽出回路の動作タイミングを示すタイミング図である。
【００９８】
タイミング０から予め定められたタイミングＴまでの期間が、リセット期間である。タイミングｔ１１からタイミングｔ１２までの間、リセット信号である信号Ｓ０がハイレベルになる。
【００９９】
タイミングｔ１１において、信号Ｓ０がハイレベルになると、第１回路４１−１内の第３スイッチ６３がオン状態になるので、コンデンサ６２の両端が短絡される。従って、ノードＮの電位である信号Ｓ５は、リファレンス電位Ｖｒｅｆになる。
【０１００】
同様に、第１回路４１−２内の第３スイッチ６３がオン状態になるので、コンデンサ６２の両端が短絡される。従って、ノードＮの電位である信号Ｓ１０は、リファレンス電位Ｖｒｅｆになる。
【０１０１】
タイミングＴから予め定められたタイミング２Ｔまでの期間が、チャージ期間である。
【０１０２】
タイミングｔ１３において、第１回路４１−２の第１入力信号である信号Ｓ７がハイレベルになる。信号Ｓ７がハイレベルになるので、排他的論理和回路である第１時間長信号出力回路５１は、ハイレベルの信号Ｓ９を出力する。信号Ｓ９がハイレベルになるので、第１スイッチ６５は、オン状態になる。第１スイッチ６５がオン状態になるので、第１定電流源６４は、コンデンサ６２をチャージする。従って、ノードＮの電位である信号Ｓ１０は、直線状に上昇する。
【０１０３】
タイミングｔ１４において、第１回路４１−１の第１入力信号である信号Ｓ２がハイレベルになる。信号Ｓ２がハイレベルになるので、排他的論理和回路である第１時間長信号出力回路５１は、ハイレベルの信号Ｓ４を出力する。信号Ｓ４がハイレベルになるので、第１スイッチ６５は、オン状態になる。第１スイッチ６５がオン状態になるので、第１定電流源６４は、コンデンサ６２をチャージする。従って、ノードＮの電位である信号Ｓ５は、直線状に上昇する。
【０１０４】
タイミングｔ１５において、第１回路４１−１の第２入力信号である信号Ｓ３がハイレベルになる。信号Ｓ３がハイレベルになるので、排他的論理和回路である第１時間長信号出力回路５１は、ローレベルの信号Ｓ４を出力する。信号Ｓ４がローレベルになるので、第１スイッチ６５は、オフ状態になる。第１スイッチ６５がオフ状態になるので、コンデンサ６２は、チャージされない。従って、ノードＮの電位である信号Ｓ５は、上昇を停止し、一定になる。
【０１０５】
ここで、第１定電流源６４の電流値をIcharge、コンデンサ６２の静電容量値をC、タイミングｔ１４からタイミングｔ１５までの時間長をΔTchargeとすると、コンデンサ６２の電圧Vcは、次の式（３）で表される。
Vc=(Icharge/C)*ΔTcharge+Vref  ・・・（３）
【０１０６】
タイミングｔ１６において、第１回路４１−２の第２入力信号である信号Ｓ８がハイレベルになる。信号Ｓ８がハイレベルになるので、排他的論理和回路である第１時間長信号出力回路５１は、ローレベルの信号Ｓ９を出力する。信号Ｓ９がローレベルになるので、第１スイッチ６５は、オフ状態になる。第１スイッチ６５がオフ状態になるので、コンデンサ６２は、チャージされない。従って、ノードＮの電位である信号Ｓ１０は、上昇を停止し、一定になる。
【０１０７】
このとき、第１回路４１−２のコンデンサ６２の電圧Vcは、上記した式（３）で表される。
【０１０８】
タイミング２Ｔから予め定められたタイミング３Ｔまでの期間が、出力期間である。
【０１０９】
タイミング２Ｔにおいて、イネーブル制御信号である信号Ｓ１が、ハイレベルになる。
【０１１０】
第１回路４１−１では、信号Ｓ１がハイレベルになるので、第２スイッチ６７は、オン状態になる。第２スイッチ６７がオン状態になるので、第２定電流源６６は、コンデンサ６２をディスチャージする。従って、ノードＮの電位である信号Ｓ５は、直線状に下降する。タイミング２Ｔにおいて、信号Ｓ５の電位は、上記した式（３）により、リファレンス電位Ｖｒｅｆよりも高い。従って、コンパレータ６９は、ハイレベルの信号Ｓ６を出力する。
【０１１１】
同様に、第１回路４１−２では、信号Ｓ１がハイレベルになるので、第２スイッチ６７は、オン状態になる。第２スイッチ６７がオン状態になるので、第２定電流源６６は、コンデンサ６２をディスチャージする。従って、ノードＮの電位である信号Ｓ１０は、直線状に下降する。タイミング２Ｔにおいて、信号Ｓ１０の電位は、上記した式（３）により、リファレンス電位Ｖｒｅｆよりも高い。従って、コンパレータ６９は、ハイレベルの信号Ｓ１１を出力する。
【０１１２】
第２回路４２では、信号Ｓ６及び信号Ｓ１１がハイレベルになるので、論理和回路７１は、ハイレベルの信号Ｓ１２を出力する。信号Ｓ１２がハイレベルになるので、第１フリップフロップ７２は、予め定められた電位（ここでは、電源電位ＶＤＤ）であるハイレベルを保持し、ハイレベルの信号Ｓ１３を出力する。
【０１１３】
タイミングｔ１７において、第１回路４１−１のノードＮの電位である信号Ｓ５は、リファレンス電位Ｖｒｅｆよりも低くなる。従って、コンパレータ６９は、ローレベルの信号Ｓ６を出力する。
【０１１４】
ここで、第２定電流源６６の電流値をIdischargeとすると、タイミング２Ｔからタイミングｔ１７までの時間長ΔTdischargeは、次の式（４）で表される。
ΔTdischarge
=(Vc-Vref)/(Idischarge/C)
=(Icharge/Idischarge)*ΔTcharge  ・・・（４）
【０１１５】
従って、時間長ΔTdischargeは、時間長ΔTchargeに正比例する。つまり、ディスチャージ時間は、チャージ時間に正比例する。
【０１１６】
Idischrage=Ichargeとすれば、充放電回路５３は、時間長ΔTdischargeを時間長ΔTchargeと同じにできる。つまり、充放電回路５３は、ディスチャージ時間をチャージ時間と同じにできる。
【０１１７】
Idischrage<Ichargeとすれば、充放電回路５３は、時間長ΔTdischargeを時間長ΔTchargeよりも長くすることができる。つまり、充放電回路５３は、ディスチャージ時間をチャージ時間よりも長くできる。これにより、充放電回路５３は、入力の時間情報に対する増幅機能も実現することができる。
【０１１８】
タイミングｔ１８において、第１回路４１−２のノードＮの電位である信号Ｓ１０は、リファレンス電位Ｖｒｅｆよりも低くなる。従って、コンパレータ６９は、ローレベルの信号Ｓ１１を出力する。
【０１１９】
このとき、タイミング２Ｔからタイミングｔ１８までの時間長ΔTdischargeは、上記した式（４）で表される。
【０１２０】
第２回路４２では、信号Ｓ６及び信号Ｓ１１がローレベルになるので、論理和回路７１は、ローレベルの信号Ｓ１２を出力する。
【０１２１】
論理和回路７１は、信号Ｓ６の立ち上がりエッジのタイミングと、信号Ｓ１１の立ち上がりエッジのタイミングと、が揃っていることから、信号Ｓ６と信号Ｓ１１との論理和により、信号Ｓ１１と同じ時間長の信号Ｓ１２を出力することができる。
【０１２２】
反転回路７３は、信号Ｓ１２がローレベルになるので、ハイレベルの信号を出力する。第２フリップフロップ７４は、予め定められた電位（ここでは、電源電位ＶＤＤ）であるハイレベルを保持し、ハイレベルの信号Ｓ１４を出力する。
【０１２３】
なお、第２回路４２は、次の層への信号が、差動信号（信号Ｓ１３と信号Ｓ１４）ではなく、パルス信号（信号Ｓ１２）で良い場合には、第１フリップフロップ２４、反転回路７３、及び、第２フリップフロップ２５を省くことができる。
【０１２４】
以上のように、最大値抽出回路１３は、１つの活性化関数回路１２の出力信号である信号Ｓ２及び信号Ｓ３と、他の１つの活性化関数回路１２の出力信号である信号Ｓ７及び信号Ｓ８と、の内の大きい方である信号Ｓ７及び信号Ｓ８を抽出する。そして、最大値抽出回路１３は、抽出した方の信号Ｓ７と信号Ｓ８との間の時間差と同じ時間差を有する信号Ｓ１３及び信号Ｓ１４を出力する。これにより、最大値抽出回路１３は、Max  Pooling処理を実現することができる。
【０１２５】
最大値抽出回路１３は、時間−ディジタル変換回路を必要とすることなく、Max  Pooling処理を行うことができる。また、最大値抽出回路１３は、ディジタル−時間変換回路を必要とすることなく、後段の回路に最大値抽出結果の信号を出力できる。このように、最大値抽出回路１３は、時間−ディジタル変換回路及びディジタル−時間変換回路を不要にすることができる。従って、最大値抽出回路１３は、時間−ディジタル変換回路及びディジタル−時間変換回路が消費する分の消費電力を抑制することができる。
【０１２６】
また、最大値抽出回路１３は、時間−ディジタル変換回路及びディジタル−時間変換回路を不要にすることができる。従って、最大値抽出回路１３は、ニューラルネットワーク装置１の回路を、時間−ディジタル変換回路及びディジタル−時間変換回路の分だけ、小型化することができる。
【０１２７】
また、最大値抽出回路１３は、消費電力を抑制し、回路を小型化できる。従って、最大値抽出回路１３は、ニューラルネットワーク装置１をより多層化することを可能とすることができる。
【０１２８】
また、最大値抽出回路１３は、Idischrage<Ichargeに調整すれば、時間長ΔTdischargeを時間長ΔTchargeよりも長くすることができる。つまり、最大値抽出回路１３は、ディスチャージ時間をチャージ時間よりも長くできる。これにより、最大値抽出回路１３は、入力の時間情報を増幅することもできる。
【０１２９】
［まとめ］
以上説明したように、最大値抽出回路１３は、１つの活性化関数回路１２の出力信号である信号Ｓ２及び信号Ｓ３と、他の１つの活性化関数回路１２の出力信号である信号Ｓ７及び信号Ｓ８と、の内の大きい方である信号Ｓ７及び信号Ｓ８を抽出する。そして、最大値抽出回路１３は、抽出した方の信号Ｓ７と信号Ｓ８との間の時間差と同じ時間差を有する信号Ｓ１３及び信号Ｓ１４を出力する。これにより、最大値抽出回路１３は、Max  Pooling処理を実現することができる。
【０１３０】
最大値抽出回路１３は、時間−ディジタル変換回路を必要とすることなく、Max  Pooling処理を行うことができる。また、最大値抽出回路１３は、ディジタル−時間変換回路を必要とすることなく、後段の回路に最大値抽出結果の信号を出力できる。このように、最大値抽出回路１３は、時間−ディジタル変換回路及びディジタル−時間変換回路を不要にすることができる。従って、最大値抽出回路１３は、時間−ディジタル変換回路及びディジタル−時間変換回路が消費する分の消費電力を抑制することができる。
【０１３１】
また、最大値抽出回路１３は、時間−ディジタル変換回路及びディジタル−時間変換回路を不要にすることができる。従って、最大値抽出回路１３は、ニューラルネットワーク装置１の回路を、時間−ディジタル変換回路及びディジタル−時間変換回路の分だけ、小型化することができる。
【０１３２】
また、最大値抽出回路１３は、消費電力を抑制し、回路を小型化できる。従って、最大値抽出回路１３は、ニューラルネットワーク装置１をより多層化することを可能とすることができる。
【０１３３】
また、最大値抽出回路１３は、Idischrage<Ichargeに調整すれば、時間長ΔTdischargeを時間長ΔTchargeよりも長くすることができる。つまり、最大値抽出回路１３は、ディスチャージ時間をチャージ時間よりも長くできる。これにより、最大値抽出回路１３は、入力の時間情報を増幅することもできる。
【０１３４】
（第２の実施形態）
図１０は、本開示の第２の実施形態の最大値抽出回路の構成を示す図である。
【０１３５】
最大値抽出回路１３Ａは、第１の実施形態の最大値抽出回路１３（図８参照）と比較して、第１回路４１−１及び４１−２に代えて、第１回路４１−１Ａ及び４１−２Ａを含む。
【０１３６】
第１回路４１−１Ａは、第１回路４１−１（図８参照）と比較して、第２時間長信号出力回路５２に代えて、第２時間長信号出力回路５２Ａを含む。
【０１３７】
第２時間長信号出力回路５２Ａは、第２時間長信号出力回路５２（図８参照）と比較して、充放電回路５３に代えて、充放電回路５３Ａを含む。
【０１３８】
充放電回路５３Ａは、充放電回路５３（図８参照）と比較して、第１定電流源６４に代えて、抵抗６４Ａを含む。また、充放電回路５３Ａは、充放電回路５３と比較して、第２定電流源６６に代えて、抵抗６６Ａを含む。
【０１３９】
第１回路４１−２Ａの回路構成は、第１回路４１−１Ａの回路構成と同様であるので、説明を省略する。
【０１４０】
第１スイッチ６５がオン状態になったとき、コンデンサ６２は、電源電位ＶＤＤから抵抗６４Ａを介してチャージされる。また、コンデンサ６２は、第２スイッチ６７がオン状態になったとき、抵抗６６Ａを介してディスチャージされる。
【０１４１】
抵抗６４Ａの抵抗値をRchargeとし、抵抗６６Ａの抵抗値をRdischargeとし、コンデンサ６２の静電容量値をCとする。抵抗６４Ａとコンデンサ６２とのＲＣ直列回路の時定数は、（Rcharge*C）である。抵抗６６Ａとコンデンサ６２とのＲＣ直列回路の時定数は、（Rdischarge*C）である。チャージ時間が、時定数が（Rcharge*C）よりも十分短く、且つ、ディスチャージ時間が、時定数（Rdischarge*C）よりも十分短ければ、下記の式（５）及び式（６）が近似式として成り立つ。
【０１４２】
Vc≒((VDD/Rcharge)/C)*ΔTcharge+Vref  ・・・（５）
ΔTdischarge
≒(Vc-Vref)/(VDD/Rdischarge/C)
=(Rdischarge/Rcharge)*ΔTcharge  ・・・（６）
【０１４３】
このように、最大値抽出回路１３Ａは、最大値抽出回路１３と同様の動作を行うことができる。
【０１４４】
また、最大値抽出回路１３Ａは、Rcharge<Rdischargeに調整すれば、時間長ΔTdischargeを時間長ΔTchargeよりも長くすることができる。つまり、最大値抽出回路１３Ａは、ディスチャージ時間をチャージ時間よりも長くできる。これにより、最大値抽出回路１３Ａは、入力の時間情報を増幅することもできる。
【０１４５】
（第３の実施形態）
図１１は、本開示の第３の実施形態の最大値抽出回路の構成を示す図である。
【０１４６】
最大値抽出回路１３Ｂは、第１の実施形態の最大値抽出回路１３（図８参照）と比較して、第１回路４１−１及び４１−２に代えて、第１回路４１−１Ｂ及び４１−２Ｂを含む。
【０１４７】
第１回路４１−１Ｂは、第１回路４１−１（図８参照）と比較して、第２時間長信号出力回路５２に代えて、第２時間長信号出力回路５２Ｂを含む。
【０１４８】
第２時間長信号出力回路５２Ｂは、第２時間長信号出力回路５２（図８参照）と比較して、充放電回路５３に代えて、充放電回路５３Ｂを含む。
【０１４９】
充放電回路５３Ｂは、充放電回路５３（図８参照）と比較して、第１定電圧源６１及び第２定電圧源６８を含んでいない。
【０１５０】
第１回路４１−１Ｂ及び第１回路４１−２Ｂの両方内の、充放電回路５３Ｂのコンデンサ６２の一端及びコンパレータ６９の反転端子には、１個の第１定電圧源６１からリファレンス電位Ｖｒｅｆが供給される。
【０１５１】
従って、最大値抽出回路１３Ｂは、最大値抽出回路１３と比較して、定電圧源の数を減らすことができる。
【０１５２】
（第４の実施形態）
図１２は、本開示の第４の実施形態の最大値抽出回路のコンパレータの構成を示す図である。
【０１５３】
先に説明した各実施形態において、コンパレータ６９のオフセットに起因する時間長の誤差が許容できる場合は、コンパレータ６９は、オフセット除去機能を有しなくても良い。しかしながら、コンパレータ６９のオフセットに起因する時間長の誤差が許容できない場合には、図１２に示すように、コンパレータ６９が、オフセット除去機能を有することが好ましい。
【０１５４】
コンパレータ６９は、第１回路９１と、第２回路９２と、第３回路９３と、を含む。
【０１５５】
差動対回路である第１回路９１は、コンデンサ１２１を含む。また、第１回路９１は、Ｎチャネル型のトランジスタ１２２、１２３及び１２５を含む。更に、第１回路９１は、Ｐチャネル型のトランジスタ１２４及び１２６を含む。
【０１５６】
トランジスタ１２２のソースは、基準電位に接続されている。トランジスタ１２２のゲートには、予め定められたバイアス電位Ｖｂｉａｓが入力される。トランジスタ１２２のドレインは、トランジスタ１２３のソース及びトランジスタ１２５のソースに電気的に接続されている。
【０１５７】
トランジスタ１２３のゲートには、入力コンデンサである、コンデンサ１２１を介して、信号Ｓ５が入力される。トランジスタ１２３のドレインは、トランジスタ１２４のドレイン及びゲートに電気的に接続されている。
【０１５８】
トランジスタ１２４のソースは、電源電位ＶＤＤに電気的に接続されている。
【０１５９】
トランジスタ１２５のゲートには、リファレンス電位Ｖｒｅｆが入力される。トランジスタ１２５のドレインは、ノードＮ１に電気的に接続されている。
【０１６０】
トランジスタ１２６のドレインは、ノードＮ１に電気的に接続されている。トランジスタ１２６のゲートは、トランジスタ１２４のゲート及びドレインに電気的に接続されている。トランジスタ１２６のソースは、電源電位ＶＤＤに電気的に接続されている。
【０１６１】
第２回路９２は、Ｎチャネル型のトランジスタ１２７と、Ｐチャネル型のトランジスタ１２９と、コンデンサ１２８と、を含む。
【０１６２】
トランジスタ１２７のソースは、基準電位に電気的に接続されている。トランジスタ１２７のゲートには、バイアス電位Ｖｂｉａｓが入力される。トランジスタ１２７のドレインは、ノードＮ２に電気的に接続されている。
【０１６３】
トランジスタ１２９のドレインは、ノードＮ２に電気的に接続されている。トランジスタ１２９のゲートは、ノードＮ１に電気的に接続されている。トランジスタ１２９のソースは、電源電位ＶＤＤに電気的に接続されている。
【０１６４】
コンデンサ１２８の一端は、ノードＮ２に電気的に接続されている。コンデンサ１２８の他端は、スイッチ１３７を介して、ノードＮ１に電気的に接続されている。スイッチ１３７の制御端子には、リセット信号である信号Ｓ０が入力される。
【０１６５】
スイッチ１３６は、トランジスタ１２３のゲートとノードＮ２との間に、電気的に接続されている。スイッチ１３６の制御端子には、リセット信号である信号Ｓ０が入力される。
【０１６６】
第３回路９３は、スイッチ１３０、１３３及び１３５と、Ｎチャネル型のトランジスタ１３１と、Ｐチャネル型のトランジスタ１３２と、反転回路（インバータ回路）１３４と、を含む。
【０１６７】
トランジスタ１３１のソースは、スイッチ１３０を介して、基準電位に電気的に接続されている。スイッチ１３０の制御端子には、イネーブル制御信号である信号Ｓ１が入力される。トランジスタ１３１のゲートは、ノードＮ２に電気的に接続されている。トランジスタ１３１のドレインは、ノードＮ３に電気的に接続されている。
【０１６８】
トランジスタ１３２のドレインは、ノードＮ３に接続されている。トランジスタ１３２のゲートは、ノードＮ２に電気的に接続されている。トランジスタ１３２のソースは、スイッチ１３３を介して、電源電位ＶＤＤに電気的に接続されている。スイッチ１３３の制御端子には、信号Ｓ１が入力される。
【０１６９】
反転回路１３４は、信号Ｓ１を反転して、スイッチ１３５の制御端子に出力する。スイッチ１３５は、ノードＮ３と基準電位との間に電気的に接続されている。
【０１７０】
第３回路９３は、ノードＮ３から、信号Ｓ６を出力する。
【０１７１】
差動対回路である第１回路９１は、信号Ｓ５の電位がリファレンス電位Ｖｒｅｆよりも小さい場合には、ノードＮ１から、ローレベルの信号を出力する。また、第１回路９１は、信号Ｓ５の電位がリファレンス電位Ｖｒｅｆ以上の場合には、ノードＮ１から、ハイレベルの信号を出力する。
【０１７２】
第２回路９２は、ノードＮ１からローレベルの信号が入力された場合には、トランジスタ１２９がオン状態になり、ハイレベルの信号をノードＮ２から出力する。また、第２回路９２は、ノードＮ１からハイレベルの信号が入力された場合には、トランジスタ１２９がオフ状態になり、ローレベルの信号をノードＮ２から出力する。
【０１７３】
第３回路９３は、イネーブル制御信号である信号Ｓ１がハイレベルであり且つノードＮ２からハイレベルの信号が入力された場合には、トランジスタ１３１がオン状態になり、ローレベルの信号Ｓ６をノードＮ３から出力する。
【０１７４】
第３回路９３は、イネーブル制御信号である信号Ｓ１がハイレベルであり且つノードＮ２からローレベルの信号が入力された場合には、トランジスタ１３２がオン状態になり、ハイレベルの信号Ｓ６をノードＮ３から出力する。
【０１７５】
なお、イネーブル制御信号である信号Ｓ１がローレベルになった場合には、トランジスタ１３１及び１３２がオフ状態になり、スイッチ１３５がオン状態になり、ノードＮ３は基準電位になる。従って、第３回路９３は、ローレベルの信号Ｓ６をノードＮ３から出力する。
【０１７６】
また、コンパレータ６９は、リセット信号である信号Ｓ０を、オフセット情報取得信号として利用する。リセット信号である信号Ｓ０がハイレベルになった場合には、ノードＮ１とノードＮ２との間が、コンデンサ１２８を介して電気的に接続されるとともに、ノードＮ２とトランジスタ１２３のゲートとの間が、電気的に接続される。
【０１７７】
これにより、コンパレータ６９は、コンパレータ６９のオフセット情報を表す電荷を、コンデンサ１２１に一度保持する。その後、コンパレータ６９は、信号Ｓ５とリファレンス電位Ｖｒｅｆとの比較動作を行うことで、オフセットフリーのコンパレータ機能を実現することができる。
【０１７８】
（第５の実施形態）
図１３は、本開示の第５の実施形態の活性化関数回路の構成を示す図である。
【０１７９】
活性化関数回路１２Ａは、第１の実施形態の活性化関数回路１２（図４参照）と比較して、論理和回路（ＯＲゲート回路）２２を更に含む。
【０１８０】
論理和回路２２は、信号ｔｖｉｎ−と、信号ｔｖｉｎ−と、に論理和演算を行い、論理和演算の結果である信号ｔｖｏｕｔ−を出力する。信号ｔｖｉｎ−と、信号ｔｖｉｎ−と、の論理和は、信号ｔｖｉｎ−と同じである。
【０１８１】
活性化関数回路１２Ａでは、信号ｔｖｏｕｔ＋の遅延時間は、論理和回路２１の遅延時間であり、信号ｔｖｏｕｔ−の遅延時間は、論理和回路２２の遅延時間である。ここで、論理和回路２１の遅延時間と論理和回路２２の遅延時間とは、同じである。
【０１８２】
従って、活性化関数回路１２Ａは、信号ｔｖｏｕｔ＋の遅延時間と、信号ｔｖｏｕｔ−の遅延時間と、の間の差を抑制することができる。
【０１８３】
なお、活性化関数回路１２Ａが、論理和回路２２に代えて、他の組み合わせ回路、例えばバッファ回路を含むこととしても良い。但し、論理和回路２１の遅延時間との間の差を抑制するという観点から、活性化関数回路１２Ａは、論理和回路２１の遅延時間と同じ遅延時間を有する論理和回路２２を含むことが好適である。
【０１８４】
（第６の実施形態）
図１４は、本開示の第６の実施形態の活性化関数回路の構成を示す図である。
【０１８５】
活性化関数回路１２Ｂは、第１の実施形態の活性化関数回路１２（図４参照）と比較して、組み合わせ回路２３と、第１フリップフロップ２４と、第２フリップフロップ２５と、を更に含む。
【０１８６】
組み合わせ回路２３は、複数のバッファ回路（遅延回路）が多段接続された第１バッファ回路群２６と、複数のバッファ回路（遅延回路）が多段接続された第２バッファ回路群２７と、排他的論理和回路２８と、を含む。
【０１８７】
第１バッファ回路群２６は、論理和回路２１の出力信号を遅延させて、排他的論理和回路２８の一方の入力端子に出力する。第２バッファ回路群２７は、信号ｔｖｉｎ−を遅延させて、排他的論理和回路２８の他方の入力端子に出力する。
【０１８８】
Ｄ型の第１フリップフロップ２４は、組み合わせ回路２３の出力信号Ｓの立ち上がりエッジ及び立ち下がりエッジで、論理和回路２１の出力信号を保持し、信号ｔｖｏｕｔ＋を出力する。
【０１８９】
Ｄ型の第２フリップフロップ２５は、組み合わせ回路２３の出力信号Ｓの立ち上がりエッジ及び立ち下がりエッジで、信号ｔｖｉｎ−を保持し、信号ｔｖｏｕｔ−を出力する。
【０１９０】
組み合わせ回路２３は、第１フリップフロップ２４及び第２フリップフロップ２５のセットアップ時間を確保するために、第１バッファ回路群２６と、第２バッファ回路群２７と、を含む。
【０１９１】
第１バッファ回路群２６が論理和回路２１の出力信号を遅延させ、第２バッファ回路群２７が信号ｔｖｉｎ−を遅延させる。従って、排他的論理和回路２８の出力信号Ｓは、論理和回路２１の出力信号及び信号ｔｖｉｎ−よりも遅いタイミングで、第１フリップフロップ２４及び第２フリップフロップ２５に入力される。
【０１９２】
これにより、第１フリップフロップ２４は、セットアップ時間が確保されるので、論理和回路２１の出力信号を確実に保持することができる。同様に、第２フリップフロップ２５は、セットアップ時間が確保されるので、信号ｔｖｉｎ−を確実に保持することができる。
【０１９３】
なお、信号ｔｖｉｎ＋が論理和回路２１を通過して第１フリップフロップ２４に入力されるのに対して、信号ｔｖｉｎ−は、論理回路を通過しないで第２フリップフロップ２５に入力される。従って、第２バッファ回路群２７のバッファ回路の個数は、第１バッファ回路群２６のバッファ回路の個数よりも、多いことが好ましい。一例として、第１バッファ回路群２６が３個のバッファ回路を含み、第２バッファ回路群２７が４個のバッファ回路を含むことが、示される。
【０１９４】
活性化関数回路１２Ｂでは、第１フリップフロップ２４が、論理和回路２１の出力信号を保持し、信号ｔｖｏｕｔ＋を出力する。また、第２フリップフロップ２５が、信号ｔｖｉｎ−を保持し、信号ｔｖｏｕｔ−を出力する。従って、第１フリップフロップ２４が論理和回路２１の出力信号を保持し且つ第２フリップフロップ２５が信号ｔｖｉｎ−を保持した後では、前段の積和演算回路１１（図２参照）は、信号ｔｖｉｎ＋及び信号ｔｖｉｎ−の出力を停止しても良い。これにより、前段の積和演算回路１１は、次の積和演算を開始することができる。
【０１９５】
これにより、活性化関数回路１２Ｂは、ニューラル演算の高速化を実現することができる。
【０１９６】
（第７の実施形態）
図１５は、本開示の第７の実施形態の活性化関数回路の構成を示す図である。
【０１９７】
活性化関数回路１２Ｃは、第６の実施形態の活性化関数回路１２Ｂ（図１４参照）と比較して、論理和回路２２（第５の実施形態の図１３参照）を更に含む。活性化関数回路１２Ｃは、第３の実施形態の活性化関数回路１２Ｂと比較して、組み合わせ回路２３に代えて、組み合わせ回路２３Ａを含む。
【０１９８】
組み合わせ回路２３Ａは、第６の実施形態の組み合わせ回路２３（図１４参照）と比較して、第２バッファ回路群２７に代えて、第２バッファ回路群２７Ａを含む。
【０１９９】
活性化関数回路１２Ｃでは、信号ｔｖｉｎ＋が論理和回路２１を通過して第１フリップフロップ２４に入力され、信号ｔｖｉｎ−が論理和回路２２を通過して第２フリップフロップ２５に入力される。
【０２００】
従って、第２バッファ回路群２７Ａのバッファ回路の個数は、第１バッファ回路群２６のバッファ回路の個数と同じであることが好ましい。一例として、第１バッファ回路群２６が３個のバッファ回路を含み、第２バッファ回路群２７Ａが３個のバッファ回路を含むことが、示される。
【０２０１】
活性化関数回路１２Ｃは、活性化関数回路１２Ｂと同様の動作をすることができる。
【０２０２】
なお、第７の実施形態では、組み合わせ回路２３Ａは、排他的論理和回路２８の入力端子側に第１バッファ回路群２６及び第２バッファ回路群２７Ａを含むこととしたが、本開示はこれに限定されない。組み合わせ回路２３Ａは、第１バッファ回路群２６及び第２バッファ回路群２７Ａに代えて、排他的論理和回路２８の出力端子側に１個のバッファ回路群を含んでも良い。このようにすれば、バッファ回路の個数を抑制できる。
【０２０３】
なお、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
【０２０４】
なお、本技術は以下のような構成も取ることができる。
（１）
第１入力信号が変化する第１タイミングと、第２入力信号が変化する第２タイミングと、の間の時間長を表す第１時間長信号を出力する、第１時間長信号出力回路と、制御信号に基づくタイミングで、前記第１時間長信号を第２時間長信号として出力する、第２時間長信号出力回路と、を各々が含む、複数の第１回路と、
前記複数の第１回路から夫々出力される複数の前記第２時間長信号の内で最も時間長が長い前記第２時間長信号を出力する、第２回路と、
を有する信号処理回路。
（２）
前記第１時間長信号出力回路は、前記第１入力信号と前記第２入力信号とに論理演算を行う、第１論理回路である、
前記（１）に記載の信号処理回路。
（３）
前記第１論理回路は、排他的論理和回路である、
前記（２）に記載の信号処理回路。
（４）
前記第２時間長信号出力回路は、
前記第１時間長信号に基づいて蓄電素子に電荷をチャージし、前記制御信号に基づいて前記蓄電素子をディスチャージする、充放電回路と、
前記蓄電素子の電位とリファレンス電位とを比較し、前記蓄電素子の電位が前記基準電位以上の期間に、前記第２時間長信号を出力する、比較回路と、
を有する前記（１）から前記（３）のいずれか１つに記載の信号処理回路。
（５）
前記充放電回路は、
一端が前記リファレンス電位に電気的に接続された前記蓄電素子である、コンデンサと、
一端が第１電源電位に電気的に接続された、第１定電流源と、
入出力経路が、前記第１定電流源の他端と前記コンデンサの他端との間に電気的に接続され、制御端子に前記第１時間長信号が供給される、第１スイッチと、
一端が前記第２電源電位に電気的に接続された、第２定電流源と、
入出力経路が、前記コンデンサの他端と前記第２定電流源の他端との間に電気的に接続され、制御端子に前記制御信号が供給される、第２スイッチと、
を有する前記（４）に記載の信号処理回路。
（６）
前記充放電回路は、
一端が前記リファレンス電位に電気的に接続された前記蓄電素子である、コンデンサと、
一端が第１電源電位に電気的に接続された、第１抵抗と、
入出力経路が、前記第１抵抗の他端と前記コンデンサの他端との間に電気的に接続され、制御端子に前記第１時間長信号が供給される、第１スイッチと、
一端が前記第２電源電位に電気的に接続された、第２抵抗と、
入出力経路が、前記コンデンサの他端と前記第２抵抗の他端との間に電気的に接続され、制御端子に前記制御信号が供給される、第２スイッチと、
を有する前記（４）に記載の信号処理回路。
（７）
前記第２回路は、前記複数の第１回路から夫々出力される複数の前記第２時間長信号に論理演算を行う、第２論理回路
を有する前記（１）から前記（６）のいずれか１つに記載の信号処理回路。
（８）
前記第２論理回路は、論理和回路である、
前記（７）に記載の信号処理回路。
（９）
前記第２回路は、前記第２論理回路の出力信号の立ち上がりエッジで、予め定められた電位を保持して出力する、第１順序回路と、前記第２論理回路の出力信号の立ち下がりエッジで、前記予め定められた電位を保持して出力する、第２順序回路と、
を更に有する前記（７）又は前記（８）に記載の信号処理回路。
（１０）
前記第１順序回路及び前記第２順序回路の各々は、フリップフロップである、
前記（９）に記載の信号処理回路。
（１１）
前記リファレンス電位は、１個の定電圧源から前記複数の第１回路に供給される、
前記（４）から前記（１０）のいずれか１つに記載の信号処理回路。
（１２）
前記比較回路は、前記第２時間長信号を出力していない期間に、オフセット情報を取得し、前記オフセット情報に基づいて、前記第２時間長信号を出力する、
前記（４）から前記（１１）のいずれか１つに記載の信号処理回路。
（１３）
複数の信号に第１群の係数を夫々乗じた後に加算する第１の積和演算を夫々行って複数の第１信号を夫々出力し、前記複数の信号に第２群の係数を夫々乗じた後に加算する第２の積和演算を夫々行って複数の第２信号を夫々出力する、複数の積和演算回路と、
前記複数の積和演算回路に夫々電気的に接続され、前記第１信号が変化する第１タイミングと、前記第２信号が変化する第２タイミングと、の間の時間長を表す第１時間長信号を出力する、第１時間長信号出力回路と、制御信号に基づくタイミングで、前記第１時間長信号を第２時間長信号として出力する、第２時間長信号出力回路と、を各々が含む、複数の第１回路と、前記複数の第１回路から夫々出力される複数の前記第２時間長信号の内で最も時間長が長い前記第２時間長信号を出力する、第２回路と、を有する信号処理回路と、
を有する信号処理装置。
（１４）
前記積和演算回路と前記信号処理回路との間に電気的に接続され、前記第１信号及び前記第２信号に非線形関数演算を行って、前記信号処理回路に出力する、第２信号処理回路
を更に有する、前記（１３）に記載の信号処理装置。
（１５）
第１入力信号が変化する第１タイミングと、第２入力信号が変化する第２タイミングと、の間の時間長を表す第１時間長信号を出力し、
制御信号に基づくタイミングで、前記第１時間長信号を第２時間長信号として出力し、
複数の前記第２時間長信号の内で最も時間長が長い前記第２時間長信号を出力する、
信号処理方法。
【符号の説明】
【０２０５】
１  ニューラルネットワーク装置
２  第１層回路
３  第１層間回路
４  第２層回路
５  第２層間回路
１１  積和演算回路
１１ｐ  第１積和演算回路
１１ｍ  第２積和演算回路
１２  活性化関数回路
１２Ａ  活性化関数回路
１２Ｂ  活性化関数回路
１２Ｃ  活性化関数回路
１３  最大値抽出回路
１３Ａ  最大値抽出回路
１３Ｂ  最大値抽出回路
２１  論理和回路
２２  論理和回路
２３  組み合わせ回路
２３Ａ  組み合わせ回路
２４  第１フリップフロップ
２５  第２フリップフロップ
２６  第１バッファ回路群
２７  第２バッファ回路群
２７Ａ  第２バッファ回路群
２８  排他的論理和回路
４１−１  第１回路
４１−１Ａ  第１回路
４１−１Ｂ  第１回路
４１−２  第１回路
４１−２Ａ  第１回路
４１−２Ｂ  第１回路
４２  第２回路
５１  第１時間長信号出力回路
５２  第２時間長信号出力回路
５２Ａ  第２時間長信号出力回路
５２Ｂ  第２時間長信号出力回路
５３  充放電回路
５３Ａ  充放電回路
５３Ｂ  充放電回路
６９  コンパレータ
９１  第１回路
９２  第２回路
９３  第３回路
【図１】
2020009317.tif 000005
【図２】
2020009317.tif 000006
【図３】
2020009317.tif 000007
【図４】
2020009317.tif 000008
【図５】
2020009317.tif 000009
【図６】
2020009317.tif 000010
【図７】
2020009317.tif 000011
【図８】
2020009317.tif 000012
【図９】
2020009317.tif 000013
【図１０】
2020009317.tif 000014
【図１１】
2020009317.tif 000015
【図１２】
2020009317.tif 000016
【図１３】
2020009317.tif 000017
【図１４】
2020009317.tif 000018
【図１５】
2020009317.tif 000019