(57)【要約】  フォトニック集積回路に基づいて光ニューラルネットワークを構築して、神経形態学的コンピューティングを実行する。光ニューラルネットワークでは、入力光信号の配列に任意の重み付け行列乗算を適用することができる１つ以上の光干渉ユニットを用いて行列乗算を実施する。可飽和吸収などの非線形光学効果を基にすることができる光非線形ユニットによって非線形活性化が実現される。これらの計算を光学的に実施することにより、光ニューラルネットワークで計算速度が高速になり、電力消費が低くなる。【選択図】図１
2019523932.tif 000002
【特許請求の範囲】
【請求項１】
人工ニューラルネットワークを実施する装置であって、
光信号の第１の配列を受信する入力導波路の配列と、
入力導波路の前記配列と光学的に通信し、光信号の前記第１の配列を光信号の第２の配列に線形変換する光干渉ユニットと、
前記光干渉ユニットと光学的に通信し、光信号の前記第２の配列を導く出力導波路の配列であって、入力導波路の前記配列中の少なくともｏｎ入力導波路は前記光干渉ユニットを介して出力導波路の前記配列中の各出力導波路と光学的に通信する、出力導波路の配列と、を備える装置。
【請求項２】
前記光干渉ユニットは、
複数の相互接続したマッハツェンダ干渉計（ＭＺＩ）を備えており、前記複数の相互接続したＭＺＩ中の各ＭＺＩは、
前記ＭＺＩの分割比を変更するように構成されている第１の位相シフタと、
前記ＭＺＩの１つの出力の位相をシフトするように構成されている第２の位相シフタと、を備える、請求項１に記載の装置。
【請求項３】
前記複数の相互接続したＭＺＩは、特異値分解（ＳＶＤ）を介して光信号の前記第１の配列の前記線形変換を実行するように構成されている、請求項２に記載の装置。
【請求項４】
前記複数の相互接続したＭＺＩは、
光信号の前記第１の配列のユニタリ変換を実行して、変換済み光信号の第１の配列を生成するＭＺＩの第１のセットと、
ＭＺＩの前記第１のセットと光学的に通信するＭＺＩの第２のセットであって、ＭＺＩの前記第２の配列中の各ＭＺＩは変換済み光信号の前記第１の配列のうちのそれぞれの変換済み光信号を受信して、第１の出力を非線形ユニットに伝送し、変換済み光信号の前記第１の配列の全強度を変更して変換済み光信号の前記第１の配列の非ユニタリ対角行列乗算を実行するように、ＭＺＩの前記第２の配列中の各ＭＺＩの第２の出力が光学的にブロックされる、ＭＺＩの第２のセットと、を備える、請求項２に記載の装置。
【請求項５】
前記光干渉ユニットは、
光信号の前記第１の配列のユニタリ変換を実行する複数の相互接続したＭＺＩと、
前記複数のＭＺＩと光学的に通信し、前記複数のＭＺＩの後の光信号の前記第１の配列の強度を変更する光減衰器または増幅器の配列と、を備える、請求項１に記載の装置。
【請求項６】
前記光干渉ユニットは、フォトニック結晶のネットワークを備える、請求項１に記載の装置。
【請求項７】
フォトニック結晶の前記ネットワーク中の少なくとも１つのフォトニック結晶上にコーティングされた位相変更材料をさらに備える、請求項６に記載の装置。
【請求項８】
前記光干渉ユニットは、リング共振器の２次元（２Ｄ）配列を備える、請求項１に記載の装置。
【請求項９】
光信号の前記第１の配列は第１の数の光信号を含み、前記光信号の前記第２の配列は第２の数の光信号を含み、前記第１の数は前記第２の数とは異なる、請求項１に記載の装置。
【請求項１０】
前記光干渉ユニットと光学的に通信し、光信号の第３の配列を生成するように光信号の前記第２の配列に非線形変換を実行する光非線形ユニットをさらに備える、請求項１に記載の装置。
【請求項１１】
前記光非線形ユニットは可飽和吸収体の配列を備え、可飽和吸収体の前記配列中の各可飽和吸収体は、光信号の前記第２の配列中の対応する光信号を吸収するように構成される、請求項１０に記載の装置。
【請求項１２】
前記光非線形ユニットは双安定光スイッチの配列を備え、双安定光の前記配列中の各双安定光スイッチは、光信号の前記第２の配列中の対応する光信号を受信する、請求項１０に記載の装置。
【請求項１３】
前記光非線形ユニットは、リング共振器の配列を備え、リング共振器の前記配列中の各リング共振器は、前記干渉ユニットから対応する第２の光信号を受信する、請求項１０に記載の装置。
【請求項１４】
前記光非線形ユニットと光学的に通信し、光信号の前記第３の配列を検出するディテクタアレイをさらに備える、請求項１０に記載の装置。
【請求項１５】
前記光干渉ユニット、前記光非線形ユニットおよび前記ディテクタアレイに動作可能に接続され、前記ディテクタアレイによって検出される光信号の前記第３の配列に少なくとも部分的に基づいて前記光干渉ユニットまたは前記光非線形ユニットの少なくとも１つの設定を調節する制御回路、をさらに備える、請求項１４に記載の装置。
【請求項１６】
前記光非線形ユニットと光学的に通信し、光信号の前記第３の配列の少なくとも一部を導いて入力導波路の前記配列に戻す、少なくとも１つの光チャンネルをさらに備える、請求項１４に記載の装置。
【請求項１７】
前記ディテクタアレイは光信号の前記第３の配列の検出に応じて電気信号の配列を生成し、前記装置は、
入力導波路の前記配列と光学的に通信する光源と、
電気信号の前記配列を前記光源に伝送するフィードバック回路であって、前記光源は電気信号の前記配列に基づいて光信号の第４の配列を発光する、フィードバック回路と、をさらに備える、請求項１４に記載の装置。
【請求項１８】
人工ニューラルネットワーク計算のための方法であって、
入力導波路の配列を用いて光信号の第１の配列を受信することと、
入力導波路の前記配列と光学的に通信し、光信号の前記第１の配列を光信号の第２の配列に線形変換する光干渉ユニットを用いて、光信号の前記第１の配列に干渉することと、
出力導波路の配列を用いて光信号の前記第２の配列を導くことであって、入力導波路の前記配列中の少なくともｏｎ入力導波路は前記光干渉ユニットを介して出力導波路の前記配列中の各出力導波路と光学的に通信する、導くことと、を含む、方法。
【請求項１９】
光信号の前記第１の配列に干渉することは、
光信号の前記第１の配列を複数の相互接続したマッハツェンダ干渉計（ＭＺＩ）に伝搬させることと、
前記複数の相互接続したＭＺＩ中の少なくとも１つのＭＺＩの分割比を変更することと、
前記少なくとも１つのＭＺＩの１つの出力の位相をシフトすることと、を含む、請求項１８に記載の方法。
【請求項２０】
光信号の前記第１の配列を前記複数の相互接続したＭＺＩに伝搬させることは、特異値分解（ＳＶＤ）を介して光信号の前記第１の配列に対する線形変換を実行することを含む、請求項１９に記載の方法。
【請求項２１】
光信号の前記第１の配列を前記複数の相互接続したＭＺＩに伝搬させることは、
ＭＺＩの第１のセットを用いて光信号の前記第１の配列のユニタリ変換を実行して、変換済み光信号の第１の配列を生成することと、
ＭＺＩの前記第１のセットと光学的に通信するＭＺＩの第２のセットを用いて変換済み光信号の前記第１の配列の全強度を変更することであって、ＭＺＩの前記第２の配列中の各ＭＺＩは、変換済み光信号の前記第１の配列のうちのそれぞれの変換済み光信号を受信して、非線形ユニットに第１の出力を伝送し、ＭＺＩの前記第２の配列中の各ＭＺＩの第２の出力は光学的にブロックされる、変更することと、を含む、請求項１９に記載の方法。
【請求項２２】
光信号の前記第１の配列に干渉することは、
複数の相互接続したＭＺＩを用いて光信号の前記第１の配列のユニタリ変換を実行することと、
前記複数のＭＺＩと光学的に通信する光減衰器の配列を用いて光信号の前記第１の配列を減衰または増幅することと、を含む、請求項１８に記載の方法。
【請求項２３】
光信号の前記第１の配列に干渉することは、光信号の前記第１の配列をフォトニック結晶のネットワークに伝搬させることを含む、請求項１８に記載の方法。
【請求項２４】
光信号の前記第１の配列の干渉を変更するように、フォトニック結晶の前記ネットワーク中の少なくとも１つのフォトニック結晶上にコーティングされている位相変更材料の位相を変更することをさらに含む、請求項２３に記載の方法。
【請求項２５】
光信号の前記第１の配列に干渉することは、光信号の第１の配列をリング共振器の２次元（２Ｄ）配列に伝搬させることを含む、請求項１８に記載の方法。
【請求項２６】
前記光干渉ユニットと光学的に通信する光非線形ユニットを用いて、光信号の第３の配列を生成するように、光信号の前記第２の配列を非線形変換することをさらに含む、請求項１８に記載の方法。
【請求項２７】
光信号の前記第２の配列を非線形変換することは、
可飽和吸収体の配列を用いて光信号の前記第２の配列中の少なくとも１つの光信号を減衰させることであって、可飽和吸収体の前記配列中の各可飽和吸収体は、光信号の前記第２の配列中のそれぞれの光信号と光学的に通信する、減衰させることを含む、請求項１８に記載の方法。
【請求項２８】
光信号の前記第２の配列を非線形変換することは、
光信号の前記第２の配列中の少なくとも１つの光信号の強度を光双安定スイッチの配列を用いて変更することであって、光双安定スイッチの前記配列中の各光双安定スイッチは、光信号の前記第２の配列中のそれぞれの光信号と光学的に通信する、変更することを含む、請求項１８に記載の方法。
【請求項２９】
光信号の前記第３の配列の少なくとも一部を導いて入力導波路の前記配列に戻すことと、
前記光干渉ユニットおよび前記光非線形ユニットを用いて光信号の前記第３の配列の少なくとも一部を変換することと、をさらに含む、請求項１８に記載の方法。
【請求項３０】
光信号の前記第３の配列に少なくとも部分的に基づいて前記光干渉ユニットまたは前記光非線形ユニットの少なくとも１つの設定を調節することをさらに含む、請求項１８に記載の方法。
【請求項３１】
光信号の第１の配列を受信する入力導波路の配列と、
入力導波路の前記配列と光学的に通信し、光信号の前記第１の配列中での干渉を介して光信号の前記第１の配列を光信号の第２の配列に線形変換する複数の相互接続したマッハツェンダ干渉計（ＭＺＩ）であって、前記複数のＭＺＩ中の各ＭＺＩは、
前記ＭＺＩの分割比を変更するように構成されている第１の位相シフタと、
前記ＭＺＩの１つの出力の位相をシフトするように構成される第２の位相シフタと、を備える、複数の相互接続したマッハツェンダ干渉計（ＭＺＩ）と、
前記複数の相互接続したＭＺＩと光学的に通信し、光信号の前記第２の配列を光信号の第３の配列に非線形変換する可飽和吸収体の配列であって、可飽和吸収体の前記配列中の各可飽和吸収体は、光信号の前記第２の配列中の対応する光信号を受信する、可飽和吸収体の配列と、
前記光非線形ユニットと光学的に通信し、光信号の前記第３の配列を検出するディテクタアレイと、を備える、光ニューラルネットワーク。
【発明の詳細な説明】
【技術分野】
【０００１】
関連出願の相互参照
本出願は、「光ニューラルネットワークの方法および設計」と題する米国特許出願第６２／３４４，６２１号（２０１６年６月２日出願）の優先権を主張する。米国特許出願第６２／３４４，６２１号の全体は参照によって本明細書に援用される。
【０００２】
政府の支援
本発明は、陸軍調査事務所（Ａｒｍｙ  Ｒｅｓｅａｒｃｈ  Ｏｆｆｉｃｅ）によって認められた契約第Ｗ９１１ＮＦ−１３−Ｄ−０００１号に基づく政府の支援によってなされた。政府は発明上の所定の権利を有する。
【背景技術】
【０００３】
フォンノイマンアーキテクチャに基づく既存のコンピュータは、これに対する生体対応物（中枢神経系）よりも、知覚、通信、学習、意思決定などの広範な問題について一般的にエネルギ消費量が多く、効果が薄い。ビッグデータ処理に関連するデータ量の増加にともない、膨大な情報を迅速かつ効率的に学習し、組み合わせて、解析することができるコンピュータを開発することが有効になっている。たとえば、音声認識ソフトウェア（たとえばアップル社のＳｉｒｉ）については、関連する計算が携帯電話器のハードウェアにとって一般的に能力を試されるものであるので、一般的にはクラウドで実行される。
【０００４】
フォンノイマンコンピューティングアーキテクチャの欠点に対処する１つの解決手段は、人工ニューラルネットワーク（ａｒｔｉｆｉｃｉａｌ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）（ＡＮＮＷ）を開発することである。ＡＮＮＷは脳内の信号処理アーキテクチャをほぼ模倣し、近年、爆発的に注目を受けている。音声認識、視覚的対象物認識、物体検出、ならびに創薬およびゲノミクスなどの他の多くの領域を飛躍的に改善することができる。従来の人工ニューラルネットワークは、通常、特定用途向け集積回路（ＡＳＩＣ）およびフィールドプログラマブルゲートアレイ（ＦＰＧＡ）などの電子アーキテクチャを用いる。しかし、これらのハードウェアアーキテクチャで達成される計算速度および電力効率は、電子クロックレートおよび抵抗損失によって依然として制限される。
【発明の概要】
【０００５】
本技術の実施形態は、概して人工ニューラルネットワークに関する。一例では、人工ニューラルネットワークを実施する装置は、光信号の第１の配列を受信する入力導波路の配列を含む。光干渉ユニットは、入力導波路の配列と光学的に通信し、光信号の第１の配列を光信号の第２の配列に線形変換する。この装置は、光干渉ユニットと光学的に通信し、光信号の第３の配列を生成するように光信号の第２の配列に非線形変換を実行する光非線形ユニットも含む。ディテクタアレイが光非線形ユニットと光学的に通信し、光信号の第３の配列を検出する。
【０００６】
別の例では、人工ニューラルネットワーク計算のための方法は、入力導波路の配列を用いて光信号の第１の配列を受信することを含む。この方法は、入力導波路の配列と光学的に通信し、光信号の第１の配列を光信号の第２の配列に線形変換する光干渉ユニットを用いて、光信号の第１の配列に干渉することも含む。この方法は、光干渉ユニットと光学的に通信する光非線形ユニットを用いて、光信号の第３の配列を生成するように、光信号の第２の配列を非線形変換することも含む。この方法は、光信号の第３の配列を検出することをさらに含む。
【０００７】
さらに別の例では、光ニューラルネットワークは、光信号の第１の配列を受信する入力導波路の配列を含む。ネットワークは、入力導波路の配列と光学的に通信し、光信号の第１の配列中での干渉を介して光信号の第１の配列を光信号の第２の配列に線形変換する複数の相互接続したマッハツェンダ干渉計（ＭＺＩ）も含む。複数のＭＺＩ中の各ＭＺＩは、ＭＺＩの分割比を変更するように構成されている第１の位相シフタと、ＭＺＩの１つの出力の位相をシフトするように構成されている第２の位相シフタとを含む。ネットワークは、複数の相互接続したＭＺＩと光学的に通信し、光信号の第２の配列を光信号の第３の配列に非線形変換する可飽和吸収体の配列も含む。可飽和吸収体の配列中の各可飽和吸収体は、光信号の第２の配列中の対応する光信号を受信する。ネットワークは、光非線形ユニットと光学的に通信し、光信号の第３の配列を検出するディテクタアレイをさらに含む。
【０００８】
前述の概念および以降でより詳細に説明されるさらなる概念のすべての組み合わせ（ただし、このような概念が相互に矛盾しない場合）が、ここで開示されている発明主題の一部であると考えられると解するべきである。特に、本開示の最後に登場する請求主題のすべての組み合わせは、ここで開示されている発明主題の一部であると考える。また、ここで明示的に用いられており、参照により援用されている任意の開示にも登場する場合がある用語は、ここで開示されている特定の概念と最も合致する意味で解釈するべきであると解するべきである。
【図面の簡単な説明】
【０００９】
当業者であれば、図面は主に図示のためのものであって、ここで説明されている発明主題の範囲を限定することを意図していないと解する。図面は必ずしも一律に拡大縮小したものではなく、場合によっては、ここで開示されている発明主題の様々な態様は、異なる特徴の理解を容易にするために、図面を誇張、すなわち拡大して示されている。図面中、同様の参照符号は、ほとんどの場合、同様の特徴（たとえば、機能的に類似かつ／または構造的に類似する要素）を指す。
【００１０】
【図１】図１は、フォトニック集積回路を基にする光ニューラルネットワークの概略図を示す。
【図２Ａ】図２Ａは、図１に示されているものとほぼ同様の光ニューラルネットワークに用いることができる光干渉ユニット２００の概略図を示す。
【図２Ｂ】図２Ｂは、図１に示されているものとほぼ同様の光ニューラルネットワークに用いることができる光干渉ユニット２００の概略図を示す。
【図３】図３は、図１に示されているものとほぼ同様の光ニューラルネットワークに用いることができる制御回路の概略図を示す。
【図４Ａ】図４Ａは、１つの入力層、複数の隠れ層および出力層を含む光ニューラルネットワークの概略図を示す。
【図４Ｂ】図４Ｂは、ＳＶＤ分解を実施する、図４Ａに示されている光ニューラルネットワーク中の隠れ層の概略図を示す。
【図４Ｃ】図４Ｃは、光線形変換のためのマッハツェンダ干渉計（ＭＺＩ）を用いる、図４Ａに示されている光ニューラルネットワーク中の隠れ層の概略図を示す。
【図４Ｄ】図４Ｄは、相互接続したＭＺＩを用いて母音認識を実施する光ニューラルネットワークの概略図を示す。
【図５】図５は、可飽和吸収を基にする非線形ユニットの光学的応答を示す。
【図６】図６Ａは、図１に示されているものとほぼ同様の光ニューラルネットワーク中の光非線形ユニットに用いることができる光双安定体を示す。  図６Ｂは、図１に示されているものとほぼ同様の光ニューラルネットワーク中の光非線形ユニットに用いることができる光双安定性を示す。
【図７】図７は、チューナブルリング共振器を含む光非線形ユニットの概略図を示す。
【図８】図８は、マッハツェンダ干渉計を含む光非線形ユニットの概略図を示す。
【図９】図９Ａは、リング共振器を含む光非線形ユニットを用いる光ニューラルネットワークを示す図である。  図９Ｂは、リング共振器を含む光非線形ユニットを用いる光ニューラルネットワークを示す図である。  図９Ｃは、リング共振器を含む光非線形ユニットを用いる光ニューラルネットワークを示す図である。  図９Ｄは、リング共振器を含む光非線形ユニットを用いる光ニューラルネットワークを示す図である。
【図１０】図１０は、リカレント光ニューラルネットワークの概略図を示す。
【図１１Ａ】図１１Ａは、相互接続したＭＺＩの複数の列を含む光ニューラルネットワークの概略図を示す。
【図１１Ｂ】図１１Ｂは、実験的に製造した５×５ユニットのオンチップ光干渉ユニットの顕微鏡画像である。
【図１２】図１２は、図１１Ａおよび図１１Ｂに示されているニューラルネットワークで訓練された単純な２次元３クラス分類問題の決定境界を示す。
【図１３】図１３Ａは、実験的に製造した２２モードオンチップ光干渉ユニットの光学顕微鏡写真を示す。  図１３Ｂは、図１３Ａに示されている光ニューラルネットワークの概略図である。  図１３Ｃは、図１３Ａに示されている光ニューラルネットワーク中のＭＺＩに用いられる１つの位相シフタの概略図である。
【図１４】図１４Ａは、様々な位相符号化誤差（σＦ）および光検出誤差（σＤ）に対する母音認識問題の正解率を示す。  図１４Ｂは、誤りなし訓練行列に対するシミュレーションおよび実験による母音認識結果を示す。  図１４Ｃは、誤りなし訓練行列に対するシミュレーションおよび実験による母音認識結果を示す。  図１４Ｄは、誤りなし訓練行列に対するシミュレーションおよび実験による母音認識結果を示す。  図１４Ｅは、誤りなし訓練行列に対するシミュレーションおよび実験による母音認識結果を示す。
【発明を実施するための形態】
【００１１】
概要
光ニューラルネットワーク（Ｏｐｔｉｃａｌ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）（ＯＮＮＷ）は、マイクロエレクトロニクスおよびハイブリッド光電実施形態における計算効率および電力消費の限界を克服する有望な手法を提供する。ＯＮＮＷ（および人工ニューラルネットワーク一般）は、通常、入力層、少なくとも１つの隠れ層および出力層を含む。各層において、情報は、線形結合（たとえば、行列乗算）に続いて、線形結合の結果に適用される非線形活性化関数を介してニューラルネットワークを伝搬する。人工ニューラルネットワークモデルの訓練では、入力層にデータを供給することができ、出力は順伝搬ステップによって計算される。その後、逆伝搬手順によってパラメータを最適化することができる。各シナプスの重み付けパラメータ（すなわち、行列成分）が逆伝搬手順によって最適化される。
【００１２】
ＯＮＮＷでは、線形変換（および特定の非線形変換）を光速で実行することができ、フォトニックネットワークでは１００ＧＨｚを超える速度で検出することができ、場合によっては電力消費が最小限に抑えられる。たとえば、一般的なレンズにより、なんら電力を消費せずにフーリエ変換を実行することができ、特定の行列演算を、電力を消費することなく光学的に実行することもできる。しかし、バルク品の光学部品（たとえば、ファイバおよびレンズ）でこのような変換を実施するのは、位相安定性が欠如しており、ネットワーク中の多数のニューロンを（たとえば、数百万のニューロンに達するオーダーで）集積化することが困難であるので、困難である。インテグレーテッドフォトニクスでは、大規模な位相安定性のある光学変換に対してスケーラブルなアーキテクチャを提供することによってこの問題を解決することができる。
【００１３】
ここで説明されている装置および方法では、フォトニック集積回路を基にするオンチップのコヒーレントな光神経形態学的コンピューティング技術を用いる。大まかに言えば、神経形態学的コンピューティング技術における計算を一連の線形変換と非線形変換とに分解して、光信号を入力することができる。この技術では、入力光信号中のｒ番目の信号に任意の重み付け行列乗算を適用することができる１つ以上の光干渉ユニットを用いて行列乗算（すなわち、線形変換）を実施する。非線形活性化は、可飽和吸収などの非線形光学効果を基にすることができる光非線形ユニットによって実現される。
【００１４】
フォトニック集積回路を基にする光ニューラルネットワークにはいくつかの利点がある。まず、フォトニクスにおいて、高速であること、バンド幅が広いこと、また、クロストークが少ないことが達成可能であることが超高速人工ニューラルネットワークプロセッサに好適である。さらに、フォトニックデバイスの電力変換効率（ｗａｌｌ−ｐｌｕｇ  ｅｆｆｉｃｉｅｎｃｙ）が高いことで、このような実現例はエネルギ使用量を低減しつつ同等の電子システム以上の性能を発揮することができる。量子光学デバイスおよびオンチップナノフォトニック回路の作製における既存の技術を用いて、実現可能なオンチップＯＮＮＷアーキテクチャを設計することが可能である。
【００１５】
図１は、フォトニック集積回路を基にする光ニューラルネットワーク１００の概略図を示す。ネットワーク１００は、画像認識用の画像信号または音声認識用の音声信号などのデジタル信号１０５ａを光信号１０５ｂの配列に符号化する電子インタフェース１１０を含む。電子インタフェース１１０では、様々な符号化方式を用いることができる。たとえば、デジタル信号１０５ａを光信号１０５ｂの偏光に符号化することができる。別の例では、デジタル信号１０５ａを光信号１０５ｂの位相（または時間遅延）に符号化することができる。さらに別の例では、デジタル信号１０５ａを光信号１０５ｂの強度に符号化することができる。さらに別の例では、デジタル信号１０５ａを光信号１０５ｂの波長に符号化することができる。
【００１６】
光信号１０５ｂの配列は入力導波路１２２の配列を介してフォトニック集積回路（ｐｈｏｔｏｎｉｃ  ｉｎｔｅｇｒａｔｅｄ  ｃｉｒｃｕｉｔ）（ＰＩＣ）１２０に導かれる。本明細書で用いられているように、用語「導波路」は、光信号を閉じ込めて導くことができる任意の構造を含むことができる。たとえば、導波路は、ファイバ、基板に作製される半導体導波路、光信号を導くように構成されるフォトニック結晶構造、または任意の他の適切な構造を含むことができる。ＰＩＣ１２０は、光信号１０５ｂの配列の線形変換を実行する光干渉ユニット１２４（行列積ユニット１２４とも称する）を含む。言い換えれば、光信号１０５ｂの配列はベクトル（たとえばＸ）として扱われ、光干渉ユニット１２４はベクトルを乗算するマトリックス（たとえばＭ）として機能する（すなわちＭＸ）。行列乗算によって光信号１０５ｃが生成され、光信号１０５ｃは出力導波路１２８の配列を介して光非線形ユニット１２６に導かれる。
【００１７】
場合によっては、光干渉ユニット１２４は各入力導波路１２２を出力導波路１２８のそれぞれすべてに接続する。言い換えれば、入力導波路１２２と出力導波路１２８とは最大限に接続される。場合によっては、光干渉ユニット１２４は、入力導波路１２２の配列中の入力導波路の部分セットを、出力導波路１２８中の出力導波路の部分セットのそれぞれすべてに接続する。たとえば、入力導波路１２２の配列中の２つの入力導波路を入力導波路１２８の配列中の２つの出力導波路と最大限に接続することができる。実際には、最大限に接続される任意の他の数の導波路も用いることができる。
【００１８】
光非線形ユニット１２６は、光信号１０５ｃに対する非線形活性化関数の役割を果たし、光信号１０５ｄを生成するように構成されている。ネットワーク１００にディテクタアレイ１３０を用いて光信号１０５ｄを検出し、検出信号１０５ｅを生成する。検出信号１０５ｅは電子インタフェース１４０によって変換されて多数の並列電子信号１０５ｆに戻される。
【００１９】
図２Ａおよび図２Ｂは、上述した光ニューラルネットワーク１００に用いることができる光干渉ユニット２００の概略図を示す。大まかに言えば、光干渉ユニット２００は、光信号の配列に対する行列乗算を実行するように機能する。図示のために、光干渉ユニット２２０ａ，２２０ｂおよび２２０ｃについての３つの例が図２Ａに示されている。実際には、線形変換を実行することができる任意の他のタイプの干渉ユニットを用いることができる。
【００２０】
一例では、光干渉ユニット２００はフォトニック結晶２２０ａを含むことができる。図２Ｂに示されているように、フォトニック結晶２２０ａは、基板２２２ａと、基板２２２ａに形成されている孔２２４ｂの２次元（２Ｄ）配列とを含む。孔２２４ａの寸法（たとえば直径およびピッチ）および基板２２２ａの材料は、フォトニック結晶２２０ａに提供される光信号の干渉を引き起こすように構成することができる。光信号干渉に対するフォトニック結晶の使用に関するさらなる知識は、「スロットフォトニック結晶導波路とともに用いるマルチモード干渉カプラ」と題する米国特許出願公開第２０１００２２６６０８号に見ることができ、その全体は参照によって本明細書に援用される。
【００２１】
場合によっては、光干渉ユニット２００は単一のフォトニック結晶２２０ａを含むことができる。その他の場合では、光干渉ユニット２００は、Ｎ個の光モードの配列を受信し、受信した光モードに対して線形変換を実行した後、Ｎ個の光モードの配列を出力することができるフォトニック結晶の配列を含むことができる。
【００２２】
図２Ｂに示されているように、フォトニック結晶２２０ａは孔２２４ａの配列を含む。また、他の構成を用いることもできる。たとえば、フォトニック結晶２２０ａは、基板２２２ａ上に配置した微小ディスクの配列を含むことができる。別の例では、フォトニック結晶２２０ａは積層薄膜を含むことができ、その場合、フォトニック結晶２２０ａは１次元（１Ｄ）フォトニック結晶になり得る。フォトニック結晶２２０ａの長さはほぼ２０μｍ以上にすることができる（たとえば、約２０μｍ、約３０μｍ、約５０μｍ、約１００μｍ、約２００μｍ、約３０μｍ、約５００μｍまたはこれらを超える寸法で、間の任意の値および部分範囲を含む）。各孔２２４ａの直径は、たとえば、ほぼ２０ｎｍ以上にすることができる（たとえば、約２０ｎｍ、約３０ｎｍ、約５０ｎｍ、約１００ｎｍ、約２００ｎｍ、約３００ｎｍまたはこれらを超える寸法で、間の任意の値および部分範囲を含む）。場合によっては、孔２２４ａの配列のピッチｄは、フォトニック結晶２２０ａを伝播する光信号の波長λをフォトニック結晶２２０ａの屈折率ｎｐで割った値、すなわちｄ＝λ／ｎｐにほぼ等しくすることができる。場合によっては、基板２２２ａはシリコンまたは任意の他の適切な材料で形成することができる。
【００２３】
フォトニック結晶２２０ａを位相変更材料でコーティングしてフォトニック結晶２２０ａの光路長を変更することができる。光路長を変更することで、フォトニック結晶２２０ａ中を伝搬する光信号の干渉を変更することができる。これにより、得られる光ニューラルネットワークの各隠れ層の重みパラメータを調節することができる。
【００２４】
別の例では、光干渉ユニット２００は相互接続されたマッハツェンダ干渉計（Ｍａｃｈ−Ｚｅｈｎｄｅｒ  Ｉｎｔｅｒｆｅｒｏｍｅｔｅｒ）（ＭＺＩ）２２０ｂの配列を含む。各ＭＺＩは、入力光信号を第１のアームと第２のアームとに分割した後、干渉のために２つのアームの光信号を組み合わせる。各ＭＺＩは、ＭＺＩの分割比を変更するように構成されている第１の位相シフタと、ＭＺＩの一方の出力の位相をシフトするように構成されている第２の位相シフタとをさらに含む。光干渉ユニット２００におけるＭＺＩの使用のさらなる詳細は図４Ａ〜図４Ｄを参照して以降で説明される。
【００２５】
さらに別の例では、光干渉ユニット２００はマルチモード干渉計（ｍｕｌｔｉｍｏｄｅ  ｉｎｔｅｒｆｅｒｏｍｅｔｅｒ）（ＭＭＩ）２２０ｃを含むことができる。ＭＭＩは、入力光信号を受信する単一モード導波路の配列と、受信した光信号が互いに干渉するマルチモード導波路とを含むことができる。マルチモード導波路は多数の導波モードを有し、各々は異なる伝搬定数を有する。モードは固有モードであるため、互いに独立して伝播する。入力光信号によってマルチモード干渉が励起されると、電磁場プロファイルを固有モードに分解することができる。通常、これらの固有モード間でエネルギの交換がない場合であっても、これらが異なる速度で伝播することで、マルチモード導波路の長手方向に変化する干渉パターンが生じる。マルチモード干渉に関するさらなる知識は、「マルチモード干渉デバイス」と題する米国特許第９０９７８５２号に見ることができ、その全体は参照によって本明細書に援用される。
【００２６】
図３は、図１に示されている光ニューラルネットワーク１００に用いることができる制御回路３００の概略図を示す。制御回路３００は、デジタルアナログコンバータ（ＤＡＣ）３２０によってアナログ制御信号に変換されるデジタル制御信号を提供するコントローラ３１０を含む。信号をフォトニック集積回路３０５に印加する前にアナログ制御信号を増幅するのに制御回路３００中でバッファ増幅器３３０を用いる。フォトニック集積回路３０５は、図１に示して上述したフォトニック集積回路１２０とほぼ同一にすることができる。
【００２７】
実際には、制御回路３００は、フォトニック集積回路３０５を含む光ニューラルネットワークを訓練するのに用いることができる。たとえば、フォトニック集積回路３０５は、相互接続したＭＺＩの配列を含むことができ、ＭＺＩの各々は、ＭＺＩの分割比を制御する位相シフタと、出力の位相を制御する別の位相シフタとを含む。その後、制御回路３００は、異なる行列変換を実施するように、各位相シフタによって与えられる位相を制御することができる。言い換えれば、制御回路３００は、フォトニック集積回路３０５中の光干渉ユニットによって実施される変換行列Ｍの要素Ｍ（ｉ，ｊ）（重みパラメータとも称する）を変更することができる。
【００２８】
訓練中、期待出力を用いたテストデータポイントのセットを光ニューラルネットワークに送信することができる。その後、実際の出力と期待出力を比較する。相違する場合、制御回路３００は、フォトニック集積回路３０５が期待される結果を出すようにするようにフォトニック集積回路３０５の位相設定を変更することができる。期待される結果を出す位相設定が決定された後、光ニューラルネットワークを用いて未知のデータポイントを処理することができる。
【００２９】
これの代わりに、重みパラメータを電子コンピュータで別に訓練することができる。その際、重みパラメータは、熱位相シフタを通じて光ニューラルネットワークにプログラムしたり（たとえば、光干渉ユニットにＭＺＩが用いられる場合）、位相変更材料を通じて光ニューラルネットワークにハードコードしたりすることができる。
【００３０】
マッハツェンダ干渉計を用いた光ニューラルネットワーク
図４Ａ〜図４Ｃは、光線形変換のためのマッハツェンダ干渉計（ＭＺＩ）を用いる光ニューラルネットワーク４００の概略図を示す。図４Ａは、光ニューラルネットワーク４００が、入力層４１０と、一連の隠れ層４２０（１），４２０（２），…，４２０（ｎ）（まとめて隠れ層４２０と称する）と、出力層４３０とを含む様子を示す。各層は複数のニューロン（図４Ａでは丸として示されている）を含む。たとえば、入力層４１０は４つのニューロン４１１，４１２，４１３、および４１４（ノードとも称する）を含む。場合によっては、図４Ａの丸で示されているような各ノードは導波路（たとえば、入力導波路１２２）を含むことができ、丸の列間の矢印は線形変換および／または非線形変換を実行するフォトニック回路（たとえば、図１の光干渉ユニット１２４および／または光非線形ユニット１２６）にすることができる。同様に、出力層４３０は、４つのニューロン４３１，４３２，４３３、および４３４を含む。実際には、任意の他の数のニューロンを各層に用いることができる。図４Ａに見ることができるように、入力層４１０中の各ニューロンは、第１の隠れ層４２０（１）中の４つのニューロンのすべてに接続されている。同様に、第１の隠れ層４２０（１）中の各ニューロンは、第２の隠れ層４２０（２）中の４つのニューロンのすべてに接続され、以下同様である。
【００３１】
光ニューラルネットワーク４００では、各層（たとえば、４２０）で情報は線形結合（たとえば行列乗算）によって伝搬され、続いて非線形活性化関数が適用される。このネットワーク４００では、光信号のベクトルを以下のように表わすことができる。
【００３２】
【数１】
2019523932.tif 000003
ここで、Ｅｊは導波路ｊでの電場（図４Ｂではパルスとして示されている）である。行列−ベクトル積Ｚｉ＝Ｗｉ−１Ｘは光干渉ユニットによって実行され、活性化関数ｆ（Ｚ（ｉ））は光非線形ユニットを用いて実施される。ネットワーク４００のユニットセル、光干渉ユニットおよび非線形ユニットをタイル配置してディープラーニングネットワークを実施することができる。
【００３３】
ネットワーク４００において、行列ベクトル積および非線形活性化は、Ｌｎ／ｃ秒毎に評価することができる。ここで、Ｌはネットワーク４００の物理的長さ、ｎは屈折率、ｃは光速である。たとえば、ネットワーク４００の長さＬを約１ｃｍ、屈折率を約３にすることができ、これにより、約１００ｐｓの評価時間が得られる（順伝播時間とも称する）。この順伝播時間中に、総数Ｄ個の入力ベクトルがネットワーク４００を伝播することで、Ｄｃ／ｎＬの全バンド幅を得ることができる。したがって、クロックレートでの計算結果は数十ギガヘルツを容易に超え得る。このクロックレートは、光信号を電気信号に変換することが可能なレートからしか制限を受けないと考えられる（たとえば、現在の技術では約１００ＧＨｚ）。
【００３４】
超高速順伝播に加えて、行列ベクトル積の評価に関連する計算時間は行列の大きさ（ｍａｔｒｉｘ  ｄｉｍｅｎｓｉｏｎ）Ｎに比例する。行列の大きさをＮからＮ＋１に増加させることは、ネットワーク４００に１つの導波路を加えることに対応する。このシステムの１秒あたりの演算数（ｎｕｍｂｅｒ  ｏｆ  ｏｐｅｒａｔｉｏｎｓ）はＲ＝２ｍ・Ｎ２・１０１１演算／秒として与えられる。ここで、ｍはニューラルネットワーク４００中の層の数である。
【００３５】
図４Ｂは、各隠れ層４２０が光干渉ユニット４２５および光非線形ユニット４２７を含んで、入力光信号に対して任意の線形変換を達成するように特異値分解（ｓｉｎｇｕｌａｒ  ｖａｌｕｅ  ｄｅｃｏｍｐｏｓｉｔｉｏｎ）（ＳＶＤ）法を実施する様子を示す。ＳＶＤ法では、一般的な実数行列（Ｍ）をＭ＝ＵＳＶ＊のように分解することができる。ここで、Ｕはｍ×ｍユニタリ行列であり、Ｓは、対角上に負でない実数を有するｍ×ｎ対角行列、Ｖ＊は、ｎ×ｎユニタリ行列Ｖの複素共役である。図４Ｂの光干渉ユニット４２５は、行列Ｖを用いて行列乗算を実施する第１のＭＺＩ配列４２１と、行列Ｓを用いて行列乗算を実施する減衰器４２２（または増幅器）の配列と、行列Ｕを用いて行列乗算を実施する第２のＭＺＩ配列４２３とを含む。このようにして、光干渉ユニット４２５は、行列Ｍを用いて入力信号に行列乗法を適用することができる。ここで、Ｍ＝ＵＳＶ＊である。
【００３６】
このようにして実施される行列乗算は、原理的には電力を消費しない。これにより、ニューラルネットワーク４００のエネルギ効率は高くなる。
【００３７】
行列Ｓの対角成分λｉは行列Ｍの特異値として一般的に知られている。一般的な慣習では降順に特異値を並べる。この場合、対角行列ＳはＭによって一意的に決まる。対角行列Ｓは１セットの光増幅器を用いて得ることができる。光増幅器は、光信号を電気信号に変換することなく、光信号を直接増幅するデバイスである。光増幅器は、光キャビティを有したり有さなかったりするレーザ（たとえば、進行波増幅器やシングルパス増幅器）、またはキャビティからのフィードバックが抑制されるものを含むことができる。光ニューラルネットワーク４００では、各光増幅器を出力ノードに適用し、信号を定数係数λｉの分だけ増幅または減衰させる。
【００３８】
光非線形ユニット４２６は可飽和吸収体４２７の配列を含むことができる。これの代わりに、光非線形ユニット４２６は双安定材料の配列を含むことができる。一般的には、入力強度Ｉｉｎに対して、光非線形ユニット４２６からの光出力強度は非線形関数Ｉｏｕｔ＝ｆ（Ｉｉｎ）によって与えられる。
【００３９】
図４Ｃは、光干渉ユニット４２５および光非線形ユニット４２６の概略図を示す。光干渉ユニット４２５は相互接続したＭＺＩ４２８を含む。各ＭＺＩ４２８は、２つの入力導波路４４２ａおよび４４２ｂと、２つのアーム４４４ａおよび４４４ｂと、２つの出力導波路４４６ａおよび４４６ｂとを含む。各ＭＺＩ４２８はさらに、一方のアーム４４４ａに配置されている位相シフタ４４５ａと、一方の出力導波路４４６ａに配置されている別の位相シフタ４４５ｂも含む。
【００４０】
導波路に電場を印加する電極の導波路を加熱するヒータで各位相シフタを実施することができる。位相シフタ４４５ａは位相θを付加し、２つの出力導波路４４６ａおよび４４６ｂによって提供される信号間の分割比を制御することができる。位相シフタ４４５ｂは位相φを付加し、２つの出力導波路４４６ａおよび４４６ｂによって提供される信号間の位相遅延を制御することができる。この構成の場合、各ＭＺＩは、２つの入力導波路４４２ａおよび４４２ｂが受信した光信号に対してユニタリ変換を実行することができ、ユニタリ変換は以下のように記述することができる。
【００４１】
【数２】
2019523932.tif 000004
【００４２】
図４Ｄは、光干渉ユニット４２５および非線形ユニット４２６を示す光ニューラルネットワーク４００を示す。各光干渉ユニット４２５は相互接続したＭＺＩを含み、各非線形ユニット４２６は、可飽和吸収体または双安定材料を含む導波路の配列を含む。１つの光干渉ユニット４２５と１つの非線形ユニット４２６とが、光信号を伝搬する１つの層４２０を形成する。実際には、一連の層４２０が、たとえば、スピーカからの音声信号を受信した後、受信した音声信号を処理して音声信号の内容を認識（すなわち音声認識）することができるフォトニック集積回路を形成する。
【００４３】
光非線形ユニット
ここで説明されている神経形態学的技術に光非線形ユニット（たとえば、図１の１２６または図４Ａ〜図４Ｄの４２６）を用いて非線形活性化関数を適用する。特に、光非線形ユニットは入力パワーＩｉｎを使用し尽くして、Ｉｏｕｔ＝ｆ（Ｉｉｎ）のような非線形関数を通じて出力パワーにすることができる。
【００４４】
一例では、光非線形性については可飽和吸収を基にすることができる。いかなる特定の理論や動作モードにも束縛されることなく、可飽和吸収体の非線形関数は以下のように記述することができる。
【００４５】
【数３】
2019523932.tif 000005
ここで、σは吸収断面積、τＳは、吸収体を形成する材料の発光寿命、Ｔｍは可飽和吸収体の最大透過率、Ｔ０は開始透過率、Ｉ０はピーク入射強度である。図５は、可飽和吸収を基にした非線形ユニットの光学的応答を示す。このユニットに用いられる可飽和吸収体は、たとえば、色素や半導体量子ドットにすることができる。
【００４６】
図６Ａおよび図６Ｂは、光非線形ユニットに用いることができる光双安定を示す。図６Ａは、光双安定性を有するフォトニック結晶６００の概略図を示す。フォトニック結晶６００は、低屈折率誘電体基板６１０（たとえば、ＮＬ〜１．５）に埋め込まれている高屈折率誘電体ロッド６２０（たとえば、ＮＨ〜３．５）の配列を含む。一例では、ロッド６２０の配列のピッチをａで示して、ロッド６２０の配列中の各ロッドの半径はｒ＝ａ／４である。
【００４７】
図６Ｂは、図６Ａに示されているフォトニック結晶の光学的応答を示す。いかなる特定の理論や動作モードにも束縛されることなく、フォトニック結晶６００の非線形関係は以下のように記述することができる。
【００４８】
【数４】
2019523932.tif 000006
ここで、Ｉ０はフォトニック結晶６００の特性強度であり、δは、フォトニック結晶６００のジオメトリに依存するパラメータである。光双安定フォトニック結晶に関するさらなる知識は、Ｓｏｌｊａｃｉｃ  ｅｔ  ａｌ．（２００２）Ｏｐｔｉｍａｌ  ｂｉｓｔａｂｌｅ  ｓｗｉｔｃｈｉｎｇ  ｉｎ  ｎｏｎｌｉｎｅａｒ  ｐｈｏｔｏｎｉｃ  ｃｒｙｓｔａｌｓ，ＰＨＹＳＩＣＡＬ  ＲＥＶＩＥＷ  Ｅ６６，０５５６０１（Ｒ）に見ることができる。本文献の全体は参照によって本明細書に援用される。
【００４９】
図７は、チューナブルリング共振器７２０を用いる光非線形ユニット７００の概略図を示す。ユニット７００は、入力光を受信する入力導波路７１０を含む。入力導波路７１０は、リング共振器７２０にエバネセントカップリングされる。リング共振器７２０にはプローブ導波路７３０もエバネセントカップリングされ、入力光の一部をディテクタ７４０に向けて分割する。検出信号に基づいて、ディテクタ７４０は制御信号を生成してリング共振器７２０をチューニングする。たとえば、制御信号により、リング共振器７２０の光学的応答を変更するようにリング共振器７２０の共振波長を変更することができる。また、ユニット７００の透過率はニューラルネットワークにおいて非線形活性化関数を実施するように入力光のパワーに応答する。
【００５０】
図８は、マッハツェンダ干渉計を用いる光非線形ユニット８００の概略図を示す。ユニット８００は、入力光を受けて入力光を２つのアーム８２０ａおよび８２０ｂに分割する入力導波路８１０ａを含む。アーム８２０ｂに位相シフタ８３０を配置して、調節可能な位相シフト量を加える。２つのアーム８２０ａおよび８２０ｂからの光は、出力導波路８１０ｂで組み合わせる。アーム８２０ｂ中を伝搬する光の一部はディテクタ８４０に伝送され、ディテクタ８４０によって検出される。検出信号に応じて、ディテクタ８４０は制御信号を生成して、位相シフタ８３０によって加えられる位相シフト量を制御することができる。
【００５１】
図９Ａ〜図９Ｄは、リング共振器を基にした光非線形ユニット９２４を用いる光ニューラルネットワーク９００を示す。光ニューラルネットワーク９００は、入力層９１０、一連の隠れ層９２０、出力層９３０、および検出層９４０を含む。各隠れ層９２０は、光干渉ユニット９２２および光非線形ユニット９２４を含む。
【００５２】
図９Ｂは、光非線形ユニット９２４の概略図を示しており、光非線形ユニット９２４は図７に示して上述した光非線形ユニット７００とほぼ同様とすることができる。図９Ｃは、光非線形ユニット９２４中のリング共振器の波長デチューニングに対する出力パワーおよび導関数のプロットである。図９Ｄは、様々なスペクトルデチューニング位置での入力パワー（Ｐｉｎ）に対する光出力パワー（Ｐｏｕｔ）を示す。１つの光非線形ユニットを設定することによって一群の曲線を実現することができる。
【００５３】
光非線形ユニット９２４において、光キャビティに入射した光はフォトディテクタによって検出された後、光キャビティを共振させずに駆動する。この光電要素により、図９Ｄに示されているようにＲｅＬＵおよびシグモイドを含む広範囲の高速非線形活性化関数を実施することができる。ローレンツ透過関数（Ｌｏｒｅｎｔｚｉａｎ  ｔｒａｎｓｍｉｓｓｉｏｎ  ｆｕｎｃｔｉｏｎ）（図９Ｃ参照）をシフトさせるバイアス電圧を印加することによって異なる非線形関数を選択することで、入出力パワー関係を変更することができる。
【００５４】
リカレント光ニューラルネットワーク
図１０は、出力層の光信号を再循環させることができるリカレント光ニューラルネットワーク１０００の概略図を示す。光ニューラルネットワーク１０００は、隠れ層を形成する光干渉ユニット１０１０および光非線形ユニット１０２０を含む。図１０には１つの隠れ層しか示されていないが、複数の隠れた層を用いることができる。出力部では、光信号がスイッチ１０３０に伝送され、スイッチ１０３０は、受信した信号の一部を検出のために読み出しユニット１０４０に送信し、受信した信号の別の部分を別の回の線形変換のために光干渉ユニット１０１０に返送する（その後、非線形活性化のために光非線形ユニット１０２０に送信する）。光信号を光ニューラルネットワーク１０００の出力層から入力層に回し戻すことによって、同様の物理ハードウェアを用いて、重みを少数にしつつ一層大規模の変換を実施することができる。このリカレント構成は、ディープニューラルネットワーク、すなわち多数の隠れた層を有するニューラルネットワークを効率的に構築するのに用いることができる。
【００５５】
一例では、出力層の光信号は別の回の変換のために入力層に直接返送される。別の例では、出力層の光信号は電気信号に変換された後、光源（図示せず）に送信される。電気信号は、出力層の光信号とほぼ同様の光信号を提供するように光源を制御する制御信号として用いることができる。換言すれば、光源は出力光信号を再生する。この構成により、入力層に光伝送して戻す間の損失またはディストーションを低減することができる。
【００５６】
フォトニック集積回路を用いる光ニューラルネットワークの特性評価
図１１Ａは、相互接続したＭＺＩの複数の列１１１０（０），１１１０（１），…および１１１０（Ｌ）を含む光ニューラルネットワーク１１００の概略図を示す。各列１１１０中のＭＺＩ１１２０は、各ＭＺＩ１１２０が２つの損失バランスとり用位相シフタ１１２５も含む点を除いて、図４Ｃに示されているＭＺＩとほぼ同様である。一方の損失バランスとり用位相シフタはＭＺＩ１１２０のアームに配置され、他方の損失バランスとり用位相シフタはＭＺＩ１１２０の出力導波路に配置される。図１１Ｂは、実験的に製造した５×５ユニットのオンチップ光干渉ユニットの顕微鏡画像である。
【００５７】
図１２は、図１１Ａおよび図１１Ｂに示されているニューラルネットワークで訓練された単純な２次元３クラス分類問題の決定境界を示す。データの３つのカテゴリが図１２に示されている。訓練では、バッチ順伝搬および逆伝播を用いてパラメータを最適化した。図１２は、２つの入力ユニット、３つの出力ユニット、および１つの隠れ層についての分類結果を示し、８％未満の誤り率を示している。訓練の別の回では、７８６個の入力ユニット、６つの出力ユニット、１つの隠れ層を用いた。同様にして、１０％未満の誤り率が達成された。
【００５８】
図１３Ａは、実験的に製造した２２モードオンチップ光干渉ユニットの光学顕微鏡写真を示す。光ニューラルネットワークプログラムの物理的領域が灰色で強調されている。このシステムは光フィールドプログラマブルゲートアレイとして機能し、光学実験のためのテストベッドになり得る。図１３Ｂは、図１３Ａに示されている光干渉ユニットを含む光ニューラルネットワーク１３００の概略図である。光ニューラルネットワーク１３００により、完全に光学的に行列乗算と増幅との両方が実現される。図１３Ｃは、マッハツェンダ干渉計（ＭＺＩ）中の１つの位相シフタの概略図、およびＭＺＩの内部位相シフタの調整のための透過率曲線である。
【００５９】
光ニューラルネットワーク１３００は、入力モードを受け、入力モードをＳＵ（４）コア１３１０に伝送する入力導波路１３０５の配列を含む。ＳＵ（４）コア１３１０は相互接続したＭＺＩの配列を含む。ＳＵ（４）コア１３１０には非ユニタリ対角行列乗算コア（ｄｉａｇｏｎａｌ  ｍａｔｒｉｘ  ｍｕｌｔｉｐｌｉｃａｔｉｏｎ  ｃｏｒｅ）（ＤＭＭＣ）１３２０が接続されている。ＤＭＭＣ１３２０はＭＺＩの縦の配列を含む。各ＭＺＩの一方の入力導波路はＳＵ（４）コア１３１０に接続されている。各ＭＺＩの一方の出力導波路は、たとえば光非線形ユニットに接続され、他方の出力導波路はブロックされる。これの代わりに、出力導波路によって提供される信号の一部を検出するディテクタ１３３０に出力導波路を接続することができる。このようにして、ＤＭＭＣ１３２０は、ニューラルネットワーク１３００が受信した光信号の全強度（またはパワー）を変更することができる。
【００６０】
ＳＵ（４）１３１０コアでは、ユニタリ行列を位相シフタおよびビームスプリッタのセットに分解するギブンス回転アルゴリズムによって演算子ＵおよびＶを実施する一方で、ＤＭＭＣ１３２０では、ベースライン振幅を基準にして、光モードに光を加えたり、光モードから光を除いたりするようにＤＭＭＣ干渉計の分割比を制御することによって演算子Ｓを実施する。このようにして、ＳＵ（４）１３１０とＤＭＭＣ１３２０との組み合わせによってＳＶＤ分解を行なうことができる。
【００６１】
ニューラルネットワーク１３００で母音認識を行なった。訓練およびテストデータセットを用意するのに、３６０個のデータポイントを用いた。各データポイントは、１つの音素の４つの対数面積比係数を含む。対数面積比係数、すなわち特徴ベクトルは、対数的に離間した異なる周波数バンドに含まれるパワーを表わし、ハミング窓関数をかけあわせた音声信号のフーリエ変換を計算することによって導出される。３６０個のデータポイントは、９０人の異なる者が４つの異なる母音音素を発音することによって生成した。これらのデータポイントの半分は訓練に用い、残りの半分は訓練済みの光ニューラルネットワーク１３００の特性をテストするのに用いた。行列パラメータは、従来のコンピュータで確率的勾配降下法を用いて標準的な逆伝播アルゴリズムで訓練した。
【００６２】
コヒーレント光ニューラルネットワーク１３００は、図１３Ａに示されているように、５６個のマッハツェンダ干渉計（ＭＺＩ）および２１３個の位相シフト要素の配列を含むプログラム可能なナノフォトニックプロセッサで実現される。各干渉計は、出力モードの分割比を制御する内部熱光位相シフタを挟む２つのエバネセントモード導波路カプラ含み、これに、出力モードの相対位相を制御する第２のモジュレータが後続する。これらの２つの位相シフタによって与えられる位相を制御することにより、これらのＭＺＩによってＳＵ（２）リー群におけるすべての回転が行なわれ、制御を施した入射位相がＭＺＩの２つの電磁入力モードに与えられる。ナノフォトニックプロセッサは、たとえば、ＯＰＳＩＳファウンドリを用いてシリコンオンインシュレータフォトニクスプラットフォーム中に作製することができる。
【００６３】
実験で用いた７２０個の光干渉ユニットおよびＤＭＭＣコアの測定忠実度（ｍｅａｓｕｒｅｄ  ｆｉｄｅｌｉｔｙ）は９９．８±０．００３％であった。このアナログコンピュータでは、忠実度は、（１）チャンネルあたり１６ビット電圧分解能の特製の２４０チャンネル電圧源を用いて光位相を設定可能にするのに有限の精度を用いたこと、（２）光検出ノイズおよび（３）位相設定の分解能のビット数を顕著に減少させる位相シフタ間の熱クロストーク、などの実際上の理想に反する事項によって制限された。デジタル浮動小数点計算の場合と同様に、値は特定のビット数の精度で表わされ、有限のダイナミックレンジと光強度のノイズとにより顕著な打切り誤差が生じる。
【００６４】
この例では、非線形変換Ｉｏｕｔ＝ｆ（Ｉｉｎ）は、フォトディテクタアレイ上の光モード出力強度を測定し、信号Ｉｏｕｔを次のステージに入力することによって電子領域で実施した。この例では、ｆにより、回路の各光干渉ステージの後で導波路に直接組み込まれる実体的な可飽和吸収体（色素、半導体またはグラフェン可飽和吸収体または可飽和増幅器など）に関連する数学的関数をモデル化した。たとえば、入力強度Ｉ０が与えられると、上記の式（３）によるＴｍ（Ｉ０）について解くことができ、出力強度はＩｏｕｔ＝Ｉ０Ｔｍ（Ｉ０）として計算することができる。
【００６５】
ナノフォトニックプロセッサをプログラミングして、各層に４つのニューロンを有する光干渉ユニットの４つの層を含む光ニューラルネットワークアーキテクチャを実施した後、ニューラルネットワークを母音認識に用いた。ネットワークは、シミュレーションによる正解度１６５／１８０（９１．７％）と比較して、１３８／１８０個のケース（７６．７％）を正しく識別した。
【００６６】
図１４Ａは、様々な位相符号化誤差（σＦ）および光検出誤差（σＤ）に対する母音認識問題の正解率を示す。これらの２つの変数の定義は方法の記載部分に示されている。実線は、様々なレベルの正解割合についての等高線である。図１４Ｂ〜図１４Ｅは、誤りなし訓練行列に対するシミュレーションおよび実験による母音認識結果を示す。図１４Ｂでは母音Ａを発音した。図１４Ｃでは母音Ｂを発音した。図１４Ｄでは母音Ｃを発音した。図１４Ｅでは母音Ｄを発音した。
【００６７】
光ニューラルネットワーク１３００はアナログ信号領域で情報を処理するので、このアーキテクチャは計算処理上のエラーに対して脆弱である場合がある。光検出および位相符号化はここに示されている光ニューラルネットワークの主なエラー源である。ＯＮＮＷハードウェアアーキテクチャにおける位相符号化ノイズおよび光吸収ノイズの役割を理解し、その正確度についてモデルを発展させるために、位相符号化ノイズ（σＦ）および光吸収ノイズ（σＤ）の大きさを変えて訓練済みマトリックスの特性を数値シミュレーションした。σＦおよびσＤに対する正解割合の分布を図１４Ａに示す。これは、光ニューラルネットワークの実験上の特性を理解するための指針となる。
【００６８】
光検出アレイおよび電圧コントローラに高精度のアナログデジタルコンバータを実装することで、光ニューラルネットワークの性能をデジタルコンピュータの性能に近づけることができる。フォトダイオードアレイを設計するのに既知の技術を適用することで、対数増幅器または多段利得増幅器を用いるなどしてきわめて高いダイナミックレンジを達成することができる。これらの対応可能な技術的問題に対処することで、光ニューラルネットワークの正解性をさらに高めて、誤り訂正されたデジタルコンピュータに近い正解割合を達成することができる。
【００６９】
大規模なデータを高速かつ低電力で処理することは、コンピュータサイエンスの分野では中心的な問題になり得る。実際に、データセンタの電力およびプロセッサの大部分が順伝搬（テスト時間予測）を行なうのに費やされている。さらに、順伝搬速度が低いことで、高速並行画像認識を必要とする自動運転車を含む多くの分野で人工ニューラルネットワークの適用が制限されている。
【００７０】
ここで説明されている光ニューラルネットワークアーキテクチャは、最先端の電子コンピュータアーキテクチャと比較して高速でエネルギ効率の高いニューラルネットワークを可能にする高検出率の高感度光子ディテクタを利用する。ナノフォトニックプロセッサ上でパラメータを訓練してプログラムした後、順伝搬計算をパッシブシステム上で光学的に実行する。この実現例では、位相モジュレータ設定の維持にモジュレータあたり平均約１０ｍＷのレベルのわずかな電力量しか消費しない。さらに、不揮発性の位相変更材料を用いて位相を設定することができ、維持にまったく電力を用いない。この変更を用いれば、全電力消費が物理的寸法、分散部品のスペクトルバンド幅（ＴＨｚ）、および光検出速度（たとえば、約１００ＧＨｚ）によってのみ限定されるということが可能である。原理的には、このようなシステムでは、電子的なニューラルネットワーク（ＧＨｚクロックレートに制限される）よりも少なくとも２桁高速であることが可能である。
【００７１】
Ｎ個のノードを有し、Ｎ×Ｎ行列乗算のｍ個の層を実施し、典型的な１００ＧＨｚの光検出率で演算する光ニューラルネットワークでは、システムの１秒あたりの演算回数は以下になり得る。
Ｒ＝２ｍ×Ｎ２×１０１１演算／秒（５）
【００７２】
計算中のＯＮＮの電力消費は、光非線形性を発現させ、フォトディテクタで十分に高い信号対雑音比（ＳＮＲ）を実現する光パワーによって占められる場合がある。光非線形ユニットでは、保持可能な吸収を引き起こす閾値パワーｐは約１ｍＷ／ｃｍ２であると仮定することができる。たとえば、色素の閾値パワーは約０．３ｍＷ／ｃｍ２〜１ｍＷ／ｃｍ２とすることができる。グラフェンの閾値パワーは約０．５ｍＷ／ｃｍ２〜０．８ｍＷ／ｃｍ２とすることができる。
【００７３】
導波路の断面Ａは、約０．２μｍ×０．５μｍのオーダーであるので、システムを動作させるための全パワーはＰ〜Ｎ  ｍＷと見積もられる。したがって、光ニューラルネットワークの１演算あたりのエネルギは、Ｒ／Ｐ＝２ｍ×Ｎ×１０１４演算／Ｊ（すなわちＰ／Ｒ＝５／ｍＮ  ｆＪ／演算）になるように決めることができる。実施を可能にする非線形現象として可飽和吸収の代わりに光双安定性を用いる場合、ほぼ同じエネルギ特性および速度が得られる。非常に小規模なニューラルネットワークであっても、上記の電力効率は従来の電子的ＣＰＵおよびＧＰＵよりも既に少なくとも３桁高い。この場合、Ｐ／Ｒ〜１ｐｊ／演算（データ移動に費やされる電力を含まない）である。その一方で、従来の画像認識タスクは通常、数千万の訓練パラメータおよび数千のニューロンを必要とする（ｍＮ〜１０５）。これらの考察は、サイズが基本的な問題を引き起こすので、ここで説明されている光ニューラルネットワークが従来のコンピュータよりも何千万倍も効率的であることが可能であることを示唆している。実際に、ニューラルネットワークが大きくなるほど、光学機器を用いる利点が大きくなる。これは、電子機器中のＮ×Ｎマトリックスを評価するのにＯ（Ｎ２）のエネルギが用いられる一方で、光学機器では原理的には一切エネルギが使用されないからである。
【００７４】
光ニューラルネットワークにより、人工ニューラルネットワークパラメータを訓練するための新しい方法も可能になる。従来のコンピュータでは、パラメータを逆伝播および勾配降下で訓練する。しかし、パラメータの有効数が区別可能なパラメータの数をほぼ超える人工ニューラルネットワーク（リカレントニューラルネットワーク（ｒｅｃｕｒｒｅｎｔ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）（ＲＮＮ）および畳み込みニューラルネットワーク（ｃｏｎｖｏｌｕｔｉｏｎａｌ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）（ＣＮＮ）を含む）については、逆伝播を用いる訓練は非効率的であることが知られている。特に、ＲＮＮの反復性により、ＲＮＮには事実上のきわめて深い人工ニューラルネットワーク（深度＝シーケンス長）としての役割が与えられる一方で、ＣＮＮでは、特徴の抽出のために画像の異なる部分に同じ重みパラメータが繰り返し用いられる。
【００７５】
光ニューラルネットワークでは、各区別可能なパラメータの勾配を直接得る代替手法を逆伝播を用いずに実施することができる。この手法では、光ニューラルネットワークにおける順伝搬および有限差分法を用いることができる。
【００７６】
この手法では、人工ニューラルネットワークの特定の区別可能な重みパラメータΔＷｉｊの勾配は、Ｊ（Ｗｉｊ）およびＪ（Ｗｉｊ＋δｉｊ）を計算する２つの順伝搬ステップを行なった後、ΔＷｉｊ＝Ｊ（Ｗｉｊ＋δｉｊ）−Ｊ（Ｗｉｊ）／δｉｊを評価することで取得ことができる（このステップでは２回の演算しか行なわない）。従来のコンピュータでは、順伝搬（Ｊ（Ｗ）の評価）は一般的に計算コストが高いので、この方式は好ましくない。しかし、光ニューラルネットワークでは、各順伝播ステップは、一定の時間（１００ＧＨｚを超え得る光検出速度によって制限される）内に計算され、消費電力はニューロンの数に比例するにすぎない。さらに、このオンチップ訓練方式を用いれば、ユニタリ行列を容易にパラメータ化して訓練することができる。
【００７７】
説明されている光ニューラルネットワークの物理的寸法に関して、本技術では、１０００ニューロン体系を超える光ニューラルネットワークを実現することができる。たとえば、最大４０９６個の光学部品を有するフォトニック回路を製造することができる。３−Ｄフォトニックインテグレーションを用いれば、別の空間的自由度を付加することにより、大規模な光ニューラルネットワークであっても可能にすることができる。さらに、（たとえば、一度にすべてではなく）所定時間にわたって複数のパッチコードを介して入力信号（たとえば画像）を供給することによって、比較的少数の物理ニューロンで一層大規模で効果的なニューラルネットワークを実現することができる。
【００７８】
結び
【００７９】
様々な特許性を有する実施形態をここで説明し示してきたが、当業者であれば、機能を発揮し、かつ／または結果および／もしくはここで説明されている利点の１つ以上を得る様々な他の手段および／もしくは構造を容易に想到する。このような変形および／または修正の各々は、ここで説明されている特許性を有する実施形態の範囲内にあるとみなされる。より一般的には、当業者であれば、ここで説明されているすべてのパラメータ、寸法、材料および構成が例示的であることを意図しており、実際のパラメータ、寸法、材料および／または構成が、特定の用途または特許性を有する教示が用いられる用途に依存することになることを容易に理解する。当業者であれば、ここで説明されている特定の特許性を有する実施形態に対する多くの均等物を認めるし、きわめて平凡な実験を用いて確認することができる。したがって、前述の実施形態が例としてに限って示され、添付の請求項およびそれに対する均等物の範囲内で、特許性を有する実施形態を、具体的に説明され請求されている以外の仕方で実施してもよいと解する。本開示の特許性を有する実施形態は、ここで説明されている個々の特徴、システム、物品、材料、キット、および／または方法を対象とする。さらに、２つ以上のこのような特徴、システム、物品、材料、キットおよび／または方法の任意の組み合わせは、このような特徴、システム、物品、材料、キットおよび／または方法が互いに相反しない場合、本発明の範囲に含まれる。
【００８０】
また、様々な発明概念を１つ以上の方法として具体化してもよく、その一例が提供されている。方法の一部として実行される動作は、任意の適切な手法で順序付けてもよい。したがって、図示とは異なる順序で動作が行なわれる実施形態を構成してもよい。これは、いくつかの動作を同時に実行することを含んでもよい。図示の実施形態で連続する動作として示されていている場合であっても同時に実行する。
【００８１】
ここで定義されて用いられているすべての定義は、辞書定義、参照により援用された文献中の定義、および／または定義された用語の通常の意味を支配すると解するべきである。
【００８２】
本明細書および請求項に用いられている不定冠詞「ａ」および「ａｎ」は、反する記載が明確になされていない限り、「少なくとも１つ」を意味すると解するべきである。
【００８３】
本明細書および請求項に用いられている語句「および／または（ａｎｄ／ｏｒ）」は、それにしたがって等位接続された要素の「一方または両方」、すなわち、ある場合には共同的に存在し、別の場合には選言的に存在する要素を意味すると解するべきである。「および／または」とともに列挙される複数の要素を同一の仕方で解釈するべきである。すなわち、「および／または」とともに列挙される複数の要素はそれにしたがって等位接続された要素の「１つ以上」と解釈するべきである。「および／または」節によって特に特定されている要素以外の他の要素が、特に特定されているこれらの要素に関連するか否かにかかわらず、任意に存在してもよい。したがって、限定しない例として、「備える（ｃｏｍｐｒｉｓｉｎｇ）」などのオープンエンドランゲージ（ｏｐｅｎ−ｅｎｄｅｄ  ｌａｎｇｕａｇｅ）とあわせて用いられる場合、「Ａおよび／またはＢ」に言及することは、ある実施形態では、Ａのみを指し（Ｂ以外の要素を任意に含む）、別の実施形態では、Ｂのみを指し（Ａ以外の要素を任意に含む）、さらに別の実施形態では、ＡとＢとの両方を指す（他の要素を任意に含む）などの場合がある。
【００８４】
本明細書および請求項に用いられているように、「または（ｏｒ）」は、上記で定義されている「および／または（ａｎｄ／ｏｒ）」と同じ意味を有すると解するべきである。たとえば、列挙物中の項目を区切っている場合、「または」または「および／または」は包含的であると解釈するべきである。すなわち、複数の要素または要素の列挙物の少なくとも１つを含むだけでなく、これらの１つ以上と、任意に、列挙されていないさらなる項目も含むと解釈するべきである。「のうちの１つのみ（ｏｎｌｙ  ｏｎｅ  ｏｆ）」または「のうちの厳密に１つ（ｅｘａｃｔｌｙ  ｏｎｅ  ｏｆ）」または請求項で用いられている場合の「からなる（ｃｏｎｓｉｓｔｉｎｇ  ｏｆ）」などの明確にそれとは反対に記載されている用語のみが、複数の要素または要素の列挙物のうちの厳密に１つの要素を含むことを指す。概して、ここで用いられている用語「または（ｏｒ）」は、「いずれか（ｅｉｔｈｅｒ）」、「のうちの１つ（ｏｎｅ  ｏｆ）」、「のうちの１つのみ（ｏｎｌｙ  ｏｎｅ  ｏｆ）」または「のうちの厳密に１つ（ｅｘａｃｔｌｙ  ｏｎｅ  ｏｆ）」などの排他性に関する用語が後続する（ｐｒｅｃｅｄｅ）場合、排他的な択一（すなわち、「一方または他方であるが両方ではない（ｏｎｅ  ｏｒ  ｔｈｅ  ｏｔｈｅｒ  ｂｕｔ  ｎｏｔ  ｂｏｔｈ）」）を示すものとしてのみ解釈するものとする。請求項で用いられる場合の「実質的に〜からなる（ｃｏｎｓｉｓｔｉｎｇ  ｅｓｓｅｎｔｉａｌｌｙ  ｏｆ）」は、特許法の分野で用いられているその通常の意味を有するものとする。
【００８５】
本明細書および請求項で用いられているように、１つ以上の要素の列挙物に言及する場合の語句「少なくとも１つの（ａｔ  ｌｅａｓｔ  ｏｎｅ）」は、要素の列挙物のうちのいずれか１つ以上の要素から選択される少なくとも１つの要素を意味すると解するべきであるが、必ずしも、要素の列挙物中に特に列挙されているすべての要素のうちの少なくとも１つを含むわけではなく、また、要素の列挙物中の要素の任意の組み合わせを除外するわけではない。この定義により、語句「少なくとも１つの」が指す要素の列挙物中で特に特定されている要素以外の要素が、特に特定されているこれらの要素に関連するか否かにかかわらず、任意に存在することも可能になる。したがって、限定しない例として、「ＡおよびＢの少なくとも１つ（ａｔ  ｌｅａｓｔ  ｏｎｅ  ｏｆ  Ａ  ａｎｄ  Ｂ）」（または相当するものとして「ＡまたはＢの少なくとも１つ（ａｔ  ｌｅａｓｔ  ｏｎｅ  ｏｆ  Ａ  ｏｒ  Ｂ）」または相当するものとして「Ａおよび／またはＢの少なくとも１つ（ａｔ  ｌｅａｓｔ  ｏｎｅ  ｏｆ  Ａ  ａｎｄ／ｏｒ  Ｂ）」）は、ある実施形態では、Ｂが存在しない（かつＢ以外の要素を任意に含む）状態で少なくとも１つのＡ（１つ以上のＡを任意に含む）を指し、別の実施形態では、Ａが存在しない（かつＡ以外の要素を任意に含む）状態で少なくとも１つのＢ（１つ以上のＢを任意に含む）を指し、少なくとも１つのＡ（１つ以上のＡを任意に含む）と、少なくとも１つのＢ（１つ以上のＢを任意に含む）とを指す（他の要素を任意に含む）などの場合がある。
【００８６】
請求項および上記の明細書では、「備える（ｃｏｍｐｒｉｓｉｎｇ）」、「含む（ｉｎｃｌｕｄｉｎｇ）」、「担持する（ｃａｒｒｙｉｎｇ）」、「有する（ｈａｖｉｎｇ）」、「包含する（ｃｏｎｔａｉｎｉｎｇ）」、「含む（ｉｎｖｏｌｖｉｎｇ）」、「保持する（ｈｏｌｄｉｎｇ）」、「から構成される（ｃｏｍｐｏｓｅｄ  ｏｆ）」などのすべての移行句（ｔｒａｎｓｉｔｉｏｎａｌ  ｐｈｒａｓｅ）は、オープンエンドされる（ｏｐｅｎ−ｅｎｄｅｄ）、すなわち、含むが、それに限定されないことを意味すると解するべきである。移行句「からなる（ｃｏｎｓｉｓｔｉｎｇ  ｏｆ）」および「実質的に〜からなる（ｃｏｎｓｉｓｔｉｎｇ  ｅｓｓｅｎｔｉａｌｌｙ  ｏｆ）」のみが、米国特許商標庁の特許審査便覧のセクション２１１１．０３に記載されているように、それぞれクローズまたはセミクローズ移行句（ｃｌｏｓｅｄ  ｏｒ  ｓｅｍｉ−ｃｌｏｓｅｄ  ｔｒａｎｓｉｔｉｏｎａｌ  ｐｈｒａｓｅ）であるものとする。
【図１】
2019523932.tif 000007
【図２Ａ】
2019523932.tif 000008
【図２Ｂ】
2019523932.tif 000009
【図３】
2019523932.tif 000010
【図４Ａ】
2019523932.tif 000011
【図４Ｂ】
2019523932.tif 000012
【図４Ｃ】
2019523932.tif 000013
【図４Ｄ】
2019523932.tif 000014
【図５】
2019523932.tif 000015
【図６】
2019523932.tif 000016
【図７】
2019523932.tif 000017
【図８】
2019523932.tif 000018
【図９】
2019523932.tif 000019
【図１０】
2019523932.tif 000020
【図１１Ａ】
2019523932.tif 000021
【図１１Ｂ】
2019523932.tif 000022
【図１２】
2019523932.tif 000023
【図１３】
2019523932.tif 000024
【図１４】
2019523932.tif 000025
【国際調査報告】
2019523932.tif 000026
2019523932.tif 000027
2019523932.tif 000028