応用物理学会春季学術講演会 注目講演プレスリリース
2023年 3月 13日

2次元接続されたジョセフソン接合を用いたリザバー計算の画像分類応用における性能について
Performance evaluation of reservoir computing with two-dimensionally connected Josephson
junctions for image recognition

次世代の機械学習技術・リザバーコンピューティング
実応用に近い画像認識タスクで実証
東北大学大学院工学研究科1, 東北大学電気通信研究所2 電気通信大学大学院情報理工学研究科 3渡邊 紘基 1,2, 水柿 義直 3, 守谷 哲 2, 山本 英明 1,2, 佐藤 茂雄 1,2【発表概要】• 超伝導素子であるジョセフソン接合を用いたリザバーコンピューティング回路のシミュレーションにおいて、実応用に近い画像認識タスクを行った。
• 数字画像を92%の精度で分類することに成功。12.8 µWという他の物理リザバーの有力候補材料と同等かそれ以下の消費電力を実現。
• 応用として、超伝導素子の機械学習用ハードウェアから量子コンピュータまでを見越す。

現在、高速機械学習に適した計算が可能な「リザバーコンピューティング」は、シンプルな処理構造をとることができるためにデバイス化がしやすく、省電力・高速化も可能であることから、研究が加速している。東北大学大学院工学研究科の渡邊紘基氏らの研究グループは、超伝導素子であるジョセフソン接合を用いたリザバーコンピューティング回路のシミュレーションを行い、数字画像を92%の精度で分類し、12.8 µWという他の物理リザバーの有力候補材料と同等かそれ以下の消費電力を実現した。同研究の応用可能性には、超伝導素子の機械学習用ハードウェア、および、その極低温で動作する特徴から量子コンピュータまでを見越す。

【詳細】

高速、低消費電力、デバイス化もしやすい
機械学習による大規模データ解析は、現代社会において不可欠な技術である。社会の需要に伴い、機械学習に用いられる電力は年々増加傾向にあることから、低消費電力の機械学習デバイスの研究開発が模索されている。その中で注目が高まりつつあるのが、リザバーコンピューティングである。学習高速であり、省電力を実現でき、さらに処理構造がシンプルであるためにデバイス化がしやすいといった利点から、現在、多様な分野を横断して研究開発が加速している。
リザバーコンピューティングは、入力層、リザバー層（中間層）、出力層からなる処理構造を持つ（図1）。リザバー層で使われているのが、機械学習に欠かすことのできない「回帰型ニューラルネットワーク」（※1）だ。一般的な回帰型ニューラルネットワークでは、学習によってニューロン間の結合を変える（ネットワーク全体の荷重値を更新する）。したがって、物理実装には、変化する荷重値を記憶する素子を用いる必要があるなど、ハードウェアにおける実装ハードルが高く、必然的に電力消費も多くなる。一方、リザバーコンピューティングは、荷重値を変えない処理構造をとる。つまり、荷重値の調整はリザバー層と出力層の間でのみ行うということだ。こうした処理構造を持つことから、リザバーコンピューティングは、物理実装がしやすく、低消費電力であるという特徴がある。
東北大学大学院工学研究科の渡邊紘基氏らの研究グループは、リザバー層を物理デバイスに置き換える「物理リザバー」として、超伝導素子である「ジョセフソン伝送線路」（以下JTL）の研究開発を進めてきた。物理リザバーには、非線形性を持つ必要があり、メモリスタやスピン素子、神経細胞、光共振器などで実現できることが確認されている。また、超伝導素子であるJTLによるリザバーコンピューティングにも先行研究があり、その実現可能性が報告されてきた。本研究は、シミュレーションによってJTLを用いたリザバーコンピューティングによる、実応用に近いタスクである画像認識タスクの成功を報告している。先行研究からさらに一歩進んだ、現実的なコンピューティングを実現するものである。

実応用に近いリザバーコンピューティング
JTLはすでに超伝導によるデジタル計算機（SFQ回路※2）などで使われている。極低温下で動作するという点は長所にも短所にもなり得るが、半導体の計算機に比べ、低消費電力かつ高速であることが特徴だ。JTLは「ジョセフソン接合（JJ）」を鎖状に繋げた回路である。この回路に入力信号である電流パルスを入力すると、量子化された磁束「磁束量子」が回路内に閉じ込められる。さらに入力信号の変化に応じて、JJが超伝導状態から抵抗状態に切り替わり、磁束量子が回路上を伝搬する。その際、JJは閾値素子として働くため、JTLは入力信号に対して非線形な応答をが示す。

「JTLは超伝導の一次元の伝送線路です。これを二次元的に並べ、JTLリザバーを構成したことが、本研究における特徴と言えます。二次元化することで、より複雑なネットワークを構築しました。それに伴って、回路パラメータの最適化を行うことで、画像認識タスクを実現しました（図2）。その結果、数字画像を92%の精度で分類することができました。JTLを用いたリザバー
コンピューティングにおける画像認識の研究についてはまだ先行研究がありません。先行研究
は、より基本的なタスクのシミュレーションばかりです。私たちの研究の新規性は、実応用に近いタスクで、リザバーコンピューティングによるシミュレーションを行った点にあります。今後はハードウェアへの実装を進めたいと思っています」（渡邊）JTLリザバーの消費電力は、回路への入力電圧、各接合のバイアス電圧を計算すると12.8μWとなった。行うタスクによって消費電力は異なるため、一概には比較できないが、物理リザバーの有力候補であるフォトニクスでは10 mW、スピン材料では1〜100 μWであり、本研究のJTLは、物理リザバーの有力候補と同等もしくはそれ以下の低消費電力であることが示された。

量子コンピュータへの応用「リザバーコンピューティングは、リザバー層に回帰型ニューラルネットワークを用いているため、信号が入力されると、一定時間記憶されるという特徴があります。それゆえ、時系列を扱うデータの分析に向いています。本研究で用いたJTLリザバーも時系列のデータ分類に応用できるのではないでしょうか」と渡邊氏は今後の展望について述べる。
また、本研究に関わっている東北大学大学院工学研究科および東北大学電気通信研究所の佐藤茂雄教授は「低温で動作するという一見デメリットに見えるJTLリザバーの特徴を生かし、量子コンピュータに応用できるのではないか」と考える。
JTLリザバーは、超伝導素子であるため、極低温で動作する。よって、エッジコンピューティング（※3）には不向きだ。一方、量子コンピュータの多くは低温で動作する。機械学習を用いて量子ビットの状態測定の調整などを行う研究がすでに進められているが、この機械学習プロセスにJTLリザバーによるリザバーコンピューティングが使える可能性があるというのだ。
「量子コンピュータとの協調に限れば、低温で動作するという特徴がアドバンテージです。現在、デジタル計算機と機械学習の融合、量子コンピュータと機械学習の融合が模索されています。
リザバーコンピューティングに使われる回帰型ニューラルネットワークは、機械学習の一部であるため、相性も良い。また、量子コンピュータは現在、国家レベルで開発が進められていることから、リザバーコンピューティングの開発も重要なテーマとなりうるのではないでしょうか」（佐藤）今後はJTLリザバーの物理実装に向けて、具体的な課題の洗い出しとともに、さらなる研究開発を進めるという。

【注釈】※1 回帰型ニューラルネットワーク RNN / recurrent neural network ノードにおける出力が自らの入力に回帰することによって、時間的で動的振る舞いをするニューラルネットワーク。文章の生成や音声認識などのタスクに適用することができ、現代における機械学習の多くで使われている。
※2 単一磁束量子 SFQ / single

ux quantum 回路

超伝導回路内の磁束量子の有無を2値信号の「1」、「0」に対応させた論理回路。東北大の中島らにより提案され、モスクワ大のリカレフらにより体系化された。デジタル演算回路から超伝導量子ビットの読み出し回路まで幅広い用途に使われている。
※3 エッジコンピューティング

コンピュータネットワークにおけるエッジ（周縁）部分で計算処理を行うコンピューティング。狭義には、IoT端末などのデバイスそのものでの計算処理を指す。
【図】

図1

リザバーコンピューティングにおけるネットワークの構成。

fl

図2 本研究における画像認識は、手書きの数字の画像を分類する作業だ。図(a)の5 4の画像は5行に分割され、図(b)のリザバー回路のランダムなノードに4タイムフレームの入力電圧として供給される。読み出し重みは図(c)のようにリッジ回帰により計算される。結果
として、JTLリザバーは、数字画像を92%の精度で分類することができた。