応用物理学会秋季学術講演会 注目講演プレスリリース
2023年 9月 11日

32空間×100波長多重された光行列演算機
32×100 WDM-SDM De ned Photonic Vector-Matrix Multiplication

世界最大規模の光行列演算機が実現する、高効率で環境に優しい『フォトニック・アナログ・コンピューティング』
NTT先端集積デバイス研究所
中島光雅【発表概要】• 波長分割多重と空間平面光回路を組み合わせた独自のデバイスによって、32×100波長の光行列演算を実証。計算効率において100TOPSに相当する演算規模を達成• 畳み込みニューラルネットワークにおける畳み込み演算に適用し、画像認識で約96%の精度を達成

AI技術の進化は、コンピュータの計算能力の拡大・並列化と密接に関連している。NTT先端集積デバイス研究所の中島光雅氏らによる研究グループは、光を用いて行列演算を行う「フォトニック・アナログ・コンピューティング」を提唱している。「波長分割多重」と「空間平面光回路」を組み合わせた独自のデバイスによって、世界最大規模の32×100波長の光行列演算の実証に成功。計算効率において100TOPSを達成した。さらに同研究グループは通信中の計算を効率的に行うシステム「光イン・ネットワーク コンピューティング（ In-network computing）」を提案。畳み込みニューラルfiネットワークの畳み込み演算に適用し、画像認識で約96%の精度を達成した。

【詳細】

AIは計算資源を食い尽くす
ChatGPTなどの大規模AI技術の発展は、コンピュータの規模の拡大・並列化と密接に関連している。NTT先端集積デバイス研究所の中島光雅氏によれば、「AIの性能向上に対し、求められる計算規模は『べき乗（※1）』で拡大しています。したがって、AIの性能向上を目指していく限り、人類はコンピュータの規模を継続的に大きくしていくことに挑戦しなければなりません」という。
しかし電子処理に基づくコンピュータでは、求められる計算規模の拡大を維持するのは難しいだ
ろうと中島氏は予測する。たとえば、最先端のAIモデルの1回の訓練には、現在稼働している最先端のGPU1台で10⁴時間という膨大な計算時間が必要だ。これは日に換算すれば1万日に相当する。
さらに問題になるのは、計算に伴う電力だ。最先端のAIモデルの1回の訓練には、約900MWhが必要だという。これは日本のデータセンターの年間消費電力の5%に相当することから、20回のAIモデルの訓練で日本のデータセンターの年間消費電力を上回る計算だ。
これらに加え、CO2排出量も問題視されている。一回のAIモデルの訓練が排出するCO2は、1台の自動車の製造から廃棄に至るCO2排出量の約5倍に相当するとされる。AIの使用による環境への影響を低減することは、人類の急務と言えるだろう。中島氏は「光コンピューティング」、つまり電子ではなく光を情報処理に使うことにその可能性を見出している。
「光コンピューティングが得意とする行列演算は、AIにおける計算の大部分を占めます。光演算は、電子計算よりも電力消費と計算時間が劇的に少ないとされ、大幅な効率化が期待されています」（中島）
光を使ってAI向けの演算を行う光コンピューティングの研究は1980年代に始まるが、急速なデジタル電子回路技術の成長や当時のAIブームの終焉によって研究は低迷した。一方、光情報処理技術は、光ファイバー通信に代表される通信領域で進化し、大規模な集積化や光回路と電子回路の融合が可能となりつつある。このような光技術の進歩と爆発的なAI技術の普及を背景に、光コンピューティングを用いた行列演算技術に、再び大きな注目が集まっているという。
電子計算では、計算の規模を拡大（スケールアップ）し、並列化すると、単位演算あたりのエネルギー消費や計算時間が大きくなることが一般的だ。一方、光演算は計算の規模をスケールアップしても、１つの演算操作に対するエネルギー消費を減少させつつ、計算時間も微増に留めることが可能である。「つまり光コンピューティングのメリットは、計算が大規模化・並列化するほど、より顕在化します。そこで私たちは、光コンピューティングのメリットを最大限引き出す、大規模計算を実現するための『フォトニック・アナログ・コンピューティング』を提案しています」と中島氏は話す。
※1 べき乗 ある数に同じ数を次々と掛けていくこと。累乗。

100TOPSを超える光コンピューティングの実現

図1 WDM（波長分割多重）を用いた光演算デバイスの構成

大規模AIモデルや機械学習の演算においては、ベクトルと行列を拡張した概念である「テンソル」が用いられるが、最新のフォトニック・アナログ・コンピューティングを用いた先行研究では、テンソルの処理タスクをテラスケール（テラは基本単位の1兆倍〈10¹²倍〉を表す）の演算速度で実行することすら可能だという。
「私たちが取り組んでいるフォトニック・アナログ・コンピューティングの技術は、NTT先端集積デバイス研究所の光通信用デバイスの研究を元にしています。光通信用デバイスとして開発されたものを光演算に応用することで、これまでにない低エネルギー消費で大規模な並列計算を可能にしました」（中島）フォトニック・アナログ・コンピューティングの演算速度を実現するのは「WDM（波長分割多重、Wavelength Division Multiplexing）」であり、もともと大容量通信を実現するために光通信用のデバイスで培われた技術である。WDMは光の広帯域幅の特性を活用することができるため、演算に用いることで計算速度を飛躍的に向上させることができる。
WDMを用いた光演算の先行研究は存在するが、その性能は重み付け用の光フィルタのスケーラビリティの低さによって制限されていた。中島氏はWDMに「SPOC（空間平面光回路、SpatialPlanar Optical Circuits）」と呼ばれる光導波路（※2）のデバイスを組み合わせ、これらを単一光学系に集積し、世界最大規模の光演算デバイスを開発した（図1）。
「私たちのアプローチの特徴は、光導波路にWDMの空間光学を組み合わせることで、大規模な演算を実現したことです。従来の技術では波長の数を増やすことで損失が増大し、スケールアップに耐えられない問題がありましたが、私たちはその問題を解決し、世界最大規模の32×100波長の光行列演算を実証しました」（中島）
実験の結果、 単位時間当たり１兆回の演算を表す「TOPS」値で、100TOPSを超える結果を出すことに成功した。WDMを用いた光演算の先行研究は1TOPSスケールに留まることから、飛躍的なスケーラビリティの改善を実現したことになる（図2）。
※2 光導波路 光学的な特性を持つ物質でつくられた、光の伝送路。

図2 縦軸に空間の並列、横軸に計算に使う波長の数をプロットした、光演算の並列性

光演算を通信で実現する「光 In-network computing」「私たちの技術の特徴は光通信技術を光演算に応用したことにあります。この特徴を活かせば、通信に組み込むことができます。つまり、ネットワーク上の送信機と受信機の間に演算機を配置することで、通信の途中で計算を行うということが可能です」（中島）さらに中島氏は、このフォトニック・アナログ・コンピューティングをネットワークに統合した「光 イン・ネットワーク コンピューティング（In-network computing）」を、機械学習に用いられる「畳み込みニューラルネットワーク」で実証した（図3）。
「畳み込みニューラルネットワークにおける畳み込み演算は、非常に計算コストが高いものです。
畳み込み演算をデータ送信中にフォトニック・アナログ・コンピューティングで行えば、受信時には計算が既に完了している、という高い計算効率を持ったシステムが実現可能です」と中島氏は語る。
実験では、中島氏らの開発したフォトニック・アナログ・コンピューティングによる高精度の光学的畳み込み演算が実証された。光伝送と計算の一体化が実現され、画像認識において、約96%の精度が達成されたという。

「現在の並列・分散化された計算機では、それぞれの計算機間のやり取りのために光通信を利用しています。この通信の途中に光演算を実行することで、計算処理全体としての電力消費、エネルギー効率、および待ち時間が大幅に削減される可能性があります。私たちはもともと光通信デバイスを開発してきたのですが、それを光演算に応用することで、演算のスケーラビリティと、ネットワーク上でのコンピューティングを現実的な方法で実証できました」（中島）光コンピューティングのメリットを最大限引き出す大規模化と、その開発の過程で用いられた光通信デバイスによるメリットをかけ合わせることで、高効率で環境に優しい、かつてないコンピューティングが現実のものになりつつある。

図3 (a) 光ネットワークにおける計算の概略図 (b) 様々なカーネルを用いた畳み込みの実験結果と数値結果 (c) 概略図(a)に示した光電子CNNの混同行列。