深層学習による学習可能反復アルゴリズムの開発とビームフォーミングへの応用研究代表者

高邉 賢史

名古屋工業大学大学院 工学部 助教

1 はじめに
近年、深層ニューラルネットワーク (DNN) に代表される深層学習は、画像・音声認識をはじめとして情報通信分野に対しても応用が進んでいる．特に無線通信分野においては，MIMO (multiple-inputmultiple-output) における送信信号推定や符号化変調，復調の最適化など幅広い応用例が存在する[1]．
一方，DNN は学習すべきパラメタを数千個-数万個程度有するため，長時間の学習過程を必要とする．これは通信状況が急変し再学習を要する無線通信の実応用上重大な遅延の原因となりうる．
一方、2010 年に Gregor と LeCun は，疎信号復元において既存の反復アルゴリズムに存在するパラメタを深層学習によって自動調整する手法（深層展開; deep unfolding）を提案した[2]．対象となるパラメ
タはアルゴリズムの収束性能に影響を及ぼすにも関わらず，従来は定数扱いまたは発見的に調整されてきたものである．この研究を受けて，報告者らは情報通信分野への応用として，大規模 MIMO における送信信号検出のための学習可能アルゴリズムを提案している．提案手法は DNN を利用した関連手法と比較して高々定数個の学習可能パラメタを含んでおり，学習コストのスケーラビリティおよび実行速度の観点で優れている．
本研究課題では，無線通信における深層展開に基づく学習可能反復アルゴリズムの数理を深化させ，次世代無線通信技術として注目されているマルチキャストビームフォーミングに対する応用を行った．
より具体的には， (1)深層展開型勾配法の学習結果に対する理論的解析，(2) マルチキャストビームフォーミングに対する深層展開型ビーム設計の提案，の 2 点が挙げられる．本報告書では，深層展開に関する概説を行ったあと，これらの成果に関する報告を行う．

2 深層展開の概要
本節では，深層展開の基本的な事項に関して記述する．
深層展開は，Gregor と LeCun の研究[1]に端を発する深層学習の一手法である．訓練データに応じてブラックボックス的に高次元関数の探索を行う DNN と異なり，深層展開は既存の反復アルゴリズムをベースとする点が特徴的である．勾配法等の反復アルゴリズムは，各反復ステップの処理を一定回数反復することで処理を完了するアルゴリズムである．対応する信号流グラフを図示したのが図 1(a)となる．一般に，各ステップの処理内には，勾配法におけるステップサイズのようにアルゴリズムの性能（出力，収束の速度等）を制御するパラメタが存在する．深層展開ではこの信号流グラフを横方向に展開する（図 1(b)）．
このとき，信号流グラフは準伝搬型のネットワークとみなすことができ，各層がアルゴリズムの各反復ステップに対応している．深層展開では，この展開された信号流グラフの各層に学習可能パラメタを埋め込む．仮にすべての反復処理が微分可能であり，その微分値が非零であれば，逆誤差伝搬法や確率的勾配降を学習により調節
図 1：深層展開の概要 (a)反復アルゴリズム (b)その深層展開

1

公益財団法人電気通信普及財団
研究調査助成報告書 第35号 2020年度

下法等の深層学習の基本技術を利用して，これらの埋め込まれた学習可能アルゴリズムを訓練データに適した値へ効率的に学習することが可能となる．以上が深層展開の概要である．
ここでは，例として深層展開を利用した勾配法を考える．𝑛次元の関数𝑓(𝑥)を最小化する最適化問題に対する勾配法は次式で表される．
(1)
ただし，𝛾は各反復ステップにおいて探索点の移動量を制御するステップサイズパラメタであり，この値によって勾配法の収束速度が変化する．この勾配法に対して深層展開を適用して得られる深層展開型勾配法 (deep unfolded gradient descent; DUGD) は次式で表される．
(2)
ここで， 𝛾𝑡 は各反復ステップに依存した学習可能ステップサイズパラメタであり，深層展開ではこれらの値を変化させることで DUGD の収束性能向上を図る．
簡単な例として，ノイズのない線形観測モデル𝑦 = 𝐴𝑥に対する最小二乗推定問題を考え，DUGD の信号推定性能を数値的に確認する．ただし，原信号𝑥の次元を𝑛，観測信号𝑦の次元を𝑚とし，観測行列は各成分が独立に標準正規分布に従うとする．この最小二乗推定問題に対する勾配法は，(3)と表される．それに対して，DUGD は，(4)と定義される．ここでは，以下の条件で 20 反復分の DUGD の学習可能パラメタ 𝛾𝑡 19の教師あり学習を行𝑡=0
った：パラメタの初期値を 0.3 とし，原信号と観測信号のペアである訓練データ(𝑥, 𝑦)に対して，DUGD の20 反復後の推定信号𝑥20 と原信号間の平均二乗誤差を損失関数とし，その値を最小化するように学習可能パラメタの値を更新する．更新にはバッチサイズ 200，総バッチ数 10,000 のバッチ学習を行い，パラメタの値の更新には Adam 法[3]を利用した．
学習結果を図 2 に示す．DUGD（実線）との比較のため，理論的に最適な固定ステップサイズ（ここではγ = 0.404）を利用した GD の結果（点線）を示した．まず，図 2（左）の平均二乗誤差の推移をみると，DUGDははじめ比較的な大きな誤差を示すものの，20 反復後には GD よりも小さな誤差を達成することがわかる．
これはステップサイズの自由度を増やしたためであると考えられ，実際に図 2（右）のように学習されたステップサイズ列は非自明な増減を示す．
深層展開は既存の反復アルゴリズムの繰り返し構造を展開し，学習可能パラメタを導入することで内部パラメタの自由度を増加させるとともに，パラメタの値を深層学習の手法によって効率的に学習することができる．その結果，この例のようにアルゴリズムの収束性能を改善可能である．これは最小二乗問題に限らず，圧縮センシングや無線通信，信号処理における信号推定の諸問題においても同様である．一方，
ここで示した例は単純なものであるにも関わらず，学習された非自明なステップサイズ列が DUGD の収束速度を改善する数理的な機構については未解明である．したがって本課題では，深層展開の無線通信への応用と深層展開の数理の解明という 2 点に焦点を当てた研究を行った．

図 2：最小二乗法に対する GD（点線）と DUGD（実線）の比較（左）平均二乗誤差，（右）ステップサイズ

2

公益財団法人電気通信普及財団
研究調査助成報告書 第35号 2020年度

３ 深層展開型勾配法による収束加速の数理の解明
深層展開型勾配法(DUGD)が収束速度を向上させる数理的機構を解明するため，最小二乗推定問題を含む，凸二次形式の最小化問題に対する DUGD の解析を行った．ここでは解析結果の概要を記す．更なる詳細は（発表資料 6）を参照されたい．
いま，最小化問題𝑥 𝑇 𝐴𝑥において行列𝐴が𝑛次元の実対称行列と仮定すると，この問題は最適解が原点の凸最適化問題となる．この最小化問題に対する DUGD の𝑇反復分の更新式は，(5)と表される．このとき，DUGD は行列𝑄(𝑇)のスペクトル半径（固有値の絶対値の最大値）が 1 よりも小さな場合に最適解へ収束し，収束速度はスペクトル半径の大きさに依存する．
解析の結果，ある条件下で DUGD の学習に用いる平均二乗誤差関数𝐿(𝑥)とスペクトル半径𝜌(𝑄(𝑇))の間に以下の関係が成立することを証明した．
(6)
ただし，𝐶 > 0は定数であり，期待値は初期点𝑥0 に関する期待値を表す．この不等式から示唆されるように，DUGD の学習において平均二乗誤差を最小化することは，DUGD のスペクトル半径を減少させる．したがって，DUGD の学習によって DUGD の収束速度を改善するようにステップサイズパラメタ 𝛾𝑡 を調節することが可能であることが分かる．
本研究では，以上の考察を踏まえ DUGD のスペクトル半径を最小化するステップサイズ列を探索することを試みた．解析の結果，スペクトル半径の上界を最小化するステップサイズ列として，以下の式で定義されるチェビシェフステップが得られた．
(7)
ただし，𝜆𝑛 , 𝜆1 をそれぞれ行列𝐴の最大，最小固有値とする．このチェビシェフステップはチェビシェフ多項式のミニマックス原理を利用して導出されるものであり，行列𝐴の最大，最小固有値が既知であれば容易に計算可能である．数値計算の結果，チェビシェフステップは DUGD の学習結果を定性的に再現することが確認された．また，既存の GD と比較すると，チェビシェフステップは𝑇 = 1のとき最適な固定ステップサイズと一致し，𝑇 ≥ 2のとき固定ステップサイズの GD よりも収束速度が向上することが分かる．特に，
𝑇 → ∞の極限では DUGD の収束レートは 1 次法（勾配の一次情報のみを利用する勾配法）の最小収束レートに一致することが証明できる．
以上のことは，深層展開によって反復アルゴリズムの収束速度が向上する数理的機構の解明する点だけでなく，深層学習の学習結果に対して明確な理論的解釈を与える点で意義が大きい．さらに，チェビシェ
フステップを利用することで，DUGD においては学習なしに準最適なステップサイズ列を設定することが可能となった．この結果は，日本物理学会で口頭発表され（発表資料 5），現在投稿論文として準備中である（発表資料 6）．

4 マルチキャストビームフォーミングに対する深層展開型ビーム生成手法の提案
マルチキャストビームフォーミングは，マルチキャスト通信における電波干渉の影響を低減するため適切なビームを設計する技術であり，第 5 世代移動通信システムをはじめとする無線通信において重要視されている．ただし，マルチキャストビームフォーミングは一般に厳密な最適解を得ることが難しい NP 困難な最適化問題を解く必要があるため，高速かつ高性能なビーム生成手法の提案が課題となっている．従来の最適化ベースの近似手法とともに，近年では深層ニューラルネットワーク(DNN)を利用した学習型ビーム生成手法の提案も活発になっている[4]．しかし，DNN はその内部に多数の学習可能パラメタを有し，その数はシステムサイズに応じて増加するため，スケーラビリティの問題が生じる．それに対して，少数の学習可能パラメタの訓練で高い収束性能改善を示す深層展開の特性を利用することで，本課題では低学習コストの学習型ビーム生成手法の提案を目標とする．
上述したように，深層展開の適用には基となる反復アルゴリズムが必要である．比較検討の結果，本研
究では近年提案された凸射影法と bounded perturbation (BP)を利用したビーム生成手法[5]を利用した．

3

公益財団法人電気通信普及財団
研究調査助成報告書 第35号 2020年度

また，ビームフォーミングでは深層展開型アルゴリズムの教師あり学習に利用する問題の最適解を予め求めることが困難であるため，訓練データを利用せずにパラメタの学習を行う教師なし学習を行う必要がある．このような深層展開の教師なし学習は先行研究がほとんど存在せず，本研究の提案手法は学習過程の面でも挑戦的であるといえる．
はじめに，ビームフォーミングの定式化と深層展開のベースとなるビーム生成手法について概説する[6]．
ここでは，典型的なビームフォーミングの一種である最大最小公平性 (max-min fair; MMF) 問題を考える．この問題では，𝑁本のアンテナを有する基地局から単一アンテナをもつ𝐾ユーザーへの下り通信において，𝑘番目のユーザーの通信路ベクトルをℎ𝑘 としたとき，全ユーザー内の信号対雑音比(signal-to-noiseratio; SNR)の最小値を最大化するように基地局におけるビーム𝑤を生成する．これは最適化問題(8)として定式化される．この問題の最適解は，次の QoS (quality of service) 問題の最適解と定数倍の違いを除いて同一であることが知られている：(9)
QoS 問題では，各ユーザーの要求 SNR 𝛾を満たすような最小強度のビーム𝑤を生成することを目的としている．
QoS 問題と等価な最適化問題として以下のものが知られている．

(10)

ただし，𝑄𝑘 ≔ ℎ𝑘 ℎ𝑘H とした．この問題は，複素ベクトルであるビーム𝑤の最適化問題である QoS 問題の代わりに，複素エルミート行列𝑋(≔ 𝑤𝑤 H )に関する最適化問題として定式化されている．ただし，両問題の等価性に関する条件𝑋 = 𝑤𝑤 H の成立のために行列𝑋に関するランク 1 制約が必要である．この制約はこれら 3 問題が NP 困難となる要因になっており，これらの問題の厳密な最適解を得ることは現実的に困難である．
近年提案された凸射影法 (projections onto convex sets; POCS)に BP を組み合わせるビーム生成手法（本報告書では POCS-BP と呼ぶ）では，これらの最適化問題を解く代わりに制約条件を満たす解へ発見的に摂動を加えることで高性能なビーム生成を実現している[5]．具体的には，POCS-BP は QoS 制約のみに関する制約充足問題(11)を解く POCS と，その探索点（行列）にランク１制約の満たす「方向」へ摂動を加える BP を組み合わせて定式化される．その更新式は，(12)で与えられる．ただし，演算子𝑇𝐶𝜆 (⋅)は正定数𝜆 と凸領域𝐶への射影演算子𝑃𝐶 (⋅) を用いて，(13)̃̃と定義される．また，行列𝑋𝑡 は行列𝑋𝑡 の主成分以外の全成分を表し， 𝛽t は適当な定数である．この POCSBP は適切な条件下で制約充足解へ収束することが保証されており，結果として得られるビームは他の既存手法と比較して高い性能を示すことが数値的に確認されている．
そこで，本研究では POCS-BP を基に深層展開型 POCS-BP，(14)を提案した．ここで，パラメタ 𝜆𝑡 , 𝛽𝑡 が学習可能パラメタである．その個数は𝑇反復で2𝑇個であり，シス

4

公益財団法人電気通信普及財団
研究調査助成報告書 第35号 2020年度

テムサイズに依存しないため高いスケーラビリティを有するという特徴をもつ．上述したように，学習においては最適解を利用した教師あり学習の適用が困難であるため，教師なし学習を行う必要がある．最小化すべき損失関数としては解くべき MMF 問題(8)の目的関数を用いるのが妥当に思えるが，目的関数が去最小化関数を含むため誤差逆伝搬法が使用不能であるという問題点が存在する．そこで，本研究では，最小化関数を重み付きソフト最小化関数に置換した損失関数，(15)を利用した．
以下では，提案手法である DU-POCS-BP と既存手法との数値的な性能比較を行う．システムパラメタを𝑁 = 20, 𝐾 = 25とし，通信路ベクトルは独立同分布で平均 0，分散 1 のガウス分布に従うとする．また，
𝛾 = 1.0, 𝜎 2 = 1.0とした．DU-POCS-BP の総反復数を𝑇 = 25とし，学習可能パラメタの初期値を，𝛽𝑡 = 0.91/2 =0.948 … , 𝜆𝑡 = 1.0 (𝑡 = 1, … , 𝑇) とした．さらに，損失関数のソフト最小化関数の重みは𝛽 = 3.0とした．学習過程においてはバッチサイズ 30 のミニバッチを計 400 個利用したミニバッチ学習を行い，パラメタの更新には学習率 0.05 の Adam 法を利用した．また，比較対象として，MMF 問題で標準的なビーム生成手法である半正定値計画緩和を利用した手法[6]と，提案手法のベースとなった POCS-BP を利用した．これらのビーム生成法の性能は，MMF 問題の目的関数である全ユーザー内の最小 SNR によって測定した．測定においては，50 個の異なる通信路ベクトルの組における最小 SNR の平均値を利用した．また，性能上限として半正定値計画緩和による目的関数値を利用した[6]．ただし，半正定値計画緩和問題は MMF 問題からランク 1制約を除外した問題であるため，その上限がタイトである保証はない点に注意が必要である．
図 3 に数値計算の結果である最小 SNR の反復回数依存性を示す．図中の赤線が提案手法である DU-POCSBP であり，黒実線がベースとした POCS-BP である．これらを比較すると，DU-POCS-BP はより少ない反復回数で高い最小 SNR 性能を示すことが分かる．特に，収束時の最小 SNR に関して DU-POCS-BP は約 0.3dBの利得を有している．また，これらのビーム生成法は標準的な半正定値計画緩和を利用した手法（黒破線）と比較して大きな利得を示す．半正定値計画緩和問題の求解に必要な計算量が(DU-)POCS-BP と比較して大きいことと合わせて，提案手法は強力なビーム生成手法といえる．また，半正定値計画緩和による上界（黒点線）と比較すると，半正定値計画緩和に基づくビーム生成法は大きなギャップを示すが，DU-POCS-BP のギャップは比較的小さなものとなっていることが分かる．以上から，提案手法は深層展開による少数の学習可能パラメタの教師なし学習によって，MMF 問題に対する既存手法よりも少ない実行時計算量で高い最小 SNR 性能を達成することが明らかとなった．

図 3：MMF 問題における最小 SNR の反復回数依存性．

5

公益財団法人電気通信普及財団
研究調査助成報告書 第35号 2020年度

この結果は，ビームフォーミングに対する新たな深層学習ベースのビーム生成法の例として重要なだけでなく，教師なし学習の深層展開型アルゴリズムの例として他の無線通信，信号処理を含む広い分野への応用可能性を有する．本結果は電子情報通信学会無線通信システム研究会で口頭発表予定（発表資料 9）であると共に，無線通信の国際会議へ投稿中である（発表資料 7）．また，本研究の発表直後に他の研究グループによって別種の深層展開型ビーム生成法が提案される[7]など，本課題は時宜を得たものであったことを付記しておきたい．

4 本研究のまとめ
本研究課題では，深層展開と呼ばれる比較的新しい深層学習手法に関して，その数理基盤の構築と無線通信におけるマルチキャストビームフォーミングへの適用という基礎，応用の両面からの研究を進めた．
その主要な成果として以下が挙げられる．
(1) 深層展開型勾配法におけるステップサイズ列の学習を数理的に考察した結果，チェビシェフステップと呼ばれる容易に計算可能なステップサイズ列を見出し，学習結果を定性的に再現することを確認すると共に，通常の勾配法と比較して収束レートを改善可能であることを証明した．これは深層展開における学習結果の理論的解釈としてだけでなく，深層展開による収束加速を学習なしに実現可能である点で重要な知見であると考えられる．
(2) マルチキャストビームフォーミング，特に最大最小公平性問題に対する学習可能ビーム生成法を提案した．特徴として，最新のビーム生成法である POCS-BP をベースとしている点，および MMF 問題が NP 困難な最適化問題であるという特性から教師なし学習によってパラメタを調節する点が挙げられる．数値計算の結果，提案手法は少数の反復回数で高い最小 SNR 性能を達成することを確認した．
また，本課題と関連する研究として，(a)大規模過負荷 MIMO に対する深層展開型信号検出器の提案（発表資料 1），(b)複素非線形逆問題に対する汎用的深層展開型信号推定手法である complex trainable
iterative shrinkage thresholding algorithm (C-TISTA)の提案（発表資料 2,8），(c)圧縮センシングに対する交互方向乗数法の深層展開による収束加速（発表資料 3），等に関する研究，発表を行った．以上の研究の進展によって，深層展開の無線通信および信号処理に対する応用のさらなる加速と数理基盤の整備に貢献できたと考えている．
<参考文献>[1] T. J. O'Shea and J. Hoydis, “An introduction to deep learning for the physical layer,”IEEE Trans. Cognitive Comm. Networking, no. 3, pp. 563-575, 2017.
[2] K. Gregor and Y. LeCun, “Learning fast approximations of sparse coding,” Proc. 27th Int. Conf. Machine
Learning, pp. 399-406, 2010.
[3] D. P. Kingma and J. L. Ba, “Adam: A method for stochastic optimization,” arXiv:1412.6980, 2014.
[4] W. Xia, G. Zheng, Y. Zhu, J. Zhang, J. Wang, and A. P. Petropulu, “A deep learning framework foroptimization of MISO downlink beamforming,'' IEEE Trans. Commun., vol. 68, no. 3, pp. 1866-1880, Mar.
2020.
[5] J. Fink, R. L. G. Cavalcante, and S. Stanczak, “Multicast beamforming using semidefinite relaxation
and bounded perturbation resilience,” ICASSP, IEEE Int. Conf. Acoust. Speech Sig. Process., vol. 2019May, pp. 4749-4753, 2019.
[6] E. Karipidis, N. D. Sidiropoulos, and Z. Q. Luo, “Quality of service and max-min fair transmit
beamforming to multiple cochannel multicast groups,” IEEE Trans. Signal Process., vol. 56, no. 3, pp.
1268-1279, 2008.
[7] L Pellaco, M Bengtsson, J Jaldén, “Deep unfolding of the weighted MMSE beamforming algorithm,”
arXiv:2006.08448, 2020.

6

公益財団法人電気通信普及財団
研究調査助成報告書 第35号 2020年度

〈発題

名

Deep Learning-Aided Projected Gradient
Detector for Massive Overloaded MIMOChannels

表資料〉

掲載誌・学会名等

発表年月

IEEE International Conference
on Communications (ICC2019)

深層展開に基づく複素非線形逆問題のため

電子情報通信学会 信号処理研究の学習可能信号推定アルゴリズム

会 信号処理シンポジウム

深層展開に基づく交互方向乗数法の学習

第 22 回情報論的学習理論ワークショップ

2019 年 5 月

2019 年 11 月
2019 年 11 月

[依頼講演] 無線通信に対する深層展開ア

電子情報通信学会スマート無線研

ルゴリズムの進展

究会

深層展開による勾配法の加速

日本物理学会年次大会

2020 年 3 月

arXiv2001.05142（投稿準備中）2020 年 2 月

arXiv2004.09345（投稿中）2020 年 4 月

2020 年 3 月

Theoretical Interpretation of Learned
Step Size in Deep-Unfolded Gradient
Descent
Deep Unfolded Multicast Beamforming

2020 IEEE International Confe
Complex Trainable ISTA for Linear andrence on Acoustics, Speech

Nonlinear Inverse Problems

and Signal Processing

2020 年 5 月(ICASSP2020)

大規模 MIMO のための深層展開型ビーム
フォーミング法の検討

電子情報通信学会無線通信システム研究会

72020 年 7 月（予定）

公益財団法人電気通信普及財団
研究調査助成報告書 第35号 2020年度