光アクセスシステムにおける低遅延転送のための動的リソース制御
代表研究者

中山悠

東京農工大学□工学研究院准教授

1 概要
近年，ディープラーニング技術の進歩により，人工知能関連の研究が大幅に進められている．特に GPU を用いたエッジ AI による画像の物体検出は，バッチサイズ増大による効率性の向上が指摘されている．ただし，大量の画像データをエッジサーバにバッチ到着させる際には，ネットワークの輻輳による遅延増大が課題となる．そこで本研究では，一般的な光アクセスシステムである Time and Wavelength Division Multiplexed
Passive Optical Network (TWDM-PON)を用いて多数の Web カメラを効率的に収容し，画像データを低遅延にバースト到着させるシステムを提案する．ここで課題となるのが，エッジサーバにおいてリアルタイムな画像処理を行うための低遅延性を担保することである．TWDM-PON においては上り波長帯域割り当てアルゴリズ
ムは従来からの重要な課題であるが，上記のような低遅延性とバッチ到着性を同時に満たすようなアルゴリズムはこれまでにない．本研究では，大きく 2 つのアルゴリズム，すなわち A. 静的割り当て，B. 超高速動的割り当て，について検討を行った．

2 背景と目的
近年のディープラーニング（DL）テクノロジの大幅な進歩により、人工知能技術（AI）は急激に進歩している[1]．数多くの関連研究が行われ，さまざまな AI サービスが展開されるようになっている．ここで，DLテクノロジのワークフローは通常，トレーニングフェーズと推論フェーズの 2 つで構成される．トレーニン
グフェーズでは，トレーニングデータがディープニューラルネットワーク（DNN）に送られ，重みが最適化される．そして，トレーニングされた DNN が推論フェーズで展開され，受信したデータを使用して推論プロセスが実行される．画像認識においては，画像データからオブジェクトを認識する．特に，[2]において DNNに転送されるデータのバッチサイズが増えることで，GPU ベースの推論サーバの計算効率が両フェーズで大幅に向上することが指摘された．これは，バッチサイズが大きくなると，多くの入力にわたってメモリからの読み込みの重みが減少するためである．バッチサイズの増加は処理速度とエネルギー消費を改善する一方で，ネットワークの混雑による遅延増大の恐れがあり，すなわち計算効率と遅延との間にトレードオフがある[3]．リアルタイムの物体認識は，スマートシティを可能にするエッジコンピューティングの重要なアプリケーションになると期待されており，多数のネットワークカメラを低コストで導入することは，自動運転や公共の安全などのさまざまな目的を実現するための重要な技術と考えられる．
Passive Optical Network（PON）は，Fiber-To-The-x（FTTx）ネットワークを提供するためにアクセスネ
ットワークで広く採用されている．PON システムは，Point-to-Multipoint 光ネットワークを構成するため，Optical Line Terminal（OLT）と複数の Optical Network Unit（ONU）で構成され， OLT と ONU は光ファイバとパッシブスプリッタを介して接続される．フィーダファイバーは多くの ONU で共用されるため， PON はコスト効率の高い光ネットワークだと言える[4]．特に，Next Generation PON2（NG-PON2）[5]を含む Time andWavelength Division Multiplexing（TWDM）-PON は，多数のネットワークカメラを展開するための有望なソリューションとして期待される．よって，本研究では，ネットワークカメラが TWDM-PON を介してエッジサーバに画像データをアップロードする GPU ベース推論システムに着目する．
このようなシステムにおける重要な研究トピックとして、リアルタイム推論のバッチサイズと遅延の関係を考慮した上り波長帯域の最適な割り当てがある．これまでに，TWDM-PON における上り波長帯域幅割り当てアルゴリズムに関しては，多くの研究が行われてきた．最近の主なアプローチとしては，5G モバイルネット
ワークのモバイルフロントホールに対応するための低遅延伝送アルゴリズムがある[6][7]．ただし，低遅延転送を保証しながら，エッジサーバに到着するデータのバッチサイズを増大させることは，これまでに考慮されてこなかった．特に OLT での割り当て計算時間は，遅延低減におけるボトルネックと考えられる．
よって，本研究では，GPU ベースのエッジサーバでの効率的な物体検出をサポートするための TWDM-PON のリアルタイムリソース割り当てアルゴリズムを提案する．アプローチとしては，A. 静的割り当て，および

1
公益財団法人電気通信普及財団
研究調査助成報告書 第36号 2021年度

B. 超高速動的割り当て，の 2 つである．特に後者については，波長および帯域の割り当てを充足可能性問題（SAT）として定式化することで，FPGA ソルバでの計算を可能とし，超高速性を実現する．以下では，各アプローチについて述べる．

3 テーマ A. 静的割り当て
3-1 概要提案システムの構成を図 1 に示す．多数の Web カメラを PON により収容し，各カメラが定期的に画像データをエッジサーバにアップロードする．エッジサーバは，受信した画像データを GPU で処理し，ディープラーニングを用いて物体の検出/認識を行う．本システムは，多数のカメラで光ネットワークを共用可能なためコスト効率が高い．
提案アルゴリズムの目的は，エッジサーバのバッチサイズ増大による計算効率の向上と，リアルタイムでの物体検出を実現する低遅延のデータ伝送の両立である．エッジサーバは，データ到着時刻を同期させるため，時間領域グループ（以下グループ）を定義し，各 ONU（Optical Network Unit）の所属を定める．これに基づき，各 OLT（Optical Line Terminal）が配下 ONU の波長チャネルと上り時間スロットを割り当てる．エッジサーバは画像のタイムスタンプに基づき，カメラごとに異なるデータ生成タイミングを推定し，グループの再割り当てを行うことで，低遅延性を担保する．

図1

提案システムの基本設計

図2

データ送信のシーケンス

3-2 シミュレーション評価
提案アルゴリズムの性能をシミュレーションによって測定し，代表的な帯域割り当てアルゴリズムであるIPACT[8]と比較した．IPACT は波長割り当てを考慮していないため，本稿では，利用可能な波長チャネルをランダムに割り当てることとした．比較項目は，カメラ台数ごとのバッチサイズと，サイクルごとの遅延時間とした．遅延は，画像生成からエッジサーバで処理が開始されるまでの時間とする．シミュレーション条
件は以下の通りである．エッジサーバの処理時間 300m ms，リンク帯域幅 10 Gbps，OLT と ONU 間の平均距離は平均値 10 km，標準偏差 5 km で正規分布に基づき決定する．画像データサイズは 2.2 MB，波長チャネルは 4 とし，グループ数は，ONU/波長チャネルとした．エッジサーバでのメモリサイズを 140.8 MB と仮定し，メモリに 140.8 MB を超える場合は次のバッチで処理することとする．
またメモリにデータが存在する場合は，バッチサイズにする前処理γを定義し，これを 50 ms とした ．d_(i,j)^fps は，(1/FPS)の間でランダムに生成することとした．
図 3 に提案手法と IPACT において，エッジサーバで処理するデータの平均バッチサイズと，用いたカメラ台数の関係を示す． f_c=1/12 秒 s，PON 数は 32 とした．提案アルゴリズムを用いた場合，カメラ台数によらず常に IPACT より平均バッチサイズが大きい．平均ではバッチサイズを 50%改善しており，エッジ AI の処
2
公益財団法人電気通信普及財団
研究調査助成報告書 第36号 2021年度

理効率を大幅に向上させることが可能である．なお，提案手法ではバッチサイズが鋸歯状を示すが，これはグループ数が増加した際にグループあたりのカメラ数が一時的に減少するためであり，問題ないといえる．図4 に，f_c=1/12 秒 s，PON 数が 1，カメラ台数 32 台の場合の平均遅延時間の推移を示す．プロットは平均値，エラーバーはその標準偏差を示している．提案手法を用いた場合，IPACT と比較して大幅に遅延を低減している．これは，提案手法では各 ONU を適切なグループに割り当てることで，エッジサーバでの処理待ち時間を低減可能なためである．また．提案手法ではサイクルが進むごとに遅延時間が減っており，これはグループの再割り当ての効果を示している．

図3

カメラ台数に対してのバッチサイズ

図4

サイクルごとの平均遅延時間

4 テーマ B. 超高速動的割り当て
4-1 概要PON の上り動的帯域割り当ては，一般的に ONU からのステータスレポートに基づいて OLT で割り当て計算を行う．そこで提案手法では，リアルタイムな物体検出を担保するための帯域割り当ての超高速計算を実現することを目的とする．さらに到着データのバッチサイズを大きくすることで，エッジサーバでの計算効率を向上させる．提案手法は，時間グループベースの波長・帯域割当方式であり，時間領域グループは推論サーバへのデータ到着時刻を同期させるために定義される．推論タスクは，時間領域グループを 1 つの単位として，到着したデータを用いて実行される．複数の時間領域グループを一括して処理することで，より高い計算効率を実現する（図 5）．提案手法のアイデアは，画像データのサイズが固定されていると仮定し，OLTがリクエストを受信したかどうかに基づいて，各 ONU を波長チャネルと時間領域グループのいずれかに割り当てることである．提案方式は SAT として定式化され（図 6），それによって FPGA ベースの SAT ソルバを利用して超高速な割り当て計算を実現可能である．上記手法により，リアルタイムでの物体検出を可能にするための計算時間の短縮と，タイミング同期化による推論のためのバッチサイズの増大を実現する．

3
公益財団法人電気通信普及財団
研究調査助成報告書 第36号 2021年度

図 5 割り当てシーケンス

図 6 SAT 化のアイデア

4-2 SAT 実装と評価
SAT 実装において，k-SAT は各節の最大リテラル数として任意の整数 k である．多くの SAT ソルバは 3-SATベースのアルゴリズムを使っているため，3-SAT への変換を行った．そして[9]で提案された SAT アルゴリズ
ムを利用して解を求めた．FPGA に実装した際のクロックを 50MHz，波長数を 4 とした際の SAT 計算時間を以4
公益財団法人電気通信普及財団
研究調査助成報告書 第36号 2021年度

下に示す．イタレーション数を図 7 に，実行時間を図 8 に示す．ONU が多い場合にも，平均で約 1us，最悪でも数 us 以内に計算を完了しており，高速な割り当て計算が可能である．

図 7 イタレーション数

図 8 実行時間

5 おわりに近年，ディープラーニング技術の進歩により，人工知能関連の研究が大幅に進められている．特に GPU を用いたエッジ AI による画像の物体検出は，バッチサイズ増大による効率性の向上が指摘されている．ただし，大量の画像データをエッジサーバにバッチ到着させる際には，ネットワークの輻輳による遅延増大が課題となる．そこで本研究では，一般的な光アクセスシステムである TWDM-PON を用いて多数の Web カメラを効率的に収容し，画像データを低遅延にバースト到着させるシステムを提案した．提案するリソース割り当てアルゴリズムでは，信号伝搬遅延などを考慮して波長および送信時刻を割り当てる．結果として，従来の代表的手法である IPACT と比較して，大幅なバッチサイズ増加が可能であることをシミュレーションにより示した．
また，波長帯域割り当てを SAT として定式化し，FPGA ソルバを用いて解を求めることで，超高速な動的割り当てが可能なことを示した．提案手法の実装と実験が今後の課題である．

【参考文献】[1] A. Krizhevsky, I. Sutskever, and G. E. Hinton, “Imagenet classification with deep convolutional
neural networks,” in Advances in neural information processing systems, 2012, pp. 1097–1105.
[2] N. A. I. Platform, “Giant leaps in performance and efficiency for AI services, from the data
centertothenetworksedge.”[Online].
Available:
https://www.nvidia.com/en-us/datacenter/resources/inferencetechnical-overview/,browsedinFeburuary 2020
[3] Y. Inoue, “Queueing analysis of gpu-based inference servers with dynamic batching: A
closed-form characterization,” arXiv preprint arXiv:1912.06322, 2019.
[4] Y. Nakayama, K. Maruta, T. Shimada, T. Yoshida, J. Terada, and A. Otaka, “Utilizationcomparison of small-cell accommodation with PON-based mobile fronthaul,” Journal of OpticalCommunications and Networking, vol. 8, no. 12, pp. 919–927, 2016.
[5] ITU-T G.989 Series Recommendations, “40-gigabit-capable passive optical networks 2(NG-PON2),” October 2015.
[6] Y. Nakayama, H. Uzawa, D. Hisano, H. Ujikawa, H. Nakamura, J. Terada, and A. Otaka,“Efficient DWBA algorithm for TWDM-PON with mobile fronthaul in 5G networks,” in IEEE
Global Telecommunications Conference (GLOBECOM), December 2017.

5
公益財団法人電気通信普及財団
研究調査助成報告書 第36号 2021年度

[7] Y. Nakayama and D. Hisano, “Wavelength and bandwidth allocation for mobile fronthaul in
TWDM-PON,” IEEE Transactions on Communications, vol. 67, no. 11, pp. 7642–7655, 2019.
[8] G. Kramer, B. Mukherjee, and G. Pesavento, “IPACT a dynamic protocol for an Ethernet PON(EPON),” IEEE Communications Magazine, vol. 40, no. 2, pp. 74–80, 2002.

〈発題名Real-Time and Energy-Efficient Inference
at GPU-Based Network Edge using PON
光ネットワークリソース制御による GPU
エッジでの画像処理の効率化
GPU エッジでの画像処理効率向上に向けた光ネットワークリソース制御
Real-Time Resource Allocation in PON
forEnergy-Efficient
Inference
atGPU-Based Network Edge

表資料〉

掲載誌・学会名等

発表年月

IEEE CCNC 2021

2021/1

電子情報通信学会ソサイエティ
大会, B-15-6
FIT2020 第 19 回情報科学技術フォーラム
IEEE Internet of Things
Journal2020/92020/9
投稿中

6
公益財団法人電気通信普及財団
研究調査助成報告書 第36号 2021年度