ネットワーク型リアルタイム遠隔機器制御のためのクラウド構成法の研究
研究代表者

葉玉寿弥

防衛大学校電気情報学群通信工学科・教授

1 はじめにロボットや自動制御の自動車・飛行システムなど、情報通信技術を活用した移動システムの研究が盛んに行われ、社会的に関心が高まっている[1-2]。米国軍事用途の UAV(Unmanned Aerial Vehicle)の遠隔操縦においては衛星・海底ケーブル等で構成された専用ネットワークが利用され、地球の裏側であっても伝送遅延時間 0.5 秒以内の通信ネットワークが構築されている[1]。このようなシステムの無線通信の信頼性を高める研究[3]が精力的に行われ、その進歩は著しい。しかし、このような専用ネットワークは高価で、その利用は軍事や公共性の高い特殊用途に限定され、幅広く低価格なサービス用途に用いることができない。高速インターネット実験網を用いた実時間遠隔制御として、2003 年に通信総合研究所において遠隔制御する IP コントロールカーと称する模型自動車によるカーレースイベントが行われている[4]。この報告ではレース結果への遅延時間の悪影響が示唆されている。また、オンラインゲームの成績にネットワーク通信品質が及ぼす影響の評価[5]の研究があり、通信品質に対する要求条件が検討されている。しかし、ブロードバンドネットワークの通信性能とリアルタイム遠隔機器の操縦性能の間の定量的関係は必ずしも明らかになっておらず、その制御系（制御チャネルの構成法、サーバ配備法）の構成法についても明確な指針はない。
ブロードバンドネットワークの通信品質を確保する技術（Quality of Service 保証技術）については、光アクセスネットワーク、無線アクセスネットワーク、通信プロトコルなどの分野で盛んに研究されている[6-8]。また、その一方で、共通のネットワーク上でネットワーク資源やサーバ資源を柔軟に割り当てることにより各ユーザの利用用途に合わせた品質レベルの通信サービスをオンデマンドで提供する仕組み：SDN（software defined network）が広域ネットワークに導入されようとしている[9-10]。これらの研究の進展により、需要に応じてオンデマンドに、常時接続性と低遅延性に優れたデータリンクを提供するサービスが近い将来実現されるものと予想される。
我々は、常時接続性と十分な通信品質をもつ低コストの制御チャネルをフレキシブルに実現できれば、制御に必要な高度な情報処理機能をサーバ側に備えることによって端末側機能を簡単化できると考えている。
端末を簡単化できれば自動車のみならず低価格な無人ビークル(UV)を用いた多様な応用を拡げることができると考えられる。本研究では、このような、UV のネットワーク型遠隔リアルタイム遠隔制御を実現する制御系の構成法の検討を行った。本稿では、まず制御チャネルの構成技術に関する検討結果を示し、制御サーバの配備法（クラウド構成法）に関する研究結果の概要を述べる。本稿の構成は次の通りである。まず第 2 章
で、セルラーネットワークの伝送品質をリアルタイム遠隔機器制御の観点から評価した結果を示し、課題を明らかにする。第 3 章で、制御チャネルの構成法について検討した結果を説明する。第 4 章でクラウド構成法について考察を行う。

2 ネットワークの伝送品質と課題
ネットワーク型リアルタイム遠隔機器制御を実現するためには、伝送遅延時間が少なく高信頼な制御チャネルが必要である。現在の商用の無線アクセスネットワークを利用して、このような制御を実現できる可能性を評価するために、まず、携帯電話やスマートフォン通信用途に広く普及しているセルラーネットワークの伝送品質の計測を行った。また、UV としてモデルカーを用いることとし、これにマイコンを搭載してセルラーネットワーク経由で制御信号を受信し、制御信号に応じて速度及び前輪の方向を操作する仕組みを実現し、セルラーネットワーク経由での UV 制御実験を行った。本章ではこれらの実験について述べ、制御チャネルを構成する上での課題をまとめる。本章記述の研究成果は発表資料 4, 5 として発表を行っている。
2-1 ネットワークの伝送品質
現在の商用のセルラーネットワークの、様々な場所における伝送品質を明らかにすることを目的として、携帯型通信端末にインストールすることができる伝送品質自動計測アプリケーションプログラムを作製した。

1
電気通信普及財団 研究調査報告書

本プログラムは Android OS で動作しているタブレットやスマートフォン（以下、Android 端末と呼ぶ）にインストールでき、インターネット中に固定設置した計測用 Web サーバとの間で往復遅延時間等の測定を実行できる。多数の Android 端末を同時に用いて、実際のセルラーネットワーク使用条件の下で、多数個所のデータを同時並行的に収集することができる。作成したプログラムの機能構成を図１に示す。測定できるパラメータは、往復遅延時間（RTT）・パケットロス率・パケット経路・スループットである。Android 端末の消費電力を節約して数日間にわたる継続的な計測を行うために、１セットの測定を 20 分間のプログラム休止時間を挟んで繰り返すこととした。１セットの測定では、20msec 間隔・100 回の Ping コマンドにより送出される ICMP パケット（端末によっては UDP パケット）によってパケットロス率を算出した。往復遅延時間もこれらの Ping コマンドによって測定した。パケット経路は trace route コマンドを利用して調べた。また、スループットはデータサイズが既知である測定用ファイルの送受信に要した時間を計測して求めることとした。
これらの測定データを、端末のセンサ等で得られる端末の内部情報（GPS 位置情報・時刻情報、通信キャリア種別、電波強度等のデータ）とともにデータファイル化し、計測用 WEB サーバに転送して記録した。

計測用WEBサーバ

スマートフォン（Android OS）
計測情報

ping

遅延時間／パケットロス率

trace route

パケット経路スループット（上下）

ファイル転送取得情報のファイル化
端末保有情報

位置情報

時 刻

通信キャリア

接続方式

電波強度IMEI

応 答

データ転送

ファイルの蓄積

図１ 伝送品質測定プログラムの機能構成図
防衛大学校 の学生 32 名のスマートフォンに本アプリケーションをインストールし、2014 年 11 月 20 日から 12 月 14 日までの期間にわたって、横須賀市にある防衛大学校の敷地内で計測を行った。計測用 Web サー
バは神奈川県川崎市内で商用の 100Mb/s の光アクセスサービスを利用しインターネットサービスプロバイダ経由でインターネットに接続した。
日本の主要な通信キャリア三社の LTE（Long Term Evolution(第４世代携帯電話)）回線について計測した
RTT の分布を図 2 に示す。横軸は RTT であり 2ms 幅毎にプロットしてある。縦軸はその幅に含まれる RTT 値が計測された頻度であり正規化して示した。いずれの通信キャリアについても RTT = 50 ms 近傍にピークがあることが分かる。本計測結果はキャンパスの範囲内における計測であり、各キャリア毎について同一の基地局経由で接続されていると考えられる。値が分布する原因として端末機種の違いや各端末におけるタスク実行状況の違いも考えられるが、端末単体での計測によって、これらの影響は 20 ms 程度以下に収まることを確認している。また、セルラーネットワークを介さない計測によってインターネット区間においては 5ms以上の遅延を生じることはほとんどないことを確認している。これらの結果から、図２に示した分布の主要な原因は、セルラーネットワーク区間の伝送品質変動によると推測した。

2電気通信普及財団 研究調査報告書

0.12
carrier A
carrier B
carrier C

Probability

0.1
0.080.06
0.04
0.02
0010050150

RTT [ms]
図２ 主要三キャリアのセルラーネットワークを介した伝送品質（往復遅延時間：RTT）の分布
パケットロスの測定の結果、全てのセットを総合したトータルのパケットロスは 1%に満たないことを確認できた。しかし、１セットの測定（20ms 間隔 100 回の ping）にわたって１度もパケットを伝送できない状況が少ない頻度ながらも生じることも分かった。このような状況が生じれば、UV の制御は不可能になると考えられるため、このようなパケットロスを補完する技術の開発が必須であると考えられる。
2-2 セルラーネットワークによる遠隔制御実験
前節で調べたような伝送品質の下でのネットワーク型遠隔制御の実現性と課題を明らかにするため、セルラーネットワークを介した模型自動車の操縦実験を行った。UV として模型自動車上に搭載したカメラで撮った前方映像（MJPEG, 30fps, 約 200kbps）をセルラーネットワーク及びインターネットとを経由して ControlStation（CS）に送り、人間が CS 上でこの映像を見ながら模型自動車を遠隔制御する実験を行った。実験の構成図を図３(a)に、また、防衛大学校内のビルの屋上に設置した１周約 70m の実験コースを図３(b)に示す。

(a)実験の構成図（ｂ）屋上に設置した実験コース
Trials
No. 1
No. 2
No. 3
No. 4
No. 5
No. 6
No. 7
No. 8
No. 9
No. 10
Average

Go-around time [s]
74.55
73.25
69.68
63.08
71.98
75.31
70.78
72.98
67.45
74.33
71.34

（ｃ）走行実験結果：周回所要時間
図３ セルラーネットワークによる遠隔制御実験3
電気通信普及財団 研究調査報告書

実験コースを１周するのに要した時間を 10 回のトライアルについて測定した結果を図３(c)に示す。周回時間の最小値は 63.1 秒(平均速度 4.0km/h)であった。10 回のトライアルを通じて制御不能になりコース逸脱を起こすことは一度もなく走行させることができた。ただし、頻度は少ないものの、CS 画面上の遠隔ビデオ映像において１秒以上にわたって映像が固定（フリーズ）してしまう現象をの発生を確認した。MJPEG の映像を構成するパケットの到着間隔を測定したところ、本来等間隔で到着するべきパケットが、時に大きな到着間隔を経た後に集団的に到着する現象が起こっており、この大きな時間間隔が映像フリーズを起こしていることが明らかになった。このようなパケット伝送上の現象を、我々は packet clogging と呼ぶこととした。
映像のフリーズは、UV の制御を著しく困難なものとする。packet clogging の影響を回避する技術の開発が必須であると考えられる。
2-3 課題以上の実験の結果、およびこれらを踏まえた考察によって明らかになったリアルタイム遠隔機器制御の制御系構成上の課題は次のとおりである。
（１）制御チャネルの通信品質確保の上で、パケットロスを補完すること、および、packet clogging を補完することが必須である。
（２）以上に加え、上記の実験では評価することができなかったが、UV が移動機器であることから移動に伴ってセルラーネットワークのセル境界を通過する際に発生するハンドオーバ時にも制御信号の連続性を確保する技術が必要である。
（３）さらには、Vehicle 制御プロセスへの不正アクセスの防止技術は、反社会的な利用を防止する上で必須である。

3 制御チャネル構成法
前節で述べた課題（１）、（２）については、パケットロスや packet clogging による品質劣化を、複数の無線ネットワークを同時に利用して劣化を補う仕組みを導入することにより改善できると考えた。制御信号として特に映像信号に着目し、並列伝送を行う制御チャネルの構成法を検討した。本章記述の研究成果は発表資料 1-3,6,7 として発表を行っている。
Dual Transmission Protocol(DTP)と名付けた並列伝送を行うプロトコルを提案した。データリンク層として別々な２つの無線ネットワークを用いる。送信側の UV は同じ映像信号を運ぶ UDP パケットフローを、これらの双方に並列的に送信し、受信側の CS はパケットに付されたシリアル番号を参照し先着したパケットを選択的に取得して映像表示アプリケーションへ渡す。この提案方法を、送信側（DTP-s）および受信側（DTP-r）
機能により実現した。DTP-s は信号フレームにシリアル番号を順次付与し、これらのフレームを DTP-r に向けて送信する。送信直前に各フレームを複製し、複製したフレームを独立な二つの無線アクセス網を通じてDTP-r に向けて送信する。DTP-r はフレームが到着するとシリアル番号を調べ、既に受信済またはより古い番号である場合にはこのフレームを受信せず破棄する。受信フレームから信号を再生する。
DTP を用いれば、片方の無線アクセス網においてフレームのロスや遅延が発生した場合でも、再送制御のように時間を要することなく、もう一方の無線アクセス網を通じて到着したフレームを用いてロスや遅延を補うことができる。
DTP の実現性と映像伝送特性の改善の程度を評価するため、DTP-s、DTP-r を実装した。これらを用いて構成した実験ネットワークを図４に示す。DTP-s・DTP-r は、それぞれ、Sender・Receiver の PC 上に JAVA プログラムとして実装した。これらに加え、ハブ、およびネットワークインターフェースを用いて実験網は構成されている。Sender・Receiver はいずれも WindowsPC である。Sender の内蔵カメラと JAVA Media Frameworkを使って解像度 640×480 ピクセルの JPEG フレームを約 9.8fps のレートで連続出力させた。DTP-s は JPEG
フレーム単位に上述の動作を行い、network1 上の ch.A、および network2 上の ch.B を通じフレームを並列伝送する。Receiver 内の DTP-r は上述の DTP の動作を行い JPEG フレームを出力する。本実装ではトランスポート層プロトコルとして UDP を用いた。また、network1・2 として、それぞれ、IEEE 802.11g（実測スループット 19.412Mb/s）・802.11a（同 32.14 Mb/s）の無線 LAN を用いた。

4
電気通信普及財団 研究調査報告書

図４

DTP 評価のための実験ネットワーク

DTP によるフレームロス率の改善の効果を図５に示す。実験室に実験網を設置し、network1・2 の無線 LANアクセスポイント（AP）を Receiver に隣接させて置いた。Sender との間を結ぶ両 network の無線区間はほぼ等距離として Sender の位置を変化させた。横軸は AP からの Sender の位置を距離として示している。本実
験環境では無線区間の距離が 40m を超えると ch.A、ch.B ともにロスが生じた。折れ線グラフはこのような状況においても DTP を適用することによりロスを低減できていることを示している。本実験ではフレーム順序の逆転が生じると古いフレームはたとえ届いたとしても廃棄することとした。同図中の棒グラフはこの影響も含めたフレーム廃棄率を示している。44m 地点で ch.A の特性が劣化している状況ではこの廃棄率も特に大きくなってしまうことが分かる。

図５

DTP によるフレームロス率の改善効果次に、DTP を適用した場合と適用しない場合の遠隔制御の特性を、室内に実験コース（12.5m, 道幅 0.70m）を用意し遠隔制御で周回作業に要する時間を計測することにより評価した。途中に設置した中継ノードにおいてロスをランダムに発生させフレームロス率を変化させた。操縦者が 3 回の走行を行い、周回に要する時間を図６に示した。フレームロス率が 60%を超えると映像の品質が劣化し遠隔制御が困難で周回時間が著しく増加する。DTP を適用した場合には、チャネルあたりのフレームロス率が 70％程度になっても周回時間の増加の程度は小さいことが分かった。
以上の検討から、複数の無線ネットワークを同時に利用して、並列伝送を行うことにより、フレームロスを低減でき、遠隔制御が困難、または不能となる状況の発生頻度を削減し得ることが分かった。

5
電気通信普及財団 研究調査報告書

図６ 周回時間のフレームロス率依存性

4 クラウド構成法
本章では、コンピュータ上の制御プロセスが制御主体となって遠隔制御を行うモデルに関し、制御プロセスを動作させるサーバ（制御サーバ）の配備法に関する考察の概要を述べる。本章記述の研究成果は発表資料 8 として発表を行う。
街中に多数の Vehicle が稼働し、それぞれその Vehicle は自動制御する制御プロセスによって制御されている状況を考える。制御プロセスが動作する制御サーバの設置形態を個別型・集中拠点型・ローカル拠点型に分類した。a)個別型は制御プロセスが動作するサーバを、FTTH 等の普及型アクセスリンクを介して接続した形態である。b)集中拠点型は、このような Vehicle 制御に特化したサーバを考え多数の Vehicle について制御プロセスを１か所のデータセンタに集中化した形態である。c)ローカル拠点型はこのようなデータセンタを地域毎に分散配備しそれらのうち Vehicle の最寄りのものを利用する形態である。
前章で述べた制御チャネル構成法を考慮し、制御システムを構成する上で重要と考えられる３つの観点：
伝送遅延、独立２経路の確保、及びサーバへの不正アクセスに対する強さについての考察結果を図７に示す。

図７

サーバ配置の評価

個別型で共用型のアクセスリンクを用いている場合には、同じリンクに多重化される他のトラフィックの影響を免れず、伝送遅延時間が大きくなる可能性が高い。特定の拠点のデータセンタのサーバ内において制御プロセスを動作させ、この拠点を高速なアクセスリンクで接続することがリアルタイム性を確保するためには有効であると考えられる。また、Vehicle が活動する場所に近い場所に拠点があれば伝送遅延時間の増大を回避できると考えられる。前章で述べた制御チャネルを実現するためにはネットワーク内で複数経路を確保することが必要である。複数経路を確保するコストは、制御プロセスと Vehicle との間の距離が比較的近い c)ローカル拠点型が最も有利であると考えられる。不正アクセスに対する強さの観点でも、専用のデー

6
電気通信普及財団 研究調査報告書

タセンタにプロセスを集中化する形態が最も有利であると考えられる。
ローカル拠点型の構成イメージを図８に示す。本構成において、Supervisor からの行先指示等のリアルタイム性の少ない指示に基づき、ローカルサーバ内の制御プロセスがリアルタイムに Vehicle を制御する。サ
ーバ-Vehicle 間は常時複数の無線データリンクで接続され、サーバは常に最適経路を選択して制御信号通信を行う。

図８

ローカル拠点型のサーバ構成

5 まとめ
無人 Vehicle の遠隔制御を低コストで実現することを目指して、セルラーネットワークなどの普及型の無線アクセスネットワークを適用した制御系の構成法を検討した。現在利用できるモバイル・ブロードバンドネットワークサービスである LTE サービスを利用して、遠隔制御を行う実験を行い、適用可能性と課題を示した。
まず、制御系の構成法として制御チャネル構成法を検討した。必ずしも通信品質が安定しない無線アクセスネットワークを利用しながら、制御信号を高信頼かつ高品質に伝送することを可能にする並列伝送を適用することを提案し、提案法により制御の特性が改善できることを示した。
次に、制御系の構成法の重要な項目である制御プロセスを稼働させるサーバの配備方法を検討した。通信品質確保の観点からは、伝送遅延時間を最小化し複数経路を確保することが比較的容易な、ローカル拠点型のサーバ配置が有効と考えられることを示した。
以上述べたような制御系を構成する場合、図７に示した評価項目に加えて Vehicle 当りのコストが重要になる。このような遠隔制御型 Vehicle の普及の程度とそれを実現する最適コストの制御系構成の有り方については今後の重要な検討課題である。

【参考文献】[1] P. E. Ross: "When Will We Have Unmanned Commercial Airliners?", IEEE Spectrum, Nov., 2011,
http://spectrum.ieee.org/aerospace/aviation/when-will-we-have-unmanned-commercial-airliners[2] 三浦龍,他, "小型無人航空機を用いた災害時無線中継システムの開発," 2013 信学総大, BI-2-6, p.SS-70,
Mar. 2013.
[3]Timothy X Brown,他:"Policy-Based Radios for UAS Operations," IEEE GLOBECOM2012, The 3rd Int.
WS on Wireless Networking & Control for Unmanned Autonomous Vehicles..., 2012.
[4] 通信総合研究所:"ブロードバンド国際インターネットによる共同実証実験-日韓親善 IP コントロールカーレース," http://www2.nict.go.jp/pub/whatsnew/press/030728/030728.html, 2003

7
電気通信普及財団 研究調査報告書

[5]手島孝人,他:"オンラインゲームを用いたネットワーク品質の大規模計測," 電子情報通信学会論文誌 B,vol.J92-B, no.10, pp.1566-1578, 2009.
[6]金井俊介,他: ”光アクセスネットワークでの帯域保証型サービスの収容設計プロセス, "電子情報通信学会
論文誌 B, vol.J94-B, no.7, pp.812-821, 2011.
[7]H. Nguyen:"End-to-end reference QoS architecture for 802.11 WLAN," IEICE Trans. Commun., vol.
E93-B, no.6, pp.1350-1358, 2010.
[8]赤瀬謙太郎,他: "無線 LAN を考慮した帯域確保 TCP のスロースタートしきい値設定方式," 電子情報通信学会論文誌 B, vol.J93-B, no.2, pp.153-165, 2010.
[9]G. Goth: "Software-Defined Networking Could Shake Up More than Packets," IEEE Internet Computing,vol.15, no.4, pp.6-9, 2011.
[10]山田一久, 他: "将来網に向けたネットワーク・情報処理統合マネジメント技術," NTT 技術ジャーナル,vol.24, no.3, pp.19-22, 2012.

〈発題

名1. リアルタイム遠隔機器制御のための無線
LAN 並列伝送プロトコルの特性評価
2. リアルタイム遠隔機器制御のための高信
頼制御信号伝送技術の検討
3. Dual transmission protocol for video
signal transfer for real-time remotevehicle control
4. モバイル端末の GPS 時刻を用いた片道伝送遅延時間測定の測定精度
5. スマートフォンを用いた伝送品質自動計
測アプリケーションの検討
6. リアルタイム遠隔機器制御のための映像
信号並列伝送機能の実装
7. Implementation of dual transmissionfunction for remote vehicle controls
8. ネットワーク型遠隔 Vehicle 制御システ
ム構成法の考察

表資料〉

掲載誌・学会名等

発表年月

電 子情 報通 信学 会技術 研究報告
[通信方式], vol. 114, no. 119,
CS2014-21, pp. 25-30
電子情報通信学会 2014 ソサイエテ
ィ大会, B-8-22, 通信講演論文集
2, p.132
Proc. APCC2014, pp.315-320,(Pattaya, Thailand).
電 子情 報通 信学 会技術 研究報告
[通信方式], vol. 114, no. 289,
CS2014-56, pp. 13-18
電子情報通信学会 2014 総合大会,
B-8-18, 通信講演論文集 2, p.
262
電子情報通信学会 2015 総合大会,
B-8-40, 通信講演論文集 2, p.
284
Proc. APSITT2015(Colombo, SriLanka)
電子情報通信学会 2015 ソサイエテ
ィ大会[投稿中]2014 年 7 月

2014 年 9 月

2014 年 10 月

2014 年 11 月

2015 年 3 月

2015 年 3 月
2015 年 8 月
2015 年 9 月

8電気通信普及財団 研究調査報告書