情報・システム研究機構シンポジウム 2 0 1 1

実ネットワークにおける想定内と想定外
平成24年2月15日
国立情報学研究所
漆谷 重雄© 2012 National Institute of Informatics

1

講演内容
１．通信ネットワークとレジリエンス

２．ネットワーク被災例（NTT東日本）
被害大通信ネットワーク

３．ネットワーク被災例（ＳＩＮＥＴ４）

４．変化する「想定外」

サービスとしての被害はなし© 2012 National Institute of Informatics

2

通信ネットワークとレジリエンス ～ 電話網 ～ 装置の高信頼化：

完全冗長構成化、サービス無中断ソフトウェア更新、徹底した動作検証

 回線経路の冗長化： 二重帰属や動的経路選択（条件は事前設定）
 停電対応：大型バッテリー、自家発電装置、各電話機への給電 輻輳制御：輻輳時に全国の装置に対して接続規制
接続規制

輻輳制御
システム
故障監視
設備保守

動的経路選択（条件事前設定）

高信頼交換機故障受付（113等）

高信頼交換機二重帰属
輻輳検出

高信頼交換機

通話用帯域割り当て

高信頼交換機給電© 2012 National Institute of Informatics

3

通信ネットワークとレジリエンス ～ インターネット ～ 装置の高信頼化： キャリアグレードの追及（向上中） 経路冗長化・迂回： 経路は自律分散で決定、故障時は経路再計算により自動的に迂回 輻輳制御：ネットワーク側では廃棄、ユーザ側で再送・レート制御（アプリケーションが遅延やデータ再送を許容、高多重に伝送可）

故障監視
設備保守

自律分散で経路計算（故障時再計算）
ルータ

故障受付

ルータ

輻輳時
データ廃棄
ルータ

通信データがある
ときのみ帯域利用ルータ

データ再送・レート制御 4© 2012 National Institute of Informatics

東日本大震災とネットワーク被災例～NTT東日本～
 大規模地震・大津波により、お客様宅～通信ビル間の設備、通信ビル・通信装置、通信ビル間回線など、甚大な被害が発生
 広域・長期間に及ぶ停電により予備電源の蓄電池が枯渇し、被害が拡大
資料提供：NTT東日本

携帯基地局

４

長期間停電による予備電池枯渇

通信ビル

２

通信ビルの水没・流失・損壊

１

電柱倒壊
ケーブル切断

通信ビル
お客様宅

商用電力
河川３ 中継伝送路切断© 2012 National Institute of Informatics

5広域かつ長期間の停電
 地震・津波による発電所の停止や変電、送電、配電設備の損傷により東北を中心とした広域での停電が長期間発生
資料提供：NTT東日本

停電なし

停電の範囲

全域

商用電源が停電
した通信ビル数990ビル

3月11日（金）

750ビル

400ビル

100ビル

3月12日（土）

3月13日（日）3月18日（金）© 2012 National Institute of Informatics

6

NTT東日本のネットワーク被災規模
 東日本大震災による被災規模は、阪神・淡路大震災と比較して、大規模で広範囲
データ提供：NTT東日本

項 目

東日本大震災

阪神・淡路大震災

発災時期

2011年3月

1995年1月

マグニチュード

9.0

7.3

ピーク時のトラフィック

約9倍

約50倍

機能停止ビル385ビル

─り障回線数

約150万回線

約28.5万回線

通信ビル

全壊16ビル、浸水12ビル

─

電柱

約28,000本（沿岸部）

約3,600本

架空ケーブル

約2,700km（沿岸部）

約330km約50日

約2週間

設
備被害

サービス回復時間© 2012 National Institute of Informatics

7

NTT東日本における復旧活動
 最大6,500人による復旧活動により、約50日で380/385*の通信ビル機能を応急復旧
 早期のサービス回復には、現時点では、統率のとれた大人数による応急措置が必要*) 残りの宮城県の2ビル（出島・江島）、福島県の3ビルについても9月までに機能回復

非常用通信手段の確保
衛星通信装置による• 特設公衆電話の設置（1202か所）• インターネット接続（450か所）

データ提供：NTT東日本

通信サービスの応急復旧• 他通信ビルからの通信設備の張り出し• 仮設電柱の建設によるケーブル敷設• 自治体や病院等の重要回線の優先復旧

電力設備の仮復旧• 100台を超える移動電源車• タンクローリーによる燃料輸送• 2か月後も18ビルが自家発電© 2012 National Institute of Informatics8学術情報ネットワーク（SINET）
 日本全国の700以上の大学や研究機関等の間を接続する超高速の情報通信ネットワーク
 学術研究・教育の生産性や質の向上、新しい未来価値や知的ブレークスルーの創出を支援
電波望遠鏡

核融合実験装置

高エネルギー実験装置

スーパー
コンピュータ

研究教育
クラウドなど

LHC

ITER
(建設中)

電波望遠鏡

GENAT2 （欧州） 等
TEIN3 （アジア・欧州）
Internet2 （米国）

地震観測器

海外商用ネットワーク

SINET(Science Information NETwork)

大学LAN

ユーザ

研究機関LAN

サーバ
ユーザ

大学

GW
(IX)

ユーザ

国内商用ネットワーク

LAN

コンピュータ
ユーザ

企業等

研究機関
© 2012 National Institute of Informatics

9

SINET4のネットワーク構成
 日本全県に通信ノードを配備し、700以上の大学や研究機関等を収容
 北海道から九州までを40Gbpsベースの超高速回線で接続 データセンタ、回線冗長化、高速迂回機能実装など十分な高信頼化を実施（次頁）

回線
ＩＰルータ＆L1スイッチ
L2スイッチ＆L1スイッチ

ノード
回線
ノード

大学等

：40Gbps：10Gbps：2.4Gbps

米国・欧州

アジア
© 2012 National Institute of Informatics

10

SINET4の高信頼化設計
 SINET4では、以下の設計・構築ポリシーにより、高信頼化を実現(1) 全ノードのデータセンターへの設置（安定した給電と耐震性を確保）(2) 全回線の異経路二重化（現用系と予備系）(3) 中継ノード間での迂回経路確保(4) 論理サービスネットワーク（ｲﾝﾀｰﾈｯﾄ, L3VPN, L2VPN, L2OD, L1OD）毎の高速迂回機能実装(3) 迂回経路(4) 論理サービスネットワーク毎の高速迂回機能(2) 二重化回線
中継ノード(1) データセンタ

中継ノード• 非常時に10時間以上の無給給電• 阪神・淡路大震災
レベルへの耐性ノード© 2012 National Institute of Informatics

11

SINET4の被災状況（ノード） 全ノードをデータセンタ（内陸部）に設置したことで、大地震時にも正常動作を確保
 震度７の地震に対しても、耐震設計により、ノード故障・丌具合は未発生
 長時間停電の際にも、非常用電源供給装置等により、商用電源の回復まで給電を継続

札幌

弘前

17h山形

金沢

28h

96h
郡山

大阪

仙台

震源

： 停電（数字は停電時間）

重要拠点ビルであったため優先的に燃料を確保

名古屋
東京© 2012 National Institute of Informatics

12

SINET4の被災状況（回線） 異経路二重化回線と迂回経路のおかげで、全エリアで通信経路を確保• ７回線の現用系が切断。仙台－東京間、仙台－金沢間は予備系も切断（＝回線断）• しかしながら、すべてのエリアで迂回経路を確保でき、東北エリアは孤立を回避 サービス毎の迂回機能は、確保できた通信経路へ即座にトラフィックを迂回

： 現用系

： 現用系
： 予備系

札幌

： 現用系

札幌

： 現用系
： 予備系

弘前

弘前

金沢

山形

仙台

金沢

山形
郡山

郡山

地震前
東京

仙台
震源

地震後
東京
© 2012 National Institute of Informatics

13変化する「想定外」
通信ネットワーク設計における想定内

想定外の事象阪神・淡路大震災• 原則、多重故障を含め様々な障害を想定し設計• 実際の仕様は、費用対効果を吟味して決定（確率の低い「想定内」は「想定外」として妥協）

反映• 耐震性丌足による通信ビルの倒壊• 固定環境の丌備による通信機器の損壊

東日本大震災• SINETにおいても、限られた予算内で、「高速性」、「高機能性」、「高信頼性」を同時に追求• 「想定外」が起きたら次回は「想定内」

今後の対策• 津波による通信ビル・設備の壊滅的破壊• 補給燃料丌足による通信ビルの機能停止• 計画停電・電力丌足等によるユーザ基盤装置（サーバ、ストレージなど）の停止
反映• 経路の多ルート化、通信ビルの高台・内陸部への移動、発電用補給燃料の備蓄• 通信ネットワークを活用したユーザ基盤装置の地理的分散化、クラウド設備の活用© 2012 National Institute of Informatics

14将来の対策（一案） 住宅（避難場所含む）～通信ビル間の通信環境を柔軟に応急構築する技術が必要 道路、電力設備、通信設備、自動車を含めた生活インフラ全体としての高信頼化が必要• 電柱の乱立（倒壊が被害をさらに拡大）• 災害時は仮設電柱等により他ビルへ収容• 通信ビルのみ非常用バッテリー保有

通信ビル

通信ビル

• 電柱なし• 災害時は無線系リレーで他ビルへ収容• 自動車等が非常用バッテリー・基地局

通信ビル

通信ビル

非常用基地局
非常用
ﾊﾞｯﾃﾘｰ

電力設備
変圧器

現在

将来
© 2012 National Institute of Informatics

15

ご清聴ありがとうございました！

© 2012 National Institute of Informatics

16