学術研究ネットワークにおけるネットワーク計測
池田 貴俊
NICT/KDDI
Ikeda ‘at’ kddnet.ad.jp
コミュニケーションクオリティ研究会
第7回QoSワークショップ
2009/11/20

目次• 学術研究ネットワーク• ネットワーク性能計測• perfSONAR• perfSONARの展開• まとめ

第7回QoSワークショップ (2009/11/20)

学術研究ネットワーク• テストベッドネットワーク– 先進的技術の実験・検証用• ネットワーク研究– センサーネットワーク– Future Internet• アプリケーション開発– 高精細映像伝送– E-Science アプリケーション• 学術情報インフラ– 学術研究及び教育活動のインフラ• 科学技術振興– 物理学研究– 宇宙科学

• 教育
– e-Learning– 知的情報の共有
第7回QoSワークショップ (2009/11/20)

ネットワーク性能計測

第7回QoSワークショップ (2009/11/20)

多い問い合わせ
② アラームもなく，特にネットワーク機器での障害は発生しておりません．

① あるホストとの通信で速度がでないんだけど，ネットワークに異常はないですか？

③でも，100Mbpsで接続しているのに10Mbpsしか出ないんですけど，，，④ トラヒックを確認しましても，特に輻輳はございません．
研究者⑤ そうですか，，，でも，何かあると思いますが．

「絶対ネットワークがおかしい」

運用者

⑥ ．．．

「ネットワークの異常は検知してない。
ホスト側だろう」
5End-to-End性能問題の要因
ネットワークホスト• ハードウェアの性能• TCP ウィンドウサイズ• NICバッファサイズ• NIC 速度とデュプレックス• アプリケーション

Host
29%

23
caseNetwor
k71%• ネットワークの品質劣化• ネットワークの輻輳• 機器の高負荷or障害• 予期しない経路制御*Problems inquiredat APAN Tokyo XP NOC

ネットワーク運用者の役割•ネットワーク性能劣化を検知する•ネットワーク内の要因を探し出し，解決する•ネットワーク内に要因がないことを証明する
ネットワークの性能計測が必要
6一般的な計測
計測メトリック

計測手法

ツール

ネットワーク到達性Ping

HP OpenView NNM，NagiosRTT（往復遅延）

Ping

Smokeping

機器MIB情報（IFラヒック，CPU，メモリ使用率等）

SNMPによりMIB各種情報を取得し，グラフ作成

MRTG，
RRDtool

パケットフロー

Netflow

Peakflow7高時間分解能トラヒックグラフ•••

高時間分解能（１０秒毎）でMIBデータを取得
RRDtoolでグラフ表示
SNAPP– RRDtoolのフロントエンド– 米国インディアナ大 GlobalNOCにて開発– http://sourceforge.net/projects/snapp/•APAN-JP NOCデータ

snmpget 10秒毎

SNAPP

約800Mbps– http://nms2.jp.apan.net/snapp/【利点】• 5分間隔でデータ取得するツールと比較して、より細かいトラヒックパターン、ピーク値を表示可能。
• トラヒック発生後、10秒後にはグラフで表示されるため、準リアルタイムでトラヒックを確認可能

Cricket（5分毎）
約2.5Gps

第7回QoSワークショップ (2009/11/20)

SNAPP（10秒毎）

MIBデータTraffic Weather MAP•••

リンク利用状況をMAP上に表示
RRDデータを利用
APAN-JP weather MAP– http://monitor.jp.apan.net/weathermap/【利点】– 複数リンクの現在のリンク利
用状況が一目で把握– トラヒックの流入、流出が一目瞭然– デモ、イベント時のトラヒック
監視に便利↑ APAN 国際リンク↑ APAＮ内リンク
第7回QoSワークショップ (2009/11/20)

スループット計測••

TCP，UDPのスループットを定常およびオンデマンドで計測
Iperf + BWCTL– Iperf - ネットワークスループット性能計測• http://www.dast.nlanr.net/Projects/Iperf/– BWCTL – Iperfの実行スケジューリングとポリシー管理• http://e2epi.internet2.edu/bwctl/

TCP/UDP
スループット計測【利点】– 実際にトラヒックを流し，計測することでユーザ環境に近い計測が可能– 各主要ノードに配置することで，End-to-End性能問題発生時の切り分けが容易となる．
– クライアントにIperf/BWCTLを導入すればクライアントとネットワーク間で計測

Performance ProblemClient
第7回QoSワークショップ (2009/11/20)

Serverルーティング計測• Compath Tool
学術研究ネットワークにおいて、非効率、ポリシーに反する経路を自動検知し、それを表示するツール– 機能• ルートビューサーバ（Quagga）で、世界の学術研究ネットワークとBGPピアし、経路情報を収集– 現在27ピア• 各学術研究ネットワークのルーティングポリシーを収集• ルーティングポリシーと実際のルーティングが異なる経路を検知• 明らかに非効率な経路の検知– 大陸間ルーティング （Asia -> Internet2 -> Asia）• 検知した結果をWEBに表示– http://compath.jp.apan.net/
第7回QoSワークショップ (2009/11/20)

ルーティング計測（続き）

Compare the routewith policy

R&E Route view serverCheck the routes

Unexpected routing

Current routing information

inefficient routing
12perfSONAR

第7回QoSワークショップ (2009/11/20)

既存の計測システム• ドメイン毎の計測システム•異なる計測ツールの採用

マルチドメインへの対応に課題

同計測メトリックに対する計測手法
保存フォーマット

ドメイン間の問合せ/データ交換
計測データの比較
ドメイン間での性能計測実施•異なるユーザインターフェース
データ公開手法（WEB，専用アプリ）
グラフフォーマット

•異なる計測ポリシー
データ公開ポリシー

問合せ

計測A

問合せ/データ交換

計測B

計測B
計測A

End-to-End通信
第7回QoSワークショップ(2009/11/20)

Overview• perfSONARとは？
– マルチドメイン対応計測ミドルウェア• ドメイン間でのNW計測連携のための枠組み。
• 実計測システムと可視化アプリとの間に位置• 実計測システムの差を吸収• マルチドメインネットワークで– ネットワーク性能計測の実施– 計測データの公開 、交換
例えば、これを利用して、- マルチドメインネットワークのステータス監視- 複数メトリックのネットワークデータを自分好みに表示
15

Overview (Cont.)• アーキテクチャ– SOA（service-oriented architecture）• Webサービスベース SOAP API
• 分散型

– 統合:
• Network measurement tools and data archives• Data manipulation– 標準化:• OGF Working Group– Data : NM-WG（Network Measurements Working Group）– Protocol : NMC（Network Measurement & Control WorkingGroup)– Network Topology :Network Markup Language WG• プロジェクト
– ESnet, GEANT, Internet2, RNP等がジョイント– 現在の参加者• http://www.perfsonar.net/partners.html
16perfSONAR
UserInquiry / Answer

•

NOC A

ネットワーク間にまたがって、ネット
ワーク計測ツールの利用および計測データの収集「業界標準（OGF)」の通信方式およびデータ形式を利用•
NMWG XML scheme

Service A

Service forMetric A

Domain A

MetricA

Domain A

Service B

Domain B

Service forMetric B

MetricB

MetricA

Domain B
End-to-End performance
第7回QoSワークショップ (2009/11/20)

Domain C

MetricA

MetricB

Domain C
17

Services
サービス
情 Lookup Service（LS)報 Topology Service(TopS)
系
Authentication Service(AS)サービス内容各種perfSONARサービスの登録と検索
ネットワークトポロジーの公開
サービス利用の認証，承認

計測の実行とデータの公開
計 Measurement Point
測 Service（MP)系 Measurement Archive Service 保存計測データの公開（MA)Transformation Service（TS)計測データの変換、加工

Resource Protector
Service（RP)

計測リソースの管理（競合の仲裁）

18

Implementation
perfSONAR-PS 3.1

Developer

GEANT2 and EU folks

Internet2 and U.S. folks

Language

JAVA

Perl

LS

Lookup Service(gLS, hLS)

Lookup Service (gLS, hLS)

TopS

-Topology Service

AS

Authentication Service-MP

SSH Telnet MP
Command Line
BWCT MPpingER

MARRD MA
SQL MA

perfSONAR-BUOY
SNMP MA
StatusCircuit Status

TS--RP--Measurement

Information

perfSONAR MDM v3.1

19

perfSONARサービス動作例
例１） インターフェース使用状況

例２） 遅延計測

Client B

Client A

a. 遅延計測用MPの検索

1. Interface使用状況
データ用MAの検索

6. 表示

6. 表示
c. 遅延計測要求

3. データ取得要求

5. データ

2. MA-Ae. データb. MP-B

LS
MA-A

MP-A

4. 対象データの抽出d. 計測実行

DelayUsage
性能計測

第7回QoSワークショップ (2009/11/20)

SOAP Message
ClientRequest
DataServiceRequest

Data<nmwg:message id="msg1"
type="SetupDataRequest"
xmlns:netutil="http://ggf.org/ns/nmwg/characteristic/utilisation/2.0/"
xmlns:nmwg="http://ggf.org/ns/nmwg/base/2.0/"
xmlns:nmwgt="http://ggf.org/ns/nmwg/topology/2.0/"
xmlns:select="http://ggf.org/ns/nmwg/ops/select/2.0/"><nmwg:metadata id="tpr5-1"><netutil:subject
xmlns:netutil="http://ggf.org/ns/nmwg/characteristic/utilisation/2.0/" id="test"><nmwgt:interface xmlns:nmwgt="http://ggf.org/ns/nmwg/topology/2.0/"><nmwgt:ifAddress type="ipv4">192.168.0.1</nmwgt:ifAddress><nmwgt:direction>in</nmwgt:direction><nmwgt:hostName>hostname</nmwgt:hostName><nmwgt:ifName>so-1/1/0.0</nmwgt:ifName></nmwgt:interface></netutil:subject><nmwg:eventType> http://ggf.org/ns/nmwg/characteristic/utilization/2.0</nmwg:eventType></nmwg:metadata>

Metadata<nmwg:data id="data1" metadataIdRef="tpr5-2"/></nmwg:message>

Data

Metadata<nmwg:message xmlns:nmwg="http://ggf.org/ns/nmwg/base/2.0/" messageIdRef="msg1"
id="message.5619252" type="SetupDataResponse"><nmwg:metadata
xmlns:nmwg="http://ggf.org/ns/nmwg/base/2.0/" id="metadata.9571913" metadataIdRef="tpr5-2"><netutil:subject xmlns:netutil="http://ggf.org/ns/nmwg/characteristic/utilization/2.0/" id="tpr5-s-in-netutil29"><nmwgt:interface xmlns:nmwgt="http://ggf.org/ns/nmwg/topology/2.0/"><nmwgt:ifAddress type="ipv4">192.168.0.1</nmwgt:ifAddress><nmwgt:hostName>hostname</nmwgt:hostName><nmwgt:ifName>so-1/1/0.0</nmwgt:ifName><nmwgt:ifDescription>Description</nmwgt:ifDescription><nmwgt:ifIndex>29</nmwgt:ifIndex><nmwgt:direction>in</nmwgt:direction><nmwgt:capacity>10000000000</nmwgt:capacity></nmwgt:interface></netutil:subject><nmwg:eventType>http://ggf.org/ns/nmwg/characteristic/utilization/2.0</nmwg:eventType><nmwg:eventType>http://ggf.org/ns/nmwg/tools/snmp/2.0</nmwg:eventType></nmwg:metadata><nmwg:data metadataIdRef="metadata.9571913" id="data.6546994"><nmwg:datum timeType="unix" value="1.9313008150e+07" valueUnits="Bps" timeValue="1222307360"/><nmwg:datum timeType="unix" value="1.9043827930e+07" valueUnits="Bps" timeValue="1222307380"/><nmwg:datum timeType="unix" value="1.7634486450e+07" valueUnits="Bps" timeValue="1222307400"/><nmwg:datum timeType="unix" value="1.6736562060e+07" valueUnits="Bps" timeValue="1222307420"/></nmwg:data></nmwg:message>

第7回QoSワークショップ (2009/11/20)

Data利用例１• マルチドメインTraffic WeatherMAP– インターフェース利用状況をEnd-to-Endで確認– ボトルネック箇所の特定，パケットロス箇所の特定などが容易

IF Usage Data

MAUsage

Domain A

MAUsage

第7回QoSワークショップ (2009/11/20)
Domain B

MAUsage

Domain C利用例２• e2e Link Monitoring– End-to-EndでL2 パスの監視確認– 障害箇所の特定が容易

L2 Path Status

MA

PortStatusMA

MA

PortStatus

PortStatus

第7回QoSワークショップ (2009/11/20)
Domain A

Domain B

VLAN XX

Domain C

perfSONARの展開

第7回QoSワークショップ (2009/11/20)

展開マップ2009/1現在

第7回QoSワークショップ (2009/11/20)

サービスリスト• グローバルサービスリスト– http://dc211.internet2.edu/cgibin/perfSONAR/serviceList.cgi

第7回QoSワークショップ (2009/11/20)

日本での展開計画
Deployment Services
gLS
hLS
SNMP MA

PS-BUOY(BWCTL)PS-BUOY(OWAMP)
L2 Status

Fukuoka

FukuokaOsakaTokyo

Tokyo *2

第7回QoSワークショップ (2009/11/20)

KashimaJGN2plus プラットフォームサービス－ 計測サービス －• サービスサービス

提供データ

perfSONAR-PS

段階

Lookup各サービスの登録と検索

Lookup

提供可MAInterface（IF) 利用状況

SNMP MA

MP&MA

スループットperfSONAR-BUOY(BWCTL)

MP&MA

片方向遅延

perfSONAR-BUOY(OWAMP *)Topology

ネットワークトポロジー

ToplogyMA

L2パス

Circuit Status MA
Status MA

来年を予定* OWAMP – One-Way Active Measurement Protocol• ノード– NICT大手町，大手町AP，NICT鹿島，大阪堂島，福岡– タイ、シンガポール、香港（検討中）
第7回QoSワークショップ (2009/11/20)

JGN2plus プラットフォームサービス－ 課題と今後の予定－• プロモーション– 各種会合においての発表– デモ、実験の実施• 利用者支援– 利用マニュアル、利用例の作成– 利用者初期導入支援• 他ドメインとの連携– 国内R&Eネットワークへの導入支援– 国外R&Eネットワークと連携した計測環境構築
第7回QoSワークショップ (2009/11/20)

まとめ

第7回QoSワークショップ (2009/11/20)

まとめ• 学術研究ネットワーク– テストベッドネットワーク– 学術情報インフラ• End-to-End性能問題– 7割はネットワークに要因– 調査、解決には、ネットワーク性能計測が必要• ネットワーク性能計測– 高時間分解能トラヒックグラフ– Traffic Weather MAP– スループット計測– ルーティング計測• perfSONAR– インタードメインでの計測、データ交換の枠組み– 世界の学術研究ネットワークが展開– JGN2plusプラットフォームサービス
第7回QoSワークショップ (2009/11/20)

参考資料
•

JGN2plus–•

SINET3–•www.perfsonar.net

Internet2 perfSOANR-PS–•

http://www.internet2.edu/performance/

perfSONAR–•

http://globalnoc.iu.edu/

Intenet2 performance–•

http://www.jp.apan.net/noc/

Indiana University Global NOC–•

http://www.apan.net/

APAN-JP NOC–•

http://www.sinet.ad.jp/

APAN
–

•

http://www.jgn.nict.go.jp/

http://www.internet2.edu/performance/pS-PS/

APAN perfSONAR–

http://www.jp.apan.net/noc/perfSONAR/

第7回QoSワークショップ (2009/11/20)

ご静聴ありがとうございました！

第7回QoSワークショップ (2009/11/20)