[添付資料4-1-3] SS研 Grid Computing 2004 WG 第5回会合資料

RIKEN
RIKEN

Advanced Center for Computing and Communication

2006/3/6

RIKEN
RIKEN

Advanced Center for Computing and Communication

NAREGI α版導入
• 自分でインストールするつもりであったが．．．
– α版でマニュアルが整備されていないなどの理由で自分ではやりませんでした．

• NIIから人が来て作業– 少しトラブルは有ったが概ね1半～2日作業– 多分2,3日あれば自分でも出来る気がする– 今となっては自分でインストールする時間があったかどうかは分かりません
が．．．．．

NAREGIα版の雑感• ハードウェアは既存のPCクラスタを流用

黒川 原佳
理化学研究所 情報基盤センター– 10ノードのクラスタを利用– 全てのノードはRH9• NAREGIα版はRH8をターゲットにしていたそうで，RH9のファーストインストール• 証明書はNAREGIの証明局を使って，一時的(3末まで)のものを– α版ではこの当たりが一番面倒そう．
• GlobusとUNICOREの証明書が色々と混在？

2006/3/6

1
2006/3/6

RIKEN
RIKEN

Advanced Center for Computing and Communication

2

RIKEN
RIKEN

Advanced Center for Computing and Communication

ハードウェア概要

評価の前に• 元々はFileserver, Gatewayを含めた8ノードのクラスタ• 4ノードはNAREGI環境用GridMiddlewareソフトウェア• 4ノードは計算ノード• 1ノードは予備• ネットワークは外部と内部を完全に分離– 名前空間が異なる• Operation Nodeのみ外部からア
クセス可能• NAREGI Grid Middlewareの評価環境はできたようだ．
– 自分で手を動かしてないので，イマイチ実感なし• GridMPIとNinf-GとNAREGI-CAは入ってない？
– GridMPIとNinf-Gは自分で入れるのか？
– NAREGI-CAは少し趣が異なるが．．．．

• いざ評価をしようとすると，– 当初はインストール手順等々の話をするつもりだったが．．．
→ これは今回無し– 評価だけだとすると，何を評価するのか？
• 使い勝手？ 主観の評価しかないのか？

• 基本的に今回はとりあえず使ってみた感想がメイン– Workflow Toolのみ

2006/3/6

3

RIKEN
RIKEN

Advanced Center for Computing and Communication

2006/3/6

4

RIKEN
RIKEN

Workflow Tool

Advanced Center for Computing and Communication

Login• UNICOREやITBL基盤ソフトのWorkflowツールと同等なもの．
– JAVAで実装• ブラウザでOperation Nodeにアクセス– ここで少し問題が発生する．．

• WebブラウザとJAVAのUIで全てGUI操作– ただ，今の所実行プログラムは手動で配置• マニュアルをちゃんと読んでないので，今回は全ての機能は使えませんでした．
– 今回はProgramの実行だけです
2006/3/6

5

2006/3/66

[添付資料4-1-3] SS研 Grid Computing 2004 WG 第5回会合資料

RIKEN
RIKEN

Advanced Center for Computing and Communication

RIKEN
RIKEN

Error Message

2006/3/6

Advanced Center for Computing and Communication

Workflow Tool Window• 名前空間が異なると，名前の解決が出来ずにメッセージウィンドウが出る．
• 普通のネットワーク空間にNAREGIサーバ群を置いていれば問題ない• 内部ネットワークに設置された
NAREGIサーバ群に外部からアクセスする場合問題が起こる．
• 解決策はOperationServerの内部の名前を解決するようにWindowsやLinuxのホスト名として記述する
2006/3/6

7

RIKEN
RIKEN

Advanced Center for Computing and Communication

Workflow
Program..
Data..
Calculate..
Application..

2006/3/6

RIKEN
RIKEN

8

Advanced Center for Computing and Communication

Workflow Tool

取りあえずのプログラム実行• プログラムをWorkflow Toolに登録• JSDL (Job Submission Description Language)で書かれたジョブの実行環境を記述• あとはプログラムを計算ノードに配置しておく– 実際にユーザプログラムは？
• PSEだけがプログラムは配置可能？
• 自分の実行プログラムをステージングできるのかな？

• 自分のPC上のデータファイルはどうするんだろう．．
– データをアップロードするのはどうするんだろう．

• と，疑問もかなり一杯– マニュアル読まないと駄目かも
2006/3/6

RIKEN
RIKEN

9

Advanced Center for Computing and Communication

2006/3/6

RIKEN
RIKEN

ProgramのProperty

2006/3/6

10

Advanced Center for Computing and Communication

Status List

11

2006/3/612

[添付資料4-1-3] SS研 Grid Computing 2004 WG 第5回会合資料

RIKEN
RIKEN

Advanced Center for Computing and Communication

2006/3/6

RIKEN
RIKEN

Advanced Center for Computing and Communication

Monitor

JSDL<?xml version="1.0" encoding="UTF-8" standalone="yes"?><job xmlns="http://www.naregi.org/JSDL"><JobIdentification><JobName>NaregiJob-0</JobName><ns1:UniqueJobID xmlns:ns1="http://www.naregi.org/NaReGI-JSDL"/><ExecutionUserID><User/></ExecutionUserID><ns2:SubmittingUserName xmlns:ns2="http://www.naregi.org/NaReGI-JSDL">EMAILADDRESS=unyou-g@grid.nii.ac.jp
CN=alpha1, O=National Research Grid Initiative, C=JP</ns2:SubmittingUserName></JobIdentification><ns3:ProcessTopology xmlns:ns3="http://www.naregi.org/NaReGI-JSDL"><ns3:ProcessNumber><ns3:Start>0</ns3:Start><ns3:End>0</ns3:End><ns3:ProcessApplication>NAREGI_WFT</ns3:ProcessApplication><ns3:ProcessResource>NAREGI_WFT</ns3:ProcessResource></ns3:ProcessNumber></ns3:ProcessTopology><Host ns4:label="NAREGI_WFT" xmlns:ns4="http://www.naregi.org/NaReGI-JSDL"><ns4:JobStartTrigger>2005-01-21T16:30:00.000+09:00</ns4:JobStartTrigger><Resource><ns4:CPUCount>1</ns4:CPUCount></Resource><SoftwareRequirements><Limits><WallTimeLimit>PT5M</WallTimeLimit></Limits><Queue/></SoftwareRequirements><Application><ExecutableName ns5:type="none" xmlns:ns5="http://www.naregi.org/JSDL">/bin/hostname</ExecutableName><StdOut/><StdErr/><WorkingDirectory/></Application></Host></job>

2006/3/6

13

RIKEN
RIKEN

Advanced Center for Computing and Communication

JSDL要するに<Application><ExecutableName ns5:type="none" xmlns:ns5="http://www.naregi.org/JSDL">/bin/ls</ExecutableName><argument>/ /tmp</argument><StdOut/><StdErr/><WorkingDirectory/></Application>

2006/3/6

15

RIKEN
RIKEN

Advanced Center for Computing and Communication

雑感• なんか遅いな．．．．
• JSDLは普通のユーザは書かないかな– BatchJobのスクリプトさえ書かないのに，JSDLを書くかな？
– もしこれを書かないといけないなら，エディタが必要か？
– 実際の所，ユーザにこれを書かせるのは難しいと思う• ログが出過ぎるかな– デバッグモードだからか？

• 実際問題として一体感がないかな．．
– Workflow ToolとPSEは一体感が必要なのでは？
– GridMPIとNinf-Gは？

• もっとサンプルを．．
– マニュアル書くよりも，サンプルを色々置いて欲しい– マニュアルを100ページ書くよりも，5つでもサンプルの解説を
2006/3/6

17

2006/3/6

RIKEN
RIKEN
org.unicore.outcome.AbstractJob_Outcome@243325d5
19:24:57 05/03 S Initial user incarnation is <unicore/> Y
19:24:57 05/03 C Arrived at rose02_njs
19:24:57 05/03 S Status is now READY
19:24:57 05/03 S Status is now EXECUTING. Message: Start processing of AJO
19:24:57 05/03 T Starting to execute
19:24:57 05/03 T Incarnating a Uspace
19:24:57 05/03 T AJO and Uspace initialised. Starting execution
19:24:57 05/03 T Starting child action <program#1/243325d7>
19:25:10 05/03 T RetrieveOutcome processed (not complete)
19:25:26 05/03 T RetrieveOutcome processed (not complete)～～～
19:34:29 05/03 T RetrieveOutcome processed (not complete)
19:34:30 05/03 T RetrieveOutcome processed (not complete)
19:34:30 05/03 T RetrieveOutcome processed (not complete)
19:34:33 05/03 T Child action done <program#1/243325d7> with status <SUCCESSFUL>
19:34:34 05/03 T AJO execution finished, now clearing Uspace incarnation
19:34:34 05/03 S Status is now SUCCESSFUL
19:34:34 05/03 T Uspace cleared. Finishing
19:34:46 05/03 T Complete Outcome sent to client
19:34:47 05/03 T Complete Outcome sent to client
19:34:47 05/03 T Complete Outcome sent to clientorg.unicore.outcome.AbstractJob_Outcome@243325d7
19:27:27 05/03 C Arrived at rose02_njs
19:27:27 05/03 T Known to NJS
19:27:27 05/03 S Status is now READY
19:27:27 05/03 C Consigning to <rose00>
Authorised <unicore/ CN=njs/rose02.rose-score.riken.go.jp, O=National Research Grid Initiative, C=JP>
consigned by <CN=njs/rose02.rose-score.riken.go.jp, O=National Research Grid Initiative, C=JP>
Response code: 0
AJO (829f7133) accepted by NJS: rose00 Response code: 0All OK Response code: 0
19:27:27 05/03 S Status is now CONSIGNED
19:27:32 05/03 T Updating status on <rose00>
19:24:29 05/03 S Initial user incarnation is <unicore/> Y
19:24:29 05/03 C Arrived at rose00
19:24:29 05/03 S Status is now READY
19:24:29 05/03 S Status is now EXECUTING. Message: Start processing of AJO
19:24:29 05/03 T Starting to execute
19:24:29 05/03 T Incarnating a Uspace
19:24:29 05/03 T AJO and Uspace initialised. Starting execution
19:24:29 05/03 T Starting child action <program#1/829f7136>
19:24:35 05/03 T RetrieveOutcome processed (not complete)
19:27:42 05/03 T Updating status on <rose00>
19:24:29 05/03 S Initial user incarnation is <unicore/> Y
19:24:29 05/03 C Arrived at rose00
19:24:29 05/03 S Status is now READY～～～
19:24:29 05/03 S Status is now EXECUTING. Message: Start processing of AJO
19:24:29 05/03 T Starting to execute
19:24:29 05/03 T Incarnating a Uspace
19:24:29 05/03 T AJO and Uspace initialised. Starting execution
19:24:29 05/03 T Starting child action <program#1/829f7136>
19:24:35 05/03 T RetrieveOutcome processed (not complete)

2006/3/6

14

Advanced Center for Computing and Communication～～～
19:29:31 05/03 T RetrieveOutcome processed (not complete)
19:29:58 05/03 T Child action done <program#1/829f7136> with status <SUCCESSFUL>
19:29:58 05/03 T AJO execution finished, now clearing Uspace incarnation
19:29:58 05/03 S Status is now SUCCESSFUL
19:29:59 05/03 T Uspace cleared. Finishing
19:30:51 05/03 T Complete Outcome sent to client
19:33:49 05/03 S Status is now SUCCESSFUL. Message:
19:34:33 05/03 S Status is now SUCCESSFUL. Message: SubJob Status Set
org.unicore.outcome.ActionGroup_Outcome@243325d9
19:24:29 05/03 C Arrived at rose00
19:24:29 05/03 T Known to NJS
19:24:29 05/03 S Status is now READY
19:24:29 05/03 S Status is now EXECUTING. Message: Start ActionGroup processing
19:24:29 05/03 T Starting to execute action group
19:24:29 05/03 T Starting child action <NAREGIEXECUTETASK/829f7139>
19:29:58 05/03 T Child action done <NAREGIEXECUTETASK/829f7139> with status <SUCCESSFUL>
19:29:58 05/03 S Status is now SUCCESSFUL
org.naregi.unicore.outcome.NaregiExecuteTask_Outcome@243325d8
19:24:29 05/03 C Arrived at rose00
19:24:29 05/03 T Known to NJS
19:24:29 05/03 S Status is now READY
19:24:29 05/03 T Starting execution
19:24:29 05/03 T Selecting the default TSI <OUR_TARGET_SYSTEM>
19:24:32 05/03 S Job may be complete but output files not found. Assuming that job still executing
19:24:32 05/03 T Did not fetch execution results, continuing execution～～～
19:26:41 05/03 T Did not fetch execution results, continuing execution
19:28:02 05/03 S Status is now RUNNING
19:28:41 05/03 S Job may be complete but output files not found. Assuming that job still executing19:28:41 05/03 T Did not fetch execution results, continuing execution
19:29:58 05/03 S Status is now SUCCESSFUL
19:30:41 05/03 T Process() called for an incarnated task in state <SUCCESSFUL>. Ignoring and swallowing event.
mimax= 129 mjmax= 65 mkmax= 65
imax= 128 jmax= 64 kmax= 64
Start rehearsal measurement process.
Measure the performance in 3 times.
MFLOPS: 190.011887 time(s): 0.25999999 0.0032962081
Now, start the actual measurement process.
The loop will be excuted in 1384 times.
This will take about one minute.
Wait for a while.
Loop executed for 1384 times
Gosa : 0.000244478782
MFLOPS: 198.340363 time(s): 114.910004
Score based on Pentium III 600MHz : 2.3942585/var/spool/PBS/mom_priv/jobs/50.rose00.SC: line 10: cd: /opt/naregi-ss-uspaces/uspace_829f7133: ･ｿｽ･16