総 会

選 出

第３７回通常総会 より

HPC の歴史から将来を見る

小柳 義夫(神戸大学)

HPCの歴史から将来を見る
神戸大学
計算科学教育センター
小柳義夫

目次
• コンピュータ前史と神戸大学• 1960年代の日米技術格差• スーパーコンピュータの草
創期の日米格差• 第1世代はほぼ互角• 第2世代は日本の優位、日米貿易摩擦• 第3世代は超並列, HPCC,
NIIなどによる米国の巻き返し、日米貿易摩擦続く

2015/5/25• 第4世代は米国が国を挙げてスーパーコンピュータ。
ASCI、PITACなど
日本を凌駕• 第5世代は地球シミュレータ
ショックで米予算倍増• 第6世代は「京」の死と復活、
T2K, pacs-cs, Tsubame, etc.
米国はASC, HPCS….
• 第7世代は「京」、中国、米国の三つどもえ• ポスト「京」への期待

SS研究会総会2015

2コンピュータの前史

シッカートの計算機
Calculating Clock (1623)

階差機関の一部
2015/5/25

パスカルの計算機
歯車式手回し計算機 (1645)

機械式計算機「バベッジの階差機関」
SS研究会総会2015

ライプニッツの計算機
Stepped Reckoner (1672)

リチャードソンの夢 (1922)
3

タビュレーティングマシン• 1880年米国国勢調査：集計に7年。次は13年と予想された。
• このころHerman Hollerithがpunch cardでデータ処理を行うアイデア• 1888年：国勢調査のための発明コンテスト。
Hollerithのシステムを採用• 1890年国勢調査：2年で集計完了• 1896年：Hollerith, Tabulating Machine社創業• 1911年：4社が合併し、CTR （Computing
Tabulating Recording)社結成（社長Fairchild）• 1924年：IBM社と社名変更
2015/5/25

SS研究会総会20154神戸商業大学の経営機械化• 1941年、我が国の大学で初めてPCSを導入した• 経営計算研究室→1944経営機械化研究所• 電動穿孔機、検孔機、分類機、統計機（IBMから無償貸与）• ナショナル銀行会計機2000号• 現在「経営機械化展示室」あり。貴重な機械や資料を保存• 情報処理学会「分散コンピュータ博物館」に認定• http://www.rieb.kobe-u.ac.jp/riebcomp/history/gallery.html

2015/5/25

SS研究会総会20155神戸商業大学の経営機械化• 産業経済新聞1943/2/24（平井泰太郎）– 事務会計機械の国産化– 「人間の方が安い」「人間の方が機械より正確」「我が国では機械を作れない」との批判– 反論「竹槍で戦闘機は落とせない」– 兵器の機械化は理解しても、事務の機械化は理
解せず– 日本の銀行では円天井の下に百人がペンを走らせているが、アメリカでは接客係と貸し付け担当者しかいない。サイノグラフで10階の信用係と電気的に通信。
–

2015/5/25

http://www.lib.kobe-u.ac.jp/das/jsp/ja/ContentViewM.jsp?METAID=10030452&TYPE=IMAGE_FILE&POS=1

SS研究会総会20156http://dept.physics.upenn.edu/~pcn/
Course/250/Week.of.04.04?C=M%
2015/5/25

SS研究会総会2015

7

◆
◆

2015/5/25

SS研究会総会2015

8

『HPCの歩み50年』
Column in HPCwire Japan2014年7月から連載、原則月曜更新

http://www.hpcwire.jp
2015/5/25

SS研究会総会2015

91960年代の日米格差• アメリカは集積回路に移行、日本はまだトラン
ジスタ• アメリカで科学技術用コンピュータの登場– CDC6600、IBM360/91、ILLIAC IVなど

• 基本概念の確立

・IntelやAMDの創立– IBMのMain Frame (1964)– Mooreの法則(1965)– Flynnの分類(1966)– Amdahlの法則(1967)– Tomasuloのアルゴリズム（1969）2015/5/25

SS研究会総会2015101960’s in Japan• 私の最初のコンピュータ経験• OKITAC-5090 (1961)
Not very high• Transistors + Diodes +performance !!
core memory

http://museum.ipsj.or.jp/computer/dawn/0037.html• Floating point (decimal 10+2)– Add/sub 0.4 ms– Mult
4.9 ms (peak 0.4 kFlops)
2015/5/25

SS研究会総会201511• CDC6600

1960’s in US

IBM System/360– 4 Mflops (peak)• Contract with DARPA
for the ILLIAC IV
2015/5/25

SS研究会総会2015

Pictures from Wikipedia
12

Japan1960’sUSA• FACOM 270• Moore’s 1st Law (1965)• HITAC 5020, 8000
• Flynn’s taxonomy (1966)• TOSBAC 3400
• Amdahl’s Law (1967)• NEAC 2200
• IBM 360 model 91 (1967)• MELCOM 3100, 9100 • IBM 360 model 85 (1968)• OUK 9400
• Intel founded (1968)• FACOM 230-60• IBM 2938 array proc.
(1969)• CDC7600 (1969) 5 MFlops• AMD founded (1969)2015/5/25

SS研究会総会201513スーパー草創期の日米格差（1970年代）• Cray-1 (1977)の翌年にFACOM 270-75 APU、その翌年にHITAC 180 IAPなど時間的には肉薄• しかし、性能的には段違い• 日本はメインフレームへの付加として設計。
使いやすさに主眼→急速に普及→ユーザーを甘やかした！

2015/5/25

SS研究会総会201514スーパーコンピュータの草創期(1970’s)
Japan

USA/Europe

1970 FACOM 230-75

1970 IBM System/370
1971 CDC STAR-100 announced
1977 FACOM 230-75 APU
1972 Goodyear STARAN
1978 HITAC M-180 IAP
1974 DAP, BSP and HEP started
1978 PAX project started
1975 ILLIAC IV operational
1979 HITAC M-200H IAP
1976 Cray-1 shipped to LLNL
1979 MELCOM COSMOIII
1976 FPS AP-120B
IAP
1977 Siemens SMS-201
1981 MITI Supercomputer
1979 HEP single processor
Project started(〜89)
operational(green: parallel architecture) (red: vector architecture)
2015/5/25

SS研究会総会2015

15草創期における日本のSCの特徴
1. 日本はCray-1の1年後1977年にベクトル計算機を出荷。しかし性能は段違い
2. 当時のCray Research社はベンチャーだが、日本は大電機メーカ−、メインフレーム・メーカであり、半導体メーカでもある3社がスーパーコンピュータ開発に本腰を入れていた。
3. FACOM 230-75 APU (first Japanese vector)は、メインフレームのFACOM 230-75にベクトル付加
4. HITACH IAP (1978) もメインフレームに付加
5. NEC ACOS1000 IAP (1982)もメインフレームに付加
2015/5/25

SS研究会総会2015

16

第1世代（1980年代前半）• 日本が本格的ベクトル機を製造– 大学や研究所に戦略的に配置– 他方アメリカでは大学にほとんど設置されず– Lax Report (1982)• 演算性能的には互角• コンパイラや使い勝手は日本が優位。
• 商用アプリケーションはアメリカ優位

2015/5/25

SS研究会総会201517

1st Generation (1H of 1980’s)
Japan

1980 PAX-32
1981 MITI Supercomputer
Project (〜89)1982 Fifth Generation Project (〜92)1982 NEC ACOS-1000 IAP
1982 HITAC M280H IAP
1983 HITAC S-810/20 (630 MF)
1983 FACOM VP-200(500MF)
1984 PAX-64J
1985 FACOM VP-400 (1.142 GF)
1985 NEC SX-2 (1.3 GF)

2015/5/25

US/others

1981 CDC Cyber 205
1982 Cosmic Cube Project
1982 Cray X-MP/2 (420 MF)
1982 Alliant FX/8 delivered
1982 HEP installed
1983 Encore, Sequent and TMC
founded,1983 ETA span off from CDC
1984 Cray X-MP/4 (820 MF)
1984 Legend group in China started
1985 Convex C1
1985 Intel iPSC/1, T414, nCUBE/1,
Stellar, Ardent
1985 Cray-2 (1.952 GF)
1986 CM-1 shipped1986 FPS T-series

SS研究会総会2015

18

第1世代における日本のSCの特徴
1. メインフレームとの親和性
2. 単一プロセッサで多重パイプ
3. 大容量主記憶(256MB vs. X-MP 32MB)
4. 大容量ベクトルレジスタ
5. 間接参照がベクトル処理可能（Cray X-MPは途中から）
6. 高度なベクトル演算制御
7. 日米の演算性能は互角
8. 大学や研究所に戦略的に導入
9. アメリカで盛んになりつつあった並列コンピュータには見向きもせず
2015/5/25

SS研究会総会201519他方アメリカでは• 多くのスーパーコンピュータは、DOE、DOD、NASAなどの国立研究所に設置• 大学の研究者の利用は例外的• そのため大学人はベンチャーの並列コンピュータ（多くは独自CPU）を導入• Lax Report (1982)が出され、大学にスーパーコンピュータを設置することを勧告– 5 NSF centers in 1985-6

2015/5/25

SS研究会総会201520

2nd Generation (2H of 1980’s)
Japan

US and Europe etc.

1987 HITAC S-820 (3 GF)
1989 FACOM VP2600 (5 GF)
1990 MITI Supercomputer
Project ended
1990 NEC SX-3 (22 GF)
1990 QCDPAX completed

2015/5/25

1986 “863” Plan in China
1986 Manheim Supercomputer
seminar (→ISC)
1987 ETA-10 (10 GF)
1987 CM-2
1988 Cray Y-MP (2.66 GF)
1988 Intel ipsc/2
1988 First Supercomputing
Conference in Orlando
1989 ETA shut down, JvN SC shutdown
1989 BBN TC2000, Myrias SPS-2,
Meiko CS, NCube2
1990 Intel ipsc/860, MasPar MP-1

SS研究会総会2015

21

第2世代における日本のSCの特徴

1. 多重プロセッサが登場するが、並列度は低い
2. 半導体技術が、まずスーパーコンピュータのために開発され、それがメインフレームに波及するようになった（以前とは逆）
3. 日本の性能優位
4. 貿易摩擦（アメリカでの拒否と日本への圧力、政治的購入）
5. 民間の利用が盛ん
6. 並列処理の研究は盛んであったが、商品を開発しようという動きはない。さるCS科学者が私に忠告：「Amdahlの法則というものがあって超並列は実用にならない。
止めた方がいいよ。」
2015/5/25

SS研究会総会2015221987-8頃の日本のスーパーコンピュータ
設置状況と民間利用• Cray Research (Cray-1, X-MP):10（内8）• ETA (ETA-10): 1• Hitachi (S810):15（内9）• NEC (SX-1/2):7（内2）• Fujitsu (VP-50, 100, 200, 400):36（内23）［資料］http://www.hpcwire.jp/archives/6867
HPCの歩み50年（第26回）−1987年(a)−2015/5/25

SS研究会総会201523日米貿易摩擦の始まり（1985）• 1985/9: Plaza 合意 (G5)• 1985: NCAR（国立大気研究センター）事件– 日本からは日立がS-810、日本電気がSX-2、富士通
がVP-200で応札– 技術評価を経てSX-2が落札したが、政治的圧力により破棄され、Cray-2を購入• 日米半導体協定– 1985/6：米国半導体工業界からの訴え– 1985/8から日米半導体協議– 1986/9/2 日米半導体協定• 日本市場における外国製品の割合を5年間に20%まで増やすこととなった

2015/5/25

SS研究会総会201524日米貿易摩擦（HARC)• HARCへのSX-2導入– 1986年：コンソーシアムHARCにSX-2を設置– HARC (Houston Area Research Center) はテキサス州の4大学のコンソーシアム– 米国のスーパーコンピュータ各社から抗議の嵐– 米国の公共セクターへの日本製スーパーコン
ピュータの唯一の導入例

2015/5/25

SS研究会総会2015

25

日米貿易摩擦（大学）(1/2)• MIT事件(1986)– 富士通(VP-200)、日本電気(SX-2)、Cray、CDC等が応札– 1986/10：日本電気(HNSX) が落札し、5年リースで950万ドルの契約へ– DOC長官代理からMIT学長への書簡「私は外国製のスーパーコンピュータの購入に対し、異議をもっていないことをお知らせします。しかしながら、輸入製品は米国のダンピン
グ防止法による関税措置の対象になり得ることをご承知おきいただ
きたい。」– HNSX社は事情を察して直ちに手を引いた
2015/5/25

SS研究会総会2015

26

日米貿易摩擦（大学）(2/2)• BYU事件– Brigham Young大学（ユタ州）は、言語学科の研究で使うスーパーコンピュータについて、HNSXとCRIの2社で商談を進めていた– 1987/10：大学は両社を選考対象から外す– 広報担当者は否定するが、大学の上層部に対して政治的圧力が及んだとの報道があった

2015/5/25

SS研究会総会201527

日米貿易摩擦（日本への圧力）• 訪日視察団– 1987年6月28日、スーパーコンピュータメーカ等13社からなる貿易使節団を日本に送る。
– 目的は1986年8月に締結したスーパーコンピュー
タ協定の効果を調査するため– 6月30日、私学会館（市ヶ谷）でスーパーコン
ピュータセミナーを開催し、国内の需要家に対してアメリカのコンピュータ・メーカ11社が自社の製品の特徴などを説明した。私も参加。
– （2014年はアメリカ大使館講堂でセミナー開催）
2015/5/25

SS研究会総会201528

日米貿易摩擦（補正予算）• 東京工業大学への導入– 1987/9/22：ETA10を補正予算で導入、27億円。
– 日本勢は実質門前払い（OSはUnix）– 納入期限は1988年3月22日だったが、2ヶ月遅延– 故障が多く、並列処理は動かず。Unixは活用。

• 工業技術院情報計算センターへの導入– 日本勢は実質門前払い（並列ベクトルを要求）– 1987/9/28: 締め切りとなり、日本クレイ1社が応札。ハード20億円、ソフト10億円– Cray X-MP/2は3月に順調に引き渡された
2015/5/25

SS研究会総会2015

29日米貿易摩擦（構造協議）• 日米構造協議– 1989/7/14：日米首脳会談の席上、ブッシュ大統
領が宇野宗佑総理大臣に「日米構造協議」を提案し、9月に日米構造協議が始まる– 翌年6月まで5回開催– アメリカ側は、日本のスーパーコンピュータ・ベン
ダが大幅なダンピングを行っており、日本国内において国産スーパーコンピュータへの優遇策が取られ、アメリカ製が不当に排除されていると主張2015/5/25

SS研究会総会201530

日米貿易摩擦(Super 301)
• 1988年：「包括通商・競争力強化法(Omnibus Trade andCompetitiveness Act of 1988) 」の対外制裁としてスーパー301条を制定。
– 不公正な貿易慣行や輸入障壁があると疑われる国を特定して、改善を要求し、3年以内に改善されない場合、報復として関税引き上げを行うことを定めた。
– 1989年、日本のスーパーコンピュータ政府調達など3項目に関して、アメリカはスーパー301条に基づいて優先監視を行うことを決定• スーパーコンピュータ導入手続き– 日本政府のアクションプログラム実行推進委員会は、翌1990年4月19日に「スーパーコンピュータ導入手続き」を改正。1年半掛かるようになった。
2015/5/25

SS研究会総会2015

31

第3世代（1990年代前半）• アメリカの国家政策による盛り返し(HPCC, NII)
• 日米の性能が互角に戻る• アメリカは汎用プロセッサによる超並列に移行– ベンチャービジネスの死骸累々– 日本の並列出遅れ

2015/5/25

SS研究会総会2015

32

3rd Generation (1H of 1990’s)
Japan

1992 RWCP started
1992 CP-PACS started
1993 Fujitsu NWT
1993 Fujitsu VPP500
1993 HITAC S-3800 (32 GF)
1993 NEC Cenju-3
1994 Fujitsu AP1000
1995 NEC SX-4

2015/5/25

USA/Europe

1990 MasPar MP-1
1990 Intel iPSC/860
1991 HPCC started (-96)
1991 Cray Y-MP C90 (16 GF)
1991 Intel Paragon, TMC CM-5
1992 FPS bankrupt
1992 MasPar MP-2
1993 Top500 started
1993 HPCN started (〜2001)
1993 Cray T3D, CS6400, nCUBE2, KSR1
1993 SSI shut down
1993 IBM SP-1
1993 Cray-3
1994 SP-2
1994 TMC, KSR Chapter 11
SS研究会総会2015

33

第3世代の日本のSCの特徴
3社のアーキテクチャに大きな変化（異なる並列アーキ
テクチャ）
1. Hitachi (S3800)
Shared memory vector parallel processor
using ECL technology

2. Fujitsu (VPP500)

Distributed memory vector parallel proc.
using GaAs as well as silicon tech.

3. NEC (SX-3)

Cluster of shared memory vector parallel
Unix as host OS

4. No action to “Attack of killer micros.”(SC90)◆日本でも商用のMPP（超並列）が「テストベッド」として販売される
2015/5/25

SS研究会総会2015

34

第3世代(1990年代前半)のアメリカ• ベクトル: Cray Y-MP, C90 and Convex C2


超並列の実用化:
Performance of COTS CPU’s was increasing drastically custom CPU → commodity CPU chips
 ventures company → big companies (IBM, Cray, Intel)
• 国家プロジェクトが始まる:
HPCC, NII, HPC Act 1991

– Blue Book (1991/2, G.W.Bush)– “Grand Challenges: High Performance Computing andCommunications”– The High Performance Computing Act of 1991

• Petaflops I in Pasadena (1994)
2015/5/25

SS研究会総会201535

キラーマイクロの来襲• １９９０年ごろから、パソコン用の汎用プロセッサが高性能化してきた。しかも価格は安い。
• これを並列につなげば、安いスパコンに• 真打ち登場– IBM社：SP1 (1993)– Cray社：T3D (1993)• 前座の退場– 1980年代のベンチャーは廃業か吸収へ• 日本は、ベクトルを推進
2015/5/25

SS研究会総会201536

ベンチャー企業の退場• 1992年 FPS社、破産• 1993/8 Thinking Machines社、Ch. 11申請
1994/8 倒産• 1994/12 KSR社、Ch. 11申請
• 1995/3 Cray Computer社(GaAs)、Ch. 11申請、11月倒産• 1995/9 Convex Computer社、H-Pに吸収

2015/5/25

SS研究会総会201537日米貿易摩擦（5/18のHPCwire.jp）• VP2600寄贈拒否事件（1991年10月）– 富士通がVP2600を温暖化研究のためMECCA（民間資金による国際コンソ）に寄贈したいと申し出– Cray Research社：「富士通は、アメリカの進んでいるスーパーコンピュータ・ソフトウェアを盗もうとしている。」– Rollwagen：「富士通は慈善のふりをして、不当な貿易を行おうとしている」• 官公庁のコンピュータ調達制度変更(1992/1/9)
2015/5/25

SS研究会総会201538日米貿易摩擦（核融合研）• 1992年4月21日に核融合科学研究所（岐阜県土岐市）は入札公告し、6月11日にクレイ社、
日本電気、富士通、日立が応札• SX-3/24Rを中核とするスーパーコンピュータ
が落札、導入• 1992年7月、クレイ社がスーパーコンピュータ
調達審査委員会に対して苦情を申し立て• 10月7日、すべて却下• 1993年3月、公開デモ、クレイ社も不服取り下げ
2015/5/25

SS研究会総会2015

39

日米貿易摩擦続く• 1993年度補正予算で公共セクターが11台のスーパーコンピュータを導入– 日本に対し経済制裁を発動する、と恫喝
– 結果的に11台中6台がアメリカ製

2015/5/25

SS研究会総会2015

40

第4世代（1990年代後半）の日本• 科学技術基本法と第1期科学技術基本計画(1996〜2000)– 高性能コンピュータの整備– 応用ソフトウェアの開発– ATM技術によるLAN（現実にはIPが優位）– 地球温暖化の予測（地球シミュレータへ）• 富士通と日本電気はCMOS並列ベクトル
日立はCMOSの超並列（疑似ベクトル）2015/5/25

SS研究会総会2015

41

第4世代のアメリカ• ASCI Project (1995〜)– LANL, LLNL, SNLにスーパーコンピュータを設置– 2年毎に3倍： Red (1+), Blue (3+), White (10+), Q(30+), Purple (100+)– 日本を完全に打ち負かす• Cray ResearchがSGIに吸収される• PITAC (I:1997-2001, II: 2003-2005)
情報技術大統領諮問委員会• PACI (1997-2004)• Petaflops II in Santa Barbara (1999)
2015/5/25

SS研究会総会2015

42

4th Generation (2H of 1990’s)
Japan

USA/Europe/China

1995 Fujitsu VPP300
1996 cp-pacs completed
1996 Hitachi SR2201
1996 Fujitsu VPP700
1996 Fujitsu AP3000
1997 NEC Cenju-4
1998 Hitachi SR8000
1998 NEC SX-5

1995 DOE: ASCI started
1995 Cray T90 (57.6 GF)
1995 Cray Computer bankrupt
1996 Dawning in China started
1996 Cray T3E
1996 Cray Research merged into SGI
1996/10 Serymour died1996 nCUBE merged into Oracle
1996 MasPar went out of HPC
1997 ASCI Red (Intel)
1997 NSF: PACI started (NCSA & NPACI)
1998 Cray SV1
1998 ASCI Blue Pacific (IBM)1998 ASCI Blue Mountain (SGI)

2015/5/25

SS研究会総会2015

43

Japanese machines in Top 20
9306 9311
1
NWT
2
3
4
5 NEC
6 AES NEC
7
AES
8
9
10
11
12
13
14
15
16
17
18
19
20

2015/5/25

9406 9411 9506 9511 9606 9611 9706 9711 9806 9811
NWT NWT NWT Todai cp‑p
NWT
NWT NWT cp‑p
Todai NWT
Todai cp‑p
ATP ATP KEK KEK JAERI
Tsuku TsukJAERI
Todai cp‑p
Riken Riken JAERI
KEK
NWT
KEK
ECMW
NEC
Kyush
Hitach Hitac
NEC ECMW
Todai Todai
JAERI Stutt
NEC
Nagoy
AES
Toho
Toho
ATP Gene JAERI
Todai cp‑p
AES Tsuk ISS Nagoy
NWT
NEC Riken
Toho Toho
Gene NEC Kyush
AES Toho
ISS Osaka KEKAESIMS AESATP
Osaka JAERIECMW FZJ
IMS
Tsuk
Stutt

SS研究会総会2015

9906 9911 0006 0011 0106 0111

Todai
Todai LRZ
KEK

Todai
LRZ

Todai
Osak

Todai KEKTAC

ECMW LRZ
Todai
KEK

Osak

Kyoto
TAC
cp‑p

ECMW
Todai LRZ

ISS
JMA

KEK

44

第4世代の動向• 日本はベクトルコンピュータが中心、アメリカ
は汎用プロセッサの超並列が急発展– ベクトルコンピュータの使いやすさに甘やかされた• 日本では、並列コンピュータは「専用計算機」という位置づけ– 大学や研究所では並列処理の研究が盛ん– しかし実用的な計算には利用されず– ユーザ側から並列コンピュータへの動き• QCD-PAX, NWT, cp-pacs, GRAPE, 後のES
2015/5/25

SS研究会総会2015

45

第4世代の日米摩擦• 1996年NCAR導入（緑字は講演後修正）– 14件から最終的にT90、SX-4、VPP700が残った– 5月20日、SX-4を選定– David Obey議員a) アメリカ国民の税金はアメリカの競争力を増大するために使うべきであるb) 日本電気の価格設定は不当で、ダンピングである– 連邦議会によるSX阻止法案– 7月29日、 Cray Research社は商務省とITCにダンピン
グ提訴、などなど・・・・・・– 1997/8 NCAR、SX-4導入中止– 1997年、NECに454%、富士通に173.08%、他の日本メーカに313.54%の反ダンピング関税を決定
2015/5/25

SS研究会総会2015

46

第5世代（2000年代前半）• 日本：地球シミュレータ（2002, 35.86 TF）（圧倒的世界一）• アメリカ：政府の強力な施策の下に、大学や研究所に配備– “Computonik” (J. Dongarra) 予算倍増

• 日本：第2期科学技術基本計画ではネットワークが中心– 地球シミュレータが世界一となると、国家基幹技術としてのスーパーコンピュータがやっと話題に
2015/5/25

SS研究会総会2015

47

第5世代のアメリカ• ASCI計画(DOE)– White (2000, 4.9), Q (2002, 7.7、薄幸のマシン)– Blue Gene/L (2004, 70.7→415.7)– Red Storm (2005, 15)• DOE High-End Computing Revitalization Act of 2004
and 2005• HPCS計画(DOD)– Phase I (2002) IBM, Cray, Sun, H-P, SGI– Phase II (2003) Cray, IBM, Sun– Phase II (2006) Cray, IBM• TeraGrid (2001〜10, NSF）

– NCSA, SDSC, ANL, Caltech, …

• Exa Flops plan starts in 2004/10
2015/5/25

SS研究会総会2015

48

第5世代の日本• 第2期科学技術基本計画（2001〜2005）– IT戦略本部、e-Japanなど、ネットワーク中心– スーパーコンピュータは必要な分野で考えよ• 地球シミュレータ（2002, 36)• 情報科学技術委員会は、2004/4から計算科学の推進方策を議論• 富士通もベクトルからPRIMEPOWER HPCへ
• 日本電気・富士通の反ダンピング関税が撤廃される（2001）• NAREGI project (2003-8)
2015/5/25

SS研究会総会2015

49

Fifth Generation (1H of 2000)
Japan

US/Europe

2001: NEC: anti-dumping customs
cleared
2001: Fujitsu PRIMEPOWER 2000
2001: NEC SX-6
2002: Earth Simulator 40TF
2002: Fujitsu PRIMEPOWER
HPC2500
2003: NEC SX-7
2004: NEC SX-8
2004: Hitachi SR11000

2015/5/25

2000: Tera became Cray
2000: SGI: Origin 3000
2000: ASCI White (LLNL, IBM) 12 TF
2001: NSF: TeraGrid stared
2002: ASCI Q (LANL, HP) 20TF
2002: DOD: HPCS started
2002: Cray (NEC) SX-6 to ARSC
2004: NASA Columbia (SGI) 64TF
2004: BlueGene/L at IBM 90TF
2004: “The Path to Extreme Computing”
conf. (to Exa)
2005: BlueGene/L (360TF)
2005: ASCI Red Storm (SNL)
Cray XT3/XT4

SS研究会総会2015

50

第6世代（2000年代後半）• 日本– 「京」コンピュータの死と復活– T2K, PACS-CS, TSUBAME, ES2 etc• アメリカ
– DOE、NSF、DOD• 中国の台頭– 天河１号（2009, 0.563）、１A（2010, 2.566 P, Top)– 天河2号（2013/6, 33.86, Top)– 2015/4 アメリカ政府がチップの対中国輸出規制
2015/5/25

SS研究会総会2015

51

第6世代の日本 「京」コンピュータ• 2005/6 総合科学技術会議が次世代スーパーコ
ンピュータ技術を基本方針に含める• 2005/7 「最先端・高性能汎用スーパーコン
ピュータ開発利用」プロジェクト– 「大規模処理」0.5P、「逐次処理」1 P、「特定処理」20 P– 評価検討会「汎用性だけを目標とする技術開発では使える計算機はできない」（岩崎、小柳など）– 21種のターゲットアプリを選定• 2005/10 理研が開発主体と決定• 2006/1 文科省に推進本部設置
2015/5/25

SS研究会総会2015

52

第6世代の日本 「京」コンピュータ• 2007/3 神戸に設置と決定• 2007/4 スカラとベクトルからなる構成案• 2009/5 ベクトル担当の日本電気が撤退を表明。
スカラだけで10 Pを目指す。
• 2009/7 5つの戦略分野を決定• 2009/11/13（金）事業仕分け、凍結決議• 2009/12 見直し、HPCIプロジェクト• 2011/6 8.162 P達成• 2011/11 10.51 P達成、Gordon Bell賞受賞• 2012/9 一般供用開始
2015/5/25

SS研究会総会2015

53第6世代の日本• T2K Open Supercomputer– 筑波大、東大、京大– 2006年発表、2008年設置• 筑波大 PACS-CS• 東工大 TSUBAME1.0 (2006), 1.2 (2008),
2.0 (2010)• JAXA FX1• ES2 SX-9
• JAEA PRIMERGY BX900 など
2015/5/25

SS研究会総会2015

54第6世代におけるアメリカ• DOE– ASC（ASCIを改名）:Purple (2005, 63), Roadrunner– ORNL Jaguar (2007, 101)
– BG/Q: LLNL Sequoia (2012, 16P)
– INCITE（共同利用）• NSF– Track 1: NCSA Blue Waters （IBMが撤退しCrayへ）– Track 2: TACC Ranger (2006), Tennessee Kraken(2007),– EXEDE(共同利用）
2015/5/25

SS研究会総会201555

Sixth Generation (2H of 2000 and later)
Japan

US/Europe/China

•
•
•
•

• 2006-12: K Computer P.
– 2011: 10 PF attained• 2006: T2K open SC– 2008: installed in 3 univ.

• 2006: TSUBAME 1.0– 2010: TSUBAME 2.0• 2009: Fujitsu fx-1 to JAXA

2015/5/25

•
•
•
•
•
•

Cray XT/XE/XC
2005: ASCI Purple (LLNL, IBM)
2006: Rangers (TACC)
2007: NCSA, BlueWaters started(IBM→2011 Cray)
2007: Kraken (Tennessee)
2008: Roadrunner (LANL)
2010: Tianhe-1A (NUDT)
2010: PRACE started
2011: NSF, SXEDE
2013 America COMPETES Act

SS研究会総会2015

56Top20における日本製コンピュータ
0206 0211 0306 0311 0406 0411 0506 0511 0606 0611 0706 0711 0806 0811 0906 0911 1006 1011 1106 1111 1206 1211 1306 1311 1406 1411
1 ES ES ES ES
K
K
ES
2
K
3
K
ES
4
ES
TIT
K
K
K
K
5
TIT TIT
6
NAL
ES
7
TIT
Riken
8
AIST
9
TIT
10
ES
11
JAXA
TIT
12
Roku
AIST
13 Todai
TIT
TIT
14 LRZ
ES
TIT
Riken
15
JAERI
AIST
TIT Todai
Roku
TIT
16
17
KEK
TIT
18
KEK
Todai
19 Osak
AIST
20
ES
Tsuk
Roku

2015/5/25

SS研究会総会201557

中国のHPC
1983 NUDT銀河1号
1986/3 鄧小平”863”計画
1992 銀河2号
1997 銀河3号?
飛騰(Feiteng) processor
2009 NUDT 天河1号
2010 NUDT 天河1号A1983 Inspur（浪潮）マイコン発売
1984 聯想(Legend)創立
1992 Inspur社、サーバー開発
1995 曙光(Dawning)創立
1995Dawning 1000

2013 NUDT 天河2号
2015/2 NUDTや関連センターにプロセッサ禁輸（米国）

2015/5/25

2000 Dawning 2000
2001 Dawning 3000
2002 龍芯1号processor
2004 Dawning 4000A
2006 申威SW-1 processor
2008 Dawning 5000A
2008 SW-2 processor
2010 Nebula2011 SW-3による神威藍光

SS研究会総会2015

58

ポスト「京」コンピュータ• 「京」により多くの成果が出ている• では「京」で十分か？
• 成果が出れば出るほど性能の不足を痛感する。例えば：– 全球870mメッシュの気象計算
1日分の予報に「京」でも20時間掛かる– 精密な津波の浸水予想「京」では1.5日掛かる

2015/5/25

SS研究会総会201559エクサスケール• エクサ E (1018) 100京の領域へ– 演算速度 (Flops)だけが問題ではない– メモリの速度、省電力、耐故障、使いやすさなど• 計算科学の飛躍的発展が期待される• 米国では2004年から計画（当時の最速は地球シミュレータ、その30000倍）• 欧州、中国も計画• 2020〜22年を目標
2015/5/25

SS研究会総会2015

60

エクサスケールで期待できる成果例• ビッグデータ同化によるゲリラ豪雨予測– 次期衛星やフェーズドアレイ気象レーダーの高精
密データと高精密シミュレーションを融合– エクサスケールの計算能力が必要• 次世代デバイスによる消費エネルギーの削
減– 100万原子レベルのシミュレーションで複合材料
や化合物半導体の物性を予測解明– エクサスケールの計算能力が必要
2015/5/25

SS研究会総会201561エクサスケールで期待できる成果例• 新たなエネルギー源の開発– 人工光合成の制御のためのシミュレーション– 多階層連成シミュレーション– エクサスケールの計算能力が必要• 知能を再現する脳研究– 人間脳規模の神経回路シミュレーションで脳の可塑的変化を再現。考えるコンピュータへ– エクサスケールの計算能力が必要

2015/5/25

SS研究会総会2015

62

Co-Design
専用的マシン
QCDPAX
Grape
NWT
CP-PACS
ES など（与えられた問題に適したシステムを設計する）

解決すべき問題モデリング
アルゴリズムコーディング
コンパイラ
ミドルウェアシステムソフトウェア
アーキテクチャハードウェア

汎用的マシン
メインフレーム
ベクトルコンピュー
タ（与えられたシステ
ムをターゲットにプ
ログラムのチューニングを行う）『京』の計画の初期は、「汎用だから下から上の方向だけで十分」と主張されたが、私などが強硬に反対し、上から下の方向も重要であると力説。→コデザイン『ポスト京』では、コデザインが当初からスローガンとなった。
2015/5/25

SS研究会総会201563エクサスケールの壁（その1）• 消費電力の壁– 「京」は12.7 MW（そのまま外挿すると1GW)– 30MW程度に収めたい– 計算より「データ移動」が電力を消費– 汎用プロセッサ：高いクロックと深いパイプライン−レイテンシ（待ち時間）を重視– アクセラレータ：低いクロックと浅いパイプライン−スループット（総計算量）を重視• 交通信号の間隔を長くすると、交通量はさばけるが、待ち時間は増える• 日本以外は、アクセラレータの活用
2015/5/25

SS研究会総会201564エクサスケールの壁（その2）• メモリの壁– 回路の細密化で、演算性能は向上するが、メモリバンド幅は増えない（チップのピン数）• 計算しようとしてもデータが間に合わない– 光接続、3次元積層などでバンド幅を増やす– プロセッサ内に大きなメモリを置き、チップへのデータ転送を減らす– 演算量よりデータ転送を減らすアルゴリズム開発

2015/5/25

SS研究会総会201565エクサスケールの壁（その3）• 信頼性の壁– 故障率は回路の素子数に比例する傾向– エクサでは故障が増える可能性– 「京」では、品質管理、実装技術、水冷による低温作動などで故障率は低い（影響は1%以下）。故
障しても部分的切り離しと交換– OSやミドルウェアや応用ソフトなどでも耐故障性を高める必要2015/5/25

SS研究会総会201566エクサスケールの壁（その4）• プログラミングの壁– 「京」全系では60万スレッド以上。エクサスケール
では50〜100倍に及ぶ可能性– 1億近い並列処理をどうプログラムするか？
– メモリ階層の増大（メモリの壁）を、どうプログラム
で扱うか？
• コンパイラが全部面倒を見てくれるか？

– MPI（メッセージ通信）モデルが使えるか？
• 一対一通信が基本：各通信主体は、可能な通信相手の数だけの通信メモリを用意する必要
2015/5/25

SS研究会総会2015

67

フラッグシップシステムを支える，特徴ある複数のシステム

リーディングシス
テム

HPCIを通した資源提供

フラッグシップシステム

大学・研究所等のシステム

2015/5/25

SS研究会総会2015

68

まとめ
• スーパーコンピュータ技術は社会の基幹技術である。独自技術開発の重要性。
• 日本は1980年代に一時アメリカに追いつき追い越した。
• その結果、さまざまな摩擦が起こった• アメリカは日本を牽制しながら、国家プロジェクトを推進した。
• 1990年代前半、アメリカは超並列に急速に転換
し、日本を引き離した。
• 「地球シミュレータ」で追い越したが、BG/L登場。
• 「京」で一瞬追い越したが、すぐ挽回される• 「ポスト京」（エクサスケール）に期待
2015/5/25

SS研究会総会2015

69