スーパーコンピュータの将来

神戸大学
計算科学教育センター
小柳義夫

2015/11/30

スーパーコンピュータの将来

1目次• 神戸大学の先駆的取り組
み• 1960年代の日米技術格差• スーパーコンピュータの草創期の日米格差• 第1世代はほぼ互角• 第2世代は日本の優位、日米貿易摩擦• 第3世代は超並列, HPCC,NIIなどによる米国の巻き返し、日米貿易摩擦続く

2015/11/30• 第4世代は米国が国を挙げてスーパーコンピュータ。
ASCI、PITACなど日本を凌駕• 第5世代は地球シミュレータ
ショックで米予算倍増• 第6世代は「京」の死と復活、
T2K, pacs-cs, Tsubame, etc.
米国はASC, HPCS….
• 第7世代は「京」、中国、米国の三つどもえ• ポスト「京」への期待

スーパーコンピュータの将来

2神戸商業大学の経営機械化• 1941年、我が国の大学で初めてPCSを導入した• 経営計算研究室→1944経営機械化研究所• 電動穿孔機、検孔機、分類機、統計機（IBMから無償貸与）• ナショナル銀行会計機2000号• 現在「経営機械化展示室」あり。貴重な機械や資料を保存• 情報処理学会「分散コンピュータ博物館」に認定• http://www.rieb.kobe-u.ac.jp/riebcomp/history/gallery.html

2015/11/30

スーパーコンピュータの将来

3神戸商業大学の経営機械化• 産業経済新聞1943/2/24（平井泰太郎）– 事務会計機械の国産化– 「人間の方が安い」「人間の方が機械より正確」「我が国では機械を作れない」との批判– 反論「竹槍で戦闘機は落とせない」– 兵器の機械化は理解しても、事務の機械化は理解せず– 日本の銀行では円天井の下に百人がペンを走らせているが、アメリカでは接客係と貸し付け担当者しかいない。サイノグラフで10階の信用係と電気的に通信。
–

2015/11/30

http://www.lib.kobe-u.ac.jp/das/jsp/ja/ContentViewM.jsp?METAID=10030452&TYPE=IMAGE_FILE&POS=1

スーパーコンピュータの将来

4◆◆

2015/11/30

スーパーコンピュータの将来

5

『HPCの歩み50年』
Column in HPCwire Japan2014年7月から連載、原則月曜更新

http://www.hpcwire.jp
現在1998年について掲載中
2015/11/30

スーパーコンピュータの将来

61960年代の日米格差• アメリカは集積回路に移行、日本はまだトランジ
スタ• アメリカで科学技術用コンピュータの登場– CDC6600、IBM360/91、ILLIAC IVなど

• 基本概念の確立

・IntelやAMDの創立– IBMのMain Frame (1964)– Mooreの法則(1965)– Vector処理の提唱(1965, Senzig and Smith, IBM)– Flynnの分類(1966)– Amdahlの法則(1967, IBM)
– Tomasuloのアルゴリズム（1969, IBM）
2015/11/30

スーパーコンピュータの将来

7スーパーコン草創期の日米格差（1970年代）• Cray-1 (1976)の翌年にFACOM 270-75 APU、その翌年にHITAC 180 IAPなど時間的には肉薄• しかし、性能的には段違い• 日本はメインフレームへの付加として設計。
使いやすさに主眼→急速に普及→ユーザーを甘やかした！

2015/11/30

スーパーコンピュータの将来

8キラーマイクロの来襲• １９９０年ごろから、パソコン用の汎用プロセッサが高性能化してきた。しかも価格は安い。
• これを並列につなげば、安いスパコンに• 真打ち登場– IBM社：SP1 (1993)– Cray社：T3D (1993)• 前座の退場– 1980年代のベンチャーは廃業か吸収へ• 日本は、ベクトルを推進
2015/11/30

スーパーコンピュータの将来

9Japanese machines in Top 209306 9311
1NWT
2345 NEC
6 AES NEC7AES
891011121314151617181920

2015/11/30

9406 9411 9506 9511 9606 9611 9706 9711 9806 9811
NWT NWT NWT Todai cp-p
NWT
NWT NWT cp-p
Todai NWTTodai cp-p
ATP ATP KEK KEK JAERITsuku TsukJAERITodai cp-p
Riken Riken JAERIKEK
NWT
KEK
ECMW
NECKyush
Hitach Hitac
NEC ECMW
Todai Todai
JAERI Stutt
NECNagoy
AES
Toho
Toho
ATP Gene JAERI
Todai cp-p
AES Tsuk ISS Nagoy
NWTNEC Riken
Toho Toho
Gene NEC Kyush
AES Toho
ISS Osaka KEKAESIMS AES
ATPOsaka JAERIECMW FZJIMSTsukStutt

スーパーコンピュータの将来

9906 9911 0006 0011 0106 0111

Todai
Todai LRZ
KEKTodai
LRZTodaiOsak

Todai KEKTAC

ECMW LRZ
Todai
KEK

Osak

Kyoto
TAC
cp-p

ECMW
Todai LRZ

ISS
JMA

KEK

10

第5世代（2000年代前半）• 日本：地球シミュレータ（2002, 35.86 TF）（圧倒的世界一、しかし一点豪華的）• アメリカ：政府の強力な施策の下に、大学や研究所に配備– “Computonik” (J. Dongarra) 予算倍増

• 日本：第2期科学技術基本計画ではネットワークが中心– 地球シミュレータが世界一となると、国家基幹技術としてのスーパーコンピュータがやっと話題に
2015/11/30

スーパーコンピュータの将来

11第5世代の日本• 第2期科学技術基本計画（2001～2005）– IT戦略本部、e-Japanなど、ネットワーク中心– スーパーコンピュータは必要な分野で考えよ• 地球シミュレータ（2002, 36)• 情報科学技術委員会は、2004/4から計算科学の推進方策を議論• 富士通もベクトルからPRIMEPOWER HPCへ
• 日本電気・富士通の反ダンピング関税が撤廃される（2001）• NAREGI project (2003-8)
2015/11/30

スーパーコンピュータの将来

12第6世代（2000年代後半）• 日本– 「京」コンピュータの死と復活– T2K, PACS-CS, TSUBAME, ES2 etc• アメリカ
– DOE、NSF、DOD• 中国の台頭– 天河１号（2009, 0.563）、１A（2010, 2.566 P, Top)– 天河2号（2013/6, 33.86, Top)– 2015/4 アメリカ政府がチップの対中国輸出規制
2015/11/30

スーパーコンピュータの将来

13第6世代の日本 「京」コンピュータ• 2005/6 総合科学技術会議が次世代スーパーコンピュータ技術を基本方針に含める• 2005/7 「最先端・高性能汎用スーパーコンピュータ開発利用」プロジェクト– 「大規模処理」0.5P、「逐次処理」1 P、「特定処理」20 P– 評価検討会「汎用性だけを目標とする技術開発では使える計算機はできない」（岩崎、小柳など）– 21種のターゲットアプリを選定• 2005/10 理研が開発主体と決定• 2006/1 文科省に推進本部設置
2015/11/30

スーパーコンピュータの将来

14第6世代の日本 「京」コンピュータ• 2007/3 神戸に設置と決定• 2007/4 スカラとベクトルからなる構成案• 2009/5 ベクトル担当の日本電気が撤退を表明。
スカラだけで10 Pを目指す。
• 2009/7 5つの戦略分野を決定• 2009/11/13（金）事業仕分け、凍結決議• 2009/12 見直し、HPCIプロジェクト• 2011/6 8.162 P達成• 2011/11 10.51 P達成、Gordon Bell賞受賞• 2012/9 一般供用開始
2015/11/30

スーパーコンピュータの将来

152009年11月13日金曜日
行政刷新会議事業仕分け第3ワーキンググループ「世界一になる理由は何があるんでしょうか？」「2位じゃダメなんでしょうか？」
票決：
廃止 １
見送り ６
縮減 ５

www.rehabilitate.jp
2015/11/30

結論
限りなく見送りに近い縮減

スーパーコンピュータの将来

16Top20における日本製コンピュータ0206 0211 0306 0311 0406 0411 0506 0511 0606 0611 0706 0711 0806 0811 0906
1 ES
ES
ES
ES
ES
23ES
4ES
56NAL
ES
7TIT
Riken
8AIST
9TIT
10ES
11JAXA
12AIST
13 TodaiTIT
14 LRZ
ES
Riken
15
JAERI
AIST
TIT Todai
1617
KEK
18
KEK
19 Osak
AIST
20
ES
Tsuk

2015/11/30

0911

1006

1011

TIT

スーパーコンピュータの将来

1106 1111 1206 1211 1306 1311 1406 1411 1507 1511
K
K
K
K
K
K
K
K
K
K
TIT TIT

TIT
Roku
TIT
TIT
Roku

TIT

TIT
Todai
Roku

17

「京」の成果の例• UT-Heart：分子・細胞・組織・器官の連成解析– 「京」の全システムを使っても1日で1.5拍– 遺伝子の連鎖解析がミオシンの変異を肥大型心筋症の病因と同定• 地震・津波の予測精度高度化– 地盤・都市・構造物の地震応答シミュレーション– 避難する人間や自動車のシミュレーション• 500億格子の乱流の直接計算– 自動車、ターボ機械、船舶、燃焼器など
2015/11/30

スーパーコンピュータの将来

18

「京」の成果の例（続き）• 超新星残骸衝撃波における宇宙線加速機構– 1兆個粒子シミュレーション• 生体膜・膜タンパク質機能の定量解析• リチウム電池のシミュレーション• メタンハイドレートの分解シミュレーション• タイヤのシミュレーション• 自動車設計のシミュレーション• その他無数
2015/11/30

スーパーコンピュータの将来

19

中国のHPC
1983 NUDT銀河1号
1986/3 鄧小平”863”計画
1992 銀河2号
1997 銀河3号?
飛騰(Feiteng) processor
2009 NUDT 天河1号
2010 NUDT 天河1号A2013 NUDT 天河2号
2015/2 NUDTや関連センターにプロセッサ禁輸（米国）
2015/7 NUDT独自アクセラレータで100PFの天河2Aを実現と表明

2015/11/30

1983 Inspur（浪潮）マイコン発売
1984 聯想(Legend)創立
1992 Inspur社、サーバー開発
1995 曙光(Sugon, Dawning)創立
1995 Dawning 1000
2000 Dawning 2000
2001 Dawning 3000
2002 龍芯1号processor
2004 Dawning 4000A
2006 申威SW-1 processor
2008 Dawning 5000A
2008 SW-2 processor
2010 Nebula2011 SW-3による神威藍光

スーパーコンピュータの将来

20

ポスト「京」コンピュータ• 「京」により多くの成果が出ている• では「京」で十分か？
• 成果が出れば出るほど性能の不足を痛感する。例えば：– 全球870mメッシュの気象計算
1日分の予報に「京」全系でも20時間掛かる– 精密な津波の浸水予想「京」では1.5日掛かる

2015/11/30

スーパーコンピュータの将来

21

2015/11/30

スーパーコンピュータの将来

22

エクサスケール• エクサ E (1018) 100京の領域に接近– 演算速度 (Flops)だけが問題ではない– メモリの速度、省電力、耐故障、使いやすさなど• 計算科学の飛躍的発展が期待される• 米国では2004年から計画（当時の最速は地球シミュレータ、その30000倍）• 欧州、中国も計画• 2020～24年を目標
2015/11/30

スーパーコンピュータの将来

23

エクサスケールで期待できる成果例• ビッグデータ同化によるゲリラ豪雨予測– 次期衛星やフェーズドアレイ気象レーダーの高精
密データと高精密シミュレーションを融合– エクサスケールの計算能力が必要• 次世代デバイスによる消費エネルギーの削減– 100万原子レベルのシミュレーションで複合材料や化合物半導体の物性を予測解明– エクサスケールの計算能力が必要
2015/11/30

スーパーコンピュータの将来

24

エクサスケールで期待できる成果例• 新たなエネルギー源の開発– 人工光合成の制御のためのシミュレーション– 多階層連成シミュレーション– エクサスケールの計算能力が必要• 知能を再現する脳研究– 人間脳規模の神経回路シミュレーションで脳の可塑的変化を再現。考えるコンピュータへ– エクサスケールの計算能力が必要

2015/11/30

スーパーコンピュータの将来

25

ポスト「京」重点課題• 健康長寿社会の実現（1）生体分子システムの機能制御による革新的創薬基盤の構築（2）個別化・予防医療を支援する統合計算生命科学• 防災・環境問題（3）地震・津波による複合災害の統合的予測システムの構築（4）観測ビッグデータを活用した気象と地球環境の予測の高度化• エネルギー問題（5）エネルギーの高効率な創出、変換・貯蔵、利用の新規基盤技術の開発（6）革新的クリーンエネルギーシステムの実用化• 産業競争力の強化（7）次世代の産業を支える新機能デバイス・高性能材料の創成（8）近未来型ものづくりを先導する革新的設計・製造プロセスの開発• 基礎科学の発展（9）宇宙の基本法則と進化の解明

2015/11/30

スーパーコンピュータの将来

26

萌芽的課題新たに取り組むチャレンジングな課題(10) 基礎科学のフロンティア─極限への挑戦(11) 複数の社会経済現象の相互作用のモデル構築とその応用研究(12) 太陽系外惑星（第二の地球）の誕生と太陽系内惑星環境変動の解明(13) 思考を実現する神経回路機構の解明と人工知能への応用

2015/11/30

スーパーコンピュータの将来

27

Co-Design
専用的マシンQCDPAX
Grape
NWT
CP-PACS
ES など（与えられた問題に適したシステムを設計する）

解決すべき問題モデリング
アルゴリズムコーディング
コンパイラ
ミドルウェアシステムソフトウェア
アーキテクチャハードウェア

汎用的マシン
メインフレーム
ベクトルコンピュー
タ（与えられたシステ
ムをターゲットにプログラムのチューニングを行う）『京』の計画の初期は、「汎用だから下から上の方向だけで十分」と主張されたが、私などが強硬に反対し、上から下の方向も重要であると力説。→コデザイン『ポスト京』では、コデザインが当初からスローガンとなった。
2015/11/30

スーパーコンピュータの将来

28

エクサスケールの壁（その1）• 消費電力の壁– 「京」は12.7 MW（そのまま外挿すると1GW)– 30MW程度に収めたい– 計算より「データ移動」が電力を消費– 汎用プロセッサ：高いクロックと深いパイプライン－レイテンシ（待ち時間）を重視– アクセラレータ：低いクロックと浅いパイプライン－スループット（総計算量）を重視• 交通信号の間隔を長くすると、交通量はさばけるが、待ち時間は増える• 日本以外は、アクセラレータの活用
2015/11/30

スーパーコンピュータの将来

29

エクサスケールの壁（その2）• メモリの壁– 回路の細密化で、演算性能は向上するが、メモリバンド幅は増えない（チップのピン数）• 計算しようとしてもデータが間に合わない– 光接続、3次元積層などでバンド幅を増やす– プロセッサ内に大きなメモリを置き、チップへのデータ転送を減らす– 演算量よりデータ転送を減らすアルゴリズム開発

2015/11/30

スーパーコンピュータの将来

30

エクサスケールの壁（その3）• 信頼性の壁– 素子数が増えれば故障率も増える傾向– エクサでは故障が増える可能性– 「京」では、品質管理、実装技術、水冷による低温作動などで故障率は低い（影響は1%以下）。
故障しても部分的切り離しと交換– OSやミドルウェアや応用ソフトなどでも耐故障性を高める必要

2015/11/30

スーパーコンピュータの将来

31

エクサスケールの壁（その4）• プログラミングの壁– 「京」全系では60万スレッド以上。エクサスケール
では50～100倍に及ぶ可能性– 1億近い並列処理をどうプログラムするか？
– メモリ階層の増大（メモリの壁）を、どうプログラムで扱うか？
• コンパイラが全部面倒を見てくれるか？

– MPI（メッセージ通信）モデルが使えるか？
• 一対一通信が基本：各通信主体は、可能な通信相手の数だけの通信メモリを用意する必要
2015/11/30

スーパーコンピュータの将来

32

フラッグシップシステムを支える，特徴ある複数のシステム

リーディングシス
テム

HPCIを通した資源提供

フラッグシップシステム

大学・研究所等のシステム

2015/11/30

スーパーコンピュータの将来

33

まとめ
• スーパーコンピュータ技術は社会の基幹技術である。独自技術開発の重要性。
• 日本は1980年代に一時アメリカに追いつき追い越した。
• その結果、さまざまな摩擦が起こった• アメリカは日本を牽制しながら、国家プロジェクトを推進した。
• 1990年代前半、アメリカは超並列に急速に転換し、日本を引き離した。
• 「地球シミュレータ」で追い越したが、BG/L登場。
• 「京」で一瞬追い越したが、すぐ挽回される• 「ポスト京」に期待
2015/11/30

スーパーコンピュータの将来34