NVIDIA Tesla

NVIDIA Tesla（エヌビディア テスラ）は、NVIDIAのデータセンター用のGPU製品シリーズ。GeForceやQuadroをベースとしており、NVIDIA初のGPGPU専用製品である。2017年のVoltaマイクロアーキテクチャ以降は Tesla という名称が消え、単に頭に NVIDIA が付くだけになった。 汎用CPUに比べて浮動小数点演算性能が高く、高性能計算市場での使用を意図した製品であり、TOP500のスーパーコンピュータでも多数採用されている。主な用途は機械学習のディープラーニング、シミュレーション、大規模な計算（特に浮動小数点演算）、高品質の画像生成などで、APIとしてCUDAやOpenCL、DirectComputeを使用する。 なお同社製グラフィックス製品であるGeForceやQuadroとは異なり、TeslaシリーズはC2050/C2070などの一部を除いてディスプレイ出力を持たず、完全に演算用途に特化している。 競合となるのはAMDのAMD FireStream（AMD FirePro Sシリーズ）である。 Kepler世代以降のTeslaは353.06ドライバでOpenCL 1.2に対応しているが、それ以前のG80からFermiまではOpenCL 1.1までの対応となる。 表中の性能欄は、単精度／倍精度浮動小数点の理論演算性能（ピーク時）である。 2007年6月20日発表。G80ベースのx870シリーズは単精度浮動小数点演算のみの対応であり、倍精度浮動小数点演算は実行できない。 注釈 1 NVIDIAが明らかにしていない仕様については、GeForce 8800 GTXからの推測。 2 NVIDIAが明らかにしていない仕様については、GeForce GTX 280からの推測。 2009年11月6日発表。ハーフレートの倍精度演算性能を実現している（倍精度の理論演算性能は単精度の場合の1/2になっている）。 注釈 3 NVIDIAが明らかにしていない仕様については、Quadro 6000からの推測。 5 GF100 (Quadro 6000/GeForce GTX 480) ベース[要出典] 6 GF110 (GeForce GTX 580[要出典]) ベース 最初の製品であるTesla K10は2012年5月16日に発表された。GK104ベースのK10は単精度の理論演算性能は高いものの、倍精度の理論演算性能が極端に低く（単精度の場合の1/24）、科学技術計算向けではなく信号処理・画像処理向けのソリューションという位置付けになっている。なおGK110ベースとなるK20およびK40、そしてGK210ベースとなるK80における倍精度の理論演算性能は単精度の場合の1/3となっている 。2014年に発表されたTesla K8もGK104ベースだが、K8はTeslaシリーズ初の1スロット省スペース製品となる。 Fermiマイクロアーキテクチャでは SM（ストリーミング・マルチプロセッサー）と呼ばれていた概念が、KeplerマイクロアーキテクチャではSMXという名称になった。GK104/GK110の各SMXが搭載する代表的なユニットは下記である 。 192 CUDAコア。16 CUDAコアを1グループとして、12グループ搭載する。 64K個の32ビットレジスタ。合計256KB。 L1キャッシュ 64KB。このうち 16KB/32KB/48KB を共有メモリとして使用。共有メモリからは1サイクルで最大256B読み出せる。 読み取り専用キャッシュ 48KB。 特殊関数ユニット (SFU) 32個。三角関数、対数関数などを計算。 Fermi同様、各スレッド（コア）はワープ (warp) 単位で動作させる（1ワープは32スレッド）。ワープ内のスレッドは同期し、それぞれ同じ命令を実行する。16 CUDAコアを1グループとしているので、32スレッドに命令が行き渡るには2サイクル以上必要となる。その他、Kepler世代ではワープ内で共有メモリを介することなくデータ交換を可能にするシャッフル命令が実装されている。なおCompute capability (CC) に関しては、GK104はCC 3.0、GK110はCC 3.5、そしてGK210はCC 3.7となるが、CC 3.5以上ではDynamic ParallelismやHyper-Qといった機能を備えている。 フルスペックGK104では512KB、またフルスペックGK110/GK210では 1536KB (1.5MB) の L2 キャッシュを全 SMX で共有し、このキャッシュを経由して DRAM にアクセスする。なおインテルの第1世代Xeon Phiは30MB前後の L2 キャッシュを搭載しており、この点が設計の違いの一つとなる[独自研究?]。 注釈 7 GK104ベース 8 GK104 (GeForce GTX 690) ベース MaxwellではKeplerよりもさらに倍精度サポートが削られている（単精度の場合の1/32）。M4/M40は主に機械学習・ディープラーニング向けのソリューションとして提供されている 。 最初の製品であるTesla P100は2016年4月に発表された。16nmプロセスルールを採用。GP100ベースのP100では、Fermi世代のようなハーフレートの倍精度対応のほか、ダブルレートの半精度対応も実現されている（半精度の理論演算性能は単精度の場合の2倍になっている）。メモリに第2世代のHigh Bandwidth Memory (HBM2) を採用する。NVIDIA独自のインターコネクト規格であるNVLinkにも対応し、これまでプロセッサ間の通信ボトルネックとなっていたPCI Expressを大幅に超える伝送帯域幅を実現できる。 GP102ベースのP40およびGP104ベースのP4では、倍精度の理論演算性能は単精度の場合の1/32になっている。また、SMあたりのCUDAコア数は128、共有メモリも96KBとなっており、Maxwellアーキテクチャに近い。 最初の製品であるTesla V100は2017年5月に発表された。12nmプロセスルールを採用。行列演算を実行するための専用プロセッサ「Tensor Core」を搭載する。 Tesla T4が2018年9月に発売された。 最初の製品であるTesla A100は2020年5月に発売された。 最初の製品であるTesla H100は2022年3月に発売された。 ^ Release 352 Quadro, NVS, Tesla, GRID, & Notebook Drivers - Version 353.06; RN-WQ35306-01_v01 | June 1, 2015; Windows 7, Windows 8, & Windows 8.1; Release Notes ^ NVIDIA、G80ベースのHPC向けGPU「Tesla」 ^ Tesla Technical Brief (PDF) ^ NVIDIA Tesla C1060コンピューティングプロセッサ―ワークステーション向けメニーコアスーパーコンピューティング ^ NVIDIA Tesla S1070 1Uコンピューティングシステム― データーセンター向けの測定可能なメニーコアスーパーコンピューティング ^ NVIDIA Tesla S1070 - 株式会社 エルザ ジャパン ^ NVIDIA、Fermi採用の並列プロセッサ「NVIDIA Tesla 20シリーズ」発表 - ITmedia エンタープライズ ^ Tesla C2050 / C2070 GPUコンピューティングプロセッサ ^ NVIDIA Tesla C2075 | 株式会社 エルザ ジャパン ^ NVIDIA Tesla K10 GPU、石油・ガスの探査や防衛産業向け信号処理・画像処理を高速化 | NVIDIA ^ 4Gamer.net ― 「GeForce GTX TITAN」登場。500円玉より大きなモンスターGPUの“性能以外”を徹底解説 ^ 4Gamer.net ― NVIDIA，Keplerベースの新世代Teslaを発表。「GK110」コア採用の「Tesla K20」が年内に登場予定 ^ AnandTech | NVIDIA Launches Tesla K80, GK210 GPU ^ NVIDIA，新型GPUコア「GK210」搭載のHPC向けデュアルGPUカード「Tesla K80」を発表 - 4Gamer.net ^ NVIDIA® Tesla® GPU Accelerators Datasheet - nvidia-tesla-kepler-family-datasheet.pdf ^ Tesla-K8-Board-Spec-BD-07228-001-v03.pdf ^ NVIDIA Tesla K8 | 株式会社 エルザ ジャパン ^ 【後藤弘茂のWeekly海外ニュース】 NVIDIAが次世代GPUアーキテクチャ「Kepler」のベールを剥いだ ^ ホワイトペーパー NVIDIAの次世代型CUDA コンピュート・アーキテクチャ Kepler GK110 ^ Whitepaper; NVIDIA’s Next Generation CUDA™ Compute Architecture: Kepler™ GK110/210 ^ Kepler Tuning Guide :: CUDA Toolkit Documentation ^ NVIDIA，Maxwellベースの数値演算アクセラレータ「Tesla M40」「Tesla M4」を発表 - 4Gamer.net ^ NVIDIA、Maxwellベースで7TFLOPSを実現する機械学習向け「Tesla M40」 ～Low Profileの1スロットの「Tesla M4」も - PC Watch ^ NVIDIA Tesla M60 and Tesla M6 Accelerators To Power Grid 2.0 - M60 Featuring Dual-GM204 GPUs ^ NVIDIA Announces Tesla M40 & M4 Server Cards - Data Center Machine Learning ^ Tesla M6 Product Brief ^ Tesla M60 Product Brief ^ Data Sheet: Tesla M4 ^ NVIDIA Tesla M40 | 株式会社 エルザ ジャパン ^ ［GTC 2016］西川善司の3DGE：Teslaとして登場した新世代GPU「Pascal」，その詳細に迫る - 4Gamer.net ^ NVIDIA，ディープラーニング向け数値演算アクセラレータ「Tesla P40」「Tesla P4」を発表 - 4Gamer.net ^ PASCAL: 最新GPUアーキテクチャ ^ NVIDIA Tesla P4 GPU Datasheet ^ Data Sheet: Tesla P40 ^ Data Sheet: Tesla P100 ^ Data Sheet: Tesla P100 ^ NVIDIA TESLA V100 GPU ACCELERATOR ^ ［GTC 2017］西川善司の3DGE：Volta世代のGPU「GV100」は，これまでと大きく異なるプロセッサだ――いったい何が？ - 4Gamer.net CUDA ストリーム・プロセッシング ハイパフォーマンスコンピューティング Folding@home NVIDIA GeForce GRID AMD FireStream AMD FirePro AMD Stream (ATI Stream) ウィキメディア・コモンズには、NVIDIA Teslaに関連するカテゴリがあります。 公式ウェブサイト NVIDIA Product Overview and Technical Brief