世界一安いGPUを求めて2024冬

## 結論

- スポットで使うならColab、Runpodが最強
- ゲーミングPCでいいならどこかで買うかBREAJONでサブスクしよう
- だいたいRunpodさんがなんとかしてくれる

## 今回の記事について

こんにちは！逆瀬川 ( https://x.com/gyakuse ) です！今日は最強のGPUプロバイダー決定戦をします。世は大GPU時代となりました。Valorantをやるにも、APEXをやるにも、ある程度高性能なGPUが必要です。League of Legends はノートパソコンでも遊べるのでおすすめです。

その他の利用として機械学習のモデルをトレーニングをしたいという需要があると思います。推論もさせたいですよね。言語モデルや音声認識モデル、音声合成モデル…いろんなものを動かそうとすると、つらい。さらに、トレーニングをしようとするともっとつらい。ですが、最近は非常に安価なクラウドGPUが台頭してきました。今日はその紹介をしていければなと思います。

## GPUリソースの入手方法

GPUリソースを手に入れる主要な方法はいくつか考えられます。盗む等の犯罪行為を除けば、サンタさんにプレゼントしてもらうくらいしかないように思えますが、違います。今年のクリスマスはQiitaが私にH200を100基買ってくれると信じています。

自分でお金を出す場合、以下が考えられるでしょう。

1. ホスト型のJupyter Notebookサービス
    - 目的：スポット利用
    - 予算：月5,000円程度
2. オンプレミスGPU（自宅PCのレンタルまたは購入）
    - 目的：継続的な学習・推論
    - 予算：月1万円～
3. クラウドGPUサービス
    - 目的：継続的な学習・推論
    - 予算：月2万円～

## 選択肢の詳細

### 1. ホスト型のJupyter Notebookサービス

主なサービスとして、[**Google Colab**](https://colab.research.google.com/)や[**Gradient**](https://www.paperspace.com/gradient)があります。これらのサービスでは、課金することでA100などの高性能GPUを手軽に利用できます。

- 嬉しい点
    - 初期費用が不要
    - 環境構築が不要で、すぐに利用可能
- 悲しい点
    - 長時間の連続利用には制限がある
    - サービスの混雑状況によっては希望のGPUが使えない場合がある

多くの人にとって、スポット的な利用であればこれらのサービスで十分でしょう。

### 2. 自宅PC

自宅でGPUを利用する方法として、ゲーミングPCのレンタルや購入があります。

- レンタルの場合
    - [BREAJONのサブスクサービス](https://breajon.com/subscription/)等
    - 費用: 月1.2万円 (RTX 4060 Ti の場合)
- 購入の場合
    - 費用: RTX 4060 TiクラスのPCで20～25万円程度
- その他のコスト
    - また、レンタルの場合でも購入の場合でも電気代が月5000円くらいかかります
    - 夏だと冷房費等も余計にかかります

**余談: 自宅用にはどのGPU選べばいいの？**

基本的にはどの程度のVRAMを積んでいるかで判断すれば良いと思います。

最近だと4070Ti SuperとかがVRAMが大きくて (16GB) コスパもよくて好きです。

最近はVRAMの消費を抑えたモデルが登場してきているのでライトユースであれば12GB VRAMあたりが目安となってくるでしょう (現在は8GB VRAMでも十分だが、今後数年を見ると多分これくらいあると良い)

### 3. クラウドGPUサービス

クラウド上のGPUを利用する方法です

### クラウドGPUサービスの比較 (A100)

| サービス名 | URL | 1時間あたりの料金（USD） | 備考 |
| --- | --- | --- | --- |
| **Vast.ai** | https://vast.ai/ | 0.6〜 | コミュニティクラウドなので安い |
| **TensorDock** | https://www.tensordock.com/ | 1.03 | Redditで宣伝？されてるのよく見る |
| **RunPod** | https://www.runpod.io/ | 1.19 (Community), 0.6 (Community Spot), 1.64 (Secure), 0.82 (Secure Spot) | おすすめ |
| **Lambda Labs** | https://lambdalabs.com/ | 1.3 | 知名度が高い |
| **CoreWeave** | https://www.coreweave.com/ | 2.21 |  |
| **Paperspace** | https://www.paperspace.com/ | 3.18 | 最近買収されてた |
| **Google Cloud Platform** | https://cloud.google.com/ | 5 |  |

### クラウドGPUサービスを選ぶ指標

- コミュニティクラウドか否か
- どの程度セキュアか
- 安定性
- 在庫量
    - 安いと喧伝されていてもスーパーのチラシみたいなもので在庫なしだったりします

## まとめ

以下のように考えておくと良いでしょう。

- スポット利用: Google Colab、Runpod
- 初期費用を抑えたい場合: BREAJONのレンタルサービス
- A100を安く使いたい: [Vast.ai](http://Vast.ai)、Runpod
- ビジネス用途: GCP、Azure、AWSなど

このほかに、modal.com や [beam.io](http://beam.io) などのサーバーレス専門のサービスがあります。

## Appendix

### Runpod を使う方法

- サインアップ
    - https://www.runpod.io/console/signup
- 規約への合意    
- 課金 (デポジット)
    - https://www.runpod.io/console/user/billing
    - 10ドルから課金できます
- デプロイ
    - https://www.runpod.io/console/deploy
        - ![RunPod_GPU_Cloud.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958603/f7094859-5bb4-f739-6399-f0685f054233.png)
    - 好きなやつを選びましょう。
    - GPUを選択するとテンプレート等の選択画面になります。
        - ![template.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2958603/c9998827-eecb-ac2f-17eb-6498abe90f67.png)
        - Chatge Template でテンプレートを変更できます
        - Edit Templateで Disk サイズ等を編集できます
        - Spotインスタンスは安いですが、Interruptibleであり、2時間くらい動かしていると死んだりするので定期的な保存が大事です。
    - あとは遊ぶだけ!