GitLab CIとAWS Spot Instanceでお手頃価格のスケーリングCIを実現する

この記事は  [JustSystems Advent Calendar 2017](https://qiita.com/advent-calendar/2017/justsystems) の 1日目の記事です

# お断り

この記事は [GitLab Meetup Tokyo #4](https://gitlab-jp.connpass.com/event/67444/) で発表した内容です．
スライドだけではトーク内容が伝わりにくいので，記事化することにしました．

スライド:
https://speakerdeck.com/tetsukay/reasonable-auto-scaling-ci-with-aws-spot-instance

# Reasonable Auto Scaling CI with AWS Spot Instance

## 現在進行形の怖い話

大量のModules

![image.png](https://qiita-image-store.s3.amazonaws.com/0/51949/6fd69f13-4d4c-4470-e460-04a18d97a801.png)

## 以前のCI環境

- プラットフォーム
    - GitLab CI
- サーバ
    - AWSオンデマンドインスタンス
    - m4.xlarge(4core 16GB $0.258/h)

こんな環境でDockerベースCIをしていました．

![image.png](https://qiita-image-store.s3.amazonaws.com/0/51949/6240c05d-eab2-0c25-4363-11dc66d888e2.png)

### 課題

- 前述の通り，大量のModulesがあるためCIに時間がかかる
- しかも並列でCIが走るとどんどん遅くなる
    - 4CIも同時に走ると，タイムアウトでCIがコケる
- （計算してみたらそうでもなかったけど）ハイコスト
    - `$72 = 280 hours * $0.258`

![image.png](https://qiita-image-store.s3.amazonaws.com/0/51949/72cb4c02-b943-0d64-e60c-6ed1dd2874d9.png)

## BY THE WAY...

AWSの課金が時間単位から秒単位になりましたね :moneybag: ！

![image.png](https://qiita-image-store.s3.amazonaws.com/0/51949/6253a72b-05c5-b3b6-960c-5c2e6a74e504.png)

## やるっきゃない！ Auto scaling

![image.png](https://qiita-image-store.s3.amazonaws.com/0/51949/b4761f99-c045-5575-a304-a1f702a642c2.png)

### Auto scaling with GitLab CI

GitLab CIは，docker-machineをサポートしています．
CIが実行されるたび，GitLab CIはdocker-machineでAWSスポットインスタンスを立てて，そこでCIを行います．

![image.png](https://qiita-image-store.s3.amazonaws.com/0/51949/d8345e11-2c63-7fa2-8950-149c4b394da3.png)

#### こんなかんじ

- GitLabとスポットインスタンス（CIインスタンス）の間に，GitLab Runnerが仲介
    - この子はオンデマンド(t2.small)でGitLabからのCIリクエストを受け付ける役割
    - この子がdocker-machineでCIインスタンスを立ち上げる

![image.png](https://qiita-image-store.s3.amazonaws.com/0/51949/54b00621-63c8-e14c-4909-ead0a273fbc9.png)

## スポットインスタンスってなあに？

先程からチラチラでているスポットインスタンスについて簡単に説明します．

![image.png](https://qiita-image-store.s3.amazonaws.com/0/51949/e36e7ae2-8ee6-9788-96cd-dea3f121e4a4.png)

### 余った資源をお安く提供

AWSのデータセンターは，需要の増減を見越してある程度余裕を持たせて稼働しています．当然ですよね．
でも今度は逆に処理能力が余ってしまうわけです．もったいない！
そこで，需要が少なく処理能力が余っている時，余っている処理能力をお安く提供しますよ．っていうのがスポットインスタンスです．
ちなみにスポットインスタンスの価格は変動します．「ここまで出せる！」という価格を決めて入札します．

- おおよそオンデマンドの 15〜20% くらいの価格で買うことができます．
- 例えば， c4.4xlarge（16core 30GB RAM）では
    - on-demand: 1.008/h
    - spot: 0.182/h（最安時）

となり，1秒単位で課金されます．

![image.png](https://qiita-image-store.s3.amazonaws.com/0/51949/21b55238-843a-668a-3125-2bd0d6d2a979.png)

### スポットインスタンスのデメリット1

なら，全部スポットで良いんじゃないかな？

と，おもいますよね？
全部スポットインスタンスで賄えれば，それは大きなコスト削減につながりますが，デメリットもあります．

ひとつ目は，価格変動リスク
AWSリソースの需要が逼迫した場合，スポットインスタンスの価格はオンデマンドの10倍（:exclamation:）近くまで跳ね上がります．
なお，設定した入札価格を超えて知らず知らずのうちに10倍払っていた…ということにはなりませんのでご安心を．

![image.png](https://qiita-image-store.s3.amazonaws.com/0/51949/c0e5c55f-a1b7-29b9-89d1-0ad52b242910.png)

### スポットインスタンスのデメリット2

ふたつ目は，突然強制的にシャットダウンされることがある点です．
スポットインスタンス使用中に価格が入札価格を上回った場合，1〜2分の猶予時間を与えられてから強制的にインスタンスをシャットダウンされます．
また，CIのたびにインスタンスを起動するので，1〜2分ほどインスタンスを起動する時間がビルド時間にプラスして掛かります．

![image.png](https://qiita-image-store.s3.amazonaws.com/0/51949/b40e852a-db11-3a6c-812c-4ffc6c576956.png)

## 改善後のCI環境

さて，上記の仕組みを導入した結果…

- CIの実行インスタンスタイプは
    - m4.xlarge（4core 16GB）から c4.4xlarge(16core 30GB)へ！
        - 入札価格は $0.5 としています
- CIの実行時間は
    - 25min から 14minへ！
- 並列数は無制限！
    - といいたいところですが，インスタンス起動可能数に上限があるのを忘れていました．
    - 今回の環境の場合は，20が上限です．が，現時点では十分すぎるくらいです．

![image.png](https://qiita-image-store.s3.amazonaws.com/0/51949/6559ac4d-a34f-e76b-9fe1-b2a7d41140e3.png)

## コスト計算

### Before

- Runner Instance（on-demand）
    - 前環境では直接ここでCIをしていた
    - m4.xlarge $0.258
    - 280時間/月稼働
    - 280*0.258 = $72.24

### After

- Runner Instance（on-demand）
    - CIリクエストを捌く係．CIはしない
    - t2.small $0.0152
    - 280時間/月稼働
    - 280*0.0152 = $4.256

- CI Instance(spot)
    - Runnerからリクエストを受けてCIする係
    - c4.4xlarge $0.1825（最安値）
    - 200 CI /月（おおよそ）
    - 14min * 200 = 2800 min/月 = 46.67 時間/月
    - 46.67 * 0.1825 = $8.52

- Total
    - 4.256 + 8.52 = $12.776

なにより，並列でCIを起動してもビルド時間が伸びない嬉しさ！！

## まとめ

- CIするインスタンススペックをドカッと上げることができたよ！
- （事実上）無制限な並列CIができたよ！
- それなのにコストも 1/3（概算） まで下がってしまったよ！

![image.png](https://qiita-image-store.s3.amazonaws.com/0/51949/c07d34f6-a217-416e-166d-57b05c47a2ee.png)