Kubernetesをぶち壊す10の奇妙な方法 (後編)

# はじめに
これは、[ZOZOテクノロジーズ #4 Advent Calendar 2019](https://qiita.com/advent-calendar/2019/zozo_tech4) 13日目のエントリーです。

[前回の前編記事](https://qiita.com/inductor/items/ee8c01811aaf7bd1652d)に引き続き、Airbnbのエンジニアたちが経験したクラスターでのやらかしをあれこれご紹介します。

## 6. Where's my Custom Resource?（ワイのカスタムリソースはどこに？）

AirbnbではKubernetesのCustom Resourceをよく使用しています。

特に、Kubernetesクラスターの外部にあるが、ストレージ、ダッシュボード、アラート、IAMロールなどのAWSリソースなどのサービスに関連付けられているリソースを追跡するために使っています。

こうしたCustom Resourceを使う上で大変なのが、「そのリソースがいつ利用可能になったか」や、「そのリソースに関する変更がいつ反映されたか」を検知することです。

最初のうちは、以下のようにシンプルなstatusフィールドを使ってリソースの状態を管理していました。
`kubectl apply`のタイミングではPendingのステータスでリソースをセットし、コントローラーによって完了が検知された時にリソースのステータスを変更するようなアプローチです。

<img width="1174" alt="スクリーンショット 2019-12-13 15.26.16.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/42d3302a-6f60-993f-04d9-29fa5353b9ed.png">

こうすると、コントローラーは「Pending」の時に発火すればよく、非常にシンプルにリソースを管理することができます。`kubectl get`したときも、このステータスに応じた結果が返ってきます。

ただし、今のバージョンではもうこれは動きません。

<img width="1164" alt="スクリーンショット 2019-12-13 15.29.29.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/ca92e1a0-baee-4386-4523-e2d34065e5db.png">

Kubernetesの1.12以降では、statusの反映はコントローラー経由でしか行えなくなってしまいました。`kubectl apply`を実行してもStatusフィールドが変更できないので、リソースの作成時や変更時にstatusをPendingにセットできなくなってしまったのです。

これによって、リソースの更新作業が一切行えなくなってしまいます。

<img width="1170" alt="スクリーンショット 2019-12-13 15.33.36.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/7c20979e-1da9-2834-35ee-c94defd7fc1c.png">

Kubernetesには自動インクリメントする整数型の`generation`というフィールドがあり、これによってリソースの世代が管理できます。これをどうにか使って改善できないか考えました。しかし、`kubectl apply`した時点でステータスを変えることはできないので、相変わらず「その世代で変更作業はできたのか」を検知することはできないままです。さてどうしたものでしょうか。

<img width="1163" alt="スクリーンショット 2019-12-13 15.35.35.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/c33b8dcb-bd6c-6f63-2250-2b2b27bfbc3c.png">

Airbnbではステータスに`observedGeneration`というフィールドを追加しました。これによって、「変更が適用されたgeneration」と、そうでないgenerationを察知できるようになりました！

こうすることで無事にカスタムリソースのステータスを管理できます。やったね！

ここでのまとめは以下のとおりです。

>リソースのデプロイがいつ終わったか、それが成功したのかどうかを察知するのは難しいです。

## 7. I can't believe I have all the node's resources（まさかノードのリソース全部持ってくなんて信じられんわ）

Kubernetesを導入する前のAirbnbでは、インスタンスに対して1つのJVMがある、とてもシンプルな世界がありました。

<img width="1181" alt="スクリーンショット 2019-12-13 15.38.43.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/f3072973-f2ea-383c-72d3-f910d5a0e135.png">

Kubernetesを導入したあとはどうでしょうか。ノードの上にJVMを持つPodが複数あると・・・

<img width="1177" alt="スクリーンショット 2019-12-13 15.39.18.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/07c064f7-a376-83b6-328d-bbe84e3d2745.png">

各JVMが自分がほしいメモリを確保するだけしてしまうので、OOMが発生します。

これはCPUの場合でも同様です。

<img width="1177" alt="スクリーンショット 2019-12-13 15.41.22.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/1766bf56-fc23-7dba-72b9-9b816c4107c2.png">

この問題の原因は、古いJDKではコンテナがリソースの隔離につかうLinuxの`cgroup`を考慮できていなかったためで、新しいバージョンでは修正されています。そこでJavaのバージョンを上げてみましょう！という話になりました。

<img width="1166" alt="スクリーンショット 2019-12-13 15.43.14.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/8af8c3f2-5f62-b7a7-6bdc-2f0ab15d03a9.png">

実際に上げてみたところ、95パーセンタイルベースでのリソース利用率がぐっと下がっていることがわかります。念のために`-XX:ActiveProcessCount`も効果があるか試してみましたがそちらはそんなに効果はありませんでした。

なんにしても、これでリソースが適切に隔離できるようになりました。

さて、ここでもう1つ別の問題が露呈しました。

<img width="1176" alt="スクリーンショット 2019-12-13 15.49.47.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/3a187d38-29dd-e2e2-4422-668867478b65.png">

```
Pod「サービス君、これが新しく割り当てられた”適切な”CPUリソースだよ」

サービス「ぼく、同期処理リクエストに起因する並列実行の箇所にバグがあって、特にスレッドプールが小さい時に露呈しやすいんだ」

Pod「アッハイ」
```

**適切なリソースに設定したはずが、かえってアプリケーションの競合を引き起こしてしまいました！！**

実際のグラフが↓です。処理に時間の掛かったリクエストが急激に増えていることがわかりますね！

<img width="1178" alt="スクリーンショット 2019-12-13 15.53.45.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/dbf366ed-a4a7-fd63-e57b-2370e8fd6748.png">

解決策としては、JDKを上げるときにはマルチスレッドなプログラムにおいて適切なスレッドプールを利用しているか、スレッドブロッキングな同期呼び出しがないか、その他並列実行に関するバグがないかを確認するほかにありません。

<img width="1177" alt="スクリーンショット 2019-12-13 15.53.24.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/ee0f22cb-f9e2-d70b-2764-d1a36f39500d.png">

はいはい、わかってまーす、となりがちですが、これは非常に重要で、さらに言えばJavaに限った話でもありません！

「古いJVMがcgroupに対応してないからコンテナと相性が悪いのなんて当たり前の知識じゃん」なんて思っていると、他の言語やフレームワークに起因するパフォーマンスの問題にぶち当たる原因になります（例: Envoyの並列実行数はホストの持つCPU数分がデフォルト値になっているため、ホスト上で他のアプリケーションとリソースを食い合うことになりかねないといった話）。

ここでのまとめは以下のとおりです。

>使っている言語フレームワークやサイドカーにおける、コンテナ周りの考慮漏れに注意しよう

## 8. Autoscale-ocalypse（オートスケール黙示録）

Kubernetesにおけるオートスケーリング(HPA)は素晴らしく、私達も多用しています。

HPAの簡単なしくみを振り返ると、デプロイメントリソースにおいてPodの平均CPU使用率が一定のしきい値を超えた場合に、新しくPodを作成してスケールしていくような動作をします（スケールダウンの場合はその逆）。そうすることで、ワークロードのリソース利用率を一定の範囲に抑えるように作用します。

<img width="1156" alt="スクリーンショット 2019-12-13 17.00.28.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/bca3f4e6-d21e-3fb9-bdbb-b71a7a10bd2c.png">

さて、以下のような特性のアプリケーションがあった場合のことを考えてみます。

<img width="1158" alt="スクリーンショット 2019-12-13 17.00.04.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/2f3c7481-e421-90d7-814b-f0f520fab5a8.png">

これはPodが起動した直後にCPUを大量に使う特性を示していますね。具体的な数字でいうと、およそ2分間の間CPUを100%消費して、初期化の処理を行っています。さて、このときHPAはどんな動きをするでしょうか。

<img width="1163" alt="スクリーンショット 2019-12-13 17.01.25.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/2ff30522-a260-f49f-476c-dadaa10cb383.png">

はい、あるPodが初期にCPUを大量に使うのを検知してPodが増え、さらにそれに起因してPodが増え・・・を繰り返すので、Podの数がとんでもないことになります。「オートスケーリングが素晴らしくない」パターンの典型です。通常30で展開しているPodが200近くまで増えてしまいました。

これはどうやったら直したらいいんでしょうか？

悲しいことに、1.12まではPodに対するクールダウン遅延の設定項目がHPAリソースにあったのですが、[削除されてしまいました](https://kubernetes.io/docs/tasks/run-application/horizontal-pod-autoscale/#support-for-cooldown-delay)。

>v1.12から、新しいアルゴリズムの更新により、アップスケール遅延の必要がなくなりました。

このケースにおいては強く反対したい記述ですよね。

```yaml
- --horizontal-pod-autoscaler-initial-readiness-delay=300s
- --horizontal-pod-autoscaler-sync-period=300s
- --leader-elect=true
- --master=http://127.0.0.1:80
```

ここで私達が選択した「ちょっと恥ずかしいハック」がこちらです。もともと、`--horizontal-pod-autoscaler-initial-readiness-delay=300s`を設定すれば改善するのかと思っていたのですが実はこれでは効果がなく、最終的には`--horizontal-pod-autoscaler-sync-period=300s`を設定することでこの問題の改善が見られました。

この値が意味するのは、「オートスケーラーを5分に1回しか動かさない」ということです。これ以下に設定してしまうと先程のようなスパイクが発生してしまうので、仕方なくこの値にしたというような経緯があります。

<img width="1171" alt="スクリーンショット 2019-12-13 17.17.02.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/01c8da72-f109-1eab-5936-da8e09fe6c96.png">

さらに言えば、問題は「軽減」されましたが、「修正」はされていません。図を見てもわかるように、まだスパイクが90近くまで発生しています。

ここでのまとめは以下のとおりです。

>オートスケーリングは、CPUが初期に使い潰されるワークロードにはうまくフィットしません

## 9. Hey, my scheduled operation took down all services(ねえねえ、ワイのオペレーションで全部のサービス死んだよ)

次はこちらです。計画したアップデートにてKubernetesクラスター上でメトリクスを集約するのに使っている`Statsdエージェント`をアップグレードするために、数分間メトリクスが見られなくなるよという通知をしました。

しかし実際には、この作業中に「全部のKubernetesサービスがダウン」しました。

これを説明するために、そもそもKubernetesにおけるヘルスチェックがどのように動作しているかを説明します。

<img width="1160" alt="スクリーンショット 2019-12-13 17.24.01.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/6afd5607-3d61-1771-ba7d-ddcde4a05789.png">

Kubernetesには大きく分けて2つのヘルスチェック用プローブがあります。それぞれ、アプリケーションのどこかにヘルスチェック用のエンドポイントを用意する必要があります(例では`/health`)。

- Readiness Probe「サービスが一時的に止まっているから僕にトラフィックを流さないで」
- Liveness Probe「僕は死んでるからコンテナの入れ替えをして」

ヘルスチェックエンドポイントは、Pod単位ではなくコンテナ単位で用意します。そこで、最初に以下のことを試してみました。

- Statsdエージェントのような、ミッションクリティカルではないコンテナはサービスの正常性の判断に影響すべきではない
    - 簡単やん！**そいつらのreadiness probeを外せばええんや！**

<img width="1178" alt="スクリーンショット 2019-12-13 17.31.44.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/3370a084-bb58-d7fb-7c3c-c49313e559eb.png">

残念ながらこれではうまくいきませんでした。

クラッシュするコンテナが存在している限り、そのコンテナのreadiness probeが設定されているかどうかに関わらず、PodのステータスがReadyにならないということを知りませんでした。

今回の場合、(サービスディスカバリ用のネットワークプロキシコンテナが起動していないという原因で)Statsdエージェントが起動に失敗しているので、PodのステータスもReadyになりませんでした。

私達が作っているサービスメッシュでは、Podの正常性を判断するロジックが以下のようになっていました。

```ruby
isPodReady := true
for each containerStatus in pod:
 if !containerStatus.Ready:
 isPodReady = false
if isPodReady:
 publishPodIsReady()
```

つまり、このロジックでは全てのコンテナステータスがReadyになっている場合はPodがReadyであるという判断がなされます。逆に言えば1つでもReadyでないコンテナがある場合はPublisherがコンテナの状態を正常として通知することはありません。

<img width="1162" alt="スクリーンショット 2019-12-13 17.38.10.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/a454420a-590f-5d6d-4e23-344a57cde45c.png">

そこで、コンテナの種類をこのように2種類に分類してみることにしました。こうすることで。サービスの正常性を通知するのに必要でないものの正常性は判断に加えなくてよいというロジックが書けるようになります。

加えて、サービスメッシュのロジックにも以下のような条件を加えました。

```ruby
isPodReady := true
for each containerStatus in pod:
 continue if container.isNonCritical()
 if !containerStatus.Ready:
 isPodReady = false
if isPodReady:
 publishPodIsReady()
```

クリティカルではないコンテナが評価されるときはそのステータスを無視しています。これによって、サービスに関係のないコンテナの状態に関わらず無事にサービスを提供できるようになりました。

ここでのまとめは以下のとおりです。

>特に壊れやすいサイドカーがいるときには、Podのヘルスチェック設定に気をつけましょう。

## 10. Scheduling is easy and fun（スケジューリングは簡単でたのしいね）

これはとあるサービスにおけるAZごとのQPSです。見てわかるように、パフォーマンスがAZごとに偏っていることから、KubernetesのスケジューラーがうまくAZ間でバランシングしてくれていないことを示しています。

<img width="1350" alt="スクリーンショット 2019-12-13 17.42.57.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/7f34019a-7a7d-7ba1-136f-0be0141ab077.png">

スケジューリングのコードを詳しく見ていないので詳しいことはよくわからないのですが、見立てに因ると、スケジューリングにおけるループの各ラウンドにおいて、作成しようとする全てのPodが単一のAZに偏るようです。

Srugeがかなり大きい場合、全Podが一度にSurgeされ、それらは単一のAZの上に展開されます。

一方で、私たちのサービスはAZに偏らないように負荷分散をかけようとするので、このようなスケジューリングのばらつきがあると、インフラにおいても様々な問題を招くことになります。

そういうわけで、はじめに「Deployment "Pruner" Controller」というカスタムコントローラーを作成しました。

<img width="1391" alt="スクリーンショット 2019-12-13 18.04.47.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/8379a315-6fe1-c3ce-7f6e-48d5a1313456.png">

これによって改善はありましたが、最初に配置されるPodにはまだまだばらつきがあり、それを少しずつ収束させるような動きを示していますね。

基本的に私達がやっていることはスケジューラーに「戦いを挑む」ことなので、スケジューラーが配置したPodを削除して、それをスケジューラーがまた配置して、というのを繰り返すことになるのがこの方法では発生します。これでは本来やりたい「速やかな」バランシングが行われないのが悩みです。

前半の話にもありましたが、こうした問題を解決するためにはしばしば「Kubernetes本体に手を入れる」必要があります。

<img width="1397" alt="スクリーンショット 2019-12-13 18.09.04.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/100275/80838bc4-3335-af76-da9c-41fa393ab438.png">

実際、今回はいくつかのパッチを本体に投げています。1つはマージされており、残りの1つは（発表時点では）まだオープンのままです。だれかここにいる人マージされるの手伝ってくれると嬉しいです。

ともかく、これによって以下のようなカスタマイズができるようになるので、今回も「フォーク」することなく解決ができました。

```yaml
metadata:
 name: kube-scheduler
 namespace: kube-system
spec:
 containers:
 - name: kube-scheduler
 image: our-custom-scheduler
```

ここでのまとめは以下のとおりです。

>Kubernetesスケジューラを修正する必要があるかもしれませんが、カスタムイメージとして簡単にアップロードできます！

## さいごに

Kubernetesのクラスターを自前で運用する上での知見の共有は国内外問わず決して多くはありません。

そんな中でこの規模の運用を赤裸々に紹介してくれたお二人に深く感謝しています。

記事の内容が楽しめたという方は、是非以下のセッション動画も合わせてご覧ください！現場の雰囲気もわかると思います。

セッションの動画: https://www.youtube.com/watch?v=FrQ8Lwm9_j8
スライド: https://static.sched.com/hosted_files/kccncna19/b9/kubecon%202019%20preso.pdf