Azure Functions とパフォーマンスチューニングその１ - Queue-Based Load Leveling pattern

Cloud のデザインパターンで、[Queue-Based Load Leveling pattern](https://docs.microsoft.com/en-us/azure/architecture/patterns/queue-based-load-leveling) というのがある。Serverless をやっているとアーキテクチャをもっと勉強しとくほうがいいなと思って、少しづつパターンを検証してみようと思っている。ふと思い立って、このパターンを Azure Functions で本当にそうなのか試してみることにした。

![queue-based-load-leveling-pattern.png](https://qiita-image-store.s3.amazonaws.com/0/3470/56ac58c5-b6be-cc0c-c798-d4dcc03eac16.png)

このパターンは、高負荷の時にパフォーマンス問題を引き起こすケースに使える。例えば、アプリケーションがスケールして、それが一気にデータベースに書き込むようなケースはどう解決するか？という話だ。そこで、Queue を挟むといいですよ。という話になる。じゃあ、実際に、Azure Functions で試してみよう。

```
HttpTrigger -> AzureFunctions -> CosmosDB
```

という構成と、

```
HttpTrigger -> AzureFunctions -> StorageQueue -> QueueTriggger -> Azure Functions -> CosmosDB
```

つまりこんな感じのシンプルなテスト。

![compare.jpg](https://qiita-image-store.s3.amazonaws.com/0/3470/43acbeb8-37ba-e866-f924-6f93dd7b3118.jpeg)


という構成で、どちらがパフォーマンスが良いかを検証してみよう。このぱたーんにしたがうと当然後者！になりそうである。最初は Consumption プランで試してみた。

# 前者のほうが何故かパフォーマンスが良いという初回の結果

とりあえず 2000　ユーザぐらいの負荷をかけてみる。

## ダイレクト

```csharp
using System.Net;

public static async Task<HttpResponseMessage> Run(HttpRequestMessage req, IAsyncCollector<object> outputDocument, TraceWriter log)
{
    log.Info("DirectWrite Trigged!");
    // Get request body
    var body = await req.Content.ReadAsStringAsync();
    await outputDocument.AddAsync(body);
    return req.CreateResponse(HttpStatusCode.OK, "Thank your for the message");

}

```

<img width="628" alt="DirectConsumptionPlan01.png" src="https://qiita-image-store.s3.amazonaws.com/0/3470/f420855f-9872-1325-fd4e-477d6501e3b5.png">


## Queue を介した結果

<img width="656" alt="InDirectConsumptionPlan01.png" src="https://qiita-image-store.s3.amazonaws.com/0/3470/4e0267e4-5de1-663b-a418-0de3999b946c.png">

```csharp
using System.Net;

public static async Task<HttpResponseMessage> Run(HttpRequestMessage req, IAsyncCollector<string> outputQueueItem, TraceWriter log)
{
    log.Info("C# HTTP trigger function processed a request.");
    var body = await req.Content.ReadAsStringAsync();
    outputQueueItem.AddAsync(body);

    return req.CreateResponse(HttpStatusCode.OK, "Thank you for sending messages");
}

```

```csharp
using System;

public static async void Run(string myQueueItem,IAsyncCollector<object> outputDocument, TraceWriter log)
{
    log.Info($"C# Queue trigger function processed: {myQueueItem}");
    await outputDocument.AddAsync(myQueueItem);
}

```

## な、なんでやねん

というわけで結果をみると、なんでやねんとしか言いようのない結果になった。想定と逆だ。ちなみに、何回か繰り返すと、これは、Queue がとか、ダイレクトがとかではなくて、ダイレクトでもエラー三昧になったり、出力が安定しない。一体何なんだろうと思ったのだが、原因は簡単だった。Consumptionプランは、マイクロビリングと言われるつかっただけの課金でオートスケールする。オートスケールはリクエストのカウントでスケールするようだ。

 * [Azure Functions hosting plans comparison](https://docs.microsoft.com/en-gb/azure/azure-functions/functions-scale)

つまり、HttpTrigger が大量のデータをさばくためには、スケールアウトしていないといけないが、この負荷テストの設定だと、一気に2000ユーザのアクセスが来るようになっているので、スケールするまえに、リクエストが来すぎてやられている、もしくは、負荷をかけた後だと、スケールアウトがなされた状態だと、それでも負荷に耐えれている（たぶんデータベースのデータ量とかも関係している）という推測を立てた。

説明を読むと、スケールコントローラーがその役割を果たしている様子。

![central-listener.png](https://qiita-image-store.s3.amazonaws.com/0/3470/7cf6bab6-3790-8733-a843-956945a1746c.png)

エラーを見てみるとこんな感じのだったりする。明らかに

```
Host Error: Microsoft.Azure.WebJobs.Script: Host thresholds exceeded: [Connections]. 
Session Id: 2ade43e7040548e49a6d620323e9a863
Timestamp: 2017-11-13T13:55:31.367Z
```

```
503 - Service Unavailable
```

だから、たまたまスケールした時にあたっているかということになる。元々、Httpで大量のデータを受け付けるというより、Event Hub や、IoTHub で受け付けるようにするといいのかもしれない。

* [Processing 100,000 Events Per Second on Azure Functions](https://blogs.msdn.microsoft.com/appserviceteam/2017/09/19/processing-100000-events-per-second-on-azure-functions/)

上記の方法だとなんと100,000 Event / Sec でもさばけている様子だ。だからきっとHttpTrigger の制約で、それは、Web サイトのアクセスと同じような感じでかんがえるとよいかもしれない。

だから、負荷試験をするときに、この設定では、一気に2000ユーザ同時だが、段階を追ってあげていくと、よいのかもしれない。

<img width="361" alt="Step01.png" src="https://qiita-image-store.s3.amazonaws.com/0/3470/e06ee353-0e6d-50af-4425-aff39cc341aa.png">

すると、少しエラーがでているが、Queue を介するほうではしっかりと、大体対応できているのがわかる。やっぱりスケールの原因っぽい。

<img width="617" alt="step02.png" src="https://qiita-image-store.s3.amazonaws.com/0/3470/0b52d141-29a4-534e-f6db-aecc87844d4c.png">
<img width="889" alt="step03.png" src="https://qiita-image-store.s3.amazonaws.com/0/3470/4fc0864e-7f8d-6a3d-4525-66acb6d248e5.png">

Consumption Plan では、オートスケールなので、大量のリクエストをさばきたいときは、EventHub 経由で非同期にするか、ある程度スケールするように温めるかということになる。ただ、このグラフを見ていると、ある程度のところで、サーバーがスケールしているっぽいのがわかる。今度は、8000 ユーザをステップ実行で流してみる。

<img width="618" alt="800001.png" src="https://qiita-image-store.s3.amazonaws.com/0/3470/3d74ac57-6919-5c5a-9953-0782f287e1ae.png">
<img width="896" alt="800002.png" src="https://qiita-image-store.s3.amazonaws.com/0/3470/a337bf7b-24b1-765f-ef74-be869e2c57a5.png">
<img width="710" alt="800003.png" src="https://qiita-image-store.s3.amazonaws.com/0/3470/503cf7d9-08c2-f7e3-d0af-80b1c8598f06.png">

途中でスケールしている感じがわかる。スケールが間に合っていない。ただ、耐えき照れていないところは、Consumption plan のサーバーの限界かもしれない。しかし、どんどんスケールしている雰囲気なのは興味深い。やっぱりHttpで高い負荷を受けるときは、AppService Plan を選択するか、もしくは、EventHub/IoTHub で受ける（可能なら）というのが良さげだ。おそらく、Azure Functions の限界ではなく、Consumption Plan の HttpTrigger の限界というべきかもしれない。

# App Service Plan を試す

そうすると、このパターンを試すためには、App Service Plan で試すほうがいいかもしれない。そっちのほうが比較がちかくなるだろう。最初から10台のサーバーを並べることにしてみた。1 Core 1.75 GB RAM のプランなので一番しょぼい奴だ。

## ダイレクト
<img width="615" alt="AppDirect01.png" src="https://qiita-image-store.s3.amazonaws.com/0/3470/c4b77e24-d931-9083-ba27-4183b0f822c5.png">

Internal Server Error 500 で落ちている。

## Queue 経由
<img width="606" alt="AppInDirect01.png" src="https://qiita-image-store.s3.amazonaws.com/0/3470/a2b2e1a6-fabb-43e9-abdd-791daa096851.png">

こちらは、1 は、Bad Gateway になっている。

Queue 経由だとほぼエラーが出なくなっている。ダイレクトだと、１０並列で、Cosmosに叩き込むことになるので、エラーになっていると思われる。

ただ気になるのは、リクエスト数の違いだ。なぜ違うんだろう。私がうまく負荷テストをやれていない可能性がある。ただ、サーバーのログを見てもエラーにはなっていないので、Queue 経由のほうが高い負荷に耐えられそうだ。

基本的に高い負荷に耐えてもらおうと思うと、

* Consumption Plan で事前に負荷をかけて、温める
* App Service Plan で、スケールをすでにさせておく

後者が特に安定するだろう。App Service Plan はマイクロビリングの意味では意味をなさないかもしれないが、サーバーレスの生産性に注目して、マイクロビリングにこだわらないならいい感じかもしれない。

# App Service Plan で高級サーバーでぶん殴ってみる

折角なのでためしに、高級サーバーで、14 サーバー並列にしてみよう。

<img width="296" alt="expensiveapp.png" src="https://qiita-image-store.s3.amazonaws.com/0/3470/73a0c49a-103e-3a14-1288-667436848955.png">

## だめだった

2000 user -> 8000 user まで、段階的に上げてみたがうまくいかず。ネックは違うところにあるかもしれない。

<img width="681" alt="expensiveapp01.png" src="https://qiita-image-store.s3.amazonaws.com/0/3470/4e0fe60e-a478-dd45-6bd6-825eb4e59b08.png">
<img width="892" alt="expensiveapp02.png" src="https://qiita-image-store.s3.amazonaws.com/0/3470/e9bd479c-f8cf-4a0f-1972-c3a3ed5bc0d3.png">
<img width="665" alt="expensiveapp03.png" src="https://qiita-image-store.s3.amazonaws.com/0/3470/78aef21d-14e8-a6b5-b23a-2f90224a0f17.png">

残念ながら、Application Insight をセットしていなかったので、Internal Error の内容はわからず。
<img width="580" alt="expensiveapp04.png" src="https://qiita-image-store.s3.amazonaws.com/0/3470/528b7696-be64-f2c2-6e8d-773504d028eb.png">

Azure Functions の件数を見ても、エラーはないので、何かサーバーレベルの問題と思われる（ちなみに、件数は、Queue トリガーのほうが少ないので Lost している）
<img width="874" alt="expensiveapp05.png" src="https://qiita-image-store.s3.amazonaws.com/0/3470/c21d057f-ffce-345d-21a8-04c2158a6342.png">
<img width="894" alt="expensiveapp06.png" src="https://qiita-image-store.s3.amazonaws.com/0/3470/77703d84-97ef-ad68-9571-f0bd73de757c.png">

Cosmos 側がねっくなのでは？とも思ったがそうではないようす。400RU のチープなやつだが、一時的に超えても、問題ないようす。

<img width="769" alt="expensive07.png" src="https://qiita-image-store.s3.amazonaws.com/0/3470/1720504c-a342-cd45-1695-2b771a9072f1.png">



# 次回

まずは、私の Azure Functions と、WebApps のチューニング、負荷試験の知識が足りないとおもわれるので、自分でうんうんうなってないで、人の助けを借りることにしよう。この結果は適切ではない可能性がある。まずは原因調査から。

次は、C#, Node, Durable Functions の比較、App Service Plan でもっといいサーバーを使ってみるとどうなるかとかを試してみよう。

負荷試験ツール（今回はVSTS) もちゃんと調べたほうがよさそう。あまり設定項目無いからこんなもんと思ってたけど一応目を通しておこう。





# Resource 

* [Queue-Based Load Leveling pattern](https://docs.microsoft.com/en-us/azure/architecture/patterns/queue-based-load-leveling) 
*