EarthQuickly for Discord の運用記録 2024

この記事は [防災アプリ開発 Advent Calendar 2024](https://adventar.org/calendars/9939) 3日目の記事です。 
昨日は [黒板ちゃん（さん）の記事](https://fukushimacam.hatenadiary.com/entry/2024/11/01/000000) でした。

# はじめに
昨年12月から「EarthQuickly for Discord」というDiscordボットを公開しています。

https://earthquickly.com/discord/

昨年のアドカレでも、[Discordの地震ボット作りましたよ的な記事](https://qiita.com/Ameuma773/items/31db4f5a961029259051)を書きました。 
今回は、そのボットを1年間運用してみて得られた知見を書きたいと思います。

# 【1月1日】本番は突然に
年が明けて間もない 1月1日16時06分、石川県能登地方で**最大震度5強**の地震が発生。 
この地震で緊急地震速報（警報）が発表されましたが、
これがEarthQuicklyボットにおける最初の警報でした。

元日からでかい地震はやめてくれよ...
と思った矢先でした。

**1月1日 16時10分**
令和6年能登半島地震が発生しました。
最大震度7。そんな地震がまさかこのタイミングで来るとは。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/520909e3-91bc-e177-a17f-623b6f31b67d.png)


本震発生時のEarthQuicklyボットの導入数は50サーバー程度。
とはいえ、連続で発表されるEEWや地震情報は負荷が高いものでした。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/37015b14-5553-cc76-fd7b-aac0cb28d431.png)
元日を境にトラフィックが急増した様子
 
 
そして、決して喜ばしいこととは言えませんが、
地震発生と同時にEarthQuicklyボットの導入数が急増し、
17時頃には未認証状態での最大値である**100サーバー**に到達しました。

## 顕著に表れる最適化不足
1月1日は本震や連続する余震の影響で、1日中動作が不安定でした。
特に、地震発生から1時間以内に複数回クラッシュしたログが残っていました。

詳細に検討したところ、以下のシナリオだと分かりました。

> ・EEW予報の処理で、キャンセル報の処理が上手く行かずクラッシュ。
> ・クラッシュを検知し、自動再起動が働く。
> ・サーバーが重くなっていた中、ボットを再起動する時の処理が重すぎてクラッシュ。
> ・また再起動を試みても、再起動の処理が重すぎてクラッシュ。
> ・これを繰り返す。

強制的にサーバーごと再起動することで一旦解決はしましたが、
根本的に処理を改善するまでは、何度もこの問題に苦しめられました。

クラッシュを検知し、自動再起動が働いたらWebhook経由で通知が来るようにしています。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/a77bb1f1-6ab1-ea41-a797-3aae01245bac.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/2f1c69fb-59f3-35df-bcf5-69d3cfe4458e.png)

## 上手く行った点
クラッシュは多発しましたが、ダメな所ばかりではありませんでした。
それは**震度7の地震情報**や**大津波警報**という非常に重要なお知らせも、
予定通りに送信できることが証明できたことです。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/00992e04-061e-84c7-eae5-fc43861e14f3.png)
当時、この津波情報が送信されたのは推定で60チャンネルほどですが、
少しでもEarthQuicklyボットのおかげで危険を回避できた人がいればいいな。と思います。

# 【4月3日】突然の津波警報
ボットの導入数は700鯖程度に拡大していた中、台湾で**M7.2の地震**が発生。
緊急地震速報（警報）と津波警報が発表される事態となりましたが、
EarthQuicklyボットでは正常に配信を完了することができました。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/150818d3-4e13-73af-6d4c-1ca311fe2e24.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/24829f25-1270-7d69-ca09-9cd43fbc0145.png)

# 【4月17日】VPSの限界
緊急地震速報（警報）が発表され、
EarthQuicklyボットは予定通りに送信を完了したと思われました。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/f847cfc6-d0ab-6a94-133c-7866d7c9b1e2.png)

しかし、いつまで経っても震度速報が送信されません。
その後緊急地震速報（予報）は送られてきましたが、明らかに遅延しています。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/9848eafa-351c-fbc3-107d-9d8488a54b41.png)

その後ボットは、震度速報を送信中にクラッシュ。
かなり重大な問題でしたので、すぐに原因究明を開始しました。

## 無駄に使われた帯域
普段、Discordで画像を添付して送信するとき、画像の送信に少し時間がかかると思います。
これと同じ現象がこの時のEarthQuicklyボットに起きていました。

Discordボットから画像を添付してメッセージを送信するとき、
添付の仕方は次の2つがあります。

**・画像データを直接メッセージに添付する（内部生成した画像を使える）**
**・画像が置いてあるURLを添付する（ネット上の画像を使う）**

当時のEarthQuicklyボットでは、前者の方法を使って送信していました。
地震情報の画像を内部で生成して送信するため、通常ならこの方法を用いるからです。

しかし、当時のEarthQuicklyボットは既に800鯖以上に導入されていました。
仮に1サーバーにつき1チャンネル送信していたとすると、
一つの情報で**800回以上**画像を送信する必要があります。

また、緊急地震速報（予報）が数秒ごとに更新されることも踏まえると、
いかに短時間で大量の画像を送信しているかが分かると思います。

結果的にVPSの 100Mbps という帯域ではこの大量の画像送信に耐えることができず、
徐々に情報送信が遅延していった、というわけです。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/5ea0c073-fc35-59cd-c395-3bc58861f749.png)
急いで再起動した結果、「各地の震度に関する情報」はなんとか送信できました。

## 改善方法
これを改善する手段は一つしかありません。それは、
**画像が置いてあるURLを添付する** ことです。

地震情報が発表された際には、内部で生成した画像をnginxのフォルダに保存しておきます。
ボットからは、それに対応したURLを添付しておきます。

そうすると、ユーザーがボットのメッセージを見たタイミングで
Discord側から画像を保存してあるURLへリクエストを飛ばし、画像を持ってきてくれます。

またCloudflareを間に挟むことで、CF側でうまいことキャッシュしてくれます。
これによりサーバーに極端に負荷をかけることなく、
画像を含んだメッセージを送信することが可能になりました。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/8d9a4743-8694-b2a7-bb67-f1561adb34ed.png)

# 【6月3日】効いた対策、現れた盲点
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/317ae534-de67-8a0c-00da-0efed573a011.png)
過大すぎた震度7予想 - 2024/06/03 06:32


月曜日の朝から緊急速報メールに起こされた中、
幸いにもEarthQuicklyボットは予定通りに動作してくれました。
緊急地震速報（警報）や地震情報もうまく送信完了することができました。

## 10分後
6時40分、再び地震が発生し緊急地震速報（警報）が発表されました。
しかし、いつになってもEarthQuicklyボットから警報が送信されてきません。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/2e5957bf-2622-8e60-71a0-723aab6ca8f0.png)

仮定震源要素なEEWが出た時の処理に一部ミスがあり、
結果的にそれが原因でクラッシュしてしまいました。
※現在は修正済みです。

# 【8月8日】Discordボット開発の"魔物"
![スクリーンショット 2024-08-24 164420.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/7983bddc-0ae8-fc6c-c0aa-8bce1ee31c9a.png)
8月8日16時43分、日向灘でM7.2の地震が発生しました。
南海トラフ地震臨時情報が発表されるほどの地震となりましたが、、、

EarthQuicklyボットの挙動は、とてもじゃないですが「**酷い**」の一言でした。

およそ1700鯖程度に導入されていたこのボット。
ついに「**レートリミット**」に直面することになります。

## 効かなかった対策
EarthQuicklyから送信される情報の大半を占めるのが、「緊急地震速報（予報）」です。
EEW予報が、将来的にレートリミットの原因になるだろうなと予測していたため、
**推定最大震度が変化したとき** のみ送信するような処理をしていました。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/bb5a6879-ca69-c933-abfd-dca1e212b3cd.png)
実際、この地震より前にレートリミットが問題となったことはなかったため、
この対策はある程度効いていました。

しかしこの地震では、
**急激に増加する導入数** と **能登半島地震に次ぐレベルの大きな地震** が重なった結果、
ついにこの対策では歯が立たなくなり、レートリミットに引っかかってしまいました。

![スクリーンショット 2024-08-08 183249.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/f2355aa9-0ddd-3693-b87d-83a024aeef17.png)

そして、レートリミットに数分間引っかかり続けた結果、Cloudflareからの制限を受け、
**約1時間ボットが一切動作しなくなる事態**になりました。

ボットの再起動しようとしても、そもそも**ログインの時点で弾かれて**しまいます。
そのため、この地震で発表された津波注意報やその後の余震に関する情報を、
約1時間一切送信することができませんでした。

これは地震情報を送信するボットとして、起こしてはならない事だと思います。
2度とこのような事態を起こさないように、数日かけて対策を練りました。

# 【11月26日】実証できた対策
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/9446c0ee-d651-5e4f-a035-ded51dafe8e0.png)

ボットの導入数は**約2700鯖**まで伸びた中で、久しぶりの緊急地震速報（警報）でした。
しかし、ボットは最後まで止まることなく動作を続けてくれました。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/b6939fcb-a164-731d-7395-4234400e9683.png)

確実にあの時の反省と対策が生かされています。

# 最後に
ここまで、2024年のEarthQuickly for Discordの運用記録を書きました。
紆余曲折ありましたが、約2900鯖に導入されるまでに成長しました。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/448e52dc-4f89-ec18-6907-8115a747e635.png)

今後もより安定した情報発信ができるようにしていきたいと思います。
最後までお読みいただき、ありがとうございました。

> そして、EarthQuicklyボットの開発に関わっていただいたすべての方に、
> 改めて感謝を申し上げます。
> ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2359589/ab84502b-0761-6ad3-835d-7f636ab5d7ed.png)