AWS Service Health Dashboardの障害データから学ぶAWS障害

## はじめに
先日，AWSの東京リージョンで気象庁のサイトがダウンするというインパクトの大きな障害が発生してニュースになりましたが，AWS全体ではどの程度の頻度で障害が発生しているのでしょうか？

本稿ではAWSが公開している障害のデータから簡単な分析を行い，AWS障害に対する理解を深めてみます。

## AWSの公式障害情報
大規模なAWS障害は[AWSのこちらのサイト](https://aws.amazon.com/premiumsupport/technology/pes/)にレポートが掲載されています。これを読むだけでお腹いっぱいになりそうですが，レポートの件数は多くはありません。もう少し全体の傾向が見えるデータを探してみましょう。

AWSがサービスとして提供している[Personal Health Dashboard](https://docs.aws.amazon.com/ja_jp/health/latest/ug/getting-started-phd.html)にはもう少し規模の小さい障害のレポートも掲載されており，障害のデータを集計したりできそうです。

...と思ったのですが，ドキュメントをよく読むとPersonal Health Dashboard用のAPI(Health API)を使うにはビジネス以上のサポートプランが必要なようです。お遊び用のアカウントでそこまでの出費はつらい...

さらにAPIで取得した情報をQiitaに晒してしまうのはライセンス上問題あるのかもしれません。利用規約はよく読んでませんがとりあえずやめておきましょう。

そこで今度は[Service Health Dashboard](https://status.aws.amazon.com/)を見てみます。このサイトのUIは少々難ありですが，内部で参照しているデータ[https://status.aws.amazon.com/data.json](https://status.aws.amazon.com/data.json)には，2018/5/10からの300件以上の障害データが記録されている様です。これはありがたい。今回はこのデータを調べてみます。

## データ収集
データを取得して，過去の障害情報が設定されているarchive属性をDataFrameに変換します。


```python
import pandas as pd
import json
import io
import re
from datetime import datetime, timedelta
import requests
from bs4 import BeautifulSoup, NavigableString
import seaborn as sns
import matplotlib.pyplot as plt
%matplotlib inline

response = requests.get("https://status.aws.amazon.com/data.json")
data = response.json()
df = pd.DataFrame.from_records(data["archive"])
df
```




<div>
<style scoped>
    .dataframe tbody tr th:only-of-type {
        vertical-align: middle;
    }

    .dataframe tbody tr th {
        vertical-align: top;
    }

    .dataframe thead th {
        text-align: right;
    }
</style>
<table border="1" class="dataframe">
  <thead>
    <tr style="text-align: right;">
      <th></th>
      <th>service_name</th>
      <th>summary</th>
      <th>date</th>
      <th>status</th>
      <th>details</th>
      <th>description</th>
      <th>service</th>
    </tr>
  </thead>
  <tbody>
    <tr>
      <th>0</th>
      <td>Auto Scaling (N. Virginia)</td>
      <td>[RESOLVED] Increased API Error Rates</td>
      <td>1525914401</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 6:06 PM PDT&lt;/span...</td>
      <td>autoscaling-us-east-1</td>
    </tr>
    <tr>
      <th>1</th>
      <td>Amazon Elastic Compute Cloud (N. Virginia)</td>
      <td>[RESOLVED] Delayed network provisioning</td>
      <td>1526397141</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 8:12 AM PDT&lt;/span...</td>
      <td>ec2-us-east-1</td>
    </tr>
    <tr>
      <th>2</th>
      <td>Amazon Elastic Load Balancing (N. Virginia)</td>
      <td>[RESOLVED] Increased provisioning times</td>
      <td>1526397279</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 8:14 AM PDT&lt;/span...</td>
      <td>elb-us-east-1</td>
    </tr>
    <tr>
      <th>3</th>
      <td>Amazon Elastic MapReduce (N. Virginia)</td>
      <td>[RESOLVED] Delays in starting clusters</td>
      <td>1526397532</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 8:19 AM PDT&lt;/span...</td>
      <td>emr-us-east-1</td>
    </tr>
    <tr>
      <th>4</th>
      <td>Amazon Simple Storage Service (N. Virginia)</td>
      <td>[RESOLVED] Elevated error rates</td>
      <td>1526466746</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 3:32 AM PDT&lt;/span...</td>
      <td>s3-us-standard</td>
    </tr>
    <tr>
      <th>...</th>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
    </tr>
    <tr>
      <th>369</th>
      <td>AWS Transfer for SFTP (N. Virginia)</td>
      <td>[RESOLVED] Increased Login Failures</td>
      <td>1614879450</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 9:37 AM PST&lt;/span...</td>
      <td>transfer-us-east-1</td>
    </tr>
    <tr>
      <th>370</th>
      <td>AWS CloudFormation (N. Virginia)</td>
      <td>[RESOLVED] Increased Console Error Rates</td>
      <td>1614879598</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 9:39 AM PST&lt;/span...</td>
      <td>cloudformation-us-east-1</td>
    </tr>
    <tr>
      <th>371</th>
      <td>AWS Internet Connectivity (Sydney)</td>
      <td>[RESOLVED] Network Connectivity</td>
      <td>1615136782</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 9:06 AM PST&lt;/span...</td>
      <td>internetconnectivity-ap-southeast-2</td>
    </tr>
    <tr>
      <th>372</th>
      <td>Amazon Cognito (Ohio)</td>
      <td>[RESOLVED] Increased Errors</td>
      <td>1615329039</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 2:30 PM PST&lt;/span...</td>
      <td>cognito-us-east-2</td>
    </tr>
    <tr>
      <th>373</th>
      <td>AWS Lambda (N. Virginia)</td>
      <td>[RESOLVED] Increased Invoke Errors</td>
      <td>1615925287</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 1:08 PM PDT&lt;/span...</td>
      <td>lambda-us-east-1</td>
    </tr>
  </tbody>
</table>
</div>



2021/3/18時点では，データの件数は374件で，以下の属性が含まれていました。

- サービス名とリージョン名
- サマリ(障害の現象)
- エポック秒
- 状態
- 詳細(全て空欄)
- 説明(htmlダグで囲まれた障害発生中のレポート)
- サービス名(サービス略称とリージョンコード)

## 前処理
集計し易くするために以下の前処理を実施します。

- サービス名とリージョン名を別なカラムに分離し，サービス名はシンプルに
- エポック秒から，年，月，日を取り出し，別なカラムを追加
- 障害の発生日時と終了日時のカラムを追加(htmlのタグに記載があるが微妙に定型文になっていないので無理矢理抜き出す)
- 障害の発生時間(修復時間)のカラムを追加
- サマリから不要な文字列(ステータスや日本語などの言語)を除去したカラムを追加
- 障害レポートからhtmlタグを除去し少し見易く整形したカラムを追加


```python
def extract_service_name(service_name):
    name = service_name
    region = "Global"
    if (m := re.match(r"([^\(\)]+) \((.+)\)", service_name)) :
        name = m.group(1)
        region = m.group(2)
    name = name.replace("AWS ", "").replace("Amazon ", "")
    return name, region


def extract_time(time_str):
    if (m := re.match(r"(\d{1,2}:\d{2} (?:AM|PM))", time_str)) :
        return m.group(1)
    else:
        return time_str


def extract_failure_start_end(description):
    description = re.sub(r"[\n\t]", "", description)

    # If failures repeated, use the first and last time.
    if (
        len(
            m := re.findall(
                r"(?:B|b)etween (\d{1,2}:\d{2}(?: AM| PM)).*? and (\d{1,2}:\d{2} (?:AM|PM).*? (?:PST|PDT))",
                description,
            )
        )
        > 2
    ):
        return extract_time(m[0][0]), extract_time(m[-1][1])

    # Most cases
    if (
        m := re.match(
            r".*(?:B|b)etween.*? (\d{1,2}:\d{2} ?(?:AM|PM)).*? and.*? (\d{1,2}:\d{2} ?(?:AM|PM) (?:PST|PDT))",
            description,
        )
    ) and re.match(r"\d{1,2}:\d{2}", m.group(1)):
        return extract_time(m.group(1)), extract_time(m.group(2))

    # Others
    start_time = ""
    end_time = ""

    if (
        m := re.match(
            r".*(?:Beginning|Starting) at (\d{1,2}:\d{2} ?(?:AM|PM)?) (?:PST|PDT)",
            description,
        )
    ) :
        start_time = m.group(1)

    if (m := re.findall(r"(\d{1,2}:\d{2} ?(?:AM|PM))", description)) :
        if not start_time:
            start_time = m[0]

        if m[-1] == start_time and len(m) > 2:
            end_time = m[-2]
        else:
            end_time = m[-1]

    return extract_time(start_time), extract_time(end_time)


def parse_time(dt, time):
    hm = re.match(r"(\d{1,2}:\d{2})", time).group(1)
    t = datetime.strptime(f"{dt.year}/{dt.month}/{dt.day} {hm}", "%Y/%m/%d %H:%M")
    if t.hour == 12:
        t = t + timedelta(hours=-12)
    if "PM" in time:
        t = t + timedelta(hours=12)
    return t


def extract_failure_time(row):
    dt = row["datetime"]
    start = parse_time(dt, row["start_time"])
    end = parse_time(dt, row["end_time"])
    if end < start:
        # Seems that all incidents were closed within 24 hours.
        # Add one day if end time is smaller than start time.
        end = end + timedelta(days=1)
    delta = end - start
    return delta.total_seconds() / 60


def format_summary(summary):
    summary = re.sub(r"\[.+\] ", "", summary)
    summary = summary.lower()
    summary = re.sub(r"[^\x00-\x7F]", "", summary)
    summary = summary.replace("| ", "")
    summary = summary.strip()
    return summary


def format_description(description):
    bs = BeautifulSoup(description, "html.parser")
    reports = []
    for div in bs.find_all("div"):
        span = div.find("span", {"class": "yellowfg"})
        time_str = span.text
        span.extract()
        report = div.get_text().replace("\n", "")
        reports.append(f"{time_str} - {report}")
    return "\n".join(reports)


def preprocess(df):
    df["datetime"] = pd.to_datetime(df["date"], unit="s")
    df["simple_service_name"], df["region_name"] = zip(
        *df["service_name"].map(extract_service_name)
    )
    df["start_time"], df["end_time"] = zip(
        *df["description"].map(extract_failure_start_end)
    )
    df["timezone"] = df["description"].map(
        lambda description: "PST" if " PST" in description else "PDT"
    )
    df["failure_time"] = df.apply(extract_failure_time, axis=1)
    df["year"] = df["datetime"].dt.year
    df["month"] = df["datetime"].dt.month
    df["day"] = df["datetime"].dt.day
    df["iso_date"] = df["datetime"].dt.strftime("%Y-%m-%d")
    df["problem"] = df["summary"].map(format_summary)
    df["report"] = df["description"].map(format_description)
    return df


df = preprocess(df)
df
```




<div>
<style scoped>
    .dataframe tbody tr th:only-of-type {
        vertical-align: middle;
    }

    .dataframe tbody tr th {
        vertical-align: top;
    }

    .dataframe thead th {
        text-align: right;
    }
</style>
<table border="1" class="dataframe">
  <thead>
    <tr style="text-align: right;">
      <th></th>
      <th>service_name</th>
      <th>summary</th>
      <th>date</th>
      <th>status</th>
      <th>details</th>
      <th>description</th>
      <th>service</th>
      <th>datetime</th>
      <th>simple_service_name</th>
      <th>region_name</th>
      <th>start_time</th>
      <th>end_time</th>
      <th>timezone</th>
      <th>failure_time</th>
      <th>year</th>
      <th>month</th>
      <th>day</th>
      <th>iso_date</th>
      <th>problem</th>
      <th>report</th>
    </tr>
  </thead>
  <tbody>
    <tr>
      <th>0</th>
      <td>Auto Scaling (N. Virginia)</td>
      <td>[RESOLVED] Increased API Error Rates</td>
      <td>1525914401</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 6:06 PM PDT&lt;/span...</td>
      <td>autoscaling-us-east-1</td>
      <td>2018-05-10 01:06:41</td>
      <td>Auto Scaling</td>
      <td>N. Virginia</td>
      <td>5:42 PM</td>
      <td>7:04 PM</td>
      <td>PDT</td>
      <td>82.0</td>
      <td>2018</td>
      <td>5</td>
      <td>10</td>
      <td>2018-05-10</td>
      <td>increased api error rates</td>
      <td>6:06 PM PDT -  We are investigating increased...</td>
    </tr>
    <tr>
      <th>1</th>
      <td>Amazon Elastic Compute Cloud (N. Virginia)</td>
      <td>[RESOLVED] Delayed network provisioning</td>
      <td>1526397141</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 8:12 AM PDT&lt;/span...</td>
      <td>ec2-us-east-1</td>
      <td>2018-05-15 15:12:21</td>
      <td>Elastic Compute Cloud</td>
      <td>N. Virginia</td>
      <td>5:27 AM</td>
      <td>8:17 AM</td>
      <td>PDT</td>
      <td>170.0</td>
      <td>2018</td>
      <td>5</td>
      <td>15</td>
      <td>2018-05-15</td>
      <td>delayed network provisioning</td>
      <td>8:12 AM PDT -  We are investigating delayed n...</td>
    </tr>
    <tr>
      <th>2</th>
      <td>Amazon Elastic Load Balancing (N. Virginia)</td>
      <td>[RESOLVED] Increased provisioning times</td>
      <td>1526397279</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 8:14 AM PDT&lt;/span...</td>
      <td>elb-us-east-1</td>
      <td>2018-05-15 15:14:39</td>
      <td>Elastic Load Balancing</td>
      <td>N. Virginia</td>
      <td>6:05 AM</td>
      <td>8:17 AM</td>
      <td>PDT</td>
      <td>132.0</td>
      <td>2018</td>
      <td>5</td>
      <td>15</td>
      <td>2018-05-15</td>
      <td>increased provisioning times</td>
      <td>8:14 AM PDT -  We are investigating increased...</td>
    </tr>
    <tr>
      <th>3</th>
      <td>Amazon Elastic MapReduce (N. Virginia)</td>
      <td>[RESOLVED] Delays in starting clusters</td>
      <td>1526397532</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 8:19 AM PDT&lt;/span...</td>
      <td>emr-us-east-1</td>
      <td>2018-05-15 15:18:52</td>
      <td>Elastic MapReduce</td>
      <td>N. Virginia</td>
      <td>7:00 AM</td>
      <td>8:15 AM</td>
      <td>PDT</td>
      <td>75.0</td>
      <td>2018</td>
      <td>5</td>
      <td>15</td>
      <td>2018-05-15</td>
      <td>delays in starting clusters</td>
      <td>8:19 AM PDT -  We are investigating delays in...</td>
    </tr>
    <tr>
      <th>4</th>
      <td>Amazon Simple Storage Service (N. Virginia)</td>
      <td>[RESOLVED] Elevated error rates</td>
      <td>1526466746</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 3:32 AM PDT&lt;/span...</td>
      <td>s3-us-standard</td>
      <td>2018-05-16 10:32:26</td>
      <td>Simple Storage Service</td>
      <td>N. Virginia</td>
      <td>2:35 AM</td>
      <td>2:39 AM</td>
      <td>PDT</td>
      <td>4.0</td>
      <td>2018</td>
      <td>5</td>
      <td>16</td>
      <td>2018-05-16</td>
      <td>elevated error rates</td>
      <td>3:32 AM PDT -  Between 2:35 AM and 2:39 AM PD...</td>
    </tr>
    <tr>
      <th>...</th>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
      <td>...</td>
    </tr>
    <tr>
      <th>369</th>
      <td>AWS Transfer for SFTP (N. Virginia)</td>
      <td>[RESOLVED] Increased Login Failures</td>
      <td>1614879450</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 9:37 AM PST&lt;/span...</td>
      <td>transfer-us-east-1</td>
      <td>2021-03-04 17:37:30</td>
      <td>Transfer for SFTP</td>
      <td>N. Virginia</td>
      <td>3:34 AM</td>
      <td>6:39 AM</td>
      <td>PST</td>
      <td>185.0</td>
      <td>2021</td>
      <td>3</td>
      <td>4</td>
      <td>2021-03-04</td>
      <td>increased login failures</td>
      <td>9:37 AM PST -  Between 3:34 AM and 6:39 AM PS...</td>
    </tr>
    <tr>
      <th>370</th>
      <td>AWS CloudFormation (N. Virginia)</td>
      <td>[RESOLVED] Increased Console Error Rates</td>
      <td>1614879598</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 9:39 AM PST&lt;/span...</td>
      <td>cloudformation-us-east-1</td>
      <td>2021-03-04 17:39:58</td>
      <td>CloudFormation</td>
      <td>N. Virginia</td>
      <td>9:14 AM</td>
      <td>9:52 AM</td>
      <td>PST</td>
      <td>38.0</td>
      <td>2021</td>
      <td>3</td>
      <td>4</td>
      <td>2021-03-04</td>
      <td>increased console error rates</td>
      <td>9:39 AM PST -  We are investigating increased...</td>
    </tr>
    <tr>
      <th>371</th>
      <td>AWS Internet Connectivity (Sydney)</td>
      <td>[RESOLVED] Network Connectivity</td>
      <td>1615136782</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 9:06 AM PST&lt;/span...</td>
      <td>internetconnectivity-ap-southeast-2</td>
      <td>2021-03-07 17:06:22</td>
      <td>Internet Connectivity</td>
      <td>Sydney</td>
      <td>8:19 AM</td>
      <td>10:59 AM</td>
      <td>PST</td>
      <td>160.0</td>
      <td>2021</td>
      <td>3</td>
      <td>7</td>
      <td>2021-03-07</td>
      <td>network connectivity</td>
      <td>9:06 AM PST -  We are investigating an issue ...</td>
    </tr>
    <tr>
      <th>372</th>
      <td>Amazon Cognito (Ohio)</td>
      <td>[RESOLVED] Increased Errors</td>
      <td>1615329039</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 2:30 PM PST&lt;/span...</td>
      <td>cognito-us-east-2</td>
      <td>2021-03-09 22:30:39</td>
      <td>Cognito</td>
      <td>Ohio</td>
      <td>2:30 PM</td>
      <td>2:50 PM</td>
      <td>PST</td>
      <td>20.0</td>
      <td>2021</td>
      <td>3</td>
      <td>9</td>
      <td>2021-03-09</td>
      <td>increased errors</td>
      <td>2:30 PM PST -  We are investigating increased...</td>
    </tr>
    <tr>
      <th>373</th>
      <td>AWS Lambda (N. Virginia)</td>
      <td>[RESOLVED] Increased Invoke Errors</td>
      <td>1615925287</td>
      <td>1</td>
      <td></td>
      <td>&lt;div&gt;&lt;span class="yellowfg"&gt; 1:08 PM PDT&lt;/span...</td>
      <td>lambda-us-east-1</td>
      <td>2021-03-16 20:08:07</td>
      <td>Lambda</td>
      <td>N. Virginia</td>
      <td>12:10 PM</td>
      <td>12:58 PM</td>
      <td>PDT</td>
      <td>48.0</td>
      <td>2021</td>
      <td>3</td>
      <td>16</td>
      <td>2021-03-16</td>
      <td>increased invoke errors</td>
      <td>1:08 PM PDT -  We are investigating increased...</td>
    </tr>
  </tbody>
</table>
</div>

若干怪しいところはありますが，なんとか欲しい値は取り出せた気がします。

ファイルは[こちら](https://github.com/rafflesiana/aws-service-health-study/blob/main/dataframe.csv)


## 障害報告の件数
この障害データのJSON配列の件数は374件ですが，サービスごとに1件の報告が作成されています。
データセンター障害などで複数のサービスに同時に障害が発生する場合はまとめて1件としてもよさそうです。
そこで，同一リージョンに同一日に発生した障害は1件として集計してみます。


```python
df_groupby_region_date = df.groupby(["region_name", "iso_date"]).size().reset_index().drop(0, axis=1)
df_groupby_region_date
```




<div>
<style scoped>
    .dataframe tbody tr th:only-of-type {
        vertical-align: middle;
    }

    .dataframe tbody tr th {
        vertical-align: top;
    }

    .dataframe thead th {
        text-align: right;
    }
</style>
<table border="1" class="dataframe">
  <thead>
    <tr style="text-align: right;">
      <th></th>
      <th>region_name</th>
      <th>iso_date</th>
    </tr>
  </thead>
  <tbody>
    <tr>
      <th>0</th>
      <td>Frankfurt</td>
      <td>2018-07-19</td>
    </tr>
    <tr>
      <th>1</th>
      <td>Frankfurt</td>
      <td>2018-08-08</td>
    </tr>
    <tr>
      <th>2</th>
      <td>Frankfurt</td>
      <td>2018-10-01</td>
    </tr>
    <tr>
      <th>3</th>
      <td>Frankfurt</td>
      <td>2019-10-08</td>
    </tr>
    <tr>
      <th>4</th>
      <td>Frankfurt</td>
      <td>2019-10-09</td>
    </tr>
    <tr>
      <th>...</th>
      <td>...</td>
      <td>...</td>
    </tr>
    <tr>
      <th>261</th>
      <td>US-East</td>
      <td>2020-07-15</td>
    </tr>
    <tr>
      <th>262</th>
      <td>US-West</td>
      <td>2018-12-11</td>
    </tr>
    <tr>
      <th>263</th>
      <td>US-West</td>
      <td>2019-11-07</td>
    </tr>
    <tr>
      <th>264</th>
      <td>US-West</td>
      <td>2020-02-13</td>
    </tr>
    <tr>
      <th>265</th>
      <td>US-West</td>
      <td>2020-03-16</td>
    </tr>
  </tbody>
</table>
</div>



全体で266件になりました。

ファイルは[こちら](https://github.com/rafflesiana/aws-service-health-study/blob/main/countby_region_date.csv)


```python
td = datetime.now() - datetime(year=2018, month=5, day=10)
td.days/len(df_groupby_region_date)
```




    3.9210526315789473



大体4日に1件のペースで世界のどこかでAWS障害が発生している様です。


```python
td.days/len(df_groupby_region_date[df_groupby_region_date["region_name"] == "Tokyo"])
```




    130.375



東京リージョンでは，約130日に1件のペースとなっているようです。

## リージョンごとの障害件数
リージョンごとの障害件数を以下の様に集計してみます。


```python
df_countby_region = (
    df_groupby_region_date
    .groupby(["region_name"])
    .size()
    .to_frame("size")
    .sort_values("size", ascending=False)
    .reset_index()
)
df_countby_region["ratio"] = (df_countby_region["size"]/df_countby_region["size"].sum())
df_countby_region
```




<div>
<style scoped>
    .dataframe tbody tr th:only-of-type {
        vertical-align: middle;
    }

    .dataframe tbody tr th {
        vertical-align: top;
    }

    .dataframe thead th {
        text-align: right;
    }
</style>
<table border="1" class="dataframe">
  <thead>
    <tr style="text-align: right;">
      <th></th>
      <th>region_name</th>
      <th>size</th>
      <th>ratio</th>
    </tr>
  </thead>
  <tbody>
    <tr>
      <th>0</th>
      <td>N. Virginia</td>
      <td>95</td>
      <td>0.357143</td>
    </tr>
    <tr>
      <th>1</th>
      <td>Global</td>
      <td>56</td>
      <td>0.210526</td>
    </tr>
    <tr>
      <th>2</th>
      <td>Oregon</td>
      <td>22</td>
      <td>0.082707</td>
    </tr>
    <tr>
      <th>3</th>
      <td>Ireland</td>
      <td>17</td>
      <td>0.063910</td>
    </tr>
    <tr>
      <th>4</th>
      <td>Sydney</td>
      <td>9</td>
      <td>0.033835</td>
    </tr>
    <tr>
      <th>5</th>
      <td>Sao Paulo</td>
      <td>9</td>
      <td>0.033835</td>
    </tr>
    <tr>
      <th>6</th>
      <td>Tokyo</td>
      <td>8</td>
      <td>0.030075</td>
    </tr>
    <tr>
      <th>7</th>
      <td>Frankfurt</td>
      <td>7</td>
      <td>0.026316</td>
    </tr>
    <tr>
      <th>8</th>
      <td>Ohio</td>
      <td>6</td>
      <td>0.022556</td>
    </tr>
    <tr>
      <th>9</th>
      <td>N. California</td>
      <td>6</td>
      <td>0.022556</td>
    </tr>
    <tr>
      <th>10</th>
      <td>London</td>
      <td>6</td>
      <td>0.022556</td>
    </tr>
    <tr>
      <th>11</th>
      <td>Seoul</td>
      <td>5</td>
      <td>0.018797</td>
    </tr>
    <tr>
      <th>12</th>
      <td>Singapore</td>
      <td>4</td>
      <td>0.015038</td>
    </tr>
    <tr>
      <th>13</th>
      <td>US-East</td>
      <td>4</td>
      <td>0.015038</td>
    </tr>
    <tr>
      <th>14</th>
      <td>US-West</td>
      <td>4</td>
      <td>0.015038</td>
    </tr>
    <tr>
      <th>15</th>
      <td>Mumbai</td>
      <td>3</td>
      <td>0.011278</td>
    </tr>
    <tr>
      <th>16</th>
      <td>Paris</td>
      <td>2</td>
      <td>0.007519</td>
    </tr>
    <tr>
      <th>17</th>
      <td>Hong Kong</td>
      <td>2</td>
      <td>0.007519</td>
    </tr>
    <tr>
      <th>18</th>
      <td>Montreal</td>
      <td>1</td>
      <td>0.003759</td>
    </tr>
  </tbody>
</table>
</div>




```python
sns.barplot(x=df_countby_region["size"], y=df_countby_region["region_name"])
plt.show()
```


![output_17_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62440/e4a19d7a-7eb9-1eb9-dcb6-775a85e86038.png)



- Virginiaが群を抜いています。提供されているサービスが最も多く，AWSの中核となるリージョンなので障害も多いのでしょう
- GlobalなサービスのRoute53,CloudFront,IAMでもかなりの障害が発生しています
- Oregon，Irelandがそれらに続き，その他のリージョンの障害は約3年間で一桁台です
- GovCloud(US-WEST,US-EAST)でも他リージョンと同様に障害が発生しています。政府系なのでやはり日本と同様に障害を起こすとめちゃくちゃ怒られるのでしょうか。余計な心配をしてしまいます

## サービスごとの障害件数
サービスごとの障害件数は以下の通りです(母数は374件)。


```python
df_countby_service = (
    df.groupby(["simple_service_name"])
    .size()
    .to_frame("size")
    .reset_index()
    .sort_values("size", ascending=False)
    .reset_index(drop=True)
)
df_countby_service["ratio"] = (df_countby_service["size"]/df_countby_service["size"].sum())
df_countby_service.to_csv("countby_service.csv", index=False)
df_countby_service
```




<div>
<style scoped>
    .dataframe tbody tr th:only-of-type {
        vertical-align: middle;
    }

    .dataframe tbody tr th {
        vertical-align: top;
    }

    .dataframe thead th {
        text-align: right;
    }
</style>
<table border="1" class="dataframe">
  <thead>
    <tr style="text-align: right;">
      <th></th>
      <th>simple_service_name</th>
      <th>size</th>
      <th>ratio</th>
    </tr>
  </thead>
  <tbody>
    <tr>
      <th>0</th>
      <td>Elastic Compute Cloud</td>
      <td>63</td>
      <td>0.168449</td>
    </tr>
    <tr>
      <th>1</th>
      <td>CloudFront</td>
      <td>17</td>
      <td>0.045455</td>
    </tr>
    <tr>
      <th>2</th>
      <td>Relational Database Service</td>
      <td>17</td>
      <td>0.045455</td>
    </tr>
    <tr>
      <th>3</th>
      <td>CloudWatch</td>
      <td>15</td>
      <td>0.040107</td>
    </tr>
    <tr>
      <th>4</th>
      <td>Elastic Load Balancing</td>
      <td>14</td>
      <td>0.037433</td>
    </tr>
    <tr>
      <th>...</th>
      <td>...</td>
      <td>...</td>
      <td>...</td>
    </tr>
    <tr>
      <th>71</th>
      <td>MQ</td>
      <td>1</td>
      <td>0.002674</td>
    </tr>
    <tr>
      <th>72</th>
      <td>NAT Gateway</td>
      <td>1</td>
      <td>0.002674</td>
    </tr>
    <tr>
      <th>73</th>
      <td>Organizations</td>
      <td>1</td>
      <td>0.002674</td>
    </tr>
    <tr>
      <th>74</th>
      <td>Personalize</td>
      <td>1</td>
      <td>0.002674</td>
    </tr>
    <tr>
      <th>75</th>
      <td>X-Ray</td>
      <td>1</td>
      <td>0.002674</td>
    </tr>
  </tbody>
</table>
</div>




```python
plt.rc("ytick", labelsize=7)
plt.rcParams["figure.figsize"] = (12.8,9.6)
sns.barplot(x=df_countby_service["size"], y=df_countby_service["simple_service_name"])
plt.show()
```


![output_21_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62440/b1801f34-709a-d48b-7482-fa41e83e391f.png)


ファイルは[こちら](https://github.com/rafflesiana/aws-service-health-study/blob/main/countby_service.csv)


- EC2とRDSの障害が多く，これらの合計が全体の20%強となっています
- 残りはその他70以上のサービスですが，グローバル又はサーバレスのものが多数含まれています。サーバレスのサービスはAWS側で十分に対策が取られていると思って安心していると困ったことになるかもしれません...

## 大規模(複数サービス)障害
残念ながら今回の障害データには具体的な障害の規模は記載されていません。

できれば大規模な障害がどの程度の頻度で発生しているかも調べてみたいです。どうしましょう。

上記で同一日に複数サービスから障害が報告されている場合の件数をまとめて集計しましたが，このようなケースは大規模な障害によって広範囲に影響が出ていると考えられます。

そこで，同一日に複数のサービスで障害発生しているケースを集計してみます。
ついでに以下のカラムも追加してみます。

- 同一日に障害が発生したサービス数とそのサービス名
- 同一日に障害が発生したサービスの障害の時間(修復時間)(分)


```python
df_agg = (
    df.groupby(["region_name", "iso_date"])
    .agg({"simple_service_name": ["count", ", ".join], "failure_time": ["mean"]})
    .reset_index()
)
df_agg.columns = [
    "region_name",
    "date",
    "count",
    "services",
    "mean_failure_time(min)",
]
df_large_scale_failure = df_agg[df_agg["count"] > 1].reset_index(drop=True)
df_large_scale_failure
```




<div>
<style scoped>
    .dataframe tbody tr th:only-of-type {
        vertical-align: middle;
    }

    .dataframe tbody tr th {
        vertical-align: top;
    }

    .dataframe thead th {
        text-align: right;
    }
</style>
<table border="1" class="dataframe">
  <thead>
    <tr style="text-align: right;">
      <th></th>
      <th>region_name</th>
      <th>date</th>
      <th>count</th>
      <th>services</th>
      <th>mean_failure_time(min)</th>
    </tr>
  </thead>
  <tbody>
    <tr>
      <th>0</th>
      <td>Frankfurt</td>
      <td>2019-11-12</td>
      <td>4</td>
      <td>Elastic Compute Cloud, Relational Database Ser...</td>
      <td>213.000000</td>
    </tr>
    <tr>
      <th>1</th>
      <td>Global</td>
      <td>2019-10-20</td>
      <td>2</td>
      <td>Route 53, Route 53</td>
      <td>125.000000</td>
    </tr>
    <tr>
      <th>2</th>
      <td>Global</td>
      <td>2020-06-12</td>
      <td>2</td>
      <td>Identity and Access Management, Organizations</td>
      <td>501.500000</td>
    </tr>
    <tr>
      <th>3</th>
      <td>Global</td>
      <td>2020-10-01</td>
      <td>2</td>
      <td>CloudFront, Identity and Access Management</td>
      <td>65.000000</td>
    </tr>
    <tr>
      <th>4</th>
      <td>Hong Kong</td>
      <td>2019-11-07</td>
      <td>3</td>
      <td>Kinesis Data Streams, CloudWatch, Kinesis Fire...</td>
      <td>94.000000</td>
    </tr>
    <tr>
      <th>5</th>
      <td>Ireland</td>
      <td>2018-09-26</td>
      <td>4</td>
      <td>Elastic Compute Cloud, CloudHSM, Elastic File ...</td>
      <td>78.500000</td>
    </tr>
    <tr>
      <th>6</th>
      <td>Ireland</td>
      <td>2019-05-10</td>
      <td>2</td>
      <td>Elastic Beanstalk, Relational Database Service</td>
      <td>114.000000</td>
    </tr>
    <tr>
      <th>7</th>
      <td>Ireland</td>
      <td>2019-10-02</td>
      <td>3</td>
      <td>Batch, IoT Core, API Gateway</td>
      <td>105.666667</td>
    </tr>
    <tr>
      <th>8</th>
      <td>London</td>
      <td>2019-01-12</td>
      <td>3</td>
      <td>Elastic Compute Cloud, Lambda, Relational Data...</td>
      <td>96.666667</td>
    </tr>
    <tr>
      <th>9</th>
      <td>London</td>
      <td>2019-06-30</td>
      <td>4</td>
      <td>Elastic Compute Cloud, Elastic Load Balancing,...</td>
      <td>97.000000</td>
    </tr>
    <tr>
      <th>10</th>
      <td>London</td>
      <td>2019-07-23</td>
      <td>2</td>
      <td>Elastic Compute Cloud, Relational Database Ser...</td>
      <td>128.500000</td>
    </tr>
    <tr>
      <th>11</th>
      <td>London</td>
      <td>2020-08-25</td>
      <td>2</td>
      <td>Elastic Compute Cloud, Relational Database Ser...</td>
      <td>185.000000</td>
    </tr>
    <tr>
      <th>12</th>
      <td>N. California</td>
      <td>2018-10-19</td>
      <td>3</td>
      <td>Elastic Compute Cloud, Simple Storage Service,...</td>
      <td>19.000000</td>
    </tr>
    <tr>
      <th>13</th>
      <td>N. California</td>
      <td>2020-05-10</td>
      <td>2</td>
      <td>Elastic Container Service, Batch</td>
      <td>163.500000</td>
    </tr>
    <tr>
      <th>14</th>
      <td>N. Virginia</td>
      <td>2018-05-15</td>
      <td>3</td>
      <td>Elastic Compute Cloud, Elastic Load Balancing,...</td>
      <td>125.666667</td>
    </tr>
    <tr>
      <th>15</th>
      <td>N. Virginia</td>
      <td>2018-05-16</td>
      <td>4</td>
      <td>Simple Storage Service, CodeBuild, AppStream 2...</td>
      <td>97.500000</td>
    </tr>
    <tr>
      <th>16</th>
      <td>N. Virginia</td>
      <td>2018-05-31</td>
      <td>4</td>
      <td>Elastic Compute Cloud, Redshift, WorkSpaces, R...</td>
      <td>51.500000</td>
    </tr>
    <tr>
      <th>17</th>
      <td>N. Virginia</td>
      <td>2018-10-17</td>
      <td>4</td>
      <td>Elastic Compute Cloud, Elastic Load Balancing,...</td>
      <td>113.750000</td>
    </tr>
    <tr>
      <th>18</th>
      <td>N. Virginia</td>
      <td>2019-06-27</td>
      <td>4</td>
      <td>IoT Analytics, Glue, Athena, Redshift</td>
      <td>297.750000</td>
    </tr>
    <tr>
      <th>19</th>
      <td>N. Virginia</td>
      <td>2019-08-31</td>
      <td>3</td>
      <td>Elastic Compute Cloud, WorkSpaces, Relational ...</td>
      <td>372.666667</td>
    </tr>
    <tr>
      <th>20</th>
      <td>N. Virginia</td>
      <td>2019-11-12</td>
      <td>3</td>
      <td>Elastic Compute Cloud, Connect, Lambda</td>
      <td>128.333333</td>
    </tr>
    <tr>
      <th>21</th>
      <td>N. Virginia</td>
      <td>2020-07-20</td>
      <td>2</td>
      <td>Simple Workflow Service, CloudFormation</td>
      <td>300.000000</td>
    </tr>
    <tr>
      <th>22</th>
      <td>N. Virginia</td>
      <td>2020-09-01</td>
      <td>2</td>
      <td>SageMaker, DeepRacer</td>
      <td>435.500000</td>
    </tr>
    <tr>
      <th>23</th>
      <td>N. Virginia</td>
      <td>2020-10-09</td>
      <td>2</td>
      <td>Elastic Compute Cloud, Lambda</td>
      <td>453.500000</td>
    </tr>
    <tr>
      <th>24</th>
      <td>N. Virginia</td>
      <td>2020-11-20</td>
      <td>3</td>
      <td>Kinesis Data Streams, CloudWatch, AppStream 2.0</td>
      <td>131.333333</td>
    </tr>
    <tr>
      <th>25</th>
      <td>N. Virginia</td>
      <td>2020-11-25</td>
      <td>11</td>
      <td>Kinesis Data Streams, Kinesis Data Streams, Cl...</td>
      <td>924.636364</td>
    </tr>
    <tr>
      <th>26</th>
      <td>N. Virginia</td>
      <td>2020-12-18</td>
      <td>3</td>
      <td>Elastic Compute Cloud, VPCE PrivateLink, Elast...</td>
      <td>135.000000</td>
    </tr>
    <tr>
      <th>27</th>
      <td>N. Virginia</td>
      <td>2021-03-04</td>
      <td>2</td>
      <td>Transfer for SFTP, CloudFormation</td>
      <td>111.500000</td>
    </tr>
    <tr>
      <th>28</th>
      <td>Ohio</td>
      <td>2018-05-31</td>
      <td>2</td>
      <td>Elastic Compute Cloud, Internet Connectivity</td>
      <td>34.000000</td>
    </tr>
    <tr>
      <th>29</th>
      <td>Ohio</td>
      <td>2018-10-05</td>
      <td>6</td>
      <td>Simple Storage Service, Glacier, Kinesis Fireh...</td>
      <td>46.833333</td>
    </tr>
    <tr>
      <th>30</th>
      <td>Ohio</td>
      <td>2019-05-03</td>
      <td>4</td>
      <td>Simple Queue Service, Lambda, CloudWatch, IoT ...</td>
      <td>74.000000</td>
    </tr>
    <tr>
      <th>31</th>
      <td>Oregon</td>
      <td>2018-10-01</td>
      <td>6</td>
      <td>Elastic Compute Cloud, Auto Scaling, Lambda, E...</td>
      <td>210.666667</td>
    </tr>
    <tr>
      <th>32</th>
      <td>Oregon</td>
      <td>2018-10-04</td>
      <td>2</td>
      <td>Elastic Compute Cloud, Secrets Manager</td>
      <td>191.500000</td>
    </tr>
    <tr>
      <th>33</th>
      <td>Oregon</td>
      <td>2019-03-27</td>
      <td>3</td>
      <td>CloudWatch, Certificate Manager, Auto Scaling</td>
      <td>121.333333</td>
    </tr>
    <tr>
      <th>34</th>
      <td>Oregon</td>
      <td>2019-03-28</td>
      <td>5</td>
      <td>Lambda, API Gateway, Resource Access Manager, ...</td>
      <td>173.200000</td>
    </tr>
    <tr>
      <th>35</th>
      <td>Oregon</td>
      <td>2021-01-07</td>
      <td>3</td>
      <td>Kinesis Data Streams, EventBridge, CloudWatch</td>
      <td>26.666667</td>
    </tr>
    <tr>
      <th>36</th>
      <td>Paris</td>
      <td>2020-01-22</td>
      <td>2</td>
      <td>Internet Connectivity, Elastic Compute Cloud</td>
      <td>88.000000</td>
    </tr>
    <tr>
      <th>37</th>
      <td>Seoul</td>
      <td>2018-11-22</td>
      <td>10</td>
      <td>Elastic Compute Cloud, Lambda, Elastic Beansta...</td>
      <td>98.200000</td>
    </tr>
    <tr>
      <th>38</th>
      <td>Seoul</td>
      <td>2020-12-18</td>
      <td>2</td>
      <td>Elastic Load Balancing, NAT Gateway</td>
      <td>423.000000</td>
    </tr>
    <tr>
      <th>39</th>
      <td>Singapore</td>
      <td>2019-10-01</td>
      <td>2</td>
      <td>Internet Connectivity, Elastic Compute Cloud</td>
      <td>50.000000</td>
    </tr>
    <tr>
      <th>40</th>
      <td>Sydney</td>
      <td>2019-02-13</td>
      <td>2</td>
      <td>Elastic Beanstalk, Relational Database Service</td>
      <td>217.000000</td>
    </tr>
    <tr>
      <th>41</th>
      <td>Sydney</td>
      <td>2019-11-26</td>
      <td>2</td>
      <td>Elastic Compute Cloud, Auto Scaling</td>
      <td>90.000000</td>
    </tr>
    <tr>
      <th>42</th>
      <td>Sydney</td>
      <td>2020-01-23</td>
      <td>7</td>
      <td>Elastic Compute Cloud, Relational Database Ser...</td>
      <td>434.714286</td>
    </tr>
    <tr>
      <th>43</th>
      <td>Tokyo</td>
      <td>2019-08-23</td>
      <td>2</td>
      <td>Elastic Compute Cloud, Relational Database Ser...</td>
      <td>461.500000</td>
    </tr>
    <tr>
      <th>44</th>
      <td>Tokyo</td>
      <td>2020-04-20</td>
      <td>4</td>
      <td>CloudWatch, Simple Queue Service, Lambda, Clou...</td>
      <td>183.500000</td>
    </tr>
    <tr>
      <th>45</th>
      <td>Tokyo</td>
      <td>2021-02-19</td>
      <td>2</td>
      <td>Elastic Compute Cloud, Elastic Load Balancing</td>
      <td>202.500000</td>
    </tr>
  </tbody>
</table>
</div>



こうすると，複数サービスに波及していると想定される障害が45件抽出できました。

これらの全てが大規模というほどではないかもしれませんが，とりあえず東京は最近大きなニュースになったものが残りました。
やはりVirginiaがダントツで多いです。

## 年ごとの障害件数
今度は年ごとの障害件数も集計してみましょう。単純な件数の他に，先ほど集計した大規模障害の件数も加えてみます。


```python
df_groupby_date = (
    df.groupby(["region_name", "year", "month", "day"])
    .size()
    .to_frame("size")
    .reset_index()
)
df_failure_count = df_groupby_date.groupby("year").size().to_frame("size").reset_index()
df_failure_count.columns = ["year", "failure_count"]
df_lsf = df_groupby_date[df_groupby_date["size"] > 1]
df_lsf_count = (
    df_lsf.groupby("year").size().to_frame("size").reset_index().sort_values("year")
)
df_lsf_count.columns = ["year", "large_scale_failure_count"]
df_countby_year = pd.merge(df_failure_count, df_lsf_count)
df_countby_year["large_scale_ratio"] = (
    df_countby_year["large_scale_failure_count"] / df_countby_year["failure_count"]
)
df_countby_year
```




<div>
<style scoped>
    .dataframe tbody tr th:only-of-type {
        vertical-align: middle;
    }

    .dataframe tbody tr th {
        vertical-align: top;
    }

    .dataframe thead th {
        text-align: right;
    }
</style>
<table border="1" class="dataframe">
  <thead>
    <tr style="text-align: right;">
      <th></th>
      <th>year</th>
      <th>failure_count</th>
      <th>large_scale_failure_count</th>
      <th>large_scale_ratio</th>
    </tr>
  </thead>
  <tbody>
    <tr>
      <th>0</th>
      <td>2018</td>
      <td>68</td>
      <td>11</td>
      <td>0.161765</td>
    </tr>
    <tr>
      <th>1</th>
      <td>2019</td>
      <td>90</td>
      <td>18</td>
      <td>0.200000</td>
    </tr>
    <tr>
      <th>2</th>
      <td>2020</td>
      <td>92</td>
      <td>14</td>
      <td>0.152174</td>
    </tr>
    <tr>
      <th>3</th>
      <td>2021</td>
      <td>16</td>
      <td>3</td>
      <td>0.187500</td>
    </tr>
  </tbody>
</table>
</div>



通年でデータが取れているのは2019年と2020年のみなので，毎年の傾向とまでは言い切れないですが，とりあえず手元の数字では以下の様になっている様です。

- AWS全体では年間90件前後の障害が発生している
- 毎年15件前後(障害全体の20%弱)で複数サービスに影響が出る大規模な障害が発生している

AWSの保有するサーバ数や利用するユーザー数は近年明確に公表されていない様ですが，収益は年30％前後の成長と言われており，サービスの基盤も同程度で拡大しているはずです。その様なペースで成長し続けているにも関わらず，障害の件数は毎年一定に保てている様です。

## 障害の発生時間(修復時間)
せっかく障害の発生時間を抽出したので，平均値(MTTR)などもみておきましょう。大規模障害のものと並べてみます。ちなみに障害レポートが中途半端で発生日時と終了日時が取得できない物が何件かありましたがそれらは除きます。


```python
df_failure_time = df[df["failure_time"] > 0]["failure_time"].describe()
df_lsf_time = df_large_scale_failure["mean_failure_time(min)"].describe()
df_failure_time = pd.concat([df_failure_time, df_lsf_time], axis=1)
df_failure_time.columns = ["failure_time_stats(min)", "learge_scale_failure_time_stats(min)"]
df_failure_time
```




<div>
<style scoped>
    .dataframe tbody tr th:only-of-type {
        vertical-align: middle;
    }

    .dataframe tbody tr th {
        vertical-align: top;
    }

    .dataframe thead th {
        text-align: right;
    }
</style>
<table border="1" class="dataframe">
  <thead>
    <tr style="text-align: right;">
      <th></th>
      <th>failure_time_stats(min)</th>
      <th>learge_scale_failure_time_stats(min)</th>
    </tr>
  </thead>
  <tbody>
    <tr>
      <th>count</th>
      <td>371.000000</td>
      <td>46.000000</td>
    </tr>
    <tr>
      <th>mean</th>
      <td>209.816712</td>
      <td>191.121391</td>
    </tr>
    <tr>
      <th>std</th>
      <td>228.573375</td>
      <td>170.699999</td>
    </tr>
    <tr>
      <th>min</th>
      <td>1.000000</td>
      <td>19.000000</td>
    </tr>
    <tr>
      <th>25%</th>
      <td>71.000000</td>
      <td>94.666667</td>
    </tr>
    <tr>
      <th>50%</th>
      <td>129.000000</td>
      <td>127.000000</td>
    </tr>
    <tr>
      <th>75%</th>
      <td>242.000000</td>
      <td>212.416667</td>
    </tr>
    <tr>
      <th>max</th>
      <td>1354.000000</td>
      <td>924.636364</td>
    </tr>
  </tbody>
</table>
</div>




```python
plt.rc("ytick", labelsize=10)
plt.rcParams["figure.figsize"] = (6.4,4.8)
sns.histplot(df, x="failure_time", bins=30)
plt.show()
```

![output_31_0.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62440/4d55a867-f513-8601-c191-a9e6100c8989.png)



- AWS全体では，障害の発生時間(修復時間)の平均(MTTR)は約210分で，大半は200分以内に復旧している
- 最大で20時間以上障害が継続したケースあり。大規模障害の場合でも最大で15時間程度継続したことがある

## 障害の内容
サマリのカラムがあるので障害の内容もざっくり分類してみます。


```python
df_problem = (
    df.groupby(["simple_service_name", "problem"]).size().to_frame("size").reset_index()
)
df_problem.to_csv("problem.csv", index=False)
df_problem

df_problem = df.groupby(["problem"]).size().to_frame("size").reset_index()
df_problem
```




<div>
<style scoped>
    .dataframe tbody tr th:only-of-type {
        vertical-align: middle;
    }

    .dataframe tbody tr th {
        vertical-align: top;
    }

    .dataframe thead th {
        text-align: right;
    }
</style>
<table border="1" class="dataframe">
  <thead>
    <tr style="text-align: right;">
      <th></th>
      <th>problem</th>
      <th>size</th>
    </tr>
  </thead>
  <tbody>
    <tr>
      <th>0</th>
      <td>additional information</td>
      <td>1</td>
    </tr>
    <tr>
      <th>1</th>
      <td>alarm delays</td>
      <td>1</td>
    </tr>
    <tr>
      <th>2</th>
      <td>api error rate</td>
      <td>1</td>
    </tr>
    <tr>
      <th>3</th>
      <td>api error rates and latencies</td>
      <td>1</td>
    </tr>
    <tr>
      <th>4</th>
      <td>api error rates and metric delays</td>
      <td>1</td>
    </tr>
    <tr>
      <th>...</th>
      <td>...</td>
      <td>...</td>
    </tr>
    <tr>
      <th>171</th>
      <td>traffic impacted for nat gateways</td>
      <td>1</td>
    </tr>
    <tr>
      <th>172</th>
      <td>traffic impacted for network load balancer</td>
      <td>1</td>
    </tr>
    <tr>
      <th>173</th>
      <td>traffic impacted for vpc endpoints</td>
      <td>1</td>
    </tr>
    <tr>
      <th>174</th>
      <td>validation and issuance delays for new certifi...</td>
      <td>1</td>
    </tr>
    <tr>
      <th>175</th>
      <td>workspaces launch errors</td>
      <td>1</td>
    </tr>
  </tbody>
</table>
</div>



176種類もあります。

API等のエラー，ネットワーク接続エラー，処理の遅延，等が大半の様ですが，似て非なる文字列が大量にあってなかなか丸めるのが大変です。今回はここから集計するのは諦めて，この辺にしておきましょう...

## まとめ
本稿ではAWSが公開している障害のデータを覗いてみました。世界のリージョンでは多くの障害が発生しており，それがいつ東京や大阪で起こってもおかしくないことを実感しました。

本稿で扱ったAWSの公式情報以外にも，障害の解説や対策等を記載してくださっている方が多くいらっしゃいます。そういった情報によく目を通し，いざという時のAWS障害に備えておきましょう。