ECS Fargateのログ管理コスト削減（Firehose + S3 + Athena)

## 前提

ECS Fargateを利用していて、以下に当てはまる場合はコスト改善できるかもしれないので読み進めてもいいかもしれないです。

- CloudWatch Logsのコストが高い。
- CloudWatch Logsにログ連携しているがalermは設定していない。
- リアルタムなログ閲覧は求めていない。

## 経緯

最近携わっているプロダクトではECS Fargateを利用しているのですが、請求書の内訳を確認してみたところ、CloudWatchLogsのPutLogEventsに、全体の1/3以上のコストが発生していました。ログにそんなにお金を払うのは辛いです。

## 原因

全TaskのLog driverがawslogになっており、ログがCloudwatch Logsに連携されいたことがコスト増加の原因でした。
![LogDriver.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/fb06c52b-1ec6-d462-e17f-04be09210bc4.png)

Cloudwatch Logsは、ログを検索する際にはとても便利なのですが、ログをリアルタイムで監視するようなalermを設定していないのであれば、S3にログを保存しておいて、見たい時にAthenaで検索するというやり方でも十分運用できそうです。というAWS有識者からのアドバイスもあり、構成変更を実施してみました。

## 改善案

いままでは、FargateからCloudWatchに月間2TB(*1)ほどログを転送しており0.76USD/GBの課金が発生していましたが、変更後の構成ではFargate-Firehose-S3への転送で0.036USD/GBになりますので、ログの取り込みコストだけをみれば1556ドル->73ドルという予測になります。

![log.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/5cd6d9ef-6b5a-1803-903b-05d4590c0c2d.png)

他にも保存や分析にかかる費用がそれぞれありますが、取り込みコストの差を考えれば変更する価値は十分ありそうです。
詳しくはAWSのページをご確認ください。

https://aws.amazon.com/jp/cloudwatch/pricing/
https://aws.amazon.com/jp/kinesis/data-firehose/pricing/
https://aws.amazon.com/jp/athena/pricing/

*1 ログ取り込み量は以下のようなコマンドで１日分を出して、ざっくり31をかけて１ヶ月分としました。

``` 
aws cloudwatch get-metric-statistics \
--namespace "AWS/Logs" \
--dimensions Name=LogGroupName,Value="ロググループ名" \
--metric-name "IncomingBytes" \
--statistics "Sum" \
--start-time "2020-09-26T00:00:00Z" \
--end-time "2020-09-27T00:00:00Z" \
--period 86400 \
--query "reverse(sort_by(Datapoints,&Timestamp)[?Sum>\`0\`].{Sum:Sum,Timestamp:Timestamp})" \
--output text
```

## やってみた

### 構成
検証用の環境は以下のような構成にしました。
![log-2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/eb3a17dd-287c-d874-8ef3-259b8d17a9d8.png)

### 手順

今回はAWSコンソール上から作成していきます。

#### 1. S3 Bucketの作成

任意の名前でバケットを作成してください（作成手順は省略）

|No |  |  |
|:-:|:-:|:-:|
| 1  | region  | ap-northeast-1  |
|  2 | バケット名 | example-bucket-20200929  |

#### 2. Delivery streamの作成
Kinesisのコンソール画面から「Create delivery stream」をクリックする

![step1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/90b73084-8c03-97b0-eeb0-459bd96a8c70.png)

![step2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/c6bb86ab-ff9c-96b1-6f3b-d74a17ea1434.png)

ログの書き込み先はS3を指定しています。
![step3.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/4398d773-902f-f2df-ef9e-296207c3b23b.png)

S3 prefixはAthenaのパーテション分割が１時間単位になるように設定しました。
https://docs.aws.amazon.com/ja_jp/athena/latest/ug/partitions.html

```
■ Prefix
nginx-access/dt=!{timestamp:yyyy}-!{timestamp:MM}-!{timestamp:dd}-!{timestamp:HH}-00/

■ Error prefix
nginx-error/dt=!{timestamp:yyyy}-!{timestamp:MM}-!{timestamp:dd}-!{timestamp:HH}-00/!{firehose:error-output-type}
```

![step4.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/501d47c4-bf68-48e1-2ad4-07c5a8052778.png)


S3 buffer conditionsはバッファーサイズが5MBを超えた場合、または5分たったらS3にログを書き込むように設定しています。
圧縮と暗号化はDisabledにしています。
![step5.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/aa69448a-c8a5-89b6-7d02-1fb6bb1d2fc3.png)


#### 3. ALBの作成

![alb1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/36f06faf-9ea3-820a-bf1e-4054588a9cee.png)

![alb2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/6468ea7e-b36d-a8e3-7359-47e3b72f0744.png)

![alb3.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/d817ec7a-97af-a03b-7506-1d66bdf2d274.png)


#### 4. Fargateの設定

##### Task Roleの作成

TaskRoleを作成して、Firehoseへのアクセスを許可しておく。

![iam.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/873cafc2-879c-660f-9f48-435b892d59b8.png)

CloudFormationだと以下のようになります。

```
  ecsTaskRoleExample:
    Type: 'AWS::IAM::Role'
    Properties:
      AssumeRolePolicyDocument:
        Version: '2012-10-17'
        Statement:
        - Effect: 'Allow'
          Principal:
            Service: 'ecs-tasks.amazonaws.com'
          Action: 'sts:AssumeRole'
      Policies:
        - PolicyDocument:
            Statement:
              - Effect: 'Allow'
                Action:
                  - 'firehose:PutRecordBatch'
                Resource: '*'
          PolicyName: 'firehose-example'
```

##### Clusterの作成

![cluster.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/b2afc2f6-237f-3bb4-dca3-6505935d291b.png)

##### Task Definitionの作成

Task Roleには事前に作成したroleを割り当てます。

![task1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/3f84e777-5097-b6ee-5983-12ceb69e4f89.png)

Task sizeは最小に設定しています。

![task2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/ebca7bb6-93ce-a3ff-775a-b8c3c553ae62.png)

Add containerをクリックしてコンテナを追加します。
![task7.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/d83da303-f194-65be-6b33-8d5df2108795.png)


Log configurationでawsfirelensを選択し、作成したDelivery streamの値を設定します。

![task6.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/2f2a7c30-6af1-fdab-491d-aca363a39cf0.png)

Log Router Integrationは、今回はfluentbitを選択します。

![task4.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/874ace4b-196c-423f-086c-36b94f604372.png)


##### Serviceの作成

![service1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/f4677f3c-6255-7f0b-4a33-b6f029a9f2c0.png)

![service2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/1113a018-b25f-7158-ff94-a395c7a6b029.png)

![service3.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/6b73887f-a6cb-dc7b-fcd1-ede4e98f8918.png)

![service4.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/8fc96e81-0221-c076-2a14-8752d1201c0e.png)

![service5.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/94a0f4fa-be12-1aa9-a7f1-980d4ae4f237.png)


#### 5. Athenaで検索してみる

S3には以下のようにログが保存されます。

![スクリーンショット 2020-09-30 13.39.03.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/9f33ae65-8165-55ec-e7d6-b2fddbd1e2fc.png)


ログの出力結果は以下のようになります。

```
{
  "container_id": "xxxxxxxx",
  "container_name": "/ecs-example-task-2-nginx-xxxxxx",
  "ecs_cluster": "arn:aws:ecs:ap-southeast-1:XXXXXXX:cluster/example-cluster",
  "ecs_task_arn": "arn:aws:ecs:ap-southeast-1:XXXXXXX:task/XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX",
  "ecs_task_definition": "example-task:2",
  "log": "172.31.42.126 - - [30/Sep/2020:04:12:04 +0000] \"GET / HTTP/1.1\" 200 612 \"-\" \"ELB-HealthChecker/2.0\" \"-\"",
  "source": "stdout"
}
```

Athenaでテーブルとパーティションを作成します。

![athena1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/21fccc12-bcdd-e190-35f8-4d3cafc8e203.png)


```
CREATE EXTERNAL TABLE nginx_log (
    container_id string,
    container_name string,
    ecs_cluster string,
    ecs_task_arn string,
    ecs_task_definition string,
    log string,
    source string)
PARTITIONED BY (dt string)
ROW FORMAT  serde 'org.apache.hive.hcatalog.data.JsonSerDe'
LOCATION 's3://example-bucket-20200929/nginx-access/' ;
```

パーティションにデータをロードします。

![athena2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/1c763d1f-01dc-1541-43b7-97710aaf01ab.png)

```
MSCK REPAIR TABLE nginx_log;
```

期間を変更して検索してみると、スキャンしたデータのサイズが変わっていることが確認できると思います。

![athena3.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/26050d98-3d35-2174-dbb4-dad9318dc841.png)

![athena4.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/32289/2fdb0f9f-3bc8-6f85-2d56-027426b855a5.png)


### おわりに

正規表現を利用したログのフィルタリングも可能とのことなので、引き続き検証していきたいと思います。
https://docs.aws.amazon.com/ja_jp/AmazonECS/latest/userguide/using_firelens.html