IoT リアルタイムデータを Kinesis Data Analytics for Apache Flink で集計してみた

# はじめに

Amazon Kinesis Data Analytics は、一言で表現するとストリーミングデータに対する分析・集計・データ加工を行うためのサービスです。構成図で表現すると、こんな感じで他サービスと組み合わせることができます。

![image-20220627003313727.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/0397f655-a268-72f9-7e4e-0e7626af68e7.png)



この構成図のポイントを整理します。

- IoT デバイスから生まれる多くのストリームデータを、IoT Core が受け取る
- IoT Core のルールを指定して、Kinesis Data Streams にストリームデータを流す
- Kinesis Data Streams から、Kinesis Data Analytics にストリームデータを連携する
- Kinesis Data Analytics は流れ込んでくるストリームデータに対する、データ分析・集計・加工が行える
  - 例えば **1 分おきの平均データを集計して、後続の Kinesis Data Streams に流す**ことが出来る
- それ以降は、Lambda など自由に構成できるので、好きなようにデータをハンドリングする

一般的に、リアルタイムにデータが生成されるストリームデータを使って、一定期間ごとの集計を行うのは大変な作業です。データが少ないうちは問題なくても、データが増えたときのパフォーマンスを考慮すると、困難さが予想できます。そこで、Kinesis Data Analytics を使うと、AWS 側にインフラの管理負担を任せながら Java, Scala, Python, SQL を使って、データの集計が出来ます。

例えば次のような SQL クエリーを Kinesis Data Analytics に渡すことで、ストリームデータを 1 分ごとに集計してくれます。`TUMBLE_START` や `TUMBLE_END`, `TUMBLE` の部分で、集計の期間を指定できます。下の SQL クエリーの例では、60 秒おきの平均データを集計しています。

```sql
%flink.ssql(type=update)

INSERT INTO people_data_destination
SELECT
	ROOM,
	TUMBLE_START(EVENTTIME, INTERVAL '60' SECOND) as WINDOW_START,
	TUMBLE_END(EVENTTIME, INTERVAL '60' SECOND) as WINDOW_END,
	AVG(PEOPLE) as AVG_PEOPLE_COUNT,
	COUNT(*) as RECORD_COUNT
FROM
	people_data
GROUP BY 
	ROOM,
	TUMBLE(EVENTTIME, INTERVAL '60' SECOND);
```



概要を説明したので、具体的な構成方法を見ていきましょう。

# Kinesis Data Analytics は 2 種類ある

はじめに、Kinesis Data Analytics を触っていくうえで、混乱しがちな点を整理します。Kinesis Data Analytics は、大きくわけて 2 種類のアプリケーション構成方法があります。

- Amazon Kinesis Data Analytics for Apache Flink
  - https://docs.aws.amazon.com/ja_jp/kinesisanalytics/latest/java/what-is.html
- Amazon Kinesis Data Analytics for SQL Applications
  - https://docs.aws.amazon.com/kinesisanalytics/latest/dev/what-is.html

基本的には、上側の「Amazon Kinesis Data Analytics for Apache Flink」の方を利用することがおすすめです。FAQ に次の一文が書かれています。

https://aws.amazon.com/jp/kinesis/data-analytics/faqs/

> 新しいプロジェクトでは、SQL アプリケーション用の Kinesis Data Analytics ではなく、新しい Kinesis Data Analytics Studio を使用することをお勧めします。Kinesis Data Analytics Studio は使いやすさと高度な分析機能を組み合わせており、洗練されたストリーム処理アプリケーションでも数分で構築できます。

Kinesis Data Analytics Studio では、SQL クエリーやコードを書きながら、リアルタイムに集計結果を確認できるので、効率的に作業できるメリットがあると感じています。Amazon Kinesis Data Analytics for Apache Flink を先に利用できるか検討してみることをおすすめします。

また、Flink 版と SQL 版は、AWS の Document や、利用する機能が異なるので、混乱しないように進めていきましょう。

# 前提条件

この記事で言及する範囲は、次の点線部分です。

![image-20220627003313727.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/0397f655-a268-72f9-7e4e-0e7626af68e7.png)



IoT Core 周りは、[こちらの記事](https://qiita.com/sugimount-a/items/66e5cbbbf678f9960555) で構築しています。Lambda のタンブリングウィンドウに関する記事ですが、作業内容としては同じなので参考にしてみてください。

# Kinesis Data Streams の設定

Kinesis Data Analytics の前後にある、Kinesis Data Streams を 2 個作成します。

- Source : Kinesis Data Analytics の入力元
- Destination : Kinesis Data Analytics の出力先



Kinesis Data Streams のページに移動して、Create data stream を押します。

![image-20220409215422895.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/7ef26084-ea08-4059-4005-29f97c4fec0d.png)



今回は、テスト用途なので、Provisioned 1 で構成していきます。

![image-20220409220059250.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/190654ff-15da-d29c-fecf-10e12eb0fb8d.png)



Create data stream を押します

![image-20220409220116852.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/ecfe96a6-ddea-1c84-1d1f-a4ac11bf3ff4.png)



作成されました。

![image-20220409220203940.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/f1f14bda-13a3-5448-fedb-199619e79a16.png)



同様に、Destination 用の Kinesis Data Stream を作成しました

![image-20220409220358001.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/31543e2e-3138-efe6-5ffb-5a364073e231.png)





# IoT Core Rule を設定

IoT Core の MQTT Topic に送付された JSON データを、Kinesis Data Streams に出力するために、IoT Core Rule を設定します。

![image-20220626215247491.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/45572c85-831e-e1b4-6366-0d5397a95d4a.png)



Rule の名前を適当に指定します

```
KinesisDataAnalyticsTest
```

![image-20220626215732662.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/88befec1-3f78-a170-e0d0-07e41239840d.png)



Rule の名前や条件を指定します。

次のように FROM に MQTT Topic 名を指定することで、Topic `data/kinesis-test-device` のデータを全て Kinesis Data Streams に流すことが出来ます。IoT 疑似デバイス側の Amazon Linux 2 から、1秒に1回 `data/kinesis-test-device` にデータが送付されます。

```
SELECT * FROM 'data/kinesis-test-device'
```

![image-20220626215816929.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/a185cdd0-b76f-99b6-cad3-6bbbdbcf9206.png)



次のパラメータを入力します。

- IoT Core を経由して、次に送付する Kinesis Data Streams を指定
- Partition Key は、なんでもよいので newuuid を指定
- IAM Role を指定

```
${newuuid()}
```

![image-20220626220132532.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/d821f04b-40c3-0662-f2e9-e53411366594.png)



Create を押します

![image-20220626220224200.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/ff15e444-fab2-397f-f42f-da7d55ff9355.png)



# Kinesis Data Analytics Studio を作成

Kinesis Data Analytics の アプリケーションを作成するために、一旦作業環境として Kinesis Data Analytics Studio Notebook を作成します。Create Studio notebook を押します。

![image-20220626222326999.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/12df7da6-88cb-92a9-d976-5c3bc6c8373d.png)



Custom with custom settings を選択して、Notebook の名前を指定します

![image-20220626222418136.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/e1707739-325e-190f-ec85-49a5d87c5fa1.png)



Glue の Database に、Kinesis Data Analytics 用のものを用意して、Create を押します

![image-20220626222752057.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/7a9f3968-583e-c143-8fa2-18187d75bd8d.png)



Kinesis Data Analytics の入力元・出力元の Kinesis Data Stream を選択して、Next を押します。

![image-20220626222954722.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/99eda3c1-06fa-8fb1-ed9c-fa6cd4512e70.png)



Studio としてのリソースや、ログに関する設定があります。これらはデフォルトでいきます。

![image-20220626223150623.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/696817dc-c776-6a94-9346-51aa2984debb.png)



Studio で作成したアプリケーションコードをデプロイする先として、S3 バケットを選択します。Kinesis Data Analytics 用に新たに作成した方がわかりやすいと思います。

![image-20220626223251640.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/05e22d87-8c17-e474-d3d4-54590df36f9f.png)



Next を押します

![image-20220626223335879.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/524123d9-3193-3ad7-0858-166b8abbd02b.png)



Create Studio notebook を押します。

![image-20220626223352681.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/53bbb877-16fe-b2e2-78be-6a3006abb63b.png)



Studio が作成されました。作成直後は Ready 状態で動いていないので、Run を押します。

![image-20220626223647380.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/1132b1e5-5672-5eef-aa0a-05e00f467786.png)



Studio notebook を動かしたときには、1 時間あたりの費用が発生するメッセージが表示されています。起動しっぱなしにはしないように気を付けつつ、Run を押します。

![image-20220409223454868.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/3635881b-e74d-7aa3-684a-bf44f7b51e84.png)



Running を待機する間、IAM Role の権限設定を行います。Glue Studio が Kinesis Data Streams に接続するために、IAM Role に権限の追加が必要です。IAM Role のリンクをクリックします。

![image-20220626230857218.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/498b035f-1d54-3406-b7eb-26937bbec792.png)



Attach policies を押します。

![image-20220626230951228.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/0ea71bd3-c4c4-1d56-336b-1fafeec684f1.png)



今回は作業をシンプルにするために、AdministratorAccess を利用しますが、実際の本番環境などでは最低限の権限設定が良いです。

![image-20220626231029897.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/6301b0f0-aa61-f13e-e8cc-c20274bac764.png)





2-3 分待機すると、Studio Notebook の Status が Running となるため、Open in Apache Zeppelin を選択します

![image-20220626224117740.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/ce66f3da-cdea-cfcb-9b75-c0fb495b2e79.png)



# 動作確認用の Note 作成

Zeppein の画面が開かれました。ここで、新たに Note を構成して、アプリケーションをデプロイする前のテーブル作成や動作確認などをしていきます。Create new note を選択します。

![image-20220409223941848.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/c82ea0ee-5604-10de-149a-bed46261e5e2.png)



好きな名前を付けて Create をします。

```
PreTableCreateNote
```

![image-20220626224257789.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/e877ee93-b313-7888-eee2-b1b7dda0e4e7.png)



新しい Note の画面が表示されました

![image-20220626224329305.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/01f6ca6b-73dc-2a07-4f88-5fb7a146a314.png)



IoT Core から Kinesis Data Streams に送られてくる JSON データは次の形式です

```
{
  "ROOM": 7,
  "EVENTTIME": "2022-04-10T12:56:09",
  "PEOPLE": 32
}
```



上の JSON データに合うように、Studio 上で `CREATE TABLE` をしていきます。

- WARTERMARK は、Apache Flink の Document に詳細が記載されています。今回は、AWS Blog の内容を参考にして、5秒を指定しておきます。

  - > 一般に、ウォーターマークとは、ストリームのその時点までに、あるタイムスタンプまでのすべてのイベントが到着しているはずだという宣言である。

  - https://nightlies.apache.org/flink/flink-docs-master/docs/concepts/time/#event-time-and-watermarks

```sql
%flink.ssql

CREATE TABLE people_data (
    ROOM INTEGER,
    EVENTTIME TIMESTAMP(3),
    PEOPLE DOUBLE,
    WATERMARK FOR EVENTTIME AS EVENTTIME - INTERVAL '5' SECOND
)
PARTITIONED BY (ROOM)
WITH (
    'connector' = 'kinesis',
    'stream' = 'kinesis-data-analytics-source',
    'aws.region' = 'ap-northeast-1',
    'scan.stream.initpos' = 'LATEST',
    'format' = 'json',
    'json.timestamp-format.standard' = 'ISO-8601'
)
```



Note で上記の CREATE TABLE 文を実行すると、記事の環境では、約 40 秒後に、Table has been created と表示され、テーブル定義を作成できます。

![image-20220626224642837.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/97416c0b-e27a-9e92-8748-4bc9730d944c.png)



余談ですが、CREATE TABLE を行った結果、Glue Data Catalog にテーブル定義が作成されました。Athena や Redshift Spectrum と同じような仕組みですね。

![image-20220626224743002.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/664942c5-eef8-803a-7082-33cb32061d26.png)



Studio 上で、作成した TABLE に SELECT できます。次のクエリーを入力して再生ボタンを押します。

- `(type=update)` と指定することで、Kinesis Data Streams から流れてくるデータをリアルタイムに更新しつづけてくれます

```sql
%flink.ssql(type=update)

SELECT * FROM people_data;
```

![image-20220410130856012.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/47bfbec3-ba52-5e80-e701-98d9b85198fa.png)



デフォルトでは、テーブル形式でデータが表示されます。1秒に1回あらたなデータが送られてきて、リアルタイムに更新され続けています

![image-20220410131014593.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/cfcb920c-dee1-9a3a-59ff-66e7c5e82fb8.png)



Note 上で可視化の見栄えもカスタマイズができます。例えば、平均人数をパイチャートで表示できます。

![image-20220410131152388.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/d7c9a3ed-5beb-0b0d-81a0-c79552c2b8fa.png)



では次に、実際に 1 分おきに集計を行うクエリーを実行してみましょう。次の Document を参考にしてクエリーを組み立てました

- AWS Document
  - https://docs.aws.amazon.com/kinesisanalytics/latest/java/how-zeppelin-sql-examples.html

- Apache Flink Document
  - https://nightlies.apache.org/flink/flink-docs-release-1.13/docs/dev/table/sql/queries/window-agg/#group-window-aggregation

```sql
%flink.ssql(type=update)

SELECT
	ROOM,
	TUMBLE_START(EVENTTIME, INTERVAL '60' SECOND) as WINDOW_START,
	TUMBLE_END(EVENTTIME, INTERVAL '60' SECOND) as WINDOW_END,
	AVG(PEOPLE) as AVG_PEOPLE_COUNT,
	COUNT(*) as RECORD_COUNT
FROM
	people_data
GROUP BY 
	ROOM,
	TUMBLE(EVENTTIME, INTERVAL '60' SECOND)
```



以下の実行結果のように、部屋ごとに、1分周期で平均人数が集計されていることがわかります。

![image-20220410134718481.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/a1781430-8142-bec6-2b2b-b1cf474b3319.png)



こんな感じに見た目の変更も可能です。

![image-20220410134844353.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/fb79b78c-70c1-1480-03d5-fdfd5471a5f9.png)



この集計したデータを、出力先の Kinesis Data Streams に接続するために、Create Table を行います。

```sql
%flink.ssql

CREATE TABLE people_data_destination (
    ROOM INTEGER,
    WINDOW_START TIMESTAMP(3),
    WINDOW_END TIMESTAMP(3),
    AVG_PEOPLE_COUNT DOUBLE,
    RECORD_COUNT BIGINT
)
WITH (
    'connector' = 'kinesis',
    'stream' = 'kinesis-data-analytics-destination',
    'aws.region' = 'ap-northeast-1',
    'scan.stream.initpos' = 'LATEST',
    'format' = 'json',
    'json.timestamp-format.standard' = 'ISO-8601'
)
```



実行します

![image-20220410140730371.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/339ac727-c685-c5ed-6be8-d4c3b6fcf174.png)



さきほどと同様に、自動的に Glue の Table に登録されています

![image-20220626230441408.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/1582db44-7bdb-1540-11ce-8c485841829b.png)



この次の SQL クエリーが、実際に集計した結果を次の Kinesis Data Streams に流すものです。INSERT INTO に SELECT 句を付けています。SELECT 句には、`TUMBLE` に関する指定で 60 秒ごとに集計するように指定しています。

```sql
%flink.ssql(type=update)

INSERT INTO people_data_destination
SELECT
	ROOM,
	TUMBLE_START(EVENTTIME, INTERVAL '60' SECOND) as WINDOW_START,
	TUMBLE_END(EVENTTIME, INTERVAL '60' SECOND) as WINDOW_END,
	AVG(PEOPLE) as AVG_PEOPLE_COUNT,
	COUNT(*) as RECORD_COUNT
FROM
	people_data
GROUP BY 
	ROOM,
	TUMBLE(EVENTTIME, INTERVAL '60' SECOND);
```

![image-20220410140931894.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/5bff34ad-bb91-1345-30ef-274e0ae1d537.png)



集計されているか、出力先の Kinesis Data Streams の中身を確認します。

```sql
%flink.ssql(type=update)

SELECT * FROM people_data_destination;
```



無事に 出力先 Kinesis Data Streams に連携されていることがわかります。素敵ですね。

![image-20220410141605000.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/e86991e4-9a23-6236-ba9f-058d81cff4ad.png)



# デプロイ用の Note 作成

ここまでの手順で、正常に集計用のクエリーが動作することがわかりました。Kinesis Data Analytics のアプリケーションをデプロイ用の、新しい Note を作成します。Create new note を選びます。

![image-20220626231808619.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/221b811c-9978-f319-7fa4-0e27e7ef8c99.png)



適当な名前を入れて、Create を押します。

```
DataAggregation
```

![image-20220626231838255.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/0e4d428e-8518-dcc8-de3e-05253f8d72db.png)



次のクエリーを入力します。1 分の集計データを、Kinesis Data Streams に格納するクエリーです。

```sql
%flink.ssql(type=update)

INSERT INTO people_data_destination
SELECT
	ROOM,
	TUMBLE_START(EVENTTIME, INTERVAL '60' SECOND) as WINDOW_START,
	TUMBLE_END(EVENTTIME, INTERVAL '60' SECOND) as WINDOW_END,
	AVG(PEOPLE) as AVG_PEOPLE_COUNT,
	COUNT(*) as RECORD_COUNT
FROM
	people_data
GROUP BY 
	ROOM,
	TUMBLE(EVENTTIME, INTERVAL '60' SECOND);
```

![image-20220626232444020.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/bdcd7936-628b-b7d4-1039-6081405a1955.png)



# Studio で作成したアプリケーションのデプロイ

デプロイするために、まずビルドが必要です。Studio Note 上で、Build DataAggregateNote and export to Amazon S3 を選択します。

![image-20220410142042154.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/e36a5e35-c430-0393-7ae8-2a787cfd6046.png)



Build and export を選択します

![image-20220410142150099.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/f0930138-35a7-b4e1-601a-7dfdfc10b4d4.png)



Started となり、開始されました

![image-20220410142208828.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/f4c6d3d7-f441-0b47-3851-44a43e2725ba.png)



ぐるぐるまわって、Build 中なことがわかります

![image-20220410142350770.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/62e10bbd-e266-91fe-8b9f-52c26e4d9fbb.png)



3分ほどまつと、Build されました

![image-20220410142447244.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/da403bc1-b2c8-5a75-7e77-942c8f2120e1.png)



Deploy を押します

![image-20220410142521726.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/01beb1b6-d949-0577-f7a4-93887d7fe89f.png)



Deploy using AWS console を選択します。

![image-20220410142545365.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/af4062d0-f15b-1322-fd3a-101bcde65eea.png)



AWS マネージメントコンソールに切り替わります。Studio notebook で利用した IAM Role を指定します。

![image-20220626232731648.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/0a61b072-a832-8c3c-574a-3ad3d6c2cb3c.png)



Create streaming application を押します。

![image-20220410142809351.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/aeafb27f-7db8-547e-5971-16862a856080.png)



Streaming Application が作成されました。

![image-20220626232935424.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/336807b2-d9dd-e7a4-0c79-963348535d39.png)



デプロイしたアプリケーションは、Run を押すことで動作開始します。

![image-20220410143605287.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/cef3725f-dd7b-dea5-ed96-17fa9d4b0e18.png)



このまま Run を押します。

![image-20220410143620335.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/92528bc5-740a-22ea-4af1-566fc3bdd9a2.png)



Running になりました。作成したアプリケーションが稼働し、自動的に IoT から流れてくるデータを 1 分おきに集計して、Kinesis Data Streams に格納してくれているはずです。

![image-20220410143851951.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/7ef9bddc-4055-c2d0-7103-c46ab84ff632.png)



# 動作確認

Studio Notebook 上で、出力先の Kinesis Data Stream の内容を SELECT で確認してみます

```sql
%flink.ssql(type=update)

SELECT * FROM people_data_destination;
```



すると、正しく 1 分ごとのデータが出力されています！デプロイしたアプリケーションが正しく動作していることがわかりました。

![image-20220626233501001.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/071d972b-5eb6-156d-4e87-170659b87cfb.png)



ただの興味ですが、Kinesis Data Analytics で動かしているアプリケーションで、Flink Dashboard を確認してみます。

![image-20220626233650021.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/65e383d6-2525-bf27-dfb2-de0977fccb9d.png)



すると、なにやら動作していることがわかります。

![image-20220626233802989.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/d272db6e-0c70-018b-7065-25a55396be4f.png)



こんな画面が見えます

![image-20220626233917062.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/ad0c7cb2-ed38-f4cd-e633-e58a19fd5be5.png)



こんな画面が見えます

![image-20220626234017479.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/1002774/94a74588-67c2-e5ba-53e2-34cb7baef371.png)



# 検証を通じてわかったこと

- Kinesis Data Analytics には、データ加工のための SQL クエリやコードを書きながら、リアルタイムに加工結果を確認できるエディターの Studio notebook が存在している
- Studio notebook で作成したコードは、Studio notebook の画面上からデプロイを進められる
- Java, Scala, Python, SQL を利用してデータ変換のコードを書ける
  - https://docs.aws.amazon.com/ja_jp/kinesisanalytics/latest/java/how-creating-apps.html
- 1分ごとに集計をしたときに、その期間内にデータが来なかった場合、何も処理されない
  - 表現を変えると、欠損値として Null や 0 を出すようなことは難しい。その期間の 行データは生成されない
- Studio 上で、CREATE TABLE を行うと、Glue Data Catalog にテーブル定義が作成される
- Legacy SQL アプリケーションよりも、Flink 版を利用した方が良い
- 新しい Flink の SQL でも、タンプリングウィンドウやスライディングウィンドウがある
- Kinesis Data Analytics には、オートスケール機能がある。スケール条件は Document に詳細が書かれている
  - CPUの使用率が75%以上の状態が15分間続くと、アプリケーションはスケールアップします
  - CPU使用率が10パーセント以下の状態が6時間続くと、アプリケーションはスケールダウンします
  - https://docs.aws.amazon.com/ja_jp/kinesisanalytics/latest/java/how-scaling.html
- オートスケーリングで、parallelism が変更されると、一時的にダウンタイムが発生する
  - https://docs.aws.amazon.com/ja_jp/kinesisanalytics/latest/java/how-scaling.html
- Studio Note で、同時にジョブを実行できる上限が parallelism で制限されている
  - parallelism が 4 の場合は、Note 上で実行できるジョブの同時実行数が 4 になる
- Studio Note で、parallelism の上限を変更した場合、一時的に Studio Note が開けなくなるダウンタイムが発生する
  - 数分のダウンタイムあり
  - ダウンタイム前に実行していたジョブは、停止される



# 参考URL

Kinesis Data Analytics に関する AWS Blog
https://aws.amazon.com/jp/blogs/news/introducing-amazon-kinesis-data-analytics-studio-quickly-interact-with-streaming-data-using-sql-python-or-scala/

Kinesis Data Analytics の Document
Tumbling window や Sliding window のサンプルが掲載されている
https://docs.aws.amazon.com/kinesisanalytics/latest/java/how-zeppelin-sql-examples.html

Apache Flink SQL Document
SQL クエリーに関する Document
https://nightlies.apache.org/flink/flink-docs-release-1.7/dev/table/sql.html

ウォーターマークについて

> 一般に、ウォーターマークとは、ストリームのその時点までに、あるタイムスタンプまでのすべてのイベントが到着しているはずだという宣言である。

https://nightlies.apache.org/flink/flink-docs-master/docs/concepts/time/#event-time-and-watermarks	
https://acro-engineer.hatenablog.com/entry/2017/05/11/120000
http://vishnuviswanath.com/flink_eventtime.html
https://www.oreilly.com/library/view/introduction-to-apache/9781491977132/ch04.html