SORACOMリレーブログ2016年10月26日分「RaspberryPi ＋ SORACOM FunnelでIoTデータを閉域網でS3やDynamoDBに格納する」

#**概要**
##本記事は[**SORACOMサービスリリース1周年記念リレーブログ**](https://blog.soracom.jp/relay-blog/2016-10/)10月26日分です。
ども、AWS Samurai 2015の辻です。
SORACOMにはIoTプレイヤーにとって嬉しいサービスがたくさんありますが、その中でも私が大好きなのが[SORACOM Funnel](https://soracom.jp/services/funnel/)です。AWSであればKinesisに直結してくれるサービスなのですが、Kinesis自体が割と敷居高めなサービスであるせいか、SORACOM Funnelの使い方を紹介した記事はネット上にもあまりありません。1周年記念ですので、可視化まで含めて手順を大公開したいと思いますっ！！
SORACOM Funnelの何がいいって、そりゃぁもうお客様に「セキュリティは・・・」って聞かれてもすかさず「閉域だから大丈夫です！」ってドヤ顔できるところです。しかもIoTデバイスにクレデンシャル(認証情報)をもたなくていいなんてまさに夢のようです。今回はこんな感じで遊んでみようと思います。
![iot_kyoto.PNG](https://qiita-image-store.s3.amazonaws.com/0/80392/5cf7f4ea-90cd-4961-f121-dcf7cc6e5817.png)
なにやら萌えキャラがいますね！可視化に利用する[**IoT.kyoto VIS**](http://iot.kyoto)のイメージキャラクター「**いおたん(IoTan)**」です。いおたんは[こんな経緯](http://www.slideshare.net/ichiroohkini/iot-63775043)で誕生しました。そして[巨大化して目からビームを出し喋る](https://youtu.be/XE0JWyfW4Yk)ようになりました！(今回の記事には全く関係ありませんw)

#**前提条件**
* AWSアカウントをもっていること
* SORACOM Airでインターネット接続できるRaspberryPiをもっていること(この部分の手順は説明しません)
* RaspberryPiに接続して計測できる、照度・温度・超音波等のセンサーをもっていること

RASPBIAN JESSIE 2016-05-27版で動作確認を行っています。これより古いバージョンだと期待通りに動作しない可能性があります。

#**[ToDo 1] RaspberryPiで何かをセンシングし、テキストファイルに保存できるようにする(RasPi)**
RaspberryPiにセンサーを接続し、計測値を基にこんな感じのJSONがテキストファイルに保存できていればOKです。**デバイスID・計測値・タイムスタンプ**が必須です。以後、`/home/pi/shodo-logs/shodo-funnel.log`にログが保存されるものとして説明します。

```
{"brightness": 164, "ID": "id000", "time_sensor": "2016-03-28 15:16:48"}
{"brightness": 692, "ID": "id000", "time_sensor": "2016-03-28 15:16:51"}
{"brightness": 720, "ID": "id000", "time_sensor": "2016-03-28 15:16:54"}
{"brightness": 945, "ID": "id000", "time_sensor": "2016-03-28 15:16:57"}
{"brightness": 9, "ID": "id000", "time_sensor": "2016-03-28 15:17:00"}
```

実装例として、照度センサーを使った手順を以前のリレーブログで紹介しました。[**RaspberryPiでセンサーデータをfluentdを使ってDynamoDBに送って可視化してみよう＜完全編＞**](http://qiita.com/Ichiro_Tsuji/items/fce61bdd5974a2c9cf14#todo-0-raspberrypi%E3%81%AE%E6%BA%96%E5%82%99)の**[Todo 0]**と**[ToDo 1]**を参考にしてください。以下、注意点です。

* **`$ sudo apt-get update`は必ず実行するようにしてください**
* 今回はSORACOM Airでインターネットに接続しますので、リンク先[ToDo 1]のWi-Fi接続確認で必ずしもインターネット接続できている必要はなく、SSH接続の確認ができればOKです。有線LAN接続やHDMI接続のモニタでも代用できます
* 今回の実装において、SORACOM Funnelは1秒間隔といった短い周期でメッセージを送信すると処理が間に合わないことがあります。3秒以上間隔を空けてメッセージを送信するようにしてください。リンク先[ToDo 1]のコードは1秒間隔になっていますので修正が必要です

#**[ToDo 2] SORACOM Airでインターネット接続する(RasPi)**
[**SORACOM公式ハンズオンテキスト**](https://github.com/soracom/handson/blob/master/setup/setup.md)が参考になると思います。接続が完了したらRaspberryPiにSSHで接続して下記コマンドを実行します。

```bash
$ curl ifconfig.io
54.250.xxx.xxx
#IPv6アドレスが表示される場合は次のコマンドを使って下さい

$ curl ifconfig.me
54.250.xxx.xxx
```

返り値(グローバルIPアドレス)が**54.250.xxx.xxx**となっていればSORACOM Air経由でインターネットに接続できています。

#**[ToDo 3] APIアクセス用のKeyを作成する(AWS)**
KinesisやDynamoDBにAPIでアクセスするために、AWSのIAM Access Keyを作成します。
今回作成するのは下記にある2つのユーザーおよびそれにひも付くKeyです。
手順は[**こちら**](http://qiita.com/Ichiro_Tsuji/items/fce61bdd5974a2c9cf14#todo-2-api%E3%82%A2%E3%82%AF%E3%82%BB%E3%82%B9%E7%94%A8%E3%81%AEkey%E3%82%92%E4%BD%9C%E6%88%90%E3%81%99%E3%82%8B)を参照してください。(手抜きですいません汗)

| ユーザー名 | アクセス権 | 使用箇所 |
|----------|----------|----------|
| Kinesis-full | AmazonKinesisFullAccess<BR>AmazonKinesisFirehoseFullAccess | FunnelからKinesisへの書き込み |
| dynamo-read | AmazonDynamoDBReadOnlyAccess | IoT.kyotoからDynamoDBへの読み出し |

#**[ToDo 4] Kinesisの設定(AWS)**
今回は動作確認用として、S3 / Redshift / Elasticsearch Serviceにログを配送してくれる[Kinesis Firehose](https://aws.amazon.com/jp/kinesis/firehose/)と、概要の図で登場している[Kinesis Streams](https://aws.amazon.com/jp/kinesis/streams/)を利用します。
Kinesis Streamsをざっくり説明する以下のような感じでしょうか。

* Streamにデータをに投げ込むと一定期間(デフォルトで24時間)キャッシュしてくれて、その間にデータを取り出すことができる
* データはクレデンシャルをつけてエンドポイントにHTTPSでPOSTする
* データの取り出しはキャッシュ期間中何回でもOK
* サイジングは「シャード」という単位で指定
* シャードをオートスケールする機能はない
* 1シャードで最大1000メッセージ／秒もさばいてくれるので、スパイクが来ても安心
* シャードを拡張してもエンドポイントは1つのまま。よろしく分散してくれる(分散処理のためのパーティションキーの指定が必要)
* マネージドサービスなのでインフラの運用は不要。SPOFも考慮しなくて良い

Kinesis Streamsはデータを取り出して処理をする部分(Kinesis App)をLambdaなどで開発する必要がありますが、Kinesis Firehoseを使えばS3 / Redshift / Elasticsearch Serviceのどれかにデータを配送してくれます。Kinesis Firehoseの仕様はKinesis Streamsとは若干異なりますので、詳細は上記リンク先を参照して下さい。

##AWS IoTと何が違うの？
IoT向けの同じような機能を持つサービスとして[AWS IoT](https://aws.amazon.com/jp/iot/)があります。誤解を恐れずざっくりと違いを説明します。

* 全ノード合計で1メッセージ／秒を超えるような場合は、AWS IoTの方が割高
* Kinesisの対応プロトコルはHTTPSのみ、AWS IoTはMQTTなど様々なプロトコルに対応
* 1メッセージあたりの最大ペイロードは、Kinesis -> 1MB 、AWS IoT ->128KB
* Kinesisはデバイス-> クラウドの1方向のみ、AWS IoTはクラウド側からデバイスを制御できる

AWS IoTの方が高機能な分割高と言えそうですね。要件に合わせてうまく使い分けましょう。

##Kinesis Firehoseの設定
* Kinesisコンソールを開く
* Kinesis Firehoseは2016年10月現在、東京リージョンでは提供されていないので、利用可能な北バージニア(N.Virginia)リージョンを選択する<BR>
![k-1.png](https://qiita-image-store.s3.amazonaws.com/0/80392/9bfa9b74-a4c3-9188-2046-af6fbd0dc3b7.png)<BR><BR>
* [Go to Firehose]をクリックする<BR>
![スクリーンショット 2016-10-19 13.42.20.png](https://qiita-image-store.s3.amazonaws.com/0/80392/472756eb-fefa-84c9-0eff-8cf5741fb938.png)<BR><BR>
* [Create Delivery Stream]をクリックする<BR>
![Amazon Kinesis Firehose 2016-10-19 13-43-18.png](https://qiita-image-store.s3.amazonaws.com/0/80392/7a25283b-594d-d1c2-260d-229f4ccf806e.png)<BR><BR>
* 配送先に[Amazon S3]を選択する<BR>
![スクリーンショット 2016-10-19 13.44.22.png](https://qiita-image-store.s3.amazonaws.com/0/80392/3c53785c-026c-5212-0599-5eb9d3131049.png)<BR><BR>
* Stream Nameを入力し、ログを格納するS3バケットを選択(ここではともに「iotan-f」としている)する。バケットはここで作成することもできる
* ログのファイル名はデフォルトでStream名+タイムスタンプとなるが、必要であればプレフィックスを指定する
* [Next]をクリックする<BR>
![Amazon Kinesis Firehose 2016-10-19 13-46-27.png](https://qiita-image-store.s3.amazonaws.com/0/80392/06ce462f-250c-eca2-2118-0894ec187f0d.png)<BR><BR>
* Buffer interval(S3への送信間隔)を指定する。最小値は60秒
* IAM roleで[Firehose Delivery IAM role]を選択する
* 他はデフォルトでOK<BR>
![c6aa8e58-6526-40dd-c9b7-ad890b113caa.png](https://qiita-image-store.s3.amazonaws.com/0/80392/e18c5caa-0b6e-c49d-80bd-0cc923d1cf6e.png)<BR><BR>
* そのまま[Allow]をクリックする<BR>
![IAM Management Console 2016-10-19 13-49-20.png](https://qiita-image-store.s3.amazonaws.com/0/80392/c157d4de-ec77-8361-22b6-0c8ba7b6a331.png)<BR><BR>
* そのまま[Next]をクリックする<BR>
![Amazon Kinesis Firehose 2016-10-19 13-50-05.png](https://qiita-image-store.s3.amazonaws.com/0/80392/3d722e41-6f5c-3d59-51a3-19f4f1aa9430.png)<BR><BR>
* [Create Delivery Stream]をクリックする<BR>
![Amazon Kinesis Firehose 2016-10-19 13-51-10.png](https://qiita-image-store.s3.amazonaws.com/0/80392/d7e20fcf-59ae-498a-8f02-f8870d20894d.png)<BR><BR>
* S3配送Streamが作成された。[ACTIVE]になったら利用可能<BR>
![Amazon Kinesis Firehose 2016-10-19 14-24-14.png](https://qiita-image-store.s3.amazonaws.com/0/80392/a7f368ff-9a9f-073c-a3cb-e6a93bf48e89.png)

##Kinesis Streamsの設定
* Kinesisコンソールを開く
* とくに理由がなければ、パフォーマンス面で有利な東京リージョンを選択する<BR>
![k-2.png](https://qiita-image-store.s3.amazonaws.com/0/80392/caa2c1e2-41a5-1f3d-cceb-12d9cbd13363.png)<BR><BR>
* [Go to Streams]をクリックする<BR>
![AWS Kinesis Management Console 2016-10-19 14-11-28.png](https://qiita-image-store.s3.amazonaws.com/0/80392/0f685b17-5808-c705-ddbd-5cc725a8c163.png)<BR><BR>
* [Create Stream]をクリックする<BR>
![AWS Kinesis Management Console 2016-10-19 14-11-52.png](https://qiita-image-store.s3.amazonaws.com/0/80392/b3be110f-ef62-cc94-44d0-1c439ced9587.png)<BR><BR>
* Stream Nameを入力(ここでは「iotan-s」としている)する
* シャード数を入力する。1で充分
* [Create]をクリックする
![AWS Kinesis Management Console 2016-10-19 14-12-27.png](https://qiita-image-store.s3.amazonaws.com/0/80392/8101e952-3d16-a549-6b96-d3b00c17128a.png)<BR><BR>
* Streamが作成された。[ACTIVE]になったら利用可能<BR>
![AWS Kinesis Management Console 2016-10-19 14-18-23.png](https://qiita-image-store.s3.amazonaws.com/0/80392/0cb79a21-cb56-eb4f-d684-c8472f3bdace.png)

#**[ToDo 5] SORACOM Funnelの設定(SORACOM)**
* SORACOMユーザーコンソールを開く
* [セキュリティ]の画面を開く<BR>
![s-1.png](https://qiita-image-store.s3.amazonaws.com/0/80392/a1da51cb-0dc0-b340-811d-48e7e3c782f7.png)<BR><BR>
* [認証情報ストア] -> [認証情報を登録]<BR>
![s-2.png](https://qiita-image-store.s3.amazonaws.com/0/80392/afabdcf9-7699-30a4-b953-2371218310dc.png)<BR><BR>
* 任意の認証情報ID(ここでは「iotan-kinesis」としている)を入力する
* [Todo 2]で作成した「kinesis-full」の認証情報を入力する<BR>
* [登録]をクリックする<BR>
![s-3.png](https://qiita-image-store.s3.amazonaws.com/0/80392/cce32049-3b3a-c4ae-2d05-fb10b998496e.png)<BR><BR>
* 認証情報が登録された<BR>
![a60f81c0-1913-f8af-5033-4a1390db34a2.png](https://qiita-image-store.s3.amazonaws.com/0/80392/c4f58077-991a-5a92-4384-8935afb25e28.png)<BR><BR>
* [グループ]の画面を開く<BR>
![s-5.png](https://qiita-image-store.s3.amazonaws.com/0/80392/03364814-1987-8992-b29c-7ae4940ea478.png)<BR><BR>
* [追加]をクリックする
* 任意のグループ名(ここでは「iotan-kinesis」としている)を入力して[グループ作成]をクリックする<BR>
![s-6.png](https://qiita-image-store.s3.amazonaws.com/0/80392/6e9f7b83-2b15-f745-b841-b15d75d7aad4.png)<BR><BR>
* 登録済みのグループが一覧表示されるので、先ほど登録したグループをクリックする
* [SORACOM Funnel 設定]を展開する
* まずは動作確認でKinesis Firehoseにデータを流すので、リソースタイプで[Kinesis Firehose]を選択する
* リソースURLは次のように入力する<BR>**`https://kfirehose.us-east-1.amazonaws.com/{stream_name}`**  (北バージニアリージョンの場合)
* 認証情報は先ほど作成した認証情報名を選択する
* 送信するデータ形式は[JSON]を選択する
* [保存]をクリックする<BR>
 ![s-7-f.png](https://qiita-image-store.s3.amazonaws.com/0/80392/e8cc1045-1e3b-d046-f599-eb7645afe398.png)<BR><BR>
* [SIM管理]の画面を開く<BR>
![s-8.png](https://qiita-image-store.s3.amazonaws.com/0/80392/4595d60c-0980-6c3b-f7f6-33bc2c56ea8f.png)<BR><BR>
* RaspberryPiの通信に使用しているSIMを選択して右クリック -> [所属グループ変更]<BR>
![s-9.png](https://qiita-image-store.s3.amazonaws.com/0/80392/7e3af22d-8342-69e1-9e78-27418c67c0a4.png)<BR><BR>
* 先ほど作成したグループを選択し、[グループ変更]をクリックする<BR>
![s-10.png](https://qiita-image-store.s3.amazonaws.com/0/80392/28b71415-b881-adf4-a2d8-03b35b7e3330.png)<BR><BR>
* 所属グループが変更された<BR>
![s-11.png](https://qiita-image-store.s3.amazonaws.com/0/80392/270adf36-a8ca-6909-9068-41ee07fa7113.png)


##データの配送先をKinesis Streamsに変更する
[ToDo 8]でKinesis FirehoseによるSORACOM Funnelの動作確認が終わったら下記の手順で配送先を変更します。

* [グループ]の画面を開く<BR>
![s-5.png](https://qiita-image-store.s3.amazonaws.com/0/80392/03364814-1987-8992-b29c-7ae4940ea478.png)<BR><BR>
* 登録済みのグループが一覧表示されるので、先ほど登録したグループをクリックする
* [SORACOM Funnel 設定]を展開する
* リソースタイプで[Kinesis Streams]を選択する
* リソースURLは次のように入力する<BR>**`https://kinesis.ap-northeast-1.amazonaws.com/{stream_name}`**  (東京リージョンの場合)
* [保存]をクリックする<BR>
![s-7-s.png](https://qiita-image-store.s3.amazonaws.com/0/80392/866b516b-4b98-86be-7cbe-e5c42390b2ca.png)

#**[ToDo 6] fluentdのインストール(RasPi)**
RaspberryPiからのデータ配送ミドルウェアとしてfluentdを使用します。動作概念については[こちら](http://qiita.com/Ichiro_Tsuji/items/fce61bdd5974a2c9cf14#%E4%BB%8A%E5%9B%9E%E5%88%A9%E7%94%A8%E3%81%99%E3%82%8B%E3%83%84%E3%83%BC%E3%83%AB%E3%82%B5%E3%83%BC%E3%83%93%E3%82%B9)を参照下さい。今回はoutputプラグインとして「out-httpプラグイン」を使用します。他にはリンク先にあるようにDynamoDBに配送したり、KinesisやS3に配送することなどもできます。
「out-httpプラグインは」単にHTTPでPOSTするだけのプラグインです。そう、暗号化もしません。セキュリティ大丈夫なの？と思ったあなたは[SORACOM Funnel](https://soracom.jp/services/funnel/)のサービス説明を熟読しましょう。モバイルネットワーク上の暗号化は3G網側にオフロードされ、AWSへの認証や暗号化はSORACOM Funnelがよろしくやってくれます。そう、**IoT開発者にとって面倒臭いところはSORACOMさんが頑張ってくれる**のです。素敵(はぁと。さらに**Kinesisまで閉域網相当で接続できる**のです。もう抱いてw。「相当」と書いたのは、Kinesisがユーザー毎の閉じた環境(AWSでいうVPC)内にあるわけじゃなくて、AWSユーザー共用のネットワーク空間に存在するからです。
以下、RaspberryPiへのfluentdインストール手順です。

##fluentd本体のインストール
数分かかります。

```bash
$ sudo apt-get install ruby-dev libssl-dev
$ sudo gem install fluentd --no-ri --no-rdoc
```

※今回使うout-httpプラグインは最新バージョンである0.14系で動作することを確認していますが、他のプラグインも使用する場合は0.12系の最新版をインストールした方が良いかもしれません。その場合のコマンドは下記

```bash
$ sudo gem install fluentd -v "~> 0.12.0" --no-ri --no-rdoc
```

##out-httpプラグインのインストール
数分かかります。

```bash
$ sudo fluent-gem install fluent-plugin-out-http --no-ri --no-rdoc
```


##インストールの確認
バージョンは若干異なるかもしれません。

```bash
$ sudo gem list fluent
*** LOCAL GEMS ***
fluent-plugin-out-http (0.1.4)
fluentd (0.14.4, 0.10.61)
```

#**[ToDo 7] fluentdの設定(RasPi)**
##設定ファイルとログファイルの作成
センサーログファイル(.logと.pos)のパスは適宜書き換えて下さい。

```bash
$ sudo touch /home/pi/shodo-logs/shodo-funnel.pos
$ sudo mkdir /fluent
$ sudo touch /fluent/fluent.log
$ sudo vim /fluent/fluent.conf
```

```bash:fluent.conf
<source>
  # inputにtailプラグインを指定
  @type tail
  # フォーマットを指定
  format json
  # ログファイルをフルパスで指定
  path /home/pi/shodo-logs/shodo-funnel.log
  # ファイル内のどの行までを読んだかを記録しておくファイルを指定
  pos_file /home/pi/shodo-logs/shodo-funnel.pos
  # 分かりやすいタグを指定
  tag funnel.shodo
</source>
# 以下のタグにマッチしたものだけoutput処理される
<match funnel.**>
  @type http
  # SORACOM Funnelエンドポイントを指定
  endpoint_url    http://funnel.soracom.io/
  #以下、各種設定
  http_method     post   # default: post
  serializer      json   # default: form
  rate_limit_msec 100    # default: 0 = no rate limiting
  raise_on_error  false  # default: true
</match>
```

##テスト
**`[error]`**の行がないか確認します。

```bash
$ sudo fluentd -c /fluent/fluent.conf --dry-run

2016-10-20 19:35:36 +0900 [info]: reading config file path="/fluent/fluent.conf"
2016-10-20 19:35:36 +0900 [info]: starting fluentd-0.14.4 as dry run mode
2016-10-20 19:35:36 +0900 [info]: gem 'fluent-plugin-out-http' version '0.1.4'
2016-10-20 19:35:36 +0900 [info]: gem 'fluentd' version '0.14.4'
2016-10-20 19:35:36 +0900 [info]: gem 'fluentd' version '0.10.61'
2016-10-20 19:35:36 +0900 [info]: adding match pattern="funnel.**" type="http"
2016-10-20 19:35:36 +0900 [info]: adding source type="tail"
2016-10-20 19:35:36 +0900 [info]: using configuration file: <ROOT>
  <source>
    @type tail
    format json
    path "/home/pi/shodo-logs/shodo-funnel.log"
    pos_file "/home/pi/shodo-logs/shodo-funnel.pos"
    tag "funnel.shodo"
  </source>
  <match funnel.**>
    @type http
    endpoint_url "http://funnel.soracom.io/"
    http_method "post"
    serializer "json"
    rate_limit_msec 100
    raise_on_error false
  </match>
</ROOT>
```

##fluentdを実行する
```bash
$ sudo fluentd -c /fluent/fluent.conf -v -o /fluent/fluent.log &
[1] 20284
```
正常に実行されているかどうかは/fluent/fluent.logを確認します。起動時に自動実行する場合は、`/etc/rc.local`に記述してください。
※「20284」はPIDなので、値は実行の度に変わります

#**[ToDo 8] Kinesis Firehoseにデータを流してみる(主にAWS)**
センシングを開始してログファイルにJSONが書き込まれていることを確認します。正しく設定されていれば、S3バケットにログファイルが書き込まれるはずです。ログはBuffer intervalで指定した秒数(デフォルトは300秒)ごとに書き込まれるので、S3バケットに保存されるまでタイムラグがあります。
正しく動作していなければ`/fluent/fluent.log`を確認しましょう。

* Kinesis Firehoseコンソールを開く
* Streamを選択 -> [Actions] -> [Monitor]<BR>
![Amazon Kinesis Firehose 2016-10-20 20-09-10.png](https://qiita-image-store.s3.amazonaws.com/0/80392/114c0737-6444-42f0-e605-d2446006017e.png)<BR><BR>
* 折れ線グラフが表示されていれば正常に動作している<BR>
![スクリーンショット 2016-10-20 20.10.11.png](https://qiita-image-store.s3.amazonaws.com/0/80392/d4af8264-887a-9409-5f61-c5bf2c2c8255.png)<BR><BR>
* S3コンソールを開く
* Kinesis Firehoseの設定で指定したバケットを開く
* ログが書き込まれていることが確認できる(ファイル名のタイムスタンプはUTC)<BR>
![スクリーンショット 2016-10-20 20.02.32.png](https://qiita-image-store.s3.amazonaws.com/0/80392/31f7d161-c103-f28d-bd75-61729320457b.png)<BR><BR>
* ログをダウンロードして開くとJSONが書き込まれていることが確認できる<BR>
![スクリーンショット 2016-10-20 20.20.46.png](https://qiita-image-store.s3.amazonaws.com/0/80392/cf683be2-0542-e7b6-86bc-5c6ba0b6a099.png)

#**[ToDo 9] Lambda Functionを作成する(AWS)**
先ほどはKinesis FirehoseがS3バケットにデータを配送してくれましたが、DynamoDBにデータを格納するにはRaspberryPi -> Kinesis Streams -> Lambda -> DynamoDBというデータストリームを構築する必要があります。Kinesis Streamsにデータが書き込まれたことをトリガーにLambda Functionが起動して、DynamoDBにデータを書き込みます。では、Lambda Functionを作成しましょう。

##asyncライブラリを取得する
Lambda Functionは、Java / NodeJS / Pythonで記述することができますが、今回はNodeJSを使用します。実行に必要なライブラリは、あらかじめ実行するコードとともにアップロードする必要があります。ライブラリはLinux環境でnpmコマンドを使って取得します。もちろん、RaspberryPiも利用できます。

```bash
$ cd ~
$ sudo apt-get install -y npm
$ mkdir node-lib
$ cd node-lib
$ npm install async
$ ls -l
total 4
drwxr-xr-x 3 pi pi 4096 Oct 20 23:03 node_modules
```

`node-lib/node_modules/`にライブラリがインストールされていますので、node_modulesディレクトリごとSFTP等でPCローカルにダウンロードしておきます。

##Lambda Function用のコードを作成する
* PCのテキストエディタで`index.js`という名前のファイルを作成する。コメント行の箇所は適宜修正する

```js:index.js
var AWS = require('aws-sdk');
var async = require('async');
//DynamoDBのリージョンに合わせて変更する
var dynamodb = new AWS.DynamoDB({region: 'ap-northeast-1'});

var get_current_timestamp = function() {
    var d = new Date();
    var month  = d.getMonth() + 1;
    var day    = d.getDate();
    var hour   = d.getHours();
    var minute = d.getMinutes();
    var second = d.getSeconds();
 
    if (month < 10) {month = "0" + month;}
    if (day < 10) {day = "0" + day;}
    if (hour < 10) {hour = "0" + hour;}
    if (minute < 10) {minute = "0" + minute;}
    if (second < 10) {second = "0" + second;}

    return d.getFullYear()  + "-" + month + "-" + day + "T" + hour + ":" + minute + ":" + second + "Z";
}

exports.handler = function(event, context) {
    async.eachSeries(event.Records, function(v, callback){
        var encodedPayload = v.kinesis.data;
        var payload = new Buffer(encodedPayload, 'base64').toString('ascii');
        var data = JSON.parse(payload);
        if(typeof data.operatorId != "undefined"){
          var params = {
            Item: {
                //タイムスタンプのkey名に合わせて変更する
                'time_sensor': { S: data.payloads.time_sensor},
                //Lambdaの処理時刻をUTCで記録する
                'time_lambda': { S: get_current_timestamp()},
                //デバイスIDのkey名に合わせて変更する
                'ID': { S: data.payloads.ID},
                //センサー計測値のkey名に合わせて変更する
                'brightness': { N: String(data.payloads.brightness)}
            },
            //DynamoDBのテーブル名に合わせて変更する
            'TableName': 'iotan-funnel'
          };
        }else{
          console.log('NOT SORACOM');
        }
        dynamodb.putItem(params, function(err) {
            if (err) console.log(err, err.stack); callback();
        });
    }, function(err,result){
        if (err) {
            context.fail(err);
        } else {
            context.succeed('success');
        }
    });
}
```

* `index.js`と先ほどダウンロードした`node_modules`を`myfunc.zip`というファイル名でZIP圧縮する<BR>
![スクリーンショット 2016-10-20 23.34.44.png](https://qiita-image-store.s3.amazonaws.com/0/80392/11b9a605-d293-1eba-ce7b-b5b06c358263.png)

##Lambda Functionを作成する
* Lambdaコンソールを開く
* リージョンが「Asia Pacific (Tokyo)」でない場合は変更する<BR>
![DynamoDB · AWS Console 2016-04-02 16-55-11.png](https://qiita-image-store.s3.amazonaws.com/0/80392/4bd6b0f2-3593-3b10-1839-62f3c2f13173.png)<BR><BR>
* [Get Started Now]をクリックする<BR>
![l-1.png](https://qiita-image-store.s3.amazonaws.com/0/80392/570f2114-5e04-0c4a-af16-e42359ab83fb.png)<BR><BR>
* [Blank Function]をクリックする<BR>
![l-2.png](https://qiita-image-store.s3.amazonaws.com/0/80392/e7b35963-2556-a2ce-3396-4f43f28f6b63.png)<BR><BR>
* 点線囲みをクリック -> [Kinesis] -> [Next]<BR>
 ![l-3.png](https://qiita-image-store.s3.amazonaws.com/0/80392/0a71584b-03af-6679-e1bf-562f205598c8.png)<BR><BR>
* Kinesis streamで[ToDo 4]で作成したStreamを選択する
* Starting positionで[Trim horizon]を選択する
* [Enable trigger]にチェックを入れる
* [Next]をクリックする<BR>
![l-4.png](https://qiita-image-store.s3.amazonaws.com/0/80392/ed6e0479-7dec-82c5-3b2c-596961074602.png)<BR><BR>
* Nameに任意のFunction名(ここでは「iotan-funnel」としている)を入力する<BR>
![l-5-a.png](https://qiita-image-store.s3.amazonaws.com/0/80392/da6aa8e4-8691-7b4e-9819-5838be021ea4.png)<BR><BR>
* 先ほど作成したmyfunc.zipをアップロードする<BR>
![l-5-b.png](https://qiita-image-store.s3.amazonaws.com/0/80392/6ab2d4b0-4531-a54f-c2dd-1d9ade3962a1.png)<BR><BR>
* Roleで[Create a custom role]を選択する
* 新しいタブでロールの設定画面が開く<BR>
![l-5-c.png](https://qiita-image-store.s3.amazonaws.com/0/80392/09fbb395-7ea8-8d27-04e2-644b94a3d7b8.png)<BR><BR>
* Role Nameに任意のロール名(ここでは「lambda_DynamoDB」としている)を入力する
* [Edit]をクリックし、テキストボックスのJSONを削除して下記のJSONを貼り付ける

```JSON
{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Sid": "Stmt1428341300017",
            "Action": [
                "dynamodb:DeleteItem",
                "dynamodb:GetItem",
                "dynamodb:PutItem",
                "dynamodb:Query",
                "dynamodb:Scan",
                "dynamodb:UpdateItem"
            ],
            "Effect": "Allow",
            "Resource": "*"
        },
        {
            "Sid": "",
            "Resource": "*",
            "Action": [
                "logs:CreateLogGroup",
                "logs:CreateLogStream",
                "logs:PutLogEvents"
            ],
            "Effect": "Allow"
        },
        {
            "Effect": "Allow",
            "Action": [
                "lambda:InvokeFunction"
            ],
            "Resource": "*"
        },
        {
            "Effect": "Allow",
            "Action": [
                "kinesis:*"
            ],
            "Resource": "*"
        }
    ]
}
```

* [Allow]をクリックするとタブが閉じる<BR>
![l-5-d.png](https://qiita-image-store.s3.amazonaws.com/0/80392/34e1efec-5adb-6493-d8cd-79d925ae6ca5.png)<BR><BR>
* 元の画面に戻って、Timeoutを30秒に設定する
* [Next]をクリックする<BR>
![l-6.png](https://qiita-image-store.s3.amazonaws.com/0/80392/a5e09fee-4b95-cee5-17c4-ea2f93b43241.png)<BR><BR>
* ロール名が表示されていることを確認して[Create function]をクリックする。もし、ロールが当たっていない場合は[Edit]をクリックして修正する<BR>
![l-7.png](https://qiita-image-store.s3.amazonaws.com/0/80392/b49c333f-b908-fa4b-a54a-05e7996e29aa.png)

#**[ToDo 10] DynamoDBのテーブルを作成する(AWS)**
key名は[ToDo 9]で設定したものと同じものを入力して下さい。

* DynamoDBコンソールを開く
* リージョンが「Asia Pacific (Tokyo)」でない場合は変更する<BR>
![DynamoDB · AWS Console 2016-04-02 16-55-11.png](https://qiita-image-store.s3.amazonaws.com/0/80392/4bd6b0f2-3593-3b10-1839-62f3c2f13173.png)<BR><BR>
* [Create table]をクリックする<BR>
![DynamoDB · AWS Console 2016-04-01 23-02-21.png](https://qiita-image-store.s3.amazonaws.com/0/80392/ed90be9a-8c72-8032-26eb-78bc959573a5.png)
<BR><BR>
* Table nameに先ほどLambdaで指定したテーブル名(ここでは「iotan-funnel」としている)を入力する
* Partition keyにデバイスIDのKey(ここでは「ID」としている)を入力する
* [Add sort key]にチェックを入れ、タイムスタンプのKey(ここではは「time_sensor」としている)を入力する
* [Create]をクリックする<BR>
![DynamoDB · AWS Console 2016-10-20 22-02-55.png](https://qiita-image-store.s3.amazonaws.com/0/80392/b9c3c706-5c99-82d3-be30-f4fb2f95983a.png)<BR><BR>
* テーブル作成が終わるのを待つ

#**[ToDo 11] Kinesis Streamsにデータを流してDynamoDBにデータが格納されることを確かめる(主にAWS)**
##SORACOM Funnelの配送先をKinesis Streamsに変更する
[[ToDo 5]の最終項](http://qiita.com/Ichiro_Tsuji/items/b432ac99a690a31151fd#%E3%83%87%E3%83%BC%E3%82%BF%E3%81%AE%E9%85%8D%E9%80%81%E5%85%88%E3%82%92kinesis-streams%E3%81%AB%E5%A4%89%E6%9B%B4%E3%81%99%E3%82%8B)の手順で変更してください。

##DynamoDBにデータが格納されることを確かめる
RaspberryPiからデータを送信し、下記手順でDynamoDBにデータが書き込まれていることを確かめます。

* [Tables] -> (作成したテーブル) -> [Items]の順にクリックする<BR>
![DynamoDB · AWS Console 2016-04-01 23-18-32.png](https://qiita-image-store.s3.amazonaws.com/0/80392/958879af-2f30-b5e0-df10-17e1185b64c4.png)
<BR><BR>
* [Query]を選択する
* [Partition key]に現在送信中のデバイスIDを入力する
* [Descending]を選択する
* [Start search]をクリックする度に最新のレコードが追加されていくのがわかる<BR>
![DynamoDB · AWS Console 2016-04-01 23-25-44.png](https://qiita-image-store.s3.amazonaws.com/0/80392/c9fb82fc-a1c8-6e6f-739a-7a49267a40f4.png)

##トラブルシューティング
Kinesis StreamsとLambdaのメトリックスやログを確認すると良いでしょう。

* Kinesis Streamsのメトリックス<BR>
![kinesis.png](https://qiita-image-store.s3.amazonaws.com/0/80392/8a26eda1-2141-ceb4-1b97-78250f028184.png)<BR>
* Lambdaの簡易メトリックス。この画面からログの画面に遷移できる<BR>
![lambda1.png](https://qiita-image-store.s3.amazonaws.com/0/80392/bd0f88c4-8bf3-a517-94ed-8099b4bed51d.png)<BR><BR>
* Lambdaのログの画面。エラーメッセージも表示される<BR>
![lambda2.png](https://qiita-image-store.s3.amazonaws.com/0/80392/66124b11-536c-7907-9506-bac9b515f93c.png)

#**[ToDo 12] IoT.kyoto VISでグラフ表示する**
**ブラウザはChrome(Win/Mac)またはSafari(Mac)をお使い下さい。**
最後にDynamoDBのデータを**~~いおたんで~~**[**IoT.kyoto VIS**](http://iot.kyoto)で可視化しましょう。
##サインアップ
https://vis.iot.kyoto にアクセスし、「新規登録」をクリックします。

##設定
[IoT.kyoto VIS公式マニュアル](http://qiita.com/kyoso_bizdev/items/9223cb6fa125e1502183)の3～4章を参照。
AWSのKeyには、[ToDo 3]で作成した「dynamo-read」ユーザーのKeyを使用します。

##いろいろ試してみる
[レンジ設定]を[手動]に変更して0～1000くらいに設定するとグラフが見やすくなります。下記のようなことを試してみましょう。


* フォトトランジスタにライトを当てたり手で覆ったりして、グラフの変化や描画までの遅延を確認する
* 閾値超えのアラートメールが届くか試してみる
* 日時指定で過去の履歴を表示してみる
* 別windowでターミナルを開き、デバイスIDを変えたPythonコードを実行(擬似的に複数デバイスが接続された状態となる)して、IoT.kyoto VISの画面で2個のグラフを同時に表示してみる
* データの送信間隔を変えてみる(「グラフ設定(歯車)」でグラフの更新間隔を変えることができます)
![IoT.kyoto照度サンプル.png](https://qiita-image-store.s3.amazonaws.com/0/80392/14084335-223b-4291-2abb-4c7a332983bb.png)

#**まとめ**
今回は下記2通りのデータストリームを構築しました。

* デバイス -> SORACOM Funnel -> Kinesis Firehose -> S3
* デバイス -> SORACOM Funnel -> Kinesis Streams -> Lambda -> DynamoDB

前者は、とりあえず手軽にデータを集めたいというようなケースに最適です。また、RedshiftやElasticsearch Serviceにも流せるので夢が広がりングですね！
後者は、集めたデータを基に可視化や監視などのアプリケーションを構築したい場合に最適です。DynamoDBはちゃんと分かって使えばSQL系のDBMSでは実現できなかったような超強力なアプリケーションが作れちゃいます。また、監視系のビジネスロジックはLambdaでサクッと実装しちゃうのが良いですね。
SORACOMを単なるインターネット接続手段として使うなんてもったいない！！ぜひSORACOMの世界にDeep Diveしてみてください。