Amazon Alexa＋AWS Lambda(Node.js)でスクレイピングして詰まったところ。

まとまった休みが取れたので、以前から興味のあったAmazon Alexaにチャレンジしましたが、思いのほか躓いてしまったので記録しておきます。
やったことは公式のサンプルをなぞっただけですので、詳しい手順はそちらを参照して頂けたらと思います。

## やったこと
スマートスピーカーのEcho dotに問い合わせを行うと、Alexaスキルがその回答をWEBスクレイピングをして答えてくれる。

## 私のスペック
今回のチャレンジにあたっての私のスペックです。
プログラミング歴は19年くらいありますが、どれもこれも初めて。

- Amazon Alexa:はじめて
- AWS Lambda:はじめて
- Node.js:はじめて
- Java Script:はじめて

## Amazon Alexa について
[Alexa公式 動画シリーズ「Alexa道場」](https://developer.amazon.com/ja/alexa-skills-kit/webinars)が親切丁寧なので、アカウントの作成〜スキル作成までを一通り悩まずにできました。
動画の本数が多いので「うお」と思いますが、１本の動画が５分程なので自分のテンポで進められます。

## AWS Lambda について
当初、上記で作成する「alexa developer console」内でスクレイピングまでやろうと試行錯誤していましたが、どうも**ブラウザのJavaScriptでできるようなDom操作が、Node.jsの標準ライブラリではできない**ようなので、スクレイピングを簡単にするために、やむなくAWS Lambdaを使う事にしました。

これにあたり、「alexa developer console」のカスタムスキルのリクエスト先をAWS Lambdaに変更する必要ができたので、公式の[カスタムスキルをAWS Lambda関数としてホスティングする](https://developer.amazon.com/ja/docs/custom-skills/host-a-custom-skill-as-an-aws-lambda-function.html)を参考に実施しました。

#### ハマり① 移植
「alexa developer console」で実装したものを、「AWS Lambda関数」に移植しないといけませんが、サンプルコードがまあまあ違うので、移植先のサンプルコードを理解しないといけません。
**インテント名を手掛かりにすると、移植しやすい**かと思います。

#### ハマり② AlexaスキルとAWS Lambdaの関連付け
**「AlexaスキルのスキルID」と「AWS Lambda関数のARN」を交換**しないといけません。
確かに一緒のページには書いてあるのですが、一方がサンプルの記事の中にさらっと書いてあったので見落としていました。

* AlexaスキルのスキルIDの交換については、[Alexa Skills Kitトリガーを追加する](https://developer.amazon.com/ja/docs/custom-skills/host-a-custom-skill-as-an-aws-lambda-function.html#add-ask-trigger)の3でやってます。
* AWS Lambda関数のARNの交換については、
[カラーエキスパート設計図のサンプル対話モデル](https://developer.amazon.com/ja/docs/custom-skills/host-a-custom-skill-as-an-aws-lambda-function.html#sample-interaction-model-for-the-color-expert-blueprint)の4でやってます。

#### ハマり③ タイムアウト
**AWS Lambda関数のデフォルトのタイムアウト値は３秒**です。
最初は３秒以内で動いていたのですが、HTTPSでWEBページを取得する処理を追加したり、スクレイピングの処理を追加したりするうちに、いつの間にか処理時間が延びていた事に気づかず、ロジックを見て困っていました。
処理を追加してエラーが発生したらタイムアウトも疑ってみてください。
AWS Lambdaのマネジメントコンソールにて、タイムアウト値の変更が可能です。
https://aws.amazon.com/jp/blogs/news/aws-lambda-timeout-15min/

## Node.js について
JavaScriptならなんとかなるかな。と思ってNode.jsについてロクに調べもせずに取り掛かってしまいました。

#### ハマり① ノンブロッキングIO
**HTMLの取得を待たずにパース処理が動いてしまいます。**
標準ライブラリに含まれるhttpを使って通信を行うと、結果を待たずに先に進んでしまいました。(で、解析失敗)
これは、「ノンブロッキングIO」と言うNode.jsの仕様であり、メインスレッド１本で複数のリクエストを裁くタイプのサーバーの特徴だそうです。

とはいえ、HTMLの取得を待ってパースを行う必要があるので調べた結果、**Promiseという非同期処理を制御(直列実行・並列実行)できるものがある**事がわかった為、下記記事を参考に実装を一部やり直しました。

[お気楽 Node.js 超入門](http://www.nct9.ne.jp/m_hiroi/light/node01.html)
[いまさら聞けないNode.jsの基礎知識とnpm、Gulpのインストール](https://www.atmarkit.co.jp/ait/articles/1501/09/news040.html)
[Node.jsのhttpsモジュールを用いた通信処理をPromiseで書き直して解読してみた](https://ky-yk-d.hatenablog.com/entry/2018/07/16/011748)

#### ハマり② スクレイピング
「[Node.jsでスクレイピングするならこれが本命（たぶん）](https://qiita.com/ksato9700/items/026f2c1d93facdf6976f)」を参考に(と言うかコピペ)させていただいて、HTMLの取得とパースが簡単にできました。
が、HTMLのパースで使う[cheerio](https://github.com/cheeriojs/cheerio)というライブラリは、パース結果をjQueryオブジェクトで返すとのこと。
jQueryについても知らない為、ハマったと言うか、JavaScriptを舐めてた為に理解するものが増えてしまい、時間がかかってしまいました。
HTMLと下記記事を何回も交互に見ながら、なんとか取りたい情報を取得する事に成功しました。

[【jQuery入門】jQueryの基本的な書き方・文法](https://uxmilk.jp/11074)
[スペースを含んだクラス名を jquery で指定できない](https://ja.stackoverflow.com/questions/22510/%E3%82%B9%E3%83%9A%E3%83%BC%E3%82%B9%E3%82%92%E5%90%AB%E3%82%93%E3%81%A0%E3%82%AF%E3%83%A9%E3%82%B9%E5%90%8D%E3%82%92-jquery-%E3%81%A7%E6%8C%87%E5%AE%9A%E3%81%A7%E3%81%8D%E3%81%AA%E3%81%84)