自力で機械学習の訓練画像データを収集する(Google Custom Search API ピカチュウ編)

※ 詳細は最後に書いてありますがこの方法は100枚しか画像を収集できないという致命的な欠点があります。

# はじめに
画像中にある物体認識の機械学習モデルを作成するに当たってまず必要になるのが大量の訓練画像の収集です。
犬や車といった一般的なものであれば[ImageNet](http://www.image-net.org/)などのサービスからダウンロードすることができますが、例えばピカチュウやアンパンマンと言ったキャラクターの画像はありません。そこで思いつくのがGoogle検索を使って画像を集める方法です。
今回はそのGoogle Custom Search API を使って機械学習用の画像データを集める方法をご紹介します。

[Tumblr API編はこちら](http://qiita.com/kazuooooo/items/8b5a776e1e68203e9d81)

# カスタム検索エンジンの作成
まず[CSE](https://cse.google.com/cse/all)でカスタム検索エンジンを作成します。

まず検索エンジンの編集の下にあるAddをクリックします
![カスタム検索_-_検索エンジンの編集__「Google_Custom_Search_API_を使って機械学習の画像データを1日1000枚ずつ収集する」を編集_-_Qiita.png](https://qiita-image-store.s3.amazonaws.com/0/71154/1e422788-08d2-b2a4-2e1f-2c3c8b19b172.png)


次にフォームに適当に値を入れていきます。ここで注意点として「検索するサイト」は一旦 "\*.com" など何か適当な値を入れておきます。いやいやおれは全てのサイトを検索対象にしたいんだー！と思って"\*"にすると一生先に進めなくなります。(自分は結構ここでハマりました)後ほど全てが検索対象になるように変更します。後の設定は適宜行って作成ボタンを押します。

 ![カスタム検索_-_カスタム検索エンジンの作成.png](https://qiita-image-store.s3.amazonaws.com/0/71154/32502d70-a2fe-3d3f-7b8f-b9cadc81d2a7.png)

作成ボタンを押すと作成が完了しました。となるのでコントロールパネルを選択します。

![カスタム検索_-_作成完了しました.png](https://qiita-image-store.s3.amazonaws.com/0/71154/d29f6c90-3045-7434-5c5b-a391a9f17e45.png)

このコントロールパネルで3つ必要な操作を行います
まず画像検索をONにします。
![カスタム検索_-_基本.png](https://qiita-image-store.s3.amazonaws.com/0/71154/1f8ccbeb-492d-caf7-e49f-77402f9debb4.png)

次に検索するサイトから先ほど追加した "\*.com"を削除します。
![カスタム検索_-_基本.png](https://qiita-image-store.s3.amazonaws.com/0/71154/1ab0d757-6a65-c896-44cd-acfa91d88620.png)

最後に「追加したサイトだけを検索する」となっているのを「追加したサイトを重視してウェブ全体を検索する」に変更します。
![カスタム検索_-_基本.png](https://qiita-image-store.s3.amazonaws.com/0/71154/058101f7-e627-c649-d7dd-4842cd1f7d9b.png)

お疲れ様でした。これでカスタム検索エンジンの作成が完了しました。
***「検索エンジンID」を押すと出てくるIDをメモしておきます。***

![カスタム検索_-_基本.png](https://qiita-image-store.s3.amazonaws.com/0/71154/7b4739ca-a284-b6c4-f9b3-9230ba244e2d.png)

# CustomAPISearchの有効化とAPIキーの取得
続いてCustomSearchAPIを有効化します。
これはとても簡単で
https://console.developers.google.com
にアクセスして(プロジェクトがなければプロジェクトを作成します。)左メニューのライブラリを選択、CustomeSearchAPIを選択します。
遷移先で「有効にする」を押してAPIを有効化します。

![APIs___services_-_MyFirstApp.png](https://qiita-image-store.s3.amazonaws.com/0/71154/65e5aa35-3854-cec4-c9d6-422e2a434f06.png)

今度は左側の認証情報からAPIキーを取得します。
認証情報を作成のタブからAPIキーを選択します。
![認証情報_-_MyFirstApp_と_「Google_Custom_Search_API_を使って機械学習の画像データを1日1000枚ずつ収集する」を編集_-_Qiita.png](https://qiita-image-store.s3.amazonaws.com/0/71154/364d0ea4-d7c0-0c3d-1e5d-2de24d263c84.png)

***選択するとキーが作成されるのでこれをメモしておきます。***

![認証情報_-_MyFirstApp.png](https://qiita-image-store.s3.amazonaws.com/0/71154/e3028d08-df0e-01bc-e331-d49a39a0ff9d.png)

長かったですが、これで準備が整いました！！

# 画像を収集する
上記で作成したカスタム検索エンジンとCustomeSearchAPI&APIキーを使って画像を収集します。

スクリプトは以下のように非常にシンプルなものです。実行したディレクトリ配下にあるimagesというディレクトリに番号.pngの形で画像を保存します。
検索エンジンIDとAPIキーについては上記でメモしておいたものを、それぞれ入力してください。
(import しているライブラリは適宜pipでインストールしてください。）

```py:correct_image.py
import requests
import shutil

API_PATH    = "https://www.googleapis.com/customsearch/v1"
PARAMS = {
  "cx" : "999999999999999999:abcdefghi", #検索エンジンID
  "key": "xxxxxxxxxxxxxxxxxxxxxxxxxxxx", #APIキー
  "q"  : "ピカチュウ", #検索ワード
  "searchType": "image", #検索タイプ
  "start" : 1, #開始インデックス
  "num" : 10   #1回の検索における取得件数(デフォルトで10件)
}
LOOP = 100
image_idx = 0

for x in range(LOOP):
  PARAMS.update({'start': PARAMS["num"] * x + 1})
  items_json = requests.get(API_PATH, PARAMS).json()["items"]
  for item_json in items_json:
    path = "images/" + str(image_idx) + ".png"
    r = requests.get(item_json['link'], stream=True)
    if r.status_code == 200:
      with open(path, 'wb') as f:
        r.raw.decode_content = True
        shutil.copyfileobj(r.raw, f)
      image_idx+=1
```

実際これを実行してみると以下のような画像が取得できました。
![0.png](https://qiita-image-store.s3.amazonaws.com/0/71154/797851b0-3b34-3d84-ca68-4449ef5a380e.png)
![1.png](https://qiita-image-store.s3.amazonaws.com/0/71154/04f529e3-24d2-ab2d-a303-d237e1a9f2ef.png)
![2.png](https://qiita-image-store.s3.amazonaws.com/0/71154/b20ab602-744c-10eb-6575-9edb5b08a6f5.png) 

# 最後に
後になって気づいたのですがこの方法で大量に画像を取得しようとすると

```
Traceback (most recent call last):
  File "get_image.py", line 31, in <module>
    items_json = requests.get(API_PATH, PARAMS).json()["items"]
KeyError: 'items'
```
となって100枚以上画像が取得できないことがわかりました。
どうやらGoogle Custom Search APIでは11ページ目以降の取得を許可していないようです。(記載されていたリンクがあったのですが見失ってしまいました。）