大企業がこれらの人気サイトからデータを取得している！2019年ジャンル別24選 

![大企業がデータを取得している人気サイト24選.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/c4467840-453e-66dd-b0d3-76ea45fbf517.png)


我々が現在にいる社会はすでに「ビッグデータ」という言葉があたり前のように見聞きする時代になりました。近い将来、テクノロジー、ビジネス、金融、法律、人々の暮らしなど、ビッグデータによって大きく変わっていくのでしょう。

それで、ビッグデータの中で最も重要なものとも言えるデータインテリジェンスは、既存のビジネス世界に新たな成長をもたらすだけでなく、さらに企業の意思決定を左右する役割にもなってくると思います。

そのような「ビッグデータ」時代においては、最新のデータを取得して分析し、マーケティングの動向を一番早く把握して対応できる企業だけがこの世に生き残れます。

では、この世に生き残れることを目指している企業にとっては、どのようなデータを取得しなければならないのかというと、これからこの記事で、大企業がデータを取得している人気サイトをジャンル別に紹介したいと思います。まだまだたくさんのサイトがあると思いますが、コメントをいただければ幸いです。

#1. ECサイト（５選）

**Amazon、楽天市場、ヨドバシカメラ、ZOZOTOWN、Yahoo!ショッピングなど**

**主なデータ：**商品名、URL、価格、画像URL、ASIN番号、送料、カラー、サイズ、ブランド、店舗名、在庫、購入数、レビュー、スターランキングなど
**データ用途：**価格比較、競合調査


- **アマゾン(Amazon)**
 ![01-Amazon.jp商品情報.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/248a5edf-91a6-25ce-c80a-a2604b944f43.png)


- **Rakuten**
 ![03-楽天.com.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/ee689bf5-cb7c-1734-fd82-1ae87e9e5098.png)

- **ヨドバシカメラ**
![04-ヨドバシカメラ.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/8203f948-9300-153a-1eda-2c74f91e7989.png)

- **ZOZOTOWN**
![05-ZOZOTOWN.com.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/2c152e13-65a9-d033-f92b-2e4327a88b13.png)

#2. 転職求人サイト（4選）

**リクナビNEXT、マイナビ転職、Doda転職、Indeed**

**主なデータ：**会社ホームページ、会社名、会社情報、会社所在地、メールアドレス、掲載期間、仕事の内容、求めている人材、勤務地、給与、勤務時間、休日休暇、採用予定人数、待遇福利厚生など。
**データ用途：**企業調査、業界研究、競合調査
 

- **リクナビNEXT**
 ![06-リクナビNEXT.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/00278dbf-dcab-f84b-236f-a2114b693a89.png)

- **マイナビ転職**
![07-マイナビ転職.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/83ccd9bd-492d-e924-f34c-1eabb11b61c4.jpeg)

- **Doda転職**
![08-dota転職.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/40a55b32-5c00-7edb-c340-6a690a5631c2.png)

- **Indeed**
![09-indeed.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/0e1bd282-3766-2605-2a66-d31b4c3986b5.png)

#3. 不動産サイト（4選）

**SUUMO、HOME’S、at home、マイナビ賃貸**

**主なデータ：**物件名、住所、交通、販売価格、敷金、保証金、物件画像、土地面積、建物面積、築年月、階建、間取り、方角、車内施設、周辺環境、駐車場、契約期間、保険、問い合わせ先など。
**データ用途：**価格調査、不動産業界研究、競合調査、市場調査

- **SUUMO**
![10-suumo.jp.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/a53e8291-9d40-8978-c619-80c35bedb4e6.png)


- **HOME’S**
![11-homes.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/b33fd4dd-b441-ce98-6025-bb1d36c925d5.png)

- **at home**
![12-at home.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/4221549d-cb8c-c1f1-7047-fc953d6bb051.png)

- **マイナビ賃貸**
![07-マイナビ転職.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/9e1b16c2-46f5-0a62-fd59-53873ca8e47b.jpeg)

#4. ソーシャルサイト（4選）

**Facebook、Twitter、Instagram、Youtube**

**主なデータ:**投稿者、投稿内容、いいね、コメント内容、コメント数、シェア数、グループ、投稿日、画像URL、ビデオURLなど。
**データ用途：**口コミ調査、世論調査、感情分析
 
- **Facebook**
![14-Facebook.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/e5c02f4f-95c3-afe0-b470-e06af3f2136b.png)

- **Twitter**
![15-Twitter.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/fe67038b-dd86-ce1c-a93c-796490f939e0.png)

- **Instagram**
![16-Instagram.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/823b6936-d70f-b6eb-b484-e0a84cfecdb6.png)

- **Youtube**
![17-Youtube.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/3d33c5a7-01c7-e61e-1b32-ea0ea6855eac.jpeg)

#5. 検索サイト（3選）

**Google検索、Yahoo Japan、Bing**

**主なデータ：**タイトル、ページリンク、内容概要など。
**データ用途：**SEO検索エンジン最適化
 
- **Google検索**
![18-Google Search.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/ec979b90-8118-5125-ceef-17558bdb5005.png)

- **Yahoo Japan**
![19-Yahoo.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/b1a3805a-7261-5b0c-4b44-ff7c4e565e14.png)

- **Bing**
![20-Bing.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/834e4ac3-00e0-ac89-665d-f3e2d261e125.png)

#6. 企業情報サイト（1選）

**iタウンページ**

**主なデータ：**企業名、特徴、住所、電話番号、会社詳細リンク、HPなど。
**データ用途：**営業リスト作成、企業調査

- **iタウンページ**
![21-iタウンページ.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/459b7f57-f366-97e6-aa78-a92ca0ccd32f.png)

#7. 暮らし・生活・口コミサイト（3選）

**Googleマップ、食べログ、Booking**

**主なデータ：**タイトル、スターランキング、レビュー件数、カテゴリー、HP、電話番号、場所など。
**データ用途：**関連情報取得、口コミ調査、価格調査、市場調査

- **Googleマップ**
![22-Googleマップ.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/893b8759-4c31-0e86-7e61-eac874263fe7.png)

- **食べログ**
![23-食べログ.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/5183b6ab-8dcf-7e47-d1c7-82a8ca2ec18b.png)

- **Booking**
![24-Booking.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/b3169064-87ef-659f-23ba-40f67ba10b33.png)

#どうやってデータを取得するか？

それで、企業がどのようにこれらのサイトからデータを取得しているのかと疑問しませんか。
もちろん、プログラム(Pythonなど)を書いてデータを取得する方法はよく知られていますが、それに詳しい職員がいない企業なら、どうすればいいでしょうか。コピペなら効率低すぎませんか？またデータ取得そのものを外注するか、プログラミングの知識のある職員を募集するか、どちらもコストがかかりますね。 ここでは[Octoparse](https://www.octoparse.jp/)という[無料Webスクレイピングツール](https://www.octoparse.jp/blog/top-20-web-crawling-tools-for-extracting-web-data/)を紹介します。

1. 全世界にわたって150万以上のユーザーが利用している便利なツールで、データ収集の自動化を簡単に実現してくれます。[ビデオ](https://www.youtube.com/channel/UCS23IL_rwHhMd24J4wZJ4iQ?view_as=subscriber%3F%3Dblog)や[チュートリアル](https://helpcenter.octoparse.jp/hc/ja/categories/360001268414-%E3%81%AF%E3%81%98%E3%82%81%E3%82%88%E3%81%86)などが基本操作コースを準備してくれたので、素人には心配なく！


2. 前に述べた人気サイトから主なデータを抽出する[タスクテンプレート](https://helpcenter.octoparse.jp/hc/ja/articles/360015816173-Template-Mode-%E3%83%86%E3%83%B3%E3%83%97%E3%83%AC%E3%83%BC%E3%83%88%E3%83%A2%E3%83%BC%E3%83%89-)もありますので、完全な素人でも、キーワードかURLかを入力するだけでデータをすぐ抽出できる。


3. Excel、CSVや[データベース](https://helpcenter.octoparse.jp/hc/ja/articles/360015816233-%E5%8F%96%E5%BE%97%E3%81%97%E3%81%9F%E3%83%87%E3%83%BC%E3%82%BF%E3%82%92CSV-Excel-JSON-HTML%E5%BD%A2%E5%BC%8F%E3%81%AB%E5%A4%89%E6%9B%B4%E3%81%99%E3%82%8B%E6%96%B9%E6%B3%95)への出力、クラウドサービス、APIアクセスやスケジュール設定などもできる。


4. チームワークを必要とする企業には[法人向けプラン](https://helpcenter.octoparse.jp/hc/ja/articles/360022171694-%E6%B3%95%E4%BA%BA%E3%83%97%E3%83%A9%E3%83%B3%E3%81%AE%E7%89%B9%E5%BE%B4)をオススメ！膨大なデータを抽出することを簡単に実現するだけでなく、そのデータをチーム内に共有することもできる。


いかがでしょう。素人の私でも、一ヶ月の時間を利用してOctoparseを上達できました。ここまで読んでくれたあなたはもっと短い時間で上達できるのではないでしょうか。[早速お試してみましょうか。](https://www.octoparse.jp/)