ECサイトからデータを抽出する3つの課題

電子商取引市場内の競争は激化しています。Amazonだけで200万人以上の売り手がいるため、膨大な商品リストが毎日更新されています。

したがって、多くの企業は、データを抽出するためにWebスクレイピングを選択します。ただし、質の高いデータを取得することや、ビジネスに悪影響を与える可能性がある3つの課題を事前に認識しておく必要があります。この記事ではその3つの課題とその解決方法を紹介します。

 

#問題1：大規模な抽出
eコマース事業者にとって、主要なカテゴリ商品の下にさらに20以上のサブカテゴリ商品もあり、それらを管理するのは毎日の雑用です。これらは合計で100を超えるアイテムになります。SKU、サムネイル画像、説明、配送、顧客レビューなどの各製品の情報を1つのスプレッドシートにコピーして貼り付けて、記録と分析を毎日行うのは現実的ではありません。つまらない作業に時間がかかるだけでなく、データの品質と精度の低下にもつながります。

##1)アウトソーシングまたは社内チーム？
ほとんどの場合、所有者はアウトソーシングまたは社内チームにWebクローラーを構築してもらいます。すべてのWebサイトは用途が広く、構造が異なることで、クローラーを定期的に調整する必要があります。サービスとメンテナンス費用は毎年かなりかかります。さらに、ベンダーが信頼できない場合、データの安全性が危険にさらされます。

##2)Webスクレイピングツールは優れた代替手段です
Octoparseのような直感的なWebスクレイピングツールは、低コストでより良い結果を達成するのに役立ちます。Webスクレイピングは、もはやプログラマーだけができることではありません。そして、過度の費用を負担するべきではありません。

**シンプルさ：**簡単なドラッグ＆ドロップでクローラーを構築できます。さらに良いことに、このツールの使いに技術的なスキル必要はありません。

**安全性：**共同作業可能。データソースとデータの品質を制御できます。抽出されたデータは、信頼できるエージェントの手でのみ処理されます。

**低コスト：**数回クリックするだけで自分でデバッグできるため、メンテナンスコストが最小限に抑えられます。サードパーティのサービスと比較して、Webスクレイピングツールはデータあたりのコストを削減し、粗利益を増やします。

以下は、[**Octoparse**](https://www.octoparse.jp/)を活用して問題を解決し、数ステップでビジネスをアップスケールする方法です。
- Octoparseをダウンロードしてインストールします。
- Webスクレイピングテンプレートを選択します。
- パラメータを入力します。
- ローカルまたはクラウドでタスクを実行します。
- データを希望形式にエクスポートします。


APIを介してデータベースに接続することにより、データベースを自動的に更新できます。 そのため、eBay、Flipkart、Target、BestBuyなどのほとんどの主要なeコマースWebサイトを同時に監視できます。

#問題2：ブラックリストに登録/ブロックされる
もう1つの大きな課題は、対象のWebサイトにブロックされることです。そのような防御的な行為を引き起こすことができる多くの理由があり、最も一般的なものはIPアドレスの異常によるものです。

たとえば、特定の時間枠内であまりにも多くのリソースを要求すると、サーバーはユーザーが実在の人物ではないと判断します。悪用を防ぐために、サーバーはIPアドレスをブラックリストに登録します。IPアドレスは、インターネット上でオンラインリソースと通信するためのIDです。

ブラックリストに登録されないようにするには、クローラーは人間のように行動する必要があります。ボットとコンピューターの前にいる人間との違いは何ですか？クローラーはスクリプト化されるため、その動作は特定のパターンに従います。ただし、人間とインターネットの相互作用は予測できません。いくつかのランダムな行為を行うことで、パターンを打ち切る必要があります。

**できることは3つあります。**

##1)クロール速度を遅くします
人間がクレイジーに速い速度でブラウジングできないのは自明ですが、ボットはできます。

##2)ユーザーエージェントの切り替え
ユーザーエージェントは、Webサイトでの情報を交換するブラウザーを示します。 同じユーザーエージェントで一貫したリクエストが送信された場合、ロボットのアイデンティティを明らかにします。Octoparseは、クローラーが特定の時間間隔内で切り替えることを可能にするユーザーエージェントのリストを提供します。

##3)IPアドレスのローテーション
リクエストを異なるIPアドレスに割り当てて、サーバーが異常を検出するのをより困難にします。 IPローテーションは、中断することなくウェブスクレイピングをスムーズに保つための最も効果的な方法です。IPアドレスを変更できる多くのIPプロキシプロバイダーがあります。 ただし、ネットワークの品質はさまざまです。

**IPローテーションソリューション：**
![Luminati.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/658b27aa-1cb9-f523-f19f-2ae09334bc31.jpeg)
**[Luminati](https://luminati-china.biz/?affiliate=ref_5ddcde9dc7669177ab7b421b&cam=L_alexandraf)**は、世界最大の住宅用プロキシネットワークで市場をリードしています。 4種類のネットワークを提供します。
**住宅用プロキシの回転：**世界中の都市間で実ユーザーのIPを交換できます。市場分析や価格比較に関する情報収集に非常に役立ちます。
**モバイルプロキシネットワーク：**実際のモバイルユーザーを模倣するため、モバイル中心のソーシャルメディアプラットフォームでマーケティングキャンペーンに取り組むことができます。
**静的な住宅用プロキシ：**IPローテーションなしで実際の住宅用IPをシミュレートし、中断のないタスク完了を保証します。
**データセンタープロキシ：**プロキシを共有できるため、大量のクロールが必要な場合に役立ちます。
#問題3：スクレイピング防止技術 ReCaptcha
ただし、上記の問題はすべてではありません。 Webスクレイピング中に発生する可能性がある別の問題は、CAPTCHAの問題です。

##1)[**CAPTCHA**](https://www.octoparse.jp/blog/5-things-you-need-to-know-of-bypassing-captcha-for-web-scraping/)とは何ですか？
特定の時間内に大量のリクエストを送信し、サーバーに負担をかける悪意のあるスクレイパーを防ぐために、一部のWebサイトでは、ユーザーに自動化されたボットの選別を要求する場合があります。

Captchaを解決するという考え方は非常に簡単です。顧客がCaptchaをサーバーに送信します。サーバーはCaptchaをエージェントに送信し、エージェントはそれを解決してから回答を送り返します。最初の要求が行われてから約10秒かかります。顧客は、解決されるまで5秒ごとに要求を送信できます。

CAPTCHAは多くの形式で表示され、スクレーパーは通常、合格するのに十分なインテリジェントではないため、データ抽出の水準が上がります。

##2)CAPTCHAタイプ
テキストにデコードする必要がある**グラフィック画像**
**数学的なキャプチャ**（7 + 5 = ??のような、いくつかの操作とタイプの答えを行う必要がある場合）
**パズルCAPTCHA**
**インタラクティブCAPTCHA：**reCaptcha、FunCaptcha、hCaptcha
さらに、CAPTCHAは進化し、**reCAPTCHA v2やreCaptcha v3**など、通過が困難になる他のバリアントを生成します。

##3)CAPTCHAの対処方法
CAPTCHAの全体的な目的は、Webサイトに悪用されるトラフィックを防ぐことです。特定の時間枠内に送信するリクエストが多すぎることでサーバーに負担をかけないことが重要です。 Octoparseのような直感的なWebスクレーパーを使用すると、人工的な速度を課すことで問題を簡単に解決できます。
ログインフォームCAPTCHAのようないくつかの単純なCAPTCHAもOctoparseで解決できます。
数学的なCAPTCHAや画像ベースのCAPTCHAなどの高度なCAPTHCAを解決できる多くのアンチCAPTCHAプロバイダーがあります。
 

例として[**2Captcha**](https://2captcha.com/)を取り上げます。彼らのサービスは、今日のアンチキャプチャ市場で他の人に対していくつかの注目すべき長所を持っています。

**高解像速度：**通常のキャプチャで14秒、平均でreCaptchaで38秒
**最大99％の高精度率**（CAPTCHAタイプによる）
![2Captcha.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/262932/f9322f62-3988-8280-5594-02f0aba04b85.jpeg)


連続するページからデータを抽出する、XPathを編集する、データをクリーニングするなど、eコマースのWebサイトから高品質のデータを取得することを妨げるその他の小さな課題があります。 しかし、心配しないでください。**Octoparse**は、最新の市場ニュースの動向を把握するために、非コーダー向けに作られています。