DEIM Forum 2013 F5-4

ウェブページの統計的解析に基づく素性を用いたウェブスパム検出
パオ ワンナー†青野 雅樹‡†豊橋技術科学大学 情報工学系 ‡〒441-8580 愛知県豊橋市天伯町雲雀ヶ丘 1-1
E-mail:あらまし†vanna@kde.cs.tut.ac.jp,‡aono@tut.jp

最近、大量のウェブ情報の中にウェブスパムが埋め込まれ，検索エンジンの信頼性を低下させていることが問題となっている．本研究では，ウェブスパム検出のため，HTML 文書の統計解析を行い，それに基づく素性を提案する．実験では Webspam-UK2007 データセットを使用し，提案素性を導出した．提案素性の妥当性を評価するため，SVM と Random Forest を用いて実験を行った．
キーワード

統計解析，HTML 文書，素性，ウェブスパム検出

Web Spam Detection using Features based on Statistical Analysis of Web pages
Vanna PAV†

and Masaki AONO‡†Department of Information and Computer Science, Toyohashi University of Technology‡Hibarigaoka 1-1, Tenpaku-cho, Toyohashi-shi, Aichi, 441-8580, JapanE-mail: †vanna@kde.cs.tut.ac.jp,Abstract‡aono@tut.jp

In this paper, we describe the statistical analysis to find out what kind of properties are commonly observed

to distinguish spam and non-spam web pages by using 4900 web pages from web spam corpora Webspam-UK2007.
Based on this analysis, we propose “features” for web spam detection. To evaluate the validity of the proposed features,we have experimented with two classifiers SVM and Random Forest.
Keyword

Statistical Analysis, HTML document, Feature, Web Spam Detection

1．はじめにことや検索結果の信頼性が低下することが懸念される．ま大量のウェブサイトから希望する情報を取得するため，た，インターネット広告を利用したウェブスパムも散見さ

多くのユーザーは検索エンジンを利用している．ユーザーれる．近年，このようなウェブスパムは非常に増えておりは，検索結果ページの上位に最も関連性の高いページが現

検索エンジンの質を保つための対策が重要となる．

れ，目的の情報を効率的に発見できることを期待する．検本研究では，ウェブスパム検出のため，統計的な解析を索結果ページに表示されないウェブサイトは，多くのユー行い，それに基づく素性を提案することを目的とする．実

ザーにとっては存在しないのと同じことである．そこで，

験では Webspam-UK2007 の約 4900 ホストラベル付けのデ

このランキングを高めるため，検索エンジンに対して最適ータセットを使用し，そこから提案素性を導出する．具体化を行う，SEO( Search Engine Optimization)が行われている．

的には HTML 文書とページ内容を用いて，HTML ヘッダ

SEO とは、検索エンジンを対象に，ウェブページへの無意ー情報，各タグの数，リンクと IMG タグの属性情報およ

味な特定キーワードの埋め込み，リンク長を長くする行為

びページ内の単語数を抽出し，これらから提案素性候補をにおける検索結果ページの上位に表示されるよう，対策を決定する．一方，抽出データからスパムおよびノンスパム行う．このようなウェブスパム行為により，検索エンジンのウェブページの統計データを分析し，最終的に提案素性利用者にとって有用なウェブページの発見が困難になる候補から有効な素性を提案する．提案素性の評価実験を行

1

DEIM Forum 2013 F5-4
うため，機械学習でよく使用される SVM と Random Forest

リズムを欺くため，偽のサイトを膨大に作成し，そのすべを用いる． 本論文の構成は以下の通りである．2 節と 3 節て を 同 じ ペ ー ジ に リ ン ク す る 方 法 で あ る ． Google のでは，ウェブスパムとその関連研究について述べる．4 節

PageRank や WiseNut など外部からのリンクを重視する

では，データセットを統計解析し、その結果に基づいた有エンジンの登場により出現する[2]．

効な提案素性について述べる．5 節では，提案素性の有効ページ転送：これはメタタグ，JavaScript でページを転性を検証するために，実験を行い，実験結果と考察を述べ送することである．人気キーワードでページを上位に表示

る．6 節では，まとめと今後の課題について述べる．

させ，そこから目的のページを誘導する[11]．

２．ウェブスパムとは

3．関連研究

Google によると，ウェブスパムとは隠しテキスト，偽多く研究では，HTTP 情報やウェブページの内容, ウェ装クローキング，誘導ページなどの手法により，Google のブグラフのリンク構造を解析することによるウェブスパウェブクローラ（web crawlers）を欺こうとするサイトであムを検出する.

る[3]． Yahoo では，ウェブスパムとは，検索キーワード

HTTP 情報ベース：HTTP セッション情報，すなわち，IPと十分な関連性がないにもかかわらず，意図的に検索結果アドレスと HTTP のセッションヘッダーをホストしていに表示されるように操作をしているページを指すと定義

るだけに依存するウェブスパム分類を予測する[10].

している． これと判定された場合，特定または全部のリコンテンツベース：簡単に行えるため，ウェブスパム行為

ンク評価を無効にする，特定のページまたはサイト（ドメにしばしば用いられる方法として，ウェブページ内に大量イン）全体をインデックスから除外する，といった対応がの単語を埋め込む行為がある．ページに含まれる単語数がされる．

増えるほど，ウェブスパムである可能性が高いと想定してここは，ウェブスパムの特徴について述べている．

検出を行う[5]．

HTTP ヘッダー：HTTP ヘッダーから取得できる IP アド

ウェブページの類似度：機械生成により複数作成されるウレスやユーザーエージェント，リファラーなどの情報をもェブスパムが存在する．こうしたページでは HTML のタとにキーワードに関係のある情報を満載したページを，特グ構造やスクリプトコードに類似性が認められた為，この別なホストアドレスで隠して設置する． これが検索エン類似度を素性とすることでウェブスパム検出を行う[1]．

ジンによって処理されると，特定のキーワードに対して，リンクベース：ウェブスパムではないウェブページからウサイトの掲載順位が上昇する[10]．

ェブスパムへのリンクは貼られないという概念により，キーワードの埋め込み：ページ内に大量のキーワードを埋PageRank などの手法を用いてページの重要度を算出するめ込む手法である. たとえば，背景と同じ色のテキストを[2][10]．

ページ内に多量に埋め込むものやテーブル内のテキストの色が背景色と同じ場合などがある．また，タイトルやメ

4．提案手法タタグの中にキーワードを大量に羅列することで，検索エ

本研究では，ウェブページの統計解析を行い，ウェブスンジンでの順位上昇を狙うものである．

パムを検出できる有効な素性を提案することを目的とすコンテンツベーススパム：コンテンツと無関係に，機械的る．提案素性は以下の流れのどおりである．まず，HTMLに生成されるページで，検索エンジンで上位表示を実現す文書から HTML ヘッダー情報，各タグの数，リンクと IMGるためだけに行なう行為のことである．コンテンツベース

タグの属性情報およびページ内の単語数を抽出し，これらスパムは，検索エンジンにおけるランキング付けで用いらから提案素性候補を決定する．そして，抽出されたデータ

れる TFIDF に対し最適化を行うことが多い[5]．

からスパムおよびノンスパムのウェブページの統計デー

リンクベーススパム：リンクの数を数えている検索アルゴタを分析し，最終的に提案素性候補から統計的解析に基づ

2

DEIM Forum 2013 F5-4
く有効な素性を提案する（図 1）
．

統計的解析

ページ情報抽出HTML 文書

提案素性

ヘッダー情報リンクテキスト平均長

各タグの数

タイトルタグ内の単語数

リンクと画像情報

スクリプトタグの数

ページ内の単語数

IMG タグの SRC 長など
図 1 提案手法の流れ

4.1 ヘッダー情報与える．それに対して，一般的に使用されるスパム技術が本節では，HTTP ヘッダー情報，HTML 文書のタイトページのタイトルにキーワードスタッフィング（KeywordSuffering）という技術が使われている．本実験では，

ル情報およびメタ情報の統計的解析について説明する.

HTML ページのタイトルに含まれるキーワードを着目し4.1.1 HTTP ヘッダー情報てスパムページとノンスパムページを統計的に比較し，ウスパムページがウェブ上でどのようなページが他ペーェブページのタイトルがウェブスパム検出のために有効

ジよりもスパムである可能性が高いかどうかを調べる．こであることを明確する．図 3 では，タイトルの単語数は，れを評価するために，ドメインの種類とホストの IP アド

スパムとノンスパムページの両方が 6 単語付近に集中してレスなどについて実験を行った．図 2 は，スパムページといるが， 10 単語以上ではスパムページの方が数多く見らノンスパムページのホスト IP アドレスの比較を示す．スれる．さらに，スパムページは 60 文字以上の長いタイト

パムページの IP アドレスは，いくつかの IP アドレス範囲ルを持つページがノンスパムページより多かったことがに集中している．具体的には，65.*－90.*と 190.*－215.*

実験で分かった．従って，ページのタイトルに含まれる多に集中し，合計約 80％に占める．スパムとノンスパムペー数の単語および長いタイトルでは，スパムの良い指標であジの IP アドレスの分布が異なっているから，ウェブスパることを観察した．

ムの分類素性として，IP アドレスを使用した．

図 3 タイトルタグ内の単語数
図 2 ホストの IP アドレスの変化
4.1.3 メタタグ情報
4.1.2 ページのタイトル情報

メタタグは，HTML 内に記述された情報，主に利用者向検索クエリに応じる検索結果の選択時には，検索エンジけの情報ではなく，サーバーや検索エンジン用の情報など

ンは一般的にページのタイトルにクエリキーワードの出が記述されている．Google はメタタグを見てメタタグの現を考慮することがある．いくつかの検索エンジンがペー

Description を Snippet として利用することもあるため，ジのタイトルに検索クエリの存在のために余分な重みをウェブスパムではよく用いている．本節ではメタタグ内

3

DEIM Forum 2013 F5-4
4.3 リンクと画像情報

Keyword 属性及び Description 属性を抽出し，メタタグ内の平均単語長，単語数，メタタグ内のテキスト長について

一般的な検索エンジンは，リンクのターゲットページの統計的解析を行った．図 4 は，メタタグ情報のスパムとノコンテンツを記述するため，ページ内のリンクのテキストンスパムページを統計的に比較した結果を示す．スパムペを考慮することがある．主な考え方は，もしページ A はページは，(a)メタタグ内の平均単語長が 5 文字から 9 文字付ージ B を指すリンクのテキスト“コンピュータ”がある場

近に集中しているが，ノンスパムページではメタタグ内の合，我々は，ページ B 内にコンピュータというキーワードkeyword 属性をほとんど使用しないことがわかる．また，が無い場合でも，このページ B がコンピュータの話題だと(b)メタタグ内の単語数では，スパムページが 5 単語及び考えている．検索エンジンの場合でも、これを考慮して単15 単語でピーチになり，ノンスパムページに比べると異な語 “コンピュータ”を含む検索クエリに対する結果としっている分布である．て，ページ B を返す可能性がある．その結果，いくつかのウェブスパム技術が他のページのリンクのテキストを提供する目的のために存在している．
リンクベースのスパムを調べるために，リンクと画像情報であるリンクの数，リンクの平均長さ，リンクテキストの平均長さ，IMG タグの SRC 長などを計算し，スパムペ(a) 平均単語長(b) 単語数

ージとノンスパムページを統計的に比較し，ウェブスパム

図 4 メタタグ情報検出のために有効な素性であることを明確する．結果は図6 に示し，両者の分布が明らかに異なっているとわかる．

4.2 各タグ情報

たとえば，(b) リンクテキストの平均長さについてスパム

人間は，新聞を見るとき最も重要と判断するのはタイトページの方が長く，70 文字以上のリンクテキストは約20％もある．

ルであるが、ページの構成にも重要であると考える．次にHTML のタグの重要性に着目していく． 本節では HTML文書を構築した各タグ数を抽出し，Script タグ，div タグ，td タグ，li タグなどのデータについて統計的分析を行った.
図 5 は，HTML 文書のタグ数のスパムとノンスパムページを統計的に比較した結果を表す．各分布は異なっている(a) IMG の SRC 長

ため，ウェブスパムの分類を使用するには有効であること(b)リンクテキスト平均長さ

図 6 リンクと画像情報がわかる．たとえば，SCRIPT タグ数の確率分布についてスパムページがノンスパムページより数多く，20 個でピー4.4

チになる．

ページ内容

ウェブスパムを作成する際，キーワードスタッフィング（Keyword stuffing）が人気な方法であることが知られている．キーワードスタッフィングの技術は，ウェブページの内容に無関係である人気単語などがたくさん埋め込む．単語を混合することにより，スパムページは複数のクエリを(a)ページ全タグ数
図5(b) SCRIPT タグ数照合し，それによってより多くのユーザーに見られる．まHTML 文書の各タグ数

た，もう一つコンテンツベースのスパム技術は，いくつの単語を連結して長い複合語を形成するものである．例とし

4

DEIM Forum 2013 F5-4ては,“musicfree”, “downloadvideo”, “onlineshopping”のようる SVM と Random Forest を利用した．SVM はパターンな単語を持つウェブページがスパムページである可能性認識や回帰分析で多く用いられ，高い汎化性能を誇るためが高いと考える．図 7 は，ページの最大単語長についてス用いた．一方，Random Forest では，Gini 係数による素パムページとノンスパムページを統計的に比較すした結性の重要度を計算することが可能であるので，提案素性の果を示す．ページの最大単語長についてはスパムページの有効性を検証できるためである．

方が長く，53 文字の最大単語長では約 10％があり，ノン5.1スパムページより 5 倍も多かった．

データセット

データセットは，Web Spam Challenge 2008 ワークシ
ョップにより公開されている WEBSPAM-UK2007 である．
このデータセットには， 2007 年 5 月に.uk ドメイン（www.example.*.uk）を対象に，105,896,555 ページから成る 114,529 ホストのデータが収められている．評価実験では，ウェブスパムか否か判別が必要であり，
図 7 ページの最大単語長WEBSPAM-UK2007 の約 4900 ホストラベル付けのデータセットを使用し，そこから提案素性を導出す．実際にラ4.5

ベル付けデータセットを表 2 に示す．

提案素性

上記に述べたすべての提案素性をまとめてみると 35 素

表2WEBSPAM-UK2007 のデータセット性があり，その中に独自で考えた素性（下線）が 22 個でラベルラベル数割合[%]あった。

Spam

193

3.94

Nonspam

4707

96.06

合計

4900100

表 1 すべての提案素性種類

各素性
メタの単語数,メタの平均単語長，メタのテキス

ヘ ッ ダ

ト長，Domain Type，タイトルの単語数，タイー情報

トルの平均単語長，タイトルのテキスト長，ホタグ数
ページ
内容リンク情報5.2

実験結果

図 8 は，機械学習手法である SVM を用いた実験結果をストの長さ，ホスト IP アドレス表す．実験では素性別でスパムページ 1 割ノンスパムペー

tags， script, div, br, td, li, p

ジ 5 割（S1:NS5）および全体データ（All-DATA）を行っ

単語数，平均単語長，最大単語長，長さ 1-3 のた．この結果をみると，リンクと画像情報ベースの素性は単語数，長さ 4-9 の単語数，長さ 4 以上の単語比較的高精度であることがわかる．また，すべての素性を数，長さ 10 以上単語数使うと分類精度が約 9 割で高くなる．

リンクの数，リンクの平均長さ，リンクテキス
トの平均長さ，リンクの最大長さ，外部リンクの数，内部リンクの数
画像情

画像数，IMG タグの SRC 長，IMG タグの SRC

報の最大長さ5．評価実験
図 8 ウェブスパム分類精度の実験結果

本節では，提案素性の妥当性を検証するため評価実験を行った．ウェブスパム検出器の作成は，機械学習手法であ5

DEIM Forum 2013 F5-45.3

素性重要度の計算いたウェブスパムの検出. 日本データベース学会論

Gini 係数は，イタリアの数理統計学者 Gini が 1936 年

文誌Vol.8, No.1 (2009).に考案した指数であり， Gini 係数により素性ベクトルの[2]重要度を求めることができる．データ集合 D からランダム佐藤智博, 青野雅樹．リンク情報に基づいたウェブ
スパム検出．DEIM Forum B3-5 (2011).に選択したデータのクラスが誤分類される確率を Gini 関[3]

SEO対策研究所数と呼び，データがクラス 𝐶𝑘(𝑘=1,2,⋯,𝐾) に属する確率[4]

WEBSPAM-UK2007.

𝑃(𝐶𝑘)のとき, 以下の式で表される．
𝐾[5]Gini(P(D)) = ∑ ∑ 𝑃(𝐶𝑖 )𝑃(𝐶𝑗 )𝐾

Wide Web, pp. 83–92, (2006).

𝑘=1

Gini 係数は素性 A を用いた分割による Gini 関数の差で，[6]𝐾

Information Systems, pp. 1511-1519, (2009).

𝑘=1と定義される．ここで，𝛽𝑗は次式で表される．
𝛽𝑗 =𝑁𝑗(𝑗 = 1,2, … , 𝐽),𝑁[7]𝐽𝛽𝑗 ≥ 0,G. Guanggang, Z. Pengfei, W. Deliang. Web Spam
Detection with Feature Fusion. Journal of Computational

Gini(A) = ∑ 𝑃(𝐶𝑘 )2 − ∑ 𝛽𝑗 (1 − ∑ 𝑃(𝐶𝑗𝑘 )2 )𝑗=1

InProceedings of the 15th international conference on World= 1 − ∑ 𝑃(𝐶𝑘 )2

𝑘=1A. Ntoulas, M. Najork, M. Manasse, and D. Fetterly.
Detecting spam web pages through content analysis.

𝑖=1 𝑗=1,𝑗≠𝑖𝐾(2012)

http://barcelona.research.yahoo.net/webspam/datasets/ .

𝐾𝐽

http://seolab.capoo.jp/

Y. Liu, R. Cen, Z. Min, S. Ma, L.Ru. Identifying WebSpam∑ 𝛽𝑗 = 1

withUserBehavior

Analysis.

AIRWeb'08

Proceedings of the 4th international workshop on𝑗=1

ただし，𝐽は分割数，𝑁は分割前のデータ数，𝑁𝑗は分割 j 内

Adversarial information retrieval on the web, pp. 9-16,のデータ数，𝑃(𝐶𝑗𝑘)は分割 j 内のデータがクラス𝐶𝑘に属する(2008).

確率である．

[8]

S. Sahu, B. Donggre, R. Vadhwani. Web Spam Detection

Random Forest による Gini 係数を求めた結果から，リUsing Different Features. International Journal of Soft

ンクの平均テキスト長の素性が最も重要である．リンク情Computing and Engineering (IJSCE), Vol.1 Issue-3

報ベースの素性を用いれば比較的高精度でウェブスパム(2011).

を分類できると考えられる．

[9]

J. Abernethy, O. Chapelle, C. Castillo. Web spam
identification through content and hyperlinks. AIRWeb’08

6．まとめと今後の課題

Proceedings of the 4th international workshop on

本研究でウェブデータの統計的解析に基づく 35 素性をAdversarial information retrieval on the web, pp. 41-44,提案した．実験では Webspam-UK2007 のデータセットを(2008).

使用し，そこから提案素性を導出した．リンクベース素性[10]

S. Webb, J. Caverlee, C. Pu. Predicting Web Spam withが比較的に高い精度でウェブスパムを検出できることがHTTP Session Information. CIKM’08 Proceedings of theわかった．また，すべての素性を使用すると，分類精度が7th ACM conference on Information and Knowledge

約 90%で高くなった．

management, pp. 339-348, (2008).

今後は HTML の色特性，人気キーワード等の素性を追[11] T. Urvoy, E. Chauveau, P. Filoche, T. Lavergne. Tracking

加することや元素性を提案素性と組み合わせることで検Web Spam with HTML style similarities.

出精度を向上させる予定である．

Transaction on the Web (TWEB), Vol.2, Issue-1, (2008).

参考文献
[1]

北村順平, 青野雅樹．ウェブサイト間の類似度を用6ACM