(57)【要約】【課題】信頼性の判別が難しいサイトにおいて、リンクスパムを行っているサイトを特定することができるＷＥＢサイトの評価装置を提供する。【解決手段】サイト情報データベース１に格納された、ＷＥＢサイト毎にＷＥＢ文書に記述されたリンクを集約したリンク情報と、前記サイト毎に求められた、信頼されるサイト、信頼されないサイトおよびそれらの判別がつかないサイトを各々示す信頼度情報とを入力とし、前記リンク情報および信頼度情報から、機械学習に必要な素性と素性値を計算する素性計算装置１１と、前記信頼されるサイトおよび信頼されないサイトについて計算された素性値を用いて学習を行い、前記判別がつかないサイトについて計算された素性値と前記学習の結果を用いて、信頼すべきサイトかどうかを判別する機械学習器１２と、前記機械学習器１２により学習した結果を記録する学習状態記録装置１４と、を備える。【選択図】図１
2011164942.tif 000002
【特許請求の範囲】
【請求項１】
ＷＥＢから取得したＷＥＢ文書群を基に、ＷＥＢサイト毎にＷＥＢ文書に記述されたリンクを集約したリンク情報と、前記サイト毎に求められた、信頼されるサイト、信頼されないサイトおよびそれらの判別がつかないサイトを各々示す信頼度情報とを入力とし、
前記リンク情報および信頼度情報から、機械学習に必要な素性と素性値を計算する素性計算手段と、
前記素性計算手段によって計算された素性値であって、前記信頼度情報が示す前記信頼されるサイトおよび信頼されないサイトについて計算された素性値を用いて学習を行い、前記信頼度情報が示す前記判別がつかないサイトについて計算された素性値と前記学習の結果を用いて、信頼すべきサイトかどうかを判別する機械学習手段と、
前記機械学習手段により学習した結果を記録する学習状態記録手段と、
を備えたことを特徴とするＷＥＢサイトの評価装置。
【請求項２】
素性計算手段が、ＷＥＢから取得したＷＥＢ文書群を基に、ＷＥＢサイト毎にＷＥＢ文書に記述されたリンクを集約したリンク情報と、前記サイト毎に求められた、信頼されるサイト、信頼されないサイトおよびそれらの判別がつかないサイトを各々示す信頼度情報とに基づいて計算を行なうステップであって、前記信頼度情報が示す前記信頼されるサイトおよび信頼されないサイトについて、機械学習に必要な素性と素性値を計算し学習用入力情報を作成する第１の素性計算ステップと、
機械学習手段が、前記第１の素性計算ステップで作成された学習用入力情報を用いて学習を行なう学習ステップと、
学習状態記録手段が、前記学習ステップで学習された結果を記録する学習状態記録ステップと、
素性計算手段が、前記リンク情報および信頼度情報に基づいて、前記信頼度情報が示す前記判別がつかないサイトについて、素性と素性値を計算し判別用入力情報を作成する第２の素性計算ステップと、
機械学習手段が、前記第２の素性計算ステップで作成された判別用入力情報に対して、前記学習状態記録手段に記録された学習結果を活用して信頼すべきサイトかどうかを判別する判別ステップと、
を備えたことを特徴とするＷＥＢサイトの評価方法。
【請求項３】
コンピュータを請求項１に記載の各手段として機能させるＷＥＢサイトの評価プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、大量の電子文書を扱うＷＥＢサービスにおいて、リンク情報を基に重要なサイトかどうかを評価するとき、故意に大量のリンクを作成していると推測される不自然なサイトをより分けておくことで、サイトの評価を正しく行えるようにするための技術に関する。
【背景技術】
【０００２】
従来は、ＷＥＢの文書を全文検索する際、検索結果を優先順位に沿って並べ替える。検索結果の並べ替えを行うための指標のひとつとして、ページランクがある。ページランクは、より多くのページからリンクによって指し示される数が多いページを優先する、という並べ替えの指標である。
【０００３】
しかし近年では、高い評価値を得ることを目的に、ブログサービスや独自に用意したＷＥＢサーバを利用して、多くの様々なページから自分のページにたくさんのリンクを張ることで、ページランク値を高く得ようという行為が増えてきている。
【０００４】
このようなリンクをそのまま使った場合、検索結果が好ましくない状態になることが多いことから、高いページランク値の獲得を目的としたリンクの作成行為は、リンクスパムと呼ばれる。
【０００５】
従来技術として、非特許文献１にあるようなＷＥＢのサーバ間リンク構造と信用度から不正なリンクを構成しているであろうＷＥＢサーバ群を検出する技術が存在する。
【０００６】
尚、本発明で利用する機械学習器は、例えば非特許文献２、非特許文献３に開示されている。
【先行技術文献】
【非特許文献】
【０００７】
【非特許文献１】Ｇｙｏｎｇｙｉ，  Ｚ．，  Ｇａｒｃｉａ−Ｍｏｌｉｎａ，  Ｈ．  ａｎｄ  Ｐｅｄｅｒｓｅｎ，  Ｊ．，“Ｌｉｎｋ  Ｓｐａｍ  Ｄｅｔｅｃｔｉｏｎ  Ｂａｓｅｄ  ｏｎ  Ｍａｓｓ  Ｅｓｔｉｍａｔｉｏｎ”，ＶＬＤＢ  ’０６：  Ｐｒｏｃｅｅｄｉｎｇｓ  ｏｆ  ｔｈｅ  ３２ｎｄ  ｉｎｔｅｒｎａｔｉｏｎａｌ  ｃｏｎｆｅｒｅｎｃｅ  ｏｎ  Ｖｅｒｙ  ｌａｒｇｅ  ｄａｔａ  ｂａｓｅｓ，  Ｓｅｐｔｅｍｂｅｒ，  ２００６，ｐｐ．４３９−４５０
【非特許文献２】“ＴｉｎｙＳＶＭ：Ｓｕｐｐｏｒｔ  Ｖｅｃｔｏｒ  Ｍａｃｈｉｎｅｓ”，インターネット＜ＵＲＬ：ｈｔｔｐ：／／ｃｈａｓｅｎ．ｏｒｇ／〜ｔａｋｕ／ｓｏｆｔｗａｒｅ／ＴｉｎｙＳＶＭ／＞，[平成２２年１月２９日検索]
【非特許文献３】“Ｒｐｒｏｊｅｃｔ．ｏｒｇ”，インターネット＜ＵＲＬ：ｈｔｔｐ：／／ｗｗｗ．ｒ−ｐｒｏｊｅｃｔ．ｏｒｇ／＞，[平成２２年１月２９日検索]
【発明の概要】
【発明が解決しようとする課題】
【０００８】
非特許文献１では、常に信頼されるサイトと、信頼度をまったく受け取れないような常に信頼されないサイトの検出精度は高いが、その中間となるサイトが信頼できるかどうかを判別することは困難であった。
【０００９】
本発明は上記課題を解決するものであり、その目的は、信頼性の判別が難しいサイトにおいて、リンクスパムが行われているかどうかを機械学習器により推定し、リンクスパムを行っているサイトを特定することができるＷＥＢサイトの評価装置、評価方法および評価プログラムを提供することにある。
【課題を解決するための手段】
【００１０】
上記課題を解決するための本発明のＷＥＢサイトの評価装置は、ＷＥＢから取得したＷＥＢ文書群を基に、ＷＥＢサイト毎にＷＥＢ文書に記述されたリンクを集約したリンク情報と、前記サイト毎に求められた、信頼されるサイト、信頼されないサイトおよびそれらの判別がつかないサイトを各々示す信頼度情報とを入力とし、前記リンク情報および信頼度情報から、機械学習に必要な素性と素性値を計算する素性計算手段と、前記素性計算手段によって計算された素性値であって、前記信頼度情報が示す前記信頼されるサイトおよび信頼されないサイトについて計算された素性値を用いて学習を行い、前記信頼度情報が示す前記判別がつかないサイトについて計算された素性値と前記学習の結果を用いて、信頼すべきサイトかどうかを判別する機械学習手段と、前記機械学習手段により学習した結果を記録する学習状態記録手段と、を備えたことを特徴としている。
【００１１】
具体的には、ＷＥＢ文書を取得したサーバ毎に、ＷＥＢ文書に記載されているリンク情報をＷＥＢサイト単位でまとめたリンクに関する情報と、例えば非特許文献１で算出された信頼度（スパム指数）を利用して、常に信頼されるサイト／常に信頼されないサイト／判別がついていないサイトに分類した情報を基に分析を行う。
【００１２】
これらの情報のうち、常に信頼されるサイトと常に信頼されないサイトの情報を使い、Ｒａｎｄｏｍ  Ｆｏｒｅｓｔなどの一般的な学習アルゴリズムを使った機械学習器の訓練（学習）を行い、次に、訓練を行った機械学習器で、判別がついていないサイトについて、信頼すべきサイトかどうか判別を行う。
【発明の効果】
【００１３】
本発明によれば、信頼性の判別がついていないＷＥＢサイトに対して、信頼すべきサイトかどうかを判別することができる。例えばリンクスパムを行なっているサイトかどうかの判別が可能となる。
【図面の簡単な説明】
【００１４】
【図１】本発明の一実施形態例を示す装置構成図。
【図２】本発明の一実施形態例における機械学習器による学習の流れを示す説明図。
【図３】本発明の一実施形態例における機械学習器による判別の流れを示す説明図。
【発明を実施するための形態】
【００１５】
以下、図面を参照しながら本発明の実施の形態を説明するが、本発明は下記の実施形態例に限定されるものではない。本実施形態例では、前もってＷＥＢから取得した電子文書の取得元を示すＵＲＬと、その電子文書の中に記述されている他の文書との関連情報（リンク情報）を、例えば、電子文書の置いてあったサーバ名（「ｈｔｔｐ：／／サーバ名／パス／」のサーバ名部分、以下「サイト」と呼ぶ）でまとめた情報と、サイトの信頼度を計算する技術（例えば非特許文献１におけるスパム指数）を用いて計算したサイト毎の信頼度情報を用いて、機械学習器を訓練（学習）することで、故意に大量のリンクを作成していると推測される不自然なサイトをより分けることができるように構成した。
【００１６】
表１は、本実施形態例で利用するサイト情報の例を示している。
【００１７】
【表１】
2011164942.tif 000003
【００１８】
表１において、サイト名（ＷＥＢ文書を取得したサーバ名）毎に、ＷＥＢ文書に記載されているリンクを集約したリンク情報（入リンク、出リンク）と、例えば非特許文献１に開示されたサイトの信頼度を計算する技術を用いて計算された信頼度情報（スパム指数）と、リンク構造から計算される重要度とがまとめられている。
【００１９】
前記表１の信頼度情報は、信頼されるサイトであればスパム指数の欄に「(信頼済)」と示され、信頼されないサイトであればスパム指数の欄に「(スパム)」と示され、信頼性の判別がつかないサイトであればスパム指数の欄はスパム指数以外何も示されないように構成されている。また、表１の入リンク、出リンクの()内はリンク数を示している。
【００２０】
図１は本発明のＷＥＢサイトの評価装置の実施形態例の構成を示している。図１において、１は、ＷＥＢから取得したＷＥＢ文書群を基に、ＷＥＢサイト毎にＷＥＢ文書に記述されたリンクを集約したリンク情報と、前記サイト毎に求められた、信頼されるサイト、信頼されないサイトおよびそれらの判別がつかないサイトを各々示す信頼度情報とを備えたサイト情報、例えば表１のサイト情報が構築されたサイト情報データベースである。
【００２１】
ＷＥＢサイト評価装置１０は、サイト情報データベース１のデータを入力とし、機械学習に必要な素性と素性値を計算する素性計算手段としての素性計算装置１１と、一般的な学習アルゴリズムであるＳＶＭ（サポートベクターマシン）やロジスティック回帰法やＲａｎｄｏｍ  Ｆｏｒｅｓｔを使った機械学習手段としての機械学習器１２を制御する機械学習制御装置１３と、学習した状態を記録する学習状態記録手段としての学習状態記録装置１４とを備えている。
【００２２】
尚、ＷＥＢサイト評価装置１０は例えばコンピュータによって構成され、図示省略のメモリ領域には、素性計算装置１１によって計算し、作成された、後述する図２の学習用入力情報データベース１０１と、図３の判別用入力情報データベース１０２とが格納される。
【００２３】
素性計算装置１１は、入力されたサイト毎のリンク情報と信頼度（表１のサイト情報）から、機械学習器１２の入力形式に合わせた素性と素性値情報を算出する。本実施例では、判別対象サイトへのリンク（表１の入リンク）の数と判別対象サイトから他のサイトへのリンク（表１の出リンク）の数と信頼度（表１のスパム指数）、リンク構造から計算されるサイトの重要度（表１の重要度）から、表２に示す素性と素性値を機械学習器１２が受け付ける形式で出力を行う。
【００２４】
【表２】
2011164942.tif 000004
【００２５】
表２は素性計算装置１１で計算された素性と素性値を示しており、計算する素性の値が０のままだと計算が発散する場合があるため、０は、０．０００１といった小さな値として扱う。
【００２６】
機械学習制御装置１３は、機械学習器１２に対して訓練（学習)を行うか、学習した状態で判別を行うかの切替指示を行う。
【００２７】
機械学習器１２は、非特許文献２に開示されている「ＴｉｎｙＳＶＭ」や非特許文献３に開示されている「Ｒ」といった一般的に公開されているツールを利用する。
【００２８】
学習状態記録装置１４は、利用した機械学習器１２が学習した状態を保持するための情報を記録しておく装置である。
【００２９】
次に上記のように構成された装置の動作を説明する。まず、サイト情報データベース１には、表１に示すようなサイト毎のリンク（入リンク、出リンク）と信頼度（スパム指数）に関するサイト情報があるとする。
【００３０】
サイト情報は、信頼度を基準に、スパムサイトであるサイト（信頼されないサイト）と信頼済であるサイト（信頼されるサイト）と、判別対象のサイト（信頼性の判別がつかないサイト）に分割して扱う。非特許文献１におけるスパム指数を信頼度とみなした場合、スパム指数が１．０となったサイト（Ｓｉｔｅ３．ｊｐとＳｉｔｅ４．ｃｏｍ）はスパムサイト、また、サイト名が、ａｃ．ｊｐもしくはｇｏ．ｊｐの場合（Ｓｉｔｅ１．ａｃ．ｊｐとＳｉｔｅ２．ｇｏ．ｊｐ）は、信頼済サイトとなり、この他のサイトは判別対象となる。
【００３１】
本実施例では、スパムサイトと信頼済サイトを用いて、図２の流れに沿って、機械学習器１２による学習を行う。スパムサイトを正例、信頼済サイトを負例として、素性計算装置１１にて、機械学習器１２が受け付ける入力形式で、表２に示す各素性の値を計算し、学習用入力情報を作成する。表２の‘Ｓｉｔｅ１．ａｃ．ｊｐ’、‘Ｓｉｔｅ３．ｊｐ’の各列が、表１のリンク情報から算出した各素性の計算例であり、これらが学習用入力情報として学習用入力情報データベース１０１に格納される。
【００３２】
次に、機械学習制御装置１３にて、機械学習器１２を学習する状態にし、前記学習用入力情報を用いて機械学習器１２の学習を実行する。そして学習した結果を、学習状態記録装置１４に記録する。
【００３３】
次に、図３の流れに沿って、機械学習器１２を使った判別を行う。判別対象であるサイト情報を基に、素性計算装置１１にて機械学習器１２が受け付ける入力形式で、表２に示す各素性の値を計算し、判別用入力情報を作成する。表２の‘Ｓｉｔｅ５．ｎｅ．ｊｐ’の列が、表１のリンク情報から算出した各素性の計算例であり、これらが判別用入力情報として判別用入力情報データベース１０２に格納される。
【００３４】
次に、機械学習制御装置１３にて機械学習器１２を判別モードにし、機械学習器１２にて、前記判別用入力情報に対して、前記学習状態記録装置１４内の学習結果を活用して判別を行い、サイト毎に判別結果を得る。この例では、正例がリンクスパムサイト、負例が非リンクスパムサイトとして得られる。
【００３５】
前記判別結果は、例えば判別結果データベース１０３（ＷＥＢサイト評価装置１０内部又は外部のデータベース）に格納される。
【００３６】
また、本実施形態のＷＥＢサイトの評価装置における各手段の一部もしくは全部の機能をコンピュータのプログラムで構成し、そのプログラムをコンピュータを用いて実行して本発明を実現することができること、本実施形態のＷＥＢサイトの評価方法における手順をコンピュータのプログラムで構成し、そのプログラムをコンピュータに実行させることができることは言うまでもなく、コンピュータでその機能を実現するためのプログラムを、そのコンピュータが読み取り可能な記録媒体、例えばＦＤ（Ｆｌｏｐｐｙ（登録商標）  Ｄｉｓｋ）や、ＭＯ（Ｍａｇｎｅｔｏ−Ｏｐｔｉｃａｌ  ｄｉｓｋ）、ＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）、メモリカード、ＣＤ（Ｃｏｍｐａｃｔ  Ｄｉｓｋ）−ＲＯＭ、ＤＶＤ（Ｄｉｇｉｔａｌ  Ｖｅｒｓａｔｉｌｅ  Ｄｉｓｋ）−ＲＯＭ、ＣＤ−Ｒ、ＣＤ−ＲＷ、ＨＤＤ、リムーバブルディスクなどに記録して、保存したり、配布したりすることが可能である。また、上記のプログラムをインターネットや電子メールなど、ネットワークを通して提供することも可能である。
【符号の説明】
【００３７】
１…サイト情報データベース
１０…ＷＥＢサイト評価装置
１１…素性計算装置
１２…機械学習器
１３…機械学習制御装置
１４…学習状態記録装置
１０１…学習用入力情報データベース
１０２…判別用入力情報データベース
１０３…判別結果データベース
【図１】
2011164942.tif 000005
【図２】
2011164942.tif 000006
【図３】
2011164942.tif 000007