(57)【要約】【課題】管理者による作業を容易にしてスパムブログを判定するスパムブログ判定装置及び方法を提供する。【解決手段】スパムブログ判定装置１は、登録指定を受け付けた所定キーワードを所定キーワードＤＢ２１に記憶する所定キーワード記憶制御手段１２と、判定対象のブログ記事を受け付けたことに応じて、所定キーワードＤＢ２１に記憶した所定キーワードを素性として用いてブログ記事がスパムブログであるか否かを機械学習により判定する機械学習手段１４と、機械学習手段１４による判定対象のブログ記事のうち、所定キーワードＤＢ２１に記憶された所定キーワードを含むブログ記事と、スパムブログであるか否かの機械学習による判定結果とを対応付けて出力するスパム判定結果出力手段１５と、所定キーワードの削除指定を受け付けたことに応じて、所定キーワードＤＢ２１に記憶された所定キーワードを削除する調整戻し手段１７とを備える。【選択図】図１
2011198065.tif 000002
【特許請求の範囲】
【請求項１】
所定のキーワードの登録指定を受け付けたことに応じて、前記所定のキーワードを所定キーワード記憶手段に記憶する所定キーワード記憶制御手段と、
判定対象のブログ記事を受け付けたことに応じて、前記所定キーワード記憶手段に記憶した前記所定のキーワードを素性として用いて前記ブログ記事がスパムブログであるか否かを機械学習により判定する機械学習手段と、
前記機械学習手段による判定対象の前記ブログ記事のうち、前記所定キーワード記憶手段に記憶された前記所定のキーワードを含むブログ記事と、スパムブログであるか否かの前記機械学習による判定の結果とを対応付けて出力するスパム判定結果出力手段と、
前記所定のキーワードの削除指定を受け付けたことに応じて、前記所定キーワード記憶手段に記憶された前記所定のキーワードを削除する調整戻し手段と、
を備えるスパムブログ判定装置。
【請求項２】
前記スパム判定結果出力手段が前記機械学習による判定の結果を出力した前記ブログ記事について、前記機械学習による判定の結果の正誤判断を示す情報である正誤判断情報を受け付けたことに応じて、前記正誤判断情報を前記ブログ記事に対応付けて記憶する正誤判断情報記憶手段と、
所定期間において前記正誤判断情報記憶手段が記憶した前記正誤判断情報に基づいて前記所定のキーワードごとに前記機械学習による判定の誤り率を算出し、前記誤り率が所定の閾値以上となった前記所定のキーワードについて流行が終わったと判定する第１流行終了判定手段と、を備える、
請求項１に記載のスパムブログ判定装置。
【請求項３】
所定期間において前記所定のキーワードを含む前記判定対象の前記ブログ記事のうち、前記機械学習手段がスパムブログであると判定した前記ブログ記事の割合が所定の閾値以下となった場合に、前記所定のキーワードについて流行が終了したと判定する第２流行終了判定手段を備える、
請求項１又は請求項２に記載のスパムブログ判定装置。
【請求項４】
前記調整戻し手段は、前記第１流行終了判定手段又は前記第２流行終了判定手段により流行が終了したと判定された前記所定のキーワードを、前記所定キーワード記憶手段から削除する、
請求項２又は請求項３に記載のスパムブログ判定装置。
【請求項５】
コンピュータが、所定のキーワードの登録指定を受け付けたことに応じて、前記所定のキーワードを所定キーワード記憶手段に記憶するステップと、
コンピュータが、判定対象のブログ記事を受け付けたことに応じて、前記所定キーワード記憶手段に記憶した前記所定のキーワードを素性として用いて前記ブログ記事がスパムブログであるか否かを機械学習により判定するステップと、
コンピュータが、スパムブログであるか否かの判定対象の前記ブログ記事のうち、前記所定キーワード記憶手段に記憶された前記所定のキーワードを含むブログ記事と、スパムブログであるか否かの前記機械学習による判定の結果とを対応付けて出力するステップと、
コンピュータが、前記所定のキーワードの削除指定を受け付けたことに応じて、前記所定キーワード記憶手段に記憶された前記所定のキーワードを削除するステップと、
を含むスパムブログ判定方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、スパムブログ判定装置及び方法に関する。
【背景技術】
【０００２】
従来、特定のサイトへ誘導することを目的として、自動的に作成して投稿する「スパムブログ」と呼ばれるブログが存在する。スパムブログは、「スプログ」（ｓｐｌｏｇ）とも呼ばれる。このスパムブログは、インターネットにおいて様々な問題が生じる危険性がある。例えば、ブログサービス提供業者にとって、スパムブログは、サーバや回線を高負荷にするため、サービスに支障が出る危険性がある。また、企業等は、自社の製品や情報がどの程度の検索ランクになっているのか知りたいニーズが存在する。しかし、スパムブログによって検索ランクが狂されてしまうという危険性がある。そして、スパムブログによって、例えば、検索サービスからユーザの欲する情報に到達できなくなる危険性がある。
【０００３】
このようなスパムブログに対する対策として、例えば、スパムブログの頻出用語やスパムブログのパターン等の情報に基づき、スパムブログを判断する方法が考えられている（例えば、特許文献１（段落［０００５］）参照）。特許文献１の該当の段落に記載されたものは、機械学習を利用して特定の特徴を持つものを排除する、いわゆるスパムフィルタと呼ばれるものである。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００６−３３１２９７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
ところで、スパムブログの中には、流行している用語をそのブログ内に含むものがある。そして、流行している用語は、流行り廃りの動きが早く、次々に入れ替わり、しかも、一旦流行した用語がどの程度継続するかの予測が難しいという特徴がある。特許文献１に開示された技術によっても、このような状況に適切に対応することはできず、管理者は、スパムブログを判断するためにプログラムロジックを都度変更する必要が生じ、これは、ブログサービス提供業者の管理者にとって煩雑な作業であった。
【０００６】
本発明は、管理者による作業を容易にしてスパムブログを判定するスパムブログ判定装置及び方法を提供することを目的とする。
【課題を解決するための手段】
【０００７】
本発明者らは、流行している用語を登録することで判定対象にし、さらに流行の継続期間に追随してスパムブログを判定することが可能な環境を提供することを見出し、本発明を完成するに至った。本発明は、具体的には次のようなものを提供する。
【０００８】
（１）  所定のキーワードの登録指定を受け付けたことに応じて、前記所定のキーワードを所定キーワード記憶手段に記憶する所定キーワード記憶制御手段と、判定対象のブログ記事を受け付けたことに応じて、前記所定キーワード記憶手段に記憶した前記所定のキーワードを素性として用いて前記ブログ記事がスパムブログであるか否かを機械学習により判定する機械学習手段と、前記機械学習手段による判定対象の前記ブログ記事のうち、前記所定キーワード記憶手段に記憶された前記所定のキーワードを含むブログ記事と、スパムブログであるか否かの前記機械学習による判定の結果とを対応付けて出力するスパム判定結果出力手段と、前記所定のキーワードの削除指定を受け付けたことに応じて、前記所定キーワード記憶手段に記憶された前記所定のキーワードを削除する調整戻し手段と、を備えるスパムブログ判定装置。
【０００９】
本発明のこのような構成によれば、スパムブログ判定装置は、例えば、流行り廃りのある所定のキーワードを処理対象にする、所定のキーワードの登録指定を受け付けたことで、所定のキーワードを含むスパムブログの判定を行い、結果を出力する。よって、スパムブログ判定装置は、管理者に所定のキーワードの登録指定を行わせるだけで、所定のキーワードを含むスパムブログを判定することができる。さらに、スパムブログ判定装置は、スパム判定結果出力手段が出力した判定結果を見た管理者から所定のキーワードを処理対象外にする削除指定を受け付けたことで、所定のキーワードを処理の対象から外す。よって、スパムブログ判定装置は、流行り廃りのある所定のキーワードを含むスパムブログの判定を適切に行うことができる。
【００１０】
（２）  前記スパム判定結果出力手段が前記機械学習による判定の結果を出力した前記ブログ記事について、前記機械学習による判定の結果の正誤判断を示す情報である正誤判断情報を受け付けたことに応じて、前記正誤判断情報を前記ブログ記事に対応付けて記憶する正誤判断情報記憶手段と、所定期間において前記正誤判断情報記憶手段が記憶した前記正誤判断情報に基づいて前記所定のキーワードごとに前記機械学習による判定の誤り率を算出し、前記誤り率が所定の閾値以上となった前記所定のキーワードについて流行が終わったと判定する第１流行終了判定手段と、を備える、（１）に記載のスパムブログ判定装置。
【００１１】
本発明のこのような構成によれば、スパムブログ判定装置は、判定の結果を出力したブログ記事についての機械学習の判定の結果の正誤判断を示す情報である正誤判断情報を受け付けてブログ記事に対応付けて記憶し、所定期間において記憶した正誤判断情報に基づいて所定のキーワードごとに機械学習による判定の誤り率を算出し、その誤り率が所定の閾値以上となった場合に、所定のキーワードについて流行が終わったと判定する。よって、スパム判定結果出力手段が出力した判定結果を見た管理者がブログ記事についての機械学習の判定の結果の正誤判断を行って正誤判断情報を入力することで、スパムブログ判定装置は、所定のキーワードごとに機械学習による判定の誤り率を計算して、予め設定した閾値と比較して自動的に所定のキーワードの「一時的」な流行の終了状態を判断できる。
【００１２】
（３）  所定期間において前記所定のキーワードを含む前記判定対象の前記ブログ記事のうち、前記機械学習手段がスパムブログであると判定した前記ブログ記事の割合が所定の閾値以下となった場合に、前記所定のキーワードについて流行が終了したと判定する第２流行終了判定手段を備える、（１）又は（２）に記載のスパムブログ判定装置。
【００１３】
本発明のこのような構成によれば、スパムブログ判定装置は、所定期間において所定のキーワードを含む判定対象のブログ記事のうち、機械学習手段がスパムブログであると判定したブログ記事の割合が所定の閾値以下となった場合に、所定のキーワードについて流行が終了したと判定する。よって、スパムブログ判定装置は、所定の基準によって所定のキーワードの「一時的」な流行の終了状態を判断できる。
【００１４】
（４）  前記調整戻し手段は、前記第１流行終了判定手段又は前記第２流行終了判定手段により流行が終了したと判定された前記所定のキーワードを、前記所定キーワード記憶手段から削除する、（２）又は（３）に記載のスパムブログ判定装置。
【００１５】
本発明のこのような構成によれば、スパムブログ判定装置は、流行が終了したと判定された所定のキーワードを、所定キーワード記憶手段から削除するので、所定キーワード記憶手段のメンテナンスを自動的に行うことができる。
【００１６】
（５）  コンピュータが、所定のキーワードの登録指定を受け付けたことに応じて、前記所定のキーワードを所定キーワード記憶手段に記憶するステップと、コンピュータが、判定対象のブログ記事を受け付けたことに応じて、前記所定キーワード記憶手段に記憶した前記所定のキーワードを素性として用いて前記ブログ記事がスパムブログであるか否かを機械学習により判定するステップと、コンピュータが、スパムブログであるか否かの判定対象の前記ブログ記事のうち、前記所定キーワード記憶手段に記憶された前記所定のキーワードを含むブログ記事と、スパムブログであるか否かの前記機械学習による判定の結果とを対応付けて出力するステップと、コンピュータが、前記所定のキーワードの削除指定を受け付けたことに応じて、前記所定キーワード記憶手段に記憶された前記所定のキーワードを削除するステップと、を含むスパムブログ判定方法。
【発明の効果】
【００１７】
本発明によれば、管理者による作業を容易にしてスパムブログを判定するスパムブログ判定装置及び方法を提供することができる。
【図面の簡単な説明】
【００１８】
【図１】第１実施形態に係るスパムブログ判定システムの全体構成及びスパムブログ判定装置の機能構成を示す図である。
【図２】第１実施形態に係るスパムブログ判定装置の記憶部に記憶された各種データの例を示す図である。
【図３】第１実施形態に係るスパムブログ判定装置の機械学習による判定結果を説明するための図である。
【図４】第１実施形態に係るスパムブログ判定装置の所定キーワード反映処理のフローチャートである。
【図５】第１実施形態に係るスパムブログ判定装置のスパム判定処理のフローチャートである。
【図６】第２実施形態に係るスパムブログ判定システムの全体構成及びスパムブログ判定装置の機能構成を示す図である。
【図７】第２実施形態に係るスパムブログ判定装置の所定キーワード削除処理のフローチャートである。
【図８】第３実施形態に係るスパムブログ判定システムの全体構成及びスパムブログ判定装置の機能構成を示す図である。
【図９】第３実施形態に係るスパムブログ判定装置の所定キーワード削除処理のフローチャートである。
【発明を実施するための形態】
【００１９】
以下、本発明を実施するための形態について、図を参照しながら説明する。なお、これは、あくまでも一例であって、本発明の技術的範囲はこれに限られるものではない。
【００２０】
（第１実施形態）
［スパムブログ判定システム１００の全体構成及びスパムブログ判定装置１の機能構成］
図１は、第１実施形態に係るスパムブログ判定システム１００の全体構成及びスパムブログ判定装置１の機能構成を示す図である。図２は、第１実施形態に係るスパムブログ判定装置１の記憶部２０に記憶された各種データの例を示す図である。図３は、第１実施形態に係るスパムブログ判定装置１の機械学習による判定結果を説明するための図である。
【００２１】
図１に示すように、スパムブログ判定システム１００は、スパムブログ判定装置１と、ブログサーバ３と、管理端末５と、通信ネットワーク９とにより構成される。
【００２２】
スパムブログ判定装置１は、管理端末５から受け付けた所定キーワード（所定のキーワード）を記憶し、記憶した所定キーワードを素性として用いて、ブログサーバ３から受け付けたブログ記事がスパムブログであるか否かを機械学習により判定して、判定結果を管理端末５に対して出力する装置である。また、スパムブログ判定装置１は、管理端末５から受け付けた所定キーワードを、記憶されたキーワードから削除することで、スパムブログであるか否かの機械学習による判定処理で用いる素性から外す装置である。スパムブログ判定装置１は、制御部１０と、記憶部２０とを備える。
【００２３】
制御部１０は、所定キーワード受付手段１１と、所定キーワード記憶制御手段１２と、ブログ記事受付手段１３と、機械学習手段１４と、スパム判定結果出力手段１５と、調整戻し手段１７とを備える。
【００２４】
所定キーワード受付手段１１は、管理端末５から送信された、所定キーワードの登録要求を受け付ける制御部である。所定キーワードとは、流行り廃りのあるキーワードであって、スパムブログの対象になりやすいキーワードをいう。流行り廃りのあるキーワードは、「恒常的」とは対照であって、「一時的」の継続期間が予測できない。スパムブログとは、例えば、一般的に話題になっているワードを使用した意味のないブログ記事であって、あるＷｅｂページに対してリンクを張ることで、そのＷｅｂページのランキングを上位にするために用いられるものをいう。そこで、スパムブログに多く用いられている、一般的に話題になっているワードであって流行り廃りのあるワードを、所定キーワードとして管理端末５が送信することで、所定キーワード受付手段１１は、所定キーワードを受け付ける。
【００２５】
所定キーワード記憶制御手段１２は、管理端末５から受け付けた所定キーワードを、所定キーワードＤＢ２１（ＤＢ：データベース）（所定キーワード記憶手段）に記憶させる制御部である。
【００２６】
図２（ａ）に一例を示す所定キーワードＤＢ２１は、管理端末５から受け付けた所定キーワードを記憶するＤＢである。所定キーワードＤＢ２１は、通し番号２１ａと、所定キーワード２１ｂと、登録日２１ｃと、タイプ２１ｄとの各項目からなる。
【００２７】
通し番号２１ａは、管理端末５から受け付けた順番に、制御部１０によって振られた１からの連番を格納する。所定キーワード２１ｂは、管理端末５から受け付けた所定キーワードを格納する。登録日２１ｃは、管理端末５から所定キーワードを受け付けた日付を格納する。タイプ２１ｄは、所定キーワードのカテゴリを格納する。タイプ２１ｄに格納するタイプは、管理端末５から所定キーワードと共に受け付けてもよい。
【００２８】
図１に戻り、ブログ記事受付手段１３は、ブログサーバ３からブログ記事を受け付ける制御部である。ここで、ブログ記事とは、ブログを構成する１つ１つの記事をいう。ブログ記事受付手段１３は、ブログサーバ３においてブログ記事が更新された都度、ブログサーバ３から送信されたブログ記事を受け付けてもよいし、スパムブログ判定装置１からブログサーバ３に対して、例えば、毎日決まった時刻にブログ記事の送信を依頼することで、新たに更新されたブログ記事をブログサーバ３から受け付けてもよい。
【００２９】
機械学習手段１４は、例えば、ＳＶＭ（Ｓｕｐｐｏｒｔ  Ｖｅｃｔｏｒ  Ｍａｃｈｉｎｅ）エンジン２２を用いた学習モデルにより、ブログ記事受付手段１３が受け付けたブログ記事がスパムブログであるか否かを判定する制御部である。その仕組みとして、機械学習手段１４は、予めスパムブログのブログ記事と、スパムブログではないブログ記事（通常のブログ記事）とを学習し、統計的処理を実施し、スパムブログのブログ記事と、通常のブログ記事との区別の基準を示す基準データを生成しておく。そして、機械学習手段１４のＳＶＭエンジン２２を用いた判定は、２つのクラス（スパムブログのブログ記事の集合及び通常のブログ記事の集合）のいずれかに属する訓練事例から、未知の事例であるブログ記事がいずれかのクラスに属するかを判定するものである。ここで、機械学習手段１４は、所定キーワードＤＢ２１に記憶された所定キーワードを素性として使用することで、ブログ記事に所定キーワードを含む場合には、そのブログ記事がスパムブログであるか否かを判定する。
【００３０】
ここで、ＳＶＭエンジン２２を用いた学習モデルでの学習結果３０について、図３を用いて説明する。ＳＶＭエンジン２２を用いた機械学習手段１４は、スパムブログか否かのラベルが未知の事例であるブログ記事に対して、ラベルを推定する分類器である。スパムブログ等を事例にした上で、スパムブログのブログ記事から生成された事例と、通常のブログ記事から生成された事例との２つの識別面３１，３２同士の距離（マージン）が特徴空間上で最大になるような識別面３１，３２を算出する。このように、機械学習手段１４は、スパムブログ等を事例という形に変換した上で、学習するようになっている。
【００３１】
機械学習手段１４は、識別面３１，３２に最も近接するスパムブログから生成された事例と、通常のブログ記事から生成された事例とを各々サポートベクタ３３，３４として、ラベルが未知の事例の分類に利用する。機械学習手段１４は、スパムブログから生成された事例と、通常のブログ記事から生成された事例とを事例にした上で、統計処理をすることによって、スパムブログから生成された事例群と、通常のブログ記事から生成された事例群とを区別するための識別データである識別面を生成する。
【００３２】
そして、機械学習手段１４は、スパムブログか否かのラベルが未知の事例であるブログ記事に対して、学習結果３０を用いて、どの位置に該当するものであるかを、所定キーワードを素性として使用することで分類する。素性とは、入力されたデータを特徴付けるものである。このように、スパムブログ判定装置１は、既知のモデルであるＳＶＭエンジン２２を使用して機械学習による判定をすることができる。そして、スパムブログ判定装置１は、機械学習手段１４を用いることで、機械学習自体をやり直すことなく、素性をメンテナンスするだけで対応できる。よって、スパムブログ判定装置１は、スパムブログであるか否かの判定に用いることができる。
【００３３】
図１に戻り、スパム判定結果出力手段１５は、機械学習手段１４による判定結果として、所定キーワードを含むブログ記事とその判定結果とを、管理端末５に対して出力する制御部である。
【００３４】
調整戻し手段１７は、管理端末５から送信された所定キーワードの削除要求を受け付けることで、所定キーワードＤＢ２１から受け付けた所定キーワードを削除する制御部である。
【００３５】
記憶部２０は、所定キーワードＤＢ２１と、ＳＶＭエンジン２２と、判定結果テーブル２３とを備える。
【００３６】
所定キーワードＤＢ２１及びＳＶＭエンジン２２は、上述のとおりである。判定結果テーブル２３は、機械学習手段１４による判定結果であって、スパム判定結果出力手段１５が管理端末５に対して送信する、所定キーワードを含むブログ記事とその判定結果とを記憶したデータテーブルである。
【００３７】
図２（ｂ）に一例を示す判定結果テーブル２３は、所定キーワード２３ａと、ブログ記事２３ｂと、スパムブログ判定２３ｃとの各項目を有する。所定キーワード２３ａは、ブログ記事に含まれる所定キーワードを格納する。ブログ記事２３ｂは、ブログ記事を特定するブログＩＤ（ＩＤ：ｉｄｅｎｔｉｆｉｅｒ）を格納する。ブログ記事２３ｂは、ブログ記事そのものを格納してもよい。スパムブログ判定２３ｃは、機械学習手段１４によるスパムブログであるか否かの判定結果のコードを格納する。ここで、スパムブログ判定２３ｃが「１」の場合は、機械学習手段１４によってスパムブログであると判定された場合であり、スパムブログ判定２３ｃが「０」の場合は、機械学習手段１４によってスパムブログではないと判定された場合である。
【００３８】
第１実施形態のスパムブログ判定装置１のハードウェアは、一般的なコンピュータによって構成してもよい。一般的なコンピュータは、例えば、制御部１０として、中央処理装置（ＣＰＵ）を備える他、記憶部２０として、メモリ（ＲＡＭ、ＲＯＭ）、ハードディスク（ＨＤＤ）及び光ディスク（ＣＤ、ＤＶＤ等）を、ネットワーク通信装置として、各種有線及び無線ＬＡＮ装置を、表示装置として、例えば、液晶ディスプレイ、プラズマディスプレイ等の各種ディスプレイを、入力装置として、例えば、キーボード及びポインティング・デバイス（マウス、トラッキングボール等）を適宜備え、これらはバスラインにより接続されている。このような一般的なコンピュータにおいて、ＣＰＵは、スパムブログ判定装置１を統括的に制御し、各種プログラムを適宜読み出して実行することにより、上述したハードウェアと協働し、本発明に係る各種機能を実現している。
【００３９】
ブログサーバ３は、ブログ記事を記憶するサーバであり、ブログ記事を記憶する記憶部と、ブログサーバ３の全体を制御する制御部とを備える。ブログサーバ３のハードウェアは、一般的なコンピュータによって構成してよい。
【００４０】
管理端末５は、例えば、パーソナルコンピュータ（ＰＣ）や、携帯電話機等の携帯端末である。管理端末５は、通信機能を有し、スパムブログ判定装置１に対してデータの送受信が可能な端末であれば、どのような装置でもよい。
【００４１】
なお、第１実施形態では、スパムブログ判定装置１と、ブログサーバ３とを別々の装置として説明しているが、スパムブログ判定装置１がブログサーバ３の機能をも有して、１台のコンピュータによって実現してもよい。
【００４２】
通信ネットワーク９は、スパムブログ判定装置１と、ブログサーバ３と、管理端末５との間で通信を行うための、例えば、インターネット等の通信回線である。通信ネットワーク９は、有線であってもよいし、その一部又は全部が無線であってもよい。
【００４３】
［スパムブログ判定装置１の処理］
次に、スパムブログ判定装置１での処理について説明する。最初に、所定キーワードの反映について説明する。図４は、第１実施形態に係るスパムブログ判定装置１の所定キーワード反映処理のフローチャートである。この処理は、管理端末５から所定キーワードの指定を受け付ける都度実行される。
【００４４】
Ｓ１：制御部１０（所定キーワード受付手段１１）は、管理端末５から所定キーワードの登録の指定を受け付けたか否かを判断する。所定キーワードの登録の指定を受け付けた場合（Ｓ１：ＹＥＳ）には、制御部１０は、処理をＳ２に移す。他方、所定キーワードの登録の指定を受け付けていない場合（Ｓ１：ＮＯ）には、制御部１０は、処理をＳ３に移す。
【００４５】
Ｓ２：制御部１０（所定キーワード記憶制御手段１２）は、Ｓ１で受け付けた所定キーワードを、所定キーワードＤＢ２１に記憶させる。
【００４６】
Ｓ３：制御部１０（調整戻し手段１７）は、管理端末５から所定キーワードの削除の指定を受け付けたか否かを判断する。所定キーワードの削除の指定を受け付けた場合（Ｓ３：ＹＥＳ）には、制御部１０は、処理をＳ４に移す。他方、所定キーワードの削除の指定を受け付けていない場合（Ｓ３：ＮＯ）には、制御部１０は、本処理を終了する。
【００４７】
Ｓ４：制御部１０（調整戻し手段１７）は、Ｓ３で受け付けた所定キーワードを、所定キーワードＤＢ２１から削除する。その後、制御部１０は、本処理を終了する。
【００４８】
このように、スパムブログ判定装置１は、管理端末５から流行り廃りのある所定キーワードの登録指定を受け付けたことで、所定キーワードを含むスパムブログの機械学習による判定処理で用いる素性として、所定キーワードＤＢ２１に所定キーワードを登録できる。また、スパムブログ判定装置１は、管理端末５から所定キーワードの削除指定を受け付けたことで、所定キーワードを機械学習による判定処理で用いる素性から外すことができる。なお、管理端末５のユーザである管理者は、後述のスパム判定結果出力手段１５の出力する判定結果を見て、スパムブログではない、と判定されたブログに含まれる所定キーワードを素性から外すタイミングを検討することができる。
【００４９】
次に、ブログ記事のスパム判定について説明する。この処理は、ブログサーバ３からブログ記事を受け付ける都度実行される。図５は、第１実施形態に係るスパムブログ判定装置１のスパム判定処理のフローチャートである。
【００５０】
Ｓ１１：制御部１０（ブログ記事受付手段１３）は、ブログサーバ３からブログ記事を受け付ける。
【００５１】
Ｓ１２：制御部１０（機械学習手段１４）は、Ｓ１１において受け付けたブログ記事に対して機械学習処理を行う。機械学習処理とは、例えば、ＳＶＭエンジン２２を用いた学習モデルにより、所定キーワードＤＢ２１に記憶された所定キーワードを素性として使用して、Ｓ１１で受け付けたブログ記事がスパムブログであるか否かを判定する処理をいう。
【００５２】
Ｓ１３：制御部１０（スパム判定結果出力手段１５）は、Ｓ１２において実行した機械学習処理の結果（スパム判定結果）を管理端末５に対して出力する。また、制御部１０は、スパム判定結果を判定結果テーブル２３に記憶する。その後、制御部１０は、本処理を終了する。
【００５３】
なお、制御部１０は、図４で説明した所定キーワード反映処理と、図５で説明したスパム判定処理とを並行して行ってもよい。
【００５４】
このように、スパムブログ判定装置１は、ブログサーバ３からブログ記事を受け付けたことで、所定キーワードを含むスパムブログの判定を行い、結果を出力する。よって、スパムブログ判定装置１は、管理者に予め所定キーワードの指定を行わせるだけで、所定キーワードを含むスパムブログを判定することができる。また、スパムブログ判定装置１は、管理端末５からの指示によって所定キーワードを登録及び削除した所定キーワードＤＢ２１を用いることで、流行り廃りのある所定キーワードを含むスパムブログの判定を適切に行うことができる。
【００５５】
（第２実施形態）
第１実施形態では、管理端末から受け付けた所定キーワードを、記憶されたキーワードから削除することで、スパムブログであるか否かの機械学習による判定処理で用いる素性から外すものであった。第２実施形態では、所定の条件を満たす所定キーワードを自動的に削除することで、スパムブログであるか否かの機械学習による判定処理で用いる素性から外すものを説明する。なお、以降の説明において、上述した第１実施形態と同様の機能を果たす部分には、同一の符号又は末尾に同一の符号を付して、重複する説明を適宜省略する。
【００５６】
［スパムブログ判定システム２００の全体構成及びスパムブログ判定装置２０１の機能構成］
図６は、第２実施形態に係るスパムブログ判定システム２００の全体構成及びスパムブログ判定装置２０１の機能構成を示す図である。
【００５７】
スパムブログ判定システム２００は、スパムブログ判定装置２０１と、ブログサーバ３と、管理端末５と、通信ネットワーク９とにより構成される。
【００５８】
スパムブログ判定装置２０１は、制御部２１０と、記憶部２０とを備える。制御部２１０は、所定キーワード受付手段１１と、所定キーワード記憶制御手段１２と、ブログ記事受付手段１３と、機械学習手段１４と、スパム判定結果出力手段１５との他に、第２流行終了判定手段２１６と、調整戻し手段２１７とを備える。
【００５９】
第２流行終了判定手段２１６は、所定期間（例えば、１週間）において、所定キーワードを含む判定対象のブログ記事のうち、機械学習手段１４によりスパムブログであると判定されたブログ記事の割合が所定の閾値（例えば、２０％）以下になった場合に、所定キーワードの流行が終了したと判定する制御部である。
【００６０】
調整戻し手段２１７は、第２流行終了判定手段２１６により流行が終了したと判定された所定キーワードを、所定キーワードＤＢ２１から削除する制御部である。
【００６１】
［スパムブログ判定装置２０１の処理］
次に、スパムブログ判定装置２０１での処理について説明する。図７は、第２実施形態に係るスパムブログ判定装置２０１の所定キーワード削除処理のフローチャートである。なお、所定キーワードの登録については、第１実施形態のＳ１〜Ｓ２（図４）の処理と同様であり、スパム判定については、第１実施形態のＳ１１〜Ｓ１３（図５）の処理と同様である。
【００６２】
Ｓ２１：制御部２１０（第２流行終了判定手段２１６）は、所定期間において、所定キーワードを含む判定対象のブログ記事のうち、機械学習手段１４によりスパムブログであると判定されたブログ記事の割合が所定の閾値以下になっているか否かを判断する。所定の閾値以下になっている場合（Ｓ２１：ＹＥＳ）には、制御部２１０は、処理をＳ２２に移す。他方、所定の閾値以下になっていない場合（Ｓ２１：ＮＯ）には、制御部２１０は、本処理を終了する。
【００６３】
Ｓ２２：制御部２１０（調整戻し手段２１７）は、Ｓ２１で所定の閾値以下になっていると判定された所定キーワードを、所定キーワードＤＢ２１から削除する。その後、制御部２１０は、本処理を終了する。
【００６４】
このように、スパムブログ判定装置２０１は、所定期間において所定キーワードを含む判定対象のブログ記事のうち、機械学習手段１４がスパムブログであると判定したブログ記事の割合が所定の閾値以下となった場合に、所定キーワードについて流行が終了したと判定する。よって、スパムブログ判定装置２０１は、所定の基準によって所定キーワードの「一時的」な流行の終了状態を判断できる。
【００６５】
そして、スパムブログ判定装置２０１は、流行が終了したと判定された所定キーワードを、所定キーワードＤＢ２１から削除するので、所定キーワードＤＢ２１のメンテナンスを自動的に行うことができる。
【００６６】
（第３実施形態）
第３実施形態では、スパムブログ判定装置が管理端末から機械学習による判定の結果の正誤判断を受け付けて、誤り率に応じて所定の条件を満たす所定キーワードを自動的に削除して、スパムブログであるか否かの機械学習による判定処理で用いる素性から外すものを説明する。
【００６７】
［スパムブログ判定システム３００の全体構成及びスパムブログ判定装置３０１の機能構成］
図８は、第３実施形態に係るスパムブログ判定システム３００の全体構成及びスパムブログ判定装置３０１の機能構成を示す図である。
【００６８】
スパムブログ判定システム３００は、スパムブログ判定装置３０１と、ブログサーバ３と、管理端末５と、通信ネットワーク９とにより構成される。
【００６９】
スパムブログ判定装置３０１は、制御部３１０と、記憶部３２０とを備える。制御部３１０は、所定キーワード受付手段１１と、所定キーワード記憶制御手段１２と、ブログ記事受付手段１３と、機械学習手段１４と、スパム判定結果出力手段１５と、調整戻し手段２１７との他に、正誤判断情報記憶制御手段３１８と、第１流行終了判定手段３１９とを備える。
【００７０】
正誤判断情報記憶制御手段３１８は、スパムブログである、又はスパムブログではないと判定された機械学習の結果に対しての正誤判断を示す正誤判断情報を管理端末５から受け付けて、正誤判断情報ＤＢ３２４に記憶させる制御部である。受け付ける正誤判断情報は、所定キーワードを含むブログ記事に対応付けて、スパムブログであるとの判定に対して正しいか否か、及びスパムブログではないとの判定に対して正しいか否か、の計４とおりの判断がある。また、管理端末５から受け付ける正誤判断情報は、管理者が入力を行うものである。そして、管理者は、スパム判定結果出力手段１５が出力した全ての判定結果に対して正誤判定情報の入力を行う必要はなく、数件に１件のサンプリングであってもよいし、所定キーワードごとに絞り込んで行ってもよい。
【００７１】
第１流行終了判定手段３１９は、所定期間（例えば、１週間）において、正誤判断情報ＤＢ３２４に記憶された正誤判断情報に基づいて、所定キーワードごとに誤り率を算出し、その誤り率が所定の閾値（例えば、７０％）以上になった場合に、所定キーワードの流行が終了したと判定する制御部である。
【００７２】
正誤判断情報ＤＢ３２４は、正誤判断情報記憶制御手段３１８が受け付けた機械学習による判定の結果に対する正誤を、所定キーワードを含むブログ記事に対応付けて記憶する。
【００７３】
［スパムブログ判定装置３０１の処理］
次に、スパムブログ判定装置３０１での処理について説明する。図９は、第３実施形態に係るスパムブログ判定装置３０１の所定キーワード削除処理のフローチャートである。なお、所定キーワードの登録については、第１実施形態のＳ１〜Ｓ２（図４）の処理と同様であり、スパム判定については、第１実施形態のＳ１１〜Ｓ１３（図５）の処理と同様である。
【００７４】
Ｓ３１：制御部３１０（正誤判断情報記憶制御手段３１８）は、管理端末５から正誤判断情報を受け付ける。
Ｓ３２：制御部３１０（正誤判断情報記憶制御手段３１８）は、受け付けた正誤判断情報を正誤判断情報ＤＢ３２４に記憶させる。
Ｓ３３：制御部３１０（第１流行終了判定手段３１９）は、所定期間において、正誤判断情報ＤＢ３２４に記憶された正誤判断情報に基づいて、所定キーワードごとに機械学習による判定の誤り率を算出する。
Ｓ３４：制御部３１０（第１流行終了判定手段３１９）は、誤り率が所定の閾値以上になっているか否かを判断する。所定の閾値以上になっている場合（Ｓ３４：ＹＥＳ）には、制御部３１０は、処理をＳ３５に移す。他方、所定の閾値以上になっていない場合（Ｓ３４：ＮＯ）には、制御部３１０は、本処理を終了する。
【００７５】
Ｓ３５：制御部３１０（調整戻し手段２１７）は、Ｓ３４で所定の閾値以上になっていると判定された所定キーワードを、所定キーワードＤＢ２１から削除する。その後、制御部３１０は、本処理を終了する。
【００７６】
このように、スパムブログ判定装置３０１は、所定キーワードを含む判定対象のブログ記事のうち、判定の結果を出力したブログ記事についての機械学習の判定の結果に対する正誤判断情報を受け付けてブログ記事に対応付けて正誤判断情報ＤＢ３２４に記憶し、所定期間において記憶された正誤判断情報に基づいて所定キーワードごとに誤り率を算出し、誤り率が所定の閾値以上となった場合に、所定キーワードについて流行が終了したと判定する。よって、管理者が機械学習による判定の正誤を入力するだけで、スパムブログ判定装置３０１は、所定の基準によって所定キーワードの「一時的」な流行の終了状態を自動的に判断できる。
【００７７】
そして、スパムブログ判定装置３０１は、流行が終了したと判定された所定キーワードを、所定キーワードＤＢ２１から削除するので、所定キーワードＤＢ２１のメンテナンスを自動的に行うことができる。
【００７８】
（変形形態）
第１実施形態は、所定キーワードの所定キーワードＤＢからの削除を管理端末からの入力に応じて行い、第２及び第３実施形態では、所定キーワードの所定キーワードＤＢからの削除をスパムブログ判定装置が自動的に行うものとして示したが、これに限定されない。いずれの削除も行えるようにしてもよい。そのようにすることで、監視不要の所定キーワードを自動的に削除でき、しかも、管理者の操作によって削除できるので、便利である。
【００７９】
以上、本発明の実施形態について説明したが、本発明は、上述した実施形態に限るものではない。また、本発明の実施形態に記載された効果は、本発明から生じる最も好適な効果を列挙したに過ぎず、本発明による効果は、本発明の実施形態に記載されたものに限定されるものではない。
【符号の説明】
【００８０】
１，２０１，３０１  スパムブログ判定装置
３      ブログサーバ
５      管理端末
１０，２１０，３１０  制御部
１１    所定キーワード受付手段
１２    所定キーワード記憶制御手段
１３    ブログ記事受付手段
１４    機械学習手段
１５    スパム判定結果出力手段
１７，２１７    調整戻し手段
２０，３２０    記憶部
２１    所定キーワードＤＢ
２２    ＳＶＭエンジン
２３    判定結果テーブル
１００，２００，３００  スパムブログ判定システム
２１６  第２流行終了判定手段
３１８  正誤判断情報記憶制御手段
３１９  第１流行終了判定手段
３２４  正誤判断情報ＤＢ
【図１】
2011198065.tif 000003
【図２】
2011198065.tif 000004
【図３】
2011198065.tif 000005
【図４】
2011198065.tif 000006
【図５】
2011198065.tif 000007
【図６】
2011198065.tif 000008
【図７】
2011198065.tif 000009
【図８】
2011198065.tif 000010
【図９】
2011198065.tif 000011