(57)【要約】【課題】利用規約に違反する可能性がある被疑対象を効率的に判定する。【解決手段】本願に係る判定装置は、取得部と、判定部とを有する。取得部は、所定のサービスの利用規約に違反すると判定された対象である違反対象に対する当該所定のサービスを利用するユーザの指定が、所定の条件を満たす当該ユーザの行動情報を取得する。判定部は、取得部により取得されたユーザの行動情報に基づいて、ユーザの行動に関する一の対象が、利用規約に違反する可能性がある被疑対象かどうかを判定する。【選択図】図３
2018097403.tif 000002
【特許請求の範囲】
【請求項１】
所定のサービスの利用規約に違反すると判定された対象である違反対象に対する当該所定のサービスを利用するユーザの指定が、所定の条件を満たす当該ユーザの行動情報を取得する取得部と、
前記取得部により取得された前記ユーザの行動情報に基づいて、前記ユーザの行動に関する一の対象が、前記利用規約に違反する可能性がある被疑対象かどうかを判定する判定部と、
を備えたことを特徴とする判定装置。
【請求項２】
前記判定部は、
違反対象であると未判定の一の対象が被疑対象かどうかを判定する
ことを特徴とする請求項１に記載の判定装置。
【請求項３】
前記取得部は、
前記ユーザの行動情報に含まれる一の対象ユーザが被疑対象かどうかを判定する
ことを特徴とする請求項１または請求項２に記載の判定装置。
【請求項４】
前記判定部は、
前記ユーザが指定した一の対象が被疑対象かどうかを判定する
ことを特徴とする請求項１〜３のいずれか１項に記載の判定装置。
【請求項５】
前記取得部は、
ユーザが指定した違反対象の数が所定の閾値以上である場合、当該ユーザの行動情報を取得する
ことを特徴とする請求項１〜４のいずれか１項に記載の判定装置。
【請求項６】
前記取得部は、
ユーザが指定した対象のうち違反対象の割合が所定の閾値以上である場合、当該ユーザの行動情報を取得する
ことを特徴とする請求項１〜５のいずれか１項に記載の判定装置。
【請求項７】
前記取得部は、
所定のカテゴリに属する違反対象のうち、ユーザが指定した違反対象の割合が所定の閾値以上である場合、当該ユーザの行動情報を取得する
ことを特徴とする請求項１〜６のいずれか１項に記載の判定装置。
【請求項８】
前記取得部は、
前記被疑対象の指定に関する条件を満たすユーザの行動情報を取得する
ことを特徴とする請求項１〜７のいずれか１項に記載の判定装置。
【請求項９】
前記判定部は、
前記ユーザの行動情報に基づいて推定される当該ユーザの行動パターンに応じて、前記一の対象が前記被疑対象かどうかを判定するタイミングを変動させる
ことを特徴とする請求項１〜８のいずれか１項に記載の判定装置。
【請求項１０】
前記判定部は、
前記所定のサービスにおける違反の重大性に関する複数の種別のうち、前記一の対象が該当する種別に応じて変動する判定条件に基づいて、前記一の対象が被疑対象かどうかを判定する
ことを特徴とする請求項１〜９のいずれか１項に記載の判定装置。
【請求項１１】
前記判定部は、
前記一の対象を被疑対象と判定した場合、前記一の対象を指定する他のユーザが指定する他の対象が被疑対象かどうかを判定する
ことを特徴とする請求項１〜１０のいずれか１項に記載の判定装置。
【請求項１２】
前記判定部は、
前記一の対象が被疑対象と判定された前記ユーザが他の対象を指定した場合、前記他の対象が被疑対象かどうかを判定する
ことを特徴とする請求項１〜１１のいずれか１項に記載の判定装置。
【請求項１３】
前記判定部は、
前記被疑対象と判定した対象が違反対象であるかを判定する
ことを特徴とする請求項１〜１２のいずれか１項に記載の判定装置。
【請求項１４】
前記取得部は、
ユーザに関連付けられた所定のリストに含まれる違反対象が所定の条件を満たす当該ユーザの行動情報を取得し、
前記判定部は、
前記取得部により取得された前記ユーザの行動情報に基づいて、前記所定のリストに含まれる一の対象が被疑対象かどうかを判定する
ことを特徴とする請求項１〜１３のいずれか１項に記載の判定装置。
【請求項１５】
前記取得部は、
オークションサービスの利用規約に違反すると判定された出品物である違反出品物を指定したユーザの行動情報を取得し、
前記判定部は、
前記取得部により取得された前記ユーザの行動情報に基づいて、前記ユーザが指定する一の出品物が、前記利用規約に違反する可能性がある被疑出品物かどうかを判定する
ことを特徴とする請求項１〜１４のいずれか１項に記載の判定装置。
【請求項１６】
コンピュータが実行する判定方法であって、
所定のサービスの利用規約に違反すると判定された対象である違反対象に対する当該所定のサービスを利用するユーザの指定が、所定の条件を満たす当該ユーザの行動情報を取得する取得工程と、
前記取得工程により取得された前記ユーザの行動情報に基づいて、前記ユーザの行動に関する一の対象が、前記利用規約に違反する可能性がある被疑対象かどうかを判定する判定工程と、
を含んだことを特徴とする判定方法。
【請求項１７】
所定のサービスの利用規約に違反すると判定された対象である違反対象に対する当該所定のサービスを利用するユーザの指定が、所定の条件を満たす当該ユーザの行動情報を取得する取得手順と、
前記取得手順により取得された前記ユーザの行動情報に基づいて、前記ユーザの行動に関する一の対象が、前記利用規約に違反する可能性がある被疑対象かどうかを判定する判定手順と、
をコンピュータに実行させることを特徴とする判定プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、判定装置、判定方法、及び判定プログラムに関する。
【背景技術】
【０００２】
従来、インターネットオークション等の種々のサービスにおける対象に関する不正を検出する技術が提供されている。例えば、不正行為のパターンを条件としてもつ数理モデルを適用し、抽出した不正行為の可能性の高い取引案件をパトロールする技術が提供されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特許第４９２１８７５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、上記の従来技術では、利用規約に違反する可能性がある被疑対象を効率的に判定することが難しい場合がある。例えば、数理モデルを用いる場合、柔軟にモデルを変更することができず、効率的に利用規約に違反する可能性がある被疑対象を判定することが難しい場合がある。
【０００５】
本願は、上記に鑑みてなされたものであって、利用規約に違反する可能性がある被疑対象を効率的に判定する判定装置、判定方法、及び判定プログラムを提供することを目的とする。
【課題を解決するための手段】
【０００６】
本願に係る判定装置は、所定のサービスの利用規約に違反すると判定された対象である違反対象に対する当該所定のサービスを利用するユーザの指定が、所定の条件を満たす当該ユーザの行動情報を取得する取得部と、前記取得部により取得された前記ユーザの行動情報に基づいて、前記ユーザの行動に関する一の対象が、前記利用規約に違反する可能性がある被疑対象かどうかを判定する判定部と、を備えたことを特徴とする。
【発明の効果】
【０００７】
実施形態の一態様によれば、利用規約に違反する可能性がある被疑対象を効率的に判定することができるという効果を奏する。
【図面の簡単な説明】
【０００８】
【図１】図１は、実施形態に係る判定処理の一例を示す図である。
【図２】図２は、実施形態に係る判定システムの構成例を示す図である。
【図３】図３は、実施形態に係る判定装置の構成例を示す図である。
【図４】図４は、実施形態に係るオークション情報記憶部の一例を示す図である。
【図５】図５は、実施形態に係るユーザ情報記憶部の一例を示す図である。
【図６】図６は、実施形態に係る判定処理の一例を示すフローチャートである。
【図７】図７は、実施形態に係る判定処理の一例を示すシーケンス図である。
【図８】図８は、実施形態に係るオークション情報記憶部の他の構成例を示す図である。
【図９】図９は、実施形態に係る判定処理の他の例を示すフローチャートである。
【図１０】図１０は、判定装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。
【発明を実施するための形態】
【０００９】
以下に、本願に係る判定装置、判定方法、及び判定プログラムを実施するための形態（以下、「実施形態」と呼ぶ）について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る判定装置、判定方法、及び判定プログラムが限定されるものではない。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略される。
【００１０】
（実施形態）
〔１−１．判定処理〕
図１を用いて、実施形態に係る判定処理の一例について説明する。図１は、実施形態に係る判定処理の一例を示す図である。図１では、判定装置１００（図３参照）がオークションサービスを提供するサービス提供装置５０（図２参照）からオークションに関する情報（以下、「オークション情報」ともいう）を取得し、取得したオークション情報に含まれる出品物が被疑出品物であるかどうかを判定する場合を示す。なお、ここでいう出品物は、サービス提供装置５０が提供するオークションサービスにおいて出品される種々の商品やサービスであるものとする。以下では、「商品またはサービス」を単に「商品」と記載する場合がある。
【００１１】
また、以下では、サービスの利用規約に違反すると判定された出品物を「違反出品物」とし、サービスの利用規約に違反する可能性があると判定された出品物を「被疑出品物」とする場合がある。ここでいうサービスの利用規約に違反する出品物とは、例えば、公序良俗に反する商品や犯罪への利用の虞のある商品や他人の権利（著作権等）を侵害する商品等がある。なお、上記は一例でありどのような商品（対象）が違反商品（違反対象）や被疑商品（被疑対象）になるかは、サービスの利用規約に応じて変動してもよい。
【００１２】
例えば、判定装置１００は、ユーザの行動情報に基づいて、出品物が被疑出品物であるかどうかを判定する。図１の例では、判定装置１００は、オークションサービスを利用するユーザの行動情報のうち、オークションサービスにおいてウォッチリストに追加した出品物に関する情報を用いる場合を示す。例えば、判定装置１００は、ユーザ情報記憶部１２２（図５）に記憶されたユーザ情報のうち、ウォッチリストに追加した出品物に関する情報を用いる。
【００１３】
なお、ここでいうウォッチリストとは、ユーザに関連付けられた所定のリストであり、ユーザが出品物を自身のウォッチリストに追加することにより、そのユーザは、その出品物の入札最高価格、入札残り時間を確認したり、その出品物のオークションの終了時間が近づくとメール等の所定の通知を受けたりすることができる。例えば、各ユーザは、オークションサービスが提供されるサイト等においてオークション情報（出品物）を閲覧し、自身が興味や関心を示すこと等により所定の関係を有する出品物を指定（選択）することにより、自身のウォッチリストに出品物を追加する。例えば、各ユーザは、自身が購入を希望したり入札経過を把握したりすることを望む出品物を指定（選択）することにより、自身のウォッチリストに出品物を追加する。例えば、各ユーザのウォッチリストには、各ユーザの出品物に対する指定に応じて、各ユーザの趣味趣向が反映された出品物が含まれることとなる。なお、以下では、ウォッチリストへ追加する出品物の選択を指定とする場合を示すが、出品物に対する指定はどのようなユーザの行動であってもよい。例えば、ユーザの指定は、ユーザが所定の対象を含む情報をブックマークすることを含んでもよい。例えば、ユーザの指定は、ユーザが出品物を含むウェブページをブックマークすることを含んでもよい。例えば、ユーザの指定は、ユーザが所定の対象を含む情報を所定時間以上閲覧することを含んでもよい。例えば、ユーザの指定は、ユーザが出品物を含むウェブページを所定時間以上閲覧することを含んでもよい。なお、上記は一例であり、ユーザの行動により、対象が特定可能な行動であればどのような行動（例えば、商品の購入やサービスの利用等）をユーザによる対象の指定としてもよい。
【００１４】
例えば、図１中のウォッチリストＬＴ１は、ユーザＩＤ「Ｕ１」により識別されるユーザＵ１のウォッチリストを示す。なお、上述のように、「ユーザＵ＊（＊は任意の数値）」と記載した場合、その出品物はユーザＩＤ「Ｕ＊」により識別されるユーザであることを示す。例えば、「ユーザＵ２」と記載した場合、そのユーザはユーザＩＤ「Ｕ２」により識別されるユーザである。
【００１５】
また、以下では、「出品物ＡＩＤ＊（＊は任意の数値）」と記載した場合、その出品物はオークションＩＤ「ＡＩＤ＊」により識別されるオークションにおける出品物であることを示す。例えば、「出品物ＡＩＤ１」と記載した場合、その出品物はオークションＩＤ「ＡＩＤ１」により識別されるオークションにおける出品物である。
【００１６】
図１の例では、ユーザＵ１のウォッチリストＬＴ１には、出品物ＡＩＤ１や出品物ＡＩＤ４や出品物ＡＩＤ３が含まれる。また、図１の例では、各ユーザに対応する各ノードを円形により図示し、各オークション情報（出品物）に対応するノードを四角形により図示する。例えば、出品物ＡＩＤ１が漫画に関する出品物であり、出品物ＡＩＤ４や出品物ＡＩＤ３がアニメーションに関する出品物であってもよい。
【００１７】
例えば、図１中の左端の円形のノードは、ユーザＵ１に対応するノードを示す。また、例えば、図１中のユーザＵ１に対応するノードの右隣のノードは、ユーザＵ２に対応するノードを示す。例えば、図１中の左端の四角形のノードは、オークションＩＤ「ＡＩＤ１」により識別されるオークションにおける出品物ＡＩＤ１を示す。また、例えば、図１中の出品物ＡＩＤ１に対応するノードの右隣のノードは、オークションＩＤ「ＡＩＤ２」により識別されるオークションにおける出品物ＡＩＤ２を示す。
【００１８】
また、図１中の各ユーザに対応する円形のノードから各オークション情報（出品物）に対応する四角形のノードに伸びる矢印は、各ユーザのウォッチリストに各オークション情報（出品物）が含まれるか否かを示す。
【００１９】
例えば、図１中のユーザＵ１に対応するノードから、出品物ＡＩＤ１に対応するノードに伸びる矢印ＷＬ１−１は、ユーザＵ１のウォッチリストＬＴ１に出品物ＡＩＤ１が含まれることを示す。また、例えば、図１中のユーザＵ１に対応するノードから、出品物ＡＩＤ３に対応するノードに伸びる矢印ＷＬ１−２は、ユーザＵ１のウォッチリストＬＴ１に出品物ＡＩＤ３が含まれることを示す。また、例えば、図１中のユーザＵ１に対応するノードから、出品物ＡＩＤ４に対応するノードに伸びる矢印ＷＬ１−３は、ユーザＵ１のウォッチリストＬＴ１に出品物ＡＩＤ４が含まれることを示す。このように、図１中のユーザＵ１に対応するノードから各出品物ＡＩＤ１、ＡＩＤ３、ＡＩＤ４のノードへ伸びる矢印ＷＬ１−１〜ＷＬ１−３は、ユーザＵ１のウォッチリストＬＴ１に含まれる出品物を示す。
【００２０】
例えば、図１中の矢印ＷＬ２−１は、ユーザＵ２のウォッチリストに出品物ＡＩＤ２が含まれることを示し、矢印ＷＬ２−２は、ユーザＵ２のウォッチリストに出品物ＡＩＤ３が含まれることを示す。また、例えば、矢印ＷＬ２−３は、ユーザＵ２のウォッチリストに出品物ＡＩＤ４が含まれることを示し、矢印ＷＬ２−４は、ユーザＵ２のウォッチリストに出品物ＡＩＤ５が含まれることを示す。
【００２１】
例えば、図１中の矢印ＷＬ３−１は、ユーザＵ３のウォッチリストに出品物ＡＩＤ３が含まれることを示し、矢印ＷＬ３−２は、ユーザＵ３のウォッチリストに出品物ＡＩＤ４が含まれることを示す。また、例えば、矢印ＷＬ３−３は、ユーザＵ３のウォッチリストに出品物ＡＩＤ５が含まれることを示す。
【００２２】
例えば、図１中の矢印ＷＬ４−１は、ユーザＵ４のウォッチリストに出品物ＡＩＤ５が含まれることを示し、矢印ＷＬ４−２は、ユーザＵ４のウォッチリストに出品物ＡＩＤ６が含まれることを示す。以下では、矢印ＷＬ１−１〜ＷＬ４−２等を区別せずに説明する場合、矢印ＷＬと記載する場合がある。図１の例では、各ユーザに対応する円形のノード群と、各オークション情報（出品物）に対応する四角形のノード群との間を、ウォッチリストへの追加の有無に応じて矢印ＷＬで接続するグラフＧＲ１１を示す。例えば、グラフＧＲ１１は２部グラフである。
【００２３】
例えば、判定装置１００は、ユーザ情報記憶部１２２（図５参照）に記憶された各ユーザＵ１〜Ｕ４等のウォッチリストに関する情報からグラフＧＲ１１を抽出（生成）する。以下、図１中のグラフＧＲ１１を用いて判定処理を説明する。
【００２４】
まず、図１の例では、出品物ＡＩＤ３が違反出品物として判定される（ステップＳ１１）。例えば、オークションサービスを管理する所定の管理者によって利用される管理者装置２０（図２参照）において出品物ＡＩＤ３が違反出品物であると判定される。この場合、判定装置１００は、管理者装置２０から出品物ＡＩＤ３が違反出品物であることを示す情報を取得する。
【００２５】
その後、判定装置１００は、違反出品物に基づいて対象ユーザを抽出する。例えば、判定装置１００は、違反出品物である出品物ＡＩＤ３をウォッチリストに含むユーザを対象ユーザとして抽出する。図１の例では、判定装置１００は、出品物ＡＩＤ３をウォッチリストＬＴ１に含むユーザＵ１を対象ユーザとして抽出する（ステップＳ１２）。また、図１の例では、判定装置１００は、出品物ＡＩＤ３をウォッチリストに含むユーザＵ２を対象ユーザとして抽出する（ステップＳ１３）。また、図１の例では、判定装置１００は、出品物ＡＩＤ３をウォッチリストに含むユーザＵ３を対象ユーザとして抽出する（ステップＳ１４）。なお、判定装置１００は、出品物ＡＩＤ３をウォッチリストに含まないユーザＵ４を対象ユーザとして抽出しない。
【００２６】
その後、判定装置１００は、違反出品物以外に対象ユーザがウォッチリストに追加している出品物に基づいて、被疑出品物を判定する。例えば、判定装置１００は、対象ユーザのウォッチリストに含まれる数が所定の閾値以上である出品物を被疑出品物として判定する。図１の例では、判定装置１００は、対象ユーザのウォッチリストに含まれる数が２以上である出品物を被疑出品物として判定する。
【００２７】
図１の例では、矢印ＷＬ１−１に示すように、出品物ＡＩＤ１はユーザＵ１のウォッチリストＬＴ１にのみ含まれる。そのため、判定装置１００は、対象ユーザのウォッチリストに含まれる数が「１」であり、閾値「２」未満であるとして出品物ＡＩＤ１を被疑出品物ではないと判定する（ステップＳ１５）。
【００２８】
また、図１の例では、矢印ＷＬ２−１に示すように、出品物ＡＩＤ２はユーザＵ２のウォッチリストにのみ含まれる。そのため、判定装置１００は、対象ユーザのウォッチリストに含まれる数が「１」であり、閾値「２」未満であるとして出品物ＡＩＤ２を被疑出品物ではないと判定する（ステップＳ１６）。
【００２９】
また、図１の例では、矢印ＷＬ１−３、ＷＬ２−３、ＷＬ３−２に示すように、出品物ＡＩＤ４はユーザＵ１、Ｕ２、Ｕ３の３人のウォッチリストに含まれる。そのため、判定装置１００は、対象ユーザのウォッチリストに含まれる数が「３」であり、閾値「２」以上であるとして出品物ＡＩＤ４を被疑出品物と判定する（ステップＳ１７）。
【００３０】
また、図１の例では、矢印ＷＬ２−４、ＷＬ３−３に示すように、出品物ＡＩＤ５はユーザＵ２、Ｕ３の２人のウォッチリストに含まれる。そのため、判定装置１００は、対象ユーザのウォッチリストに含まれる数が「２」であり、閾値「２」以上であるとして出品物ＡＩＤ５を被疑出品物と判定する（ステップＳ１８）。また、出品物ＡＩＤ６は対象ユーザであるユーザＵ１、Ｕ２、Ｕ３の３人のいずれのウォッチリストにも含まれないため、判定装置１００は、出品物ＡＩＤ６についての判定を行わない。このように、図１の例では、判定装置１００は、出品物ＡＩＤ４、ＡＩＤ５を被疑出品物と判定する。また、判定装置１００は、被疑出品物と判定した出品物ＡＩＤ４、ＡＩＤ５に関する情報を管理者装置２０へ提供するが、詳細は後述する。
【００３１】
上述したように、判定装置１００は、違反出品物をウォッチリストに含むユーザを対象ユーザとして抽出し、そのユーザのウォッチリストに含まれる出品物を判定対象とすることにより、利用規約に違反する可能性がある被疑対象を効率的に判定することができる。例えば、判定装置１００は、少数の違反出品物を起点（シード）として、その違反出品物をウォッチリストに追加しているユーザ、すなわちその違反出品物に関心を持っているユーザのウォッチリストに含まれる他の出品物を判定対象とする。
【００３２】
これにより、判定装置１００は、少数の違反出品物を端緒として、その違反出品物に関心を持っているユーザを違反出品物に関心を示すユーザ（以下、「高感度ユーザ」）であるとして、そのユーザの行動情報に基づいて被疑出品物を判定する。なお、このような高感度ユーザは、ユーザ自身が不正行為を行っているのではなく、単に特定の趣味趣向を有するユーザであり、オークションサービスから排除すべきユーザとは異なる。そのため、判定装置１００は、高感度ユーザを排除することなく、高感度ユーザにはオークションサービスを利用してもらいつつ、高感度ユーザの行動に注目することにより、オークションサービスの管理者等がパトロールを行うコストの増大を抑制することが可能となる。
【００３３】
したがって、判定装置１００は、高感度ユーザのウォッチリストへの追加等の高感度ユーザの行動情報を利用し、被疑出品物を判定することにより、違反出品物かどうかを判定する対象を絞り込む（抽出する）ことができる。このように、高感度ユーザを対象ユーザとして、高感度ユーザの行動情報を利用して違反出品物かどうかの判定対象を絞り込むことにより、判定装置１００は、判定処理の対象の増大を抑制することができる。これにより、判定装置１００を含む判定システム１は、オークションサービスに出品される膨大な出品物の全てを違反出品物かどうかの判定対象とすることなく、効率的に違反出品物を判定することが可能となる。
【００３４】
〔１−２．対象ユーザ〕
なお、上述した例では、説明を簡単にするために、１つの違反出品物である出品物ＡＩＤ３をウォッチリストに追加しているユーザＵ１、Ｕ２、Ｕ３を対象ユーザとする場合を示したが、対象ユーザは、上記に限らず種々の条件に基づいて抽出されてもよい。
【００３５】
例えば、判定装置１００は、違反出品物に限らず、被疑出品物をウォッチリストに追加しているユーザを対象として判定処理を行ってもよい。この場合、判定装置１００は、図１中のステップＳ１８において被疑出品物であると判定された出品物ＡＩＤ５を追加しているユーザＵ４を対象ユーザとする。これにより、判定装置１００は、被疑出品物が違反出品物かどうかの判定（確定）を待つことなく、被疑出品物を繰り返し判定することが可能となる。
【００３６】
例えば、判定装置１００は、複数の違反出品物や被疑出品物をウォッチリストに追加しているユーザを対象として判定処理を行ってもよい。例えば、判定装置１００は、ウォッチリストに追加している違反出品物や被疑出品物の数が所定の閾値以上であるユーザを対象ユーザとして判定処理を行ってもよい。例えば、判定装置１００は、ウォッチリストに追加している違反出品物や被疑出品物の数が３個以上であるユーザを対象ユーザとして判定処理を行ってもよい。
【００３７】
また、例えば、判定装置１００は、ウォッチリストに含まれる出品物のうち、違反出品物や被疑出品物の割合が所定の閾値以上であるユーザを対象ユーザとして判定処理を行ってもよい。例えば、判定装置１００は、ウォッチリストに含まれる出品物のうち、違反出品物や被疑出品物の割合が５０％以上であるユーザを対象ユーザとして判定処理を行ってもよい。
【００３８】
また、例えば、判定装置１００は、所定のカテゴリに属する違反出品物のうち、ユーザがウォッチリストに追加した違反出品物の割合が所定の閾値以上である場合、そのユーザを対象ユーザとして判定処理を行ってもよい。例えば、判定装置１００は、医薬品のカテゴリに属する違反出品物のうち、ユーザがウォッチリストに追加した違反出品物の割合が６０％以上である場合、そのユーザを対象ユーザとして判定処理を行ってもよい。なお、判定装置１００は、どのユーザを対象ユーザとするかの条件を、オークションサービスを利用するユーザ数や出品物数等の種々の情報に応じて変動させてもよい。
【００３９】
〔１−３．ウォッチリスト外の情報の利用〕
なお、上述した例では、ユーザのウォッチリストに含まれる出品物に関する情報に基づいて、判定処理を行う例を示したが、判定装置１００は、判定処理に利用可能であれば、どのような情報を用いて判定処理を行ってもよい。例えば、判定装置１００は、ユーザの行動に関する各種情報を適宜用いて判定処理を行ってもよい。また、例えば、判定装置１００は、ユーザのオークションサービスにおける各種行動に関する情報を用いて判定処理を行ってもよい。また、例えば、判定装置１００は、ユーザのオークションサービスにおける落札履歴や入札履歴や閲覧履歴を用いて判定処理を行ってもよい。例えば、判定装置１００は、オークションサービスにおいて違反出品物や被疑出品物について落札や入札や閲覧しているユーザを対象ユーザとして判定処理を行ってもよい。
【００４０】
また、例えば、判定装置１００は、ユーザの他のサービスにおける利用情報を用いて判定処理を行ってもよい。例えば、判定装置１００は、ユーザの商品の購入履歴に関する情報を用いて判定処理を行ってもよい。この場合、判定装置１００は、オークションサービス以外の電子商取引サービスにおける購入履歴に関する情報を用いて判定処理を行ってもよい。また、例えば、判定装置１００は、電子商取引サービスにおいてお気に入りリストやカート等の所定のリストへ追加された商品に関する情報を用いて判定処理を行ってもよい。例えば、判定装置１００は、お気に入りリストやカート等の所定のリストへ違反商品や被疑商品を追加しているユーザを対象として判定処理を行ってもよい。この場合、判定装置１００は、所定のリストへ追加された違反商品や被疑商品の数が所定の閾値以上であるユーザを対象ユーザとして判定処理を行ってもよい。
【００４１】
また、上記以外でも、判定装置１００は、ユーザのインターネットにおける他の情報を用いて判定処理を行ってもよい。例えば、判定装置１００は、所定のサイトへの訪問頻度やアクセス時間等に関する情報を用いて判定処理を行ってもよい。この場合、判定装置１００は、違法サイトへの訪問頻度やアクセス時間等が所定の閾値以上であるユーザを対象ユーザとして判定処理を行ってもよい。また、判定装置１００は、ユーザが利用するデバイス（端末装置）に関する情報を用いて判定処理を行ってもよい。
【００４２】
〔１−４．判定対象＝コンテンツ（動画像）〕
なお、上述した例では、オークションサービスにおける出品物を対象として判定処理を行う例を示したが、判定装置１００は、どのような対象に対して判定処理を行ってもよい。例えば、判定装置１００は、動画像等のコンテンツを対象として判定処理を行ってもよい。この場合、判定装置１００は、違法にアップロードされる等により、違法コンテンツとして判定されたコンテンツに関心を示したユーザが関心を示した他のコンテンツを対象コンテンツとして判定処理を行ってもよい。具体的には、判定装置１００は、違法コンテンツをお気に入り等の所定のリストに含むユーザのその所定のリストに含まれる他のコンテンツを対象コンテンツとして判定処理を行ってもよい。
【００４３】
〔１−５．判定対象＝ユーザ〕
また、例えば、判定装置１００は、ユーザを対象として判定処理を行ってもよい。例えば、判定装置１００は、違法な金銭の授受（送受信）を行うユーザを対象として判定処理を行ってもよい。この場合、判定装置１００は、マネー・ローンダリング(資金洗浄)行為等により、違反ユーザとして判定されたユーザが金銭の授受を行った他のユーザを対象に判定処理を行ってもよい。また、例えば、判定装置１００は、象牙等の取引禁止商品の密売や臓器売買等の違法行為を行ったユーザを違反ユーザとして、そのユーザが金銭をやり取りした他のユーザを対象に判定処理を行ってもよい。
【００４４】
〔１−６．判定のタイミング〕
例えば、判定装置１００は、種々の情報を適宜用いて判定処理のタイミングを決定してもよい。例えば、判定装置１００は、出品物は膨大な数となるため、出品物の違反性の確度に応じて、各出品物について判定処理を行う優先順位を変動させてもよい。例えば、判定装置１００は、出品物のタイトルや説明文等の商品情報等に「即決価格」や「短期」等の短期の利用（入落札）を促すような所定の文字列が含まれる場合、その出品物を対象として判定処理を行う優先順位を上げてもよい。また、例えば、判定装置１００は、深夜や週末等の特定の期間において出品される出品物を対象として判定処理を行う優先順位を上げてもよい。
【００４５】
また、例えば、判定装置１００は、ユーザの行動情報に基づいて推定される当該ユーザの行動パターンに応じて、判定処理を行うタイミングを変動させてもよい。図１の例において、ユーザＵ１が毎月２５日から数日間におけるオークションサービスにおける行動頻度が他の期間よりも増加する場合、判定装置１００は、毎月２５日から数日間においてユーザＵ１のウォッチリスト内の情報に基づいて、判定処理を行ってもよい。例えば、判定装置１００は、上記のように行動に特徴的なパターンのあるユーザを抽出し、その特徴的な行動パターンに応じてユーザの行動情報を確認することにより、判定処理を行ってもよい。
【００４６】
〔１−７．隠蔽行為（隠語等）の判定〕
例えば、判定装置１００は、出品物が不明な商品（対象）である場合、その商品について処理を行ってもよい。例えば、判定装置１００は、出品物が不明な商品（対象）である場合、その出品物を違反出品物や被疑出品物として判定してもよい。例えば、判定装置１００は、出品物名が所定の隠語「隠語Ａ」である出品物ＡＩＤ５５を不明な商品（対象）であるとして、出品物ＡＩＤ５５を違反出品物や被疑出品物として判定してもよい。
【００４７】
また、判定装置１００は、隠語の一覧情報を用いて、不明な出品物名が違反性のある対象を示すかどうかを判定してもよい。例えば、判定装置１００は、不明な出品物名が隠語の一覧情報に含まれる場合、その出品物を違反出品物や被疑出品物として判定してもよい。例えば、判定装置１００は、出品物名に含まれる隠語「隠語Ａ」が隠語の一覧情報に含まれる場合、出品物ＡＩＤ５５を違反出品物や被疑出品物として判定してもよい。
【００４８】
〔１−８．違反出品物の判定〕
また、例えば、判定装置１００は、出品物が違反出品物かどうか判定してもよい。例えば、判定装置１００は、出品物のうち、被疑出品物を対象として違反出品物かどうか判定してもよい。例えば、判定装置１００は、極端に高感度ユーザから注目されている出品物を違反出品物と判定してもよい。例えば、判定装置１００は、ウォッチリストに追加した高感度ユーザが所定の閾値以上である出品物を違反出品物と判定してもよい。また、例えば、判定装置１００は、一の出品物をウォッチリストに追加したユーザのうち、高感度ユーザの割合が所定の閾値以上である出品物を違反出品物と判定してもよい。
【００４９】
例えば、判定装置１００は、ウォッチリストを含む複数の評価情報（購買、その他サービス利用）を加えて評価し、傾向が複数観点からの評価で顕著である場合などは閾値を設けて自動判定を行ってもよい。例えば、判定装置１００は、複数の評価の観点の各々のス評価値（スコア）に基づいて、出品物を違反出品物と判定してもよい。例えば、判定装置１００は、一の出品物に関する複数観点からの評価値（スコア）の合計が所定の閾値以上である場合、一の出品物を違反出品物と判定してもよい。例えば、判定装置１００は、一の出品物に関する各観点において一の出品物を指定した高感度ユーザの数と各観点の重みとを乗算して算出される各スコアの合計が所定の閾値以上である場合、一の出品物を違反出品物と判定してもよい。例えば、判定装置１００は、一の出品物について、一の出品物をウォッチリストに追加した高感度ユーザの数（Ｘ１）とウォッチリストの追加の観点の重み（Ｗ１）とを乗算することにより、ウォッチリストの追加に関するスコア（Ｓ１）を算出してもよい。また、例えば、判定装置１００は、一の出品物について、一の出品物に関する情報を所定時間以上閲覧した高感度ユーザの数（Ｘ２）と情報の閲覧の観点の重み（Ｗ２）とを乗算することにより、情報の閲覧に関するスコア（Ｓ２）を算出してもよい。また、例えば、判定装置１００は、スコア（Ｓ１）やスコア（Ｓ２）等の種々の観点のスコアを合算して合計スコアを算出し、合計スコアが所定の閾値以上である場合、一の出品物を違反出品物と判定してもよい。なお、上記は一例であり、判定装置１００は、種々の情報を適宜用いて、違反出品物の判定を行ってもよい。
【００５０】
〔２．判定システムの構成〕
図２に示すように、判定システム１は、端末装置１０と、管理者装置２０と、サービス提供装置５０と、判定装置１００とが含まれる。端末装置１０と、管理者装置２０と、サービス提供装置５０と、判定装置１００とは所定のネットワークＮを介して、有線または無線により通信可能に接続される。図２は、実施形態に係る判定システムの構成例を示す図である。なお、図２に示した判定システム１には、複数台の端末装置１０や、複数台の管理者装置２０や、複数台のサービス提供装置５０や、複数台の判定装置１００が含まれてもよい。
【００５１】
端末装置１０は、ユーザによって利用される情報処理装置である。端末装置１０は、ユーザによる種々の操作を受け付ける。なお、以下では、端末装置１０をユーザと表記する場合がある。すなわち、以下では、ユーザを端末装置１０と読み替えることもできる。なお、上述した端末装置１０は、例えば、スマートフォンや、タブレット型端末や、ノート型ＰＣ（Personal  Computer）や、デスクトップＰＣや、携帯電話機や、ＰＤＡ（Personal  Digital  Assistant）等により実現される。
【００５２】
管理者装置２０は、オークションサービスを管理する所定の管理者によって利用される情報処理装置である。管理者装置２０は、例えば、スマートフォンや、タブレット型端末や、ノート型ＰＣや、デスクトップＰＣや、携帯電話機や、ＰＤＡ等により実現される。例えば、所定の管理者は、管理者装置２０を用いて、違反出品物かどうかを判定する。
【００５３】
サービス提供装置５０は、電子商取引サービスであるオークションサービスを提供する情報処理装置である。例えば、サービス提供装置５０は、ユーザ（出品者）からの商品の出品を受け付け、出品物に対するユーザの入札を受け付ける。また、サービス提供装置５０は、オークションサービスにおけるオークション情報を判定装置１００へ提供する。
【００５４】
判定装置１００は、ユーザの行動情報に基づいて、ユーザの行動に関する一の対象が、利用規約に違反する可能性がある被疑対象かどうかを判定する情報処理装置である。例えば、判定装置１００は、被疑出品物に関する情報を管理者装置２０へ提供する。また、例えば、判定装置１００は、違反出品物に関する情報を管理者装置２０から取得する。なお、判定装置１００は、出品物を違反出品物かどうか判定してもよい。例えば、判定装置１００は、出品物のうち、被疑出品物を対象として違反出品物かどうか判定してもよい。例えば、判定装置１００は、所定の管理者が違反出品物と判定した出品物を正例とし、所定の管理者が違反出品物と判定した出品物を負例として学習されたモデルを用いて、被疑出品物等の出品物が違反出品物かどうか判定してもよい。
【００５５】
〔３．判定装置の構成〕
次に、図３を用いて、実施形態に係る判定装置１００の構成について説明する。図３は、実施形態に係る判定装置１００の構成例を示す図である。図３に示すように、判定装置１００は、通信部１１０と、記憶部１２０と、制御部１３０とを有する。なお、判定装置１００は、判定装置１００の管理者等から各種操作を受け付ける入力部（例えば、キーボードやマウス等）や、各種情報を表示するための表示部（例えば、液晶ディスプレイ等）を有してもよい。
【００５６】
（通信部１１０）
通信部１１０は、例えば、ＮＩＣ（Network  Interface  Card）等によって実現される。そして、通信部１１０は、ネットワーク（例えば図２中のネットワークＮ）と有線または無線で接続され、端末装置１０との間で情報の送受信を行う。
【００５７】
（記憶部１２０）
記憶部１２０は、例えば、ＲＡＭ（Random  Access  Memory）、フラッシュメモリ（Flash  Memory）等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現される。実施形態に係る記憶部１２０は、図３に示すように、オークション情報記憶部１２１と、ユーザ情報記憶部１２２とを有する。
【００５８】
（オークション情報記憶部１２１）
実施形態に係るオークション情報記憶部１２１は、オークションに関する情報を記憶する。例えば、オークション情報記憶部１２１には、オークションに出品された商品（出品物）等の各種情報が記憶される。図４は、実施形態に係るオークション情報記憶部の一例を示す図である。図４には、オークション情報記憶部１２１に記憶されるオークションに関する情報の一例を示す。図４に示すように、オークション情報記憶部１２１は、オークションに関する情報として、「オークションＩＤ」、「ステータス」、「出品物名」、「出品者ＩＤ」といった項目が含まれる。
【００５９】
「オークションＩＤ」は、オークションを識別するための識別情報を示す。「ステータス」は、対応するオークションにおける出品物の違反に関する状態を示す。「出品物名」は、対応するオークションにおいて出品された商品（出品物）の名称等を示す。また、「出品者ＩＤ」は、対応する商品を出品したユーザを識別するための識別情報を示す。
【００６０】
例えば、図４に示す例において、オークションＩＤ「ＡＩＤ１」により識別されるオークションにおける出品物ＡＩＤ１のステータスは、「通常（０）」、すなわち被疑出品物や違反出品物と判定されていない出品物であることを示す。また、例えば、図４に示す例において、出品物ＡＩＤ１の出品物名は、「商品Ａ」であることを示す。なお、図４の例では、出品物名を「商品Ａ」等と抽象的に図示するが、「出品物名」には、具体的な出品物名（タイトル）が記憶されるものとする。また、例えば、図４に示す例において、オークションＩＤ「ＡＩＤ１」により識別される商品の出品者は、出品者ＩＤ「ＳＥ１１」により識別されるユーザであることを示す。
【００６１】
また、例えば、図４に示す例において、オークションＩＤ「ＡＩＤ３」により識別されるオークションにおける出品物ＡＩＤ３のステータスは、「違反（２）」、すなわち違反出品物であると判定された出品物であることを示す。また、例えば、図４に示す例において、出品物ＡＩＤ３の出品物名は、「商品Ｃ」であることを示す。また、例えば、図４に示す例において、オークションＩＤ「ＡＩＤ３」により識別される商品の出品者は、出品者ＩＤ「ＳＥ３１」により識別されるユーザであることを示す。
【００６２】
また、例えば、図４に示す例において、オークションＩＤ「ＡＩＤ４」により識別されるオークションにおける出品物ＡＩＤ４のステータスは、「被疑（１）」、すなわち被疑出品物であると判定された出品物であることを示す。また、例えば、図４に示す例において、出品物ＡＩＤ４の出品物名は、「商品Ｄ」であることを示す。また、例えば、図４に示す例において、オークションＩＤ「ＡＩＤ４」により識別される商品の出品者は、出品者ＩＤ「ＳＥ４１」により識別されるユーザであることを示す。
【００６３】
なお、オークション情報記憶部１２１は、上記に限らず、目的に応じて種々の情報を記憶してもよい。例えば、オークション情報記憶部１２１は、商品が落札された日時に関する情報を記憶してもよい。オークション情報記憶部１２１は、入札された入札数を示す情報を記憶してもよい。また、オークション情報記憶部１２１は、商品の写真などの画像を示す情報を記憶してもよい。
【００６４】
（ユーザ情報記憶部１２２）
実施形態に係るユーザ情報記憶部１２２は、ユーザに関する各種情報を記憶する。図５は、実施形態に係るユーザ情報記憶部の一例を示す図である。例えば、ユーザ情報記憶部１２２は、ユーザがウォッチリストに追加したオークション情報やユーザの行動履歴に関する情報を記憶する。図５の例では、ユーザ情報記憶部１２２には、「ユーザＩＤ」、「ウォッチリスト」、「履歴情報」といった項目が含まれる。
【００６５】
「ユーザＩＤ」は、ユーザを識別するための識別情報を示す。「ウォッチリスト」は、対応するユーザが、ウォッチリストに追加したオークション情報（出品物）を示す。また、「履歴情報」は、対応するユーザの行動履歴に関する情報を示す。
【００６６】
「ウォッチリスト」には、「オークションＩＤ」や「日時」といった項目が含まれる。例えば、「オークションＩＤ」は、オークションを識別する情報、すなわち出品物を識別する情報を示す。また、「日時」は、対応する商品等の決済が行われた日時を示す。なお、「日時」は、対応するオークション情報がウォッチリストに追加された日時を示す。なお、図５の例では、「日時」に記憶される情報を「ｄｔ１０」等の符号で図示するが、「日時」には、「２０１６年１１月１８日２１時０１分４３秒」等の具体的な日時が記憶されるものとする。
【００６７】
「行動履歴」には、「行動」や「日時」といった項目が含まれる。なお、図５では図示を省略するが、「行動履歴」には、各行動を識別する「行動ＩＤ」等の識別情報に関する項目が含まれてもよい。「行動」は、対応するユーザの行動の具体的な内容を示す。「日時」は、対応するユーザの行動が行われた日時を示す。
【００６８】
例えば、図５に示す例において、ユーザＩＤ「Ｕ１」により識別されるユーザ（ユーザＵ１）は、日時ｄｔ１０にオークションＩＤ「ＡＩＤ１」により識別されるオークション情報（出品物ＡＩＤ１）をウォッチリストに追加したことを示す。また、例えば、図５に示す例において、ユーザＵ１は、日時ｄｔ１１にオークションＩＤ「ＡＩＤ４」により識別されるオークション情報（出品物ＡＩＤ４）をウォッチリストに追加し、日時ｄｔ１２にオークションＩＤ「ＡＩＤ３」により識別されるオークション情報（出品物ＡＩＤ３）をウォッチリストに追加したことを示す。
【００６９】
例えば、図５に示す例において、ユーザＩＤ「Ｕ１」により識別されるユーザ（ユーザＵ１）は、日時ｄｔ１にページＡのコンテンツ閲覧を行ったことを示す。また、図５に示す例においてユーザＵ１は、日時ｄｔ５にクエリ「クエリＢ」を用いた検索を行ったことを示す。また、図５に示す例においてユーザＵ１は、日時ｄｔ１０に出品物ＡＩＤ１をウォッチリストに追加したことを示す。
【００７０】
なお、ユーザ情報記憶部１２２は、上記に限らず、目的に応じて種々の情報を記憶してもよい。例えば、ユーザ情報記憶部１２２は、行動履歴としてユーザが入札を行ったオークション情報（出品物）に関する情報を記憶してもよい。また、例えば、ユーザ情報記憶部１２２は、ユーザの属性に関する情報を記憶してもよい。例えば、ユーザ情報記憶部１２２は、デモグラフィック属性情報やサイコグラフィック属性情報を記憶してもよい。例えば、ユーザ情報記憶部１２２は、氏名、年齢、性別、自宅、勤務地、興味、家族構成、収入、ライフスタイル等の情報を記憶してもよい。
【００７１】
（制御部１３０）
図３の説明に戻って、制御部１３０は、コントローラ（controller）であり、例えば、ＣＰＵ（Central  Processing  Unit）やＭＰＵ（Micro  Processing  Unit）等によって、判定装置１００内部の記憶装置に記憶されている各種プログラム（判定プログラムの一例に相当）がＲＡＭを作業領域として実行されることにより実現される。また、制御部１３０は、コントローラであり、例えば、ＡＳＩＣ（Application  Specific  Integrated  Circuit）やＦＰＧＡ（Field  Programmable  Gate  Array）等の集積回路により実現される。
【００７２】
図３に示すように、制御部１３０は、取得部１３１と、抽出部１３２と、判定部１３３と、提供部１３４とを有し、以下に説明する判定処理等の情報処理の機能や作用を実現または実行する。なお、制御部１３０の内部構成は、図３に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。
【００７３】
（取得部１３１）
取得部１３１は、各種情報を取得する。例えば、取得部１３１は、オークション情報記憶部１２１やユーザ情報記憶部１２２等から各種情報を取得する。また、取得部１３１は、各種情報を外部の情報処理装置から取得してもよい。また、取得部１３１は、端末装置１０や管理者装置２０やサービス提供装置５０から各種情報を取得する。図１の例では、取得部１３１は、管理者装置２０から出品物ＡＩＤ３が違反出品物であることを示す情報を取得する。
【００７４】
例えば、取得部１３１は、所定のサービスの利用規約に違反すると判定された対象である違反対象に対する所定のサービスを利用するユーザの指定（選択）が、所定の条件を満たすユーザの行動情報を取得する。また、例えば、取得部１３１は、ユーザが指定した違反対象の数が所定の閾値以上である場合、そのユーザの行動情報を取得する。また、例えば、取得部１３１は、ユーザが指定した対象のうち違反対象の割合が所定の閾値以上である場合、そのユーザの行動情報を取得する。
【００７５】
例えば、取得部１３１は、被疑対象の指定に関する条件を満たすユーザの行動情報を取得する。また、例えば、取得部１３１は、ユーザに関連付けられた所定のリストに含まれる違反対象が所定の条件を満たすユーザの行動情報を取得する。また、例えば、取得部１３１は、ユーザに関連付けられた所定のリストに含まれる違反対象の数が所定の閾値以上であるユーザの行動情報を取得する。また、例えば、取得部１３１は、ユーザに関連付けられた所定のリストに違反対象を追加したそのユーザの行動情報を取得する。また、例えば、取得部１３１は、オークションサービスの利用規約に違反すると判定された出品物である違反出品物を指定したユーザの行動情報を取得する。図１の例では、取得部１３１は、違反出品物と判定された出品物ＡＩＤ３をウォッチリストＬＴ１に含むユーザＵ１の行動情報を取得する。
【００７６】
また、例えば、取得部１３１は、所定のカテゴリに属する違反対象のうち、ユーザが指定した被疑対象の割合が所定の閾値以上である場合、そのユーザの行動情報を取得する。この点についての詳細は後述する。
【００７７】
（抽出部１３２）
抽出部１３２は、各種情報を抽出する。例えば、抽出部１３２は、対象ユーザを抽出する。例えば、抽出部１３２は、違反出品物に基づいて対象ユーザを抽出する。図１の例では、抽出部１３２は、違反出品物である出品物ＡＩＤ３をウォッチリストに含むユーザを対象ユーザとして抽出する。図１の例では、抽出部１３２は、出品物ＡＩＤ３をウォッチリストＬＴ１に含むユーザＵ１を対象ユーザとして抽出する。また、図１の例では、抽出部１３２は、出品物ＡＩＤ３をウォッチリストに含むユーザＵ２を対象ユーザとして抽出する。また、図１の例では、抽出部１３２は、出品物ＡＩＤ３をウォッチリストに含むユーザＵ３を対象ユーザとして抽出する。
【００７８】
（判定部１３３）
判定部１３３は、各種情報を判定する。例えば、判定部１３３は、取得部１３１により取得されたユーザの行動情報に基づいて、ユーザの行動に関する一の対象が、利用規約に違反する可能性がある被疑対象かどうかを判定する。例えば、判定部１３３は、違反対象であると未判定の一の対象が被疑対象かどうかを判定する。例えば、判定部１３３は、ユーザの行動情報に含まれる一の対象ユーザが被疑対象かどうかを判定する。
【００７９】
また、例えば、判定部１３３は、ユーザが指定した一の対象が被疑対象かどうかを判定する。また、例えば、判定部１３３は、ユーザの行動情報に基づいて推定されるそのユーザの行動パターンに応じて、一の対象が被疑対象かどうかを判定するタイミングを変動させる。また、例えば、判定部１３３は、所定のサービスにおける違反の重大性に関する複数の種別のうち、一の対象が該当する種別に応じて変動する判定条件に基づいて、一の対象が被疑対象かどうかを判定する。
【００８０】
また、例えば、判定部１３３は、一の対象を被疑対象と判定した場合、一の対象を指定する他のユーザが指定する他の対象が被疑対象かどうかを判定する。また、例えば、判定部１３３は、一の対象が被疑対象と判定されたユーザが他の対象を指定した場合、他の対象が被疑対象かどうかを判定する。また、例えば、判定部１３３は、被疑対象と判定した対象が違反対象であるかを判定する。
【００８１】
また、例えば、判定部１３３は、取得部１３１により取得されたユーザの行動情報に基づいて、所定のリストに含まれる一の対象が被疑対象かどうかを判定する。また、例えば、判定部１３３は、取得部１３１により取得されたユーザの行動情報に基づいて、ユーザが指定する一の出品物が、利用規約に違反する可能性がある被疑出品物かどうかを判定する。
【００８２】
図１の例では、判定部１３３は、対象ユーザのウォッチリストに含まれる数が「１」であり、閾値「２」未満であるとして出品物ＡＩＤ１を被疑出品物ではないと判定する。また、図１の例では、判定部１３３は、対象ユーザのウォッチリストに含まれる数が「１」であり、閾値「２」未満であるとして出品物ＡＩＤ２を被疑出品物ではないと判定する。また、図１の例では、判定部１３３は、対象ユーザのウォッチリストに含まれる数が「３」であり、閾値「２」以上であるとして出品物ＡＩＤ４を被疑出品物と判定する。また、図１の例では、判定部１３３は、対象ユーザのウォッチリストに含まれる数が「２」であり、閾値「２」以上であるとして出品物ＡＩＤ５を被疑出品物と判定する。
【００８３】
（提供部１３４）
提供部１３４は、各種情報を提供する。例えば、提供部１３４は、管理者装置２０に各種情報を提供する。例えば、提供部１３４は、管理者装置２０に被疑出品物に関する情報を提供する。例えば、提供部１３４は、端末装置１０やサービス提供装置５０に各種情報を提供する。
【００８４】
〔４．判定処理のフロー〕
次に、図６を用いて、実施形態に係る判定システム１による判定処理の手順について説明する。図６は、実施形態に係る判定処理の一例を示すフローチャートである。
【００８５】
図６に示すように、判定装置１００は、オークション情報を取得する（ステップＳ１０１）。例えば、判定装置１００は、オークション情報記憶部１２１からオークション情報を取得する。また、例えば、判定装置１００は、サービス提供装置５０からオークション情報を取得する。
【００８６】
また、判定装置１００は、ユーザ情報を取得する（ステップＳ１０２）。例えば、判定装置１００は、ユーザ情報記憶部１２２からユーザ情報を取得する。また、例えば、判定装置１００は、端末装置１０からユーザ情報を取得する。
【００８７】
その後、判定装置１００は、違反出品物または被疑出品物をウォッチリストに含むユーザを対象ユーザとして抽出する（ステップＳ１０３）。図１の例では、判定装置１００は、出品物ＡＩＤ３をウォッチリストに含むユーザＵ１、Ｕ２、Ｕ３を対象ユーザとして抽出する。
【００８８】
そして、判定装置１００は、ユーザの行動情報に基づいて、対象ユーザのウォッチリストに含まれる出品物が被疑対象かどうかを判定する（ステップＳ１０４）。図１の例では、判定装置１００は、対象ユーザのウォッチリストに含まれる数が「１」であり、閾値「２」未満であるとして出品物ＡＩＤ１を被疑出品物ではないと判定する。また、図１の例では、判定装置１００は、対象ユーザのウォッチリストに含まれる数が「１」であり、閾値「２」未満であるとして出品物ＡＩＤ２を被疑出品物ではないと判定する。また、図１の例では、判定装置１００は、対象ユーザのウォッチリストに含まれる数が「３」であり、閾値「２」以上であるとして出品物ＡＩＤ４を被疑出品物と判定する。また、図１の例では、判定装置１００は、対象ユーザのウォッチリストに含まれる数が「２」であり、閾値「２」以上であるとして出品物ＡＩＤ５を被疑出品物と判定する。
【００８９】
〔５．判定処理のフロー〕
次に、図７を用いて、実施形態に係る判定システム１による判定処理の手順について説明する。図７は、実施形態に係る判定処理の一例を示すシーケンス図である。
【００９０】
図７に示すように、判定装置１００は、サービス提供装置５０からオークション情報を取得する（ステップＳ２０１）。例えば、判定装置１００は、オークション情報記憶部１２１（図４参照）に示すようなオークション情報をサービス提供装置５０から取得する。
【００９１】
また、判定装置１００は、端末装置１０からユーザ情報を取得する（ステップＳ２０２）。例えば、判定装置１００は、ユーザ情報記憶部１２２（図５参照）に示すような各ユーザのウォッチリストに関する情報や行動履歴を端末装置１０から取得する。なお、例えば、判定装置１００は、ユーザ情報記憶部１２２（図５参照）に示すような各ユーザのウォッチリストに関する情報や行動履歴をサービス提供装置５０等の他の外部装置から取得してもよい。
【００９２】
また、判定装置１００は、管理者装置２０から違反出品物情報を取得する（ステップＳ２０３）。例えば、判定装置１００は、管理者装置２０から出品物ＡＩＤ３が違反出品物であることを示す情報を取得する。
【００９３】
その後、判定装置１００は、対象ユーザを抽出する（ステップＳ２０４）。図１の例では、判定装置１００は、出品物ＡＩＤ３をウォッチリストに含むユーザＵ１、Ｕ２、Ｕ３を対象ユーザとして抽出する。
【００９４】
その後、判定装置１００は、被疑出品物を判定する（ステップＳ２０５）。図１の例では、判定装置１００は、対象ユーザのウォッチリストに含まれる数が「１」であり、閾値「２」未満であるとして出品物ＡＩＤ１を被疑出品物ではないと判定する。また、図１の例では、判定装置１００は、対象ユーザのウォッチリストに含まれる数が「１」であり、閾値「２」未満であるとして出品物ＡＩＤ２を被疑出品物ではないと判定する。また、図１の例では、判定装置１００は、対象ユーザのウォッチリストに含まれる数が「３」であり、閾値「２」以上であるとして出品物ＡＩＤ４を被疑出品物と判定する。また、図１の例では、判定装置１００は、対象ユーザのウォッチリストに含まれる数が「２」であり、閾値「２」以上であるとして出品物ＡＩＤ５を被疑出品物と判定する。
【００９５】
その後、判定装置１００は、被疑出品物情報を管理者装置２０へ提供する（ステップＳ２０６）。例えば、判定装置１００は、出品物ＡＩＤ４、ＡＩＤ５を被疑出品物と判定したことを示す情報を管理者装置２０へ提供する。
【００９６】
判定装置１００から被疑出品物情報を受信した管理者装置２０は、被疑出品物が違反出品物かどうかを判定する（ステップＳ２０７）。例えば、管理者装置２０の管理者は、各被疑出品物の内容を確認すること等により、各被疑出品物が違反出品物かどうかを判定する。例えば、管理者装置２０の管理者は、判定装置１００により被疑出品物と判定された出品物ＡＩＤ４、ＡＩＤ５の内容を確認すること等により、出品物ＡＩＤ４、ＡＩＤ５が違反出品物かどうかを判定する。
【００９７】
その後、管理者装置２０は、判定装置１００へ違反出品物情報を送信する（ステップＳ２０８）。例えば、管理者装置２０は、管理者装置２０の管理者が出品物ＡＩＤ４、ＡＩＤ５を違反出品物と判定した場合、出品物ＡＩＤ４、ＡＩＤ５が違反出品物であることを示す情報を判定装置１００へ送信する。
【００９８】
〔６．オークション情報記憶部の他の構成例〕
上記の実施形態に限らず、判定装置１００は種々の構成により各種情報を格納してもよい。例えば、判定装置１００は、オークションについての種別に関する情報を格納してもよい。この点について、図８及び図９を基に説明する。図８は、実施形態に係るオークション情報記憶部の他の構成例を示す図である。
【００９９】
（オークション情報記憶部１２１Ａ）
図８中のオークション情報記憶部１２１Ａは、オークションに関する情報を記憶する。例えば、オークション情報記憶部１２１Ａには、オークションに出品された商品（出品物）等の各種情報が記憶される。図８に示すように、オークション情報記憶部１２１Ａは、オークションに関する情報として、「オークションＩＤ」、「ステータス」、「出品物名」、「種別」、「出品者ＩＤ」、といった項目が含まれる。このように、オークション情報記憶部１２１Ａは、項目「種別」を有する点以外は、図４に示すオークション情報記憶部１２１と同様である。
【０１００】
「種別」は、対応するオークションにおける出品物の違法性に関する度合い（ランク）を示す。図８の例では、種別「種別＊」の「＊」がＡから順に違法性のランクが高くなるものとし、種別「種別Ｅ」のランクが最も高いものとする。例えば、出品物ＡＩＤ１や出品物ＡＩＤ２の種別「種別Ａ」は、違法性に関するランクが低いことを示す。また、例えば、出品物ＡＩＤ３の種別「種別Ｅ」は、違法性に関するランクが高いことを示す。また、例えば、出品物ＡＩＤ４の種別「種別Ｃ」は、違法性に関するランクがやや高いことを示す。なお、種別Ａ〜Ｅの違法性のランクは、例えば、公序良俗に反することや犯罪への利用の虞や他人の権利（著作権等）の侵害の違法性の高低に応じて適宜付与されるものとりする。
【０１０１】
なお、上記のオークション情報記憶部１２１Ａでは、全出品物について「種別」を記憶する場合を示したが、「種別」は被疑出品物や違反出品物についてのみ記憶してもよい。
【０１０２】
〔７．判定処理の他のフロー〕
次に、図９を用いて、実施形態に係る判定システム１における判定処理の他のフローについて説明する。図９は、実施形態に係る判定処理の他の例を示すフローチャートである。具体的には、図９は、実施形態に係る判定システム１における各出品物の種別に基づく判定処理の手順を示すフローチャートである。
【０１０３】
図９に示すように、判定装置１００は、オークション情報を取得する（ステップＳ３０１）。例えば、判定装置１００は、オークション情報記憶部１２１Ａからオークション情報を取得する。また、例えば、判定装置１００は、サービス提供装置５０からオークション情報を取得する。
【０１０４】
また、判定装置１００は、ユーザ情報を取得する（ステップＳ３０２）。例えば、判定装置１００は、ユーザ情報記憶部１２２からユーザ情報を取得する。また、例えば、判定装置１００は、端末装置１０からユーザ情報を取得する。
【０１０５】
その後、判定装置１００は、違反出品物または被疑出品物をウォッチリストに含むユーザを対象ユーザとして抽出する（ステップＳ３０３）。なお、判定装置１００は、違反出品物の種別や被疑出品物の種別に応じて変動する条件に基づいて、対象ユーザを抽出する。
【０１０６】
例えば、判定装置１００は、種別Ｅである違反出品物または被疑出品物を１個でもウォッチリストに含む場合、そのユーザを対象ユーザとして抽出する。また、例えば、判定装置１００は、種別Ｃである違反出品物または被疑出品物を５個ウォッチリストに含む場合、そのユーザを対象ユーザとして抽出する。また、例えば、判定装置１００は、種別Ａである違反出品物または被疑出品物を１０個ウォッチリストに含む場合、そのユーザを対象ユーザとして抽出する。また、例えば、判定装置１００は、種別Ａ〜Ｅの各々の個別スコアを１〜５として、ウォッチリストに含む違反出品物または被疑出品物の個別スコアの合計が所定の閾値以上であるユーザを対象ユーザとして抽出する。
【０１０７】
例えば、判定装置１００は、ウォッチリストに含む違反出品物または被疑出品物の個別スコアの合計が閾値「１０」以上であるユーザを対象ユーザとして抽出する。例えば、判定装置１００は、あるユーザのウォッチリストに種別Ａの違反出品物及び種別Ｄの被疑出品物が含まれる場合、種別Ａの違反出品物の個別スコア「１」と種別Ｄの被疑出品物の個別スコア「４」とを合計して合計スコア「５（＝１＋４）」を算出する。この場合、合計スコア「５」が閾値「１０」未満であるため、判定装置１００は、そのユーザを対象ユーザとして抽出しない。
【０１０８】
また、例えば、判定装置１００は、あるユーザのウォッチリストに種別Ｂの３つの違反出品物及び種別Ｅの被疑出品物が含まれる場合、種別Ｂの各違反出品物の個別スコア「２」と種別Ｅの被疑出品物の個別スコア「５」とを合計して合計スコア「１１（＝２＊３＋５）」を算出する。この場合、合計スコア「１１」が閾値「１０」以上であるため、判定装置１００は、そのユーザを対象ユーザとして抽出する。なお、同じ種別であっても違反出品物の個別スコアのほうが被疑出品物の個別スコアよりも高くなるようにしてもよい。例えば、違反出品物の個別スコアは被疑出品物の個別スコアの１．５倍になるようにしてもよい。
【０１０９】
そして、判定装置１００は、対象ユーザのウォッチリストに含まれる各出品物の種別に応じた判定条件に基づいて、各出品物が被疑対象かどうかを判定する（ステップＳ３０４）。例えば、判定装置１００は、出品物が種別Ｅである場合、その出品物をウォッチリストに含むユーザが１人でもいる場合、その出品物を被疑対象と判定する。また、例えば、判定装置１００は、出品物が種別Ｃである場合、その出品物をウォッチリストに含むユーザが５人いる場合、その出品物を被疑対象と判定する。また、例えば、判定装置１００は、出品物が種別Ａである場合、その出品物をウォッチリストに含むユーザが１０人いる場合、その出品物を被疑対象と判定する。
【０１１０】
〔８．効果〕
上述してきたように、実施形態に係る判定装置１００は、取得部１３１と、判定部１３３とを有する。取得部１３１は、所定のサービスの利用規約に違反すると判定された対象である違反対象に対する当該所定のサービスを利用するユーザの指定が、所定の条件を満たす当該ユーザの行動情報を取得する。判定部１３３は、取得部１３１により取得されたユーザの行動情報に基づいて、ユーザの行動に関する一の対象が、利用規約に違反する可能性がある被疑対象かどうかを判定する。
【０１１１】
これにより、実施形態に係る判定装置１００は、ユーザの行動情報に基づいて、ユーザの行動に関する一の対象が、利用規約に違反する可能性がある被疑対象かどうかを判定し、利用規約に違反する可能性がある被疑対象を効率的に判定することができる。
【０１１２】
また、実施形態に係る判定装置１００において、判定部１３３は、違反対象であると未判定の一の対象が被疑対象かどうかを判定する。
【０１１３】
これにより、実施形態に係る判定装置１００は、違反対象であると未判定の一の対象が被疑対象かどうかを判定し、未判定の対象を順次判定することにより、利用規約に違反する可能性がある被疑対象を効率的に判定することができる。
【０１１４】
また、実施形態に係る判定装置１００において、判定部１３３は、ユーザの行動情報に含まれる一の対象ユーザが被疑対象かどうかを判定する。
【０１１５】
これにより、実施形態に係る判定装置１００は、ユーザの行動情報に含まれる一の対象ユーザが被疑対象かどうかを判定し、ユーザの行動情報に含まれた対象から順次判定することにより、利用規約に違反する可能性がある被疑対象を効率的に判定することができる。
【０１１６】
また、実施形態に係る判定装置１００において、判定部１３３は、ユーザが指定した一の対象が被疑対象かどうかを判定する。
【０１１７】
これにより、実施形態に係る判定装置１００は、ユーザが指定した一の対象が被疑対象かどうかを判定し、利用規約に違反する可能性がある被疑対象を効率的に判定することができる。
【０１１８】
また、実施形態に係る判定装置１００において、取得部１３１は、ユーザが指定した違反対象の数が所定の閾値以上である場合、当該ユーザの行動情報を取得する。
【０１１９】
これにより、実施形態に係る判定装置１００は、ユーザが指定した違反対象の数が所定の閾値以上である場合、当該ユーザの行動情報を取得し、利用規約に違反する可能性がある被疑対象を効率的に判定することができる。
【０１２０】
また、実施形態に係る判定装置１００において、取得部１３１は、ユーザが指定した対象のうち違反対象の割合が所定の閾値以上である場合、当該ユーザの行動情報を取得する。
【０１２１】
これにより、実施形態に係る判定装置１００は、ユーザが指定した対象のうち違反対象の割合が所定の閾値以上である場合、当該ユーザの行動情報を取得し、利用規約に違反する可能性がある被疑対象を効率的に判定することができる。
【０１２２】
また、実施形態に係る判定装置１００において、取得部１３１は、所定のカテゴリに属する違反対象のうち、ユーザが指定した違反対象の割合が所定の閾値以上である場合、当該ユーザの行動情報を取得する。
【０１２３】
これにより、実施形態に係る判定装置１００は、所定のカテゴリに属する違反対象のうち、ユーザが指定した違反対象の割合が所定の閾値以上である場合、当該ユーザの行動情報を取得し、利用規約に違反する可能性がある被疑対象を効率的に判定することができる。
【０１２４】
また、実施形態に係る判定装置１００において、取得部１３１は、被疑対象の指定に関する条件を満たすユーザの行動情報を取得する。
【０１２５】
これにより、実施形態に係る判定装置１００は、被疑対象の指定に関する条件を満たすユーザの行動情報を取得し、利用規約に違反する可能性がある被疑対象を効率的に判定することができる。
【０１２６】
また、実施形態に係る判定装置１００において、判定部１３３は、ユーザの行動情報に基づいて推定される当該ユーザの行動パターンに応じて、一の対象が被疑対象かどうかを判定するタイミングを変動させる。
【０１２７】
これにより、実施形態に係る判定装置１００は、ユーザの行動情報に基づいて推定される当該ユーザの行動パターンに応じて、一の対象が被疑対象かどうかを判定するタイミングを変動させることにより、利用規約に違反する可能性がある被疑対象を効率的に判定することができる。
【０１２８】
また、実施形態に係る判定装置１００において、判定部１３３は、所定のサービスにおける違反の重大性に関する複数の種別のうち、一の対象が該当する種別に応じて変動する判定条件に基づいて、一の対象が被疑対象かどうかを判定する。
【０１２９】
これにより、実施形態に係る判定装置１００は、所定のサービスにおける違反の重大性に関する複数の種別のうち、一の対象が該当する種別に応じて変動する判定条件に基づいて、一の対象が被疑対象かどうかを判定し、利用規約に違反する可能性がある被疑対象を効率的に判定することができる。
【０１３０】
また、実施形態に係る判定装置１００において、判定部１３３は、一の対象を被疑対象と判定した場合、一の対象を指定する他のユーザが指定する他の対象が被疑対象かどうかを判定する。
【０１３１】
これにより、実施形態に係る判定装置１００は、一の対象を被疑対象と判定した場合、一の対象を指定する他のユーザが指定する他の対象が被疑対象かどうかを判定し、利用規約に違反する可能性がある被疑対象を効率的に判定することができる。
【０１３２】
また、実施形態に係る判定装置１００において、判定部１３３は、一の対象が被疑対象と判定されたユーザが他の対象を指定した場合、他の対象が被疑対象かどうかを判定する。
【０１３３】
これにより、実施形態に係る判定装置１００は、一の対象が被疑対象と判定されたユーザが他の対象を指定した場合、他の対象が被疑対象かどうかを判定し、利用規約に違反する可能性がある被疑対象を効率的に判定することができる。
【０１３４】
また、実施形態に係る判定装置１００において、判定部１３３は、被疑対象と判定した対象が違反対象であるかを判定する。
【０１３５】
これにより、実施形態に係る判定装置１００は、被疑対象と判定した対象が違反対象であるかを判定し、利用規約に違反する可能性がある被疑対象を効率的に判定することができる。
【０１３６】
また、実施形態に係る判定装置１００において、取得部１３１は、ユーザに関連付けられた所定のリストに違反対象を追加した当該ユーザの行動情報を取得する。判定部１３３は、取得部１３１により取得されたユーザの行動情報に基づいて、所定のリストに含まれる一の対象が被疑対象かどうかを判定する。
【０１３７】
これにより、実施形態に係る判定装置１００は、ユーザの行動情報に基づいて、所定のリストに含まれる一の対象が被疑対象かどうかを判定し、利用規約に違反する可能性がある被疑対象を効率的に判定することができる。
【０１３８】
また、実施形態に係る判定装置１００において、取得部１３１は、オークションサービスの利用規約に違反すると判定された出品物である違反出品物を指定したユーザの行動情報を取得する。判定部１３３は、取得部１３１により取得されたユーザの行動情報に基づいて、ユーザが指定する一の出品物が、利用規約に違反する可能性がある被疑出品物かどうかを判定する。
【０１３９】
これにより、実施形態に係る判定装置１００は、ユーザの行動情報に基づいて、ユーザが指定する一の出品物が、利用規約に違反する可能性がある被疑出品物かどうかを判定し、利用規約に違反する可能性がある被疑対象を効率的に判定することができる。
【０１４０】
〔９．ハードウェア構成〕
上述してきた実施形態に係る判定装置１００は、例えば図１０に示すような構成のコンピュータ１０００によって実現される。図１０は、判定装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。コンピュータ１０００は、ＣＰＵ１１００、ＲＡＭ１２００、ＲＯＭ（Read  Only  Memory）１３００、ＨＤＤ（Hard  Disk  Drive）１４００、通信インターフェイス（Ｉ／Ｆ）１５００、入出力インターフェイス（Ｉ／Ｆ）１６００、及びメディアインターフェイス（Ｉ／Ｆ）１７００を有する。
【０１４１】
ＣＰＵ１１００は、ＲＯＭ１３００またはＨＤＤ１４００に格納されたプログラムに基づいて動作し、各部の制御を行う。ＲＯＭ１３００は、コンピュータ１０００の起動時にＣＰＵ１１００によって実行されるブートプログラムや、コンピュータ１０００のハードウェアに依存するプログラム等を格納する。
【０１４２】
ＨＤＤ１４００は、ＣＰＵ１１００によって実行されるプログラム、及び、かかるプログラムによって使用されるデータ等を格納する。通信インターフェイス１５００は、ネットワークＮを介して他の機器からデータを受信してＣＰＵ１１００へ送り、ＣＰＵ１１００が生成したデータをネットワークＮを介して他の機器へ送信する。
【０１４３】
ＣＰＵ１１００は、入出力インターフェイス１６００を介して、ディスプレイやプリンタ等の出力装置、及び、キーボードやマウス等の入力装置を制御する。ＣＰＵ１１００は、入出力インターフェイス１６００を介して、入力装置からデータを取得する。また、ＣＰＵ１１００は、生成したデータを入出力インターフェイス１６００を介して出力装置へ出力する。
【０１４４】
メディアインターフェイス１７００は、記録媒体１８００に格納されたプログラムまたはデータを読み取り、ＲＡＭ１２００を介してＣＰＵ１１００に提供する。ＣＰＵ１１００は、かかるプログラムを、メディアインターフェイス１７００を介して記録媒体１８００からＲＡＭ１２００上にロードし、ロードしたプログラムを実行する。記録媒体１８００は、例えばＤＶＤ（Digital  Versatile  Disc）、ＰＤ（Phase  change  rewritable  Disk）等の光学記録媒体、ＭＯ（Magneto-Optical  disk）等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。
【０１４５】
例えば、コンピュータ１０００が実施形態に係る判定装置１００として機能する場合、コンピュータ１０００のＣＰＵ１１００は、ＲＡＭ１２００上にロードされたプログラムを実行することにより、制御部１３０の機能を実現する。コンピュータ１０００のＣＰＵ１１００は、これらのプログラムを記録媒体１８００から読み取って実行するが、他の例として、他の装置からネットワークＮを介してこれらのプログラムを取得してもよい。
【０１４６】
以上、本願の実施形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の行に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
【０１４７】
〔１０．その他〕
また、上記実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。
【０１４８】
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
【０１４９】
また、上述してきた各実施形態に記載された各処理は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
【０１５０】
また、上述してきた「部（section、module、unit）」は、「手段」や「回路」などに読み替えることができる。例えば、取得部は、取得手段や取得回路に読み替えることができる。
【符号の説明】
【０１５１】
１  判定システム
１００  判定装置
１２１  オークション情報記憶部
１２２  ユーザ情報記憶部
１３０  制御部
１３１  取得部
１３２  抽出部
１３３  判定部
１３４  提供部
１０  端末装置
２０  管理者装置
５０  サービス提供装置
Ｎ  ネットワーク
【図１】
2018097403.tif 000003
【図２】
2018097403.tif 000004
【図３】
2018097403.tif 000005
【図４】
2018097403.tif 000006
【図５】
2018097403.tif 000007
【図６】
2018097403.tif 000008
【図７】
2018097403.tif 000009
【図８】
2018097403.tif 000010
【図９】
2018097403.tif 000011
【図１０】
2018097403.tif 000012
【手続補正書】
【提出日】平成29年9月8日(2017.9.8)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
所定のサービスを利用するユーザのうち、当該所定のサービスの利用規約に違反すると判定された対象である違反対象に対する指定を行うことにより、前記指定に関する所定の条件を満たすユーザとして抽出される対象ユーザの行動情報を取得する取得部と、
前記取得部により取得された前記対象ユーザの行動情報に含まれる一の対象に関する行動情報と、所定の閾値との比較に基づいて、前記一の対象が、前記利用規約に違反する可能性がある被疑対象かどうかを判定する判定部と、
を備えたことを特徴とする判定装置。
【請求項２】
前記判定部は、
違反対象であると未判定の前記一の対象が被疑対象かどうかを判定する
ことを特徴とする請求項１に記載の判定装置。
【請求項３】
前記判定部は、
前記対象ユーザの行動情報に含まれる前記一の対象が被疑対象かどうかを判定する
ことを特徴とする請求項１または請求項２に記載の判定装置。
【請求項４】
前記判定部は、
前記対象ユーザが指定した前記一の対象が被疑対象かどうかを判定する
ことを特徴とする請求項１〜３のいずれか１項に記載の判定装置。
【請求項５】
前記取得部は、
ユーザが指定した違反対象の数が所定の閾値以上である場合、当該ユーザを対象ユーザとして、当該対象ユーザの行動情報を取得する
ことを特徴とする請求項１〜４のいずれか１項に記載の判定装置。
【請求項６】
前記取得部は、
ユーザが指定した対象のうち違反対象の割合が所定の閾値以上である場合、当該ユーザを対象ユーザとして、当該対象ユーザの行動情報を取得する
ことを特徴とする請求項１〜５のいずれか１項に記載の判定装置。
【請求項７】
前記取得部は、
所定のカテゴリに属する違反対象のうち、ユーザが指定した違反対象の割合が所定の閾値以上である場合、当該ユーザを対象ユーザとして、当該対象ユーザの行動情報を取得する
ことを特徴とする請求項１〜６のいずれか１項に記載の判定装置。
【請求項８】
前記取得部は、
前記被疑対象の指定に関する条件を満たすユーザを対象ユーザとして、当該対象ユーザの行動情報を取得する
ことを特徴とする請求項１〜７のいずれか１項に記載の判定装置。
【請求項９】
前記判定部は、
前記対象ユーザの行動情報に基づいて推定される当該対象ユーザの行動パターンに応じて、前記一の対象が前記被疑対象かどうかを判定するタイミングを変動させる
ことを特徴とする請求項１〜８のいずれか１項に記載の判定装置。
【請求項１０】
前記判定部は、
前記所定のサービスにおける違反の重大性に関する複数の種別のうち、前記一の対象が該当する種別に応じて変動する判定条件に基づいて、前記一の対象が被疑対象かどうかを判定する
ことを特徴とする請求項１〜９のいずれか１項に記載の判定装置。
【請求項１１】
前記判定部は、
前記一の対象を被疑対象と判定した場合、前記一の対象を指定する他のユーザが指定する他の対象が被疑対象かどうかを判定する
ことを特徴とする請求項１〜１０のいずれか１項に記載の判定装置。
【請求項１２】
前記判定部は、
前記一の対象が被疑対象と判定された前記ユーザが他の対象を指定した場合、前記他の対象が被疑対象かどうかを判定する
ことを特徴とする請求項１〜１１のいずれか１項に記載の判定装置。
【請求項１３】
前記判定部は、
前記被疑対象と判定した対象が違反対象であるかを判定する
ことを特徴とする請求項１〜１２のいずれか１項に記載の判定装置。
【請求項１４】
前記取得部は、
ユーザに関連付けられた所定のリストに含まれる違反対象が所定の条件を満たす当該ユーザを対象ユーザとして、当該対象ユーザの行動情報を取得し、
前記判定部は、
前記取得部により取得された前記対象ユーザの行動情報に基づいて、前記所定のリストに含まれる一の対象が被疑対象かどうかを判定する
ことを特徴とする請求項１〜１３のいずれか１項に記載の判定装置。
【請求項１５】
前記取得部は、
オークションサービスの利用規約に違反すると判定された出品物である違反出品物を指定したユーザの行動情報を取得し、
前記判定部は、
前記取得部により取得された前記対象ユーザの行動情報に基づいて、前記対象ユーザが指定する一の出品物が、前記利用規約に違反する可能性がある被疑出品物かどうかを判定する
ことを特徴とする請求項１〜１４のいずれか１項に記載の判定装置。
【請求項１６】
コンピュータが実行する判定方法であって、
所定のサービスを利用するユーザのうち、当該所定のサービスの利用規約に違反すると判定された対象である違反対象に対する指定を行うことにより、前記指定に関する所定の条件を満たすユーザとして抽出される対象ユーザの行動情報を取得する取得工程と、
前記取得工程により取得された前記対象ユーザの行動情報に含まれる一の対象に関する行動情報と、所定の閾値との比較に基づいて、前記一の対象が、前記利用規約に違反する可能性がある被疑対象かどうかを判定する判定工程と、
を含んだことを特徴とする判定方法。
【請求項１７】
所定のサービスを利用するユーザのうち、当該所定のサービスの利用規約に違反すると判定された対象である違反対象に対する指定を行うことにより、前記指定に関する所定の条件を満たすユーザとして抽出される対象ユーザの行動情報を取得する取得手順と、
前記取得手順により取得された前記対象ユーザの行動情報に含まれる一の対象に関する行動情報と、所定の閾値との比較に基づいて、前記一の対象が、前記利用規約に違反する可能性がある被疑対象かどうかを判定する判定手順と、
をコンピュータに実行させることを特徴とする判定プログラム。