(57)【要約】【課題】精度の優れたワードフィルタリングの技術、すなわちフィルタリング装置、システム、方法及びプログラムを提供すること。【解決手段】フィルタリング装置１のローカル設定部４は、閲覧規制の対象となる文字列である各規制語について新規追加、変更、削除等の指定を受け付けて規制語データ５に反映させ、また、前記規制語を含んでも全体としては規制対象から除外する文字列である各ホワイトワードについても同様に新規追加、変更、削除等の指定を受け付けてデータであるホワイトワードリスト６に反映させる。規制部７は、いずれの前記ホワイトワードにも含まれない前記規制語を含むコンテンツを対象として、閲覧規制又はそのための評価判断を行う。【選択図】  図１
2004310494.tif 000002
【特許請求の範囲】
【請求項１】
通信ネットワーク経由で閲覧されるコンテンツについて、予め指定した文字列に基いて閲覧規制を行うフィルタリング装置において、
閲覧規制の対象となる文字列である各規制語の指定を予め受け付けるための第一の指定手段と、
前記規制語を含んでも全体としては規制対象から除外する文字列である各ホワイトワードの指定を予め受け付けるための第二の指定手段と、
いずれの前記ホワイトワードにも含まれない前記規制語を含むコンテンツを対象として、閲覧規制又はそのための評価判断を行う規制手段と、
をコンピュータが実現することを特徴とするフィルタリング装置。
【請求項２】
前記指定手段は前記規制語として、ブラックワードとグレーワードと、の二種類を指定できるように構成され、
前記規制手段は、
いずれの前記ホワイトワードにも含まれない前記ブラックワードを１ヶ所でも含むコンテンツは閲覧禁止とし、
いずれの前記ホワイトワードにも含まれない前記グレーワードを含むコンテンツは、閲覧規制をするか否かについて所定の基準による評価判断の対象とするように構成されたことを特徴とする請求項１記載のフィルタリング装置。
【請求項３】
請求項１又は２記載のフィルタリング装置を一又は二以上の拠点ごとに設けるとともに、制御用サーバと通信ネットワークで接続したフィルタリングシステムにおいて、
前記制御用サーバにおいて、フィルタリング装置の規制語又はホワイトワードの少なくともいずれかについて、一又は二以上のフィルタリング装置を対象として、変更すべき内容の指定を受け付けるとともに更新用データとして格納する手段と、
前記更新用データに基いて、前記制御用サーバから該当する前記フィルタリング装置へ、前記通信ネットワーク経由で規制語又はホワイトワードの更新を反映させる反映手段と、
をコンピュータが実現することを特徴とするフィルタリングシステム。
【請求項４】
通信ネットワーク経由で閲覧されるコンテンツについて、予め指定した文字列に基いて閲覧規制を行うフィルタリング方法において、
閲覧規制の対象となる文字列である各規制語の指定を予め受け付けるための第一の指定処理と、
前記規制語を含んでも全体としては規制対象から除外する文字列である各ホワイトワードの指定を予め受け付けるための第二の指定処理と、
いずれの前記ホワイトワードにも含まれない前記規制語を含むコンテンツを対象として、閲覧規制又はそのための評価判断を行う規制処理と、
をコンピュータが実行することを特徴とするフィルタリング方法。
【請求項５】
前記指定処理は前記規制語として、ブラックワードとグレーワードと、の二種類の指定を受け付け、
前記規制処理は、
いずれの前記ホワイトワードにも含まれない前記ブラックワードを１ヶ所でも含むコンテンツは閲覧禁止とし、
いずれの前記ホワイトワードにも含まれない前記グレーワードを含むコンテンツは、閲覧規制をするか否かについて所定の基準による評価判断の対象とすることを特徴とする請求項４記載のフィルタリング方法。
【請求項６】
請求項４又は５記載のフィルタリング方法を一又は二以上の拠点ごとに実行する各フィルタリング装置を、所定の制御用サーバと通信ネットワークで接続したフィルタリングシステムを用いたフィルタリング方法において、
前記制御用サーバにおいて、フィルタリング装置の規制語又はホワイトワードの少なくともいずれかについて、一又は二以上のフィルタリング装置を対象として、変更すべき内容の指定を受け付けるとともに更新用データとして格納し、
前記更新用データに基いて、前記制御用サーバから該当する前記フィルタリング装置へ、前記通信ネットワーク経由で規制語又はホワイトワードの更新を反映させることを特徴とするフィルタリング方法。
【請求項７】
通信ネットワーク経由で閲覧されるコンテンツについて、コンピュータを制御することにより、予め指定した文字列に基いて閲覧規制を行うフィルタリングプログラムにおいて、
そのプログラムは前記コンピュータに、
閲覧規制の対象となる文字列である各規制語の指定を予め受け付けさせ、
前記規制語を含んでも全体としては規制対象から除外する文字列である各ホワイトワードの指定を予め受け付けさせ、
いずれの前記ホワイトワードにも含まれない前記規制語を含むコンテンツを対象として、閲覧規制又はそのための評価判断を行わせることを特徴とするフィルタリングプログラム。
【請求項８】
前記プログラムは前記コンピュータに、
前記規制語として、ブラックワードとグレーワードと、の二種類の指定を受け付けさせ、
いずれの前記ホワイトワードにも含まれない前記ブラックワードを１ヶ所でも含むコンテンツは閲覧禁止とさせ、
いずれの前記ホワイトワードにも含まれない前記グレーワードを含むコンテンツは、閲覧規制をするか否かについて所定の基準による評価判断の対象とさせることを特徴とする請求項７記載のフィルタリングプログラム。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、精度の優れたワードフィルタリングの技術、すなわちフィルタリング装置、システム、方法及びプログラムに関する。
【０００２】
【従来の技術】
近年、インターネット及びコンピュータの発達とともに、インターネット上で提供されるウェブページなどのコンテンツが爆発的に増大しつつある。一方、これに伴い、青少年に不適切なコンテンツが数多く提供され、青少年健全育成上の懸念が存在する。また、職場のコンピュータ設備を私的に利用し、いゆわるネットトレードやインターネットオークションなどによる株や物品の売買、個人の趣味や興味に関するものなど業務とは関係ない不適切なコンテンツを閲覧、入手する等の活動により仕事の業務効率が低下する不利益も指摘されている。また、図書館等公共施設利用の利便性を高めることを目的として提供されているコンピュータが、不特定多数が利用する匿名性等の背景から、不適切もしくは不正行為のために利用される問題もあり、これも目的外の不適切なコンテンツ利用の一態様である。
【０００３】
これら不適切なコンテンツの閲覧を禁止したり制限する閲覧規制の従来技術として、ワードフィルタリングと呼ばれる次のような技術が知られている。すなわち、学校や会社内のＬＡＮ（Ｌｏｃａｌ  Ａｒｅａ  Ｎｅｔｗｏｒｋ）をインターネットに接続するにあたり、プロキシサーバなどとして実現されるフィルタリング装置を経由させ、不適切と考えられる例えば「１８歳未満は利用できません。」のような短文や「淫乱」のような単語といった文字列を、ブラックワードなどと呼ばれる禁止語として、プロキシサーバへ予め登録しておく。そして、ＬＡＮ上のコンピュータからアクセスしようとしているコンテンツに含まれる文章等の文字列を、そのようなプロキシサーバにおいてコンピュータ処理により分析することにより、ブラックワードを使用したコンテンツか否かを自動判定し、そのようなコンテンツは閲覧を禁止する。
【０００４】
ところで、コンテンツ中に不適切な用語が１つ検出されただけで一律に閲覧を禁止すると、不適切なコンテンツばかりではなく、新聞記事、医療記事など、全体として見れば閲覧に支障のないコンテンツが閲覧できなくなる過剰規制が生じることがあり、このような不都合はミスフィルタリングやオーバーフィルタリングなどと呼ばれる。これに対し、報道用語、法律用語、医学用語等を有意義用語リストとして予め格納し、禁止語があったとしても同一コンテンツ内に有意義用語があれば閲覧を許可する技術も提案されている（特許文献１参照）。
【０００５】
【特許文献１】
特開２００１−２８２７９７
【０００６】
【発明が解決しようとする課題】
しかしながら、日本語では、空白等の区切りが少なく文字が連続する特徴があり、一部の文字列を取り出せば禁止語だが、その前後の文字列との組み合わせによっては全く別の意味となる場合がある。特に、ひらがな、カタカナ表記の文章ではこの傾向が強い。このため、単に禁止語との文字列一致をもとに判断すると、差支えない単語の一部がたまたま禁止語と一致するため誤って閲覧規制の対象となる問題があった。
【０００７】
例えば、漢字の「淫乱」の同義語としてカタカナの「インラン」を禁止語リストに登録しコンテンツの閲覧を禁止したとすると、「コインランドリー」を含むコンテンツも一部に「インラン」を含むため閲覧が禁止される過剰規制が発生する。このような問題が発生した場合、有意義用語リストを用いる上記の従来技術（特許文献１）を適用しても、法律や医療など特定分野のコンテンツについてしか問題が解決されない不利益があった。
【０００８】
また、上記のようなフィルタリングで用いる禁止語リスト等のデータを作成・更新する従来技術としては、そのようなフィルタリングを行うプロキシサーバが接続されている同一ＬＡＮ内のコンピュータから、そのプロキシサーバにアクセスして禁止語リストを操作するものがあった。しかし、このような従来技術では、日々インターネット上で発生する造語を含めた用語の登録・更新を行うには、プロキシサーバと同一ＬＡＮ内のコンピュータの設置場所まで出向かねばならず利便性の問題があった。また、複数の拠点ごとにＬＡＮやプロキシサーバがあるような場合も、それら一括管理できない不便もあった。
【０００９】
さらに、一律禁止のブラックワードとの判断が難しい要注意用語も存在し、そのような用語はブラックワードに含めれば過剰規制の問題があり、逆にブラックワードから外せば規制不十分になるジレンマもあった。
【００１０】
本発明は、上記のような従来技術の問題点を解決するもので、その目的は、精度の優れたワードフィルタリングの技術、すなわちフィルタリング装置、システム、方法及びプログラムを提供することである。また、本発明の他の目的は、ワードフィルタリングに用いるデータの更新を容易にすることである。
【００１１】
【課題を解決するための手段】
上記の目的を達成するため、請求項１の発明は、通信ネットワーク経由で閲覧されるコンテンツについて、予め指定した文字列に基いて閲覧規制を行うフィルタリング装置において、閲覧規制の対象となる文字列である各規制語の指定を予め受け付けるための第一の指定手段と、前記規制語を含んでも全体としては規制対象から除外する文字列である各ホワイトワードの指定を予め受け付けるための第二の指定手段と、いずれの前記ホワイトワードにも含まれない前記規制語を含むコンテンツを対象として、閲覧規制又はそのための評価判断を行う規制手段と、をコンピュータが実現することを特徴とする。
【００１２】
請求項４の発明は、請求項１の発明を方法という見方から捉えたもので、通信ネットワーク経由で閲覧されるコンテンツについて、予め指定した文字列に基いて閲覧規制を行うフィルタリング方法において、閲覧規制の対象となる文字列である各規制語の指定を予め受け付けるための第一の指定処理と、前記規制語を含んでも全体としては規制対象から除外する文字列である各ホワイトワードの指定を予め受け付けるための第二の指定処理と、いずれの前記ホワイトワードにも含まれない前記規制語を含むコンテンツを対象として、閲覧規制又はそのための評価判断を行う規制処理と、をコンピュータが実行することを特徴とする。
【００１３】
請求項７の発明は、請求項１，４の発明をコンピュータのプログラムという見方から捉えたもので、通信ネットワーク経由で閲覧されるコンテンツについて、コンピュータを制御することにより、予め指定した文字列に基いて閲覧規制を行うフィルタリングプログラムにおいて、そのプログラムは前記コンピュータに、閲覧規制の対象となる文字列である各規制語の指定を予め受け付けさせ、前記規制語を含んでも全体としては規制対象から除外する文字列である各ホワイトワードの指定を予め受け付けさせ、いずれの前記ホワイトワードにも含まれない前記規制語を含むコンテンツを対象として、閲覧規制又はそのための評価判断を行わせることを特徴とする。
【００１４】
これらの態様では、日本語のように空白等の区切りが少なく文字の連続が多い特徴の言語においても、「インラン」のような規制語と同じ文字列を含むが「コインランドリー」のように全体としては規制対象から除外するホワイトワードを指定することにより、過剰規制が回避できる。なお、規制語やホワイトワードの指定の受付は、キーボードからの入力に限らずデータファイルの受入れによるものも含む。
【００１５】
請求項２の発明は、請求項１記載のフィルタリング装置において、前記指定手段は前記規制語として、ブラックワードとグレーワードと、の二種類を指定できるように構成され、前記規制手段は、いずれの前記ホワイトワードにも含まれない前記ブラックワードを１ヶ所でも含むコンテンツは閲覧禁止とし、いずれの前記ホワイトワードにも含まれない前記グレーワードを含むコンテンツは、閲覧規制をするか否かについて所定の基準による評価判断の対象とするように構成されたことを特徴とする。
【００１６】
請求項５の発明は、請求項２の発明を方法という見方から捉えたもので、請求項４記載のフィルタリング方法において、前記指定処理は前記規制語として、ブラックワードとグレーワードと、の二種類の指定を受け付け、前記規制処理は、いずれの前記ホワイトワードにも含まれない前記ブラックワードを１ヶ所でも含むコンテンツは閲覧禁止とし、いずれの前記ホワイトワードにも含まれない前記グレーワードを含むコンテンツは、閲覧規制をするか否かについて所定の基準による評価判断の対象とすることを特徴とする。
【００１７】
請求項８の発明は、請求項２，５の発明をコンピュータのプログラムという見方から捉えたもので、請求項７記載のフィルタリングプログラムにおいて、前記プログラムは前記コンピュータに、前記規制語として、ブラックワードとグレーワードと、の二種類の指定を受け付けさせ、いずれの前記ホワイトワードにも含まれない前記ブラックワードを１ヶ所でも含むコンテンツは閲覧禁止とさせ、いずれの前記ホワイトワードにも含まれない前記グレーワードを含むコンテンツは、閲覧規制をするか否かについて所定の基準による評価判断の対象とさせることを特徴とする。
【００１８】
これらの態様では、コンテンツの閲覧を一律禁止とするブラックワードとは別に、不適切と疑われるため要注意のグレーワードも指定できる。そして、グレーワードを含むコンテンツを閲覧禁止するかどうかの評価判断は、コンテンツ内に存在するグレーワードの種類や登場回数、それらに基く基準値など所定の基準によって行うので、用語ごとの有害度やその明白性に応じたきめ細かな閲覧規制が可能となり、過剰規制が回避できる。
【００１９】
請求項３の発明は、請求項１又は２記載のフィルタリング装置を一又は二以上の拠点ごとに設けるとともに、制御用サーバと通信ネットワークで接続したフィルタリングシステムにおいて、前記制御用サーバにおいて、フィルタリング装置の規制語又はホワイトワードの少なくともいずれかについて、一又は二以上のフィルタリング装置を対象として、変更すべき内容の指定を受け付けるとともに更新用データとして格納する手段と、前記更新用データに基いて、前記制御用サーバから該当する前記フィルタリング装置へ、前記通信ネットワーク経由で規制語又はホワイトワードの更新を反映させる反映手段と、をコンピュータが実現することを特徴とする。
【００２０】
請求項６の発明は、請求項３の発明を方法という見方から捉えたもので、請求項４又は５記載のフィルタリング方法を一又は二以上の拠点ごとに実行する各フィルタリング装置を、所定の制御用サーバと通信ネットワークで接続したフィルタリングシステムを用いたフィルタリング方法において、前記制御用サーバにおいて、フィルタリング装置の規制語又はホワイトワードの少なくともいずれかについて、一又は二以上のフィルタリング装置を対象として、変更すべき内容の指定を受け付けるとともに更新用データとして格納し、前記更新用データに基いて、前記制御用サーバから該当する前記フィルタリング装置へ、前記通信ネットワーク経由で規制語又はホワイトワードの更新を反映させることを特徴とする。
【００２１】
これらの態様では、各拠点ごとの各フィルタリング装置で用いるブラックワード等の規制語やホワイトワードの新規追加、変更、削除といった更新内容を、拠点から離れた本部のサーバにおいて、複数の装置に共通もしくは個々の装置に関する更新内容としてデータ化し、どこからでも所望のタイミングで各拠点の各装置に反映させるリモート更新ができるので、インターネット上で次々と誕生する造語を含めた新用語に容易かつ迅速に対処可能となる。
【００２２】
【発明の実施の形態】
次に、本発明の実施の形態（以下「実施形態」と呼ぶ）について図面を参照して具体的に説明する。本実施形態は、必要な周辺機器を備えたサーバシステム等のコンピュータをプログラムで制御することにより実現できるが、この場合のハードウェアやプログラムの実現態様は各種変更可能である。また、本発明は、装置、システム、方法及びプログラム、そのようなプログラムを記録したコンピュータ読取可能な記録媒体としても把握可能である。このように本実施形態の実現態様は各種考えられるので、以下の説明では、本発明及び本実施形態の各機能を実現する仮想的回路ブロックを用いる。
【００２３】
〔１．構成〕
本実施形態は、図１の機能ブロック図に示すように、フィルタリング装置１を学校である複数の拠点すなわちＡ校〜Ｄ校ごとに設けるとともに、教育委員会等の組織管理拠点に設けた制御用サーバ２と、通信ネットワークであるインターネット３で接続したフィルタリングシステムである。各フィルタリング装置１は、インターネット３経由で閲覧されるウェブページ等のコンテンツについて、予め指定した文字列に基いて閲覧規制を行うもので、例えばプロキシサーバとして構成される。
【００２４】
すなわち、各拠点ごとの校内ＬＡＮには、クライアントシステムであるパーソナルコンピュータ（以下「ＰＣ」と呼ぶ）として生徒用ＰＣ１５が複数接続され、各生徒用ＰＣ１５からインターネット３上のウェブサーバ上のコンテンツへのアクセスは、全てフィルタリング装置１によるワードフィルタリングのうえＩＳＰ（インターネット・サービス・プロバイダ）を介してインターネット３に仲介される。
【００２５】
各校内ＬＡＮには、各生徒用ＰＣ１５とは別に、拠点管理者用ＰＣ１６が接続され、フィルタリング装置１は、同じＬＡＮ上のクライアントシステムのうち、拠点管理者用ＰＣ１６からのアクセスのみは、ワードフィルタリングを行わず素通しするように予め設定されている。
【００２６】
フィルタリング装置１及び制御用サーバ２では、それぞれを制御するプログラムの作用により図１に示す各要素が実現され、それら各要素は以下のように作用する手段としての役割を果たす。
【００２７】
〔２．作用〕
〔２−１．作用の概略〕
すなわち、フィルタリング装置１のローカル設定部４は、閲覧規制の対象となる文字列である各規制語を予め指定するための第一の指定手段であり、規制語について新規追加、変更、削除等の指定を受け付けて規制語データ５に反映させる。また、このローカル設定部４は、前記規制語を含んでも全体としては規制対象から除外する文字列である各ホワイトワードを予め指定するための第二の指定手段であり、ホワイトワードについて新規追加、変更、削除等の指定を受け付けてデータであるホワイトワードリスト６に反映させる。また、規制部７は、いずれの前記ホワイトワードにも含まれない前記規制語を含むコンテンツを対象として、閲覧規制又はそのための評価判断を行う規制手段である。
【００２８】
また、ローカル設定部４は、規制語として、ブラックワードとグレーワードと、の二種類の指定を受け付け、それぞれの内容を規制語データ５を構成するブラックワードリスト５１及びグレーワードリスト５２に反映させる。また、規制部７は、いずれの前記ホワイトワードにも含まれない前記ブラックワードを１ヶ所でも含むコンテンツは閲覧禁止とし、いずれの前記ホワイトワードにも含まれない前記グレーワードを含むコンテンツは、閲覧規制をするか否かについて所定の基準による評価判断の対象とする。
【００２９】
また、制御用サーバ２のリモート設定部８は、フィルタリング装置１の規制語及びホワイトワードについて、一又は二以上のフィルタリング装置１を対象として、変更すべき内容の指定を受け付けるとともに更新用データ９として格納する手段である。この機能を実現するため、制御用サーバ２は、管理者向けウェブサーバ兼データベースサーバとして構成され、管理者は所定の組織管理者用ＰＣ１７から、同一ＬＡＮ内で制御用サーバ２がＣＧＩ機能より提供する所定のウェブページへアクセスし、そのウェブページで入力欄、選択ボックス、チェックボックス、ラジオボタンなどのＧＵＩパーツを用いて変更内容を指定すればそれが更新用データ９に反映される。
【００３０】
また、制御用サーバ２のリモート更新部１０及びフィルタリング装置１のリモート更新部１１は、更新用データ９に基いて、制御用サーバ２から該当するフィルタリング装置１へ、インターネット３経由で規制語又はホワイトワードの更新を反映させる反映手段である。
【００３１】
〔２−２．アクセス推奨及び禁止ＵＲＬの取扱い〕
次に、本実施形態におけるワードフィルタリングの処理手順を図２のフローチャートに示すが、ワードフィルタリングに先立って、ＵＲＬに基く次のようなフィルタリングを行ってもよい。すなわち、インターネット上のコンテンツを閲覧する場合は、そのコンテンツを提供するサイトのＵＲＬ（Ｕｎｉｆｏｒｍ  Ｒｅｓｏｕｒｃｅ  Ｌｏｃａｔｏｒ）が指定される。フィルタリング装置１は、そのＵＲＬに基づきサイトへのアクセスを試みる前に、指定されたＵＲＬがアクセス推奨ＵＲＬか否か、もしくはアクセス禁止ＵＲＬであるか否かについて、それらを表す予め用意されたＵＲＬリストと比較することによりＵＲＬフィルタリング処理を行う。
【００３２】
その結果、アクセスしようとしているＵＲＬがアクセス推奨ＵＲＬの場合は、ワードフィルタリングは省略され、フィルタリング装置１は、インターネット３を介して該当ＵＲＬへアクセスし、そのコンテンツを入手し、アクセス元の生徒用ＰＣ１５へ転送する。一方、アクセスしようとしているＵＲＬがアクセス禁止ＵＲＬであった場合は、アクセス禁止サイトへの閲覧行為のためにそのアクセスが禁止されたことを、アクセス元の生徒用ＰＣ１５の画面にコンテンツに代えて表示する。
【００３３】
アクセスしようとしているＵＲＬがアクセス推奨ＵＲＬ又はアクセス禁止ＵＲＬのいずれでもない場合、フィルタリング装置１は、ＨＴＴＰ（ＨｙｐｅｒＴｅｘｔ  Ｔｒａｎｓｆｅｒ  Ｐｒｏｔｏｃｏｌ  ）手順に基づいて、当該ＵＲＬへのリクエストを一旦仮にアクセス先へ送出し、返信データをパケット単位に受信しながら、後述するようなワードフィルタリングの対象とする。この際、ウェブページ等のコンテンツ内容は、ＨＴＭＬ（Ｈｙｐｅｒｔｅｘｔ  Ｍａｒｋｕｐ  Ｌａｎｇｕａｇｅ  ）で記述されているので、その記述法則に基づきコンテンツ内容から表示文字列の情報のみを抽出し、その文字列の先頭から下記のような処理を行う。
【００３４】
〔２−３．ワードフィルタリングの手順〕
すなわち、図２に示すように、フィルタリング装置１の規制部７は、受信したパケットを、まずホワイトワードリスト６内の各ホワイトワードと照合し、完全に一致する文字列がパケット内に存在するか調べる（ステップ１）。このとき一致する文字列が存在する時は、コンテンツ内の該当する文字列部分をブラックワード及びグレーワードの検索対象外文字列として指定する（ステップ２）。この指定は、それら文字列部分を検索対象外文字列であることを意味する特殊文字に変換することによって行ってもよい。この部分はこれ以降のブラックワード及びグレーワードの検索対象から除外される。
【００３５】
続くステップ３では、ブラックワードリスト５１内のいずれかのブラックワードと一致する文字列が１つでもパケット内にあるかを検索する。このとき、パケット内に前記検索対象外を示す特殊文字が存在する場合はその文字列は無視する。パケット内にブラックワードリスト５１内のブラックワードと一致する文字列が存在する場合は（ステップ３）、コンテンツを構成する以後のパケットを無視し、当該コンテンツの閲覧を禁止する（ステップ１０）。具体的には、当該コンテンツの閲覧を禁止する旨を告げるウェブページをそのコンテンツの閲覧を要求した生徒用ＰＣ１５に渡し、当該コンテンツに対する処理を終了する。
【００３６】
パケット内にブラックワードと一致する文字列が存在しない場合は（ステップ３）、続いて、グレーワードリスト５２中のいずれかのグレーワードと一致する文字列がパケット内にあるかを検索する（ステップ４）。このときも、パケット内の文字列に検索対象外であることを意味する前記特殊文字が存在する場合はその文字列は無視する。パケット内にグレーワードリスト５２内のいずれかのグレーワードと一致する文字列が存在する場合は（ステップ４）、そのグレーワードをグレーワード判定基準テーブルに登録する（ステップ５）という処理の繰り返しにより（ステップ６）、パケット内で検出した全てのグレーワードを判定基準テーブルに登録する。
【００３７】
続くステップ７では、コンテンツを構成する全てのパケットを調べたか否かチェックし、まだ終了していなければステップ１に戻るが、終了した場合はステップ８に進む。このステップ８では、グレーワード判定基準テーブルに登録された全てのグレーワードを種類別に分類すると同時にその露出回数すなわち登場回数をカウントする。そして、予め設定しておいたグレーワードの種類ごとの限度数、グレーワードの露出限度回数等の基準と比較し、その限界に達した場合は閲覧禁止の処理に進むが（ステップ１０）、その限界に達していなければ当該コンテンツの閲覧を許可する（ステップ９）。具体的には、当該コンテンツは閲覧許可基準を満たしたと判定し、そのコンテンツの閲覧を要求した生徒用ＰＣ１５にコンテンツ内容を構成する各パケットを順次送付し、当該コンテンツの処理を終了する。
【００３８】
〔２−４．各リストの更新〕
以上説明した本実施形態におけるワードフィルタリングの精度を向上させるためには、各リストすなわちブラックワードリスト５１、グレーワードリスト５２、ホワイトワードリスト６（「各リスト」と総称する）の作成のみならず維持が重要である。すなわち、インターネットの各種コンテンツで日々誕生する造語を含め新用語を前述の各リストに迅速に吸収させるための手段が求められる。また、学校や企業等の拠点に設置されるフィルタリング装置１ごとに個別の管理者がこれらリストを直接管理するのでは、管理効率が悪い。つまり、例えば地域の教育委員会や企業の本社機構といった事業体組織で統一した管理方針に基く更新内容が、組織管理者や事業所管理者により、速やかに各拠点のこれらリストに反映できることが望まれると同時に、拠点単位でも拠点の方針に基づく管理が柔軟にできることが望まれる。
【００３９】
そこで、本実施形態では（図１）、拠点である各校ごとに所望の更新内容をローカル設定部４から規制語データ５やホワイトワードリスト６へ反映させることに加え、それら拠点から離れた場所からであっても、適用分野に応じた本部が、所望の更新内容を所望の対象へ適用可能である。
【００４０】
すなわち本実施形態のような教育分野では学校区にある全ての学校を管理する教育委員会、職場では複数の事業所を管理する本社の管理者等から、制御用サーバ２のリモート設定部８が、フィルタリング装置１の規制語又はホワイトワードの少なくともいずれかについて、一又は二以上のフィルタリング装置１を対象として、作成又は変更すべき内容の指定を受け付けるとともに更新用データ９として格納する。特定の拠点を指定し、その拠点向けの更新用データにより各リストを管理すれば、小規模な拠点で管理者を置かない場合へも対応可能である。
【００４１】
そして、制御用サーバ２側のリモート更新部１０とフィルタリング装置１側のリモート更新部１１とがインターネット３経由で通信を行うことにより、更新用データ９に基いて、制御用サーバ２から該当するＡ〜Ｄ校のフィルタリング装置１へ、規制語又はホワイトワードの更新を反映させる。このような更新の反映は、フィルタリング装置１又は制御用サーバ２で設定する所定の時間間隔や深夜等の指定時刻に基づき定期的に行ってもよいし、または、組織管理者や拠点管理者の指示で未反映の更新を検出し反映させてもよい。
【００４２】
なお、各校Ａ〜Ｄの拠点管理者の用いるＰＣ等のコンピュータからフィルタリング装置１のローカル設定部４へのアクセスや、組織管理者の用いるＰＣ等のコンピュータから制御用サーバ２のリモート設定部８へのアクセスを、ＬＡＮ内からだけでなくインターネットＮ経由で外部からも受け付けるようにすれば、いつでもどこからでも各リストに、その学校の方針や教育委員会全体の共通方針等に基き、必要な更新を加えることが可能となり非常に優れた利便性が提供できる。
【００４３】
〔３．効果〕
以上のように、本実施形態では、日本語のように空白等の区切りが少なく文字の連続が多い特徴の言語においても、「インラン」のような規制語と同じ文字列を含むが「コインランドリー」のように全体としては規制対象から除外するホワイトワードを指定することにより、過剰規制が回避できる。
【００４４】
また、本実施形態では、コンテンツの閲覧を一律禁止とするブラックワードとは別に、不適切と疑われるため要注意のグレーワードも指定できる。そして、グレーワードを含むコンテンツを閲覧禁止するかどうかの評価判断は、コンテンツ内に存在するグレーワードの種類や登場回数、それらに基く基準値など所定の基準によって行うので、用語ごとの有害度やその明白性に応じたきめ細かな閲覧規制が可能となり、過剰規制が回避できる。
【００４５】
また、本実施形態では、各拠点ごとの各フィルタリング装置で用いるブラックワード等の規制語やホワイトワードの新規追加、変更、削除といった更新内容を、拠点から離れた本部のサーバにおいて、複数の装置に共通もしくは個々の装置に関する更新内容としてデータ化し、どこからでも所望のタイミングで各拠点の各装置に反映させるリモート更新ができるので、インターネット上で次々と誕生する造語を含めた新用語に容易かつ迅速に対処可能となる。
【００４６】
〔４．他の実施形態〕
なお、本発明は上記実施形態に限定されるものではなく、次に例示するような他の実施形態も含むものである。例えば、本発明の適用対象となるコンテンツは、ウェブページには限定されず、ニュースグループの投稿、ストリーミング配信などその種類は自由である。また、適用対象言語も日本語には限定されず、中国語や韓国語などを対象としてもよい。
【００４７】
また、本発明は、図１のようにＰＣと別体のプロキシサーバとはせず、家庭等において、ＡＤＳＬモデムやルータ等に直接接続されたＰＣ上に、アプリケーションプログラムをインストールすることで実現してもよい。そのように、本発明をクライアントシステムに常駐するアプリケーションプログラムとして実現する場合、ＨＴＭＬファイル等のコンテンツについて、ＩＰパケットとの分解と組立はＯＳＩ基本参照モデルにおけるアプリケーション層よりも下層で行えるので、上記実施形態とは異なり、ワードフィルタリング処理をパケット単位ではなくコンテンツ単位に行ってもよい。
【００４８】
【発明の効果】
以上のように、この発明によれば、精度の優れたワードフィルタリングの技術、すなわちフィルタリング装置、システム、方法及びプログラムを提供することができる。
【図面の簡単な説明】
【図１】本発明の実施形態の構成を示す機能ブロック図。
【図２】本発明の実施形態におけるワードフィルタリングの処理手順を示すフローチャート。
【符号の説明】
１…フィルタリング装置
２…制御用サーバ
３…インターネット
４…ローカル設定部
５…規制語データ
５１…ブラックワードリスト
５２…グレーワードリスト
６…ホワイトワードリスト
７…規制部
８…リモート設定部
９…更新用データ
１０…リモート更新部
１１…リモート更新部
１５，１６，１７…ＰＣ
【図１】
2004310494.tif 000003
【図２】
2004310494.tif 000004