(57)【要約】【課題】パケットの転送を止めることなく、さらに、過去と現在のトラヒックの単純比較によらずに、ネットワーク攻撃の発生を検出できるようにするとともに、そのネットワーク攻撃を行っている攻撃元を識別できるようにする新たな技術の提供を目的とする。【解決手段】送信先から送信元へと返送されてくるパケットを受信して送出するときに、送信先に応じて、その受信から送出までの遅延時間を制御し、そして、その制御に関連付けて、送信先に送信されるパケット量の変動を評価することで、送信先に対して攻撃が行われているのか否かを判断する。また、送信先から送信元へと返送されてくるパケットを受信して送出するときに、送信元に応じて、その受信から送出までの遅延時間を制御し、そして、その制御に関連付けて、送信先に送信される送信元毎のパケット量の変動を評価することで、送信先に対して攻撃を行っている送信元を識別する。【選択図】図２
2005229234.tif 000002
【特許請求の範囲】
【請求項１】
ネットワーク装置で実行されて、ネットワーク上に存在する装置あるいはネットワークに対して行われる不必要なパケットを使った攻撃の発生を検出するネットワーク攻撃検出方法であって、
送信先から送信元へと返送されてくるパケットを受信して送出するときに、送信先に応じて、その受信から送出までの遅延時間を制御する過程と、
上記制御に関連付けて、送信先に送信されるパケット量の変動を評価することで、送信先に対して攻撃が行われているのか否かを判断する過程とを備えることを、
特徴とするネットワーク攻撃検出方法。
【請求項２】
ネットワーク装置で実行されて、ネットワーク上に存在する装置あるいはネットワークに対して行われる不必要なパケットを使った攻撃の発生を検出するネットワーク攻撃検出方法であって、
パケットを受信するときに、送信先で区分けした受信パケット情報について記憶する記憶手段に記憶される受信パケット情報を更新する過程と、
上記記憶手段に記憶される受信パケット情報に基づいて、上記記憶手段に登録される送信先のランキングを決定する過程と、
パケットを受信するときに、該パケットの送信元の持つ上記ランキングに基づいて、該パケットの受信から送出までの遅延時間を制御する過程と、
上記制御に関連付けて、上記記憶手段に登録される送信先に送信されるパケット量の変動を評価することで、該送信先に対して攻撃が行われているのか否かを判断する過程とを備えることを、
特徴とするネットワーク攻撃検出方法。
【請求項３】
請求項２に記載のネットワーク攻撃検出方法において、
上記記憶手段は、上記受信パケット情報として、受信パケット量を記憶するように構成されることを、
特徴とするネットワーク攻撃検出方法。
【請求項４】
請求項２に記載のネットワーク攻撃検出方法において、
上記記憶手段は、上記受信パケット情報として、受信したパケットの持つ非アドレス項目値で区分けした受信パケット量を記憶するように構成されることを、
特徴とするネットワーク攻撃検出方法。
【請求項５】
請求項２ないし４のいずれか１項に記載のネットワーク攻撃検出方法において、
上記判断する過程では、上記記憶手段に登録される送信先の持つ上記ランキングの変動を評価することで、上記記憶手段に登録される送信先に送信されるパケット量の変動を評価することを、
特徴とするネットワーク攻撃検出方法。
【請求項６】
ネットワーク装置で実行されて、ネットワーク上に存在する装置あるいはネットワークに対して行われる不必要なパケットを使った攻撃の攻撃元を識別するネットワーク攻撃元識別方法であって、
送信先から送信元へと返送されてくるパケットを受信して送出するときに、送信元に応じて、その受信から送出までの遅延時間を制御する過程と、
上記制御に関連付けて、送信先に送信される送信元毎のパケット量の変動を評価することで、送信先に対して攻撃を行っている送信元を識別する過程とを備えることを、
特徴とするネットワーク攻撃元識別方法。
【請求項７】
ネットワーク装置で実行されて、ネットワーク上に存在する装置あるいはネットワークに対して行われる不必要なパケットを使った攻撃の攻撃元を識別するネットワーク攻撃元識別方法であって、
上記攻撃を受けている送信先を検出する過程と、
上記検出した送信先に送信されるパケットを受信するときに、送信元で区分けした受信パケット量について記憶する記憶手段に記憶される受信パケット量を更新する過程と、
上記記憶手段に記憶される受信パケット量に基づいて、上記記憶手段に登録される送信元のランキングを決定する過程と、
上記検出した送信先から返送されるパケットを受信するときに、該パケットの送信先の持つ上記ランキングに基づいて、該パケットの受信から送出までの遅延時間を制御する過程と、
上記制御に関連付けて、上記記憶手段に登録される送信元から送信されるパケット量の変動を評価することで、上記攻撃の送信元を識別する過程とを備えることを、
特徴とするネットワーク攻撃元識別方法。
【請求項８】
請求項７記載のネットワーク攻撃元識別方法において、
上記検出する過程は、
パケットを受信するときに、送信先で区分けした受信パケット情報について記憶する第２の記憶手段に記憶される受信パケット情報を更新する過程と、
上記第２の記憶手段に記憶される受信パケット情報に基づいて、上記第２の記憶手段に登録される送信先のランキングを決定する過程と、
パケットを受信するときに、該パケットの送信元の持つ上記送信先ランキングに基づいて、該パケットの受信から送出までの遅延時間を制御する過程と、
上記制御に関連付けて、上記第２の記憶手段に登録される送信先に送信されるパケット量の変動を評価することで、攻撃を受けている送信先を特定する過程とを備えることを、
特徴とするネットワーク攻撃元識別方法。
【請求項９】
ネットワーク装置で実行されて、ネットワーク上に存在する装置あるいはネットワークに対して行われる不必要なパケットを使った攻撃の攻撃元を識別するネットワーク攻撃元識別方法であって、
上記攻撃を受けている送信先を検出する過程と、
パケットを受信するときに、送信先と送信元との組み合わせで区分けした受信パケット量について記憶する記憶手段に記憶される受信パケット量を更新する過程と、
上記記憶手段に記憶される受信パケット量に基づいて、上記検出した送信先にパケットを送信している送信元のランキングを決定する過程と、
上記検出した送信先から返送されるパケットを受信するときに、該パケットの送信先の持つ上記ランキングに基づいて、該パケットの受信から送出までの遅延時間を制御する過程と、
上記制御に関連付けて、上記記憶手段に登録される送信元の内の、上記検出した送信先に対してパケットを送信している送信元から送信されるパケット量の変動を評価することで、上記攻撃の送信元を識別する過程とを備えることを、
特徴とするネットワーク攻撃元識別方法。
【請求項１０】
請求項９記載のネットワーク攻撃元識別方法において、
上記検出する過程は、
上記記憶手段に記憶される受信パケット量に基づいて、上記記憶手段に登録される送信先のランキングを決定する過程と、
パケットを受信するときに、該パケットの送信元の持つ上記送信先ランキングに基づいて、該パケットの受信から送出までの遅延時間を制御する過程と、
上記制御に関連付けて、上記記憶手段に登録される送信先に送信されるパケット量の変動を評価することで、攻撃を受けている送信先を特定する過程とを備えることを、
特徴とするネットワーク攻撃元識別方法。
【請求項１１】
ネットワーク上に存在する装置あるいはネットワークに対して行われる不必要なパケットを使った攻撃の発生を検出するネットワーク装置であって、
送信先から送信元へと返送されてくるパケットを受信して送出するときに、送信先に応じて、その受信から送出までの遅延時間を制御する手段と、
上記制御に関連付けて、送信先に送信されるパケット量の変動を評価することで、送信先に対して攻撃が行われているのか否かを判断する手段とを備えることを、
特徴とするネットワーク装置。
【請求項１２】
ネットワーク上に存在する装置あるいはネットワークに対して行われる不必要なパケットを使った攻撃の発生を検出するネットワーク装置であって、
パケットを受信するときに、送信先で区分けした受信パケット情報について記憶する記憶手段に記憶される受信パケット情報を更新する手段と、
上記記憶手段に記憶される受信パケット情報に基づいて、上記記憶手段に登録される送信先のランキングを決定する手段と、
パケットを受信するときに、該パケットの送信元の持つ上記ランキングに基づいて、該パケットの受信から送出までの遅延時間を制御する手段と、
上記制御に関連付けて、上記記憶手段に登録される送信先に送信されるパケット量の変動を評価することで、該送信先に対して攻撃が行われているのか否かを判断する手段とを備えることを、
特徴とするネットワーク装置。
【請求項１３】
ネットワーク上に存在する装置あるいはネットワークに対して行われる不必要なパケットを使った攻撃の攻撃元を識別するネットワーク装置であって、
送信先から送信元へと返送されてくるパケットを受信して送出するときに、送信元に応じて、その受信から送出までの遅延時間を制御する手段と、
上記制御に関連付けて、送信先に送信される送信元毎のパケット量の変動を評価することで、送信先に対して攻撃を行っている送信元を識別する手段とを備えることを、
特徴とするネットワーク装置。
【請求項１４】
ネットワーク上に存在する装置あるいはネットワークに対して行われる不必要なパケットを使った攻撃の攻撃元を識別するネットワーク装置であって、
上記攻撃を受けている送信先を検出する手段と、
上記検出した送信先に送信されるパケットを受信するときに、送信元で区分けした受信パケット量について記憶する記憶手段に記憶される受信パケット量を更新する手段と、
上記記憶手段に記憶される受信パケット量に基づいて、上記記憶手段に登録される送信元のランキングを決定する手段と、
上記検出した送信先から返送されるパケットを受信するときに、該パケットの送信先の持つ上記ランキングに基づいて、該パケットの受信から送出までの遅延時間を制御する手段と、
上記制御に関連付けて、上記記憶手段に登録される送信元から送信されるパケット量の変動を評価することで、上記攻撃の送信元を識別する手段とを備えることを、
特徴とするネットワーク装置。
【請求項１５】
ネットワーク上に存在する装置あるいはネットワークに対して行われる不必要なパケットを使った攻撃の攻撃元を識別するネットワーク装置であって、
上記攻撃を受けている送信先を検出する手段と、
パケットを受信するときに、送信先と送信元との組み合わせで区分けした受信パケット量について記憶する記憶手段に記憶される受信パケット量を更新する手段と、
上記記憶手段に記憶される受信パケット量に基づいて、上記検出した送信先にパケットを送信している送信元のランキングを決定する手段と、
上記検出した送信先から返送されるパケットを受信するときに、該パケットの送信先の持つ上記ランキングに基づいて、該パケットの受信から送出までの遅延時間を制御する手段と、
上記制御に関連付けて、上記記憶手段に登録される送信元の内の、上記検出した送信先に対してパケットを送信している送信元から送信されるパケット量の変動を評価することで、上記攻撃の送信元を識別する手段とを備えることを、
特徴とするネットワーク装置。
【請求項１６】
請求項１ないし５のいずれか１項に記載のネットワーク攻撃検出方法の実現に用いられる処理をコンピュータに実行させるためのネットワーク攻撃検出プログラム。
【請求項１７】
請求項６ないし１０のいずれか１項に記載のネットワーク攻撃元識別方法の実現に用いられる処理をコンピュータに実行させるためのネットワーク攻撃元識別プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ネットワーク上に存在する装置に対して行われる不必要なパケットを使った攻撃の発生を検出するネットワーク攻撃検出方法と、その攻撃の攻撃元を識別するネットワーク攻撃元識別方法と、そのネットワーク攻撃検出方法やネットワーク攻撃元識別方法の実現に用いられるネットワーク装置と、そのネットワーク攻撃検出方法の実現に用いられるネットワーク攻撃検出プログラムと、そのネットワーク攻撃元識別方法の実現に用いられるネットワーク攻撃元識別プログラムとに関する。
【背景技術】
【０００２】
ネットワークに接続されている１つ以上の端末が、別の１つ以上の端末やサーバなどに不必要なパケットを送信することにより、パケットの送信先の端末がネットワークに接続して行っているサービスなどを妨害する分散サービス停止攻撃（ＤＤｏＳ攻撃）が行われている。
【０００３】
このＤＤｏＳ攻撃を検出する方法や、ＤＤｏＳ攻撃を行っている端末を識別するための方法として、ＤＤｏＳ攻撃の標的に向けて送られているパケットを測定し、異常な特徴を見つけ出す方法がある。
【０００４】
この異常な特徴を見つけ出す方法としては、通常の通信で行われるプロトコルの手順に違反したものを見つける方法（例えば、SYN Flood を見つけるために、SYN とその返答であるSYN /ACKとの数量の差を検出する方法）や、過去のトラヒック状態と比べて異常な状態であるかを比較するアノーマリー検出などがある。
【０００５】
下記に示す非特許文献１や非特許文献２には、SYN Flood 攻撃対策の一つであるSYN クッキーに関する技術が記載されている。
【０００６】
また、下記に非特許文献３に記載されるように、NetZentry 社の FloodGuard では、ＤＤｏＳ攻撃のパケットの送信元を識別するための方法（TCP Back-Offアルゴリズム）を用いている。この方法は、ＤＤｏＳ攻撃が行われている標的サーバに向けて送られているパケットを全て遮断し、その遮断した後にも特定のサーバ向けに送られているパケットの観測を続け、その観測したパケットの送信挙動から攻撃元を識別するという方法である。
【非特許文献１】「SYN cookies,"http://www.gcd.org/sengoku/docs/NikkeiLinux00-10/tcp-attack.ja.html" 」
【非特許文献２】「TCP/IPに対する攻撃,"http://cr.yp.to/syncookies.html"」
【非特許文献３】「FloodGuard,"http://www.netzentry.com/pdfs/netzentry whitepaper 7 15 03.pdf" 」
【発明の開示】
【発明が解決しようとする課題】
【０００７】
しかしながら、従来から使われているアノーマリー検出は、ＤＤｏＳ攻撃の検出やＤＤｏＳ攻撃元の識別を試みている時点よりも過去のトラヒックの特徴と比較することで、正常状態と異常状態とを区別しようとする方法であり、ＤＤｏＳ攻撃の検出やＤＤｏＳ攻撃元の識別を試みている時点の端末やサーバの挙動とは直接関係のない基準を用いている。
【０００８】
これから、正規の利用者が短時間に大量にサーバにアクセスをするといったＤＤｏＳ攻撃ではない状態でも、過去の特徴とは異なるという理由でＤＤｏＳ攻撃として検出してしまうことがある（問題１）。
【０００９】
また、ＤＤｏＳ攻撃を行っている端末を識別しようとするTCP Back-Offアルゴリズムでは、ＤＤｏＳ攻撃が行われているとみなしたサーバ向けに送られているパケットを全て遮断する。この際には、ＤＤｏＳ攻撃のパケットを遮断するが、通常にサーバにアクセスしてサービスを利用しようとしている正規の利用者のパケットについても同様に遮断してしまうことになる。
【００１０】
これから、正規の利用者からのパケットがサーバに届かないために、サーバからはサービスを提供するためのパケットが返送されてくることはなくなるので、結局、正規の利用者はサーバのサービスを享受することができなくなる（問題２）。
【００１１】
本発明はかかる事情に鑑みてなされたものであって、パケットの転送を止めることなく、さらに、過去のトラヒックと現在のトラヒックとの単純比較によらずに、ＤＤｏＳ攻撃などのネットワーク攻撃の発生を検出できるようにするとともに、ＤＤｏＳ攻撃などのネットワーク攻撃を行っている攻撃元を識別できるようにする新たな技術の提供を目的とする。
【課題を解決するための手段】
【００１２】
〔１〕ネットワーク攻撃の発生を検出する機能を有する本発明のネットワーク装置の構成
本発明のネットワーク装置は、ネットワーク上に存在する装置あるいはネットワークに対して行われる不必要なパケットを使った攻撃の発生を検出するために、（イ）パケットを受信するときに、送信先で区分けした受信パケット情報について記憶する記憶手段に記憶される受信パケット情報を更新する更新手段と、（ロ）記憶手段に記憶される受信パケット情報に基づいて、記憶手段に登録される送信先のランキングを決定する決定手段と、（ハ）パケットを受信するときに、そのパケットの送信元の持つランキングに基づいて、そのパケットの受信から送出までの遅延時間を制御する制御手段と、（ニ）制御手段の制御に関連付けて、記憶手段に登録される送信先に送信されるパケット量の変動を評価することで、それらの送信先に対して攻撃が行われているのか否かを判断する判断手段とを備えるように構成する。
【００１３】
この構成を採るときに、記憶手段は、受信パケット情報として、受信パケット量を記憶するように構成されたり、受信したパケットの持つ非アドレス項目値で区分けした受信パケット量を記憶するように構成されることがある。
【００１４】
また、判断手段は、記憶手段に登録される送信先の持つランキングの変動を評価することで、記憶手段に登録される送信先に送信されるパケット量の変動を評価することがある。
【００１５】
以上の各処理手段が動作することで実現される本発明のネットワーク攻撃検出方法はコンピュータプログラムで実現できるものであり、このコンピュータプログラムは、半導体メモリなどのような適当な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてＣＰＵなどの制御手段上で動作することにより本発明を実現することになる。
【００１６】
このように構成される本発明のネットワーク装置では、更新手段の処理に従って、送信先で区分けした受信パケット情報（受信パケット量や、受信したパケットの持つ非アドレス項目値で区分けした受信パケット量など）について記憶する記憶手段が構築されることになる。
【００１７】
この記憶手段の記憶する受信パケット情報を受けて、決定手段は、例えば、受信パケット量の多いほど高いランキングを与えるという形で、記憶手段に記憶される受信パケット情報に基づいて、記憶手段に登録される送信先のランキングを決定する。
【００１８】
このランキングの決定を受けて、制御手段は、パケットを受信するときに、そのパケットの送信元の持つランキングに基づいて、そのパケットの受信から送出までの遅延時間を制御する。例えば、高いランキングの送信元ほど長い遅延時間を設定して、それに従って受信したパケットを遅延させて送出するというように、パケットの受信から送出までの遅延時間を制御するのである。
【００１９】
このような制御が行われると、パケット発行元が正規の利用者である場合には、送信したパケットの返送が遅れてくることになるので、送信するパケット量が減少することになるのに対して、パケット発行元が攻撃者である場合には、送信したパケットの返送に関係なくパケットを送信してくるので、送信するパケット量が変動しないことになる。
【００２０】
これから、判断手段は、この制御に関連付けて、記憶手段に登録される送信先に送信されるパケット量の変動を評価することで、それらの送信先に対して攻撃が行われているのか否かを判断する。
【００２１】
このようにして、本発明のネットワーク攻撃検出方法は、送信先から送信元へと返送されてくるパケットを受信して送出するときに、送信先に応じて、その受信から送出までの遅延時間を制御する構成を採って、その制御に関連付けて、送信先に送信されるパケット量の変動を評価することで、送信先に対して攻撃が行われているのか否かを判断するように処理するのである。
【００２２】
〔２〕ネットワーク攻撃の攻撃元を識別する機能を有する本発明のネットワーク装置の構成
〔２−１〕攻撃の発生を検出してから、その攻撃を行っている攻撃元の識別に用いる記憶手段を構築する構成
本発明のネットワーク装置は、ネットワーク上に存在する装置あるいはネットワークに対して行われる不必要なパケットを使った攻撃の攻撃元を識別するために、（イ）攻撃を受けている送信先を検出する検出手段と、（ロ）検出手段の検出した送信先に送信されるパケットを受信するときに、送信元で区分けした受信パケット量について記憶する記憶手段に記憶される受信パケット量を更新する更新手段と、（ハ）記憶手段に記憶される受信パケット量に基づいて、記憶手段に登録される送信元のランキングを決定する決定手段と、（ニ）検出手段の検出した送信先から返送されるパケットを受信するときに、そのパケットの送信先の持つランキングに基づいて、そのパケットの受信から送出までの遅延時間を制御する制御手段と、（ホ）制御手段の制御に関連付けて、記憶手段に登録される送信元から送信されるパケット量の変動を評価する（例えば、送信元のランキングの変動で評価する）ことで、攻撃の送信元を識別する識別手段とを備えるように構成する。
【００２３】
この構成を採るときに、検出手段は、前述した本発明のネットワーク攻撃検出方法を使って、攻撃を受けている送信先を検出することがあり、この場合には、（イ）パケットを受信するときに、送信先で区分けした受信パケット情報について記憶する第２の記憶手段に記憶される受信パケット情報を更新し、（ロ）第２の記憶手段に記憶される受信パケット情報に基づいて、第２の記憶手段に登録される送信先のランキングを決定し、（ハ）パケットを受信するときに、そのパケットの送信元の持つ送信先ランキングに基づいて、そのパケットの受信から送出までの遅延時間を制御し、（ニ）その制御に関連付けて、第２の記憶手段に登録される送信先に送信されるパケット量の変動を評価する（例えば、送信先のランキングの変動で評価する）ことで、攻撃を受けている送信先を特定するように処理することになる。
【００２４】
以上の各処理手段が動作することで実現される本発明のネットワーク攻撃元識別方法はコンピュータプログラムで実現できるものであり、このコンピュータプログラムは、半導体メモリなどのような適当な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてＣＰＵなどの制御手段上で動作することにより本発明を実現することになる。
【００２５】
このように構成される本発明のネットワーク装置では、検出手段が攻撃を受けている送信先を検出すると、更新手段の処理に従って、その攻撃を受けている送信先を記録対象として、送信元で区分けした受信パケット量について記憶する記憶手段が構築されることになる。
【００２６】
この記憶手段の記憶する受信パケット量を受けて、決定手段は、例えば、受信パケット量の多いほど高いランキングを与えるという形で、記憶手段に記憶される受信パケット量に基づいて、記憶手段に登録される送信元のランキングを決定する。
【００２７】
このランキングの決定を受けて、制御手段は、攻撃を受けている送信先から返送されるパケットを受信するときに、そのパケットの送信先の持つランキングに基づいて、そのパケットの受信から送出までの遅延時間を制御する。例えば、高いランキングの送信先ほど長い遅延時間を設定して、それに従って受信したパケットを遅延させて送出するというように、パケットの受信から送出までの遅延時間を制御するのである。
【００２８】
このような制御が行われると、パケット発行元が正規の利用者である場合には、送信したパケットの返送が遅れてくることになるので、送信するパケット量が減少することになるのに対して、パケット発行元が攻撃者である場合には、送信したパケットの返送に関係なくパケットを送信してくるので、送信するパケット量が変動しないことになる。
【００２９】
これから、識別手段は、この制御に関連付けて、記憶手段に登録される送信元から送信されるパケット量の変動を評価することで、攻撃を行っている送信元を識別する。
【００３０】
このようにして、本発明のネットワーク攻撃元識別方法は、送信先から送信元へと返送されてくるパケットを受信して送出するときに、送信元に応じて、その受信から送出までの遅延時間を制御する構成を採って、その制御に関連付けて、送信先に送信される送信元毎のパケット量の変動を評価することで、送信先に対して攻撃を行っている送信元を識別するように処理するのである。
【００３１】
〔２−２〕攻撃の発生を検出する前から、その攻撃を行っている攻撃元の識別に用いる記憶手段を構築する構成
本発明のネットワーク装置は、ネットワーク上に存在する装置あるいはネットワークに対して行われる不必要なパケットを使った攻撃の攻撃元を識別するために、（イ）攻撃を受けている送信先を検出する検出手段と、（ロ）パケットを受信するときに、送信先と送信元との組み合わせで区分けした受信パケット量について記憶する記憶手段に記憶される受信パケット量を更新する更新手段と、（ハ）記憶手段に記憶される受信パケット量に基づいて、検出手段の検出した送信先にパケットを送信している送信元のランキングを決定する決定手段と、（ニ）検出手段の検出した送信先から返送されるパケットを受信するときに、そのパケットの送信先の持つランキングに基づいて、そのパケットの受信から送出までの遅延時間を制御する制御手段と、（ホ）制御手段の制御に関連付けて、記憶手段に登録される送信元の内の、検出手段の検出した送信先に対してパケットを送信している送信元から送信されるパケット量の変動を評価する（例えば、送信元のランキングの変動で評価する）ことで、攻撃の送信元を識別する識別手段とを備えるように構成する。
【００３２】
この構成を採るときに、検出手段は、前述した本発明のネットワーク攻撃検出方法を使って、攻撃を受けている送信先を検出することがあり、この場合には、（イ）記憶手段に記憶される受信パケット量に基づいて、記憶手段に登録される送信先のランキングを決定し、（ロ）パケットを受信するときに、そのパケットの送信元の持つ送信先ランキングに基づいて、そのパケットの受信から送出までの遅延時間を制御し、（ハ）その制御に関連付けて、記憶手段に登録される送信先に送信されるパケット量の変動を評価する（例えば、送信先のランキングの変動で評価する）ことで、攻撃を受けている送信先を特定するように処理することになる。
【００３３】
以上の各処理手段が動作することで実現される本発明のネットワーク攻撃元識別方法はコンピュータプログラムで実現できるものであり、このコンピュータプログラムは、半導体メモリなどのような適当な記録媒体に記録して提供されたり、ネットワークを介して提供され、本発明を実施する際にインストールされてＣＰＵなどの制御手段上で動作することにより本発明を実現することになる。
【００３４】
このように構成される本発明のネットワーク装置では、更新手段の処理に従って、送信先と送信元との組み合わせで区分けした受信パケット量について記憶する記憶手段が構築されることになる。
【００３５】
これから、決定手段は、検出手段が攻撃を受けている送信先を検出すると、例えば、受信パケットの多いほど高いランキングを与えるという形で、記憶手段に記憶される受信パケット量に基づいて、攻撃を受けている送信先にパケットを送信している送信元のランキングを決定する。
【００３６】
このランキングの決定を受けて、制御手段は、攻撃を受けている送信先から返送されるパケットを受信するときに、そのパケットの送信先の持つランキングに基づいて、そのパケットの受信から送出までの遅延時間を制御する。例えば、高いランキングの送信先ほど長い遅延時間を設定して、それに従って受信したパケットを遅延させて送出するというように、パケットの受信から送出までの遅延時間を制御するのである。
【００３７】
このような制御が行われると、パケット発行元が正規の利用者である場合には、送信したパケットの返送が遅れてくることになるので、送信するパケット量が減少することになるのに対して、パケット発行元が攻撃者である場合には、送信したパケットの返送に関係なくパケットを送信してくるので、送信するパケット量が変動しないことになる。
【００３８】
これから、識別手段は、この制御に関連付けて、記憶手段に登録される送信元の内の、攻撃を受けている送信先に対してパケットを送信している送信元から送信されるパケット量の変動を評価することで、攻撃を行っている送信元を識別する。
【００３９】
このようにして、本発明のネットワーク攻撃元識別方法は、送信先から送信元へと返送されてくるパケットを受信して送出するときに、送信元に応じて、その受信から送出までの遅延時間を制御する構成を採って、その制御に関連付けて、送信先に送信される送信元毎のパケット量の変動を評価することで、送信先に対して攻撃を行っている送信元を識別するように処理するのである。
【発明の効果】
【００４０】
以上に説明したように、本発明によれば、パケットの転送を止めることなく、さらに、端末の送信挙動をふまえた過去のトラヒックと現在のトラヒックとの比較を用いることで、過去のトラヒックと現在のトラヒックとの単純比較によらずに、ＤＤｏＳ攻撃などのネットワーク攻撃の発生を検出できるようになるとともに、ＤＤｏＳ攻撃などのネットワーク攻撃を行っている端末を識別できるようになる。
【発明を実施するための最良の形態】
【００４１】
本発明は、本発明を具備するネットワーク装置を通過するパケットを測定して、その測定した結果に基づいて、パケットを受信してから送信するまでの時間を任意に調整することにより、従来技術の持つ問題を解決しながら、ＤＤｏＳ攻撃が発生していることを検出することを可能にするとともに、ＤＤｏＳ攻撃を行っている端末を識別することを可能にするものである。
【００４２】
本発明を具備するネットワーク装置では、通過するパケット量をパケットのヘッダ項目ごとに計測する。その計測した結果を利用してＤＤｏＳ攻撃の検出を行う場合には、まず、パケットの宛先アドレス（ＩＰアドレスのこともあるし、ネットワークアドレスのこともある）ごとにパケット量の多少によって宛先アドレスをｎ（ｎ：２以上の整数）種類のランキングに分類する。
【００４３】
このｎ種類のランキングへの分類は、ＤＤｏＳ攻撃の検出を試みている期間内は継続的に実施する。また、ｎ種類のランキングに分類する方法としては、最初からｎの数値を固定的に決めておいてもよいし、測定した宛先アドレスごとのパケットの測定結果を利用してｎの数値を決めてもよい。
【００４４】
次に、本発明を具備するネットワーク装置がパケットを受信した際に、そのパケットの送信元アドレスを取り出し、その取り出した送信元アドレスが、先に分類した宛先アドレスのｎ種類のランキングに含まれているのか否かを調べて、調べた結果、該当するアドレスが見つかった場合には、どのランキングに該当するのかを基準にしてそのパケットの送出を遅らせる。
【００４５】
このとき、宛先アドレスごとのパケット量の測定結果が多いランキングに含まれるアドレスほどパケットの送出を遅らせる時間が大きく、宛先アドレスごとのパケット量の測定結果が少ないランキングに含まれるアドレスほどパケットの送出を遅らせる時間が小さくなるように制御する。
【００４６】
したがって、ある端末とその端末がアクセスしているあるサーバとの間の通信に着目すると、端末からサーバ宛に送られるパケットが本発明を具備するネットワーク装置を通過する全パケットの中で相対的に多いほど、サーバから端末へ送られるパケットの遅延時間が大きくなる。
【００４７】
端末がサーバからの応答を受けてから再度サーバへのアクセスをするような相互関係を持っている場合、本発明を具備するネットワーク装置で意図的にサーバから端末への応答を遅延させることによって、端末とサーバとの間で行われている相互の通信が遅れることになる。
【００４８】
すなわち、先に分類されたｎ種類のランキングで上位に分類された宛先アドレスほど、端末とサーバとの応答が遅延することによってサーバ向けのパケットが減ることになり、この結果、そのサーバのアドレスを宛先アドレスにしているパケット量は次第に減少する。これによって、最初は宛先アドレスごとのパケット量のランキングで上位に分類されていたアドレスは、ランキングが下がることになる。
【００４９】
一方、ＤＤｏＳ攻撃は一般にサーバのサービスを停止させることを目的として大量のパケットを送信するため、サーバからの応答の如何に関わらず大量のパケットをサーバに送り続けることが特徴である。
【００５０】
このような端末からサーバへの通信が行われている場合、宛先アドレスごとのパケット量の測定結果のランキングに基づいて、宛先アドレスが送信元となっているパケットの送出を本発明を具備するネットワーク装置において遅らせたとしても、それとは無関係にサーバに向かってパケットを送信し続けている端末、すなわち、サーバからの応答を待たずにパケットを送信し続けている端末が送信しているパケットの宛先アドレスのランキングは下がらない。
【００５１】
正規の利用者の端末とＤＤｏＳ攻撃を行っている端末とでは、このようなランキングの変化の違いが現れるため、本発明を具備するネットワーク装置において送出を意図的に遅らせたアドレスのランキングが変化しない場合には、ＤＤｏＳ攻撃であるとして検出することが可能になる。
【００５２】
本発明によって、ＤＤｏＳ攻撃を行っている端末を識別しようとする場合には、本発明を具備するネットワーク装置で計測したパケットのヘッダ項目ごとのパケット量のうち、宛先アドレス以外の項目（送信元のアドレスなど）ごとに、前述した宛先アドレスの場合のように２種類以上のランキングを作成し分類する。例えば、送信元アドレスをｍ（ｍ：２以上の整数）種類のランキングに分類する。
【００５３】
次に、本発明を具備するネットワーク装置がパケットを受信した際に、そのパケットの宛先アドレスを取り出し、その取り出した宛先アドレスが、先に分類した送信元アドレスのｍ種類のランキングに含まれているのか否かを調べて、調べた結果、該当するアドレスが見つかった場合には、どのランキングに該当するのかを基準にしてそのパケットの送出を遅らせる。
【００５４】
このとき、送信元アドレスごとのパケット量の測定結果が多いランキングに含まれるアドレスほどパケットの送出を遅らせる時間が大きく、送信元アドレスごとのパケット量の測定結果が少ないランキングに含まれるアドレスほどパケットの送出を遅らせる時間が小さくなるように制御する。
【００５５】
この結果、前述のＤＤｏＳ攻撃の検出を行うために送信先アドレスの分類とそれに基づくパケット送出の遅延を行った場合と同様に、ある端末からサーバ宛に送られるパケットが本発明を具備するネットワーク装置を通過する全パケットの中で相対的に多いほど、サーバからその端末へ送られるパケットの遅延時間が大きくなる。
【００５６】
端末がサーバからの応答を受けてから再度サーバへのアクセスをするような相互関係を持っている場合、本発明を具備するネットワーク装置で意図的にサーバから端末への応答を遅延させることによって、端末とサーバとの間で行われている相互の通信が遅れることになる。すなわち、先に分類されたｍ種類のランキングで上位に分類された送信元アドレスほど、端末とサーバとの応答が遅延することによってサーバ向けのパケットが減ることになり、この結果、その端末のアドレスを送信元アドレスにしているパケット量は次第に減少する。
【００５７】
これによって、最初は送信元アドレスごとのパケット量のランキングで上位に分類されていたアドレスは、ランキングが下がることになるが、ＤＤｏＳ攻撃を行っている端末からのパケットは減少しないためランキングは下がらない。この違いによって、ＤＤｏＳ攻撃を行っている端末とそうでない端末とを識別することが可能になる。
【実施例１】
【００５８】
以下、実施例に従って本発明を詳細に説明する。
【００５９】
図１に、本発明の一実施例として、本発明を具備するネットワーク装置３０およびルータにより、端末１１〜１４、サーバ２１〜２３が接続されているネットワークの一例を図示する。
【００６０】
ここで、端末１１〜１４は、サーバ２１〜２３へネットワークを経由してアクセスすることができる。
【００６１】
図２に、本発明を具備するネットワーク装置３０の装置構成の一例を図示する。
【００６２】
この図に示すネットワーク装置３０は、ネットワークＩ／Ｆ部１００、パケットカウンタ部２００、パケットランキング処理部３００、パケットランキング履歴記録部４００、送出パケット遅延時間算出部５００、ＤＤｏＳ攻撃判断処理部６００、パケット送出遅延処理部７００、ＤＤｏＳ攻撃通知部８００で構成される。
【００６３】
図３に、ネットワーク装置３０の備えるパケットランキング履歴記録部４００のデータ構造の一例を図示する。
【００６４】
この図に示すパケットランキング履歴記録部４００は、ＤＤｏＳ攻撃の発生の有無を検出するために用意されるものであって、これまでに受信・送出したパケットの宛先アドレス（送信先アドレス）に対応付けて、その宛先アドレスに向けて受信・送出したパケットの数を記録するとともに、そのパケット数により決定された各宛先アドレスのランキング（例えばパケット数の降順に決定される）の履歴情報を記録する。
【００６５】
ここで、この図に示すパケットランキング履歴記録部４００では、ネットワーク上の装置に対する攻撃を検出することを想定していることから、宛先アドレスとして、ＩＰアドレスを使ってパケット数を記録するようにしているが、ネットワークに対する攻撃を検出する場合には、図４に示すように、宛先アドレスとして、ネットワークアドレスを使ってパケット数を記録するという構成を採ることになる。
【００６６】
ネットワーク装置３０は、このようなデータ構造を持つパケットランキング履歴記録部４００を備えており、パケットカウンタ部２００は、パケットランキング履歴記録部４００に記録されるパケット数を更新する処理を行ない、パケットランキング処理部３００は、パケットランキング履歴記録部４００に記録されるパケット数に基づいて宛先アドレスのランキングを決定して、パケットランキング履歴記録部４００に記録されるランキング履歴を更新する処理を行ない、送出パケット遅延時間算出部５００は、パケットランキング履歴記録部４００に記録される最新のランキングに従って、受信・送出するパケットの遅延時間を算出する処理を行うことになる。
【００６７】
このパケットランキング履歴記録部４００については、図５に示すような形でネットワーク装置３０に１つ備えられることもあるが、対となるネットワークインタフェースとの間の方向を考えて、例えば２つというように、図６に示すような形でネットワーク装置３０に複数備えられることもある。
【００６８】
図７に、ネットワーク装置３０において実行されるＤＤｏＳ攻撃の検出処理の処理フローの一例を図示する。
【００６９】
次に、この処理フローに従って、ネットワーク装置３０において実行されるＤＤｏＳ攻撃の検出処理について説明する。
【００７０】
ネットワーク装置３０は、まず、ネットワークＩ／Ｆ部１００で、パケットを受信する（Ｓ１０）。
【００７１】
続いて、パケットカウンタ部２００で、この受信したパケットについて宛先アドレスを調べ、パケットランキング履歴記録部４００の宛先アドレス欄に、その宛先アドレスが登録されている場合には、その宛先アドレスのパケット数を１つインクリメントし、その宛先アドレスが登録されていない場合には、宛先アドレス欄に、その宛先アドレスが入ったランキングを作成してパケット数として１を登録するとともに、ランキング履歴として０を登録する（Ｓ１１）。
【００７２】
この処理が終わると、後述するパケットランキング処理（図８の処理：パケットランキング処理部３００が実行する）によって、パケットランキング履歴記録部４００を最新状態にする（Ｓ１２）。
【００７３】
パケットランキング処理が終了した後は、送出パケット遅延時間算出部５００の処理と、後述するＤＤｏＳ攻撃判断処理部６００の処理（図９の処理）とを並行して進める。
【００７４】
送出パケット遅延時間算出部５００では、先に受信したパケットの送信元アドレスがパケットランキング履歴記録部４００の宛先アドレス欄の何番目に該当するのかを調べ、このランキングの値をｉにして遅延時間Ｔi(ｉ＝1,2,・・・,n）を算出する（Ｓ１３）。
【００７５】
このＴi はｎ種類が全て違っても、一部同じであっても構わないが、
０≦Ｔi+1 ≦Ｔi ≦Ｔi-1 
の関係が成立するようにする。すなわち、ランキングの順位が高いほどＴi は大きく、最小でも０とし、さらに２種類以上の時間になるように決めておく。また、先に受信したパケットの送信元アドレスがパケットランキング履歴記録部４００のランキングにない場合には、遅延時間Ｔi を０とする。
【００７６】
ここで、このように遅延時間Ｔi をランキングに応じて変えるのは、ランキングが低くなる正規の利用者に対して、できる限りパケットを遅延させないで返送するようにするからである。
【００７７】
続いて、パケット送出遅延処理部７００で、パケットを受信してからの時間がＴi 経過するのを待つ（Ｓ１４）。
【００７８】
そして、パケットを受信してからの時間がＴi 経過すると、ネットワークＩ／Ｆ部１００からパケットを送出する（Ｓ１５）。
【００７９】
次に、図８に従って、パケットランキング処理部３００が実行するパケットランキング処理（図７のＳ１２の処理）について説明する。
【００８０】
パケットランキング処理部３００は、まず、パケットランキング履歴記録部４００の受信パケット数の項目をキーとした降順のソート処理を行ない、パケットランキング履歴記録部４００のランキングを最新なものにする（Ｓ２０）。
【００８１】
続いて、パケットランキング履歴記録部４００のランキング履歴欄の一番目の値とその時点のランキングとを比較し、違う場合、すなわちソート処理の前後でランキングが変化している項目がある場合には、ランキング履歴欄の一番目に現在のランキング番号を入れ、それまでの１〜α番目までのランキング履歴を一つずつ古い履歴にずらす。このとき、α番目の履歴があった場合には、その値を破棄する（Ｓ２１）。
【００８２】
パケットランキング処理が終了すると、図７で説明したＳ１３〜Ｓ１５の処理と、これから説明するＤＤｏＳ攻撃判断処理部６００の処理とが並行して実行されることになる（Ｓ２２）。
【００８３】
ここで、本実施例ではパケットを受信するたびに、このパケットランキング処理を実施するようにしているが、複数のパケットを受信してから実施してもよいし、一定の時間ごとに実施してもよい。
【００８４】
次に、図９に従って、ＤＤｏＳ攻撃判断処理部６００が実行するＤＤｏＳ攻撃判断処理について説明する。
【００８５】
ＤＤｏＳ攻撃判断処理部６００は、まず、パケットランキング履歴記録部４００の項目（宛先アドレス）をランキング１の項目から順に１つ選択してランキング履歴を調べ（Ｓ３０）、項目ごとにランキング履歴がＤＤｏＳ攻撃検出条件に合致しているのかどうかを判断する（Ｓ３１）。
【００８６】
このＤＤｏＳ攻撃検出条件は、ランキングの上位に位置していて、かつ、ランキングが下がらないものを見つけ出す条件として記述されるもので、例えば、ランキング５以上で、かつ３回以上連続してランキングが同等あるいは上昇しているものといったもので記述される。この攻撃検出条件の場合、図３の例では、宛先アドレス“201.201.10.3”が、このＤＤｏＳ攻撃検出条件に合致することなる。
【００８７】
ＤＤｏＳ攻撃検出条件に合致していることを判断する場合には、ＤＤｏＳ攻撃通知部８００がＤＤｏＳ攻撃を検出したことを外部に通知する（Ｓ３２）。
【００８８】
続いて、ランキング履歴チェックの終了条件（例えば、あるランキングまで到達したといった終了条件）に合致したのか否かを判断して、ランキング履歴チェックの終了条件に合致しない場合には、次の項目（宛先アドレス）を調べるべくＳ３０に戻り、ランキング履歴チェックの終了条件に合致した場合には、処理を終了する。
【００８９】
このようにして、本発明のネットワーク装置３０は、例えば、アドレスａａａを持つ端末がアドレスＡＡＡを持つサーバにパケットを送信して、その返送のパケットを受信する場合、図１０に示すように、端末からサーバに送信されるパケット（宛先アドレス：ＡＡＡ，送信元アドレス：ａａａ）に従って、パケットランキング履歴記録部４００に記録される宛先アドレスＡＡＡの受信パケット数を更新し、その受信パケット数に応じたランキングの規定する遅延時間に従って、サーバから端末に返送されるパケット（宛先アドレス：ａａａ，送信元アドレス：ＡＡＡ）を遅延させていくように処理する。
【００９０】
このような場合に、アドレスａａａを持つ端末がＤＤｏＳ攻撃を行っている場合には、返送パケットが遅延することになっても、アドレスａａａを持つ端末は次々と攻撃用のパケットを送信してくるので、アドレスＡＡＡを持つサーバのランキングは高いまま変動しないことになる。
【００９１】
本発明のネットワーク装置３０は、このような状態を検出することにより、アドレスＡＡＡを持つサーバがＤＤｏＳ攻撃を受けていることを検出するのである。
【００９２】
なお、本発明のネットワーク装置３０は、パケットを受信するときには、図５に示したように、遅延を行わないことを含めて、ランキングの更新と受信パケットの遅延との双方の処理を行うことになるが、図１０では、説明を分かりやすいものとするために、一方の処理のみを行うことで説明している。
【００９３】
図３に示したパケットランキング履歴記録部４００では、これまでに受信・送出したパケットの宛先アドレスに対応付けて、その宛先アドレスに向けて受信・送出したパケットの数を記録するという構成を採っているが、図１１に示すように、パケットに設定されるＴＴＬ（time to live：生存時間）などで区分けする形で、その宛先アドレスに向けて受信・送出したパケットの数を記録するという構成を採ってもよい。
【００９４】
ＤＤｏＳ攻撃に用いられるパケットについては、ＴＴＬやウィンドウサイズ（送達の確認なしに連続して送受信できるデータ量）に特徴のあることが多く、これから、パケットに設定されるＴＴＬやウィンドウサイズなどで区分けする形で、宛先アドレスに向けて受信・送出したパケットの数を記録するという構成を採ると、ＤＤｏＳ攻撃の発生をより正確に検出することができるようになるからである。
【００９５】
パケットランキング履歴記録部４００が図１１に示すようなデータ構造を持つ場合には、例えば、突出したＴＴＬを持つ受信パケット量を、その宛先アドレスの受信パケット量と見なして前述のランキングを行うことになる。
【００９６】
図１２に、ＤＤｏＳ攻撃の攻撃元を識別するために用意されるパケットランキング履歴記録部４００のデータ構造の一例を図示する。
【００９７】
この図に示すように、パケットランキング履歴記録部４００は、ＤＤｏＳ攻撃の攻撃元を識別する場合には、これまでに受信・送出したパケットの宛先アドレスと、それらのパケットの送信元のアドレスとの組み合わせに対応付けて、その送信元アドレスからその宛先アドレスに向けて受信・送出したパケットの数を記録するとともに、そのパケット数により決定された各送信元アドレスのランキングの履歴情報を記録し、さらに、前述したＤＤｏＳ攻撃の発生を検出するために、宛先アドレスごとの受信パケット数の総数を記録するという構成を採ることになる。
【００９８】
ネットワーク装置３０は、ＤＤｏＳ攻撃の攻撃元を識別する場合には、前述した処理に従ってＤＤｏＳ攻撃を受けている装置（ネットワークのこともある）を検出すると、パケットランキング履歴記録部４００の記録データに従い、その攻撃を受けている装置の宛先アドレスに対応付けられる送信元アドレスの受信パケット数に基づいて、それらの送信元アドレスのランキングを決定して、そのランキングに基づいて、それらの送信元アドレスを宛先アドレスとするパケット（返送パケット）を受け取る場合に、ランキングの上位にあるアドレスほど遅延時間が大きくなるようにと決定して、パケットを遅延させて送出する。
【００９９】
そして、このようなパケット送出の遅延を行っても、受信パケット数のランキングが下がらない送信元アドレスを持つ端末を攻撃を行っている端末として識別する。
【０１００】
すなわち、本発明のネットワーク装置３０は、例えば、アドレスＡＡＡを持つサーバがＤＤｏＳ攻撃を受けていることを検出すると、図１３に示すように、そのサーバからアドレスａａａを持つ端末に返送されるパケットを受け取るときに、パケットランキング履歴記録部４００に記録される宛先アドレスＡＡＡ／送信元アドレスａａａの指す受信パケット数により決定されたランキングの規定する遅延時間に従って、そのパケットを遅延させていくように処理するのである。
【０１０１】
このような場合に、アドレスａａａを持つ端末がＤＤｏＳ攻撃を行っている場合には、返送パケットが遅延することになっても、次々と攻撃用のパケットを送信してくるので、アドレスａａａを持つ端末のランキングは高いまま変動しないことになる。
【０１０２】
本発明のネットワーク装置３０は、このような状態を検出することにより、アドレスａａａを持つ端末がＤＤｏＳ攻撃を行っていることを識別するのである。
【０１０３】
なお、本発明のネットワーク装置３０は、パケットを受信するときには、図５に示したように、遅延を行わないことを含めて、ランキングの更新と受信パケットの遅延との双方の処理を行うことになるが、図１３では、説明を分かりやすいものとするために、一方の処理のみを行うことで説明している。
【０１０４】
図１２では、ＤＤｏＳ攻撃の発生の検出とその攻撃元の識別との双方の処理に用いられるデータ構造を持つパケットランキング履歴記録部４００について示したが、図３に示したデータ構造を持つパケットランキング履歴記録部４００を使って、ＤＤｏＳ攻撃の発生の検出した後に、その攻撃を受けているサーバにパケットを送信している送信元アドレスを記録対象として、その送信元アドレスごとの受信パケット数について記録する図１４に示すようなデータ構造を持つ別のパケットランキング履歴記録部の作成に入って、それを作成し、その記録する受信パケット数に基づいて、それらの送信元アドレスのランキングを決定するという方法を用いることも可能である。
【０１０５】
この方法を用いると、ＤＤｏＳ攻撃の発生の検出した後、直ちにその攻撃元を識別することができないものの、図１２に示すような大容量のパケットランキング履歴記録部４００を用意する必要がないという利点が得られることになる。
【図面の簡単な説明】
【０１０６】
【図１】本発明が適用されるシステムの説明図である。
【図２】本発明のネットワーク装置の装置構成の一例である。
【図３】パケットランキング履歴記録部のデータ構造の一例である。
【図４】パケットランキング履歴記録部の説明図である。
【図５】パケットランキング履歴記録部の説明図である。
【図６】パケットランキング履歴記録部の説明図である。
【図７】本発明のネットワーク装置の実行する処理フローの一例である。
【図８】本発明のネットワーク装置の実行する処理フローの一例である。
【図９】本発明のネットワーク装置の実行する処理フローの一例である。
【図１０】本発明のネットワーク装置の実行する処理の説明図である。
【図１１】パケットランキング履歴記録部のデータ構造の他の例である。
【図１２】パケットランキング履歴記録部のデータ構造の一例である。
【図１３】本発明のネットワーク装置の実行する処理の説明図である。
【図１４】パケットランキング履歴記録部のデータ構造の他の例である。
【符号の説明】
【０１０７】
３０    ネットワーク装置
１００  ネットワークＩ／Ｆ部
２００  パケットカウンタ部
３００  パケットランキング処理部
４００  パケットランキング履歴記録部
５００  送出パケット遅延時間算出部
６００  ＤＤｏＳ攻撃判断処理部
７００  パケット送出遅延処理部
８００  ＤＤｏＳ攻撃通知部
【図１】
2005229234.tif 000003
【図２】
2005229234.tif 000004
【図３】
2005229234.tif 000005
【図４】
2005229234.tif 000006
【図５】
2005229234.tif 000007
【図６】
2005229234.tif 000008
【図７】
2005229234.tif 000009
【図８】
2005229234.tif 000010
【図９】
2005229234.tif 000011
【図１０】
2005229234.tif 000012
【図１１】
2005229234.tif 000013
【図１２】
2005229234.tif 000014
【図１３】
2005229234.tif 000015
【図１４】
2005229234.tif 000016