(57)【要約】【課題】  複数の装置を連携させて仮想的に一台に見立てることができるパケット中継装置において、パケット中継装置間を接続する制御ポートの帯域不足が発生する場合、帯域不足によってネットワークシステム上のボトルネックになり、パケット廃棄が多く発生する恐れがある。【解決手段】  複数の装置を連携させて仮想的に１台に見立てることができるパケット中継装置において、リンク最適化調整やパケット解析部を具備することによって、通信の流れ方や通信量などを自動的で判断し、主に稼動させる回線を最適化することによって、制御ポートに流れるトラフィックを管理して、制御ポートの帯域不足を補う。【選択図】  図７
2012129759.tif 000002
【特許請求の範囲】
【請求項１】
複数台が仮想的に1台として機能する装置であって、
第１の装置と第２の装置を仮想的に1台とした場合、
前記第１および第２の装置を両装置が有するポートの一部により接続し、
前記第１および第２の装置の前記ポートの一部を集約して扱う論理回線が複数組まれ、
前記論理回線内には転送用の物理回線と予備の物理回線が存在し、
一部の前記論理回線内の転送用の物理回線の障害により前記第１および第２の装置間のトラフィックが所定の閾値以上に達した場合、前記故障の生じた論理回線以外の論理回線も予備の物理回線を転送用に切り替えることを特徴とする装置。
【請求項２】
請求項１記載の装置であって、
送信元ポートと宛先ポートの組み合わせでトラフィックを監視するパケット解析部を有し、
当該パケット解析部により前記第１および第２の装置間のトラフィックが所定の閾値以上に達したかを判定することを特徴とする装置。
【請求項３】
請求項１記載の装置であって、
各装置のポート間の通信可否を管理する通信可否記憶部を有し、
当該通信可否記憶部を参照して転送用の物理回線と予備の物理回線を切り替えを行うことを特徴とする装置。
【請求項４】
請求項２記載の装置であって、
前記第１および第２の装置のそれぞれのポート間でのトラフィックを集計する集計記憶部を有し、
当該集計記憶部を参照して前記第１および第２の装置間のトラフィックが所定の閾値を以上に達したかを判断することを特徴とする装置。
【請求項５】
複数台が仮想的に1台として機能する装置であって、
第１の装置と第２の装置を仮想的に1台とした場合、
前記第１および第２の装置を両装置が有するポートの一部により接続し、
前記第１および第２の装置の前記ポートの一部を集約して扱う論理回線が複数組まれ、
前記論理回線内には転送用の物理回線と予備の物理回線が存在し、
一部の前記論理回線内の転送用の物理回線の障害により前記第１および第２の装置間のパケット廃棄率が所定の閾値以上に達した場合、前記故障の生じた論理回線以外の論理回線も予備の物理回線を転送用に切り替えることを特徴とする装置。
【請求項６】
請求項５記載の装置であって、
送信元ポートと宛先ポートの組み合わせでパケット廃棄率を監視するパケット解析部を有し、
当該パケット解析部により前記第１および第２の装置間のパケット廃棄率が所定の閾値以上に達したかを判定することを特徴とする装置。
【請求項７】
請求項５記載の装置であって、
各装置のポート間の通信可否を管理する通信可否記憶部を有し、
当該通信可否記憶部を参照して転送用の物理回線と予備の物理回線を切り替えを行うことを特徴とする装置。
【請求項８】
複数台が仮想的に1台として機能する装置であって、
仮想的に1台とした複数の前記装置間を各装置のポートの一部により相互に接続し、
複数の前記装置のポートの一部を集約して扱う論理回線を複数設定し、
前記論理回線の一部の故障により、前記装置間のトラフィックが所定の閾値を超えた場合、故障が発生した論理回線以外の論理回線でも運用系と待機系のポートを切り替えることを特徴とする装置。
【請求項９】
請求項８記載の装置であって、
送信元ポートと宛先ポートの組み合わせでトラフィックを監視するパケット解析部を有し、
当該パケット解析部により複数の前記装置間のトラフィックが所定の閾値以上に達したかを判定することを特徴とする装置。
【請求項１０】
請求項８記載の装置であって、
各装置のポート間の通信可否を管理する通信可否記憶部を有し、
当該通信可否記憶部を参照して転送用の物理回線と予備の物理回線を切り替えを行うことを特徴とする装置。
【請求項１１】
請求項９記載の装置であって、
複数の前記装置のそれぞれのポート間でのトラフィックを集計する集計記憶部を有し、
当該集計記憶部を参照して複数の前記装置間のトラフィックが所定の閾値を以上に達したかを判断することを特徴とする装置。
【請求項１２】
複数台が仮想的に1台として機能する装置であって、
仮想的に1台とした複数の前記装置間を各装置のポートの一部により相互に接続し、
複数の前記装置のポートの一部を集約して扱う論理回線を複数設定し、
前記論理回線の一部の故障により、前記装置間のパケット廃棄率が所定の閾値を超えた場合、故障が発生した論理回線以外の論理回線でも運用系と待機系のポートを切り替えることを特徴とする装置。
【請求項１３】
請求項１２記載の装置であって、
送信元ポートと宛先ポートの組み合わせでパケット廃棄率を監視するパケット解析部を有し、
当該パケット解析部により複数の前記装置間のパケット廃棄率が所定の閾値以上に達したかを判定することを特徴とする装置。
【請求項１４】
請求項１２記載の装置であって、
各装置のポート間の通信可否を管理する通信可否記憶部を有し、
当該通信可否記憶部を参照して転送用の物理回線と予備の物理回線を切り替えを行うことを特徴とする装置。
【発明の詳細な説明】
【技術分野】
【０００１】
複数のパケット中継エンジンを具備するパケット中継装置、または、システムに関する通信処理技術に関する。
【背景技術】
【０００２】
ルータやスイッチといったパケット中継装置が用いられるネットワークは、図１のような階層型ネットワークで構築されるが多い。階層型ネットワークは、すべてのパケット中継装置間を通信ケーブルで接続するフルメッシュ型の構成に比べて、通信ケーブル数の削減により、少ないパケット中継装置の数で大規模なネットワークを構築できる利点がある一方、上流のパケット中継装置で障害が発生すると波及範囲が大きいという問題がある。
【０００３】
したがって、階層型ネットワークの上流の階層に配置されるパケット中継装置には高い可用性が求められる。可用性は、システム障害の発生する確率とシステム障害発生時の普及時間の短さから計算され、可用性を高めるためにシステム障害発生率の低減に加え、障害が発生した時に速やかにシステムを復旧させる事が重要となる。
【０００４】
可用性を高める手法は、特許文献１、特許文献２、非特許文献１の特徴を備えたパケット中継装置が知られている。特許文献１に開示されるパケット中継装置は、全てのモジュールを冗長化、あるモジュールで故障が発生しても予備モジュールを起動することで継続稼動できる特徴を有する。特許文献２に開示されるパケット中継装置は、装置単体ではモジュールが冗長化されていないが、複数の装置を仮想的に一台に見せることによって冗長化を行い、パケット中継装置で障害が発生しても、仮想的にグループ化された他のパケット中継装置にて継続稼動できる特徴（以降、装置間スタック技術と呼ぶ）を有する。
【０００５】
非特許文献１に開示されるリンクアグリゲーションは、装置間の接続する通信ケーブルを複数接続して、複数のケーブルを論理的に１本にまとめて使用することができる手段を提供することで伝送路の冗長性を確保する特徴を有する。なお、非特許文献１のリンクアグリゲーションは、特許文献１や特許文献２に開示されるパケット中継装置上と併用することで可用性が高めることができる。
【０００６】
図１に代表的な階層型ネットワークの例を示す。図１では、３つの階層構造のうち、単一の装置内で冗長化可能なパケット中継装置１０１が最上位のコア層に配備され、当該装置は特許文献１に開示されるパケット中継装置の特徴を有し、複数の装置を仮想的に一台の装置に見立てて頂上化可能なパケット中継装置１０２が中間のディストリビューション層に配備され、特許文献２に開示されるパケット中継装置の特徴を有する。
【０００７】
装置の冗長化機能を有しないパケット中継装置１０３は最下位のアクセス層に配備され、特許文献１や特許文献２に記載されるような高可用性の技術を具備していない。一般的に、特許文献１に記述されるようなパケット中継装置１０１は高可用である一方で、機器コストが高いために波及範囲の大きな階層に設置されることが多い。なお、各パケット中継装置間を接続する通信ケーブルは、非特許文献１のリンクアグリゲーション１０４によって伝送路が冗長化されている。
【先行技術文献】
【特許文献】
【０００８】
【特許文献１】特開２００７−２０８５７９
【特許文献２】特開２００８−７８８９３
【非特許文献】
【０００９】
【非特許文献１】“Amendment to CarrierSense Multiple Access with Collision Detection (CSMA/CD) Access Method andPhysical Layer Specifications − Aggregation of MultipleLink Segments,” IEEE 802.3ad, 2000年
【発明の概要】
【発明が解決しようとする課題】
【００１０】
特許文献１によって開示されるパケット中継装置は、装置単体でモジュールが冗長化され、障害発生時にバックアップモジュールに高速な切り替えを行うため、図２のようなクロスコネクション構造を採用されている。
【００１１】
図２のパケット中継装置２００は、装置内にコントロール部２０１、フォワーディング部２０２、回線部２０３を具備し、それぞれが冗長化されている。フォワーディング部２０２の内部には、パケットの宛先を決定するパケット中継エンジン２０４が存在し、パケット中継エンジン２０４はパケットをどこに配送するかの情報が格納される宛先テーブル２０５が具備されている。パケット中継エンジン２０４は、パケットを受信すると宛先テーブル２０５を参照して、パケットをどの回線部２０３から出力するかを決定する。
【００１２】
パケット中継装置２００のコントロール部２０１、フォワーディング部２０２、回線部２０３は、隣接する部位に対して、複数のブロックと交差して繋がるクロスコネクション構造をとっている。このため、例えば、運用に用いていたフォワーディング部２０２Ａに障害が発生した場合、回線部２０３Ａとフォワーディング部２０２Ｂを接続する経路を選択する単純な切り替え処理によってフォワーディング部２０２Ｂによって継続運用が可能になる。
【００１３】
このように切り替えが行われる際、パケット中継エンジン２０４内の宛先テーブル２０５に関して、パケット中継装置内でリアルタイムに同期（同じ状態にしておくこと）を取ることによって、運用系に障害が発生して、バックアップのフォワーディング部２０２Ｂが使用されることがあっても、宛先テーブル２０５の再学習を実施することなく、通信が行うことができるようになるために通信断が発生する時間を小さくすることができる。
【００１４】
このように特許文献１によって開示されるパケット中継装置は、クロスコネクション構造の採用と宛先テーブル２０５の同期化によって、障害発生時の復旧時間を短縮、結果として、可用性が優れる一方で、ハードウェア構造の複雑化によって部品点数／消費電力／コスト／設置スペースの増加を招く問題がある。特許文献１に開示されるパケット中継装置においても例外なく、上記問題が存在する。
【００１５】
特許文献２によって開示されるパケット中継装置は、複数のパケット中継装置を仮想的に一台に見せて冗長化を図る装置間スタック技術を有する。特許文献２では図３のような構成が開示されている。図３に示すパケット中継装置３００は、装置内にコントロール部３０１、フォワーディング部３０２、回線部３０３が１つずつ具備されており、図２に示したパケット中継装置２００との違いは、各部が装置内単体で冗長化いないが、装置間スタックを使って複数の装置を仮想的に一台のパケット中継装置として見立てている点である。
【００１６】
なお、装置間スタックを実現するには、各種デバイスの設定やパケット中継エンジン３０４内の宛先テーブル３０５の同期化など、装置間スタックを構成するパケット中継装置の同士で同期を取る為のスタックポート３０６が必要になる。スタックポート３０６には、各種デバイスの設定やパケット中継装置間の同期化に使用する制御情報のやり取りの他、パケット中継装置３００を跨って通信が必要な場合の伝送路にもなる。
【００１７】
そして、スタックポート３０６の回線帯域が流入するトラフィック量に比べて小さい場合にはスタックポート３０６が輻輳し、パケット廃棄（ブロッキング）が発生する。このようなブロッキングを回避するためには、スタックポート３０６の回線帯域を多く確保する必要があり、図４の(a)のように２４本の回線を具備するパケット中継装置３００で装置間スタックを構成して、スタックポート３０６として１２本を割り当てた場合、スタックポート３０６のブロッキングを回避できるが、外部の通信機器と接続することができるインタフェースは、１台のパケット中継装置あたり１２本にしかならない。図４の(b)のようにスタックポートを４本のみ割当てる場合、外部の通信機器と接続することができるインタフェースは、１台のパケット中継装置あたり２０本の割当てが可能になるが、前述のブロッキングの問題が発生する可能性がある。
【００１８】
以上のように、スタックポートでのブロッキングを回避するためにはスタックポートに多くの回線帯域を割り当てておく必要がある。一方で、スタックポートに多くの回線帯域を割当てることによって、効率的なネットワークシステムの構成が阻害されてしまい、ネットワークの構築コストが高くなる問題が生ずる。
【００１９】
本発明が解決しようとする課題は、複数のパケット中継装置を接続して仮想的に１台の装置として振る舞いを行うことができるネットワークシステムを効率的（部品点数／消費電力／コスト／設置スペースの削減を含む）に構成するための技術を提供することである。
【課題を解決するための手段】
【００２０】
上記した課題の少なくとも一部を解決するため本願では複数台が仮想的に1台として機能する装置であって、第１の装置と第２の装置を仮想的に1台とした場合、前記第１および第２の装置を両装置が有するポートの一部により接続し、前記第１および第２の装置の前記ポートの一部を集約して扱う論理回線が複数組まれ、前記論理回線内には転送用の物理回線と予備の物理回線が存在し、一部の前記論理回線内の転送用の物理回線の障害により前記第１および第２の装置間のトラフィックが所定の閾値以上に達した場合、前記故障の生じた論理回線以外の論理回線も予備の物理回線を転送用に切り替えることを特徴とする装置を提供する。
【発明の効果】
【００２１】
本発明を用いることにより、効率的なネットワークシステムを低コストで実現することが可能となる。
【図面の簡単な説明】
【００２２】
【図１】階層型ネットワークの構成例を示す図の一例
【図２】クロスコネクション構造を採用したパケット中継装置の構成例を示す図の一例
【図３】装置間スタック技術を用いたパケット中継装置の構成例を示す図の一例
【図４】装置間スタック技術を用いた際のスタックポート本数の影響を示す図の一例
【図５】一般的な装置間スタック技術を用いた通常運用時、及び、障害発生時の通信経路の例を示す図の一例
【図６】ネットワーク中継装置を用いた通常運用時、及び、障害発生時の通信経路の例を示す図の一例
【図７】ネットワーク中継装置を示す図の一例
【図８】ネットワーク中継装置を示す図の一例
【図９】本発明に係るスタック型ネットワークの構成例を示す図の一例
【図１０（ａ）】ＬＡＧ設定テーブルの一例
【図１０（ｂ）】通信可否マトリックステーブルの一例
【図１１】集計テーブルの一例
【図１２】パケット中継装置においてパケット受信からパケット送信に至るまでの全体の処理の流れを示すフローチャートを示す図の一例
【図１３】リンク最適化制御の判定処理の流れを示すフローチャートを示す図の一例
【図１４】回線障害時、通信マトリックステーブルの情報によるリンクアグリゲーションの最適化処理を実施する前の状態を示すスタック型ネットワークの構成例を示す図の一例
【図１５（ａ）】ＬＡＧ設定テーブルの一例
【図１５（ｂ）】通信可否マトリックステーブルの一例
【図１６】回線障害時、通信マトリックステーブルの情報によるリンクアグリゲーションの最適化処理を実施した後の状態を示すスタック型ネットワークの構成例を示す図の一例
【図１７（ａ）】ＬＡＧ設定テーブルの一例
【図１７（ｂ）】通信可否マトリックステーブルの一例
【図１８】集計テーブルの一例
【発明を実施するための形態】
【実施例１】
【００２３】
最初に装置間スタックを用いた場合の簡単なネットワーク構成を例に挙げて、通常運用時、障害時の処理概要を説明する。
【００２４】
図５に装置間スタックを用いたパケット中継装置のネットワークシステムの構成例を示す。装置間スタックを用いたネットワークシステムは、一方のパケット中継装置３００Ａもしくは３００Ｂが故障しても伝送経路を確保できるようにするため、隣接するパケット中継装置と接続する通信ケーブルを異なるパケット中継装置３００Ａ、３００Ｂとそれぞれに接続される回線どうしでリンクアグリゲーションのグループを組むことによって可用性を高める効果がある。
【００２５】
なお、図５(a)に示される通常運用時の場合、リンクアグリゲーションのグループに属する回線のうち、パケット中継装置３００Ａに接続される回線をアクティブポートに指定して、パケット中継装置３００Ｂに接続される回線をバックアップポートに指定することによって、スタックポート３０６を経由して転送するデータ通信が発生しなくなる。このように通常運用時においては、運用者のコンフィグレーション（設定）によって、スタックポート３０６を経由する通信量を低減することが可能である。
【００２６】
また、図５(b)に示されるアクティブポートの回線障害が発生した場合、回線障害が発生したリンクアグリゲーションのグループのパケット中継装置３００Ａに接続されるアクティブポートの縮退処理の結果として、パケット中継装置３００Ｂに接続される回線をバックアップポートからアクティブポートに遷移させる処理が行われる。リンクアグリゲーションではこのように回線障害が発生した場合、バックアップポートをアクティブポートに遷移させることによって通信の継続性を担保することが出来る。
【００２７】
その一方、図５(b)に示される様な装置間スタックを用いたパケット中継装置のネットワークシステムの構成例では、回線障害によってスタックポート３０６を経由してデータ通信が行われるようになる。回線障害が発生した場合、通信の継続性が担保される一方、スタックポート３０６の回線帯域が十分に確保されていないと、帯域不足によってネットワークシステム上のボトルネックになり、パケット廃棄が発生する恐れがある。
【００２８】
図６に本発明に係る装置間スタックを用いたパケット中継装置のネットワークシステムの構成例を示す。本発明に係る装置間スタックを用いたネットワークシステムは、一方のパケット中継装置３００Ａもしくは３００Ｂが故障しても伝送経路を確保できるようにするため、隣接するパケット中継装置と接続する通信ケーブルを異なるパケット中継装置３００Ａ、３００Ｂとそれぞれに接続される回線どうしでリンクアグリゲーションのグループを組むことによって可用性を高める効果がある。
【００２９】
なお、図６(a)に示される通常運用時の場合、リンクアグリゲーションのグループに属する回線のうち、パケット中継装置３００Ａに接続される回線をアクティブポートに指定して、パケット中継装置３００Ｂに接続される回線をバックアップポートに指定することによって、スタックポート３０６を経由して転送するデータ通信が発生しなくなる。
【００３０】
次に、図６(b)を用いて障害発生時の動作について説明する。回線障害が発生したリンクアグリゲーションのグループのパケット中継装置３００Ａに接続されるアクティブポートの縮退処理の結果として、パケット中継装置３００Ｂに接続される回線をバックアップポートからアクティブポートに遷移させる処理が行われることは従来技術と同様であるが、リンクアグリゲーションで回線障害が発生していないグループに関してもアクティブポート・バックアップポートの状態遷移処理を実施することによって、回線障害発生時にスタックポート３０６にデータ通信が流れることを極力排除することを可能とする。
【００３１】
図６(b)の例では、パケット中継装置１０３とパケット中継装置３００Ａの間で回線障害が発生しているため、従来技術同様に通常時にバックアップポートであったパケット中継装置１０３とパケット中継装置３００Ａの間の回線用のポートをアクティブポートに変更する。
【００３２】
このままでは、パケット中継装置１０１とパケット中継装置１０３との通信はスタックポート３０６を経由してしまう。そこで、本来障害の発生していないパケット中継装置１０１とパケット中継装置３００Ａの間の回線用のポートをバックアップポートにし、パケット中継装置１０１とパケット中継装置３００Ｂの間の回線用をアクティブにしている。こうすることによって、パケット中継装置１０１とパケット中継装置１０３との通信は全てスタックポート３０６を経由することなくパケット中継装置３００Ｂを通過することとなる。
【００３３】
また、本発明に係るパケット中継装置のネットワークシステムでは、スタックポート３０６に流れているデータパターン及び通信量を監視して、リンクアグリゲーションのアクティブポート・バックアップポートの選定を動的に選定することによってスタックポート３０６にデータ通信が流れることを極力排除することを可能とする。
【００３４】
これらの本発明技術（論理的にグループを組んでいるリンクアグリゲーション内の状態だけではなく、様々な条件を加味した上でアクティブポートを選定するメカニズム）を適用することによって、複数のパケット中継装置を接続して仮想的に１台の装置として振る舞いを行うことができるネットワークシステムを効率的（部品点数／消費電力／コスト／設置スペースの削減を含む）に構成する技術を提供することが可能となる。
【００３５】
図７に本実施例に係るパケット中継装置の構成を示す。パケット中継装置７００は、コントロール部７０１と、フォワーディング部７０２と、回線部７０３と、パケット解析部７０８から成る。フォワーディング部７０２の内にはパケット中継エンジン７０４が具備され、パケット中継エンジン７０４の内には宛先テーブル７０５が具備される。コントロール部７０１の内にはリンク最適化調整部７０７が具備される。パケット解析部７０８の内には集計テーブル７０９、ＬＡＧ設定テーブル７１０、通信可否マトリックステーブル７１１が具備される。また、回線部７０３に属する１本以上の物理回線をスタックポート７０６に定義し、装置間スタック技術を実現するための制御フレームやパケット中継装置間を跨って通信する必要があるデータトラフィックの通信経路として使用する。なお、装置間スタックを構成するために使用するスタックポート７０６はリンクアグリゲーションによる論理的に複数の回線を一本に見せる技術などによって帯域幅の増速が可能である。
【００３６】
次に、図７の各ブロックの詳細な説明をする。コントロール部７０１は、運用者のコンフィグレーション（設定）を受け付け、その設定情報に基づいて、フォワーディング部７０２、回線部７０３、パケット解析部７０８の設定及び情報のやり取りを行う装置全体の管理を行うマネジメント部であり、図９に示す装置間スタックを構成する装置、回線ごとにリンクアグリゲーションのどのグループに属するかを示すLAG Group IDの情報を持つ。
【００３７】
また、コントロール部７０１はリンク最適化調整部７０７を具備している。リンク最適化調整部７０７は、装置間スタックで構成される物理回線で構成されるリンクアグリゲーションのグループに関して、装置構成の状況をチェックし、グループ内のどの回線をアクティブポートまたはバックアップポートとして定義するのかを決定する手段を備え、その結果をコントロール部７０１に伝達して、他部位の設定を行う機能を備える。リンク最適化調整部７０７の状況判定方法については後述する。
【００３８】
フォワーディング部７０２は、内部にパケット中継エンジン７０４、宛先テーブル７０５を具備し、回線部７０３からパケット情報を受信すると、フォワーディング部７０２の中のパケット中継エンジン部７０４にてパケット情報に含まれる宛先情報（宛先Macアドレス、宛先IPアドレスなど）を抽出して、その抽出された宛先情報と宛先テーブル７０５を照合してパケットの出力先を決定する。
【００３９】
また、パケット情報に含まれていた宛先情報がマルチキャストやブロードキャストの場合には、パケット情報を複数の回線部７０３にコピーして出力する機能を具備する。なお、出力先がリンクアグリゲーションで構成されている論理回線である場合、該当のリンクアグリゲーショングループに属する物理回線部７０３のうち、アクティブポートに属するインタフェースにパケットを転送する。また、フォワーディング部７０２はパケットを回線部７０３に転送する際にパケット情報をパケット解析部７０８にコピーする機能（ミラーリング）を具備する。
【００４０】
回線部７０３は、外部の通信装置からパケットを受信してフォワーディング部７０２にパケットを転送、フォワーディング部７０２からパケットを受信して外部の通信装置に対してパケットを転送する役割を担う。回線部７０３の用途として、装置間スタックを構成するために必要な制御情報を伝播するためのスタックポート７０６としての役割にも使用が可能である。
【００４１】
パケット解析部７０８は、前記フォワーディング部７０２からミラーリングされたパケット情報を受信して解析、解析結果を分類して格納するための集計テーブル７０９を具備する。図１１に集計テーブル７０９に格納されるデータ情報を示す。集計テーブル７０９は、装置間スタックで構成されるパケット中継装置のうち、最初にパケット情報を受信したパケット中継装置の受信装置ID及び受信回線番号と、最終的にパケット情報を出力するパケット中継装置の送信装置ID及び送信回線番号及びパケット送信する際の出力優先度の情報の組み合わせごとに通信量情報が格納される。
【００４２】
図９にスタック型ネットワークの構成例を示す。パケット中継装置３００Ａの各回線がアクティブポート、パケット中継装置３００Ｂの各回線がバックアップポートに設定されていて、各回線がリンクが正常であることからリンクアグリゲーションのステータス状態も、装置１の各回線がアクティブポート、装置２の各回線がバックアップポートの状態になっている。
【００４３】
図９の例では、パケット中継装置３００Ａ、Ｂの下流のスイッチは全てパケット中継装置３００Ａ、Ｂの両方へ回線接続されており、両装置への回線をリンクアグリゲーションでグループ化している。上流のスイッチもパケット中継装置３００Ａ、Ｂの両方へ回線接続されており、両装置への回線をリンクアグリゲーションでグループ化している。すなわち、パケット中継装置３００Ａ、Ｂにより通信経路を2重化している構成であるといえる。
【００４４】
図１０（ａ）（ｂ）を用いてパケット中継装置３００が有する設定に関して説明する。
【００４５】
図１０（ａ）はリンクアグリゲーションの設定を行うためのＬＡＧ設定テーブルである。図１０の例では図９の構成のリンクアグリゲーションの設定を表している。装置ＩＤ「１」のパケット中継装置３００Ａでは、回線番号（またはポート番号でもよい）「１」「２」「３」「４」がそれぞれＬＡＧ  Ｇｒｏｕｐ  ＩＤ「１」「２」「３」「４」のグループに属し、Ａｃｔｉｖｅ／Ｂａｃｋｕｐ  Ｓｅｔｔｉｎｇは全て「Ａｃｔｉｖｅ」に設定されている。Ａｃｔｉｖｅ／Ｂａｃｋｕｐ  Ｓｅｔｔｉｎｇはそのポートをアクティブにするかバックアップにするかの設定である。
【００４６】
また、Ａｃｔｉｖｅ／Ｂａｃｋｕｐ  Ｓｔａｔｕｓは全て「Ａｃｔｉｖｅ」になっている。Ａｃｔｉｖｅ／Ｂａｃｋｕｐ  Ｓｔａｔｕｓは実際のそのポートの状態を示している。定期的にポートの状態を検知し設定する。現状は「Ａｃｔｉｖｅ」に設定された全てのポートの状態が「Ａｃｔｉｖｅ」なので問題がない状態であることを表している。
【００４７】
図１０（ｂ）は各ポート間で通信の可否を設定するための通信可否マトリックステーブルである。テーブルの送信元ポートと宛先ポートは装置ＩＤと回線番号の組み合わせで表す。「１／１」は装置ＩＤ「１」の回線番号「１」を意味する。図１０（ｂ）の例では、リンクアグリゲーショングループの１と２、１と３、２と３間の通信が禁止されており、通信が可能なポートが限定されている。「１／４」と「１／１」「１／２」「１／３」のみが通信できる状態であり「２／１」「２／２」「２／３」「２／４」はそれぞれバックアップ用のポートなので運用上の通信制限がかけられている状態である。
【００４８】
次に図１１を用いて通信トラフィック量を監視する集計テーブルについて説明する。集計テーブルは受信装置ＩＤ，受信回線番号、送信装置ＩＤ、送信回線番号、通信量情報からなるテーブルである。
【００４９】
図１１の例では、3行目のレコードは受信装置ＩＤ「１」，受信回線番号「１」、送信装置ＩＤ「２」、送信回線番号「２」、通信量情報「３４１Ｍｂｐｓ」となっている。これらの情報からパケット中継装置３００Ａのポート１からパケット中継装置３００Ｂのポート２に３４１Ｍｂｐｓのトラフィックが生じており、スタックポートにもこれだけのトラフィックが生じていることを表す。
【００５０】
尚、図９、図１０の装置構成の例では回線異常がない限りはスタックポートにトラフィックが生じていることは無いが、図１１は説明のためにスタックポートにトラフィックが生じている例を示している。
【００５１】
図１２に本発明に掛かるパケット中継装置においてパケット受信からパケット送信に至るまでの全体の処理の流れを示すフローチャートを示す。本発明に掛かるパケット中継装置にパケット１２００を入力すると、回線部７０３はパケット受信処理１２０１を行い、パケットが壊れていないかの検査を行う。情報が破損しておらず正常であると判断されるパケット情報は、回線部７０３からフォワーディング部７０２に転送される。パケット情報を受け取ったフォワーディング部７０２はパケット転送などの制御に必要なキー情報（宛先ＭＡＣアドレスや宛先ＩＰアドレスなど）を抽出するパケット解析１２０２の処理を行う。フォワーディング部７０２は、抽出したキー情報と宛先テーブル７０５に格納されている情報を参照して、該当パケットをどのパケットポートに出力するべきかを判断するパケット転送先決定１２０３の処理を行う。フォワーディング部７０２は、パケットの転送先が決定すると該パケットをパケット解析部７０８で解析する必要があるかどうかと判定する。パケット解析対象１２０４の判定処理を行う。
【００５２】
パケット解析部にて監視が必要であるかの条件はコントロール部７０１の設定及び前述のキー情報から判断を行う。パケット解析の必要がないと判定された場合（１２０４のno）、パケット転送先決定１２０３の処理で決定された部位にパケット情報を出力するパケット配送処理１２１１を行い、回線部７０３にて外部にパケット情報を転送するパケット送信処理１１１２を行う。パケット解析の必要があると判定された場合（１２０４のyes）、パケットを複製してパケット解析部７０８にパケットを伝達するパケットミラーリング１２０５の処理を行う。
【００５３】
なお、パケットミラーリング１２０５の処理を行う際、前述のパケット解析１２０２で解析したキー情報についてもコピーして転送しても良い。前記のパケットミラーリング１２０５によって複製されたパケット情報をパケット解析部７０８にて受信すると、パケット解析１２０６を行い、パケット情報分類１２０７によって受信したパケット情報を受信装置ID/受信回線番号/送信装置ID/送信回線番号/出力優先度で分類して、分類された情報に対する通信量を集計テーブル７０９に格納する集計テーブル更新１２０８の処理を行う。コントロール部７０１の内部にあるリンク最適化調整部７０７は、定期的に集計テーブル７０９を参照し、リンク最適化制御１２０９を実施する。リンク最適化制御の判定処理の流れを示すフローチャートを図１３に記載しており、後で説明する。リンク最適化制御の結果、最適なリンクアグリゲーションの状態が現在の状態と異なる場合には、リンクアグリゲーション状態遷移１２１０によって状態を変更する。その後、パケット情報を出力するパケット配送処理１２１１を行い、回線部７０３にて外部にパケット情報を転送するパケット送信処理１２１２を行う。
【００５４】
図１３に本発明に掛かるリンク最適化制御の判定処理の流れを示すフローチャートを示す。本発明に掛かるリンク最適化制御では、リンク最適化調整部７０７はスタックポート７０６における廃棄率を調査するためにフォワーディング部７０２に格納されているスタックポートの廃棄統計情報を参照するスタックポート廃棄率確認１３０１を実施する。さらに、前手順にて確認したスタックポート廃棄率と、運用者があらかじめ設定した廃棄率閾値を比較する廃棄率閾値比較１３０２を実施する。廃棄率閾値との比較の結果、運用者があらかじめ設定した廃棄率閾値よりも廃棄が少なくて、リンクアグリゲーションの状態遷移を検討する必要がないと判断される場合（１３０２のno）、処理を完了する。廃棄率閾値との比較の結果、運用者があらかじめ設定した廃棄率閾値よりも廃棄が多くて、リンクアグリゲーションの状態遷移を検討する必要があると判断される場合（１３０２のyes）、リンク最適化調整部７０７は、コントロール部７０１の内部に具備されている通信可否マトリックステーブル１００１を参照する通信マトリックステーブル確認１３０３を実施する。
【００５５】
さらに、前手順にて確認した通信マトリックステーブルの状態にて、最適化が必要であるかどうかを判断する最適化要否の判断処理１３０４を実施して、リンクアグリゲーションの状態遷移の最適化処理が必要であると判断（１３０４のyes）すれば、リンクアグリゲーションの状態遷移処理１３０５を実施した後に、スタックポート廃棄率確認１３０１に戻る。処理１３０３、１３０４の詳細は図１４−１７を用いて後述する。
【００５６】
次に、リンクアグリゲーションの状態遷移の最適化処理が必要でないと判断（１３０４のno）すれば、リンク最適化調整部７０７は集計テーブル７０９を参照する集計テーブル確認１３０６を実施する。さらに、前手順にて確認した集計テーブルの状態にて、最適化が必要であるかどうかを判断する最適化要否１３０７の判断処理を実施して、リンクアグリゲーションの状態遷移の最適化処理が必要であると判断（１３０７のyes）すれば、リンクアグリゲーションの状態遷移処理１３０８を実施した後に、スタックポート廃棄率確認１３０１に戻る。
【００５７】
次に処理１３０３、１３０４を詳細に説明する。
【００５８】
図１４は図９の装置構成でパケット中継装置３００Ａの回線３（１／３）で回線障害が起きたときの状態でリンクアグリゲーションの最適化処理を実施していない場合のリンクアグリゲーションの状態を指し示している。すなわち従来のリンクアグリゲーションにおける処理のみが実施された状態である。
【００５９】
一般的なリンクアグリゲーションの処理では、リンクアグリゲーションを組んだグループ内での障害によってのみ、状態線をするので回線障害が発生している回線が属するLAG Group IDのみリンクアグリゲーションの状態遷移が発生する。図１４をみるとパケット中継装置３００Ａの回線３（１／３）がリンクダウンしたため、回線３（１／３）と同じグループ内のパケット中継装置３００Ｂの回線３（２／３）がアクティブポートになっている。
【００６０】
図１５（ａ）に図１４おけるＬＡＧ設定テーブルを示す。図１５（ａ）を図１０（ａ）と比較するとＡｃｔｉｖｅ／Ｂａｃｋｕｐ  Ｓｔａｔｕｓでは回線３（１／３）がＬｉｎｋ  ｄｏｗｎとなっており、代わりに回線３（２／３）がＡｃｔｉｖｅとなっているのがわかる。
【００６１】
図１５（ｂ）に図１４における通信可否マトリックステーブルを示す。図１０（ｂ）と比較すると回線３（１／３）と上流の回線回線４（１／４）が通信不可になっているため、代わりに回線３（２／３）と上流の回線回線４（１／４）が通信可になっている。また、回線３（１／３）の通信に関わる部分に関してはすべて通信不可に遷移される。
【００６２】
その結果として、リンクアグリゲーショングループ１〜３のアクティブポートはパケット中継装置３００Ａ、リンクアグリゲーショングループ４のアクティブポートはパケット中継装置３００Ｂになり、リンクアグリゲーショングループ３の回線による上流スイッチとの通信では必ずスタックポートを通過することになる。いいかえればスタックポートにトラフィックが生じていることとなる。
【００６３】
次にリンクアグリゲーションの最適化処理を実施した後の装置構成と各種テーブルを説明する。
【００６４】
図１６は本実施例に係る技術を使用して、回線障害時、通信マトリックステーブルの情報によるリンクアグリゲーションの最適化処理を実施した後の状態を示すスタック型ネットワークの構成例を示す図である。図１６では、パケット中継装置３００Ｂの回線３（２／３）だけでなく、パケット中継装置３００Ｂの全てのポートをアクティブポートにしている。併せてパケット中継装置３００Ａの全てのポートをバックアップポートにしている。
【００６５】
これにより、全てのトラフィックがパケット中継装置３００Ｂのみを通過することになるため、スタックポートにトラフィックが発生しなくなる。
【００６６】
処理１３０３、１３０４のリンクアグリゲーションの最適化処理では、このように全てのアクティブポートを１台に設定することができる場合は、そうすることによりスタックポートにトラフィックを発生させないようにしている。
【００６７】
実際に処理１３０３、１３０４を行う場合は、図１５（ａ）および図１５（ｂ）または片方のテーブルを参照して、全てのアクティブポートを１台に設定することができるかを判断する。図１７（ａ）、図１７（ｂ）は実際に全てのアクティブポートをパケット中継装置３００Ｂに設定し終わったときのテーブルである。図１５と比較すると、リンクダウンしたポート以外もアクティブとバックアップを切り替えていることが分かる。
【００６８】
次に処理１３０６、１３０７を詳細に説明する。
【００６９】
集計テーブルによる最適か処理は、処理１３０３、１３０４のように片方の装置のポートを全てアクティブにできないような場合に、集計テーブルを参照していずれの装置のポートをアクティブにすれば、スタックポートのトラフィックを減らせるかを判断し、設定を行う処理である。
【００７０】
集計テーブルの例を図１８に示す。図１８の集計テーブル１８００は図１１とフォーマットが異なりマトリックス状になっているが、図１１と図１８のどちらの形式でも良いし、これ以外の形式でもよい。各ポート間でのトラフィックを管理できればよい。尚、図１８の例は図１４、図１６の設定におけるトラフィックを表しているものではない。説明の便宜上、パケット中継装置３００Ａ，Ｂの両方にアクティブのポートが存在する状態でのトラフィックである。ただし、システム構成は図１４，１６と同じである。
【００７１】
図１８のような集計テーブルの状態で、スタックポートに負荷を掛けている要因であるのは、送信元ポート（１／１）から入力されて宛先ポート（２／２）に出力されるトラフィックが大きいことが判る。また、送信元ポート（１／１）の出力トラフィックの宛先は、パケット中継装置３００Ａ，Ｂのそれぞれのポートにトラフィックが流れているが、パケット中継装置３００Ａ宛てのトラフィックの合計帯域は宛先ポート（１／３）の１ＧＢと宛先ポート（１／４）の３ＧＢの合計４ＧＢに対して、パケット中継装置３００Ｂ宛てのトラフィックの合計帯域は宛先ポート（２／２）の合計１０ＧＢである。逆に、宛先ポート（１／１）となるトラフィックは、パケット中継装置３００Ａからのトラフィックの合計帯域は送信元ポート（１／３）の１ＧＢと送信元ポート（１／４）の３ＧＢの合計４ＧＢに対して、パケット中継装置３００Ｂからのトラフィックの合計帯域は送信元ポート（２／２）からの合計５ＧＢである。このような条件化では、リンク最適化調整部７０７は回線１／１とリンクアグリゲーショングループを組んでいるバックアップポートの回線（２／２）をアクティブポートに遷移させた方がスタックポートに流れ込む通信量を軽減することができると判断できる。
【００７２】
以上のように、処理１３０３、１３０４または処理１３０６、１３０７のいずれか、もしくは両方を行うことによりスタックポートに生じるトラフィックを動的に減らすことができる。これにより、従来の装置に比べ、スタックポートへまわすポートの数を減らし、より多くのポートを通常の装置間のデータ通信に回せるため効率のよいシステムを構築できる。
【実施例２】
【００７３】
図８に本発明に係るパケット中継装置の別の実施形態を示す。本発明に係る実施例２のパケット中継装置８００は、コントロール部８０１と、フォワーディング部８０２と、回線部８０３と、パケット解析部８０８から成る。フォワーディング部８０２の内にはパケット中継エンジン８０４が具備され、パケット中継エンジン８０４の内には宛先テーブル８０５が具備される。コントロール部８０１の内にはリンク最適化調整部８０７が具備される。
【００７４】
パケット解析部８０８の内には集計テーブル８０９、ＬＡＧ設定テーブル８１０、通信可否マトリックステーブル８１１が具備される。また、フォワーディング部８０２の間を１本以上の物理回線で接続してスタックポート８０６に定義し、フォワーディング部の同期化に必要な制御フレームやフォワーディング部８０２を跨って通信する必要があるデータトラフィックの通信経路として使用する。なお、フォワーディング部８０２を接続するために使用するスタックポート７０６はリンクアグリゲーションによる論理的に複数の回線を一本に見せる技術によって帯域幅の増速が可能である。
【００７５】
図８のパケット中継装置８００は、図７のパケット中継装置７００Ａ，７００Ｂの２台の装置を一台の装置に集約、パケット中継装置間を接続していたスタックポート７０６をパケット中継装置内の内部インタフェースとしてスタックポート８０６を定義している以外は同条件である。スタックポートが外部、もしくは、内部のインタフェースなのかの違いだけであって、本発明に係る技術に関する本質的な違いではない。また、図７、図８に記載した実施例では、パケット中継装置またはパケット中継エンジンの数は２個で記載をしているが、３個以上で構成されるネットワークシステムに適用が可能である。
【符号の説明】
【００７６】
１０１…単一の装置内で冗長化可能なパケット中継装置
１０２…複数の装置を仮想的に一台の装置に見立てて頂上化可能なパケット中継装置
１０３…装置の冗長化機能を有しないパケット中継装置
１０４…リンクアグリゲーション
２００、３００、７００、８００…パケット中継装置
２０１、３０１、７０１、８０１…コントロール部
２０２、３０２、７０２、８０２…フォワーディン部
２０３、３０３、７０３、８０３…回線部
２０４、３０４、７０４、８０４…パケット中継エンジン
２０５、３０５、７０５、８０５…宛先テーブル
３０６、７０６、８０６…スタックポート
７０７、８０７…リンク最適化調整部
７０８、８０８…パケット解析部
７０９、８０９…集計テーブル
１０００、１５００、１７００…ＬＡＧ設定テーブル
１００１、１５０１、１７０１…通信可否マトリックステーブル
１１００、１８００…集計テーブル情報
【図１】
2012129759.tif 000003
【図２】
2012129759.tif 000004
【図３】
2012129759.tif 000005
【図４】
2012129759.tif 000006
【図５】
2012129759.tif 000007
【図６】
2012129759.tif 000008
【図７】
2012129759.tif 000009
【図８】
2012129759.tif 000010
【図９】
2012129759.tif 000011
【図１０（ａ）】
2012129759.tif 000012
【図１０（ｂ）】
2012129759.tif 000013
【図１１】
2012129759.tif 000014
【図１２】
2012129759.tif 000015
【図１３】
2012129759.tif 000016
【図１４】
2012129759.tif 000017
【図１５（ａ）】
2012129759.tif 000018
【図１５（ｂ）】
2012129759.tif 000019
【図１６】
2012129759.tif 000020
【図１７（ａ）】
2012129759.tif 000021
【図１７（ｂ）】
2012129759.tif 000022
【図１８】
2012129759.tif 000023