(57)【要約】  １つの拠点ａに設けられた顧客端末を主系と従系の２つで冗長化構成されたエッジノード（ゲートウェイ）にそれぞれ収容する。通常時は、主系のエッジノードPE Aが使用され、対向エッジノードPE B、PE Cを介して、拠点ｂ、ｃの相手方顧客端末との通信を可能とする。また、通常時、主系エッジノードが使用するラベルの情報を格納したデータベースを従系エッジノードのデータベースと同期させておく。また、従系エッジノードに主系のループバックアドレスを格納して、無効化しておく。主系エッジノードに障害が発生した場合には、主系エッジノードのループバックアドレスを従系エッジノードで有効とし、主系が使用しているラベルの情報を格納したデータベースの情報を用いて、主系エッジノードと同じラベルを用いて従系エッジノードが対向エッジノードとの通信を再開する。
2008120267.tif 000002
【特許請求の範囲】
【請求項１】
主系エッジノードと従系エッジノードとから構成される冗長化されたエッジノードを有するネットワークにおけるエッジノードの冗長化システムであって、
従系エッジノードは、
主系エッジノードの固有アドレスを保持し、通常時には、主系エッジノードの固有アドレスを無効化し、主系エッジノードに障害が発生した場合には、主系エッジノードの固有アドレスを従系エッジノードの固有アドレスとして有効化する主系固有アドレス設定手段と、
主系エッジノードが通常時に通信確立のために使用している回線データと同じ回線データを格納する主系回線データ複製格納手段と、
主系エッジノードの障害時に、該主系固有アドレス設定手段によって有効化された固有アドレスと、該主系回線データ複製格納手段に格納されている回線データとを用いて、主系エッジノードに代わって、通信を確立する通信確立手段と、
を備えることを特徴とするエッジノード冗長化システム。
【請求項２】
前記主系エッジノードの障害時、前記従系エッジノードは、自身が、前記主系固有アドレス設定手段によって有効化された固有アドレスを使って通信を行うことを各ネットワーク装置に広告することを特徴とする請求項１に記載のエッジノード冗長化システム。
【請求項３】
前記回線データは、仮想回線の設定データであることを特徴とする請求項１に記載のエッジノード冗長化システム。
【請求項４】
前記回線データは、通信セッションの実行に必要なパラメータを含み、前記通信確立手段が前記主系エッジノードに代わって通信を確立する場合には、該パラメータを用いて通信セッションを引き続き行い、対向エッジノードに通信セッションの断が認識されないように通信を確立することを特徴とする請求項１に記載のエッジノード冗長化システム。
【請求項５】
前記通信確立手段が前記主系エッジノードに代わって通信を確立する場合には、使用する通信プロトコルのリスタート機能を用い、リスタート機能が通信セッション断から回復までの間に、該主系エッジノードから前記従系エッジノードへの切り替えを行うことを特徴とする請求項１に記載のエッジノード冗長化システム。
【請求項６】
複数の主系エッジノードに対し、１台の従系エッジノードを対応させ、
前記主系固有アドレス設定手段は、該複数の主系エッジノードの全ての固有アドレスを保持しておき、障害が発生した主系エッジノードの固有アドレスのみを該従系エッジノードの固有アドレスとして有効化し、
前記通信確立手段は、該複数の主系エッジノードの全ての回線データを保持し、障害が発生した主系エッジノードの回線データを用いて、該障害が発生した主系エッジノードに代わって通信を確立する、
ことを特徴とする請求項１に記載のエッジノード冗長化システム。
【請求項７】
前記ネットワークは、顧客のレイヤ２フレームをカプセル化して転送するvirtual private wire service (VPWS)、あるいは、virtual private LAN service (VPLS)であって、回線を構築するための制御プロトコルは、label distribution protocol (LDP)であることを特徴とする請求項１に記載のエッジノード冗長化システム。
【請求項８】
前記ネットワークは、顧客のレイヤ３パケットをカプセル化して転送するIP virtual private network (IP-VPN)であって、回線を構築するための制御プロトコルは、multi protocol extensions border gateway protocol (MP-BGP)であることを特徴とする請求項１に記載のエッジノード冗長化システム。
【請求項９】
前記ネットワークは、カプセル化パケット転送技術としてmulti protocol label switching (MPLS)を用いたネットワークであって、パケット転送用ラベル配布プロトコルとしてlabel distribution protocol (LDP)を用いることを特徴とする請求項１に記載のエッジノード冗長化システム。
【請求項１０】
前記ネットワークは、カプセル化パケット転送技術としてmulti protocol label switching (MPLS)を用いたネットワークであって、パケット転送用ラベル配布プロトコルとしてresource reservation protocol traffic extension (RSVP-TE)を用いることを特徴とする請求項１に記載のエッジノード冗長化システム。
【請求項１１】
主系エッジノードと従系エッジノードとから構成される冗長化されたエッジノードを有するネットワークにおけるエッジノードの冗長化制御方法であって、
従系エッジノードは、
（ａ）主系エッジノードの固有アドレスを保持し、通常時には、主系エッジノードの固有アドレスを無効化し、主系エッジノードに障害が発生した場合には、主系エッジノードの固有アドレスを従系エッジノードの固有アドレスとして有効化し、
（ｂ）主系エッジノードが通常時に通信確立のために使用している回線データと同じ回線データを格納し、
（ｃ）主系エッジノードの障害時に、ステップ（ａ）によって有効化された固有アドレスと、ステップ（ｂ）で格納されている回線データとを用いて、主系エッジノードに代わって、通信を確立する、
ことを特徴とするエッジノード冗長化制御方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、VPN(Virtual Private Network)などのパケットトランスポートネットワークにおけるエッジノード冗長システムに関する。
【背景技術】
【０００２】
パケットトランスポートネットワークにおいては、ノード間でルーティング／シグナリングプロトコルによって情報を交換し、転送するパケットの経路制御を行っている。例えば、MPLS(Multi Protocol Label Switching)をコアとするネットワークにおいては、OSPF(Open Shortest Path Fast)などのルーティングプロトコルにより各ノードへの到達性の確認をしたり、場合によってはトラフィックエンジニアリング用の情報(空き帯域など)を交換し、LDP(Label Distribution Protocol)やRSVP-TE(Resource reServation Protocol Traffic Extension)などのシグナリングプロトコルによりパケット転送用のトンネルラベルを配布する。そして、イーサネット回線をエミュレートするサービス(ポイントツーポイントの場合はVPWS、マルチポイントの場合はVPLSと呼ばれる：VPWSについてはRFC4447、VPLSについてはRFC4762を参照)では、MPLSエッジノード(PE : Provider Edge、いわゆるゲートウェイ)間でLDP（Label Distribution Protocol）を用いてエミュレートする回線を識別するラベルを配布し、前記MPLS網を転送するためのトンネルラベルとともに顧客のイーサネットフレームに付与(カプセル化)されて転送される。このようにして構築されたエミュレート(仮想)回線はPW(Pseudo Wire)と呼ばれる。【０００３】
図１は、エッジノードの冗長化について説明する図である。
VPLSコアネットワーク内はFast ReRouteなどの公知の技術により高速かつ効率的にノード冗長を図ることが可能であるが、更なる高可用性（High availability）を提供するためには、RFC4762のように、顧客拠点を冗長化された複数のPEに収容し、一方を主系(Primary)、他方を従系(Secondary)とするといった接続方法が必要となる。なお、顧客装置CE間の通信は、MACアドレスによって送信先と送信元が指定される。一方、エッジノード間は、PWやトンネルを指定するラベルによってルーティングされる。【０００４】
しかし従来技術の場合、Secondary用のPWを維持する必要があって、一対一通信あたり2倍、フルメッシュ接続でエッジノードの冗長化を図るためには、網全体で非冗長時の4倍のPWが必要(うち3/4は通常時使用されない)になることや、Primary障害時の経路情報テーブルの更新処理(VPLSの場合は、一対一PEのMAC学習テーブルをクリアするMAC Table Flush)の負荷が課題となっている。【０００５】
図２は、従来技術の問題点を説明する図である。
図２上図は障害発生前の状態を示す。顧客のコンピュータ等の拠点ａから、他の顧客のコンピュータ等である拠点ｂ、ｃに通信をする場合、ネットワークのエッジノードPE Aを冗長化して、従系のエッジノードPE A'を設けるとする。通信は、通常主系であるエッジノードPE Aを介して行われる。このとき、エッジノードPE Aには、MACアドレスa、b、cについて、それぞれ、出力ポートp1、pw-AB、pw-ACが対応付けたテーブルが格納される。MACアドレスaは、拠点aのMACアドレスである。MACアドレスb、cは、それぞれ、拠点ｂ、ｃのMACアドレスである。ここで、エッジノードPE AからエッジノードPE B、PE Cへパケットを転送するために、PWが形成される。これが主系のPWである。一方、エッジノードPE A'は、通常時には使用されていないが、故障時に動作できるよう、エッジノードPE A'からエッジノードPE B、PE Cへ別のPWを従系のPWとして設定しておく必要がある。【０００６】
そして、主系に障害が発生した場合には、図２下図のように、エッジノードPE Aが対向エッジノードPE B、PE Cに対し、障害が発生した拠点のMACアドレス(図２の場合拠点aを収容するポートに障害が発生したので、MACアドレスa)の消去メッセージを送り、エッジノードPE B、PE CのMACテーブルからMACアドレスaを消去されると共に、エッジノードPE A'は(拠点a〜PE A間の障害に伴い)拠点aからのイーサネットフレームを受信すると、その送信元MACアドレスaを学習するとともに、予め設けてあったPWを用いて、通信を始める。PE BおよびCは別PWから当該イーサネットフレームを受信するので、再度MAC学習を行う。【０００７】
これからわかるように、エッジノードを冗長化する場合、従系のエッジノードについてもPWを設定しておかなくてはいけないので、ネットワークリソースを多く消費してしまうという問題がある。【０００８】
特許文献１には、稼動系と待機系からなる情報構成において、稼動系と待機系のサーバにそれぞれ固有のＭＡＣアドレスとＩＰアドレスを付与すると共に、共通な仮想的なＭＡＣアドレス及び仮想的なＩＰアドレスを付与する技術が開示されている。
【特許文献１】特開２００５−１３６６９０号公報
【発明の開示】
【０００９】
本発明の課題は、ネットワークリソースの増加を小さく抑えたままエッジノードを冗長化するエッジノード冗長化システムを提供することである。
本発明のエッジノード冗長化システムは、主系エッジノードと従系エッジノードとから構成される冗長化されたエッジノードを有するネットワークにおけるエッジノードの冗長化システムであって、従系エッジノードは、主系エッジノードの固有アドレスを保持し、通常時には、主系エッジノードの固有アドレスを無効化し、主系エッジノードに障害が発生した場合には、主系エッジノードの固有アドレスを従系エッジノードの固有アドレスとして有効化する主系固有アドレス設定手段と、主系エッジノードが通常時に通信確立のために使用している回線データと同じ回線データを格納する主系回線データ複製格納手段と、主系エッジノードの障害時に、該主系固有アドレス設定手段によって有効化された固有アドレスと、該主系回線データ複製格納手段に格納されている回線データとを用いて、主系エッジノードに代わって、通信を確立する通信確立手段とを備えることを特徴とする。
【図面の簡単な説明】
【００１０】
【図１】エッジノードの冗長化について説明する図である。
【図２】従来技術の問題点を説明する図である。
【図３】ルーティング／シグナリング識別子を説明する図である。
【図４】本発明の実施形態の概要を説明する図である。
【図５】本発明の実施形態の動作を説明する図である。
【図６】Primary PEからSecondary PEへ切り替わったときの動作を説明する図である。
【図７】TCPのデータフォーマットを示す図である。
【図８】セッションパラメータを同期させて、セッション断を対向PEに感知させない主系から従系への切り替えのための処理を説明する図である。
【図９】LDP Graceful Restartの概要図（その１）である。
【図１０】LDP Graceful Restartの概要図（その２）である。
【図１１】LDP Graceful Restartの概要図（その３）である。
【図１２】本発明の実施形態の別の構成例を示す図である。
【図１３】Primary PEとSecondary PEの構成ブロック図である。
【図１４】VPLSに適用した場合の本発明の実施形態に従った処理手順を示した図（その１）である。
【図１５Ａ】VPLSに適用した場合の本発明の実施形態に従った処理手順を示した図（その２）である。
【図１５Ｂ】VPLSに適用した場合の本発明の実施形態に従った処理手順を示した図（その３）である。
【図１６Ａ】本発明をIP-VPNに適用した場合の従来技術と本発明を比較説明する図（その１）である。
【図１６Ｂ】本発明をIP-VPNに適用した場合の従来技術と本発明を比較説明する図（その２）である。
【図１７】本発明の実施形態に従った下り方向のパケット転送処理のシーケンス図（その１）である。
【図１８】本発明の実施形態に従った下り方向のパケット転送処理のシーケンス図（その２）である。
【発明を実施するための最良の形態】
【００１１】
図３は、ルーティング／シグナリング識別子を説明する図である。
パケットトランスポートノード(一般にはルータ)は、物理インタフェース(イーサネット、ATMなど)以外に、ループバックインタフェースと呼ばれる、他のノードと隣接関係を持たない論理的なインタフェースを持つことができ、それぞれのインタフェースにIPアドレスが付与される。なおPC等では、ループバックインタフェースには127.0.0.1などのあくまで内部通信用のIPアドレスが付与されるが、パケットトランスポートノードではループバックインタフェースにネットワーク内でユニークなIPアドレスを付与し、そのループバックアドレスをルーティング／シグナリングの識別子として経路情報の交換を行う。(物理インタフェースアドレスも識別子に用いることは可能ではあるが、当該インタフェースがダウンすると、実際には他のインタフェース経由で通信可能にも関わらず識別子が変わってしまうためルーティング／シグナリングプロトコルがダウンしてしまう。そのため一般的にはノード自体に障害が起きない限りはダウンしないループバックアドレスが用いられる。)ルーティング／シグナリングプロトコルの例としては、LDP、RSVP-TE、iBGP、MP-BGPなどがある。VPLSにおいては、LDP（Targeted LDP）によりPWを構築する。【００１２】
逆に言うと、例えばVPLSにおいて、PWをセットアップしたLDPセッションの識別子(IPアドレス)が同じで、また同セッションにおいて自らが配布したPWラベルにより顧客のデータフレームがカプセル化されて受信されれば、(実際にはピアが切り替わっていたとしても)対向PEからは同じセッションに見える。【００１３】
図４は、本発明の実施形態の概要を説明する図である。
本発明の実施形態では、エッジノードの冗長化を構成するPE間で、顧客拠点を主系として収容するPE(Primary PE、PE A)が対向PEとLDPセッションを確立し、PWラベルを交換する。そして、その情報(PWラベルデータベース)を従系(Secondary PE、PE A')に通知／共有(ミラー)する。Primary/Secondary PE間では、適宜PWラベルデータベースを同期するとともにPrimaryがアクティブであることを確認するため死活監視を行う。もし、Primary PEに障害が発生(例えば、死活監視結果が断)したときは、Secondary PEがPrimary PEに成り代わってセッションを維持するとともに、同期したデータベースにより顧客データフレームをカプセル化して送受信を行う。これによりLDPコントロールプレーンが仮想化され、対向PEにPrimary/Secondary PEの切り替わりが見えなくなる。【００１４】
すなわち、PE間でPrimary/Secondary PEを決定し、Primary PEは、ループバックＩＰ（IP:A）を用いて、PE B、PE Cとの間にPWを設定する。そして、PE Aは、PW設定情報（データベース）をPE A'に通知（ミラー）する。PE A障害時には、PE A'がPrimaryに昇格し、ループバックＩＰ（IP:A）により、PE B、CとのＬＤＰセッションを維持する。また、ミラーされたPW情報により、ユーザフレームをカプセル化して送受信する。【００１５】
図５は、本発明の実施形態の動作を説明する図である。
上記の構成の実施形態において、Secondary PEが、Primary PE〜対向PE間でセットアップしたLDPセッションを維持するために、セッション識別子とするループバックアドレスも共有し、通常時にはSecondary PEは、当該ループバックアドレスは非アクティブにしておき、Primary PE障害検知時にアクティブにしてLDPパケットの送信元IPアドレスおよびLDPメッセージ内の識別子(LDP Identifier)に設定して送信する。当該LDPパケットを受信したとき、対向PEには同一LDPセッションに見える。【００１６】
すなわち、図５上図の通常時において、PE Aは、IP:Aを用いてPE B、PE Cと通信を行うが、障害発生時においては、図５下図に示されるように、PE A'が、IP:Aを用いてPE AB、PE Cと通信を行う。【００１７】
図６は、Primary PEからSecondary PEへ切り替わったときの動作を説明する図である。
前記ループバックアドレスは、どのノードとも隣接関係を持たないアドレスであるため、OSPFなどのルーティングプロトコルにより当該アドレス宛のルーティングを広告する必要がある。本発明の実施形態では、通常時はPrimary PEが当該ループバックアドレスへのルーティングを広告するが、障害時はSecondary PEがPrimary PEに成り代わって当該ループバックアドレスへのルーティングを広告する。【００１８】
図７は、TCPのデータフォーマットを示す図である。
LDPプロトコルは、TCP上で動作する(Hello messageのみUDP)ため、対向PEにLDPセッション断を検知させずに維持する場合には、TCPのシーケンス番号やAck番号およびWindowsサイズ等のセッションパラメータもPrimary/Secondary PE間で適宜同期しておく。HelloについてはUDP(セッションの概念がない)のためIPアドレスが同一でさえあれば良い。【００１９】
以下に、TCPデータフォーマットの各フィールドの説明を示す。
・SourcePort:送信元ポート番号。
・DestinationPort:受信元ポート番号
・シーケンス番号 : 送信したデータ順番をハ゛イト単位で表したもの
・Ack番号 : 次に受信すべきデータのシーケンス番号を示す
・データオフセット : データの先頭位置を示す。1単位は4byte長を意味し、20byteヘッダだと、ここには”5”が入る
・ControlBit:6つの制御用ビット
- URG : 緊急に処理すべきデータを意味する。【００２０】
緊急データの位置はUrgent Pointerで示される。
- ACK : Ack番号が有効か否データyn以外は全て”1”
- PSH : 受信データ直にアフ゜リに渡すか否か。【００２１】
- RST : コネクションの初期化に使用
- SYN : コネクション確立時に使用。シーケンス番号を同期
- FIN : TCPセッションの最後のセク゛メントを意味する。
・Window:受信可能なテ゛ータサイス゛を通知する。
・Checksum:IP擬似ヘッダ&TCPのヘッダ&テ゛ータに対データェックサム。1の補数。
・UrgentPointer:URG=1の時、緊急データ格納場所を示すホ゜インタ。データ先頭からこのホ゜インタの数値分のハ゛イト長が緊急データなる
・オプション : TCP性能の向上に使われる。ただし最大で40データeに制限される。
・ Padding :TCPパケットの長さが３２ビットの倍数となるように０で埋めて調整するビット
・ データ :ユーザデータ
図８は、セッションパラメータを同期させて、セッション断を対向PEに感知させない主系から従系への切り替えのための処理を説明する図である。【００２２】
まず、TCP（LDP）セッション確立処理において、PE Aから、TCPポートaを使って、TCP SYNメッセージをPE Bに送る。ここでは、受信可能データサイズ通知として、Window Sizeを５０００に設定している。PE Aから送出するTCP SYNメッセージのシーケンス番号は、例として、１００１とし、Ack番号は０に設定している。これを受け取ったPE Bは、Window Sizeを３０００として、TCP SYN/ACKをTCPポートｂからPE Aに送る。ここでは、そのときのシーケンス番号を２０００、Ack番号を１００１としている。これを受け取ったPE Aは、シーケンス番号を１００１、Ack番号を２００１として、TCP AckをPE Bに返す。以上により、TCP（LDP）セッションが確立する。PE Aは、PE A'に、PE AのポートａとPE Bのポートｂとの間で、LDPセッションが確立したことを通知する（１）。【００２３】
LDPセッションが確立後は、PE Aは、PE BとLabel  MappingなどのLDPデータのやり取りを行う。PE Aは、PE Bとの通信の途中で、適宜、通信に使っているシーケンス番号とAck番号をPE A'に通知する（２）。【００２４】
PE A'は、PE Aに障害を検知すると（３）、自装置のTCPポートをａに設定し、PE Aから通知されていたシーケンス番号とAck番号を使って、LDPデータを Bに送信する。PE Bでは、PE A'から受け取ったLDPデータが、送信元IPポートが同じで、しかも受信を期待するシーケンス番号のデータであるため、セッション断を検知しないまま、PE A'と通信を始める（４）。【００２５】
あるいは、Graceful Restart等の公知の技術を組み合わせて主系と従系の切り替えを行うことにより、LDPセッション自体はいったん切断されたように見えるが、PWラベルデータベースはそのまま保持されるため、セッションパラメータを同期させる場合に比べて、同期させる情報量が最小限で済む切り替え手段の実現をすることが出来る。【００２６】
図９〜図１１に、LDP Graceful Restartの概要図を示す。
LDP Graceful Restartは、RFC3478に詳細が規定されている。以下に、Graceful Restartについて簡単に説明する。Primary PEと対向PEとの間で、LDPの初期化を行う際のLDP初期化メッセージにて Fault Tolerant TLV（FV TLV）を通知することで、Graceful Restartのサポートが可能であることを示すようにする。【００２７】
図９は、Graceful Restartの初期化と主系（Primary）PEから従系（Secondary）PEへの切り替わりの様子を示す図である。
図９において、まず、Primary PEと対向PEとの間でLDPの初期化を行う場合、両PE間で、LDP Helloメッセージをやり取りして、初期化の開始を通知しあう。次に、LDP初期化メッセージを交換する際に、LDP初期化メッセージにFT TLVを設定したLDP初期化メッセージを交換することにより、Graceful Restartをサポートすることを互いに示しあい、LDP初期化メッセージのやり取りが終わったら、FECラベルを交換する（１）。
FECとはForwarding Equivlent Classのことで、例えばVPLSではPWラベルを示す。【００２８】
Primary PEで障害が発生し、対向PEで、LDPセッション断を検出すると、再起動LSRに関するエントリを”stale”に設定し、livenessタイマ（再起動LSRがエントリを保持する時間）を初期化する（２）。ここで、”stale”とは、エントリの更新を一時的に中止するという意味である。Secondary PEでは、Primary PEが障害で動作できなくなったことにより、動作を始める。まず、MPLS Forwarding State Holding Timerを開始し、再起動LSRに関連するエントリを全て”stale”に設定する。そして、自装置を再起動し、対向PEとの間で、LDP Helloメッセージをやり取りする。再起動に失敗した場合は、FT Reconnect Timeoutを０に設定して、この失敗を対向PEに通知する（３）。次に、FT TLVを設定したLDP初期化メッセージをSecondary PEと対向PEとの間でやり取りする。このとき、Secondary PEでは、現在のMPLS Forwarding State Holding Timerのタイムアウト値を「Recovery Time」として、対向PEに通知する（４）。対向PEでは、Secondary PEからLDP初期化メッセージを受け取ると、LDPセッションを再確立し、livenessタイマを終了し、Recovery Timeを使って、Recovery Timerの計時を開始する（５）。次に、FECラベルの交換を行う際に、Secondary PEは、FECに対するラベル広告を行う。staleエントリが同じ値で広告された場合は、stale状態を取り消す。staleエントリが異なる値で広告された場合は、新しいラベルに更新する。staleエントリがRecovery Timerがタイムアップする前に広告されない場合には、そのエントリを削除する（６）。対向PEでは、Secondary PEからstaleエントリが同じ値で広告されてきた場合には、stale状態を取り消す。staleエントリが異なる値で広告された場合は、新しいラベルに更新する。staleエントリがRecovery Timerのタイムアップまでに広告されない場合は、そのエントリを削除する（７）。通常のGraceful Restartでは、同じPEが再起動するものであるが、本発明の実施形態では、PEが主系から従系に切り替わっている。ただし、主系のPEと従系のPEで同じパラメータを保持しているので、対向PEでは、送信側PEが主系から従系に切り替わったことは認識されない。【００２９】
図１０及び図１１は、LDP Graceful Restartの概要を説明する図である。
リスタートLSRとPeer LSRとの間で、LDPの初期化を行う際のLDP初期化メッセージにて Fault Tolerant TLV（FV TLV）を通知することで、Graceful Restartのサポートが可能であることを示すようにする。【００３０】
FT TLVには、以下の情報が設定される。
FT Reconnect Timeout−TLVの送信側が受信側に要求する、LDP通信障害検出後の待ち時間(msec)
Recovery Time−−−−−Forwarding StateをLSRが保持する時間(msec)
Peer LSRは、障害を検出すると、関連するForwarding Stateを”stale”に設定する。また、“stale”状態を保持してForwarding Stateを転送する。LDP通信が復旧するとForwarding Stateの”stale”状態を復旧してリフレッシュする。“stale”状態が要求時間内にリフレッシュされない場合は、Forwarding Stateのパラメータを削除する。【００３１】
図１１に示されるように、FT Session TLVは、LDP初期化メッセージ内のOptional Parametersとして通知する。図１１の左上のフォーマットがLDP初期化メッセージのフォーマットであり、図１１右下のフォーマットがFT Session TLVのフォーマットである。【００３２】
図１２は、本発明の実施形態の別の構成例を示す図である。
Primary/Secondary PEの組み合わせとしては、複数台(N台)のPrimary PEに対して一台のSecondary PEとしてN : 1冗長を構成することで、Secondary PEの台数を減らすことも可能である。この場合、Secondary PEはN個のループバックアドレスを非アクティブとして保持することになる。【００３３】
すなわち、図１２に示されるように、たとえば、ループバックアドレスがA1、A2、A3の３台の主系PEに対し、これらのループバックアドレスを保持する１台の従系PE（PE A'）が設けられる。従系PEは、複数台の主系PEの動作を監視しており、障害が発生して動作が出来なくなった主系PEを特定し、その主系PEのループバックアドレスを自PEに設定して、前述の実施形態と同様の動作を行うようにする。なお、図１２では、拠点a1から拠点b1、cにVPN10が設定されており、拠点a2から拠点c2にVPN20が設定されており、拠点a3から拠点b3にVPN30が設定されている様子が示されている。【００３４】
図１３は、Primary PEとSecondary PEの構成ブロック図である。
Primary PEとSecondary PEとは、同じ構成をしている。すなわち、ハードウェア処理部である仮想回線データ処理部１３−１、１３−２と、ファームウェア（ソフトウェア）処理部である、ループバックインタフェース管理部１０−１、１０−２、ルーティング制御部１１−１、１１−２、仮想回線制御部１２−１、１２−２からなる。通常時においては、Primary PEであるPE Aの仮想回線制御部１２−１が、対向PE（PE B、PE C）との間に仮想回線を設定し、設定情報を仮想回線データ処理部１３−１のラベルデータベースに格納すると共に、Secondary PEであるPE A'の仮想回線制御部１２−２に設定情報を送って、PE A'の仮想回線データ処理部１３−２のラベルデータベースに設定情報を格納させる。PE Aのループバックインタフェース管理部１０−１は、自装置のループバックアドレスIP=Aを保持し、通常時に、これを有効としておくと共に、PE A'のループバックインタフェース管理部１０−２にこれを送っておき、PE A'側で、PE Aのループバックアドレスを保持させると共に、無効化させておく。PE A'では、PE Aの死活監視を行う。ルーティング制御部１１−１、１１−２は、送出するパケットのルーティングを制御するものであり、自装置のループバックアドレスをネットワーク装置に広告する到達性広告などを行う。【００３５】
上記のとおり、本発明の実施形態は、VPWSやVPLSで適用することができ、その場合エミュレート回線を構築するための制御プロトコルはLDPであるが、MP-BGP(Multi Protocol extensions Border Gateway Protocol: RFC4364, RFC4760参照：また、この場合、BGP Graceful Restartが使用可能である：RFC4724参照)を用いたIP-VPNサービスでも同様に適用することができる。【００３６】
また、パケット転送用ラベル(トンネルラベル)配布プロトコルの識別子(IPアドレス)もPrimary/Secondary PEで共有することにより、配布プロトコルとしてLDPを用いた場合には、Secondary PEが当該IPアドレスへのルーティングを広告するとともにトンネルラベルも新たに配布することにより自動的にトンネル経路もSecondary PE宛に切り替わる。【００３７】
さらに、RSVP-TE(Resource reSerVation Protocol Traffic Extensions)を用いた場合は、対向PEからの要求によりトンネルラベルが払い出されるが、この場合もラベル要求メッセージ(Path message)が、前記ルーティング広告によりSecondary PEに到達し、Secondary PEがラベル配布メッセージ(Resv message)で新たにラベル配布することによりトンネル経路もSecondary PE宛に切り替わる。RSVP-TEについては、RFC3209を参照されたい。【００３８】
なお、上記サービスおよびプロトコルへの適用は、従来技術との互換性を備え(本発明技術をサポートしていなければ従来技術どおり動作可能、またエッジノードのみでコアノードの動作に拡張は発生しない)、パケットトランスポートノードに搭載するファームウェアプログラムを拡張することで実施可能である(ハードウェア拡張不要)。【００３９】
図１４及び図１５Ａ、Ｂは、VPLSに適用した場合の本発明の実施形態に従った処理手順を示した図である。
図１４のVPLSセットアップにおいては、MPLS網において、VPLSサービスを提供する場合を考える。冗長エッジノードを構成するために、顧客拠点を、あるPE(=A)を主系PE、他方(=A’)を従系PEとして収容する。従来技術では、どちらが主系であるかはPE自体は認識しなかったが、本発明では、ネゴシエーションにより、PE自身がPrimaryかSecondaryかを認識する(顧客拠点を主系として収容するほうがPrimaryとなるよう優先度を付けておく：ここでは、PE Aが主系となるように設定する)。その後、PE Aは顧客遠隔拠点を収容する対向PE(=B)とLDPセッション識別子としてIP=Aを用いて、OSPFによるIP:Aへの広告を行った後、LDPセッションを確立し、Label mappingを行って、PWをセットアップし(従来技術と異なりPE A’はセットアップしない)、そのデータベース(PE AがPE Bに配布したPWラベルおよびPE BからPE Aが払い出されたPWラベル)をPE A’に通知し同期を取る。【００４０】
図１５Ａの通常動作及び障害切り替え時の動作において、通常時は、顧客拠点からのデータフレーム(MACフレーム)はPE Aが受信するので、従来技術同様配布されたPWラベルおよびトンネルラベルを付与してPE Bに対して転送する。また通常時には、他のPWを新たに構築した際には適宜同期を取るとともに、Primary PEがアクティブであることを確認するため死活監視を行う。(従来技術同様、顧客拠点収容ノード〜PE A間でも死活監視が行われている。)
そしてPE A障害時、PE A’はそれを検知すると、IP=Aをアクティブにし、そのルーティングを広告するとともに、PE BとのLDP Sessionを維持する。維持方法としては、図８のセッション断自体を検知させない方法か、あるいは、図９のGraceful Restartを使用する方法を用いる。Graceful Restartをサポートしていれば、セッション自体はいったんダウンしても問題はない。そして(同様にPrimary障害を検知して)、PE A’に送られてきた顧客データフレームは、PE AとPE A'とで同期させたデータベースに基づいてPWラベルを付与し、PE Bに対して転送する。また、図１５Ｂに示すように、PE A自体には障害が発生していないが、拠点aを収容するアクセス回線に障害が発生した場合には、死活監視は断しないが、拠点aからのトラフィックはPE A’に迂回するので、PE Aは自らPrimaryを返上してIP=AおよびLDP SessionをPE A’に引き継がせる。以降の動作は同様で、Primary障害を検知してPE A’に送られてきた顧客データフレームは、PE AとPE A'とで同期させたデータベースに基づいてPWラベルを付与し、PE Bに対して転送する。このときPE Bは、本来はPE Aとの間でセットアップしたPWから受信したように見える。したがって、PE Bは従来技術では必要であったMACテーブルの更新処理が不要となる。【００４１】
図１６Ａ、Ｂは、本発明をIP-VPNに適用した場合の従来技術と本発明を比較説明する図である。
上記までの説明においてはVPLSサービスでの例を示したが、本発明の動作はIP-VPNサービスでも適用することができる。IP-VPNは、BGPの拡張であるMP-BGPにより顧客(VPN)毎のIPネットワーク経路情報をエッジノード間で交換することにより、遠隔拠点間のIPリーチャビリティ（到達性）を提供するサービスである。IP-VPNにおける冗長エッジノード構成の一例としては、やはり顧客拠点を複数台のエッジノードに収容し、エッジノードの顧客側サイドでVRRPやHSRP等のIPネクストホップ仮想化プロトコルを動作させる構成が考えられる。従来技術では、Primary PE/Secondary PEがそれぞれ同一のIP経路情報で、かつPrimary PEのほうがメトリック値を小さく(優先度的には高く)設定して対向PEに広告し、通常時はそのメトリック値からPrimary PE経由で顧客のIPパケットが送受信され、Primary PE障害(Primary PEから受信した経路消失)時にはSecondary PE経由で送受信されることになる。しかし、この場合にも、図１６Ａのように、MP-BGPテーブルに示されるように、VPNラベルパスが非冗長化時の2倍(網全体では4倍)必要なこと、またIPルーティングテーブル上は(最優先経路しか載ってこないので)見えないが、MP-BGP受信経路としては2倍(しかも同一経路)となることが課題である。【００４２】
しかし、図１６Ｂのように、本発明を適用することにより、通常時はPrimary PEのみがVPNラベルパスの交換と顧客IP経路の広告を行い、Primary PEのVPNラベルパステーブルのデータベースとSecondary PEの対応するデータベースを同期させておき、Primary PE障害時にはSecondary PEがMP-BGPセッションを維持しつつ、同期したデータベースを参照して顧客IPパケットをカプセル化して送信することで、上記の課題が解決される。すなわち、MP-BGPテーブルとIPルーティングテーブルは同一経路を示し、PE A障害時にもNextHop（NHop）は代わらないので、経路更新は不要となる。【００４３】
図１７及び図１８は、本発明の実施形態に従った下り方向のパケット転送処理のシーケンス図である。
Primary PE障害時の、対向PEからのVPLSコアノード（コアネットワークのノード）を経由した下り方向のパケット転送フローについて、図１７を参照して説明する。なお、上り方向については、トンネルの終端点(対向PE)が変わらないため、従来技術の処理の流れとなんら変わりはない。(Primary PE/Secondary PEから対向PEを終端点とするMPLSトンネルラベルパスに従って転送される。)
LDPでトンネルラベルを配布する場合は、DU(Downstream Unsolicited)と呼ばれる方法で、ラベルパスの終端点となるノードのIPアドレスへのルーティング情報に従って、ラベルも配布される。通常時は、PE AがIP=AのルーティングをOSPFで広告するとともに、隣接ノード(P)に対してトンネルラベルを配布する（LDP Label Mapping）。隣接ノードPはIP=Aのルーティングをさらに隣接ノード(PE B)に、OSPFで広告するとともに、LDP Label Mappingでトンネルラベルを配布する。そして、PE Aに障害が発生し、PE A’がIP=Aのルーティング広告（OSPF）を開始するとともに、隣接ノード(P)に対してトンネルラベルを配布する（LDP Label Mapping）と、隣接ノード(P)は自立的にIP=Aを終端点とするトンネルラベルパスを更新し、最終的に当該ラベルパスがPE A’宛に更新される。【００４４】
なお、トンネルラベル配布プロトコルおよびVPLSサービスにおけるPWラベル配布プロトコルとして、いずれもLDPを使う場合は、セッション識別子(ループバックアドレス)は、Primary/Secondary PE間で共有あるいは区別されていれば、トンネル／PWラベル用で同一でも別々でも問題ない。【００４５】
また、図１８に示されるように、RSVP-TEでトンネルラベルを配布する場合は、DoD(Downstream on Demand)と呼ばれる方法で、トンネルの始点となるノードからの要求により終点ノードからトンネルラベルが払い出される。具体的には、通常時は、PE Bからのラベル要求メッセージ(RSVP-TE Path message)は、隣接ノード(P)を経由してPE Aに到達し、PE Aがラベル配布メッセージ(RSVP-TE Resv message)により隣接ノード(P)にラベルを配布し、さらに隣接ノード(P)がRSVP-TE Resv messageによりラベル配布という手順で最終的にトンネルラベルパスが完成する。【００４６】
その後も定期的にPath messageが送信され、Resv messageを返すことによりリソースが確保され続けるが、PE Aに障害が発生し、PE A’がIP=Aのルーティング広告を開始すると、Path messageはPE A’に到着し、PE A’が(PE Aに成り代わってIP=Aを終端点とする) Resv messageを返すことで、最終的に当該ラベルパスがPE A’宛に更新される。【００４７】
このように、PE Aに障害が発生し、PE A’がIP=Aへのルーティングを広告し始めると、下り方向のトンネルラベルパスもPE A’宛に切り替わる。
以上のように、本発明により、例えば、VPLSではエッジノード冗長化のためのSecondary PWが不要となるため、PWは非冗長時と同じ本数で済む。実際PWはVPN毎に必要であるため、PW総数は網全体で100K〜オーダとなり、PW数の抑制効果はかなり大きい。また、対向PEには障害が見えない(同一PWからの入力に見える)ので、Primary PE障害時に経路情報(MAC)テーブルの更新処理が不要となる。
【図１】
2008120267.tif 000003
【図２】
2008120267.tif 000004
【図３】
2008120267.tif 000005
【図４】
2008120267.tif 000006
【図５】
2008120267.tif 000007
【図６】
2008120267.tif 000008
【図７】
2008120267.tif 000009
【図８】
2008120267.tif 000010
【図９】
2008120267.tif 000011
【図１０】
2008120267.tif 000012
【図１１】
2008120267.tif 000013
【図１２】
2008120267.tif 000014
【図１３】
2008120267.tif 000015
【図１４】
2008120267.tif 000016
【図１５Ａ】
2008120267.tif 000017
【図１５Ｂ】
2008120267.tif 000018
【図１６Ａ】
2008120267.tif 000019
【図１６Ｂ】
2008120267.tif 000020
【図１７】
2008120267.tif 000021
【図１８】
2008120267.tif 000022
【手続補正書】
【提出日】平成21年5月28日(2009.5.28)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
主系エッジノードと従系エッジノードとから構成される冗長化されたエッジノードを有するネットワークにおけるエッジノードの冗長化システムであって、
従系エッジノードは、
主系エッジノードの固有アドレスを保持し、通常時には、主系エッジノードの固有アドレスを無効化し、主系エッジノードに障害が発生した場合には、主系エッジノードの固有アドレスを従系エッジノードの固有アドレスとして有効化する主系固有アドレス設定手段と、
主系エッジノードが通常時に通信確立のために使用している回線データと同じ回線データを格納する主系回線データ複製格納手段と、
主系エッジノードの障害時に、該主系固有アドレス設定手段によって有効化された固有アドレスと、該主系回線データ複製格納手段に格納されている回線データとを用いて、主系エッジノードに代わって、通信を確立する通信確立手段と、
を備えることを特徴とするエッジノード冗長化システム。
【請求項２】
前記主系エッジノードの障害時、前記従系エッジノードは、自身が、前記主系固有アドレス設定手段によって有効化された固有アドレスを使って通信を行うことを各ネットワーク装置に広告することを特徴とする請求項１に記載のエッジノード冗長化システム。
【請求項３】
前記回線データは、仮想回線の設定データであることを特徴とする請求項１に記載のエッジノード冗長化システム。
【請求項４】
前記回線データは、通信セッションの実行に必要なパラメータを含み、前記通信確立手段が前記主系エッジノードに代わって通信を確立する場合には、該パラメータを用いて通信セッションを引き続き行い、対向エッジノードに通信セッションの断が認識されないように通信を確立することを特徴とする請求項１に記載のエッジノード冗長化システム。
【請求項５】
前記通信確立手段が前記主系エッジノードに代わって通信を確立する場合には、使用する通信プロトコルのリスタート機能を用い、リスタート機能が通信セッション断から回復までの間に、該主系エッジノードから前記従系エッジノードへの切り替えを行うことを特徴とする請求項１に記載のエッジノード冗長化システム。
【請求項６】
複数の主系エッジノードに対し、１台の従系エッジノードを対応させ、
前記主系固有アドレス設定手段は、該複数の主系エッジノードの全ての固有アドレスを保持しておき、障害が発生した主系エッジノードの固有アドレスのみを該従系エッジノードの固有アドレスとして有効化し、
前記通信確立手段は、該複数の主系エッジノードの全ての回線データを保持し、障害が発生した主系エッジノードの回線データを用いて、該障害が発生した主系エッジノードに代わって通信を確立する、
ことを特徴とする請求項１に記載のエッジノード冗長化システム。
【請求項７】
前記ネットワークは、顧客のレイヤ２フレームをカプセル化して転送するvirtual private wire service (VPWS)、あるいは、virtual private LAN service (VPLS)であって、回線を構築するための制御プロトコルは、label distribution protocol (LDP)であることを特徴とする請求項１に記載のエッジノード冗長化システム。
【請求項８】
前記ネットワークは、顧客のレイヤ３パケットをカプセル化して転送するIP virtual private network (IP-VPN)であって、回線を構築するための制御プロトコルは、multi protocol extensions border gateway protocol (MP-BGP)であることを特徴とする請求項１に記載のエッジノード冗長化システム。
【請求項９】
前記ネットワークは、カプセル化パケット転送技術としてmulti protocol label switching (MPLS)を用いたネットワークであって、パケット転送用ラベル配布プロトコルとしてlabel distribution protocol (LDP)を用いることを特徴とする請求項１に記載のエッジノード冗長化システム。
【請求項１０】
前記ネットワークは、カプセル化パケット転送技術としてmulti protocol label switching (MPLS)を用いたネットワークであって、パケット転送用ラベル配布プロトコルとしてresource reservation protocol traffic extension (RSVP-TE)を用いることを特徴とする請求項１に記載のエッジノード冗長化システム。
【国際調査報告】
2008120267.tif 000023
2008120267.tif 000024
2008120267.tif 000025
2008120267.tif 000026