(57)【要約】      （修正有）【課題】データセンタ間を広域ネットワークで接続した環境下においてもデータセンタ内の仮想マシンと外部ネットワーク配下のクライアント端末の経路を最適化する。【解決手段】データセンタ１０ａ、１０ｂは、広域Ｌ２ネットワーク６０内において仮想マシン４０のＩＰアドレスをＩＤとして該ＩＤとＬｏｃａｔｏｒの組を用いて経路制御を行うとともに、各ゲートウェイ３５ａ、３５ｂがそれぞれ外部ネットワーク５０ａ、５０ｂに対して仮想マシン４０の前記ＩＰアドレスを経路情報として広告する。外部ネットワーク５０は、クライアント端末１からの前記広告されたＩＰアドレス宛のパケットをクライアント端末１の近傍に位置するゲートウェイに転送する。【選択図】図４
2018032936.tif 000002
【特許請求の範囲】
【請求項１】
ゲートウェイにより外部ネットワークと接続するとともに仮想マシンを配備するデータセンタを複数備えるとともに複数のデータセンタを論理的な広域ネットワークで接続した通信システムにおいて、外部ネットワークを介したクライアント端末・仮想マシン間の経路を制御する経路制御システムであって、
前記広域ネットワーク内において仮想マシンのＩＰアドレスをＩＤとして該ＩＤとＬｏｃａｔｏｒの組を用いてゲートウェイ・仮想マシン間の経路制御を行うとともに、前記複数のゲートウェイがそれぞれ外部ネットワークに対して仮想マシンの前記ＩＰアドレスを経路情報として広告するように前記複数のデータセンタを構成し、
クライアント端末からの前記広告されたＩＰアドレス宛のパケットが前記複数のゲートウェイのうち前記クライアント端末の近傍に位置するゲートウェイに転送されるよう前記外部ネットワークを構成した
ことを特徴とする経路制御システム。
【請求項２】
第１のデータセンタのゲートウェイは第１のデータセンタ内の配備された仮想マシンのＩＰアドレスを外部ネットワークに広告し、
前記仮想マシンが第１のデータセンタから第２のデータセンタに移動するより前に、第２のデータセンタのゲートウェイは該仮想マシンのＩＰアドレスを外部ネットワークに広告する
ことを特徴とする請求項１記載の経路制御システム。
【請求項３】
前記データセンタ内ではＬＩＳＰ（The Locator/ID Separation Protocol）を用いて経路制御を行うとともに、ゲートウェイはＩＰ  Ａｎｙｃａｓｔにより仮想マシンのＩＰアドレスを広告する
ことを特徴とする請求項１又は２記載の経路制御システム。
【請求項４】
ゲートウェイにより外部ネットワークと接続するとともに仮想マシンを配備するデータセンタを複数備えるとともに複数のデータセンタを論理的な広域ネットワークで接続した通信システムにおいて、外部ネットワークを介したクライアント端末・仮想マシン間の経路を制御する経路方法であって、
前記複数のデータセンタは、前記広域ネットワーク内において仮想マシンのＩＰアドレスをＩＤとして該ＩＤとＬｏｃａｔｏｒの組を用いてゲートウェイ・仮想マシン間の経路制御を行うとともに、前記複数のゲートウェイがそれぞれ外部ネットワークに対して仮想マシンの前記ＩＰアドレスを経路情報として広告し、
前記外部ネットワークは、クライアント端末からの前記広告されたＩＰアドレス宛のパケットが前記複数のゲートウェイのうち前記クライアント端末の近傍に位置するゲートウェイに転送されるよう経路制御する
ことを特徴とする経路制御方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、複数のデータセンタ間を接続した広域ネットワークにおける経路制御技術に関する。
【背景技術】
【０００２】
データセンタでは、データセンタ内に複数の論理的なネットワークを内包させることで、１つのデータセンタ・ネットワーク上に複数のサービスや事業者のネットワークを混在・重畳する。
【０００３】
さらに、複数のデータセンタを専用線やトンネリング・プロトコルを用いて結合して広域Ｌ２ネットワークを形成し、サービスや事業者の巨大な仮想のネットワークを構成することがある。こうすることで、リソースを必要とする場所に必要なリソースを配分することが可能となる。例えば、事業継続計画（ＢＣＰ：Business Continuity Plan）のため、社内の重要なリソースを災害時に被災していない地域に移動させて事業を継続するなどが行われる。
【０００４】
また、ＩａａＳ（Infrastructure as a Service）やＳａａＳ（Software as a Service）などに代表されるＸａａＳをはじめとしたデータセンタの多くのユースケースでは、リソースはデータセンタに配置され、データセンタの利用者はデータセンタ外部に存在する。図１にＸａａＳの利用形態を例示する。図１に示すように、データセンタ１０はＸａａＳを提供するサーバ２０とゲートウェイ３０とを備えており、サーバ２０には１つ以上の仮想マシン（ＶＭ：Virtual Machine）４０が構築されている。Ａ地域の拠点にあるデータセンタ１０は、Ａ地域のネットワーク５０を介してクライアント端末１と通信可能となっている。
【０００５】
クライアント端末１が、データセンタ１０の遠方から利用する場合について図２を参照して説明する。図２は遠距離からＸａａＳを利用する形態を示す図である。なお、図２では、例えばネットワーク５０など、複数存在する要素をそれぞれ区別する際には参照番号の後ろに「ａ」「ｂ」などの記号を付加する。以下の説明及び他の図面においても同様である。
【０００６】
遠方から利用する場合には、物理的なサーバやストレージから遠く離れた場所から利用することとなる。図２の例では、クライアント端末１は、Ｂ地域のネットワーク５０ｂ、Ａ地域のネットワーク５０ａとＢ地域のネットワーク５０ｂとの間の伝送路（例えば海底ケーブルなど）、Ａ地域のネットワーク５０ａを介してデータセンタ１０と通信する。このため、遅延や経路中の輻輳等が原因でＱｏＥ（Quality of Experience）が著しく低下する、あるいは、利用できないなどの問題がある。この問題を解決するために、ＶＭ４０を利用者の近傍にデータセンタに移動させることなどが考えられる。なお、ＶＭ４０によるサービス提供を維持しつつＶＭ４０を他のデータセンタなどにある別のサーバに移動させることは、ライブマイグレーションと呼ばれている。
【先行技術文献】
【非特許文献】
【０００７】
【非特許文献１】D. Farinacci, 他3名, "The Locator/ID Separation Protocol (LISP)", RFC6830, 2013年1月, [online], [平成28年7月21日検索], インターネット<https://tools.ietf.org/html/rfc6830>
【非特許文献２】C. Partridge, 他2名, "Host Anycasting Service", RFC1546, 1993年11月, [online], [平成28年7月21日検索], インターネット<https://tools.ietf.org/html/rfc1546>
【発明の概要】
【発明が解決しようとする課題】
【０００８】
データセンタを跨がってＶＭを移動した場合について図３に例示する。図３に示すように、データセンタ１０ａとデータセンタ１０ｂは拠点間接続６５により通信可能に接続されており、換言すれば、データセンタ１０ａとデータセンタ１０ｂを包含する論理的な広域Ｌ２ネットワーク６０が形成されている。この広域Ｌ２ネットワーク６０は、ＶＬＡＮ（Virtual Local Area Network）やＶｘＬＡＮ（Virtual eXtensible Local Area Network）等によるオーバーレイ技術によって仮想化したものであってもよいし、拠点間接続６５として専用線やＩＰ−ＶＰＮ（Internet Protocol - Virtual Private Network）を用いてほとんど物理的に構成するようにしてもよい。ＶＭ４０の移動の前後において、Ａ地域のデータセンタ１０ａのゲートウェイ３０ａは、データセンタ１０ａの外側のネットワークであるＡ地域のネットワーク５０ａ側に向けて、換言すれば広域Ｌ２ネットワーク６０の外側に向けて、経路情報としてＶＭ４０のグローバルＩＰ（Internet Protocol）アドレスを広告している。このため、広域Ｌ２ネットワーク６０の外部から見ると、ＶＭ４０のグローバルＩＰアドレスの広告元は変化しないため、元の拠点のデータセンタ１０ａにパケットがルーティングされてしまい、冗長な経路となる所謂「トロンボーン現象（Traffic Trombone）」が発生する。図３の例では、クライアント端末１とＶＭ４０との間の通信は、Ｂ地域のネットワーク５０ｂ・インターネット５０ｃ・Ａ地域のネットワーク５０ａ・データセンタ１０ａ・拠点間接続６５・データセンタ１０ｂという経路になる。
【０００９】
本発明は上記事情に鑑みてなされたものであり、その目的とするところは、データセンタ間を広域ネットワークで接続した環境下においてもデータセンタ内の仮想マシンと外部ネットワーク配下のクライアント端末の経路を最適化することができる経路制御システム及び方法を提供することにある。
【課題を解決するための手段】
【００１０】
上記目的を達成するために、本願発明は、ゲートウェイにより外部ネットワークと接続するとともに仮想マシンを配備するデータセンタを複数備えるとともに複数のデータセンタを論理的な広域ネットワークで接続した通信システムにおいて、外部ネットワークを介したクライアント端末・仮想マシン間の経路を制御する経路制御システムであって、前記広域ネットワーク内において仮想マシンのＩＰアドレスをＩＤとして該ＩＤとＬｏｃａｔｏｒの組を用いてゲートウェイ・仮想マシン間の経路制御を行うとともに、前記複数のゲートウェイがそれぞれ外部ネットワークに対して仮想マシンの前記ＩＰアドレスを経路情報として広告するように前記複数のデータセンタを構成し、クライアント端末からの前記広告されたＩＰアドレス宛のパケットが前記複数のゲートウェイのうち前記クライアント端末の近傍に位置するゲートウェイに転送されるよう前記外部ネットワークを構成したことを特徴とする。
【発明の効果】
【００１１】
本発明によれば、広告されたＩＰアドレス宛のパケットをクライアント端末が送出すると、該パケットはクライアント端末の近傍に位置するデータセンタに到達する。一方、広域ネットワーク内ではＩＤ／Ｌｏｃａｔｏｒ分離技術により、前記広告ＩＰアドレスのパケットは仮想マシンに到達する。すなわち、データセンタ内の仮想マシンと外部ネットワーク配下のクライアント端末の経路が、トロンボーン現象を起こすことなく最短に最適化される。
【図面の簡単な説明】
【００１２】
【図１】ＸａａＳの利用形態を説明する図
【図２】遠距離からＸａａＳを利用する場合を説明する図
【図３】トロンボーン現象について説明する図
【図４】本発明の概要を説明する図
【図５】本発明の経路制御システムの基本構成図
【図６】ｅｘＭＳ／ＭＲの機能構成図
【図７】マッピングテーブルの一例を説明する図
【図８】ＶＭの移動を説明する図
【図９】ＶＭマイグレーションのシーケンス
【図１０】パケット転送制御シーケンス
【図１１】パケット転送制御シーケンス
【図１２】端末・ＶＭ間の通信経路を説明する図
【発明を実施するための形態】
【００１３】
本発明の一実施の形態に係る経路制御システムについて図面を参照して説明する。まず、図４を参照して本発明の概要について説明する。図４は、本願発明の概要を説明する図である。なお、ここでは従来の同一の要素については同一の符号を付す。
【００１４】
本発明は、各拠点から移動する可能性のあるＩＰアドレスを事前に広告し、いつＶＭ４０が移動したとしても広域Ｌ２ネットワーク６０内部のルーティングを修正するのみで経路の最適化が可能となるＩＰモビリティ経路制御システムである。この広告のタイミングは、ＶＭ４０の他拠点への移動が完了する時までに、前記広告が外部ネットワーク５０に伝搬して外部ネットワーク５０において当該広告に基づく経路制御が可能となるのに十分な時間を確保することが好ましい。
【００１５】
本発明のポイントの１つは、移動したＶＭ４０に追従して、最寄りのゲートウェイ３０からＶＭ４０への接続経路を確立する経路制御システムである、というものである。また、本発明のポイントの１つは、クライアント端末１が属するネットワーク５０は、ＶＭ４０のグローバルＩＰを広告する複数の拠点のうち近傍のものを自律的に選択してクライアント端末１からのパケットを拠点に転送する、これにより、トロンボーン現象が発生しない、というものである。また、本発明のポイントの１つは、拠点内では、ＶＭ４０の移動に応じて外部から到達したパケットを、拠点間接続を介して拠点内・拠点間の適切な経路でＶＭ４０に転送する、というものである。
【００１６】
このようなポイントを実現するための手段としては、本発明では、広域Ｌ２ネットワーク６０内においてＶＭ４０のＩＰアドレスについてＬｏｃａｔｏｒ／ＩＤ分離を行い、ＩＤとしてＶＭ４０のＩＰアドレスを用いる。Ｌｏｃａｔｏｒは広域Ｌ２ネットワーク６０内においてＶＭ４０の位置を特定可能な何らかのアドレス情報を用いる。ここで注目すべき点は、ＬｏｃａｔｏｒはＶＭ４０のデータセンタ１０間での移動により可変することがあるが、ＩＤは固定であることにある。
【００１７】
各拠点のデータセンタ１０のゲートウェイ３５は、それぞれ、外部に対して前記ＩＤとしてのＩＰアドレスをＶＭ４０への経路情報として広告する。すなわち、同一のＩＰアドレスを広告するゲートウェイ３５が複数存在することになる。一方、広域Ｌ２ネットワーク６０の外部のネットワーク５０では、前記ＩＰアドレス宛のパケットについて、該ＩＰアドレスを広告する複数のゲートウェイ３５のうち近傍の拠点のデータセンタ１０のゲートウェイ３５に転送されるよう経路制御を行う。
【００１８】
これにより、図４に示すように、ＶＭ４０が移動しても、クライアント端末１からはＶＭ４０へは、最短経路で最寄りのゲートウェイ３５に接続される。また、広域Ｌ２ネットワーク６０内においてネットワーク構成が変化しても、ゲートウェイ３５により適切なノードに転送される。
【００１９】
次に、本実施の形態に係る経路制御システムの基本構成について図５を参照して説明する。本実施の形態では、Ｌｏｃａｔｏｒ／ＩＤ分離手段として、ＬＩＳＰ（The Locator/ID Separation Protocol）を用いる。ＬＩＳＰは、ＩＴＲ（Ingress Tunnel Router）が経路広告を行い、届いたパケットをテーブルの内容に応じて、宛先のＩＰアドレスを持つノードが配下に存在するＥＴＲ（Egress Tunnel Router）に転送し、ＥＴＲがそのパケットを、宛先ＩＰアドレスを持つノードに転送する技術である。ＬＩＳＰの詳細については非特許文献１を参照されたい。
【００２０】
また、外部ネットワーク側では、ＩＰ Ａｎｙｃａｓｔの技術を用いる。ＩＰ  Ａｎｙｃａｓｔは、複数のＡＳ（Autonomous System）から経路広告を行う行為である。ＩＰ  Ａｎｙｃａｓｔの詳細については非特許文献２を参照されたい。
【００２１】
データセンタ１０は、経路広告可能な拠点であり、仮想ネットワーク１５を収容する機能を有する。各データセンタ１０は、図５に示すように、外部ネットワーク５０との境界に配置されたｅｘＩＴＲ（extended ITR）３６と、ｅｘＭＳ／ＭＲ（extended Mapping Server / Mapping Resolver）７０と、仮想ネットワーク１５と、仮想ネットワーク１５との境界に配置されたＥＴＲ１６と、仮想ネットワーク１５内に配置されたＶＭ４０と、データセンタコントローラ１７とを備えている。複数のデータセンタ１０間はトンネル６５により拠点間接続されており、これにより複数のデータセンタ１０を接続した広域Ｌ２ネットワーク６０が形成されている。なお、この広域Ｌ２ネットワーク６０は、ＶＬＡＮやＶｘＬＡＮ）等によるオーバーレイ技術によって仮想化したものであってもよいし、トンネル６５として専用線やＩＰ−ＶＰＮを用いてほとんど物理的に構成するようにしてもよい。
【００２２】
データセンタ１０内においては、仮想ネットワーク１５の内側はＥＩＤ（Endpoint ID）名前空間であり、仮想ネットワーク１５の外側はＲＬＯＣ（Routing Locator）名前空間となっている。ここでＥＩＤは、ＬＩＳＰにおいて端末を識別する情報である。また、ＲＬＯＣは、ＬＩＳＰにおいてトンネルルータに割り当てるＩＰアドレスである。ＬＩＳＰでは、送信側トンネルルータのＲＬＯＣと宛先側トンネルルータのＲＬＯＣ間でＵＤＰ（User Datagram Protocol）のトンネルを生成し、実際の通信はその中を通す。なお、拠点間接続用のトンネル６５は、一般に専用線が用いられるため高速であるという特徴を有する。
【００２３】
ｅｘＩＴＲ３６は、ＬＩＳＰの機能を拡張するものであり、ＬＩＳＰで定義されているＩＴＲ相当の機能、すなわち送信側サイトでカプセル化を行うトンネルルータとしての機能を有する。さらにｅｘＩＴＲ３６は、外部ネットワーク５０側に経路広告する機能と、オプショナルな機能としてＮＡＴ（Network Address Translation）機能を有する。また、ｅｘＩＴＲ３６は、経路情報のキャッシュの削除要求を受け付け、当該キャッシュを削除する機能を有する。
【００２４】
ｅｘＭＳ／ＭＲ７０は、ＬＩＳＰの機能を拡張するものであり、図６に示すように、ＬＩＳＰで定義されているＭＳ相当の機能、すなわちＥＴＲからの登録要求を受け付ける機能を有するＭＳ機能部７１と、同ＭＲ相当の機能、すなわちＩＴＲからの問い合わせを受け付ける機能を有するＭＲ機能部７２とを備える。また、ｅｘＭＳ／ＭＲ７０は、ＥＩＤとＲＬＯＣをマッピングする機能を有し、その機能を提供するためのマッピングテーブル７３を備える。さらに、ｅｘＭＳ／ＭＲ７０は、他のｅｘＭＳ／ＭＲ７０間で自身の持つマッピングテーブル７３を同期する機能を有する同期機能部７４とを備える。
【００２５】
図７にマッピングテーブル７３の一例を示す。図７（ａ）はＶＭ４０のＩＰアドレスがグローバルＩＰアドレスの場合の例である。図７（ａ）に示すように、マッピングテーブル７３は、ＥＩＤとしてＶＭ４０のＩＰアドレスと、ＲＬＯＣとしてＶＭ４０が属するネットワークのＥＴＲ１６のＩＰアドレスと、Ｐｒｉｏｒｉｔｙを含む。
【００２６】
図７（ｂ）はＶＭ４０のＩＰアドレスがプライベートアドレスの場合の例である。ｅｘＩＴＲ３６がプライベートＩＰとグローバルＩＰのＮＡＴ処理も同時に実施する場合には、ＶＭ４０のグローバルＩＰアドレスをプライベートＩＰアドレスに読み替えた上でマッピングを確認してＲＬＯＣを特定する必要があるため、図７（ｂ）のテーブル構成が必要となる。図７（ｂ）に示すように、マッピングテーブル７３は、ＥＩＤとしてＶＭ４０のＩＰアドレス又はＩＰプレフィックスと、ＲＬＯＣとしてＶＭ４０が属するネットワークのＥＴＲ１６のＩＰアドレスと、ＶＭのグローバルＩＰアドレスとして、ＶＭ４０に割り当てたグローバルＩＰアドレス又はＩＰプレフィックスと、Ｐｒｉｏｒｉｔｙとを含む。
【００２７】
図７におけるＰｒｉｏｒｉｔｙは、１つのＥＩＤに対して複数のＲＬＯＣが設定された場合にはＰｒｉｏｒｉｔｙ値の高いものを優先するために用いられる。
【００２８】
ＥＴＲ１６は、ＬＩＳＰで定義されているものであり、宛先側サイトでカプセル化を解除するトンネルルータである。
【００２９】
データセンタコントローラ１７は、ＶＭ４０を他のデータセンタ１０にマイグレーションする機能と、ＥＴＲ１６にＶＭ４０がマイグレーションしたことを通知する機能とを有する。
【００３０】
ＶＭ４０は、ハイパーバイザ型仮想化における仮想マシンやコンテナ型仮想化におけるコンテナなどの仮想化された環境である。
【００３１】
ネットワーク５０は、ＩＰ  Ａｎｙｃａｓｔに対応して、複数のノード（本実施の形態ではｅｘＩＴＲ３６）が同一のＩＰアドレスを経路情報として広告することを許容する。クライアント端末１からの当該ＩＰアドレスを宛先とするパケットは、クライアント端末１の近傍のノードに経路制御される。本実施の形態では、このような経路制御を行う手段の一例として、ＢＧＰ（Border Gateway Protocol）を用いた。
【００３２】
次に、本実施の形態の経路制御システムにおけるＶＭの移動時のシーケンスについて図８及び図９を参照して説明する。図８はＶＭ移動後における経路制御システムの構成図を示している。ここでは、データセンタ１（１０ａ）内のＶＭ４０がデータセンタ２（１０ｂ）内に移動する場合のシーケンスについて図９を参照して説明する。このシーケンスでは、ＶＭマイグレーション時にマッピングテーブルを更新し、キャッシュを削除する。以下、シーケンスを詳述する。
【００３３】
まず、ＶＭ移動処理に先立つ事前準備として、各データセンタ１０内において、ＥＴＲ１６とｅｘＭＳ／ＭＲ７０のＭＲ機能部７２との間、及び、ｅｘＩＴＲ３６とｅｘＭＳ／ＭＲ７０のＭＲ機能部７２との間で、ＬＩＳＰセッションを確立しておく。このＬＩＳＰセッション確立処理は、仮想ネットワーク１５の構築時に行われる。
【００３４】
次に、データセンタ１（１０ａ）のデータセンタコントローラ１（１７ａ）と、データセンタ２（１０ｂ）のデータセンタコントローラ２（１７ｂ）とが共働して、データセンタ１（１０ａ）からデータセンタ２（１０ｂ）へのＶＭ４０の移動処理、すなわちＶＭマイグレーションを開始する。
【００３５】
次に、データセンタ１（１０ａ）のデータセンタコントローラ１（１７ａ）は、ＶＭマイグレーション通知をＥＴＲ１（１６ａ）に送信する（ステップＳ１）。この通知は、ＶＭ４０のＥＩＤがＥＴＲ１（１６ａ）の配下にない事を通知するものである。ＥＴＲ１（１６ａ）は、ＶＭ４０のＥＩＤに関するエントリを削除する（ステップＳ２）。一方、データセンタ２（１０ｂ）のデータセンタコントローラ２（１７ｂ）は、ＶＭマイグレーション通知をＥＴＲ２（１６ｂ）に送信する（ステップＳ３）。この通知は、ＶＭ４０のＥＩＤがＥＴＲ２（１６ｂ）の配下にある事を通知するものである。ＥＴＲ２（１６ｂ）は、ＶＭ４０のＥＩＤに関するエントリを追加する（ステップＳ４）。ここで、上記処理は、データセンタ１（１０ａ）とデータセンタ２（１０ｂ）とで非同期で行われる。
【００３６】
次に、移動先のデータセンタ２（１０ｂ）のＥＴＲ２（１６ｂ）は、ｅｘＭＳ／ＭＲ２（７０ｂ）のＭＳ機能部２（７１ｂ）にマップ登録を送信する（ステップＳ５）。このマップ登録の送信は、ＥＩＤと自身のＲＬＯＣのペアを登録することを要求するものである。ｅｘＭＳ／ＭＲ２（７０ｂ）は、マッピングテーブル２（７３ｂ）を更新する（ステップＳ６）。ｅｘＭＳ／ＭＲ２（７０ｂ）の同期機能部２（７４ｂ）はデータセンタ１（１０ａ）のｅｘＭＳ／ＭＲ１（７０ａ）の同期機能部１（７４ａ）に、マッピングテーブル２（７３ｂ）の差分（更新分）又は全部を送信して、両者の同期を図る（ステップＳ７）。
【００３７】
次に、データセンタ１（１０ａ）のｅｘＭＳ／ＭＲ１（７０ａ）は、ｅｘＩＴＲ１（３６ａ）に対してキャッシュ削除要求を送信する（ステップＳ８）。ｅｘＩＴＲ１（３６ａ）はＥＩＤの古いキャッシュを削除する（ステップＳ９）。同様に、データセンタ２（１０ｂ）のｅｘＭＳ／ＭＲ２（７０ｂ）は、ｅｘＩＴＲ２（３６ｂ）に対してキャッシュ削除要求を送信する（ステップＳ１０）。ｅｘＩＴＲ２（３６ｂ）はＥＩＤの古いキャッシュを削除する（ステップＳ１１）。ここで、上記処理は、データセンタ１（１０ａ）とデータセンタ２（１０ｂ）とで非同期で行われる。
【００３８】
以上の処理により、データセンタ１（１０ａ）からデータセンタ２（１０ｂ）にＶＭ４０が移動する。ここで、データセンタ１（１０ａ）とデータセンタ２（１０ｂ）との間のＶＭマイグレーションに先立ち、事前に、データセンタ１（１０ａ）のｅｘＩＴＲ１（３６ａ）はネットワーク１（５０ａ）にＶＭ４０のＩＰアドレスを経路情報として広告するとともに、データセンタ２（１０ｂ）のｅｘＩＴＲ２（３６ｂ）もネットワーク２（５０ｂ）にＶＭ４０のＩＰアドレスを経路情報として広告する。そして、上記処理により、広告したＩＰアドレス宛てのパケットは、データセンタ１（１０ａ）のｅｘＩＴＲ１（３６ａ）に到着しても、データセンタ２（１０ｂ）のｅｘＩＴＲ２（３６ｂ）に到着しても、ＶＭ４０の転送されるように広域Ｌ２ネットワーク６０内において経路制御が行われるようになる。
【００３９】
次に、クライアント端末からＶＭへのパケット転送シーケンスについて図１０〜図１２を参照して説明する。ここでは、図９を参照して説明したＶＭ移動後におけるパケット転送シーケンスについて説明する。ここで、パケット転送処理時には、ｅｘＩＴＲ１（３６ａ）及びｅｘＩＴＲ２（３６ｂ）が事前に広告した経路情報が、少なくともネットワーク１（５０ａ）及びネットワーク２（５０ｂ）に伝搬されている。まず、ネットワーク１（５０ａ）配下にあるクライアント端末１（１ａ）からＶＭ４０へのパケット転送シーケンスについて図１０を参照して説明する。
【００４０】
まず、パケット転送処理に先立つ事前準備として、ＶＭ４０のＥＩＤを、データセンタ１（１０ａ）のｅｘＭＳ／ＭＲ１（７０ａ）のＭＳ機能部（７１ａ）、データセンタ２（１０ｂ）のｅｘＭＳ／ＭＲ２（７０ｂ）及びＥＴＲ２（１６ｂ）のＭＳ機能部（７１ｂ）に、マップ登録しておく。このマップ登録処理は、例えばＶＭ４０が生成され当該ＶＭ４０にＩＰアドレスが付与されたタイミングで行われる。
【００４１】
クライアント端末１（１ａ）は、ネットワーク１（５０ａ）にＶＭ宛てのパケットを送信する（ステップＳ１１）。ここで、当該パケットの宛先ＩＰアドレス／送信元ＩＰアドレスは、ＶＭ４０のグローバルＩＰアドレス／クライアント端末１（１ａ）のＩＰアドレスである。ネットワーク１（５０ａ）は、ＶＭ４０のグローバルＩＰアドレスを広告しているデータセンタ１（１０ａ）に当該パケットを転送する（ステップＳ１２）。
【００４２】
次に、オプショナルな処理として、プライベートアドレスへのＮＡＴが必要な場合、ｅｘＩＴＲ１（３６ａ）は、ＮＡＴ処理を行う（ステップＳ１３）。
【００４３】
オプショナルな処理として、データセンタ１（１０ａ）のｅｘＩＴＲ１（３６ａ）にＥＩＤが登録されていない場合、ｅｘＭＳ／ＭＲ１（７０ａ）に対して、宛先アドレスをＥＩＤとしてマップ要求を送信する（ステップＳ１４）。ｅｘＭＳ／ＭＲ１（７０ａ）は、マッピングテーブル１（７３ａ）からＥＩＤのＲＬＯＣを取得し、該当するＲＬＯＣであるＥＴＲ２（１６ｂ）にマップ要求を送信する（ステップＳ１５）。ＥＴＲ２（１６ｂ）は、マップ応答をｅｘＩＴＲ１（３６ａ）に送信する（ステップＳ１６）。ｅｘＩＴＲ１（３６ａ）は、ＥＩＤ／ＲＬＯＣをキャッシュする（ステップＳ１７）。以上のオプショナルな処理により、クライアント端末１（１ａ）とＶＭ４０との間の通信経路が確立される。
【００４４】
次に、ｅｘＩＴＲ１（３６ａ）は、ネットワーク１（５０ａ）から受信したパケットをＬＩＳＰでカプセル化して（ステップＳ１８）、ＥＴＲ２（１６ｂ）にパケットを転送する（ステップＳ１９）。ＥＴＲ２（１６ｂ）は、パケットをデカプセル化して（ステップＳ２０）、ＶＭ４０に転送する（ステップＳ２１）。
【００４５】
次に、ネットワーク２（５０ｂ）配下にあるクライアント端末２（１ａ）からＶＭ４０へのパケット転送シーケンスについて図１１を参照して説明する。
【００４６】
まず、パケット転送処理に先立つ事前準備として、ＶＭ４０のＥＩＤを、データセンタ１（１０ａ）のｅｘＭＳ／ＭＲ１（７０ａ）、データセンタ２（１０ｂ）のｅｘＭＳ／ＭＲ２（７０ｂ）及びＥＴＲ２（１６ｂ）に、マップ登録しておく。
【００４７】
クライアント端末２（１ｂ）は、ネットワーク２（５０ｂ）にＶＭ宛てのパケットを送信する（ステップＳ３１）。ここで、当該パケットの宛先ＩＰアドレス／送信元ＩＰアドレスは、ＶＭ４０のグローバルＩＰアドレス／クライアント端末２（１ｂ）のＩＰアドレスである。ネットワーク２（５０ｂ）は、ＶＭ４０のグローバルＩＰアドレスを広告しているデータセンタ２（１０ｂ）に当該パケットを転送する（ステップＳ３２）。
【００４８】
次に、オプショナルな処理として、プライベートアドレスへのＮＡＴが必要な場合、ｅｘＩＴＲ２（３６ｂ）は、ＮＡＴ処理を行う（ステップＳ３３）。
【００４９】
オプショナルな処理として、データセンタ２（１０ｂ）のｅｘＩＴＲ２（３６ｂ）にＥＩＤが登録されていない場合、ｅｘＭＳ／ＭＲ２（７０ｂ）に対して、宛先アドレスをＥＩＤとしてマップ要求を送信する（ステップＳ３４）。ｅｘＭＳ／ＭＲ２（７０ｂ）は、マッピングテーブル２（７３ｂ）からＥＩＤのＲＬＯＣを取得し、該当するＲＬＯＣであるＥＴＲ２（１６ｂ）にマップ要求を送信する（ステップＳ３５）。ＥＴＲ２（１６ｂ）は、マップ応答をｅｘＩＴＲ２（３６ｂ）に送信する（ステップＳ３６）。ｅｘＩＴＲ２（３６ｂ）は、ＥＩＤ／ＲＬＯＣをキャッシュする（ステップＳ３７）。以上のオプショナルな処理により、クライアント端末２（１ｂ）とＶＭ４０との間の通信経路が確立される。
【００５０】
次に、ｅｘＩＴＲ２（３６ｂ）は、ネットワーク２（５０ｂ）から受信したパケットをＬＩＳＰでカプセル化して（ステップＳ３８）、ＥＴＲ２（１６ｂ）にパケットを転送する（ステップＳ３９）。ＥＴＲ２（１６ｂ）は、パケットをデカプセル化して（ステップＳ４０）、ＶＭ４０に転送する（ステップＳ４１）。
【００５１】
図１２に、クライアント端末１（１ａ）からＶＭ４０へのパケット転送の経路８１と、クライアント端末２（１ｂ）からＶＭ４０へのパケット転送の経路８２を例示する。
【００５２】
このように本発明に係る経路制御システムによれば、広告されたＩＰアドレス宛のパケットをクライアント端末１が送出すると、該パケットはクライアント端末１の近傍に位置するデータセンタ１０に到達する。一方、広域ネットワーク６０内ではＶＭのライブマイグレーションと連動するＩＤ／Ｌｏｃａｔｏｒ分離技術により、前記広告ＩＰアドレスのパケットは仮想マシン４０に到達する。すなわち、データセンタ１０内の仮想マシン４０と外部ネットワーク５０配下のクライアント端末１の経路が、トロンボーン現象を起こすことなく最短に最適化される。
【００５３】
以上本発明の一実施の形態について詳述したが、本発明はこれに限定されるものではない。例えば、上記実施の形態で挙げたＬＩＳＰ、ＩＰ  Ａｎｙｃａｓｔ、ＢＧＰ等のプロトコルは一例に過ぎず、同等の機能を有するものであれば他のプロトコルであっても本発明を実施できる。
【符号の説明】
【００５４】
１…クライアント端末
１０…データセンタ
１５…仮想ネットワーク
１６…ＥＴＲ
１７…データセンタコントローラ
２０…サーバ
３０，３５…ゲートウェイ
３６…ｅｘＩＴＲ
４０…仮想マシン（ＶＭ）
５０…ネットワーク
６０…広域Ｌ２ネットワーク
６５…トンネル
７０…ｅｘＭＳ／ＭＲ
７１…ＭＳ機能部
７２…ＭＲ機能部
７３…マッピングテーブル
７４…同期機能部
【図１】
2018032936.tif 000003
【図２】
2018032936.tif 000004
【図３】
2018032936.tif 000005
【図４】
2018032936.tif 000006
【図５】
2018032936.tif 000007
【図６】
2018032936.tif 000008
【図７】
2018032936.tif 000009
【図８】
2018032936.tif 000010
【図９】
2018032936.tif 000011
【図１０】
2018032936.tif 000012
【図１１】
2018032936.tif 000013
【図１２】
2018032936.tif 000014