VMware SD-WAN on Equinix Network Edge と AWS との接続 ~専用線いらずのマルチクラウド接続〜

# SD-WAN を用いたマルチクラウド接続（AWS編）

最近では自社のオンプレミス環境（Data Center）以外にも複数のクラウドを活用しているユーザーがどんどん増えて来ているかと思います。
クラウドも AWS, Azure, GCP や VMware の仮想化技術（NSX, vSAN, vSphere）を用いてサービス提供をしているVMware Cloud on AWS、Azure VMware Solution、Google Cloud VMware Engine、Oracle Cloud VMware Solution、と様々なクラウドが提供されています。

大規模な環境においては、今までは上記のクラウドとの接続には専用線を用いることが多いかと思いますが、SD-WAN を用いることによって、専用線や専用ハードウェアを使わずに即座にクラウドに接続することが出来ます。

背景、概要については、[こちら](https://blogs.vmware.com/vmware-japan/2021/05/multicloud_connect_by_vmwaresdwan.html)もご参考下さい。

今回は下記のようなトポロジーで Equinix の Network Edge というプラットフォーム上に VMware SD-WAN Edge をデプロイし、AWS と接続する設定、手順について記載します。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/c9e8df24-1279-e79d-93f4-9f1d550573fb.png)


# Virtual VeloCloud Edge を Equinix Network Edge 上に作成

\# 基本的にはこちらのマニュアル通りに設定いただければ問題ないはずです。
https://docs.equinix.com/ja/Content/Interconnection/NE/user-guide/NE-create-VMware-Edge-Instance.htm

# VMware SD-WAN Orchestrator から Virtual Edge を作成
VMware SD-WAN Orchestrator（以下VCO）にログインし、New Edge から作成します。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/be10d742-2a99-52f6-9f46-285aaca31c0e.png)

GE1 の WAN Overlay と NAT Direct Traffic のチェックを外します。
※ GE1 は Equinix との Management 用で、特に WAN Overlay のチェックを外しておかないと、Equinix Portal からデプロイが正常に認識されません。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/78473cb8-f671-b96b-2cf5-f7e013feaedd.png)

GE2 でも NAT Direct Traffic のチェックを外しておきます。（必須ではないです。）
アクティベーションキーの情報を控えておきます。（Equinix Portal からのデプロイ時に必要になります。）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/2b32c6f8-dca2-3c1e-31a8-9b58485d95dc.png)

VMware SD-WAN 側はこれだけで最低限の準備は完了となります。

# Equinix Fabric で VMware SD-WAN Edge を作成
[Equinix Fabric Portal](https://fabric.equinix.com/)へログインし、Network Edge タブから 仮想デバイスの作成 を選択します。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/34aa1156-1567-d6bc-e00b-8169a2c2b185.png)

今回は Single Virtual Device を選択し、
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/bf8ee791-9b87-404f-056c-e87293e1f895.png)

VMware SD-WAN Edge Instance を選択します。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/749aeefc-4902-0292-c5db-776703fb1117.png)

内容をザラッと確認し、Create SD-WAN Devices を押して進めます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/1d7c2fb7-2414-0dfc-6eb2-ce471679c01e.png)

Virtual VeloCloud Edge をデプロイしたいリージョンを選びます。（Tokyo が2021年5月にローンチされています）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/6b7014e4-97ef-1266-f308-72b05e785384.png)

サイズやバージョンなどを選択し、Device Name(任意)、先に控えておいた Activation Key を貼り付け、VCOのFQDNを入力します。
（Equinix Portal には VCOとバージョンが同じでないといけない、という記載がありますが、ずれていても問題ありません。デプロイ時にバージョンを上げてくれます）
Interface数は現時点では8個で固定です。（クラウド向けInterface数は５個となります。数も増やせないので注意が必要です。）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/88c746c4-630d-2027-2fab-3e9a63edb39b.png)

VeloCloud Edge に対しての Inbound Rule を設定する必要がありますが、VeloCloud自身のセキュリティが強固なので、permit anyで問題ないです。（permit any でも外部からのアクセスは一切不可です）
また、もし会社のセキュリティポリシーなどで設定が必要な場合には、UDP2426 だけ空けておけばOKです。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/0dfc4d7d-1200-311a-df7e-406673548c14.png)

Internet側向けの Bandwidthを設定します。15Mbpsまでは無料。（リージョンによって選択できる数値は変わるようです。）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/649db5b6-bbcb-5698-f0ae-7841e60c6363.png)

最後に Create Device を押せば、自動でプロビジョニングが完了します。
以下は VMware SD-WAN Orchestrator の画面です。
VeloCloud Edge は自動でWAN回線のbandwidth (packet-loss, latency, jitterも)も計測してくれます。今回は上り 5.14Gbps,下り 1.28Gbps の帯域があることが分かります。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/c4f9bd63-04f8-35c1-a7bc-bdca1e6eb90b.png)

# AWS との接続準備

まず、AWS の Account ID を確認しておく必要があります。（Equinix Portal で Virtual Circuit を作成する際に必要となります）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/f2ac23a6-9d35-3eb4-2b0e-9b1624d3ea15.png)

Equinix Fabric Portal から先程作成した Virtual VeloCloud Edge を選択し、接続の作成（Create Connection）を選択します
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/9a116f8b-682b-6b72-201f-ac19482ee826.png)

今回は AWS との接続なので、AWS を選択します。
※ VMware Cloud on AWS の場合も同様です。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/63f4a320-b1dc-ee87-f7e6-45adfad9122d.png)

AWS Direct Connect を選択し、利用可能な拠点に Tokyo があることを確認しておきます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/3875ab79-90f1-7103-07a1-4df655161ead.png)

接続元に先程作成した Virtual VeloCloud Edge を選択し、接続先はAWSのAPAC内のTokyoを選択します。（レイテンシーが参考として載っていますが、Tokyoは1msと超低レイテンシーです）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/3ce498d5-593d-38c5-975e-5ab7e34d49da.png)![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/ccd19fb6-4252-46c1-cc61-12dc820618bd.png)

ここで AWS Account ID を入力し、VeloCloud Edge と AWS 間の Virtual Circuit の帯域を選択します。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/e3288d84-8340-3813-066e-734f0d139ea1.png)



内容に問題がなければ オーダーを送信 を押せば、Virtual Circuit が AWS Tokyo リージョンまで接続されに行きます。（この時点では AWS Direct Connect とはまだつながっていません。）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/0f693e06-adbb-7060-6922-a87fcc7d8f19.png)


# AWS 側の設定作業
次にAWS側と接続するために、AWS Portal にログインし、Virtual Private Gateway を作成します。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/0145ea1e-2a15-060b-600b-2a4e4b3a6446.png)

Virtual Private Gateway を VPC にアタッチします。（VPCが作成されていない場合は、VPCの作成も必要になります）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/3d357009-9f19-1613-eaae-b324ddc47244.png)

Direct Connect Gateway も作成し、ここでAWS側のプライベートAS番号を設定します。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/e9170d58-2434-ab02-03f0-a38f75858e96.png)

Gateway の関連付け（Associate gateway）を行います。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/f7dcd63b-d703-0668-0905-4c38fd1021e0.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/6233aa24-ccb6-dcca-ae00-d8d360b8af1d.png)

Equinixから Virtual Circuit のオーダーが送出されていると、State が ordering となっています。Accept を選択すると、Equinix上の Virtual VeloCloud Edge から AWS DirectConnect までのL2接続が完了します。（IP接続やBGP接続はまだです）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/f6fea195-d8de-f1d6-45e0-687db785ede6.png)

Direct Connect に Virtual Interface を作成します。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/22a65f9d-c78c-a69e-936e-85edd7a6dd64.png)


Type は Private を選択し、必要事項を入力します。ここで VeloCloud Edge 側の BGP番号を入力します。
Vlan番号も入力を求められますが、この値は意識する必要はありません（後述のVeloCloud の設定でもこの Vlan は設定しません。）
Additional Settings を選択すると、デバイス間のIPや、BGP MD5などがマニュアルで設定できます。（入力しない場合でもデフォルト値で設定されます）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/08649b9f-d252-2e96-7a92-655f785ac5d7.png)

このような形で AWS 側のBGP設定が行われるので、IPアドレスや BGP authentication key を控えておきます。
この時点では BGP Peer は張られていないので、 BGP status は down となっています。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/0ca22b0d-5e3c-a33d-056e-95022da0a6a8.png)

最後に Route Table の Route Propagate を有効にしておきます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/0dacf2fc-f980-9884-66a2-f72c1fd545c0.png)

# VMware SD-WAN Edge のInterface, BGP設定
VMware SD-WAN にログインし、Virtual VeloCloud Edge の Interface の設定をを行います。
どの Interaface が AWS Direct Connect 接続に使われているかは、Equinix Portal から 仮想デバイスの詳細→インタフェース から確認できます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/f8921554-42e4-dae7-88e5-bf2f8d4ef82e.png)

対象のGE4の設定を行い、
（WAN Overlay のチェックを外し、先に AWS Portal で表示された IPアドレスを static で設定します。）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/37aa53a9-6533-b882-c03b-e95ad533acd8.png)

BGPの設定を行えば接続完了です
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/91ea3f8e-39fb-d3d1-1e26-c4ba139790c7.png)

# 確認
AWS側でもVirtual InterfaceのBGP statusがupし、
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/c90fd61c-e687-74c9-a729-4d607011e138.png)

VMware SD-WAN Orchestrator 側でも BGPが上がっていることを確認できました。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/0377780e-7415-fe87-cefe-a0eb96ef482e.png)

私の自宅にも VeloCloud Edge が置かれており、このような構成になっているのですが、（緑色の箱アイコンが VeloCloud Edge になります）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/3823c3ca-4243-7e2a-62e2-500ce84626dd.png)

ちゃんと Pingも飛び、iperfで負荷をかけることもできましたw
\# 帯域が少ないのは、instanceサイズが小さいためとなります。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53465/8e3de2d8-a016-279d-a36c-66d6bb467af9.png)