旧VCSへの手動でのESXiノード追加方法(ESXi6.5のクラスターにESXi6.5を追加）

本記事は[古いIBM CloudのVCS環境(vSphere 6.5ベース)を順次最新化してます](https://qiita.com/testnin2/items/1f8d157f9cf6bc4c5641)における作業の一環である。

# 1. サーバーを注文する

既存環境と同一Primary Sunbetを指定する。

- 既存ノードと同一DC/Podを選択<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/2eab8a04-6087-09da-0d48-d04c0c8aa742.png)
- 既存ノードと同一メジャーバージョンを選択（後でパッチを適用する）<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/cf88b2c9-4d6c-fd59-2f52-0394f635639e.png)
- ストレージを選択。システム領域はRAID1にする<br> ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/6654a353-2233-8500-7948-7915bd3545f4.png)
- 既存ノードと同一VLAN/subnetを選択<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/e63fa5f4-c50b-4401-a271-5d083d1d58ff.png)


# 2. Secondary Private VLANのトランク
既存のVCS環境は、

- Primary Private VLAN: 2115
- Secondary Private VLAN: 2116
- Primary Public VLAN: 974

であり、Secondary Private VLANのトランク作業を実施する必要がある。

- VLAN 2116にて既存ESXiノードがトランクされていることを確認し、`Attach trunk`を押下<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2746922/1fe17565-7478-ba49-e2d4-804f6e1fad52.png)
- 今回追加するESXiノードを選択し、`Attach`を押下。<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2746922/c58a9b9d-3965-003c-91fb-6384d32b1135.png)
- 追加したESXiもトランクされた。![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2746922/579600a1-8dd3-1900-28b8-472623977f9b.png)


# 3. ESXiへのパッチ適用

```
[root@host1:~] vmware -v
VMware ESXi 6.5.0 build-8294253

[root@host1:~] esxcli system maintenanceMode set --enable true
[root@host1:~] esxcli system maintenanceMode get
Enabled

[root@host1:~] esxcli software vib update -d /vmfs/volumes/datastore1/isoimages/ESXi650-202207001.zip
Installation Result
   Message: The update completed successfully, but the system needs to be rebooted for the changes to be effective.
   Reboot Required: true
   VIBs Installed: VMW_bootbank_bnxtnet_20.6.101.7-23vmw.650.3.96.13932383, VMW_bootbank_brcmfcoe_11.4.1078.26-14vmw.650.3.170.18678235, VMW_bootbank_igbn_0.1.1.0-4vmw.650.3.96.13932383, VMW_bootbank_ixgben_1.7.1.15-1vmw.650.3.96.13932383, VMW_bootbank_lpfc_11.4.33.26-14vmw.650.3.138.16576891, VMW_bootbank_lsi-msgpt2_20.00.06.00-2vmw.650.3.96.13932383, VMW_bootbank_lsi-msgpt35_09.00.00.00-5vmw.650.3.96.13932383, VMW_bootbank_lsi-msgpt3_17.00.02.00-1vmw.650.3.96.13932383, VMW_bootbank_misc-drivers_6.5.0-3.96.13932383, VMW_bootbank_ne1000_0.8.3-8vmw.650.2.75.10884925, VMW_bootbank_nenic_1.0.29.0-1vmw.650.3.96.13932383, VMW_bootbank_net-e1000_8.0.3.1-5vmw.650.3.153.17459147, VMW_bootbank_net-vmxnet3_1.1.3.0-3vmw.650.3.138.16576891, VMW_bootbank_ntg3_4.1.3.2-1vmw.650.2.75.10884925, VMW_bootbank_nvme_1.2.2.28-5vmw.650.3.170.18678235, VMW_bootbank_qlnativefc_2.1.73.0-5vmw.650.3.96.13932383, VMW_bootbank_smartpqi_1.0.1.553-28vmw.650.3.96.13932383, VMW_bootbank_vmkusb_0.1-1vmw.650.3.170.18678235, VMW_bootbank_vmw-ahci_1.1.6-1vmw.650.3.96.13932383, VMware_bootbank_cpu-microcode_6.5.0-3.134.16576879, VMware_bootbank_esx-base_6.5.0-3.187.19997716, VMware_bootbank_esx-tboot_6.5.0-3.187.19997716, VMware_bootbank_esx-ui_1.34.2-16361878, VMware_bootbank_esx-xserver_6.5.0-3.184.19588618, VMware_bootbank_lsu-hp-hpsa-plugin_2.0.0-16vmw.650.3.96.13932383, VMware_bootbank_lsu-lsi-lsi-mr3-plugin_1.0.0-11vmw.650.2.75.10884925, VMware_bootbank_lsu-lsi-lsi-msgpt3-plugin_1.0.0-8vmw.650.2.79.11925212, VMware_bootbank_native-misc-drivers_6.5.0-3.120.15256549, VMware_bootbank_vmware-esx-esxcli-nvme-plugin_1.2.0.36-3.96.13932383, VMware_bootbank_vsan_6.5.0-3.187.19819492, VMware_bootbank_vsanhealth_6.5.0-3.187.19819493, VMware_locker_tools-light_6.5.0-3.180.19581852
   VIBs Removed: VMW_bootbank_bnxtnet_20.6.101.7-11vmw.650.2.50.8294253, VMW_bootbank_brcmfcoe_11.4.1078.0-8vmw.650.2.50.8294253, VMW_bootbank_igbn_0.1.0.0-15vmw.650.1.36.7388607, VMW_bootbank_ixgben_1.4.1-12vmw.650.2.50.8294253, VMW_bootbank_lpfc_11.4.33.1-6vmw.650.2.50.8294253, VMW_bootbank_lsi-msgpt2_20.00.01.00-4vmw.650.2.50.8294253, VMW_bootbank_lsi-msgpt35_03.00.01.00-9vmw.650.2.50.8294253, VMW_bootbank_lsi-msgpt3_16.00.01.00-1vmw.650.2.50.8294253, VMW_bootbank_misc-drivers_6.5.0-2.50.8294253, VMW_bootbank_ne1000_0.8.3-7vmw.650.2.50.8294253, VMW_bootbank_nenic_1.0.0.2-1vmw.650.0.0.4564106, VMW_bootbank_net-e1000_8.0.3.1-5vmw.650.0.0.4564106, VMW_bootbank_net-vmxnet3_1.1.3.0-3vmw.650.0.0.4564106, VMW_bootbank_ntg3_4.1.3.0-1vmw.650.1.36.7388607, VMW_bootbank_nvme_1.2.1.34-1vmw.650.2.50.8294253, VMW_bootbank_qlnativefc_2.1.50.0-1vmw.650.1.26.5969303, VMW_bootbank_smartpqi_1.0.1.553-10vmw.650.2.50.8294253, VMW_bootbank_vmkusb_0.1-1vmw.650.2.50.8294253, VMW_bootbank_vmw-ahci_1.1.1-1vmw.650.2.50.8294253, VMware_bootbank_cpu-microcode_6.5.0-1.41.7967591, VMware_bootbank_esx-base_6.5.0-2.50.8294253, VMware_bootbank_esx-tboot_6.5.0-2.50.8294253, VMware_bootbank_esx-ui_1.27.1-7909286, VMware_bootbank_esx-xserver_6.5.0-2.50.8294253, VMware_bootbank_lsu-hp-hpsa-plugin_2.0.0-6vmw.650.2.50.8294253, VMware_bootbank_lsu-lsi-lsi-mr3-plugin_1.0.0-10vmw.650.1.26.5969303, VMware_bootbank_lsu-lsi-lsi-msgpt3-plugin_1.0.0-7vmw.650.1.26.5969303, VMware_bootbank_native-misc-drivers_6.5.0-0.0.4564106, VMware_bootbank_vmware-esx-esxcli-nvme-plugin_1.2.0.32-2.50.8294253, VMware_bootbank_vsan_6.5.0-2.50.8064065, VMware_bootbank_vsanhealth_6.5.0-2.50.8143339, VMware_locker_tools-light_6.5.0-1.47.8285314
   VIBs Skipped: VMW_bootbank_ata-libata-92_3.00.9.2-16vmw.650.0.0.4564106, VMW_bootbank_ata-pata-amd_0.3.10-3vmw.650.0.0.4564106, VMW_bootbank_ata-pata-atiixp_0.4.6-4vmw.650.0.0.4564106, VMW_bootbank_ata-pata-cmd64x_0.2.5-3vmw.650.0.0.4564106, VMW_bootbank_ata-pata-hpt3x2n_0.3.4-3vmw.650.0.0.4564106, VMW_bootbank_ata-pata-pdc2027x_1.0-3vmw.650.0.0.4564106, VMW_bootbank_ata-pata-serverworks_0.4.3-3vmw.650.0.0.4564106, VMW_bootbank_ata-pata-sil680_0.4.8-3vmw.650.0.0.4564106, VMW_bootbank_ata-pata-via_0.3.3-2vmw.650.0.0.4564106, VMW_bootbank_block-cciss_3.6.14-10vmw.650.0.0.4564106, VMW_bootbank_char-random_1.0-3vmw.650.0.0.4564106, VMW_bootbank_ehci-ehci-hcd_1.0-4vmw.650.0.14.5146846, VMW_bootbank_elxnet_11.1.91.0-1vmw.650.0.0.4564106, VMW_bootbank_hid-hid_1.0-3vmw.650.0.0.4564106, VMW_bootbank_i40en_1.8.1.9-2vmw.650.3.96.13932383, VMW_bootbank_ima-qla4xxx_2.02.18-1vmw.650.0.0.4564106, VMW_bootbank_ipmi-ipmi-devintf_39.1-5vmw.650.2.50.8294253, VMW_bootbank_ipmi-ipmi-msghandler_39.1-5vmw.650.2.50.8294253, VMW_bootbank_ipmi-ipmi-si-drv_39.1-4vmw.650.0.0.4564106, VMW_bootbank_lsi-mr3_7.708.07.00-3vmw.650.3.96.13932383, VMW_bootbank_misc-cnic-register_1.78.75.v60.7-1vmw.650.0.0.4564106, VMW_bootbank_mtip32xx-native_3.9.5-1vmw.650.0.0.4564106, VMW_bootbank_net-bnx2_2.2.4f.v60.10-2vmw.650.0.0.4564106, VMW_bootbank_net-bnx2x_1.78.80.v60.12-1vmw.650.0.0.4564106, VMW_bootbank_net-cdc-ether_1.0-3vmw.650.0.0.4564106, VMW_bootbank_net-cnic_1.78.76.v60.13-2vmw.650.0.0.4564106, VMW_bootbank_net-e1000e_3.2.2.1-2vmw.650.0.0.4564106, VMW_bootbank_net-enic_2.1.2.38-2vmw.650.0.0.4564106, VMW_bootbank_net-fcoe_1.0.29.9.3-7vmw.650.0.0.4564106, VMW_bootbank_net-forcedeth_0.61-2vmw.650.0.0.4564106, VMW_bootbank_net-igb_5.0.5.1.1-5vmw.650.0.0.4564106, VMW_bootbank_net-ixgbe_3.7.13.7.14iov-20vmw.650.0.0.4564106, VMW_bootbank_net-libfcoe-92_1.0.24.9.4-8vmw.650.0.0.4564106, VMW_bootbank_net-mlx4-core_1.9.7.0-1vmw.650.0.0.4564106, VMW_bootbank_net-mlx4-en_1.9.7.0-1vmw.650.0.0.4564106, VMW_bootbank_net-nx-nic_5.0.621-5vmw.650.0.0.4564106, VMW_bootbank_net-tg3_3.131d.v60.4-2vmw.650.0.0.4564106, VMW_bootbank_net-usbnet_1.0-3vmw.650.0.0.4564106, VMW_bootbank_nhpsa_2.0.22-3vmw.650.2.50.8294253, VMW_bootbank_nmlx4-core_3.16.0.0-1vmw.650.0.0.4564106, VMW_bootbank_nmlx4-en_3.16.0.0-1vmw.650.0.0.4564106, VMW_bootbank_nmlx4-rdma_3.16.0.0-1vmw.650.0.0.4564106, VMW_bootbank_nmlx5-core_4.16.0.0-1vmw.650.0.0.4564106, VMW_bootbank_nvmxnet3_2.0.0.23-1vmw.650.1.36.7388607, VMW_bootbank_ohci-usb-ohci_1.0-3vmw.650.0.0.4564106, VMW_bootbank_pvscsi_0.1-1vmw.650.1.26.5969303, VMW_bootbank_qedentv_2.0.6.4-8vmw.650.2.50.8294253, VMW_bootbank_qfle3_1.0.2.7-1vmw.650.0.0.4564106, VMW_bootbank_qflge_1.1.0.3-1vmw.650.0.0.4564106, VMW_bootbank_sata-ahci_3.0-26vmw.650.1.26.5969303, VMW_bootbank_sata-ata-piix_2.12-10vmw.650.0.0.4564106, VMW_bootbank_sata-sata-nv_3.5-4vmw.650.0.0.4564106, VMW_bootbank_sata-sata-promise_2.12-3vmw.650.0.0.4564106, VMW_bootbank_sata-sata-sil24_1.1-1vmw.650.0.0.4564106, VMW_bootbank_sata-sata-sil_2.3-4vmw.650.0.0.4564106, VMW_bootbank_sata-sata-svw_2.3-3vmw.650.0.0.4564106, VMW_bootbank_scsi-aacraid_1.1.5.1-9vmw.650.0.0.4564106, VMW_bootbank_scsi-adp94xx_1.0.8.12-6vmw.650.0.0.4564106, VMW_bootbank_scsi-aic79xx_3.1-5vmw.650.0.0.4564106, VMW_bootbank_scsi-bnx2fc_1.78.78.v60.8-1vmw.650.0.0.4564106, VMW_bootbank_scsi-bnx2i_2.78.76.v60.8-1vmw.650.0.0.4564106, VMW_bootbank_scsi-fnic_1.5.0.45-3vmw.650.0.0.4564106, VMW_bootbank_scsi-hpsa_6.0.0.84-1vmw.650.0.0.4564106, VMW_bootbank_scsi-ips_7.12.05-4vmw.650.0.0.4564106, VMW_bootbank_scsi-iscsi-linux-92_1.0.0.2-3vmw.650.0.0.4564106, VMW_bootbank_scsi-libfc-92_1.0.40.9.3-5vmw.650.0.0.4564106, VMW_bootbank_scsi-megaraid-mbox_2.20.5.1-6vmw.650.0.0.4564106, VMW_bootbank_scsi-megaraid-sas_6.603.55.00-2vmw.650.0.0.4564106, VMW_bootbank_scsi-megaraid2_2.00.4-9vmw.650.0.0.4564106, VMW_bootbank_scsi-mpt2sas_19.00.00.00-1vmw.650.0.0.4564106, VMW_bootbank_scsi-mptsas_4.23.01.00-10vmw.650.0.0.4564106, VMW_bootbank_scsi-mptspi_4.23.01.00-10vmw.650.0.0.4564106, VMW_bootbank_scsi-qla4xxx_5.01.03.2-7vmw.650.0.0.4564106, VMW_bootbank_shim-iscsi-linux-9-2-1-0_6.5.0-0.0.4564106, VMW_bootbank_shim-iscsi-linux-9-2-2-0_6.5.0-0.0.4564106, VMW_bootbank_shim-libata-9-2-1-0_6.5.0-0.0.4564106, VMW_bootbank_shim-libata-9-2-2-0_6.5.0-0.0.4564106, VMW_bootbank_shim-libfc-9-2-1-0_6.5.0-0.0.4564106, VMW_bootbank_shim-libfc-9-2-2-0_6.5.0-0.0.4564106, VMW_bootbank_shim-libfcoe-9-2-1-0_6.5.0-0.0.4564106, VMW_bootbank_shim-libfcoe-9-2-2-0_6.5.0-0.0.4564106, VMW_bootbank_shim-vmklinux-9-2-1-0_6.5.0-0.0.4564106, VMW_bootbank_shim-vmklinux-9-2-2-0_6.5.0-0.0.4564106, VMW_bootbank_shim-vmklinux-9-2-3-0_6.5.0-0.0.4564106, VMW_bootbank_uhci-usb-uhci_1.0-3vmw.650.0.0.4564106, VMW_bootbank_usb-storage-usb-storage_1.0-3vmw.650.0.0.4564106, VMW_bootbank_usbcore-usb_1.0-3vmw.650.2.50.8294253, VMW_bootbank_vmkata_0.1-1vmw.650.1.36.7388607, VMW_bootbank_vmkplexer-vmkplexer_6.5.0-0.0.4564106, VMW_bootbank_xhci-xhci_1.0-3vmw.650.0.0.4564106, VMware_bootbank_emulex-esx-elxnetcli_11.1.28.0-0.0.4564106, VMware_bootbank_esx-dvfilter-generic-fastpath_6.5.0-1.36.7388607, VMware_bootbank_lsu-lsi-drivers-plugin_1.0.0-1vmw.650.2.79.11925212, VMware_bootbank_lsu-lsi-megaraid-sas-plugin_1.0.0-8vmw.650.1.26.5969303, VMware_bootbank_lsu-lsi-mpt2sas-plugin_2.0.0-6vmw.650.1.26.5969303, VMware_bootbank_rste_2.0.2.0088-4vmw.650.0.0.4564106

[root@host1:~] reboot
```

再起動後の状態

```
[root@host1:~] vmware -v
VMware ESXi 6.5.0 build-19997716
```



# 4. ESXiでのパラメーター変更

以下docsを参考。IBM CloudのVCSでは以下のパラメーターが変更されている。
https://kb.vmware.com/s/article/1038578?lang=en_us
https://cloud.ibm.com/docs/vmwaresolutions?topic=vmwaresolutions-vc_bom


```
esxcli system settings advanced set -o "/NFS/MaxVolumes" -i 256
esxcli system settings advanced set -o "/NFS41/MaxVolumes" -i 256
esxcli system settings advanced set -o "/NFS/HeartbeatMaxFailures" -i 10
esxcli system settings advanced set -o "/NFS/HeartbeatFrequency" -i 12
esxcli system settings advanced set -o "/NFS/HeartbeatTimeout" -i 5
esxcli system settings advanced set -o "/NFS/MaxQueueDepth" -i 64
esxcli system settings advanced set -o "/Disk/QFullSampleSize" -i 32
esxcli system settings advanced set -o "/Disk/QFullThreshold" -i 8
esxcli system settings advanced set -o "/Net/TcpipHeapSize" -i 32
esxcli system settings advanced set -o "/Net/TcpipHeapMax" -i 1536
esxcli system settings advanced set -o "/Net/BlockGuestBPDU" -i 1
```

# 5. DNSレコードの追加

VCSのAD/DNSサーバーで、追加するホストのAレコード/PTRレコードを追加する。

- Primary IPアドレスをAレコードとして追加<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/b6ce7737-71c2-629a-6d20-645ec08dece7.png)
- 逆引きができるようにPTRレコードも併せて作成する<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/70d7f62b-2f7f-79f5-12f0-b84331c0cfed.png)

```txt:AD/DNSサーバーのCLIで名前解決を確認
C:\Users\Administrator>nslookup host1.vcs65.ibm.local
Server:  localhost
Address:  127.0.0.1

Name:    host1.vcs65.ibm.local
Address:  10.193.72.252


C:\Users\Administrator>nslookup 10.193.72.252
Server:  localhost
Address:  127.0.0.1

Name:    host1.vcs65.ibm.local
Address:  10.193.72.252

```



# 6. クラスターへのノード追加

- Add Host<br> ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/c27e6ef7-9962-e6b2-e5a1-bd36a1aef9ec.png)
- 追加するサーバーのFQDNを指定。<br> ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/d3b6efb5-7f5c-f9c7-0a06-f6ea3a8ca8c9.png)
- ESXiのroot/passwordを指定<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/9c5e5381-a33b-ec10-6ce2-10474b3dad74.png)
- YES<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/0ee86ac1-4620-602d-05e0-7251e191281e.png)
- NEXT<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/782147b8-33c5-c846-47ba-36de4bf74eac.png)
- ライセンスを選択<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/f036085f-cded-661c-c671-f75d3b3a1100.png)
- Disabled<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/843d3b79-7b57-9cb1-6a0f-dc606206dec8.png)
- デフォルトを選択<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/3901d688-2ff3-8815-4752-25dd59e36a8e.png)
- 最終確認<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/b4836a7d-add7-1e81-cf0f-ad1f436f1569.png)


# 7. 分散スイッチにvmnicを追加

`SDDC-Dswitch-Private`にvmnic0/vmnic2を割り当てる。

- Maintenance Modeにする<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/2066afed-e95c-5811-f0bf-b8ad7dc55d9b.png)
- `SDDC-Dswitch-Private`を右クリックして、Add and Manage Hostsを選択 <br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/01ad1768-edcf-9d58-b777-7163cc437657.png)
- Add hosts<br> ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/7c2ff7a7-5d79-1045-78b6-ecc7d0f88426.png)
- `New hosts`から新規ノードを追加。![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/3eba802b-41c7-1350-920a-ee58ca535cfe.png)
- 1台目のESXiと併せて、vmnic2をuplink1に、vmnic0をuplink2に割り当てる。<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/4edef487-bd29-4c89-829c-f8a72e5dff78.png)
- NEXT<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/09bab872-d6f2-4c8e-0343-2d8447f45c39.png)
- NEXT<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/8b9a1d79-43b2-c3c3-589e-7c53f10951dc.png)
- 最終確認。NEXT<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/96398430-c5bb-f2ed-4eaa-dcd613ebf3fe.png)

同様に、`SDDC-Dswitch-Public`にvmnic1/vmnic3を割り当てる。

- `SDDC-Dswitch-Public`を右クリックして、Add and Manage Hostsを選択 <br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/adacca29-d2a7-8b2d-0652-1fc904790c00.png)
- Add hosts <br> ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/ca029a44-586b-ed7b-cd20-c5684cdce25f.png)
- `New hosts`から新規ノードを追加。<br> ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/b4e672ad-fd9e-bcba-5644-ba535bb3e365.png)
- vmnic1をuplink1に、vmnic3をuplink2に割り当てる。<br> ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/ecd47e60-8fe7-c355-a4d5-d4855f28c89b.png)
- NEXT<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/96ab7ecd-fdeb-cb7d-f3e3-fa0b84d982a7.png)
- NEXT<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/2f375889-d870-aef0-564f-dc91722e84b0.png)
- 最終確認。NEXT<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/20508da1-b87d-7158-e8dc-08251176bd20.png)


# 8. DNSの変更
デフォルトでは、IBM Cloud提供の10.0.80.11/10.0.80.12を利用しているので、AD/DNSサーバーを利用するように変更する。
- ホスト -> Configure -> Networking -> TCP/IP ConfigurationにてEdit<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/53de5e3a-86f1-f333-8aa5-c048b60457ab.png)
- ドメイン情報、DNS情報を入力<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/a248e5ad-8511-795c-907b-ec7597c73beb.png)



# 9. VMKernelの作成

既存の1台しか存在しないESXiホストのIPアドレス構成は以下のようであった。

```
[root@host0:~] esxcfg-vmknic -l |grep -e Interface -e IPv4
Interface  Port Group/DVPort/Opaque Network        IP Family IP Address                              Netmask         Broadcast       MAC Address       MTU     TSO MSS   Enabled Type                NetStack
vmk0       1                                       IPv4      10.193.72.206                           255.255.255.192 10.193.72.255   00:50:56:6a:25:55 9000    65535     true    STATIC              defaultTcpipStack
vmk2       48                                      IPv4      10.193.74.2                             255.255.255.192 10.193.74.63    00:50:56:6e:ff:ad 9000    65535     true    STATIC              defaultTcpipStack
vmk3       32                                      IPv4      10.193.74.66                            255.255.255.192 10.193.74.127   00:50:56:6b:2f:da 9000    65535     true    STATIC              defaultTcpipStack
vmk6       115                                     IPv4      10.193.75.66                            255.255.255.224 10.193.75.95    00:50:56:69:47:e7 9000    65535     true    STATIC              defaultTcpipStack
vmk7       128                                     IPv4      10.193.75.67                            255.255.255.224 10.193.75.95    00:50:56:64:d7:67 9000    65535     true    STATIC              defaultTcpipStack
vmk4       66                                      IPv4      10.193.73.130                           255.255.255.128 10.193.73.255   00:50:56:61:26:2f 9000    65535     true    STATIC              vxlan
vmk5       67                                      IPv4      10.193.73.131                           255.255.255.128 10.193.73.255   00:50:56:6b:1e:a4 9000    65535     true    STATIC              vxlan
vmk1       16                                      IPv4      10.193.74.130                           255.255.255.192 10.193.74.191   00:50:56:62:e9:38 9000    65535     true    STATIC              vmotion

[root@host0:~] esxcli network ip route ipv4 list
Network        Netmask          Gateway        Interface  Source
-------------  ---------------  -------------  ---------  ------
default        0.0.0.0          10.193.72.193  vmk0       MANUAL
10.193.72.192  255.255.255.192  0.0.0.0        vmk0       MANUAL
10.193.74.0    255.255.255.192  0.0.0.0        vmk2       MANUAL
10.193.74.64   255.255.255.192  0.0.0.0        vmk3       MANUAL
10.193.75.64   255.255.255.224  0.0.0.0        vmk6       MANUAL
10.201.206.0   255.255.255.0    10.193.74.65   vmk3       MANUAL
10.201.206.37  255.255.255.255  10.193.75.65   vmk6       MANUAL
10.201.206.47  255.255.255.255  10.193.75.65   vmk6       MANUAL
```

この環境はvSphere6.5ベースのVCSであり、すでにautomationはサポートされていないため、IBM Cloudによってこれらのsubnet上のIPが割り当てられる心配はない。よって、vMotion/vSAN/NFSは既存環境と同一portable subnet内から連番でIPアドレスを割り当てた。その結果、以下のようなIPアドレス体系になった（多分こういう表を作業前に作っておいた方が良いのでまとめた）。
vSANは利用していないのでvmk2は削除しても良いのだが、今回は手順を確認する意味も兼ねて追加しておいた。

| vmkernel|Enabled Service|PortGroup|IP Address(1台目)|IP Address(追加分)|subnnt mask|default gateway|
|:---|:---|:---|:---|:---|:---|:---|
|vmk0|Management|SDDC-DPortGroup-Mgmt| 10.193.72.206|10.193.72.252<br><br>（ESXiをプロビジョニングする時にprimary subnetから自動割り当て）|255.255.255.192|10.193.72.193|
|vmk1|vMotion|SDDC-DPortGroup-vMotion| 10.193.74.130 | 10.193.74.131| 255.255.255.192|10.193.74.129|
|vmk2|vSAN|SDDC-DPortGroup-VSAN|10.193.74.2|10.193.74.3|255.255.255.192|10.193.74.1|
|vmk3|--|SDDC-DPortGroup-NFS|10.193.74.66|10.193.74.67|255.255.255.192|10.193.74.64|
|vmk4|vxlan|vxw-vmknicPg-dvs-xx|10.193.73.130<br>(NSX構成時にIP Poolから自動的に割り当てられる)|10.193.73.132<br>(NSX構成時にIP Poolから自動的に割り当てられる)|255.255.255.128|10.193.73.129 |
|vmk5|vxlan|vxw-vmknicPg-dvs-xx|10.193.73.131<br>(NSX構成時にIP Poolから自動的に割り当てられる)|10.193.73.133<br>(NSX構成時にIP Poolから自動的に割り当てられる)|255.255.255.128|10.193.73.129 |
|vmk6|--|SDDC-DPortGroup-iSCSI-A（過去に手動で作成したもの。今回は移行対象外）|10.193.75.66|N/A|255.255.255.224|10.193.75.65|
|vmk7|--|SDDC-DPortGroup-iSCSI-B（過去に手動で作成したもの。今回は移行対象外）|10.193.75.67|N/A|255.255.255.224|10.193.75.65|


## 9-1. vMotion用vmkernel(vmk1)の作成
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/6ba13b34-ac0a-80d1-57e4-0c63d2e9d1f7.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/c112938f-e28c-86ae-28bd-0952c65dacb3.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/daaa37b5-6eee-321b-f112-d5568bd47d5b.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/84bbd370-73b4-eb5c-6f84-4a6fc30fc566.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/c0e98892-1473-ff67-1d3f-7d484c4be00a.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/f3c8e778-4a6e-0b19-20ad-9cc8559953fe.png)

## 9-2. vSAN用vmkernel(vmk2)の作成

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/3864eff0-d1b1-beb6-e591-c1c2d19cc44b.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/a030e816-92c4-6693-e8f6-60fb60ff4edb.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/d883d330-8c2c-4793-e8d5-425402e643e8.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/1a4ac454-4ae7-3814-74bd-c5191fca5e7c.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/5d742b7a-b093-925b-80c3-e1fa4e9c6479.png)

## 9-3. NFS用vmkernel(vmk3)の作成
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/20e814ba-8340-6922-5ce8-9e3f752426d2.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/4203f155-2d7e-a9b8-1925-07e315f22b58.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/97d6a6db-7478-60e6-684c-6c800a8cb472.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/920bc97f-7a29-efb6-0053-d026bcadb00a.png)
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/8ae41d8f-0795-3247-057a-f3043cf654b4.png)

## 9-4. VXLAN用vmkernel(vmk4, vmk5)の作成

NSX構成時に自動作成されるので、ここでは何もしない。

# 10. File Storage(NFS)のマウント

## 10-1. NFS用vmkernelを利用するように経路情報を追加

現状のままでは、外部ネットワークへの通信はdefault gatewayを経由するため、Primary VLAN/vmk0が利用される。File Storage(NFS)へのアクセス時には、先述で作成したSecondary VLAN/vmk3を利用するように、static routeを追加する。

```
[root@host1:~] esxcli network ip route ipv4 add --gateway 10.193.74.65 --network 10.201.206.0/24
[root@host1:~] esxcli network ip route ipv4 list
Network        Netmask          Gateway        Interface  Source
-------------  ---------------  -------------  ---------  ------
default        0.0.0.0          10.193.72.193  vmk0       MANUAL
10.193.72.192  255.255.255.192  0.0.0.0        vmk0       MANUAL
10.193.74.0    255.255.255.192  0.0.0.0        vmk2       MANUAL
10.193.74.64   255.255.255.192  0.0.0.0        vmk3       MANUAL
10.201.206.0   255.255.255.0    10.193.74.65   vmk3       MANUAL
```

既存のFile Storageにpingできることを確認。

```
[root@host1:~] ping fsf-tok0501b-fz.service.softlayer.com
PING fsf-tok0501b-fz.service.softlayer.com (10.201.206.42): 56 data bytes
64 bytes from 10.201.206.42: icmp_seq=0 ttl=61 time=0.270 ms
64 bytes from 10.201.206.42: icmp_seq=1 ttl=61 time=0.426 ms
64 bytes from 10.201.206.42: icmp_seq=2 ttl=61 time=0.405 ms

--- fsf-tok0501b-fz.service.softlayer.com ping statistics ---
3 packets transmitted, 3 packets received, 0% packet loss
round-trip min/avg/max = 0.270/0.367/0.426 ms
```
## 10-2. Allowed Hostsの確認。

VCSで使われているFile StorageおよびそのFile Storageは、vCenterの以下から確認できる。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/7bc1817a-6c8c-df15-232a-68d03c858dcd.png)

確かにこのストレージがVCSから使われている。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/668b9c3e-0a60-4444-0736-840f4e00a61f.png)

また、このストレージのAuthorized Hostsでvmk3で構成したネットワークからのアクセスが許可されている。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/62127/37382f05-1bc5-90a1-1d24-1458eb268d75.png)


## 10-3. 共有ストレージのマウント
`management-share`や`workload_share_xxxx`などの共有ディスクをマウントする。

- 現行のESXiだけがHosts一覧に載っている。Actionsから、`Mount Datastore to Addtional...`を選択。<br> ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2746922/40f2a06d-d2f8-f5a7-e8ee-f4344d9e0dca.png)
- 今回追加するホストを選択。<br> ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2746922/9bb77423-2416-b52f-5fc0-8d02fd8e9742.png)
- 追加された<br> ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2746922/741115a0-fbb9-2c59-c0bb-6a46f9e251b7.png)
- 同様に他のFile Storage(NFS)も構成する。ホストを追加した結果。追加した結果。<br> ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2746922/21a53535-d2b8-81f6-b873-d177cafaab45.png)


## 10-4. NFS Client用にESXi Firewallを修正

`NFS Client`の許可IPアドレスが単独のアドレス（今回のFile Storageの名前解決時に利用されたIP）で構成されているので、将来的にFile StorageのIPアドレスが変更した際にも対応できるようにsubnet指定に変更。[こちらの記事](https://qiita.com/testnin2/items/0d791fa0d77793b609a6)も参照。

- Before: <br> ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2746922/62fc28c1-937e-8b41-5c2d-a45aa28c1b42.png)
- 変更: <br> ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2746922/c3067559-ec92-2164-7f88-28e475edf685.png)
- After: <br> ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2746922/6d9356dd-8216-626e-7aed-54db686c6132.png)


# 11. NSX for vSphereの構成

- VTEPのためのIP Poolを確認。今回は1ノードしか使われていないので枯渇している懸念はない。<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2746922/de0f8f81-5e54-55ed-afcf-365989e2d736.png)
- Host Preparationを確認。追加したESXiホストではNSX for vSphereの構成が完了していないため、Cluster全体としてはNot readyとなっている。<br> ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2746922/2ca2ed8c-2b95-256b-08ec-832986011829.png)
- View Configurationを確認。VTEPとして先述のIP Poolを利用していて、2つのVTEPをSRCIDでロードバランシングするポリシーであることが以下から確認できる。<br> ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2746922/85b2d59e-8dfe-d880-7b9c-0df665ad7a3c.png)
- Not Readyを押下し、そこで現れる`RESOLVE ALL`を押下。これによりNSX for vSphereがESXiに導入開始される。<br> ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2746922/a786723f-0689-0861-a1fc-1a397130114a.png)
- （導入作業中）定期的にリフレッシュ<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2746922/8562c13e-ceeb-bc2a-81f1-218203e9ce22.png)
- 導入完了<br>![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2746922/5d3fa117-31f8-590b-0ea7-47898281de15.png)


# 12. テスト

以上にて作業は完了したので、

- メンテナンスモードを抜ける。（手順省略）
- 新ホストにvMotionができることを確認。（手順省略）