おうちクラウドvSANを刷新


本日のテーマは、NUCの3ストレージ構成についての話です。

実は、おうちクラウドを使う上で、基本的にはストレージが1台あれば、事足ります。ただし、あることをしたい場合だけ、困ります。それは・・・、**vSAN** です。

[vSAN のハードウェア要件はコチラ](https://docs.vmware.com/jp/VMware-vSphere/7.0/com.vmware.vsphere.vsan-planning.doc/GUID-4B738A10-4506-4D70-8339-28D8C8331A15.html) です。要は、キャッシュ用とデータ用に、それぞれSSD（またはSASやPCIeフラッシュデバイス）が必要になります。これに、元々ESXiがインストールされている領域も含めると、計3台のストレージが必要ということになります。

# NUCの搭載可能ストレージ数
まずはNUCのストレージ周りの仕様の話から紹介します。

NUC10i7FNH等に代表される、最も標準的なサイズ (117 x 112 x 51mm) のNUCには、**最大2つ** のストレージを搭載可能です。

1. M2 (2280サイズ): NVMe SSD x 1
2. 2.5inch(7mm厚): SATA SSD x 1

## 例外モデル

- NUC11TNHi70Q (117 x 112 x 54mm)

NUC11 Proの一部のモデルには、拡張スロットが搭載されました。NUC11TNHi70Q (画像左) は、追加で M2(2242サイズ)SATA SSDが搭載可能です。NUC11TNHi70L (画像右) は、追加で 2.5GbE が搭載可能です。

<p>
<img src="https://user-images.githubusercontent.com/3906298/147962170-67b913c3-b959-424e-9e52-66234c576539.png" width="25%">
<img src="https://user-images.githubusercontent.com/3906298/147962403-87d088f8-ed37-40ee-ab02-4d629799b672.png" width="23%">
</p>

- Extreme キット (デカい)
  - NUC 11 Extreme Kit (357 x 189 x 120mm) : M2 (2280サイズ) NVMe SSD x 3 が搭載可能 (画像左)
  - NUC 9 (238 x 216 x 96mm) : M2 (2280サイズ) NVMe SSD x 2 + 2.5inch SATA SSD x 1 が搭載可能 (画像右)
<p>
<img src="https://user-images.githubusercontent.com/3906298/147963042-f3e72504-6f94-4feb-b4e5-00dbac5f5514.png" width="40%">
<img src="https://user-images.githubusercontent.com/3906298/147963061-65ba95a2-bbcf-46cb-bb2d-3ca7bf56aa03.png" width="30%">
</p>

上記のような例外モデルを除き、基本的にNUCには2ストレージしかないため、どうやって3つ目のストレージを確保するか？というのが、課題となります。

# (ボツ案) USBメモリにESXiを入れる
実は USBメモリにESXi を導入可能です（ESXiのハードウェア要件は[コチラ](https://docs.vmware.com/jp/VMware-vSphere/7.0/com.vmware.esxi.install.doc/GUID-DEB8086A-306B-4239-BF76-E354679202FC.html)）。NUCにUSBメモリを挿し、インストール時にそのデバイスを指定するだけです。すると、NUCに元々搭載している2つのSSDを、そのままvSAN用のストレージに充てることができます。

注意事項として、詳細は [kwmt さんのブログ](https://kwmtlog.blogspot.com/2020/04/esxi-7-boot-bank-changes.html) が詳しいですが、容量によってパーティション構成が異なってきます。私はLocal Datastoreが欲しいため、256GBのUSBメモリを台数分購入しました。

<img src="https://user-images.githubusercontent.com/3906298/147369635-029fe3a9-f9c4-4250-9f9c-03cf78f63355.jpg" width="30%">

実際、私は2021年、この構成でずっとvSANを運用してきました。が、、いざ運用してみると、度々 [PSOD(Purple Screen of Death)](http://tooljp.com/virtualization/VMware/faq/VMware_A588D7515416A5E449257C0B004ECAFA.html) が出るようになりました。NUC4台のvSANクラスタで、平均1週間に1度位の頻度でPSODが出たので、なんとかvSANは壊れず運用できるのですが、、やはり、ストレスが溜まります。

そんな中、2021年9月、VMwareから以下の発表がされました。

**[Removal of SD card/USB as a standalone boot device option (85685)](https://kb.vmware.com/s/article/85685)**

> 単体起動デバイスオプションとしての、SDカード/USBの削除 (85685)
>
> **なぜブートオプションとしてのSDカード/USBが削除されるのですか？**<br>
> vSphere のお客様は、SD カードをブート デバイスとして使用した場合に、デバイスの信頼性に関連する多くの問題に遭遇しています。耐久性評価では、ブート オプションとしての SD カードの実行可能性を保証することはできなくなりました。

・・・結構、各所からも同様のトラブルが上がっていたようですね。USBメモリでブートすることは非推奨となりました。かんたんに説明すると、vSphere7から採用されたパーティション構成の一つであるESX-OSDATA領域は、リード/ライト量がとても多く、IO負荷の面で USB/SD カードでは向いていなかったようです。

# NUCがvSANするための選択肢
[William Lam氏のブログ](https://williamlam.com/2021/09/considerations-for-future-vsphere-homelabs-due-to-upcoming-removal-of-sd-card-usb-support-for-esxi.html) に、まさに私のようなユーザのための処方箋がまとめられていました。

この中で、私にとって一番魅力的に感じたのが、**Storage using Thunderbolt** です。Thunderboltは、PICeバスとして認識可能なので、vSAN用ストレージとして選択可能です。つまり、本来NUCが持つストレージのうち一つを、ESXi起動用ストレージとして割り当てることができます。

ここで、ストレージと外部接続portのそれぞれの速度仕様を見てみましょう。

**ストレージ側の速度仕様**

規格種類 | 最大(実効) 転送速度 | デバイス例
---------|----------|---------
 SATA 3 | 6.0Gbps (600MB/s) | [SATA SSD](https://www.amazon.co.jp/Crucial-MX500%E3%82%B7%E3%83%AA%E3%83%BC%E3%82%BA-9-5mm%E3%82%A2%E3%83%80%E3%83%97%E3%82%BF%E3%83%BC%E4%BB%98-CT1000MX500SSD1-JP/dp/B077PSMJZS/ref=sr_1_5?__mk_ja_JP=%E3%82%AB%E3%82%BF%E3%82%AB%E3%83%8A&crid=NH5ZVWABAB6V&keywords=sata+ssd&qid=1641179167&sprefix=sata+ssd%2Caps%2C193&sr=8-5)
 PCIe 3.0 x4 | 32Gbps (3.94GB/s) | [NVMe M.2](https://www.amazon.co.jp/%E6%97%A5%E6%9C%AC%E3%82%B5%E3%83%A0%E3%82%B9%E3%83%B3-500MB-MZ-V8V1T0B-EC-%E5%9B%BD%E5%86%85%E6%AD%A3%E8%A6%8F%E4%BF%9D%E8%A8%BC%E5%93%81/dp/B08XY3QQBK/ref=sr_1_5?__mk_ja_JP=%E3%82%AB%E3%82%BF%E3%82%AB%E3%83%8A&crid=1N3JPX0HQJCCR&keywords=m2.ssd&qid=1641179232&sprefix=m2.ssd%2Caps%2C203&sr=8-5)
 PCIe 4.0 x4 | 64Gbps (7.88GB/s) | [NVMe M.2](https://www.amazon.co.jp/Samsung-%E6%9C%80%E5%A4%A7%E8%BB%A2%E9%80%81%E9%80%9F%E5%BA%A6-MZ-V8P2T0B-EC-%E5%9B%BD%E5%86%85%E6%AD%A3%E8%A6%8F%E4%BF%9D%E8%A8%BC%E5%93%81/dp/B09G6JDQNK/ref=sr_1_9?keywords=m2%2Bssd%2Bpcie4.0&qid=1641179374&sprefix=m2.ssd%2Bpcie4%2Caps%2C284&sr=8-9&th=1)

**外部接続port側の速度仕様**

規格種類 | 最大転送速度 | 備考
---------|----------|---------
 USB 3.0 | 5Gbps | 
 USB 3.1 | 10Gbps | 
 USB 3.2 | 20Gbps | 
 Thunderbolt 3 | 40Gbps | PCIe接続の転送速度：16Gbps / USB3.2の転送速度：10Gbps
 Thunderbolt 4 | 40Gbps | PCIe接続の転送速度：32Gbps / USB3.2の転送速度：10Gbps

NUC側は、**NUC 8** から Thunderbolt 3 に対応しており、**NUC 11** から Thunderbolt 4 に対応しております。私が所持するのは NUC 10 なので、16Gbps 程度の速度を持つNVMe M.2 デバイスをThunderbolt 3接続すればよいことになります。

# おうちクラウドvSANを刷新

上記の背景により、おうちクラウドでvSANクラスタを組んでいる4台のNUCを対象に、外付け用デバイスを揃えてみました！

<img src="https://user-images.githubusercontent.com/3906298/147072686-b3060817-23ac-4b55-a0e4-6cdcdf0db10e.jpg" width="60%">

以下のパーツを4セット買いました。（私は1TBで買いましたが、vSANキャッシュ用途なら500GBで良かったかも。その場合、2つ合わせて1.5万円位です。）

- [Wavlink Thunderbolt 3 Nvme M.2 SSDケース](https://www.amazon.co.jp/gp/product/B07YB4DDRB/ref=ppx_yo_dt_b_asin_title_o06_s00?ie=UTF8&psc=1) （※Tips：[楽天](https://item.rakuten.co.jp/wavlink/rt-ute02-jp/?s-id=ph_pc_itemname)で買った方が安そう）
- [Crucial M.2 NVMe CT500P2SSD8JP](https://www.amazon.co.jp/Crucial-P2%E3%82%B7%E3%83%AA%E3%83%BC%E3%82%BA-NVMe%E6%8E%A5%E7%B6%9A-%E6%AD%A3%E8%A6%8F%E4%BB%A3%E7%90%86%E5%BA%97%E4%BF%9D%E8%A8%BC%E5%93%81-CT500P2SSD8JP/dp/B086TDBW8J/ref=sr_1_3?__mk_ja_JP=%E3%82%AB%E3%82%BF%E3%82%AB%E3%83%8A&crid=2EUCJB9NYRZQU&keywords=CT1000P2SSD8JP&qid=1641182127&sprefix=ct1000p2ssd8jp%2Caps%2C249&sr=8-3)

<img src="https://user-images.githubusercontent.com/3906298/147072715-2f016cd9-6493-48f6-9188-1a91c38b2ab6.jpg" width="60%">

このwavlinkのケース、結構オススメです！Thunderbolt 3 接続に対応した NVMe M.2外付けケースは、基本的に結構値が張るものですが、本製品は恐らく唯一1万円以下で購入可能な製品です。しかも、物としてのクオリティ（質感）が高い。同梱物も豊富で、持ち運び用のケースがついてたり、何故かドライバが通常のものと携帯用（銀色のキーホルダー状）の2つも付属しますｗ

唯一の欠点は、NVMeのチップが両面実装のものだと換装できません。つまり、容量の大きなNVMeだとこのケースには入らないので、注意が必要です。（[このページ](https://kamoya.in/2021/06/28/nvmessd/) が参考になりそう）

<p>
<img src="https://user-images.githubusercontent.com/3906298/147072736-cb99b0b1-219c-4de2-a9a8-d7dc0ed866fa.jpg" width="45%">
<img src="https://user-images.githubusercontent.com/3906298/147072740-14355580-ec45-4932-b921-c32d79e2d69c.jpg" width="45%">
</p>

あ、もう一つ、マイナスポイントがありました。これは4個買ってみて気づいたことですが、4個中2個に、NVMeを固定する金具が入っていませんでした（下の画像）。付属のネジで何とか固定できたのでメーカーに報告はしていませんが、ちょっと印象が悪かったです。皆様もご注意下さい。

<p>
<img src="https://user-images.githubusercontent.com/3906298/147072751-bc5ff6e1-4452-4390-a329-5b3692158ab6.jpg" width="45%">
</p>

緑色の基盤はかなり強力なマグネットで固定されているのですが、外せるので、安心して引っ剥がして下さいｗ　NVMeをネジで固定して、ヒートシンクを取り付け、蓋をすれば完成です。

<p>
<img src="https://user-images.githubusercontent.com/3906298/147072754-1a8a19dd-4f4c-43b4-9151-a0ee91099434.jpg" width="45%">
<img src="https://user-images.githubusercontent.com/3906298/147072744-f9aa9074-343f-4593-9ca7-c750bda6a010.jpg" width="45%">
</p>

ケーブル抜けを防止するための固定金具がついているのは好感が持てました（下の画像左）。4個のセットアップが完了しました！

<p>
<img src="https://user-images.githubusercontent.com/3906298/147072748-2652e27e-68ab-4e06-8e73-11bb6fe4f21d.jpg" width="45%">
<img src="https://user-images.githubusercontent.com/3906298/147072761-b0649a65-cc88-4683-a763-7d541982e019.jpg" width="45%">
</p>

# あれ？ESXiから見えないぞ・・・？

<img src="https://user-images.githubusercontent.com/3906298/147905563-6774c91f-2ce1-4cbd-9cc9-1299295e01a9.png" width="70%">

意気揚々と電源をOnにすると・・・、あれ、、追加したデバイスがESXiから見えていないぞ・・・？　調査した結果、以下の状況でした。

- デバイスをクライアントPC(Mac)につなげたら認識する。
- BIOS画面からもデバイスが見えていない
- どのデバイスも同じ状況





数日間悩んだ結果、NUCの [BIOSアップデート](https://www.intel.co.jp/content/www/jp/ja/download/19485/bios-update-fncml357.html) のページで、解決の糸口を見つけました。リリースノートの **BIOS Version 0051 の New Fixes/Features** の項目を見ると、

> Fixed issue recognizing a USB device on a Thunderbolt dock after rebooting.

私のBIOS Version は 0047 だったので、0052 のパッチをあてると、見事、増設したThunderboltデバイスがESXi上に表示されるようになりました！ 普段あまり意識しないBIOSバージョンですが、最新に上げたほうが良いのでご注意を！

<img src="https://user-images.githubusercontent.com/3906298/147905521-41c2361b-38c7-478c-9e18-c4502850bd9e.png">

# 終わりに
その後、PSODは（今のところ）起きなくなりました。Thunderboltポートを使ってvSANが組めることが分かり、NUCの有用性が高まりましたね！

最後の写真は、実際に稼働させてる様子です。NUCの頭に角が生えて、ちょっと怪しくなりましたｗ

![PXL_20211213_143645285_2](https://user-images.githubusercontent.com/3906298/147357710-7397e8b8-4b83-4117-903f-385954b87ae3.jpg)