Proxmox VE上でCeph/CephFS環境を作ってみる。

こんにちは。
株式会社クラスアクト インフラストラクチャ事業部の大塚です。
今回は久しぶりにProxmox VEを触ってみたいと思います。
具体的にはProxmoxクラスタ上にCephクラスタを作成し、CephFSを軽く使ってみたいと思います。
※Promox上であろうが、基本的な仕様は普通のCephと同じですので、Cephが良くわからない場合はまずCeph単体で触ってみたほうが良いかもしれません。

# 構築イメージ
Proxmox VEを3台用意してクラスタ化した環境を用意しています。
また、それぞれのProxmoxに対して2つDiskをつけてます。
1台はCeph用で使用しています。
![proxmox.drawio (1).png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3219385/ec274b12-bd1d-6f03-2830-698b1f204c8b.png)
Hardwareは以下で作成しています。
Disk1がそれぞれのProxmox用、Disk2はCeph用です。
|HW  |値  |
|---|---|
|CPU  |4sockets 4cores |
|Memory  |32GB  |
|Disk1(/dev/sda)  |200G  |
|Disk2(/dev/sdb)  |100G  |

# 参考にしたもの
まずProxmoxの公式サイト。こちらでCephクラスタを作成する手順を確認しました。

https://pve.proxmox.com/pve-docs/chapter-pveceph.html#pve_ceph_install_wizard

またクラスタ化を作成するに参考にしたのは過去の私のQiita記事です。

https://qiita.com/ohtsuka-shota/items/c00bff8e8c1a5d4923cc

Cephについても、以前私がQiitaにあげているので参考にしてみてください。

https://qiita.com/ohtsuka-shota/items/37d99935b0f6d461b42a

# 構築
## Cephクラスタの作成

Proxmoxでクラスタを作成した後、DatacenterにあるCephを押下します。
Install Cephと表示されていると思いますので、これを押下します。
![202309230101.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3219385/3b92aba8-77c4-6e15-9984-75534f7268f0.png)

Cephのバージョンを選択します。
2023/9/23現在、quincyが最新版の様子です。Strat quincy installationを押下します。
![202309230102.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3219385/0b96d972-b293-ea3d-2f61-46b813e24c21.png)

ダウンロードが走ります。恐らく裏でapt install的なコマンドが走っていると思われます。
一通り完了すると右下のNextが押下出来る様になります。
![202309230103.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3219385/1b262519-9870-a18b-ef4e-f5d40ff1d6c7.png)

Config設定をします。MasterとなるProxmoxのIPアドレスを選択します。
Proxmoxクラスタのマスタと同じで問題ありません。
![202309230104.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3219385/4cafc649-4ca2-5ceb-a08c-f2489d6f973a.png)

Install successfulと表示されていることを確認し、Finishを押下します。
![202309230105.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3219385/e23fa13b-8d3b-ca5c-dd20-2597b72e53a2.png)

Cephの画面が変わります。但しWARNステータスとなってしまっております。
これはOSDが1つも無いからです。OSDに関しては後程作成していきます。
![202309230106.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3219385/99c1b997-f267-b4ff-8911-5232ff67d5f5.png)

Proxmoxクラスタの他の機器、今回の場合pve02とpve03に対してもCephをインストールしていきます。Configについては01で設定をしているので02/03では設定が出来ないようになっています。
![202309230107.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3219385/e0f3a76f-202a-727c-377b-4dea54593d57.png)

OSDを作成していきます。
任意のProxmoxを選択してCeph配下のOSDを押下します。Create OSDというボタンが画面上部に表示されますのでこれをクリックします。
![202309230108.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3219385/72476ecf-0bc6-4403-355e-7257354bc88c.png)

Diskの部分で/dev/sdbを選択します。Createを押下します。
これを他のProxmox上でも実施します。
![202309230109.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3219385/12ecc324-7251-f575-0ae6-f783fe37b08b.png)

すると、以下の様に表示がされます。各Proxmoxで作成したOSDが表示されていることが確認出来ます。
![202309230110.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3219385/9398a645-07dd-1d9c-9666-031e05c239b8.png)

Cephクラスタのステータスも正常になりました。
![202309230111.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3219385/484208a7-fc96-b483-28a7-13a4ab0c1f9a.png)

## CephFSを作成する
各ProxmoxのCephFSを押下します。
まず、Metadata Serversを作成します。
![202309230112.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3219385/454ce2eb-02c3-9cf2-23ac-cf7305d993af.png)

デフォルトのままでCreateを押下します。
![202309230113.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3219385/046cbc4c-baaf-fe5e-8124-df1a99e2549c.png)

各ノードで実行すると以下の様になります。
次にCreate CephFSを押下します。
![202309230114.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3219385/650c0013-52a0-24b7-1aca-00ed7a28cd08.png)

デフォルトのままでOKです。Createを押下します。
![202309230115.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3219385/801a69c8-f7d8-4a1d-4cc7-b1ce02ac30bd.png)

CephFSが作成されます。
pve01/02/03ノードの下にも表示がされるようになりました。
![202309230116.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3219385/68583848-f336-fae4-98af-5c8983685835.png)

試しにCephFSにISOをアップロードしてみます。
どのProxmox上からも表示されていることから、共有に問題は無さそうですね。
![202309230117.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3219385/778f6067-2442-280c-4069-634d1d31d51a.png)
![2023092301178.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3219385/fda3bff8-ac22-23eb-5d2f-f03125d849e6.png)