ODF ストレージ使用量の確認方法まとめ

ODF (OpenShift Data Foundation) のストレージ使用量は、OpenShift Web コンソールで確認することができます。ここで確認できる各値の意味とそれらの値をどのメトリクスで取得できるかを整理しました。

環境：
OpenShift 4.12 で、ローカルストレージデバイスを使用した内部モードのODFクラスター

# OpenShift Web コンソールを使用した確認

1. ストレージ → Data Foundation をクリックします。
2. `ストレージシステム` タブでリストされたストレージシステムリンクをクリックします。
3. `ブロックおよびファイル` タブをクリックします。 

画面例：
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2164968/44ca1533-7b4e-9e3d-0b50-802ce8911527.png)


## RAW 容量

クラスター上の**レプリケーションを含む RAW ストレージ容量の合計**が表示されています。
この環境では、3つのストレージノードで構成されているため、実際のデータ量の3倍のストレージ容量が使用済みとなっています。
なお、このクラスターでは3つのストレージノードが各2.62TBのSSDを持っており、RAW 容量は7.85TiBとなっています。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2164968/6eb849f0-1135-c47e-0f4a-fa05fb2669d8.png)

### メトリクス
odf_system_raw_capacity_used_bytes (または、ceph_cluster_total_used_raw_bytes)

## 使用済み容量の内訳

クラスターに保存されている**レプリカ以外の実際のデータ量**が表示されています。下の画面イメージでは`プロジェクト`別での使用量を表示させていますが、他に`ストレージクラス`、`Pod`別に表示することができます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2164968/3af01f36-8e79-efbb-0071-5cbd79ab7e39.png)

### メトリクス
kubelet_volume_stats_used_bytes

## 参考：cephコマンドを使用した確認例
上のようにメトリクスで確認する以外にも、`ceph`コマンドを使って使用量を確認することもできます。`rook-ceph-operator` podでコマンドを実行します。

確認例：
```
# oc -n openshift-storage exec -it rook-ceph-operator-b9d9d4577-7lnv8 -- ceph -c /var/lib/rook/openshift-storage/openshift-
storage.config df
--- RAW STORAGE ---
CLASS     SIZE    AVAIL     USED  RAW USED  %RAW USED
hdd    7.8 TiB  6.0 TiB  1.8 TiB   1.8 TiB      23.46
TOTAL  7.8 TiB  6.0 TiB  1.8 TiB   1.8 TiB      23.46

--- POOLS ---
POOL                                                   ID  PGS   STORED  OBJECTS     USED  %USED  MAX AVAIL
ocs-storagecluster-cephblockpool                        1   32  602 GiB  162.85k  1.8 TiB  26.75    1.6 TiB
device_health_metrics                                   2    1  637 KiB        3  1.9 MiB      0    1.6 TiB
ocs-storagecluster-cephobjectstore.rgw.log              3   32  4.4 MiB      340   15 MiB      0    1.6 TiB
ocs-storagecluster-cephobjectstore.rgw.meta             4   32  3.8 KiB       16  168 KiB      0    1.6 TiB
.rgw.root                                               5   32  5.3 KiB       16  180 KiB      0    1.6 TiB
ocs-storagecluster-cephobjectstore.rgw.buckets.index    6   32  9.6 MiB       22   29 MiB      0    1.6 TiB
ocs-storagecluster-cephobjectstore.rgw.buckets.non-ec   7   32      0 B        0      0 B      0    1.6 TiB
ocs-storagecluster-cephobjectstore.rgw.control          8   32      0 B        8      0 B      0    1.6 TiB
ocs-storagecluster-cephobjectstore.rgw.otp              9   32      0 B        0      0 B      0    1.6 TiB
ocs-storagecluster-cephfilesystem-metadata             10   32  256 MiB      148  769 MiB   0.02    1.6 TiB
ocs-storagecluster-cephobjectstore.rgw.buckets.data    11   32   20 GiB   25.73k   60 GiB   1.20    1.6 TiB
ocs-storagecluster-cephfilesystem-data0                12   32  4.0 GiB    1.29k   12 GiB   0.24    1.6 TiB
```


## 参考資料

https://access.redhat.com/documentation/ja-jp/red_hat_openshift_data_foundation/4.12/html/monitoring_openshift_data_foundation/metrics#metrics-in-the-block-and-file-dashboard_rhodf

https://ututaq.hatenablog.com/entry/ceph/01