画像処理におけるヒストグラム均一化を理解する

# はじめに
※今回のサンプル画像として、[乃木坂46の西野七瀬さん](https://www.amazon.co.jp/%E8%A5%BF%E9%87%8E%E4%B8%83%E7%80%AC1st%E3%83%95%E3%82%A9%E3%83%88%E3%83%96%E3%83%83%E3%82%AF%E3%80%8E%E3%82%8F%E3%81%9F%E3%81%97%E3%81%AE%E3%81%93%E3%81%A8%E3%80%8F-%E8%A5%BF%E9%87%8E-%E4%B8%83%E7%80%AC/dp/4087808378)の写真を使用します。元がいい写真なので、今回の処理は蛇足です。
　画像の画素値に偏りがあると、輪郭が見にくいなどの問題が生じます。
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3230781/05a311ee-7a5f-bfb5-3ff9-b0c611539890.png
" width ="300">
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3230781/4a06198c-24e4-842d-b32b-c660588740cf.png
" width ="500">

　これらの画素値ヒストグラムの分布が均一になるように処理を行うことで、画像の濃淡を明瞭にさせる処理をヒストグラム均一化といいます。
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3230781/66d8b3a1-90ad-3e21-87d2-fbf1e55e0b55.png
" width ="300">
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3230781/27a6e9aa-2b2c-2598-1d24-7b55fd741d49.png
" width ="500">

　今回はこのヒストグラム均一化の処理について、理解を深めるために技術記事を書きます。n番煎じです。[OpenCVによる画像処理入門 改訂第3版](https://www.amazon.co.jp/OpenCV%E3%81%AB%E3%82%88%E3%82%8B%E7%94%BB%E5%83%8F%E5%87%A6%E7%90%86%E5%85%A5%E9%96%80-%E6%94%B9%E8%A8%82%E7%AC%AC3%E7%89%88-KS%E6%83%85%E5%A0%B1%E7%A7%91%E5%AD%A6%E5%B0%82%E9%96%80%E6%9B%B8-%E5%B0%8F%E6%9E%9D-%E6%AD%A3%E7%9B%B4/dp/4065301173/ref=asc_df_4065301173/?tag=jpgo-22&linkCode=df0&hvadid=624463547642&hvpos=&hvnetw=g&hvrand=15962302074307461325&hvpone=&hvptwo=&hvqmt=&hvdev=c&hvdvcmdl=&hvlocint=&hvlocphy=1009637&hvtargid=pla-1885578354178&psc=1&mcid=729d867698b737e38612d1a9e0901b93&th=1&psc=1)を参考に実装しました。
 
# 計算方法
　画像の高さを $x$、幅を $y$ とします。各画素値 (0~255) が画像中に出現した回数をまとめたヒストグラムを作成します。
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3230781/4a06198c-24e4-842d-b32b-c660588740cf.png
" width ="500">

　この度数を画素値(v)ごとに累積したもの（累積度数, $H_v$）、及び累積度数を総画素数で割った累積度数の比率（$c_v$）を計算します。ここでは $N$ を総画素数、$h_i$ を各度数分布、$INT$ (= integer) を整数化関数とします。
```math
H_v = \sum_{n = 1}^v h_i 
```
```math
c_v = \frac{H_v}{N}
```
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3230781/c1e1d2df-f041-2049-a647-8feaebb1c019.png
" width ="500">

　均一化後の画素値 ($e_{x,y}$) を計算します。ここでは画像の座標 $x, y$における画素値を $v_{x,y}$ 、この$v_{x,y}$に対応した$c_v$ の値を $c_{x,y}$ 、$0$ を除いた $c_v$ の最小値を $c_0$ とします。これにより、ヒストグラム均一化後の画像が得られます。
```math
e_{x,y} = INT(\frac{c_{x,y} - c_0}{1-c_0}) \times 255
```
 
# 実装
　実装に際し、opencv とnumpy のスクラッチによる実装を記述します。
```py
import cv2
import matplotlib.pyplot as plt
import numpy as np

path = r"directory path"
name_img = r"\nishino_1.jpg"
path_img = path + name_img
img = cv2.imread(path_img)
img_rgb = cv2.cvtColor(img, cv2.COLOR_BGR2RGB)
img_g = cv2.cvtColor(img, cv2.COLOR_BGR2GRAY)
# check image
plt.imshow(img_rgb)
```
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3230781/562439ce-0d68-75c8-672c-54a14ac357c8.jpeg" width ="300">


```py
# scratch with numpy
# calculate image histogram
hist, bin  = np.histogram(img_g.ravel(), 256, [0,256])
# cumulative sum function of hist
cdf = hist.cumsum()
# regularization of cdf
cdf_ratio = cdf/img_g.size
# mask 0 value 
cdf_masked = np.ma.masked_equal(cdf_ratio, 0)

# create equalization image
eq_image = np.zeros(img_g.size).reshape(img_g.shape)
for i in range(eq_image.shape[0]):
    for j in range(eq_image.shape[1]):
        img_value = img_g[i,j]
        eq_image[i,j] = int((cdf_ratio[img_value]-cdf_masked.min())/(1-cdf_masked.min())*255)   

# with cv2
eq_g = cv2.equalizeHist(img_g)

# visualize
plt.imshow(eq_image, cmap = 'gray')
plt.title("equalized image with numpy")
plt.show()

plt.imshow(eq_g, cmap="gray")
plt.title("equalized image with cv2")
plt.show()
    
# plot histogram
plt.hist(eq_g.ravel(), 256, [0,256], label="cv2")
plt.hist(eq_image.ravel(), 256, [0,256], label="numpy")
plt.title("density histogram")
plt.legend()
plt.show()
```
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3230781/5fc9d48d-f3ce-77df-3352-bd64a9c063b9.png
" width ="300">
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3230781/b44115dc-81ac-318f-97e5-8d291f6a91c9.png
" width ="300">
<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3230781/11055680-1a8b-84eb-6425-aba83f837b49.png
" width ="500">

　均一化前後のヒストグラムを比較すると、均一化により画素値のスケールを幅広く使用していることがわかります。
 <img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3230781/12774084-e1ad-522c-a743-28557238cc4e.png
" width ="500">

　均一化に関する関数に0~255 の画素値を入力した際の出力値を確認すると、全体的に画素値を低く変換していることがわかります。
 
```py
val = np.zeros(256)
for i in range(len(val)):
    val[i] = int((cdf_ratio[i]-cdf_masked.min())/(1-cdf_masked.min())*255)  
plt.plot(val, label = "conversion curve")
plt.plot(np.arange(len(val)))
plt.xlabel("original_pixel_value")
plt.ylabel("equalized_pixel_value")
plt.legend()
plt.show()
```
 <img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3230781/c6aea279-09b3-9a23-e151-ea2e398c9d91.png
" width ="500">

# おまけ
　グレースケール他に、RGB空間の画像についてもヒストグラム均一化を試してみました。処理はRGB分割後、それぞれのチャネルでヒストグラム均一化をかけて、再度各チャネルを再結合させました。
 ```py
 r, g, b = cv2.split(img_rgb)
eq_r = cv2.equalizeHist(r)
eq_g = cv2.equalizeHist(g)
eq_b = cv2.equalizeHist(b)
eq_rgb = cv2.merge((eq_r, eq_g, eq_b))

fig, ax = plt.subplots(1, 2, tight_layout=True)

ax[0].imshow(img_rgb)
ax[0].set_title("rgb")

ax[1].imshow(eq_rgb)
ax[1].set_title("equalized_rgb")
plt.show()

fig, ax = plt.subplots(3,2, tight_layout=True)
ax[0,0].hist(r.ravel(), 256, [0,256])
ax[0,0].set_title("r")
ax[0,1].hist(eq_r.ravel(), 256, [0,256])
ax[0,1].set_title("eq_r")

ax[1,0].hist(g.ravel(), 256, [0,256])
ax[1,0].set_title("g")
ax[1,1].hist(eq_g.ravel(), 256, [0,256])
ax[1,1].set_title("eq_g")

ax[2,0].hist(b.ravel(), 256, [0,256])
ax[2,0].set_title("b")
ax[2,1].hist(eq_b.ravel(), 256, [0,256])
ax[2,1].set_title("eq_b")
plt.show()
 ```
 <img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3230781/406ec52c-d500-63bc-7962-30e0e5c0a6b3.png
" width ="500">
 <img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3230781/bd364064-14ac-9eba-e499-321614d3b332.png
" width ="500">

RGBでも陰影が濃くなりました。一方、HSV、YCrCb空間の画像に関してはうまくいかなかったので、それに関しては追加の考察が必要です。

# まとめ
　ヒストグラム均一化を理解するために、自身の学びを出力しました。違っている点など見つかれば適宜修正します。ご指摘いただけると感謝です。