画像と周波数領域と1/fゆらぎとsaliency

# はじめに
この記事は、[LIGHTzアドベントカレンダー2022](https://qiita.com/advent-calendar/2022/lightz)の2日目の記事です。

@KTasknこと、たすく、です。
LIGHTzは業務に支障がでない範囲で自由な働き方ができる風土が整っています。
私は現在、そんな弊社で働きながら大学院のの修士１回生(２年目(!?))として、データサイエンス・コンピュータビジョンの研究に励んでいます。

というのは，去年のアドベントカレンダーの書き出しをそのままコピってきたのですが，

今年のアドベントカレンダーでは，そのコンピュータビジョンを研究・勉強するうえで，おもしろかった内容を投稿していきたいと思っています．


# 画像のフーリエ変換
みなさん，フーリエ変換はしたことありますか？毎日していますか？
関数を周波数領域に変換するアレです．フーリエ変換だけで教科書一冊ある奥の深そうな話なのでその話はすみませんが割愛します．
[ウィキペディアの周波数領域の記事](https://ja.wikipedia.org/wiki/%E5%91%A8%E6%B3%A2%E6%95%B0%E9%A0%98%E5%9F%9F)に記載の記事がとてもわかりやすい．

いろいろな関数は，単純な波の足し合わせで表現できるんですね．

![Fourier_transform_time_and_frequency_domains_(small).gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53351/62aef840-dcea-a093-c74b-547337a37fc3.gif)

上の例だと，１次元な値なんですが，実は２次元の画像でも同じことができるというのが今回のお話でして，
下の画像は私が昨夜ぽちぽちとドット絵エディタで打ったMegamanのドット絵になります．これだって実は波の足し合わせで表せるんですよ．
<img width="300" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53351/0207595e-286e-a138-b598-7e79761871a8.png" alt="megaman">


二次元の波ってなんじゃという話なんですが，上の画像を構成する波が下の画像ら（抜粋）．(幅，高さ)=(32,32)の画像なら32x32=1024の波の足し合わせで表現されます．

![波図.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53351/9b56e380-039d-3842-1019-7866444220b0.png)

Pythonと[OpenCV](https://opencv.org/)を使うと下記のコードで確認することができます．

``` python
# jupyter notebook
from PIL import Image
import numpy as np
import cv2
import matplotlib.pyplot as plt

# 画像を開いて，グレースケールにする
a_image = Image.open("megaman.png").convert("L")
# 画像を表示
display(a_image)

# 高速フーリエ変換する
fimage = np.fft.fft2(a_image)

# 周波数領域を描画
display(Image.fromarray(np.uint8(np.abs(fimage))))

images = []
for i in range(32):
    for j in range(32):
        # 周波数ごとに波形をとりだす
        # 0で初期化した周波数行列を作成する
        d_fimage = np.zeros((32, 32), dtype=complex)
        # 周波数帯 i, j をとりだし，行列に埋め込む
        d_fimage[j, i] = fimage[j, i]
        # 周波数領域 -> 時間領域(画像)に変換する
        d_ifimage = np.fft.ifft2(d_fimage)
        # 表示する
        display(Image.fromarray(np.uint8(d_ifimage)))
        # あとで足し合わせるためにリストに保存しておく
        images.append(d_ifimage)

# リストに保存した波の画像を足し合わせて表示する
display(Image.fromarray(np.uint8(np.abs(np.sum(images, axis=0)))))

# 時間領域に再変換
ifimage = np.fft.ifft2(fimage).real
display(Image.fromarray(np.uint8(ifimage)))
```

# 風景と被写体と，周波数領域と1/fゆらぎ

そんな周波数領域なのですが，不思議なことに自然な写真だと，周波数とパワーが綺麗に反比例することが知られており，世の中で$\frac{1}{f}$なんていわれる法則に従います．下の画像だと，オレンジ色の線が実際の周波数に対するパワーの値で，青い線が$\frac{1}{f}$のガイドになります．かなり線にのっかっているのがわかります．
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53351/396ccbac-8c64-e68a-6d69-aee0c9ead1d8.png)

風景写真だとガイドに対して上振れにする傾向になります．
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53351/aac258af-41a8-2753-7a2c-dce926836645.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53351/f3f58ad4-3cbd-bb02-f575-f425ae765cfe.png)

逆に接写だと下振れの傾向になります
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53351/89577376-3946-b0ca-49a7-fc92f1b45685.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53351/1a077001-b4c0-a860-0a42-879986a44515.png)

被写体と風景の割合がちょうどバランスされたなんともなしな写真の場合，綺麗に青線にのります．
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53351/d873e73f-c2a2-36f8-7a31-91e330dff5c5.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53351/fbe83d85-0b91-e0ba-8015-92b3b5697fa2.png)


# saliency
そんな周波数領域を使って，写真にうつっている重要な領域をとりだせないかという論文がありまして，$\frac{1}{f}$の領域が自然な領域なら，$\frac{1}{f}$以外の部分をとりだせば，それは写真の中で重要な物体なんじゃないかという技術がございます．

[HOU, Xiaodi; ZHANG, Liqing. Saliency detection: A spectral residual approach. In: 2007 IEEE Conference on computer vision and pattern recognition. Ieee, 2007. p. 1-8.](http://www.houxiaodi.com/assets/papers/cvpr07.pdf)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53351/ba197d0d-2de0-6fe2-5b23-12db2609e46e.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53351/25dadcfa-2271-cc08-6f40-b62845e17126.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53351/57720a6c-72ed-c316-294a-d3e5bcab8c76.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53351/cb4e27ff-8ef0-b6b5-2a99-a13cf8b6ab78.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53351/6fb4b533-3b8f-9e95-0f23-1751f37cd07b.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53351/e899790e-c0f7-028d-c29c-dd04eeebe035.png)

上２つの風景写真ぽいのではうまくいっている気がしますね．接写写真だと微妙な感じです．牛の画像はサッパリですが，ネコの方はうまくいっている気がします．

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/53351/9747a38e-49ab-7ac2-758a-39a87b454f4c.png)

二条城なんかはかなりうまくいっている感じになりました．