ソフトウェアライスタライザ実装 その3 (ラスタライズ)

[ソフトウェアライスタライザ実装 その1 (頂点処理)](https://qiita.com/N-H-Shimada/items/8d4d328a3b95176c2347)および[ソフトウェアライスタライザ実装 その2 (クリッピング)](https://qiita.com/N-H-Shimada/items/7ec6112ec0f511dcf125)の続きです。
頂点処理およびクリッピングを終えた後は三角形メッシュが存在するピクセルを塗りつぶす(ラスタライズ)することでシーンの描画が完成します。
今回はラスタライズを実装してソフトウェアラスタライザを完成させました。
主に動画内で省略されていた投影を考慮した線形補間まわりの数学的証明を書いています。
(今回も[三葉レイさんの動画](https://www.youtube.com/watch?v=gQx4PyKpQh0)を参照・引用しています。)

## 三角形の内外判定
頂点処理を終えた後、三角形の頂点位置が得られている状況で、各ピクセル(の中心)がその三角形の内部にあるかどうかを判定することが必要となる。
<img width="548" alt="Screen Shot 2019-07-07 at 1.37.39.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/230477/99d6b39e-a66a-29fb-6e17-668c74023b22.png">

内外判定にはエッジ関数(外積ベクトルの$z$成分)を用いる。外積ベクトルを計算すると、下左図のようにある直線(AB)のどちら側に目的の点(P)が存在するのかどうかを、ベクトルの$z$成分の正負で判定することが出来る。これを下右図のように、三角形の頂点ABCに沿って一周する3つのベクトルについて行うことで、ある点が三角形内部にあるかどうかを判定出来る。全てのエッジ関数が正または全て負の場合のみ内部にあることになる。
<img width="559" alt="Screen Shot 2019-07-07 at 1.52.44.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/230477/e37b4443-b487-6546-39ca-7adab23aa772.png">

内外判定を用いて描画するコードは次のようになる。効率化のためbounding_boxを導入し、色情報(明るさ$I$)は三角メッシュの法線ベクトル$\vec N$と平行光源$\vec d_L$の内積を用いた式

```math
\begin{eqnarray}
I = 0.2 + 0.8*\mathrm{max}(0, \vec N \cdot \vec d_L)
\end{eqnarray} 
```
に基づいて計算している。

```c++:main.cpp
    // 平行光源
    Vector3d light;
    light << -1.0, 1.0, 0.0;
    light = light/light.norm();

    // ビューポート変換 (ラスタライズ)
    float pixel_array[512][512][4] = {}; // (nx,ny,RGB色,z値)
    for (int i=0;i<512;i++) {
        for (int j=0;j<512;j++) {
            pixel_array[i][j][3] = 2.0;
        }
    }
    for (int t=0;t<T.size();t++) {
        T[t].Bounding_box(); // Bounding_box計算
    }
    for (int i=0;i<nx;i++) {
        for (int j=0;j<ny;j++) {
            float x_coord = 1.0/nx + i*(2.0/nx) - 1.0;
            float y_coord = 1.0/ny + j*(2.0/ny) - 1.0;
            for (int t=0;t<T.size();t++) {
                if (T[t].min_x <= x_coord and x_coord <= T[t].max_x) { // BB内ならラスタライズ
                    if (T[t].min_y <= y_coord and y_coord <= T[t].max_y) {
                        // Edge関数の計算
                        float edge_A, edge_B, edge_C;
                        edge_A = (T[t].C(0)-T[t].B(0))*(y_coord-T[t].B(1)) - (T[t].C(1)-T[t].B(1))*(x_coord-T[t].B(0)); // BC×BP
                        edge_B = (T[t].A(0)-T[t].C(0))*(y_coord-T[t].C(1)) - (T[t].A(1)-T[t].C(1))*(x_coord-T[t].C(0)); // CA×CP
                        edge_C = (T[t].B(0)-T[t].A(0))*(y_coord-T[t].A(1)) - (T[t].B(1)-T[t].A(1))*(x_coord-T[t].A(0)); // AB×AP
                        if (edge_A>=0 and edge_B>=0 and edge_C>=0) { // 三角形の内側(表側)であればラスタライズ
                            // z-バッファ法 (より手前にあるものを描画)
                            // ~
                            // 色情報を計算
                            // pixel_array[i][j][2] = (色情報);
                        }
                    }
                }
            }
        }
    }
```

出力結果は次のようになる。
<img width="488" alt="Screen Shot 2019-07-07 at 23.48.45.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/230477/9ddcce81-fc08-e7ea-0bc3-4a9e03288c08.png">
三角メッシュの形が不自然に浮き彫りになってしまっているが、これは後述する補間の処理を用いることで修正出来る。


## 重心座標系での線形補間
三角形の内部にあると判定されたピクセルについては、その三角形が持つ色情報やデプス値などに基づいて塗りつぶしを行えばよい。ただし、色情報やデプス値は頂点のみに保存されているものなので、三角形内部に位置するようなピクセルについては3頂点の情報から適切に補間した値を使用する。今回はオーソドックスな線形補間を用いる場合を考える。
<img width="898" alt="Screen Shot 2019-07-07 at 2.19.11.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/230477/abcca6ca-2a70-c82a-43e2-84a8d87ebd7f.png">
近い頂点の影響を良く受けるとして、その影響が線形であるならば、一次元系では上左図のようになる。何らかの量$C_A,C_B$は頂点からの距離の比$s,1-s$を用いて、次のように補間される。

```math
\begin{eqnarray}
C = (1-s)C_A + sC_B
\end{eqnarray} 
```

二次元系では、重心座標系を用いる。対向する三角形の面積の比$\lambda_A:\lambda_B:\lambda_C$を用いて、

```math
\begin{eqnarray}
C = \lambda_A C_A + \lambda_B C_B + \lambda_C C_C
\end{eqnarray} 
```
のように線形補間する。ここで、$\lambda_A,\lambda_B,\lambda_C$等の三角形の面積はエッジ関数(の絶対値)と同じものである。よって内外判定で計算したエッジ関数の値をそのまま再利用することで効率的に計算することが出来る。

```c++:main.cpp
    if (edge_A>=0 and edge_B>=0 and edge_C>=0) { // 三角形の内側(表側)であればラスタライズ
        float lambda_A, lambda_B, lambda_C;
        float temp = edge_A + edge_B + edge_C;
        lambda_A = edge_A/temp;
        lambda_B = edge_B/temp;
        lambda_C = edge_C/temp;
        float depth = lambda_A*T[t].A(2) + lambda_B*T[t].B(2) + lambda_C*T[t].C(2); // depth
        if (depth < pixel_array[i][j][3]) { // depth値が小さい時、
            pixel_array[i][j][3] = depth;
            for (int temp=0;temp<3;temp++) {
                Vector3d N_temp;
                N_temp = lambda_A*T[t].N_A + lambda_B*T[t].N_B + lambda_C*T[t].N_C; // 法線ベクトルの補間
                N_temp /= N_temp.norm(); // 正規化
                pixel_array[i][j][temp] = 0.2 + 0.8*max(0.0, light.dot(N_temp)); // 色の計算
            }
        }
    }
```
出力画像は次のようになる。補間により三角メッシュの継ぎ目がわからない自然な描画ができている。
<img width="494" alt="Screen Shot 2019-07-08 at 1.27.08.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/230477/31cf9ee3-f16b-edf3-32dd-88145d023b6d.png">


## 投影を考慮した線形補間
実は重心座標系での線形補間は正しくない。前回のクリッピング編でみたように、デバイス座標系は元々3次元空間であるクリッピング座標系を$\omega=1$平面に投影したものなので、奥行き方向($\omega$軸)の情報が失われている(下図)。
<img width="598" alt="Screen Shot 2019-07-07 at 2.19.11.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/230477/df674d86-1270-f730-defc-65d1b9b206de.png">
簡単のため、まず($x-\omega$)平面で考えると、本来正しい補間の式は

```math
\begin{eqnarray}
C = (1-t)C_A + tC_B
\end{eqnarray} 
```
となる。ここで、投影前の比$t:(1-t)$は次のように$s$を用いて書き直すことが出来る。
<details><summary>(導出過程)</summary><div>

$s$の定義から、

```math
\begin{eqnarray}
\frac{1-s}{s} &=& \frac{\|\frac{x}{\omega}-\frac{x_2}{\omega_2}\|}{\|\frac{x}{\omega}-\frac{x_1}{\omega_1}\|} \\
&=& \frac{\omega \omega_1}{\omega \omega_2} \frac{\|x\omega_2-x_2\omega\|}{\|x\omega_1-x_1\omega\|} \\
&=& \frac{\omega_1}{\omega_2} \frac{\|x\omega_2-x_2\omega\|}{\|x\omega_1-x_1\omega\|} 
\end{eqnarray} 
```
ここで、$x$および$\omega$の定義:

```math
\begin{eqnarray}
x &=& tx_2 + (1-t)x_1 \\
\omega &=& t\omega_2 + (1-t)\omega_1 \\
\end{eqnarray} 
```
を代入して、

```math
\begin{eqnarray}
\frac{1-s}{s} &=& \frac{\omega_1}{\omega_2} \frac{\|(tx_2 + (1-t)x_1)\omega_2-x_2 (t\omega_2 + (1-t)\omega_1)\|}{\|(tx_2 + (1-t)x_1)\omega_1-x_1(t\omega_2 + (1-t)\omega_1)\|} \\
&=& \frac{\omega_1}{\omega_2} \frac{\| (1-t) (x_1\omega_2 - x_2\omega_1) \|}{\| t(x_2\omega_1 - x_1\omega_2) \|} \\
&=& \frac{\omega_1}{\omega_2} \frac{1-t}{t}
\end{eqnarray} 
```
----------------------------------------------------------(導出終了)---------------------------------------------------------- </div></details>    <img width="600" alt="Screen Shot 2019-07-07 at 3.34.28.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/230477/c6c4288c-ccc1-8b77-4e27-1aa0b6c28e0f.png">
これを$t=$の形に書き直して、

```math
\begin{eqnarray}
t = \frac{1}{\frac{\omega_2}{\omega_1}\frac{1-s}{s} + 1}
\end{eqnarray} 
```
補間の式に代入すると、

```math
\begin{eqnarray}
C &=& (1-t)C_A + tC_B \\
&=& C_A + t (C_B - C_A) \\
&=& \frac{C_A \frac{\omega_2}{\omega_1}\frac{1-s}{s}+ C_B}{\frac{\omega_2}{\omega_1}\frac{1-s}{s} + 1} \\
&=& \frac{\frac{C_A}{\omega_1}(1-s)+ \frac{C_B}{\omega_2} s}{\frac{1}{\omega_1}(1-s) + \frac{1}{\omega_2}s}
\end{eqnarray} 
```
ここで、$\frac{1}{\omega} = \frac{1}{\omega_1}(1-s) + \frac{1}{\omega_2}s$の関係式が成立する
<details><summary>(導出過程)</summary><div>
<img width="498" alt="Screen Shot 2019-07-07 at 4.28.55.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/230477/055bf46c-12c6-9598-d5a5-260d3a15a108.png">
図より、

```math
\begin{eqnarray}
\omega &&= \frac{(1-s)\frac{\omega_2}{\omega_1} \omega_1 + s \omega_2} {(1-s)\frac{\omega_2}{\omega_1} + s} \\
&=& \frac{\omega_2}{(1-s)\frac{\omega_2}{\omega_1} + s} \\
&=& \frac{1}{\frac{1}{\omega_1}(1-s)+\frac{1}{\omega_2}s}
\end{eqnarray} 
```
----------------------------------------------------------(導出終了)----------------------------------------------------------


</div></details>ので、

```math
\begin{eqnarray}
\frac{C}{\omega} = \frac{C_A}{\omega_1}(1-s)+ \frac{C_B}{\omega_2} s
\end{eqnarray} 
```
のようになる。

つまり、$\omega_1,\omega_2$の値を保持しておけば、投影後の比$s:1-s$の値を用いて正しく補間を補正することが可能となる。(ただし今回補正する量は法線ベクトルであり、$\omega$の値は要らない(正規化するので大きさはどうでもよい)ので、投影変換の際に法線ベクトルも同時に$\omega_1,\omega_2$等の値で割る処理をしておけば、少し効率的に出来る。)

これは重心座標系での議論にもそのまま適応出来る。つまり、投影後の重心座標比$\lambda_A,\lambda_B,\lambda_C$を用いるが、その際補正する量を投影前の$\omega$値で割ってやればよい。

```c++:main.cpp
    // -> デバイス座標系
    for (int i=0;i<T.size();i++) {
        for (int j=0;j<3;j++) {
            T[i].A(j) = T[i].A(j)/T[i].A(3);
            T[i].B(j) = T[i].B(j)/T[i].B(3);
            T[i].C(j) = T[i].C(j)/T[i].C(3);
            
            // 補間量をomegaで割っておく
            T[i].N_A(j) /= T[i].A(3);
            T[i].N_B(j) /= T[i].B(3);
            T[i].N_C(j) /= T[i].C(3);
        }
    }

    // ビューポート変換 (ラスタライズ)
    // ~
```
出力画像は次のようになった。投影を考慮した補間のするしないでほぼ変わらない画像になった。うーん
<img width="492" alt="Screen Shot 2019-07-08 at 1.35.08.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/230477/39b709aa-f8ad-5209-1246-a76cd009d7f2.png">


## Zバッファ法
ラスタライズでは、複数の三角形が重なる時、一番手前側にあるものを描画する。これは、各ピクセル毎にデプス値を保存しておいて、それより近い三角形が現れてた時のみ、ピクセル値を計算・デプス値を更新することで実現出来る。デプス値も三角形頂点の$z$値から線形補間することになるが、実は投影による補正を考える必要はない(投影変換においてそのように$z$値を規格化しているため)。
![Picture2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/230477/4f0d4449-44aa-9654-4fe9-621ae86440ad.png)
具体的に式で確かめてみる。クリップ座標系では、先程証明したように、$t$の代わりに$s$で表記した次の補間式

```math
\begin{eqnarray}
\frac{1}{\omega} = \frac{1}{\omega_A}(1-s) + \frac{1}{\omega_B}s
\end{eqnarray} 
```
の関係が成り立つ。カメラ座標系で$z_e$軸($=-\omega$)に戻っても同様の関係は保たれる。つまり、

```math
\begin{eqnarray}
\frac{1}{z_e} = \frac{1}{z_e^A}(1-s) + \frac{1}{z_e^B}s \tag{1}
\end{eqnarray} 
```
である。デバイス座標系で補間を行う場合、補間式がこの$(1)$式と同値なものであれば良い。

デバイス座標系での$z$値を$z_{NDC}$として、変換行列は

```math
\begin{eqnarray}

\begin{pmatrix}
\cdot \\ \cdot \\ z_e \\ 1
\end{pmatrix}

\rightarrow

\begin{pmatrix}
\cdot & 0 & 0 & 0 \\ 
0 & \cdot & 0 & 0 \\ 
0 & 0 & -a & -b \\ 
0 & 0 & -1 & 0
\end{pmatrix}
\begin{pmatrix}
\cdot \\ \cdot \\ z_e \\ 1
\end{pmatrix}
=
\begin{pmatrix}
\cdot \\ \cdot \\ -a z_e - b \\ -z_e
\end{pmatrix}

\rightarrow^{1/z_e}

\begin{pmatrix}
\cdot \\ \cdot \\ a + \frac{b}{z_e} \\ \cdot
\end{pmatrix}

\end{eqnarray} 
```
であったので、$z_{NDC}$は、

```math
\begin{eqnarray}
z_{NDC} = a + \frac{b}{z_e}
\end{eqnarray} 
```
と表せる。ここで、$z_{NDC}$を比$s:1-s$でそのまま線形補間した式は、

```math
\begin{eqnarray}
z_{NDC} = (1-s) z_{NDC}^A + s z_{NDC}^B
\end{eqnarray} 
```
であるが、これを$z_e$で書き直すと、

```math
\begin{eqnarray}
a + \frac{b}{z_e} &=& (1-s) \left(a + \frac{b}{z_e^A}\right) + s \left(a + \frac{b}{z_e^B}\right) \\
\Leftrightarrow \frac{1}{z_e} &=& \frac{1}{z_e^A}(1-s) + \frac{1}{z_e^B}s
\end{eqnarray} 
```
となり、確かにカメラ座標系での補間式$(1)$と一致している。

Z-バッファ法により、複数のオブジェクトが重なるような場合も描画出来るようになった。以下はteapotと球が重なるようなシーンを設定した場合の出力画像である。
<img width="488" alt="Screen Shot 2019-07-08 at 1.37.42.png" src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/230477/d7192abc-d803-c762-3b92-8424420458bc.png">

## GUIアニメーション化
OpenGL+GLFWのフレームワーク上で実装した。1フレームに0.3秒弱の計算時間がかかっているのでカクカク...
ラスタライザ部分の512*512*メッシュ数の3重forループがボトルネックになっているのでもう少し高速化したい。
![anim-3.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/230477/30466a54-0d48-488d-57d1-e7ee3b23ba1f.gif)