壁からロゴが出てくるエフェクトを改良する

[MoAR アプリを開いて最初にでてくる作品 "Mo(AR)^2"](https://whatever.co/moar/ja/moar2/) の冒頭の演出、[壁面の QR コードが壁から立体化して飛び出てくるというエフェクトをおかだくんが作ってくれていて](https://note.com/migifun/n/n93e6d9f11cce)そこそこいい感じにはできていたものの、もうちょっと違和感なく実現できるんじゃないか？と思っていろいろ試してみた話。

# やりたいこと

壁面の QR コードが立体化して飛び出てくるということは、もともと壁面に描かれていた QR コードをなんとかして消す必要がある。いわゆる Diminished Reality ってやつ。
![Screen_Shot_2022-12-19_at_13_35_55.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2595/08c10966-dca8-68a3-6836-a4b054142686.jpeg)

# 作戦

消すといってもカメラ映像を加工するしかないので、上から QR コードがない状態を描くことになる。

ひとつは[おかだくんの記事](https://note.com/migifun/n/n93e6d9f11cce)にもあった inpainting ってやつで、複雑なアルゴリズムで消したい領域を埋める画像をその場で生成するやつ。
もうひとつは単純に QR コードがない状態のテクスチャを用意しておいてそれを上からがっつりのっけてしまう方法。

# おかだくんバージョン

<iframe width="100%" height="700" src="https://www.youtube.com/embed/CMVjoMgWQfA?rel=0" title="MoAR_Logo_2022.12.15" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe><br/><br/>

事前に用意しておいた壁テクスチャをはっつける作戦。
実際のカメラ映像から取得した壁面の色を取得して色調整してからのっけてるのでほぼほぼ色はあってるけど、まだちょっとのっけてる感があるなーという感じ。

# Histogram Matching

あらかじめ用意しておいた画像とカメラ映像の色味を合わせるならば Histogram Matching では？と思ってやってみました。

macOS / iOS の [Accelerate Framework](https://developer.apple.com/documentation/accelerate) に含まれる vImage には Histogram を操作するメソッドがいろいろ用意されており [Histogram Matching のサンプルコードもある](https://developer.apple.com/documentation/accelerate/specifying_histograms_with_vimage)のでめちゃ簡単に実装できます。

## シンプルな画像でテスト

![Screen_Shot_2022-12-19_at_12_42_39.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2595/8643c977-de96-5029-5675-14afaebc17bb.jpeg)
カメラ映像から取得した壁画像から `vImageHistogramCalculation_ARGB8888` メソッドでヒストグラムを計算。あらかじめ用意しておいた壁画像に `vImageHistogramSpecification_ARGB8888` でそのヒストグラムを適用すると、あら不思議、いい感じにカメラ画像と同じようなカラーのテクスチャができあがります。
![Screen_Shot_2022-09-16_at_1_02_25.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2595/9f4f5708-667b-9401-72d5-9d3bae4a85b3.jpeg)
同じ壁画像に別の夕方っぽいカメラ映像のヒストグラムを適用しても同じように変換されてとてもよい感じ。あとはこれを AR 上で貼り付ければ壁の QR コードが消えそう〜。

## リアルなカメラ画像でテスト

ヒストグラムが近くなるようにロゴと QR コードを避けた上部のコンクリ部分を切り抜いて、そのエリアを使ってヒストグラムマッチングしてみたけど…
![Screen_Shot_2022-12-19_at_13_04_17.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2595/e0811b66-6de9-bc36-27ab-8b464333149b.jpeg)
全然ダメ。グリーンぽいのはデバッグ表示が影響してるので無視できるとしても、黒の電線がヒストグラムにめっちゃ影響して最終画像も黒が出てしまっている。

## ヒストグラムをいじる

体験位置の都合上、カメラ映像に電線が入ってしまうのは避けられない。避けられないならいっそのこと電線含めていろいろ映ってしまってる状態のヒストグラムをいじってコンクリ部分だけのヒストグラムを抽出できればよいのでは？と思って実験。
![Screen_Shot_2022-09-18_at_11_37_16.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2595/ca0b4028-74d5-afdd-7411-73495e26ac66.jpeg)
これは Photoshop で実際の壁面の画像をひらいてヒストグラムを表示したもの。大きく3つの山があって、ロゴと QR コードの白と黒が両端にあって、真ん中のがコンクリートのグレー部分。なのでこの真ん中の山だけを残したヒストグラムが作れればいけそう…

この問題はクラスタリングなので K-Means かな？ってことで Python で適当にやってみる。
![Screen_Shot_2022-09-18_at_12_21_27.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2595/79c20742-db16-2708-9a53-f925aa4d1512.jpeg)
[kmeans1d](https://github.com/dstein64/kmeans1d) つかって3つにクラスタリングするといい感じに真ん中の山だけ抽出できました。

## いじったヒストグラムでヒストグラムマッチング

![Screen_Shot_2022-12-19_at_14_25_34.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2595/4eaef147-ea1a-1bb7-67e4-73738cde7bc6.jpeg)
カメラ画像のヒストグラムを計算して、コンクリ部分だけを K-Means で抽出して、それを壁テクスチャにヒストグラムマッチングで適用することで、ロゴと QR コードが描かれてるテクスチャからコンクリ部分のだけの色味を合わせたテクスチャができました。

あとは合成のエッジが目立たないようにちょっとだけアルファマスクをかけて元の位置に合成すれば完成〜。
![Screen_Shot_2022-09-18_at_15_34_48.jpg](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2595/d6e3187d-207d-40da-920c-e41c67a484d6.jpeg)
<iframe width="100%" height="700" src="https://www.youtube.com/embed/11Ybs1Ka4oA?rel=0" title="Histogram Matching" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe><br/><br/>

めっちゃ自然にロゴ＆QRコードが消えてるんじゃなかろうか。雨でまだらに濡れた状態でも言われないと気づかれないレベルでダミーテクスチャが生成できてる。

# でも…

めっちゃいい感じにできたやん！って思ってじゃあ夜はどうかな？ってやってみると…

<img src="https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/2595/07295ee7-25dd-4301-63c4-970319dcd726.jpeg" width="100%"/>

全くダメ… カメラ画像の切り抜きから計算したヒストグラムが想定していた3つの山にきれいにわかれてなくてコンクリ部分のヒストグラムを抽出するってのがうまくっていない。

と、このあたりで、MoAR も公開してしまって燃え尽きてしまってアプリに組み込むまでたどり着けず… （今後なんかのタイミングでもっかいやってみるかもやらんかも😆