画像生成AIにとって一番嫌なノイズを探す -調査編(4)-

## 概要

生成AIが発展する一方で、権利者が望まない無断のAI学習が問題になってきています
この記事では、学習用画像にノイズが入っていた場合、画像生成AIにどのような影響があるのかを調査しました

※この記事群は2024/10末時点の調査に基づいています

## 目次

1. [画像生成AIにとって一番嫌なノイズを探す -結論編-](https://qiita.com/miu200521358/items/35f19ec198ba1a1fe563)
1. [画像生成AIにとって一番嫌なノイズを探す -準備編-](https://qiita.com/miu200521358/items/379ff032eaf43f055939)
1. [画像生成AIにとって一番嫌なノイズを探す -調査編(1)-](https://qiita.com/miu200521358/items/81439ba159d836faa0f4)
1. [画像生成AIにとって一番嫌なノイズを探す -調査編(2)-](https://qiita.com/miu200521358/items/e3e7bee24aee5a6dbe9b)
1. [画像生成AIにとって一番嫌なノイズを探す -調査編(3)-](https://qiita.com/miu200521358/items/4126f24c26d61e1b9720)
1. [画像生成AIにとって一番嫌なノイズを探す -調査編(4)-](https://qiita.com/miu200521358/items/5140ce700a9481aa15e3)
1. [画像生成AIにとって一番嫌なノイズを探す -実装編-](https://qiita.com/miu200521358/items/6ffe0c8db4e3d88bc0c5)

※この記事群は2024/10末時点の調査に基づいています

## 追加学習

### ウォーターマークとして細かい格子柄を入れた場合（透過度20%）

#### epoch 8

![case03_61_watermark_20_linen-000008_1_normal_03.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/a119a152-79d2-ed27-492a-90a2fc94ed39.png)

他のパターンもいくつか試してみましたが、細かい柄は学習時に消えてしまうようです
学習自体に影響はほとんどありませんでした

<details><summary>調査詳細 (学習元画像・epochごとの変遷)</summary>

#### 学習データ

![24-10-26-07-07-58-17.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/8f3d5da3-9408-2306-21c8-cdf0d3cf322a.png)

#### epoch 2

![case03_61_watermark_20_linen-000002_1_normal_03.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/70f39bac-7406-0f58-66c2-c61c2f581977.png)

#### epoch 4

![case03_61_watermark_20_linen-000004_1_normal_03.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/cb0986f5-d216-fc1d-1246-a842c2140317.png)

#### epoch 6

![case03_61_watermark_20_linen-000006_1_normal_03.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/59cc94bb-7d65-af96-8425-af2105c09e14.png)

#### epoch 10

![case03_61_watermark_20_linen-000010_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/eba4670f-3346-558f-f010-7eb519ccc95e.png)

#### epoch 12

![case03_61_watermark_20_linen-000012_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/c0b8f92f-e797-944d-0632-14c6422f3c1c.png)

</details>

--------

### ウォーターマークとしてドット（大きめの丸）を入れた場合（透過度20%）

#### epoch 8

![case03_63_watermark_20_dot_L-000008_1_normal_01.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/8d4ae1eb-ccd1-7b23-c27a-5fd72f73dfdc.png)

epoch 6 で既に水玉模様が出ており、とても鮮明にウォーターマークが学習されています

<details><summary>調査詳細 (学習元画像・epochごとの変遷)</summary>

#### 学習データ

![24-10-26-07-07-58-17.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/81e60084-c1c1-3168-4556-6986ed1ae254.png)

#### epoch 2

![case03_63_watermark_20_dot_L-000002_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/d9a93a3a-5070-ef07-cec5-49dcd38f852d.png)

#### epoch 4

![case03_63_watermark_20_dot_L-000004_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/f3fad0d4-b5c6-c734-592e-9183ec48f5c9.png)

#### epoch 6

![case03_63_watermark_20_dot_L-000006_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/dd8b94b5-42ba-7a79-ef65-f8dcb646085a.png)

#### epoch 10

![case03_63_watermark_20_dot_L-000010_1_normal_01.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/ec1b1cab-b10b-f4da-632c-f73a5c5646d9.png)

#### epoch 12

![case03_63_watermark_20_dot_L-000012_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/6883752b-7fb7-9fe9-aa97-17635cb4babc.png)

</details>

--------

### ドット柄ウォーターマーク（透過度20%）を入れて、ウォーターマーク除去をタグとプロンプトの両方で指示した場合

- ウォーターマーク（透過度20%）
- 学習時のウォーターマーク除去タグ付けはアリ
- ネガティブプロンプトでウォーターマーク除去指示を追加
- Glaze・Nightshade未使用

#### epoch 8

![case03_64_watermark_20_negative_dot_L-000008_2_negative_01.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/b51a5c37-5321-17d5-2e98-f45f14ad7741.png)

文字ではないのでウォーターマークの除去はうまくいかないようです
学習ができていないのにウォーターマークが強く生成される傾向になりました

<details><summary>調査詳細 (学習元画像・epochごとの変遷)</summary>

#### 学習データ

ドット柄ウォーターマーク(20%) のデータセットにタグ「watermark,english text」を学習対象に追加

#### epoch 2

![case03_64_watermark_20_negative_dot_L-000002_2_negative_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/bf56dcf8-b976-9229-4603-22f2885368ec.png)

#### epoch 4

![case03_64_watermark_20_negative_dot_L-000004_2_negative_03.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/30a396c5-a71f-4c80-4e6b-26d7f6775760.png)

#### epoch 6

![case03_64_watermark_20_negative_dot_L-000006_2_negative_03.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/78299ba0-72ca-f5a8-0148-43bd4729d35c.png)

#### epoch 10

![case03_64_watermark_20_negative_dot_L-000010_2_negative_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/3a105556-9102-458e-edc2-e3ba8baa667d.png)

#### epoch 12

![case03_64_watermark_20_negative_dot_L-000012_2_negative_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/aae0bc11-4b62-3dda-6340-bfc5b2a278be.png)

</details>

--------

### ドット柄ウォーターマーク（透過度20%）→ Nightshade Low → Glaze Low をかけた場合

#### epoch 8

![case03_65_watermark_20_dot_L_nightshade_low_glaze_low-000008_1_normal_01.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/3165b702-05b9-a183-f9be-f27a1aac3395.png)

髪の色味がやや学習できていない感じです
またウォーターマークとしてドット柄がだいぶ鮮明に描かれています

<details><summary>調査詳細 (学習元画像・epochごとの変遷)</summary>

#### 学習データ

![24-10-26-07-07-58-17.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/137a1658-d0aa-7376-86a1-233909deeb0d.png)

#### epoch 2

![case03_65_watermark_20_dot_L_nightshade_low_glaze_low-000002_1_normal_03.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/20817983-e8c6-e8dc-901c-c53a4bb5dc23.png)

#### epoch 4

![case03_65_watermark_20_dot_L_nightshade_low_glaze_low-000004_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/e4c5a439-d83b-77a8-fc5a-c86240f47ab5.png)

#### epoch 6

![case03_65_watermark_20_dot_L_nightshade_low_glaze_low-000006_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/e45009c3-ec3a-5434-943c-d4898d32da3f.png)

#### epoch 10

![case03_65_watermark_20_dot_L_nightshade_low_glaze_low-000010_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/4c449463-0d2e-3aab-170e-19fef028ba64.png)

#### epoch 12

![case03_65_watermark_20_dot_L_nightshade_low_glaze_low-000012_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/5414dcb8-406f-250c-77ae-e82fd5420577.png)

</details>

## ウォーターマーク除去

ウォーターマークを除去する機能の開発やサービスは、既に複数存在しています
それらを使用した場合の効果についても調査しました

### zuruoke/watermark-removal

#### 特徴

- ちょっと古いリポジトリなので環境構築に一苦労
- マスクを指定して、一致した箇所にあるウォーターマークを除去する
- デフォルトで用意されているマスクは一種類（自分で用意する必要がある）

#### 比較

| 入力画像 | マスク | 出力画像 |
| ---- | ---- | ---- |
| ![24-10-26-07-07-58-17.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/29d96ccb-7190-b7fa-f684-e8ee650dbe23.png) | ![mask.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/337bbb2a-baef-c36c-dafb-cac421111645.png) | ![24-10-26-07-07-58-17.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/cfe6e2e7-2336-cbd4-4a3b-2161169050b8.png) |

Photoshopのヒストリーブラシのように、ウォーターマーク部分を周りの色で埋めた結果になりました
よくよく見ると指でのばしたような跡が見られるのですが、パッと見には綺麗に除去できているかのように見えます
少なくともほぼ一致できるマスクが用意できれば、ある程度は除去できそうです

### 調査失敗

- braindotai/Watermark-Removal-Pytorch
- D-Ogi/WatermarkRemover-AI

上記リポジトリは環境構築がうまくいかなかったため、検証できませんでした

### ウォーターマーク除去サイト1

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/e37a11dc-ff95-bb5e-7b46-6fed36be0dfd.png)

ウォーターマークはかなり綺麗に除去できてしまいました

### ウォーターマーク除去サイト2

| マスク指定 | 除去後 |
| ---- | ---- |
| ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/ed546c2b-3316-6df1-6400-25b2e21b629e.png) | ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/dbad48cc-10c1-cae4-37ed-2ddb137010cc.png) |

（少なくとも無料では）ウォーターマークのマスクを手動で入れていくタイプのようです
除去自体はほどほどに行えました（あまり強くは除けないようです）

## この時点での推測

- ウォーターマークが不規則に入っていると除去しづらいのでは？
- ウォーターマークが適度に複雑（クローバー程度）の方が除去しづらいのでは？

以降、この推測を元に調査を進めました

--------

## AIが除去しづらいウォーターマークの調査

### 単一柄（猫の足跡：16x16、透過度50%）を少しランダムで配置し、オーバーレイ効果で合成した場合

#### epoch 8

![case03_71_watermark_20_cat_footprint-000008_1_normal_01.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/5cb84950-f2cc-e66c-760c-c21a58cdbb29.png)

ヒョウ柄のような不規則な模様が主に髪に学習されるようになりました

#### ウォーターマーク除去

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/6781a023-cf58-28cd-4ad3-15226cb198af.png)

ほとんど除去されてしまっています

| マスク指定 | 除去後 |
| ---- | ---- |
| ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/fd544fb9-0e6e-2c7a-a3d3-84b72e79453e.png) | ![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/43764da7-a04c-a2cb-e18d-caed8df348f3.png) |

<details><summary>調査詳細 (学習元画像・epochごとの変遷)</summary>

#### 学習データ

![24-10-26-07-07-58-17.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/d81dd529-97b1-440f-e4e1-5babf6f2b1c5.png)

#### epoch 2

![case03_71_watermark_20_cat_footprint-000002_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/cca76468-44c6-7fea-07da-88bbdd39c9c2.png)

#### epoch 4

![case03_71_watermark_20_cat_footprint-000004_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/ed632406-1ec3-eccb-2e2f-f32b222741b8.png)

#### epoch 6

![case03_71_watermark_20_cat_footprint-000006_1_normal_01.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/a111e0c9-0693-1a80-fcb9-4ca5ff5d9afd.png)

#### epoch 10

![case03_71_watermark_20_cat_footprint-000010_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/da6f50d4-2946-e299-2dfd-d7689c7cf107.png)

#### epoch 12

![case03_71_watermark_20_cat_footprint-000012_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/44ca39d4-8511-1e61-4ce8-52d382a4712e.png)

</details>

--------

### 複数柄（王冠・月・パズル・クローバー：16x16、透過度70%）を余白35pxの中にランダムで配置し、オーバーレイ効果で合成した場合

#### epoch 8

![case03_72_watermark_20_mix_70_overlay_margin_35-000008_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/d09e1b99-f620-3aac-1d3f-df1d275d6ef2.png)

ウォーターマークらしき跡が出てくるようになりました

#### ウォーターマーク除去

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/cfc8c197-f38d-fac5-3d39-6a3319a311d0.png)

除去しきれないウォーターマークが出てくるようになりました

<details><summary>調査詳細 (学習元画像・epochごとの変遷)</summary>

#### 学習データ

#### epoch 2

![case03_72_watermark_20_mix_70_overlay_margin_35-000002_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/0a9f68ba-5648-5204-2697-4d3bc228a0c1.png)

#### epoch 4

![case03_72_watermark_20_mix_70_overlay_margin_35-000004_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/4ae521f6-5649-d34e-1420-c634059a815f.png)

#### epoch 6

![case03_72_watermark_20_mix_70_overlay_margin_35-000006_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/95f28048-5d8a-d93a-ccf8-348babcfb3f3.png)

#### epoch 10

![case03_72_watermark_20_mix_70_overlay_margin_35-000010_1_normal_03.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/d579f2b1-6ac9-726c-3b8a-a33d4db547f2.png)

#### epoch 12

![case03_72_watermark_20_mix_70_overlay_margin_35-000012_1_normal_01.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/b63b9d00-8007-7ce3-786f-df854b6fb7ab.png)

</details>

--------

### 複数柄（王冠・月・パズル・クローバー：16x16、透過度70%）を余白20pxの中にランダムで配置し、オーバーレイ効果で合成した場合

#### ウォーターマーク除去

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/0f13d8d5-a6a2-4b31-150a-c00542055a15.png)

密度が濃い方がウォーターマークが綺麗に除去されてしまうようです

--------

### 複数柄（王冠・月・パズル・クローバー：32x32、透過度70%）を余白35pxの中にランダムで配置し、オーバーレイ効果で合成した場合

#### epoch 8

![case03_72_watermark_20_mix_M_70_overlay_margin_35-000008_1_normal_03.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/fcdb125a-3838-e11b-316a-ecaa065926dc.png)

ウォーターマークは髪の影と誤認されて学習されてしまっているようです

#### ウォーターマーク除去

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/2f95784d-53af-a10c-dc8d-ac10f287c1e0.png)

だいぶハッキリウォーターマークが残っています
これくらいウォーターマークが残っていれば、AI追加学習元として不適切とみなされ、除外される可能性が高くなりそうです

<details><summary>調査詳細 (学習元画像・epochごとの変遷)</summary>

#### 学習データ

#### epoch 2

![case03_72_watermark_20_mix_M_70_overlay_margin_35-000002_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/4fe56578-ef91-228d-5dc0-8b6175dc3398.png)

#### epoch 4

![case03_72_watermark_20_mix_M_70_overlay_margin_35-000004_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/0c1d7cb8-f20c-7054-b4de-23e5af3f4bb9.png)

#### epoch 6

![case03_72_watermark_20_mix_M_70_overlay_margin_35-000006_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/b6af0330-dd86-123a-0ede-efb80ca4f365.png)

#### epoch 10

![case03_72_watermark_20_mix_M_70_overlay_margin_35-000010_1_normal_01.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/5c14f988-c235-d62f-e312-6a9f42803bbf.png)

#### epoch 12

![case03_72_watermark_20_mix_M_70_overlay_margin_35-000012_1_normal_02.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/254327/6357b3ba-1880-46a8-b7f3-9d81f8c23601.png)

</details>

## 検証結論

ウォーターマークはある程度の大きさ、複雑さ、余白があれば、ウォーターマーク除去もされづらく、学習にも残りやすくなる


## 次章

1. [画像生成AIにとって一番嫌なノイズを探す -実装編-](https://qiita.com/miu200521358/items/6ffe0c8db4e3d88bc0c5)