inu-ai commited on
Commit
646ddc7
1 Parent(s): 9aef749

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +28 -0
README.md CHANGED
@@ -15,6 +15,34 @@ datasets:
15
  - p1atdev/niji-v5
16
  library_name: diffusers
17
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
18
 
19
  # モデルの説明
20
  アニメ調に寄せた「[SDXL(stable-diffusion-xl-base-1.0)](https://huggingface.co/stabilityai/stable-diffusion-xl-base-1.0)」モデルです。内容は「[niji-v5](https://huggingface.co/datasets/p1atdev/niji-v5)」データセットでLoRAファインチューニングしてマージしたモデルです。
 
15
  - p1atdev/niji-v5
16
  library_name: diffusers
17
  ---
18
+ # 更新履歴
19
+ - 2023年8月7日
20
+
21
+ nijijourneyの画像4500枚ぐらいでフルファインチューニングしました。fp16で壊れないVAEに取り替えました。
22
+
23
+ 以下フルファインチューニングのハイパーパラメータですが学習率が低すぎたようで絵があまり変化しませんでした。次回は学習率を上げようと思います。
24
+
25
+ | ハイパーパラメータ | 値 |
26
+ |-----------------------|-------------------------------------|
27
+ | GPU | RTX3090 24GB |
28
+ | optimizer_type | Lion |
29
+ | optimizer_args | weight_decay=0.015, betas=.9,.999 |
30
+ | learning_rate | 1e-7 |
31
+ | lr_scheduler | cosine |
32
+ | gradient_checkpointing| |
33
+ | mixed_precision | bf16 |
34
+ | full_bf16 | |
35
+ | max_token_length | 225 |
36
+ | min_snr_gamma | 5 |
37
+ | noise_offset | 0.0357 |
38
+ | max_train_epochs | 5 |
39
+ | batch_size | 10 |
40
+ | enable_bucket | true |
41
+ | resolution | [1024,1024] |
42
+
43
+ - 2023年8月1日
44
+
45
+ nijijourneyの画像100枚ぐらいでLoRAファインチューニングなどをしました。
46
 
47
  # モデルの説明
48
  アニメ調に寄せた「[SDXL(stable-diffusion-xl-base-1.0)](https://huggingface.co/stabilityai/stable-diffusion-xl-base-1.0)」モデルです。内容は「[niji-v5](https://huggingface.co/datasets/p1atdev/niji-v5)」データセットでLoRAファインチューニングしてマージしたモデルです。