inu-ai commited on
Commit
4768770
1 Parent(s): db6e77a

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +14 -6
README.md CHANGED
@@ -16,18 +16,19 @@ datasets:
16
  library_name: diffusers
17
  ---
18
  # 更新履歴
19
- - 2023年8月7日
20
 
21
- nijijourneyの画像4500枚ぐらいでフルファインチューニングしました。fp16で壊れないVAEに取り替えました。
 
22
 
23
- 以下フルファインチューニングのハイパーパラメータですが学習率が低すぎたようで絵があまり変化しませんでした。次回は学習率を上げようと思います。
 
24
 
25
  | ハイパーパラメータ | 値 |
26
  |-----------------------|-------------------------------------|
27
  | GPU | RTX3090 24GB |
28
  | optimizer_type | Lion |
29
  | optimizer_args | weight_decay=0.015, betas=.9,.999 |
30
- | learning_rate | 1e-7 |
31
  | lr_scheduler | cosine |
32
  | gradient_checkpointing| |
33
  | mixed_precision | bf16 |
@@ -35,11 +36,18 @@ nijijourneyの画像4500枚ぐらいでフルファインチューニングし
35
  | max_token_length | 225 |
36
  | min_snr_gamma | 5 |
37
  | noise_offset | 0.0357 |
38
- | max_train_epochs | 5 |
39
  | batch_size | 10 |
40
  | enable_bucket | true |
41
  | resolution | [1024,1024] |
42
 
 
 
 
 
 
 
 
43
  - 2023年8月1日
44
 
45
  nijijourneyの画像100枚ぐらいでLoRAファインチューニングなどをしました。
@@ -55,7 +63,7 @@ nijijourneyの画像100枚ぐらいでLoRAファインチューニングなど
55
 
56
  Prompt:
57
  ```
58
- 1girl
59
  ```
60
  Negative prompt:
61
  ```
 
16
  library_name: diffusers
17
  ---
18
  # 更新履歴
 
19
 
20
+ - 2023年8月11日
21
+ 前回のnijijourneyの画像を混ぜて12000枚で学習しました。
22
 
23
+ 以下、最後に行ったフルファインチューニング時のパラメータですが、そこに至るまでいろいろ試しているため以下のパラメータでやると失敗するかもしれません。
24
+ 学習率は4e-7(constant)から4e-06(cosine)の間あたりが良いのかなと思います。
25
 
26
  | ハイパーパラメータ | 値 |
27
  |-----------------------|-------------------------------------|
28
  | GPU | RTX3090 24GB |
29
  | optimizer_type | Lion |
30
  | optimizer_args | weight_decay=0.015, betas=.9,.999 |
31
+ | learning_rate | 4e-6 |
32
  | lr_scheduler | cosine |
33
  | gradient_checkpointing| |
34
  | mixed_precision | bf16 |
 
36
  | max_token_length | 225 |
37
  | min_snr_gamma | 5 |
38
  | noise_offset | 0.0357 |
39
+ | max_train_epochs | 3 |
40
  | batch_size | 10 |
41
  | enable_bucket | true |
42
  | resolution | [1024,1024] |
43
 
44
+
45
+ - 2023年8月7日
46
+
47
+ nijijourneyの画像4500枚ぐらいでフルファインチューニングしました。fp16で壊れないVAEに取り替えました。
48
+
49
+ 学習率1e-07が低すぎたようで絵があまり変化しませんでした。次回は学習率を上げようと思います。
50
+
51
  - 2023年8月1日
52
 
53
  nijijourneyの画像100枚ぐらいでLoRAファインチューニングなどをしました。
 
63
 
64
  Prompt:
65
  ```
66
+ 1girl, town
67
  ```
68
  Negative prompt:
69
  ```