| 14:19:54-924440 INFO Starting SD-Trainer Mikazuki GUI... | |
| 14:19:54-927178 INFO Base directory: /root/lora-scripts, Working directory: /root/lora-scripts | |
| 14:19:54-927884 INFO Linux Python 3.10.9 /root/.conda/envs/lora/bin/python | |
| 14:19:54-933201 INFO Starting tageditor... | |
| 14:19:54-936010 INFO Starting tensorboard... | |
| 14:19:58-704848 INFO Server started at http://127.0.0.1:28000 | |
| TensorFlow installation not found - running with reduced feature set. | |
| NOTE: Using experimental fast data loading logic. To disable, pass | |
| "--load_fast=false" and report issues on GitHub. More details: | |
| https://github.com/tensorflow/tensorboard/issues/4784 | |
| TensorBoard 2.10.1 at http://127.0.0.1:6006/ (Press CTRL+C to quit) | |
| 14:20:52-995764 INFO Torch 2.3.0+cu121 | |
| 14:20:53-470315 INFO Torch backend: nVidia CUDA 12.1 cuDNN 8902 | |
| 14:20:53-876159 INFO Torch detected GPU: NVIDIA A100-SXM4-80GB VRAM 81051 Arch (8, 0) Cores 108 | |
| 14:24:14-346637 INFO Training started with config file / 训练开始，使用配置文件: /root/lora-scripts/config/autosave/20240716-142414.toml | |
| 14:24:14-349477 INFO Task 6fd14190-b173-4715-b710-7293b373447e created | |
| The following values were not passed to `accelerate launch` and had defaults used instead: | |
| `--num_processes` was set to a value of `1` | |
| `--num_machines` was set to a value of `1` | |
| `--mixed_precision` was set to a value of `'no'` | |
| `--dynamo_backend` was set to a value of `'no'` | |
| To avoid this warning pass in values for each of the problematic parameters or run `accelerate config`. | |
| 2024-07-16 14:24:58 INFO Loading settings from /root/lora-scripts/config/autosave/20240716-142414.toml... train_util.py:3744 | |
| INFO /root/lora-scripts/config/autosave/20240716-142414 train_util.py:3763 | |
| 2024-07-16 14:24:58 INFO prepare tokenizer train_util.py:4227 | |
| 2024-07-16 14:24:59 INFO update token length: 255 train_util.py:4244 | |
| 2024-07-16 14:25:00 INFO prepare images. train_util.py:1572 | |
| INFO found directory /train6/1_dongman contains 916 image files train_util.py:1519 | |
| INFO 916 train images with repeating. train_util.py:1613 | |
| INFO 0 reg images. train_util.py:1616 | |
| WARNING no regularization images / 正則化画像が見つかりませんでした train_util.py:1621 | |
| INFO [Dataset 0] config_util.py:565 | |
| batch_size: 64 | |
| resolution: (1024, 1024) | |
| enable_bucket: True | |
| network_multiplier: 1.0 | |
| min_bucket_reso: 256 | |
| max_bucket_reso: 2048 | |
| bucket_reso_steps: 64 | |
| bucket_no_upscale: False | |
| [Subset 0 of Dataset 0] | |
| image_dir: "/train6/1_dongman" | |
| image_count: 916 | |
| num_repeats: 1 | |
| shuffle_caption: True | |
| keep_tokens: 0 | |
| keep_tokens_separator: | |
| secondary_separator: None | |
| enable_wildcard: False | |
| caption_dropout_rate: 0.0 | |
| caption_dropout_every_n_epoches: 0 | |
| caption_tag_dropout_rate: 0.0 | |
| caption_prefix: None | |
| caption_suffix: None | |
| color_aug: False | |
| flip_aug: False | |
| face_crop_aug_range: None | |
| random_crop: False | |
| token_warmup_min: 1, | |
| token_warmup_step: 0, | |
| is_reg: False | |
| class_tokens: dongman | |
| caption_extension: .txt | |
| INFO [Dataset 0] config_util.py:571 | |
| INFO loading image sizes. train_util.py:853 | |
| 100%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 916/916 [00:00<00:00, 85199.42it/s] | |
| INFO make buckets train_util.py:859 | |
| INFO number of images (including repeats) / 各bucketの画像枚数（繰り返し回数を含む） train_util.py:905 | |
| INFO bucket 0: resolution (704, 1408), count: 29 train_util.py:910 | |
| INFO bucket 1: resolution (768, 1280), count: 6 train_util.py:910 | |
| INFO bucket 2: resolution (768, 1344), count: 723 train_util.py:910 | |
| INFO bucket 3: resolution (832, 1216), count: 123 train_util.py:910 | |
| INFO bucket 4: resolution (1216, 832), count: 2 train_util.py:910 | |
| INFO bucket 5: resolution (1344, 768), count: 33 train_util.py:910 | |
| INFO mean ar error (without repeats): 0.011380946831128346 train_util.py:915 | |
| INFO prepare accelerator train_db.py:106 | |
| wandb: Currently logged in as: cn42083120024 (renwu). Use `wandb login --relogin` to force relogin | |
| wandb: Appending key for api.wandb.ai to your netrc file: /root/.netrc | |
| accelerator device: cuda | |
| 2024-07-16 14:25:24 INFO loading model for process 0/1 train_util.py:4385 | |
| INFO load StableDiffusion checkpoint: ./sd-models/model.safetensors train_util.py:4341 | |
| 2024-07-16 14:25:29 INFO UNet2DConditionModel: 64, 8, 768, False, False original_unet.py:1387 | |
| 2024-07-16 14:25:56 INFO loading u-net: <All keys matched successfully> model_util.py:1009 | |
| 2024-07-16 14:26:01 INFO loading vae: <All keys matched successfully> model_util.py:1017 | |
| 2024-07-16 14:26:09 INFO loading text encoder: <All keys matched successfully> model_util.py:1074 | |
| INFO Enable xformers for U-Net train_util.py:2660 | |
| INFO [Dataset 0] train_util.py:2079 | |
| INFO caching latents. train_util.py:974 | |
| INFO checking cache validity... train_util.py:984 | |
| 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 916/916 [00:00<00:00, 4252.76it/s] | |
| 2024-07-16 14:26:10 INFO caching latents... train_util.py:1021 | |
| 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 916/916 [08:53<00:00, 1.72it/s] | |
| 2024-07-16 14:35:03 INFO CrossAttnDownBlock2D False -> True original_unet.py:1521 | |
| INFO CrossAttnDownBlock2D False -> True original_unet.py:1521 | |
| INFO CrossAttnDownBlock2D False -> True original_unet.py:1521 | |
| INFO DownBlock2D False -> True original_unet.py:1521 | |
| INFO UNetMidBlock2DCrossAttn False -> True original_unet.py:1521 | |
| INFO UpBlock2D False -> True original_unet.py:1521 | |
| INFO CrossAttnUpBlock2D False -> True original_unet.py:1521 | |
| INFO CrossAttnUpBlock2D False -> True original_unet.py:1521 | |
| INFO CrossAttnUpBlock2D False -> True original_unet.py:1521 | |
| prepare optimizer, data loader etc. | |
| 2024-07-16 14:35:04 INFO use 8-bit AdamW optimizer | {} train_util.py:3889 | |
| override steps. steps for 30 epochs is / 指定エポックまでのステップ数: 540 | |
| running training / 学習開始 | |
| num train images * repeats / 学習画像の数×繰り返し回数: 916 | |
| num reg images / 正則化画像の数: 0 | |
| num batches per epoch / 1epochのバッチ数: 18 | |
| num epochs / epoch数: 30 | |
| batch size per device / バッチサイズ: 64 | |
| total train batch size (with parallel & distributed & accumulation) / 総バッチサイズ（並列学習、勾配合計含む）: 64 | |
| gradient ccumulation steps / 勾配を合計するステップ数 = 1 | |
| total optimization steps / 学習ステップ数: 540 | |
| steps: 0%| | 0/540 [00:00<?, ?it/s]wandb: wandb version 0.17.4 is available! To upgrade, please run: | |
| wandb: $ pip install wandb --upgrade | |
| wandb: Tracking run with wandb version 0.16.2 | |
| wandb: Run data is saved locally in ./logs/GPU-使用率-温度检测_perfix20240716142500/wandb/run-20240716_143506-aynrisa1 | |
| wandb: Run `wandb offline` to turn off syncing. | |
| wandb: Syncing run fluent-meadow-42 | |
| wandb: ⭐️ View project at https://wandb.ai/renwu/GPU-%E4%BD%BF%E7%94%A8%E7%8E%87-%E6%B8%A9%E5%BA%A6%E6%A3%80%E6%B5%8B | |
| wandb: 🚀 View run at https://wandb.ai/renwu/GPU-%E4%BD%BF%E7%94%A8%E7%8E%87-%E6%B8%A9%E5%BA%A6%E6%A3%80%E6%B5%8B/runs/aynrisa1 | |
| epoch 1/30 | |
| steps: 3%|███▋ | 18/540 [03:02<1:28:15, 10.14s/it, avr_loss=0.124]2024-07-16 14:38:08 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000001.safetensors train_util.py:4694 | |
| wandb: WARNING Step only supports monotonically increasing values, use define_metric to set a custom x axis. For details see: https://wandb.me/define-metric | |
| wandb: WARNING (User provided step: 1 is less than current step: 18. Dropping entry: {'loss/epoch': 0.12387802017231782, '_timestamp': 1721111888.7564518}). | |
| epoch 2/30 | |
| steps: 7%|███████▍ | 36/540 [05:53<1:22:28, 9.82s/it, avr_loss=0.127]2024-07-16 14:40:59 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000002.safetensors train_util.py:4694 | |
| wandb: WARNING (User provided step: 2 is less than current step: 36. Dropping entry: {'loss/epoch': 0.12723200561271775, '_timestamp': 1721112059.637897}). | |
| epoch 3/30 | |
| 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 916/916 [08:53<00:00, 1.72it/s] | |
| 2024-07-16 14:35:03 INFO CrossAttnDownBlock2D False -> True original_unet.py:1521 | |
| INFO CrossAttnDownBlock2D False -> True original_unet.py:1521 | |
| INFO CrossAttnDownBlock2D False -> True original_unet.py:1521 | |
| INFO DownBlock2D False -> True original_unet.py:1521 | |
| INFO UNetMidBlock2DCrossAttn False -> True original_unet.py:1521 | |
| INFO UpBlock2D False -> True original_unet.py:1521 | |
| INFO CrossAttnUpBlock2D False -> True original_unet.py:1521 | |
| INFO CrossAttnUpBlock2D False -> True original_unet.py:1521 | |
| INFO CrossAttnUpBlock2D False -> True original_unet.py:1521 | |
| prepare optimizer, data loader etc. | |
| 2024-07-16 14:35:04 INFO use 8-bit AdamW optimizer | {} train_util.py:3889 | |
| override steps. steps for 30 epochs is / 指定エポックまでのステップ数: 540 | |
| running training / 学習開始 | |
| num train images * repeats / 学習画像の数×繰り返し回数: 916 | |
| num reg images / 正則化画像の数: 0 | |
| num batches per epoch / 1epochのバッチ数: 18 | |
| num epochs / epoch数: 30 | |
| batch size per device / バッチサイズ: 64 | |
| total train batch size (with parallel & distributed & accumulation) / 総バッチサイズ（並列学習、勾配合計含む）: 64 | |
| gradient ccumulation steps / 勾配を合計するステップ数 = 1 | |
| total optimization steps / 学習ステップ数: 540 | |
| steps: 0%| | 0/540 [00:00<?, ?it/s]wandb: wandb version 0.17.4 is available! To upgrade, please run: | |
| wandb: $ pip install wandb --upgrade | |
| wandb: Tracking run with wandb version 0.16.2 | |
| wandb: Run data is saved locally in ./logs/GPU-使用率-温度检测_perfix20240716142500/wandb/run-20240716_143506-aynrisa1 | |
| wandb: Run `wandb offline` to turn off syncing. | |
| wandb: Syncing run fluent-meadow-42 | |
| wandb: ⭐️ View project at https://wandb.ai/renwu/GPU-%E4%BD%BF%E7%94%A8%E7%8E%87-%E6%B8%A9%E5%BA%A6%E6%A3%80%E6%B5%8B | |
| wandb: 🚀 View run at https://wandb.ai/renwu/GPU-%E4%BD%BF%E7%94%A8%E7%8E%87-%E6%B8%A9%E5%BA%A6%E6%A3%80%E6%B5%8B/runs/aynrisa1 | |
| epoch 1/30 | |
| steps: 3%|███▋ | 18/540 [03:02<1:28:15, 10.14s/it, avr_loss=0.124]2024-07-16 14:38:08 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000001.safetensors train_util.py:4694 | |
| wandb: WARNING Step only supports monotonically increasing values, use define_metric to set a custom x axis. For details see: https://wandb.me/define-metric | |
| wandb: WARNING (User provided step: 1 is less than current step: 18. Dropping entry: {'loss/epoch': 0.12387802017231782, '_timestamp': 1721111888.7564518}). | |
| epoch 2/30 | |
| steps: 7%|███████▍ | 36/540 [05:53<1:22:28, 9.82s/it, avr_loss=0.127]2024-07-16 14:40:59 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000002.safetensors train_util.py:4694 | |
| wandb: WARNING (User provided step: 2 is less than current step: 36. Dropping entry: {'loss/epoch': 0.12723200561271775, '_timestamp': 1721112059.637897}). | |
| epoch 3/30 | |
| steps: 10%|███████████ | 54/540 [08:56<1:20:24, 9.93s/it, avr_loss=0.127]2024-07-16 14:44:02 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000003.safetensors train_util.py:4694 | |
| epoch 4/30 | |
| wandb: WARNING (User provided step: 3 is less than current step: 54. Dropping entry: {'loss/epoch': 0.1265922114253044, '_timestamp': 1721112242.1847267}). | |
| steps: 13%|██████████████▊ | 72/540 [11:52<1:17:14, 9.90s/it, avr_loss=0.127]2024-07-16 14:46:59 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000004.safetensors train_util.py:4694 | |
| epoch 5/30 | |
| wandb: WARNING (User provided step: 4 is less than current step: 72. Dropping entry: {'loss/epoch': 0.12727194983098242, '_timestamp': 1721112419.1562445}). | |
| steps: 17%|██████████████████▌ | 90/540 [14:49<1:14:05, 9.88s/it, avr_loss=0.137]2024-07-16 14:49:55 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000005.safetensors train_util.py:4694 | |
| epoch 6/30 | |
| wandb: WARNING (User provided step: 5 is less than current step: 90. Dropping entry: {'loss/epoch': 0.13734278620945084, '_timestamp': 1721112595.198857}). | |
| steps: 20%|██████████████████████ | 108/540 [17:23<1:09:35, 9.67s/it, avr_loss=0.118]2024-07-16 14:52:30 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000006.safetensors train_util.py:4694 | |
| wandb: WARNING (User provided step: 6 is less than current step: 108. Dropping entry: {'loss/epoch': 0.11821738423572646, '_timestamp': 1721112750.0980027}). | |
| epoch 7/30 | |
| steps: 23%|█████████████████████████▋ | 126/540 [20:11<1:06:20, 9.61s/it, avr_loss=0.124]2024-07-16 14:55:17 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000007.safetensors train_util.py:4694 | |
| wandb: WARNING (User provided step: 7 is less than current step: 126. Dropping entry: {'loss/epoch': 0.12375647243526247, '_timestamp': 1721112917.4713383}). | |
| epoch 8/30 | |
| steps: 27%|█████████████████████████████▎ | 144/540 [23:01<1:03:18, 9.59s/it, avr_loss=0.121]2024-07-16 14:58:07 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000008.safetensors train_util.py:4694 | |
| wandb: WARNING (User provided step: 8 is less than current step: 144. Dropping entry: {'loss/epoch': 0.1209758756061395, '_timestamp': 1721113087.5138469}). | |
| epoch 9/30 | |
| steps: 30%|█████████████████████████████████▎ | 162/540 [26:18<1:01:23, 9.75s/it, avr_loss=0.12]2024-07-16 15:01:24 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000009.safetensors train_util.py:4694 | |
| wandb: WARNING (User provided step: 9 is less than current step: 162. Dropping entry: {'loss/epoch': 0.12002807193332249, '_timestamp': 1721113284.88461}). | |
| epoch 10/30 | |
| steps: 33%|█████████████████████████████████████▎ | 180/540 [29:06<58:13, 9.70s/it, avr_loss=0.123]2024-07-16 15:04:13 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000010.safetensors train_util.py:4694 | |
| wandb: WARNING (User provided step: 10 is less than current step: 180. Dropping entry: {'loss/epoch': 0.12288845289084646, '_timestamp': 1721113453.062439}). | |
| epoch 11/30 | |
| steps: 36%|███████████████████████████████████████▊ | 192/540 [31:07<56:25, 9.73s/it, avr_loss=0.129] | |
| steps: 37%|█████████████████████████████████████████▍ | 198/540 [31:57<55:12, 9.68s/it, avr_loss=0.13]2024-07-16 15:07:03 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000011.safetensors train_util.py:4694 | |
| epoch 12/30 | |
| wandb: WARNING (User provided step: 11 is less than current step: 198. Dropping entry: {'loss/epoch': 0.1302021476957533, '_timestamp': 1721113623.696793}). | |
| steps: 39%|███████████████████████████████████████████▌ | 210/540 [33:40<52:55, 9.62s/it, avr_loss=0.116] | |
| steps: 22%|████████████████████████▍ | 120/540 [19:22<1:07:47, 9.68s/it,steps: 22%|████████████████████████▍ | 120/540 [19:22<1:07:47, 9.68s/it,steps: 22%|████████████████████████▋ | 121/540 [19:25<1:07:16, 9.63s/it,steps: 22%|████████████████████████▋ | 121/540 [19:25<1:07:16, 9.63s/it,steps: 23%|████████████████████████▊ | 122/540 [19:36<1:07:09, 9.64s/it,steps: 23%|████████████████████████▊ | 122/540 [19:36<1:07:09, 9.64s/it,steps: 23%|█████████████████████████ | 123/540 [19:47<1:07:05, 9.65s/it,steps: 23%|█████████████████████████ | 123/540 [19:47<1:07:05, 9.65s/it,steps: 23%|█████████████████████████▎ | 124/540 [19:58<1:07:02, 9.67s/it,steps: 23%|█████████████████████████▎ | 124/540 [19:58<1:07:02, 9.67s/it,steps: 23%|█████████████████████████▍ | 125/540 [20:00<1:06:24, 9.60s/it,steps: 23%|█████████████████████████▍ | 125/540 [20:00<1:06:24, 9.60s/it,steps: 23%|█████████████████████████▋ | 126/540 [20:11<1:06:20, 9.61s/it,steps: 23%|█████████████████████████▋ | 126/540 [20:11<1:06:20, 9.61s/it, avr_loss=0.124]2024-07-16 14:55:17 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000007.safetensors train_util.py:4694 | |
| wandb: WARNING (User provided step: 7 is less than current step: 126. Dropping entry: {'loss/epoch': 0.12375647243526247, '_timestamp': 1721112917.4713383}). | |
| epoch 8/30 | |
| steps: 24%|█████████████████████████▊ | 127/540 [20:27<1:06:30, 9.66s/it,steps: 24%|██████████████████████████ | 127/540 [20:27<1:06:30, 9.66s/itsteps: 24%|██████████████████████████▎ | 128/540 [20:27<1:05:51, 9.59s/itsteps: 24%|██████████████████████████ | 128/540 [20:27<1:05:51, 9.59s/it,steps: 24%|██████████████████████████▎ | 129/540 [20:39<1:05:47, 9.61s/it,steps: 24%|██████████████████████████▎ | 129/540 [20:39<1:05:47, 9.61s/it,steps: 24%|██████████████████████████▍ | 130/540 [20:50<1:05:43, 9.62s/it,steps: 24%|██████████████████████████▍ | 130/540 [20:50<1:05:43, 9.62s/it,steps: 24%|██████████████████████████▋ | 131/540 [21:01<1:05:39, 9.63s/it,steps: 24%|██████████████████████████▋ | 131/540 [21:01<1:05:39, 9.63s/it,steps: 24%|██████████████████████████▉ | 132/540 [21:13<1:05:35, 9.65s/it,steps: 24%|██████████████████████████▉ | 132/540 [21:13<1:05:35, 9.65s/it,steps: 25%|███████████████████████████ | 133/540 [21:24<1:05:31, 9.66s/it,steps: 25%|███████████████████████████ | 133/540 [21:24<1:05:31, 9.66s/it,steps: 25%|███████████████████████████▎ | 134/540 [21:30<1:05:10, 9.63s/it,steps: 25%|███████████████████████████▌ | 134/540 [21:30<1:05:10, 9.63s/itsteps: 25%|███████████████████████████▊ | 135/540 [21:41<1:05:05, 9.64s/itsteps: 25%|███████████████████████████▌ | 135/540 [21:41<1:05:05, 9.64s/it,steps: 25%|███████████████████████████▋ | 136/540 [21:45<1:04:38, 9.60s/it,steps: 25%|███████████████████████████▉ | 136/540 [21:45<1:04:38, 9.60s/itsteps: 25%|████████████████████████████▏ | 137/540 [21:56<1:04:33, 9.61s/itsteps: 25%|███████████████████████████▉ | 137/540 [21:56<1:04:33, 9.61s/it,steps: 26%|████████████████████████████ | 138/540 [21:58<1:03:59, 9.55s/it,steps: 26%|████████████████████████████ | 138/540 [21:58<1:03:59, 9.55s/it,steps: 26%|████████████████████████████▎ | 139/540 [22:09<1:03:55, 9.57s/it,steps: 26%|████████████████████████████▎ | 139/540 [22:09<1:03:55, 9.57s/it,steps: 26%|████████████████████████████▌ | 140/540 [22:15<1:03:35, 9.54s/it,steps: 26%|████████████████████████████▌ | 140/540 [22:15<1:03:35, 9.54s/it,steps: 26%|████████████████████████████▋ | 141/540 [22:26<1:03:31, 9.55s/it,steps: 26%|████████████████████████████▋ | 141/540 [22:26<1:03:31, 9.55s/it,steps: 26%|████████████████████████████▉ | 142/540 [22:38<1:03:27, 9.57s/it,steps: 26%|████████████████████████████▉ | 142/540 [22:38<1:03:27, 9.57s/it,steps: 26%|█████████████████████████████▏ | 143/540 [22:49<1:03:23, 9.58s/it,steps: 26%|█████████████████████████████▍ | 143/540 [22:49<1:03:23, 9.58s/itsteps: 27%|█████████████████████████████▌ | 144/540 [23:01<1:03:18, 9.59s/itsteps: 27%|█████████████████████████████▎ | 144/540 [23:01<1:03:18, 9.59s/it, avr_loss=0.121]2024-07-16 14:58:07 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000008.safetensors train_util.py:4694 | |
| wandb: WARNING (User provided step: 8 is less than current step: 144. Dropping entry: {'loss/epoch': 0.1209758756061395, '_timestamp': 1721113087.5138469}). | |
| epoch 9/30 | |
| steps: 27%|█████████████████████████████▌ | 145/540 [23:23<1:03:43, 9.68s/it,steps: 27%|█████████████████████████████▌ | 145/540 [23:23<1:03:43, 9.68s/it,steps: 27%|█████████████████████████████▋ | 146/540 [23:35<1:03:38, 9.69s/it,steps: 27%|█████████████████████████████▋ | 146/540 [23:35<1:03:38, 9.69s/it,steps: 27%|█████████████████████████████▉ | 147/540 [23:45<1:03:30, 9.70s/it,steps: 27%|█████████████████████████████▉ | 147/540 [23:45<1:03:30, 9.70s/it,steps: 27%|██████████████████████████████▏ | 148/540 [23:56<1:03:25, 9.71s/it,steps: 27%|██████████████████████████████▏ | 148/540 [23:56<1:03:25, 9.71s/it,steps: 28%|██████████████████████████████▎ | 149/540 [24:08<1:03:20, 9.72s/it,steps: 28%|██████████████████████████████▎ | 149/540 [24:08<1:03:20, 9.72s/it,steps: 28%|██████████████████████████████▌ | 150/540 [24:19<1:03:15, 9.73s/it,steps: 28%|██████████████████████████████▌ | 150/540 [24:19<1:03:15, 9.73s/it,steps: 28%|██████████████████████████████▊ | 151/540 [24:31<1:03:10, 9.74s/it,steps: 28%|██████████████████████████████▊ | 151/540 [24:31<1:03:10, 9.74s/it,steps: 28%|██████████████████████████████▉ | 152/540 [24:42<1:03:04, 9.75s/it,steps: 28%|██████████████████████████████▉ | 152/540 [24:42<1:03:04, 9.75s/it,steps: 28%|███████████████████████████████▏ | 153/540 [24:54<1:02:59, 9.77s/it,steps: 28%|███████████████████████████████▏ | 153/540 [24:54<1:02:59, 9.77s/it,steps: 29%|███████████████████████████████▎ | 154/540 [25:05<1:02:53, 9.78s/it,steps: 29%|███████████████████████████████▎ | 154/540 [25:05<1:02:53, 9.78s/it,steps: 29%|███████████████████████████████▌ | 155/540 [25:16<1:02:47, 9.79s/it,steps: 29%|███████████████████████████████▌ | 155/540 [25:16<1:02:47, 9.79s/it,steps: 29%|███████████████████████████████▊ | 156/540 [25:28<1:02:42, 9.80s/it,steps: 29%|███████████████████████████████▊ | 156/540 [25:28<1:02:42, 9.80s/it,steps: 29%|███████████████████████████████▉ | 157/540 [25:38<1:02:33, 9.80s/it,steps: 29%|███████████████████████████████▉ | 157/540 [25:38<1:02:33, 9.80s/it,steps: 29%|████████████████████████████████▏ | 158/540 [25:43<1:02:12, 9.77s/it,steps: 29%|████████████████████████████████▍ | 158/540 [25:43<1:02:12, 9.77s/itsteps: 29%|████████████████████████████████▋ | 159/540 [25:55<1:02:06, 9.78s/itsteps: 29%|████████████████████████████████▍ | 159/540 [25:55<1:02:06, 9.78s/it,steps: 30%|████████████████████████████████▌ | 160/540 [25:55<1:01:35, 9.72s/it,steps: 30%|████████████████████████████████▌ | 160/540 [25:55<1:01:35, 9.72s/it,steps: 30%|████████████████████████████████▊ | 161/540 [26:07<1:01:29, 9.73s/it,steps: 30%|████████████████████████████████▊ | 161/540 [26:07<1:01:29, 9.73s/it,steps: 30%|█████████████████████████████████ | 162/540 [26:18<1:01:23, 9.75s/it,steps: 30%|█████████████████████████████████▎ | 162/540 [26:18<1:01:23, 9.75s/it, avr_loss=0.12]2024-07-16 15:01:24 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000009.safetensors train_util.py:4694 | |
| wandb: WARNING (User provided step: 9 is less than current step: 162. Dropping entry: {'loss/epoch': 0.12002807193332249, '_timestamp': 1721113284.88461}). | |
| epoch 10/30 | |
| steps: 30%|█████████████████████████████████▌ | 163/540 [26:30<1:01:18, 9.76s/itsteps: 30%|█████████████████████████████████▏ | 163/540 [26:30<1:01:18, 9.76s/it,steps: 30%|█████████████████████████████████▍ | 164/540 [26:41<1:01:12, 9.77s/it,steps: 30%|█████████████████████████████████▍ | 164/540 [26:41<1:01:12, 9.77s/it,steps: 31%|█████████████████████████████████▌ | 165/540 [26:53<1:01:06, 9.78s/it,steps: 31%|█████████████████████████████████▌ | 165/540 [26:53<1:01:06, 9.78s/it,steps: 31%|█████████████████████████████████▊ | 166/540 [26:58<1:00:46, 9.75s/it,steps: 31%|█████████████████████████████████▊ | 166/540 [26:58<1:00:46, 9.75s/it,steps: 31%|██████████████████████████████████ | 167/540 [27:09<1:00:40, 9.76s/it,steps: 31%|██████████████████████████████████ | 167/540 [27:09<1:00:40, 9.76s/it,steps: 31%|██████████████████████████████████▏ | 168/540 [27:21<1:00:34, 9.77s/it,steps: 31%|██████████████████████████████████▏ | 168/540 [27:21<1:00:34, 9.77s/it,steps: 31%|██████████████████████████████████▍ | 169/540 [27:32<1:00:28, 9.78s/it,steps: 31%|██████████████████████████████████▍ | 169/540 [27:32<1:00:28, 9.78s/it,steps: 31%|██████████████████████████████████▋ | 170/540 [27:43<1:00:20, 9.78s/it,steps: 31%|██████████████████████████████████▋ | 170/540 [27:43<1:00:20, 9.78s/it,steps: 32%|██████████████████████████████████▊ | 171/540 [27:54<1:00:14, 9.79s/it,steps: 32%|██████████████████████████████████▊ | 171/540 [27:54<1:00:14, 9.79s/it,steps: 32%|███████████████████████████████████ | 172/540 [28:05<1:00:07, 9.80s/it,steps: 32%|███████████████████████████████████▎ | 172/540 [28:05<1:00:07, 9.80s/itsteps: 32%|████████████████████████████████████▏ | 173/540 [28:06<59:37, 9.75s/itsteps: 32%|███████████████████████████████████▉ | 173/540 [28:06<59:37, 9.75s/it,steps: 32%|████████████████████████████████████ | 174/540 [28:17<59:31, 9.76s/it,steps: 32%|████████████████████████████████████ | 174/540 [28:17<59:31, 9.76s/it,steps: 32%|████████████████████████████████████▎ | 175/540 [28:21<59:08, 9.72s/it,steps: 32%|████████████████████████████████████▎ | 175/540 [28:21<59:08, 9.72s/it,steps: 33%|████████████████████████████████████▌ | 176/540 [28:26<58:49, 9.70s/it,steps: 33%|████████████████████████████████████▌ | 176/540 [28:26<58:49, 9.70s/it,steps: 33%|████████████████████████████████████▋ | 177/540 [28:37<58:43, 9.71s/it,steps: 33%|████████████████████████████████████▋ | 177/540 [28:37<58:43, 9.71s/it,steps: 33%|████████████████████████████████████▉ | 178/540 [28:49<58:37, 9.72s/it,steps: 33%|████████████████████████████████████▉ | 178/540 [28:49<58:37, 9.72s/it,steps: 33%|█████████████████████████████████████▏ | 179/540 [29:00<58:30, 9.73s/it,steps: 33%|█████████████████████████████████████▏ | 179/540 [29:00<58:30, 9.73s/it,steps: 33%|█████████████████████████████████████▎ | 180/540 [29:06<58:13, 9.70s/it,steps: 33%|█████████████████████████████████████▎ | 180/540 [29:06<58:13, 9.70s/it, avr_loss=0.123]2024-07-16 15:04:13 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000010.safetensors train_util.py:4694 | |
| wandb: WARNING (User provided step: 10 is less than current step: 180. Dropping entry: {'loss/epoch': 0.12288845289084646, '_timestamp': 1721113453.062439}). | |
| epoch 11/30 | |
| steps: 34%|█████████████████████████████████████▌ | 181/540 [29:31<58:33, 9.79s/it,steps: 34%|█████████████████████████████████████▌ | 181/540 [29:31<58:33, 9.79s/it,steps: 34%|█████████████████████████████████████▋ | 182/540 [29:42<58:26, 9.79s/it,steps: 34%|█████████████████████████████████████▋ | 182/540 [29:42<58:26, 9.79s/it,steps: 34%|█████████████████████████████████████▉ | 183/540 [29:46<58:04, 9.76s/it,steps: 34%|█████████████████████████████████████▉ | 183/540 [29:46<58:04, 9.76s/it,steps: 34%|██████████████████████████████████████▏ | 184/540 [29:57<57:57, 9.77s/it,steps: 34%|██████████████████████████████████████▏ | 184/540 [29:57<57:58, 9.77s/it,steps: 34%|██████████████████████████████████████▎ | 185/540 [30:09<57:51, 9.78s/it,steps: 34%|██████████████████████████████████████▎ | 185/540 [30:09<57:51, 9.78s/it,steps: 34%|██████████████████████████████████████▌ | 186/540 [30:20<57:44, 9.79s/it,steps: 34%|██████████████████████████████████████▌ | 186/540 [30:20<57:44, 9.79s/it,steps: 35%|██████████████████████████████████████▊ | 187/540 [30:21<57:18, 9.74s/it,steps: 35%|██████████████████████████████████████▊ | 187/540 [30:21<57:18, 9.74s/it,steps: 35%|██████████████████████████████████████▉ | 188/540 [30:33<57:12, 9.75s/it,steps: 35%|██████████████████████████████████████▉ | 188/540 [30:33<57:12, 9.75s/it,steps: 35%|███████████████████████████████████████▏ | 189/540 [30:43<57:03, 9.75s/it,steps: 35%|███████████████████████████████████████▏ | 189/540 [30:43<57:03, 9.75s/it,steps: 35%|███████████████████████████████████████▍ | 190/540 [30:44<56:38, 9.71s/it,steps: 35%|███████████████████████████████████████▍ | 190/540 [30:44<56:38, 9.71s/it,steps: 35%|███████████████████████████████████████▌ | 191/540 [30:56<56:31, 9.72s/it,steps: 35%|███████████████████████████████████████▌ | 191/540 [30:56<56:31, 9.72s/it,steps: 36%|███████████████████████████████████████▊ | 192/540 [31:07<56:25, 9.73s/it,steps: 36%|███████████████████████████████████████▊ | 192/540 [31:07<56:25, 9.73s/it, avr_loss=0.129] | |
| steps: 36%|████████████████████████████████████████ | 193/540 [31:19<56:18, 9.74s/it,steps: 36%|████████████████████████████████████████ | 193/540 [31:19<56:18, 9.74s/it,steps: 36%|████████████████████████████████████████▏ | 194/540 [31:30<56:11, 9.75s/it,steps: 36%|████████████████████████████████████████▌ | 194/540 [31:30<56:11, 9.75s/itsteps: 36%|████████████████████████████████████████▊ | 195/540 [31:42<56:05, 9.75s/itsteps: 36%|████████████████████████████████████████▍ | 195/540 [31:42<56:05, 9.75s/it,steps: 36%|████████████████████████████████████████▋ | 196/540 [31:42<55:39, 9.71s/it,steps: 36%|████████████████████████████████████████▋ | 196/540 [31:42<55:39, 9.71s/it,steps: 36%|████████████████████████████████████████▊ | 197/540 [31:46<55:18, 9.68s/it,steps: 36%|████████████████████████████████████████▊ | 197/540 [31:46<55:18, 9.68s/it,steps: 37%|█████████████████████████████████████████ | 198/540 [31:57<55:12, 9.68s/it,steps: 37%|█████████████████████████████████████████▍ | 198/540 [31:57<55:12, 9.68s/it, avr_loss=0.13]2024-07-16 15:07:03 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000011.safetensors train_util.py:4694 | |
| epoch 12/30 | |
| wandb: WARNING (User provided step: 11 is less than current step: 198. Dropping entry: {'loss/epoch': 0.1302021476957533, '_timestamp': 1721113623.696793}). | |
| steps: 37%|█████████████████████████████████████████▋ | 199/540 [32:20<55:25, 9.75s/itsteps: 37%|█████████████████████████████████████████▋ | 199/540 [32:20<55:25, 9.75s/itsteps: 37%|█████████████████████████████████████████▊ | 200/540 [32:21<55:01, 9.71s/itsteps: 37%|█████████████████████████████████████████▍ | 200/540 [32:21<55:01, 9.71s/it,steps: 37%|█████████████████████████████████████████▋ | 201/540 [32:25<54:40, 9.68s/it,steps: 37%|█████████████████████████████████████████▋ | 201/540 [32:25<54:40, 9.68s/it,steps: 37%|█████████████████████████████████████████▉ | 202/540 [32:36<54:34, 9.69s/it,steps: 37%|██████████████████████████████████████████▎ | 202/540 [32:36<54:34, 9.69s/itsteps: 38%|██████████████████████████████████████████▍ | 203/540 [32:48<54:27, 9.70s/itsteps: 38%|██████████████████████████████████████████▍ | 203/540 [32:48<54:27, 9.70s/itsteps: 38%|██████████████████████████████████████████▋ | 204/540 [32:58<54:19, 9.70s/itsteps: 38%|██████████████████████████████████████████▋ | 204/540 [32:58<54:19, 9.70s/itsteps: 38%|██████████████████████████████████████████▉ | 205/540 [33:04<54:03, 9.68s/itsteps: 38%|██████████████████████████████████████████▌ | 205/540 [33:04<54:03, 9.68s/it,steps: 38%|██████████████████████████████████████████▋ | 206/540 [33:05<53:38, 9.64s/it,steps: 38%|██████████████████████████████████████████▋ | 206/540 [33:05<53:38, 9.64s/it,steps: 38%|██████████████████████████████████████████▉ | 207/540 [33:16<53:32, 9.65s/it,steps: 38%|██████████████████████████████████████████▉ | 207/540 [33:16<53:32, 9.65s/it,steps: 39%|███████████████████████████████████████████▏ | 208/540 [33:28<53:25, 9.65s/it,steps: 39%|███████████████████████████████████████████▏ | 208/540 [33:28<53:25, 9.65s/it,steps: 39%|███████████████████████████████████████████▎ | 209/540 [33:39<53:18, 9.66s/it,steps: 39%|███████████████████████████████████████████▎ | 209/540 [33:39<53:18, 9.66s/it,steps: 39%|███████████████████████████████████████████▌ | 210/540 [33:40<52:55, 9.62s/it,steps: 39%|███████████████████████████████████████████▌ | 210/540 [33:40<52:55, 9.62s/it,steps: 39%|███████████████████████████████████████████▊ | 211/540 [33:52<52:48, 9.63s/it,steps: 39%|███████████████████████████████████████████▊ | 211/540 [33:52<52:48, 9.63s/it,steps: 39%|███████████████████████████████████████████▉ | 212/540 [34:03<52:41, 9.64s/it,steps: 39%|███████████████████████████████████████████▉ | 212/540 [34:03<52:41, 9.64s/it,steps: 39%|████████████████████████████████████████████▏ | 213/540 [34:04<52:18, 9.60s/it,steps: 39%|████████████████████████████████████████████▏ | 213/540 [34:04<52:18, 9.60s/it,steps: 40%|████████████████████████████████████████████▍ | 214/540 [34:15<52:11, 9.61s/it,steps: 40%|████████████████████████████████████████████▍ | 214/540 [34:15<52:11, 9.61s/it,steps: 40%|████████████████████████████████████████████▌ | 215/540 [34:27<52:04, 9.61s/it,steps: 40%|████████████████████████████████████████████▌ | 215/540 [34:27<52:04, 9.61s/it,steps: 40%|████████████████████████████████████████████▊ | 216/540 [34:30<51:46, 9.59s/it,steps: 40%|████████████████████████████████████████████▊ | 216/540 [34:30<51:46, 9.59s/it, avr_loss=0.111]2024-07-16 15:09:36 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000012.safetensors train_util.py:4694 | |
| wandb: WARNING (User provided step: 12 is less than current step: 216. Dropping entry: {'loss/epoch': 0.11072513955231342, '_timestamp': 1721113776.9099343}). | |
| epoch 13/30 | |
| steps: 40%|█████████████████████████████████████████████ | 217/540 [34:56<52:00, 9.66s/it,steps: 40%|█████████████████████████████████████████████ | 217/540 [34:56<52:00, 9.66s/it,steps: 40%|█████████████████████████████████████████████▏ | 218/540 [35:07<51:53, 9.67s/it,steps: 40%|█████████████████████████████████████████████▏ | 218/540 [35:07<51:53, 9.67s/it,steps: 41%|█████████████████████████████████████████████▍ | 219/540 [35:19<51:46, 9.68s/it,steps: 41%|█████████████████████████████████████████████▍ | 219/540 [35:19<51:46, 9.68s/it,steps: 41%|█████████████████████████████████████████████▋ | 220/540 [35:30<51:39, 9.69s/it,steps: 41%|█████████████████████████████████████████████▋ | 220/540 [35:30<51:39, 9.69s/it,steps: 41%|█████████████████████████████████████████████▊ | 221/540 [35:42<51:32, 9.69s/it,steps: 41%|█████████████████████████████████████████████▊ | 221/540 [35:42<51:32, 9.69s/it,steps: 41%|██████████████████████████████████████████████ | 222/540 [35:48<51:17, 9.68s/it,steps: 41%|██████████████████████████████████████████████ | 222/540 [35:48<51:17, 9.68s/it,steps: 41%|██████████████████████████████████████████████▎ | 223/540 [36:00<51:10, 9.69s/it,steps: 41%|██████████████████████████████████████████████▎ | 223/540 [36:00<51:10, 9.69s/it,steps: 41%|██████████████████████████████████████████████▍ | 224/540 [36:01<50:48, 9.65s/it,steps: 41%|██████████████████████████████████████████████▍ | 224/540 [36:01<50:48, 9.65s/it,steps: 42%|██████████████████████████████████████████████▋ | 225/540 [36:07<50:34, 9.63s/it,steps: 42%|██████████████████████████████████████████████▋ | 225/540 [36:07<50:34, 9.63s/it,steps: 42%|██████████████████████████████████████████████▊ | 226/540 [36:18<50:27, 9.64s/it,steps: 42%|██████████████████████████████████████████████▊ | 226/540 [36:18<50:27, 9.64s/it,steps: 42%|███████████████████████████████████████████████ | 227/540 [36:30<50:20, 9.65s/it,steps: 42%|███████████████████████████████████████████████ | 227/540 [36:30<50:20, 9.65s/it,steps: 42%|███████████████████████████████████████████████▎ | 228/540 [36:46<50:19, 9.68s/it,steps: 42%|███████████████████████████████████████████████▎ | 228/540 [36:46<50:19, 9.68s/it,steps: 42%|███████████████████████████████████████████████▍ | 229/540 [36:47<49:57, 9.64s/it,steps: 42%|███████████████████████████████████████████████▍ | 229/540 [36:47<49:57, 9.64s/it,steps: 43%|███████████████████████████████████████████████▋ | 230/540 [36:58<49:50, 9.65s/it,steps: 43%|███████████████████████████████████████████████▋ | 230/540 [36:58<49:50, 9.65s/it,steps: 43%|███████████████████████████████████████████████▉ | 231/540 [37:10<49:43, 9.66s/it,steps: 43%|███████████████████████████████████████████████▉ | 231/540 [37:10<49:43, 9.66s/it,steps: 43%|████████████████████████████████████████████████ | 232/540 [37:21<49:36, 9.66s/it,steps: 43%|████████████████████████████████████████████████ | 232/540 [37:21<49:36, 9.66s/it,steps: 43%|████████████████████████████████████████████████▎ | 233/540 [37:33<49:28, 9.67s/it,steps: 43%|████████████████████████████████████████████████▎ | 233/540 [37:33<49:28, 9.67s/it,steps: 43%|████████████████████████████████████████████████▌ | 234/540 [37:44<49:21, 9.68s/it,steps: 43%|████████████████████████████████████████████████▌ | 234/540 [37:44<49:21, 9.68s/it, avr_loss=0.134]2024-07-16 15:12:50 INFO train_util.py:4693 | |
| INFO saving checkpoint: /root/dongman/dongman-000013.safetensors train_util.py:4694 | |
| wandb: WARNING (User provided step: 13 is less than current step: 234. Dropping entry: {'loss/epoch': 0.13372551649808884, '_timestamp': 1721113970.8481674}). | |
| epoch 14/30 | |
| steps: 44%|████████████████████████████████████████████████▋ | 235/540 [38:07<49:28, 9.73s/it,steps: 44%|████████████████████████████████████████████████▋ | 235/540 [38:07<49:28, 9.73s/it,steps: 44%|████████████████████████████████████████████████▉ | 236/540 [38:10<49:10, 9.71s/it,steps: 44%|█████████████████████████████████████████████████▍ | 236/540 [38:10<49:10, 9.71s/itsteps: 44%|█████████████████████████████████████████████████▌ | 237/540 [38:22<49:03, 9.71s/itsteps: 44%|█████████████████████████████████████████████████▏ | 237/540 [38:22<49:03, 9.71s/it,steps: 44%|█████████████████████████████████████████████████▎ | 238/540 [38:22<48:41, 9.67s/it,steps: 44%|█████████████████████████████████████████████████▎ | 238/540 [38:22<48:41, 9.67s/it,steps: 44%|█████████████████████████████████████████████████▌ | 239/540 [38:27<48:26, 9.66s/it,steps: 44%|█████████████████████████████████████████████████▌ | 239/540 [38:27<48:26, 9.66s/it,steps: 44%|█████████████████████████████████████████████████▊ | 240/540 [38:39<48:18, 9.66s/it,steps: 44%|█████████████████████████████████████████████████▊ | 240/540 [38:39<48:18, 9.66s/it,steps: 45%|█████████████████████████████████████████████████▉ | 241/540 [38:40<47:58, 9.63s/it,steps: 45%|█████████████████████████████████████████████████▉ | 241/540 [38:40<47:58, 9.63s/it,steps: 45%|██████████████████████████████████████████████████▏ | 242/540 [38:54<47:54, 9.64s/it,steps: 45%|██████████████████████████████████████████████████▋ | 242/540 [38:54<47:54, ████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ | 531/540 [1:27:18<01:28, 9.87s/it,steps: 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 532/540 [1:27:28<01:18, 9.87s/it,steps: 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 532/540 [1:27:28<01:18, 9.87s/it,steps: 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 533/540 [1:27:32<01:08, 9.85s/it,steps: 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 533/540 [1:27:32<01:08, 9.85s/it,steps: 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 534/540 [1:27:33<00:59, 9.84s/it,steps: 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 534/540 [1:27:33<00:59, 9.84s/it,steps: 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 535/540 [1:27:45<00:49, 9.84s/it,steps: 99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▉ | 535/540 [1:27:45<00:49, 9.84s/it,steps: 99%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▏| 536/540 [1:27:56<00:39, 9.84s/it,steps: 99%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▏| 536/540 [1:27:56<00:39, 9.84s/it,steps: 99%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▍| 537/540 [1:28:07<00:29, 9.85s/it,steps: 99%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▍| 537/540 [1:28:07<00:29, 9.85s/it,steps: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▌| 538/540 [1:28:19<00:19, 9.85s/it,steps: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▌| 538/540 [1:28:19<00:19, 9.85s/it,steps: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▊| 539/540 [1:28:30<00:09, 9.85s/it,steps: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▊| 539/540 [1:28:30<00:09, 9.85s/it,steps: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████| 540/540 [1:28:36<00:00, 9.85s/it,steps: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████| 540/540 [1:28:36<00:00, 9.85s/it, | |
| wandb: | |
| wandb: | |
| wandb: Run history: | |
| wandb: loss ▅▃▃▁▂▃█▄▄▂▄▂▂▃▃▄▃▄▂▃▃▂▅▂▅▂▃▂▃▃▁▂▂▂▄▂▄▁▃▁ | |
| wandb: lr/text_encoder1 ███████▇▇▇▇▇▆▆▆▆▅▅▅▅▄▄▄▄▃▃▃▃▂▂▂▂▂▁▁▁▁▁▁▁ | |
| wandb: lr/unet ███████▇▇▇▇▇▆▆▆▆▅▅▅▅▄▄▄▄▃▃▃▃▂▂▂▂▂▁▁▁▁▁▁▁ | |
| wandb: | |
| wandb: Run summary: | |
| wandb: loss 0.11099 | |
| wandb: lr/text_encoder1 0.0 | |
| wandb: lr/unet 0.0 | |
| wandb: | |
| wandb: 🚀 View run fluent-meadow-42 at: https://wandb.ai/renwu/GPU-%E4%BD%BF%E7%94%A8%E7%8E%87-%E6%B8%A9%E5%BA%A6%E6%A3%80%E6%B5%8B/runs/aynrisa1 | |
| wandb: ️⚡ View job at https://wandb.ai/renwu/GPU-%E4%BD%BF%E7%94%A8%E7%8E%87-%E6%B8%A9%E5%BA%A6%E6%A3%80%E6%B5%8B/jobs/QXJ0aWZhY3RDb2xsZWN0aW9uOjI3NTExODY0Mw==/version_details/v0 | |
| wandb: Synced 6 W&B file(s), 0 media file(s), 2 artifact file(s) and 0 other file(s) | |
| wandb: Find logs at: ./logs/GPU-使用率-温度检测_perfix20240716142500/wandb/run-20240716_143506-aynrisa1/logs | |
| wandb: WARNING (User provided step: 30 is less than current step: 540. Dropping entry: {'loss/epoch': 0.11476703153716193, '_timestamp': 1721117023.0890737}). | |
| 2024-07-16 16:04:05 INFO save trained model as StableDiffusion checkpoint to /root/dongman/dongman.safetensors train_util.py:4851 | |
| 2024-07-16 16:04:16 INFO model saved. train_db.py:479 | |
| steps: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████| 540/540 [1:29:09<00:00, 9.91s/it, avr_loss=0.115] | |
| 16:04:23-707257 INFO Training finished / 训练完成 |