Saving weights and logs of step 360000

checkpoint_360000

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:b6e87cf61e2f7a6e3e0a9ae0b68970a8a1ab902c86973be3623d2855468f44e1
+size 1530270447

events.out.tfevents.1626474829.t1v-n-f5c06ea1-w-0.798495.3.v2

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:6b4637283d9854edc2028a95251be73af67ba47a274e45dd5fae55816246cc19
-size 2256182
+oid sha256:1395ce551f9ffcb161ea916dbb89a9a0a6f09f83ec89a3c88836317833f93a73
+size 4512466

flax_model.msgpack

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:86a123ba86042aca0dbe525bd85d047b7cdfbece99dc4953a406373cb46110fb
+oid sha256:e52614107797350149958dda0688808f3d7bbe79cc7afe82432a2d292150efa0
 size 510090043

wandb/run-20210716_223350-8eukt20m/files/output.log

@@ -2265,3 +2265,1867 @@ tcmalloc: large alloc 1530273792 bytes == 0x31f5ac000 @  0x7f2f3656a680 0x7f2f36
 [00:26:31] - INFO - absl - Saved checkpoint at checkpoint_345000
 [00:26:32] - INFO - huggingface_hub.repository - git version 2.25.1
 git-lfs/2.9.2 (GitHub; linux amd64; go 1.13.5)
+[00:26:32] - DEBUG - huggingface_hub.repository - [Repository] is a valid git repo
+[00:28:03] - INFO - huggingface_hub.repository - Uploading LFS objects: 100% (3/3), 2.0 GB | 30 MB/s, done.
+
+
+
+
+
+Training...: 15049it [1:48:31,  4.96it/s]
+
+
+
+
+
+
+Training...: 15099it [1:48:51,  5.83it/s]
+
+
+
+
+
+
+Training...: 15149it [1:49:11,  4.60it/s]
+
+
+
+
+
+Training...: 15199it [1:49:31,  4.95it/s]
+
+
+
+
+
+Training...: 15249it [1:49:51,  5.66it/s]
+
+
+
+
+
+Training...: 15299it [1:50:11,  5.79it/s]
+
+
+
+
+
+Training...: 15349it [1:50:31,  5.84it/s]
+
+
+
+
+
+
+Training...: 15399it [1:50:52,  5.34it/s]
+
+
+
+
+
+Training...: 15449it [1:51:12,  5.01it/s]
+
+
+
+
+
+Training...: 15499it [1:51:33,  3.94it/s]
+
+
+
+
+
+
+Training...: 15558it [1:52:05,  3.00it/s]
+
+
+
+
+Training...: 15599it [1:52:12,  5.90it/s]
+
+
+
+
+
+
+Training...: 15660it [1:52:45,  3.84it/s]
+
+
+
+
+Training...: 15699it [1:52:53,  4.75it/s]
+
+
+
+
+
+
+Training...: 15751it [1:53:24,  2.43s/it]
+
+
+
+
+
+Training...: 15799it [1:53:33,  4.34it/s]
+
+
+
+
+
+
+
+Training...: 15851it [1:54:04,  2.34s/it]
+
+
+
+
+
+
+Training...: 15902it [1:54:25,  1.64s/it]
+
+
+
+
+
+Training...: 15949it [1:54:34,  5.87it/s]
+
+
+
+
+
+
+Training...: 15999it [1:54:54,  5.84it/s]
+
+
+
+
+
+
+Training...: 16049it [1:55:14,  6.28it/s]
+
+
+
+
+
+
+
+Training...: 16105it [1:55:46,  1.47it/s]
+
+
+
+
+Training...: 16149it [1:55:54,  6.51it/s]
+
+
+
+
+
+
+Training...: 16206it [1:56:26,  1.84it/s]
+
+
+
+
+
+Training...: 16257it [1:56:47,  2.35it/s]
+
+
+
+
+Training...: 16299it [1:56:54,  5.67it/s]
+
+
+
+
+
+
+Training...: 16358it [1:57:27,  2.06it/s]
+
+
+
+
+
+Training...: 16408it [1:57:48,  2.63it/s]
+
+
+
+
+
+Training...: 16457it [1:58:07,  2.23it/s]
+
+
+
+
+Training...: 16499it [1:58:15,  5.36it/s]
+
+
+
+
+
+Training...: 16549it [1:58:36,  5.87it/s]
+
+
+
+
+
+Training...: 16599it [1:58:55,  6.61it/s]
+
+
+
+
+
+Training...: 16649it [1:59:16,  5.42it/s]
+
+
+
+
+
+Training...: 16699it [1:59:35,  4.49it/s]
+
+
+
+
+
+
+Training...: 16751it [2:00:07,  2.49s/it]
+
+
+
+
+
+
+Training...: 16802it [2:00:28,  1.72s/it]
+
+
+
+
+
+
+Training...: 16852it [2:00:48,  1.71s/it]
+
+
+
+
+
+Training...: 16903it [2:01:08,  1.36s/it]
+
+
+
+
+
+
+Training...: 16957it [2:01:29,  2.48it/s]
+
+
+
+
+
+Training...: 17004it [2:01:49,  1.00s/it]
+
+
+
+
+
+Training...: 17057it [2:02:09,  2.18it/s]
+
+
+
+
+
+Training...: 17108it [2:02:30,  2.88it/s]
+
+
+
+
+Training...: 17149it [2:02:37,  4.57it/s]
+
+
+
+
+
+Training...: 17199it [2:02:57,  5.83it/s]
+
+
+
+
+
+Training...: 17249it [2:03:17,  5.26it/s]
+
+
+
+
+
+Training...: 17299it [2:03:38,  4.50it/s]
+
+
+
+
+
+Training...: 17348it [2:03:57,  5.45it/s]
+
+
+
+
+
+
+Training...: 17400it [2:04:29,  3.41s/it]
+
+
+
+
+
+Training...: 17449it [2:04:38,  6.02it/s]
+
+
+
+
+
+
+Training...: 17500it [2:05:09,  3.47s/it]
+
+
+
+
+
+Training...: 17549it [2:05:18,  4.81it/s]
+
+
+
+
+
+
+Training...: 17600it [2:05:50,  3.54s/it]
+
+
+
+
+
+
+Training...: 17652it [2:06:10,  1.82s/it]
+
+
+
+
+
+
+Training...: 17700it [2:06:30,  3.49s/it]
+
+
+
+
+
+
+Training...: 17752it [2:06:50,  1.88s/it]
+
+
+
+
+
+
+Training...: 17805it [2:07:11,  1.44it/s]
+
+
+
+
+
+Training...: 17855it [2:07:31,  1.34it/s]
+
+
+
+
+
+Training...: 17903it [2:07:51,  1.38s/it]
+
+
+
+
+
+Training...: 17955it [2:08:12,  1.33it/s]
+
+
+
+
+
+Training...: 18006it [2:08:32,  1.68it/s]
+
+
+
+
+
+
+Training...: 18055it [2:08:52,  1.39it/s]
+
+
+
+
+
+Training...: 18107it [2:09:12,  1.88it/s]
+
+
+
+
+Training...: 18149it [2:09:20,  5.63it/s]
+
+
+
+
+
+Training...: 18199it [2:09:40,  6.18it/s]
+
+
+
+
+
+Training...: 18249it [2:10:00,  5.47it/s]
+
+
+
+
+
+Training...: 18299it [2:10:21,  5.53it/s]
+
+
+
+
+
+Training...: 18349it [2:10:40,  5.47it/s]
+
+
+
+
+
+Training...: 18399it [2:11:01,  5.03it/s]
+
+
+
+
+
+Training...: 18449it [2:11:21,  4.90it/s]
+
+
+
+
+
+Training...: 18499it [2:11:41,  4.23it/s]
+
+
+
+
+
+
+Training...: 18550it [2:12:12,  3.52s/it]
+
+
+
+
+
+
+Training...: 18601it [2:12:33,  2.55s/it]
+
+
+
+
+
+
+Training...: 18653it [2:12:53,  1.28s/it]
+
+
+
+
+
+
+Training...: 18701it [2:13:13,  2.59s/it]
+
+
+
+
+
+Training...: 18753it [2:13:34,  1.37s/it]
+
+
+
+
+
+
+Training...: 18804it [2:13:54,  1.07it/s]
+
+
+
+
+
+Training...: 18854it [2:14:14,  1.03it/s]
+
+
+
+
+
+
+Training...: 18904it [2:14:34,  1.07it/s]
+
+
+
+
+
+Training...: 18954it [2:14:54,  1.01s/it]
+
+
+
+
+Training...: 18999it [2:15:02,  6.54it/s]
+
+
+
+
+
+Training...: 19049it [2:15:22,  6.51it/s]
+
+
+
+
+
+
+Training...: 19099it [2:15:43,  4.17it/s]
+
+
+
+
+
+Training...: 19149it [2:16:02,  6.66it/s]
+
+
+
+
+
+Training...: 19199it [2:16:22,  6.30it/s]
+
+
+
+
+
+Training...: 19249it [2:16:43,  5.56it/s]
+
+
+
+
+
+Training...: 19299it [2:17:03,  4.95it/s]
+
+
+
+
+
+Training...: 19349it [2:17:24,  5.34it/s]
+
+
+
+
+
+Training...: 19399it [2:17:43,  6.75it/s]
+
+
+
+
+
+Training...: 19449it [2:18:03,  6.07it/s]
+
+
+
+
+
+Training...: 19499it [2:18:23,  5.70it/s]
+
+
+
+
+
+Training...: 19549it [2:18:43,  6.80it/s]
+
+
+
+
+
+Training...: 19599it [2:19:04,  6.95it/s]
+
+
+
+
+
+Training...: 19649it [2:19:24,  6.12it/s]
+
+
+
+
+
+Training...: 19699it [2:19:45,  4.76it/s]
+
+
+
+
+
+Training...: 19749it [2:20:04,  5.62it/s]
+
+
+
+
+
+Training...: 19799it [2:20:24,  7.37it/s]
+
+
+
+
+
+
+Training...: 19850it [2:20:56,  3.40s/it]
+
+
+
+
+
+Training...: 19902it [2:21:17,  1.75s/it]
+
+
+
+
+
+
+Training...: 19951it [2:21:37,  2.45s/it]
+
+
+
+
+
+Training...: 19999it [2:21:57,  6.76it/s]
+Step... (350000 | Loss: 1.8752901554107666, Learning Rate: 2.27198197535472e-05)
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+Training...: 20049it [2:23:09,  5.95it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 20099it [2:23:29,  5.72it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 20149it [2:23:49,  5.76it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 20199it [2:24:09,  5.92it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 20249it [2:24:29,  5.75it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 20299it [2:24:50,  5.13it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 20349it [2:25:09,  6.36it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 20399it [2:25:30,  5.84it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 20449it [2:25:51,  5.86it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 20499it [2:26:10,  6.29it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+
+Training...: 20551it [2:26:42,  2.58s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+
+Training...: 20601it [2:27:03,  2.41s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 20653it [2:27:23,  1.38s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 20704it [2:27:43,  1.00it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 20751it [2:28:03,  2.67s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+
+Training...: 20803it [2:28:24,  1.28s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 20855it [2:28:44,  1.33it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+
+Training...: 20901it [2:29:04,  2.58s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 20952it [2:29:24,  1.85s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 20999it [2:29:32,  6.18it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 21049it [2:29:52,  5.43it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 21099it [2:30:13,  5.28it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 21149it [2:30:32,  5.99it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 21199it [2:30:53,  7.05it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 21249it [2:31:13,  6.25it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 21299it [2:31:33,  6.38it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 21349it [2:31:53,  5.30it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 21399it [2:32:14,  4.13it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 21449it [2:32:33,  5.58it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 21501it [2:33:05,  2.30s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+
+Training...: 21550it [2:33:25,  3.46s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+
+Training...: 21600it [2:33:45,  3.69s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 21651it [2:34:06,  2.62s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 21702it [2:34:26,  1.89s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 21753it [2:34:46,  1.41s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+
+Training...: 21801it [2:35:06,  2.27s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+
+Training...: 21853it [2:35:26,  1.34s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 21902it [2:35:46,  1.92s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 21953it [2:36:07,  1.37s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 22004it [2:36:27,  1.05s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 22051it [2:36:47,  2.61s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 22104it [2:37:07,  1.00s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 22149it [2:37:15,  7.87it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 22199it [2:37:35,  5.12it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 22249it [2:37:55,  6.64it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 22299it [2:38:16,  6.05it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 22349it [2:38:36,  6.20it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 22399it [2:38:56,  5.92it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 22449it [2:39:16,  5.46it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 22499it [2:39:36,  4.45it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 22549it [2:39:56,  6.28it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 22599it [2:40:16,  5.95it/s]█████████████████████████████████████████████████████████████████████████████████████████████���███| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 22649it [2:40:37,  6.58it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 22699it [2:40:56,  5.46it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 22749it [2:41:17,  6.46it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 22799it [2:41:37,  5.90it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+
+Training...: 22850it [2:42:09,  2.96s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 22902it [2:42:30,  1.78s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+
+Training...: 22950it [2:42:49,  2.87s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 23000it [2:43:10,  3.79s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 23049it [2:43:18,  5.81it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 23101it [2:43:50,  2.65s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 23151it [2:44:10,  2.61s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+
+Training...: 23202it [2:44:30,  1.84s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 23249it [2:44:39,  5.88it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 23299it [2:44:58,  6.74it/s]██████████████████████████████████��██████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 23349it [2:45:18,  5.93it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 23399it [2:45:39,  4.98it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 23449it [2:45:59,  5.42it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 23499it [2:46:19,  6.79it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 23549it [2:46:39,  5.85it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 23599it [2:46:59,  5.43it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 23649it [2:47:19,  6.46it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 23699it [2:47:40,  6.17it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 23749it [2:48:00,  6.44it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 23799it [2:48:20,  6.19it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+
+Training...: 23860it [2:48:54,  3.83it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 23911it [2:49:14,  4.24it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+Training...: 23949it [2:49:20,  4.48it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 23999it [2:49:40,  7.11it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 24049it [2:50:00,  5.35it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 24099it [2:50:21,  5.11it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 24149it [2:50:41,  7.25it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 24199it [2:51:00,  6.29it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+
+Training...: 24253it [2:51:34,  1.43s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 24299it [2:51:42,  6.22it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+
+Training...: 24352it [2:52:14,  1.72s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 24404it [2:52:34,  1.01s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 24454it [2:52:55,  1.26s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 24505it [2:53:15,  1.27it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 24556it [2:53:35,  1.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 24605it [2:53:55,  1.36it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 24657it [2:54:16,  1.91it/s]██████████████████████████████████████████████��██████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 24708it [2:54:36,  2.44it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 24760it [2:54:56,  3.79it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 24807it [2:55:16,  2.04it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 24849it [2:55:23,  6.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 24899it [2:55:43,  5.11it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 24949it [2:56:03,  5.76it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 25000it [2:56:35,  3.81s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 25049it [2:56:43,  6.74it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 25100it [2:57:16,  3.10s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 25150it [2:57:36,  3.70s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 25203it [2:57:56,  1.36s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 25256it [2:58:17,  1.45it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 25306it [2:58:37,  1.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 25354it [2:58:57,  1.04s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 25406it [2:59:17,  1.74it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 25456it [2:59:37,  1.65it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 25505it [2:59:57,  1.37it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 25554it [3:00:18,  1.04s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 25605it [3:00:38,  1.20it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 25655it [3:00:58,  1.08it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 25706it [3:01:18,  1.49it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 25757it [3:01:38,  1.83it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 25807it [3:01:58,  2.13it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 25859it [3:02:19,  3.13it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 25899it [3:02:25,  6.88it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 25948it [3:02:45,  6.67it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 25999it [3:03:05,  5.83it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 26049it [3:03:25,  6.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 26099it [3:03:45,  6.28it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 26149it [3:04:05,  6.59it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 26199it [3:04:26,  6.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 26249it [3:04:46,  6.39it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 26300it [3:05:18,  3.77s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 26350it [3:05:39,  3.82s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 26398it [3:05:46,  6.80it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 26449it [3:06:06,  6.57it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 26500it [3:06:39,  3.17s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 26551it [3:06:59,  2.71s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 26599it [3:07:07,  6.37it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 26651it [3:07:40,  2.34s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 26704it [3:08:00,  1.02s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 26755it [3:08:21,  1.33it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 26804it [3:08:40,  1.02s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 26854it [3:09:01,  1.06s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 26906it [3:09:21,  1.55it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 26949it [3:09:28,  6.95it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 26999it [3:09:48,  7.34it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 27049it [3:10:08,  5.79it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 27099it [3:10:28,  7.52it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 27149it [3:10:49,  6.49it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 27199it [3:11:08,  7.06it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 27249it [3:11:28,  6.28it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 27299it [3:11:49,  7.18it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 27349it [3:12:08,  6.99it/s]██████████████████████████████████████████████████████████████████████████████████��██████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 27398it [3:12:29,  6.74it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 27449it [3:12:49,  6.67it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 27499it [3:13:09,  7.27it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 27549it [3:13:30,  5.86it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 27599it [3:13:49,  6.46it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 27649it [3:14:10,  6.79it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 27699it [3:14:29,  7.64it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 27750it [3:15:02,  3.66s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 27799it [3:15:10,  6.47it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 27849it [3:15:30,  6.33it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 27900it [3:16:03,  2.76s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 27951it [3:16:23,  2.51s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 28000it [3:16:43,  3.36s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 28050it [3:17:03,  3.60s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 28102it [3:17:23,  1.78s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 28152it [3:17:44,  2.10s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 28204it [3:18:04,  1.01s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 28249it [3:18:11,  7.10it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 28299it [3:18:31,  6.85it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 28349it [3:18:51,  6.51it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 28399it [3:19:12,  6.41it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 28449it [3:19:31,  6.54it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 28499it [3:19:52,  6.43it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 28549it [3:20:11,  6.56it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 28598it [3:20:31,  6.10it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 28649it [3:20:52,  7.27it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 28699it [3:21:12,  7.20it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 28749it [3:21:32,  5.72it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 28799it [3:21:52,  6.65it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 28849it [3:22:12,  6.46it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 28899it [3:22:33,  6.67it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 28949it [3:22:52,  5.87it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 28998it [3:23:13,  6.53it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 29049it [3:23:33,  6.23it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+
+Training...: 29100it [3:24:06,  3.79s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 29149it [3:24:12,  5.27it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 29199it [3:24:33,  7.23it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 29249it [3:24:53,  6.98it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 29300it [3:25:26,  3.47s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 29351it [3:25:46,  2.75s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 29403it [3:26:07,  1.42s/it]███████████████████████████████████████████████���█████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 29454it [3:26:27,  1.07s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 29501it [3:26:47,  2.82s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 29552it [3:27:07,  1.78s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 29603it [3:27:27,  1.40s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 29656it [3:27:47,  1.33it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 29699it [3:27:54,  5.18it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 29749it [3:28:14,  7.59it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 29799it [3:28:34,  6.17it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 29849it [3:28:55,  6.35it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 29899it [3:29:15,  8.02it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 29949it [3:29:34,  7.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 29999it [3:29:55,  5.75it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+Training...: 29999it [3:30:08,  5.75it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+tcmalloc: large alloc 2715181056 bytes == 0x3dece4000 @  0x7f2f3656a680 0x7f2f3658abdd 0x7f2f1cb2420d 0x7f2f1cb32340 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb2dbd3 0x7f2f1cb2e1fe 0x504d56 0x56acb6 0x568d9a 0x5f5b33 0x56bc9b 0x5f5956 0x56aadf 0x5f5956 0x56fb87 0x568d9a 0x5f5b33 0x56bc9b 0x568d9a
+[02:11:03] - INFO - absl - Saved checkpoint at checkpoint_360000
+[02:11:04] - INFO - huggingface_hub.repository - git version 2.25.1
+git-lfs/2.9.2 (GitHub; linux amd64; go 1.13.5)

wandb/run-20210716_223350-8eukt20m/files/wandb-summary.json

@@ -1 +1 @@
-{"training_step": 345000, "learning_rate": 2.2826880012871698e-05, "train_loss": 1.801241159439087, "_runtime": 6751, "_timestamp": 1626481581, "_step": 300, "eval_step": 340000, "eval_accuracy": 0.6408576965332031, "eval_loss": 1.8213207721710205}
+{"training_step": 360000, "learning_rate": 2.2505695596919395e-05, "train_loss": 1.887866497039795, "_runtime": 13024, "_timestamp": 1626487854, "_step": 602, "eval_step": 360000, "eval_accuracy": 0.6445966958999634, "eval_loss": 1.7940189838409424}