Saving weights and logs of step 390000

checkpoint_390000

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:55b415807b0388b3107ce74e9e7b45243a5e5c917585a1838c112fbf1508a1c8
+size 1530270447

events.out.tfevents.1626474829.t1v-n-f5c06ea1-w-0.798495.3.v2

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:ca08ea32c7b140286dc6ffe246623708432c9476cf231e474bfe37cc3052a57f
-size 6768608
+oid sha256:75dc7a9230b0bd19c8b226ed40f2a9c3830385799f0740e05d58ac7de081c9ec
+size 9024892

flax_model.msgpack

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:7868c84d277acee0cfd1403ad8145a128ae46b441818a9cad349b775d0a0138f
+oid sha256:73d7c0f9ed8a78dfda719fb2997836329a518af60dbbe9a0adef50432277abe6
 size 510090043

wandb/run-20210716_223350-8eukt20m/files/output.log

@@ -5784,3 +5784,1637 @@ tcmalloc: large alloc 2715181056 bytes == 0x3dece4000 @  0x7f2f3656a680 0x7f2f36
 [03:54:04] - INFO - absl - Saved checkpoint at checkpoint_375000
 [03:54:06] - INFO - huggingface_hub.repository - git version 2.25.1
 git-lfs/2.9.2 (GitHub; linux amd64; go 1.13.5)
+[03:54:06] - DEBUG - huggingface_hub.repository - [Repository] is a valid git repo
+[03:55:22] - INFO - huggingface_hub.repository - Uploading LFS objects: 100% (3/3), 2.0 GB | 46 MB/s, done.
+
+
+
+Training...: 45049it [5:15:48,  3.71it/s]
+
+
+
+
+Training...: 45099it [5:16:08,  3.32it/s]
+
+
+
+
+
+Training...: 45150it [5:16:41,  3.79s/it]
+
+
+
+
+
+Training...: 45200it [5:17:01,  3.83s/it]
+
+
+
+
+
+Training...: 45250it [5:17:21,  4.03s/it]
+
+
+
+
+Training...: 45299it [5:17:28,  3.80it/s]
+
+
+
+
+Training...: 45349it [5:17:48,  3.60it/s]
+
+
+
+
+
+Training...: 45400it [5:18:22,  3.84s/it]
+
+
+
+
+
+Training...: 45450it [5:18:42,  4.06s/it]
+
+
+
+
+
+Training...: 45504it [5:19:02,  1.16s/it]
+
+
+
+
+
+Training...: 45553it [5:19:22,  1.46s/it]
+
+
+
+
+
+Training...: 45600it [5:19:42,  3.88s/it]
+
+
+
+
+
+Training...: 45651it [5:20:02,  2.79s/it]
+
+
+
+
+
+Training...: 45703it [5:20:22,  1.73s/it]
+
+
+
+
+
+Training...: 45755it [5:20:43,  1.11it/s]
+
+
+
+
+
+Training...: 45805it [5:21:03,  1.24it/s]
+
+
+
+Training...: 45849it [5:21:09,  3.48it/s]
+
+
+
+
+
+Training...: 45899it [5:21:29,  3.84it/s]
+
+
+
+
+
+Training...: 45949it [5:21:49,  3.56it/s]
+
+
+
+
+
+Training...: 45999it [5:22:10,  4.00it/s]
+
+
+
+
+Training...: 46049it [5:22:30,  3.24it/s]
+
+
+
+
+Training...: 46099it [5:22:50,  3.09it/s]
+
+
+
+
+Training...: 46149it [5:23:10,  6.12it/s]
+
+
+
+
+Training...: 46199it [5:23:30,  3.53it/s]
+
+
+
+
+Training...: 46249it [5:23:50,  3.21it/s]
+
+
+
+
+Training...: 46299it [5:24:10,  3.24it/s]
+
+
+
+
+Training...: 46349it [5:24:30,  3.85it/s]
+
+
+
+
+Training...: 46399it [5:24:50,  3.38it/s]
+
+
+
+
+Training...: 46449it [5:25:10,  3.19it/s]
+
+
+
+
+Training...: 46499it [5:25:31,  3.36it/s]
+
+
+
+
+Training...: 46549it [5:25:51,  3.94it/s]
+
+
+
+
+Training...: 46599it [5:26:11,  3.49it/s]
+
+
+
+
+Training...: 46649it [5:26:31,  3.83it/s]
+
+
+
+
+Training...: 46699it [5:26:51,  2.99it/s]
+
+
+
+
+Training...: 46749it [5:27:11,  3.41it/s]
+
+
+
+
+Training...: 46799it [5:27:31,  3.09it/s]
+
+
+
+
+Training...: 46849it [5:27:51,  3.72it/s]
+
+
+
+
+Training...: 46899it [5:28:11,  4.07it/s]
+
+
+
+
+Training...: 46949it [5:28:32,  3.44it/s]
+
+
+
+
+Training...: 46999it [5:28:52,  3.59it/s]
+
+
+
+
+Training...: 47049it [5:29:12,  3.42it/s]
+
+
+
+
+Training...: 47099it [5:29:32,  3.49it/s]
+
+
+
+
+Training...: 47149it [5:29:52,  3.11it/s]
+
+
+
+
+Training...: 47199it [5:30:12,  2.89it/s]
+
+
+
+
+Training...: 47249it [5:30:32,  3.19it/s]
+
+
+
+
+Training...: 47299it [5:30:52,  3.30it/s]
+
+
+
+
+Training...: 47349it [5:31:12,  3.45it/s]
+
+
+
+
+Training...: 47399it [5:31:32,  3.31it/s]
+
+
+
+
+Training...: 47449it [5:31:52,  2.98it/s]
+
+
+
+
+Training...: 47499it [5:32:12,  3.01it/s]
+
+
+
+
+Training...: 47549it [5:32:33,  3.64it/s]
+
+
+
+
+Training...: 47599it [5:32:53,  3.51it/s]
+
+
+
+
+Training...: 47649it [5:33:13,  3.31it/s]
+
+
+
+
+Training...: 47699it [5:33:33,  3.28it/s]
+
+
+
+
+Training...: 47749it [5:33:53,  3.03it/s]
+
+
+
+
+Training...: 47799it [5:34:13,  3.25it/s]
+
+
+
+
+Training...: 47849it [5:34:33,  3.53it/s]
+
+
+
+
+Training...: 47899it [5:34:53,  3.41it/s]
+
+
+
+
+Training...: 47949it [5:35:13,  3.35it/s]
+
+
+
+
+Training...: 47999it [5:35:34,  3.58it/s]
+
+
+
+
+Training...: 48049it [5:35:54,  3.58it/s]
+
+
+
+
+Training...: 48099it [5:36:14,  3.13it/s]
+
+
+
+
+Training...: 48149it [5:36:34,  3.03it/s]
+
+
+
+
+Training...: 48199it [5:36:54,  3.15it/s]
+
+
+
+
+Training...: 48249it [5:37:14,  2.92it/s]
+
+
+
+
+Training...: 48299it [5:37:34,  3.61it/s]
+
+
+
+
+Training...: 48349it [5:37:54,  5.04it/s]
+
+
+
+
+Training...: 48399it [5:38:14,  3.42it/s]
+
+
+
+
+Training...: 48449it [5:38:34,  3.24it/s]
+
+
+
+
+Training...: 48499it [5:38:54,  3.15it/s]
+
+
+
+
+Training...: 48549it [5:39:15,  3.11it/s]
+
+
+
+
+Training...: 48599it [5:39:35,  3.42it/s]
+
+
+
+
+Training...: 48649it [5:39:55,  3.20it/s]
+
+
+
+
+Training...: 48699it [5:40:15,  3.46it/s]
+
+
+
+
+Training...: 48749it [5:40:35,  4.00it/s]
+
+
+
+
+Training...: 48799it [5:40:55,  2.97it/s]
+
+
+
+
+Training...: 48849it [5:41:15,  3.19it/s]
+
+
+
+
+Training...: 48899it [5:41:35,  3.44it/s]
+
+
+
+
+Training...: 48949it [5:41:55,  3.72it/s]
+
+
+
+
+Training...: 48999it [5:42:15,  3.06it/s]
+
+
+
+
+Training...: 49049it [5:42:36,  3.36it/s]
+
+
+
+
+Training...: 49099it [5:42:56,  3.04it/s]
+
+
+
+
+Training...: 49149it [5:43:16,  3.34it/s]
+
+
+
+
+Training...: 49199it [5:43:36,  3.29it/s]
+
+
+
+
+Training...: 49249it [5:43:56,  2.90it/s]
+
+
+
+
+Training...: 49299it [5:44:16,  3.34it/s]
+
+
+
+
+Training...: 49349it [5:44:36,  3.24it/s]
+
+
+
+
+Training...: 49399it [5:44:56,  2.96it/s]
+
+
+
+
+Training...: 49449it [5:45:16,  3.40it/s]
+
+
+
+
+Training...: 49499it [5:45:36,  2.96it/s]
+
+
+
+
+Training...: 49549it [5:45:56,  3.03it/s]
+
+
+
+
+Training...: 49599it [5:46:16,  3.05it/s]
+
+
+
+
+Training...: 49649it [5:46:37,  3.03it/s]
+
+
+
+
+Training...: 49699it [5:46:57,  3.50it/s]
+
+
+
+
+Training...: 49749it [5:47:17,  2.86it/s]
+
+
+
+
+Training...: 49799it [5:47:37,  3.34it/s]
+
+
+
+
+Training...: 49849it [5:47:57,  3.14it/s]
+
+
+
+
+Training...: 49899it [5:48:17,  3.47it/s]
+
+
+
+
+
+Training...: 49950it [5:48:50,  3.92s/it]
+
+
+
+
+Training...: 49999it [5:48:57,  3.00it/s]
+Training...: 49999it [5:49:10,  3.00it/s]
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+Training...: 50055it [5:50:35,  1.11s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 50106it [5:50:55,  1.22it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 50154it [5:51:15,  1.20s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 50206it [5:51:35,  1.35it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 50252it [5:51:55,  2.25s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 50303it [5:52:15,  1.61s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 50353it [5:52:35,  1.52s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 50405it [5:52:56,  1.03it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 50457it [5:53:16,  1.61it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 50508it [5:53:36,  2.36it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 50555it [5:53:56,  1.18it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 50605it [5:54:16,  1.04it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 50657it [5:54:36,  1.43it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 50707it [5:54:57,  1.62it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 50759it [5:55:17,  2.63it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 50807it [5:55:37,  1.42it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 50858it [5:55:57,  1.88it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 50909it [5:56:17,  2.29it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 50959it [5:56:37,  3.02it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 51008it [5:56:57,  2.05it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 51061it [5:57:17,  3.26it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 51112it [5:57:38,  4.53it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 51164it [5:57:58,  4.36it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 51207it [5:58:17,  1.75it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 51257it [5:58:38,  1.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 51309it [5:58:58,  2.40it/s]██████████████████████████████████████████████████████████���██████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 51361it [5:59:18,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 51409it [5:59:38,  2.28it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 51461it [5:59:58,  3.51it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 51513it [6:00:18,  4.40it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 51558it [6:00:38,  2.79it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 51608it [6:00:58,  2.74it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+Training...: 51649it [6:01:04,  3.27it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 51699it [6:01:24,  3.35it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 51749it [6:01:44,  3.11it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 51812it [6:02:19,  3.84it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 51857it [6:02:39,  1.45it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+Training...: 51899it [6:02:45,  3.22it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 51949it [6:03:05,  2.90it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 51999it [6:03:25,  2.86it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 52049it [6:03:45,  3.41it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 52099it [6:04:05,  3.14it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 52149it [6:04:25,  3.20it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 52199it [6:04:45,  3.07it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 52249it [6:05:05,  3.33it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 52299it [6:05:25,  3.07it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 52349it [6:05:45,  3.09it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 52399it [6:06:05,  3.65it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 52449it [6:06:25,  2.95it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 52499it [6:06:46,  3.56it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 52549it [6:07:06,  3.02it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 52599it [6:07:26,  3.29it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 52649it [6:07:46,  3.21it/s]████████████████████████████████████████████████████████████████████████████████████████���████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 52699it [6:08:06,  2.94it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 52749it [6:08:26,  3.42it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 52799it [6:08:46,  2.95it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 52849it [6:09:06,  2.97it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 52899it [6:09:27,  2.96it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 52949it [6:09:47,  3.31it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 53000it [6:10:20,  3.85s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 53050it [6:10:40,  3.89s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 53101it [6:11:00,  2.79s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 53152it [6:11:20,  2.27s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 53199it [6:11:27,  3.31it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 53254it [6:12:01,  1.20s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 53300it [6:12:20,  4.03s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 53352it [6:12:41,  2.09s/it]███████████████████████████████████��█████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 53405it [6:13:01,  1.05it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 53456it [6:13:21,  1.26it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 53501it [6:13:41,  2.79s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 53558it [6:14:02,  1.91it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 53603it [6:14:21,  1.71s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 53654it [6:14:41,  1.26s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 53701it [6:15:01,  2.81s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 53756it [6:15:22,  1.12it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 53805it [6:15:42,  1.04it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 53858it [6:16:02,  1.79it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 53906it [6:16:22,  1.08it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 53957it [6:16:42,  1.47it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 54005it [6:17:02,  1.16it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 54057it [6:17:22,  1.52it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 54107it [6:17:43,  1.44it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+Training...: 54149it [6:17:49,  3.30it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 54199it [6:18:09,  3.09it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 54249it [6:18:29,  3.07it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 54299it [6:18:49,  3.12it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 54349it [6:19:09,  3.01it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 54399it [6:19:29,  3.31it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 54449it [6:19:49,  3.04it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 54499it [6:20:09,  3.12it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 54549it [6:20:29,  3.30it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 54599it [6:20:49,  2.98it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 54649it [6:21:09,  3.23it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 54699it [6:21:29,  2.91it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 54749it [6:21:50,  3.18it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 54799it [6:22:10,  3.05it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 54849it [6:22:30,  3.27it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 54899it [6:22:50,  2.93it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 54949it [6:23:10,  3.21it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 54999it [6:23:30,  2.90it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55049it [6:23:50,  2.98it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55099it [6:24:10,  3.19it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55149it [6:24:30,  3.16it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55199it [6:24:51,  3.14it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55249it [6:25:11,  3.15it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55299it [6:25:31,  2.86it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55349it [6:25:51,  3.06it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55399it [6:26:11,  2.88it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55449it [6:26:31,  3.15it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55499it [6:26:51,  3.16it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55549it [6:27:11,  3.07it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55599it [6:27:31,  2.91it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55649it [6:27:51,  3.07it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55699it [6:28:11,  3.16it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55749it [6:28:32,  3.40it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55799it [6:28:52,  3.20it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55849it [6:29:12,  3.24it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55899it [6:29:32,  3.05it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55949it [6:29:52,  3.20it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 55999it [6:30:12,  3.15it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 56049it [6:30:32,  3.23it/s]████████████████████████████████████████████████████████████████████████████████████████���████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 56099it [6:30:52,  2.85it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 56149it [6:31:12,  3.21it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 56199it [6:31:32,  3.15it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 56249it [6:31:52,  2.91it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 56299it [6:32:13,  3.15it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 56349it [6:32:33,  2.96it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 56399it [6:32:53,  3.39it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 56449it [6:33:13,  2.81it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 56499it [6:33:33,  2.95it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 56549it [6:33:53,  3.02it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 56599it [6:34:13,  3.34it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 56651it [6:34:46,  2.80s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 56701it [6:35:06,  2.81s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 56749it [6:35:13,  3.07it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 56799it [6:35:33,  3.15it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 56850it [6:36:07,  4.00s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 56901it [6:36:27,  2.64s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 56952it [6:36:47,  2.26s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 57004it [6:37:07,  1.41s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 57053it [6:37:27,  1.51s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 57107it [6:37:48,  1.54it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 57153it [6:38:07,  1.49s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 57203it [6:38:28,  1.50s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 57250it [6:38:47,  3.71s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 57303it [6:39:08,  1.56s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 57354it [6:39:28,  1.33s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 57399it [6:39:34,  3.37it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 57449it [6:39:54,  2.93it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 57499it [6:40:14,  2.83it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 57549it [6:40:35,  2.94it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 57599it [6:40:55,  3.08it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 57649it [6:41:15,  3.13it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 57699it [6:41:35,  3.15it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 57749it [6:41:55,  3.21it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 57799it [6:42:15,  2.91it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 57849it [6:42:35,  2.92it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 57899it [6:42:55,  3.02it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 57949it [6:43:15,  2.85it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 57999it [6:43:35,  3.09it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 58049it [6:43:56,  2.91it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 58099it [6:44:16,  2.86it/s]███████████████████████████████████████████████████████��█████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 58149it [6:44:36,  3.22it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 58199it [6:44:56,  2.89it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 58249it [6:45:16,  3.30it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 58299it [6:45:36,  2.92it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 58349it [6:45:56,  2.88it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 58399it [6:46:16,  3.06it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 58449it [6:46:36,  3.12it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 58499it [6:46:56,  3.06it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 58549it [6:47:16,  2.91it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 58599it [6:47:36,  2.90it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 58649it [6:47:56,  3.21it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 58699it [6:48:17,  2.77it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 58749it [6:48:37,  3.06it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 58799it [6:48:57,  3.13it/s]████���████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 58849it [6:49:17,  3.19it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 58899it [6:49:37,  3.11it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 58949it [6:49:57,  3.01it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 58999it [6:50:17,  2.92it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59049it [6:50:37,  2.92it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59099it [6:50:57,  3.06it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59149it [6:51:17,  3.17it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59199it [6:51:37,  2.95it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59249it [6:51:57,  3.24it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59299it [6:52:18,  2.98it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59349it [6:52:38,  2.97it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59399it [6:52:58,  3.08it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59449it [6:53:18,  3.02it/s]█████████████████████████████████████████████████████████████████████████████████��███████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59499it [6:53:38,  3.28it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59549it [6:53:58,  3.07it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59599it [6:54:18,  3.24it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59649it [6:54:38,  2.92it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59699it [6:54:58,  3.13it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59749it [6:55:18,  2.93it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59799it [6:55:38,  3.22it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59849it [6:55:58,  3.00it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59899it [6:56:19,  2.98it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59949it [6:56:39,  3.06it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 59999it [6:56:59,  2.94it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+Training...: 59999it [6:57:12,  2.94it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+tcmalloc: large alloc 2715181056 bytes == 0x3b84d0000 @  0x7f2f3656a680 0x7f2f3658abdd 0x7f2f1cb2420d 0x7f2f1cb32340 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb31e87 0x7f2f1cb2dbd3 0x7f2f1cb2e1fe 0x504d56 0x56acb6 0x568d9a 0x5f5b33 0x56bc9b 0x5f5956 0x56aadf 0x5f5956 0x56fb87 0x568d9a 0x5f5b33 0x56bc9b 0x568d9a
+[05:38:07] - INFO - absl - Saved checkpoint at checkpoint_390000
+[05:38:08] - INFO - huggingface_hub.repository - git version 2.25.1
+git-lfs/2.9.2 (GitHub; linux amd64; go 1.13.5)

wandb/run-20210716_223350-8eukt20m/files/wandb-summary.json

@@ -1 +1 @@
-{"training_step": 375000, "learning_rate": 2.2184511180967093e-05, "train_loss": 1.831762671470642, "_runtime": 19206, "_timestamp": 1626494036, "_step": 903, "eval_step": 370000, "eval_accuracy": 0.6454317569732666, "eval_loss": 1.7911626100540161}
+{"training_step": 390000, "learning_rate": 2.1863324946025386e-05, "train_loss": 1.789033055305481, "_runtime": 25449, "_timestamp": 1626500279, "_step": 1205, "eval_step": 390000, "eval_accuracy": 0.6484184265136719, "eval_loss": 1.7725799083709717}