Saving weights and logs of step 420000

checkpoint_420000

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:17620c412204ca4453fcc7b949b1188e11339bfcb31f5e34830a70c6afa1f416
+size 1530270447

events.out.tfevents.1626474829.t1v-n-f5c06ea1-w-0.798495.3.v2

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:ebe67d3138fcc13c1f7f62a59affae5de2f739125b634dacd187b86d9ba3bf50
-size 11281034
+oid sha256:f059fcaed778fbca8e5101b541e74ed0f069df98b386e1c0671d14fe84f987f3
+size 13537318

flax_model.msgpack

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:670d8948058094e69227e75ef600426a33ff0a508c61a724331413906ca925e6
+oid sha256:67fc2d4a16f52aa63b62880f3ce0ffaeef033c502d7ea7095f532a8ceb9bc566
 size 510090043

wandb/run-20210716_223350-8eukt20m/files/output.log

@@ -9071,3 +9071,1594 @@ tcmalloc: large alloc 2715181056 bytes == 0x390142000 @  0x7f2f3656a680 0x7f2f36
 [07:20:57] - INFO - absl - Saved checkpoint at checkpoint_405000
 [07:20:59] - INFO - huggingface_hub.repository - git version 2.25.1
 git-lfs/2.9.2 (GitHub; linux amd64; go 1.13.5)
+[07:20:59] - DEBUG - huggingface_hub.repository - [Repository] is a valid git repo
+[07:22:26] - INFO - huggingface_hub.repository - Uploading LFS objects: 100% (3/3), 2.1 GB | 36 MB/s, done.
+
+
+
+
+
+Training...: 75051it [8:43:05,  2.77s/it]
+
+
+
+
+
+Training...: 75102it [8:43:25,  2.24s/it]
+
+
+
+
+
+Training...: 75154it [8:43:45,  1.16s/it]
+
+
+
+
+
+Training...: 75206it [8:44:06,  1.30it/s]
+
+
+
+
+
+Training...: 75251it [8:44:25,  2.88s/it]
+
+
+
+
+
+Training...: 75303it [8:44:45,  1.65s/it]
+
+
+
+
+
+Training...: 75354it [8:45:06,  1.39s/it]
+
+
+
+
+
+Training...: 75408it [8:45:26,  1.58it/s]
+
+
+
+
+
+Training...: 75457it [8:45:46,  1.68it/s]
+
+
+
+
+
+Training...: 75507it [8:46:06,  1.46it/s]
+
+
+
+
+
+Training...: 75559it [8:46:26,  2.05it/s]
+
+
+
+
+Training...: 75608it [8:46:46,  1.55it/s]
+
+
+
+Training...: 75649it [8:46:52,  2.81it/s]
+
+
+
+
+
+Training...: 75699it [8:47:12,  2.80it/s]
+
+
+
+
+
+Training...: 75749it [8:47:32,  3.02it/s]
+
+
+
+
+Training...: 75799it [8:47:53,  2.77it/s]
+
+
+
+
+Training...: 75849it [8:48:13,  2.85it/s]
+
+
+
+
+
+Training...: 75899it [8:48:33,  2.91it/s]
+
+
+
+
+
+Training...: 75949it [8:48:53,  2.82it/s]
+
+
+
+
+Training...: 75999it [8:49:13,  2.82it/s]
+
+
+
+
+Training...: 76049it [8:49:33,  2.79it/s]
+
+
+
+
+Training...: 76099it [8:49:53,  3.01it/s]
+
+
+
+
+Training...: 76149it [8:50:13,  2.96it/s]
+
+
+
+
+Training...: 76199it [8:50:33,  2.76it/s]
+
+
+
+
+Training...: 76249it [8:50:53,  2.92it/s]
+
+
+
+
+Training...: 76299it [8:51:13,  2.86it/s]
+
+
+
+
+Training...: 76349it [8:51:33,  2.92it/s]
+
+
+
+
+Training...: 76399it [8:51:53,  3.08it/s]
+
+
+
+
+Training...: 76449it [8:52:13,  2.84it/s]
+
+
+
+
+Training...: 76499it [8:52:33,  2.89it/s]
+
+
+
+
+Training...: 76549it [8:52:53,  2.78it/s]
+
+
+
+
+Training...: 76599it [8:53:14,  2.82it/s]
+
+
+
+
+Training...: 76649it [8:53:34,  2.96it/s]
+
+
+
+
+Training...: 76699it [8:53:54,  2.77it/s]
+
+
+
+
+Training...: 76749it [8:54:14,  3.00it/s]
+
+
+
+
+Training...: 76799it [8:54:34,  2.94it/s]
+
+
+
+
+Training...: 76849it [8:54:54,  2.84it/s]
+
+
+
+
+Training...: 76899it [8:55:14,  2.81it/s]
+
+
+
+
+Training...: 76949it [8:55:34,  2.78it/s]
+
+
+
+
+
+Training...: 77008it [8:56:08,  2.01it/s]
+
+
+
+Training...: 77049it [8:56:14,  2.83it/s]
+
+
+
+
+Training...: 77099it [8:56:34,  2.76it/s]
+
+
+
+
+Training...: 77149it [8:56:54,  2.82it/s]
+
+
+
+
+Training...: 77199it [8:57:14,  2.73it/s]
+
+
+
+
+
+Training...: 77262it [8:57:49,  3.59it/s]
+
+
+
+
+Training...: 77312it [8:58:09,  2.96it/s]
+
+
+
+Training...: 77349it [8:58:15,  2.78it/s]
+
+
+
+
+Training...: 77399it [8:58:35,  2.92it/s]
+
+
+
+
+Training...: 77449it [8:58:55,  2.84it/s]
+
+
+
+
+Training...: 77499it [8:59:15,  2.88it/s]
+
+
+
+
+Training...: 77549it [8:59:35,  2.87it/s]
+
+
+
+
+Training...: 77599it [8:59:55,  2.81it/s]
+
+
+
+
+Training...: 77649it [9:00:15,  2.73it/s]
+
+
+
+
+Training...: 77699it [9:00:35,  2.83it/s]
+
+
+
+
+Training...: 77749it [9:00:55,  2.95it/s]
+
+
+
+
+Training...: 77799it [9:01:15,  2.77it/s]
+
+
+
+
+Training...: 77849it [9:01:35,  3.02it/s]
+
+
+
+
+Training...: 77899it [9:01:55,  2.84it/s]
+
+
+
+
+Training...: 77949it [9:02:15,  2.87it/s]
+
+
+
+
+Training...: 77999it [9:02:36,  2.76it/s]
+
+
+
+
+Training...: 78049it [9:02:56,  3.01it/s]
+
+
+
+
+Training...: 78099it [9:03:16,  2.97it/s]
+
+
+
+
+Training...: 78149it [9:03:36,  2.82it/s]
+
+
+
+
+Training...: 78199it [9:03:56,  2.83it/s]
+
+
+
+
+Training...: 78249it [9:04:16,  2.80it/s]
+
+
+
+
+Training...: 78299it [9:04:36,  2.79it/s]
+
+
+
+
+Training...: 78349it [9:04:56,  2.93it/s]
+
+
+
+
+Training...: 78399it [9:05:16,  2.72it/s]
+
+
+
+
+Training...: 78449it [9:05:36,  2.89it/s]
+
+
+
+
+Training...: 78499it [9:05:56,  2.78it/s]
+
+
+
+
+Training...: 78549it [9:06:16,  2.80it/s]
+
+
+
+
+Training...: 78599it [9:06:36,  2.84it/s]
+
+
+
+
+Training...: 78649it [9:06:57,  2.76it/s]
+
+
+
+
+Training...: 78699it [9:07:17,  2.74it/s]
+
+
+
+
+Training...: 78749it [9:07:37,  2.96it/s]
+
+
+
+
+Training...: 78799it [9:07:57,  2.79it/s]
+
+
+
+
+Training...: 78849it [9:08:17,  2.87it/s]
+
+
+
+
+Training...: 78899it [9:08:37,  2.83it/s]
+
+
+
+
+Training...: 78949it [9:08:57,  3.16it/s]
+
+
+
+
+Training...: 78999it [9:09:17,  2.78it/s]
+
+
+
+
+Training...: 79049it [9:09:37,  2.82it/s]
+
+
+
+
+Training...: 79099it [9:09:57,  2.81it/s]
+
+
+
+
+Training...: 79149it [9:10:17,  2.77it/s]
+
+
+
+
+Training...: 79199it [9:10:37,  3.03it/s]
+
+
+
+
+Training...: 79249it [9:10:57,  2.82it/s]
+
+
+
+
+Training...: 79299it [9:11:17,  2.80it/s]
+
+
+
+
+Training...: 79349it [9:11:38,  2.87it/s]
+
+
+
+
+Training...: 79399it [9:11:58,  2.79it/s]
+
+
+
+
+Training...: 79449it [9:12:18,  2.80it/s]
+
+
+
+
+Training...: 79499it [9:12:38,  2.82it/s]
+
+
+
+
+Training...: 79549it [9:12:58,  2.83it/s]
+
+
+
+
+Training...: 79599it [9:13:18,  2.81it/s]
+
+
+
+
+Training...: 79649it [9:13:38,  2.85it/s]
+
+
+
+
+Training...: 79699it [9:13:58,  2.89it/s]
+
+
+
+
+Training...: 79749it [9:14:18,  2.77it/s]
+
+
+
+
+Training...: 79799it [9:14:38,  2.84it/s]
+
+
+
+
+Training...: 79849it [9:14:58,  2.86it/s]
+
+
+
+
+Training...: 79899it [9:15:18,  2.88it/s]
+
+
+
+
+Training...: 79949it [9:15:38,  2.91it/s]
+
+
+
+
+Training...: 79999it [9:15:58,  2.84it/s]
+Training...: 79999it [9:16:12,  2.84it/s]
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+Training...: 80056it [9:17:36,  1.07it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 80106it [9:17:56,  1.07it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 80160it [9:18:17,  2.15it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 80204it [9:18:36,  1.41s/it]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 80249it [9:18:43,  2.82it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 80299it [9:19:03,  2.89it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 80349it [9:19:23,  2.79it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 80408it [9:19:57,  2.33it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 80460it [9:20:17,  2.62it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+Training...: 80499it [9:20:23,  2.77it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 80560it [9:20:57,  2.50it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 80611it [9:21:17,  2.83it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 80658it [9:21:37,  1.88it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+Training...: 80699it [9:21:43,  2.77it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 80749it [9:22:03,  2.78it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 80811it [9:22:38,  3.40it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 80856it [9:22:57,  1.07it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 80907it [9:23:17,  1.66it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 80957it [9:23:38,  1.41it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 81006it [9:23:58,  1.18it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 81060it [9:24:18,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 81109it [9:24:38,  2.06it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 81160it [9:24:58,  2.63it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 81210it [9:25:18,  2.66it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 81262it [9:25:38,  3.57it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 81315it [9:25:59,  4.96it/s]██████████████████████████████████████████████████████████���██████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 81363it [9:26:19,  3.59it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 81409it [9:26:38,  1.94it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+Training...: 81449it [9:26:44,  2.76it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 81499it [9:27:04,  2.81it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 81549it [9:27:24,  2.82it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 81615it [9:27:59,  5.67it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 81665it [9:28:19,  4.67it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 81714it [9:28:39,  5.82it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+Training...: 81749it [9:28:45,  2.93it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 81813it [9:29:19,  3.59it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 81861it [9:29:39,  2.85it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 81915it [9:30:00,  4.57it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 81966it [9:30:20,  5.65it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82013it [9:30:40,  4.68it/s]██████████���██████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82060it [9:31:00,  3.20it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82108it [9:31:20,  2.02it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82164it [9:31:40,  4.00it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82212it [9:32:00,  2.89it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82260it [9:32:20,  2.63it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82312it [9:32:40,  3.72it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82359it [9:33:00,  1.98it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82414it [9:33:20,  3.81it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82462it [9:33:40,  4.37it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82514it [9:34:00,  3.67it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82561it [9:34:20,  2.78it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82614it [9:34:41,  4.34it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82665it [9:35:01,  4.74it/s]███████████████████████████████████████████████████████████████████████████████████████��█████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82715it [9:35:21,  4.41it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82766it [9:35:41,  4.76it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82810it [9:36:00,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82862it [9:36:21,  2.93it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82911it [9:36:41,  3.25it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 82963it [9:37:01,  3.50it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 83015it [9:37:21,  4.84it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 83064it [9:37:41,  4.40it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 83115it [9:38:01,  4.61it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 83167it [9:38:21,  5.60it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+Training...: 83199it [9:38:27,  2.85it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 83268it [9:39:02,  5.83it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 83315it [9:39:21,  5.86it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 83366it [9:39:42,  5.85it/s]███████████████████████████████████████��█████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 83416it [9:40:02,  4.61it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 83466it [9:40:22,  7.68it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 83518it [9:40:42,  6.89it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 83564it [9:41:02,  3.86it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 83615it [9:41:22,  5.59it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 83666it [9:41:42,  4.80it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 83716it [9:42:02,  4.75it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 83762it [9:42:22,  3.66it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+Training...: 83799it [9:42:28,  2.87it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 83849it [9:42:48,  2.95it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 83918it [9:43:22,  7.01it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 83968it [9:43:43,  6.11it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 84019it [9:44:03,  6.60it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 84066it [9:44:23,  4.93it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 84114it [9:44:42,  4.82it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 84166it [9:45:03,  4.88it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 84219it [9:45:23,  7.22it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 84263it [9:45:43,  4.08it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 84313it [9:46:03,  3.43it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 84365it [9:46:23,  6.61it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 84413it [9:46:43,  3.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+Training...: 84449it [9:46:48,  2.82it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 84518it [9:47:23,  6.67it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 84562it [9:47:43,  3.36it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 84618it [9:48:03,  7.21it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+Training...: 84649it [9:48:09,  2.76it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 84716it [9:48:44,  5.66it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 84770it [9:49:04,  7.49it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 84816it [9:49:24,  5.46it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 84864it [9:49:43,  3.82it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 84914it [9:50:03,  3.80it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 84963it [9:50:24,  3.81it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+Training...: 84999it [9:50:29,  2.96it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 85049it [9:50:49,  2.76it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 85099it [9:51:09,  2.77it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 85149it [9:51:29,  2.75it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 85215it [9:52:04,  5.85it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 85265it [9:52:24,  4.74it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 85315it [9:52:44,  4.67it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+Training...: 85349it [9:52:50,  2.84it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 85399it [9:53:10,  2.73it/s]█████████████████████��███████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 85449it [9:53:30,  2.78it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 85499it [9:53:50,  2.76it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 85549it [9:54:10,  2.80it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 85599it [9:54:30,  2.84it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 85649it [9:54:50,  2.78it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 85699it [9:55:10,  2.84it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 85749it [9:55:30,  2.80it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 85799it [9:55:50,  2.76it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 85849it [9:56:10,  2.76it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 85899it [9:56:30,  2.78it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 85949it [9:56:50,  2.89it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 85999it [9:57:10,  2.77it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86049it [9:57:30,  2.93it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86099it [9:57:51,  2.83it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86149it [9:58:11,  2.74it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86199it [9:58:31,  2.81it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86249it [9:58:51,  2.79it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86299it [9:59:11,  2.88it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86349it [9:59:31,  2.77it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86399it [9:59:51,  2.91it/s]█████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86449it [10:00:11,  2.71it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86499it [10:00:31,  2.75it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86549it [10:00:51,  2.80it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86599it [10:01:11,  2.75it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86649it [10:01:31,  2.77it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86699it [10:01:51,  2.81it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86749it [10:02:11,  2.75it/s]██████████████████████████████████████████████████████��█████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86799it [10:02:31,  2.72it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86849it [10:02:51,  2.75it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86899it [10:03:12,  2.75it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86949it [10:03:32,  2.75it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 86999it [10:03:52,  2.76it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87049it [10:04:12,  2.78it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87099it [10:04:32,  2.76it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87149it [10:04:52,  2.79it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87199it [10:05:12,  2.84it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87249it [10:05:32,  2.78it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87299it [10:05:52,  2.78it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87349it [10:06:12,  2.77it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87399it [10:06:32,  2.84it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87449it [10:06:52,  2.73it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87499it [10:07:12,  2.79it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87549it [10:07:32,  2.84it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87599it [10:07:52,  2.77it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87649it [10:08:12,  2.86it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87699it [10:08:32,  2.71it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87749it [10:08:53,  2.78it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87799it [10:09:13,  2.77it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87849it [10:09:33,  2.70it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87899it [10:09:53,  2.89it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87949it [10:10:13,  2.74it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 87999it [10:10:33,  2.83it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88049it [10:10:53,  2.94it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88099it [10:11:13,  2.78it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88149it [10:11:33,  2.85it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88199it [10:11:53,  2.76it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88249it [10:12:13,  2.82it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88299it [10:12:33,  2.73it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88349it [10:12:53,  2.75it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88399it [10:13:13,  2.78it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88449it [10:13:33,  2.80it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88499it [10:13:53,  2.92it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88549it [10:14:13,  2.84it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88599it [10:14:34,  2.83it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88649it [10:14:54,  2.75it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88699it [10:15:14,  2.69it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88749it [10:15:34,  2.77it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88799it [10:15:54,  2.78it/s]███████████████████████████████████████████████████████████████���████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88849it [10:16:14,  2.78it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88899it [10:16:34,  2.79it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88949it [10:16:54,  2.72it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 88999it [10:17:14,  2.78it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89049it [10:17:34,  2.84it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89099it [10:17:54,  2.75it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89149it [10:18:14,  2.72it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89199it [10:18:34,  2.72it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89249it [10:18:55,  2.90it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89299it [10:19:15,  2.79it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89349it [10:19:35,  2.97it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89399it [10:19:55,  2.85it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89449it [10:20:15,  2.74it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89499it [10:20:35,  2.80it/s]████████████████████████��███████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89549it [10:20:55,  2.72it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89599it [10:21:15,  2.76it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89649it [10:21:35,  2.71it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89699it [10:21:55,  2.75it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89749it [10:22:15,  2.83it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89799it [10:22:35,  2.76it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89849it [10:22:55,  2.90it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89899it [10:23:15,  2.74it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89949it [10:23:35,  2.75it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 89999it [10:23:55,  2.75it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+Training...: 89999it [10:24:09,  2.75it/s]████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+[09:05:03] - INFO - absl - Saved checkpoint at checkpoint_420000█████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+[09:05:04] - INFO - huggingface_hub.repository - git version 2.25.1
+git-lfs/2.9.2 (GitHub; linux amd64; go 1.13.5)

wandb/run-20210716_223350-8eukt20m/files/wandb-summary.json

@@ -1 +1 @@
-{"training_step": 405000, "learning_rate": 2.154214416805189e-05, "train_loss": 1.9235954284667969, "_runtime": 31619, "_timestamp": 1626506449, "_step": 1506, "eval_step": 400000, "eval_accuracy": 0.6498574614524841, "eval_loss": 1.7630767822265625}
+{"training_step": 420000, "learning_rate": 2.1220957933110185e-05, "train_loss": 1.9748303890228271, "_runtime": 37865, "_timestamp": 1626512695, "_step": 1808, "eval_step": 420000, "eval_accuracy": 0.6525571346282959, "eval_loss": 1.7464253902435303}