diff --git "a/wandb/run-20210715_185845-dq8uirtg/files/output.log" "b/wandb/run-20210715_185845-dq8uirtg/files/output.log"
--- "a/wandb/run-20210715_185845-dq8uirtg/files/output.log"
+++ "b/wandb/run-20210715_185845-dq8uirtg/files/output.log"
@@ -590,3 +590,1732 @@ tcmalloc: large alloc 1530273792 bytes == 0x32044a000 @  0x7f7011c37680 0x7f7011
 [19:43:38] - INFO - absl - Saved checkpoint at checkpoint_105000
 [19:43:39] - INFO - huggingface_hub.repository - git version 2.25.1
 git-lfs/2.9.2 (GitHub; linux amd64; go 1.13.5)
+[19:43:40] - DEBUG - huggingface_hub.repository - [Repository] is a valid git repo
+[19:44:52] - INFO - huggingface_hub.repository - Uploading LFS objects: 100% (10/10), 2.0 GB | 48 MB/s, done.
+
+
+
+Training...: 5048it [40:30,  2.67it/s]
+
+
+
+
+Training...: 5098it [40:50,  2.71it/s]
+
+
+
+
+Training...: 5148it [41:10,  2.67it/s]
+
+
+
+
+Training...: 5198it [41:30,  2.70it/s]
+
+
+
+
+Training...: 5248it [41:50,  2.68it/s]
+
+
+
+
+Training...: 5298it [42:10,  2.82it/s]
+
+
+
+
+Training...: 5348it [42:30,  2.67it/s]
+
+
+
+
+Training...: 5398it [42:50,  2.67it/s]
+
+
+
+
+Training...: 5448it [43:10,  2.70it/s]
+
+
+
+
+Training...: 5498it [43:30,  2.68it/s]
+
+
+
+
+Training...: 5548it [43:50,  2.70it/s]
+
+
+
+
+Training...: 5598it [44:10,  2.68it/s]
+
+
+
+
+Training...: 5648it [44:31,  2.30it/s]
+
+
+
+
+Training...: 5698it [44:51,  2.67it/s]
+
+
+
+
+Training...: 5748it [45:11,  2.68it/s]
+
+
+
+
+Training...: 5798it [45:31,  2.70it/s]
+
+
+
+
+Training...: 5848it [45:51,  2.67it/s]
+
+
+
+
+Training...: 5898it [46:11,  2.70it/s]
+
+
+
+
+Training...: 5948it [46:31,  2.67it/s]
+
+
+
+
+Training...: 5998it [46:51,  2.76it/s]
+
+
+
+
+Training...: 6048it [47:11,  2.67it/s]
+
+
+
+
+Training...: 6098it [47:31,  2.67it/s]
+
+
+
+
+Training...: 6148it [47:51,  2.70it/s]
+
+
+
+
+Training...: 6198it [48:11,  2.62it/s]
+
+
+
+
+Training...: 6248it [48:31,  2.69it/s]
+
+
+
+
+Training...: 6298it [48:51,  2.67it/s]
+
+
+
+
+Training...: 6348it [49:11,  2.81it/s]
+
+
+
+
+Training...: 6398it [49:31,  2.68it/s]
+
+
+
+
+Training...: 6448it [49:51,  2.67it/s]
+
+
+
+
+Training...: 6498it [50:11,  2.71it/s]
+
+
+
+
+Training...: 6548it [50:31,  2.68it/s]
+
+
+
+
+Training...: 6598it [50:51,  2.70it/s]
+
+
+
+
+Training...: 6648it [51:11,  2.67it/s]
+
+
+
+
+Training...: 6698it [51:31,  2.74it/s]
+
+
+
+
+Training...: 6748it [51:51,  2.67it/s]
+
+
+
+
+Training...: 6798it [52:11,  2.67it/s]
+
+
+
+
+Training...: 6848it [52:31,  2.68it/s]
+
+
+
+
+Training...: 6898it [52:52,  2.67it/s]
+
+
+
+
+Training...: 6948it [53:12,  2.70it/s]
+
+
+
+
+Training...: 6998it [53:32,  2.68it/s]
+
+
+
+
+Training...: 7048it [53:52,  2.76it/s]
+
+
+
+
+Training...: 7098it [54:12,  2.67it/s]
+
+
+
+
+Training...: 7148it [54:32,  2.67it/s]
+
+
+
+
+Training...: 7198it [54:52,  2.70it/s]
+
+
+
+
+
+Training...: 7249it [55:25,  4.01s/it]
+
+
+
+
+
+Training...: 7299it [55:45,  4.01s/it]
+
+
+
+
+
+Training...: 7349it [56:05,  4.02s/it]
+
+
+
+
+
+Training...: 7401it [56:25,  2.24s/it]
+
+
+
+
+
+Training...: 7451it [56:45,  2.24s/it]
+
+
+
+
+
+Training...: 7501it [57:05,  2.25s/it]
+
+
+
+
+
+Training...: 7551it [57:25,  2.24s/it]
+
+
+
+
+Training...: 7598it [57:32,  2.67it/s]
+
+
+
+
+
+Training...: 7649it [58:05,  4.01s/it]
+
+
+
+
+
+Training...: 7699it [58:25,  4.01s/it]
+
+
+
+
+
+Training...: 7749it [58:45,  4.00s/it]
+
+
+
+
+
+Training...: 7801it [59:06,  2.25s/it]
+
+
+
+
+
+Training...: 7851it [59:26,  2.24s/it]
+
+
+
+
+
+Training...: 7901it [59:46,  2.24s/it]
+
+
+
+
+Training...: 7948it [59:52,  2.68it/s]
+
+
+
+
+Training...: 7998it [1:00:12,  2.69it/s]
+Training...: 7998it [1:00:26,  2.69it/s]
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+Training...: 8059it [1:01:50,  2.25it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 8111it [1:02:10,  3.10it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 8161it [1:02:30,  3.10it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 8207it [1:02:50,  1.49it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████���███████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 8261it [1:03:10,  3.10it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 8313it [1:03:31,  4.13it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 8363it [1:03:51,  4.15it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 8413it [1:04:11,  4.13it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 8457it [1:04:30,  1.59it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 8509it [1:04:50,  2.25it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 8555it [1:05:10,  1.09it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 8609it [1:05:31,  2.26it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 8661it [1:05:51,  3.09it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 8711it [1:06:11,  3.10it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 8763it [1:06:31,  4.14it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 8813it [1:06:51,  4.13it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 8863it [1:07:11,  4.10it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 8904it [1:07:31,  1.16s/it]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 8959it [1:07:51,  2.26it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 9009it [1:08:11,  2.25it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 9059it [1:08:31,  2.25it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 9111it [1:08:51,  3.09it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 9161it [1:09:11,  3.08it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 9211it [1:09:31,  3.09it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 9261it [1:09:51,  2.98it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 9315it [1:10:11,  5.34it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 9365it [1:10:32,  5.34it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 9409it [1:10:51,  2.24it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 9459it [1:11:11,  2.24it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 9511it [1:11:31,  3.08it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 9561it [1:11:51,  3.09it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 9609it [1:12:12,  2.19it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 9665it [1:12:32,  5.30it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 9715it [1:12:52,  5.34it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 9759it [1:13:11,  2.25it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 9809it [1:13:31,  2.25it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 9859it [1:13:52,  2.25it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 9911it [1:14:12,  3.10it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 9960it [1:14:32,  2.85it/s]████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 10015it [1:14:52,  5.30it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 10057it [1:15:12,  1.59it/s]███████████████████████████████���███████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 10107it [1:15:32,  1.58it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 10159it [1:15:52,  2.23it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 10211it [1:16:12,  3.05it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 10260it [1:16:32,  2.97it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 10301it [1:16:51,  2.22s/it]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 10356it [1:17:12,  1.50it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 10405it [1:17:32,  1.08it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 10461it [1:17:52,  3.06it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 10509it [1:18:12,  2.22it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 10559it [1:18:32,  2.21it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 10610it [1:18:53,  2.85it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 10659it [1:19:13,  2.16it/s]██████████████████████████████████████████████████████████████��████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 10705it [1:19:32,  1.08it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 10756it [1:19:52,  1.50it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 10807it [1:20:12,  1.58it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 10856it [1:20:32,  1.46it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 10911it [1:20:53,  3.04it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 10963it [1:21:13,  4.07it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 11009it [1:21:33,  2.20it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 11055it [1:21:53,  1.08it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 11106it [1:22:13,  1.50it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 11155it [1:22:33,  1.08it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 11209it [1:22:53,  2.25it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 11259it [1:23:13,  2.22it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 11309it [1:23:33,  2.23it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 11358it [1:23:53,  2.07it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 11412it [1:24:13,  3.97it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 11457it [1:24:33,  1.58it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 11505it [1:24:53,  1.36it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 11557it [1:25:13,  1.56it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 11610it [1:25:34,  2.99it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 11661it [1:25:54,  3.08it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 11708it [1:26:14,  2.13it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 11755it [1:26:33,  1.09it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 11805it [1:26:53,  1.08it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 11857it [1:27:14,  1.58it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 11907it [1:27:34,  1.58it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 11959it [1:27:54,  2.25it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 12009it [1:28:14,  2.24it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 12057it [1:28:34,  1.55it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 12105it [1:28:54,  1.08it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 12155it [1:29:14,  1.09it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 12205it [1:29:34,  1.09it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 12255it [1:29:54,  1.08it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 12306it [1:30:14,  1.45it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 12357it [1:30:34,  1.57it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 12405it [1:30:54,  1.07it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 12457it [1:31:14,  1.58it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 12506it [1:31:34,  1.50it/s]████████��██████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 12557it [1:31:54,  1.58it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 12607it [1:32:14,  1.58it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 12659it [1:32:35,  2.19it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 12710it [1:32:55,  2.96it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 12756it [1:33:15,  1.46it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 12813it [1:33:35,  4.14it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 12863it [1:33:55,  4.08it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 12907it [1:34:15,  1.59it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 12957it [1:34:35,  1.57it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 13009it [1:34:55,  2.24it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 13059it [1:35:15,  2.23it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 13109it [1:35:35,  2.23it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 13161it [1:35:55,  3.00it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 13211it [1:36:15,  3.05it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 13262it [1:36:35,  3.96it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 13313it [1:36:55,  4.03it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 13357it [1:37:15,  1.59it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 13407it [1:37:35,  1.58it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 13461it [1:37:55,  2.99it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 13513it [1:38:16,  4.09it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 13561it [1:38:36,  3.03it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 13607it [1:38:55,  1.59it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 13659it [1:39:15,  2.24it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 13709it [1:39:35,  2.23it/s]████████████████████████████████████████████████████████████████████��██████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 13761it [1:39:56,  3.09it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 13807it [1:40:15,  1.59it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 13857it [1:40:35,  1.59it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+
+Training...: 13908it [1:40:56,  2.10it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+
+Training...: 13961it [1:41:16,  3.06it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+
+
+
+Training...: 13998it [1:41:35,  2.69it/s]███████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.90it/s]
+Evaluating ...:   2%|███▎                                                                                                                                                  | 11/500 [00:00<00:21, 22.41it/s]
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+Training...: 14048it [1:42:46,  2.72it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 14098it [1:43:06,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 14148it [1:43:26,  2.72it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 14198it [1:43:46,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 14248it [1:44:06,  2.69it/s]████████████████████████████████████████████████████████████████████████████��████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 14298it [1:44:26,  2.78it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 14348it [1:44:46,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 14398it [1:45:06,  2.72it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 14448it [1:45:26,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 14526it [1:46:01, 12.38it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+Training...: 14548it [1:46:06,  2.66it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 14603it [1:46:40,  1.39s/it]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 14648it [1:46:46,  2.72it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 14698it [1:47:06,  2.68it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 14749it [1:47:40,  4.01s/it]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 14798it [1:47:46,  2.70it/s]██████████████████████████████████████████████████��██████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 14848it [1:48:06,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 14898it [1:48:27,  2.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 14948it [1:48:47,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 14998it [1:49:07,  2.72it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 15048it [1:49:27,  2.66it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 15098it [1:49:47,  2.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 15148it [1:50:07,  2.66it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 15198it [1:50:27,  2.68it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 15248it [1:50:47,  2.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 15298it [1:51:07,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+
+Training...: 15353it [1:51:40,  1.39s/it]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 15398it [1:51:47,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 15448it [1:52:07,  2.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 15498it [1:52:27,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 15548it [1:52:47,  2.68it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 15598it [1:53:07,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 15648it [1:53:27,  2.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 15698it [1:53:47,  2.72it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 15748it [1:54:07,  2.74it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+
+Training...: 15803it [1:54:41,  1.40s/it]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 15855it [1:55:01,  1.09it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 15898it [1:55:07,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 15948it [1:55:27,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 15998it [1:55:48,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+
+Training...: 16053it [1:56:21,  1.39s/it]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 16103it [1:56:41,  1.40s/it]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 16153it [1:57:01,  1.39s/it]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 16205it [1:57:21,  1.08it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 16248it [1:57:28,  2.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 16298it [1:57:48,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 16348it [1:58:08,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 16398it [1:58:28,  2.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 16448it [1:58:48,  2.68it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 16498it [1:59:08,  2.72it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 16548it [1:59:28,  2.74it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 16598it [1:59:48,  2.68it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 16648it [2:00:08,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 16698it [2:00:28,  2.64it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 16748it [2:00:48,  2.84it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 16798it [2:01:08,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 16848it [2:01:28,  2.72it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 16898it [2:01:48,  2.68it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 16948it [2:02:08,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 16998it [2:02:28,  2.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 17048it [2:02:48,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 17098it [2:03:09,  2.76it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 17148it [2:03:29,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+
+Training...: 17198it [2:03:51,  5.24it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+
+Training...: 17248it [2:04:11,  5.09it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 17298it [2:04:29,  3.00it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 17348it [2:04:49,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 17398it [2:05:09,  2.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 17448it [2:05:29,  2.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 17498it [2:05:49,  2.68it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 17548it [2:06:09,  2.72it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 17598it [2:06:29,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 17648it [2:06:49,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 17698it [2:07:09,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 17748it [2:07:29,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 17798it [2:07:49,  2.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 17848it [2:08:09,  2.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 17898it [2:08:29,  2.75it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 17948it [2:08:50,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 17998it [2:09:10,  2.64it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 18048it [2:09:30,  2.67it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 18098it [2:09:50,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 18148it [2:10:10,  2.75it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 18198it [2:10:30,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 18248it [2:10:50,  2.72it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 18298it [2:11:10,  2.68it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+Training...: 18348it [2:11:30,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 18398it [2:11:50,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 18448it [2:12:10,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 18498it [2:12:30,  2.75it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 18548it [2:12:50,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 18598it [2:13:10,  2.72it/s]█████████████���███████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 18648it [2:13:30,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 18698it [2:13:50,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 18748it [2:14:10,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 18798it [2:14:30,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 18848it [2:14:50,  2.72it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 18898it [2:15:10,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 18948it [2:15:30,  2.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 18998it [2:15:50,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19048it [2:16:10,  2.65it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19098it [2:16:31,  2.74it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19148it [2:16:51,  2.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19198it [2:17:11,  2.72it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19248it [2:17:31,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19298it [2:17:51,  2.73it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19348it [2:18:11,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19398it [2:18:31,  2.72it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19448it [2:18:51,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19498it [2:19:11,  2.70it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19548it [2:19:31,  2.73it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19598it [2:19:51,  2.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19648it [2:20:11,  2.72it/s]██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████��██████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19698it [2:20:31,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19748it [2:20:51,  2.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19798it [2:21:11,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19848it [2:21:31,  2.69it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19898it [2:21:51,  2.76it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19948it [2:22:11,  2.71it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+Training...: 19998it [2:22:31,  2.73it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+Training...: 19998it [2:22:45,  2.73it/s]█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 500/500 [00:59<00:00,  7.91it/s]
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+
+tcmalloc: large alloc 2715181056 bytes == 0x3dd038000 @  0x7f7011c37680 0x7f7011c57bdd 0x7f6ff81f120d 0x7f6ff81ff340 0x7f6ff81fee87 0x7f6ff81fee87 0x7f6ff81fee87 0x7f6ff81fee87 0x7f6ff81fee87 0x7f6ff81fee87 0x7f6ff81fee87 0x7f6ff81fee87 0x7f6ff81fee87 0x7f6ff81fee87 0x7f6ff81fee87 0x7f6ff81fee87 0x7f6ff81fabd3 0x7f6ff81fb1fe 0x504d56 0x56acb6 0x568d9a 0x5f5b33 0x56bc9b 0x5f5956 0x56aadf 0x5f5956 0x56fb87 0x568d9a 0x5f5b33 0x56bc9b 0x568d9a
+[21:28:26] - INFO - absl - Saved checkpoint at checkpoint_120000
+[21:28:27] - INFO - huggingface_hub.repository - git version 2.25.1
+git-lfs/2.9.2 (GitHub; linux amd64; go 1.13.5)