diff --git "a/trainer_state.json" "b/trainer_state.json"
new file mode 100644--- /dev/null
+++ "b/trainer_state.json"
@@ -0,0 +1,13276 @@
+{
+  "best_metric": 0.8064092397689819,
+  "best_model_checkpoint": "./outputs/checkpoint-19200",
+  "epoch": 4.0,
+  "eval_steps": 100,
+  "global_step": 19200,
+  "is_hyper_param_search": false,
+  "is_local_process_zero": true,
+  "is_world_process_zero": true,
+  "log_history": [
+    {
+      "epoch": 0.0,
+      "learning_rate": 0.00019989583333333334,
+      "loss": 1.7041,
+      "step": 10
+    },
+    {
+      "epoch": 0.0,
+      "learning_rate": 0.00019979166666666667,
+      "loss": 1.7168,
+      "step": 20
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 0.0001996875,
+      "loss": 1.6652,
+      "step": 30
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 0.00019958333333333335,
+      "loss": 1.7071,
+      "step": 40
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 0.00019947916666666668,
+      "loss": 1.7232,
+      "step": 50
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 0.000199375,
+      "loss": 1.7245,
+      "step": 60
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 0.00019927083333333334,
+      "loss": 1.7288,
+      "step": 70
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 0.0001991666666666667,
+      "loss": 1.7587,
+      "step": 80
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 0.00019906250000000002,
+      "loss": 1.6539,
+      "step": 90
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 0.00019895833333333332,
+      "loss": 1.7258,
+      "step": 100
+    },
+    {
+      "epoch": 0.02,
+      "eval_accuracy": 0.8048333333333333,
+      "eval_loss": 1.6999030113220215,
+      "eval_runtime": 59.4761,
+      "eval_samples_per_second": 100.881,
+      "eval_steps_per_second": 12.61,
+      "step": 100
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 0.00019885416666666668,
+      "loss": 1.7298,
+      "step": 110
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 0.00019875,
+      "loss": 1.673,
+      "step": 120
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 0.00019864583333333336,
+      "loss": 1.7089,
+      "step": 130
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 0.00019854166666666666,
+      "loss": 1.6914,
+      "step": 140
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 0.00019843750000000002,
+      "loss": 1.74,
+      "step": 150
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 0.00019833333333333335,
+      "loss": 1.7199,
+      "step": 160
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 0.00019822916666666668,
+      "loss": 1.6624,
+      "step": 170
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 0.000198125,
+      "loss": 1.6455,
+      "step": 180
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 0.00019802083333333333,
+      "loss": 1.6626,
+      "step": 190
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 0.0001979166666666667,
+      "loss": 1.669,
+      "step": 200
+    },
+    {
+      "epoch": 0.04,
+      "eval_accuracy": 0.8055,
+      "eval_loss": 1.6797956228256226,
+      "eval_runtime": 59.1414,
+      "eval_samples_per_second": 101.452,
+      "eval_steps_per_second": 12.681,
+      "step": 200
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 0.0001978125,
+      "loss": 1.6798,
+      "step": 210
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 0.00019770833333333335,
+      "loss": 1.68,
+      "step": 220
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 0.00019760416666666667,
+      "loss": 1.6983,
+      "step": 230
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 0.00019750000000000003,
+      "loss": 1.6763,
+      "step": 240
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 0.00019739583333333333,
+      "loss": 1.6582,
+      "step": 250
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 0.0001972916666666667,
+      "loss": 1.6681,
+      "step": 260
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 0.00019718750000000002,
+      "loss": 1.6549,
+      "step": 270
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 0.00019708333333333334,
+      "loss": 1.6482,
+      "step": 280
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 0.00019697916666666667,
+      "loss": 1.6796,
+      "step": 290
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 0.000196875,
+      "loss": 1.6704,
+      "step": 300
+    },
+    {
+      "epoch": 0.06,
+      "eval_accuracy": 0.8053333333333333,
+      "eval_loss": 1.6598883867263794,
+      "eval_runtime": 59.4853,
+      "eval_samples_per_second": 100.865,
+      "eval_steps_per_second": 12.608,
+      "step": 300
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 0.00019677083333333336,
+      "loss": 1.6751,
+      "step": 310
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 0.00019666666666666666,
+      "loss": 1.6525,
+      "step": 320
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 0.00019656250000000001,
+      "loss": 1.6683,
+      "step": 330
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 0.00019645833333333334,
+      "loss": 1.6452,
+      "step": 340
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 0.00019635416666666667,
+      "loss": 1.6645,
+      "step": 350
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 0.00019625,
+      "loss": 1.6736,
+      "step": 360
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 0.00019614583333333333,
+      "loss": 1.6154,
+      "step": 370
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 0.00019604166666666668,
+      "loss": 1.6417,
+      "step": 380
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 0.0001959375,
+      "loss": 1.6299,
+      "step": 390
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 0.00019583333333333334,
+      "loss": 1.6655,
+      "step": 400
+    },
+    {
+      "epoch": 0.08,
+      "eval_accuracy": 0.8046666666666666,
+      "eval_loss": 1.6406689882278442,
+      "eval_runtime": 59.8248,
+      "eval_samples_per_second": 100.293,
+      "eval_steps_per_second": 12.537,
+      "step": 400
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 0.00019572916666666667,
+      "loss": 1.6436,
+      "step": 410
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 0.00019562500000000003,
+      "loss": 1.6618,
+      "step": 420
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 0.00019552083333333335,
+      "loss": 1.6351,
+      "step": 430
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 0.00019541666666666668,
+      "loss": 1.6252,
+      "step": 440
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 0.0001953125,
+      "loss": 1.6796,
+      "step": 450
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 0.00019520833333333334,
+      "loss": 1.6648,
+      "step": 460
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 0.00019510416666666667,
+      "loss": 1.6189,
+      "step": 470
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 0.000195,
+      "loss": 1.6668,
+      "step": 480
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 0.00019489583333333335,
+      "loss": 1.6243,
+      "step": 490
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 0.00019479166666666668,
+      "loss": 1.5754,
+      "step": 500
+    },
+    {
+      "epoch": 0.1,
+      "eval_accuracy": 0.809,
+      "eval_loss": 1.6222825050354004,
+      "eval_runtime": 59.9166,
+      "eval_samples_per_second": 100.139,
+      "eval_steps_per_second": 12.517,
+      "step": 500
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 0.0001946875,
+      "loss": 1.6443,
+      "step": 510
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 0.00019458333333333334,
+      "loss": 1.604,
+      "step": 520
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 0.00019447916666666667,
+      "loss": 1.5798,
+      "step": 530
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 0.00019437500000000002,
+      "loss": 1.6611,
+      "step": 540
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 0.00019427083333333332,
+      "loss": 1.6208,
+      "step": 550
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 0.00019416666666666668,
+      "loss": 1.5771,
+      "step": 560
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 0.0001940625,
+      "loss": 1.6447,
+      "step": 570
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 0.00019395833333333336,
+      "loss": 1.6274,
+      "step": 580
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 0.00019385416666666666,
+      "loss": 1.5745,
+      "step": 590
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 0.00019375000000000002,
+      "loss": 1.6159,
+      "step": 600
+    },
+    {
+      "epoch": 0.12,
+      "eval_accuracy": 0.8068333333333333,
+      "eval_loss": 1.603979468345642,
+      "eval_runtime": 59.3435,
+      "eval_samples_per_second": 101.106,
+      "eval_steps_per_second": 12.638,
+      "step": 600
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 0.00019364583333333335,
+      "loss": 1.6388,
+      "step": 610
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 0.00019354166666666668,
+      "loss": 1.5786,
+      "step": 620
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 0.0001934375,
+      "loss": 1.5871,
+      "step": 630
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 0.00019333333333333333,
+      "loss": 1.5982,
+      "step": 640
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 0.0001932291666666667,
+      "loss": 1.6386,
+      "step": 650
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 0.000193125,
+      "loss": 1.5556,
+      "step": 660
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 0.00019302083333333335,
+      "loss": 1.6128,
+      "step": 670
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 0.00019291666666666668,
+      "loss": 1.6287,
+      "step": 680
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 0.00019281250000000003,
+      "loss": 1.5409,
+      "step": 690
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 0.00019270833333333333,
+      "loss": 1.5663,
+      "step": 700
+    },
+    {
+      "epoch": 0.15,
+      "eval_accuracy": 0.8073333333333333,
+      "eval_loss": 1.5858408212661743,
+      "eval_runtime": 59.6036,
+      "eval_samples_per_second": 100.665,
+      "eval_steps_per_second": 12.583,
+      "step": 700
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 0.00019260416666666666,
+      "loss": 1.5979,
+      "step": 710
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 0.00019250000000000002,
+      "loss": 1.5757,
+      "step": 720
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 0.00019239583333333335,
+      "loss": 1.5784,
+      "step": 730
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 0.00019229166666666667,
+      "loss": 1.5751,
+      "step": 740
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 0.0001921875,
+      "loss": 1.5372,
+      "step": 750
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 0.00019208333333333336,
+      "loss": 1.4675,
+      "step": 760
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 0.00019197916666666666,
+      "loss": 1.5204,
+      "step": 770
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 0.00019187500000000002,
+      "loss": 1.601,
+      "step": 780
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 0.00019177083333333334,
+      "loss": 1.547,
+      "step": 790
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 0.00019166666666666667,
+      "loss": 1.5426,
+      "step": 800
+    },
+    {
+      "epoch": 0.17,
+      "eval_accuracy": 0.8095,
+      "eval_loss": 1.5676575899124146,
+      "eval_runtime": 59.5457,
+      "eval_samples_per_second": 100.763,
+      "eval_steps_per_second": 12.595,
+      "step": 800
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 0.0001915625,
+      "loss": 1.5446,
+      "step": 810
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 0.00019145833333333333,
+      "loss": 1.5546,
+      "step": 820
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 0.00019135416666666669,
+      "loss": 1.5844,
+      "step": 830
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 0.00019125000000000001,
+      "loss": 1.6027,
+      "step": 840
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 0.00019114583333333334,
+      "loss": 1.5902,
+      "step": 850
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 0.00019104166666666667,
+      "loss": 1.5739,
+      "step": 860
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 0.00019093750000000003,
+      "loss": 1.5606,
+      "step": 870
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 0.00019083333333333336,
+      "loss": 1.5316,
+      "step": 880
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 0.00019072916666666666,
+      "loss": 1.5823,
+      "step": 890
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 0.000190625,
+      "loss": 1.5794,
+      "step": 900
+    },
+    {
+      "epoch": 0.19,
+      "eval_accuracy": 0.808,
+      "eval_loss": 1.550596833229065,
+      "eval_runtime": 59.7805,
+      "eval_samples_per_second": 100.367,
+      "eval_steps_per_second": 12.546,
+      "step": 900
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 0.00019052083333333334,
+      "loss": 1.6148,
+      "step": 910
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 0.00019041666666666667,
+      "loss": 1.5922,
+      "step": 920
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 0.0001903125,
+      "loss": 1.5822,
+      "step": 930
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 0.00019020833333333335,
+      "loss": 1.5314,
+      "step": 940
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 0.00019010416666666668,
+      "loss": 1.5052,
+      "step": 950
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 0.00019,
+      "loss": 1.6039,
+      "step": 960
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 0.00018989583333333334,
+      "loss": 1.5331,
+      "step": 970
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 0.00018979166666666667,
+      "loss": 1.4891,
+      "step": 980
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 0.00018968750000000002,
+      "loss": 1.5395,
+      "step": 990
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 0.00018958333333333332,
+      "loss": 1.5504,
+      "step": 1000
+    },
+    {
+      "epoch": 0.21,
+      "eval_accuracy": 0.8035,
+      "eval_loss": 1.534228801727295,
+      "eval_runtime": 59.288,
+      "eval_samples_per_second": 101.201,
+      "eval_steps_per_second": 12.65,
+      "step": 1000
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 0.00018947916666666668,
+      "loss": 1.5642,
+      "step": 1010
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 0.000189375,
+      "loss": 1.5655,
+      "step": 1020
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 0.00018927083333333336,
+      "loss": 1.454,
+      "step": 1030
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 0.00018916666666666667,
+      "loss": 1.4889,
+      "step": 1040
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 0.00018906250000000002,
+      "loss": 1.5293,
+      "step": 1050
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 0.00018895833333333335,
+      "loss": 1.567,
+      "step": 1060
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 0.00018885416666666668,
+      "loss": 1.4736,
+      "step": 1070
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 0.00018875,
+      "loss": 1.4881,
+      "step": 1080
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 0.00018864583333333334,
+      "loss": 1.5934,
+      "step": 1090
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 0.0001885416666666667,
+      "loss": 1.554,
+      "step": 1100
+    },
+    {
+      "epoch": 0.23,
+      "eval_accuracy": 0.802,
+      "eval_loss": 1.5179262161254883,
+      "eval_runtime": 59.6486,
+      "eval_samples_per_second": 100.589,
+      "eval_steps_per_second": 12.574,
+      "step": 1100
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 0.0001884375,
+      "loss": 1.4919,
+      "step": 1110
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 0.00018833333333333335,
+      "loss": 1.4702,
+      "step": 1120
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 0.00018822916666666668,
+      "loss": 1.4973,
+      "step": 1130
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 0.000188125,
+      "loss": 1.4941,
+      "step": 1140
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 0.00018802083333333333,
+      "loss": 1.4737,
+      "step": 1150
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 0.00018791666666666666,
+      "loss": 1.5378,
+      "step": 1160
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 0.00018781250000000002,
+      "loss": 1.5634,
+      "step": 1170
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 0.00018770833333333335,
+      "loss": 1.4912,
+      "step": 1180
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 0.00018760416666666668,
+      "loss": 1.492,
+      "step": 1190
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 0.0001875,
+      "loss": 1.4831,
+      "step": 1200
+    },
+    {
+      "epoch": 0.25,
+      "eval_accuracy": 0.7971666666666667,
+      "eval_loss": 1.5021802186965942,
+      "eval_runtime": 59.4896,
+      "eval_samples_per_second": 100.858,
+      "eval_steps_per_second": 12.607,
+      "step": 1200
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 0.00018739583333333336,
+      "loss": 1.4461,
+      "step": 1210
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 0.00018729166666666666,
+      "loss": 1.5045,
+      "step": 1220
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 0.00018718750000000002,
+      "loss": 1.5142,
+      "step": 1230
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 0.00018708333333333335,
+      "loss": 1.478,
+      "step": 1240
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 0.00018697916666666667,
+      "loss": 1.4318,
+      "step": 1250
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 0.000186875,
+      "loss": 1.4547,
+      "step": 1260
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 0.00018677083333333333,
+      "loss": 1.4929,
+      "step": 1270
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 0.0001866666666666667,
+      "loss": 1.5399,
+      "step": 1280
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 0.00018656250000000001,
+      "loss": 1.5384,
+      "step": 1290
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 0.00018645833333333334,
+      "loss": 1.4718,
+      "step": 1300
+    },
+    {
+      "epoch": 0.27,
+      "eval_accuracy": 0.7955,
+      "eval_loss": 1.4866539239883423,
+      "eval_runtime": 59.7543,
+      "eval_samples_per_second": 100.411,
+      "eval_steps_per_second": 12.551,
+      "step": 1300
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 0.00018635416666666667,
+      "loss": 1.4566,
+      "step": 1310
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 0.00018625,
+      "loss": 1.4934,
+      "step": 1320
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 0.00018614583333333336,
+      "loss": 1.4722,
+      "step": 1330
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 0.00018604166666666666,
+      "loss": 1.4498,
+      "step": 1340
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 0.0001859375,
+      "loss": 1.4899,
+      "step": 1350
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 0.00018583333333333334,
+      "loss": 1.5187,
+      "step": 1360
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 0.00018572916666666667,
+      "loss": 1.4886,
+      "step": 1370
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 0.000185625,
+      "loss": 1.3723,
+      "step": 1380
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 0.00018552083333333335,
+      "loss": 1.5331,
+      "step": 1390
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 0.00018541666666666668,
+      "loss": 1.5206,
+      "step": 1400
+    },
+    {
+      "epoch": 0.29,
+      "eval_accuracy": 0.796,
+      "eval_loss": 1.4716088771820068,
+      "eval_runtime": 59.89,
+      "eval_samples_per_second": 100.184,
+      "eval_steps_per_second": 12.523,
+      "step": 1400
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 0.0001853125,
+      "loss": 1.4758,
+      "step": 1410
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 0.00018520833333333334,
+      "loss": 1.4036,
+      "step": 1420
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 0.00018510416666666667,
+      "loss": 1.4802,
+      "step": 1430
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 0.00018500000000000002,
+      "loss": 1.4982,
+      "step": 1440
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 0.00018489583333333333,
+      "loss": 1.3851,
+      "step": 1450
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 0.00018479166666666668,
+      "loss": 1.4731,
+      "step": 1460
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 0.0001846875,
+      "loss": 1.4901,
+      "step": 1470
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 0.00018458333333333337,
+      "loss": 1.4565,
+      "step": 1480
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 0.00018447916666666667,
+      "loss": 1.484,
+      "step": 1490
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 0.000184375,
+      "loss": 1.4534,
+      "step": 1500
+    },
+    {
+      "epoch": 0.31,
+      "eval_accuracy": 0.7963333333333333,
+      "eval_loss": 1.4566529989242554,
+      "eval_runtime": 59.3602,
+      "eval_samples_per_second": 101.078,
+      "eval_steps_per_second": 12.635,
+      "step": 1500
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 0.00018427083333333335,
+      "loss": 1.4311,
+      "step": 1510
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 0.00018416666666666665,
+      "loss": 1.4833,
+      "step": 1520
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 0.0001840625,
+      "loss": 1.4624,
+      "step": 1530
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 0.00018395833333333334,
+      "loss": 1.4502,
+      "step": 1540
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 0.0001838541666666667,
+      "loss": 1.4318,
+      "step": 1550
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 0.00018375,
+      "loss": 1.5118,
+      "step": 1560
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 0.00018364583333333335,
+      "loss": 1.4956,
+      "step": 1570
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 0.00018354166666666668,
+      "loss": 1.4441,
+      "step": 1580
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 0.0001834375,
+      "loss": 1.411,
+      "step": 1590
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 0.00018333333333333334,
+      "loss": 1.3932,
+      "step": 1600
+    },
+    {
+      "epoch": 0.33,
+      "eval_accuracy": 0.7875,
+      "eval_loss": 1.4427212476730347,
+      "eval_runtime": 59.4465,
+      "eval_samples_per_second": 100.931,
+      "eval_steps_per_second": 12.616,
+      "step": 1600
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 0.00018322916666666666,
+      "loss": 1.463,
+      "step": 1610
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 0.00018312500000000002,
+      "loss": 1.4177,
+      "step": 1620
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 0.00018302083333333335,
+      "loss": 1.3925,
+      "step": 1630
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 0.00018291666666666668,
+      "loss": 1.3542,
+      "step": 1640
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 0.0001828125,
+      "loss": 1.4822,
+      "step": 1650
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 0.00018270833333333336,
+      "loss": 1.5194,
+      "step": 1660
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 0.00018260416666666666,
+      "loss": 1.4127,
+      "step": 1670
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 0.0001825,
+      "loss": 1.4903,
+      "step": 1680
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 0.00018239583333333335,
+      "loss": 1.3942,
+      "step": 1690
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 0.00018229166666666667,
+      "loss": 1.4635,
+      "step": 1700
+    },
+    {
+      "epoch": 0.35,
+      "eval_accuracy": 0.789,
+      "eval_loss": 1.428931474685669,
+      "eval_runtime": 59.8771,
+      "eval_samples_per_second": 100.205,
+      "eval_steps_per_second": 12.526,
+      "step": 1700
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 0.0001821875,
+      "loss": 1.4017,
+      "step": 1710
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 0.00018208333333333333,
+      "loss": 1.3441,
+      "step": 1720
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 0.0001819791666666667,
+      "loss": 1.3916,
+      "step": 1730
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 0.00018187500000000002,
+      "loss": 1.4689,
+      "step": 1740
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 0.00018177083333333334,
+      "loss": 1.4167,
+      "step": 1750
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 0.00018166666666666667,
+      "loss": 1.3933,
+      "step": 1760
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 0.0001815625,
+      "loss": 1.4475,
+      "step": 1770
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 0.00018145833333333336,
+      "loss": 1.4016,
+      "step": 1780
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 0.00018135416666666666,
+      "loss": 1.4282,
+      "step": 1790
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 0.00018125000000000001,
+      "loss": 1.4339,
+      "step": 1800
+    },
+    {
+      "epoch": 0.38,
+      "eval_accuracy": 0.793,
+      "eval_loss": 1.4150886535644531,
+      "eval_runtime": 59.6437,
+      "eval_samples_per_second": 100.597,
+      "eval_steps_per_second": 12.575,
+      "step": 1800
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 0.00018114583333333334,
+      "loss": 1.4277,
+      "step": 1810
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 0.00018104166666666667,
+      "loss": 1.4318,
+      "step": 1820
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 0.0001809375,
+      "loss": 1.419,
+      "step": 1830
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 0.00018083333333333336,
+      "loss": 1.425,
+      "step": 1840
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 0.00018072916666666668,
+      "loss": 1.4502,
+      "step": 1850
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 0.000180625,
+      "loss": 1.4108,
+      "step": 1860
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 0.00018052083333333334,
+      "loss": 1.3482,
+      "step": 1870
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 0.00018041666666666667,
+      "loss": 1.4307,
+      "step": 1880
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 0.00018031250000000003,
+      "loss": 1.4115,
+      "step": 1890
+    },
+    {
+      "epoch": 0.4,
+      "learning_rate": 0.00018020833333333333,
+      "loss": 1.4492,
+      "step": 1900
+    },
+    {
+      "epoch": 0.4,
+      "eval_accuracy": 0.7973333333333333,
+      "eval_loss": 1.4015529155731201,
+      "eval_runtime": 59.9019,
+      "eval_samples_per_second": 100.164,
+      "eval_steps_per_second": 12.52,
+      "step": 1900
+    },
+    {
+      "epoch": 0.4,
+      "learning_rate": 0.00018010416666666668,
+      "loss": 1.3868,
+      "step": 1910
+    },
+    {
+      "epoch": 0.4,
+      "learning_rate": 0.00018,
+      "loss": 1.4474,
+      "step": 1920
+    },
+    {
+      "epoch": 0.4,
+      "learning_rate": 0.00017989583333333334,
+      "loss": 1.414,
+      "step": 1930
+    },
+    {
+      "epoch": 0.4,
+      "learning_rate": 0.00017979166666666667,
+      "loss": 1.3448,
+      "step": 1940
+    },
+    {
+      "epoch": 0.41,
+      "learning_rate": 0.0001796875,
+      "loss": 1.3547,
+      "step": 1950
+    },
+    {
+      "epoch": 0.41,
+      "learning_rate": 0.00017958333333333335,
+      "loss": 1.444,
+      "step": 1960
+    },
+    {
+      "epoch": 0.41,
+      "learning_rate": 0.00017947916666666665,
+      "loss": 1.4228,
+      "step": 1970
+    },
+    {
+      "epoch": 0.41,
+      "learning_rate": 0.000179375,
+      "loss": 1.3477,
+      "step": 1980
+    },
+    {
+      "epoch": 0.41,
+      "learning_rate": 0.00017927083333333334,
+      "loss": 1.3851,
+      "step": 1990
+    },
+    {
+      "epoch": 0.42,
+      "learning_rate": 0.0001791666666666667,
+      "loss": 1.4369,
+      "step": 2000
+    },
+    {
+      "epoch": 0.42,
+      "eval_accuracy": 0.8018333333333333,
+      "eval_loss": 1.388146996498108,
+      "eval_runtime": 59.2681,
+      "eval_samples_per_second": 101.235,
+      "eval_steps_per_second": 12.654,
+      "step": 2000
+    },
+    {
+      "epoch": 0.42,
+      "learning_rate": 0.0001790625,
+      "loss": 1.3707,
+      "step": 2010
+    },
+    {
+      "epoch": 0.42,
+      "learning_rate": 0.00017895833333333335,
+      "loss": 1.3459,
+      "step": 2020
+    },
+    {
+      "epoch": 0.42,
+      "learning_rate": 0.00017885416666666668,
+      "loss": 1.3703,
+      "step": 2030
+    },
+    {
+      "epoch": 0.42,
+      "learning_rate": 0.00017875,
+      "loss": 1.3549,
+      "step": 2040
+    },
+    {
+      "epoch": 0.43,
+      "learning_rate": 0.00017864583333333334,
+      "loss": 1.3393,
+      "step": 2050
+    },
+    {
+      "epoch": 0.43,
+      "learning_rate": 0.00017854166666666667,
+      "loss": 1.4119,
+      "step": 2060
+    },
+    {
+      "epoch": 0.43,
+      "learning_rate": 0.00017843750000000002,
+      "loss": 1.3033,
+      "step": 2070
+    },
+    {
+      "epoch": 0.43,
+      "learning_rate": 0.00017833333333333335,
+      "loss": 1.4236,
+      "step": 2080
+    },
+    {
+      "epoch": 0.44,
+      "learning_rate": 0.00017822916666666668,
+      "loss": 1.3981,
+      "step": 2090
+    },
+    {
+      "epoch": 0.44,
+      "learning_rate": 0.000178125,
+      "loss": 1.4007,
+      "step": 2100
+    },
+    {
+      "epoch": 0.44,
+      "eval_accuracy": 0.801,
+      "eval_loss": 1.3753528594970703,
+      "eval_runtime": 59.8138,
+      "eval_samples_per_second": 100.311,
+      "eval_steps_per_second": 12.539,
+      "step": 2100
+    },
+    {
+      "epoch": 0.44,
+      "learning_rate": 0.00017802083333333333,
+      "loss": 1.3426,
+      "step": 2110
+    },
+    {
+      "epoch": 0.44,
+      "learning_rate": 0.00017791666666666666,
+      "loss": 1.4152,
+      "step": 2120
+    },
+    {
+      "epoch": 0.44,
+      "learning_rate": 0.0001778125,
+      "loss": 1.3001,
+      "step": 2130
+    },
+    {
+      "epoch": 0.45,
+      "learning_rate": 0.00017770833333333335,
+      "loss": 1.3596,
+      "step": 2140
+    },
+    {
+      "epoch": 0.45,
+      "learning_rate": 0.00017760416666666668,
+      "loss": 1.3551,
+      "step": 2150
+    },
+    {
+      "epoch": 0.45,
+      "learning_rate": 0.0001775,
+      "loss": 1.4062,
+      "step": 2160
+    },
+    {
+      "epoch": 0.45,
+      "learning_rate": 0.00017739583333333333,
+      "loss": 1.3936,
+      "step": 2170
+    },
+    {
+      "epoch": 0.45,
+      "learning_rate": 0.0001772916666666667,
+      "loss": 1.3639,
+      "step": 2180
+    },
+    {
+      "epoch": 0.46,
+      "learning_rate": 0.00017718750000000002,
+      "loss": 1.3569,
+      "step": 2190
+    },
+    {
+      "epoch": 0.46,
+      "learning_rate": 0.00017708333333333335,
+      "loss": 1.3697,
+      "step": 2200
+    },
+    {
+      "epoch": 0.46,
+      "eval_accuracy": 0.8025,
+      "eval_loss": 1.362697958946228,
+      "eval_runtime": 59.7949,
+      "eval_samples_per_second": 100.343,
+      "eval_steps_per_second": 12.543,
+      "step": 2200
+    },
+    {
+      "epoch": 0.46,
+      "learning_rate": 0.00017697916666666667,
+      "loss": 1.4537,
+      "step": 2210
+    },
+    {
+      "epoch": 0.46,
+      "learning_rate": 0.000176875,
+      "loss": 1.3992,
+      "step": 2220
+    },
+    {
+      "epoch": 0.46,
+      "learning_rate": 0.00017677083333333336,
+      "loss": 1.3165,
+      "step": 2230
+    },
+    {
+      "epoch": 0.47,
+      "learning_rate": 0.00017666666666666666,
+      "loss": 1.3334,
+      "step": 2240
+    },
+    {
+      "epoch": 0.47,
+      "learning_rate": 0.00017656250000000002,
+      "loss": 1.3771,
+      "step": 2250
+    },
+    {
+      "epoch": 0.47,
+      "learning_rate": 0.00017645833333333334,
+      "loss": 1.4053,
+      "step": 2260
+    },
+    {
+      "epoch": 0.47,
+      "learning_rate": 0.00017635416666666667,
+      "loss": 1.4105,
+      "step": 2270
+    },
+    {
+      "epoch": 0.47,
+      "learning_rate": 0.00017625,
+      "loss": 1.3364,
+      "step": 2280
+    },
+    {
+      "epoch": 0.48,
+      "learning_rate": 0.00017614583333333333,
+      "loss": 1.3479,
+      "step": 2290
+    },
+    {
+      "epoch": 0.48,
+      "learning_rate": 0.00017604166666666669,
+      "loss": 1.3298,
+      "step": 2300
+    },
+    {
+      "epoch": 0.48,
+      "eval_accuracy": 0.8048333333333333,
+      "eval_loss": 1.3505219221115112,
+      "eval_runtime": 60.0452,
+      "eval_samples_per_second": 99.925,
+      "eval_steps_per_second": 12.491,
+      "step": 2300
+    },
+    {
+      "epoch": 0.48,
+      "learning_rate": 0.0001759375,
+      "loss": 1.4053,
+      "step": 2310
+    },
+    {
+      "epoch": 0.48,
+      "learning_rate": 0.00017583333333333334,
+      "loss": 1.3661,
+      "step": 2320
+    },
+    {
+      "epoch": 0.49,
+      "learning_rate": 0.00017572916666666667,
+      "loss": 1.3404,
+      "step": 2330
+    },
+    {
+      "epoch": 0.49,
+      "learning_rate": 0.00017562500000000003,
+      "loss": 1.41,
+      "step": 2340
+    },
+    {
+      "epoch": 0.49,
+      "learning_rate": 0.00017552083333333333,
+      "loss": 1.3754,
+      "step": 2350
+    },
+    {
+      "epoch": 0.49,
+      "learning_rate": 0.00017541666666666668,
+      "loss": 1.3296,
+      "step": 2360
+    },
+    {
+      "epoch": 0.49,
+      "learning_rate": 0.0001753125,
+      "loss": 1.3744,
+      "step": 2370
+    },
+    {
+      "epoch": 0.5,
+      "learning_rate": 0.00017520833333333334,
+      "loss": 1.4002,
+      "step": 2380
+    },
+    {
+      "epoch": 0.5,
+      "learning_rate": 0.00017510416666666667,
+      "loss": 1.4129,
+      "step": 2390
+    },
+    {
+      "epoch": 0.5,
+      "learning_rate": 0.000175,
+      "loss": 1.2809,
+      "step": 2400
+    },
+    {
+      "epoch": 0.5,
+      "eval_accuracy": 0.8068333333333333,
+      "eval_loss": 1.3386346101760864,
+      "eval_runtime": 60.0389,
+      "eval_samples_per_second": 99.935,
+      "eval_steps_per_second": 12.492,
+      "step": 2400
+    },
+    {
+      "epoch": 0.5,
+      "learning_rate": 0.00017489583333333335,
+      "loss": 1.4093,
+      "step": 2410
+    },
+    {
+      "epoch": 0.5,
+      "learning_rate": 0.00017479166666666666,
+      "loss": 1.3473,
+      "step": 2420
+    },
+    {
+      "epoch": 0.51,
+      "learning_rate": 0.0001746875,
+      "loss": 1.3404,
+      "step": 2430
+    },
+    {
+      "epoch": 0.51,
+      "learning_rate": 0.00017458333333333334,
+      "loss": 1.4237,
+      "step": 2440
+    },
+    {
+      "epoch": 0.51,
+      "learning_rate": 0.0001744791666666667,
+      "loss": 1.3334,
+      "step": 2450
+    },
+    {
+      "epoch": 0.51,
+      "learning_rate": 0.000174375,
+      "loss": 1.3595,
+      "step": 2460
+    },
+    {
+      "epoch": 0.51,
+      "learning_rate": 0.00017427083333333335,
+      "loss": 1.2743,
+      "step": 2470
+    },
+    {
+      "epoch": 0.52,
+      "learning_rate": 0.00017416666666666668,
+      "loss": 1.2732,
+      "step": 2480
+    },
+    {
+      "epoch": 0.52,
+      "learning_rate": 0.0001740625,
+      "loss": 1.3992,
+      "step": 2490
+    },
+    {
+      "epoch": 0.52,
+      "learning_rate": 0.00017395833333333334,
+      "loss": 1.2989,
+      "step": 2500
+    },
+    {
+      "epoch": 0.52,
+      "eval_accuracy": 0.8066666666666666,
+      "eval_loss": 1.327233910560608,
+      "eval_runtime": 60.3705,
+      "eval_samples_per_second": 99.386,
+      "eval_steps_per_second": 12.423,
+      "step": 2500
+    },
+    {
+      "epoch": 0.52,
+      "learning_rate": 0.00017385416666666667,
+      "loss": 1.3593,
+      "step": 2510
+    },
+    {
+      "epoch": 0.53,
+      "learning_rate": 0.00017375000000000002,
+      "loss": 1.3061,
+      "step": 2520
+    },
+    {
+      "epoch": 0.53,
+      "learning_rate": 0.00017364583333333335,
+      "loss": 1.3298,
+      "step": 2530
+    },
+    {
+      "epoch": 0.53,
+      "learning_rate": 0.00017354166666666668,
+      "loss": 1.347,
+      "step": 2540
+    },
+    {
+      "epoch": 0.53,
+      "learning_rate": 0.0001734375,
+      "loss": 1.3915,
+      "step": 2550
+    },
+    {
+      "epoch": 0.53,
+      "learning_rate": 0.00017333333333333334,
+      "loss": 1.3186,
+      "step": 2560
+    },
+    {
+      "epoch": 0.54,
+      "learning_rate": 0.00017322916666666666,
+      "loss": 1.4158,
+      "step": 2570
+    },
+    {
+      "epoch": 0.54,
+      "learning_rate": 0.000173125,
+      "loss": 1.2703,
+      "step": 2580
+    },
+    {
+      "epoch": 0.54,
+      "learning_rate": 0.00017302083333333335,
+      "loss": 1.3249,
+      "step": 2590
+    },
+    {
+      "epoch": 0.54,
+      "learning_rate": 0.00017291666666666668,
+      "loss": 1.2958,
+      "step": 2600
+    },
+    {
+      "epoch": 0.54,
+      "eval_accuracy": 0.81,
+      "eval_loss": 1.3158748149871826,
+      "eval_runtime": 59.8791,
+      "eval_samples_per_second": 100.202,
+      "eval_steps_per_second": 12.525,
+      "step": 2600
+    },
+    {
+      "epoch": 0.54,
+      "learning_rate": 0.0001728125,
+      "loss": 1.3026,
+      "step": 2610
+    },
+    {
+      "epoch": 0.55,
+      "learning_rate": 0.00017270833333333333,
+      "loss": 1.2884,
+      "step": 2620
+    },
+    {
+      "epoch": 0.55,
+      "learning_rate": 0.0001726041666666667,
+      "loss": 1.2833,
+      "step": 2630
+    },
+    {
+      "epoch": 0.55,
+      "learning_rate": 0.00017250000000000002,
+      "loss": 1.2588,
+      "step": 2640
+    },
+    {
+      "epoch": 0.55,
+      "learning_rate": 0.00017239583333333335,
+      "loss": 1.3951,
+      "step": 2650
+    },
+    {
+      "epoch": 0.55,
+      "learning_rate": 0.00017229166666666668,
+      "loss": 1.4242,
+      "step": 2660
+    },
+    {
+      "epoch": 0.56,
+      "learning_rate": 0.0001721875,
+      "loss": 1.2517,
+      "step": 2670
+    },
+    {
+      "epoch": 0.56,
+      "learning_rate": 0.00017208333333333336,
+      "loss": 1.2616,
+      "step": 2680
+    },
+    {
+      "epoch": 0.56,
+      "learning_rate": 0.00017197916666666666,
+      "loss": 1.2748,
+      "step": 2690
+    },
+    {
+      "epoch": 0.56,
+      "learning_rate": 0.00017187500000000002,
+      "loss": 1.3072,
+      "step": 2700
+    },
+    {
+      "epoch": 0.56,
+      "eval_accuracy": 0.8096666666666666,
+      "eval_loss": 1.3048388957977295,
+      "eval_runtime": 59.7463,
+      "eval_samples_per_second": 100.425,
+      "eval_steps_per_second": 12.553,
+      "step": 2700
+    },
+    {
+      "epoch": 0.56,
+      "learning_rate": 0.00017177083333333335,
+      "loss": 1.3589,
+      "step": 2710
+    },
+    {
+      "epoch": 0.57,
+      "learning_rate": 0.00017166666666666667,
+      "loss": 1.3197,
+      "step": 2720
+    },
+    {
+      "epoch": 0.57,
+      "learning_rate": 0.0001715625,
+      "loss": 1.31,
+      "step": 2730
+    },
+    {
+      "epoch": 0.57,
+      "learning_rate": 0.00017145833333333333,
+      "loss": 1.346,
+      "step": 2740
+    },
+    {
+      "epoch": 0.57,
+      "learning_rate": 0.0001713541666666667,
+      "loss": 1.3529,
+      "step": 2750
+    },
+    {
+      "epoch": 0.57,
+      "learning_rate": 0.00017125,
+      "loss": 1.3381,
+      "step": 2760
+    },
+    {
+      "epoch": 0.58,
+      "learning_rate": 0.00017114583333333334,
+      "loss": 1.2754,
+      "step": 2770
+    },
+    {
+      "epoch": 0.58,
+      "learning_rate": 0.00017104166666666667,
+      "loss": 1.2656,
+      "step": 2780
+    },
+    {
+      "epoch": 0.58,
+      "learning_rate": 0.00017093750000000003,
+      "loss": 1.3398,
+      "step": 2790
+    },
+    {
+      "epoch": 0.58,
+      "learning_rate": 0.00017083333333333333,
+      "loss": 1.2545,
+      "step": 2800
+    },
+    {
+      "epoch": 0.58,
+      "eval_accuracy": 0.809,
+      "eval_loss": 1.29426908493042,
+      "eval_runtime": 60.0172,
+      "eval_samples_per_second": 99.971,
+      "eval_steps_per_second": 12.496,
+      "step": 2800
+    },
+    {
+      "epoch": 0.59,
+      "learning_rate": 0.00017072916666666669,
+      "loss": 1.283,
+      "step": 2810
+    },
+    {
+      "epoch": 0.59,
+      "learning_rate": 0.00017062500000000001,
+      "loss": 1.2477,
+      "step": 2820
+    },
+    {
+      "epoch": 0.59,
+      "learning_rate": 0.00017052083333333334,
+      "loss": 1.3185,
+      "step": 2830
+    },
+    {
+      "epoch": 0.59,
+      "learning_rate": 0.00017041666666666667,
+      "loss": 1.2974,
+      "step": 2840
+    },
+    {
+      "epoch": 0.59,
+      "learning_rate": 0.0001703125,
+      "loss": 1.3587,
+      "step": 2850
+    },
+    {
+      "epoch": 0.6,
+      "learning_rate": 0.00017020833333333336,
+      "loss": 1.3052,
+      "step": 2860
+    },
+    {
+      "epoch": 0.6,
+      "learning_rate": 0.00017010416666666666,
+      "loss": 1.3035,
+      "step": 2870
+    },
+    {
+      "epoch": 0.6,
+      "learning_rate": 0.00017,
+      "loss": 1.25,
+      "step": 2880
+    },
+    {
+      "epoch": 0.6,
+      "learning_rate": 0.00016989583333333334,
+      "loss": 1.3781,
+      "step": 2890
+    },
+    {
+      "epoch": 0.6,
+      "learning_rate": 0.00016979166666666667,
+      "loss": 1.2722,
+      "step": 2900
+    },
+    {
+      "epoch": 0.6,
+      "eval_accuracy": 0.8111666666666667,
+      "eval_loss": 1.2834398746490479,
+      "eval_runtime": 60.5144,
+      "eval_samples_per_second": 99.15,
+      "eval_steps_per_second": 12.394,
+      "step": 2900
+    },
+    {
+      "epoch": 0.61,
+      "learning_rate": 0.0001696875,
+      "loss": 1.3562,
+      "step": 2910
+    },
+    {
+      "epoch": 0.61,
+      "learning_rate": 0.00016958333333333333,
+      "loss": 1.3013,
+      "step": 2920
+    },
+    {
+      "epoch": 0.61,
+      "learning_rate": 0.00016947916666666668,
+      "loss": 1.365,
+      "step": 2930
+    },
+    {
+      "epoch": 0.61,
+      "learning_rate": 0.000169375,
+      "loss": 1.2483,
+      "step": 2940
+    },
+    {
+      "epoch": 0.61,
+      "learning_rate": 0.00016927083333333334,
+      "loss": 1.3139,
+      "step": 2950
+    },
+    {
+      "epoch": 0.62,
+      "learning_rate": 0.00016916666666666667,
+      "loss": 1.3588,
+      "step": 2960
+    },
+    {
+      "epoch": 0.62,
+      "learning_rate": 0.00016906250000000002,
+      "loss": 1.2225,
+      "step": 2970
+    },
+    {
+      "epoch": 0.62,
+      "learning_rate": 0.00016895833333333335,
+      "loss": 1.2848,
+      "step": 2980
+    },
+    {
+      "epoch": 0.62,
+      "learning_rate": 0.00016885416666666668,
+      "loss": 1.2348,
+      "step": 2990
+    },
+    {
+      "epoch": 0.62,
+      "learning_rate": 0.00016875,
+      "loss": 1.2628,
+      "step": 3000
+    },
+    {
+      "epoch": 0.62,
+      "eval_accuracy": 0.8101666666666667,
+      "eval_loss": 1.2732218503952026,
+      "eval_runtime": 59.8117,
+      "eval_samples_per_second": 100.315,
+      "eval_steps_per_second": 12.539,
+      "step": 3000
+    },
+    {
+      "epoch": 0.63,
+      "learning_rate": 0.00016864583333333334,
+      "loss": 1.226,
+      "step": 3010
+    },
+    {
+      "epoch": 0.63,
+      "learning_rate": 0.00016854166666666667,
+      "loss": 1.2305,
+      "step": 3020
+    },
+    {
+      "epoch": 0.63,
+      "learning_rate": 0.0001684375,
+      "loss": 1.2673,
+      "step": 3030
+    },
+    {
+      "epoch": 0.63,
+      "learning_rate": 0.00016833333333333335,
+      "loss": 1.2703,
+      "step": 3040
+    },
+    {
+      "epoch": 0.64,
+      "learning_rate": 0.00016822916666666668,
+      "loss": 1.3201,
+      "step": 3050
+    },
+    {
+      "epoch": 0.64,
+      "learning_rate": 0.000168125,
+      "loss": 1.3095,
+      "step": 3060
+    },
+    {
+      "epoch": 0.64,
+      "learning_rate": 0.00016802083333333334,
+      "loss": 1.2888,
+      "step": 3070
+    },
+    {
+      "epoch": 0.64,
+      "learning_rate": 0.00016791666666666666,
+      "loss": 1.2744,
+      "step": 3080
+    },
+    {
+      "epoch": 0.64,
+      "learning_rate": 0.00016781250000000002,
+      "loss": 1.245,
+      "step": 3090
+    },
+    {
+      "epoch": 0.65,
+      "learning_rate": 0.00016770833333333332,
+      "loss": 1.2357,
+      "step": 3100
+    },
+    {
+      "epoch": 0.65,
+      "eval_accuracy": 0.8105,
+      "eval_loss": 1.2631747722625732,
+      "eval_runtime": 59.9312,
+      "eval_samples_per_second": 100.115,
+      "eval_steps_per_second": 12.514,
+      "step": 3100
+    },
+    {
+      "epoch": 0.65,
+      "learning_rate": 0.00016760416666666668,
+      "loss": 1.3349,
+      "step": 3110
+    },
+    {
+      "epoch": 0.65,
+      "learning_rate": 0.0001675,
+      "loss": 1.289,
+      "step": 3120
+    },
+    {
+      "epoch": 0.65,
+      "learning_rate": 0.00016739583333333336,
+      "loss": 1.2013,
+      "step": 3130
+    },
+    {
+      "epoch": 0.65,
+      "learning_rate": 0.00016729166666666666,
+      "loss": 1.3114,
+      "step": 3140
+    },
+    {
+      "epoch": 0.66,
+      "learning_rate": 0.00016718750000000002,
+      "loss": 1.2983,
+      "step": 3150
+    },
+    {
+      "epoch": 0.66,
+      "learning_rate": 0.00016708333333333335,
+      "loss": 1.2253,
+      "step": 3160
+    },
+    {
+      "epoch": 0.66,
+      "learning_rate": 0.00016697916666666668,
+      "loss": 1.2128,
+      "step": 3170
+    },
+    {
+      "epoch": 0.66,
+      "learning_rate": 0.000166875,
+      "loss": 1.1842,
+      "step": 3180
+    },
+    {
+      "epoch": 0.66,
+      "learning_rate": 0.00016677083333333333,
+      "loss": 1.2304,
+      "step": 3190
+    },
+    {
+      "epoch": 0.67,
+      "learning_rate": 0.0001666666666666667,
+      "loss": 1.3189,
+      "step": 3200
+    },
+    {
+      "epoch": 0.67,
+      "eval_accuracy": 0.8093333333333333,
+      "eval_loss": 1.2531973123550415,
+      "eval_runtime": 59.9305,
+      "eval_samples_per_second": 100.116,
+      "eval_steps_per_second": 12.515,
+      "step": 3200
+    },
+    {
+      "epoch": 0.67,
+      "learning_rate": 0.0001665625,
+      "loss": 1.2067,
+      "step": 3210
+    },
+    {
+      "epoch": 0.67,
+      "learning_rate": 0.00016645833333333335,
+      "loss": 1.2135,
+      "step": 3220
+    },
+    {
+      "epoch": 0.67,
+      "learning_rate": 0.00016635416666666667,
+      "loss": 1.2667,
+      "step": 3230
+    },
+    {
+      "epoch": 0.68,
+      "learning_rate": 0.00016625000000000003,
+      "loss": 1.3016,
+      "step": 3240
+    },
+    {
+      "epoch": 0.68,
+      "learning_rate": 0.00016614583333333333,
+      "loss": 1.3337,
+      "step": 3250
+    },
+    {
+      "epoch": 0.68,
+      "learning_rate": 0.0001660416666666667,
+      "loss": 1.2271,
+      "step": 3260
+    },
+    {
+      "epoch": 0.68,
+      "learning_rate": 0.00016593750000000002,
+      "loss": 1.2313,
+      "step": 3270
+    },
+    {
+      "epoch": 0.68,
+      "learning_rate": 0.00016583333333333334,
+      "loss": 1.2606,
+      "step": 3280
+    },
+    {
+      "epoch": 0.69,
+      "learning_rate": 0.00016572916666666667,
+      "loss": 1.2409,
+      "step": 3290
+    },
+    {
+      "epoch": 0.69,
+      "learning_rate": 0.000165625,
+      "loss": 1.2465,
+      "step": 3300
+    },
+    {
+      "epoch": 0.69,
+      "eval_accuracy": 0.8096666666666666,
+      "eval_loss": 1.243584394454956,
+      "eval_runtime": 60.106,
+      "eval_samples_per_second": 99.824,
+      "eval_steps_per_second": 12.478,
+      "step": 3300
+    },
+    {
+      "epoch": 0.69,
+      "learning_rate": 0.00016552083333333336,
+      "loss": 1.166,
+      "step": 3310
+    },
+    {
+      "epoch": 0.69,
+      "learning_rate": 0.00016541666666666666,
+      "loss": 1.139,
+      "step": 3320
+    },
+    {
+      "epoch": 0.69,
+      "learning_rate": 0.0001653125,
+      "loss": 1.2326,
+      "step": 3330
+    },
+    {
+      "epoch": 0.7,
+      "learning_rate": 0.00016520833333333334,
+      "loss": 1.223,
+      "step": 3340
+    },
+    {
+      "epoch": 0.7,
+      "learning_rate": 0.00016510416666666667,
+      "loss": 1.2662,
+      "step": 3350
+    },
+    {
+      "epoch": 0.7,
+      "learning_rate": 0.000165,
+      "loss": 1.2327,
+      "step": 3360
+    },
+    {
+      "epoch": 0.7,
+      "learning_rate": 0.00016489583333333333,
+      "loss": 1.2684,
+      "step": 3370
+    },
+    {
+      "epoch": 0.7,
+      "learning_rate": 0.00016479166666666668,
+      "loss": 1.2323,
+      "step": 3380
+    },
+    {
+      "epoch": 0.71,
+      "learning_rate": 0.0001646875,
+      "loss": 1.2627,
+      "step": 3390
+    },
+    {
+      "epoch": 0.71,
+      "learning_rate": 0.00016458333333333334,
+      "loss": 1.2579,
+      "step": 3400
+    },
+    {
+      "epoch": 0.71,
+      "eval_accuracy": 0.8086666666666666,
+      "eval_loss": 1.234160304069519,
+      "eval_runtime": 59.9345,
+      "eval_samples_per_second": 100.109,
+      "eval_steps_per_second": 12.514,
+      "step": 3400
+    },
+    {
+      "epoch": 0.71,
+      "learning_rate": 0.00016447916666666667,
+      "loss": 1.2511,
+      "step": 3410
+    },
+    {
+      "epoch": 0.71,
+      "learning_rate": 0.00016437500000000002,
+      "loss": 1.2648,
+      "step": 3420
+    },
+    {
+      "epoch": 0.71,
+      "learning_rate": 0.00016427083333333335,
+      "loss": 1.2107,
+      "step": 3430
+    },
+    {
+      "epoch": 0.72,
+      "learning_rate": 0.00016416666666666668,
+      "loss": 1.2272,
+      "step": 3440
+    },
+    {
+      "epoch": 0.72,
+      "learning_rate": 0.0001640625,
+      "loss": 1.1902,
+      "step": 3450
+    },
+    {
+      "epoch": 0.72,
+      "learning_rate": 0.00016395833333333334,
+      "loss": 1.221,
+      "step": 3460
+    },
+    {
+      "epoch": 0.72,
+      "learning_rate": 0.00016385416666666667,
+      "loss": 1.1957,
+      "step": 3470
+    },
+    {
+      "epoch": 0.72,
+      "learning_rate": 0.00016375,
+      "loss": 1.2252,
+      "step": 3480
+    },
+    {
+      "epoch": 0.73,
+      "learning_rate": 0.00016364583333333335,
+      "loss": 1.2167,
+      "step": 3490
+    },
+    {
+      "epoch": 0.73,
+      "learning_rate": 0.00016354166666666668,
+      "loss": 1.1963,
+      "step": 3500
+    },
+    {
+      "epoch": 0.73,
+      "eval_accuracy": 0.8085,
+      "eval_loss": 1.2249300479888916,
+      "eval_runtime": 60.7089,
+      "eval_samples_per_second": 98.832,
+      "eval_steps_per_second": 12.354,
+      "step": 3500
+    },
+    {
+      "epoch": 0.73,
+      "learning_rate": 0.0001634375,
+      "loss": 1.1855,
+      "step": 3510
+    },
+    {
+      "epoch": 0.73,
+      "learning_rate": 0.00016333333333333334,
+      "loss": 1.3042,
+      "step": 3520
+    },
+    {
+      "epoch": 0.74,
+      "learning_rate": 0.00016322916666666667,
+      "loss": 1.1728,
+      "step": 3530
+    },
+    {
+      "epoch": 0.74,
+      "learning_rate": 0.00016312500000000002,
+      "loss": 1.269,
+      "step": 3540
+    },
+    {
+      "epoch": 0.74,
+      "learning_rate": 0.00016302083333333332,
+      "loss": 1.3319,
+      "step": 3550
+    },
+    {
+      "epoch": 0.74,
+      "learning_rate": 0.00016291666666666668,
+      "loss": 1.2438,
+      "step": 3560
+    },
+    {
+      "epoch": 0.74,
+      "learning_rate": 0.0001628125,
+      "loss": 1.2682,
+      "step": 3570
+    },
+    {
+      "epoch": 0.75,
+      "learning_rate": 0.00016270833333333336,
+      "loss": 1.2397,
+      "step": 3580
+    },
+    {
+      "epoch": 0.75,
+      "learning_rate": 0.00016260416666666666,
+      "loss": 1.21,
+      "step": 3590
+    },
+    {
+      "epoch": 0.75,
+      "learning_rate": 0.00016250000000000002,
+      "loss": 1.1701,
+      "step": 3600
+    },
+    {
+      "epoch": 0.75,
+      "eval_accuracy": 0.8091666666666667,
+      "eval_loss": 1.2158732414245605,
+      "eval_runtime": 60.2112,
+      "eval_samples_per_second": 99.649,
+      "eval_steps_per_second": 12.456,
+      "step": 3600
+    },
+    {
+      "epoch": 0.75,
+      "learning_rate": 0.00016239583333333335,
+      "loss": 1.2941,
+      "step": 3610
+    },
+    {
+      "epoch": 0.75,
+      "learning_rate": 0.00016229166666666668,
+      "loss": 1.1956,
+      "step": 3620
+    },
+    {
+      "epoch": 0.76,
+      "learning_rate": 0.0001621875,
+      "loss": 1.1219,
+      "step": 3630
+    },
+    {
+      "epoch": 0.76,
+      "learning_rate": 0.00016208333333333333,
+      "loss": 1.2862,
+      "step": 3640
+    },
+    {
+      "epoch": 0.76,
+      "learning_rate": 0.0001619791666666667,
+      "loss": 1.2385,
+      "step": 3650
+    },
+    {
+      "epoch": 0.76,
+      "learning_rate": 0.000161875,
+      "loss": 1.2297,
+      "step": 3660
+    },
+    {
+      "epoch": 0.76,
+      "learning_rate": 0.00016177083333333335,
+      "loss": 1.2379,
+      "step": 3670
+    },
+    {
+      "epoch": 0.77,
+      "learning_rate": 0.00016166666666666668,
+      "loss": 1.2005,
+      "step": 3680
+    },
+    {
+      "epoch": 0.77,
+      "learning_rate": 0.0001615625,
+      "loss": 1.2529,
+      "step": 3690
+    },
+    {
+      "epoch": 0.77,
+      "learning_rate": 0.00016145833333333333,
+      "loss": 1.2117,
+      "step": 3700
+    },
+    {
+      "epoch": 0.77,
+      "eval_accuracy": 0.8113333333333334,
+      "eval_loss": 1.2068514823913574,
+      "eval_runtime": 61.5986,
+      "eval_samples_per_second": 97.405,
+      "eval_steps_per_second": 12.176,
+      "step": 3700
+    },
+    {
+      "epoch": 0.77,
+      "learning_rate": 0.00016135416666666666,
+      "loss": 1.1552,
+      "step": 3710
+    },
+    {
+      "epoch": 0.78,
+      "learning_rate": 0.00016125000000000002,
+      "loss": 1.2025,
+      "step": 3720
+    },
+    {
+      "epoch": 0.78,
+      "learning_rate": 0.00016114583333333334,
+      "loss": 1.3751,
+      "step": 3730
+    },
+    {
+      "epoch": 0.78,
+      "learning_rate": 0.00016104166666666667,
+      "loss": 1.2619,
+      "step": 3740
+    },
+    {
+      "epoch": 0.78,
+      "learning_rate": 0.0001609375,
+      "loss": 1.1852,
+      "step": 3750
+    },
+    {
+      "epoch": 0.78,
+      "learning_rate": 0.00016083333333333336,
+      "loss": 1.2198,
+      "step": 3760
+    },
+    {
+      "epoch": 0.79,
+      "learning_rate": 0.00016072916666666666,
+      "loss": 1.2551,
+      "step": 3770
+    },
+    {
+      "epoch": 0.79,
+      "learning_rate": 0.00016062500000000001,
+      "loss": 1.1502,
+      "step": 3780
+    },
+    {
+      "epoch": 0.79,
+      "learning_rate": 0.00016052083333333334,
+      "loss": 1.3294,
+      "step": 3790
+    },
+    {
+      "epoch": 0.79,
+      "learning_rate": 0.00016041666666666667,
+      "loss": 1.1907,
+      "step": 3800
+    },
+    {
+      "epoch": 0.79,
+      "eval_accuracy": 0.8111666666666667,
+      "eval_loss": 1.198384165763855,
+      "eval_runtime": 60.4064,
+      "eval_samples_per_second": 99.327,
+      "eval_steps_per_second": 12.416,
+      "step": 3800
+    },
+    {
+      "epoch": 0.79,
+      "learning_rate": 0.0001603125,
+      "loss": 1.2523,
+      "step": 3810
+    },
+    {
+      "epoch": 0.8,
+      "learning_rate": 0.00016020833333333333,
+      "loss": 1.1974,
+      "step": 3820
+    },
+    {
+      "epoch": 0.8,
+      "learning_rate": 0.00016010416666666668,
+      "loss": 1.2817,
+      "step": 3830
+    },
+    {
+      "epoch": 0.8,
+      "learning_rate": 0.00016,
+      "loss": 1.292,
+      "step": 3840
+    },
+    {
+      "epoch": 0.8,
+      "learning_rate": 0.00015989583333333334,
+      "loss": 1.2838,
+      "step": 3850
+    },
+    {
+      "epoch": 0.8,
+      "learning_rate": 0.00015979166666666667,
+      "loss": 1.2542,
+      "step": 3860
+    },
+    {
+      "epoch": 0.81,
+      "learning_rate": 0.0001596875,
+      "loss": 1.1947,
+      "step": 3870
+    },
+    {
+      "epoch": 0.81,
+      "learning_rate": 0.00015958333333333335,
+      "loss": 1.214,
+      "step": 3880
+    },
+    {
+      "epoch": 0.81,
+      "learning_rate": 0.00015947916666666666,
+      "loss": 1.2064,
+      "step": 3890
+    },
+    {
+      "epoch": 0.81,
+      "learning_rate": 0.000159375,
+      "loss": 1.1903,
+      "step": 3900
+    },
+    {
+      "epoch": 0.81,
+      "eval_accuracy": 0.8115,
+      "eval_loss": 1.1901664733886719,
+      "eval_runtime": 60.3051,
+      "eval_samples_per_second": 99.494,
+      "eval_steps_per_second": 12.437,
+      "step": 3900
+    },
+    {
+      "epoch": 0.81,
+      "learning_rate": 0.00015927083333333334,
+      "loss": 1.2,
+      "step": 3910
+    },
+    {
+      "epoch": 0.82,
+      "learning_rate": 0.00015916666666666667,
+      "loss": 1.1508,
+      "step": 3920
+    },
+    {
+      "epoch": 0.82,
+      "learning_rate": 0.0001590625,
+      "loss": 1.2983,
+      "step": 3930
+    },
+    {
+      "epoch": 0.82,
+      "learning_rate": 0.00015895833333333335,
+      "loss": 1.2125,
+      "step": 3940
+    },
+    {
+      "epoch": 0.82,
+      "learning_rate": 0.00015885416666666668,
+      "loss": 1.2576,
+      "step": 3950
+    },
+    {
+      "epoch": 0.82,
+      "learning_rate": 0.00015875,
+      "loss": 1.2249,
+      "step": 3960
+    },
+    {
+      "epoch": 0.83,
+      "learning_rate": 0.00015864583333333334,
+      "loss": 1.1715,
+      "step": 3970
+    },
+    {
+      "epoch": 0.83,
+      "learning_rate": 0.00015854166666666667,
+      "loss": 1.2649,
+      "step": 3980
+    },
+    {
+      "epoch": 0.83,
+      "learning_rate": 0.00015843750000000002,
+      "loss": 1.2269,
+      "step": 3990
+    },
+    {
+      "epoch": 0.83,
+      "learning_rate": 0.00015833333333333332,
+      "loss": 1.2357,
+      "step": 4000
+    },
+    {
+      "epoch": 0.83,
+      "eval_accuracy": 0.8115,
+      "eval_loss": 1.1821300983428955,
+      "eval_runtime": 60.2258,
+      "eval_samples_per_second": 99.625,
+      "eval_steps_per_second": 12.453,
+      "step": 4000
+    },
+    {
+      "epoch": 0.84,
+      "learning_rate": 0.00015822916666666668,
+      "loss": 1.0841,
+      "step": 4010
+    },
+    {
+      "epoch": 0.84,
+      "learning_rate": 0.000158125,
+      "loss": 1.2343,
+      "step": 4020
+    },
+    {
+      "epoch": 0.84,
+      "learning_rate": 0.00015802083333333336,
+      "loss": 1.1654,
+      "step": 4030
+    },
+    {
+      "epoch": 0.84,
+      "learning_rate": 0.00015791666666666667,
+      "loss": 1.0654,
+      "step": 4040
+    },
+    {
+      "epoch": 0.84,
+      "learning_rate": 0.00015781250000000002,
+      "loss": 1.1303,
+      "step": 4050
+    },
+    {
+      "epoch": 0.85,
+      "learning_rate": 0.00015770833333333335,
+      "loss": 1.1791,
+      "step": 4060
+    },
+    {
+      "epoch": 0.85,
+      "learning_rate": 0.00015760416666666665,
+      "loss": 1.1471,
+      "step": 4070
+    },
+    {
+      "epoch": 0.85,
+      "learning_rate": 0.0001575,
+      "loss": 1.158,
+      "step": 4080
+    },
+    {
+      "epoch": 0.85,
+      "learning_rate": 0.00015739583333333334,
+      "loss": 1.2618,
+      "step": 4090
+    },
+    {
+      "epoch": 0.85,
+      "learning_rate": 0.0001572916666666667,
+      "loss": 1.1924,
+      "step": 4100
+    },
+    {
+      "epoch": 0.85,
+      "eval_accuracy": 0.8116666666666666,
+      "eval_loss": 1.1737799644470215,
+      "eval_runtime": 60.5292,
+      "eval_samples_per_second": 99.126,
+      "eval_steps_per_second": 12.391,
+      "step": 4100
+    },
+    {
+      "epoch": 0.86,
+      "learning_rate": 0.0001571875,
+      "loss": 1.1654,
+      "step": 4110
+    },
+    {
+      "epoch": 0.86,
+      "learning_rate": 0.00015708333333333335,
+      "loss": 1.1804,
+      "step": 4120
+    },
+    {
+      "epoch": 0.86,
+      "learning_rate": 0.00015697916666666668,
+      "loss": 1.2523,
+      "step": 4130
+    },
+    {
+      "epoch": 0.86,
+      "learning_rate": 0.000156875,
+      "loss": 1.1569,
+      "step": 4140
+    },
+    {
+      "epoch": 0.86,
+      "learning_rate": 0.00015677083333333333,
+      "loss": 1.3463,
+      "step": 4150
+    },
+    {
+      "epoch": 0.87,
+      "learning_rate": 0.00015666666666666666,
+      "loss": 1.154,
+      "step": 4160
+    },
+    {
+      "epoch": 0.87,
+      "learning_rate": 0.00015656250000000002,
+      "loss": 1.0789,
+      "step": 4170
+    },
+    {
+      "epoch": 0.87,
+      "learning_rate": 0.00015645833333333335,
+      "loss": 1.1554,
+      "step": 4180
+    },
+    {
+      "epoch": 0.87,
+      "learning_rate": 0.00015635416666666667,
+      "loss": 1.1318,
+      "step": 4190
+    },
+    {
+      "epoch": 0.88,
+      "learning_rate": 0.00015625,
+      "loss": 1.1914,
+      "step": 4200
+    },
+    {
+      "epoch": 0.88,
+      "eval_accuracy": 0.8133333333333334,
+      "eval_loss": 1.1657198667526245,
+      "eval_runtime": 60.3587,
+      "eval_samples_per_second": 99.406,
+      "eval_steps_per_second": 12.426,
+      "step": 4200
+    },
+    {
+      "epoch": 0.88,
+      "learning_rate": 0.00015614583333333336,
+      "loss": 1.1521,
+      "step": 4210
+    },
+    {
+      "epoch": 0.88,
+      "learning_rate": 0.00015604166666666666,
+      "loss": 1.0792,
+      "step": 4220
+    },
+    {
+      "epoch": 0.88,
+      "learning_rate": 0.00015593750000000002,
+      "loss": 1.2351,
+      "step": 4230
+    },
+    {
+      "epoch": 0.88,
+      "learning_rate": 0.00015583333333333334,
+      "loss": 1.1624,
+      "step": 4240
+    },
+    {
+      "epoch": 0.89,
+      "learning_rate": 0.00015572916666666667,
+      "loss": 1.1749,
+      "step": 4250
+    },
+    {
+      "epoch": 0.89,
+      "learning_rate": 0.000155625,
+      "loss": 1.1846,
+      "step": 4260
+    },
+    {
+      "epoch": 0.89,
+      "learning_rate": 0.00015552083333333333,
+      "loss": 1.1637,
+      "step": 4270
+    },
+    {
+      "epoch": 0.89,
+      "learning_rate": 0.00015541666666666669,
+      "loss": 1.1464,
+      "step": 4280
+    },
+    {
+      "epoch": 0.89,
+      "learning_rate": 0.00015531250000000001,
+      "loss": 1.2723,
+      "step": 4290
+    },
+    {
+      "epoch": 0.9,
+      "learning_rate": 0.00015520833333333334,
+      "loss": 1.1536,
+      "step": 4300
+    },
+    {
+      "epoch": 0.9,
+      "eval_accuracy": 0.8148333333333333,
+      "eval_loss": 1.1579933166503906,
+      "eval_runtime": 60.3451,
+      "eval_samples_per_second": 99.428,
+      "eval_steps_per_second": 12.429,
+      "step": 4300
+    },
+    {
+      "epoch": 0.9,
+      "learning_rate": 0.00015510416666666667,
+      "loss": 1.1009,
+      "step": 4310
+    },
+    {
+      "epoch": 0.9,
+      "learning_rate": 0.000155,
+      "loss": 1.1351,
+      "step": 4320
+    },
+    {
+      "epoch": 0.9,
+      "learning_rate": 0.00015489583333333336,
+      "loss": 1.2169,
+      "step": 4330
+    },
+    {
+      "epoch": 0.9,
+      "learning_rate": 0.00015479166666666666,
+      "loss": 1.2304,
+      "step": 4340
+    },
+    {
+      "epoch": 0.91,
+      "learning_rate": 0.0001546875,
+      "loss": 1.2234,
+      "step": 4350
+    },
+    {
+      "epoch": 0.91,
+      "learning_rate": 0.00015458333333333334,
+      "loss": 1.2535,
+      "step": 4360
+    },
+    {
+      "epoch": 0.91,
+      "learning_rate": 0.00015447916666666667,
+      "loss": 1.2689,
+      "step": 4370
+    },
+    {
+      "epoch": 0.91,
+      "learning_rate": 0.000154375,
+      "loss": 1.1052,
+      "step": 4380
+    },
+    {
+      "epoch": 0.91,
+      "learning_rate": 0.00015427083333333335,
+      "loss": 1.1185,
+      "step": 4390
+    },
+    {
+      "epoch": 0.92,
+      "learning_rate": 0.00015416666666666668,
+      "loss": 1.1893,
+      "step": 4400
+    },
+    {
+      "epoch": 0.92,
+      "eval_accuracy": 0.8158333333333333,
+      "eval_loss": 1.1504827737808228,
+      "eval_runtime": 59.557,
+      "eval_samples_per_second": 100.744,
+      "eval_steps_per_second": 12.593,
+      "step": 4400
+    },
+    {
+      "epoch": 0.92,
+      "learning_rate": 0.0001540625,
+      "loss": 1.2907,
+      "step": 4410
+    },
+    {
+      "epoch": 0.92,
+      "learning_rate": 0.00015395833333333334,
+      "loss": 1.1621,
+      "step": 4420
+    },
+    {
+      "epoch": 0.92,
+      "learning_rate": 0.00015385416666666667,
+      "loss": 1.1427,
+      "step": 4430
+    },
+    {
+      "epoch": 0.93,
+      "learning_rate": 0.00015375000000000002,
+      "loss": 1.2581,
+      "step": 4440
+    },
+    {
+      "epoch": 0.93,
+      "learning_rate": 0.00015364583333333333,
+      "loss": 1.1431,
+      "step": 4450
+    },
+    {
+      "epoch": 0.93,
+      "learning_rate": 0.00015354166666666668,
+      "loss": 1.1554,
+      "step": 4460
+    },
+    {
+      "epoch": 0.93,
+      "learning_rate": 0.0001534375,
+      "loss": 1.1736,
+      "step": 4470
+    },
+    {
+      "epoch": 0.93,
+      "learning_rate": 0.00015333333333333334,
+      "loss": 1.1008,
+      "step": 4480
+    },
+    {
+      "epoch": 0.94,
+      "learning_rate": 0.00015322916666666667,
+      "loss": 1.0985,
+      "step": 4490
+    },
+    {
+      "epoch": 0.94,
+      "learning_rate": 0.000153125,
+      "loss": 1.1811,
+      "step": 4500
+    },
+    {
+      "epoch": 0.94,
+      "eval_accuracy": 0.8158333333333333,
+      "eval_loss": 1.1432603597640991,
+      "eval_runtime": 60.1682,
+      "eval_samples_per_second": 99.721,
+      "eval_steps_per_second": 12.465,
+      "step": 4500
+    },
+    {
+      "epoch": 0.94,
+      "learning_rate": 0.00015302083333333335,
+      "loss": 1.0978,
+      "step": 4510
+    },
+    {
+      "epoch": 0.94,
+      "learning_rate": 0.00015291666666666665,
+      "loss": 1.177,
+      "step": 4520
+    },
+    {
+      "epoch": 0.94,
+      "learning_rate": 0.0001528125,
+      "loss": 1.1379,
+      "step": 4530
+    },
+    {
+      "epoch": 0.95,
+      "learning_rate": 0.00015270833333333334,
+      "loss": 1.1188,
+      "step": 4540
+    },
+    {
+      "epoch": 0.95,
+      "learning_rate": 0.0001526041666666667,
+      "loss": 1.1489,
+      "step": 4550
+    },
+    {
+      "epoch": 0.95,
+      "learning_rate": 0.0001525,
+      "loss": 1.1316,
+      "step": 4560
+    },
+    {
+      "epoch": 0.95,
+      "learning_rate": 0.00015239583333333335,
+      "loss": 1.1685,
+      "step": 4570
+    },
+    {
+      "epoch": 0.95,
+      "learning_rate": 0.00015229166666666668,
+      "loss": 1.0708,
+      "step": 4580
+    },
+    {
+      "epoch": 0.96,
+      "learning_rate": 0.0001521875,
+      "loss": 1.1313,
+      "step": 4590
+    },
+    {
+      "epoch": 0.96,
+      "learning_rate": 0.00015208333333333333,
+      "loss": 1.0182,
+      "step": 4600
+    },
+    {
+      "epoch": 0.96,
+      "eval_accuracy": 0.8165,
+      "eval_loss": 1.1358309984207153,
+      "eval_runtime": 59.8667,
+      "eval_samples_per_second": 100.223,
+      "eval_steps_per_second": 12.528,
+      "step": 4600
+    },
+    {
+      "epoch": 0.96,
+      "learning_rate": 0.00015197916666666666,
+      "loss": 1.1748,
+      "step": 4610
+    },
+    {
+      "epoch": 0.96,
+      "learning_rate": 0.00015187500000000002,
+      "loss": 1.171,
+      "step": 4620
+    },
+    {
+      "epoch": 0.96,
+      "learning_rate": 0.00015177083333333335,
+      "loss": 1.1169,
+      "step": 4630
+    },
+    {
+      "epoch": 0.97,
+      "learning_rate": 0.00015166666666666668,
+      "loss": 1.0936,
+      "step": 4640
+    },
+    {
+      "epoch": 0.97,
+      "learning_rate": 0.0001515625,
+      "loss": 1.0741,
+      "step": 4650
+    },
+    {
+      "epoch": 0.97,
+      "learning_rate": 0.00015145833333333333,
+      "loss": 1.201,
+      "step": 4660
+    },
+    {
+      "epoch": 0.97,
+      "learning_rate": 0.00015135416666666666,
+      "loss": 1.1713,
+      "step": 4670
+    },
+    {
+      "epoch": 0.97,
+      "learning_rate": 0.00015125,
+      "loss": 1.1395,
+      "step": 4680
+    },
+    {
+      "epoch": 0.98,
+      "learning_rate": 0.00015114583333333335,
+      "loss": 1.1095,
+      "step": 4690
+    },
+    {
+      "epoch": 0.98,
+      "learning_rate": 0.00015104166666666667,
+      "loss": 1.0396,
+      "step": 4700
+    },
+    {
+      "epoch": 0.98,
+      "eval_accuracy": 0.8158333333333333,
+      "eval_loss": 1.1286622285842896,
+      "eval_runtime": 59.7512,
+      "eval_samples_per_second": 100.416,
+      "eval_steps_per_second": 12.552,
+      "step": 4700
+    },
+    {
+      "epoch": 0.98,
+      "learning_rate": 0.0001509375,
+      "loss": 1.1648,
+      "step": 4710
+    },
+    {
+      "epoch": 0.98,
+      "learning_rate": 0.00015083333333333333,
+      "loss": 1.2071,
+      "step": 4720
+    },
+    {
+      "epoch": 0.99,
+      "learning_rate": 0.0001507291666666667,
+      "loss": 1.0075,
+      "step": 4730
+    },
+    {
+      "epoch": 0.99,
+      "learning_rate": 0.00015062500000000002,
+      "loss": 1.1149,
+      "step": 4740
+    },
+    {
+      "epoch": 0.99,
+      "learning_rate": 0.00015052083333333334,
+      "loss": 1.0764,
+      "step": 4750
+    },
+    {
+      "epoch": 0.99,
+      "learning_rate": 0.00015041666666666667,
+      "loss": 1.104,
+      "step": 4760
+    },
+    {
+      "epoch": 0.99,
+      "learning_rate": 0.0001503125,
+      "loss": 1.1529,
+      "step": 4770
+    },
+    {
+      "epoch": 1.0,
+      "learning_rate": 0.00015020833333333336,
+      "loss": 1.1982,
+      "step": 4780
+    },
+    {
+      "epoch": 1.0,
+      "learning_rate": 0.00015010416666666666,
+      "loss": 1.2677,
+      "step": 4790
+    },
+    {
+      "epoch": 1.0,
+      "learning_rate": 0.00015000000000000001,
+      "loss": 1.1502,
+      "step": 4800
+    },
+    {
+      "epoch": 1.0,
+      "eval_accuracy": 0.816,
+      "eval_loss": 1.1217460632324219,
+      "eval_runtime": 59.5436,
+      "eval_samples_per_second": 100.767,
+      "eval_steps_per_second": 12.596,
+      "step": 4800
+    },
+    {
+      "epoch": 1.0,
+      "learning_rate": 0.00014989583333333334,
+      "loss": 1.2269,
+      "step": 4810
+    },
+    {
+      "epoch": 1.0,
+      "learning_rate": 0.00014979166666666667,
+      "loss": 1.0926,
+      "step": 4820
+    },
+    {
+      "epoch": 1.01,
+      "learning_rate": 0.0001496875,
+      "loss": 1.1196,
+      "step": 4830
+    },
+    {
+      "epoch": 1.01,
+      "learning_rate": 0.00014958333333333336,
+      "loss": 1.0833,
+      "step": 4840
+    },
+    {
+      "epoch": 1.01,
+      "learning_rate": 0.00014947916666666668,
+      "loss": 1.1003,
+      "step": 4850
+    },
+    {
+      "epoch": 1.01,
+      "learning_rate": 0.00014937499999999999,
+      "loss": 1.2151,
+      "step": 4860
+    },
+    {
+      "epoch": 1.01,
+      "learning_rate": 0.00014927083333333334,
+      "loss": 1.1159,
+      "step": 4870
+    },
+    {
+      "epoch": 1.02,
+      "learning_rate": 0.00014916666666666667,
+      "loss": 1.0358,
+      "step": 4880
+    },
+    {
+      "epoch": 1.02,
+      "learning_rate": 0.00014906250000000003,
+      "loss": 1.006,
+      "step": 4890
+    },
+    {
+      "epoch": 1.02,
+      "learning_rate": 0.00014895833333333333,
+      "loss": 1.1764,
+      "step": 4900
+    },
+    {
+      "epoch": 1.02,
+      "eval_accuracy": 0.8158333333333333,
+      "eval_loss": 1.1147218942642212,
+      "eval_runtime": 59.5489,
+      "eval_samples_per_second": 100.758,
+      "eval_steps_per_second": 12.595,
+      "step": 4900
+    },
+    {
+      "epoch": 1.02,
+      "learning_rate": 0.00014885416666666668,
+      "loss": 1.1757,
+      "step": 4910
+    },
+    {
+      "epoch": 1.02,
+      "learning_rate": 0.00014875,
+      "loss": 1.1849,
+      "step": 4920
+    },
+    {
+      "epoch": 1.03,
+      "learning_rate": 0.00014864583333333334,
+      "loss": 1.0612,
+      "step": 4930
+    },
+    {
+      "epoch": 1.03,
+      "learning_rate": 0.00014854166666666667,
+      "loss": 1.1179,
+      "step": 4940
+    },
+    {
+      "epoch": 1.03,
+      "learning_rate": 0.0001484375,
+      "loss": 1.1105,
+      "step": 4950
+    },
+    {
+      "epoch": 1.03,
+      "learning_rate": 0.00014833333333333335,
+      "loss": 1.1282,
+      "step": 4960
+    },
+    {
+      "epoch": 1.04,
+      "learning_rate": 0.00014822916666666665,
+      "loss": 1.2305,
+      "step": 4970
+    },
+    {
+      "epoch": 1.04,
+      "learning_rate": 0.000148125,
+      "loss": 1.0431,
+      "step": 4980
+    },
+    {
+      "epoch": 1.04,
+      "learning_rate": 0.00014802083333333334,
+      "loss": 1.1201,
+      "step": 4990
+    },
+    {
+      "epoch": 1.04,
+      "learning_rate": 0.0001479166666666667,
+      "loss": 1.1508,
+      "step": 5000
+    },
+    {
+      "epoch": 1.04,
+      "eval_accuracy": 0.8151666666666667,
+      "eval_loss": 1.1080474853515625,
+      "eval_runtime": 59.7957,
+      "eval_samples_per_second": 100.342,
+      "eval_steps_per_second": 12.543,
+      "step": 5000
+    },
+    {
+      "epoch": 1.04,
+      "learning_rate": 0.0001478125,
+      "loss": 1.1987,
+      "step": 5010
+    },
+    {
+      "epoch": 1.05,
+      "learning_rate": 0.00014770833333333335,
+      "loss": 1.1422,
+      "step": 5020
+    },
+    {
+      "epoch": 1.05,
+      "learning_rate": 0.00014760416666666668,
+      "loss": 0.9753,
+      "step": 5030
+    },
+    {
+      "epoch": 1.05,
+      "learning_rate": 0.0001475,
+      "loss": 1.1754,
+      "step": 5040
+    },
+    {
+      "epoch": 1.05,
+      "learning_rate": 0.00014739583333333334,
+      "loss": 1.0736,
+      "step": 5050
+    },
+    {
+      "epoch": 1.05,
+      "learning_rate": 0.00014729166666666666,
+      "loss": 1.1402,
+      "step": 5060
+    },
+    {
+      "epoch": 1.06,
+      "learning_rate": 0.00014718750000000002,
+      "loss": 1.2073,
+      "step": 5070
+    },
+    {
+      "epoch": 1.06,
+      "learning_rate": 0.00014708333333333335,
+      "loss": 1.1422,
+      "step": 5080
+    },
+    {
+      "epoch": 1.06,
+      "learning_rate": 0.00014697916666666668,
+      "loss": 1.0425,
+      "step": 5090
+    },
+    {
+      "epoch": 1.06,
+      "learning_rate": 0.000146875,
+      "loss": 1.0518,
+      "step": 5100
+    },
+    {
+      "epoch": 1.06,
+      "eval_accuracy": 0.8155,
+      "eval_loss": 1.1014742851257324,
+      "eval_runtime": 59.6278,
+      "eval_samples_per_second": 100.624,
+      "eval_steps_per_second": 12.578,
+      "step": 5100
+    },
+    {
+      "epoch": 1.06,
+      "learning_rate": 0.00014677083333333333,
+      "loss": 1.0789,
+      "step": 5110
+    },
+    {
+      "epoch": 1.07,
+      "learning_rate": 0.00014666666666666666,
+      "loss": 1.1623,
+      "step": 5120
+    },
+    {
+      "epoch": 1.07,
+      "learning_rate": 0.0001465625,
+      "loss": 1.0644,
+      "step": 5130
+    },
+    {
+      "epoch": 1.07,
+      "learning_rate": 0.00014645833333333335,
+      "loss": 1.084,
+      "step": 5140
+    },
+    {
+      "epoch": 1.07,
+      "learning_rate": 0.00014635416666666668,
+      "loss": 1.148,
+      "step": 5150
+    },
+    {
+      "epoch": 1.07,
+      "learning_rate": 0.00014625,
+      "loss": 1.1631,
+      "step": 5160
+    },
+    {
+      "epoch": 1.08,
+      "learning_rate": 0.00014614583333333333,
+      "loss": 1.0106,
+      "step": 5170
+    },
+    {
+      "epoch": 1.08,
+      "learning_rate": 0.0001460416666666667,
+      "loss": 1.0735,
+      "step": 5180
+    },
+    {
+      "epoch": 1.08,
+      "learning_rate": 0.00014593750000000002,
+      "loss": 1.186,
+      "step": 5190
+    },
+    {
+      "epoch": 1.08,
+      "learning_rate": 0.00014583333333333335,
+      "loss": 1.0648,
+      "step": 5200
+    },
+    {
+      "epoch": 1.08,
+      "eval_accuracy": 0.816,
+      "eval_loss": 1.095172643661499,
+      "eval_runtime": 59.5602,
+      "eval_samples_per_second": 100.738,
+      "eval_steps_per_second": 12.592,
+      "step": 5200
+    },
+    {
+      "epoch": 1.09,
+      "learning_rate": 0.00014572916666666667,
+      "loss": 1.0892,
+      "step": 5210
+    },
+    {
+      "epoch": 1.09,
+      "learning_rate": 0.000145625,
+      "loss": 1.1821,
+      "step": 5220
+    },
+    {
+      "epoch": 1.09,
+      "learning_rate": 0.00014552083333333336,
+      "loss": 1.0954,
+      "step": 5230
+    },
+    {
+      "epoch": 1.09,
+      "learning_rate": 0.00014541666666666666,
+      "loss": 1.1076,
+      "step": 5240
+    },
+    {
+      "epoch": 1.09,
+      "learning_rate": 0.00014531250000000002,
+      "loss": 1.0859,
+      "step": 5250
+    },
+    {
+      "epoch": 1.1,
+      "learning_rate": 0.00014520833333333334,
+      "loss": 0.9888,
+      "step": 5260
+    },
+    {
+      "epoch": 1.1,
+      "learning_rate": 0.00014510416666666667,
+      "loss": 1.1703,
+      "step": 5270
+    },
+    {
+      "epoch": 1.1,
+      "learning_rate": 0.000145,
+      "loss": 1.1417,
+      "step": 5280
+    },
+    {
+      "epoch": 1.1,
+      "learning_rate": 0.00014489583333333333,
+      "loss": 1.1233,
+      "step": 5290
+    },
+    {
+      "epoch": 1.1,
+      "learning_rate": 0.00014479166666666669,
+      "loss": 1.1631,
+      "step": 5300
+    },
+    {
+      "epoch": 1.1,
+      "eval_accuracy": 0.8153333333333334,
+      "eval_loss": 1.0889489650726318,
+      "eval_runtime": 60.5314,
+      "eval_samples_per_second": 99.122,
+      "eval_steps_per_second": 12.39,
+      "step": 5300
+    },
+    {
+      "epoch": 1.11,
+      "learning_rate": 0.0001446875,
+      "loss": 1.1069,
+      "step": 5310
+    },
+    {
+      "epoch": 1.11,
+      "learning_rate": 0.00014458333333333334,
+      "loss": 1.1324,
+      "step": 5320
+    },
+    {
+      "epoch": 1.11,
+      "learning_rate": 0.00014447916666666667,
+      "loss": 1.0406,
+      "step": 5330
+    },
+    {
+      "epoch": 1.11,
+      "learning_rate": 0.00014437500000000003,
+      "loss": 1.0643,
+      "step": 5340
+    },
+    {
+      "epoch": 1.11,
+      "learning_rate": 0.00014427083333333333,
+      "loss": 1.0466,
+      "step": 5350
+    },
+    {
+      "epoch": 1.12,
+      "learning_rate": 0.00014416666666666668,
+      "loss": 1.0987,
+      "step": 5360
+    },
+    {
+      "epoch": 1.12,
+      "learning_rate": 0.0001440625,
+      "loss": 1.0603,
+      "step": 5370
+    },
+    {
+      "epoch": 1.12,
+      "learning_rate": 0.00014395833333333334,
+      "loss": 1.1559,
+      "step": 5380
+    },
+    {
+      "epoch": 1.12,
+      "learning_rate": 0.00014385416666666667,
+      "loss": 1.0942,
+      "step": 5390
+    },
+    {
+      "epoch": 1.12,
+      "learning_rate": 0.00014375,
+      "loss": 1.0629,
+      "step": 5400
+    },
+    {
+      "epoch": 1.12,
+      "eval_accuracy": 0.8151666666666667,
+      "eval_loss": 1.0826135873794556,
+      "eval_runtime": 59.8495,
+      "eval_samples_per_second": 100.252,
+      "eval_steps_per_second": 12.531,
+      "step": 5400
+    },
+    {
+      "epoch": 1.13,
+      "learning_rate": 0.00014364583333333335,
+      "loss": 1.0683,
+      "step": 5410
+    },
+    {
+      "epoch": 1.13,
+      "learning_rate": 0.00014354166666666665,
+      "loss": 1.1363,
+      "step": 5420
+    },
+    {
+      "epoch": 1.13,
+      "learning_rate": 0.0001434375,
+      "loss": 1.2511,
+      "step": 5430
+    },
+    {
+      "epoch": 1.13,
+      "learning_rate": 0.00014333333333333334,
+      "loss": 1.1718,
+      "step": 5440
+    },
+    {
+      "epoch": 1.14,
+      "learning_rate": 0.00014322916666666667,
+      "loss": 1.1405,
+      "step": 5450
+    },
+    {
+      "epoch": 1.14,
+      "learning_rate": 0.000143125,
+      "loss": 1.1358,
+      "step": 5460
+    },
+    {
+      "epoch": 1.14,
+      "learning_rate": 0.00014302083333333332,
+      "loss": 1.1561,
+      "step": 5470
+    },
+    {
+      "epoch": 1.14,
+      "learning_rate": 0.00014291666666666668,
+      "loss": 1.1084,
+      "step": 5480
+    },
+    {
+      "epoch": 1.14,
+      "learning_rate": 0.0001428125,
+      "loss": 1.0932,
+      "step": 5490
+    },
+    {
+      "epoch": 1.15,
+      "learning_rate": 0.00014270833333333334,
+      "loss": 1.1151,
+      "step": 5500
+    },
+    {
+      "epoch": 1.15,
+      "eval_accuracy": 0.815,
+      "eval_loss": 1.077078104019165,
+      "eval_runtime": 60.2326,
+      "eval_samples_per_second": 99.614,
+      "eval_steps_per_second": 12.452,
+      "step": 5500
+    },
+    {
+      "epoch": 1.15,
+      "learning_rate": 0.00014260416666666667,
+      "loss": 1.1859,
+      "step": 5510
+    },
+    {
+      "epoch": 1.15,
+      "learning_rate": 0.00014250000000000002,
+      "loss": 1.186,
+      "step": 5520
+    },
+    {
+      "epoch": 1.15,
+      "learning_rate": 0.00014239583333333335,
+      "loss": 1.0691,
+      "step": 5530
+    },
+    {
+      "epoch": 1.15,
+      "learning_rate": 0.00014229166666666668,
+      "loss": 1.0114,
+      "step": 5540
+    },
+    {
+      "epoch": 1.16,
+      "learning_rate": 0.0001421875,
+      "loss": 1.0687,
+      "step": 5550
+    },
+    {
+      "epoch": 1.16,
+      "learning_rate": 0.00014208333333333334,
+      "loss": 1.0402,
+      "step": 5560
+    },
+    {
+      "epoch": 1.16,
+      "learning_rate": 0.00014197916666666666,
+      "loss": 1.0181,
+      "step": 5570
+    },
+    {
+      "epoch": 1.16,
+      "learning_rate": 0.000141875,
+      "loss": 1.0831,
+      "step": 5580
+    },
+    {
+      "epoch": 1.16,
+      "learning_rate": 0.00014177083333333335,
+      "loss": 1.0845,
+      "step": 5590
+    },
+    {
+      "epoch": 1.17,
+      "learning_rate": 0.00014166666666666668,
+      "loss": 1.1377,
+      "step": 5600
+    },
+    {
+      "epoch": 1.17,
+      "eval_accuracy": 0.8145,
+      "eval_loss": 1.0710835456848145,
+      "eval_runtime": 61.0469,
+      "eval_samples_per_second": 98.285,
+      "eval_steps_per_second": 12.286,
+      "step": 5600
+    },
+    {
+      "epoch": 1.17,
+      "learning_rate": 0.0001415625,
+      "loss": 1.0783,
+      "step": 5610
+    },
+    {
+      "epoch": 1.17,
+      "learning_rate": 0.00014145833333333333,
+      "loss": 1.092,
+      "step": 5620
+    },
+    {
+      "epoch": 1.17,
+      "learning_rate": 0.0001413541666666667,
+      "loss": 1.1503,
+      "step": 5630
+    },
+    {
+      "epoch": 1.18,
+      "learning_rate": 0.00014125000000000002,
+      "loss": 1.1164,
+      "step": 5640
+    },
+    {
+      "epoch": 1.18,
+      "learning_rate": 0.00014114583333333332,
+      "loss": 0.9975,
+      "step": 5650
+    },
+    {
+      "epoch": 1.18,
+      "learning_rate": 0.00014104166666666668,
+      "loss": 1.017,
+      "step": 5660
+    },
+    {
+      "epoch": 1.18,
+      "learning_rate": 0.0001409375,
+      "loss": 1.1263,
+      "step": 5670
+    },
+    {
+      "epoch": 1.18,
+      "learning_rate": 0.00014083333333333336,
+      "loss": 1.023,
+      "step": 5680
+    },
+    {
+      "epoch": 1.19,
+      "learning_rate": 0.00014072916666666666,
+      "loss": 0.9961,
+      "step": 5690
+    },
+    {
+      "epoch": 1.19,
+      "learning_rate": 0.00014062500000000002,
+      "loss": 1.0353,
+      "step": 5700
+    },
+    {
+      "epoch": 1.19,
+      "eval_accuracy": 0.8158333333333333,
+      "eval_loss": 1.0651854276657104,
+      "eval_runtime": 60.5973,
+      "eval_samples_per_second": 99.014,
+      "eval_steps_per_second": 12.377,
+      "step": 5700
+    },
+    {
+      "epoch": 1.19,
+      "learning_rate": 0.00014052083333333335,
+      "loss": 0.9853,
+      "step": 5710
+    },
+    {
+      "epoch": 1.19,
+      "learning_rate": 0.00014041666666666667,
+      "loss": 0.9305,
+      "step": 5720
+    },
+    {
+      "epoch": 1.19,
+      "learning_rate": 0.0001403125,
+      "loss": 1.125,
+      "step": 5730
+    },
+    {
+      "epoch": 1.2,
+      "learning_rate": 0.00014020833333333333,
+      "loss": 1.0904,
+      "step": 5740
+    },
+    {
+      "epoch": 1.2,
+      "learning_rate": 0.00014010416666666669,
+      "loss": 1.1147,
+      "step": 5750
+    },
+    {
+      "epoch": 1.2,
+      "learning_rate": 0.00014,
+      "loss": 1.0227,
+      "step": 5760
+    },
+    {
+      "epoch": 1.2,
+      "learning_rate": 0.00013989583333333334,
+      "loss": 1.0952,
+      "step": 5770
+    },
+    {
+      "epoch": 1.2,
+      "learning_rate": 0.00013979166666666667,
+      "loss": 1.0593,
+      "step": 5780
+    },
+    {
+      "epoch": 1.21,
+      "learning_rate": 0.00013968750000000003,
+      "loss": 1.062,
+      "step": 5790
+    },
+    {
+      "epoch": 1.21,
+      "learning_rate": 0.00013958333333333333,
+      "loss": 1.068,
+      "step": 5800
+    },
+    {
+      "epoch": 1.21,
+      "eval_accuracy": 0.815,
+      "eval_loss": 1.059420108795166,
+      "eval_runtime": 60.638,
+      "eval_samples_per_second": 98.948,
+      "eval_steps_per_second": 12.368,
+      "step": 5800
+    },
+    {
+      "epoch": 1.21,
+      "learning_rate": 0.00013947916666666668,
+      "loss": 0.9805,
+      "step": 5810
+    },
+    {
+      "epoch": 1.21,
+      "learning_rate": 0.000139375,
+      "loss": 1.1046,
+      "step": 5820
+    },
+    {
+      "epoch": 1.21,
+      "learning_rate": 0.00013927083333333334,
+      "loss": 1.1928,
+      "step": 5830
+    },
+    {
+      "epoch": 1.22,
+      "learning_rate": 0.00013916666666666667,
+      "loss": 1.0337,
+      "step": 5840
+    },
+    {
+      "epoch": 1.22,
+      "learning_rate": 0.0001390625,
+      "loss": 1.0635,
+      "step": 5850
+    },
+    {
+      "epoch": 1.22,
+      "learning_rate": 0.00013895833333333335,
+      "loss": 1.0255,
+      "step": 5860
+    },
+    {
+      "epoch": 1.22,
+      "learning_rate": 0.00013885416666666666,
+      "loss": 1.1606,
+      "step": 5870
+    },
+    {
+      "epoch": 1.23,
+      "learning_rate": 0.00013875,
+      "loss": 1.1158,
+      "step": 5880
+    },
+    {
+      "epoch": 1.23,
+      "learning_rate": 0.00013864583333333334,
+      "loss": 0.9869,
+      "step": 5890
+    },
+    {
+      "epoch": 1.23,
+      "learning_rate": 0.00013854166666666667,
+      "loss": 1.0834,
+      "step": 5900
+    },
+    {
+      "epoch": 1.23,
+      "eval_accuracy": 0.8161666666666667,
+      "eval_loss": 1.0537856817245483,
+      "eval_runtime": 60.4567,
+      "eval_samples_per_second": 99.245,
+      "eval_steps_per_second": 12.406,
+      "step": 5900
+    },
+    {
+      "epoch": 1.23,
+      "learning_rate": 0.0001384375,
+      "loss": 1.0467,
+      "step": 5910
+    },
+    {
+      "epoch": 1.23,
+      "learning_rate": 0.00013833333333333333,
+      "loss": 1.0388,
+      "step": 5920
+    },
+    {
+      "epoch": 1.24,
+      "learning_rate": 0.00013822916666666668,
+      "loss": 1.1408,
+      "step": 5930
+    },
+    {
+      "epoch": 1.24,
+      "learning_rate": 0.000138125,
+      "loss": 1.1401,
+      "step": 5940
+    },
+    {
+      "epoch": 1.24,
+      "learning_rate": 0.00013802083333333334,
+      "loss": 1.0583,
+      "step": 5950
+    },
+    {
+      "epoch": 1.24,
+      "learning_rate": 0.00013791666666666667,
+      "loss": 1.1039,
+      "step": 5960
+    },
+    {
+      "epoch": 1.24,
+      "learning_rate": 0.00013781250000000002,
+      "loss": 1.143,
+      "step": 5970
+    },
+    {
+      "epoch": 1.25,
+      "learning_rate": 0.00013770833333333335,
+      "loss": 1.0061,
+      "step": 5980
+    },
+    {
+      "epoch": 1.25,
+      "learning_rate": 0.00013760416666666668,
+      "loss": 0.9496,
+      "step": 5990
+    },
+    {
+      "epoch": 1.25,
+      "learning_rate": 0.0001375,
+      "loss": 1.0002,
+      "step": 6000
+    },
+    {
+      "epoch": 1.25,
+      "eval_accuracy": 0.8165,
+      "eval_loss": 1.0482627153396606,
+      "eval_runtime": 59.9771,
+      "eval_samples_per_second": 100.038,
+      "eval_steps_per_second": 12.505,
+      "step": 6000
+    },
+    {
+      "epoch": 1.25,
+      "learning_rate": 0.00013739583333333334,
+      "loss": 0.9696,
+      "step": 6010
+    },
+    {
+      "epoch": 1.25,
+      "learning_rate": 0.00013729166666666667,
+      "loss": 1.0921,
+      "step": 6020
+    },
+    {
+      "epoch": 1.26,
+      "learning_rate": 0.0001371875,
+      "loss": 1.0734,
+      "step": 6030
+    },
+    {
+      "epoch": 1.26,
+      "learning_rate": 0.00013708333333333335,
+      "loss": 1.0224,
+      "step": 6040
+    },
+    {
+      "epoch": 1.26,
+      "learning_rate": 0.00013697916666666668,
+      "loss": 0.9932,
+      "step": 6050
+    },
+    {
+      "epoch": 1.26,
+      "learning_rate": 0.000136875,
+      "loss": 1.0661,
+      "step": 6060
+    },
+    {
+      "epoch": 1.26,
+      "learning_rate": 0.00013677083333333334,
+      "loss": 1.0396,
+      "step": 6070
+    },
+    {
+      "epoch": 1.27,
+      "learning_rate": 0.00013666666666666666,
+      "loss": 1.0388,
+      "step": 6080
+    },
+    {
+      "epoch": 1.27,
+      "learning_rate": 0.00013656250000000002,
+      "loss": 1.0194,
+      "step": 6090
+    },
+    {
+      "epoch": 1.27,
+      "learning_rate": 0.00013645833333333332,
+      "loss": 1.0024,
+      "step": 6100
+    },
+    {
+      "epoch": 1.27,
+      "eval_accuracy": 0.817,
+      "eval_loss": 1.0427976846694946,
+      "eval_runtime": 60.0681,
+      "eval_samples_per_second": 99.887,
+      "eval_steps_per_second": 12.486,
+      "step": 6100
+    },
+    {
+      "epoch": 1.27,
+      "learning_rate": 0.00013635416666666668,
+      "loss": 1.0402,
+      "step": 6110
+    },
+    {
+      "epoch": 1.27,
+      "learning_rate": 0.00013625,
+      "loss": 1.1157,
+      "step": 6120
+    },
+    {
+      "epoch": 1.28,
+      "learning_rate": 0.00013614583333333336,
+      "loss": 0.9612,
+      "step": 6130
+    },
+    {
+      "epoch": 1.28,
+      "learning_rate": 0.00013604166666666666,
+      "loss": 0.9551,
+      "step": 6140
+    },
+    {
+      "epoch": 1.28,
+      "learning_rate": 0.00013593750000000002,
+      "loss": 0.9694,
+      "step": 6150
+    },
+    {
+      "epoch": 1.28,
+      "learning_rate": 0.00013583333333333335,
+      "loss": 1.0188,
+      "step": 6160
+    },
+    {
+      "epoch": 1.29,
+      "learning_rate": 0.00013572916666666667,
+      "loss": 1.0513,
+      "step": 6170
+    },
+    {
+      "epoch": 1.29,
+      "learning_rate": 0.000135625,
+      "loss": 1.0613,
+      "step": 6180
+    },
+    {
+      "epoch": 1.29,
+      "learning_rate": 0.00013552083333333333,
+      "loss": 1.0362,
+      "step": 6190
+    },
+    {
+      "epoch": 1.29,
+      "learning_rate": 0.0001354166666666667,
+      "loss": 1.0609,
+      "step": 6200
+    },
+    {
+      "epoch": 1.29,
+      "eval_accuracy": 0.817,
+      "eval_loss": 1.0375816822052002,
+      "eval_runtime": 60.2711,
+      "eval_samples_per_second": 99.55,
+      "eval_steps_per_second": 12.444,
+      "step": 6200
+    },
+    {
+      "epoch": 1.29,
+      "learning_rate": 0.0001353125,
+      "loss": 1.0143,
+      "step": 6210
+    },
+    {
+      "epoch": 1.3,
+      "learning_rate": 0.00013520833333333334,
+      "loss": 0.9418,
+      "step": 6220
+    },
+    {
+      "epoch": 1.3,
+      "learning_rate": 0.00013510416666666667,
+      "loss": 0.9983,
+      "step": 6230
+    },
+    {
+      "epoch": 1.3,
+      "learning_rate": 0.00013500000000000003,
+      "loss": 1.0909,
+      "step": 6240
+    },
+    {
+      "epoch": 1.3,
+      "learning_rate": 0.00013489583333333333,
+      "loss": 1.0695,
+      "step": 6250
+    },
+    {
+      "epoch": 1.3,
+      "learning_rate": 0.00013479166666666666,
+      "loss": 1.1074,
+      "step": 6260
+    },
+    {
+      "epoch": 1.31,
+      "learning_rate": 0.00013468750000000001,
+      "loss": 1.0113,
+      "step": 6270
+    },
+    {
+      "epoch": 1.31,
+      "learning_rate": 0.00013458333333333334,
+      "loss": 1.0046,
+      "step": 6280
+    },
+    {
+      "epoch": 1.31,
+      "learning_rate": 0.00013447916666666667,
+      "loss": 0.9617,
+      "step": 6290
+    },
+    {
+      "epoch": 1.31,
+      "learning_rate": 0.000134375,
+      "loss": 1.0901,
+      "step": 6300
+    },
+    {
+      "epoch": 1.31,
+      "eval_accuracy": 0.816,
+      "eval_loss": 1.0324124097824097,
+      "eval_runtime": 60.2378,
+      "eval_samples_per_second": 99.605,
+      "eval_steps_per_second": 12.451,
+      "step": 6300
+    },
+    {
+      "epoch": 1.31,
+      "learning_rate": 0.00013427083333333336,
+      "loss": 1.0489,
+      "step": 6310
+    },
+    {
+      "epoch": 1.32,
+      "learning_rate": 0.00013416666666666666,
+      "loss": 1.171,
+      "step": 6320
+    },
+    {
+      "epoch": 1.32,
+      "learning_rate": 0.0001340625,
+      "loss": 1.1169,
+      "step": 6330
+    },
+    {
+      "epoch": 1.32,
+      "learning_rate": 0.00013395833333333334,
+      "loss": 1.0604,
+      "step": 6340
+    },
+    {
+      "epoch": 1.32,
+      "learning_rate": 0.00013385416666666667,
+      "loss": 0.9772,
+      "step": 6350
+    },
+    {
+      "epoch": 1.32,
+      "learning_rate": 0.00013375,
+      "loss": 1.1195,
+      "step": 6360
+    },
+    {
+      "epoch": 1.33,
+      "learning_rate": 0.00013364583333333333,
+      "loss": 1.0211,
+      "step": 6370
+    },
+    {
+      "epoch": 1.33,
+      "learning_rate": 0.00013354166666666668,
+      "loss": 0.9428,
+      "step": 6380
+    },
+    {
+      "epoch": 1.33,
+      "learning_rate": 0.0001334375,
+      "loss": 1.0457,
+      "step": 6390
+    },
+    {
+      "epoch": 1.33,
+      "learning_rate": 0.00013333333333333334,
+      "loss": 1.0772,
+      "step": 6400
+    },
+    {
+      "epoch": 1.33,
+      "eval_accuracy": 0.8173333333333334,
+      "eval_loss": 1.0275102853775024,
+      "eval_runtime": 59.7247,
+      "eval_samples_per_second": 100.461,
+      "eval_steps_per_second": 12.558,
+      "step": 6400
+    },
+    {
+      "epoch": 1.34,
+      "learning_rate": 0.00013322916666666667,
+      "loss": 0.8728,
+      "step": 6410
+    },
+    {
+      "epoch": 1.34,
+      "learning_rate": 0.00013312500000000002,
+      "loss": 1.0539,
+      "step": 6420
+    },
+    {
+      "epoch": 1.34,
+      "learning_rate": 0.00013302083333333335,
+      "loss": 0.8385,
+      "step": 6430
+    },
+    {
+      "epoch": 1.34,
+      "learning_rate": 0.00013291666666666665,
+      "loss": 1.1201,
+      "step": 6440
+    },
+    {
+      "epoch": 1.34,
+      "learning_rate": 0.0001328125,
+      "loss": 1.003,
+      "step": 6450
+    },
+    {
+      "epoch": 1.35,
+      "learning_rate": 0.00013270833333333334,
+      "loss": 1.0263,
+      "step": 6460
+    },
+    {
+      "epoch": 1.35,
+      "learning_rate": 0.00013260416666666667,
+      "loss": 0.9852,
+      "step": 6470
+    },
+    {
+      "epoch": 1.35,
+      "learning_rate": 0.0001325,
+      "loss": 1.0387,
+      "step": 6480
+    },
+    {
+      "epoch": 1.35,
+      "learning_rate": 0.00013239583333333335,
+      "loss": 1.0205,
+      "step": 6490
+    },
+    {
+      "epoch": 1.35,
+      "learning_rate": 0.00013229166666666668,
+      "loss": 0.9434,
+      "step": 6500
+    },
+    {
+      "epoch": 1.35,
+      "eval_accuracy": 0.817,
+      "eval_loss": 1.0225718021392822,
+      "eval_runtime": 59.908,
+      "eval_samples_per_second": 100.154,
+      "eval_steps_per_second": 12.519,
+      "step": 6500
+    },
+    {
+      "epoch": 1.36,
+      "learning_rate": 0.0001321875,
+      "loss": 1.0237,
+      "step": 6510
+    },
+    {
+      "epoch": 1.36,
+      "learning_rate": 0.00013208333333333334,
+      "loss": 1.0781,
+      "step": 6520
+    },
+    {
+      "epoch": 1.36,
+      "learning_rate": 0.00013197916666666666,
+      "loss": 0.9755,
+      "step": 6530
+    },
+    {
+      "epoch": 1.36,
+      "learning_rate": 0.00013187500000000002,
+      "loss": 1.0541,
+      "step": 6540
+    },
+    {
+      "epoch": 1.36,
+      "learning_rate": 0.00013177083333333332,
+      "loss": 1.0043,
+      "step": 6550
+    },
+    {
+      "epoch": 1.37,
+      "learning_rate": 0.00013166666666666668,
+      "loss": 0.9869,
+      "step": 6560
+    },
+    {
+      "epoch": 1.37,
+      "learning_rate": 0.0001315625,
+      "loss": 1.0009,
+      "step": 6570
+    },
+    {
+      "epoch": 1.37,
+      "learning_rate": 0.00013145833333333336,
+      "loss": 1.0527,
+      "step": 6580
+    },
+    {
+      "epoch": 1.37,
+      "learning_rate": 0.00013135416666666666,
+      "loss": 0.9895,
+      "step": 6590
+    },
+    {
+      "epoch": 1.38,
+      "learning_rate": 0.00013125000000000002,
+      "loss": 0.9692,
+      "step": 6600
+    },
+    {
+      "epoch": 1.38,
+      "eval_accuracy": 0.8156666666666667,
+      "eval_loss": 1.0178108215332031,
+      "eval_runtime": 59.5847,
+      "eval_samples_per_second": 100.697,
+      "eval_steps_per_second": 12.587,
+      "step": 6600
+    },
+    {
+      "epoch": 1.38,
+      "learning_rate": 0.00013114583333333335,
+      "loss": 1.0543,
+      "step": 6610
+    },
+    {
+      "epoch": 1.38,
+      "learning_rate": 0.00013104166666666668,
+      "loss": 0.9972,
+      "step": 6620
+    },
+    {
+      "epoch": 1.38,
+      "learning_rate": 0.0001309375,
+      "loss": 1.0252,
+      "step": 6630
+    },
+    {
+      "epoch": 1.38,
+      "learning_rate": 0.00013083333333333333,
+      "loss": 0.964,
+      "step": 6640
+    },
+    {
+      "epoch": 1.39,
+      "learning_rate": 0.0001307291666666667,
+      "loss": 1.0462,
+      "step": 6650
+    },
+    {
+      "epoch": 1.39,
+      "learning_rate": 0.000130625,
+      "loss": 1.1092,
+      "step": 6660
+    },
+    {
+      "epoch": 1.39,
+      "learning_rate": 0.00013052083333333335,
+      "loss": 1.0094,
+      "step": 6670
+    },
+    {
+      "epoch": 1.39,
+      "learning_rate": 0.00013041666666666667,
+      "loss": 1.0332,
+      "step": 6680
+    },
+    {
+      "epoch": 1.39,
+      "learning_rate": 0.0001303125,
+      "loss": 1.1112,
+      "step": 6690
+    },
+    {
+      "epoch": 1.4,
+      "learning_rate": 0.00013020833333333333,
+      "loss": 1.0461,
+      "step": 6700
+    },
+    {
+      "epoch": 1.4,
+      "eval_accuracy": 0.8155,
+      "eval_loss": 1.0131304264068604,
+      "eval_runtime": 59.6345,
+      "eval_samples_per_second": 100.613,
+      "eval_steps_per_second": 12.577,
+      "step": 6700
+    },
+    {
+      "epoch": 1.4,
+      "learning_rate": 0.00013010416666666666,
+      "loss": 1.1189,
+      "step": 6710
+    },
+    {
+      "epoch": 1.4,
+      "learning_rate": 0.00013000000000000002,
+      "loss": 0.9788,
+      "step": 6720
+    },
+    {
+      "epoch": 1.4,
+      "learning_rate": 0.00012989583333333334,
+      "loss": 0.9568,
+      "step": 6730
+    },
+    {
+      "epoch": 1.4,
+      "learning_rate": 0.00012979166666666667,
+      "loss": 0.9969,
+      "step": 6740
+    },
+    {
+      "epoch": 1.41,
+      "learning_rate": 0.0001296875,
+      "loss": 1.0807,
+      "step": 6750
+    },
+    {
+      "epoch": 1.41,
+      "learning_rate": 0.00012958333333333336,
+      "loss": 0.9391,
+      "step": 6760
+    },
+    {
+      "epoch": 1.41,
+      "learning_rate": 0.00012947916666666666,
+      "loss": 1.0292,
+      "step": 6770
+    },
+    {
+      "epoch": 1.41,
+      "learning_rate": 0.00012937500000000001,
+      "loss": 1.0981,
+      "step": 6780
+    },
+    {
+      "epoch": 1.41,
+      "learning_rate": 0.00012927083333333334,
+      "loss": 1.063,
+      "step": 6790
+    },
+    {
+      "epoch": 1.42,
+      "learning_rate": 0.00012916666666666667,
+      "loss": 1.0583,
+      "step": 6800
+    },
+    {
+      "epoch": 1.42,
+      "eval_accuracy": 0.8143333333333334,
+      "eval_loss": 1.0085917711257935,
+      "eval_runtime": 59.7678,
+      "eval_samples_per_second": 100.388,
+      "eval_steps_per_second": 12.549,
+      "step": 6800
+    },
+    {
+      "epoch": 1.42,
+      "learning_rate": 0.0001290625,
+      "loss": 1.0346,
+      "step": 6810
+    },
+    {
+      "epoch": 1.42,
+      "learning_rate": 0.00012895833333333333,
+      "loss": 0.9525,
+      "step": 6820
+    },
+    {
+      "epoch": 1.42,
+      "learning_rate": 0.00012885416666666668,
+      "loss": 1.0391,
+      "step": 6830
+    },
+    {
+      "epoch": 1.43,
+      "learning_rate": 0.00012875,
+      "loss": 0.914,
+      "step": 6840
+    },
+    {
+      "epoch": 1.43,
+      "learning_rate": 0.00012864583333333334,
+      "loss": 1.0198,
+      "step": 6850
+    },
+    {
+      "epoch": 1.43,
+      "learning_rate": 0.00012854166666666667,
+      "loss": 1.0732,
+      "step": 6860
+    },
+    {
+      "epoch": 1.43,
+      "learning_rate": 0.0001284375,
+      "loss": 1.1257,
+      "step": 6870
+    },
+    {
+      "epoch": 1.43,
+      "learning_rate": 0.00012833333333333335,
+      "loss": 1.0191,
+      "step": 6880
+    },
+    {
+      "epoch": 1.44,
+      "learning_rate": 0.00012822916666666666,
+      "loss": 0.9674,
+      "step": 6890
+    },
+    {
+      "epoch": 1.44,
+      "learning_rate": 0.000128125,
+      "loss": 0.9369,
+      "step": 6900
+    },
+    {
+      "epoch": 1.44,
+      "eval_accuracy": 0.8156666666666667,
+      "eval_loss": 1.0041823387145996,
+      "eval_runtime": 59.87,
+      "eval_samples_per_second": 100.217,
+      "eval_steps_per_second": 12.527,
+      "step": 6900
+    },
+    {
+      "epoch": 1.44,
+      "learning_rate": 0.00012802083333333334,
+      "loss": 0.989,
+      "step": 6910
+    },
+    {
+      "epoch": 1.44,
+      "learning_rate": 0.00012791666666666667,
+      "loss": 0.9341,
+      "step": 6920
+    },
+    {
+      "epoch": 1.44,
+      "learning_rate": 0.0001278125,
+      "loss": 1.0326,
+      "step": 6930
+    },
+    {
+      "epoch": 1.45,
+      "learning_rate": 0.00012770833333333335,
+      "loss": 1.0256,
+      "step": 6940
+    },
+    {
+      "epoch": 1.45,
+      "learning_rate": 0.00012760416666666668,
+      "loss": 1.0102,
+      "step": 6950
+    },
+    {
+      "epoch": 1.45,
+      "learning_rate": 0.0001275,
+      "loss": 0.8938,
+      "step": 6960
+    },
+    {
+      "epoch": 1.45,
+      "learning_rate": 0.00012739583333333334,
+      "loss": 1.0258,
+      "step": 6970
+    },
+    {
+      "epoch": 1.45,
+      "learning_rate": 0.00012729166666666667,
+      "loss": 0.9779,
+      "step": 6980
+    },
+    {
+      "epoch": 1.46,
+      "learning_rate": 0.00012718750000000002,
+      "loss": 1.0047,
+      "step": 6990
+    },
+    {
+      "epoch": 1.46,
+      "learning_rate": 0.00012708333333333332,
+      "loss": 1.0685,
+      "step": 7000
+    },
+    {
+      "epoch": 1.46,
+      "eval_accuracy": 0.8151666666666667,
+      "eval_loss": 0.9998148083686829,
+      "eval_runtime": 59.7758,
+      "eval_samples_per_second": 100.375,
+      "eval_steps_per_second": 12.547,
+      "step": 7000
+    },
+    {
+      "epoch": 1.46,
+      "learning_rate": 0.00012697916666666668,
+      "loss": 0.9437,
+      "step": 7010
+    },
+    {
+      "epoch": 1.46,
+      "learning_rate": 0.000126875,
+      "loss": 1.0423,
+      "step": 7020
+    },
+    {
+      "epoch": 1.46,
+      "learning_rate": 0.00012677083333333336,
+      "loss": 1.0588,
+      "step": 7030
+    },
+    {
+      "epoch": 1.47,
+      "learning_rate": 0.00012666666666666666,
+      "loss": 1.076,
+      "step": 7040
+    },
+    {
+      "epoch": 1.47,
+      "learning_rate": 0.0001265625,
+      "loss": 0.9718,
+      "step": 7050
+    },
+    {
+      "epoch": 1.47,
+      "learning_rate": 0.00012645833333333335,
+      "loss": 0.9775,
+      "step": 7060
+    },
+    {
+      "epoch": 1.47,
+      "learning_rate": 0.00012635416666666665,
+      "loss": 0.9461,
+      "step": 7070
+    },
+    {
+      "epoch": 1.48,
+      "learning_rate": 0.00012625,
+      "loss": 0.9732,
+      "step": 7080
+    },
+    {
+      "epoch": 1.48,
+      "learning_rate": 0.00012614583333333333,
+      "loss": 1.0246,
+      "step": 7090
+    },
+    {
+      "epoch": 1.48,
+      "learning_rate": 0.0001260416666666667,
+      "loss": 1.062,
+      "step": 7100
+    },
+    {
+      "epoch": 1.48,
+      "eval_accuracy": 0.8153333333333334,
+      "eval_loss": 0.9954829216003418,
+      "eval_runtime": 59.6319,
+      "eval_samples_per_second": 100.617,
+      "eval_steps_per_second": 12.577,
+      "step": 7100
+    },
+    {
+      "epoch": 1.48,
+      "learning_rate": 0.0001259375,
+      "loss": 1.0322,
+      "step": 7110
+    },
+    {
+      "epoch": 1.48,
+      "learning_rate": 0.00012583333333333335,
+      "loss": 0.9819,
+      "step": 7120
+    },
+    {
+      "epoch": 1.49,
+      "learning_rate": 0.00012572916666666668,
+      "loss": 0.971,
+      "step": 7130
+    },
+    {
+      "epoch": 1.49,
+      "learning_rate": 0.000125625,
+      "loss": 1.0039,
+      "step": 7140
+    },
+    {
+      "epoch": 1.49,
+      "learning_rate": 0.00012552083333333333,
+      "loss": 0.9903,
+      "step": 7150
+    },
+    {
+      "epoch": 1.49,
+      "learning_rate": 0.00012541666666666666,
+      "loss": 1.0589,
+      "step": 7160
+    },
+    {
+      "epoch": 1.49,
+      "learning_rate": 0.00012531250000000002,
+      "loss": 0.9637,
+      "step": 7170
+    },
+    {
+      "epoch": 1.5,
+      "learning_rate": 0.00012520833333333335,
+      "loss": 0.9911,
+      "step": 7180
+    },
+    {
+      "epoch": 1.5,
+      "learning_rate": 0.00012510416666666667,
+      "loss": 0.9029,
+      "step": 7190
+    },
+    {
+      "epoch": 1.5,
+      "learning_rate": 0.000125,
+      "loss": 1.0394,
+      "step": 7200
+    },
+    {
+      "epoch": 1.5,
+      "eval_accuracy": 0.8141666666666667,
+      "eval_loss": 0.9912140369415283,
+      "eval_runtime": 60.2996,
+      "eval_samples_per_second": 99.503,
+      "eval_steps_per_second": 12.438,
+      "step": 7200
+    },
+    {
+      "epoch": 1.5,
+      "learning_rate": 0.00012489583333333336,
+      "loss": 1.0609,
+      "step": 7210
+    },
+    {
+      "epoch": 1.5,
+      "learning_rate": 0.00012479166666666666,
+      "loss": 1.0693,
+      "step": 7220
+    },
+    {
+      "epoch": 1.51,
+      "learning_rate": 0.0001246875,
+      "loss": 1.0705,
+      "step": 7230
+    },
+    {
+      "epoch": 1.51,
+      "learning_rate": 0.00012458333333333334,
+      "loss": 1.0811,
+      "step": 7240
+    },
+    {
+      "epoch": 1.51,
+      "learning_rate": 0.00012447916666666667,
+      "loss": 0.9924,
+      "step": 7250
+    },
+    {
+      "epoch": 1.51,
+      "learning_rate": 0.000124375,
+      "loss": 0.9777,
+      "step": 7260
+    },
+    {
+      "epoch": 1.51,
+      "learning_rate": 0.00012427083333333333,
+      "loss": 0.997,
+      "step": 7270
+    },
+    {
+      "epoch": 1.52,
+      "learning_rate": 0.00012416666666666669,
+      "loss": 1.1401,
+      "step": 7280
+    },
+    {
+      "epoch": 1.52,
+      "learning_rate": 0.00012406250000000001,
+      "loss": 0.9785,
+      "step": 7290
+    },
+    {
+      "epoch": 1.52,
+      "learning_rate": 0.00012395833333333334,
+      "loss": 1.031,
+      "step": 7300
+    },
+    {
+      "epoch": 1.52,
+      "eval_accuracy": 0.8156666666666667,
+      "eval_loss": 0.9870244264602661,
+      "eval_runtime": 60.2162,
+      "eval_samples_per_second": 99.641,
+      "eval_steps_per_second": 12.455,
+      "step": 7300
+    },
+    {
+      "epoch": 1.52,
+      "learning_rate": 0.00012385416666666667,
+      "loss": 0.8874,
+      "step": 7310
+    },
+    {
+      "epoch": 1.52,
+      "learning_rate": 0.00012375,
+      "loss": 1.056,
+      "step": 7320
+    },
+    {
+      "epoch": 1.53,
+      "learning_rate": 0.00012364583333333335,
+      "loss": 0.8832,
+      "step": 7330
+    },
+    {
+      "epoch": 1.53,
+      "learning_rate": 0.00012354166666666666,
+      "loss": 1.0124,
+      "step": 7340
+    },
+    {
+      "epoch": 1.53,
+      "learning_rate": 0.0001234375,
+      "loss": 1.0278,
+      "step": 7350
+    },
+    {
+      "epoch": 1.53,
+      "learning_rate": 0.00012333333333333334,
+      "loss": 0.9802,
+      "step": 7360
+    },
+    {
+      "epoch": 1.54,
+      "learning_rate": 0.00012322916666666667,
+      "loss": 0.9763,
+      "step": 7370
+    },
+    {
+      "epoch": 1.54,
+      "learning_rate": 0.000123125,
+      "loss": 0.9772,
+      "step": 7380
+    },
+    {
+      "epoch": 1.54,
+      "learning_rate": 0.00012302083333333335,
+      "loss": 0.978,
+      "step": 7390
+    },
+    {
+      "epoch": 1.54,
+      "learning_rate": 0.00012291666666666668,
+      "loss": 0.9556,
+      "step": 7400
+    },
+    {
+      "epoch": 1.54,
+      "eval_accuracy": 0.8155,
+      "eval_loss": 0.9829460382461548,
+      "eval_runtime": 59.9836,
+      "eval_samples_per_second": 100.027,
+      "eval_steps_per_second": 12.503,
+      "step": 7400
+    },
+    {
+      "epoch": 1.54,
+      "learning_rate": 0.0001228125,
+      "loss": 0.9288,
+      "step": 7410
+    },
+    {
+      "epoch": 1.55,
+      "learning_rate": 0.00012270833333333334,
+      "loss": 0.9377,
+      "step": 7420
+    },
+    {
+      "epoch": 1.55,
+      "learning_rate": 0.00012260416666666667,
+      "loss": 0.9641,
+      "step": 7430
+    },
+    {
+      "epoch": 1.55,
+      "learning_rate": 0.00012250000000000002,
+      "loss": 1.0137,
+      "step": 7440
+    },
+    {
+      "epoch": 1.55,
+      "learning_rate": 0.00012239583333333332,
+      "loss": 1.017,
+      "step": 7450
+    },
+    {
+      "epoch": 1.55,
+      "learning_rate": 0.00012229166666666668,
+      "loss": 0.9695,
+      "step": 7460
+    },
+    {
+      "epoch": 1.56,
+      "learning_rate": 0.0001221875,
+      "loss": 0.9117,
+      "step": 7470
+    },
+    {
+      "epoch": 1.56,
+      "learning_rate": 0.00012208333333333334,
+      "loss": 0.9367,
+      "step": 7480
+    },
+    {
+      "epoch": 1.56,
+      "learning_rate": 0.00012197916666666667,
+      "loss": 0.923,
+      "step": 7490
+    },
+    {
+      "epoch": 1.56,
+      "learning_rate": 0.00012187500000000001,
+      "loss": 0.9846,
+      "step": 7500
+    },
+    {
+      "epoch": 1.56,
+      "eval_accuracy": 0.8151666666666667,
+      "eval_loss": 0.9789379835128784,
+      "eval_runtime": 60.0359,
+      "eval_samples_per_second": 99.94,
+      "eval_steps_per_second": 12.493,
+      "step": 7500
+    },
+    {
+      "epoch": 1.56,
+      "learning_rate": 0.00012177083333333335,
+      "loss": 0.8893,
+      "step": 7510
+    },
+    {
+      "epoch": 1.57,
+      "learning_rate": 0.00012166666666666667,
+      "loss": 0.9816,
+      "step": 7520
+    },
+    {
+      "epoch": 1.57,
+      "learning_rate": 0.00012156250000000001,
+      "loss": 1.1046,
+      "step": 7530
+    },
+    {
+      "epoch": 1.57,
+      "learning_rate": 0.00012145833333333334,
+      "loss": 1.0137,
+      "step": 7540
+    },
+    {
+      "epoch": 1.57,
+      "learning_rate": 0.00012135416666666668,
+      "loss": 1.0399,
+      "step": 7550
+    },
+    {
+      "epoch": 1.57,
+      "learning_rate": 0.00012124999999999999,
+      "loss": 1.0678,
+      "step": 7560
+    },
+    {
+      "epoch": 1.58,
+      "learning_rate": 0.00012114583333333333,
+      "loss": 0.9635,
+      "step": 7570
+    },
+    {
+      "epoch": 1.58,
+      "learning_rate": 0.00012104166666666668,
+      "loss": 0.9719,
+      "step": 7580
+    },
+    {
+      "epoch": 1.58,
+      "learning_rate": 0.00012093750000000002,
+      "loss": 1.0548,
+      "step": 7590
+    },
+    {
+      "epoch": 1.58,
+      "learning_rate": 0.00012083333333333333,
+      "loss": 0.9995,
+      "step": 7600
+    },
+    {
+      "epoch": 1.58,
+      "eval_accuracy": 0.8158333333333333,
+      "eval_loss": 0.9750451445579529,
+      "eval_runtime": 60.0862,
+      "eval_samples_per_second": 99.857,
+      "eval_steps_per_second": 12.482,
+      "step": 7600
+    },
+    {
+      "epoch": 1.59,
+      "learning_rate": 0.00012072916666666668,
+      "loss": 0.9988,
+      "step": 7610
+    },
+    {
+      "epoch": 1.59,
+      "learning_rate": 0.000120625,
+      "loss": 0.9213,
+      "step": 7620
+    },
+    {
+      "epoch": 1.59,
+      "learning_rate": 0.00012052083333333335,
+      "loss": 0.9995,
+      "step": 7630
+    },
+    {
+      "epoch": 1.59,
+      "learning_rate": 0.00012041666666666666,
+      "loss": 0.9942,
+      "step": 7640
+    },
+    {
+      "epoch": 1.59,
+      "learning_rate": 0.0001203125,
+      "loss": 0.9851,
+      "step": 7650
+    },
+    {
+      "epoch": 1.6,
+      "learning_rate": 0.00012020833333333335,
+      "loss": 0.9267,
+      "step": 7660
+    },
+    {
+      "epoch": 1.6,
+      "learning_rate": 0.00012010416666666666,
+      "loss": 1.0127,
+      "step": 7670
+    },
+    {
+      "epoch": 1.6,
+      "learning_rate": 0.00012,
+      "loss": 0.9586,
+      "step": 7680
+    },
+    {
+      "epoch": 1.6,
+      "learning_rate": 0.00011989583333333335,
+      "loss": 1.0004,
+      "step": 7690
+    },
+    {
+      "epoch": 1.6,
+      "learning_rate": 0.00011979166666666667,
+      "loss": 1.0273,
+      "step": 7700
+    },
+    {
+      "epoch": 1.6,
+      "eval_accuracy": 0.8163333333333334,
+      "eval_loss": 0.9710873961448669,
+      "eval_runtime": 59.9177,
+      "eval_samples_per_second": 100.137,
+      "eval_steps_per_second": 12.517,
+      "step": 7700
+    },
+    {
+      "epoch": 1.61,
+      "learning_rate": 0.0001196875,
+      "loss": 1.014,
+      "step": 7710
+    },
+    {
+      "epoch": 1.61,
+      "learning_rate": 0.00011958333333333333,
+      "loss": 1.0144,
+      "step": 7720
+    },
+    {
+      "epoch": 1.61,
+      "learning_rate": 0.00011947916666666667,
+      "loss": 0.9847,
+      "step": 7730
+    },
+    {
+      "epoch": 1.61,
+      "learning_rate": 0.00011937500000000001,
+      "loss": 0.9252,
+      "step": 7740
+    },
+    {
+      "epoch": 1.61,
+      "learning_rate": 0.00011927083333333333,
+      "loss": 1.0114,
+      "step": 7750
+    },
+    {
+      "epoch": 1.62,
+      "learning_rate": 0.00011916666666666667,
+      "loss": 1.0507,
+      "step": 7760
+    },
+    {
+      "epoch": 1.62,
+      "learning_rate": 0.00011906250000000001,
+      "loss": 1.0266,
+      "step": 7770
+    },
+    {
+      "epoch": 1.62,
+      "learning_rate": 0.00011895833333333334,
+      "loss": 0.9569,
+      "step": 7780
+    },
+    {
+      "epoch": 1.62,
+      "learning_rate": 0.00011885416666666667,
+      "loss": 1.0095,
+      "step": 7790
+    },
+    {
+      "epoch": 1.62,
+      "learning_rate": 0.00011875,
+      "loss": 0.9383,
+      "step": 7800
+    },
+    {
+      "epoch": 1.62,
+      "eval_accuracy": 0.817,
+      "eval_loss": 0.9673598408699036,
+      "eval_runtime": 60.4933,
+      "eval_samples_per_second": 99.185,
+      "eval_steps_per_second": 12.398,
+      "step": 7800
+    },
+    {
+      "epoch": 1.63,
+      "learning_rate": 0.00011864583333333334,
+      "loss": 0.9555,
+      "step": 7810
+    },
+    {
+      "epoch": 1.63,
+      "learning_rate": 0.00011854166666666666,
+      "loss": 0.9398,
+      "step": 7820
+    },
+    {
+      "epoch": 1.63,
+      "learning_rate": 0.0001184375,
+      "loss": 0.9853,
+      "step": 7830
+    },
+    {
+      "epoch": 1.63,
+      "learning_rate": 0.00011833333333333334,
+      "loss": 0.9169,
+      "step": 7840
+    },
+    {
+      "epoch": 1.64,
+      "learning_rate": 0.00011822916666666668,
+      "loss": 0.9585,
+      "step": 7850
+    },
+    {
+      "epoch": 1.64,
+      "learning_rate": 0.000118125,
+      "loss": 0.9887,
+      "step": 7860
+    },
+    {
+      "epoch": 1.64,
+      "learning_rate": 0.00011802083333333334,
+      "loss": 0.9977,
+      "step": 7870
+    },
+    {
+      "epoch": 1.64,
+      "learning_rate": 0.00011791666666666667,
+      "loss": 1.0631,
+      "step": 7880
+    },
+    {
+      "epoch": 1.64,
+      "learning_rate": 0.00011781250000000001,
+      "loss": 1.0091,
+      "step": 7890
+    },
+    {
+      "epoch": 1.65,
+      "learning_rate": 0.00011770833333333333,
+      "loss": 0.951,
+      "step": 7900
+    },
+    {
+      "epoch": 1.65,
+      "eval_accuracy": 0.8163333333333334,
+      "eval_loss": 0.9633956551551819,
+      "eval_runtime": 60.1611,
+      "eval_samples_per_second": 99.732,
+      "eval_steps_per_second": 12.467,
+      "step": 7900
+    },
+    {
+      "epoch": 1.65,
+      "learning_rate": 0.00011760416666666667,
+      "loss": 0.963,
+      "step": 7910
+    },
+    {
+      "epoch": 1.65,
+      "learning_rate": 0.00011750000000000001,
+      "loss": 0.9877,
+      "step": 7920
+    },
+    {
+      "epoch": 1.65,
+      "learning_rate": 0.00011739583333333335,
+      "loss": 0.9546,
+      "step": 7930
+    },
+    {
+      "epoch": 1.65,
+      "learning_rate": 0.00011729166666666667,
+      "loss": 1.0401,
+      "step": 7940
+    },
+    {
+      "epoch": 1.66,
+      "learning_rate": 0.00011718750000000001,
+      "loss": 1.0437,
+      "step": 7950
+    },
+    {
+      "epoch": 1.66,
+      "learning_rate": 0.00011708333333333335,
+      "loss": 1.0313,
+      "step": 7960
+    },
+    {
+      "epoch": 1.66,
+      "learning_rate": 0.00011697916666666667,
+      "loss": 0.9933,
+      "step": 7970
+    },
+    {
+      "epoch": 1.66,
+      "learning_rate": 0.000116875,
+      "loss": 0.8613,
+      "step": 7980
+    },
+    {
+      "epoch": 1.66,
+      "learning_rate": 0.00011677083333333334,
+      "loss": 0.8978,
+      "step": 7990
+    },
+    {
+      "epoch": 1.67,
+      "learning_rate": 0.00011666666666666668,
+      "loss": 0.9457,
+      "step": 8000
+    },
+    {
+      "epoch": 1.67,
+      "eval_accuracy": 0.8166666666666667,
+      "eval_loss": 0.9598354697227478,
+      "eval_runtime": 59.7327,
+      "eval_samples_per_second": 100.447,
+      "eval_steps_per_second": 12.556,
+      "step": 8000
+    },
+    {
+      "epoch": 1.67,
+      "learning_rate": 0.0001165625,
+      "loss": 1.0678,
+      "step": 8010
+    },
+    {
+      "epoch": 1.67,
+      "learning_rate": 0.00011645833333333334,
+      "loss": 0.935,
+      "step": 8020
+    },
+    {
+      "epoch": 1.67,
+      "learning_rate": 0.00011635416666666668,
+      "loss": 0.9617,
+      "step": 8030
+    },
+    {
+      "epoch": 1.68,
+      "learning_rate": 0.00011625000000000002,
+      "loss": 1.0114,
+      "step": 8040
+    },
+    {
+      "epoch": 1.68,
+      "learning_rate": 0.00011614583333333334,
+      "loss": 1.0023,
+      "step": 8050
+    },
+    {
+      "epoch": 1.68,
+      "learning_rate": 0.00011604166666666668,
+      "loss": 0.9904,
+      "step": 8060
+    },
+    {
+      "epoch": 1.68,
+      "learning_rate": 0.0001159375,
+      "loss": 1.0362,
+      "step": 8070
+    },
+    {
+      "epoch": 1.68,
+      "learning_rate": 0.00011583333333333335,
+      "loss": 1.0451,
+      "step": 8080
+    },
+    {
+      "epoch": 1.69,
+      "learning_rate": 0.00011572916666666666,
+      "loss": 0.9381,
+      "step": 8090
+    },
+    {
+      "epoch": 1.69,
+      "learning_rate": 0.000115625,
+      "loss": 1.012,
+      "step": 8100
+    },
+    {
+      "epoch": 1.69,
+      "eval_accuracy": 0.816,
+      "eval_loss": 0.9563413858413696,
+      "eval_runtime": 59.8254,
+      "eval_samples_per_second": 100.292,
+      "eval_steps_per_second": 12.536,
+      "step": 8100
+    },
+    {
+      "epoch": 1.69,
+      "learning_rate": 0.00011552083333333335,
+      "loss": 1.0559,
+      "step": 8110
+    },
+    {
+      "epoch": 1.69,
+      "learning_rate": 0.00011541666666666666,
+      "loss": 1.0559,
+      "step": 8120
+    },
+    {
+      "epoch": 1.69,
+      "learning_rate": 0.0001153125,
+      "loss": 0.9631,
+      "step": 8130
+    },
+    {
+      "epoch": 1.7,
+      "learning_rate": 0.00011520833333333335,
+      "loss": 1.0145,
+      "step": 8140
+    },
+    {
+      "epoch": 1.7,
+      "learning_rate": 0.00011510416666666667,
+      "loss": 1.1109,
+      "step": 8150
+    },
+    {
+      "epoch": 1.7,
+      "learning_rate": 0.00011499999999999999,
+      "loss": 0.9352,
+      "step": 8160
+    },
+    {
+      "epoch": 1.7,
+      "learning_rate": 0.00011489583333333333,
+      "loss": 0.9821,
+      "step": 8170
+    },
+    {
+      "epoch": 1.7,
+      "learning_rate": 0.00011479166666666667,
+      "loss": 1.0056,
+      "step": 8180
+    },
+    {
+      "epoch": 1.71,
+      "learning_rate": 0.00011468750000000002,
+      "loss": 0.7862,
+      "step": 8190
+    },
+    {
+      "epoch": 1.71,
+      "learning_rate": 0.00011458333333333333,
+      "loss": 0.9683,
+      "step": 8200
+    },
+    {
+      "epoch": 1.71,
+      "eval_accuracy": 0.8158333333333333,
+      "eval_loss": 0.9528841376304626,
+      "eval_runtime": 60.0367,
+      "eval_samples_per_second": 99.939,
+      "eval_steps_per_second": 12.492,
+      "step": 8200
+    },
+    {
+      "epoch": 1.71,
+      "learning_rate": 0.00011447916666666667,
+      "loss": 1.0004,
+      "step": 8210
+    },
+    {
+      "epoch": 1.71,
+      "learning_rate": 0.00011437500000000002,
+      "loss": 0.9048,
+      "step": 8220
+    },
+    {
+      "epoch": 1.71,
+      "learning_rate": 0.00011427083333333334,
+      "loss": 0.8365,
+      "step": 8230
+    },
+    {
+      "epoch": 1.72,
+      "learning_rate": 0.00011416666666666667,
+      "loss": 0.9707,
+      "step": 8240
+    },
+    {
+      "epoch": 1.72,
+      "learning_rate": 0.0001140625,
+      "loss": 0.9003,
+      "step": 8250
+    },
+    {
+      "epoch": 1.72,
+      "learning_rate": 0.00011395833333333334,
+      "loss": 0.9226,
+      "step": 8260
+    },
+    {
+      "epoch": 1.72,
+      "learning_rate": 0.00011385416666666666,
+      "loss": 1.0543,
+      "step": 8270
+    },
+    {
+      "epoch": 1.73,
+      "learning_rate": 0.00011375,
+      "loss": 0.87,
+      "step": 8280
+    },
+    {
+      "epoch": 1.73,
+      "learning_rate": 0.00011364583333333334,
+      "loss": 0.8877,
+      "step": 8290
+    },
+    {
+      "epoch": 1.73,
+      "learning_rate": 0.00011354166666666668,
+      "loss": 0.9582,
+      "step": 8300
+    },
+    {
+      "epoch": 1.73,
+      "eval_accuracy": 0.8156666666666667,
+      "eval_loss": 0.9494544267654419,
+      "eval_runtime": 60.1397,
+      "eval_samples_per_second": 99.768,
+      "eval_steps_per_second": 12.471,
+      "step": 8300
+    },
+    {
+      "epoch": 1.73,
+      "learning_rate": 0.0001134375,
+      "loss": 0.9052,
+      "step": 8310
+    },
+    {
+      "epoch": 1.73,
+      "learning_rate": 0.00011333333333333334,
+      "loss": 0.9273,
+      "step": 8320
+    },
+    {
+      "epoch": 1.74,
+      "learning_rate": 0.00011322916666666667,
+      "loss": 1.0223,
+      "step": 8330
+    },
+    {
+      "epoch": 1.74,
+      "learning_rate": 0.00011312500000000001,
+      "loss": 0.9308,
+      "step": 8340
+    },
+    {
+      "epoch": 1.74,
+      "learning_rate": 0.00011302083333333333,
+      "loss": 0.9127,
+      "step": 8350
+    },
+    {
+      "epoch": 1.74,
+      "learning_rate": 0.00011291666666666667,
+      "loss": 0.8806,
+      "step": 8360
+    },
+    {
+      "epoch": 1.74,
+      "learning_rate": 0.00011281250000000001,
+      "loss": 0.896,
+      "step": 8370
+    },
+    {
+      "epoch": 1.75,
+      "learning_rate": 0.00011270833333333335,
+      "loss": 0.9675,
+      "step": 8380
+    },
+    {
+      "epoch": 1.75,
+      "learning_rate": 0.00011260416666666667,
+      "loss": 0.9429,
+      "step": 8390
+    },
+    {
+      "epoch": 1.75,
+      "learning_rate": 0.00011250000000000001,
+      "loss": 0.9005,
+      "step": 8400
+    },
+    {
+      "epoch": 1.75,
+      "eval_accuracy": 0.8161666666666667,
+      "eval_loss": 0.9460874199867249,
+      "eval_runtime": 59.7636,
+      "eval_samples_per_second": 100.396,
+      "eval_steps_per_second": 12.549,
+      "step": 8400
+    },
+    {
+      "epoch": 1.75,
+      "learning_rate": 0.00011239583333333334,
+      "loss": 0.8994,
+      "step": 8410
+    },
+    {
+      "epoch": 1.75,
+      "learning_rate": 0.00011229166666666667,
+      "loss": 0.9196,
+      "step": 8420
+    },
+    {
+      "epoch": 1.76,
+      "learning_rate": 0.0001121875,
+      "loss": 1.0148,
+      "step": 8430
+    },
+    {
+      "epoch": 1.76,
+      "learning_rate": 0.00011208333333333334,
+      "loss": 0.9613,
+      "step": 8440
+    },
+    {
+      "epoch": 1.76,
+      "learning_rate": 0.00011197916666666668,
+      "loss": 0.9082,
+      "step": 8450
+    },
+    {
+      "epoch": 1.76,
+      "learning_rate": 0.000111875,
+      "loss": 0.9859,
+      "step": 8460
+    },
+    {
+      "epoch": 1.76,
+      "learning_rate": 0.00011177083333333334,
+      "loss": 1.031,
+      "step": 8470
+    },
+    {
+      "epoch": 1.77,
+      "learning_rate": 0.00011166666666666668,
+      "loss": 0.8355,
+      "step": 8480
+    },
+    {
+      "epoch": 1.77,
+      "learning_rate": 0.00011156250000000001,
+      "loss": 0.8973,
+      "step": 8490
+    },
+    {
+      "epoch": 1.77,
+      "learning_rate": 0.00011145833333333334,
+      "loss": 0.888,
+      "step": 8500
+    },
+    {
+      "epoch": 1.77,
+      "eval_accuracy": 0.8175,
+      "eval_loss": 0.9427911639213562,
+      "eval_runtime": 61.2618,
+      "eval_samples_per_second": 97.94,
+      "eval_steps_per_second": 12.243,
+      "step": 8500
+    },
+    {
+      "epoch": 1.77,
+      "learning_rate": 0.00011135416666666667,
+      "loss": 0.8018,
+      "step": 8510
+    },
+    {
+      "epoch": 1.77,
+      "learning_rate": 0.00011125000000000001,
+      "loss": 0.9515,
+      "step": 8520
+    },
+    {
+      "epoch": 1.78,
+      "learning_rate": 0.00011114583333333335,
+      "loss": 0.9843,
+      "step": 8530
+    },
+    {
+      "epoch": 1.78,
+      "learning_rate": 0.00011104166666666666,
+      "loss": 0.9946,
+      "step": 8540
+    },
+    {
+      "epoch": 1.78,
+      "learning_rate": 0.0001109375,
+      "loss": 0.9946,
+      "step": 8550
+    },
+    {
+      "epoch": 1.78,
+      "learning_rate": 0.00011083333333333335,
+      "loss": 1.0048,
+      "step": 8560
+    },
+    {
+      "epoch": 1.79,
+      "learning_rate": 0.00011072916666666666,
+      "loss": 0.9225,
+      "step": 8570
+    },
+    {
+      "epoch": 1.79,
+      "learning_rate": 0.000110625,
+      "loss": 0.9782,
+      "step": 8580
+    },
+    {
+      "epoch": 1.79,
+      "learning_rate": 0.00011052083333333333,
+      "loss": 1.014,
+      "step": 8590
+    },
+    {
+      "epoch": 1.79,
+      "learning_rate": 0.00011041666666666668,
+      "loss": 0.9267,
+      "step": 8600
+    },
+    {
+      "epoch": 1.79,
+      "eval_accuracy": 0.8168333333333333,
+      "eval_loss": 0.9395878911018372,
+      "eval_runtime": 60.0866,
+      "eval_samples_per_second": 99.856,
+      "eval_steps_per_second": 12.482,
+      "step": 8600
+    },
+    {
+      "epoch": 1.79,
+      "learning_rate": 0.00011031249999999999,
+      "loss": 0.9434,
+      "step": 8610
+    },
+    {
+      "epoch": 1.8,
+      "learning_rate": 0.00011020833333333333,
+      "loss": 1.0368,
+      "step": 8620
+    },
+    {
+      "epoch": 1.8,
+      "learning_rate": 0.00011010416666666668,
+      "loss": 0.966,
+      "step": 8630
+    },
+    {
+      "epoch": 1.8,
+      "learning_rate": 0.00011000000000000002,
+      "loss": 0.9484,
+      "step": 8640
+    },
+    {
+      "epoch": 1.8,
+      "learning_rate": 0.00010989583333333333,
+      "loss": 0.9203,
+      "step": 8650
+    },
+    {
+      "epoch": 1.8,
+      "learning_rate": 0.00010979166666666667,
+      "loss": 0.9323,
+      "step": 8660
+    },
+    {
+      "epoch": 1.81,
+      "learning_rate": 0.0001096875,
+      "loss": 1.0355,
+      "step": 8670
+    },
+    {
+      "epoch": 1.81,
+      "learning_rate": 0.00010958333333333335,
+      "loss": 0.9016,
+      "step": 8680
+    },
+    {
+      "epoch": 1.81,
+      "learning_rate": 0.00010947916666666666,
+      "loss": 0.9086,
+      "step": 8690
+    },
+    {
+      "epoch": 1.81,
+      "learning_rate": 0.000109375,
+      "loss": 0.9298,
+      "step": 8700
+    },
+    {
+      "epoch": 1.81,
+      "eval_accuracy": 0.8168333333333333,
+      "eval_loss": 0.9364497065544128,
+      "eval_runtime": 59.9971,
+      "eval_samples_per_second": 100.005,
+      "eval_steps_per_second": 12.501,
+      "step": 8700
+    },
+    {
+      "epoch": 1.81,
+      "learning_rate": 0.00010927083333333334,
+      "loss": 1.0576,
+      "step": 8710
+    },
+    {
+      "epoch": 1.82,
+      "learning_rate": 0.00010916666666666666,
+      "loss": 0.9211,
+      "step": 8720
+    },
+    {
+      "epoch": 1.82,
+      "learning_rate": 0.0001090625,
+      "loss": 0.9961,
+      "step": 8730
+    },
+    {
+      "epoch": 1.82,
+      "learning_rate": 0.00010895833333333334,
+      "loss": 0.9157,
+      "step": 8740
+    },
+    {
+      "epoch": 1.82,
+      "learning_rate": 0.00010885416666666669,
+      "loss": 0.9075,
+      "step": 8750
+    },
+    {
+      "epoch": 1.82,
+      "learning_rate": 0.00010875,
+      "loss": 0.9123,
+      "step": 8760
+    },
+    {
+      "epoch": 1.83,
+      "learning_rate": 0.00010864583333333333,
+      "loss": 0.9671,
+      "step": 8770
+    },
+    {
+      "epoch": 1.83,
+      "learning_rate": 0.00010854166666666667,
+      "loss": 0.9502,
+      "step": 8780
+    },
+    {
+      "epoch": 1.83,
+      "learning_rate": 0.00010843750000000001,
+      "loss": 1.0254,
+      "step": 8790
+    },
+    {
+      "epoch": 1.83,
+      "learning_rate": 0.00010833333333333333,
+      "loss": 1.0072,
+      "step": 8800
+    },
+    {
+      "epoch": 1.83,
+      "eval_accuracy": 0.8166666666666667,
+      "eval_loss": 0.9333662986755371,
+      "eval_runtime": 59.8456,
+      "eval_samples_per_second": 100.258,
+      "eval_steps_per_second": 12.532,
+      "step": 8800
+    },
+    {
+      "epoch": 1.84,
+      "learning_rate": 0.00010822916666666667,
+      "loss": 0.88,
+      "step": 8810
+    },
+    {
+      "epoch": 1.84,
+      "learning_rate": 0.00010812500000000001,
+      "loss": 0.908,
+      "step": 8820
+    },
+    {
+      "epoch": 1.84,
+      "learning_rate": 0.00010802083333333335,
+      "loss": 0.9136,
+      "step": 8830
+    },
+    {
+      "epoch": 1.84,
+      "learning_rate": 0.00010791666666666667,
+      "loss": 0.8889,
+      "step": 8840
+    },
+    {
+      "epoch": 1.84,
+      "learning_rate": 0.00010781250000000001,
+      "loss": 0.9675,
+      "step": 8850
+    },
+    {
+      "epoch": 1.85,
+      "learning_rate": 0.00010770833333333334,
+      "loss": 1.0277,
+      "step": 8860
+    },
+    {
+      "epoch": 1.85,
+      "learning_rate": 0.00010760416666666666,
+      "loss": 0.9519,
+      "step": 8870
+    },
+    {
+      "epoch": 1.85,
+      "learning_rate": 0.0001075,
+      "loss": 0.8311,
+      "step": 8880
+    },
+    {
+      "epoch": 1.85,
+      "learning_rate": 0.00010739583333333334,
+      "loss": 0.9708,
+      "step": 8890
+    },
+    {
+      "epoch": 1.85,
+      "learning_rate": 0.00010729166666666668,
+      "loss": 0.9425,
+      "step": 8900
+    },
+    {
+      "epoch": 1.85,
+      "eval_accuracy": 0.8158333333333333,
+      "eval_loss": 0.9303320050239563,
+      "eval_runtime": 59.9933,
+      "eval_samples_per_second": 100.011,
+      "eval_steps_per_second": 12.501,
+      "step": 8900
+    },
+    {
+      "epoch": 1.86,
+      "learning_rate": 0.0001071875,
+      "loss": 0.9695,
+      "step": 8910
+    },
+    {
+      "epoch": 1.86,
+      "learning_rate": 0.00010708333333333334,
+      "loss": 1.0064,
+      "step": 8920
+    },
+    {
+      "epoch": 1.86,
+      "learning_rate": 0.00010697916666666668,
+      "loss": 0.9399,
+      "step": 8930
+    },
+    {
+      "epoch": 1.86,
+      "learning_rate": 0.00010687500000000001,
+      "loss": 0.8355,
+      "step": 8940
+    },
+    {
+      "epoch": 1.86,
+      "learning_rate": 0.00010677083333333334,
+      "loss": 0.8846,
+      "step": 8950
+    },
+    {
+      "epoch": 1.87,
+      "learning_rate": 0.00010666666666666667,
+      "loss": 0.9259,
+      "step": 8960
+    },
+    {
+      "epoch": 1.87,
+      "learning_rate": 0.00010656250000000001,
+      "loss": 1.0175,
+      "step": 8970
+    },
+    {
+      "epoch": 1.87,
+      "learning_rate": 0.00010645833333333335,
+      "loss": 1.0094,
+      "step": 8980
+    },
+    {
+      "epoch": 1.87,
+      "learning_rate": 0.00010635416666666667,
+      "loss": 1.0023,
+      "step": 8990
+    },
+    {
+      "epoch": 1.88,
+      "learning_rate": 0.00010625000000000001,
+      "loss": 0.9729,
+      "step": 9000
+    },
+    {
+      "epoch": 1.88,
+      "eval_accuracy": 0.8168333333333333,
+      "eval_loss": 0.9272984266281128,
+      "eval_runtime": 59.9339,
+      "eval_samples_per_second": 100.11,
+      "eval_steps_per_second": 12.514,
+      "step": 9000
+    },
+    {
+      "epoch": 1.88,
+      "learning_rate": 0.00010614583333333335,
+      "loss": 1.0249,
+      "step": 9010
+    },
+    {
+      "epoch": 1.88,
+      "learning_rate": 0.00010604166666666666,
+      "loss": 0.8812,
+      "step": 9020
+    },
+    {
+      "epoch": 1.88,
+      "learning_rate": 0.00010593750000000001,
+      "loss": 0.9631,
+      "step": 9030
+    },
+    {
+      "epoch": 1.88,
+      "learning_rate": 0.00010583333333333334,
+      "loss": 0.8949,
+      "step": 9040
+    },
+    {
+      "epoch": 1.89,
+      "learning_rate": 0.00010572916666666668,
+      "loss": 0.9703,
+      "step": 9050
+    },
+    {
+      "epoch": 1.89,
+      "learning_rate": 0.00010562499999999999,
+      "loss": 0.8575,
+      "step": 9060
+    },
+    {
+      "epoch": 1.89,
+      "learning_rate": 0.00010552083333333333,
+      "loss": 0.8533,
+      "step": 9070
+    },
+    {
+      "epoch": 1.89,
+      "learning_rate": 0.00010541666666666668,
+      "loss": 0.9857,
+      "step": 9080
+    },
+    {
+      "epoch": 1.89,
+      "learning_rate": 0.00010531250000000002,
+      "loss": 0.8813,
+      "step": 9090
+    },
+    {
+      "epoch": 1.9,
+      "learning_rate": 0.00010520833333333333,
+      "loss": 0.9104,
+      "step": 9100
+    },
+    {
+      "epoch": 1.9,
+      "eval_accuracy": 0.8175,
+      "eval_loss": 0.9243930578231812,
+      "eval_runtime": 59.8827,
+      "eval_samples_per_second": 100.196,
+      "eval_steps_per_second": 12.524,
+      "step": 9100
+    },
+    {
+      "epoch": 1.9,
+      "learning_rate": 0.00010510416666666668,
+      "loss": 1.0087,
+      "step": 9110
+    },
+    {
+      "epoch": 1.9,
+      "learning_rate": 0.000105,
+      "loss": 0.9967,
+      "step": 9120
+    },
+    {
+      "epoch": 1.9,
+      "learning_rate": 0.00010489583333333335,
+      "loss": 1.0169,
+      "step": 9130
+    },
+    {
+      "epoch": 1.9,
+      "learning_rate": 0.00010479166666666666,
+      "loss": 0.8593,
+      "step": 9140
+    },
+    {
+      "epoch": 1.91,
+      "learning_rate": 0.0001046875,
+      "loss": 0.9077,
+      "step": 9150
+    },
+    {
+      "epoch": 1.91,
+      "learning_rate": 0.00010458333333333335,
+      "loss": 0.8788,
+      "step": 9160
+    },
+    {
+      "epoch": 1.91,
+      "learning_rate": 0.00010447916666666666,
+      "loss": 1.0712,
+      "step": 9170
+    },
+    {
+      "epoch": 1.91,
+      "learning_rate": 0.000104375,
+      "loss": 0.9945,
+      "step": 9180
+    },
+    {
+      "epoch": 1.91,
+      "learning_rate": 0.00010427083333333334,
+      "loss": 0.809,
+      "step": 9190
+    },
+    {
+      "epoch": 1.92,
+      "learning_rate": 0.00010416666666666667,
+      "loss": 0.9153,
+      "step": 9200
+    },
+    {
+      "epoch": 1.92,
+      "eval_accuracy": 0.817,
+      "eval_loss": 0.9216222167015076,
+      "eval_runtime": 60.3263,
+      "eval_samples_per_second": 99.459,
+      "eval_steps_per_second": 12.432,
+      "step": 9200
+    },
+    {
+      "epoch": 1.92,
+      "learning_rate": 0.0001040625,
+      "loss": 0.9582,
+      "step": 9210
+    },
+    {
+      "epoch": 1.92,
+      "learning_rate": 0.00010395833333333333,
+      "loss": 0.8335,
+      "step": 9220
+    },
+    {
+      "epoch": 1.92,
+      "learning_rate": 0.00010385416666666667,
+      "loss": 0.9739,
+      "step": 9230
+    },
+    {
+      "epoch": 1.93,
+      "learning_rate": 0.00010375000000000001,
+      "loss": 0.952,
+      "step": 9240
+    },
+    {
+      "epoch": 1.93,
+      "learning_rate": 0.00010364583333333333,
+      "loss": 0.8811,
+      "step": 9250
+    },
+    {
+      "epoch": 1.93,
+      "learning_rate": 0.00010354166666666667,
+      "loss": 1.023,
+      "step": 9260
+    },
+    {
+      "epoch": 1.93,
+      "learning_rate": 0.00010343750000000001,
+      "loss": 0.9013,
+      "step": 9270
+    },
+    {
+      "epoch": 1.93,
+      "learning_rate": 0.00010333333333333334,
+      "loss": 0.9092,
+      "step": 9280
+    },
+    {
+      "epoch": 1.94,
+      "learning_rate": 0.00010322916666666667,
+      "loss": 0.9804,
+      "step": 9290
+    },
+    {
+      "epoch": 1.94,
+      "learning_rate": 0.000103125,
+      "loss": 0.9115,
+      "step": 9300
+    },
+    {
+      "epoch": 1.94,
+      "eval_accuracy": 0.8165,
+      "eval_loss": 0.9188224077224731,
+      "eval_runtime": 59.4737,
+      "eval_samples_per_second": 100.885,
+      "eval_steps_per_second": 12.611,
+      "step": 9300
+    },
+    {
+      "epoch": 1.94,
+      "learning_rate": 0.00010302083333333334,
+      "loss": 0.8622,
+      "step": 9310
+    },
+    {
+      "epoch": 1.94,
+      "learning_rate": 0.00010291666666666666,
+      "loss": 0.9735,
+      "step": 9320
+    },
+    {
+      "epoch": 1.94,
+      "learning_rate": 0.0001028125,
+      "loss": 0.8311,
+      "step": 9330
+    },
+    {
+      "epoch": 1.95,
+      "learning_rate": 0.00010270833333333334,
+      "loss": 0.7907,
+      "step": 9340
+    },
+    {
+      "epoch": 1.95,
+      "learning_rate": 0.00010260416666666668,
+      "loss": 0.9423,
+      "step": 9350
+    },
+    {
+      "epoch": 1.95,
+      "learning_rate": 0.0001025,
+      "loss": 0.9422,
+      "step": 9360
+    },
+    {
+      "epoch": 1.95,
+      "learning_rate": 0.00010239583333333334,
+      "loss": 0.9318,
+      "step": 9370
+    },
+    {
+      "epoch": 1.95,
+      "learning_rate": 0.00010229166666666667,
+      "loss": 0.9288,
+      "step": 9380
+    },
+    {
+      "epoch": 1.96,
+      "learning_rate": 0.00010218750000000001,
+      "loss": 0.8747,
+      "step": 9390
+    },
+    {
+      "epoch": 1.96,
+      "learning_rate": 0.00010208333333333333,
+      "loss": 0.9079,
+      "step": 9400
+    },
+    {
+      "epoch": 1.96,
+      "eval_accuracy": 0.8168333333333333,
+      "eval_loss": 0.9160864353179932,
+      "eval_runtime": 59.7556,
+      "eval_samples_per_second": 100.409,
+      "eval_steps_per_second": 12.551,
+      "step": 9400
+    },
+    {
+      "epoch": 1.96,
+      "learning_rate": 0.00010197916666666667,
+      "loss": 0.9764,
+      "step": 9410
+    },
+    {
+      "epoch": 1.96,
+      "learning_rate": 0.00010187500000000001,
+      "loss": 1.0017,
+      "step": 9420
+    },
+    {
+      "epoch": 1.96,
+      "learning_rate": 0.00010177083333333335,
+      "loss": 0.9841,
+      "step": 9430
+    },
+    {
+      "epoch": 1.97,
+      "learning_rate": 0.00010166666666666667,
+      "loss": 0.985,
+      "step": 9440
+    },
+    {
+      "epoch": 1.97,
+      "learning_rate": 0.00010156250000000001,
+      "loss": 0.9453,
+      "step": 9450
+    },
+    {
+      "epoch": 1.97,
+      "learning_rate": 0.00010145833333333334,
+      "loss": 0.8888,
+      "step": 9460
+    },
+    {
+      "epoch": 1.97,
+      "learning_rate": 0.00010135416666666667,
+      "loss": 0.956,
+      "step": 9470
+    },
+    {
+      "epoch": 1.98,
+      "learning_rate": 0.00010125,
+      "loss": 0.8697,
+      "step": 9480
+    },
+    {
+      "epoch": 1.98,
+      "learning_rate": 0.00010114583333333334,
+      "loss": 0.9936,
+      "step": 9490
+    },
+    {
+      "epoch": 1.98,
+      "learning_rate": 0.00010104166666666668,
+      "loss": 0.8453,
+      "step": 9500
+    },
+    {
+      "epoch": 1.98,
+      "eval_accuracy": 0.8175,
+      "eval_loss": 0.9133460521697998,
+      "eval_runtime": 59.8554,
+      "eval_samples_per_second": 100.242,
+      "eval_steps_per_second": 12.53,
+      "step": 9500
+    },
+    {
+      "epoch": 1.98,
+      "learning_rate": 0.0001009375,
+      "loss": 0.9598,
+      "step": 9510
+    },
+    {
+      "epoch": 1.98,
+      "learning_rate": 0.00010083333333333334,
+      "loss": 0.9067,
+      "step": 9520
+    },
+    {
+      "epoch": 1.99,
+      "learning_rate": 0.00010072916666666668,
+      "loss": 0.8931,
+      "step": 9530
+    },
+    {
+      "epoch": 1.99,
+      "learning_rate": 0.00010062500000000002,
+      "loss": 0.9762,
+      "step": 9540
+    },
+    {
+      "epoch": 1.99,
+      "learning_rate": 0.00010052083333333333,
+      "loss": 0.9877,
+      "step": 9550
+    },
+    {
+      "epoch": 1.99,
+      "learning_rate": 0.00010041666666666666,
+      "loss": 0.9696,
+      "step": 9560
+    },
+    {
+      "epoch": 1.99,
+      "learning_rate": 0.0001003125,
+      "loss": 0.9763,
+      "step": 9570
+    },
+    {
+      "epoch": 2.0,
+      "learning_rate": 0.00010020833333333335,
+      "loss": 0.8631,
+      "step": 9580
+    },
+    {
+      "epoch": 2.0,
+      "learning_rate": 0.00010010416666666666,
+      "loss": 0.8001,
+      "step": 9590
+    },
+    {
+      "epoch": 2.0,
+      "learning_rate": 0.0001,
+      "loss": 0.8323,
+      "step": 9600
+    },
+    {
+      "epoch": 2.0,
+      "eval_accuracy": 0.817,
+      "eval_loss": 0.9106907844543457,
+      "eval_runtime": 59.5569,
+      "eval_samples_per_second": 100.744,
+      "eval_steps_per_second": 12.593,
+      "step": 9600
+    },
+    {
+      "epoch": 2.0,
+      "learning_rate": 9.989583333333333e-05,
+      "loss": 0.833,
+      "step": 9610
+    },
+    {
+      "epoch": 2.0,
+      "learning_rate": 9.979166666666668e-05,
+      "loss": 0.9048,
+      "step": 9620
+    },
+    {
+      "epoch": 2.01,
+      "learning_rate": 9.96875e-05,
+      "loss": 1.0003,
+      "step": 9630
+    },
+    {
+      "epoch": 2.01,
+      "learning_rate": 9.958333333333335e-05,
+      "loss": 0.9214,
+      "step": 9640
+    },
+    {
+      "epoch": 2.01,
+      "learning_rate": 9.947916666666666e-05,
+      "loss": 0.9345,
+      "step": 9650
+    },
+    {
+      "epoch": 2.01,
+      "learning_rate": 9.9375e-05,
+      "loss": 0.858,
+      "step": 9660
+    },
+    {
+      "epoch": 2.01,
+      "learning_rate": 9.927083333333333e-05,
+      "loss": 0.923,
+      "step": 9670
+    },
+    {
+      "epoch": 2.02,
+      "learning_rate": 9.916666666666667e-05,
+      "loss": 0.9333,
+      "step": 9680
+    },
+    {
+      "epoch": 2.02,
+      "learning_rate": 9.90625e-05,
+      "loss": 0.8702,
+      "step": 9690
+    },
+    {
+      "epoch": 2.02,
+      "learning_rate": 9.895833333333334e-05,
+      "loss": 0.9071,
+      "step": 9700
+    },
+    {
+      "epoch": 2.02,
+      "eval_accuracy": 0.8183333333333334,
+      "eval_loss": 0.9080246686935425,
+      "eval_runtime": 59.8773,
+      "eval_samples_per_second": 100.205,
+      "eval_steps_per_second": 12.526,
+      "step": 9700
+    },
+    {
+      "epoch": 2.02,
+      "learning_rate": 9.885416666666667e-05,
+      "loss": 0.8409,
+      "step": 9710
+    },
+    {
+      "epoch": 2.02,
+      "learning_rate": 9.875000000000002e-05,
+      "loss": 0.8283,
+      "step": 9720
+    },
+    {
+      "epoch": 2.03,
+      "learning_rate": 9.864583333333334e-05,
+      "loss": 0.9851,
+      "step": 9730
+    },
+    {
+      "epoch": 2.03,
+      "learning_rate": 9.854166666666667e-05,
+      "loss": 1.0913,
+      "step": 9740
+    },
+    {
+      "epoch": 2.03,
+      "learning_rate": 9.84375e-05,
+      "loss": 0.9222,
+      "step": 9750
+    },
+    {
+      "epoch": 2.03,
+      "learning_rate": 9.833333333333333e-05,
+      "loss": 0.8768,
+      "step": 9760
+    },
+    {
+      "epoch": 2.04,
+      "learning_rate": 9.822916666666667e-05,
+      "loss": 0.8602,
+      "step": 9770
+    },
+    {
+      "epoch": 2.04,
+      "learning_rate": 9.8125e-05,
+      "loss": 0.9389,
+      "step": 9780
+    },
+    {
+      "epoch": 2.04,
+      "learning_rate": 9.802083333333334e-05,
+      "loss": 1.0085,
+      "step": 9790
+    },
+    {
+      "epoch": 2.04,
+      "learning_rate": 9.791666666666667e-05,
+      "loss": 0.9331,
+      "step": 9800
+    },
+    {
+      "epoch": 2.04,
+      "eval_accuracy": 0.8185,
+      "eval_loss": 0.9053726196289062,
+      "eval_runtime": 59.5244,
+      "eval_samples_per_second": 100.799,
+      "eval_steps_per_second": 12.6,
+      "step": 9800
+    },
+    {
+      "epoch": 2.04,
+      "learning_rate": 9.781250000000001e-05,
+      "loss": 0.8929,
+      "step": 9810
+    },
+    {
+      "epoch": 2.05,
+      "learning_rate": 9.770833333333334e-05,
+      "loss": 0.9915,
+      "step": 9820
+    },
+    {
+      "epoch": 2.05,
+      "learning_rate": 9.760416666666667e-05,
+      "loss": 0.8457,
+      "step": 9830
+    },
+    {
+      "epoch": 2.05,
+      "learning_rate": 9.75e-05,
+      "loss": 0.8583,
+      "step": 9840
+    },
+    {
+      "epoch": 2.05,
+      "learning_rate": 9.739583333333334e-05,
+      "loss": 0.8435,
+      "step": 9850
+    },
+    {
+      "epoch": 2.05,
+      "learning_rate": 9.729166666666667e-05,
+      "loss": 0.9445,
+      "step": 9860
+    },
+    {
+      "epoch": 2.06,
+      "learning_rate": 9.718750000000001e-05,
+      "loss": 1.0234,
+      "step": 9870
+    },
+    {
+      "epoch": 2.06,
+      "learning_rate": 9.708333333333334e-05,
+      "loss": 0.8881,
+      "step": 9880
+    },
+    {
+      "epoch": 2.06,
+      "learning_rate": 9.697916666666668e-05,
+      "loss": 0.9292,
+      "step": 9890
+    },
+    {
+      "epoch": 2.06,
+      "learning_rate": 9.687500000000001e-05,
+      "loss": 0.886,
+      "step": 9900
+    },
+    {
+      "epoch": 2.06,
+      "eval_accuracy": 0.8193333333333334,
+      "eval_loss": 0.9029235243797302,
+      "eval_runtime": 60.8267,
+      "eval_samples_per_second": 98.641,
+      "eval_steps_per_second": 12.33,
+      "step": 9900
+    },
+    {
+      "epoch": 2.06,
+      "learning_rate": 9.677083333333334e-05,
+      "loss": 0.8499,
+      "step": 9910
+    },
+    {
+      "epoch": 2.07,
+      "learning_rate": 9.666666666666667e-05,
+      "loss": 0.9185,
+      "step": 9920
+    },
+    {
+      "epoch": 2.07,
+      "learning_rate": 9.65625e-05,
+      "loss": 0.9427,
+      "step": 9930
+    },
+    {
+      "epoch": 2.07,
+      "learning_rate": 9.645833333333334e-05,
+      "loss": 1.0027,
+      "step": 9940
+    },
+    {
+      "epoch": 2.07,
+      "learning_rate": 9.635416666666667e-05,
+      "loss": 0.9777,
+      "step": 9950
+    },
+    {
+      "epoch": 2.08,
+      "learning_rate": 9.625000000000001e-05,
+      "loss": 1.1016,
+      "step": 9960
+    },
+    {
+      "epoch": 2.08,
+      "learning_rate": 9.614583333333334e-05,
+      "loss": 1.0447,
+      "step": 9970
+    },
+    {
+      "epoch": 2.08,
+      "learning_rate": 9.604166666666668e-05,
+      "loss": 0.8262,
+      "step": 9980
+    },
+    {
+      "epoch": 2.08,
+      "learning_rate": 9.593750000000001e-05,
+      "loss": 0.8655,
+      "step": 9990
+    },
+    {
+      "epoch": 2.08,
+      "learning_rate": 9.583333333333334e-05,
+      "loss": 0.8562,
+      "step": 10000
+    },
+    {
+      "epoch": 2.08,
+      "eval_accuracy": 0.8183333333333334,
+      "eval_loss": 0.9005782604217529,
+      "eval_runtime": 59.8075,
+      "eval_samples_per_second": 100.322,
+      "eval_steps_per_second": 12.54,
+      "step": 10000
+    },
+    {
+      "epoch": 2.09,
+      "learning_rate": 9.572916666666666e-05,
+      "loss": 0.9233,
+      "step": 10010
+    },
+    {
+      "epoch": 2.09,
+      "learning_rate": 9.562500000000001e-05,
+      "loss": 0.9629,
+      "step": 10020
+    },
+    {
+      "epoch": 2.09,
+      "learning_rate": 9.552083333333334e-05,
+      "loss": 0.8589,
+      "step": 10030
+    },
+    {
+      "epoch": 2.09,
+      "learning_rate": 9.541666666666668e-05,
+      "loss": 0.8375,
+      "step": 10040
+    },
+    {
+      "epoch": 2.09,
+      "learning_rate": 9.53125e-05,
+      "loss": 0.9112,
+      "step": 10050
+    },
+    {
+      "epoch": 2.1,
+      "learning_rate": 9.520833333333333e-05,
+      "loss": 0.9153,
+      "step": 10060
+    },
+    {
+      "epoch": 2.1,
+      "learning_rate": 9.510416666666668e-05,
+      "loss": 0.854,
+      "step": 10070
+    },
+    {
+      "epoch": 2.1,
+      "learning_rate": 9.5e-05,
+      "loss": 1.0431,
+      "step": 10080
+    },
+    {
+      "epoch": 2.1,
+      "learning_rate": 9.489583333333333e-05,
+      "loss": 0.8993,
+      "step": 10090
+    },
+    {
+      "epoch": 2.1,
+      "learning_rate": 9.479166666666666e-05,
+      "loss": 0.8904,
+      "step": 10100
+    },
+    {
+      "epoch": 2.1,
+      "eval_accuracy": 0.8193333333333334,
+      "eval_loss": 0.8980449438095093,
+      "eval_runtime": 59.9046,
+      "eval_samples_per_second": 100.159,
+      "eval_steps_per_second": 12.52,
+      "step": 10100
+    },
+    {
+      "epoch": 2.11,
+      "learning_rate": 9.46875e-05,
+      "loss": 0.8597,
+      "step": 10110
+    },
+    {
+      "epoch": 2.11,
+      "learning_rate": 9.458333333333333e-05,
+      "loss": 0.9408,
+      "step": 10120
+    },
+    {
+      "epoch": 2.11,
+      "learning_rate": 9.447916666666668e-05,
+      "loss": 0.9446,
+      "step": 10130
+    },
+    {
+      "epoch": 2.11,
+      "learning_rate": 9.4375e-05,
+      "loss": 0.9181,
+      "step": 10140
+    },
+    {
+      "epoch": 2.11,
+      "learning_rate": 9.427083333333335e-05,
+      "loss": 0.8094,
+      "step": 10150
+    },
+    {
+      "epoch": 2.12,
+      "learning_rate": 9.416666666666667e-05,
+      "loss": 0.9128,
+      "step": 10160
+    },
+    {
+      "epoch": 2.12,
+      "learning_rate": 9.40625e-05,
+      "loss": 0.9085,
+      "step": 10170
+    },
+    {
+      "epoch": 2.12,
+      "learning_rate": 9.395833333333333e-05,
+      "loss": 0.903,
+      "step": 10180
+    },
+    {
+      "epoch": 2.12,
+      "learning_rate": 9.385416666666667e-05,
+      "loss": 0.8836,
+      "step": 10190
+    },
+    {
+      "epoch": 2.12,
+      "learning_rate": 9.375e-05,
+      "loss": 0.8247,
+      "step": 10200
+    },
+    {
+      "epoch": 2.12,
+      "eval_accuracy": 0.8188333333333333,
+      "eval_loss": 0.8956376910209656,
+      "eval_runtime": 59.6477,
+      "eval_samples_per_second": 100.591,
+      "eval_steps_per_second": 12.574,
+      "step": 10200
+    },
+    {
+      "epoch": 2.13,
+      "learning_rate": 9.364583333333333e-05,
+      "loss": 0.8779,
+      "step": 10210
+    },
+    {
+      "epoch": 2.13,
+      "learning_rate": 9.354166666666667e-05,
+      "loss": 0.9429,
+      "step": 10220
+    },
+    {
+      "epoch": 2.13,
+      "learning_rate": 9.34375e-05,
+      "loss": 0.8699,
+      "step": 10230
+    },
+    {
+      "epoch": 2.13,
+      "learning_rate": 9.333333333333334e-05,
+      "loss": 0.8919,
+      "step": 10240
+    },
+    {
+      "epoch": 2.14,
+      "learning_rate": 9.322916666666667e-05,
+      "loss": 0.8543,
+      "step": 10250
+    },
+    {
+      "epoch": 2.14,
+      "learning_rate": 9.3125e-05,
+      "loss": 0.9656,
+      "step": 10260
+    },
+    {
+      "epoch": 2.14,
+      "learning_rate": 9.302083333333333e-05,
+      "loss": 0.9084,
+      "step": 10270
+    },
+    {
+      "epoch": 2.14,
+      "learning_rate": 9.291666666666667e-05,
+      "loss": 0.8991,
+      "step": 10280
+    },
+    {
+      "epoch": 2.14,
+      "learning_rate": 9.28125e-05,
+      "loss": 0.9397,
+      "step": 10290
+    },
+    {
+      "epoch": 2.15,
+      "learning_rate": 9.270833333333334e-05,
+      "loss": 0.8114,
+      "step": 10300
+    },
+    {
+      "epoch": 2.15,
+      "eval_accuracy": 0.8201666666666667,
+      "eval_loss": 0.8934054374694824,
+      "eval_runtime": 60.1019,
+      "eval_samples_per_second": 99.831,
+      "eval_steps_per_second": 12.479,
+      "step": 10300
+    },
+    {
+      "epoch": 2.15,
+      "learning_rate": 9.260416666666667e-05,
+      "loss": 0.9237,
+      "step": 10310
+    },
+    {
+      "epoch": 2.15,
+      "learning_rate": 9.250000000000001e-05,
+      "loss": 0.8199,
+      "step": 10320
+    },
+    {
+      "epoch": 2.15,
+      "learning_rate": 9.239583333333334e-05,
+      "loss": 0.9568,
+      "step": 10330
+    },
+    {
+      "epoch": 2.15,
+      "learning_rate": 9.229166666666668e-05,
+      "loss": 0.9725,
+      "step": 10340
+    },
+    {
+      "epoch": 2.16,
+      "learning_rate": 9.21875e-05,
+      "loss": 0.8879,
+      "step": 10350
+    },
+    {
+      "epoch": 2.16,
+      "learning_rate": 9.208333333333333e-05,
+      "loss": 0.9734,
+      "step": 10360
+    },
+    {
+      "epoch": 2.16,
+      "learning_rate": 9.197916666666667e-05,
+      "loss": 0.9337,
+      "step": 10370
+    },
+    {
+      "epoch": 2.16,
+      "learning_rate": 9.1875e-05,
+      "loss": 0.917,
+      "step": 10380
+    },
+    {
+      "epoch": 2.16,
+      "learning_rate": 9.177083333333334e-05,
+      "loss": 0.8322,
+      "step": 10390
+    },
+    {
+      "epoch": 2.17,
+      "learning_rate": 9.166666666666667e-05,
+      "loss": 0.96,
+      "step": 10400
+    },
+    {
+      "epoch": 2.17,
+      "eval_accuracy": 0.8198333333333333,
+      "eval_loss": 0.8911527395248413,
+      "eval_runtime": 60.8262,
+      "eval_samples_per_second": 98.642,
+      "eval_steps_per_second": 12.33,
+      "step": 10400
+    },
+    {
+      "epoch": 2.17,
+      "learning_rate": 9.156250000000001e-05,
+      "loss": 0.8777,
+      "step": 10410
+    },
+    {
+      "epoch": 2.17,
+      "learning_rate": 9.145833333333334e-05,
+      "loss": 0.7841,
+      "step": 10420
+    },
+    {
+      "epoch": 2.17,
+      "learning_rate": 9.135416666666668e-05,
+      "loss": 1.0032,
+      "step": 10430
+    },
+    {
+      "epoch": 2.17,
+      "learning_rate": 9.125e-05,
+      "loss": 0.8637,
+      "step": 10440
+    },
+    {
+      "epoch": 2.18,
+      "learning_rate": 9.114583333333334e-05,
+      "loss": 0.9558,
+      "step": 10450
+    },
+    {
+      "epoch": 2.18,
+      "learning_rate": 9.104166666666667e-05,
+      "loss": 0.9103,
+      "step": 10460
+    },
+    {
+      "epoch": 2.18,
+      "learning_rate": 9.093750000000001e-05,
+      "loss": 0.8938,
+      "step": 10470
+    },
+    {
+      "epoch": 2.18,
+      "learning_rate": 9.083333333333334e-05,
+      "loss": 0.9379,
+      "step": 10480
+    },
+    {
+      "epoch": 2.19,
+      "learning_rate": 9.072916666666668e-05,
+      "loss": 0.8906,
+      "step": 10490
+    },
+    {
+      "epoch": 2.19,
+      "learning_rate": 9.062500000000001e-05,
+      "loss": 0.9326,
+      "step": 10500
+    },
+    {
+      "epoch": 2.19,
+      "eval_accuracy": 0.8198333333333333,
+      "eval_loss": 0.8889092803001404,
+      "eval_runtime": 60.4177,
+      "eval_samples_per_second": 99.309,
+      "eval_steps_per_second": 12.414,
+      "step": 10500
+    },
+    {
+      "epoch": 2.19,
+      "learning_rate": 9.052083333333334e-05,
+      "loss": 0.8228,
+      "step": 10510
+    },
+    {
+      "epoch": 2.19,
+      "learning_rate": 9.041666666666668e-05,
+      "loss": 0.8495,
+      "step": 10520
+    },
+    {
+      "epoch": 2.19,
+      "learning_rate": 9.03125e-05,
+      "loss": 0.8623,
+      "step": 10530
+    },
+    {
+      "epoch": 2.2,
+      "learning_rate": 9.020833333333334e-05,
+      "loss": 0.9245,
+      "step": 10540
+    },
+    {
+      "epoch": 2.2,
+      "learning_rate": 9.010416666666666e-05,
+      "loss": 0.8755,
+      "step": 10550
+    },
+    {
+      "epoch": 2.2,
+      "learning_rate": 9e-05,
+      "loss": 0.9681,
+      "step": 10560
+    },
+    {
+      "epoch": 2.2,
+      "learning_rate": 8.989583333333333e-05,
+      "loss": 0.8296,
+      "step": 10570
+    },
+    {
+      "epoch": 2.2,
+      "learning_rate": 8.979166666666668e-05,
+      "loss": 0.907,
+      "step": 10580
+    },
+    {
+      "epoch": 2.21,
+      "learning_rate": 8.96875e-05,
+      "loss": 0.8387,
+      "step": 10590
+    },
+    {
+      "epoch": 2.21,
+      "learning_rate": 8.958333333333335e-05,
+      "loss": 0.8057,
+      "step": 10600
+    },
+    {
+      "epoch": 2.21,
+      "eval_accuracy": 0.8195,
+      "eval_loss": 0.886721134185791,
+      "eval_runtime": 60.7878,
+      "eval_samples_per_second": 98.704,
+      "eval_steps_per_second": 12.338,
+      "step": 10600
+    },
+    {
+      "epoch": 2.21,
+      "learning_rate": 8.947916666666668e-05,
+      "loss": 0.94,
+      "step": 10610
+    },
+    {
+      "epoch": 2.21,
+      "learning_rate": 8.9375e-05,
+      "loss": 0.8714,
+      "step": 10620
+    },
+    {
+      "epoch": 2.21,
+      "learning_rate": 8.927083333333333e-05,
+      "loss": 1.0279,
+      "step": 10630
+    },
+    {
+      "epoch": 2.22,
+      "learning_rate": 8.916666666666667e-05,
+      "loss": 0.9274,
+      "step": 10640
+    },
+    {
+      "epoch": 2.22,
+      "learning_rate": 8.90625e-05,
+      "loss": 0.887,
+      "step": 10650
+    },
+    {
+      "epoch": 2.22,
+      "learning_rate": 8.895833333333333e-05,
+      "loss": 0.8918,
+      "step": 10660
+    },
+    {
+      "epoch": 2.22,
+      "learning_rate": 8.885416666666667e-05,
+      "loss": 0.9477,
+      "step": 10670
+    },
+    {
+      "epoch": 2.23,
+      "learning_rate": 8.875e-05,
+      "loss": 0.8518,
+      "step": 10680
+    },
+    {
+      "epoch": 2.23,
+      "learning_rate": 8.864583333333334e-05,
+      "loss": 0.9886,
+      "step": 10690
+    },
+    {
+      "epoch": 2.23,
+      "learning_rate": 8.854166666666667e-05,
+      "loss": 0.8266,
+      "step": 10700
+    },
+    {
+      "epoch": 2.23,
+      "eval_accuracy": 0.8188333333333333,
+      "eval_loss": 0.88455730676651,
+      "eval_runtime": 59.7724,
+      "eval_samples_per_second": 100.381,
+      "eval_steps_per_second": 12.548,
+      "step": 10700
+    },
+    {
+      "epoch": 2.23,
+      "learning_rate": 8.84375e-05,
+      "loss": 0.9126,
+      "step": 10710
+    },
+    {
+      "epoch": 2.23,
+      "learning_rate": 8.833333333333333e-05,
+      "loss": 0.8102,
+      "step": 10720
+    },
+    {
+      "epoch": 2.24,
+      "learning_rate": 8.822916666666667e-05,
+      "loss": 0.8637,
+      "step": 10730
+    },
+    {
+      "epoch": 2.24,
+      "learning_rate": 8.8125e-05,
+      "loss": 0.9869,
+      "step": 10740
+    },
+    {
+      "epoch": 2.24,
+      "learning_rate": 8.802083333333334e-05,
+      "loss": 0.8814,
+      "step": 10750
+    },
+    {
+      "epoch": 2.24,
+      "learning_rate": 8.791666666666667e-05,
+      "loss": 0.9535,
+      "step": 10760
+    },
+    {
+      "epoch": 2.24,
+      "learning_rate": 8.781250000000001e-05,
+      "loss": 0.9933,
+      "step": 10770
+    },
+    {
+      "epoch": 2.25,
+      "learning_rate": 8.770833333333334e-05,
+      "loss": 0.8286,
+      "step": 10780
+    },
+    {
+      "epoch": 2.25,
+      "learning_rate": 8.760416666666667e-05,
+      "loss": 0.7871,
+      "step": 10790
+    },
+    {
+      "epoch": 2.25,
+      "learning_rate": 8.75e-05,
+      "loss": 0.7909,
+      "step": 10800
+    },
+    {
+      "epoch": 2.25,
+      "eval_accuracy": 0.82,
+      "eval_loss": 0.8823391795158386,
+      "eval_runtime": 59.8225,
+      "eval_samples_per_second": 100.297,
+      "eval_steps_per_second": 12.537,
+      "step": 10800
+    },
+    {
+      "epoch": 2.25,
+      "learning_rate": 8.739583333333333e-05,
+      "loss": 0.826,
+      "step": 10810
+    },
+    {
+      "epoch": 2.25,
+      "learning_rate": 8.729166666666667e-05,
+      "loss": 0.9323,
+      "step": 10820
+    },
+    {
+      "epoch": 2.26,
+      "learning_rate": 8.71875e-05,
+      "loss": 0.8849,
+      "step": 10830
+    },
+    {
+      "epoch": 2.26,
+      "learning_rate": 8.708333333333334e-05,
+      "loss": 0.9148,
+      "step": 10840
+    },
+    {
+      "epoch": 2.26,
+      "learning_rate": 8.697916666666667e-05,
+      "loss": 0.9798,
+      "step": 10850
+    },
+    {
+      "epoch": 2.26,
+      "learning_rate": 8.687500000000001e-05,
+      "loss": 0.9062,
+      "step": 10860
+    },
+    {
+      "epoch": 2.26,
+      "learning_rate": 8.677083333333334e-05,
+      "loss": 0.8027,
+      "step": 10870
+    },
+    {
+      "epoch": 2.27,
+      "learning_rate": 8.666666666666667e-05,
+      "loss": 0.8939,
+      "step": 10880
+    },
+    {
+      "epoch": 2.27,
+      "learning_rate": 8.65625e-05,
+      "loss": 0.9829,
+      "step": 10890
+    },
+    {
+      "epoch": 2.27,
+      "learning_rate": 8.645833333333334e-05,
+      "loss": 0.886,
+      "step": 10900
+    },
+    {
+      "epoch": 2.27,
+      "eval_accuracy": 0.8191666666666667,
+      "eval_loss": 0.8802666068077087,
+      "eval_runtime": 59.9938,
+      "eval_samples_per_second": 100.01,
+      "eval_steps_per_second": 12.501,
+      "step": 10900
+    },
+    {
+      "epoch": 2.27,
+      "learning_rate": 8.635416666666667e-05,
+      "loss": 0.8374,
+      "step": 10910
+    },
+    {
+      "epoch": 2.27,
+      "learning_rate": 8.625000000000001e-05,
+      "loss": 0.8154,
+      "step": 10920
+    },
+    {
+      "epoch": 2.28,
+      "learning_rate": 8.614583333333334e-05,
+      "loss": 0.8789,
+      "step": 10930
+    },
+    {
+      "epoch": 2.28,
+      "learning_rate": 8.604166666666668e-05,
+      "loss": 0.842,
+      "step": 10940
+    },
+    {
+      "epoch": 2.28,
+      "learning_rate": 8.593750000000001e-05,
+      "loss": 0.8782,
+      "step": 10950
+    },
+    {
+      "epoch": 2.28,
+      "learning_rate": 8.583333333333334e-05,
+      "loss": 0.901,
+      "step": 10960
+    },
+    {
+      "epoch": 2.29,
+      "learning_rate": 8.572916666666667e-05,
+      "loss": 1.0296,
+      "step": 10970
+    },
+    {
+      "epoch": 2.29,
+      "learning_rate": 8.5625e-05,
+      "loss": 0.891,
+      "step": 10980
+    },
+    {
+      "epoch": 2.29,
+      "learning_rate": 8.552083333333334e-05,
+      "loss": 0.8485,
+      "step": 10990
+    },
+    {
+      "epoch": 2.29,
+      "learning_rate": 8.541666666666666e-05,
+      "loss": 0.8691,
+      "step": 11000
+    },
+    {
+      "epoch": 2.29,
+      "eval_accuracy": 0.8193333333333334,
+      "eval_loss": 0.8782818913459778,
+      "eval_runtime": 60.5065,
+      "eval_samples_per_second": 99.163,
+      "eval_steps_per_second": 12.395,
+      "step": 11000
+    },
+    {
+      "epoch": 2.29,
+      "learning_rate": 8.531250000000001e-05,
+      "loss": 0.9225,
+      "step": 11010
+    },
+    {
+      "epoch": 2.3,
+      "learning_rate": 8.520833333333334e-05,
+      "loss": 0.7699,
+      "step": 11020
+    },
+    {
+      "epoch": 2.3,
+      "learning_rate": 8.510416666666668e-05,
+      "loss": 0.8573,
+      "step": 11030
+    },
+    {
+      "epoch": 2.3,
+      "learning_rate": 8.5e-05,
+      "loss": 0.8257,
+      "step": 11040
+    },
+    {
+      "epoch": 2.3,
+      "learning_rate": 8.489583333333333e-05,
+      "loss": 0.915,
+      "step": 11050
+    },
+    {
+      "epoch": 2.3,
+      "learning_rate": 8.479166666666666e-05,
+      "loss": 0.8742,
+      "step": 11060
+    },
+    {
+      "epoch": 2.31,
+      "learning_rate": 8.46875e-05,
+      "loss": 0.8568,
+      "step": 11070
+    },
+    {
+      "epoch": 2.31,
+      "learning_rate": 8.458333333333333e-05,
+      "loss": 1.0271,
+      "step": 11080
+    },
+    {
+      "epoch": 2.31,
+      "learning_rate": 8.447916666666668e-05,
+      "loss": 0.9573,
+      "step": 11090
+    },
+    {
+      "epoch": 2.31,
+      "learning_rate": 8.4375e-05,
+      "loss": 0.8676,
+      "step": 11100
+    },
+    {
+      "epoch": 2.31,
+      "eval_accuracy": 0.8186666666666667,
+      "eval_loss": 0.8763127326965332,
+      "eval_runtime": 60.024,
+      "eval_samples_per_second": 99.96,
+      "eval_steps_per_second": 12.495,
+      "step": 11100
+    },
+    {
+      "epoch": 2.31,
+      "learning_rate": 8.427083333333333e-05,
+      "loss": 0.9015,
+      "step": 11110
+    },
+    {
+      "epoch": 2.32,
+      "learning_rate": 8.416666666666668e-05,
+      "loss": 0.8764,
+      "step": 11120
+    },
+    {
+      "epoch": 2.32,
+      "learning_rate": 8.40625e-05,
+      "loss": 0.8536,
+      "step": 11130
+    },
+    {
+      "epoch": 2.32,
+      "learning_rate": 8.395833333333333e-05,
+      "loss": 1.0081,
+      "step": 11140
+    },
+    {
+      "epoch": 2.32,
+      "learning_rate": 8.385416666666666e-05,
+      "loss": 0.7741,
+      "step": 11150
+    },
+    {
+      "epoch": 2.33,
+      "learning_rate": 8.375e-05,
+      "loss": 0.8499,
+      "step": 11160
+    },
+    {
+      "epoch": 2.33,
+      "learning_rate": 8.364583333333333e-05,
+      "loss": 0.837,
+      "step": 11170
+    },
+    {
+      "epoch": 2.33,
+      "learning_rate": 8.354166666666667e-05,
+      "loss": 0.93,
+      "step": 11180
+    },
+    {
+      "epoch": 2.33,
+      "learning_rate": 8.34375e-05,
+      "loss": 0.8481,
+      "step": 11190
+    },
+    {
+      "epoch": 2.33,
+      "learning_rate": 8.333333333333334e-05,
+      "loss": 0.8147,
+      "step": 11200
+    },
+    {
+      "epoch": 2.33,
+      "eval_accuracy": 0.819,
+      "eval_loss": 0.8743513822555542,
+      "eval_runtime": 60.5841,
+      "eval_samples_per_second": 99.036,
+      "eval_steps_per_second": 12.379,
+      "step": 11200
+    },
+    {
+      "epoch": 2.34,
+      "learning_rate": 8.322916666666667e-05,
+      "loss": 0.9215,
+      "step": 11210
+    },
+    {
+      "epoch": 2.34,
+      "learning_rate": 8.312500000000001e-05,
+      "loss": 1.0171,
+      "step": 11220
+    },
+    {
+      "epoch": 2.34,
+      "learning_rate": 8.302083333333334e-05,
+      "loss": 0.877,
+      "step": 11230
+    },
+    {
+      "epoch": 2.34,
+      "learning_rate": 8.291666666666667e-05,
+      "loss": 0.9123,
+      "step": 11240
+    },
+    {
+      "epoch": 2.34,
+      "learning_rate": 8.28125e-05,
+      "loss": 0.8584,
+      "step": 11250
+    },
+    {
+      "epoch": 2.35,
+      "learning_rate": 8.270833333333333e-05,
+      "loss": 0.9235,
+      "step": 11260
+    },
+    {
+      "epoch": 2.35,
+      "learning_rate": 8.260416666666667e-05,
+      "loss": 0.9265,
+      "step": 11270
+    },
+    {
+      "epoch": 2.35,
+      "learning_rate": 8.25e-05,
+      "loss": 1.0082,
+      "step": 11280
+    },
+    {
+      "epoch": 2.35,
+      "learning_rate": 8.239583333333334e-05,
+      "loss": 0.8357,
+      "step": 11290
+    },
+    {
+      "epoch": 2.35,
+      "learning_rate": 8.229166666666667e-05,
+      "loss": 0.7723,
+      "step": 11300
+    },
+    {
+      "epoch": 2.35,
+      "eval_accuracy": 0.8195,
+      "eval_loss": 0.8724921941757202,
+      "eval_runtime": 60.1821,
+      "eval_samples_per_second": 99.697,
+      "eval_steps_per_second": 12.462,
+      "step": 11300
+    },
+    {
+      "epoch": 2.36,
+      "learning_rate": 8.218750000000001e-05,
+      "loss": 0.8506,
+      "step": 11310
+    },
+    {
+      "epoch": 2.36,
+      "learning_rate": 8.208333333333334e-05,
+      "loss": 0.9962,
+      "step": 11320
+    },
+    {
+      "epoch": 2.36,
+      "learning_rate": 8.197916666666667e-05,
+      "loss": 0.7963,
+      "step": 11330
+    },
+    {
+      "epoch": 2.36,
+      "learning_rate": 8.1875e-05,
+      "loss": 0.8108,
+      "step": 11340
+    },
+    {
+      "epoch": 2.36,
+      "learning_rate": 8.177083333333334e-05,
+      "loss": 0.8533,
+      "step": 11350
+    },
+    {
+      "epoch": 2.37,
+      "learning_rate": 8.166666666666667e-05,
+      "loss": 0.8543,
+      "step": 11360
+    },
+    {
+      "epoch": 2.37,
+      "learning_rate": 8.156250000000001e-05,
+      "loss": 0.7748,
+      "step": 11370
+    },
+    {
+      "epoch": 2.37,
+      "learning_rate": 8.145833333333334e-05,
+      "loss": 0.8673,
+      "step": 11380
+    },
+    {
+      "epoch": 2.37,
+      "learning_rate": 8.135416666666668e-05,
+      "loss": 0.7873,
+      "step": 11390
+    },
+    {
+      "epoch": 2.38,
+      "learning_rate": 8.125000000000001e-05,
+      "loss": 0.9222,
+      "step": 11400
+    },
+    {
+      "epoch": 2.38,
+      "eval_accuracy": 0.8188333333333333,
+      "eval_loss": 0.8705334663391113,
+      "eval_runtime": 60.4825,
+      "eval_samples_per_second": 99.202,
+      "eval_steps_per_second": 12.4,
+      "step": 11400
+    },
+    {
+      "epoch": 2.38,
+      "learning_rate": 8.114583333333334e-05,
+      "loss": 0.8725,
+      "step": 11410
+    },
+    {
+      "epoch": 2.38,
+      "learning_rate": 8.104166666666667e-05,
+      "loss": 0.8851,
+      "step": 11420
+    },
+    {
+      "epoch": 2.38,
+      "learning_rate": 8.09375e-05,
+      "loss": 0.6912,
+      "step": 11430
+    },
+    {
+      "epoch": 2.38,
+      "learning_rate": 8.083333333333334e-05,
+      "loss": 0.8245,
+      "step": 11440
+    },
+    {
+      "epoch": 2.39,
+      "learning_rate": 8.072916666666667e-05,
+      "loss": 0.9026,
+      "step": 11450
+    },
+    {
+      "epoch": 2.39,
+      "learning_rate": 8.062500000000001e-05,
+      "loss": 0.8828,
+      "step": 11460
+    },
+    {
+      "epoch": 2.39,
+      "learning_rate": 8.052083333333334e-05,
+      "loss": 0.8112,
+      "step": 11470
+    },
+    {
+      "epoch": 2.39,
+      "learning_rate": 8.041666666666668e-05,
+      "loss": 0.865,
+      "step": 11480
+    },
+    {
+      "epoch": 2.39,
+      "learning_rate": 8.031250000000001e-05,
+      "loss": 0.7553,
+      "step": 11490
+    },
+    {
+      "epoch": 2.4,
+      "learning_rate": 8.020833333333334e-05,
+      "loss": 0.9692,
+      "step": 11500
+    },
+    {
+      "epoch": 2.4,
+      "eval_accuracy": 0.8195,
+      "eval_loss": 0.868669867515564,
+      "eval_runtime": 60.6333,
+      "eval_samples_per_second": 98.955,
+      "eval_steps_per_second": 12.369,
+      "step": 11500
+    },
+    {
+      "epoch": 2.4,
+      "learning_rate": 8.010416666666666e-05,
+      "loss": 0.8435,
+      "step": 11510
+    },
+    {
+      "epoch": 2.4,
+      "learning_rate": 8e-05,
+      "loss": 0.8767,
+      "step": 11520
+    },
+    {
+      "epoch": 2.4,
+      "learning_rate": 7.989583333333334e-05,
+      "loss": 0.9097,
+      "step": 11530
+    },
+    {
+      "epoch": 2.4,
+      "learning_rate": 7.979166666666668e-05,
+      "loss": 0.8379,
+      "step": 11540
+    },
+    {
+      "epoch": 2.41,
+      "learning_rate": 7.96875e-05,
+      "loss": 0.9373,
+      "step": 11550
+    },
+    {
+      "epoch": 2.41,
+      "learning_rate": 7.958333333333333e-05,
+      "loss": 0.8829,
+      "step": 11560
+    },
+    {
+      "epoch": 2.41,
+      "learning_rate": 7.947916666666668e-05,
+      "loss": 0.857,
+      "step": 11570
+    },
+    {
+      "epoch": 2.41,
+      "learning_rate": 7.9375e-05,
+      "loss": 0.8152,
+      "step": 11580
+    },
+    {
+      "epoch": 2.41,
+      "learning_rate": 7.927083333333333e-05,
+      "loss": 0.8382,
+      "step": 11590
+    },
+    {
+      "epoch": 2.42,
+      "learning_rate": 7.916666666666666e-05,
+      "loss": 0.8792,
+      "step": 11600
+    },
+    {
+      "epoch": 2.42,
+      "eval_accuracy": 0.8188333333333333,
+      "eval_loss": 0.8668614029884338,
+      "eval_runtime": 60.4427,
+      "eval_samples_per_second": 99.268,
+      "eval_steps_per_second": 12.408,
+      "step": 11600
+    },
+    {
+      "epoch": 2.42,
+      "learning_rate": 7.90625e-05,
+      "loss": 0.9746,
+      "step": 11610
+    },
+    {
+      "epoch": 2.42,
+      "learning_rate": 7.895833333333333e-05,
+      "loss": 0.9131,
+      "step": 11620
+    },
+    {
+      "epoch": 2.42,
+      "learning_rate": 7.885416666666667e-05,
+      "loss": 0.9136,
+      "step": 11630
+    },
+    {
+      "epoch": 2.42,
+      "learning_rate": 7.875e-05,
+      "loss": 0.7783,
+      "step": 11640
+    },
+    {
+      "epoch": 2.43,
+      "learning_rate": 7.864583333333335e-05,
+      "loss": 0.9325,
+      "step": 11650
+    },
+    {
+      "epoch": 2.43,
+      "learning_rate": 7.854166666666667e-05,
+      "loss": 0.82,
+      "step": 11660
+    },
+    {
+      "epoch": 2.43,
+      "learning_rate": 7.84375e-05,
+      "loss": 0.8862,
+      "step": 11670
+    },
+    {
+      "epoch": 2.43,
+      "learning_rate": 7.833333333333333e-05,
+      "loss": 0.7929,
+      "step": 11680
+    },
+    {
+      "epoch": 2.44,
+      "learning_rate": 7.822916666666667e-05,
+      "loss": 0.8625,
+      "step": 11690
+    },
+    {
+      "epoch": 2.44,
+      "learning_rate": 7.8125e-05,
+      "loss": 0.939,
+      "step": 11700
+    },
+    {
+      "epoch": 2.44,
+      "eval_accuracy": 0.8193333333333334,
+      "eval_loss": 0.8650014400482178,
+      "eval_runtime": 60.5697,
+      "eval_samples_per_second": 99.059,
+      "eval_steps_per_second": 12.382,
+      "step": 11700
+    },
+    {
+      "epoch": 2.44,
+      "learning_rate": 7.802083333333333e-05,
+      "loss": 0.9089,
+      "step": 11710
+    },
+    {
+      "epoch": 2.44,
+      "learning_rate": 7.791666666666667e-05,
+      "loss": 0.831,
+      "step": 11720
+    },
+    {
+      "epoch": 2.44,
+      "learning_rate": 7.78125e-05,
+      "loss": 0.9358,
+      "step": 11730
+    },
+    {
+      "epoch": 2.45,
+      "learning_rate": 7.770833333333334e-05,
+      "loss": 0.8783,
+      "step": 11740
+    },
+    {
+      "epoch": 2.45,
+      "learning_rate": 7.760416666666667e-05,
+      "loss": 0.8856,
+      "step": 11750
+    },
+    {
+      "epoch": 2.45,
+      "learning_rate": 7.75e-05,
+      "loss": 0.9105,
+      "step": 11760
+    },
+    {
+      "epoch": 2.45,
+      "learning_rate": 7.739583333333333e-05,
+      "loss": 0.7612,
+      "step": 11770
+    },
+    {
+      "epoch": 2.45,
+      "learning_rate": 7.729166666666667e-05,
+      "loss": 0.8791,
+      "step": 11780
+    },
+    {
+      "epoch": 2.46,
+      "learning_rate": 7.71875e-05,
+      "loss": 0.8531,
+      "step": 11790
+    },
+    {
+      "epoch": 2.46,
+      "learning_rate": 7.708333333333334e-05,
+      "loss": 0.9093,
+      "step": 11800
+    },
+    {
+      "epoch": 2.46,
+      "eval_accuracy": 0.8188333333333333,
+      "eval_loss": 0.8633024096488953,
+      "eval_runtime": 60.6107,
+      "eval_samples_per_second": 98.992,
+      "eval_steps_per_second": 12.374,
+      "step": 11800
+    },
+    {
+      "epoch": 2.46,
+      "learning_rate": 7.697916666666667e-05,
+      "loss": 0.8898,
+      "step": 11810
+    },
+    {
+      "epoch": 2.46,
+      "learning_rate": 7.687500000000001e-05,
+      "loss": 0.8957,
+      "step": 11820
+    },
+    {
+      "epoch": 2.46,
+      "learning_rate": 7.677083333333334e-05,
+      "loss": 0.8843,
+      "step": 11830
+    },
+    {
+      "epoch": 2.47,
+      "learning_rate": 7.666666666666667e-05,
+      "loss": 0.8384,
+      "step": 11840
+    },
+    {
+      "epoch": 2.47,
+      "learning_rate": 7.65625e-05,
+      "loss": 0.9018,
+      "step": 11850
+    },
+    {
+      "epoch": 2.47,
+      "learning_rate": 7.645833333333333e-05,
+      "loss": 0.8341,
+      "step": 11860
+    },
+    {
+      "epoch": 2.47,
+      "learning_rate": 7.635416666666667e-05,
+      "loss": 0.8599,
+      "step": 11870
+    },
+    {
+      "epoch": 2.48,
+      "learning_rate": 7.625e-05,
+      "loss": 0.8166,
+      "step": 11880
+    },
+    {
+      "epoch": 2.48,
+      "learning_rate": 7.614583333333334e-05,
+      "loss": 0.9357,
+      "step": 11890
+    },
+    {
+      "epoch": 2.48,
+      "learning_rate": 7.604166666666667e-05,
+      "loss": 0.7794,
+      "step": 11900
+    },
+    {
+      "epoch": 2.48,
+      "eval_accuracy": 0.8181666666666667,
+      "eval_loss": 0.8615716695785522,
+      "eval_runtime": 60.5021,
+      "eval_samples_per_second": 99.17,
+      "eval_steps_per_second": 12.396,
+      "step": 11900
+    },
+    {
+      "epoch": 2.48,
+      "learning_rate": 7.593750000000001e-05,
+      "loss": 0.8408,
+      "step": 11910
+    },
+    {
+      "epoch": 2.48,
+      "learning_rate": 7.583333333333334e-05,
+      "loss": 0.8493,
+      "step": 11920
+    },
+    {
+      "epoch": 2.49,
+      "learning_rate": 7.572916666666667e-05,
+      "loss": 0.9521,
+      "step": 11930
+    },
+    {
+      "epoch": 2.49,
+      "learning_rate": 7.5625e-05,
+      "loss": 0.9206,
+      "step": 11940
+    },
+    {
+      "epoch": 2.49,
+      "learning_rate": 7.552083333333334e-05,
+      "loss": 0.8045,
+      "step": 11950
+    },
+    {
+      "epoch": 2.49,
+      "learning_rate": 7.541666666666667e-05,
+      "loss": 0.884,
+      "step": 11960
+    },
+    {
+      "epoch": 2.49,
+      "learning_rate": 7.531250000000001e-05,
+      "loss": 0.9027,
+      "step": 11970
+    },
+    {
+      "epoch": 2.5,
+      "learning_rate": 7.520833333333334e-05,
+      "loss": 0.9304,
+      "step": 11980
+    },
+    {
+      "epoch": 2.5,
+      "learning_rate": 7.510416666666668e-05,
+      "loss": 0.8908,
+      "step": 11990
+    },
+    {
+      "epoch": 2.5,
+      "learning_rate": 7.500000000000001e-05,
+      "loss": 0.8572,
+      "step": 12000
+    },
+    {
+      "epoch": 2.5,
+      "eval_accuracy": 0.8181666666666667,
+      "eval_loss": 0.8599247932434082,
+      "eval_runtime": 60.3523,
+      "eval_samples_per_second": 99.416,
+      "eval_steps_per_second": 12.427,
+      "step": 12000
+    },
+    {
+      "epoch": 2.5,
+      "learning_rate": 7.489583333333334e-05,
+      "loss": 0.8573,
+      "step": 12010
+    },
+    {
+      "epoch": 2.5,
+      "learning_rate": 7.479166666666668e-05,
+      "loss": 0.9029,
+      "step": 12020
+    },
+    {
+      "epoch": 2.51,
+      "learning_rate": 7.468749999999999e-05,
+      "loss": 0.8706,
+      "step": 12030
+    },
+    {
+      "epoch": 2.51,
+      "learning_rate": 7.458333333333333e-05,
+      "loss": 0.9281,
+      "step": 12040
+    },
+    {
+      "epoch": 2.51,
+      "learning_rate": 7.447916666666666e-05,
+      "loss": 0.8718,
+      "step": 12050
+    },
+    {
+      "epoch": 2.51,
+      "learning_rate": 7.4375e-05,
+      "loss": 0.8078,
+      "step": 12060
+    },
+    {
+      "epoch": 2.51,
+      "learning_rate": 7.427083333333333e-05,
+      "loss": 0.782,
+      "step": 12070
+    },
+    {
+      "epoch": 2.52,
+      "learning_rate": 7.416666666666668e-05,
+      "loss": 0.81,
+      "step": 12080
+    },
+    {
+      "epoch": 2.52,
+      "learning_rate": 7.40625e-05,
+      "loss": 1.0015,
+      "step": 12090
+    },
+    {
+      "epoch": 2.52,
+      "learning_rate": 7.395833333333335e-05,
+      "loss": 0.9035,
+      "step": 12100
+    },
+    {
+      "epoch": 2.52,
+      "eval_accuracy": 0.8185,
+      "eval_loss": 0.8582282066345215,
+      "eval_runtime": 60.3114,
+      "eval_samples_per_second": 99.484,
+      "eval_steps_per_second": 12.435,
+      "step": 12100
+    },
+    {
+      "epoch": 2.52,
+      "learning_rate": 7.385416666666668e-05,
+      "loss": 0.8239,
+      "step": 12110
+    },
+    {
+      "epoch": 2.52,
+      "learning_rate": 7.375e-05,
+      "loss": 0.93,
+      "step": 12120
+    },
+    {
+      "epoch": 2.53,
+      "learning_rate": 7.364583333333333e-05,
+      "loss": 0.7904,
+      "step": 12130
+    },
+    {
+      "epoch": 2.53,
+      "learning_rate": 7.354166666666667e-05,
+      "loss": 0.9401,
+      "step": 12140
+    },
+    {
+      "epoch": 2.53,
+      "learning_rate": 7.34375e-05,
+      "loss": 0.8185,
+      "step": 12150
+    },
+    {
+      "epoch": 2.53,
+      "learning_rate": 7.333333333333333e-05,
+      "loss": 0.827,
+      "step": 12160
+    },
+    {
+      "epoch": 2.54,
+      "learning_rate": 7.322916666666667e-05,
+      "loss": 0.9634,
+      "step": 12170
+    },
+    {
+      "epoch": 2.54,
+      "learning_rate": 7.3125e-05,
+      "loss": 0.8821,
+      "step": 12180
+    },
+    {
+      "epoch": 2.54,
+      "learning_rate": 7.302083333333334e-05,
+      "loss": 0.8695,
+      "step": 12190
+    },
+    {
+      "epoch": 2.54,
+      "learning_rate": 7.291666666666667e-05,
+      "loss": 0.8063,
+      "step": 12200
+    },
+    {
+      "epoch": 2.54,
+      "eval_accuracy": 0.8193333333333334,
+      "eval_loss": 0.8565818667411804,
+      "eval_runtime": 60.1002,
+      "eval_samples_per_second": 99.833,
+      "eval_steps_per_second": 12.479,
+      "step": 12200
+    },
+    {
+      "epoch": 2.54,
+      "learning_rate": 7.28125e-05,
+      "loss": 0.8199,
+      "step": 12210
+    },
+    {
+      "epoch": 2.55,
+      "learning_rate": 7.270833333333333e-05,
+      "loss": 0.795,
+      "step": 12220
+    },
+    {
+      "epoch": 2.55,
+      "learning_rate": 7.260416666666667e-05,
+      "loss": 0.951,
+      "step": 12230
+    },
+    {
+      "epoch": 2.55,
+      "learning_rate": 7.25e-05,
+      "loss": 0.9901,
+      "step": 12240
+    },
+    {
+      "epoch": 2.55,
+      "learning_rate": 7.239583333333334e-05,
+      "loss": 0.8523,
+      "step": 12250
+    },
+    {
+      "epoch": 2.55,
+      "learning_rate": 7.229166666666667e-05,
+      "loss": 0.7762,
+      "step": 12260
+    },
+    {
+      "epoch": 2.56,
+      "learning_rate": 7.218750000000001e-05,
+      "loss": 0.86,
+      "step": 12270
+    },
+    {
+      "epoch": 2.56,
+      "learning_rate": 7.208333333333334e-05,
+      "loss": 0.7752,
+      "step": 12280
+    },
+    {
+      "epoch": 2.56,
+      "learning_rate": 7.197916666666667e-05,
+      "loss": 0.7141,
+      "step": 12290
+    },
+    {
+      "epoch": 2.56,
+      "learning_rate": 7.1875e-05,
+      "loss": 0.8935,
+      "step": 12300
+    },
+    {
+      "epoch": 2.56,
+      "eval_accuracy": 0.8195,
+      "eval_loss": 0.8550054430961609,
+      "eval_runtime": 60.9247,
+      "eval_samples_per_second": 98.482,
+      "eval_steps_per_second": 12.31,
+      "step": 12300
+    },
+    {
+      "epoch": 2.56,
+      "learning_rate": 7.177083333333333e-05,
+      "loss": 0.6926,
+      "step": 12310
+    },
+    {
+      "epoch": 2.57,
+      "learning_rate": 7.166666666666667e-05,
+      "loss": 0.8016,
+      "step": 12320
+    },
+    {
+      "epoch": 2.57,
+      "learning_rate": 7.15625e-05,
+      "loss": 0.9042,
+      "step": 12330
+    },
+    {
+      "epoch": 2.57,
+      "learning_rate": 7.145833333333334e-05,
+      "loss": 0.9276,
+      "step": 12340
+    },
+    {
+      "epoch": 2.57,
+      "learning_rate": 7.135416666666667e-05,
+      "loss": 0.9454,
+      "step": 12350
+    },
+    {
+      "epoch": 2.58,
+      "learning_rate": 7.125000000000001e-05,
+      "loss": 0.8952,
+      "step": 12360
+    },
+    {
+      "epoch": 2.58,
+      "learning_rate": 7.114583333333334e-05,
+      "loss": 0.8311,
+      "step": 12370
+    },
+    {
+      "epoch": 2.58,
+      "learning_rate": 7.104166666666667e-05,
+      "loss": 0.8437,
+      "step": 12380
+    },
+    {
+      "epoch": 2.58,
+      "learning_rate": 7.09375e-05,
+      "loss": 0.935,
+      "step": 12390
+    },
+    {
+      "epoch": 2.58,
+      "learning_rate": 7.083333333333334e-05,
+      "loss": 0.7991,
+      "step": 12400
+    },
+    {
+      "epoch": 2.58,
+      "eval_accuracy": 0.8191666666666667,
+      "eval_loss": 0.8534790277481079,
+      "eval_runtime": 61.7909,
+      "eval_samples_per_second": 97.102,
+      "eval_steps_per_second": 12.138,
+      "step": 12400
+    },
+    {
+      "epoch": 2.59,
+      "learning_rate": 7.072916666666667e-05,
+      "loss": 0.7695,
+      "step": 12410
+    },
+    {
+      "epoch": 2.59,
+      "learning_rate": 7.062500000000001e-05,
+      "loss": 0.7281,
+      "step": 12420
+    },
+    {
+      "epoch": 2.59,
+      "learning_rate": 7.052083333333334e-05,
+      "loss": 0.8991,
+      "step": 12430
+    },
+    {
+      "epoch": 2.59,
+      "learning_rate": 7.041666666666668e-05,
+      "loss": 0.8079,
+      "step": 12440
+    },
+    {
+      "epoch": 2.59,
+      "learning_rate": 7.031250000000001e-05,
+      "loss": 0.8824,
+      "step": 12450
+    },
+    {
+      "epoch": 2.6,
+      "learning_rate": 7.020833333333334e-05,
+      "loss": 0.8558,
+      "step": 12460
+    },
+    {
+      "epoch": 2.6,
+      "learning_rate": 7.010416666666667e-05,
+      "loss": 0.9436,
+      "step": 12470
+    },
+    {
+      "epoch": 2.6,
+      "learning_rate": 7e-05,
+      "loss": 0.8273,
+      "step": 12480
+    },
+    {
+      "epoch": 2.6,
+      "learning_rate": 6.989583333333334e-05,
+      "loss": 0.7871,
+      "step": 12490
+    },
+    {
+      "epoch": 2.6,
+      "learning_rate": 6.979166666666666e-05,
+      "loss": 0.856,
+      "step": 12500
+    },
+    {
+      "epoch": 2.6,
+      "eval_accuracy": 0.8195,
+      "eval_loss": 0.852008044719696,
+      "eval_runtime": 61.6686,
+      "eval_samples_per_second": 97.294,
+      "eval_steps_per_second": 12.162,
+      "step": 12500
+    },
+    {
+      "epoch": 2.61,
+      "learning_rate": 6.96875e-05,
+      "loss": 0.8275,
+      "step": 12510
+    },
+    {
+      "epoch": 2.61,
+      "learning_rate": 6.958333333333334e-05,
+      "loss": 0.7841,
+      "step": 12520
+    },
+    {
+      "epoch": 2.61,
+      "learning_rate": 6.947916666666668e-05,
+      "loss": 0.7951,
+      "step": 12530
+    },
+    {
+      "epoch": 2.61,
+      "learning_rate": 6.9375e-05,
+      "loss": 0.8173,
+      "step": 12540
+    },
+    {
+      "epoch": 2.61,
+      "learning_rate": 6.927083333333333e-05,
+      "loss": 0.9032,
+      "step": 12550
+    },
+    {
+      "epoch": 2.62,
+      "learning_rate": 6.916666666666666e-05,
+      "loss": 0.8016,
+      "step": 12560
+    },
+    {
+      "epoch": 2.62,
+      "learning_rate": 6.90625e-05,
+      "loss": 0.8069,
+      "step": 12570
+    },
+    {
+      "epoch": 2.62,
+      "learning_rate": 6.895833333333333e-05,
+      "loss": 0.8154,
+      "step": 12580
+    },
+    {
+      "epoch": 2.62,
+      "learning_rate": 6.885416666666668e-05,
+      "loss": 0.8054,
+      "step": 12590
+    },
+    {
+      "epoch": 2.62,
+      "learning_rate": 6.875e-05,
+      "loss": 0.8374,
+      "step": 12600
+    },
+    {
+      "epoch": 2.62,
+      "eval_accuracy": 0.8196666666666667,
+      "eval_loss": 0.850480318069458,
+      "eval_runtime": 61.0905,
+      "eval_samples_per_second": 98.215,
+      "eval_steps_per_second": 12.277,
+      "step": 12600
+    },
+    {
+      "epoch": 2.63,
+      "learning_rate": 6.864583333333333e-05,
+      "loss": 0.943,
+      "step": 12610
+    },
+    {
+      "epoch": 2.63,
+      "learning_rate": 6.854166666666667e-05,
+      "loss": 0.775,
+      "step": 12620
+    },
+    {
+      "epoch": 2.63,
+      "learning_rate": 6.84375e-05,
+      "loss": 0.9101,
+      "step": 12630
+    },
+    {
+      "epoch": 2.63,
+      "learning_rate": 6.833333333333333e-05,
+      "loss": 0.9451,
+      "step": 12640
+    },
+    {
+      "epoch": 2.64,
+      "learning_rate": 6.822916666666666e-05,
+      "loss": 0.8306,
+      "step": 12650
+    },
+    {
+      "epoch": 2.64,
+      "learning_rate": 6.8125e-05,
+      "loss": 0.8224,
+      "step": 12660
+    },
+    {
+      "epoch": 2.64,
+      "learning_rate": 6.802083333333333e-05,
+      "loss": 0.9082,
+      "step": 12670
+    },
+    {
+      "epoch": 2.64,
+      "learning_rate": 6.791666666666667e-05,
+      "loss": 0.9213,
+      "step": 12680
+    },
+    {
+      "epoch": 2.64,
+      "learning_rate": 6.78125e-05,
+      "loss": 0.7583,
+      "step": 12690
+    },
+    {
+      "epoch": 2.65,
+      "learning_rate": 6.770833333333334e-05,
+      "loss": 0.8418,
+      "step": 12700
+    },
+    {
+      "epoch": 2.65,
+      "eval_accuracy": 0.8203333333333334,
+      "eval_loss": 0.8489903807640076,
+      "eval_runtime": 61.0482,
+      "eval_samples_per_second": 98.283,
+      "eval_steps_per_second": 12.285,
+      "step": 12700
+    },
+    {
+      "epoch": 2.65,
+      "learning_rate": 6.760416666666667e-05,
+      "loss": 0.8826,
+      "step": 12710
+    },
+    {
+      "epoch": 2.65,
+      "learning_rate": 6.750000000000001e-05,
+      "loss": 0.9423,
+      "step": 12720
+    },
+    {
+      "epoch": 2.65,
+      "learning_rate": 6.739583333333333e-05,
+      "loss": 0.91,
+      "step": 12730
+    },
+    {
+      "epoch": 2.65,
+      "learning_rate": 6.729166666666667e-05,
+      "loss": 0.7467,
+      "step": 12740
+    },
+    {
+      "epoch": 2.66,
+      "learning_rate": 6.71875e-05,
+      "loss": 0.8387,
+      "step": 12750
+    },
+    {
+      "epoch": 2.66,
+      "learning_rate": 6.708333333333333e-05,
+      "loss": 0.8736,
+      "step": 12760
+    },
+    {
+      "epoch": 2.66,
+      "learning_rate": 6.697916666666667e-05,
+      "loss": 0.8896,
+      "step": 12770
+    },
+    {
+      "epoch": 2.66,
+      "learning_rate": 6.6875e-05,
+      "loss": 0.7543,
+      "step": 12780
+    },
+    {
+      "epoch": 2.66,
+      "learning_rate": 6.677083333333334e-05,
+      "loss": 0.8234,
+      "step": 12790
+    },
+    {
+      "epoch": 2.67,
+      "learning_rate": 6.666666666666667e-05,
+      "loss": 0.9232,
+      "step": 12800
+    },
+    {
+      "epoch": 2.67,
+      "eval_accuracy": 0.8208333333333333,
+      "eval_loss": 0.8475448489189148,
+      "eval_runtime": 61.0966,
+      "eval_samples_per_second": 98.205,
+      "eval_steps_per_second": 12.276,
+      "step": 12800
+    },
+    {
+      "epoch": 2.67,
+      "learning_rate": 6.656250000000001e-05,
+      "loss": 0.8793,
+      "step": 12810
+    },
+    {
+      "epoch": 2.67,
+      "learning_rate": 6.645833333333333e-05,
+      "loss": 0.8887,
+      "step": 12820
+    },
+    {
+      "epoch": 2.67,
+      "learning_rate": 6.635416666666667e-05,
+      "loss": 0.7921,
+      "step": 12830
+    },
+    {
+      "epoch": 2.67,
+      "learning_rate": 6.625e-05,
+      "loss": 0.7992,
+      "step": 12840
+    },
+    {
+      "epoch": 2.68,
+      "learning_rate": 6.614583333333334e-05,
+      "loss": 0.7632,
+      "step": 12850
+    },
+    {
+      "epoch": 2.68,
+      "learning_rate": 6.604166666666667e-05,
+      "loss": 0.8905,
+      "step": 12860
+    },
+    {
+      "epoch": 2.68,
+      "learning_rate": 6.593750000000001e-05,
+      "loss": 0.8154,
+      "step": 12870
+    },
+    {
+      "epoch": 2.68,
+      "learning_rate": 6.583333333333334e-05,
+      "loss": 0.9302,
+      "step": 12880
+    },
+    {
+      "epoch": 2.69,
+      "learning_rate": 6.572916666666668e-05,
+      "loss": 0.8542,
+      "step": 12890
+    },
+    {
+      "epoch": 2.69,
+      "learning_rate": 6.562500000000001e-05,
+      "loss": 0.8335,
+      "step": 12900
+    },
+    {
+      "epoch": 2.69,
+      "eval_accuracy": 0.8206666666666667,
+      "eval_loss": 0.8461668491363525,
+      "eval_runtime": 61.269,
+      "eval_samples_per_second": 97.929,
+      "eval_steps_per_second": 12.241,
+      "step": 12900
+    },
+    {
+      "epoch": 2.69,
+      "learning_rate": 6.552083333333334e-05,
+      "loss": 0.9654,
+      "step": 12910
+    },
+    {
+      "epoch": 2.69,
+      "learning_rate": 6.541666666666667e-05,
+      "loss": 0.9115,
+      "step": 12920
+    },
+    {
+      "epoch": 2.69,
+      "learning_rate": 6.53125e-05,
+      "loss": 0.9599,
+      "step": 12930
+    },
+    {
+      "epoch": 2.7,
+      "learning_rate": 6.520833333333334e-05,
+      "loss": 0.846,
+      "step": 12940
+    },
+    {
+      "epoch": 2.7,
+      "learning_rate": 6.510416666666667e-05,
+      "loss": 0.851,
+      "step": 12950
+    },
+    {
+      "epoch": 2.7,
+      "learning_rate": 6.500000000000001e-05,
+      "loss": 0.8271,
+      "step": 12960
+    },
+    {
+      "epoch": 2.7,
+      "learning_rate": 6.489583333333334e-05,
+      "loss": 0.819,
+      "step": 12970
+    },
+    {
+      "epoch": 2.7,
+      "learning_rate": 6.479166666666668e-05,
+      "loss": 0.934,
+      "step": 12980
+    },
+    {
+      "epoch": 2.71,
+      "learning_rate": 6.468750000000001e-05,
+      "loss": 0.9438,
+      "step": 12990
+    },
+    {
+      "epoch": 2.71,
+      "learning_rate": 6.458333333333334e-05,
+      "loss": 0.8659,
+      "step": 13000
+    },
+    {
+      "epoch": 2.71,
+      "eval_accuracy": 0.8205,
+      "eval_loss": 0.8448504209518433,
+      "eval_runtime": 60.7179,
+      "eval_samples_per_second": 98.818,
+      "eval_steps_per_second": 12.352,
+      "step": 13000
+    },
+    {
+      "epoch": 2.71,
+      "learning_rate": 6.447916666666666e-05,
+      "loss": 0.7991,
+      "step": 13010
+    },
+    {
+      "epoch": 2.71,
+      "learning_rate": 6.4375e-05,
+      "loss": 0.76,
+      "step": 13020
+    },
+    {
+      "epoch": 2.71,
+      "learning_rate": 6.427083333333333e-05,
+      "loss": 0.7993,
+      "step": 13030
+    },
+    {
+      "epoch": 2.72,
+      "learning_rate": 6.416666666666668e-05,
+      "loss": 0.9047,
+      "step": 13040
+    },
+    {
+      "epoch": 2.72,
+      "learning_rate": 6.40625e-05,
+      "loss": 0.8619,
+      "step": 13050
+    },
+    {
+      "epoch": 2.72,
+      "learning_rate": 6.395833333333333e-05,
+      "loss": 0.8026,
+      "step": 13060
+    },
+    {
+      "epoch": 2.72,
+      "learning_rate": 6.385416666666668e-05,
+      "loss": 0.8464,
+      "step": 13070
+    },
+    {
+      "epoch": 2.73,
+      "learning_rate": 6.375e-05,
+      "loss": 0.754,
+      "step": 13080
+    },
+    {
+      "epoch": 2.73,
+      "learning_rate": 6.364583333333333e-05,
+      "loss": 0.7715,
+      "step": 13090
+    },
+    {
+      "epoch": 2.73,
+      "learning_rate": 6.354166666666666e-05,
+      "loss": 0.9798,
+      "step": 13100
+    },
+    {
+      "epoch": 2.73,
+      "eval_accuracy": 0.8205,
+      "eval_loss": 0.8435203433036804,
+      "eval_runtime": 60.4746,
+      "eval_samples_per_second": 99.215,
+      "eval_steps_per_second": 12.402,
+      "step": 13100
+    },
+    {
+      "epoch": 2.73,
+      "learning_rate": 6.34375e-05,
+      "loss": 0.9559,
+      "step": 13110
+    },
+    {
+      "epoch": 2.73,
+      "learning_rate": 6.333333333333333e-05,
+      "loss": 0.8001,
+      "step": 13120
+    },
+    {
+      "epoch": 2.74,
+      "learning_rate": 6.322916666666667e-05,
+      "loss": 0.8173,
+      "step": 13130
+    },
+    {
+      "epoch": 2.74,
+      "learning_rate": 6.3125e-05,
+      "loss": 0.9619,
+      "step": 13140
+    },
+    {
+      "epoch": 2.74,
+      "learning_rate": 6.302083333333335e-05,
+      "loss": 1.0064,
+      "step": 13150
+    },
+    {
+      "epoch": 2.74,
+      "learning_rate": 6.291666666666667e-05,
+      "loss": 0.9892,
+      "step": 13160
+    },
+    {
+      "epoch": 2.74,
+      "learning_rate": 6.28125e-05,
+      "loss": 0.8422,
+      "step": 13170
+    },
+    {
+      "epoch": 2.75,
+      "learning_rate": 6.270833333333333e-05,
+      "loss": 0.7967,
+      "step": 13180
+    },
+    {
+      "epoch": 2.75,
+      "learning_rate": 6.260416666666667e-05,
+      "loss": 0.9294,
+      "step": 13190
+    },
+    {
+      "epoch": 2.75,
+      "learning_rate": 6.25e-05,
+      "loss": 0.7288,
+      "step": 13200
+    },
+    {
+      "epoch": 2.75,
+      "eval_accuracy": 0.8205,
+      "eval_loss": 0.8422872424125671,
+      "eval_runtime": 60.5218,
+      "eval_samples_per_second": 99.138,
+      "eval_steps_per_second": 12.392,
+      "step": 13200
+    },
+    {
+      "epoch": 2.75,
+      "learning_rate": 6.239583333333333e-05,
+      "loss": 0.9479,
+      "step": 13210
+    },
+    {
+      "epoch": 2.75,
+      "learning_rate": 6.229166666666667e-05,
+      "loss": 0.9116,
+      "step": 13220
+    },
+    {
+      "epoch": 2.76,
+      "learning_rate": 6.21875e-05,
+      "loss": 0.942,
+      "step": 13230
+    },
+    {
+      "epoch": 2.76,
+      "learning_rate": 6.208333333333334e-05,
+      "loss": 0.8499,
+      "step": 13240
+    },
+    {
+      "epoch": 2.76,
+      "learning_rate": 6.197916666666667e-05,
+      "loss": 0.9271,
+      "step": 13250
+    },
+    {
+      "epoch": 2.76,
+      "learning_rate": 6.1875e-05,
+      "loss": 0.931,
+      "step": 13260
+    },
+    {
+      "epoch": 2.76,
+      "learning_rate": 6.177083333333333e-05,
+      "loss": 0.9125,
+      "step": 13270
+    },
+    {
+      "epoch": 2.77,
+      "learning_rate": 6.166666666666667e-05,
+      "loss": 0.7709,
+      "step": 13280
+    },
+    {
+      "epoch": 2.77,
+      "learning_rate": 6.15625e-05,
+      "loss": 0.8586,
+      "step": 13290
+    },
+    {
+      "epoch": 2.77,
+      "learning_rate": 6.145833333333334e-05,
+      "loss": 0.9086,
+      "step": 13300
+    },
+    {
+      "epoch": 2.77,
+      "eval_accuracy": 0.821,
+      "eval_loss": 0.8410601615905762,
+      "eval_runtime": 61.0435,
+      "eval_samples_per_second": 98.291,
+      "eval_steps_per_second": 12.286,
+      "step": 13300
+    },
+    {
+      "epoch": 2.77,
+      "learning_rate": 6.135416666666667e-05,
+      "loss": 0.9257,
+      "step": 13310
+    },
+    {
+      "epoch": 2.77,
+      "learning_rate": 6.125000000000001e-05,
+      "loss": 1.0196,
+      "step": 13320
+    },
+    {
+      "epoch": 2.78,
+      "learning_rate": 6.114583333333334e-05,
+      "loss": 0.921,
+      "step": 13330
+    },
+    {
+      "epoch": 2.78,
+      "learning_rate": 6.104166666666667e-05,
+      "loss": 0.879,
+      "step": 13340
+    },
+    {
+      "epoch": 2.78,
+      "learning_rate": 6.0937500000000004e-05,
+      "loss": 0.8696,
+      "step": 13350
+    },
+    {
+      "epoch": 2.78,
+      "learning_rate": 6.083333333333333e-05,
+      "loss": 0.7828,
+      "step": 13360
+    },
+    {
+      "epoch": 2.79,
+      "learning_rate": 6.072916666666667e-05,
+      "loss": 0.8112,
+      "step": 13370
+    },
+    {
+      "epoch": 2.79,
+      "learning_rate": 6.0624999999999996e-05,
+      "loss": 0.8291,
+      "step": 13380
+    },
+    {
+      "epoch": 2.79,
+      "learning_rate": 6.052083333333334e-05,
+      "loss": 0.8757,
+      "step": 13390
+    },
+    {
+      "epoch": 2.79,
+      "learning_rate": 6.041666666666667e-05,
+      "loss": 0.7912,
+      "step": 13400
+    },
+    {
+      "epoch": 2.79,
+      "eval_accuracy": 0.8205,
+      "eval_loss": 0.8398057222366333,
+      "eval_runtime": 60.6934,
+      "eval_samples_per_second": 98.858,
+      "eval_steps_per_second": 12.357,
+      "step": 13400
+    },
+    {
+      "epoch": 2.79,
+      "learning_rate": 6.03125e-05,
+      "loss": 0.9187,
+      "step": 13410
+    },
+    {
+      "epoch": 2.8,
+      "learning_rate": 6.020833333333333e-05,
+      "loss": 0.9385,
+      "step": 13420
+    },
+    {
+      "epoch": 2.8,
+      "learning_rate": 6.010416666666667e-05,
+      "loss": 0.8672,
+      "step": 13430
+    },
+    {
+      "epoch": 2.8,
+      "learning_rate": 6e-05,
+      "loss": 0.894,
+      "step": 13440
+    },
+    {
+      "epoch": 2.8,
+      "learning_rate": 5.989583333333334e-05,
+      "loss": 0.8007,
+      "step": 13450
+    },
+    {
+      "epoch": 2.8,
+      "learning_rate": 5.9791666666666665e-05,
+      "loss": 0.7912,
+      "step": 13460
+    },
+    {
+      "epoch": 2.81,
+      "learning_rate": 5.968750000000001e-05,
+      "loss": 0.8162,
+      "step": 13470
+    },
+    {
+      "epoch": 2.81,
+      "learning_rate": 5.9583333333333336e-05,
+      "loss": 0.8789,
+      "step": 13480
+    },
+    {
+      "epoch": 2.81,
+      "learning_rate": 5.947916666666667e-05,
+      "loss": 0.7821,
+      "step": 13490
+    },
+    {
+      "epoch": 2.81,
+      "learning_rate": 5.9375e-05,
+      "loss": 0.8675,
+      "step": 13500
+    },
+    {
+      "epoch": 2.81,
+      "eval_accuracy": 0.8201666666666667,
+      "eval_loss": 0.8386116623878479,
+      "eval_runtime": 60.3181,
+      "eval_samples_per_second": 99.473,
+      "eval_steps_per_second": 12.434,
+      "step": 13500
+    },
+    {
+      "epoch": 2.81,
+      "learning_rate": 5.927083333333333e-05,
+      "loss": 0.8671,
+      "step": 13510
+    },
+    {
+      "epoch": 2.82,
+      "learning_rate": 5.916666666666667e-05,
+      "loss": 0.8958,
+      "step": 13520
+    },
+    {
+      "epoch": 2.82,
+      "learning_rate": 5.90625e-05,
+      "loss": 0.7163,
+      "step": 13530
+    },
+    {
+      "epoch": 2.82,
+      "learning_rate": 5.8958333333333334e-05,
+      "loss": 0.833,
+      "step": 13540
+    },
+    {
+      "epoch": 2.82,
+      "learning_rate": 5.885416666666666e-05,
+      "loss": 0.9433,
+      "step": 13550
+    },
+    {
+      "epoch": 2.83,
+      "learning_rate": 5.8750000000000005e-05,
+      "loss": 0.8122,
+      "step": 13560
+    },
+    {
+      "epoch": 2.83,
+      "learning_rate": 5.8645833333333334e-05,
+      "loss": 0.8385,
+      "step": 13570
+    },
+    {
+      "epoch": 2.83,
+      "learning_rate": 5.8541666666666676e-05,
+      "loss": 0.8386,
+      "step": 13580
+    },
+    {
+      "epoch": 2.83,
+      "learning_rate": 5.84375e-05,
+      "loss": 0.8443,
+      "step": 13590
+    },
+    {
+      "epoch": 2.83,
+      "learning_rate": 5.833333333333334e-05,
+      "loss": 0.8045,
+      "step": 13600
+    },
+    {
+      "epoch": 2.83,
+      "eval_accuracy": 0.8198333333333333,
+      "eval_loss": 0.837420642375946,
+      "eval_runtime": 60.5594,
+      "eval_samples_per_second": 99.076,
+      "eval_steps_per_second": 12.385,
+      "step": 13600
+    },
+    {
+      "epoch": 2.84,
+      "learning_rate": 5.822916666666667e-05,
+      "loss": 0.8022,
+      "step": 13610
+    },
+    {
+      "epoch": 2.84,
+      "learning_rate": 5.812500000000001e-05,
+      "loss": 0.9185,
+      "step": 13620
+    },
+    {
+      "epoch": 2.84,
+      "learning_rate": 5.802083333333334e-05,
+      "loss": 0.7499,
+      "step": 13630
+    },
+    {
+      "epoch": 2.84,
+      "learning_rate": 5.7916666666666674e-05,
+      "loss": 0.8283,
+      "step": 13640
+    },
+    {
+      "epoch": 2.84,
+      "learning_rate": 5.78125e-05,
+      "loss": 0.8382,
+      "step": 13650
+    },
+    {
+      "epoch": 2.85,
+      "learning_rate": 5.770833333333333e-05,
+      "loss": 0.776,
+      "step": 13660
+    },
+    {
+      "epoch": 2.85,
+      "learning_rate": 5.760416666666667e-05,
+      "loss": 0.912,
+      "step": 13670
+    },
+    {
+      "epoch": 2.85,
+      "learning_rate": 5.7499999999999995e-05,
+      "loss": 0.8961,
+      "step": 13680
+    },
+    {
+      "epoch": 2.85,
+      "learning_rate": 5.739583333333334e-05,
+      "loss": 0.8808,
+      "step": 13690
+    },
+    {
+      "epoch": 2.85,
+      "learning_rate": 5.7291666666666666e-05,
+      "loss": 0.8421,
+      "step": 13700
+    },
+    {
+      "epoch": 2.85,
+      "eval_accuracy": 0.8201666666666667,
+      "eval_loss": 0.8361889719963074,
+      "eval_runtime": 60.7653,
+      "eval_samples_per_second": 98.741,
+      "eval_steps_per_second": 12.343,
+      "step": 13700
+    },
+    {
+      "epoch": 2.86,
+      "learning_rate": 5.718750000000001e-05,
+      "loss": 0.8416,
+      "step": 13710
+    },
+    {
+      "epoch": 2.86,
+      "learning_rate": 5.7083333333333336e-05,
+      "loss": 0.8587,
+      "step": 13720
+    },
+    {
+      "epoch": 2.86,
+      "learning_rate": 5.697916666666667e-05,
+      "loss": 0.8995,
+      "step": 13730
+    },
+    {
+      "epoch": 2.86,
+      "learning_rate": 5.6875e-05,
+      "loss": 0.8408,
+      "step": 13740
+    },
+    {
+      "epoch": 2.86,
+      "learning_rate": 5.677083333333334e-05,
+      "loss": 0.7675,
+      "step": 13750
+    },
+    {
+      "epoch": 2.87,
+      "learning_rate": 5.666666666666667e-05,
+      "loss": 0.92,
+      "step": 13760
+    },
+    {
+      "epoch": 2.87,
+      "learning_rate": 5.6562500000000006e-05,
+      "loss": 0.7741,
+      "step": 13770
+    },
+    {
+      "epoch": 2.87,
+      "learning_rate": 5.6458333333333335e-05,
+      "loss": 0.8593,
+      "step": 13780
+    },
+    {
+      "epoch": 2.87,
+      "learning_rate": 5.635416666666668e-05,
+      "loss": 0.8111,
+      "step": 13790
+    },
+    {
+      "epoch": 2.88,
+      "learning_rate": 5.6250000000000005e-05,
+      "loss": 0.7453,
+      "step": 13800
+    },
+    {
+      "epoch": 2.88,
+      "eval_accuracy": 0.8201666666666667,
+      "eval_loss": 0.8350421786308289,
+      "eval_runtime": 61.0378,
+      "eval_samples_per_second": 98.3,
+      "eval_steps_per_second": 12.287,
+      "step": 13800
+    },
+    {
+      "epoch": 2.88,
+      "learning_rate": 5.6145833333333334e-05,
+      "loss": 0.8311,
+      "step": 13810
+    },
+    {
+      "epoch": 2.88,
+      "learning_rate": 5.604166666666667e-05,
+      "loss": 0.9279,
+      "step": 13820
+    },
+    {
+      "epoch": 2.88,
+      "learning_rate": 5.59375e-05,
+      "loss": 0.8462,
+      "step": 13830
+    },
+    {
+      "epoch": 2.88,
+      "learning_rate": 5.583333333333334e-05,
+      "loss": 0.8275,
+      "step": 13840
+    },
+    {
+      "epoch": 2.89,
+      "learning_rate": 5.572916666666667e-05,
+      "loss": 0.8998,
+      "step": 13850
+    },
+    {
+      "epoch": 2.89,
+      "learning_rate": 5.5625000000000004e-05,
+      "loss": 0.8697,
+      "step": 13860
+    },
+    {
+      "epoch": 2.89,
+      "learning_rate": 5.552083333333333e-05,
+      "loss": 0.8364,
+      "step": 13870
+    },
+    {
+      "epoch": 2.89,
+      "learning_rate": 5.5416666666666674e-05,
+      "loss": 0.8939,
+      "step": 13880
+    },
+    {
+      "epoch": 2.89,
+      "learning_rate": 5.53125e-05,
+      "loss": 0.7989,
+      "step": 13890
+    },
+    {
+      "epoch": 2.9,
+      "learning_rate": 5.520833333333334e-05,
+      "loss": 0.7348,
+      "step": 13900
+    },
+    {
+      "epoch": 2.9,
+      "eval_accuracy": 0.8203333333333334,
+      "eval_loss": 0.8339308500289917,
+      "eval_runtime": 60.4543,
+      "eval_samples_per_second": 99.249,
+      "eval_steps_per_second": 12.406,
+      "step": 13900
+    },
+    {
+      "epoch": 2.9,
+      "learning_rate": 5.510416666666667e-05,
+      "loss": 0.8432,
+      "step": 13910
+    },
+    {
+      "epoch": 2.9,
+      "learning_rate": 5.500000000000001e-05,
+      "loss": 0.9017,
+      "step": 13920
+    },
+    {
+      "epoch": 2.9,
+      "learning_rate": 5.489583333333334e-05,
+      "loss": 0.9451,
+      "step": 13930
+    },
+    {
+      "epoch": 2.9,
+      "learning_rate": 5.479166666666667e-05,
+      "loss": 0.9087,
+      "step": 13940
+    },
+    {
+      "epoch": 2.91,
+      "learning_rate": 5.46875e-05,
+      "loss": 1.0241,
+      "step": 13950
+    },
+    {
+      "epoch": 2.91,
+      "learning_rate": 5.458333333333333e-05,
+      "loss": 0.7801,
+      "step": 13960
+    },
+    {
+      "epoch": 2.91,
+      "learning_rate": 5.447916666666667e-05,
+      "loss": 0.919,
+      "step": 13970
+    },
+    {
+      "epoch": 2.91,
+      "learning_rate": 5.4375e-05,
+      "loss": 0.8727,
+      "step": 13980
+    },
+    {
+      "epoch": 2.91,
+      "learning_rate": 5.4270833333333336e-05,
+      "loss": 0.8151,
+      "step": 13990
+    },
+    {
+      "epoch": 2.92,
+      "learning_rate": 5.4166666666666664e-05,
+      "loss": 0.8977,
+      "step": 14000
+    },
+    {
+      "epoch": 2.92,
+      "eval_accuracy": 0.8205,
+      "eval_loss": 0.8328187465667725,
+      "eval_runtime": 60.5952,
+      "eval_samples_per_second": 99.018,
+      "eval_steps_per_second": 12.377,
+      "step": 14000
+    },
+    {
+      "epoch": 2.92,
+      "learning_rate": 5.4062500000000006e-05,
+      "loss": 0.9011,
+      "step": 14010
+    },
+    {
+      "epoch": 2.92,
+      "learning_rate": 5.3958333333333335e-05,
+      "loss": 0.9001,
+      "step": 14020
+    },
+    {
+      "epoch": 2.92,
+      "learning_rate": 5.385416666666667e-05,
+      "loss": 0.8429,
+      "step": 14030
+    },
+    {
+      "epoch": 2.92,
+      "learning_rate": 5.375e-05,
+      "loss": 0.8214,
+      "step": 14040
+    },
+    {
+      "epoch": 2.93,
+      "learning_rate": 5.364583333333334e-05,
+      "loss": 0.9626,
+      "step": 14050
+    },
+    {
+      "epoch": 2.93,
+      "learning_rate": 5.354166666666667e-05,
+      "loss": 0.9156,
+      "step": 14060
+    },
+    {
+      "epoch": 2.93,
+      "learning_rate": 5.3437500000000005e-05,
+      "loss": 0.9298,
+      "step": 14070
+    },
+    {
+      "epoch": 2.93,
+      "learning_rate": 5.333333333333333e-05,
+      "loss": 0.9029,
+      "step": 14080
+    },
+    {
+      "epoch": 2.94,
+      "learning_rate": 5.3229166666666675e-05,
+      "loss": 0.9126,
+      "step": 14090
+    },
+    {
+      "epoch": 2.94,
+      "learning_rate": 5.3125000000000004e-05,
+      "loss": 0.859,
+      "step": 14100
+    },
+    {
+      "epoch": 2.94,
+      "eval_accuracy": 0.821,
+      "eval_loss": 0.8318198323249817,
+      "eval_runtime": 60.1123,
+      "eval_samples_per_second": 99.813,
+      "eval_steps_per_second": 12.477,
+      "step": 14100
+    },
+    {
+      "epoch": 2.94,
+      "learning_rate": 5.302083333333333e-05,
+      "loss": 0.6739,
+      "step": 14110
+    },
+    {
+      "epoch": 2.94,
+      "learning_rate": 5.291666666666667e-05,
+      "loss": 0.8718,
+      "step": 14120
+    },
+    {
+      "epoch": 2.94,
+      "learning_rate": 5.2812499999999996e-05,
+      "loss": 0.8609,
+      "step": 14130
+    },
+    {
+      "epoch": 2.95,
+      "learning_rate": 5.270833333333334e-05,
+      "loss": 0.864,
+      "step": 14140
+    },
+    {
+      "epoch": 2.95,
+      "learning_rate": 5.260416666666667e-05,
+      "loss": 0.8994,
+      "step": 14150
+    },
+    {
+      "epoch": 2.95,
+      "learning_rate": 5.25e-05,
+      "loss": 0.89,
+      "step": 14160
+    },
+    {
+      "epoch": 2.95,
+      "learning_rate": 5.239583333333333e-05,
+      "loss": 0.7512,
+      "step": 14170
+    },
+    {
+      "epoch": 2.95,
+      "learning_rate": 5.229166666666667e-05,
+      "loss": 0.745,
+      "step": 14180
+    },
+    {
+      "epoch": 2.96,
+      "learning_rate": 5.21875e-05,
+      "loss": 0.885,
+      "step": 14190
+    },
+    {
+      "epoch": 2.96,
+      "learning_rate": 5.208333333333334e-05,
+      "loss": 0.8571,
+      "step": 14200
+    },
+    {
+      "epoch": 2.96,
+      "eval_accuracy": 0.8211666666666667,
+      "eval_loss": 0.830737292766571,
+      "eval_runtime": 59.3713,
+      "eval_samples_per_second": 101.059,
+      "eval_steps_per_second": 12.632,
+      "step": 14200
+    },
+    {
+      "epoch": 2.96,
+      "learning_rate": 5.1979166666666665e-05,
+      "loss": 0.752,
+      "step": 14210
+    },
+    {
+      "epoch": 2.96,
+      "learning_rate": 5.187500000000001e-05,
+      "loss": 0.7798,
+      "step": 14220
+    },
+    {
+      "epoch": 2.96,
+      "learning_rate": 5.1770833333333336e-05,
+      "loss": 0.8248,
+      "step": 14230
+    },
+    {
+      "epoch": 2.97,
+      "learning_rate": 5.166666666666667e-05,
+      "loss": 0.7945,
+      "step": 14240
+    },
+    {
+      "epoch": 2.97,
+      "learning_rate": 5.15625e-05,
+      "loss": 0.929,
+      "step": 14250
+    },
+    {
+      "epoch": 2.97,
+      "learning_rate": 5.145833333333333e-05,
+      "loss": 0.8347,
+      "step": 14260
+    },
+    {
+      "epoch": 2.97,
+      "learning_rate": 5.135416666666667e-05,
+      "loss": 0.8011,
+      "step": 14270
+    },
+    {
+      "epoch": 2.98,
+      "learning_rate": 5.125e-05,
+      "loss": 0.8441,
+      "step": 14280
+    },
+    {
+      "epoch": 2.98,
+      "learning_rate": 5.1145833333333334e-05,
+      "loss": 0.7134,
+      "step": 14290
+    },
+    {
+      "epoch": 2.98,
+      "learning_rate": 5.104166666666666e-05,
+      "loss": 0.8158,
+      "step": 14300
+    },
+    {
+      "epoch": 2.98,
+      "eval_accuracy": 0.8215,
+      "eval_loss": 0.8297010660171509,
+      "eval_runtime": 60.2479,
+      "eval_samples_per_second": 99.589,
+      "eval_steps_per_second": 12.449,
+      "step": 14300
+    },
+    {
+      "epoch": 2.98,
+      "learning_rate": 5.0937500000000005e-05,
+      "loss": 0.7375,
+      "step": 14310
+    },
+    {
+      "epoch": 2.98,
+      "learning_rate": 5.0833333333333333e-05,
+      "loss": 0.8676,
+      "step": 14320
+    },
+    {
+      "epoch": 2.99,
+      "learning_rate": 5.072916666666667e-05,
+      "loss": 0.8066,
+      "step": 14330
+    },
+    {
+      "epoch": 2.99,
+      "learning_rate": 5.0625e-05,
+      "loss": 0.8839,
+      "step": 14340
+    },
+    {
+      "epoch": 2.99,
+      "learning_rate": 5.052083333333334e-05,
+      "loss": 0.9262,
+      "step": 14350
+    },
+    {
+      "epoch": 2.99,
+      "learning_rate": 5.041666666666667e-05,
+      "loss": 0.8416,
+      "step": 14360
+    },
+    {
+      "epoch": 2.99,
+      "learning_rate": 5.031250000000001e-05,
+      "loss": 0.8169,
+      "step": 14370
+    },
+    {
+      "epoch": 3.0,
+      "learning_rate": 5.020833333333333e-05,
+      "loss": 0.8065,
+      "step": 14380
+    },
+    {
+      "epoch": 3.0,
+      "learning_rate": 5.0104166666666674e-05,
+      "loss": 0.8215,
+      "step": 14390
+    },
+    {
+      "epoch": 3.0,
+      "learning_rate": 5e-05,
+      "loss": 0.8635,
+      "step": 14400
+    },
+    {
+      "epoch": 3.0,
+      "eval_accuracy": 0.8215,
+      "eval_loss": 0.8286809921264648,
+      "eval_runtime": 60.4638,
+      "eval_samples_per_second": 99.233,
+      "eval_steps_per_second": 12.404,
+      "step": 14400
+    },
+    {
+      "epoch": 3.0,
+      "learning_rate": 4.989583333333334e-05,
+      "loss": 0.7426,
+      "step": 14410
+    },
+    {
+      "epoch": 3.0,
+      "learning_rate": 4.979166666666667e-05,
+      "loss": 0.9677,
+      "step": 14420
+    },
+    {
+      "epoch": 3.01,
+      "learning_rate": 4.96875e-05,
+      "loss": 0.9635,
+      "step": 14430
+    },
+    {
+      "epoch": 3.01,
+      "learning_rate": 4.958333333333334e-05,
+      "loss": 0.7461,
+      "step": 14440
+    },
+    {
+      "epoch": 3.01,
+      "learning_rate": 4.947916666666667e-05,
+      "loss": 0.9155,
+      "step": 14450
+    },
+    {
+      "epoch": 3.01,
+      "learning_rate": 4.937500000000001e-05,
+      "loss": 0.7194,
+      "step": 14460
+    },
+    {
+      "epoch": 3.01,
+      "learning_rate": 4.9270833333333336e-05,
+      "loss": 0.8671,
+      "step": 14470
+    },
+    {
+      "epoch": 3.02,
+      "learning_rate": 4.9166666666666665e-05,
+      "loss": 0.8405,
+      "step": 14480
+    },
+    {
+      "epoch": 3.02,
+      "learning_rate": 4.90625e-05,
+      "loss": 0.7855,
+      "step": 14490
+    },
+    {
+      "epoch": 3.02,
+      "learning_rate": 4.8958333333333335e-05,
+      "loss": 0.9095,
+      "step": 14500
+    },
+    {
+      "epoch": 3.02,
+      "eval_accuracy": 0.8215,
+      "eval_loss": 0.8277285099029541,
+      "eval_runtime": 59.7692,
+      "eval_samples_per_second": 100.386,
+      "eval_steps_per_second": 12.548,
+      "step": 14500
+    },
+    {
+      "epoch": 3.02,
+      "learning_rate": 4.885416666666667e-05,
+      "loss": 0.8657,
+      "step": 14510
+    },
+    {
+      "epoch": 3.02,
+      "learning_rate": 4.875e-05,
+      "loss": 0.7522,
+      "step": 14520
+    },
+    {
+      "epoch": 3.03,
+      "learning_rate": 4.8645833333333334e-05,
+      "loss": 0.7855,
+      "step": 14530
+    },
+    {
+      "epoch": 3.03,
+      "learning_rate": 4.854166666666667e-05,
+      "loss": 0.8542,
+      "step": 14540
+    },
+    {
+      "epoch": 3.03,
+      "learning_rate": 4.8437500000000005e-05,
+      "loss": 0.8989,
+      "step": 14550
+    },
+    {
+      "epoch": 3.03,
+      "learning_rate": 4.8333333333333334e-05,
+      "loss": 0.8292,
+      "step": 14560
+    },
+    {
+      "epoch": 3.04,
+      "learning_rate": 4.822916666666667e-05,
+      "loss": 0.8904,
+      "step": 14570
+    },
+    {
+      "epoch": 3.04,
+      "learning_rate": 4.8125000000000004e-05,
+      "loss": 0.7875,
+      "step": 14580
+    },
+    {
+      "epoch": 3.04,
+      "learning_rate": 4.802083333333334e-05,
+      "loss": 0.8307,
+      "step": 14590
+    },
+    {
+      "epoch": 3.04,
+      "learning_rate": 4.791666666666667e-05,
+      "loss": 0.8491,
+      "step": 14600
+    },
+    {
+      "epoch": 3.04,
+      "eval_accuracy": 0.8216666666666667,
+      "eval_loss": 0.8268113732337952,
+      "eval_runtime": 59.8668,
+      "eval_samples_per_second": 100.222,
+      "eval_steps_per_second": 12.528,
+      "step": 14600
+    },
+    {
+      "epoch": 3.04,
+      "learning_rate": 4.7812500000000003e-05,
+      "loss": 0.8636,
+      "step": 14610
+    },
+    {
+      "epoch": 3.05,
+      "learning_rate": 4.770833333333334e-05,
+      "loss": 0.8123,
+      "step": 14620
+    },
+    {
+      "epoch": 3.05,
+      "learning_rate": 4.760416666666667e-05,
+      "loss": 0.7534,
+      "step": 14630
+    },
+    {
+      "epoch": 3.05,
+      "learning_rate": 4.75e-05,
+      "loss": 0.723,
+      "step": 14640
+    },
+    {
+      "epoch": 3.05,
+      "learning_rate": 4.739583333333333e-05,
+      "loss": 0.7155,
+      "step": 14650
+    },
+    {
+      "epoch": 3.05,
+      "learning_rate": 4.7291666666666666e-05,
+      "loss": 0.8156,
+      "step": 14660
+    },
+    {
+      "epoch": 3.06,
+      "learning_rate": 4.71875e-05,
+      "loss": 0.6838,
+      "step": 14670
+    },
+    {
+      "epoch": 3.06,
+      "learning_rate": 4.708333333333334e-05,
+      "loss": 0.8484,
+      "step": 14680
+    },
+    {
+      "epoch": 3.06,
+      "learning_rate": 4.6979166666666666e-05,
+      "loss": 0.8796,
+      "step": 14690
+    },
+    {
+      "epoch": 3.06,
+      "learning_rate": 4.6875e-05,
+      "loss": 0.9136,
+      "step": 14700
+    },
+    {
+      "epoch": 3.06,
+      "eval_accuracy": 0.8223333333333334,
+      "eval_loss": 0.825864315032959,
+      "eval_runtime": 60.2693,
+      "eval_samples_per_second": 99.553,
+      "eval_steps_per_second": 12.444,
+      "step": 14700
+    },
+    {
+      "epoch": 3.06,
+      "learning_rate": 4.6770833333333336e-05,
+      "loss": 0.8411,
+      "step": 14710
+    },
+    {
+      "epoch": 3.07,
+      "learning_rate": 4.666666666666667e-05,
+      "loss": 0.7749,
+      "step": 14720
+    },
+    {
+      "epoch": 3.07,
+      "learning_rate": 4.65625e-05,
+      "loss": 0.7895,
+      "step": 14730
+    },
+    {
+      "epoch": 3.07,
+      "learning_rate": 4.6458333333333335e-05,
+      "loss": 0.8327,
+      "step": 14740
+    },
+    {
+      "epoch": 3.07,
+      "learning_rate": 4.635416666666667e-05,
+      "loss": 0.8346,
+      "step": 14750
+    },
+    {
+      "epoch": 3.08,
+      "learning_rate": 4.6250000000000006e-05,
+      "loss": 0.9015,
+      "step": 14760
+    },
+    {
+      "epoch": 3.08,
+      "learning_rate": 4.614583333333334e-05,
+      "loss": 0.7459,
+      "step": 14770
+    },
+    {
+      "epoch": 3.08,
+      "learning_rate": 4.604166666666666e-05,
+      "loss": 0.8458,
+      "step": 14780
+    },
+    {
+      "epoch": 3.08,
+      "learning_rate": 4.59375e-05,
+      "loss": 0.9445,
+      "step": 14790
+    },
+    {
+      "epoch": 3.08,
+      "learning_rate": 4.5833333333333334e-05,
+      "loss": 0.8652,
+      "step": 14800
+    },
+    {
+      "epoch": 3.08,
+      "eval_accuracy": 0.8218333333333333,
+      "eval_loss": 0.8250030875205994,
+      "eval_runtime": 58.896,
+      "eval_samples_per_second": 101.875,
+      "eval_steps_per_second": 12.734,
+      "step": 14800
+    },
+    {
+      "epoch": 3.09,
+      "learning_rate": 4.572916666666667e-05,
+      "loss": 0.8189,
+      "step": 14810
+    },
+    {
+      "epoch": 3.09,
+      "learning_rate": 4.5625e-05,
+      "loss": 0.9924,
+      "step": 14820
+    },
+    {
+      "epoch": 3.09,
+      "learning_rate": 4.552083333333333e-05,
+      "loss": 0.8688,
+      "step": 14830
+    },
+    {
+      "epoch": 3.09,
+      "learning_rate": 4.541666666666667e-05,
+      "loss": 0.8036,
+      "step": 14840
+    },
+    {
+      "epoch": 3.09,
+      "learning_rate": 4.5312500000000004e-05,
+      "loss": 0.9169,
+      "step": 14850
+    },
+    {
+      "epoch": 3.1,
+      "learning_rate": 4.520833333333334e-05,
+      "loss": 0.8695,
+      "step": 14860
+    },
+    {
+      "epoch": 3.1,
+      "learning_rate": 4.510416666666667e-05,
+      "loss": 0.899,
+      "step": 14870
+    },
+    {
+      "epoch": 3.1,
+      "learning_rate": 4.5e-05,
+      "loss": 0.6839,
+      "step": 14880
+    },
+    {
+      "epoch": 3.1,
+      "learning_rate": 4.489583333333334e-05,
+      "loss": 0.8397,
+      "step": 14890
+    },
+    {
+      "epoch": 3.1,
+      "learning_rate": 4.4791666666666673e-05,
+      "loss": 0.9299,
+      "step": 14900
+    },
+    {
+      "epoch": 3.1,
+      "eval_accuracy": 0.8215,
+      "eval_loss": 0.8241713643074036,
+      "eval_runtime": 59.812,
+      "eval_samples_per_second": 100.314,
+      "eval_steps_per_second": 12.539,
+      "step": 14900
+    },
+    {
+      "epoch": 3.11,
+      "learning_rate": 4.46875e-05,
+      "loss": 0.822,
+      "step": 14910
+    },
+    {
+      "epoch": 3.11,
+      "learning_rate": 4.458333333333334e-05,
+      "loss": 0.8561,
+      "step": 14920
+    },
+    {
+      "epoch": 3.11,
+      "learning_rate": 4.4479166666666666e-05,
+      "loss": 0.7726,
+      "step": 14930
+    },
+    {
+      "epoch": 3.11,
+      "learning_rate": 4.4375e-05,
+      "loss": 0.8381,
+      "step": 14940
+    },
+    {
+      "epoch": 3.11,
+      "learning_rate": 4.4270833333333337e-05,
+      "loss": 0.7793,
+      "step": 14950
+    },
+    {
+      "epoch": 3.12,
+      "learning_rate": 4.4166666666666665e-05,
+      "loss": 0.8728,
+      "step": 14960
+    },
+    {
+      "epoch": 3.12,
+      "learning_rate": 4.40625e-05,
+      "loss": 0.8357,
+      "step": 14970
+    },
+    {
+      "epoch": 3.12,
+      "learning_rate": 4.3958333333333336e-05,
+      "loss": 0.888,
+      "step": 14980
+    },
+    {
+      "epoch": 3.12,
+      "learning_rate": 4.385416666666667e-05,
+      "loss": 0.8429,
+      "step": 14990
+    },
+    {
+      "epoch": 3.12,
+      "learning_rate": 4.375e-05,
+      "loss": 0.8259,
+      "step": 15000
+    },
+    {
+      "epoch": 3.12,
+      "eval_accuracy": 0.8215,
+      "eval_loss": 0.8233299255371094,
+      "eval_runtime": 60.4227,
+      "eval_samples_per_second": 99.3,
+      "eval_steps_per_second": 12.413,
+      "step": 15000
+    },
+    {
+      "epoch": 3.13,
+      "learning_rate": 4.3645833333333335e-05,
+      "loss": 0.8382,
+      "step": 15010
+    },
+    {
+      "epoch": 3.13,
+      "learning_rate": 4.354166666666667e-05,
+      "loss": 0.9017,
+      "step": 15020
+    },
+    {
+      "epoch": 3.13,
+      "learning_rate": 4.3437500000000006e-05,
+      "loss": 0.8136,
+      "step": 15030
+    },
+    {
+      "epoch": 3.13,
+      "learning_rate": 4.3333333333333334e-05,
+      "loss": 0.8862,
+      "step": 15040
+    },
+    {
+      "epoch": 3.14,
+      "learning_rate": 4.322916666666667e-05,
+      "loss": 0.848,
+      "step": 15050
+    },
+    {
+      "epoch": 3.14,
+      "learning_rate": 4.3125000000000005e-05,
+      "loss": 0.8867,
+      "step": 15060
+    },
+    {
+      "epoch": 3.14,
+      "learning_rate": 4.302083333333334e-05,
+      "loss": 0.781,
+      "step": 15070
+    },
+    {
+      "epoch": 3.14,
+      "learning_rate": 4.291666666666667e-05,
+      "loss": 0.7428,
+      "step": 15080
+    },
+    {
+      "epoch": 3.14,
+      "learning_rate": 4.28125e-05,
+      "loss": 0.7926,
+      "step": 15090
+    },
+    {
+      "epoch": 3.15,
+      "learning_rate": 4.270833333333333e-05,
+      "loss": 0.775,
+      "step": 15100
+    },
+    {
+      "epoch": 3.15,
+      "eval_accuracy": 0.8221666666666667,
+      "eval_loss": 0.822507381439209,
+      "eval_runtime": 60.4153,
+      "eval_samples_per_second": 99.313,
+      "eval_steps_per_second": 12.414,
+      "step": 15100
+    },
+    {
+      "epoch": 3.15,
+      "learning_rate": 4.260416666666667e-05,
+      "loss": 0.8412,
+      "step": 15110
+    },
+    {
+      "epoch": 3.15,
+      "learning_rate": 4.25e-05,
+      "loss": 0.8501,
+      "step": 15120
+    },
+    {
+      "epoch": 3.15,
+      "learning_rate": 4.239583333333333e-05,
+      "loss": 0.9718,
+      "step": 15130
+    },
+    {
+      "epoch": 3.15,
+      "learning_rate": 4.229166666666667e-05,
+      "loss": 0.7616,
+      "step": 15140
+    },
+    {
+      "epoch": 3.16,
+      "learning_rate": 4.21875e-05,
+      "loss": 0.73,
+      "step": 15150
+    },
+    {
+      "epoch": 3.16,
+      "learning_rate": 4.208333333333334e-05,
+      "loss": 0.884,
+      "step": 15160
+    },
+    {
+      "epoch": 3.16,
+      "learning_rate": 4.1979166666666666e-05,
+      "loss": 0.8743,
+      "step": 15170
+    },
+    {
+      "epoch": 3.16,
+      "learning_rate": 4.1875e-05,
+      "loss": 1.012,
+      "step": 15180
+    },
+    {
+      "epoch": 3.16,
+      "learning_rate": 4.177083333333334e-05,
+      "loss": 0.7694,
+      "step": 15190
+    },
+    {
+      "epoch": 3.17,
+      "learning_rate": 4.166666666666667e-05,
+      "loss": 0.801,
+      "step": 15200
+    },
+    {
+      "epoch": 3.17,
+      "eval_accuracy": 0.8216666666666667,
+      "eval_loss": 0.8217005133628845,
+      "eval_runtime": 59.7045,
+      "eval_samples_per_second": 100.495,
+      "eval_steps_per_second": 12.562,
+      "step": 15200
+    },
+    {
+      "epoch": 3.17,
+      "learning_rate": 4.156250000000001e-05,
+      "loss": 0.9325,
+      "step": 15210
+    },
+    {
+      "epoch": 3.17,
+      "learning_rate": 4.1458333333333336e-05,
+      "loss": 0.9169,
+      "step": 15220
+    },
+    {
+      "epoch": 3.17,
+      "learning_rate": 4.1354166666666664e-05,
+      "loss": 0.8569,
+      "step": 15230
+    },
+    {
+      "epoch": 3.17,
+      "learning_rate": 4.125e-05,
+      "loss": 0.8071,
+      "step": 15240
+    },
+    {
+      "epoch": 3.18,
+      "learning_rate": 4.1145833333333335e-05,
+      "loss": 0.8648,
+      "step": 15250
+    },
+    {
+      "epoch": 3.18,
+      "learning_rate": 4.104166666666667e-05,
+      "loss": 0.9592,
+      "step": 15260
+    },
+    {
+      "epoch": 3.18,
+      "learning_rate": 4.09375e-05,
+      "loss": 0.8476,
+      "step": 15270
+    },
+    {
+      "epoch": 3.18,
+      "learning_rate": 4.0833333333333334e-05,
+      "loss": 0.8816,
+      "step": 15280
+    },
+    {
+      "epoch": 3.19,
+      "learning_rate": 4.072916666666667e-05,
+      "loss": 0.8578,
+      "step": 15290
+    },
+    {
+      "epoch": 3.19,
+      "learning_rate": 4.0625000000000005e-05,
+      "loss": 0.8535,
+      "step": 15300
+    },
+    {
+      "epoch": 3.19,
+      "eval_accuracy": 0.8215,
+      "eval_loss": 0.8209204077720642,
+      "eval_runtime": 59.5914,
+      "eval_samples_per_second": 100.686,
+      "eval_steps_per_second": 12.586,
+      "step": 15300
+    },
+    {
+      "epoch": 3.19,
+      "learning_rate": 4.0520833333333333e-05,
+      "loss": 0.9478,
+      "step": 15310
+    },
+    {
+      "epoch": 3.19,
+      "learning_rate": 4.041666666666667e-05,
+      "loss": 0.7708,
+      "step": 15320
+    },
+    {
+      "epoch": 3.19,
+      "learning_rate": 4.0312500000000004e-05,
+      "loss": 0.7576,
+      "step": 15330
+    },
+    {
+      "epoch": 3.2,
+      "learning_rate": 4.020833333333334e-05,
+      "loss": 0.8541,
+      "step": 15340
+    },
+    {
+      "epoch": 3.2,
+      "learning_rate": 4.010416666666667e-05,
+      "loss": 0.9173,
+      "step": 15350
+    },
+    {
+      "epoch": 3.2,
+      "learning_rate": 4e-05,
+      "loss": 0.7979,
+      "step": 15360
+    },
+    {
+      "epoch": 3.2,
+      "learning_rate": 3.989583333333334e-05,
+      "loss": 0.8256,
+      "step": 15370
+    },
+    {
+      "epoch": 3.2,
+      "learning_rate": 3.979166666666667e-05,
+      "loss": 0.8224,
+      "step": 15380
+    },
+    {
+      "epoch": 3.21,
+      "learning_rate": 3.96875e-05,
+      "loss": 0.7518,
+      "step": 15390
+    },
+    {
+      "epoch": 3.21,
+      "learning_rate": 3.958333333333333e-05,
+      "loss": 0.7973,
+      "step": 15400
+    },
+    {
+      "epoch": 3.21,
+      "eval_accuracy": 0.8216666666666667,
+      "eval_loss": 0.8201759457588196,
+      "eval_runtime": 59.3057,
+      "eval_samples_per_second": 101.171,
+      "eval_steps_per_second": 12.646,
+      "step": 15400
+    },
+    {
+      "epoch": 3.21,
+      "learning_rate": 3.9479166666666666e-05,
+      "loss": 0.971,
+      "step": 15410
+    },
+    {
+      "epoch": 3.21,
+      "learning_rate": 3.9375e-05,
+      "loss": 0.7981,
+      "step": 15420
+    },
+    {
+      "epoch": 3.21,
+      "learning_rate": 3.927083333333334e-05,
+      "loss": 0.7946,
+      "step": 15430
+    },
+    {
+      "epoch": 3.22,
+      "learning_rate": 3.9166666666666665e-05,
+      "loss": 0.8467,
+      "step": 15440
+    },
+    {
+      "epoch": 3.22,
+      "learning_rate": 3.90625e-05,
+      "loss": 0.7529,
+      "step": 15450
+    },
+    {
+      "epoch": 3.22,
+      "learning_rate": 3.8958333333333336e-05,
+      "loss": 1.0008,
+      "step": 15460
+    },
+    {
+      "epoch": 3.22,
+      "learning_rate": 3.885416666666667e-05,
+      "loss": 0.878,
+      "step": 15470
+    },
+    {
+      "epoch": 3.23,
+      "learning_rate": 3.875e-05,
+      "loss": 0.8489,
+      "step": 15480
+    },
+    {
+      "epoch": 3.23,
+      "learning_rate": 3.8645833333333335e-05,
+      "loss": 0.878,
+      "step": 15490
+    },
+    {
+      "epoch": 3.23,
+      "learning_rate": 3.854166666666667e-05,
+      "loss": 0.8937,
+      "step": 15500
+    },
+    {
+      "epoch": 3.23,
+      "eval_accuracy": 0.8213333333333334,
+      "eval_loss": 0.8194625377655029,
+      "eval_runtime": 59.7077,
+      "eval_samples_per_second": 100.489,
+      "eval_steps_per_second": 12.561,
+      "step": 15500
+    },
+    {
+      "epoch": 3.23,
+      "learning_rate": 3.8437500000000006e-05,
+      "loss": 0.8264,
+      "step": 15510
+    },
+    {
+      "epoch": 3.23,
+      "learning_rate": 3.8333333333333334e-05,
+      "loss": 0.8799,
+      "step": 15520
+    },
+    {
+      "epoch": 3.24,
+      "learning_rate": 3.822916666666666e-05,
+      "loss": 0.8099,
+      "step": 15530
+    },
+    {
+      "epoch": 3.24,
+      "learning_rate": 3.8125e-05,
+      "loss": 0.839,
+      "step": 15540
+    },
+    {
+      "epoch": 3.24,
+      "learning_rate": 3.8020833333333334e-05,
+      "loss": 0.8351,
+      "step": 15550
+    },
+    {
+      "epoch": 3.24,
+      "learning_rate": 3.791666666666667e-05,
+      "loss": 0.8474,
+      "step": 15560
+    },
+    {
+      "epoch": 3.24,
+      "learning_rate": 3.78125e-05,
+      "loss": 0.8083,
+      "step": 15570
+    },
+    {
+      "epoch": 3.25,
+      "learning_rate": 3.770833333333333e-05,
+      "loss": 0.8576,
+      "step": 15580
+    },
+    {
+      "epoch": 3.25,
+      "learning_rate": 3.760416666666667e-05,
+      "loss": 0.8645,
+      "step": 15590
+    },
+    {
+      "epoch": 3.25,
+      "learning_rate": 3.7500000000000003e-05,
+      "loss": 0.7632,
+      "step": 15600
+    },
+    {
+      "epoch": 3.25,
+      "eval_accuracy": 0.821,
+      "eval_loss": 0.8187865614891052,
+      "eval_runtime": 59.7654,
+      "eval_samples_per_second": 100.393,
+      "eval_steps_per_second": 12.549,
+      "step": 15600
+    },
+    {
+      "epoch": 3.25,
+      "learning_rate": 3.739583333333334e-05,
+      "loss": 0.817,
+      "step": 15610
+    },
+    {
+      "epoch": 3.25,
+      "learning_rate": 3.729166666666667e-05,
+      "loss": 0.7605,
+      "step": 15620
+    },
+    {
+      "epoch": 3.26,
+      "learning_rate": 3.71875e-05,
+      "loss": 0.8974,
+      "step": 15630
+    },
+    {
+      "epoch": 3.26,
+      "learning_rate": 3.708333333333334e-05,
+      "loss": 0.7318,
+      "step": 15640
+    },
+    {
+      "epoch": 3.26,
+      "learning_rate": 3.697916666666667e-05,
+      "loss": 0.785,
+      "step": 15650
+    },
+    {
+      "epoch": 3.26,
+      "learning_rate": 3.6875e-05,
+      "loss": 0.8878,
+      "step": 15660
+    },
+    {
+      "epoch": 3.26,
+      "learning_rate": 3.677083333333334e-05,
+      "loss": 0.7953,
+      "step": 15670
+    },
+    {
+      "epoch": 3.27,
+      "learning_rate": 3.6666666666666666e-05,
+      "loss": 0.7904,
+      "step": 15680
+    },
+    {
+      "epoch": 3.27,
+      "learning_rate": 3.65625e-05,
+      "loss": 0.7932,
+      "step": 15690
+    },
+    {
+      "epoch": 3.27,
+      "learning_rate": 3.6458333333333336e-05,
+      "loss": 0.8117,
+      "step": 15700
+    },
+    {
+      "epoch": 3.27,
+      "eval_accuracy": 0.8211666666666667,
+      "eval_loss": 0.8181024789810181,
+      "eval_runtime": 59.7155,
+      "eval_samples_per_second": 100.476,
+      "eval_steps_per_second": 12.56,
+      "step": 15700
+    },
+    {
+      "epoch": 3.27,
+      "learning_rate": 3.6354166666666665e-05,
+      "loss": 0.8661,
+      "step": 15710
+    },
+    {
+      "epoch": 3.27,
+      "learning_rate": 3.625e-05,
+      "loss": 0.8423,
+      "step": 15720
+    },
+    {
+      "epoch": 3.28,
+      "learning_rate": 3.6145833333333336e-05,
+      "loss": 0.7212,
+      "step": 15730
+    },
+    {
+      "epoch": 3.28,
+      "learning_rate": 3.604166666666667e-05,
+      "loss": 0.7918,
+      "step": 15740
+    },
+    {
+      "epoch": 3.28,
+      "learning_rate": 3.59375e-05,
+      "loss": 0.9309,
+      "step": 15750
+    },
+    {
+      "epoch": 3.28,
+      "learning_rate": 3.5833333333333335e-05,
+      "loss": 0.7859,
+      "step": 15760
+    },
+    {
+      "epoch": 3.29,
+      "learning_rate": 3.572916666666667e-05,
+      "loss": 0.8898,
+      "step": 15770
+    },
+    {
+      "epoch": 3.29,
+      "learning_rate": 3.5625000000000005e-05,
+      "loss": 0.7942,
+      "step": 15780
+    },
+    {
+      "epoch": 3.29,
+      "learning_rate": 3.5520833333333334e-05,
+      "loss": 0.7845,
+      "step": 15790
+    },
+    {
+      "epoch": 3.29,
+      "learning_rate": 3.541666666666667e-05,
+      "loss": 0.8941,
+      "step": 15800
+    },
+    {
+      "epoch": 3.29,
+      "eval_accuracy": 0.8216666666666667,
+      "eval_loss": 0.817428708076477,
+      "eval_runtime": 60.0703,
+      "eval_samples_per_second": 99.883,
+      "eval_steps_per_second": 12.485,
+      "step": 15800
+    },
+    {
+      "epoch": 3.29,
+      "learning_rate": 3.5312500000000005e-05,
+      "loss": 0.7775,
+      "step": 15810
+    },
+    {
+      "epoch": 3.3,
+      "learning_rate": 3.520833333333334e-05,
+      "loss": 0.7979,
+      "step": 15820
+    },
+    {
+      "epoch": 3.3,
+      "learning_rate": 3.510416666666667e-05,
+      "loss": 0.7248,
+      "step": 15830
+    },
+    {
+      "epoch": 3.3,
+      "learning_rate": 3.5e-05,
+      "loss": 0.8413,
+      "step": 15840
+    },
+    {
+      "epoch": 3.3,
+      "learning_rate": 3.489583333333333e-05,
+      "loss": 0.7694,
+      "step": 15850
+    },
+    {
+      "epoch": 3.3,
+      "learning_rate": 3.479166666666667e-05,
+      "loss": 0.8478,
+      "step": 15860
+    },
+    {
+      "epoch": 3.31,
+      "learning_rate": 3.46875e-05,
+      "loss": 0.8505,
+      "step": 15870
+    },
+    {
+      "epoch": 3.31,
+      "learning_rate": 3.458333333333333e-05,
+      "loss": 0.7565,
+      "step": 15880
+    },
+    {
+      "epoch": 3.31,
+      "learning_rate": 3.447916666666667e-05,
+      "loss": 0.7952,
+      "step": 15890
+    },
+    {
+      "epoch": 3.31,
+      "learning_rate": 3.4375e-05,
+      "loss": 0.802,
+      "step": 15900
+    },
+    {
+      "epoch": 3.31,
+      "eval_accuracy": 0.8225,
+      "eval_loss": 0.8167559504508972,
+      "eval_runtime": 60.1415,
+      "eval_samples_per_second": 99.765,
+      "eval_steps_per_second": 12.471,
+      "step": 15900
+    },
+    {
+      "epoch": 3.31,
+      "learning_rate": 3.427083333333334e-05,
+      "loss": 0.7584,
+      "step": 15910
+    },
+    {
+      "epoch": 3.32,
+      "learning_rate": 3.4166666666666666e-05,
+      "loss": 0.76,
+      "step": 15920
+    },
+    {
+      "epoch": 3.32,
+      "learning_rate": 3.40625e-05,
+      "loss": 0.8018,
+      "step": 15930
+    },
+    {
+      "epoch": 3.32,
+      "learning_rate": 3.3958333333333337e-05,
+      "loss": 0.7459,
+      "step": 15940
+    },
+    {
+      "epoch": 3.32,
+      "learning_rate": 3.385416666666667e-05,
+      "loss": 0.8448,
+      "step": 15950
+    },
+    {
+      "epoch": 3.33,
+      "learning_rate": 3.375000000000001e-05,
+      "loss": 0.8478,
+      "step": 15960
+    },
+    {
+      "epoch": 3.33,
+      "learning_rate": 3.3645833333333336e-05,
+      "loss": 0.8187,
+      "step": 15970
+    },
+    {
+      "epoch": 3.33,
+      "learning_rate": 3.3541666666666664e-05,
+      "loss": 0.7829,
+      "step": 15980
+    },
+    {
+      "epoch": 3.33,
+      "learning_rate": 3.34375e-05,
+      "loss": 0.7943,
+      "step": 15990
+    },
+    {
+      "epoch": 3.33,
+      "learning_rate": 3.3333333333333335e-05,
+      "loss": 0.8303,
+      "step": 16000
+    },
+    {
+      "epoch": 3.33,
+      "eval_accuracy": 0.8216666666666667,
+      "eval_loss": 0.8160925507545471,
+      "eval_runtime": 59.5994,
+      "eval_samples_per_second": 100.672,
+      "eval_steps_per_second": 12.584,
+      "step": 16000
+    },
+    {
+      "epoch": 3.34,
+      "learning_rate": 3.3229166666666663e-05,
+      "loss": 0.9126,
+      "step": 16010
+    },
+    {
+      "epoch": 3.34,
+      "learning_rate": 3.3125e-05,
+      "loss": 0.7635,
+      "step": 16020
+    },
+    {
+      "epoch": 3.34,
+      "learning_rate": 3.3020833333333334e-05,
+      "loss": 0.7694,
+      "step": 16030
+    },
+    {
+      "epoch": 3.34,
+      "learning_rate": 3.291666666666667e-05,
+      "loss": 0.8027,
+      "step": 16040
+    },
+    {
+      "epoch": 3.34,
+      "learning_rate": 3.2812500000000005e-05,
+      "loss": 0.7577,
+      "step": 16050
+    },
+    {
+      "epoch": 3.35,
+      "learning_rate": 3.270833333333333e-05,
+      "loss": 0.7162,
+      "step": 16060
+    },
+    {
+      "epoch": 3.35,
+      "learning_rate": 3.260416666666667e-05,
+      "loss": 0.866,
+      "step": 16070
+    },
+    {
+      "epoch": 3.35,
+      "learning_rate": 3.2500000000000004e-05,
+      "loss": 0.7403,
+      "step": 16080
+    },
+    {
+      "epoch": 3.35,
+      "learning_rate": 3.239583333333334e-05,
+      "loss": 0.7915,
+      "step": 16090
+    },
+    {
+      "epoch": 3.35,
+      "learning_rate": 3.229166666666667e-05,
+      "loss": 0.8264,
+      "step": 16100
+    },
+    {
+      "epoch": 3.35,
+      "eval_accuracy": 0.8218333333333333,
+      "eval_loss": 0.8154905438423157,
+      "eval_runtime": 59.7466,
+      "eval_samples_per_second": 100.424,
+      "eval_steps_per_second": 12.553,
+      "step": 16100
+    },
+    {
+      "epoch": 3.36,
+      "learning_rate": 3.21875e-05,
+      "loss": 0.7279,
+      "step": 16110
+    },
+    {
+      "epoch": 3.36,
+      "learning_rate": 3.208333333333334e-05,
+      "loss": 0.8937,
+      "step": 16120
+    },
+    {
+      "epoch": 3.36,
+      "learning_rate": 3.197916666666667e-05,
+      "loss": 0.7487,
+      "step": 16130
+    },
+    {
+      "epoch": 3.36,
+      "learning_rate": 3.1875e-05,
+      "loss": 0.7935,
+      "step": 16140
+    },
+    {
+      "epoch": 3.36,
+      "learning_rate": 3.177083333333333e-05,
+      "loss": 0.7285,
+      "step": 16150
+    },
+    {
+      "epoch": 3.37,
+      "learning_rate": 3.1666666666666666e-05,
+      "loss": 0.7991,
+      "step": 16160
+    },
+    {
+      "epoch": 3.37,
+      "learning_rate": 3.15625e-05,
+      "loss": 0.7728,
+      "step": 16170
+    },
+    {
+      "epoch": 3.37,
+      "learning_rate": 3.145833333333334e-05,
+      "loss": 0.7066,
+      "step": 16180
+    },
+    {
+      "epoch": 3.37,
+      "learning_rate": 3.1354166666666665e-05,
+      "loss": 0.8155,
+      "step": 16190
+    },
+    {
+      "epoch": 3.38,
+      "learning_rate": 3.125e-05,
+      "loss": 0.8411,
+      "step": 16200
+    },
+    {
+      "epoch": 3.38,
+      "eval_accuracy": 0.8213333333333334,
+      "eval_loss": 0.8148880004882812,
+      "eval_runtime": 59.382,
+      "eval_samples_per_second": 101.041,
+      "eval_steps_per_second": 12.63,
+      "step": 16200
+    },
+    {
+      "epoch": 3.38,
+      "learning_rate": 3.1145833333333336e-05,
+      "loss": 0.9039,
+      "step": 16210
+    },
+    {
+      "epoch": 3.38,
+      "learning_rate": 3.104166666666667e-05,
+      "loss": 0.7993,
+      "step": 16220
+    },
+    {
+      "epoch": 3.38,
+      "learning_rate": 3.09375e-05,
+      "loss": 0.9335,
+      "step": 16230
+    },
+    {
+      "epoch": 3.38,
+      "learning_rate": 3.0833333333333335e-05,
+      "loss": 0.7494,
+      "step": 16240
+    },
+    {
+      "epoch": 3.39,
+      "learning_rate": 3.072916666666667e-05,
+      "loss": 0.7797,
+      "step": 16250
+    },
+    {
+      "epoch": 3.39,
+      "learning_rate": 3.0625000000000006e-05,
+      "loss": 0.8606,
+      "step": 16260
+    },
+    {
+      "epoch": 3.39,
+      "learning_rate": 3.0520833333333334e-05,
+      "loss": 0.8434,
+      "step": 16270
+    },
+    {
+      "epoch": 3.39,
+      "learning_rate": 3.0416666666666666e-05,
+      "loss": 0.7547,
+      "step": 16280
+    },
+    {
+      "epoch": 3.39,
+      "learning_rate": 3.0312499999999998e-05,
+      "loss": 0.8581,
+      "step": 16290
+    },
+    {
+      "epoch": 3.4,
+      "learning_rate": 3.0208333333333334e-05,
+      "loss": 0.9378,
+      "step": 16300
+    },
+    {
+      "epoch": 3.4,
+      "eval_accuracy": 0.8218333333333333,
+      "eval_loss": 0.8143389225006104,
+      "eval_runtime": 59.9238,
+      "eval_samples_per_second": 100.127,
+      "eval_steps_per_second": 12.516,
+      "step": 16300
+    },
+    {
+      "epoch": 3.4,
+      "learning_rate": 3.0104166666666665e-05,
+      "loss": 0.9282,
+      "step": 16310
+    },
+    {
+      "epoch": 3.4,
+      "learning_rate": 3e-05,
+      "loss": 0.7891,
+      "step": 16320
+    },
+    {
+      "epoch": 3.4,
+      "learning_rate": 2.9895833333333333e-05,
+      "loss": 0.94,
+      "step": 16330
+    },
+    {
+      "epoch": 3.4,
+      "learning_rate": 2.9791666666666668e-05,
+      "loss": 0.7915,
+      "step": 16340
+    },
+    {
+      "epoch": 3.41,
+      "learning_rate": 2.96875e-05,
+      "loss": 0.798,
+      "step": 16350
+    },
+    {
+      "epoch": 3.41,
+      "learning_rate": 2.9583333333333335e-05,
+      "loss": 0.7934,
+      "step": 16360
+    },
+    {
+      "epoch": 3.41,
+      "learning_rate": 2.9479166666666667e-05,
+      "loss": 0.8412,
+      "step": 16370
+    },
+    {
+      "epoch": 3.41,
+      "learning_rate": 2.9375000000000003e-05,
+      "loss": 0.8737,
+      "step": 16380
+    },
+    {
+      "epoch": 3.41,
+      "learning_rate": 2.9270833333333338e-05,
+      "loss": 0.9161,
+      "step": 16390
+    },
+    {
+      "epoch": 3.42,
+      "learning_rate": 2.916666666666667e-05,
+      "loss": 0.8514,
+      "step": 16400
+    },
+    {
+      "epoch": 3.42,
+      "eval_accuracy": 0.8216666666666667,
+      "eval_loss": 0.8137937784194946,
+      "eval_runtime": 60.1218,
+      "eval_samples_per_second": 99.797,
+      "eval_steps_per_second": 12.475,
+      "step": 16400
+    },
+    {
+      "epoch": 3.42,
+      "learning_rate": 2.9062500000000005e-05,
+      "loss": 0.8166,
+      "step": 16410
+    },
+    {
+      "epoch": 3.42,
+      "learning_rate": 2.8958333333333337e-05,
+      "loss": 0.793,
+      "step": 16420
+    },
+    {
+      "epoch": 3.42,
+      "learning_rate": 2.8854166666666666e-05,
+      "loss": 0.8099,
+      "step": 16430
+    },
+    {
+      "epoch": 3.42,
+      "learning_rate": 2.8749999999999997e-05,
+      "loss": 0.8728,
+      "step": 16440
+    },
+    {
+      "epoch": 3.43,
+      "learning_rate": 2.8645833333333333e-05,
+      "loss": 0.8193,
+      "step": 16450
+    },
+    {
+      "epoch": 3.43,
+      "learning_rate": 2.8541666666666668e-05,
+      "loss": 0.7807,
+      "step": 16460
+    },
+    {
+      "epoch": 3.43,
+      "learning_rate": 2.84375e-05,
+      "loss": 0.8598,
+      "step": 16470
+    },
+    {
+      "epoch": 3.43,
+      "learning_rate": 2.8333333333333335e-05,
+      "loss": 0.7956,
+      "step": 16480
+    },
+    {
+      "epoch": 3.44,
+      "learning_rate": 2.8229166666666667e-05,
+      "loss": 0.7803,
+      "step": 16490
+    },
+    {
+      "epoch": 3.44,
+      "learning_rate": 2.8125000000000003e-05,
+      "loss": 0.7313,
+      "step": 16500
+    },
+    {
+      "epoch": 3.44,
+      "eval_accuracy": 0.8221666666666667,
+      "eval_loss": 0.8132685422897339,
+      "eval_runtime": 59.8369,
+      "eval_samples_per_second": 100.272,
+      "eval_steps_per_second": 12.534,
+      "step": 16500
+    },
+    {
+      "epoch": 3.44,
+      "learning_rate": 2.8020833333333335e-05,
+      "loss": 0.8131,
+      "step": 16510
+    },
+    {
+      "epoch": 3.44,
+      "learning_rate": 2.791666666666667e-05,
+      "loss": 0.7935,
+      "step": 16520
+    },
+    {
+      "epoch": 3.44,
+      "learning_rate": 2.7812500000000002e-05,
+      "loss": 0.7949,
+      "step": 16530
+    },
+    {
+      "epoch": 3.45,
+      "learning_rate": 2.7708333333333337e-05,
+      "loss": 0.874,
+      "step": 16540
+    },
+    {
+      "epoch": 3.45,
+      "learning_rate": 2.760416666666667e-05,
+      "loss": 0.7324,
+      "step": 16550
+    },
+    {
+      "epoch": 3.45,
+      "learning_rate": 2.7500000000000004e-05,
+      "loss": 0.7513,
+      "step": 16560
+    },
+    {
+      "epoch": 3.45,
+      "learning_rate": 2.7395833333333336e-05,
+      "loss": 0.7673,
+      "step": 16570
+    },
+    {
+      "epoch": 3.45,
+      "learning_rate": 2.7291666666666665e-05,
+      "loss": 0.8932,
+      "step": 16580
+    },
+    {
+      "epoch": 3.46,
+      "learning_rate": 2.71875e-05,
+      "loss": 0.8978,
+      "step": 16590
+    },
+    {
+      "epoch": 3.46,
+      "learning_rate": 2.7083333333333332e-05,
+      "loss": 0.8238,
+      "step": 16600
+    },
+    {
+      "epoch": 3.46,
+      "eval_accuracy": 0.8218333333333333,
+      "eval_loss": 0.8127702474594116,
+      "eval_runtime": 60.1679,
+      "eval_samples_per_second": 99.721,
+      "eval_steps_per_second": 12.465,
+      "step": 16600
+    },
+    {
+      "epoch": 3.46,
+      "learning_rate": 2.6979166666666667e-05,
+      "loss": 0.775,
+      "step": 16610
+    },
+    {
+      "epoch": 3.46,
+      "learning_rate": 2.6875e-05,
+      "loss": 0.8774,
+      "step": 16620
+    },
+    {
+      "epoch": 3.46,
+      "learning_rate": 2.6770833333333335e-05,
+      "loss": 0.7062,
+      "step": 16630
+    },
+    {
+      "epoch": 3.47,
+      "learning_rate": 2.6666666666666667e-05,
+      "loss": 0.7167,
+      "step": 16640
+    },
+    {
+      "epoch": 3.47,
+      "learning_rate": 2.6562500000000002e-05,
+      "loss": 0.8423,
+      "step": 16650
+    },
+    {
+      "epoch": 3.47,
+      "learning_rate": 2.6458333333333334e-05,
+      "loss": 0.8769,
+      "step": 16660
+    },
+    {
+      "epoch": 3.47,
+      "learning_rate": 2.635416666666667e-05,
+      "loss": 0.7845,
+      "step": 16670
+    },
+    {
+      "epoch": 3.48,
+      "learning_rate": 2.625e-05,
+      "loss": 0.8311,
+      "step": 16680
+    },
+    {
+      "epoch": 3.48,
+      "learning_rate": 2.6145833333333336e-05,
+      "loss": 0.7924,
+      "step": 16690
+    },
+    {
+      "epoch": 3.48,
+      "learning_rate": 2.604166666666667e-05,
+      "loss": 0.7876,
+      "step": 16700
+    },
+    {
+      "epoch": 3.48,
+      "eval_accuracy": 0.8221666666666667,
+      "eval_loss": 0.8122752904891968,
+      "eval_runtime": 59.656,
+      "eval_samples_per_second": 100.577,
+      "eval_steps_per_second": 12.572,
+      "step": 16700
+    },
+    {
+      "epoch": 3.48,
+      "learning_rate": 2.5937500000000004e-05,
+      "loss": 0.8034,
+      "step": 16710
+    },
+    {
+      "epoch": 3.48,
+      "learning_rate": 2.5833333333333336e-05,
+      "loss": 0.8767,
+      "step": 16720
+    },
+    {
+      "epoch": 3.49,
+      "learning_rate": 2.5729166666666664e-05,
+      "loss": 0.9818,
+      "step": 16730
+    },
+    {
+      "epoch": 3.49,
+      "learning_rate": 2.5625e-05,
+      "loss": 0.8704,
+      "step": 16740
+    },
+    {
+      "epoch": 3.49,
+      "learning_rate": 2.552083333333333e-05,
+      "loss": 0.8333,
+      "step": 16750
+    },
+    {
+      "epoch": 3.49,
+      "learning_rate": 2.5416666666666667e-05,
+      "loss": 0.8042,
+      "step": 16760
+    },
+    {
+      "epoch": 3.49,
+      "learning_rate": 2.53125e-05,
+      "loss": 0.7806,
+      "step": 16770
+    },
+    {
+      "epoch": 3.5,
+      "learning_rate": 2.5208333333333334e-05,
+      "loss": 0.866,
+      "step": 16780
+    },
+    {
+      "epoch": 3.5,
+      "learning_rate": 2.5104166666666666e-05,
+      "loss": 0.7887,
+      "step": 16790
+    },
+    {
+      "epoch": 3.5,
+      "learning_rate": 2.5e-05,
+      "loss": 0.8364,
+      "step": 16800
+    },
+    {
+      "epoch": 3.5,
+      "eval_accuracy": 0.8221666666666667,
+      "eval_loss": 0.8118352890014648,
+      "eval_runtime": 59.8646,
+      "eval_samples_per_second": 100.226,
+      "eval_steps_per_second": 12.528,
+      "step": 16800
+    },
+    {
+      "epoch": 3.5,
+      "learning_rate": 2.4895833333333337e-05,
+      "loss": 0.7938,
+      "step": 16810
+    },
+    {
+      "epoch": 3.5,
+      "learning_rate": 2.479166666666667e-05,
+      "loss": 0.73,
+      "step": 16820
+    },
+    {
+      "epoch": 3.51,
+      "learning_rate": 2.4687500000000004e-05,
+      "loss": 0.7867,
+      "step": 16830
+    },
+    {
+      "epoch": 3.51,
+      "learning_rate": 2.4583333333333332e-05,
+      "loss": 0.8375,
+      "step": 16840
+    },
+    {
+      "epoch": 3.51,
+      "learning_rate": 2.4479166666666668e-05,
+      "loss": 0.7919,
+      "step": 16850
+    },
+    {
+      "epoch": 3.51,
+      "learning_rate": 2.4375e-05,
+      "loss": 0.8528,
+      "step": 16860
+    },
+    {
+      "epoch": 3.51,
+      "learning_rate": 2.4270833333333335e-05,
+      "loss": 0.8271,
+      "step": 16870
+    },
+    {
+      "epoch": 3.52,
+      "learning_rate": 2.4166666666666667e-05,
+      "loss": 0.7255,
+      "step": 16880
+    },
+    {
+      "epoch": 3.52,
+      "learning_rate": 2.4062500000000002e-05,
+      "loss": 0.8332,
+      "step": 16890
+    },
+    {
+      "epoch": 3.52,
+      "learning_rate": 2.3958333333333334e-05,
+      "loss": 0.7049,
+      "step": 16900
+    },
+    {
+      "epoch": 3.52,
+      "eval_accuracy": 0.8221666666666667,
+      "eval_loss": 0.8113714456558228,
+      "eval_runtime": 59.6338,
+      "eval_samples_per_second": 100.614,
+      "eval_steps_per_second": 12.577,
+      "step": 16900
+    },
+    {
+      "epoch": 3.52,
+      "learning_rate": 2.385416666666667e-05,
+      "loss": 0.777,
+      "step": 16910
+    },
+    {
+      "epoch": 3.52,
+      "learning_rate": 2.375e-05,
+      "loss": 0.8384,
+      "step": 16920
+    },
+    {
+      "epoch": 3.53,
+      "learning_rate": 2.3645833333333333e-05,
+      "loss": 0.854,
+      "step": 16930
+    },
+    {
+      "epoch": 3.53,
+      "learning_rate": 2.354166666666667e-05,
+      "loss": 0.8403,
+      "step": 16940
+    },
+    {
+      "epoch": 3.53,
+      "learning_rate": 2.34375e-05,
+      "loss": 0.8099,
+      "step": 16950
+    },
+    {
+      "epoch": 3.53,
+      "learning_rate": 2.3333333333333336e-05,
+      "loss": 0.8946,
+      "step": 16960
+    },
+    {
+      "epoch": 3.54,
+      "learning_rate": 2.3229166666666668e-05,
+      "loss": 0.7859,
+      "step": 16970
+    },
+    {
+      "epoch": 3.54,
+      "learning_rate": 2.3125000000000003e-05,
+      "loss": 0.7397,
+      "step": 16980
+    },
+    {
+      "epoch": 3.54,
+      "learning_rate": 2.302083333333333e-05,
+      "loss": 0.7624,
+      "step": 16990
+    },
+    {
+      "epoch": 3.54,
+      "learning_rate": 2.2916666666666667e-05,
+      "loss": 0.9101,
+      "step": 17000
+    },
+    {
+      "epoch": 3.54,
+      "eval_accuracy": 0.8218333333333333,
+      "eval_loss": 0.8109340667724609,
+      "eval_runtime": 60.1158,
+      "eval_samples_per_second": 99.807,
+      "eval_steps_per_second": 12.476,
+      "step": 17000
+    },
+    {
+      "epoch": 3.54,
+      "learning_rate": 2.28125e-05,
+      "loss": 0.8418,
+      "step": 17010
+    },
+    {
+      "epoch": 3.55,
+      "learning_rate": 2.2708333333333334e-05,
+      "loss": 0.7951,
+      "step": 17020
+    },
+    {
+      "epoch": 3.55,
+      "learning_rate": 2.260416666666667e-05,
+      "loss": 0.8587,
+      "step": 17030
+    },
+    {
+      "epoch": 3.55,
+      "learning_rate": 2.25e-05,
+      "loss": 0.8525,
+      "step": 17040
+    },
+    {
+      "epoch": 3.55,
+      "learning_rate": 2.2395833333333337e-05,
+      "loss": 0.9167,
+      "step": 17050
+    },
+    {
+      "epoch": 3.55,
+      "learning_rate": 2.229166666666667e-05,
+      "loss": 0.8887,
+      "step": 17060
+    },
+    {
+      "epoch": 3.56,
+      "learning_rate": 2.21875e-05,
+      "loss": 0.8728,
+      "step": 17070
+    },
+    {
+      "epoch": 3.56,
+      "learning_rate": 2.2083333333333333e-05,
+      "loss": 0.8633,
+      "step": 17080
+    },
+    {
+      "epoch": 3.56,
+      "learning_rate": 2.1979166666666668e-05,
+      "loss": 0.8855,
+      "step": 17090
+    },
+    {
+      "epoch": 3.56,
+      "learning_rate": 2.1875e-05,
+      "loss": 0.7984,
+      "step": 17100
+    },
+    {
+      "epoch": 3.56,
+      "eval_accuracy": 0.822,
+      "eval_loss": 0.8105219602584839,
+      "eval_runtime": 60.5884,
+      "eval_samples_per_second": 99.029,
+      "eval_steps_per_second": 12.379,
+      "step": 17100
+    },
+    {
+      "epoch": 3.56,
+      "learning_rate": 2.1770833333333335e-05,
+      "loss": 0.8834,
+      "step": 17110
+    },
+    {
+      "epoch": 3.57,
+      "learning_rate": 2.1666666666666667e-05,
+      "loss": 0.6941,
+      "step": 17120
+    },
+    {
+      "epoch": 3.57,
+      "learning_rate": 2.1562500000000002e-05,
+      "loss": 0.9005,
+      "step": 17130
+    },
+    {
+      "epoch": 3.57,
+      "learning_rate": 2.1458333333333334e-05,
+      "loss": 0.8964,
+      "step": 17140
+    },
+    {
+      "epoch": 3.57,
+      "learning_rate": 2.1354166666666666e-05,
+      "loss": 0.724,
+      "step": 17150
+    },
+    {
+      "epoch": 3.58,
+      "learning_rate": 2.125e-05,
+      "loss": 0.748,
+      "step": 17160
+    },
+    {
+      "epoch": 3.58,
+      "learning_rate": 2.1145833333333333e-05,
+      "loss": 0.8247,
+      "step": 17170
+    },
+    {
+      "epoch": 3.58,
+      "learning_rate": 2.104166666666667e-05,
+      "loss": 0.7963,
+      "step": 17180
+    },
+    {
+      "epoch": 3.58,
+      "learning_rate": 2.09375e-05,
+      "loss": 0.9445,
+      "step": 17190
+    },
+    {
+      "epoch": 3.58,
+      "learning_rate": 2.0833333333333336e-05,
+      "loss": 0.85,
+      "step": 17200
+    },
+    {
+      "epoch": 3.58,
+      "eval_accuracy": 0.8218333333333333,
+      "eval_loss": 0.810123860836029,
+      "eval_runtime": 59.6572,
+      "eval_samples_per_second": 100.575,
+      "eval_steps_per_second": 12.572,
+      "step": 17200
+    },
+    {
+      "epoch": 3.59,
+      "learning_rate": 2.0729166666666668e-05,
+      "loss": 0.7397,
+      "step": 17210
+    },
+    {
+      "epoch": 3.59,
+      "learning_rate": 2.0625e-05,
+      "loss": 0.8617,
+      "step": 17220
+    },
+    {
+      "epoch": 3.59,
+      "learning_rate": 2.0520833333333335e-05,
+      "loss": 0.9256,
+      "step": 17230
+    },
+    {
+      "epoch": 3.59,
+      "learning_rate": 2.0416666666666667e-05,
+      "loss": 0.7436,
+      "step": 17240
+    },
+    {
+      "epoch": 3.59,
+      "learning_rate": 2.0312500000000002e-05,
+      "loss": 0.7024,
+      "step": 17250
+    },
+    {
+      "epoch": 3.6,
+      "learning_rate": 2.0208333333333334e-05,
+      "loss": 0.7873,
+      "step": 17260
+    },
+    {
+      "epoch": 3.6,
+      "learning_rate": 2.010416666666667e-05,
+      "loss": 0.8991,
+      "step": 17270
+    },
+    {
+      "epoch": 3.6,
+      "learning_rate": 2e-05,
+      "loss": 0.8683,
+      "step": 17280
+    },
+    {
+      "epoch": 3.6,
+      "learning_rate": 1.9895833333333334e-05,
+      "loss": 0.7361,
+      "step": 17290
+    },
+    {
+      "epoch": 3.6,
+      "learning_rate": 1.9791666666666665e-05,
+      "loss": 0.8677,
+      "step": 17300
+    },
+    {
+      "epoch": 3.6,
+      "eval_accuracy": 0.822,
+      "eval_loss": 0.809762716293335,
+      "eval_runtime": 59.9978,
+      "eval_samples_per_second": 100.004,
+      "eval_steps_per_second": 12.5,
+      "step": 17300
+    },
+    {
+      "epoch": 3.61,
+      "learning_rate": 1.96875e-05,
+      "loss": 0.7574,
+      "step": 17310
+    },
+    {
+      "epoch": 3.61,
+      "learning_rate": 1.9583333333333333e-05,
+      "loss": 0.8212,
+      "step": 17320
+    },
+    {
+      "epoch": 3.61,
+      "learning_rate": 1.9479166666666668e-05,
+      "loss": 0.9015,
+      "step": 17330
+    },
+    {
+      "epoch": 3.61,
+      "learning_rate": 1.9375e-05,
+      "loss": 0.8751,
+      "step": 17340
+    },
+    {
+      "epoch": 3.61,
+      "learning_rate": 1.9270833333333335e-05,
+      "loss": 0.865,
+      "step": 17350
+    },
+    {
+      "epoch": 3.62,
+      "learning_rate": 1.9166666666666667e-05,
+      "loss": 0.763,
+      "step": 17360
+    },
+    {
+      "epoch": 3.62,
+      "learning_rate": 1.90625e-05,
+      "loss": 0.9046,
+      "step": 17370
+    },
+    {
+      "epoch": 3.62,
+      "learning_rate": 1.8958333333333334e-05,
+      "loss": 0.6976,
+      "step": 17380
+    },
+    {
+      "epoch": 3.62,
+      "learning_rate": 1.8854166666666666e-05,
+      "loss": 0.8137,
+      "step": 17390
+    },
+    {
+      "epoch": 3.62,
+      "learning_rate": 1.8750000000000002e-05,
+      "loss": 0.8797,
+      "step": 17400
+    },
+    {
+      "epoch": 3.62,
+      "eval_accuracy": 0.8218333333333333,
+      "eval_loss": 0.8094143867492676,
+      "eval_runtime": 60.2273,
+      "eval_samples_per_second": 99.623,
+      "eval_steps_per_second": 12.453,
+      "step": 17400
+    },
+    {
+      "epoch": 3.63,
+      "learning_rate": 1.8645833333333334e-05,
+      "loss": 0.8733,
+      "step": 17410
+    },
+    {
+      "epoch": 3.63,
+      "learning_rate": 1.854166666666667e-05,
+      "loss": 0.7766,
+      "step": 17420
+    },
+    {
+      "epoch": 3.63,
+      "learning_rate": 1.84375e-05,
+      "loss": 0.7928,
+      "step": 17430
+    },
+    {
+      "epoch": 3.63,
+      "learning_rate": 1.8333333333333333e-05,
+      "loss": 0.8895,
+      "step": 17440
+    },
+    {
+      "epoch": 3.64,
+      "learning_rate": 1.8229166666666668e-05,
+      "loss": 0.7917,
+      "step": 17450
+    },
+    {
+      "epoch": 3.64,
+      "learning_rate": 1.8125e-05,
+      "loss": 0.791,
+      "step": 17460
+    },
+    {
+      "epoch": 3.64,
+      "learning_rate": 1.8020833333333335e-05,
+      "loss": 0.8046,
+      "step": 17470
+    },
+    {
+      "epoch": 3.64,
+      "learning_rate": 1.7916666666666667e-05,
+      "loss": 0.8329,
+      "step": 17480
+    },
+    {
+      "epoch": 3.64,
+      "learning_rate": 1.7812500000000003e-05,
+      "loss": 0.9185,
+      "step": 17490
+    },
+    {
+      "epoch": 3.65,
+      "learning_rate": 1.7708333333333335e-05,
+      "loss": 0.7847,
+      "step": 17500
+    },
+    {
+      "epoch": 3.65,
+      "eval_accuracy": 0.8221666666666667,
+      "eval_loss": 0.8090854287147522,
+      "eval_runtime": 60.0614,
+      "eval_samples_per_second": 99.898,
+      "eval_steps_per_second": 12.487,
+      "step": 17500
+    },
+    {
+      "epoch": 3.65,
+      "learning_rate": 1.760416666666667e-05,
+      "loss": 0.7401,
+      "step": 17510
+    },
+    {
+      "epoch": 3.65,
+      "learning_rate": 1.75e-05,
+      "loss": 0.8851,
+      "step": 17520
+    },
+    {
+      "epoch": 3.65,
+      "learning_rate": 1.7395833333333334e-05,
+      "loss": 0.8356,
+      "step": 17530
+    },
+    {
+      "epoch": 3.65,
+      "learning_rate": 1.7291666666666666e-05,
+      "loss": 0.7587,
+      "step": 17540
+    },
+    {
+      "epoch": 3.66,
+      "learning_rate": 1.71875e-05,
+      "loss": 0.8323,
+      "step": 17550
+    },
+    {
+      "epoch": 3.66,
+      "learning_rate": 1.7083333333333333e-05,
+      "loss": 0.7348,
+      "step": 17560
+    },
+    {
+      "epoch": 3.66,
+      "learning_rate": 1.6979166666666668e-05,
+      "loss": 0.893,
+      "step": 17570
+    },
+    {
+      "epoch": 3.66,
+      "learning_rate": 1.6875000000000004e-05,
+      "loss": 0.8019,
+      "step": 17580
+    },
+    {
+      "epoch": 3.66,
+      "learning_rate": 1.6770833333333332e-05,
+      "loss": 0.8539,
+      "step": 17590
+    },
+    {
+      "epoch": 3.67,
+      "learning_rate": 1.6666666666666667e-05,
+      "loss": 0.8415,
+      "step": 17600
+    },
+    {
+      "epoch": 3.67,
+      "eval_accuracy": 0.8218333333333333,
+      "eval_loss": 0.8087873458862305,
+      "eval_runtime": 60.2434,
+      "eval_samples_per_second": 99.596,
+      "eval_steps_per_second": 12.449,
+      "step": 17600
+    },
+    {
+      "epoch": 3.67,
+      "learning_rate": 1.65625e-05,
+      "loss": 0.8917,
+      "step": 17610
+    },
+    {
+      "epoch": 3.67,
+      "learning_rate": 1.6458333333333335e-05,
+      "loss": 0.8188,
+      "step": 17620
+    },
+    {
+      "epoch": 3.67,
+      "learning_rate": 1.6354166666666667e-05,
+      "loss": 0.7001,
+      "step": 17630
+    },
+    {
+      "epoch": 3.67,
+      "learning_rate": 1.6250000000000002e-05,
+      "loss": 0.8581,
+      "step": 17640
+    },
+    {
+      "epoch": 3.68,
+      "learning_rate": 1.6145833333333334e-05,
+      "loss": 0.8686,
+      "step": 17650
+    },
+    {
+      "epoch": 3.68,
+      "learning_rate": 1.604166666666667e-05,
+      "loss": 0.7487,
+      "step": 17660
+    },
+    {
+      "epoch": 3.68,
+      "learning_rate": 1.59375e-05,
+      "loss": 0.9107,
+      "step": 17670
+    },
+    {
+      "epoch": 3.68,
+      "learning_rate": 1.5833333333333333e-05,
+      "loss": 0.94,
+      "step": 17680
+    },
+    {
+      "epoch": 3.69,
+      "learning_rate": 1.572916666666667e-05,
+      "loss": 0.811,
+      "step": 17690
+    },
+    {
+      "epoch": 3.69,
+      "learning_rate": 1.5625e-05,
+      "loss": 0.8702,
+      "step": 17700
+    },
+    {
+      "epoch": 3.69,
+      "eval_accuracy": 0.8221666666666667,
+      "eval_loss": 0.8085013031959534,
+      "eval_runtime": 59.7471,
+      "eval_samples_per_second": 100.423,
+      "eval_steps_per_second": 12.553,
+      "step": 17700
+    },
+    {
+      "epoch": 3.69,
+      "learning_rate": 1.5520833333333336e-05,
+      "loss": 0.8121,
+      "step": 17710
+    },
+    {
+      "epoch": 3.69,
+      "learning_rate": 1.5416666666666668e-05,
+      "loss": 0.8095,
+      "step": 17720
+    },
+    {
+      "epoch": 3.69,
+      "learning_rate": 1.5312500000000003e-05,
+      "loss": 0.7824,
+      "step": 17730
+    },
+    {
+      "epoch": 3.7,
+      "learning_rate": 1.5208333333333333e-05,
+      "loss": 0.7981,
+      "step": 17740
+    },
+    {
+      "epoch": 3.7,
+      "learning_rate": 1.5104166666666667e-05,
+      "loss": 0.6714,
+      "step": 17750
+    },
+    {
+      "epoch": 3.7,
+      "learning_rate": 1.5e-05,
+      "loss": 0.7527,
+      "step": 17760
+    },
+    {
+      "epoch": 3.7,
+      "learning_rate": 1.4895833333333334e-05,
+      "loss": 0.8401,
+      "step": 17770
+    },
+    {
+      "epoch": 3.7,
+      "learning_rate": 1.4791666666666668e-05,
+      "loss": 0.9295,
+      "step": 17780
+    },
+    {
+      "epoch": 3.71,
+      "learning_rate": 1.4687500000000001e-05,
+      "loss": 0.754,
+      "step": 17790
+    },
+    {
+      "epoch": 3.71,
+      "learning_rate": 1.4583333333333335e-05,
+      "loss": 0.8979,
+      "step": 17800
+    },
+    {
+      "epoch": 3.71,
+      "eval_accuracy": 0.8221666666666667,
+      "eval_loss": 0.8082253336906433,
+      "eval_runtime": 59.8188,
+      "eval_samples_per_second": 100.303,
+      "eval_steps_per_second": 12.538,
+      "step": 17800
+    },
+    {
+      "epoch": 3.71,
+      "learning_rate": 1.4479166666666669e-05,
+      "loss": 0.8169,
+      "step": 17810
+    },
+    {
+      "epoch": 3.71,
+      "learning_rate": 1.4374999999999999e-05,
+      "loss": 0.8134,
+      "step": 17820
+    },
+    {
+      "epoch": 3.71,
+      "learning_rate": 1.4270833333333334e-05,
+      "loss": 0.7939,
+      "step": 17830
+    },
+    {
+      "epoch": 3.72,
+      "learning_rate": 1.4166666666666668e-05,
+      "loss": 0.8305,
+      "step": 17840
+    },
+    {
+      "epoch": 3.72,
+      "learning_rate": 1.4062500000000001e-05,
+      "loss": 0.8703,
+      "step": 17850
+    },
+    {
+      "epoch": 3.72,
+      "learning_rate": 1.3958333333333335e-05,
+      "loss": 0.8316,
+      "step": 17860
+    },
+    {
+      "epoch": 3.72,
+      "learning_rate": 1.3854166666666669e-05,
+      "loss": 0.8753,
+      "step": 17870
+    },
+    {
+      "epoch": 3.73,
+      "learning_rate": 1.3750000000000002e-05,
+      "loss": 0.7582,
+      "step": 17880
+    },
+    {
+      "epoch": 3.73,
+      "learning_rate": 1.3645833333333332e-05,
+      "loss": 0.7344,
+      "step": 17890
+    },
+    {
+      "epoch": 3.73,
+      "learning_rate": 1.3541666666666666e-05,
+      "loss": 0.8387,
+      "step": 17900
+    },
+    {
+      "epoch": 3.73,
+      "eval_accuracy": 0.8221666666666667,
+      "eval_loss": 0.8079649806022644,
+      "eval_runtime": 59.9308,
+      "eval_samples_per_second": 100.115,
+      "eval_steps_per_second": 12.514,
+      "step": 17900
+    },
+    {
+      "epoch": 3.73,
+      "learning_rate": 1.34375e-05,
+      "loss": 0.8239,
+      "step": 17910
+    },
+    {
+      "epoch": 3.73,
+      "learning_rate": 1.3333333333333333e-05,
+      "loss": 0.8422,
+      "step": 17920
+    },
+    {
+      "epoch": 3.74,
+      "learning_rate": 1.3229166666666667e-05,
+      "loss": 0.8912,
+      "step": 17930
+    },
+    {
+      "epoch": 3.74,
+      "learning_rate": 1.3125e-05,
+      "loss": 0.7551,
+      "step": 17940
+    },
+    {
+      "epoch": 3.74,
+      "learning_rate": 1.3020833333333334e-05,
+      "loss": 0.776,
+      "step": 17950
+    },
+    {
+      "epoch": 3.74,
+      "learning_rate": 1.2916666666666668e-05,
+      "loss": 0.8423,
+      "step": 17960
+    },
+    {
+      "epoch": 3.74,
+      "learning_rate": 1.28125e-05,
+      "loss": 0.8377,
+      "step": 17970
+    },
+    {
+      "epoch": 3.75,
+      "learning_rate": 1.2708333333333333e-05,
+      "loss": 0.8124,
+      "step": 17980
+    },
+    {
+      "epoch": 3.75,
+      "learning_rate": 1.2604166666666667e-05,
+      "loss": 0.7737,
+      "step": 17990
+    },
+    {
+      "epoch": 3.75,
+      "learning_rate": 1.25e-05,
+      "loss": 0.8467,
+      "step": 18000
+    },
+    {
+      "epoch": 3.75,
+      "eval_accuracy": 0.822,
+      "eval_loss": 0.8077328205108643,
+      "eval_runtime": 60.1262,
+      "eval_samples_per_second": 99.79,
+      "eval_steps_per_second": 12.474,
+      "step": 18000
+    },
+    {
+      "epoch": 3.75,
+      "learning_rate": 1.2395833333333334e-05,
+      "loss": 0.8067,
+      "step": 18010
+    },
+    {
+      "epoch": 3.75,
+      "learning_rate": 1.2291666666666666e-05,
+      "loss": 0.9097,
+      "step": 18020
+    },
+    {
+      "epoch": 3.76,
+      "learning_rate": 1.21875e-05,
+      "loss": 0.7931,
+      "step": 18030
+    },
+    {
+      "epoch": 3.76,
+      "learning_rate": 1.2083333333333333e-05,
+      "loss": 0.8782,
+      "step": 18040
+    },
+    {
+      "epoch": 3.76,
+      "learning_rate": 1.1979166666666667e-05,
+      "loss": 0.8154,
+      "step": 18050
+    },
+    {
+      "epoch": 3.76,
+      "learning_rate": 1.1875e-05,
+      "loss": 0.8277,
+      "step": 18060
+    },
+    {
+      "epoch": 3.76,
+      "learning_rate": 1.1770833333333334e-05,
+      "loss": 0.7229,
+      "step": 18070
+    },
+    {
+      "epoch": 3.77,
+      "learning_rate": 1.1666666666666668e-05,
+      "loss": 0.7436,
+      "step": 18080
+    },
+    {
+      "epoch": 3.77,
+      "learning_rate": 1.1562500000000002e-05,
+      "loss": 0.8992,
+      "step": 18090
+    },
+    {
+      "epoch": 3.77,
+      "learning_rate": 1.1458333333333333e-05,
+      "loss": 0.8729,
+      "step": 18100
+    },
+    {
+      "epoch": 3.77,
+      "eval_accuracy": 0.822,
+      "eval_loss": 0.8075274229049683,
+      "eval_runtime": 60.3574,
+      "eval_samples_per_second": 99.408,
+      "eval_steps_per_second": 12.426,
+      "step": 18100
+    },
+    {
+      "epoch": 3.77,
+      "learning_rate": 1.1354166666666667e-05,
+      "loss": 0.779,
+      "step": 18110
+    },
+    {
+      "epoch": 3.77,
+      "learning_rate": 1.125e-05,
+      "loss": 0.7725,
+      "step": 18120
+    },
+    {
+      "epoch": 3.78,
+      "learning_rate": 1.1145833333333334e-05,
+      "loss": 0.8767,
+      "step": 18130
+    },
+    {
+      "epoch": 3.78,
+      "learning_rate": 1.1041666666666666e-05,
+      "loss": 0.6757,
+      "step": 18140
+    },
+    {
+      "epoch": 3.78,
+      "learning_rate": 1.09375e-05,
+      "loss": 0.828,
+      "step": 18150
+    },
+    {
+      "epoch": 3.78,
+      "learning_rate": 1.0833333333333334e-05,
+      "loss": 0.808,
+      "step": 18160
+    },
+    {
+      "epoch": 3.79,
+      "learning_rate": 1.0729166666666667e-05,
+      "loss": 0.7561,
+      "step": 18170
+    },
+    {
+      "epoch": 3.79,
+      "learning_rate": 1.0625e-05,
+      "loss": 0.8943,
+      "step": 18180
+    },
+    {
+      "epoch": 3.79,
+      "learning_rate": 1.0520833333333334e-05,
+      "loss": 0.9267,
+      "step": 18190
+    },
+    {
+      "epoch": 3.79,
+      "learning_rate": 1.0416666666666668e-05,
+      "loss": 0.8291,
+      "step": 18200
+    },
+    {
+      "epoch": 3.79,
+      "eval_accuracy": 0.8221666666666667,
+      "eval_loss": 0.807325005531311,
+      "eval_runtime": 59.5743,
+      "eval_samples_per_second": 100.715,
+      "eval_steps_per_second": 12.589,
+      "step": 18200
+    },
+    {
+      "epoch": 3.79,
+      "learning_rate": 1.03125e-05,
+      "loss": 0.9722,
+      "step": 18210
+    },
+    {
+      "epoch": 3.8,
+      "learning_rate": 1.0208333333333334e-05,
+      "loss": 0.7455,
+      "step": 18220
+    },
+    {
+      "epoch": 3.8,
+      "learning_rate": 1.0104166666666667e-05,
+      "loss": 0.7488,
+      "step": 18230
+    },
+    {
+      "epoch": 3.8,
+      "learning_rate": 1e-05,
+      "loss": 0.8727,
+      "step": 18240
+    },
+    {
+      "epoch": 3.8,
+      "learning_rate": 9.895833333333333e-06,
+      "loss": 0.816,
+      "step": 18250
+    },
+    {
+      "epoch": 3.8,
+      "learning_rate": 9.791666666666666e-06,
+      "loss": 0.7305,
+      "step": 18260
+    },
+    {
+      "epoch": 3.81,
+      "learning_rate": 9.6875e-06,
+      "loss": 0.8706,
+      "step": 18270
+    },
+    {
+      "epoch": 3.81,
+      "learning_rate": 9.583333333333334e-06,
+      "loss": 0.8111,
+      "step": 18280
+    },
+    {
+      "epoch": 3.81,
+      "learning_rate": 9.479166666666667e-06,
+      "loss": 0.9864,
+      "step": 18290
+    },
+    {
+      "epoch": 3.81,
+      "learning_rate": 9.375000000000001e-06,
+      "loss": 0.7897,
+      "step": 18300
+    },
+    {
+      "epoch": 3.81,
+      "eval_accuracy": 0.8221666666666667,
+      "eval_loss": 0.807155430316925,
+      "eval_runtime": 60.0363,
+      "eval_samples_per_second": 99.94,
+      "eval_steps_per_second": 12.492,
+      "step": 18300
+    },
+    {
+      "epoch": 3.81,
+      "learning_rate": 9.270833333333334e-06,
+      "loss": 0.8352,
+      "step": 18310
+    },
+    {
+      "epoch": 3.82,
+      "learning_rate": 9.166666666666666e-06,
+      "loss": 0.8747,
+      "step": 18320
+    },
+    {
+      "epoch": 3.82,
+      "learning_rate": 9.0625e-06,
+      "loss": 0.8287,
+      "step": 18330
+    },
+    {
+      "epoch": 3.82,
+      "learning_rate": 8.958333333333334e-06,
+      "loss": 0.8502,
+      "step": 18340
+    },
+    {
+      "epoch": 3.82,
+      "learning_rate": 8.854166666666667e-06,
+      "loss": 0.68,
+      "step": 18350
+    },
+    {
+      "epoch": 3.83,
+      "learning_rate": 8.75e-06,
+      "loss": 0.872,
+      "step": 18360
+    },
+    {
+      "epoch": 3.83,
+      "learning_rate": 8.645833333333333e-06,
+      "loss": 0.8588,
+      "step": 18370
+    },
+    {
+      "epoch": 3.83,
+      "learning_rate": 8.541666666666666e-06,
+      "loss": 0.9115,
+      "step": 18380
+    },
+    {
+      "epoch": 3.83,
+      "learning_rate": 8.437500000000002e-06,
+      "loss": 0.8313,
+      "step": 18390
+    },
+    {
+      "epoch": 3.83,
+      "learning_rate": 8.333333333333334e-06,
+      "loss": 0.8039,
+      "step": 18400
+    },
+    {
+      "epoch": 3.83,
+      "eval_accuracy": 0.822,
+      "eval_loss": 0.8070062398910522,
+      "eval_runtime": 60.1875,
+      "eval_samples_per_second": 99.688,
+      "eval_steps_per_second": 12.461,
+      "step": 18400
+    },
+    {
+      "epoch": 3.84,
+      "learning_rate": 8.229166666666667e-06,
+      "loss": 0.7409,
+      "step": 18410
+    },
+    {
+      "epoch": 3.84,
+      "learning_rate": 8.125000000000001e-06,
+      "loss": 0.7446,
+      "step": 18420
+    },
+    {
+      "epoch": 3.84,
+      "learning_rate": 8.020833333333335e-06,
+      "loss": 0.8208,
+      "step": 18430
+    },
+    {
+      "epoch": 3.84,
+      "learning_rate": 7.916666666666667e-06,
+      "loss": 0.8917,
+      "step": 18440
+    },
+    {
+      "epoch": 3.84,
+      "learning_rate": 7.8125e-06,
+      "loss": 0.7485,
+      "step": 18450
+    },
+    {
+      "epoch": 3.85,
+      "learning_rate": 7.708333333333334e-06,
+      "loss": 0.8152,
+      "step": 18460
+    },
+    {
+      "epoch": 3.85,
+      "learning_rate": 7.6041666666666666e-06,
+      "loss": 0.7873,
+      "step": 18470
+    },
+    {
+      "epoch": 3.85,
+      "learning_rate": 7.5e-06,
+      "loss": 0.8258,
+      "step": 18480
+    },
+    {
+      "epoch": 3.85,
+      "learning_rate": 7.395833333333334e-06,
+      "loss": 0.7294,
+      "step": 18490
+    },
+    {
+      "epoch": 3.85,
+      "learning_rate": 7.2916666666666674e-06,
+      "loss": 0.771,
+      "step": 18500
+    },
+    {
+      "epoch": 3.85,
+      "eval_accuracy": 0.8223333333333334,
+      "eval_loss": 0.8068689703941345,
+      "eval_runtime": 60.2044,
+      "eval_samples_per_second": 99.66,
+      "eval_steps_per_second": 12.458,
+      "step": 18500
+    },
+    {
+      "epoch": 3.86,
+      "learning_rate": 7.187499999999999e-06,
+      "loss": 0.8016,
+      "step": 18510
+    },
+    {
+      "epoch": 3.86,
+      "learning_rate": 7.083333333333334e-06,
+      "loss": 0.8057,
+      "step": 18520
+    },
+    {
+      "epoch": 3.86,
+      "learning_rate": 6.9791666666666675e-06,
+      "loss": 0.7622,
+      "step": 18530
+    },
+    {
+      "epoch": 3.86,
+      "learning_rate": 6.875000000000001e-06,
+      "loss": 0.784,
+      "step": 18540
+    },
+    {
+      "epoch": 3.86,
+      "learning_rate": 6.770833333333333e-06,
+      "loss": 0.7631,
+      "step": 18550
+    },
+    {
+      "epoch": 3.87,
+      "learning_rate": 6.666666666666667e-06,
+      "loss": 0.8692,
+      "step": 18560
+    },
+    {
+      "epoch": 3.87,
+      "learning_rate": 6.5625e-06,
+      "loss": 0.8098,
+      "step": 18570
+    },
+    {
+      "epoch": 3.87,
+      "learning_rate": 6.458333333333334e-06,
+      "loss": 0.8233,
+      "step": 18580
+    },
+    {
+      "epoch": 3.87,
+      "learning_rate": 6.354166666666667e-06,
+      "loss": 0.8647,
+      "step": 18590
+    },
+    {
+      "epoch": 3.88,
+      "learning_rate": 6.25e-06,
+      "loss": 0.7704,
+      "step": 18600
+    },
+    {
+      "epoch": 3.88,
+      "eval_accuracy": 0.8223333333333334,
+      "eval_loss": 0.8067442178726196,
+      "eval_runtime": 60.2868,
+      "eval_samples_per_second": 99.524,
+      "eval_steps_per_second": 12.441,
+      "step": 18600
+    },
+    {
+      "epoch": 3.88,
+      "learning_rate": 6.145833333333333e-06,
+      "loss": 0.886,
+      "step": 18610
+    },
+    {
+      "epoch": 3.88,
+      "learning_rate": 6.041666666666667e-06,
+      "loss": 0.7848,
+      "step": 18620
+    },
+    {
+      "epoch": 3.88,
+      "learning_rate": 5.9375e-06,
+      "loss": 0.7116,
+      "step": 18630
+    },
+    {
+      "epoch": 3.88,
+      "learning_rate": 5.833333333333334e-06,
+      "loss": 0.798,
+      "step": 18640
+    },
+    {
+      "epoch": 3.89,
+      "learning_rate": 5.729166666666667e-06,
+      "loss": 0.7944,
+      "step": 18650
+    },
+    {
+      "epoch": 3.89,
+      "learning_rate": 5.625e-06,
+      "loss": 0.6975,
+      "step": 18660
+    },
+    {
+      "epoch": 3.89,
+      "learning_rate": 5.520833333333333e-06,
+      "loss": 0.8092,
+      "step": 18670
+    },
+    {
+      "epoch": 3.89,
+      "learning_rate": 5.416666666666667e-06,
+      "loss": 0.8547,
+      "step": 18680
+    },
+    {
+      "epoch": 3.89,
+      "learning_rate": 5.3125e-06,
+      "loss": 0.8734,
+      "step": 18690
+    },
+    {
+      "epoch": 3.9,
+      "learning_rate": 5.208333333333334e-06,
+      "loss": 0.7695,
+      "step": 18700
+    },
+    {
+      "epoch": 3.9,
+      "eval_accuracy": 0.8223333333333334,
+      "eval_loss": 0.8066417574882507,
+      "eval_runtime": 59.8725,
+      "eval_samples_per_second": 100.213,
+      "eval_steps_per_second": 12.527,
+      "step": 18700
+    },
+    {
+      "epoch": 3.9,
+      "learning_rate": 5.104166666666667e-06,
+      "loss": 0.8462,
+      "step": 18710
+    },
+    {
+      "epoch": 3.9,
+      "learning_rate": 5e-06,
+      "loss": 0.7186,
+      "step": 18720
+    },
+    {
+      "epoch": 3.9,
+      "learning_rate": 4.895833333333333e-06,
+      "loss": 0.8693,
+      "step": 18730
+    },
+    {
+      "epoch": 3.9,
+      "learning_rate": 4.791666666666667e-06,
+      "loss": 0.75,
+      "step": 18740
+    },
+    {
+      "epoch": 3.91,
+      "learning_rate": 4.6875000000000004e-06,
+      "loss": 0.7983,
+      "step": 18750
+    },
+    {
+      "epoch": 3.91,
+      "learning_rate": 4.583333333333333e-06,
+      "loss": 0.8552,
+      "step": 18760
+    },
+    {
+      "epoch": 3.91,
+      "learning_rate": 4.479166666666667e-06,
+      "loss": 0.8027,
+      "step": 18770
+    },
+    {
+      "epoch": 3.91,
+      "learning_rate": 4.375e-06,
+      "loss": 0.7105,
+      "step": 18780
+    },
+    {
+      "epoch": 3.91,
+      "learning_rate": 4.270833333333333e-06,
+      "loss": 0.8377,
+      "step": 18790
+    },
+    {
+      "epoch": 3.92,
+      "learning_rate": 4.166666666666667e-06,
+      "loss": 0.8958,
+      "step": 18800
+    },
+    {
+      "epoch": 3.92,
+      "eval_accuracy": 0.8223333333333334,
+      "eval_loss": 0.8065563440322876,
+      "eval_runtime": 60.0376,
+      "eval_samples_per_second": 99.937,
+      "eval_steps_per_second": 12.492,
+      "step": 18800
+    },
+    {
+      "epoch": 3.92,
+      "learning_rate": 4.0625000000000005e-06,
+      "loss": 0.8574,
+      "step": 18810
+    },
+    {
+      "epoch": 3.92,
+      "learning_rate": 3.958333333333333e-06,
+      "loss": 0.8074,
+      "step": 18820
+    },
+    {
+      "epoch": 3.92,
+      "learning_rate": 3.854166666666667e-06,
+      "loss": 0.8339,
+      "step": 18830
+    },
+    {
+      "epoch": 3.92,
+      "learning_rate": 3.75e-06,
+      "loss": 0.8494,
+      "step": 18840
+    },
+    {
+      "epoch": 3.93,
+      "learning_rate": 3.6458333333333337e-06,
+      "loss": 0.8277,
+      "step": 18850
+    },
+    {
+      "epoch": 3.93,
+      "learning_rate": 3.541666666666667e-06,
+      "loss": 0.8511,
+      "step": 18860
+    },
+    {
+      "epoch": 3.93,
+      "learning_rate": 3.4375000000000005e-06,
+      "loss": 0.7874,
+      "step": 18870
+    },
+    {
+      "epoch": 3.93,
+      "learning_rate": 3.3333333333333333e-06,
+      "loss": 0.885,
+      "step": 18880
+    },
+    {
+      "epoch": 3.94,
+      "learning_rate": 3.229166666666667e-06,
+      "loss": 0.8734,
+      "step": 18890
+    },
+    {
+      "epoch": 3.94,
+      "learning_rate": 3.125e-06,
+      "loss": 0.8342,
+      "step": 18900
+    },
+    {
+      "epoch": 3.94,
+      "eval_accuracy": 0.8223333333333334,
+      "eval_loss": 0.8064927458763123,
+      "eval_runtime": 60.0424,
+      "eval_samples_per_second": 99.929,
+      "eval_steps_per_second": 12.491,
+      "step": 18900
+    },
+    {
+      "epoch": 3.94,
+      "learning_rate": 3.0208333333333334e-06,
+      "loss": 0.859,
+      "step": 18910
+    },
+    {
+      "epoch": 3.94,
+      "learning_rate": 2.916666666666667e-06,
+      "loss": 0.7698,
+      "step": 18920
+    },
+    {
+      "epoch": 3.94,
+      "learning_rate": 2.8125e-06,
+      "loss": 0.9321,
+      "step": 18930
+    },
+    {
+      "epoch": 3.95,
+      "learning_rate": 2.7083333333333334e-06,
+      "loss": 0.8088,
+      "step": 18940
+    },
+    {
+      "epoch": 3.95,
+      "learning_rate": 2.604166666666667e-06,
+      "loss": 0.8441,
+      "step": 18950
+    },
+    {
+      "epoch": 3.95,
+      "learning_rate": 2.5e-06,
+      "loss": 0.8155,
+      "step": 18960
+    },
+    {
+      "epoch": 3.95,
+      "learning_rate": 2.3958333333333334e-06,
+      "loss": 0.8861,
+      "step": 18970
+    },
+    {
+      "epoch": 3.95,
+      "learning_rate": 2.2916666666666666e-06,
+      "loss": 0.862,
+      "step": 18980
+    },
+    {
+      "epoch": 3.96,
+      "learning_rate": 2.1875e-06,
+      "loss": 0.7503,
+      "step": 18990
+    },
+    {
+      "epoch": 3.96,
+      "learning_rate": 2.0833333333333334e-06,
+      "loss": 0.8725,
+      "step": 19000
+    },
+    {
+      "epoch": 3.96,
+      "eval_accuracy": 0.8225,
+      "eval_loss": 0.8064481019973755,
+      "eval_runtime": 60.021,
+      "eval_samples_per_second": 99.965,
+      "eval_steps_per_second": 12.496,
+      "step": 19000
+    },
+    {
+      "epoch": 3.96,
+      "learning_rate": 1.9791666666666666e-06,
+      "loss": 0.8692,
+      "step": 19010
+    },
+    {
+      "epoch": 3.96,
+      "learning_rate": 1.875e-06,
+      "loss": 0.73,
+      "step": 19020
+    },
+    {
+      "epoch": 3.96,
+      "learning_rate": 1.7708333333333335e-06,
+      "loss": 0.6945,
+      "step": 19030
+    },
+    {
+      "epoch": 3.97,
+      "learning_rate": 1.6666666666666667e-06,
+      "loss": 0.7785,
+      "step": 19040
+    },
+    {
+      "epoch": 3.97,
+      "learning_rate": 1.5625e-06,
+      "loss": 0.7192,
+      "step": 19050
+    },
+    {
+      "epoch": 3.97,
+      "learning_rate": 1.4583333333333335e-06,
+      "loss": 0.879,
+      "step": 19060
+    },
+    {
+      "epoch": 3.97,
+      "learning_rate": 1.3541666666666667e-06,
+      "loss": 0.9321,
+      "step": 19070
+    },
+    {
+      "epoch": 3.98,
+      "learning_rate": 1.25e-06,
+      "loss": 0.7998,
+      "step": 19080
+    },
+    {
+      "epoch": 3.98,
+      "learning_rate": 1.1458333333333333e-06,
+      "loss": 0.8346,
+      "step": 19090
+    },
+    {
+      "epoch": 3.98,
+      "learning_rate": 1.0416666666666667e-06,
+      "loss": 0.8657,
+      "step": 19100
+    },
+    {
+      "epoch": 3.98,
+      "eval_accuracy": 0.8225,
+      "eval_loss": 0.8064188361167908,
+      "eval_runtime": 60.3549,
+      "eval_samples_per_second": 99.412,
+      "eval_steps_per_second": 12.426,
+      "step": 19100
+    },
+    {
+      "epoch": 3.98,
+      "learning_rate": 9.375e-07,
+      "loss": 0.781,
+      "step": 19110
+    },
+    {
+      "epoch": 3.98,
+      "learning_rate": 8.333333333333333e-07,
+      "loss": 0.7806,
+      "step": 19120
+    },
+    {
+      "epoch": 3.99,
+      "learning_rate": 7.291666666666667e-07,
+      "loss": 0.8996,
+      "step": 19130
+    },
+    {
+      "epoch": 3.99,
+      "learning_rate": 6.25e-07,
+      "loss": 0.7965,
+      "step": 19140
+    },
+    {
+      "epoch": 3.99,
+      "learning_rate": 5.208333333333334e-07,
+      "loss": 0.8446,
+      "step": 19150
+    },
+    {
+      "epoch": 3.99,
+      "learning_rate": 4.1666666666666667e-07,
+      "loss": 0.8693,
+      "step": 19160
+    },
+    {
+      "epoch": 3.99,
+      "learning_rate": 3.125e-07,
+      "loss": 0.9884,
+      "step": 19170
+    },
+    {
+      "epoch": 4.0,
+      "learning_rate": 2.0833333333333333e-07,
+      "loss": 0.6687,
+      "step": 19180
+    },
+    {
+      "epoch": 4.0,
+      "learning_rate": 1.0416666666666667e-07,
+      "loss": 0.7632,
+      "step": 19190
+    },
+    {
+      "epoch": 4.0,
+      "learning_rate": 0.0,
+      "loss": 0.779,
+      "step": 19200
+    },
+    {
+      "epoch": 4.0,
+      "eval_accuracy": 0.8225,
+      "eval_loss": 0.8064092397689819,
+      "eval_runtime": 60.5888,
+      "eval_samples_per_second": 99.028,
+      "eval_steps_per_second": 12.379,
+      "step": 19200
+    },
+    {
+      "epoch": 4.0,
+      "step": 19200,
+      "total_flos": 435137090688000.0,
+      "train_loss": 1.0191231156388918,
+      "train_runtime": 13901.23,
+      "train_samples_per_second": 13.812,
+      "train_steps_per_second": 1.381
+    }
+  ],
+  "logging_steps": 10,
+  "max_steps": 19200,
+  "num_train_epochs": 4,
+  "save_steps": 100,
+  "total_flos": 435137090688000.0,
+  "trial_name": null,
+  "trial_params": null
+}