diff --git "a/trainer_state.json" "b/trainer_state.json"
new file mode 100644--- /dev/null
+++ "b/trainer_state.json"
@@ -0,0 +1,6019 @@
+{
+  "best_metric": null,
+  "best_model_checkpoint": null,
+  "epoch": 0.4,
+  "eval_steps": 500,
+  "global_step": 1000,
+  "is_hyper_param_search": false,
+  "is_local_process_zero": true,
+  "is_world_process_zero": true,
+  "log_history": [
+    {
+      "epoch": 0.0,
+      "learning_rate": 0.0,
+      "loss": 4.5165,
+      "step": 1
+    },
+    {
+      "epoch": 0.0,
+      "learning_rate": 3.766107507802368e-06,
+      "loss": 3.4213,
+      "step": 2
+    },
+    {
+      "epoch": 0.0,
+      "learning_rate": 5.969139173551163e-06,
+      "loss": 3.3537,
+      "step": 3
+    },
+    {
+      "epoch": 0.0,
+      "learning_rate": 7.532215015604736e-06,
+      "loss": 3.1693,
+      "step": 4
+    },
+    {
+      "epoch": 0.0,
+      "learning_rate": 8.744630830732543e-06,
+      "loss": 2.4221,
+      "step": 5
+    },
+    {
+      "epoch": 0.0,
+      "learning_rate": 9.735246681353532e-06,
+      "loss": 2.1383,
+      "step": 6
+    },
+    {
+      "epoch": 0.0,
+      "learning_rate": 1.0572800449027075e-05,
+      "loss": 2.0306,
+      "step": 7
+    },
+    {
+      "epoch": 0.0,
+      "learning_rate": 1.1298322523407103e-05,
+      "loss": 1.9562,
+      "step": 8
+    },
+    {
+      "epoch": 0.0,
+      "learning_rate": 1.1938278347102327e-05,
+      "loss": 1.8129,
+      "step": 9
+    },
+    {
+      "epoch": 0.0,
+      "learning_rate": 1.2510738338534914e-05,
+      "loss": 1.8146,
+      "step": 10
+    },
+    {
+      "epoch": 0.0,
+      "learning_rate": 1.3028591391678824e-05,
+      "loss": 1.75,
+      "step": 11
+    },
+    {
+      "epoch": 0.0,
+      "learning_rate": 1.3501354189155898e-05,
+      "loss": 1.7601,
+      "step": 12
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.3936253804661248e-05,
+      "loss": 1.8047,
+      "step": 13
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.433890795682944e-05,
+      "loss": 1.741,
+      "step": 14
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.4713770004283707e-05,
+      "loss": 1.6697,
+      "step": 15
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.5064430031209472e-05,
+      "loss": 1.6469,
+      "step": 16
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.5393824494296102e-05,
+      "loss": 1.7068,
+      "step": 17
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.5704385854904693e-05,
+      "loss": 1.64,
+      "step": 18
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.599815170098013e-05,
+      "loss": 1.6211,
+      "step": 19
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.6276845846337282e-05,
+      "loss": 1.5728,
+      "step": 20
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.6541939622578237e-05,
+      "loss": 1.6683,
+      "step": 21
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.6794698899481195e-05,
+      "loss": 1.5775,
+      "step": 22
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.703622064471548e-05,
+      "loss": 1.6736,
+      "step": 23
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.726746169695827e-05,
+      "loss": 1.4945,
+      "step": 24
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.7489261661465086e-05,
+      "loss": 1.5333,
+      "step": 25
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.7702361312463615e-05,
+      "loss": 1.5558,
+      "step": 26
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.7907417520653487e-05,
+      "loss": 1.6149,
+      "step": 27
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.810501546463181e-05,
+      "loss": 1.6485,
+      "step": 28
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.829567869851117e-05,
+      "loss": 1.5394,
+      "step": 29
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.8479877512086077e-05,
+      "loss": 1.5862,
+      "step": 30
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.8658035919674803e-05,
+      "loss": 1.5435,
+      "step": 31
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.8830537539011842e-05,
+      "loss": 1.5622,
+      "step": 32
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.899773056522999e-05,
+      "loss": 1.5619,
+      "step": 33
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.9159932002098473e-05,
+      "loss": 1.4924,
+      "step": 34
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.931743127975962e-05,
+      "loss": 1.4874,
+      "step": 35
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.9470493362707064e-05,
+      "loss": 1.6046,
+      "step": 36
+    },
+    {
+      "epoch": 0.01,
+      "learning_rate": 1.9619361431841504e-05,
+      "loss": 1.5288,
+      "step": 37
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 1.97642592087825e-05,
+      "loss": 1.6283,
+      "step": 38
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 1.9905392978212407e-05,
+      "loss": 1.5322,
+      "step": 39
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.004295335413965e-05,
+      "loss": 1.5998,
+      "step": 40
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.0177116828033792e-05,
+      "loss": 1.5683,
+      "step": 41
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.0308047130380608e-05,
+      "loss": 1.4936,
+      "step": 42
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.0435896432006947e-05,
+      "loss": 1.6115,
+      "step": 43
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.056080640728356e-05,
+      "loss": 1.5575,
+      "step": 44
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.0682909177834868e-05,
+      "loss": 1.6207,
+      "step": 45
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.080232815251785e-05,
+      "loss": 1.5923,
+      "step": 46
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.0919178777058486e-05,
+      "loss": 1.5452,
+      "step": 47
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.1033569204760637e-05,
+      "loss": 1.5158,
+      "step": 48
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.114560089805415e-05,
+      "loss": 1.5601,
+      "step": 49
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.1255369169267458e-05,
+      "loss": 1.5334,
+      "step": 50
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.1362963667847265e-05,
+      "loss": 1.5691,
+      "step": 51
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.1468468820265983e-05,
+      "loss": 1.5028,
+      "step": 52
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.1571964228025218e-05,
+      "loss": 1.5454,
+      "step": 53
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.1673525028455855e-05,
+      "loss": 1.6006,
+      "step": 54
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.177322222241137e-05,
+      "loss": 1.4916,
+      "step": 55
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.187112297243418e-05,
+      "loss": 1.6077,
+      "step": 56
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.1967290874531297e-05,
+      "loss": 1.4883,
+      "step": 57
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.2061786206313534e-05,
+      "loss": 1.5611,
+      "step": 58
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.2154666153923048e-05,
+      "loss": 1.5428,
+      "step": 59
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.224598501988844e-05,
+      "loss": 1.5831,
+      "step": 60
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.2335794413799414e-05,
+      "loss": 1.5652,
+      "step": 61
+    },
+    {
+      "epoch": 0.02,
+      "learning_rate": 2.242414342747717e-05,
+      "loss": 1.5943,
+      "step": 62
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.25110787961294e-05,
+      "loss": 1.5343,
+      "step": 63
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.2596645046814206e-05,
+      "loss": 1.5645,
+      "step": 64
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.268088463539379e-05,
+      "loss": 1.5379,
+      "step": 65
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.2763838073032354e-05,
+      "loss": 1.5951,
+      "step": 66
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.2845544043181804e-05,
+      "loss": 1.5023,
+      "step": 67
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.292603950990084e-05,
+      "loss": 1.5707,
+      "step": 68
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.3005359818266647e-05,
+      "loss": 1.4971,
+      "step": 69
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.308353878756199e-05,
+      "loss": 1.5805,
+      "step": 70
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.3160608797852573e-05,
+      "loss": 1.536,
+      "step": 71
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.323660087050943e-05,
+      "loss": 1.5557,
+      "step": 72
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.3311544743177515e-05,
+      "loss": 1.5579,
+      "step": 73
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.338546893964387e-05,
+      "loss": 1.5091,
+      "step": 74
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.345840083501625e-05,
+      "loss": 1.5924,
+      "step": 75
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.353036671658487e-05,
+      "loss": 1.5595,
+      "step": 76
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.3601391840705902e-05,
+      "loss": 1.5706,
+      "step": 77
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.3671500486014778e-05,
+      "loss": 1.6164,
+      "step": 78
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.3740716003249816e-05,
+      "loss": 1.5855,
+      "step": 79
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.3809060861942017e-05,
+      "loss": 1.5691,
+      "step": 80
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.3876556694204653e-05,
+      "loss": 1.5141,
+      "step": 81
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.3943224335836163e-05,
+      "loss": 1.5777,
+      "step": 82
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.4009083864931794e-05,
+      "loss": 1.5018,
+      "step": 83
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.4074154638182972e-05,
+      "loss": 1.6152,
+      "step": 84
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.413845532502865e-05,
+      "loss": 1.5293,
+      "step": 85
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.420200393980931e-05,
+      "loss": 1.5876,
+      "step": 86
+    },
+    {
+      "epoch": 0.03,
+      "learning_rate": 2.4264817872062332e-05,
+      "loss": 1.5332,
+      "step": 87
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.4326913915085934e-05,
+      "loss": 1.4766,
+      "step": 88
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.4388308292889336e-05,
+      "loss": 1.5407,
+      "step": 89
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.444901668563724e-05,
+      "loss": 1.5198,
+      "step": 90
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.4509054253688322e-05,
+      "loss": 1.4729,
+      "step": 91
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.456843566032022e-05,
+      "loss": 1.606,
+      "step": 92
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.4627175093225966e-05,
+      "loss": 1.5085,
+      "step": 93
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.4685286284860854e-05,
+      "loss": 1.4633,
+      "step": 94
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.4742782531712675e-05,
+      "loss": 1.6185,
+      "step": 95
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.4799676712563004e-05,
+      "loss": 1.5434,
+      "step": 96
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.4855981305802206e-05,
+      "loss": 1.5374,
+      "step": 97
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.491170840585652e-05,
+      "loss": 1.5458,
+      "step": 98
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.496686973878115e-05,
+      "loss": 1.5264,
+      "step": 99
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.502147667706983e-05,
+      "loss": 1.5333,
+      "step": 100
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.5075540253727476e-05,
+      "loss": 1.5848,
+      "step": 101
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.5129071175649633e-05,
+      "loss": 1.5931,
+      "step": 102
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.5182079836349212e-05,
+      "loss": 1.5538,
+      "step": 103
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.5234576328068347e-05,
+      "loss": 1.6146,
+      "step": 104
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.5286570453310784e-05,
+      "loss": 1.5744,
+      "step": 105
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.5338071735827585e-05,
+      "loss": 1.6265,
+      "step": 106
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.538908943108716e-05,
+      "loss": 1.5432,
+      "step": 107
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.5439632536258226e-05,
+      "loss": 1.5351,
+      "step": 108
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.548970979973268e-05,
+      "loss": 1.5001,
+      "step": 109
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.5539329730213738e-05,
+      "loss": 1.5091,
+      "step": 110
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.5588500605392663e-05,
+      "loss": 1.5585,
+      "step": 111
+    },
+    {
+      "epoch": 0.04,
+      "learning_rate": 2.5637230480236545e-05,
+      "loss": 1.5061,
+      "step": 112
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.5685527194907604e-05,
+      "loss": 1.5861,
+      "step": 113
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.5733398382333662e-05,
+      "loss": 1.5892,
+      "step": 114
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.5780851475448028e-05,
+      "loss": 1.5976,
+      "step": 115
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.5827893714115905e-05,
+      "loss": 1.5475,
+      "step": 116
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.5874532151763573e-05,
+      "loss": 1.5732,
+      "step": 117
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.592077366172542e-05,
+      "loss": 1.5952,
+      "step": 118
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.596662494332318e-05,
+      "loss": 1.5349,
+      "step": 119
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.601209252769081e-05,
+      "loss": 1.4836,
+      "step": 120
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.6057182783357648e-05,
+      "loss": 1.624,
+      "step": 121
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.6101901921601785e-05,
+      "loss": 1.5591,
+      "step": 122
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.614625600158495e-05,
+      "loss": 1.5208,
+      "step": 123
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.619025093527954e-05,
+      "loss": 1.5504,
+      "step": 124
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.6233892492197636e-05,
+      "loss": 1.5807,
+      "step": 125
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.627718630393177e-05,
+      "loss": 1.5035,
+      "step": 126
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.6320137868516095e-05,
+      "loss": 1.5653,
+      "step": 127
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.6362752554616574e-05,
+      "loss": 1.5405,
+      "step": 128
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.640503560555811e-05,
+      "loss": 1.5255,
+      "step": 129
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.644699214319616e-05,
+      "loss": 1.546,
+      "step": 130
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.6488627171640056e-05,
+      "loss": 1.558,
+      "step": 131
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.6529945580834722e-05,
+      "loss": 1.5623,
+      "step": 132
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.6570952150007206e-05,
+      "loss": 1.608,
+      "step": 133
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.6611651550984172e-05,
+      "loss": 1.5893,
+      "step": 134
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.6652048351386034e-05,
+      "loss": 1.6095,
+      "step": 135
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.669214701770321e-05,
+      "loss": 1.5615,
+      "step": 136
+    },
+    {
+      "epoch": 0.05,
+      "learning_rate": 2.673195191825972e-05,
+      "loss": 1.5553,
+      "step": 137
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.6771467326069015e-05,
+      "loss": 1.5408,
+      "step": 138
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.6810697421586644e-05,
+      "loss": 1.5712,
+      "step": 139
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.6849646295364353e-05,
+      "loss": 1.5378,
+      "step": 140
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.688831795060965e-05,
+      "loss": 1.4636,
+      "step": 141
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.692671630565494e-05,
+      "loss": 1.5078,
+      "step": 142
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.6964845196340068e-05,
+      "loss": 1.5634,
+      "step": 143
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.7002708378311796e-05,
+      "loss": 1.4993,
+      "step": 144
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.7040309529243713e-05,
+      "loss": 1.5287,
+      "step": 145
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.7077652250979883e-05,
+      "loss": 1.4434,
+      "step": 146
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.7114740071605312e-05,
+      "loss": 1.4874,
+      "step": 147
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.715157644744624e-05,
+      "loss": 1.5535,
+      "step": 148
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.718816476500306e-05,
+      "loss": 1.5692,
+      "step": 149
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.722450834281862e-05,
+      "loss": 1.4782,
+      "step": 150
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.7260610433284422e-05,
+      "loss": 1.5079,
+      "step": 151
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.7296474224387238e-05,
+      "loss": 1.4818,
+      "step": 152
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.7332102841398424e-05,
+      "loss": 1.4941,
+      "step": 153
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.736749934850827e-05,
+      "loss": 1.5161,
+      "step": 154
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.740266675040735e-05,
+      "loss": 1.5023,
+      "step": 155
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.7437607993817146e-05,
+      "loss": 1.469,
+      "step": 156
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.7472325968971688e-05,
+      "loss": 1.5666,
+      "step": 157
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.7506823511052187e-05,
+      "loss": 1.4928,
+      "step": 158
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.754110340157638e-05,
+      "loss": 1.6403,
+      "step": 159
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.7575168369744385e-05,
+      "loss": 1.5143,
+      "step": 160
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.7609021093742556e-05,
+      "loss": 1.4981,
+      "step": 161
+    },
+    {
+      "epoch": 0.06,
+      "learning_rate": 2.7642664202007014e-05,
+      "loss": 1.5233,
+      "step": 162
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.76761002744483e-05,
+      "loss": 1.5808,
+      "step": 163
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.770933184363853e-05,
+      "loss": 1.5209,
+      "step": 164
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.774236139596253e-05,
+      "loss": 1.5349,
+      "step": 165
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.777519137273416e-05,
+      "loss": 1.5669,
+      "step": 166
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.7807824171279102e-05,
+      "loss": 1.5411,
+      "step": 167
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.784026214598534e-05,
+      "loss": 1.6077,
+      "step": 168
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.7872507609322495e-05,
+      "loss": 1.5411,
+      "step": 169
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.7904562832831017e-05,
+      "loss": 1.5681,
+      "step": 170
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.793643004808246e-05,
+      "loss": 1.6056,
+      "step": 171
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.7968111447611682e-05,
+      "loss": 1.5456,
+      "step": 172
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.7999609185822085e-05,
+      "loss": 1.5328,
+      "step": 173
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.80309253798647e-05,
+      "loss": 1.477,
+      "step": 174
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.8062062110492168e-05,
+      "loss": 1.5172,
+      "step": 175
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.8093021422888295e-05,
+      "loss": 1.5437,
+      "step": 176
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.8123805327474207e-05,
+      "loss": 1.4796,
+      "step": 177
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.8154415800691704e-05,
+      "loss": 1.5864,
+      "step": 178
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.8184854785764733e-05,
+      "loss": 1.5418,
+      "step": 179
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.8215124193439607e-05,
+      "loss": 1.5499,
+      "step": 180
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.8245225902704774e-05,
+      "loss": 1.5771,
+      "step": 181
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.8275161761490687e-05,
+      "loss": 1.5521,
+      "step": 182
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.8304933587350577e-05,
+      "loss": 1.5235,
+      "step": 183
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.8334543168122588e-05,
+      "loss": 1.5984,
+      "step": 184
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.8363992262574043e-05,
+      "loss": 1.6229,
+      "step": 185
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.8393282601028337e-05,
+      "loss": 1.5181,
+      "step": 186
+    },
+    {
+      "epoch": 0.07,
+      "learning_rate": 2.8422415885974926e-05,
+      "loss": 1.492,
+      "step": 187
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.8451393792663218e-05,
+      "loss": 1.568,
+      "step": 188
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.8480217969680562e-05,
+      "loss": 1.5254,
+      "step": 189
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.8508890039515046e-05,
+      "loss": 1.6279,
+      "step": 190
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.8537411599103533e-05,
+      "loss": 1.6128,
+      "step": 191
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.8565784220365372e-05,
+      "loss": 1.5432,
+      "step": 192
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.8594009450722242e-05,
+      "loss": 1.5278,
+      "step": 193
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.8622088813604577e-05,
+      "loss": 1.4398,
+      "step": 194
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.8650023808944953e-05,
+      "loss": 1.6136,
+      "step": 195
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.867781591365888e-05,
+      "loss": 1.5062,
+      "step": 196
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.870546658211336e-05,
+      "loss": 1.5094,
+      "step": 197
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.8732977246583517e-05,
+      "loss": 1.4976,
+      "step": 198
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.8760349317697844e-05,
+      "loss": 1.6422,
+      "step": 199
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.878758418487219e-05,
+      "loss": 1.437,
+      "step": 200
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.881468321673297e-05,
+      "loss": 1.5398,
+      "step": 201
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.884164776152984e-05,
+      "loss": 1.586,
+      "step": 202
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.886847914753824e-05,
+      "loss": 1.5225,
+      "step": 203
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.8895178683452e-05,
+      "loss": 1.6455,
+      "step": 204
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.892174765876634e-05,
+      "loss": 1.5096,
+      "step": 205
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.894818734415158e-05,
+      "loss": 1.5859,
+      "step": 206
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.8974498991817806e-05,
+      "loss": 1.5266,
+      "step": 207
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.900068383587072e-05,
+      "loss": 1.5365,
+      "step": 208
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.9026743092658956e-05,
+      "loss": 1.467,
+      "step": 209
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.9052677961113148e-05,
+      "loss": 1.5297,
+      "step": 210
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.9078489623076903e-05,
+      "loss": 1.5388,
+      "step": 211
+    },
+    {
+      "epoch": 0.08,
+      "learning_rate": 2.9104179243629956e-05,
+      "loss": 1.5089,
+      "step": 212
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.9129747971403735e-05,
+      "loss": 1.5389,
+      "step": 213
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.915519693888953e-05,
+      "loss": 1.5564,
+      "step": 214
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.918052726273949e-05,
+      "loss": 1.5003,
+      "step": 215
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.9205740044060594e-05,
+      "loss": 1.5295,
+      "step": 216
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.9230836368701878e-05,
+      "loss": 1.5401,
+      "step": 217
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.925581730753505e-05,
+      "loss": 1.4998,
+      "step": 218
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.9280683916728677e-05,
+      "loss": 1.5309,
+      "step": 219
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.9305437238016106e-05,
+      "loss": 1.5559,
+      "step": 220
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.9330078298957347e-05,
+      "loss": 1.4652,
+      "step": 221
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.935460811319503e-05,
+      "loss": 1.54,
+      "step": 222
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.9379027680704603e-05,
+      "loss": 1.5462,
+      "step": 223
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.9403337988038913e-05,
+      "loss": 1.4978,
+      "step": 224
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.9427540008567415e-05,
+      "loss": 1.5674,
+      "step": 225
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.9451634702709975e-05,
+      "loss": 1.5614,
+      "step": 226
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.9475623018165583e-05,
+      "loss": 1.4354,
+      "step": 227
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.9499505890136033e-05,
+      "loss": 1.5795,
+      "step": 228
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.9523284241544667e-05,
+      "loss": 1.5677,
+      "step": 229
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.9546958983250396e-05,
+      "loss": 1.5935,
+      "step": 230
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.957053101425706e-05,
+      "loss": 1.5294,
+      "step": 231
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.9594001221918273e-05,
+      "loss": 1.5337,
+      "step": 232
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.9617370482137845e-05,
+      "loss": 1.5835,
+      "step": 233
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.9640639659565944e-05,
+      "loss": 1.5282,
+      "step": 234
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.966380960779103e-05,
+      "loss": 1.5515,
+      "step": 235
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.9686881169527786e-05,
+      "loss": 1.6003,
+      "step": 236
+    },
+    {
+      "epoch": 0.09,
+      "learning_rate": 2.970985517680098e-05,
+      "loss": 1.5339,
+      "step": 237
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.9732732451125548e-05,
+      "loss": 1.481,
+      "step": 238
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.975551380368283e-05,
+      "loss": 1.5542,
+      "step": 239
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.977820003549318e-05,
+      "loss": 1.5815,
+      "step": 240
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.9800791937584957e-05,
+      "loss": 1.5356,
+      "step": 241
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.9823290291160016e-05,
+      "loss": 1.5722,
+      "step": 242
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.9845695867755812e-05,
+      "loss": 1.4285,
+      "step": 243
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.9868009429404153e-05,
+      "loss": 1.5472,
+      "step": 244
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.9890231728786696e-05,
+      "loss": 1.5142,
+      "step": 245
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.9912363509387323e-05,
+      "loss": 1.5501,
+      "step": 246
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.993440550564138e-05,
+      "loss": 1.4725,
+      "step": 247
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.9956358443081907e-05,
+      "loss": 1.5241,
+      "step": 248
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.9978223038482956e-05,
+      "loss": 1.5359,
+      "step": 249
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 3e-05,
+      "loss": 1.5386,
+      "step": 250
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 3e-05,
+      "loss": 1.563,
+      "step": 251
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.9986666666666665e-05,
+      "loss": 1.6677,
+      "step": 252
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.9973333333333333e-05,
+      "loss": 1.5242,
+      "step": 253
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.996e-05,
+      "loss": 1.5458,
+      "step": 254
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.994666666666667e-05,
+      "loss": 1.5279,
+      "step": 255
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.9933333333333334e-05,
+      "loss": 1.5346,
+      "step": 256
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.9919999999999998e-05,
+      "loss": 1.5584,
+      "step": 257
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.990666666666667e-05,
+      "loss": 1.5168,
+      "step": 258
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.9893333333333334e-05,
+      "loss": 1.6273,
+      "step": 259
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.9880000000000002e-05,
+      "loss": 1.5293,
+      "step": 260
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.9866666666666666e-05,
+      "loss": 1.4963,
+      "step": 261
+    },
+    {
+      "epoch": 0.1,
+      "learning_rate": 2.985333333333333e-05,
+      "loss": 1.5661,
+      "step": 262
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.9840000000000002e-05,
+      "loss": 1.5848,
+      "step": 263
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.9826666666666667e-05,
+      "loss": 1.4995,
+      "step": 264
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.9813333333333335e-05,
+      "loss": 1.6094,
+      "step": 265
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.98e-05,
+      "loss": 1.5925,
+      "step": 266
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.9786666666666667e-05,
+      "loss": 1.5695,
+      "step": 267
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.9773333333333335e-05,
+      "loss": 1.4849,
+      "step": 268
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.976e-05,
+      "loss": 1.521,
+      "step": 269
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.9746666666666668e-05,
+      "loss": 1.565,
+      "step": 270
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.9733333333333336e-05,
+      "loss": 1.5335,
+      "step": 271
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.972e-05,
+      "loss": 1.5237,
+      "step": 272
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.9706666666666668e-05,
+      "loss": 1.5084,
+      "step": 273
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.9693333333333333e-05,
+      "loss": 1.5513,
+      "step": 274
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.968e-05,
+      "loss": 1.5825,
+      "step": 275
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.966666666666667e-05,
+      "loss": 1.5461,
+      "step": 276
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.9653333333333333e-05,
+      "loss": 1.481,
+      "step": 277
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.964e-05,
+      "loss": 1.6019,
+      "step": 278
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.9626666666666665e-05,
+      "loss": 1.506,
+      "step": 279
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.9613333333333337e-05,
+      "loss": 1.5474,
+      "step": 280
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.96e-05,
+      "loss": 1.3877,
+      "step": 281
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.9586666666666666e-05,
+      "loss": 1.5135,
+      "step": 282
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.9573333333333334e-05,
+      "loss": 1.4685,
+      "step": 283
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.9559999999999998e-05,
+      "loss": 1.5293,
+      "step": 284
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.954666666666667e-05,
+      "loss": 1.5053,
+      "step": 285
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.9533333333333334e-05,
+      "loss": 1.4992,
+      "step": 286
+    },
+    {
+      "epoch": 0.11,
+      "learning_rate": 2.9520000000000002e-05,
+      "loss": 1.607,
+      "step": 287
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.9506666666666667e-05,
+      "loss": 1.5352,
+      "step": 288
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.9493333333333334e-05,
+      "loss": 1.5809,
+      "step": 289
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.9480000000000002e-05,
+      "loss": 1.5157,
+      "step": 290
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.9466666666666667e-05,
+      "loss": 1.5879,
+      "step": 291
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.9453333333333335e-05,
+      "loss": 1.5546,
+      "step": 292
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.944e-05,
+      "loss": 1.5912,
+      "step": 293
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.9426666666666667e-05,
+      "loss": 1.5039,
+      "step": 294
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.9413333333333335e-05,
+      "loss": 1.5198,
+      "step": 295
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.94e-05,
+      "loss": 1.5953,
+      "step": 296
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.9386666666666668e-05,
+      "loss": 1.564,
+      "step": 297
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.9373333333333336e-05,
+      "loss": 1.5385,
+      "step": 298
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.936e-05,
+      "loss": 1.5311,
+      "step": 299
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.9346666666666668e-05,
+      "loss": 1.5753,
+      "step": 300
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.9333333333333333e-05,
+      "loss": 1.5432,
+      "step": 301
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.9320000000000004e-05,
+      "loss": 1.4748,
+      "step": 302
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.930666666666667e-05,
+      "loss": 1.5456,
+      "step": 303
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.9293333333333333e-05,
+      "loss": 1.5569,
+      "step": 304
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.928e-05,
+      "loss": 1.5276,
+      "step": 305
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.9266666666666665e-05,
+      "loss": 1.572,
+      "step": 306
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.9253333333333337e-05,
+      "loss": 1.5648,
+      "step": 307
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.924e-05,
+      "loss": 1.5473,
+      "step": 308
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.9226666666666666e-05,
+      "loss": 1.5857,
+      "step": 309
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.9213333333333334e-05,
+      "loss": 1.5218,
+      "step": 310
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.92e-05,
+      "loss": 1.5582,
+      "step": 311
+    },
+    {
+      "epoch": 0.12,
+      "learning_rate": 2.918666666666667e-05,
+      "loss": 1.5512,
+      "step": 312
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.9173333333333334e-05,
+      "loss": 1.5935,
+      "step": 313
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.916e-05,
+      "loss": 1.5479,
+      "step": 314
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.9146666666666667e-05,
+      "loss": 1.5527,
+      "step": 315
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.9133333333333334e-05,
+      "loss": 1.6041,
+      "step": 316
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.9120000000000002e-05,
+      "loss": 1.5888,
+      "step": 317
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.9106666666666667e-05,
+      "loss": 1.523,
+      "step": 318
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.909333333333333e-05,
+      "loss": 1.5432,
+      "step": 319
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.9080000000000003e-05,
+      "loss": 1.5338,
+      "step": 320
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.9066666666666667e-05,
+      "loss": 1.5441,
+      "step": 321
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.9053333333333335e-05,
+      "loss": 1.5262,
+      "step": 322
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.904e-05,
+      "loss": 1.551,
+      "step": 323
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.9026666666666664e-05,
+      "loss": 1.5478,
+      "step": 324
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.9013333333333336e-05,
+      "loss": 1.4332,
+      "step": 325
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.9e-05,
+      "loss": 1.6377,
+      "step": 326
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.8986666666666668e-05,
+      "loss": 1.6133,
+      "step": 327
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.8973333333333333e-05,
+      "loss": 1.5437,
+      "step": 328
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.896e-05,
+      "loss": 1.4997,
+      "step": 329
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.894666666666667e-05,
+      "loss": 1.555,
+      "step": 330
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.8933333333333333e-05,
+      "loss": 1.4687,
+      "step": 331
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.892e-05,
+      "loss": 1.5648,
+      "step": 332
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.890666666666667e-05,
+      "loss": 1.5436,
+      "step": 333
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.8893333333333333e-05,
+      "loss": 1.4425,
+      "step": 334
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.888e-05,
+      "loss": 1.5411,
+      "step": 335
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.8866666666666666e-05,
+      "loss": 1.4903,
+      "step": 336
+    },
+    {
+      "epoch": 0.13,
+      "learning_rate": 2.8853333333333334e-05,
+      "loss": 1.5232,
+      "step": 337
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.8840000000000002e-05,
+      "loss": 1.5002,
+      "step": 338
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.8826666666666666e-05,
+      "loss": 1.5845,
+      "step": 339
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.8813333333333334e-05,
+      "loss": 1.5987,
+      "step": 340
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.88e-05,
+      "loss": 1.5157,
+      "step": 341
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.878666666666667e-05,
+      "loss": 1.5651,
+      "step": 342
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.8773333333333335e-05,
+      "loss": 1.5299,
+      "step": 343
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.876e-05,
+      "loss": 1.5135,
+      "step": 344
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.8746666666666667e-05,
+      "loss": 1.5678,
+      "step": 345
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.873333333333333e-05,
+      "loss": 1.5,
+      "step": 346
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.8720000000000003e-05,
+      "loss": 1.5604,
+      "step": 347
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.8706666666666667e-05,
+      "loss": 1.5649,
+      "step": 348
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.8693333333333335e-05,
+      "loss": 1.4908,
+      "step": 349
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.868e-05,
+      "loss": 1.42,
+      "step": 350
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.8666666666666668e-05,
+      "loss": 1.5167,
+      "step": 351
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.8653333333333336e-05,
+      "loss": 1.5254,
+      "step": 352
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.864e-05,
+      "loss": 1.5058,
+      "step": 353
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.8626666666666668e-05,
+      "loss": 1.5567,
+      "step": 354
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.8613333333333333e-05,
+      "loss": 1.5843,
+      "step": 355
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.86e-05,
+      "loss": 1.5579,
+      "step": 356
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.858666666666667e-05,
+      "loss": 1.5239,
+      "step": 357
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.8573333333333333e-05,
+      "loss": 1.5786,
+      "step": 358
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.856e-05,
+      "loss": 1.5725,
+      "step": 359
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.854666666666667e-05,
+      "loss": 1.542,
+      "step": 360
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.8533333333333333e-05,
+      "loss": 1.4624,
+      "step": 361
+    },
+    {
+      "epoch": 0.14,
+      "learning_rate": 2.852e-05,
+      "loss": 1.5548,
+      "step": 362
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.8506666666666666e-05,
+      "loss": 1.56,
+      "step": 363
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.8493333333333337e-05,
+      "loss": 1.4622,
+      "step": 364
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.8480000000000002e-05,
+      "loss": 1.5852,
+      "step": 365
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.8466666666666666e-05,
+      "loss": 1.5954,
+      "step": 366
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.8453333333333334e-05,
+      "loss": 1.5616,
+      "step": 367
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.844e-05,
+      "loss": 1.6312,
+      "step": 368
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.842666666666667e-05,
+      "loss": 1.5727,
+      "step": 369
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.8413333333333335e-05,
+      "loss": 1.5443,
+      "step": 370
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.84e-05,
+      "loss": 1.5538,
+      "step": 371
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.8386666666666667e-05,
+      "loss": 1.4765,
+      "step": 372
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.8373333333333335e-05,
+      "loss": 1.4851,
+      "step": 373
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.8360000000000003e-05,
+      "loss": 1.5151,
+      "step": 374
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.8346666666666667e-05,
+      "loss": 1.4876,
+      "step": 375
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.8333333333333332e-05,
+      "loss": 1.4796,
+      "step": 376
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.832e-05,
+      "loss": 1.509,
+      "step": 377
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.8306666666666668e-05,
+      "loss": 1.5609,
+      "step": 378
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.8293333333333336e-05,
+      "loss": 1.5707,
+      "step": 379
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.828e-05,
+      "loss": 1.5474,
+      "step": 380
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.8266666666666665e-05,
+      "loss": 1.5182,
+      "step": 381
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.8253333333333336e-05,
+      "loss": 1.5341,
+      "step": 382
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.824e-05,
+      "loss": 1.5569,
+      "step": 383
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.822666666666667e-05,
+      "loss": 1.5359,
+      "step": 384
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.8213333333333333e-05,
+      "loss": 1.5388,
+      "step": 385
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.8199999999999998e-05,
+      "loss": 1.4743,
+      "step": 386
+    },
+    {
+      "epoch": 0.15,
+      "learning_rate": 2.818666666666667e-05,
+      "loss": 1.5285,
+      "step": 387
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.8173333333333334e-05,
+      "loss": 1.5755,
+      "step": 388
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.816e-05,
+      "loss": 1.514,
+      "step": 389
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.8146666666666666e-05,
+      "loss": 1.4828,
+      "step": 390
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.8133333333333334e-05,
+      "loss": 1.6099,
+      "step": 391
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.8120000000000002e-05,
+      "loss": 1.5053,
+      "step": 392
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.8106666666666666e-05,
+      "loss": 1.6172,
+      "step": 393
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.8093333333333334e-05,
+      "loss": 1.5092,
+      "step": 394
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.8080000000000002e-05,
+      "loss": 1.5855,
+      "step": 395
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.8066666666666667e-05,
+      "loss": 1.5085,
+      "step": 396
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.8053333333333335e-05,
+      "loss": 1.56,
+      "step": 397
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.804e-05,
+      "loss": 1.5548,
+      "step": 398
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.8026666666666667e-05,
+      "loss": 1.5056,
+      "step": 399
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.8013333333333335e-05,
+      "loss": 1.5048,
+      "step": 400
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.8e-05,
+      "loss": 1.4919,
+      "step": 401
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.7986666666666668e-05,
+      "loss": 1.5126,
+      "step": 402
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.7973333333333332e-05,
+      "loss": 1.5957,
+      "step": 403
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.7960000000000003e-05,
+      "loss": 1.5604,
+      "step": 404
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.7946666666666668e-05,
+      "loss": 1.563,
+      "step": 405
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.7933333333333332e-05,
+      "loss": 1.5031,
+      "step": 406
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.792e-05,
+      "loss": 1.5209,
+      "step": 407
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.7906666666666665e-05,
+      "loss": 1.4971,
+      "step": 408
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.7893333333333336e-05,
+      "loss": 1.5222,
+      "step": 409
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.788e-05,
+      "loss": 1.5061,
+      "step": 410
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.7866666666666665e-05,
+      "loss": 1.547,
+      "step": 411
+    },
+    {
+      "epoch": 0.16,
+      "learning_rate": 2.7853333333333333e-05,
+      "loss": 1.5352,
+      "step": 412
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.784e-05,
+      "loss": 1.6282,
+      "step": 413
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.782666666666667e-05,
+      "loss": 1.5489,
+      "step": 414
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.7813333333333334e-05,
+      "loss": 1.6187,
+      "step": 415
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.78e-05,
+      "loss": 1.5975,
+      "step": 416
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.7786666666666666e-05,
+      "loss": 1.436,
+      "step": 417
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.7773333333333334e-05,
+      "loss": 1.5495,
+      "step": 418
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.7760000000000002e-05,
+      "loss": 1.501,
+      "step": 419
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.7746666666666666e-05,
+      "loss": 1.5242,
+      "step": 420
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.7733333333333334e-05,
+      "loss": 1.4816,
+      "step": 421
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.7720000000000002e-05,
+      "loss": 1.5331,
+      "step": 422
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.7706666666666667e-05,
+      "loss": 1.5612,
+      "step": 423
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.7693333333333335e-05,
+      "loss": 1.4581,
+      "step": 424
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.768e-05,
+      "loss": 1.5832,
+      "step": 425
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.766666666666667e-05,
+      "loss": 1.5117,
+      "step": 426
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.7653333333333335e-05,
+      "loss": 1.5137,
+      "step": 427
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.764e-05,
+      "loss": 1.4831,
+      "step": 428
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.7626666666666668e-05,
+      "loss": 1.5445,
+      "step": 429
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.7613333333333332e-05,
+      "loss": 1.5741,
+      "step": 430
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.7600000000000003e-05,
+      "loss": 1.5129,
+      "step": 431
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.7586666666666668e-05,
+      "loss": 1.5163,
+      "step": 432
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.7573333333333332e-05,
+      "loss": 1.5179,
+      "step": 433
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.756e-05,
+      "loss": 1.5207,
+      "step": 434
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.754666666666667e-05,
+      "loss": 1.5838,
+      "step": 435
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.7533333333333336e-05,
+      "loss": 1.5378,
+      "step": 436
+    },
+    {
+      "epoch": 0.17,
+      "learning_rate": 2.752e-05,
+      "loss": 1.5128,
+      "step": 437
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.7506666666666665e-05,
+      "loss": 1.5216,
+      "step": 438
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.7493333333333333e-05,
+      "loss": 1.5524,
+      "step": 439
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.748e-05,
+      "loss": 1.6045,
+      "step": 440
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.746666666666667e-05,
+      "loss": 1.5582,
+      "step": 441
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.7453333333333334e-05,
+      "loss": 1.5866,
+      "step": 442
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.7439999999999998e-05,
+      "loss": 1.528,
+      "step": 443
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.742666666666667e-05,
+      "loss": 1.499,
+      "step": 444
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.7413333333333334e-05,
+      "loss": 1.4843,
+      "step": 445
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.7400000000000002e-05,
+      "loss": 1.6009,
+      "step": 446
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.7386666666666666e-05,
+      "loss": 1.5048,
+      "step": 447
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.737333333333333e-05,
+      "loss": 1.5397,
+      "step": 448
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.7360000000000002e-05,
+      "loss": 1.5335,
+      "step": 449
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.7346666666666667e-05,
+      "loss": 1.5629,
+      "step": 450
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.7333333333333335e-05,
+      "loss": 1.4812,
+      "step": 451
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.732e-05,
+      "loss": 1.5774,
+      "step": 452
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.7306666666666667e-05,
+      "loss": 1.391,
+      "step": 453
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.7293333333333335e-05,
+      "loss": 1.5705,
+      "step": 454
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.728e-05,
+      "loss": 1.5316,
+      "step": 455
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.7266666666666668e-05,
+      "loss": 1.5311,
+      "step": 456
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.7253333333333336e-05,
+      "loss": 1.5321,
+      "step": 457
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.724e-05,
+      "loss": 1.5619,
+      "step": 458
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.7226666666666668e-05,
+      "loss": 1.5105,
+      "step": 459
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.7213333333333333e-05,
+      "loss": 1.5909,
+      "step": 460
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.72e-05,
+      "loss": 1.5776,
+      "step": 461
+    },
+    {
+      "epoch": 0.18,
+      "learning_rate": 2.718666666666667e-05,
+      "loss": 1.5904,
+      "step": 462
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.7173333333333333e-05,
+      "loss": 1.567,
+      "step": 463
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.716e-05,
+      "loss": 1.4882,
+      "step": 464
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.7146666666666665e-05,
+      "loss": 1.5077,
+      "step": 465
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.7133333333333337e-05,
+      "loss": 1.4829,
+      "step": 466
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.712e-05,
+      "loss": 1.5555,
+      "step": 467
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.7106666666666666e-05,
+      "loss": 1.5319,
+      "step": 468
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.7093333333333334e-05,
+      "loss": 1.5801,
+      "step": 469
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.7079999999999998e-05,
+      "loss": 1.5014,
+      "step": 470
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.706666666666667e-05,
+      "loss": 1.458,
+      "step": 471
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.7053333333333334e-05,
+      "loss": 1.5468,
+      "step": 472
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.704e-05,
+      "loss": 1.5266,
+      "step": 473
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.7026666666666667e-05,
+      "loss": 1.5343,
+      "step": 474
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.7013333333333334e-05,
+      "loss": 1.5379,
+      "step": 475
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.7000000000000002e-05,
+      "loss": 1.5696,
+      "step": 476
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.6986666666666667e-05,
+      "loss": 1.5065,
+      "step": 477
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.6973333333333335e-05,
+      "loss": 1.4877,
+      "step": 478
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.696e-05,
+      "loss": 1.4811,
+      "step": 479
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.6946666666666667e-05,
+      "loss": 1.5959,
+      "step": 480
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.6933333333333335e-05,
+      "loss": 1.5255,
+      "step": 481
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.692e-05,
+      "loss": 1.5293,
+      "step": 482
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.6906666666666668e-05,
+      "loss": 1.5394,
+      "step": 483
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.6893333333333336e-05,
+      "loss": 1.5403,
+      "step": 484
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.688e-05,
+      "loss": 1.5197,
+      "step": 485
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.6866666666666668e-05,
+      "loss": 1.4982,
+      "step": 486
+    },
+    {
+      "epoch": 0.19,
+      "learning_rate": 2.6853333333333333e-05,
+      "loss": 1.5219,
+      "step": 487
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.6840000000000004e-05,
+      "loss": 1.5184,
+      "step": 488
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.682666666666667e-05,
+      "loss": 1.5185,
+      "step": 489
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.6813333333333333e-05,
+      "loss": 1.5189,
+      "step": 490
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.68e-05,
+      "loss": 1.5774,
+      "step": 491
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.6786666666666665e-05,
+      "loss": 1.5469,
+      "step": 492
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.6773333333333337e-05,
+      "loss": 1.5744,
+      "step": 493
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.676e-05,
+      "loss": 1.5365,
+      "step": 494
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.6746666666666666e-05,
+      "loss": 1.5517,
+      "step": 495
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.6733333333333334e-05,
+      "loss": 1.5556,
+      "step": 496
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.672e-05,
+      "loss": 1.4919,
+      "step": 497
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.670666666666667e-05,
+      "loss": 1.5244,
+      "step": 498
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.6693333333333334e-05,
+      "loss": 1.4582,
+      "step": 499
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.668e-05,
+      "loss": 1.5361,
+      "step": 500
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.6666666666666667e-05,
+      "loss": 1.5282,
+      "step": 501
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.6653333333333335e-05,
+      "loss": 1.5177,
+      "step": 502
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.6640000000000002e-05,
+      "loss": 1.5771,
+      "step": 503
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.6626666666666667e-05,
+      "loss": 1.5316,
+      "step": 504
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.661333333333333e-05,
+      "loss": 1.5777,
+      "step": 505
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.6600000000000003e-05,
+      "loss": 1.4884,
+      "step": 506
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.6586666666666667e-05,
+      "loss": 1.4878,
+      "step": 507
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.6573333333333335e-05,
+      "loss": 1.5379,
+      "step": 508
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.656e-05,
+      "loss": 1.4575,
+      "step": 509
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.6546666666666664e-05,
+      "loss": 1.5076,
+      "step": 510
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.6533333333333336e-05,
+      "loss": 1.4982,
+      "step": 511
+    },
+    {
+      "epoch": 0.2,
+      "learning_rate": 2.652e-05,
+      "loss": 1.5045,
+      "step": 512
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.6506666666666668e-05,
+      "loss": 1.4891,
+      "step": 513
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.6493333333333333e-05,
+      "loss": 1.6047,
+      "step": 514
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.648e-05,
+      "loss": 1.473,
+      "step": 515
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.646666666666667e-05,
+      "loss": 1.4637,
+      "step": 516
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.6453333333333333e-05,
+      "loss": 1.5469,
+      "step": 517
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.644e-05,
+      "loss": 1.4746,
+      "step": 518
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.642666666666667e-05,
+      "loss": 1.5065,
+      "step": 519
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.6413333333333333e-05,
+      "loss": 1.5568,
+      "step": 520
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.64e-05,
+      "loss": 1.5672,
+      "step": 521
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.6386666666666666e-05,
+      "loss": 1.5188,
+      "step": 522
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.6373333333333334e-05,
+      "loss": 1.5379,
+      "step": 523
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.6360000000000002e-05,
+      "loss": 1.5839,
+      "step": 524
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.6346666666666666e-05,
+      "loss": 1.6089,
+      "step": 525
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.6333333333333334e-05,
+      "loss": 1.523,
+      "step": 526
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.632e-05,
+      "loss": 1.5876,
+      "step": 527
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.630666666666667e-05,
+      "loss": 1.5125,
+      "step": 528
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.6293333333333335e-05,
+      "loss": 1.4376,
+      "step": 529
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.628e-05,
+      "loss": 1.5605,
+      "step": 530
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.6266666666666667e-05,
+      "loss": 1.5303,
+      "step": 531
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.625333333333333e-05,
+      "loss": 1.5657,
+      "step": 532
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.6240000000000003e-05,
+      "loss": 1.45,
+      "step": 533
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.6226666666666667e-05,
+      "loss": 1.5821,
+      "step": 534
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.6213333333333332e-05,
+      "loss": 1.5519,
+      "step": 535
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.62e-05,
+      "loss": 1.4801,
+      "step": 536
+    },
+    {
+      "epoch": 0.21,
+      "learning_rate": 2.6186666666666668e-05,
+      "loss": 1.5154,
+      "step": 537
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.6173333333333336e-05,
+      "loss": 1.5556,
+      "step": 538
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.616e-05,
+      "loss": 1.5576,
+      "step": 539
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.6146666666666668e-05,
+      "loss": 1.5441,
+      "step": 540
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.6133333333333333e-05,
+      "loss": 1.452,
+      "step": 541
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.612e-05,
+      "loss": 1.4945,
+      "step": 542
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.610666666666667e-05,
+      "loss": 1.5354,
+      "step": 543
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.6093333333333333e-05,
+      "loss": 1.5144,
+      "step": 544
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.608e-05,
+      "loss": 1.5199,
+      "step": 545
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.606666666666667e-05,
+      "loss": 1.5997,
+      "step": 546
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.6053333333333333e-05,
+      "loss": 1.5097,
+      "step": 547
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.604e-05,
+      "loss": 1.5343,
+      "step": 548
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.6026666666666666e-05,
+      "loss": 1.5518,
+      "step": 549
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.6013333333333337e-05,
+      "loss": 1.5076,
+      "step": 550
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.6000000000000002e-05,
+      "loss": 1.5312,
+      "step": 551
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.5986666666666666e-05,
+      "loss": 1.4842,
+      "step": 552
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.5973333333333334e-05,
+      "loss": 1.5454,
+      "step": 553
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.596e-05,
+      "loss": 1.4976,
+      "step": 554
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.594666666666667e-05,
+      "loss": 1.552,
+      "step": 555
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.5933333333333335e-05,
+      "loss": 1.5617,
+      "step": 556
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.592e-05,
+      "loss": 1.5286,
+      "step": 557
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.5906666666666667e-05,
+      "loss": 1.5332,
+      "step": 558
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.5893333333333335e-05,
+      "loss": 1.5978,
+      "step": 559
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.5880000000000003e-05,
+      "loss": 1.5046,
+      "step": 560
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.5866666666666667e-05,
+      "loss": 1.5256,
+      "step": 561
+    },
+    {
+      "epoch": 0.22,
+      "learning_rate": 2.5853333333333332e-05,
+      "loss": 1.452,
+      "step": 562
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.584e-05,
+      "loss": 1.6063,
+      "step": 563
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.5826666666666668e-05,
+      "loss": 1.5663,
+      "step": 564
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.5813333333333336e-05,
+      "loss": 1.6055,
+      "step": 565
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.58e-05,
+      "loss": 1.5026,
+      "step": 566
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.5786666666666665e-05,
+      "loss": 1.444,
+      "step": 567
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.5773333333333336e-05,
+      "loss": 1.6031,
+      "step": 568
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.576e-05,
+      "loss": 1.6176,
+      "step": 569
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.574666666666667e-05,
+      "loss": 1.5207,
+      "step": 570
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.5733333333333333e-05,
+      "loss": 1.5897,
+      "step": 571
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.5719999999999998e-05,
+      "loss": 1.489,
+      "step": 572
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.570666666666667e-05,
+      "loss": 1.5398,
+      "step": 573
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.5693333333333334e-05,
+      "loss": 1.578,
+      "step": 574
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.568e-05,
+      "loss": 1.5256,
+      "step": 575
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.5666666666666666e-05,
+      "loss": 1.6003,
+      "step": 576
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.5653333333333334e-05,
+      "loss": 1.5755,
+      "step": 577
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.5640000000000002e-05,
+      "loss": 1.4622,
+      "step": 578
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.5626666666666666e-05,
+      "loss": 1.5894,
+      "step": 579
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.5613333333333334e-05,
+      "loss": 1.505,
+      "step": 580
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.5600000000000002e-05,
+      "loss": 1.5932,
+      "step": 581
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.5586666666666667e-05,
+      "loss": 1.5648,
+      "step": 582
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.5573333333333335e-05,
+      "loss": 1.5407,
+      "step": 583
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.556e-05,
+      "loss": 1.4833,
+      "step": 584
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.5546666666666667e-05,
+      "loss": 1.6003,
+      "step": 585
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.5533333333333335e-05,
+      "loss": 1.558,
+      "step": 586
+    },
+    {
+      "epoch": 0.23,
+      "learning_rate": 2.552e-05,
+      "loss": 1.5504,
+      "step": 587
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.5506666666666668e-05,
+      "loss": 1.545,
+      "step": 588
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.5493333333333332e-05,
+      "loss": 1.5472,
+      "step": 589
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.5480000000000003e-05,
+      "loss": 1.5518,
+      "step": 590
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.5466666666666668e-05,
+      "loss": 1.6217,
+      "step": 591
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.5453333333333332e-05,
+      "loss": 1.5807,
+      "step": 592
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.544e-05,
+      "loss": 1.4796,
+      "step": 593
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.5426666666666665e-05,
+      "loss": 1.5383,
+      "step": 594
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.5413333333333336e-05,
+      "loss": 1.557,
+      "step": 595
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.54e-05,
+      "loss": 1.5906,
+      "step": 596
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.5386666666666665e-05,
+      "loss": 1.5235,
+      "step": 597
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.5373333333333333e-05,
+      "loss": 1.4731,
+      "step": 598
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.536e-05,
+      "loss": 1.5491,
+      "step": 599
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.534666666666667e-05,
+      "loss": 1.5219,
+      "step": 600
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.5333333333333334e-05,
+      "loss": 1.5526,
+      "step": 601
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.5319999999999998e-05,
+      "loss": 1.4974,
+      "step": 602
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.5306666666666666e-05,
+      "loss": 1.5794,
+      "step": 603
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.5293333333333334e-05,
+      "loss": 1.5301,
+      "step": 604
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.5280000000000002e-05,
+      "loss": 1.6082,
+      "step": 605
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.5266666666666666e-05,
+      "loss": 1.5055,
+      "step": 606
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.5253333333333334e-05,
+      "loss": 1.5753,
+      "step": 607
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.5240000000000002e-05,
+      "loss": 1.5706,
+      "step": 608
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.5226666666666667e-05,
+      "loss": 1.5448,
+      "step": 609
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.5213333333333335e-05,
+      "loss": 1.5575,
+      "step": 610
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.52e-05,
+      "loss": 1.5325,
+      "step": 611
+    },
+    {
+      "epoch": 0.24,
+      "learning_rate": 2.518666666666667e-05,
+      "loss": 1.5733,
+      "step": 612
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.5173333333333335e-05,
+      "loss": 1.4811,
+      "step": 613
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.516e-05,
+      "loss": 1.6937,
+      "step": 614
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.5146666666666668e-05,
+      "loss": 1.5415,
+      "step": 615
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.5133333333333332e-05,
+      "loss": 1.5569,
+      "step": 616
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.5120000000000003e-05,
+      "loss": 1.6261,
+      "step": 617
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.5106666666666668e-05,
+      "loss": 1.553,
+      "step": 618
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.5093333333333333e-05,
+      "loss": 1.5453,
+      "step": 619
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.508e-05,
+      "loss": 1.5252,
+      "step": 620
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.506666666666667e-05,
+      "loss": 1.5556,
+      "step": 621
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.5053333333333336e-05,
+      "loss": 1.5046,
+      "step": 622
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.504e-05,
+      "loss": 1.557,
+      "step": 623
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.5026666666666665e-05,
+      "loss": 1.6371,
+      "step": 624
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.5013333333333333e-05,
+      "loss": 1.5611,
+      "step": 625
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.5e-05,
+      "loss": 1.4876,
+      "step": 626
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.498666666666667e-05,
+      "loss": 1.4756,
+      "step": 627
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.4973333333333334e-05,
+      "loss": 1.5907,
+      "step": 628
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.4959999999999998e-05,
+      "loss": 1.5317,
+      "step": 629
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.494666666666667e-05,
+      "loss": 1.5177,
+      "step": 630
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.4933333333333334e-05,
+      "loss": 1.5194,
+      "step": 631
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.4920000000000002e-05,
+      "loss": 1.4566,
+      "step": 632
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.4906666666666666e-05,
+      "loss": 1.5023,
+      "step": 633
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.489333333333333e-05,
+      "loss": 1.5217,
+      "step": 634
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.4880000000000002e-05,
+      "loss": 1.5517,
+      "step": 635
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.4866666666666667e-05,
+      "loss": 1.6142,
+      "step": 636
+    },
+    {
+      "epoch": 0.25,
+      "learning_rate": 2.4853333333333335e-05,
+      "loss": 1.5769,
+      "step": 637
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.484e-05,
+      "loss": 1.5058,
+      "step": 638
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.4826666666666667e-05,
+      "loss": 1.5167,
+      "step": 639
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.4813333333333335e-05,
+      "loss": 1.5292,
+      "step": 640
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.48e-05,
+      "loss": 1.503,
+      "step": 641
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.4786666666666668e-05,
+      "loss": 1.4252,
+      "step": 642
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.4773333333333336e-05,
+      "loss": 1.4641,
+      "step": 643
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.476e-05,
+      "loss": 1.5539,
+      "step": 644
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.4746666666666668e-05,
+      "loss": 1.5141,
+      "step": 645
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.4733333333333333e-05,
+      "loss": 1.5689,
+      "step": 646
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.472e-05,
+      "loss": 1.6137,
+      "step": 647
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.470666666666667e-05,
+      "loss": 1.5079,
+      "step": 648
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.4693333333333333e-05,
+      "loss": 1.6043,
+      "step": 649
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.468e-05,
+      "loss": 1.5847,
+      "step": 650
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.4666666666666665e-05,
+      "loss": 1.5088,
+      "step": 651
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.4653333333333337e-05,
+      "loss": 1.6065,
+      "step": 652
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.464e-05,
+      "loss": 1.5066,
+      "step": 653
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.4626666666666666e-05,
+      "loss": 1.5459,
+      "step": 654
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.4613333333333334e-05,
+      "loss": 1.5603,
+      "step": 655
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.4599999999999998e-05,
+      "loss": 1.4766,
+      "step": 656
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.458666666666667e-05,
+      "loss": 1.585,
+      "step": 657
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.4573333333333334e-05,
+      "loss": 1.5631,
+      "step": 658
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.456e-05,
+      "loss": 1.4646,
+      "step": 659
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.4546666666666667e-05,
+      "loss": 1.4564,
+      "step": 660
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.4533333333333334e-05,
+      "loss": 1.5081,
+      "step": 661
+    },
+    {
+      "epoch": 0.26,
+      "learning_rate": 2.4520000000000002e-05,
+      "loss": 1.6114,
+      "step": 662
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.4506666666666667e-05,
+      "loss": 1.5651,
+      "step": 663
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.449333333333333e-05,
+      "loss": 1.5049,
+      "step": 664
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.448e-05,
+      "loss": 1.5494,
+      "step": 665
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.4466666666666667e-05,
+      "loss": 1.5145,
+      "step": 666
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.4453333333333335e-05,
+      "loss": 1.5903,
+      "step": 667
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.444e-05,
+      "loss": 1.5252,
+      "step": 668
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.4426666666666668e-05,
+      "loss": 1.557,
+      "step": 669
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.4413333333333336e-05,
+      "loss": 1.5477,
+      "step": 670
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.44e-05,
+      "loss": 1.5635,
+      "step": 671
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.4386666666666668e-05,
+      "loss": 1.5548,
+      "step": 672
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.4373333333333333e-05,
+      "loss": 1.57,
+      "step": 673
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.4360000000000004e-05,
+      "loss": 1.5382,
+      "step": 674
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.434666666666667e-05,
+      "loss": 1.574,
+      "step": 675
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.4333333333333333e-05,
+      "loss": 1.4575,
+      "step": 676
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.432e-05,
+      "loss": 1.585,
+      "step": 677
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.4306666666666665e-05,
+      "loss": 1.5298,
+      "step": 678
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.4293333333333337e-05,
+      "loss": 1.5375,
+      "step": 679
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.428e-05,
+      "loss": 1.5431,
+      "step": 680
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.4266666666666666e-05,
+      "loss": 1.5196,
+      "step": 681
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.4253333333333334e-05,
+      "loss": 1.5493,
+      "step": 682
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.4240000000000002e-05,
+      "loss": 1.5268,
+      "step": 683
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.422666666666667e-05,
+      "loss": 1.5079,
+      "step": 684
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.4213333333333334e-05,
+      "loss": 1.5403,
+      "step": 685
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.42e-05,
+      "loss": 1.4259,
+      "step": 686
+    },
+    {
+      "epoch": 0.27,
+      "learning_rate": 2.4186666666666667e-05,
+      "loss": 1.5632,
+      "step": 687
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.4173333333333335e-05,
+      "loss": 1.5195,
+      "step": 688
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.4160000000000002e-05,
+      "loss": 1.547,
+      "step": 689
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.4146666666666667e-05,
+      "loss": 1.598,
+      "step": 690
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.413333333333333e-05,
+      "loss": 1.519,
+      "step": 691
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.4120000000000003e-05,
+      "loss": 1.5587,
+      "step": 692
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.4106666666666667e-05,
+      "loss": 1.4853,
+      "step": 693
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.4093333333333335e-05,
+      "loss": 1.5331,
+      "step": 694
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.408e-05,
+      "loss": 1.5342,
+      "step": 695
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.4066666666666664e-05,
+      "loss": 1.592,
+      "step": 696
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.4053333333333336e-05,
+      "loss": 1.5552,
+      "step": 697
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.404e-05,
+      "loss": 1.4995,
+      "step": 698
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.4026666666666668e-05,
+      "loss": 1.5641,
+      "step": 699
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.4013333333333333e-05,
+      "loss": 1.6199,
+      "step": 700
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.4e-05,
+      "loss": 1.4077,
+      "step": 701
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.398666666666667e-05,
+      "loss": 1.5305,
+      "step": 702
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.3973333333333333e-05,
+      "loss": 1.5496,
+      "step": 703
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.396e-05,
+      "loss": 1.5714,
+      "step": 704
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.394666666666667e-05,
+      "loss": 1.5639,
+      "step": 705
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.3933333333333333e-05,
+      "loss": 1.5779,
+      "step": 706
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.392e-05,
+      "loss": 1.5718,
+      "step": 707
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.3906666666666666e-05,
+      "loss": 1.5226,
+      "step": 708
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.3893333333333334e-05,
+      "loss": 1.4782,
+      "step": 709
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.3880000000000002e-05,
+      "loss": 1.517,
+      "step": 710
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.3866666666666666e-05,
+      "loss": 1.5375,
+      "step": 711
+    },
+    {
+      "epoch": 0.28,
+      "learning_rate": 2.3853333333333334e-05,
+      "loss": 1.5272,
+      "step": 712
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.384e-05,
+      "loss": 1.4183,
+      "step": 713
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.382666666666667e-05,
+      "loss": 1.5113,
+      "step": 714
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.3813333333333335e-05,
+      "loss": 1.5906,
+      "step": 715
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.38e-05,
+      "loss": 1.5487,
+      "step": 716
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.3786666666666667e-05,
+      "loss": 1.5093,
+      "step": 717
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.377333333333333e-05,
+      "loss": 1.5612,
+      "step": 718
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.3760000000000003e-05,
+      "loss": 1.5925,
+      "step": 719
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.3746666666666667e-05,
+      "loss": 1.5248,
+      "step": 720
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.3733333333333332e-05,
+      "loss": 1.4913,
+      "step": 721
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.372e-05,
+      "loss": 1.5511,
+      "step": 722
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.3706666666666668e-05,
+      "loss": 1.529,
+      "step": 723
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.3693333333333336e-05,
+      "loss": 1.6278,
+      "step": 724
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.368e-05,
+      "loss": 1.5872,
+      "step": 725
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.3666666666666665e-05,
+      "loss": 1.5709,
+      "step": 726
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.3653333333333333e-05,
+      "loss": 1.5377,
+      "step": 727
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.364e-05,
+      "loss": 1.5685,
+      "step": 728
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.362666666666667e-05,
+      "loss": 1.5371,
+      "step": 729
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.3613333333333333e-05,
+      "loss": 1.5835,
+      "step": 730
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.3599999999999998e-05,
+      "loss": 1.5487,
+      "step": 731
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.358666666666667e-05,
+      "loss": 1.5009,
+      "step": 732
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.3573333333333334e-05,
+      "loss": 1.5503,
+      "step": 733
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.356e-05,
+      "loss": 1.5715,
+      "step": 734
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.3546666666666666e-05,
+      "loss": 1.5548,
+      "step": 735
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.3533333333333337e-05,
+      "loss": 1.5758,
+      "step": 736
+    },
+    {
+      "epoch": 0.29,
+      "learning_rate": 2.3520000000000002e-05,
+      "loss": 1.5331,
+      "step": 737
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.3506666666666666e-05,
+      "loss": 1.5823,
+      "step": 738
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.3493333333333334e-05,
+      "loss": 1.5976,
+      "step": 739
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.348e-05,
+      "loss": 1.4249,
+      "step": 740
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.346666666666667e-05,
+      "loss": 1.5549,
+      "step": 741
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.3453333333333335e-05,
+      "loss": 1.5638,
+      "step": 742
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.344e-05,
+      "loss": 1.6035,
+      "step": 743
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.3426666666666667e-05,
+      "loss": 1.5222,
+      "step": 744
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.3413333333333335e-05,
+      "loss": 1.6107,
+      "step": 745
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.3400000000000003e-05,
+      "loss": 1.563,
+      "step": 746
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.3386666666666668e-05,
+      "loss": 1.5657,
+      "step": 747
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.3373333333333332e-05,
+      "loss": 1.538,
+      "step": 748
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.336e-05,
+      "loss": 1.5903,
+      "step": 749
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.3346666666666668e-05,
+      "loss": 1.5296,
+      "step": 750
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.3333333333333336e-05,
+      "loss": 1.5945,
+      "step": 751
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.332e-05,
+      "loss": 1.5148,
+      "step": 752
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.3306666666666665e-05,
+      "loss": 1.6198,
+      "step": 753
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.3293333333333336e-05,
+      "loss": 1.4981,
+      "step": 754
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.328e-05,
+      "loss": 1.5897,
+      "step": 755
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.326666666666667e-05,
+      "loss": 1.487,
+      "step": 756
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.3253333333333333e-05,
+      "loss": 1.5309,
+      "step": 757
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.3239999999999998e-05,
+      "loss": 1.6187,
+      "step": 758
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.322666666666667e-05,
+      "loss": 1.5255,
+      "step": 759
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.3213333333333334e-05,
+      "loss": 1.55,
+      "step": 760
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.32e-05,
+      "loss": 1.5584,
+      "step": 761
+    },
+    {
+      "epoch": 0.3,
+      "learning_rate": 2.3186666666666666e-05,
+      "loss": 1.5633,
+      "step": 762
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.3173333333333334e-05,
+      "loss": 1.5837,
+      "step": 763
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.3160000000000002e-05,
+      "loss": 1.5651,
+      "step": 764
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.3146666666666666e-05,
+      "loss": 1.4889,
+      "step": 765
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.3133333333333334e-05,
+      "loss": 1.5049,
+      "step": 766
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.3120000000000002e-05,
+      "loss": 1.6059,
+      "step": 767
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.3106666666666667e-05,
+      "loss": 1.5319,
+      "step": 768
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.3093333333333335e-05,
+      "loss": 1.5315,
+      "step": 769
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.308e-05,
+      "loss": 1.5065,
+      "step": 770
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.3066666666666667e-05,
+      "loss": 1.5052,
+      "step": 771
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.3053333333333335e-05,
+      "loss": 1.5764,
+      "step": 772
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.304e-05,
+      "loss": 1.4769,
+      "step": 773
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.3026666666666668e-05,
+      "loss": 1.534,
+      "step": 774
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.3013333333333332e-05,
+      "loss": 1.5911,
+      "step": 775
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.3000000000000003e-05,
+      "loss": 1.5759,
+      "step": 776
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.2986666666666668e-05,
+      "loss": 1.4986,
+      "step": 777
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.2973333333333332e-05,
+      "loss": 1.5346,
+      "step": 778
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.296e-05,
+      "loss": 1.4951,
+      "step": 779
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.2946666666666665e-05,
+      "loss": 1.5408,
+      "step": 780
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.2933333333333336e-05,
+      "loss": 1.5385,
+      "step": 781
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.292e-05,
+      "loss": 1.5558,
+      "step": 782
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.2906666666666665e-05,
+      "loss": 1.5399,
+      "step": 783
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.2893333333333333e-05,
+      "loss": 1.5512,
+      "step": 784
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.288e-05,
+      "loss": 1.5536,
+      "step": 785
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.286666666666667e-05,
+      "loss": 1.5836,
+      "step": 786
+    },
+    {
+      "epoch": 0.31,
+      "learning_rate": 2.2853333333333334e-05,
+      "loss": 1.5869,
+      "step": 787
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.2839999999999998e-05,
+      "loss": 1.5185,
+      "step": 788
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.2826666666666666e-05,
+      "loss": 1.4693,
+      "step": 789
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.2813333333333334e-05,
+      "loss": 1.5403,
+      "step": 790
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.2800000000000002e-05,
+      "loss": 1.5284,
+      "step": 791
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.2786666666666666e-05,
+      "loss": 1.5259,
+      "step": 792
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.277333333333333e-05,
+      "loss": 1.4957,
+      "step": 793
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.2760000000000002e-05,
+      "loss": 1.5968,
+      "step": 794
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.2746666666666667e-05,
+      "loss": 1.5849,
+      "step": 795
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.2733333333333335e-05,
+      "loss": 1.5015,
+      "step": 796
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.272e-05,
+      "loss": 1.4872,
+      "step": 797
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.2706666666666667e-05,
+      "loss": 1.6361,
+      "step": 798
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.2693333333333335e-05,
+      "loss": 1.5153,
+      "step": 799
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.268e-05,
+      "loss": 1.6705,
+      "step": 800
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.2666666666666668e-05,
+      "loss": 1.5799,
+      "step": 801
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.2653333333333332e-05,
+      "loss": 1.5158,
+      "step": 802
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.2640000000000003e-05,
+      "loss": 1.4706,
+      "step": 803
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.2626666666666668e-05,
+      "loss": 1.4067,
+      "step": 804
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.2613333333333333e-05,
+      "loss": 1.5697,
+      "step": 805
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.26e-05,
+      "loss": 1.4671,
+      "step": 806
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.258666666666667e-05,
+      "loss": 1.4553,
+      "step": 807
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.2573333333333336e-05,
+      "loss": 1.5967,
+      "step": 808
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.256e-05,
+      "loss": 1.5794,
+      "step": 809
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.2546666666666665e-05,
+      "loss": 1.5507,
+      "step": 810
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.2533333333333333e-05,
+      "loss": 1.5135,
+      "step": 811
+    },
+    {
+      "epoch": 0.32,
+      "learning_rate": 2.252e-05,
+      "loss": 1.4511,
+      "step": 812
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.250666666666667e-05,
+      "loss": 1.5292,
+      "step": 813
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.2493333333333334e-05,
+      "loss": 1.5545,
+      "step": 814
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.2479999999999998e-05,
+      "loss": 1.4909,
+      "step": 815
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.246666666666667e-05,
+      "loss": 1.5747,
+      "step": 816
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.2453333333333334e-05,
+      "loss": 1.5032,
+      "step": 817
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.2440000000000002e-05,
+      "loss": 1.5082,
+      "step": 818
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.2426666666666667e-05,
+      "loss": 1.5701,
+      "step": 819
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.241333333333333e-05,
+      "loss": 1.5381,
+      "step": 820
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.2400000000000002e-05,
+      "loss": 1.5877,
+      "step": 821
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.2386666666666667e-05,
+      "loss": 1.5912,
+      "step": 822
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.2373333333333335e-05,
+      "loss": 1.5182,
+      "step": 823
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.236e-05,
+      "loss": 1.5346,
+      "step": 824
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.2346666666666667e-05,
+      "loss": 1.5214,
+      "step": 825
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.2333333333333335e-05,
+      "loss": 1.5828,
+      "step": 826
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.232e-05,
+      "loss": 1.5228,
+      "step": 827
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.2306666666666668e-05,
+      "loss": 1.5323,
+      "step": 828
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.2293333333333332e-05,
+      "loss": 1.4978,
+      "step": 829
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.228e-05,
+      "loss": 1.5458,
+      "step": 830
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.2266666666666668e-05,
+      "loss": 1.5596,
+      "step": 831
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.2253333333333333e-05,
+      "loss": 1.541,
+      "step": 832
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.224e-05,
+      "loss": 1.5074,
+      "step": 833
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.222666666666667e-05,
+      "loss": 1.5101,
+      "step": 834
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.2213333333333333e-05,
+      "loss": 1.5221,
+      "step": 835
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.22e-05,
+      "loss": 1.5496,
+      "step": 836
+    },
+    {
+      "epoch": 0.33,
+      "learning_rate": 2.2186666666666665e-05,
+      "loss": 1.4775,
+      "step": 837
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.2173333333333337e-05,
+      "loss": 1.5514,
+      "step": 838
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.216e-05,
+      "loss": 1.5538,
+      "step": 839
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.2146666666666666e-05,
+      "loss": 1.4776,
+      "step": 840
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.2133333333333334e-05,
+      "loss": 1.5583,
+      "step": 841
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.2119999999999998e-05,
+      "loss": 1.5417,
+      "step": 842
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.210666666666667e-05,
+      "loss": 1.5259,
+      "step": 843
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.2093333333333334e-05,
+      "loss": 1.5152,
+      "step": 844
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.208e-05,
+      "loss": 1.4861,
+      "step": 845
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.2066666666666667e-05,
+      "loss": 1.5003,
+      "step": 846
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.2053333333333335e-05,
+      "loss": 1.5756,
+      "step": 847
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.2040000000000002e-05,
+      "loss": 1.5448,
+      "step": 848
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.2026666666666667e-05,
+      "loss": 1.5888,
+      "step": 849
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.201333333333333e-05,
+      "loss": 1.5659,
+      "step": 850
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.2e-05,
+      "loss": 1.5748,
+      "step": 851
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.1986666666666667e-05,
+      "loss": 1.5433,
+      "step": 852
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.1973333333333335e-05,
+      "loss": 1.4981,
+      "step": 853
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.196e-05,
+      "loss": 1.5763,
+      "step": 854
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.1946666666666664e-05,
+      "loss": 1.5233,
+      "step": 855
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.1933333333333336e-05,
+      "loss": 1.5683,
+      "step": 856
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.192e-05,
+      "loss": 1.6367,
+      "step": 857
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.1906666666666668e-05,
+      "loss": 1.5355,
+      "step": 858
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.1893333333333333e-05,
+      "loss": 1.5078,
+      "step": 859
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.188e-05,
+      "loss": 1.5349,
+      "step": 860
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.186666666666667e-05,
+      "loss": 1.4651,
+      "step": 861
+    },
+    {
+      "epoch": 0.34,
+      "learning_rate": 2.1853333333333333e-05,
+      "loss": 1.4551,
+      "step": 862
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.184e-05,
+      "loss": 1.5768,
+      "step": 863
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.1826666666666665e-05,
+      "loss": 1.5292,
+      "step": 864
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.1813333333333337e-05,
+      "loss": 1.5096,
+      "step": 865
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.18e-05,
+      "loss": 1.5254,
+      "step": 866
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.1786666666666666e-05,
+      "loss": 1.5568,
+      "step": 867
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.1773333333333334e-05,
+      "loss": 1.585,
+      "step": 868
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.1760000000000002e-05,
+      "loss": 1.5147,
+      "step": 869
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.174666666666667e-05,
+      "loss": 1.5326,
+      "step": 870
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.1733333333333334e-05,
+      "loss": 1.5476,
+      "step": 871
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.172e-05,
+      "loss": 1.5218,
+      "step": 872
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.1706666666666667e-05,
+      "loss": 1.4445,
+      "step": 873
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.1693333333333335e-05,
+      "loss": 1.5191,
+      "step": 874
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.1680000000000002e-05,
+      "loss": 1.5271,
+      "step": 875
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.1666666666666667e-05,
+      "loss": 1.583,
+      "step": 876
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.165333333333333e-05,
+      "loss": 1.5801,
+      "step": 877
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.1640000000000003e-05,
+      "loss": 1.5864,
+      "step": 878
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.1626666666666667e-05,
+      "loss": 1.4648,
+      "step": 879
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.1613333333333335e-05,
+      "loss": 1.4309,
+      "step": 880
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.16e-05,
+      "loss": 1.5471,
+      "step": 881
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.1586666666666664e-05,
+      "loss": 1.4985,
+      "step": 882
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.1573333333333336e-05,
+      "loss": 1.6036,
+      "step": 883
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.156e-05,
+      "loss": 1.4691,
+      "step": 884
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.1546666666666668e-05,
+      "loss": 1.4782,
+      "step": 885
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.1533333333333333e-05,
+      "loss": 1.4851,
+      "step": 886
+    },
+    {
+      "epoch": 0.35,
+      "learning_rate": 2.152e-05,
+      "loss": 1.5389,
+      "step": 887
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.150666666666667e-05,
+      "loss": 1.5121,
+      "step": 888
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.1493333333333333e-05,
+      "loss": 1.4897,
+      "step": 889
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.148e-05,
+      "loss": 1.5409,
+      "step": 890
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.1466666666666666e-05,
+      "loss": 1.5203,
+      "step": 891
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.1453333333333333e-05,
+      "loss": 1.5938,
+      "step": 892
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.144e-05,
+      "loss": 1.5652,
+      "step": 893
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.1426666666666666e-05,
+      "loss": 1.5034,
+      "step": 894
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.1413333333333334e-05,
+      "loss": 1.4571,
+      "step": 895
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.1400000000000002e-05,
+      "loss": 1.4736,
+      "step": 896
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.1386666666666666e-05,
+      "loss": 1.5913,
+      "step": 897
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.1373333333333334e-05,
+      "loss": 1.5421,
+      "step": 898
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.136e-05,
+      "loss": 1.4935,
+      "step": 899
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.134666666666667e-05,
+      "loss": 1.5712,
+      "step": 900
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.1333333333333335e-05,
+      "loss": 1.5183,
+      "step": 901
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.132e-05,
+      "loss": 1.554,
+      "step": 902
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.1306666666666667e-05,
+      "loss": 1.568,
+      "step": 903
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.129333333333333e-05,
+      "loss": 1.5988,
+      "step": 904
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.1280000000000003e-05,
+      "loss": 1.5248,
+      "step": 905
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.1266666666666667e-05,
+      "loss": 1.5596,
+      "step": 906
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.1253333333333332e-05,
+      "loss": 1.5398,
+      "step": 907
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.124e-05,
+      "loss": 1.4351,
+      "step": 908
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.1226666666666668e-05,
+      "loss": 1.4899,
+      "step": 909
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.1213333333333336e-05,
+      "loss": 1.5149,
+      "step": 910
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.12e-05,
+      "loss": 1.5121,
+      "step": 911
+    },
+    {
+      "epoch": 0.36,
+      "learning_rate": 2.1186666666666665e-05,
+      "loss": 1.5252,
+      "step": 912
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.1173333333333333e-05,
+      "loss": 1.46,
+      "step": 913
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.116e-05,
+      "loss": 1.539,
+      "step": 914
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.114666666666667e-05,
+      "loss": 1.4872,
+      "step": 915
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.1133333333333333e-05,
+      "loss": 1.6344,
+      "step": 916
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.1119999999999998e-05,
+      "loss": 1.5733,
+      "step": 917
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.110666666666667e-05,
+      "loss": 1.5788,
+      "step": 918
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.1093333333333334e-05,
+      "loss": 1.4229,
+      "step": 919
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.108e-05,
+      "loss": 1.511,
+      "step": 920
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.1066666666666666e-05,
+      "loss": 1.4835,
+      "step": 921
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.105333333333333e-05,
+      "loss": 1.5944,
+      "step": 922
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.1040000000000002e-05,
+      "loss": 1.5875,
+      "step": 923
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.1026666666666666e-05,
+      "loss": 1.5252,
+      "step": 924
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.1013333333333334e-05,
+      "loss": 1.5153,
+      "step": 925
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.1e-05,
+      "loss": 1.4825,
+      "step": 926
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.0986666666666667e-05,
+      "loss": 1.4576,
+      "step": 927
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.0973333333333335e-05,
+      "loss": 1.4782,
+      "step": 928
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.096e-05,
+      "loss": 1.577,
+      "step": 929
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.0946666666666667e-05,
+      "loss": 1.4648,
+      "step": 930
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.0933333333333335e-05,
+      "loss": 1.4773,
+      "step": 931
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.0920000000000003e-05,
+      "loss": 1.5518,
+      "step": 932
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.0906666666666668e-05,
+      "loss": 1.5111,
+      "step": 933
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.0893333333333332e-05,
+      "loss": 1.5493,
+      "step": 934
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.088e-05,
+      "loss": 1.4597,
+      "step": 935
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.0866666666666668e-05,
+      "loss": 1.585,
+      "step": 936
+    },
+    {
+      "epoch": 0.37,
+      "learning_rate": 2.0853333333333336e-05,
+      "loss": 1.5282,
+      "step": 937
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.084e-05,
+      "loss": 1.5388,
+      "step": 938
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.0826666666666665e-05,
+      "loss": 1.5069,
+      "step": 939
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.0813333333333336e-05,
+      "loss": 1.4994,
+      "step": 940
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.08e-05,
+      "loss": 1.5207,
+      "step": 941
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.078666666666667e-05,
+      "loss": 1.5506,
+      "step": 942
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.0773333333333333e-05,
+      "loss": 1.5208,
+      "step": 943
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.0759999999999998e-05,
+      "loss": 1.5859,
+      "step": 944
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.074666666666667e-05,
+      "loss": 1.5605,
+      "step": 945
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.0733333333333334e-05,
+      "loss": 1.477,
+      "step": 946
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.072e-05,
+      "loss": 1.5912,
+      "step": 947
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.0706666666666666e-05,
+      "loss": 1.4902,
+      "step": 948
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.0693333333333334e-05,
+      "loss": 1.5081,
+      "step": 949
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.0680000000000002e-05,
+      "loss": 1.581,
+      "step": 950
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.0666666666666666e-05,
+      "loss": 1.6272,
+      "step": 951
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.0653333333333334e-05,
+      "loss": 1.5647,
+      "step": 952
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.064e-05,
+      "loss": 1.4899,
+      "step": 953
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.0626666666666667e-05,
+      "loss": 1.5712,
+      "step": 954
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.0613333333333335e-05,
+      "loss": 1.5422,
+      "step": 955
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.06e-05,
+      "loss": 1.4597,
+      "step": 956
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.0586666666666667e-05,
+      "loss": 1.5993,
+      "step": 957
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.0573333333333335e-05,
+      "loss": 1.4864,
+      "step": 958
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.056e-05,
+      "loss": 1.5301,
+      "step": 959
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.0546666666666668e-05,
+      "loss": 1.5149,
+      "step": 960
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.0533333333333332e-05,
+      "loss": 1.5338,
+      "step": 961
+    },
+    {
+      "epoch": 0.38,
+      "learning_rate": 2.0520000000000003e-05,
+      "loss": 1.5261,
+      "step": 962
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.0506666666666668e-05,
+      "loss": 1.4729,
+      "step": 963
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.0493333333333333e-05,
+      "loss": 1.4313,
+      "step": 964
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.048e-05,
+      "loss": 1.6181,
+      "step": 965
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.0466666666666665e-05,
+      "loss": 1.5972,
+      "step": 966
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.0453333333333336e-05,
+      "loss": 1.5146,
+      "step": 967
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.044e-05,
+      "loss": 1.5378,
+      "step": 968
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.0426666666666665e-05,
+      "loss": 1.5849,
+      "step": 969
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.0413333333333333e-05,
+      "loss": 1.4902,
+      "step": 970
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.04e-05,
+      "loss": 1.5172,
+      "step": 971
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.038666666666667e-05,
+      "loss": 1.5937,
+      "step": 972
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.0373333333333334e-05,
+      "loss": 1.5296,
+      "step": 973
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.0359999999999998e-05,
+      "loss": 1.5447,
+      "step": 974
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.0346666666666666e-05,
+      "loss": 1.5416,
+      "step": 975
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.0333333333333334e-05,
+      "loss": 1.5161,
+      "step": 976
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.0320000000000002e-05,
+      "loss": 1.4157,
+      "step": 977
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.0306666666666666e-05,
+      "loss": 1.5723,
+      "step": 978
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.029333333333333e-05,
+      "loss": 1.5741,
+      "step": 979
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.0280000000000002e-05,
+      "loss": 1.5667,
+      "step": 980
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.0266666666666667e-05,
+      "loss": 1.5186,
+      "step": 981
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.0253333333333335e-05,
+      "loss": 1.486,
+      "step": 982
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.024e-05,
+      "loss": 1.5808,
+      "step": 983
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.0226666666666664e-05,
+      "loss": 1.5775,
+      "step": 984
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.0213333333333335e-05,
+      "loss": 1.4759,
+      "step": 985
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.02e-05,
+      "loss": 1.6303,
+      "step": 986
+    },
+    {
+      "epoch": 0.39,
+      "learning_rate": 2.0186666666666668e-05,
+      "loss": 1.4599,
+      "step": 987
+    },
+    {
+      "epoch": 0.4,
+      "learning_rate": 2.0173333333333332e-05,
+      "loss": 1.5519,
+      "step": 988
+    },
+    {
+      "epoch": 0.4,
+      "learning_rate": 2.016e-05,
+      "loss": 1.5156,
+      "step": 989
+    },
+    {
+      "epoch": 0.4,
+      "learning_rate": 2.0146666666666668e-05,
+      "loss": 1.4892,
+      "step": 990
+    },
+    {
+      "epoch": 0.4,
+      "learning_rate": 2.0133333333333333e-05,
+      "loss": 1.5494,
+      "step": 991
+    },
+    {
+      "epoch": 0.4,
+      "learning_rate": 2.012e-05,
+      "loss": 1.5355,
+      "step": 992
+    },
+    {
+      "epoch": 0.4,
+      "learning_rate": 2.010666666666667e-05,
+      "loss": 1.5583,
+      "step": 993
+    },
+    {
+      "epoch": 0.4,
+      "learning_rate": 2.0093333333333336e-05,
+      "loss": 1.4521,
+      "step": 994
+    },
+    {
+      "epoch": 0.4,
+      "learning_rate": 2.008e-05,
+      "loss": 1.4865,
+      "step": 995
+    },
+    {
+      "epoch": 0.4,
+      "learning_rate": 2.0066666666666665e-05,
+      "loss": 1.4496,
+      "step": 996
+    },
+    {
+      "epoch": 0.4,
+      "learning_rate": 2.0053333333333333e-05,
+      "loss": 1.5347,
+      "step": 997
+    },
+    {
+      "epoch": 0.4,
+      "learning_rate": 2.004e-05,
+      "loss": 1.5705,
+      "step": 998
+    },
+    {
+      "epoch": 0.4,
+      "learning_rate": 2.002666666666667e-05,
+      "loss": 1.5028,
+      "step": 999
+    },
+    {
+      "epoch": 0.4,
+      "learning_rate": 2.0013333333333334e-05,
+      "loss": 1.5132,
+      "step": 1000
+    }
+  ],
+  "logging_steps": 1.0,
+  "max_steps": 2500,
+  "num_train_epochs": 9223372036854775807,
+  "save_steps": 250,
+  "total_flos": 1.043416133664768e+16,
+  "trial_name": null,
+  "trial_params": null
+}