{ "best_metric": null, "best_model_checkpoint": null, "epoch": 5.764539211448879, "global_step": 15000, "is_hyper_param_search": false, "is_local_process_zero": true, "is_world_process_zero": true, "log_history": [ { "epoch": 0.01, "learning_rate": 9.983333333333334e-05, "loss": 12.4736, "step": 25 }, { "epoch": 0.02, "learning_rate": 9.966666666666667e-05, "loss": 9.7263, "step": 50 }, { "epoch": 0.03, "learning_rate": 9.95e-05, "loss": 9.1199, "step": 75 }, { "epoch": 0.04, "learning_rate": 9.933333333333334e-05, "loss": 8.7672, "step": 100 }, { "epoch": 0.05, "learning_rate": 9.916666666666667e-05, "loss": 8.5334, "step": 125 }, { "epoch": 0.06, "learning_rate": 9.900000000000001e-05, "loss": 8.3333, "step": 150 }, { "epoch": 0.07, "learning_rate": 9.883333333333333e-05, "loss": 8.16, "step": 175 }, { "epoch": 0.08, "learning_rate": 9.866666666666668e-05, "loss": 8.0034, "step": 200 }, { "epoch": 0.09, "learning_rate": 9.850000000000001e-05, "loss": 7.8389, "step": 225 }, { "epoch": 0.1, "learning_rate": 9.833333333333333e-05, "loss": 7.6912, "step": 250 }, { "epoch": 0.11, "learning_rate": 9.816666666666668e-05, "loss": 7.5851, "step": 275 }, { "epoch": 0.12, "learning_rate": 9.8e-05, "loss": 7.4499, "step": 300 }, { "epoch": 0.12, "learning_rate": 9.783333333333334e-05, "loss": 7.3373, "step": 325 }, { "epoch": 0.13, "learning_rate": 9.766666666666668e-05, "loss": 7.2383, "step": 350 }, { "epoch": 0.14, "learning_rate": 9.75e-05, "loss": 7.1622, "step": 375 }, { "epoch": 0.15, "learning_rate": 9.733333333333335e-05, "loss": 7.0561, "step": 400 }, { "epoch": 0.16, "learning_rate": 9.716666666666667e-05, "loss": 7.0229, "step": 425 }, { "epoch": 0.17, "learning_rate": 9.7e-05, "loss": 6.9385, "step": 450 }, { "epoch": 0.18, "learning_rate": 9.683333333333335e-05, "loss": 6.8371, "step": 475 }, { "epoch": 0.19, "learning_rate": 9.666666666666667e-05, "loss": 6.7803, "step": 500 }, { "epoch": 0.2, "learning_rate": 9.65e-05, "loss": 6.687, "step": 525 }, { "epoch": 0.21, "learning_rate": 9.633333333333335e-05, "loss": 6.636, "step": 550 }, { "epoch": 0.22, "learning_rate": 9.616666666666667e-05, "loss": 6.511, "step": 575 }, { "epoch": 0.23, "learning_rate": 9.6e-05, "loss": 6.4669, "step": 600 }, { "epoch": 0.24, "learning_rate": 9.583333333333334e-05, "loss": 6.4071, "step": 625 }, { "epoch": 0.25, "learning_rate": 9.566666666666667e-05, "loss": 6.3336, "step": 650 }, { "epoch": 0.26, "learning_rate": 9.55e-05, "loss": 6.2695, "step": 675 }, { "epoch": 0.27, "learning_rate": 9.533333333333334e-05, "loss": 6.1926, "step": 700 }, { "epoch": 0.28, "learning_rate": 9.516666666666667e-05, "loss": 6.1384, "step": 725 }, { "epoch": 0.29, "learning_rate": 9.5e-05, "loss": 6.0829, "step": 750 }, { "epoch": 0.3, "learning_rate": 9.483333333333334e-05, "loss": 6.0303, "step": 775 }, { "epoch": 0.31, "learning_rate": 9.466666666666667e-05, "loss": 6.0074, "step": 800 }, { "epoch": 0.32, "learning_rate": 9.449999999999999e-05, "loss": 5.9261, "step": 825 }, { "epoch": 0.33, "learning_rate": 9.433333333333334e-05, "loss": 5.857, "step": 850 }, { "epoch": 0.34, "learning_rate": 9.416666666666667e-05, "loss": 5.7964, "step": 875 }, { "epoch": 0.35, "learning_rate": 9.4e-05, "loss": 5.7283, "step": 900 }, { "epoch": 0.36, "learning_rate": 9.383333333333334e-05, "loss": 5.675, "step": 925 }, { "epoch": 0.36, "learning_rate": 9.366666666666668e-05, "loss": 5.6329, "step": 950 }, { "epoch": 0.37, "learning_rate": 9.350000000000001e-05, "loss": 5.5085, "step": 975 }, { "epoch": 0.38, "learning_rate": 9.333333333333334e-05, "loss": 5.4763, "step": 1000 }, { "epoch": 0.39, "learning_rate": 9.316666666666666e-05, "loss": 5.3951, "step": 1025 }, { "epoch": 0.4, "learning_rate": 9.300000000000001e-05, "loss": 5.3329, "step": 1050 }, { "epoch": 0.41, "learning_rate": 9.283333333333334e-05, "loss": 5.2431, "step": 1075 }, { "epoch": 0.42, "learning_rate": 9.266666666666666e-05, "loss": 5.1911, "step": 1100 }, { "epoch": 0.43, "learning_rate": 9.250000000000001e-05, "loss": 5.0645, "step": 1125 }, { "epoch": 0.44, "learning_rate": 9.233333333333333e-05, "loss": 4.9751, "step": 1150 }, { "epoch": 0.45, "learning_rate": 9.216666666666667e-05, "loss": 4.9275, "step": 1175 }, { "epoch": 0.46, "learning_rate": 9.200000000000001e-05, "loss": 4.8605, "step": 1200 }, { "epoch": 0.47, "learning_rate": 9.183333333333333e-05, "loss": 4.793, "step": 1225 }, { "epoch": 0.48, "learning_rate": 9.166666666666667e-05, "loss": 4.7327, "step": 1250 }, { "epoch": 0.49, "learning_rate": 9.15e-05, "loss": 4.6371, "step": 1275 }, { "epoch": 0.5, "learning_rate": 9.133333333333334e-05, "loss": 4.5273, "step": 1300 }, { "epoch": 0.51, "learning_rate": 9.116666666666667e-05, "loss": 4.4598, "step": 1325 }, { "epoch": 0.52, "learning_rate": 9.1e-05, "loss": 4.3693, "step": 1350 }, { "epoch": 0.53, "learning_rate": 9.083333333333334e-05, "loss": 4.3423, "step": 1375 }, { "epoch": 0.54, "learning_rate": 9.066666666666667e-05, "loss": 4.2375, "step": 1400 }, { "epoch": 0.55, "learning_rate": 9.05e-05, "loss": 4.1664, "step": 1425 }, { "epoch": 0.56, "learning_rate": 9.033333333333334e-05, "loss": 4.0814, "step": 1450 }, { "epoch": 0.57, "learning_rate": 9.016666666666667e-05, "loss": 4.0739, "step": 1475 }, { "epoch": 0.58, "learning_rate": 9e-05, "loss": 4.0205, "step": 1500 }, { "epoch": 0.59, "learning_rate": 8.983333333333334e-05, "loss": 3.9373, "step": 1525 }, { "epoch": 0.6, "learning_rate": 8.966666666666666e-05, "loss": 3.8036, "step": 1550 }, { "epoch": 0.61, "learning_rate": 8.950000000000001e-05, "loss": 3.8391, "step": 1575 }, { "epoch": 0.61, "learning_rate": 8.933333333333334e-05, "loss": 3.6739, "step": 1600 }, { "epoch": 0.62, "learning_rate": 8.916666666666667e-05, "loss": 3.6874, "step": 1625 }, { "epoch": 0.63, "learning_rate": 8.900000000000001e-05, "loss": 3.6075, "step": 1650 }, { "epoch": 0.64, "learning_rate": 8.883333333333333e-05, "loss": 3.6198, "step": 1675 }, { "epoch": 0.65, "learning_rate": 8.866666666666668e-05, "loss": 3.4928, "step": 1700 }, { "epoch": 0.66, "learning_rate": 8.850000000000001e-05, "loss": 3.4566, "step": 1725 }, { "epoch": 0.67, "learning_rate": 8.833333333333333e-05, "loss": 3.4286, "step": 1750 }, { "epoch": 0.68, "learning_rate": 8.816666666666668e-05, "loss": 3.3407, "step": 1775 }, { "epoch": 0.69, "learning_rate": 8.800000000000001e-05, "loss": 3.2527, "step": 1800 }, { "epoch": 0.7, "learning_rate": 8.783333333333333e-05, "loss": 3.2315, "step": 1825 }, { "epoch": 0.71, "learning_rate": 8.766666666666668e-05, "loss": 3.1808, "step": 1850 }, { "epoch": 0.72, "learning_rate": 8.75e-05, "loss": 3.1522, "step": 1875 }, { "epoch": 0.73, "learning_rate": 8.733333333333333e-05, "loss": 3.0795, "step": 1900 }, { "epoch": 0.74, "learning_rate": 8.716666666666668e-05, "loss": 3.098, "step": 1925 }, { "epoch": 0.75, "learning_rate": 8.7e-05, "loss": 3.0315, "step": 1950 }, { "epoch": 0.76, "learning_rate": 8.683333333333333e-05, "loss": 2.9572, "step": 1975 }, { "epoch": 0.77, "learning_rate": 8.666666666666667e-05, "loss": 2.9153, "step": 2000 }, { "epoch": 0.78, "learning_rate": 8.65e-05, "loss": 2.8898, "step": 2025 }, { "epoch": 0.79, "learning_rate": 8.633333333333334e-05, "loss": 2.8113, "step": 2050 }, { "epoch": 0.8, "learning_rate": 8.616666666666667e-05, "loss": 2.8453, "step": 2075 }, { "epoch": 0.81, "learning_rate": 8.6e-05, "loss": 2.8249, "step": 2100 }, { "epoch": 0.82, "learning_rate": 8.583333333333334e-05, "loss": 2.766, "step": 2125 }, { "epoch": 0.83, "learning_rate": 8.566666666666667e-05, "loss": 2.7222, "step": 2150 }, { "epoch": 0.84, "learning_rate": 8.55e-05, "loss": 2.6835, "step": 2175 }, { "epoch": 0.85, "learning_rate": 8.533333333333334e-05, "loss": 2.6885, "step": 2200 }, { "epoch": 0.85, "learning_rate": 8.516666666666667e-05, "loss": 2.6043, "step": 2225 }, { "epoch": 0.86, "learning_rate": 8.5e-05, "loss": 2.5377, "step": 2250 }, { "epoch": 0.87, "learning_rate": 8.483333333333334e-05, "loss": 2.5604, "step": 2275 }, { "epoch": 0.88, "learning_rate": 8.466666666666667e-05, "loss": 2.5806, "step": 2300 }, { "epoch": 0.89, "learning_rate": 8.450000000000001e-05, "loss": 2.5072, "step": 2325 }, { "epoch": 0.9, "learning_rate": 8.433333333333334e-05, "loss": 2.4755, "step": 2350 }, { "epoch": 0.91, "learning_rate": 8.416666666666668e-05, "loss": 2.4443, "step": 2375 }, { "epoch": 0.92, "learning_rate": 8.4e-05, "loss": 2.4204, "step": 2400 }, { "epoch": 0.93, "learning_rate": 8.383333333333334e-05, "loss": 2.3954, "step": 2425 }, { "epoch": 0.94, "learning_rate": 8.366666666666668e-05, "loss": 2.3501, "step": 2450 }, { "epoch": 0.95, "learning_rate": 8.35e-05, "loss": 2.2847, "step": 2475 }, { "epoch": 0.96, "learning_rate": 8.333333333333334e-05, "loss": 2.275, "step": 2500 }, { "epoch": 0.97, "learning_rate": 8.316666666666666e-05, "loss": 2.2337, "step": 2525 }, { "epoch": 0.98, "learning_rate": 8.3e-05, "loss": 2.2271, "step": 2550 }, { "epoch": 0.99, "learning_rate": 8.283333333333335e-05, "loss": 2.2489, "step": 2575 }, { "epoch": 1.0, "learning_rate": 8.266666666666667e-05, "loss": 2.1993, "step": 2600 }, { "epoch": 1.01, "learning_rate": 8.25e-05, "loss": 2.2141, "step": 2625 }, { "epoch": 1.02, "learning_rate": 8.233333333333333e-05, "loss": 2.1315, "step": 2650 }, { "epoch": 1.03, "learning_rate": 8.216666666666667e-05, "loss": 2.1143, "step": 2675 }, { "epoch": 1.04, "learning_rate": 8.2e-05, "loss": 2.0889, "step": 2700 }, { "epoch": 1.05, "learning_rate": 8.183333333333333e-05, "loss": 2.0947, "step": 2725 }, { "epoch": 1.06, "learning_rate": 8.166666666666667e-05, "loss": 2.0314, "step": 2750 }, { "epoch": 1.07, "learning_rate": 8.15e-05, "loss": 2.0303, "step": 2775 }, { "epoch": 1.08, "learning_rate": 8.133333333333334e-05, "loss": 2.0334, "step": 2800 }, { "epoch": 1.09, "learning_rate": 8.116666666666667e-05, "loss": 1.9617, "step": 2825 }, { "epoch": 1.1, "learning_rate": 8.1e-05, "loss": 1.9754, "step": 2850 }, { "epoch": 1.1, "learning_rate": 8.083333333333334e-05, "loss": 1.9603, "step": 2875 }, { "epoch": 1.11, "learning_rate": 8.066666666666667e-05, "loss": 1.9279, "step": 2900 }, { "epoch": 1.12, "learning_rate": 8.05e-05, "loss": 1.8778, "step": 2925 }, { "epoch": 1.13, "learning_rate": 8.033333333333334e-05, "loss": 1.8874, "step": 2950 }, { "epoch": 1.14, "learning_rate": 8.016666666666667e-05, "loss": 1.9088, "step": 2975 }, { "epoch": 1.15, "learning_rate": 8e-05, "loss": 1.8781, "step": 3000 }, { "epoch": 1.16, "learning_rate": 7.983333333333334e-05, "loss": 1.8457, "step": 3025 }, { "epoch": 1.17, "learning_rate": 7.966666666666666e-05, "loss": 1.8195, "step": 3050 }, { "epoch": 1.18, "learning_rate": 7.950000000000001e-05, "loss": 1.846, "step": 3075 }, { "epoch": 1.19, "learning_rate": 7.933333333333334e-05, "loss": 1.7979, "step": 3100 }, { "epoch": 1.2, "learning_rate": 7.916666666666666e-05, "loss": 1.7705, "step": 3125 }, { "epoch": 1.21, "learning_rate": 7.900000000000001e-05, "loss": 1.7947, "step": 3150 }, { "epoch": 1.22, "learning_rate": 7.883333333333334e-05, "loss": 1.7612, "step": 3175 }, { "epoch": 1.23, "learning_rate": 7.866666666666666e-05, "loss": 1.7551, "step": 3200 }, { "epoch": 1.24, "learning_rate": 7.850000000000001e-05, "loss": 1.7452, "step": 3225 }, { "epoch": 1.25, "learning_rate": 7.833333333333333e-05, "loss": 1.7521, "step": 3250 }, { "epoch": 1.26, "learning_rate": 7.816666666666666e-05, "loss": 1.7399, "step": 3275 }, { "epoch": 1.27, "learning_rate": 7.800000000000001e-05, "loss": 1.7176, "step": 3300 }, { "epoch": 1.28, "learning_rate": 7.783333333333333e-05, "loss": 1.6625, "step": 3325 }, { "epoch": 1.29, "learning_rate": 7.766666666666667e-05, "loss": 1.6885, "step": 3350 }, { "epoch": 1.3, "learning_rate": 7.75e-05, "loss": 1.7098, "step": 3375 }, { "epoch": 1.31, "learning_rate": 7.733333333333333e-05, "loss": 1.6788, "step": 3400 }, { "epoch": 1.32, "learning_rate": 7.716666666666667e-05, "loss": 1.6512, "step": 3425 }, { "epoch": 1.33, "learning_rate": 7.7e-05, "loss": 1.5927, "step": 3450 }, { "epoch": 1.34, "learning_rate": 7.683333333333334e-05, "loss": 1.6283, "step": 3475 }, { "epoch": 1.35, "learning_rate": 7.666666666666667e-05, "loss": 1.6096, "step": 3500 }, { "epoch": 1.35, "learning_rate": 7.65e-05, "loss": 1.6063, "step": 3525 }, { "epoch": 1.36, "learning_rate": 7.633333333333334e-05, "loss": 1.5903, "step": 3550 }, { "epoch": 1.37, "learning_rate": 7.616666666666667e-05, "loss": 1.5999, "step": 3575 }, { "epoch": 1.38, "learning_rate": 7.6e-05, "loss": 1.568, "step": 3600 }, { "epoch": 1.39, "learning_rate": 7.583333333333334e-05, "loss": 1.5492, "step": 3625 }, { "epoch": 1.4, "learning_rate": 7.566666666666667e-05, "loss": 1.5677, "step": 3650 }, { "epoch": 1.41, "learning_rate": 7.55e-05, "loss": 1.5297, "step": 3675 }, { "epoch": 1.42, "learning_rate": 7.533333333333334e-05, "loss": 1.5224, "step": 3700 }, { "epoch": 1.43, "learning_rate": 7.516666666666667e-05, "loss": 1.512, "step": 3725 }, { "epoch": 1.44, "learning_rate": 7.500000000000001e-05, "loss": 1.5499, "step": 3750 }, { "epoch": 1.45, "learning_rate": 7.483333333333333e-05, "loss": 1.4815, "step": 3775 }, { "epoch": 1.46, "learning_rate": 7.466666666666667e-05, "loss": 1.5001, "step": 3800 }, { "epoch": 1.47, "learning_rate": 7.450000000000001e-05, "loss": 1.485, "step": 3825 }, { "epoch": 1.48, "learning_rate": 7.433333333333333e-05, "loss": 1.4703, "step": 3850 }, { "epoch": 1.49, "learning_rate": 7.416666666666668e-05, "loss": 1.4576, "step": 3875 }, { "epoch": 1.5, "learning_rate": 7.4e-05, "loss": 1.4449, "step": 3900 }, { "epoch": 1.51, "learning_rate": 7.383333333333333e-05, "loss": 1.4298, "step": 3925 }, { "epoch": 1.52, "learning_rate": 7.366666666666668e-05, "loss": 1.4518, "step": 3950 }, { "epoch": 1.53, "learning_rate": 7.35e-05, "loss": 1.4458, "step": 3975 }, { "epoch": 1.54, "learning_rate": 7.333333333333333e-05, "loss": 1.4294, "step": 4000 }, { "epoch": 1.55, "learning_rate": 7.316666666666668e-05, "loss": 1.4293, "step": 4025 }, { "epoch": 1.56, "learning_rate": 7.3e-05, "loss": 1.4151, "step": 4050 }, { "epoch": 1.57, "learning_rate": 7.283333333333335e-05, "loss": 1.3973, "step": 4075 }, { "epoch": 1.58, "learning_rate": 7.266666666666667e-05, "loss": 1.3997, "step": 4100 }, { "epoch": 1.59, "learning_rate": 7.25e-05, "loss": 1.3926, "step": 4125 }, { "epoch": 1.59, "learning_rate": 7.233333333333335e-05, "loss": 1.3688, "step": 4150 }, { "epoch": 1.6, "learning_rate": 7.216666666666667e-05, "loss": 1.3913, "step": 4175 }, { "epoch": 1.61, "learning_rate": 7.2e-05, "loss": 1.3792, "step": 4200 }, { "epoch": 1.62, "learning_rate": 7.183333333333334e-05, "loss": 1.3557, "step": 4225 }, { "epoch": 1.63, "learning_rate": 7.166666666666667e-05, "loss": 1.3745, "step": 4250 }, { "epoch": 1.64, "learning_rate": 7.15e-05, "loss": 1.3327, "step": 4275 }, { "epoch": 1.65, "learning_rate": 7.133333333333334e-05, "loss": 1.3334, "step": 4300 }, { "epoch": 1.66, "learning_rate": 7.116666666666667e-05, "loss": 1.3414, "step": 4325 }, { "epoch": 1.67, "learning_rate": 7.1e-05, "loss": 1.3111, "step": 4350 }, { "epoch": 1.68, "learning_rate": 7.083333333333334e-05, "loss": 1.3446, "step": 4375 }, { "epoch": 1.69, "learning_rate": 7.066666666666667e-05, "loss": 1.3054, "step": 4400 }, { "epoch": 1.7, "learning_rate": 7.05e-05, "loss": 1.301, "step": 4425 }, { "epoch": 1.71, "learning_rate": 7.033333333333334e-05, "loss": 1.3121, "step": 4450 }, { "epoch": 1.72, "learning_rate": 7.016666666666667e-05, "loss": 1.3025, "step": 4475 }, { "epoch": 1.73, "learning_rate": 7e-05, "loss": 1.288, "step": 4500 }, { "epoch": 1.74, "learning_rate": 6.983333333333334e-05, "loss": 1.2808, "step": 4525 }, { "epoch": 1.75, "learning_rate": 6.966666666666668e-05, "loss": 1.2657, "step": 4550 }, { "epoch": 1.76, "learning_rate": 6.95e-05, "loss": 1.2528, "step": 4575 }, { "epoch": 1.77, "learning_rate": 6.933333333333334e-05, "loss": 1.2424, "step": 4600 }, { "epoch": 1.78, "learning_rate": 6.916666666666666e-05, "loss": 1.2422, "step": 4625 }, { "epoch": 1.79, "learning_rate": 6.9e-05, "loss": 1.2476, "step": 4650 }, { "epoch": 1.8, "learning_rate": 6.883333333333334e-05, "loss": 1.2385, "step": 4675 }, { "epoch": 1.81, "learning_rate": 6.866666666666666e-05, "loss": 1.2418, "step": 4700 }, { "epoch": 1.82, "learning_rate": 6.850000000000001e-05, "loss": 1.2286, "step": 4725 }, { "epoch": 1.83, "learning_rate": 6.833333333333333e-05, "loss": 1.2135, "step": 4750 }, { "epoch": 1.83, "learning_rate": 6.816666666666667e-05, "loss": 1.2384, "step": 4775 }, { "epoch": 1.84, "learning_rate": 6.800000000000001e-05, "loss": 1.1908, "step": 4800 }, { "epoch": 1.85, "learning_rate": 6.783333333333333e-05, "loss": 1.2256, "step": 4825 }, { "epoch": 1.86, "learning_rate": 6.766666666666667e-05, "loss": 1.2073, "step": 4850 }, { "epoch": 1.87, "learning_rate": 6.750000000000001e-05, "loss": 1.172, "step": 4875 }, { "epoch": 1.88, "learning_rate": 6.733333333333333e-05, "loss": 1.1984, "step": 4900 }, { "epoch": 1.89, "learning_rate": 6.716666666666667e-05, "loss": 1.1998, "step": 4925 }, { "epoch": 1.9, "learning_rate": 6.7e-05, "loss": 1.2097, "step": 4950 }, { "epoch": 1.91, "learning_rate": 6.683333333333334e-05, "loss": 1.1917, "step": 4975 }, { "epoch": 1.92, "learning_rate": 6.666666666666667e-05, "loss": 1.1784, "step": 5000 }, { "epoch": 1.93, "learning_rate": 6.65e-05, "loss": 1.1868, "step": 5025 }, { "epoch": 1.94, "learning_rate": 6.633333333333334e-05, "loss": 1.1555, "step": 5050 }, { "epoch": 1.95, "learning_rate": 6.616666666666667e-05, "loss": 1.1614, "step": 5075 }, { "epoch": 1.96, "learning_rate": 6.6e-05, "loss": 1.1689, "step": 5100 }, { "epoch": 1.97, "learning_rate": 6.583333333333334e-05, "loss": 1.1726, "step": 5125 }, { "epoch": 1.98, "learning_rate": 6.566666666666666e-05, "loss": 1.1445, "step": 5150 }, { "epoch": 1.99, "learning_rate": 6.55e-05, "loss": 1.1041, "step": 5175 }, { "epoch": 2.0, "learning_rate": 6.533333333333334e-05, "loss": 1.1472, "step": 5200 }, { "epoch": 2.01, "learning_rate": 6.516666666666666e-05, "loss": 1.1552, "step": 5225 }, { "epoch": 2.02, "learning_rate": 6.500000000000001e-05, "loss": 1.0813, "step": 5250 }, { "epoch": 2.03, "learning_rate": 6.483333333333333e-05, "loss": 1.1074, "step": 5275 }, { "epoch": 2.04, "learning_rate": 6.466666666666666e-05, "loss": 1.0978, "step": 5300 }, { "epoch": 2.05, "learning_rate": 6.450000000000001e-05, "loss": 1.09, "step": 5325 }, { "epoch": 2.06, "learning_rate": 6.433333333333333e-05, "loss": 1.0906, "step": 5350 }, { "epoch": 2.07, "learning_rate": 6.416666666666668e-05, "loss": 1.0562, "step": 5375 }, { "epoch": 2.08, "learning_rate": 6.400000000000001e-05, "loss": 1.0942, "step": 5400 }, { "epoch": 2.08, "learning_rate": 6.383333333333333e-05, "loss": 1.0638, "step": 5425 }, { "epoch": 2.09, "learning_rate": 6.366666666666668e-05, "loss": 1.0468, "step": 5450 }, { "epoch": 2.1, "learning_rate": 6.35e-05, "loss": 1.0585, "step": 5475 }, { "epoch": 2.11, "learning_rate": 6.333333333333333e-05, "loss": 1.0654, "step": 5500 }, { "epoch": 2.12, "learning_rate": 6.316666666666668e-05, "loss": 1.0642, "step": 5525 }, { "epoch": 2.13, "learning_rate": 6.3e-05, "loss": 1.0432, "step": 5550 }, { "epoch": 2.14, "learning_rate": 6.283333333333333e-05, "loss": 1.0405, "step": 5575 }, { "epoch": 2.15, "learning_rate": 6.266666666666667e-05, "loss": 1.0423, "step": 5600 }, { "epoch": 2.16, "learning_rate": 6.25e-05, "loss": 1.0331, "step": 5625 }, { "epoch": 2.17, "learning_rate": 6.233333333333334e-05, "loss": 1.0246, "step": 5650 }, { "epoch": 2.18, "learning_rate": 6.216666666666667e-05, "loss": 1.0553, "step": 5675 }, { "epoch": 2.19, "learning_rate": 6.2e-05, "loss": 1.0275, "step": 5700 }, { "epoch": 2.2, "learning_rate": 6.183333333333334e-05, "loss": 1.0037, "step": 5725 }, { "epoch": 2.21, "learning_rate": 6.166666666666667e-05, "loss": 1.0103, "step": 5750 }, { "epoch": 2.22, "learning_rate": 6.15e-05, "loss": 1.0121, "step": 5775 }, { "epoch": 2.23, "learning_rate": 6.133333333333334e-05, "loss": 1.0335, "step": 5800 }, { "epoch": 2.24, "learning_rate": 6.116666666666667e-05, "loss": 1.0174, "step": 5825 }, { "epoch": 2.25, "learning_rate": 6.1e-05, "loss": 1.0073, "step": 5850 }, { "epoch": 2.26, "learning_rate": 6.083333333333333e-05, "loss": 0.9956, "step": 5875 }, { "epoch": 2.27, "learning_rate": 6.066666666666667e-05, "loss": 1.0015, "step": 5900 }, { "epoch": 2.28, "learning_rate": 6.05e-05, "loss": 0.9936, "step": 5925 }, { "epoch": 2.29, "learning_rate": 6.033333333333334e-05, "loss": 1.0174, "step": 5950 }, { "epoch": 2.3, "learning_rate": 6.0166666666666674e-05, "loss": 0.9987, "step": 5975 }, { "epoch": 2.31, "learning_rate": 6e-05, "loss": 0.989, "step": 6000 }, { "epoch": 2.34, "learning_rate": 5.9333333333333343e-05, "loss": 0.981, "step": 6100 }, { "epoch": 2.38, "learning_rate": 5.866666666666667e-05, "loss": 0.9764, "step": 6200 }, { "epoch": 2.42, "learning_rate": 5.8e-05, "loss": 0.9568, "step": 6300 }, { "epoch": 2.46, "learning_rate": 5.7333333333333336e-05, "loss": 0.9483, "step": 6400 }, { "epoch": 2.5, "learning_rate": 5.666666666666667e-05, "loss": 0.9292, "step": 6500 }, { "epoch": 2.54, "learning_rate": 5.6000000000000006e-05, "loss": 0.916, "step": 6600 }, { "epoch": 2.57, "learning_rate": 5.5333333333333334e-05, "loss": 0.9065, "step": 6700 }, { "epoch": 2.61, "learning_rate": 5.466666666666666e-05, "loss": 0.9064, "step": 6800 }, { "epoch": 2.65, "learning_rate": 5.4000000000000005e-05, "loss": 0.8868, "step": 6900 }, { "epoch": 2.69, "learning_rate": 5.333333333333333e-05, "loss": 0.8693, "step": 7000 }, { "epoch": 2.73, "learning_rate": 5.266666666666666e-05, "loss": 0.8645, "step": 7100 }, { "epoch": 2.77, "learning_rate": 5.2000000000000004e-05, "loss": 0.8654, "step": 7200 }, { "epoch": 2.81, "learning_rate": 5.133333333333333e-05, "loss": 0.849, "step": 7300 }, { "epoch": 2.84, "learning_rate": 5.0666666666666674e-05, "loss": 0.8405, "step": 7400 }, { "epoch": 2.88, "learning_rate": 5e-05, "loss": 0.8375, "step": 7500 }, { "epoch": 2.92, "learning_rate": 4.933333333333334e-05, "loss": 0.8268, "step": 7600 }, { "epoch": 2.96, "learning_rate": 4.866666666666667e-05, "loss": 0.8108, "step": 7700 }, { "epoch": 3.0, "learning_rate": 4.8e-05, "loss": 0.8034, "step": 7800 }, { "epoch": 3.04, "learning_rate": 4.7333333333333336e-05, "loss": 0.7766, "step": 7900 }, { "epoch": 3.07, "learning_rate": 4.666666666666667e-05, "loss": 0.778, "step": 8000 }, { "epoch": 3.11, "learning_rate": 4.600000000000001e-05, "loss": 0.7527, "step": 8100 }, { "epoch": 3.15, "learning_rate": 4.5333333333333335e-05, "loss": 0.7423, "step": 8200 }, { "epoch": 3.19, "learning_rate": 4.466666666666667e-05, "loss": 0.746, "step": 8300 }, { "epoch": 3.23, "learning_rate": 4.4000000000000006e-05, "loss": 0.736, "step": 8400 }, { "epoch": 3.27, "learning_rate": 4.3333333333333334e-05, "loss": 0.7302, "step": 8500 }, { "epoch": 3.31, "learning_rate": 4.266666666666667e-05, "loss": 0.7315, "step": 8600 }, { "epoch": 3.34, "learning_rate": 4.2e-05, "loss": 0.7179, "step": 8700 }, { "epoch": 3.38, "learning_rate": 4.133333333333333e-05, "loss": 0.7118, "step": 8800 }, { "epoch": 3.42, "learning_rate": 4.066666666666667e-05, "loss": 0.7147, "step": 8900 }, { "epoch": 3.46, "learning_rate": 4e-05, "loss": 0.7095, "step": 9000 }, { "epoch": 3.5, "learning_rate": 3.933333333333333e-05, "loss": 0.6918, "step": 9100 }, { "epoch": 3.54, "learning_rate": 3.866666666666667e-05, "loss": 0.7025, "step": 9200 }, { "epoch": 3.57, "learning_rate": 3.8e-05, "loss": 0.6882, "step": 9300 }, { "epoch": 3.61, "learning_rate": 3.733333333333334e-05, "loss": 0.6953, "step": 9400 }, { "epoch": 3.65, "learning_rate": 3.6666666666666666e-05, "loss": 0.6839, "step": 9500 }, { "epoch": 3.69, "learning_rate": 3.6e-05, "loss": 0.6682, "step": 9600 }, { "epoch": 3.73, "learning_rate": 3.5333333333333336e-05, "loss": 0.6708, "step": 9700 }, { "epoch": 3.77, "learning_rate": 3.466666666666667e-05, "loss": 0.6736, "step": 9800 }, { "epoch": 3.8, "learning_rate": 3.4000000000000007e-05, "loss": 0.6579, "step": 9900 }, { "epoch": 3.84, "learning_rate": 3.3333333333333335e-05, "loss": 0.6642, "step": 10000 }, { "epoch": 3.88, "learning_rate": 3.266666666666667e-05, "loss": 0.6617, "step": 10100 }, { "epoch": 3.92, "learning_rate": 3.2000000000000005e-05, "loss": 0.6669, "step": 10200 }, { "epoch": 3.96, "learning_rate": 3.1333333333333334e-05, "loss": 0.6512, "step": 10300 }, { "epoch": 4.0, "learning_rate": 3.066666666666667e-05, "loss": 0.6454, "step": 10400 }, { "epoch": 4.04, "learning_rate": 3e-05, "loss": 0.62, "step": 10500 }, { "epoch": 4.07, "learning_rate": 2.9333333333333336e-05, "loss": 0.6251, "step": 10600 }, { "epoch": 4.11, "learning_rate": 2.8666666666666668e-05, "loss": 0.6138, "step": 10700 }, { "epoch": 4.15, "learning_rate": 2.8000000000000003e-05, "loss": 0.6103, "step": 10800 }, { "epoch": 4.19, "learning_rate": 2.733333333333333e-05, "loss": 0.603, "step": 10900 }, { "epoch": 4.23, "learning_rate": 2.6666666666666667e-05, "loss": 0.6016, "step": 11000 }, { "epoch": 4.27, "learning_rate": 2.6000000000000002e-05, "loss": 0.6039, "step": 11100 }, { "epoch": 4.3, "learning_rate": 2.5333333333333337e-05, "loss": 0.5989, "step": 11200 }, { "epoch": 4.34, "learning_rate": 2.466666666666667e-05, "loss": 0.5994, "step": 11300 }, { "epoch": 4.38, "learning_rate": 2.4e-05, "loss": 0.5996, "step": 11400 }, { "epoch": 4.42, "learning_rate": 2.3333333333333336e-05, "loss": 0.5881, "step": 11500 }, { "epoch": 4.46, "learning_rate": 2.2666666666666668e-05, "loss": 0.5909, "step": 11600 }, { "epoch": 4.5, "learning_rate": 2.2000000000000003e-05, "loss": 0.5799, "step": 11700 }, { "epoch": 4.53, "learning_rate": 2.1333333333333335e-05, "loss": 0.587, "step": 11800 }, { "epoch": 4.57, "learning_rate": 2.0666666666666666e-05, "loss": 0.5846, "step": 11900 }, { "epoch": 4.61, "learning_rate": 2e-05, "loss": 0.5835, "step": 12000 }, { "epoch": 4.65, "learning_rate": 1.9333333333333333e-05, "loss": 0.5698, "step": 12100 }, { "epoch": 4.69, "learning_rate": 1.866666666666667e-05, "loss": 0.5693, "step": 12200 }, { "epoch": 4.73, "learning_rate": 1.8006666666666668e-05, "loss": 0.577, "step": 12300 }, { "epoch": 4.77, "learning_rate": 1.734e-05, "loss": 0.5784, "step": 12400 }, { "epoch": 4.8, "learning_rate": 1.6673333333333335e-05, "loss": 0.579, "step": 12500 }, { "epoch": 4.84, "learning_rate": 1.6006666666666667e-05, "loss": 0.5697, "step": 12600 }, { "epoch": 4.88, "learning_rate": 1.5340000000000002e-05, "loss": 0.5749, "step": 12700 }, { "epoch": 4.92, "learning_rate": 1.4673333333333334e-05, "loss": 0.577, "step": 12800 }, { "epoch": 4.96, "learning_rate": 1.4006666666666668e-05, "loss": 0.5701, "step": 12900 }, { "epoch": 5.0, "learning_rate": 1.334e-05, "loss": 0.5583, "step": 13000 }, { "epoch": 5.03, "learning_rate": 1.2673333333333335e-05, "loss": 0.5636, "step": 13100 }, { "epoch": 5.07, "learning_rate": 1.2006666666666668e-05, "loss": 0.5489, "step": 13200 }, { "epoch": 5.11, "learning_rate": 1.134e-05, "loss": 0.5442, "step": 13300 }, { "epoch": 5.15, "learning_rate": 1.0673333333333333e-05, "loss": 0.5477, "step": 13400 }, { "epoch": 5.19, "learning_rate": 1.0006666666666667e-05, "loss": 0.5434, "step": 13500 }, { "epoch": 5.23, "learning_rate": 9.34e-06, "loss": 0.5355, "step": 13600 }, { "epoch": 5.27, "learning_rate": 8.673333333333334e-06, "loss": 0.5363, "step": 13700 }, { "epoch": 5.3, "learning_rate": 8.006666666666666e-06, "loss": 0.5382, "step": 13800 }, { "epoch": 5.34, "learning_rate": 7.340000000000001e-06, "loss": 0.5364, "step": 13900 }, { "epoch": 5.38, "learning_rate": 6.673333333333334e-06, "loss": 0.5356, "step": 14000 }, { "epoch": 5.42, "learning_rate": 6.006666666666667e-06, "loss": 0.5277, "step": 14100 }, { "epoch": 5.46, "learning_rate": 5.3400000000000005e-06, "loss": 0.5322, "step": 14200 }, { "epoch": 5.5, "learning_rate": 4.673333333333334e-06, "loss": 0.5298, "step": 14300 }, { "epoch": 5.53, "learning_rate": 4.006666666666667e-06, "loss": 0.5346, "step": 14400 }, { "epoch": 5.57, "learning_rate": 3.34e-06, "loss": 0.5325, "step": 14500 }, { "epoch": 5.61, "learning_rate": 2.68e-06, "loss": 0.5397, "step": 14600 }, { "epoch": 5.65, "learning_rate": 2.0133333333333333e-06, "loss": 0.5356, "step": 14700 }, { "epoch": 5.69, "learning_rate": 1.3466666666666668e-06, "loss": 0.5273, "step": 14800 }, { "epoch": 5.73, "learning_rate": 6.8e-07, "loss": 0.5286, "step": 14900 }, { "epoch": 5.76, "learning_rate": 1.3333333333333335e-08, "loss": 0.5334, "step": 15000 } ], "max_steps": 15000, "num_train_epochs": 6, "total_flos": 5.871782634723533e+19, "trial_name": null, "trial_params": null }