{ "best_metric": null, "best_model_checkpoint": null, "epoch": 0.18471911150107367, "global_step": 2000, "is_hyper_param_search": false, "is_local_process_zero": true, "is_world_process_zero": true, "log_history": [ { "epoch": 0.0, "learning_rate": 0.019933333333333334, "loss": 2.6644, "step": 10 }, { "epoch": 0.0, "learning_rate": 0.019866666666666668, "loss": 1.7151, "step": 20 }, { "epoch": 0.0, "learning_rate": 0.0198, "loss": 1.6228, "step": 30 }, { "epoch": 0.0, "learning_rate": 0.019733333333333335, "loss": 1.401, "step": 40 }, { "epoch": 0.0, "learning_rate": 0.019666666666666666, "loss": 1.6172, "step": 50 }, { "epoch": 0.01, "learning_rate": 0.0196, "loss": 1.4695, "step": 60 }, { "epoch": 0.01, "learning_rate": 0.019533333333333333, "loss": 1.5137, "step": 70 }, { "epoch": 0.01, "learning_rate": 0.019466666666666667, "loss": 1.5425, "step": 80 }, { "epoch": 0.01, "learning_rate": 0.0194, "loss": 1.4272, "step": 90 }, { "epoch": 0.01, "learning_rate": 0.019333333333333334, "loss": 1.3727, "step": 100 }, { "epoch": 0.01, "learning_rate": 0.019266666666666668, "loss": 1.3114, "step": 110 }, { "epoch": 0.01, "learning_rate": 0.0192, "loss": 1.4758, "step": 120 }, { "epoch": 0.01, "learning_rate": 0.019133333333333332, "loss": 1.5219, "step": 130 }, { "epoch": 0.01, "learning_rate": 0.01906666666666667, "loss": 1.376, "step": 140 }, { "epoch": 0.01, "learning_rate": 0.019, "loss": 1.4257, "step": 150 }, { "epoch": 0.01, "learning_rate": 0.018933333333333333, "loss": 1.3474, "step": 160 }, { "epoch": 0.02, "learning_rate": 0.018866666666666667, "loss": 1.2929, "step": 170 }, { "epoch": 0.02, "learning_rate": 0.0188, "loss": 1.3208, "step": 180 }, { "epoch": 0.02, "learning_rate": 0.018733333333333334, "loss": 1.3381, "step": 190 }, { "epoch": 0.02, "learning_rate": 0.018666666666666668, "loss": 1.3644, "step": 200 }, { "epoch": 0.02, "learning_rate": 0.018600000000000002, "loss": 1.2932, "step": 210 }, { "epoch": 0.02, "learning_rate": 0.018533333333333332, "loss": 1.4092, "step": 220 }, { "epoch": 0.02, "learning_rate": 0.018466666666666666, "loss": 1.3006, "step": 230 }, { "epoch": 0.02, "learning_rate": 0.0184, "loss": 1.4572, "step": 240 }, { "epoch": 0.02, "learning_rate": 0.018333333333333333, "loss": 1.2789, "step": 250 }, { "epoch": 0.02, "learning_rate": 0.018266666666666667, "loss": 1.4444, "step": 260 }, { "epoch": 0.02, "learning_rate": 0.0182, "loss": 1.4511, "step": 270 }, { "epoch": 0.03, "learning_rate": 0.01813333333333333, "loss": 1.3541, "step": 280 }, { "epoch": 0.03, "learning_rate": 0.01806666666666667, "loss": 1.3228, "step": 290 }, { "epoch": 0.03, "learning_rate": 0.018000000000000002, "loss": 1.3185, "step": 300 }, { "epoch": 0.03, "learning_rate": 0.017933333333333332, "loss": 1.199, "step": 310 }, { "epoch": 0.03, "learning_rate": 0.017866666666666666, "loss": 1.3417, "step": 320 }, { "epoch": 0.03, "learning_rate": 0.0178, "loss": 1.4251, "step": 330 }, { "epoch": 0.03, "learning_rate": 0.017733333333333334, "loss": 1.3574, "step": 340 }, { "epoch": 0.03, "learning_rate": 0.017666666666666667, "loss": 1.2547, "step": 350 }, { "epoch": 0.03, "learning_rate": 0.0176, "loss": 1.2651, "step": 360 }, { "epoch": 0.03, "learning_rate": 0.017533333333333335, "loss": 1.3414, "step": 370 }, { "epoch": 0.04, "learning_rate": 0.017466666666666665, "loss": 1.3322, "step": 380 }, { "epoch": 0.04, "learning_rate": 0.0174, "loss": 1.4147, "step": 390 }, { "epoch": 0.04, "learning_rate": 0.017333333333333336, "loss": 1.2813, "step": 400 }, { "epoch": 0.04, "learning_rate": 0.017266666666666666, "loss": 1.3687, "step": 410 }, { "epoch": 0.04, "learning_rate": 0.0172, "loss": 1.5593, "step": 420 }, { "epoch": 0.04, "learning_rate": 0.017133333333333334, "loss": 1.3073, "step": 430 }, { "epoch": 0.04, "learning_rate": 0.017066666666666667, "loss": 1.2359, "step": 440 }, { "epoch": 0.04, "learning_rate": 0.017, "loss": 1.2474, "step": 450 }, { "epoch": 0.04, "learning_rate": 0.016933333333333335, "loss": 1.3874, "step": 460 }, { "epoch": 0.04, "learning_rate": 0.01686666666666667, "loss": 1.3203, "step": 470 }, { "epoch": 0.04, "learning_rate": 0.0168, "loss": 1.2875, "step": 480 }, { "epoch": 0.05, "learning_rate": 0.016733333333333333, "loss": 1.2767, "step": 490 }, { "epoch": 0.05, "learning_rate": 0.016666666666666666, "loss": 1.3017, "step": 500 }, { "epoch": 0.05, "learning_rate": 0.0166, "loss": 1.2321, "step": 510 }, { "epoch": 0.05, "learning_rate": 0.016533333333333334, "loss": 1.1719, "step": 520 }, { "epoch": 0.05, "learning_rate": 0.016466666666666668, "loss": 1.2552, "step": 530 }, { "epoch": 0.05, "learning_rate": 0.016399999999999998, "loss": 1.3816, "step": 540 }, { "epoch": 0.05, "learning_rate": 0.01633333333333333, "loss": 1.2956, "step": 550 }, { "epoch": 0.05, "learning_rate": 0.01626666666666667, "loss": 1.2061, "step": 560 }, { "epoch": 0.05, "learning_rate": 0.016200000000000003, "loss": 1.2086, "step": 570 }, { "epoch": 0.05, "learning_rate": 0.016133333333333333, "loss": 1.1633, "step": 580 }, { "epoch": 0.05, "learning_rate": 0.016066666666666667, "loss": 1.2638, "step": 590 }, { "epoch": 0.06, "learning_rate": 0.016, "loss": 1.3441, "step": 600 }, { "epoch": 0.06, "learning_rate": 0.015933333333333334, "loss": 1.2924, "step": 610 }, { "epoch": 0.06, "learning_rate": 0.015866666666666668, "loss": 1.1818, "step": 620 }, { "epoch": 0.06, "learning_rate": 0.0158, "loss": 1.3918, "step": 630 }, { "epoch": 0.06, "learning_rate": 0.015733333333333332, "loss": 1.2232, "step": 640 }, { "epoch": 0.06, "learning_rate": 0.015666666666666666, "loss": 1.2472, "step": 650 }, { "epoch": 0.06, "learning_rate": 0.015600000000000001, "loss": 1.2398, "step": 660 }, { "epoch": 0.06, "learning_rate": 0.015533333333333333, "loss": 1.3649, "step": 670 }, { "epoch": 0.06, "learning_rate": 0.015466666666666667, "loss": 1.2302, "step": 680 }, { "epoch": 0.06, "learning_rate": 0.0154, "loss": 1.2053, "step": 690 }, { "epoch": 0.06, "learning_rate": 0.015333333333333334, "loss": 1.2974, "step": 700 }, { "epoch": 0.07, "learning_rate": 0.015266666666666666, "loss": 1.3036, "step": 710 }, { "epoch": 0.07, "learning_rate": 0.0152, "loss": 1.3162, "step": 720 }, { "epoch": 0.07, "learning_rate": 0.015133333333333334, "loss": 1.2567, "step": 730 }, { "epoch": 0.07, "learning_rate": 0.015066666666666666, "loss": 1.2578, "step": 740 }, { "epoch": 0.07, "learning_rate": 0.015, "loss": 1.2692, "step": 750 }, { "epoch": 0.07, "learning_rate": 0.014933333333333335, "loss": 1.1332, "step": 760 }, { "epoch": 0.07, "learning_rate": 0.014866666666666667, "loss": 1.2949, "step": 770 }, { "epoch": 0.07, "learning_rate": 0.0148, "loss": 1.2703, "step": 780 }, { "epoch": 0.07, "learning_rate": 0.014733333333333334, "loss": 1.3891, "step": 790 }, { "epoch": 0.07, "learning_rate": 0.014666666666666666, "loss": 1.3594, "step": 800 }, { "epoch": 0.07, "learning_rate": 0.0146, "loss": 1.166, "step": 810 }, { "epoch": 0.08, "learning_rate": 0.014533333333333334, "loss": 1.3256, "step": 820 }, { "epoch": 0.08, "learning_rate": 0.014466666666666668, "loss": 1.2669, "step": 830 }, { "epoch": 0.08, "learning_rate": 0.0144, "loss": 1.241, "step": 840 }, { "epoch": 0.08, "learning_rate": 0.014333333333333333, "loss": 1.2591, "step": 850 }, { "epoch": 0.08, "learning_rate": 0.014266666666666667, "loss": 1.238, "step": 860 }, { "epoch": 0.08, "learning_rate": 0.014199999999999999, "loss": 1.3583, "step": 870 }, { "epoch": 0.08, "learning_rate": 0.014133333333333333, "loss": 1.164, "step": 880 }, { "epoch": 0.08, "learning_rate": 0.014066666666666668, "loss": 1.2367, "step": 890 }, { "epoch": 0.08, "learning_rate": 0.013999999999999999, "loss": 1.1864, "step": 900 }, { "epoch": 0.08, "learning_rate": 0.013933333333333334, "loss": 1.2259, "step": 910 }, { "epoch": 0.08, "learning_rate": 0.013866666666666668, "loss": 1.2129, "step": 920 }, { "epoch": 0.09, "learning_rate": 0.0138, "loss": 1.2085, "step": 930 }, { "epoch": 0.09, "learning_rate": 0.013733333333333334, "loss": 1.2316, "step": 940 }, { "epoch": 0.09, "learning_rate": 0.013666666666666667, "loss": 1.2721, "step": 950 }, { "epoch": 0.09, "learning_rate": 0.013600000000000001, "loss": 1.2428, "step": 960 }, { "epoch": 0.09, "learning_rate": 0.013533333333333333, "loss": 1.2126, "step": 970 }, { "epoch": 0.09, "learning_rate": 0.013466666666666667, "loss": 1.1583, "step": 980 }, { "epoch": 0.09, "learning_rate": 0.0134, "loss": 1.2776, "step": 990 }, { "epoch": 0.09, "learning_rate": 0.013333333333333332, "loss": 1.2317, "step": 1000 }, { "epoch": 0.09, "learning_rate": 0.013266666666666666, "loss": 1.2047, "step": 1010 }, { "epoch": 0.09, "learning_rate": 0.013200000000000002, "loss": 1.202, "step": 1020 }, { "epoch": 0.1, "learning_rate": 0.013133333333333332, "loss": 1.1877, "step": 1030 }, { "epoch": 0.1, "learning_rate": 0.013066666666666667, "loss": 1.3071, "step": 1040 }, { "epoch": 0.1, "learning_rate": 0.013000000000000001, "loss": 1.2976, "step": 1050 }, { "epoch": 0.1, "learning_rate": 0.012933333333333333, "loss": 1.4156, "step": 1060 }, { "epoch": 0.1, "learning_rate": 0.012866666666666667, "loss": 1.173, "step": 1070 }, { "epoch": 0.1, "learning_rate": 0.0128, "loss": 1.2263, "step": 1080 }, { "epoch": 0.1, "learning_rate": 0.012733333333333334, "loss": 1.3235, "step": 1090 }, { "epoch": 0.1, "learning_rate": 0.012666666666666666, "loss": 1.1923, "step": 1100 }, { "epoch": 0.1, "learning_rate": 0.0126, "loss": 1.2879, "step": 1110 }, { "epoch": 0.1, "learning_rate": 0.012533333333333334, "loss": 1.196, "step": 1120 }, { "epoch": 0.1, "learning_rate": 0.012466666666666666, "loss": 1.2605, "step": 1130 }, { "epoch": 0.11, "learning_rate": 0.0124, "loss": 1.2303, "step": 1140 }, { "epoch": 0.11, "learning_rate": 0.012333333333333335, "loss": 1.2381, "step": 1150 }, { "epoch": 0.11, "learning_rate": 0.012266666666666665, "loss": 1.2709, "step": 1160 }, { "epoch": 0.11, "learning_rate": 0.0122, "loss": 1.2121, "step": 1170 }, { "epoch": 0.11, "learning_rate": 0.012133333333333335, "loss": 1.3713, "step": 1180 }, { "epoch": 0.11, "learning_rate": 0.012066666666666668, "loss": 1.2923, "step": 1190 }, { "epoch": 0.11, "learning_rate": 0.012, "loss": 1.2947, "step": 1200 }, { "epoch": 0.11, "learning_rate": 0.011933333333333334, "loss": 1.1538, "step": 1210 }, { "epoch": 0.11, "learning_rate": 0.011866666666666668, "loss": 1.1312, "step": 1220 }, { "epoch": 0.11, "learning_rate": 0.0118, "loss": 1.1807, "step": 1230 }, { "epoch": 0.11, "learning_rate": 0.011733333333333333, "loss": 1.2729, "step": 1240 }, { "epoch": 0.12, "learning_rate": 0.011666666666666667, "loss": 1.21, "step": 1250 }, { "epoch": 0.12, "learning_rate": 0.0116, "loss": 1.1986, "step": 1260 }, { "epoch": 0.12, "learning_rate": 0.011533333333333333, "loss": 1.2003, "step": 1270 }, { "epoch": 0.12, "learning_rate": 0.011466666666666667, "loss": 1.1773, "step": 1280 }, { "epoch": 0.12, "learning_rate": 0.011399999999999999, "loss": 1.3241, "step": 1290 }, { "epoch": 0.12, "learning_rate": 0.011333333333333332, "loss": 1.2157, "step": 1300 }, { "epoch": 0.12, "learning_rate": 0.011266666666666668, "loss": 1.2549, "step": 1310 }, { "epoch": 0.12, "learning_rate": 0.011200000000000002, "loss": 1.3245, "step": 1320 }, { "epoch": 0.12, "learning_rate": 0.011133333333333334, "loss": 1.2109, "step": 1330 }, { "epoch": 0.12, "learning_rate": 0.011066666666666667, "loss": 1.1979, "step": 1340 }, { "epoch": 0.12, "learning_rate": 0.011000000000000001, "loss": 1.2804, "step": 1350 }, { "epoch": 0.13, "learning_rate": 0.010933333333333333, "loss": 1.2655, "step": 1360 }, { "epoch": 0.13, "learning_rate": 0.010866666666666667, "loss": 1.1264, "step": 1370 }, { "epoch": 0.13, "learning_rate": 0.0108, "loss": 1.2949, "step": 1380 }, { "epoch": 0.13, "learning_rate": 0.010733333333333333, "loss": 1.2038, "step": 1390 }, { "epoch": 0.13, "learning_rate": 0.010666666666666666, "loss": 1.2514, "step": 1400 }, { "epoch": 0.13, "learning_rate": 0.0106, "loss": 1.1692, "step": 1410 }, { "epoch": 0.13, "learning_rate": 0.010533333333333332, "loss": 1.1947, "step": 1420 }, { "epoch": 0.13, "learning_rate": 0.010466666666666666, "loss": 1.3294, "step": 1430 }, { "epoch": 0.13, "learning_rate": 0.010400000000000001, "loss": 1.2169, "step": 1440 }, { "epoch": 0.13, "learning_rate": 0.010333333333333335, "loss": 1.3113, "step": 1450 }, { "epoch": 0.13, "learning_rate": 0.010266666666666667, "loss": 1.1322, "step": 1460 }, { "epoch": 0.14, "learning_rate": 0.0102, "loss": 1.4228, "step": 1470 }, { "epoch": 0.14, "learning_rate": 0.010133333333333334, "loss": 1.2384, "step": 1480 }, { "epoch": 0.14, "learning_rate": 0.010066666666666666, "loss": 1.2107, "step": 1490 }, { "epoch": 0.14, "learning_rate": 0.01, "loss": 1.2655, "step": 1500 }, { "epoch": 0.14, "learning_rate": 0.009933333333333334, "loss": 1.2991, "step": 1510 }, { "epoch": 0.14, "learning_rate": 0.009866666666666668, "loss": 1.324, "step": 1520 }, { "epoch": 0.14, "learning_rate": 0.0098, "loss": 1.3443, "step": 1530 }, { "epoch": 0.14, "learning_rate": 0.009733333333333333, "loss": 1.1389, "step": 1540 }, { "epoch": 0.14, "learning_rate": 0.009666666666666667, "loss": 1.2308, "step": 1550 }, { "epoch": 0.14, "learning_rate": 0.0096, "loss": 1.1847, "step": 1560 }, { "epoch": 0.15, "learning_rate": 0.009533333333333335, "loss": 1.3154, "step": 1570 }, { "epoch": 0.15, "learning_rate": 0.009466666666666667, "loss": 1.233, "step": 1580 }, { "epoch": 0.15, "learning_rate": 0.0094, "loss": 1.147, "step": 1590 }, { "epoch": 0.15, "learning_rate": 0.009333333333333334, "loss": 1.1824, "step": 1600 }, { "epoch": 0.15, "learning_rate": 0.009266666666666666, "loss": 1.2093, "step": 1610 }, { "epoch": 0.15, "learning_rate": 0.0092, "loss": 1.2111, "step": 1620 }, { "epoch": 0.15, "learning_rate": 0.009133333333333334, "loss": 1.0596, "step": 1630 }, { "epoch": 0.15, "learning_rate": 0.009066666666666666, "loss": 1.3025, "step": 1640 }, { "epoch": 0.15, "learning_rate": 0.009000000000000001, "loss": 1.1726, "step": 1650 }, { "epoch": 0.15, "learning_rate": 0.008933333333333333, "loss": 1.2078, "step": 1660 }, { "epoch": 0.15, "learning_rate": 0.008866666666666667, "loss": 1.2652, "step": 1670 }, { "epoch": 0.16, "learning_rate": 0.0088, "loss": 1.2033, "step": 1680 }, { "epoch": 0.16, "learning_rate": 0.008733333333333333, "loss": 1.1598, "step": 1690 }, { "epoch": 0.16, "learning_rate": 0.008666666666666668, "loss": 1.1904, "step": 1700 }, { "epoch": 0.16, "learning_rate": 0.0086, "loss": 1.242, "step": 1710 }, { "epoch": 0.16, "learning_rate": 0.008533333333333334, "loss": 1.3042, "step": 1720 }, { "epoch": 0.16, "learning_rate": 0.008466666666666667, "loss": 1.3653, "step": 1730 }, { "epoch": 0.16, "learning_rate": 0.0084, "loss": 1.1784, "step": 1740 }, { "epoch": 0.16, "learning_rate": 0.008333333333333333, "loss": 1.2306, "step": 1750 }, { "epoch": 0.16, "learning_rate": 0.008266666666666667, "loss": 1.2139, "step": 1760 }, { "epoch": 0.16, "learning_rate": 0.008199999999999999, "loss": 1.1891, "step": 1770 }, { "epoch": 0.16, "learning_rate": 0.008133333333333334, "loss": 1.2619, "step": 1780 }, { "epoch": 0.17, "learning_rate": 0.008066666666666666, "loss": 1.0873, "step": 1790 }, { "epoch": 0.17, "learning_rate": 0.008, "loss": 1.2537, "step": 1800 }, { "epoch": 0.17, "learning_rate": 0.007933333333333334, "loss": 1.2575, "step": 1810 }, { "epoch": 0.17, "learning_rate": 0.007866666666666666, "loss": 1.1043, "step": 1820 }, { "epoch": 0.17, "learning_rate": 0.0078000000000000005, "loss": 1.2063, "step": 1830 }, { "epoch": 0.17, "learning_rate": 0.007733333333333333, "loss": 1.1602, "step": 1840 }, { "epoch": 0.17, "learning_rate": 0.007666666666666667, "loss": 1.1474, "step": 1850 }, { "epoch": 0.17, "learning_rate": 0.0076, "loss": 1.1482, "step": 1860 }, { "epoch": 0.17, "learning_rate": 0.007533333333333333, "loss": 1.2124, "step": 1870 }, { "epoch": 0.17, "learning_rate": 0.0074666666666666675, "loss": 1.195, "step": 1880 }, { "epoch": 0.17, "learning_rate": 0.0074, "loss": 1.1426, "step": 1890 }, { "epoch": 0.18, "learning_rate": 0.007333333333333333, "loss": 1.2067, "step": 1900 }, { "epoch": 0.18, "learning_rate": 0.007266666666666667, "loss": 1.1649, "step": 1910 }, { "epoch": 0.18, "learning_rate": 0.0072, "loss": 1.0978, "step": 1920 }, { "epoch": 0.18, "learning_rate": 0.0071333333333333335, "loss": 1.2298, "step": 1930 }, { "epoch": 0.18, "learning_rate": 0.007066666666666666, "loss": 1.195, "step": 1940 }, { "epoch": 0.18, "learning_rate": 0.006999999999999999, "loss": 1.2032, "step": 1950 }, { "epoch": 0.18, "learning_rate": 0.006933333333333334, "loss": 1.1134, "step": 1960 }, { "epoch": 0.18, "learning_rate": 0.006866666666666667, "loss": 1.2925, "step": 1970 }, { "epoch": 0.18, "learning_rate": 0.0068000000000000005, "loss": 1.1389, "step": 1980 }, { "epoch": 0.18, "learning_rate": 0.006733333333333333, "loss": 1.1952, "step": 1990 }, { "epoch": 0.18, "learning_rate": 0.006666666666666666, "loss": 1.0672, "step": 2000 } ], "max_steps": 3000, "num_train_epochs": 1, "total_flos": 1.15729542610944e+17, "trial_name": null, "trial_params": null }