{ "best_metric": null, "best_model_checkpoint": null, "epoch": 43.011, "global_step": 3000, "is_hyper_param_search": false, "is_local_process_zero": true, "is_world_process_zero": true, "log_history": [ { "epoch": 0.01, "learning_rate": 6.946333333333333e-06, "loss": 0.5947, "step": 25 }, { "epoch": 0.02, "learning_rate": 6.888e-06, "loss": 0.3756, "step": 50 }, { "epoch": 1.0, "learning_rate": 6.829666666666667e-06, "loss": 0.2952, "step": 75 }, { "epoch": 1.01, "learning_rate": 6.771333333333333e-06, "loss": 0.2507, "step": 100 }, { "epoch": 1.02, "learning_rate": 6.713e-06, "loss": 0.2125, "step": 125 }, { "epoch": 2.0, "learning_rate": 6.654666666666667e-06, "loss": 0.1826, "step": 150 }, { "epoch": 2.01, "learning_rate": 6.596333333333333e-06, "loss": 0.1664, "step": 175 }, { "epoch": 2.02, "learning_rate": 6.538e-06, "loss": 0.1377, "step": 200 }, { "epoch": 3.01, "learning_rate": 6.4796666666666666e-06, "loss": 0.1191, "step": 225 }, { "epoch": 3.01, "learning_rate": 6.421333333333333e-06, "loss": 0.1102, "step": 250 }, { "epoch": 3.02, "learning_rate": 6.363e-06, "loss": 0.0895, "step": 275 }, { "epoch": 4.01, "learning_rate": 6.3046666666666666e-06, "loss": 0.0738, "step": 300 }, { "epoch": 4.02, "learning_rate": 6.246333333333333e-06, "loss": 0.071, "step": 325 }, { "epoch": 5.0, "learning_rate": 6.188e-06, "loss": 0.0532, "step": 350 }, { "epoch": 5.01, "learning_rate": 6.1296666666666665e-06, "loss": 0.0463, "step": 375 }, { "epoch": 5.02, "learning_rate": 6.071333333333333e-06, "loss": 0.0416, "step": 400 }, { "epoch": 6.0, "learning_rate": 6.013e-06, "loss": 0.0303, "step": 425 }, { "epoch": 6.01, "learning_rate": 5.9546666666666665e-06, "loss": 0.0284, "step": 450 }, { "epoch": 6.02, "learning_rate": 5.896333333333333e-06, "loss": 0.0224, "step": 475 }, { "epoch": 7.01, "learning_rate": 5.838e-06, "loss": 0.0176, "step": 500 }, { "epoch": 7.01, "eval_loss": 0.41654327511787415, "eval_runtime": 507.6124, "eval_samples_per_second": 5.701, "eval_steps_per_second": 0.179, "eval_wer": 22.506591768886853, "step": 500 }, { "epoch": 7.01, "learning_rate": 5.7796666666666665e-06, "loss": 0.0169, "step": 525 }, { "epoch": 7.02, "learning_rate": 5.721333333333333e-06, "loss": 0.0124, "step": 550 }, { "epoch": 8.01, "learning_rate": 5.663000000000001e-06, "loss": 0.0097, "step": 575 }, { "epoch": 8.02, "learning_rate": 5.6046666666666665e-06, "loss": 0.01, "step": 600 }, { "epoch": 9.0, "learning_rate": 5.546333333333333e-06, "loss": 0.0081, "step": 625 }, { "epoch": 9.01, "learning_rate": 5.488e-06, "loss": 0.0061, "step": 650 }, { "epoch": 9.02, "learning_rate": 5.4296666666666665e-06, "loss": 0.0059, "step": 675 }, { "epoch": 10.0, "learning_rate": 5.371333333333333e-06, "loss": 0.0046, "step": 700 }, { "epoch": 10.01, "learning_rate": 5.313e-06, "loss": 0.0043, "step": 725 }, { "epoch": 10.02, "learning_rate": 5.2546666666666664e-06, "loss": 0.0037, "step": 750 }, { "epoch": 11.01, "learning_rate": 5.196333333333333e-06, "loss": 0.0028, "step": 775 }, { "epoch": 11.01, "learning_rate": 5.138e-06, "loss": 0.0029, "step": 800 }, { "epoch": 11.02, "learning_rate": 5.0796666666666664e-06, "loss": 0.0027, "step": 825 }, { "epoch": 12.01, "learning_rate": 5.021333333333334e-06, "loss": 0.0024, "step": 850 }, { "epoch": 12.02, "learning_rate": 4.963e-06, "loss": 0.0021, "step": 875 }, { "epoch": 13.0, "learning_rate": 4.904666666666666e-06, "loss": 0.0017, "step": 900 }, { "epoch": 13.01, "learning_rate": 4.846333333333333e-06, "loss": 0.0014, "step": 925 }, { "epoch": 13.02, "learning_rate": 4.7880000000000006e-06, "loss": 0.0014, "step": 950 }, { "epoch": 14.0, "learning_rate": 4.729666666666666e-06, "loss": 0.0011, "step": 975 }, { "epoch": 14.01, "learning_rate": 4.671333333333333e-06, "loss": 0.0015, "step": 1000 }, { "epoch": 14.01, "eval_loss": 0.518588662147522, "eval_runtime": 502.7764, "eval_samples_per_second": 5.756, "eval_steps_per_second": 0.181, "eval_wer": 22.257250945775535, "step": 1000 }, { "epoch": 14.02, "learning_rate": 4.6130000000000006e-06, "loss": 0.0012, "step": 1025 }, { "epoch": 15.01, "learning_rate": 4.554666666666666e-06, "loss": 0.0013, "step": 1050 }, { "epoch": 15.01, "learning_rate": 4.496333333333333e-06, "loss": 0.0011, "step": 1075 }, { "epoch": 15.02, "learning_rate": 4.438e-06, "loss": 0.0012, "step": 1100 }, { "epoch": 16.01, "learning_rate": 4.379666666666667e-06, "loss": 0.0009, "step": 1125 }, { "epoch": 16.02, "learning_rate": 4.321333333333333e-06, "loss": 0.0008, "step": 1150 }, { "epoch": 17.0, "learning_rate": 4.263e-06, "loss": 0.0007, "step": 1175 }, { "epoch": 17.01, "learning_rate": 4.204666666666666e-06, "loss": 0.001, "step": 1200 }, { "epoch": 17.02, "learning_rate": 4.146333333333334e-06, "loss": 0.0007, "step": 1225 }, { "epoch": 18.0, "learning_rate": 4.088e-06, "loss": 0.0006, "step": 1250 }, { "epoch": 18.01, "learning_rate": 4.029666666666666e-06, "loss": 0.0006, "step": 1275 }, { "epoch": 18.02, "learning_rate": 3.971333333333334e-06, "loss": 0.0005, "step": 1300 }, { "epoch": 19.0, "learning_rate": 3.9130000000000005e-06, "loss": 0.0005, "step": 1325 }, { "epoch": 19.01, "learning_rate": 3.854666666666666e-06, "loss": 0.0005, "step": 1350 }, { "epoch": 19.02, "learning_rate": 3.7963333333333334e-06, "loss": 0.0004, "step": 1375 }, { "epoch": 20.01, "learning_rate": 3.738e-06, "loss": 0.0004, "step": 1400 }, { "epoch": 20.02, "learning_rate": 3.6796666666666663e-06, "loss": 0.0004, "step": 1425 }, { "epoch": 21.0, "learning_rate": 3.621333333333333e-06, "loss": 0.0004, "step": 1450 }, { "epoch": 21.01, "learning_rate": 3.563e-06, "loss": 0.0004, "step": 1475 }, { "epoch": 21.02, "learning_rate": 3.5046666666666667e-06, "loss": 0.0004, "step": 1500 }, { "epoch": 21.02, "eval_loss": 0.5740787982940674, "eval_runtime": 504.8205, "eval_samples_per_second": 5.733, "eval_steps_per_second": 0.18, "eval_wer": 22.240055026940272, "step": 1500 }, { "epoch": 22.0, "learning_rate": 3.4463333333333333e-06, "loss": 0.0003, "step": 1525 }, { "epoch": 22.01, "learning_rate": 3.388e-06, "loss": 0.0004, "step": 1550 }, { "epoch": 22.02, "learning_rate": 3.3296666666666667e-06, "loss": 0.0003, "step": 1575 }, { "epoch": 23.0, "learning_rate": 3.2713333333333333e-06, "loss": 0.0003, "step": 1600 }, { "epoch": 23.01, "learning_rate": 3.213e-06, "loss": 0.0003, "step": 1625 }, { "epoch": 23.02, "learning_rate": 3.1546666666666666e-06, "loss": 0.0003, "step": 1650 }, { "epoch": 24.01, "learning_rate": 3.0963333333333333e-06, "loss": 0.0003, "step": 1675 }, { "epoch": 24.01, "learning_rate": 3.038e-06, "loss": 0.0003, "step": 1700 }, { "epoch": 24.02, "learning_rate": 2.9796666666666666e-06, "loss": 0.0003, "step": 1725 }, { "epoch": 25.01, "learning_rate": 2.9213333333333333e-06, "loss": 0.0003, "step": 1750 }, { "epoch": 25.02, "learning_rate": 2.863e-06, "loss": 0.0003, "step": 1775 }, { "epoch": 26.0, "learning_rate": 2.8046666666666666e-06, "loss": 0.0003, "step": 1800 }, { "epoch": 26.01, "learning_rate": 2.7463333333333333e-06, "loss": 0.0003, "step": 1825 }, { "epoch": 26.02, "learning_rate": 2.688e-06, "loss": 0.0003, "step": 1850 }, { "epoch": 27.0, "learning_rate": 2.6296666666666666e-06, "loss": 0.0002, "step": 1875 }, { "epoch": 27.01, "learning_rate": 2.5713333333333333e-06, "loss": 0.0003, "step": 1900 }, { "epoch": 27.02, "learning_rate": 2.513e-06, "loss": 0.0002, "step": 1925 }, { "epoch": 28.01, "learning_rate": 2.4546666666666666e-06, "loss": 0.0002, "step": 1950 }, { "epoch": 28.01, "learning_rate": 2.3963333333333332e-06, "loss": 0.0002, "step": 1975 }, { "epoch": 28.02, "learning_rate": 2.338e-06, "loss": 0.0002, "step": 2000 }, { "epoch": 28.02, "eval_loss": 0.6025475859642029, "eval_runtime": 514.8451, "eval_samples_per_second": 5.621, "eval_steps_per_second": 0.177, "eval_wer": 22.383354350567465, "step": 2000 }, { "epoch": 29.01, "learning_rate": 2.2796666666666666e-06, "loss": 0.0002, "step": 2025 }, { "epoch": 29.02, "learning_rate": 2.2213333333333336e-06, "loss": 0.0002, "step": 2050 }, { "epoch": 30.0, "learning_rate": 2.163e-06, "loss": 0.0002, "step": 2075 }, { "epoch": 30.01, "learning_rate": 2.104666666666667e-06, "loss": 0.0002, "step": 2100 }, { "epoch": 30.02, "learning_rate": 2.046333333333333e-06, "loss": 0.0002, "step": 2125 }, { "epoch": 31.0, "learning_rate": 1.988e-06, "loss": 0.0002, "step": 2150 }, { "epoch": 31.01, "learning_rate": 1.9296666666666665e-06, "loss": 0.0002, "step": 2175 }, { "epoch": 31.02, "learning_rate": 1.8713333333333332e-06, "loss": 0.0002, "step": 2200 }, { "epoch": 32.01, "learning_rate": 1.813e-06, "loss": 0.0002, "step": 2225 }, { "epoch": 32.01, "learning_rate": 1.7546666666666665e-06, "loss": 0.0002, "step": 2250 }, { "epoch": 32.02, "learning_rate": 1.6963333333333334e-06, "loss": 0.0002, "step": 2275 }, { "epoch": 33.01, "learning_rate": 1.638e-06, "loss": 0.0002, "step": 2300 }, { "epoch": 33.02, "learning_rate": 1.5796666666666665e-06, "loss": 0.0002, "step": 2325 }, { "epoch": 34.0, "learning_rate": 1.5213333333333331e-06, "loss": 0.0002, "step": 2350 }, { "epoch": 34.01, "learning_rate": 1.463e-06, "loss": 0.0002, "step": 2375 }, { "epoch": 34.02, "learning_rate": 1.4046666666666667e-06, "loss": 0.0002, "step": 2400 }, { "epoch": 35.0, "learning_rate": 1.3463333333333333e-06, "loss": 0.0002, "step": 2425 }, { "epoch": 35.01, "learning_rate": 1.288e-06, "loss": 0.0002, "step": 2450 }, { "epoch": 35.02, "learning_rate": 1.2296666666666667e-06, "loss": 0.0002, "step": 2475 }, { "epoch": 36.01, "learning_rate": 1.1713333333333333e-06, "loss": 0.0002, "step": 2500 }, { "epoch": 36.01, "eval_loss": 0.6197419166564941, "eval_runtime": 505.1971, "eval_samples_per_second": 5.728, "eval_steps_per_second": 0.18, "eval_wer": 22.397684282930186, "step": 2500 }, { "epoch": 36.01, "learning_rate": 1.113e-06, "loss": 0.0002, "step": 2525 }, { "epoch": 36.02, "learning_rate": 1.0546666666666666e-06, "loss": 0.0002, "step": 2550 }, { "epoch": 37.01, "learning_rate": 9.963333333333333e-07, "loss": 0.0002, "step": 2575 }, { "epoch": 37.02, "learning_rate": 9.380000000000001e-07, "loss": 0.0002, "step": 2600 }, { "epoch": 38.0, "learning_rate": 8.796666666666667e-07, "loss": 0.0002, "step": 2625 }, { "epoch": 38.01, "learning_rate": 8.213333333333333e-07, "loss": 0.0002, "step": 2650 }, { "epoch": 38.02, "learning_rate": 7.629999999999999e-07, "loss": 0.0002, "step": 2675 }, { "epoch": 39.0, "learning_rate": 7.046666666666667e-07, "loss": 0.0002, "step": 2700 }, { "epoch": 39.01, "learning_rate": 6.463333333333334e-07, "loss": 0.0002, "step": 2725 }, { "epoch": 39.02, "learning_rate": 5.88e-07, "loss": 0.0002, "step": 2750 }, { "epoch": 40.01, "learning_rate": 5.296666666666666e-07, "loss": 0.0002, "step": 2775 }, { "epoch": 40.01, "learning_rate": 4.713333333333333e-07, "loss": 0.0002, "step": 2800 }, { "epoch": 40.02, "learning_rate": 4.1299999999999995e-07, "loss": 0.0002, "step": 2825 }, { "epoch": 41.01, "learning_rate": 3.5466666666666667e-07, "loss": 0.0002, "step": 2850 }, { "epoch": 41.02, "learning_rate": 2.9633333333333333e-07, "loss": 0.0002, "step": 2875 }, { "epoch": 42.0, "learning_rate": 2.3800000000000001e-07, "loss": 0.0001, "step": 2900 }, { "epoch": 42.01, "learning_rate": 1.7966666666666667e-07, "loss": 0.0002, "step": 2925 }, { "epoch": 42.02, "learning_rate": 1.2133333333333333e-07, "loss": 0.0002, "step": 2950 }, { "epoch": 43.0, "learning_rate": 6.3e-08, "loss": 0.0001, "step": 2975 }, { "epoch": 43.01, "learning_rate": 4.666666666666666e-09, "loss": 0.0002, "step": 3000 }, { "epoch": 43.01, "eval_loss": 0.6260294318199158, "eval_runtime": 510.7602, "eval_samples_per_second": 5.666, "eval_steps_per_second": 0.178, "eval_wer": 22.429210134128166, "step": 3000 }, { "epoch": 43.01, "step": 3000, "total_flos": 5.468866487304192e+19, "train_loss": 0.025396304086393987, "train_runtime": 23663.1246, "train_samples_per_second": 8.114, "train_steps_per_second": 0.127 } ], "max_steps": 3000, "num_train_epochs": 9223372036854775807, "total_flos": 5.468866487304192e+19, "trial_name": null, "trial_params": null }