|
{ |
|
"best_metric": 0.9, |
|
"best_model_checkpoint": "videomae-base-finetuned-ucf101-subset/checkpoint-300", |
|
"epoch": 3.25, |
|
"eval_steps": 500, |
|
"global_step": 300, |
|
"is_hyper_param_search": false, |
|
"is_local_process_zero": true, |
|
"is_world_process_zero": true, |
|
"log_history": [ |
|
{ |
|
"epoch": 0.03333333333333333, |
|
"grad_norm": 9.844794273376465, |
|
"learning_rate": 1.6666666666666667e-05, |
|
"loss": 2.3909, |
|
"step": 10 |
|
}, |
|
{ |
|
"epoch": 0.06666666666666667, |
|
"grad_norm": 9.915998458862305, |
|
"learning_rate": 3.3333333333333335e-05, |
|
"loss": 2.2975, |
|
"step": 20 |
|
}, |
|
{ |
|
"epoch": 0.1, |
|
"grad_norm": 8.118914604187012, |
|
"learning_rate": 5e-05, |
|
"loss": 2.1891, |
|
"step": 30 |
|
}, |
|
{ |
|
"epoch": 0.13333333333333333, |
|
"grad_norm": 9.995659828186035, |
|
"learning_rate": 4.814814814814815e-05, |
|
"loss": 2.1108, |
|
"step": 40 |
|
}, |
|
{ |
|
"epoch": 0.16666666666666666, |
|
"grad_norm": 16.238676071166992, |
|
"learning_rate": 4.62962962962963e-05, |
|
"loss": 2.0157, |
|
"step": 50 |
|
}, |
|
{ |
|
"epoch": 0.2, |
|
"grad_norm": 11.459919929504395, |
|
"learning_rate": 4.4444444444444447e-05, |
|
"loss": 1.786, |
|
"step": 60 |
|
}, |
|
{ |
|
"epoch": 0.23333333333333334, |
|
"grad_norm": 16.957191467285156, |
|
"learning_rate": 4.259259259259259e-05, |
|
"loss": 1.725, |
|
"step": 70 |
|
}, |
|
{ |
|
"epoch": 0.25, |
|
"eval_accuracy": 0.5857142857142857, |
|
"eval_loss": 1.4549747705459595, |
|
"eval_runtime": 21.027, |
|
"eval_samples_per_second": 3.329, |
|
"eval_steps_per_second": 0.856, |
|
"step": 75 |
|
}, |
|
{ |
|
"epoch": 1.0166666666666666, |
|
"grad_norm": 10.220396041870117, |
|
"learning_rate": 4.074074074074074e-05, |
|
"loss": 1.2715, |
|
"step": 80 |
|
}, |
|
{ |
|
"epoch": 1.05, |
|
"grad_norm": 15.53433895111084, |
|
"learning_rate": 3.888888888888889e-05, |
|
"loss": 1.047, |
|
"step": 90 |
|
}, |
|
{ |
|
"epoch": 1.0833333333333333, |
|
"grad_norm": 12.676159858703613, |
|
"learning_rate": 3.7037037037037037e-05, |
|
"loss": 0.9533, |
|
"step": 100 |
|
}, |
|
{ |
|
"epoch": 1.1166666666666667, |
|
"grad_norm": 7.9939775466918945, |
|
"learning_rate": 3.518518518518519e-05, |
|
"loss": 0.7751, |
|
"step": 110 |
|
}, |
|
{ |
|
"epoch": 1.15, |
|
"grad_norm": 13.577326774597168, |
|
"learning_rate": 3.3333333333333335e-05, |
|
"loss": 0.8486, |
|
"step": 120 |
|
}, |
|
{ |
|
"epoch": 1.1833333333333333, |
|
"grad_norm": 51.059608459472656, |
|
"learning_rate": 3.148148148148148e-05, |
|
"loss": 0.5956, |
|
"step": 130 |
|
}, |
|
{ |
|
"epoch": 1.2166666666666668, |
|
"grad_norm": 24.287654876708984, |
|
"learning_rate": 2.962962962962963e-05, |
|
"loss": 0.589, |
|
"step": 140 |
|
}, |
|
{ |
|
"epoch": 1.25, |
|
"grad_norm": 3.6437978744506836, |
|
"learning_rate": 2.777777777777778e-05, |
|
"loss": 0.9129, |
|
"step": 150 |
|
}, |
|
{ |
|
"epoch": 1.25, |
|
"eval_accuracy": 0.8, |
|
"eval_loss": 0.6064983010292053, |
|
"eval_runtime": 21.0746, |
|
"eval_samples_per_second": 3.322, |
|
"eval_steps_per_second": 0.854, |
|
"step": 150 |
|
}, |
|
{ |
|
"epoch": 2.033333333333333, |
|
"grad_norm": 19.478103637695312, |
|
"learning_rate": 2.5925925925925925e-05, |
|
"loss": 0.3272, |
|
"step": 160 |
|
}, |
|
{ |
|
"epoch": 2.066666666666667, |
|
"grad_norm": 13.367619514465332, |
|
"learning_rate": 2.4074074074074074e-05, |
|
"loss": 0.3867, |
|
"step": 170 |
|
}, |
|
{ |
|
"epoch": 2.1, |
|
"grad_norm": 4.753122806549072, |
|
"learning_rate": 2.2222222222222223e-05, |
|
"loss": 0.4174, |
|
"step": 180 |
|
}, |
|
{ |
|
"epoch": 2.1333333333333333, |
|
"grad_norm": 8.704900741577148, |
|
"learning_rate": 2.037037037037037e-05, |
|
"loss": 0.3808, |
|
"step": 190 |
|
}, |
|
{ |
|
"epoch": 2.1666666666666665, |
|
"grad_norm": 1.229836344718933, |
|
"learning_rate": 1.8518518518518518e-05, |
|
"loss": 0.3201, |
|
"step": 200 |
|
}, |
|
{ |
|
"epoch": 2.2, |
|
"grad_norm": 22.796831130981445, |
|
"learning_rate": 1.6666666666666667e-05, |
|
"loss": 0.2001, |
|
"step": 210 |
|
}, |
|
{ |
|
"epoch": 2.2333333333333334, |
|
"grad_norm": 3.456507682800293, |
|
"learning_rate": 1.4814814814814815e-05, |
|
"loss": 0.2847, |
|
"step": 220 |
|
}, |
|
{ |
|
"epoch": 2.25, |
|
"eval_accuracy": 0.8428571428571429, |
|
"eval_loss": 0.3711912930011749, |
|
"eval_runtime": 21.6648, |
|
"eval_samples_per_second": 3.231, |
|
"eval_steps_per_second": 0.831, |
|
"step": 225 |
|
}, |
|
{ |
|
"epoch": 3.0166666666666666, |
|
"grad_norm": 0.6701892018318176, |
|
"learning_rate": 1.2962962962962962e-05, |
|
"loss": 0.2751, |
|
"step": 230 |
|
}, |
|
{ |
|
"epoch": 3.05, |
|
"grad_norm": 0.3353921175003052, |
|
"learning_rate": 1.1111111111111112e-05, |
|
"loss": 0.1312, |
|
"step": 240 |
|
}, |
|
{ |
|
"epoch": 3.0833333333333335, |
|
"grad_norm": 7.048470973968506, |
|
"learning_rate": 9.259259259259259e-06, |
|
"loss": 0.1633, |
|
"step": 250 |
|
}, |
|
{ |
|
"epoch": 3.1166666666666667, |
|
"grad_norm": 0.83334881067276, |
|
"learning_rate": 7.4074074074074075e-06, |
|
"loss": 0.0812, |
|
"step": 260 |
|
}, |
|
{ |
|
"epoch": 3.15, |
|
"grad_norm": 1.4199155569076538, |
|
"learning_rate": 5.555555555555556e-06, |
|
"loss": 0.112, |
|
"step": 270 |
|
}, |
|
{ |
|
"epoch": 3.183333333333333, |
|
"grad_norm": 0.37524721026420593, |
|
"learning_rate": 3.7037037037037037e-06, |
|
"loss": 0.1688, |
|
"step": 280 |
|
}, |
|
{ |
|
"epoch": 3.216666666666667, |
|
"grad_norm": 0.5031308531761169, |
|
"learning_rate": 1.8518518518518519e-06, |
|
"loss": 0.1877, |
|
"step": 290 |
|
}, |
|
{ |
|
"epoch": 3.25, |
|
"grad_norm": 1.1433354616165161, |
|
"learning_rate": 0.0, |
|
"loss": 0.1871, |
|
"step": 300 |
|
}, |
|
{ |
|
"epoch": 3.25, |
|
"eval_accuracy": 0.9, |
|
"eval_loss": 0.2803722023963928, |
|
"eval_runtime": 21.3881, |
|
"eval_samples_per_second": 3.273, |
|
"eval_steps_per_second": 0.842, |
|
"step": 300 |
|
}, |
|
{ |
|
"epoch": 3.25, |
|
"step": 300, |
|
"total_flos": 1.495384188125184e+18, |
|
"train_loss": 0.8377069818973542, |
|
"train_runtime": 839.5336, |
|
"train_samples_per_second": 1.429, |
|
"train_steps_per_second": 0.357 |
|
}, |
|
{ |
|
"epoch": 3.25, |
|
"eval_accuracy": 0.8838709677419355, |
|
"eval_loss": 0.32161086797714233, |
|
"eval_runtime": 44.5894, |
|
"eval_samples_per_second": 3.476, |
|
"eval_steps_per_second": 0.875, |
|
"step": 300 |
|
}, |
|
{ |
|
"epoch": 3.25, |
|
"eval_accuracy": 0.8838709677419355, |
|
"eval_loss": 0.32161086797714233, |
|
"eval_runtime": 41.5767, |
|
"eval_samples_per_second": 3.728, |
|
"eval_steps_per_second": 0.938, |
|
"step": 300 |
|
} |
|
], |
|
"logging_steps": 10, |
|
"max_steps": 300, |
|
"num_input_tokens_seen": 0, |
|
"num_train_epochs": 9223372036854775807, |
|
"save_steps": 500, |
|
"total_flos": 1.495384188125184e+18, |
|
"train_batch_size": 4, |
|
"trial_name": null, |
|
"trial_params": null |
|
} |
|
|