honnlp's picture
End of training
abacdab verified
raw
history blame
No virus
7.22 kB
{
"best_metric": 0.9,
"best_model_checkpoint": "videomae-base-finetuned-ucf101-subset/checkpoint-300",
"epoch": 3.25,
"eval_steps": 500,
"global_step": 300,
"is_hyper_param_search": false,
"is_local_process_zero": true,
"is_world_process_zero": true,
"log_history": [
{
"epoch": 0.03333333333333333,
"grad_norm": 9.844794273376465,
"learning_rate": 1.6666666666666667e-05,
"loss": 2.3909,
"step": 10
},
{
"epoch": 0.06666666666666667,
"grad_norm": 9.915998458862305,
"learning_rate": 3.3333333333333335e-05,
"loss": 2.2975,
"step": 20
},
{
"epoch": 0.1,
"grad_norm": 8.118914604187012,
"learning_rate": 5e-05,
"loss": 2.1891,
"step": 30
},
{
"epoch": 0.13333333333333333,
"grad_norm": 9.995659828186035,
"learning_rate": 4.814814814814815e-05,
"loss": 2.1108,
"step": 40
},
{
"epoch": 0.16666666666666666,
"grad_norm": 16.238676071166992,
"learning_rate": 4.62962962962963e-05,
"loss": 2.0157,
"step": 50
},
{
"epoch": 0.2,
"grad_norm": 11.459919929504395,
"learning_rate": 4.4444444444444447e-05,
"loss": 1.786,
"step": 60
},
{
"epoch": 0.23333333333333334,
"grad_norm": 16.957191467285156,
"learning_rate": 4.259259259259259e-05,
"loss": 1.725,
"step": 70
},
{
"epoch": 0.25,
"eval_accuracy": 0.5857142857142857,
"eval_loss": 1.4549747705459595,
"eval_runtime": 21.027,
"eval_samples_per_second": 3.329,
"eval_steps_per_second": 0.856,
"step": 75
},
{
"epoch": 1.0166666666666666,
"grad_norm": 10.220396041870117,
"learning_rate": 4.074074074074074e-05,
"loss": 1.2715,
"step": 80
},
{
"epoch": 1.05,
"grad_norm": 15.53433895111084,
"learning_rate": 3.888888888888889e-05,
"loss": 1.047,
"step": 90
},
{
"epoch": 1.0833333333333333,
"grad_norm": 12.676159858703613,
"learning_rate": 3.7037037037037037e-05,
"loss": 0.9533,
"step": 100
},
{
"epoch": 1.1166666666666667,
"grad_norm": 7.9939775466918945,
"learning_rate": 3.518518518518519e-05,
"loss": 0.7751,
"step": 110
},
{
"epoch": 1.15,
"grad_norm": 13.577326774597168,
"learning_rate": 3.3333333333333335e-05,
"loss": 0.8486,
"step": 120
},
{
"epoch": 1.1833333333333333,
"grad_norm": 51.059608459472656,
"learning_rate": 3.148148148148148e-05,
"loss": 0.5956,
"step": 130
},
{
"epoch": 1.2166666666666668,
"grad_norm": 24.287654876708984,
"learning_rate": 2.962962962962963e-05,
"loss": 0.589,
"step": 140
},
{
"epoch": 1.25,
"grad_norm": 3.6437978744506836,
"learning_rate": 2.777777777777778e-05,
"loss": 0.9129,
"step": 150
},
{
"epoch": 1.25,
"eval_accuracy": 0.8,
"eval_loss": 0.6064983010292053,
"eval_runtime": 21.0746,
"eval_samples_per_second": 3.322,
"eval_steps_per_second": 0.854,
"step": 150
},
{
"epoch": 2.033333333333333,
"grad_norm": 19.478103637695312,
"learning_rate": 2.5925925925925925e-05,
"loss": 0.3272,
"step": 160
},
{
"epoch": 2.066666666666667,
"grad_norm": 13.367619514465332,
"learning_rate": 2.4074074074074074e-05,
"loss": 0.3867,
"step": 170
},
{
"epoch": 2.1,
"grad_norm": 4.753122806549072,
"learning_rate": 2.2222222222222223e-05,
"loss": 0.4174,
"step": 180
},
{
"epoch": 2.1333333333333333,
"grad_norm": 8.704900741577148,
"learning_rate": 2.037037037037037e-05,
"loss": 0.3808,
"step": 190
},
{
"epoch": 2.1666666666666665,
"grad_norm": 1.229836344718933,
"learning_rate": 1.8518518518518518e-05,
"loss": 0.3201,
"step": 200
},
{
"epoch": 2.2,
"grad_norm": 22.796831130981445,
"learning_rate": 1.6666666666666667e-05,
"loss": 0.2001,
"step": 210
},
{
"epoch": 2.2333333333333334,
"grad_norm": 3.456507682800293,
"learning_rate": 1.4814814814814815e-05,
"loss": 0.2847,
"step": 220
},
{
"epoch": 2.25,
"eval_accuracy": 0.8428571428571429,
"eval_loss": 0.3711912930011749,
"eval_runtime": 21.6648,
"eval_samples_per_second": 3.231,
"eval_steps_per_second": 0.831,
"step": 225
},
{
"epoch": 3.0166666666666666,
"grad_norm": 0.6701892018318176,
"learning_rate": 1.2962962962962962e-05,
"loss": 0.2751,
"step": 230
},
{
"epoch": 3.05,
"grad_norm": 0.3353921175003052,
"learning_rate": 1.1111111111111112e-05,
"loss": 0.1312,
"step": 240
},
{
"epoch": 3.0833333333333335,
"grad_norm": 7.048470973968506,
"learning_rate": 9.259259259259259e-06,
"loss": 0.1633,
"step": 250
},
{
"epoch": 3.1166666666666667,
"grad_norm": 0.83334881067276,
"learning_rate": 7.4074074074074075e-06,
"loss": 0.0812,
"step": 260
},
{
"epoch": 3.15,
"grad_norm": 1.4199155569076538,
"learning_rate": 5.555555555555556e-06,
"loss": 0.112,
"step": 270
},
{
"epoch": 3.183333333333333,
"grad_norm": 0.37524721026420593,
"learning_rate": 3.7037037037037037e-06,
"loss": 0.1688,
"step": 280
},
{
"epoch": 3.216666666666667,
"grad_norm": 0.5031308531761169,
"learning_rate": 1.8518518518518519e-06,
"loss": 0.1877,
"step": 290
},
{
"epoch": 3.25,
"grad_norm": 1.1433354616165161,
"learning_rate": 0.0,
"loss": 0.1871,
"step": 300
},
{
"epoch": 3.25,
"eval_accuracy": 0.9,
"eval_loss": 0.2803722023963928,
"eval_runtime": 21.3881,
"eval_samples_per_second": 3.273,
"eval_steps_per_second": 0.842,
"step": 300
},
{
"epoch": 3.25,
"step": 300,
"total_flos": 1.495384188125184e+18,
"train_loss": 0.8377069818973542,
"train_runtime": 839.5336,
"train_samples_per_second": 1.429,
"train_steps_per_second": 0.357
},
{
"epoch": 3.25,
"eval_accuracy": 0.8838709677419355,
"eval_loss": 0.32161086797714233,
"eval_runtime": 44.5894,
"eval_samples_per_second": 3.476,
"eval_steps_per_second": 0.875,
"step": 300
},
{
"epoch": 3.25,
"eval_accuracy": 0.8838709677419355,
"eval_loss": 0.32161086797714233,
"eval_runtime": 41.5767,
"eval_samples_per_second": 3.728,
"eval_steps_per_second": 0.938,
"step": 300
}
],
"logging_steps": 10,
"max_steps": 300,
"num_input_tokens_seen": 0,
"num_train_epochs": 9223372036854775807,
"save_steps": 500,
"total_flos": 1.495384188125184e+18,
"train_batch_size": 4,
"trial_name": null,
"trial_params": null
}