honnlp's picture
End of training
9be019b verified
raw
history blame
7.26 kB
{
"best_metric": 0.8428571428571429,
"best_model_checkpoint": "videomae-base-finetuned-ucf101-subset/checkpoint-150",
"epoch": 3.25,
"eval_steps": 500,
"global_step": 300,
"is_hyper_param_search": false,
"is_local_process_zero": true,
"is_world_process_zero": true,
"log_history": [
{
"epoch": 0.03333333333333333,
"grad_norm": 9.030272483825684,
"learning_rate": 1.6666666666666667e-05,
"loss": 2.3471,
"step": 10
},
{
"epoch": 0.06666666666666667,
"grad_norm": 9.653508186340332,
"learning_rate": 3.3333333333333335e-05,
"loss": 2.2728,
"step": 20
},
{
"epoch": 0.1,
"grad_norm": 9.514510154724121,
"learning_rate": 5e-05,
"loss": 2.2423,
"step": 30
},
{
"epoch": 0.13333333333333333,
"grad_norm": 9.425768852233887,
"learning_rate": 4.814814814814815e-05,
"loss": 2.0797,
"step": 40
},
{
"epoch": 0.16666666666666666,
"grad_norm": 12.643138885498047,
"learning_rate": 4.62962962962963e-05,
"loss": 2.1012,
"step": 50
},
{
"epoch": 0.2,
"grad_norm": 9.729035377502441,
"learning_rate": 4.4444444444444447e-05,
"loss": 1.7497,
"step": 60
},
{
"epoch": 0.23333333333333334,
"grad_norm": 9.487822532653809,
"learning_rate": 4.259259259259259e-05,
"loss": 1.7455,
"step": 70
},
{
"epoch": 0.25,
"eval_accuracy": 0.5857142857142857,
"eval_loss": 1.3021408319473267,
"eval_runtime": 16.6801,
"eval_samples_per_second": 4.197,
"eval_steps_per_second": 1.079,
"step": 75
},
{
"epoch": 1.0166666666666666,
"grad_norm": 9.826342582702637,
"learning_rate": 4.074074074074074e-05,
"loss": 1.3037,
"step": 80
},
{
"epoch": 1.05,
"grad_norm": 10.802420616149902,
"learning_rate": 3.888888888888889e-05,
"loss": 1.128,
"step": 90
},
{
"epoch": 1.0833333333333333,
"grad_norm": 15.328178405761719,
"learning_rate": 3.7037037037037037e-05,
"loss": 1.1334,
"step": 100
},
{
"epoch": 1.1166666666666667,
"grad_norm": 9.453879356384277,
"learning_rate": 3.518518518518519e-05,
"loss": 0.8507,
"step": 110
},
{
"epoch": 1.15,
"grad_norm": 10.099981307983398,
"learning_rate": 3.3333333333333335e-05,
"loss": 0.8617,
"step": 120
},
{
"epoch": 1.1833333333333333,
"grad_norm": 21.905996322631836,
"learning_rate": 3.148148148148148e-05,
"loss": 0.6073,
"step": 130
},
{
"epoch": 1.2166666666666668,
"grad_norm": 8.017053604125977,
"learning_rate": 2.962962962962963e-05,
"loss": 0.4951,
"step": 140
},
{
"epoch": 1.25,
"grad_norm": 3.5494937896728516,
"learning_rate": 2.777777777777778e-05,
"loss": 0.9476,
"step": 150
},
{
"epoch": 1.25,
"eval_accuracy": 0.8428571428571429,
"eval_loss": 0.5081102252006531,
"eval_runtime": 16.5404,
"eval_samples_per_second": 4.232,
"eval_steps_per_second": 1.088,
"step": 150
},
{
"epoch": 2.033333333333333,
"grad_norm": 11.868717193603516,
"learning_rate": 2.5925925925925925e-05,
"loss": 0.2692,
"step": 160
},
{
"epoch": 2.066666666666667,
"grad_norm": 11.16838550567627,
"learning_rate": 2.4074074074074074e-05,
"loss": 0.4435,
"step": 170
},
{
"epoch": 2.1,
"grad_norm": 4.307368755340576,
"learning_rate": 2.2222222222222223e-05,
"loss": 0.3437,
"step": 180
},
{
"epoch": 2.1333333333333333,
"grad_norm": 14.703262329101562,
"learning_rate": 2.037037037037037e-05,
"loss": 0.4501,
"step": 190
},
{
"epoch": 2.1666666666666665,
"grad_norm": 3.9073095321655273,
"learning_rate": 1.8518518518518518e-05,
"loss": 0.3173,
"step": 200
},
{
"epoch": 2.2,
"grad_norm": 7.474828720092773,
"learning_rate": 1.6666666666666667e-05,
"loss": 0.1711,
"step": 210
},
{
"epoch": 2.2333333333333334,
"grad_norm": 1.4244682788848877,
"learning_rate": 1.4814814814814815e-05,
"loss": 0.3926,
"step": 220
},
{
"epoch": 2.25,
"eval_accuracy": 0.7714285714285715,
"eval_loss": 0.38518500328063965,
"eval_runtime": 16.889,
"eval_samples_per_second": 4.145,
"eval_steps_per_second": 1.066,
"step": 225
},
{
"epoch": 3.0166666666666666,
"grad_norm": 1.0246777534484863,
"learning_rate": 1.2962962962962962e-05,
"loss": 0.1841,
"step": 230
},
{
"epoch": 3.05,
"grad_norm": 0.22415301203727722,
"learning_rate": 1.1111111111111112e-05,
"loss": 0.12,
"step": 240
},
{
"epoch": 3.0833333333333335,
"grad_norm": 7.395457744598389,
"learning_rate": 9.259259259259259e-06,
"loss": 0.1242,
"step": 250
},
{
"epoch": 3.1166666666666667,
"grad_norm": 0.42695850133895874,
"learning_rate": 7.4074074074074075e-06,
"loss": 0.1291,
"step": 260
},
{
"epoch": 3.15,
"grad_norm": 2.703252077102661,
"learning_rate": 5.555555555555556e-06,
"loss": 0.1147,
"step": 270
},
{
"epoch": 3.183333333333333,
"grad_norm": 0.6641141772270203,
"learning_rate": 3.7037037037037037e-06,
"loss": 0.2027,
"step": 280
},
{
"epoch": 3.216666666666667,
"grad_norm": 1.9637229442596436,
"learning_rate": 1.8518518518518519e-06,
"loss": 0.2594,
"step": 290
},
{
"epoch": 3.25,
"grad_norm": 0.8269719481468201,
"learning_rate": 0.0,
"loss": 0.2059,
"step": 300
},
{
"epoch": 3.25,
"eval_accuracy": 0.8428571428571429,
"eval_loss": 0.39890938997268677,
"eval_runtime": 16.6405,
"eval_samples_per_second": 4.207,
"eval_steps_per_second": 1.082,
"step": 300
},
{
"epoch": 3.25,
"step": 300,
"total_flos": 1.495384188125184e+18,
"train_loss": 0.8531251009305318,
"train_runtime": 689.5393,
"train_samples_per_second": 1.74,
"train_steps_per_second": 0.435
},
{
"epoch": 3.25,
"eval_accuracy": 0.7677419354838709,
"eval_loss": 0.5838326811790466,
"eval_runtime": 31.2901,
"eval_samples_per_second": 4.954,
"eval_steps_per_second": 1.246,
"step": 300
},
{
"epoch": 3.25,
"eval_accuracy": 0.7677419354838709,
"eval_loss": 0.5838326811790466,
"eval_runtime": 30.1878,
"eval_samples_per_second": 5.135,
"eval_steps_per_second": 1.292,
"step": 300
}
],
"logging_steps": 10,
"max_steps": 300,
"num_input_tokens_seen": 0,
"num_train_epochs": 9223372036854775807,
"save_steps": 500,
"total_flos": 1.495384188125184e+18,
"train_batch_size": 4,
"trial_name": null,
"trial_params": null
}