File size: 4,270 Bytes
f801aab |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 |
{
"best_metric": null,
"best_model_checkpoint": null,
"epoch": 0.6666666666666666,
"eval_steps": 25,
"global_step": 250,
"is_hyper_param_search": false,
"is_local_process_zero": true,
"is_world_process_zero": true,
"log_history": [
{
"epoch": 0.06666666666666667,
"grad_norm": 0.5077394843101501,
"learning_rate": 0.0004962796513310917,
"loss": 1.8786,
"step": 25
},
{
"epoch": 0.06666666666666667,
"eval_loss": 1.2509196996688843,
"eval_runtime": 14.9139,
"eval_samples_per_second": 3.353,
"eval_steps_per_second": 0.469,
"step": 25
},
{
"epoch": 0.13333333333333333,
"grad_norm": 0.6929311752319336,
"learning_rate": 0.00047590709015212635,
"loss": 1.0271,
"step": 50
},
{
"epoch": 0.13333333333333333,
"eval_loss": 1.2256547212600708,
"eval_runtime": 14.8976,
"eval_samples_per_second": 3.356,
"eval_steps_per_second": 0.47,
"step": 50
},
{
"epoch": 0.2,
"grad_norm": 0.5425320863723755,
"learning_rate": 0.0004391782039544238,
"loss": 1.3165,
"step": 75
},
{
"epoch": 0.2,
"eval_loss": 1.1554468870162964,
"eval_runtime": 14.9773,
"eval_samples_per_second": 3.338,
"eval_steps_per_second": 0.467,
"step": 75
},
{
"epoch": 0.26666666666666666,
"grad_norm": 0.41945549845695496,
"learning_rate": 0.0003887522700533675,
"loss": 1.0036,
"step": 100
},
{
"epoch": 0.26666666666666666,
"eval_loss": 1.1490750312805176,
"eval_runtime": 15.0033,
"eval_samples_per_second": 3.333,
"eval_steps_per_second": 0.467,
"step": 100
},
{
"epoch": 0.3333333333333333,
"grad_norm": 0.47675174474716187,
"learning_rate": 0.00032828027153100067,
"loss": 1.2587,
"step": 125
},
{
"epoch": 0.3333333333333333,
"eval_loss": 1.1076823472976685,
"eval_runtime": 14.9861,
"eval_samples_per_second": 3.336,
"eval_steps_per_second": 0.467,
"step": 125
},
{
"epoch": 0.4,
"grad_norm": 0.39953848719596863,
"learning_rate": 0.0002621405555286121,
"loss": 0.9131,
"step": 150
},
{
"epoch": 0.4,
"eval_loss": 1.1073076725006104,
"eval_runtime": 14.9451,
"eval_samples_per_second": 3.346,
"eval_steps_per_second": 0.468,
"step": 150
},
{
"epoch": 0.4666666666666667,
"grad_norm": 0.42341387271881104,
"learning_rate": 0.00019512182828314883,
"loss": 1.1952,
"step": 175
},
{
"epoch": 0.4666666666666667,
"eval_loss": 1.054356336593628,
"eval_runtime": 14.9684,
"eval_samples_per_second": 3.34,
"eval_steps_per_second": 0.468,
"step": 175
},
{
"epoch": 0.5333333333333333,
"grad_norm": 1.4625991582870483,
"learning_rate": 0.00013207643898130854,
"loss": 0.9034,
"step": 200
},
{
"epoch": 0.5333333333333333,
"eval_loss": 1.0499968528747559,
"eval_runtime": 15.0085,
"eval_samples_per_second": 3.331,
"eval_steps_per_second": 0.466,
"step": 200
},
{
"epoch": 0.6,
"grad_norm": 0.4041430354118347,
"learning_rate": 7.756905568047393e-05,
"loss": 1.1858,
"step": 225
},
{
"epoch": 0.6,
"eval_loss": 1.0380258560180664,
"eval_runtime": 14.9267,
"eval_samples_per_second": 3.35,
"eval_steps_per_second": 0.469,
"step": 225
},
{
"epoch": 0.6666666666666666,
"grad_norm": 0.47007474303245544,
"learning_rate": 3.5546170173306444e-05,
"loss": 0.8296,
"step": 250
},
{
"epoch": 0.6666666666666666,
"eval_loss": 1.0288008451461792,
"eval_runtime": 14.9133,
"eval_samples_per_second": 3.353,
"eval_steps_per_second": 0.469,
"step": 250
}
],
"logging_steps": 25,
"max_steps": 300,
"num_input_tokens_seen": 0,
"num_train_epochs": 1,
"save_steps": 50,
"total_flos": 1.5177993965223936e+16,
"train_batch_size": 1,
"trial_name": null,
"trial_params": null
}
|