yehiawp4 commited on
Commit
87419f2
1 Parent(s): 7910d60

End of training

Browse files
Files changed (3) hide show
  1. all_results.json +8 -0
  2. test_results.json +8 -0
  3. trainer_state.json +1617 -0
all_results.json ADDED
@@ -0,0 +1,8 @@
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "epoch": 10.07,
3
+ "eval_accuracy": 0.24271844660194175,
4
+ "eval_loss": 1.9485328197479248,
5
+ "eval_runtime": 251.8324,
6
+ "eval_samples_per_second": 0.409,
7
+ "eval_steps_per_second": 0.206
8
+ }
test_results.json ADDED
@@ -0,0 +1,8 @@
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "epoch": 10.07,
3
+ "eval_accuracy": 0.24271844660194175,
4
+ "eval_loss": 1.9485328197479248,
5
+ "eval_runtime": 251.8324,
6
+ "eval_samples_per_second": 0.409,
7
+ "eval_steps_per_second": 0.206
8
+ }
trainer_state.json ADDED
@@ -0,0 +1,1617 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "best_metric": 0.36585365853658536,
3
+ "best_model_checkpoint": "google/vivit-b-16x2-kinetics400-CAER-SAMPLE\\checkpoint-588",
4
+ "epoch": 10.066666666666666,
5
+ "eval_steps": 500,
6
+ "global_step": 2100,
7
+ "is_hyper_param_search": false,
8
+ "is_local_process_zero": true,
9
+ "is_world_process_zero": true,
10
+ "log_history": [
11
+ {
12
+ "epoch": 0.0,
13
+ "grad_norm": 21.040367126464844,
14
+ "learning_rate": 2.3809523809523808e-06,
15
+ "loss": 2.0819,
16
+ "step": 10
17
+ },
18
+ {
19
+ "epoch": 0.01,
20
+ "grad_norm": 20.962032318115234,
21
+ "learning_rate": 4.7619047619047615e-06,
22
+ "loss": 2.1082,
23
+ "step": 20
24
+ },
25
+ {
26
+ "epoch": 0.01,
27
+ "grad_norm": 19.943674087524414,
28
+ "learning_rate": 7.142857142857143e-06,
29
+ "loss": 2.148,
30
+ "step": 30
31
+ },
32
+ {
33
+ "epoch": 0.02,
34
+ "grad_norm": 20.1109619140625,
35
+ "learning_rate": 9.523809523809523e-06,
36
+ "loss": 1.9797,
37
+ "step": 40
38
+ },
39
+ {
40
+ "epoch": 0.02,
41
+ "grad_norm": 20.655811309814453,
42
+ "learning_rate": 1.1904761904761905e-05,
43
+ "loss": 2.1647,
44
+ "step": 50
45
+ },
46
+ {
47
+ "epoch": 0.03,
48
+ "grad_norm": 19.211088180541992,
49
+ "learning_rate": 1.4285714285714285e-05,
50
+ "loss": 2.0541,
51
+ "step": 60
52
+ },
53
+ {
54
+ "epoch": 0.03,
55
+ "grad_norm": 19.060794830322266,
56
+ "learning_rate": 1.6666666666666667e-05,
57
+ "loss": 1.9982,
58
+ "step": 70
59
+ },
60
+ {
61
+ "epoch": 0.04,
62
+ "grad_norm": 18.562660217285156,
63
+ "learning_rate": 1.9047619047619046e-05,
64
+ "loss": 1.9553,
65
+ "step": 80
66
+ },
67
+ {
68
+ "epoch": 0.04,
69
+ "grad_norm": 21.629850387573242,
70
+ "learning_rate": 2.1428571428571428e-05,
71
+ "loss": 2.0218,
72
+ "step": 90
73
+ },
74
+ {
75
+ "epoch": 0.05,
76
+ "grad_norm": 22.143321990966797,
77
+ "learning_rate": 2.380952380952381e-05,
78
+ "loss": 2.0226,
79
+ "step": 100
80
+ },
81
+ {
82
+ "epoch": 0.05,
83
+ "grad_norm": 21.463300704956055,
84
+ "learning_rate": 2.6190476190476192e-05,
85
+ "loss": 2.1175,
86
+ "step": 110
87
+ },
88
+ {
89
+ "epoch": 0.06,
90
+ "grad_norm": 20.069828033447266,
91
+ "learning_rate": 2.857142857142857e-05,
92
+ "loss": 1.9767,
93
+ "step": 120
94
+ },
95
+ {
96
+ "epoch": 0.06,
97
+ "grad_norm": 21.68781280517578,
98
+ "learning_rate": 3.095238095238095e-05,
99
+ "loss": 1.944,
100
+ "step": 130
101
+ },
102
+ {
103
+ "epoch": 0.07,
104
+ "grad_norm": 22.342853546142578,
105
+ "learning_rate": 3.3333333333333335e-05,
106
+ "loss": 1.8881,
107
+ "step": 140
108
+ },
109
+ {
110
+ "epoch": 0.07,
111
+ "grad_norm": 22.58480453491211,
112
+ "learning_rate": 3.571428571428572e-05,
113
+ "loss": 1.957,
114
+ "step": 150
115
+ },
116
+ {
117
+ "epoch": 0.08,
118
+ "grad_norm": 21.043750762939453,
119
+ "learning_rate": 3.809523809523809e-05,
120
+ "loss": 1.9067,
121
+ "step": 160
122
+ },
123
+ {
124
+ "epoch": 0.08,
125
+ "grad_norm": 18.581403732299805,
126
+ "learning_rate": 4.047619047619048e-05,
127
+ "loss": 1.8434,
128
+ "step": 170
129
+ },
130
+ {
131
+ "epoch": 0.09,
132
+ "grad_norm": 19.873624801635742,
133
+ "learning_rate": 4.2857142857142856e-05,
134
+ "loss": 1.7584,
135
+ "step": 180
136
+ },
137
+ {
138
+ "epoch": 0.09,
139
+ "grad_norm": 27.060535430908203,
140
+ "learning_rate": 4.523809523809524e-05,
141
+ "loss": 2.4781,
142
+ "step": 190
143
+ },
144
+ {
145
+ "epoch": 0.09,
146
+ "eval_accuracy": 0.24390243902439024,
147
+ "eval_loss": 1.8166238069534302,
148
+ "eval_runtime": 97.0837,
149
+ "eval_samples_per_second": 0.422,
150
+ "eval_steps_per_second": 0.216,
151
+ "step": 196
152
+ },
153
+ {
154
+ "epoch": 1.0,
155
+ "grad_norm": 22.22335433959961,
156
+ "learning_rate": 4.761904761904762e-05,
157
+ "loss": 1.8185,
158
+ "step": 200
159
+ },
160
+ {
161
+ "epoch": 1.01,
162
+ "grad_norm": 18.064006805419922,
163
+ "learning_rate": 5e-05,
164
+ "loss": 1.513,
165
+ "step": 210
166
+ },
167
+ {
168
+ "epoch": 1.01,
169
+ "grad_norm": 21.092018127441406,
170
+ "learning_rate": 4.973544973544973e-05,
171
+ "loss": 1.6385,
172
+ "step": 220
173
+ },
174
+ {
175
+ "epoch": 1.02,
176
+ "grad_norm": 24.412302017211914,
177
+ "learning_rate": 4.9470899470899475e-05,
178
+ "loss": 1.6291,
179
+ "step": 230
180
+ },
181
+ {
182
+ "epoch": 1.02,
183
+ "grad_norm": 23.470930099487305,
184
+ "learning_rate": 4.9206349206349204e-05,
185
+ "loss": 1.4416,
186
+ "step": 240
187
+ },
188
+ {
189
+ "epoch": 1.03,
190
+ "grad_norm": 24.228782653808594,
191
+ "learning_rate": 4.894179894179895e-05,
192
+ "loss": 2.2057,
193
+ "step": 250
194
+ },
195
+ {
196
+ "epoch": 1.03,
197
+ "grad_norm": 17.363630294799805,
198
+ "learning_rate": 4.8677248677248676e-05,
199
+ "loss": 1.8102,
200
+ "step": 260
201
+ },
202
+ {
203
+ "epoch": 1.04,
204
+ "grad_norm": 25.69906234741211,
205
+ "learning_rate": 4.841269841269841e-05,
206
+ "loss": 1.7703,
207
+ "step": 270
208
+ },
209
+ {
210
+ "epoch": 1.04,
211
+ "grad_norm": 24.245840072631836,
212
+ "learning_rate": 4.814814814814815e-05,
213
+ "loss": 1.8854,
214
+ "step": 280
215
+ },
216
+ {
217
+ "epoch": 1.04,
218
+ "grad_norm": 18.425830841064453,
219
+ "learning_rate": 4.7883597883597884e-05,
220
+ "loss": 1.4344,
221
+ "step": 290
222
+ },
223
+ {
224
+ "epoch": 1.05,
225
+ "grad_norm": 25.066003799438477,
226
+ "learning_rate": 4.761904761904762e-05,
227
+ "loss": 1.8341,
228
+ "step": 300
229
+ },
230
+ {
231
+ "epoch": 1.05,
232
+ "grad_norm": 18.590608596801758,
233
+ "learning_rate": 4.7354497354497356e-05,
234
+ "loss": 1.5598,
235
+ "step": 310
236
+ },
237
+ {
238
+ "epoch": 1.06,
239
+ "grad_norm": 18.962934494018555,
240
+ "learning_rate": 4.708994708994709e-05,
241
+ "loss": 1.6827,
242
+ "step": 320
243
+ },
244
+ {
245
+ "epoch": 1.06,
246
+ "grad_norm": 15.114640235900879,
247
+ "learning_rate": 4.682539682539683e-05,
248
+ "loss": 1.5371,
249
+ "step": 330
250
+ },
251
+ {
252
+ "epoch": 1.07,
253
+ "grad_norm": 10.92546558380127,
254
+ "learning_rate": 4.656084656084656e-05,
255
+ "loss": 1.6233,
256
+ "step": 340
257
+ },
258
+ {
259
+ "epoch": 1.07,
260
+ "grad_norm": 24.024572372436523,
261
+ "learning_rate": 4.62962962962963e-05,
262
+ "loss": 1.7803,
263
+ "step": 350
264
+ },
265
+ {
266
+ "epoch": 1.08,
267
+ "grad_norm": 22.18260383605957,
268
+ "learning_rate": 4.603174603174603e-05,
269
+ "loss": 2.0079,
270
+ "step": 360
271
+ },
272
+ {
273
+ "epoch": 1.08,
274
+ "grad_norm": 23.039701461791992,
275
+ "learning_rate": 4.576719576719577e-05,
276
+ "loss": 1.582,
277
+ "step": 370
278
+ },
279
+ {
280
+ "epoch": 1.09,
281
+ "grad_norm": 20.918445587158203,
282
+ "learning_rate": 4.55026455026455e-05,
283
+ "loss": 1.9383,
284
+ "step": 380
285
+ },
286
+ {
287
+ "epoch": 1.09,
288
+ "grad_norm": 20.540185928344727,
289
+ "learning_rate": 4.523809523809524e-05,
290
+ "loss": 2.0142,
291
+ "step": 390
292
+ },
293
+ {
294
+ "epoch": 1.09,
295
+ "eval_accuracy": 0.1951219512195122,
296
+ "eval_loss": 2.294609546661377,
297
+ "eval_runtime": 97.734,
298
+ "eval_samples_per_second": 0.42,
299
+ "eval_steps_per_second": 0.215,
300
+ "step": 392
301
+ },
302
+ {
303
+ "epoch": 2.0,
304
+ "grad_norm": 20.112930297851562,
305
+ "learning_rate": 4.4973544973544974e-05,
306
+ "loss": 1.281,
307
+ "step": 400
308
+ },
309
+ {
310
+ "epoch": 2.01,
311
+ "grad_norm": 16.186555862426758,
312
+ "learning_rate": 4.470899470899471e-05,
313
+ "loss": 1.1811,
314
+ "step": 410
315
+ },
316
+ {
317
+ "epoch": 2.01,
318
+ "grad_norm": 17.308746337890625,
319
+ "learning_rate": 4.4444444444444447e-05,
320
+ "loss": 1.6046,
321
+ "step": 420
322
+ },
323
+ {
324
+ "epoch": 2.02,
325
+ "grad_norm": 15.936869621276855,
326
+ "learning_rate": 4.417989417989418e-05,
327
+ "loss": 1.1209,
328
+ "step": 430
329
+ },
330
+ {
331
+ "epoch": 2.02,
332
+ "grad_norm": 18.442317962646484,
333
+ "learning_rate": 4.391534391534391e-05,
334
+ "loss": 1.613,
335
+ "step": 440
336
+ },
337
+ {
338
+ "epoch": 2.03,
339
+ "grad_norm": 25.79071044921875,
340
+ "learning_rate": 4.3650793650793655e-05,
341
+ "loss": 1.1109,
342
+ "step": 450
343
+ },
344
+ {
345
+ "epoch": 2.03,
346
+ "grad_norm": 17.710105895996094,
347
+ "learning_rate": 4.3386243386243384e-05,
348
+ "loss": 1.0664,
349
+ "step": 460
350
+ },
351
+ {
352
+ "epoch": 2.04,
353
+ "grad_norm": 14.870391845703125,
354
+ "learning_rate": 4.312169312169313e-05,
355
+ "loss": 1.2283,
356
+ "step": 470
357
+ },
358
+ {
359
+ "epoch": 2.04,
360
+ "grad_norm": 10.361430168151855,
361
+ "learning_rate": 4.2857142857142856e-05,
362
+ "loss": 0.9415,
363
+ "step": 480
364
+ },
365
+ {
366
+ "epoch": 2.05,
367
+ "grad_norm": 22.23798179626465,
368
+ "learning_rate": 4.259259259259259e-05,
369
+ "loss": 1.3095,
370
+ "step": 490
371
+ },
372
+ {
373
+ "epoch": 2.05,
374
+ "grad_norm": 15.113299369812012,
375
+ "learning_rate": 4.232804232804233e-05,
376
+ "loss": 1.2173,
377
+ "step": 500
378
+ },
379
+ {
380
+ "epoch": 2.06,
381
+ "grad_norm": 22.383806228637695,
382
+ "learning_rate": 4.2063492063492065e-05,
383
+ "loss": 1.6995,
384
+ "step": 510
385
+ },
386
+ {
387
+ "epoch": 2.06,
388
+ "grad_norm": 18.106990814208984,
389
+ "learning_rate": 4.17989417989418e-05,
390
+ "loss": 1.5246,
391
+ "step": 520
392
+ },
393
+ {
394
+ "epoch": 2.07,
395
+ "grad_norm": 17.58225440979004,
396
+ "learning_rate": 4.153439153439154e-05,
397
+ "loss": 1.6346,
398
+ "step": 530
399
+ },
400
+ {
401
+ "epoch": 2.07,
402
+ "grad_norm": 20.450359344482422,
403
+ "learning_rate": 4.126984126984127e-05,
404
+ "loss": 1.402,
405
+ "step": 540
406
+ },
407
+ {
408
+ "epoch": 2.08,
409
+ "grad_norm": 19.060672760009766,
410
+ "learning_rate": 4.100529100529101e-05,
411
+ "loss": 1.3466,
412
+ "step": 550
413
+ },
414
+ {
415
+ "epoch": 2.08,
416
+ "grad_norm": 19.76554298400879,
417
+ "learning_rate": 4.074074074074074e-05,
418
+ "loss": 1.3471,
419
+ "step": 560
420
+ },
421
+ {
422
+ "epoch": 2.08,
423
+ "grad_norm": 19.519485473632812,
424
+ "learning_rate": 4.047619047619048e-05,
425
+ "loss": 1.3535,
426
+ "step": 570
427
+ },
428
+ {
429
+ "epoch": 2.09,
430
+ "grad_norm": 27.53349494934082,
431
+ "learning_rate": 4.021164021164021e-05,
432
+ "loss": 1.2947,
433
+ "step": 580
434
+ },
435
+ {
436
+ "epoch": 2.09,
437
+ "eval_accuracy": 0.36585365853658536,
438
+ "eval_loss": 1.6997814178466797,
439
+ "eval_runtime": 97.5161,
440
+ "eval_samples_per_second": 0.42,
441
+ "eval_steps_per_second": 0.215,
442
+ "step": 588
443
+ },
444
+ {
445
+ "epoch": 3.0,
446
+ "grad_norm": 12.76953411102295,
447
+ "learning_rate": 3.9947089947089946e-05,
448
+ "loss": 1.0455,
449
+ "step": 590
450
+ },
451
+ {
452
+ "epoch": 3.01,
453
+ "grad_norm": 23.524166107177734,
454
+ "learning_rate": 3.968253968253968e-05,
455
+ "loss": 0.9096,
456
+ "step": 600
457
+ },
458
+ {
459
+ "epoch": 3.01,
460
+ "grad_norm": 16.023509979248047,
461
+ "learning_rate": 3.941798941798942e-05,
462
+ "loss": 0.7188,
463
+ "step": 610
464
+ },
465
+ {
466
+ "epoch": 3.02,
467
+ "grad_norm": 6.053380012512207,
468
+ "learning_rate": 3.9153439153439155e-05,
469
+ "loss": 1.0134,
470
+ "step": 620
471
+ },
472
+ {
473
+ "epoch": 3.02,
474
+ "grad_norm": 21.445356369018555,
475
+ "learning_rate": 3.888888888888889e-05,
476
+ "loss": 1.1377,
477
+ "step": 630
478
+ },
479
+ {
480
+ "epoch": 3.02,
481
+ "grad_norm": 2.62589168548584,
482
+ "learning_rate": 3.862433862433863e-05,
483
+ "loss": 0.7862,
484
+ "step": 640
485
+ },
486
+ {
487
+ "epoch": 3.03,
488
+ "grad_norm": 17.238386154174805,
489
+ "learning_rate": 3.835978835978836e-05,
490
+ "loss": 0.8987,
491
+ "step": 650
492
+ },
493
+ {
494
+ "epoch": 3.03,
495
+ "grad_norm": 21.664026260375977,
496
+ "learning_rate": 3.809523809523809e-05,
497
+ "loss": 0.8078,
498
+ "step": 660
499
+ },
500
+ {
501
+ "epoch": 3.04,
502
+ "grad_norm": 17.513721466064453,
503
+ "learning_rate": 3.7830687830687835e-05,
504
+ "loss": 1.0894,
505
+ "step": 670
506
+ },
507
+ {
508
+ "epoch": 3.04,
509
+ "grad_norm": 28.274599075317383,
510
+ "learning_rate": 3.7566137566137564e-05,
511
+ "loss": 0.8099,
512
+ "step": 680
513
+ },
514
+ {
515
+ "epoch": 3.05,
516
+ "grad_norm": 12.51369571685791,
517
+ "learning_rate": 3.730158730158731e-05,
518
+ "loss": 0.7437,
519
+ "step": 690
520
+ },
521
+ {
522
+ "epoch": 3.05,
523
+ "grad_norm": 18.50059700012207,
524
+ "learning_rate": 3.7037037037037037e-05,
525
+ "loss": 0.966,
526
+ "step": 700
527
+ },
528
+ {
529
+ "epoch": 3.06,
530
+ "grad_norm": 16.658267974853516,
531
+ "learning_rate": 3.677248677248677e-05,
532
+ "loss": 0.9597,
533
+ "step": 710
534
+ },
535
+ {
536
+ "epoch": 3.06,
537
+ "grad_norm": 12.815518379211426,
538
+ "learning_rate": 3.650793650793651e-05,
539
+ "loss": 1.0438,
540
+ "step": 720
541
+ },
542
+ {
543
+ "epoch": 3.07,
544
+ "grad_norm": 10.553025245666504,
545
+ "learning_rate": 3.6243386243386245e-05,
546
+ "loss": 1.0394,
547
+ "step": 730
548
+ },
549
+ {
550
+ "epoch": 3.07,
551
+ "grad_norm": 19.39080238342285,
552
+ "learning_rate": 3.597883597883598e-05,
553
+ "loss": 0.7301,
554
+ "step": 740
555
+ },
556
+ {
557
+ "epoch": 3.08,
558
+ "grad_norm": 20.088712692260742,
559
+ "learning_rate": 3.571428571428572e-05,
560
+ "loss": 1.0226,
561
+ "step": 750
562
+ },
563
+ {
564
+ "epoch": 3.08,
565
+ "grad_norm": 21.335155487060547,
566
+ "learning_rate": 3.5449735449735446e-05,
567
+ "loss": 1.0559,
568
+ "step": 760
569
+ },
570
+ {
571
+ "epoch": 3.09,
572
+ "grad_norm": 13.45548152923584,
573
+ "learning_rate": 3.518518518518519e-05,
574
+ "loss": 0.7884,
575
+ "step": 770
576
+ },
577
+ {
578
+ "epoch": 3.09,
579
+ "grad_norm": 3.4905335903167725,
580
+ "learning_rate": 3.492063492063492e-05,
581
+ "loss": 0.8486,
582
+ "step": 780
583
+ },
584
+ {
585
+ "epoch": 3.09,
586
+ "eval_accuracy": 0.21951219512195122,
587
+ "eval_loss": 2.036907196044922,
588
+ "eval_runtime": 97.631,
589
+ "eval_samples_per_second": 0.42,
590
+ "eval_steps_per_second": 0.215,
591
+ "step": 784
592
+ },
593
+ {
594
+ "epoch": 4.0,
595
+ "grad_norm": 14.28947639465332,
596
+ "learning_rate": 3.465608465608466e-05,
597
+ "loss": 0.4492,
598
+ "step": 790
599
+ },
600
+ {
601
+ "epoch": 4.01,
602
+ "grad_norm": 3.365736722946167,
603
+ "learning_rate": 3.439153439153439e-05,
604
+ "loss": 0.3086,
605
+ "step": 800
606
+ },
607
+ {
608
+ "epoch": 4.01,
609
+ "grad_norm": 0.7734526991844177,
610
+ "learning_rate": 3.412698412698413e-05,
611
+ "loss": 0.6843,
612
+ "step": 810
613
+ },
614
+ {
615
+ "epoch": 4.02,
616
+ "grad_norm": 15.79121208190918,
617
+ "learning_rate": 3.386243386243386e-05,
618
+ "loss": 0.3582,
619
+ "step": 820
620
+ },
621
+ {
622
+ "epoch": 4.02,
623
+ "grad_norm": 8.443323135375977,
624
+ "learning_rate": 3.35978835978836e-05,
625
+ "loss": 0.6707,
626
+ "step": 830
627
+ },
628
+ {
629
+ "epoch": 4.03,
630
+ "grad_norm": 11.17960262298584,
631
+ "learning_rate": 3.3333333333333335e-05,
632
+ "loss": 0.5133,
633
+ "step": 840
634
+ },
635
+ {
636
+ "epoch": 4.03,
637
+ "grad_norm": 15.559344291687012,
638
+ "learning_rate": 3.306878306878307e-05,
639
+ "loss": 0.4993,
640
+ "step": 850
641
+ },
642
+ {
643
+ "epoch": 4.04,
644
+ "grad_norm": 21.119354248046875,
645
+ "learning_rate": 3.280423280423281e-05,
646
+ "loss": 0.4755,
647
+ "step": 860
648
+ },
649
+ {
650
+ "epoch": 4.04,
651
+ "grad_norm": 19.267467498779297,
652
+ "learning_rate": 3.253968253968254e-05,
653
+ "loss": 0.4796,
654
+ "step": 870
655
+ },
656
+ {
657
+ "epoch": 4.05,
658
+ "grad_norm": 18.882789611816406,
659
+ "learning_rate": 3.227513227513227e-05,
660
+ "loss": 0.5674,
661
+ "step": 880
662
+ },
663
+ {
664
+ "epoch": 4.05,
665
+ "grad_norm": 21.429229736328125,
666
+ "learning_rate": 3.2010582010582015e-05,
667
+ "loss": 0.575,
668
+ "step": 890
669
+ },
670
+ {
671
+ "epoch": 4.06,
672
+ "grad_norm": 1.5254511833190918,
673
+ "learning_rate": 3.1746031746031745e-05,
674
+ "loss": 0.7652,
675
+ "step": 900
676
+ },
677
+ {
678
+ "epoch": 4.06,
679
+ "grad_norm": 27.608917236328125,
680
+ "learning_rate": 3.148148148148148e-05,
681
+ "loss": 0.4358,
682
+ "step": 910
683
+ },
684
+ {
685
+ "epoch": 4.06,
686
+ "grad_norm": 4.12730598449707,
687
+ "learning_rate": 3.121693121693122e-05,
688
+ "loss": 0.7179,
689
+ "step": 920
690
+ },
691
+ {
692
+ "epoch": 4.07,
693
+ "grad_norm": 0.7054173946380615,
694
+ "learning_rate": 3.095238095238095e-05,
695
+ "loss": 0.4201,
696
+ "step": 930
697
+ },
698
+ {
699
+ "epoch": 4.07,
700
+ "grad_norm": 6.384374618530273,
701
+ "learning_rate": 3.068783068783069e-05,
702
+ "loss": 0.523,
703
+ "step": 940
704
+ },
705
+ {
706
+ "epoch": 4.08,
707
+ "grad_norm": 13.877901077270508,
708
+ "learning_rate": 3.0423280423280425e-05,
709
+ "loss": 1.1374,
710
+ "step": 950
711
+ },
712
+ {
713
+ "epoch": 4.08,
714
+ "grad_norm": 11.547405242919922,
715
+ "learning_rate": 3.0158730158730158e-05,
716
+ "loss": 0.4007,
717
+ "step": 960
718
+ },
719
+ {
720
+ "epoch": 4.09,
721
+ "grad_norm": 17.14991569519043,
722
+ "learning_rate": 2.9894179894179897e-05,
723
+ "loss": 0.6621,
724
+ "step": 970
725
+ },
726
+ {
727
+ "epoch": 4.09,
728
+ "grad_norm": 4.131192684173584,
729
+ "learning_rate": 2.962962962962963e-05,
730
+ "loss": 0.2636,
731
+ "step": 980
732
+ },
733
+ {
734
+ "epoch": 4.09,
735
+ "eval_accuracy": 0.3170731707317073,
736
+ "eval_loss": 1.9747871160507202,
737
+ "eval_runtime": 96.8808,
738
+ "eval_samples_per_second": 0.423,
739
+ "eval_steps_per_second": 0.217,
740
+ "step": 980
741
+ },
742
+ {
743
+ "epoch": 5.0,
744
+ "grad_norm": 31.432811737060547,
745
+ "learning_rate": 2.9365079365079366e-05,
746
+ "loss": 0.4902,
747
+ "step": 990
748
+ },
749
+ {
750
+ "epoch": 5.01,
751
+ "grad_norm": 3.502074956893921,
752
+ "learning_rate": 2.91005291005291e-05,
753
+ "loss": 0.1312,
754
+ "step": 1000
755
+ },
756
+ {
757
+ "epoch": 5.01,
758
+ "grad_norm": 11.63001823425293,
759
+ "learning_rate": 2.8835978835978838e-05,
760
+ "loss": 0.2772,
761
+ "step": 1010
762
+ },
763
+ {
764
+ "epoch": 5.02,
765
+ "grad_norm": 18.965436935424805,
766
+ "learning_rate": 2.857142857142857e-05,
767
+ "loss": 0.6744,
768
+ "step": 1020
769
+ },
770
+ {
771
+ "epoch": 5.02,
772
+ "grad_norm": 0.373548686504364,
773
+ "learning_rate": 2.830687830687831e-05,
774
+ "loss": 0.1485,
775
+ "step": 1030
776
+ },
777
+ {
778
+ "epoch": 5.03,
779
+ "grad_norm": 1.2408517599105835,
780
+ "learning_rate": 2.8042328042328043e-05,
781
+ "loss": 0.5443,
782
+ "step": 1040
783
+ },
784
+ {
785
+ "epoch": 5.03,
786
+ "grad_norm": 7.223196506500244,
787
+ "learning_rate": 2.777777777777778e-05,
788
+ "loss": 0.212,
789
+ "step": 1050
790
+ },
791
+ {
792
+ "epoch": 5.04,
793
+ "grad_norm": 0.37929368019104004,
794
+ "learning_rate": 2.7513227513227512e-05,
795
+ "loss": 0.6033,
796
+ "step": 1060
797
+ },
798
+ {
799
+ "epoch": 5.04,
800
+ "grad_norm": 1.4948322772979736,
801
+ "learning_rate": 2.724867724867725e-05,
802
+ "loss": 0.3575,
803
+ "step": 1070
804
+ },
805
+ {
806
+ "epoch": 5.05,
807
+ "grad_norm": 23.476411819458008,
808
+ "learning_rate": 2.6984126984126984e-05,
809
+ "loss": 0.4821,
810
+ "step": 1080
811
+ },
812
+ {
813
+ "epoch": 5.05,
814
+ "grad_norm": 21.29241180419922,
815
+ "learning_rate": 2.6719576719576723e-05,
816
+ "loss": 0.2678,
817
+ "step": 1090
818
+ },
819
+ {
820
+ "epoch": 5.06,
821
+ "grad_norm": 1.714184045791626,
822
+ "learning_rate": 2.6455026455026456e-05,
823
+ "loss": 0.3042,
824
+ "step": 1100
825
+ },
826
+ {
827
+ "epoch": 5.06,
828
+ "grad_norm": 17.73127555847168,
829
+ "learning_rate": 2.6190476190476192e-05,
830
+ "loss": 0.4311,
831
+ "step": 1110
832
+ },
833
+ {
834
+ "epoch": 5.07,
835
+ "grad_norm": 12.709320068359375,
836
+ "learning_rate": 2.5925925925925925e-05,
837
+ "loss": 0.4813,
838
+ "step": 1120
839
+ },
840
+ {
841
+ "epoch": 5.07,
842
+ "grad_norm": 4.548611640930176,
843
+ "learning_rate": 2.5661375661375664e-05,
844
+ "loss": 0.1838,
845
+ "step": 1130
846
+ },
847
+ {
848
+ "epoch": 5.08,
849
+ "grad_norm": 27.118480682373047,
850
+ "learning_rate": 2.5396825396825397e-05,
851
+ "loss": 0.3369,
852
+ "step": 1140
853
+ },
854
+ {
855
+ "epoch": 5.08,
856
+ "grad_norm": 20.047382354736328,
857
+ "learning_rate": 2.5132275132275137e-05,
858
+ "loss": 0.1552,
859
+ "step": 1150
860
+ },
861
+ {
862
+ "epoch": 5.09,
863
+ "grad_norm": 2.572249412536621,
864
+ "learning_rate": 2.4867724867724866e-05,
865
+ "loss": 0.2454,
866
+ "step": 1160
867
+ },
868
+ {
869
+ "epoch": 5.09,
870
+ "grad_norm": 16.45228385925293,
871
+ "learning_rate": 2.4603174603174602e-05,
872
+ "loss": 0.2805,
873
+ "step": 1170
874
+ },
875
+ {
876
+ "epoch": 5.09,
877
+ "eval_accuracy": 0.36585365853658536,
878
+ "eval_loss": 2.356266975402832,
879
+ "eval_runtime": 97.8432,
880
+ "eval_samples_per_second": 0.419,
881
+ "eval_steps_per_second": 0.215,
882
+ "step": 1176
883
+ },
884
+ {
885
+ "epoch": 6.0,
886
+ "grad_norm": 1.568260908126831,
887
+ "learning_rate": 2.4338624338624338e-05,
888
+ "loss": 0.3522,
889
+ "step": 1180
890
+ },
891
+ {
892
+ "epoch": 6.01,
893
+ "grad_norm": 0.9600222706794739,
894
+ "learning_rate": 2.4074074074074074e-05,
895
+ "loss": 0.199,
896
+ "step": 1190
897
+ },
898
+ {
899
+ "epoch": 6.01,
900
+ "grad_norm": 15.724946975708008,
901
+ "learning_rate": 2.380952380952381e-05,
902
+ "loss": 0.1719,
903
+ "step": 1200
904
+ },
905
+ {
906
+ "epoch": 6.02,
907
+ "grad_norm": 1.4226208925247192,
908
+ "learning_rate": 2.3544973544973546e-05,
909
+ "loss": 0.1337,
910
+ "step": 1210
911
+ },
912
+ {
913
+ "epoch": 6.02,
914
+ "grad_norm": 0.574043333530426,
915
+ "learning_rate": 2.328042328042328e-05,
916
+ "loss": 0.0584,
917
+ "step": 1220
918
+ },
919
+ {
920
+ "epoch": 6.03,
921
+ "grad_norm": 1.265620231628418,
922
+ "learning_rate": 2.3015873015873015e-05,
923
+ "loss": 0.1366,
924
+ "step": 1230
925
+ },
926
+ {
927
+ "epoch": 6.03,
928
+ "grad_norm": 0.19037747383117676,
929
+ "learning_rate": 2.275132275132275e-05,
930
+ "loss": 0.052,
931
+ "step": 1240
932
+ },
933
+ {
934
+ "epoch": 6.04,
935
+ "grad_norm": 2.8592171669006348,
936
+ "learning_rate": 2.2486772486772487e-05,
937
+ "loss": 0.0912,
938
+ "step": 1250
939
+ },
940
+ {
941
+ "epoch": 6.04,
942
+ "grad_norm": 32.83649444580078,
943
+ "learning_rate": 2.2222222222222223e-05,
944
+ "loss": 0.6816,
945
+ "step": 1260
946
+ },
947
+ {
948
+ "epoch": 6.04,
949
+ "grad_norm": 26.58733558654785,
950
+ "learning_rate": 2.1957671957671956e-05,
951
+ "loss": 0.1562,
952
+ "step": 1270
953
+ },
954
+ {
955
+ "epoch": 6.05,
956
+ "grad_norm": 0.8090476989746094,
957
+ "learning_rate": 2.1693121693121692e-05,
958
+ "loss": 0.0661,
959
+ "step": 1280
960
+ },
961
+ {
962
+ "epoch": 6.05,
963
+ "grad_norm": 12.49517822265625,
964
+ "learning_rate": 2.1428571428571428e-05,
965
+ "loss": 0.097,
966
+ "step": 1290
967
+ },
968
+ {
969
+ "epoch": 6.06,
970
+ "grad_norm": 1.2869700193405151,
971
+ "learning_rate": 2.1164021164021164e-05,
972
+ "loss": 0.2118,
973
+ "step": 1300
974
+ },
975
+ {
976
+ "epoch": 6.06,
977
+ "grad_norm": 1.337388038635254,
978
+ "learning_rate": 2.08994708994709e-05,
979
+ "loss": 0.1251,
980
+ "step": 1310
981
+ },
982
+ {
983
+ "epoch": 6.07,
984
+ "grad_norm": 15.6812162399292,
985
+ "learning_rate": 2.0634920634920636e-05,
986
+ "loss": 0.2407,
987
+ "step": 1320
988
+ },
989
+ {
990
+ "epoch": 6.07,
991
+ "grad_norm": 4.392534255981445,
992
+ "learning_rate": 2.037037037037037e-05,
993
+ "loss": 0.1948,
994
+ "step": 1330
995
+ },
996
+ {
997
+ "epoch": 6.08,
998
+ "grad_norm": 3.4775161743164062,
999
+ "learning_rate": 2.0105820105820105e-05,
1000
+ "loss": 0.056,
1001
+ "step": 1340
1002
+ },
1003
+ {
1004
+ "epoch": 6.08,
1005
+ "grad_norm": 0.3342803716659546,
1006
+ "learning_rate": 1.984126984126984e-05,
1007
+ "loss": 0.2194,
1008
+ "step": 1350
1009
+ },
1010
+ {
1011
+ "epoch": 6.09,
1012
+ "grad_norm": 2.376802444458008,
1013
+ "learning_rate": 1.9576719576719577e-05,
1014
+ "loss": 0.1855,
1015
+ "step": 1360
1016
+ },
1017
+ {
1018
+ "epoch": 6.09,
1019
+ "grad_norm": 0.15384900569915771,
1020
+ "learning_rate": 1.9312169312169313e-05,
1021
+ "loss": 0.0923,
1022
+ "step": 1370
1023
+ },
1024
+ {
1025
+ "epoch": 6.09,
1026
+ "eval_accuracy": 0.36585365853658536,
1027
+ "eval_loss": 2.3754231929779053,
1028
+ "eval_runtime": 98.5579,
1029
+ "eval_samples_per_second": 0.416,
1030
+ "eval_steps_per_second": 0.213,
1031
+ "step": 1372
1032
+ },
1033
+ {
1034
+ "epoch": 7.0,
1035
+ "grad_norm": 0.41682931780815125,
1036
+ "learning_rate": 1.9047619047619046e-05,
1037
+ "loss": 0.097,
1038
+ "step": 1380
1039
+ },
1040
+ {
1041
+ "epoch": 7.01,
1042
+ "grad_norm": 0.6600458025932312,
1043
+ "learning_rate": 1.8783068783068782e-05,
1044
+ "loss": 0.1678,
1045
+ "step": 1390
1046
+ },
1047
+ {
1048
+ "epoch": 7.01,
1049
+ "grad_norm": 6.393650531768799,
1050
+ "learning_rate": 1.8518518518518518e-05,
1051
+ "loss": 0.0715,
1052
+ "step": 1400
1053
+ },
1054
+ {
1055
+ "epoch": 7.02,
1056
+ "grad_norm": 0.031914032995700836,
1057
+ "learning_rate": 1.8253968253968254e-05,
1058
+ "loss": 0.1708,
1059
+ "step": 1410
1060
+ },
1061
+ {
1062
+ "epoch": 7.02,
1063
+ "grad_norm": 0.04353192821145058,
1064
+ "learning_rate": 1.798941798941799e-05,
1065
+ "loss": 0.1562,
1066
+ "step": 1420
1067
+ },
1068
+ {
1069
+ "epoch": 7.03,
1070
+ "grad_norm": 0.5575181841850281,
1071
+ "learning_rate": 1.7724867724867723e-05,
1072
+ "loss": 0.0242,
1073
+ "step": 1430
1074
+ },
1075
+ {
1076
+ "epoch": 7.03,
1077
+ "grad_norm": 0.2302282154560089,
1078
+ "learning_rate": 1.746031746031746e-05,
1079
+ "loss": 0.039,
1080
+ "step": 1440
1081
+ },
1082
+ {
1083
+ "epoch": 7.04,
1084
+ "grad_norm": 0.12757529318332672,
1085
+ "learning_rate": 1.7195767195767195e-05,
1086
+ "loss": 0.1855,
1087
+ "step": 1450
1088
+ },
1089
+ {
1090
+ "epoch": 7.04,
1091
+ "grad_norm": 27.270219802856445,
1092
+ "learning_rate": 1.693121693121693e-05,
1093
+ "loss": 0.204,
1094
+ "step": 1460
1095
+ },
1096
+ {
1097
+ "epoch": 7.05,
1098
+ "grad_norm": 0.17601485550403595,
1099
+ "learning_rate": 1.6666666666666667e-05,
1100
+ "loss": 0.1326,
1101
+ "step": 1470
1102
+ },
1103
+ {
1104
+ "epoch": 7.05,
1105
+ "grad_norm": 7.770025253295898,
1106
+ "learning_rate": 1.6402116402116404e-05,
1107
+ "loss": 0.0323,
1108
+ "step": 1480
1109
+ },
1110
+ {
1111
+ "epoch": 7.06,
1112
+ "grad_norm": 0.36580923199653625,
1113
+ "learning_rate": 1.6137566137566136e-05,
1114
+ "loss": 0.1058,
1115
+ "step": 1490
1116
+ },
1117
+ {
1118
+ "epoch": 7.06,
1119
+ "grad_norm": 4.40885591506958,
1120
+ "learning_rate": 1.5873015873015872e-05,
1121
+ "loss": 0.0768,
1122
+ "step": 1500
1123
+ },
1124
+ {
1125
+ "epoch": 7.07,
1126
+ "grad_norm": 0.18270359933376312,
1127
+ "learning_rate": 1.560846560846561e-05,
1128
+ "loss": 0.2691,
1129
+ "step": 1510
1130
+ },
1131
+ {
1132
+ "epoch": 7.07,
1133
+ "grad_norm": 2.5134904384613037,
1134
+ "learning_rate": 1.5343915343915344e-05,
1135
+ "loss": 0.1627,
1136
+ "step": 1520
1137
+ },
1138
+ {
1139
+ "epoch": 7.08,
1140
+ "grad_norm": 0.8382402658462524,
1141
+ "learning_rate": 1.5079365079365079e-05,
1142
+ "loss": 0.0194,
1143
+ "step": 1530
1144
+ },
1145
+ {
1146
+ "epoch": 7.08,
1147
+ "grad_norm": 22.632375717163086,
1148
+ "learning_rate": 1.4814814814814815e-05,
1149
+ "loss": 0.2512,
1150
+ "step": 1540
1151
+ },
1152
+ {
1153
+ "epoch": 7.08,
1154
+ "grad_norm": 0.267007052898407,
1155
+ "learning_rate": 1.455026455026455e-05,
1156
+ "loss": 0.0539,
1157
+ "step": 1550
1158
+ },
1159
+ {
1160
+ "epoch": 7.09,
1161
+ "grad_norm": 0.03810029849410057,
1162
+ "learning_rate": 1.4285714285714285e-05,
1163
+ "loss": 0.1543,
1164
+ "step": 1560
1165
+ },
1166
+ {
1167
+ "epoch": 7.09,
1168
+ "eval_accuracy": 0.3170731707317073,
1169
+ "eval_loss": 2.7736659049987793,
1170
+ "eval_runtime": 98.6426,
1171
+ "eval_samples_per_second": 0.416,
1172
+ "eval_steps_per_second": 0.213,
1173
+ "step": 1568
1174
+ },
1175
+ {
1176
+ "epoch": 8.0,
1177
+ "grad_norm": 1.9330545663833618,
1178
+ "learning_rate": 1.4021164021164022e-05,
1179
+ "loss": 0.3434,
1180
+ "step": 1570
1181
+ },
1182
+ {
1183
+ "epoch": 8.01,
1184
+ "grad_norm": 0.2689897119998932,
1185
+ "learning_rate": 1.3756613756613756e-05,
1186
+ "loss": 0.0472,
1187
+ "step": 1580
1188
+ },
1189
+ {
1190
+ "epoch": 8.01,
1191
+ "grad_norm": 0.09701512008905411,
1192
+ "learning_rate": 1.3492063492063492e-05,
1193
+ "loss": 0.0198,
1194
+ "step": 1590
1195
+ },
1196
+ {
1197
+ "epoch": 8.02,
1198
+ "grad_norm": 0.07738398015499115,
1199
+ "learning_rate": 1.3227513227513228e-05,
1200
+ "loss": 0.01,
1201
+ "step": 1600
1202
+ },
1203
+ {
1204
+ "epoch": 8.02,
1205
+ "grad_norm": 0.07364221662282944,
1206
+ "learning_rate": 1.2962962962962962e-05,
1207
+ "loss": 0.0218,
1208
+ "step": 1610
1209
+ },
1210
+ {
1211
+ "epoch": 8.02,
1212
+ "grad_norm": 0.06300120055675507,
1213
+ "learning_rate": 1.2698412698412699e-05,
1214
+ "loss": 0.0517,
1215
+ "step": 1620
1216
+ },
1217
+ {
1218
+ "epoch": 8.03,
1219
+ "grad_norm": 0.2190474420785904,
1220
+ "learning_rate": 1.2433862433862433e-05,
1221
+ "loss": 0.0538,
1222
+ "step": 1630
1223
+ },
1224
+ {
1225
+ "epoch": 8.03,
1226
+ "grad_norm": 13.809772491455078,
1227
+ "learning_rate": 1.2169312169312169e-05,
1228
+ "loss": 0.046,
1229
+ "step": 1640
1230
+ },
1231
+ {
1232
+ "epoch": 8.04,
1233
+ "grad_norm": 5.0279645919799805,
1234
+ "learning_rate": 1.1904761904761905e-05,
1235
+ "loss": 0.1286,
1236
+ "step": 1650
1237
+ },
1238
+ {
1239
+ "epoch": 8.04,
1240
+ "grad_norm": 0.25265267491340637,
1241
+ "learning_rate": 1.164021164021164e-05,
1242
+ "loss": 0.0477,
1243
+ "step": 1660
1244
+ },
1245
+ {
1246
+ "epoch": 8.05,
1247
+ "grad_norm": 12.444536209106445,
1248
+ "learning_rate": 1.1375661375661376e-05,
1249
+ "loss": 0.0547,
1250
+ "step": 1670
1251
+ },
1252
+ {
1253
+ "epoch": 8.05,
1254
+ "grad_norm": 0.8364056348800659,
1255
+ "learning_rate": 1.1111111111111112e-05,
1256
+ "loss": 0.0147,
1257
+ "step": 1680
1258
+ },
1259
+ {
1260
+ "epoch": 8.06,
1261
+ "grad_norm": 0.10071144253015518,
1262
+ "learning_rate": 1.0846560846560846e-05,
1263
+ "loss": 0.0119,
1264
+ "step": 1690
1265
+ },
1266
+ {
1267
+ "epoch": 8.06,
1268
+ "grad_norm": 0.4113464653491974,
1269
+ "learning_rate": 1.0582010582010582e-05,
1270
+ "loss": 0.0098,
1271
+ "step": 1700
1272
+ },
1273
+ {
1274
+ "epoch": 8.07,
1275
+ "grad_norm": 0.29613247513771057,
1276
+ "learning_rate": 1.0317460317460318e-05,
1277
+ "loss": 0.0096,
1278
+ "step": 1710
1279
+ },
1280
+ {
1281
+ "epoch": 8.07,
1282
+ "grad_norm": 0.28390398621559143,
1283
+ "learning_rate": 1.0052910052910053e-05,
1284
+ "loss": 0.0841,
1285
+ "step": 1720
1286
+ },
1287
+ {
1288
+ "epoch": 8.08,
1289
+ "grad_norm": 2.4915988445281982,
1290
+ "learning_rate": 9.788359788359789e-06,
1291
+ "loss": 0.0831,
1292
+ "step": 1730
1293
+ },
1294
+ {
1295
+ "epoch": 8.08,
1296
+ "grad_norm": 0.16037584841251373,
1297
+ "learning_rate": 9.523809523809523e-06,
1298
+ "loss": 0.0245,
1299
+ "step": 1740
1300
+ },
1301
+ {
1302
+ "epoch": 8.09,
1303
+ "grad_norm": 0.21573053300380707,
1304
+ "learning_rate": 9.259259259259259e-06,
1305
+ "loss": 0.206,
1306
+ "step": 1750
1307
+ },
1308
+ {
1309
+ "epoch": 8.09,
1310
+ "grad_norm": 0.03257734328508377,
1311
+ "learning_rate": 8.994708994708995e-06,
1312
+ "loss": 0.0387,
1313
+ "step": 1760
1314
+ },
1315
+ {
1316
+ "epoch": 8.09,
1317
+ "eval_accuracy": 0.36585365853658536,
1318
+ "eval_loss": 2.6675825119018555,
1319
+ "eval_runtime": 98.7265,
1320
+ "eval_samples_per_second": 0.415,
1321
+ "eval_steps_per_second": 0.213,
1322
+ "step": 1764
1323
+ },
1324
+ {
1325
+ "epoch": 9.0,
1326
+ "grad_norm": 0.25477078557014465,
1327
+ "learning_rate": 8.73015873015873e-06,
1328
+ "loss": 0.0048,
1329
+ "step": 1770
1330
+ },
1331
+ {
1332
+ "epoch": 9.01,
1333
+ "grad_norm": 0.08968080580234528,
1334
+ "learning_rate": 8.465608465608466e-06,
1335
+ "loss": 0.0213,
1336
+ "step": 1780
1337
+ },
1338
+ {
1339
+ "epoch": 9.01,
1340
+ "grad_norm": 0.12380950897932053,
1341
+ "learning_rate": 8.201058201058202e-06,
1342
+ "loss": 0.0471,
1343
+ "step": 1790
1344
+ },
1345
+ {
1346
+ "epoch": 9.02,
1347
+ "grad_norm": 0.1933353841304779,
1348
+ "learning_rate": 7.936507936507936e-06,
1349
+ "loss": 0.3223,
1350
+ "step": 1800
1351
+ },
1352
+ {
1353
+ "epoch": 9.02,
1354
+ "grad_norm": 0.09426797181367874,
1355
+ "learning_rate": 7.671957671957672e-06,
1356
+ "loss": 0.0566,
1357
+ "step": 1810
1358
+ },
1359
+ {
1360
+ "epoch": 9.03,
1361
+ "grad_norm": 0.1309937983751297,
1362
+ "learning_rate": 7.4074074074074075e-06,
1363
+ "loss": 0.0268,
1364
+ "step": 1820
1365
+ },
1366
+ {
1367
+ "epoch": 9.03,
1368
+ "grad_norm": 0.7364773750305176,
1369
+ "learning_rate": 7.142857142857143e-06,
1370
+ "loss": 0.0418,
1371
+ "step": 1830
1372
+ },
1373
+ {
1374
+ "epoch": 9.04,
1375
+ "grad_norm": 0.38073354959487915,
1376
+ "learning_rate": 6.878306878306878e-06,
1377
+ "loss": 0.0053,
1378
+ "step": 1840
1379
+ },
1380
+ {
1381
+ "epoch": 9.04,
1382
+ "grad_norm": 0.09456183016300201,
1383
+ "learning_rate": 6.613756613756614e-06,
1384
+ "loss": 0.07,
1385
+ "step": 1850
1386
+ },
1387
+ {
1388
+ "epoch": 9.05,
1389
+ "grad_norm": 0.9321669936180115,
1390
+ "learning_rate": 6.349206349206349e-06,
1391
+ "loss": 0.0108,
1392
+ "step": 1860
1393
+ },
1394
+ {
1395
+ "epoch": 9.05,
1396
+ "grad_norm": 0.7253817915916443,
1397
+ "learning_rate": 6.0846560846560845e-06,
1398
+ "loss": 0.0041,
1399
+ "step": 1870
1400
+ },
1401
+ {
1402
+ "epoch": 9.06,
1403
+ "grad_norm": 3.511643886566162,
1404
+ "learning_rate": 5.82010582010582e-06,
1405
+ "loss": 0.057,
1406
+ "step": 1880
1407
+ },
1408
+ {
1409
+ "epoch": 9.06,
1410
+ "grad_norm": 0.09484612196683884,
1411
+ "learning_rate": 5.555555555555556e-06,
1412
+ "loss": 0.05,
1413
+ "step": 1890
1414
+ },
1415
+ {
1416
+ "epoch": 9.06,
1417
+ "grad_norm": 0.05964544415473938,
1418
+ "learning_rate": 5.291005291005291e-06,
1419
+ "loss": 0.0089,
1420
+ "step": 1900
1421
+ },
1422
+ {
1423
+ "epoch": 9.07,
1424
+ "grad_norm": 0.03321171924471855,
1425
+ "learning_rate": 5.026455026455026e-06,
1426
+ "loss": 0.0041,
1427
+ "step": 1910
1428
+ },
1429
+ {
1430
+ "epoch": 9.07,
1431
+ "grad_norm": 0.12247146666049957,
1432
+ "learning_rate": 4.7619047619047615e-06,
1433
+ "loss": 0.0272,
1434
+ "step": 1920
1435
+ },
1436
+ {
1437
+ "epoch": 9.08,
1438
+ "grad_norm": 6.011055946350098,
1439
+ "learning_rate": 4.497354497354498e-06,
1440
+ "loss": 0.0125,
1441
+ "step": 1930
1442
+ },
1443
+ {
1444
+ "epoch": 9.08,
1445
+ "grad_norm": 0.07328727841377258,
1446
+ "learning_rate": 4.232804232804233e-06,
1447
+ "loss": 0.0493,
1448
+ "step": 1940
1449
+ },
1450
+ {
1451
+ "epoch": 9.09,
1452
+ "grad_norm": 0.03230283781886101,
1453
+ "learning_rate": 3.968253968253968e-06,
1454
+ "loss": 0.0104,
1455
+ "step": 1950
1456
+ },
1457
+ {
1458
+ "epoch": 9.09,
1459
+ "grad_norm": 0.10232985019683838,
1460
+ "learning_rate": 3.7037037037037037e-06,
1461
+ "loss": 0.0101,
1462
+ "step": 1960
1463
+ },
1464
+ {
1465
+ "epoch": 9.09,
1466
+ "eval_accuracy": 0.34146341463414637,
1467
+ "eval_loss": 2.7895021438598633,
1468
+ "eval_runtime": 98.3982,
1469
+ "eval_samples_per_second": 0.417,
1470
+ "eval_steps_per_second": 0.213,
1471
+ "step": 1960
1472
+ },
1473
+ {
1474
+ "epoch": 10.0,
1475
+ "grad_norm": 5.483851909637451,
1476
+ "learning_rate": 3.439153439153439e-06,
1477
+ "loss": 0.2193,
1478
+ "step": 1970
1479
+ },
1480
+ {
1481
+ "epoch": 10.01,
1482
+ "grad_norm": 2.402463912963867,
1483
+ "learning_rate": 3.1746031746031746e-06,
1484
+ "loss": 0.005,
1485
+ "step": 1980
1486
+ },
1487
+ {
1488
+ "epoch": 10.01,
1489
+ "grad_norm": 0.08023607730865479,
1490
+ "learning_rate": 2.91005291005291e-06,
1491
+ "loss": 0.0125,
1492
+ "step": 1990
1493
+ },
1494
+ {
1495
+ "epoch": 10.02,
1496
+ "grad_norm": 0.023654110729694366,
1497
+ "learning_rate": 2.6455026455026455e-06,
1498
+ "loss": 0.0094,
1499
+ "step": 2000
1500
+ },
1501
+ {
1502
+ "epoch": 10.02,
1503
+ "grad_norm": 0.052570246160030365,
1504
+ "learning_rate": 2.3809523809523808e-06,
1505
+ "loss": 0.11,
1506
+ "step": 2010
1507
+ },
1508
+ {
1509
+ "epoch": 10.03,
1510
+ "grad_norm": 0.08791643381118774,
1511
+ "learning_rate": 2.1164021164021164e-06,
1512
+ "loss": 0.0189,
1513
+ "step": 2020
1514
+ },
1515
+ {
1516
+ "epoch": 10.03,
1517
+ "grad_norm": 0.21485354006290436,
1518
+ "learning_rate": 1.8518518518518519e-06,
1519
+ "loss": 0.0285,
1520
+ "step": 2030
1521
+ },
1522
+ {
1523
+ "epoch": 10.04,
1524
+ "grad_norm": 0.09601633995771408,
1525
+ "learning_rate": 1.5873015873015873e-06,
1526
+ "loss": 0.0326,
1527
+ "step": 2040
1528
+ },
1529
+ {
1530
+ "epoch": 10.04,
1531
+ "grad_norm": 0.05465522035956383,
1532
+ "learning_rate": 1.3227513227513228e-06,
1533
+ "loss": 0.0235,
1534
+ "step": 2050
1535
+ },
1536
+ {
1537
+ "epoch": 10.05,
1538
+ "grad_norm": 0.12677225470542908,
1539
+ "learning_rate": 1.0582010582010582e-06,
1540
+ "loss": 0.0122,
1541
+ "step": 2060
1542
+ },
1543
+ {
1544
+ "epoch": 10.05,
1545
+ "grad_norm": 0.05187565088272095,
1546
+ "learning_rate": 7.936507936507937e-07,
1547
+ "loss": 0.0277,
1548
+ "step": 2070
1549
+ },
1550
+ {
1551
+ "epoch": 10.06,
1552
+ "grad_norm": 0.02051164023578167,
1553
+ "learning_rate": 5.291005291005291e-07,
1554
+ "loss": 0.1015,
1555
+ "step": 2080
1556
+ },
1557
+ {
1558
+ "epoch": 10.06,
1559
+ "grad_norm": 0.02192351035773754,
1560
+ "learning_rate": 2.6455026455026455e-07,
1561
+ "loss": 0.1089,
1562
+ "step": 2090
1563
+ },
1564
+ {
1565
+ "epoch": 10.07,
1566
+ "grad_norm": 0.19547943770885468,
1567
+ "learning_rate": 0.0,
1568
+ "loss": 0.0662,
1569
+ "step": 2100
1570
+ },
1571
+ {
1572
+ "epoch": 10.07,
1573
+ "eval_accuracy": 0.34146341463414637,
1574
+ "eval_loss": 2.772752523422241,
1575
+ "eval_runtime": 100.1099,
1576
+ "eval_samples_per_second": 0.41,
1577
+ "eval_steps_per_second": 0.21,
1578
+ "step": 2100
1579
+ },
1580
+ {
1581
+ "epoch": 10.07,
1582
+ "step": 2100,
1583
+ "total_flos": 1.073544417178878e+19,
1584
+ "train_loss": 0.6815972964820408,
1585
+ "train_runtime": 32185.1971,
1586
+ "train_samples_per_second": 0.13,
1587
+ "train_steps_per_second": 0.065
1588
+ },
1589
+ {
1590
+ "epoch": 10.07,
1591
+ "eval_accuracy": 0.24271844660194175,
1592
+ "eval_loss": 1.9485329389572144,
1593
+ "eval_runtime": 275.3036,
1594
+ "eval_samples_per_second": 0.374,
1595
+ "eval_steps_per_second": 0.189,
1596
+ "step": 2100
1597
+ },
1598
+ {
1599
+ "epoch": 10.07,
1600
+ "eval_accuracy": 0.24271844660194175,
1601
+ "eval_loss": 1.9485328197479248,
1602
+ "eval_runtime": 251.8324,
1603
+ "eval_samples_per_second": 0.409,
1604
+ "eval_steps_per_second": 0.206,
1605
+ "step": 2100
1606
+ }
1607
+ ],
1608
+ "logging_steps": 10,
1609
+ "max_steps": 2100,
1610
+ "num_input_tokens_seen": 0,
1611
+ "num_train_epochs": 9223372036854775807,
1612
+ "save_steps": 500,
1613
+ "total_flos": 1.073544417178878e+19,
1614
+ "train_batch_size": 2,
1615
+ "trial_name": null,
1616
+ "trial_params": null
1617
+ }