DunnBC22 commited on
Commit
068de93
1 Parent(s): b152177

Model save

Browse files
Files changed (3) hide show
  1. all_results.json +7 -0
  2. train_results.json +7 -0
  3. trainer_state.json +508 -0
all_results.json ADDED
@@ -0,0 +1,7 @@
 
 
 
 
 
 
 
 
1
+ {
2
+ "epoch": 3.0,
3
+ "train_loss": 0.3862592127482096,
4
+ "train_runtime": 1284327.9471,
5
+ "train_samples_per_second": 0.047,
6
+ "train_steps_per_second": 0.006
7
+ }
train_results.json ADDED
@@ -0,0 +1,7 @@
 
 
 
 
 
 
 
 
1
+ {
2
+ "epoch": 3.0,
3
+ "train_loss": 0.3862592127482096,
4
+ "train_runtime": 1284327.9471,
5
+ "train_samples_per_second": 0.047,
6
+ "train_steps_per_second": 0.006
7
+ }
trainer_state.json ADDED
@@ -0,0 +1,508 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "best_metric": null,
3
+ "best_model_checkpoint": null,
4
+ "epoch": 3.0,
5
+ "global_step": 7500,
6
+ "is_hyper_param_search": false,
7
+ "is_local_process_zero": true,
8
+ "is_world_process_zero": true,
9
+ "log_history": [
10
+ {
11
+ "epoch": 0.0,
12
+ "learning_rate": 4.9993333333333335e-05,
13
+ "loss": 11.1109,
14
+ "step": 1
15
+ },
16
+ {
17
+ "epoch": 0.04,
18
+ "learning_rate": 4.933333333333334e-05,
19
+ "loss": 1.4302,
20
+ "step": 100
21
+ },
22
+ {
23
+ "epoch": 0.08,
24
+ "learning_rate": 4.866666666666667e-05,
25
+ "loss": 1.2735,
26
+ "step": 200
27
+ },
28
+ {
29
+ "epoch": 0.12,
30
+ "learning_rate": 4.8e-05,
31
+ "loss": 0.988,
32
+ "step": 300
33
+ },
34
+ {
35
+ "epoch": 0.16,
36
+ "learning_rate": 4.7333333333333336e-05,
37
+ "loss": 0.9493,
38
+ "step": 400
39
+ },
40
+ {
41
+ "epoch": 0.2,
42
+ "learning_rate": 4.666666666666667e-05,
43
+ "loss": 0.8475,
44
+ "step": 500
45
+ },
46
+ {
47
+ "epoch": 0.24,
48
+ "learning_rate": 4.600000000000001e-05,
49
+ "loss": 0.914,
50
+ "step": 600
51
+ },
52
+ {
53
+ "epoch": 0.28,
54
+ "learning_rate": 4.5333333333333335e-05,
55
+ "loss": 0.7928,
56
+ "step": 700
57
+ },
58
+ {
59
+ "epoch": 0.32,
60
+ "learning_rate": 4.466666666666667e-05,
61
+ "loss": 0.7202,
62
+ "step": 800
63
+ },
64
+ {
65
+ "epoch": 0.36,
66
+ "learning_rate": 4.4000000000000006e-05,
67
+ "loss": 0.7261,
68
+ "step": 900
69
+ },
70
+ {
71
+ "epoch": 0.4,
72
+ "learning_rate": 4.3333333333333334e-05,
73
+ "loss": 0.6637,
74
+ "step": 1000
75
+ },
76
+ {
77
+ "epoch": 0.44,
78
+ "learning_rate": 4.266666666666667e-05,
79
+ "loss": 0.7632,
80
+ "step": 1100
81
+ },
82
+ {
83
+ "epoch": 0.48,
84
+ "learning_rate": 4.2e-05,
85
+ "loss": 0.6328,
86
+ "step": 1200
87
+ },
88
+ {
89
+ "epoch": 0.52,
90
+ "learning_rate": 4.133333333333333e-05,
91
+ "loss": 0.6182,
92
+ "step": 1300
93
+ },
94
+ {
95
+ "epoch": 0.56,
96
+ "learning_rate": 4.066666666666667e-05,
97
+ "loss": 0.6197,
98
+ "step": 1400
99
+ },
100
+ {
101
+ "epoch": 0.6,
102
+ "learning_rate": 4e-05,
103
+ "loss": 0.5964,
104
+ "step": 1500
105
+ },
106
+ {
107
+ "epoch": 0.64,
108
+ "learning_rate": 3.933333333333333e-05,
109
+ "loss": 0.5869,
110
+ "step": 1600
111
+ },
112
+ {
113
+ "epoch": 0.68,
114
+ "learning_rate": 3.866666666666667e-05,
115
+ "loss": 0.5979,
116
+ "step": 1700
117
+ },
118
+ {
119
+ "epoch": 0.72,
120
+ "learning_rate": 3.8e-05,
121
+ "loss": 0.5092,
122
+ "step": 1800
123
+ },
124
+ {
125
+ "epoch": 0.76,
126
+ "learning_rate": 3.733333333333334e-05,
127
+ "loss": 0.5475,
128
+ "step": 1900
129
+ },
130
+ {
131
+ "epoch": 0.8,
132
+ "learning_rate": 3.6666666666666666e-05,
133
+ "loss": 0.5453,
134
+ "step": 2000
135
+ },
136
+ {
137
+ "epoch": 0.84,
138
+ "learning_rate": 3.6e-05,
139
+ "loss": 0.5613,
140
+ "step": 2100
141
+ },
142
+ {
143
+ "epoch": 0.88,
144
+ "learning_rate": 3.5333333333333336e-05,
145
+ "loss": 0.5243,
146
+ "step": 2200
147
+ },
148
+ {
149
+ "epoch": 0.92,
150
+ "learning_rate": 3.466666666666667e-05,
151
+ "loss": 0.457,
152
+ "step": 2300
153
+ },
154
+ {
155
+ "epoch": 0.96,
156
+ "learning_rate": 3.4000000000000007e-05,
157
+ "loss": 0.4726,
158
+ "step": 2400
159
+ },
160
+ {
161
+ "epoch": 1.0,
162
+ "learning_rate": 3.3333333333333335e-05,
163
+ "loss": 0.4292,
164
+ "step": 2500
165
+ },
166
+ {
167
+ "epoch": 1.0,
168
+ "eval_cer": 0.06794180866639668,
169
+ "eval_loss": 0.43323373794555664,
170
+ "eval_runtime": 125517.0167,
171
+ "eval_samples_per_second": 0.04,
172
+ "eval_steps_per_second": 0.005,
173
+ "step": 2500
174
+ },
175
+ {
176
+ "epoch": 1.04,
177
+ "learning_rate": 3.266666666666667e-05,
178
+ "loss": 0.3212,
179
+ "step": 2600
180
+ },
181
+ {
182
+ "epoch": 1.08,
183
+ "learning_rate": 3.2000000000000005e-05,
184
+ "loss": 0.3534,
185
+ "step": 2700
186
+ },
187
+ {
188
+ "epoch": 1.12,
189
+ "learning_rate": 3.1333333333333334e-05,
190
+ "loss": 0.3682,
191
+ "step": 2800
192
+ },
193
+ {
194
+ "epoch": 1.16,
195
+ "learning_rate": 3.066666666666667e-05,
196
+ "loss": 0.3708,
197
+ "step": 2900
198
+ },
199
+ {
200
+ "epoch": 1.2,
201
+ "learning_rate": 3e-05,
202
+ "loss": 0.3439,
203
+ "step": 3000
204
+ },
205
+ {
206
+ "epoch": 1.24,
207
+ "learning_rate": 2.9333333333333336e-05,
208
+ "loss": 0.3691,
209
+ "step": 3100
210
+ },
211
+ {
212
+ "epoch": 1.28,
213
+ "learning_rate": 2.8666666666666668e-05,
214
+ "loss": 0.345,
215
+ "step": 3200
216
+ },
217
+ {
218
+ "epoch": 1.32,
219
+ "learning_rate": 2.8000000000000003e-05,
220
+ "loss": 0.3942,
221
+ "step": 3300
222
+ },
223
+ {
224
+ "epoch": 1.36,
225
+ "learning_rate": 2.733333333333333e-05,
226
+ "loss": 0.3336,
227
+ "step": 3400
228
+ },
229
+ {
230
+ "epoch": 1.4,
231
+ "learning_rate": 2.6666666666666667e-05,
232
+ "loss": 0.2959,
233
+ "step": 3500
234
+ },
235
+ {
236
+ "epoch": 1.44,
237
+ "learning_rate": 2.6000000000000002e-05,
238
+ "loss": 0.3582,
239
+ "step": 3600
240
+ },
241
+ {
242
+ "epoch": 1.48,
243
+ "learning_rate": 2.5333333333333337e-05,
244
+ "loss": 0.3304,
245
+ "step": 3700
246
+ },
247
+ {
248
+ "epoch": 1.52,
249
+ "learning_rate": 2.466666666666667e-05,
250
+ "loss": 0.325,
251
+ "step": 3800
252
+ },
253
+ {
254
+ "epoch": 1.56,
255
+ "learning_rate": 2.4e-05,
256
+ "loss": 0.2756,
257
+ "step": 3900
258
+ },
259
+ {
260
+ "epoch": 1.6,
261
+ "learning_rate": 2.3333333333333336e-05,
262
+ "loss": 0.2768,
263
+ "step": 4000
264
+ },
265
+ {
266
+ "epoch": 1.64,
267
+ "learning_rate": 2.2666666666666668e-05,
268
+ "loss": 0.3056,
269
+ "step": 4100
270
+ },
271
+ {
272
+ "epoch": 1.68,
273
+ "learning_rate": 2.2000000000000003e-05,
274
+ "loss": 0.3163,
275
+ "step": 4200
276
+ },
277
+ {
278
+ "epoch": 1.72,
279
+ "learning_rate": 2.1333333333333335e-05,
280
+ "loss": 0.2721,
281
+ "step": 4300
282
+ },
283
+ {
284
+ "epoch": 1.76,
285
+ "learning_rate": 2.0666666666666666e-05,
286
+ "loss": 0.2742,
287
+ "step": 4400
288
+ },
289
+ {
290
+ "epoch": 1.8,
291
+ "learning_rate": 2e-05,
292
+ "loss": 0.2255,
293
+ "step": 4500
294
+ },
295
+ {
296
+ "epoch": 1.84,
297
+ "learning_rate": 1.9333333333333333e-05,
298
+ "loss": 0.2637,
299
+ "step": 4600
300
+ },
301
+ {
302
+ "epoch": 1.88,
303
+ "learning_rate": 1.866666666666667e-05,
304
+ "loss": 0.2571,
305
+ "step": 4700
306
+ },
307
+ {
308
+ "epoch": 1.92,
309
+ "learning_rate": 1.8e-05,
310
+ "loss": 0.2599,
311
+ "step": 4800
312
+ },
313
+ {
314
+ "epoch": 1.96,
315
+ "learning_rate": 1.7333333333333336e-05,
316
+ "loss": 0.2682,
317
+ "step": 4900
318
+ },
319
+ {
320
+ "epoch": 2.0,
321
+ "learning_rate": 1.6666666666666667e-05,
322
+ "loss": 0.2521,
323
+ "step": 5000
324
+ },
325
+ {
326
+ "epoch": 2.0,
327
+ "eval_cer": 0.04834740350767889,
328
+ "eval_loss": 0.27674123644828796,
329
+ "eval_runtime": 122460.8505,
330
+ "eval_samples_per_second": 0.041,
331
+ "eval_steps_per_second": 0.005,
332
+ "step": 5000
333
+ },
334
+ {
335
+ "epoch": 2.04,
336
+ "learning_rate": 1.6000000000000003e-05,
337
+ "loss": 0.1654,
338
+ "step": 5100
339
+ },
340
+ {
341
+ "epoch": 2.08,
342
+ "learning_rate": 1.5333333333333334e-05,
343
+ "loss": 0.1251,
344
+ "step": 5200
345
+ },
346
+ {
347
+ "epoch": 2.12,
348
+ "learning_rate": 1.4666666666666668e-05,
349
+ "loss": 0.1448,
350
+ "step": 5300
351
+ },
352
+ {
353
+ "epoch": 2.16,
354
+ "learning_rate": 1.4000000000000001e-05,
355
+ "loss": 0.1635,
356
+ "step": 5400
357
+ },
358
+ {
359
+ "epoch": 2.2,
360
+ "learning_rate": 1.3333333333333333e-05,
361
+ "loss": 0.1382,
362
+ "step": 5500
363
+ },
364
+ {
365
+ "epoch": 2.24,
366
+ "learning_rate": 1.2666666666666668e-05,
367
+ "loss": 0.1436,
368
+ "step": 5600
369
+ },
370
+ {
371
+ "epoch": 2.28,
372
+ "learning_rate": 1.2e-05,
373
+ "loss": 0.143,
374
+ "step": 5700
375
+ },
376
+ {
377
+ "epoch": 2.32,
378
+ "learning_rate": 1.1333333333333334e-05,
379
+ "loss": 0.1311,
380
+ "step": 5800
381
+ },
382
+ {
383
+ "epoch": 2.36,
384
+ "learning_rate": 1.0666666666666667e-05,
385
+ "loss": 0.1339,
386
+ "step": 5900
387
+ },
388
+ {
389
+ "epoch": 2.4,
390
+ "learning_rate": 1e-05,
391
+ "loss": 0.1394,
392
+ "step": 6000
393
+ },
394
+ {
395
+ "epoch": 2.44,
396
+ "learning_rate": 9.333333333333334e-06,
397
+ "loss": 0.1251,
398
+ "step": 6100
399
+ },
400
+ {
401
+ "epoch": 2.48,
402
+ "learning_rate": 8.666666666666668e-06,
403
+ "loss": 0.1333,
404
+ "step": 6200
405
+ },
406
+ {
407
+ "epoch": 2.52,
408
+ "learning_rate": 8.000000000000001e-06,
409
+ "loss": 0.1469,
410
+ "step": 6300
411
+ },
412
+ {
413
+ "epoch": 2.56,
414
+ "learning_rate": 7.333333333333334e-06,
415
+ "loss": 0.1363,
416
+ "step": 6400
417
+ },
418
+ {
419
+ "epoch": 2.6,
420
+ "learning_rate": 6.666666666666667e-06,
421
+ "loss": 0.1419,
422
+ "step": 6500
423
+ },
424
+ {
425
+ "epoch": 2.64,
426
+ "learning_rate": 6e-06,
427
+ "loss": 0.1394,
428
+ "step": 6600
429
+ },
430
+ {
431
+ "epoch": 2.68,
432
+ "learning_rate": 5.333333333333334e-06,
433
+ "loss": 0.1237,
434
+ "step": 6700
435
+ },
436
+ {
437
+ "epoch": 2.72,
438
+ "learning_rate": 4.666666666666667e-06,
439
+ "loss": 0.151,
440
+ "step": 6800
441
+ },
442
+ {
443
+ "epoch": 2.76,
444
+ "learning_rate": 4.000000000000001e-06,
445
+ "loss": 0.1307,
446
+ "step": 6900
447
+ },
448
+ {
449
+ "epoch": 2.8,
450
+ "learning_rate": 3.3333333333333333e-06,
451
+ "loss": 0.1066,
452
+ "step": 7000
453
+ },
454
+ {
455
+ "epoch": 2.84,
456
+ "learning_rate": 2.666666666666667e-06,
457
+ "loss": 0.1035,
458
+ "step": 7100
459
+ },
460
+ {
461
+ "epoch": 2.88,
462
+ "learning_rate": 2.0000000000000003e-06,
463
+ "loss": 0.1417,
464
+ "step": 7200
465
+ },
466
+ {
467
+ "epoch": 2.92,
468
+ "learning_rate": 1.3333333333333334e-06,
469
+ "loss": 0.1211,
470
+ "step": 7300
471
+ },
472
+ {
473
+ "epoch": 2.96,
474
+ "learning_rate": 6.666666666666667e-07,
475
+ "loss": 0.1156,
476
+ "step": 7400
477
+ },
478
+ {
479
+ "epoch": 3.0,
480
+ "learning_rate": 0.0,
481
+ "loss": 0.1049,
482
+ "step": 7500
483
+ },
484
+ {
485
+ "epoch": 3.0,
486
+ "eval_cer": 0.036042490888134326,
487
+ "eval_loss": 0.2470209002494812,
488
+ "eval_runtime": 124535.0211,
489
+ "eval_samples_per_second": 0.04,
490
+ "eval_steps_per_second": 0.005,
491
+ "step": 7500
492
+ },
493
+ {
494
+ "epoch": 3.0,
495
+ "step": 7500,
496
+ "total_flos": 4.489711145975808e+19,
497
+ "train_loss": 0.3862592127482096,
498
+ "train_runtime": 1284327.9471,
499
+ "train_samples_per_second": 0.047,
500
+ "train_steps_per_second": 0.006
501
+ }
502
+ ],
503
+ "max_steps": 7500,
504
+ "num_train_epochs": 3,
505
+ "total_flos": 4.489711145975808e+19,
506
+ "trial_name": null,
507
+ "trial_params": null
508
+ }