🍻 cheers

all_results.json

@@ -1,13 +1,13 @@
 {
-    "epoch": 4.0,
-    "eval_accuracy": 0.9,
-    "eval_loss": 0.5519602298736572,
-    "eval_runtime": 2.1697,
-    "eval_samples_per_second": 13.827,
-    "eval_steps_per_second": 1.844,
-    "total_flos": 2.972619364024074e+17,
-    "train_loss": 0.5838068192203839,
-    "train_runtime": 384.6439,
-    "train_samples_per_second": 9.973,
-    "train_steps_per_second": 0.624
+    "epoch": 8.0,
+    "eval_accuracy": 0.6666666666666666,
+    "eval_loss": 0.7650650143623352,
+    "eval_runtime": 2.7569,
+    "eval_samples_per_second": 18.499,
+    "eval_steps_per_second": 2.539,
+    "total_flos": 5.945238728048148e+17,
+    "train_loss": 0.42277156077325345,
+    "train_runtime": 658.9186,
+    "train_samples_per_second": 11.643,
+    "train_steps_per_second": 0.728
 }

eval_results.json

@@ -1,8 +1,8 @@
 {
-    "epoch": 4.0,
-    "eval_accuracy": 0.9,
-    "eval_loss": 0.5519602298736572,
-    "eval_runtime": 2.1697,
-    "eval_samples_per_second": 13.827,
-    "eval_steps_per_second": 1.844
+    "epoch": 8.0,
+    "eval_accuracy": 0.6666666666666666,
+    "eval_loss": 0.7650650143623352,
+    "eval_runtime": 2.7569,
+    "eval_samples_per_second": 18.499,
+    "eval_steps_per_second": 2.539
 }

runs/Jul18_23-44-46_052b66b80984/events.out.tfevents.1689724682.052b66b80984.308.1

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:cd87bd4a68f87e5f806f3a9bb4eecd67b2e6992b245e8c8d136418be84d14f74
+size 411

train_results.json

@@ -1,8 +1,8 @@
 {
-    "epoch": 4.0,
-    "total_flos": 2.972619364024074e+17,
-    "train_loss": 0.5838068192203839,
-    "train_runtime": 384.6439,
-    "train_samples_per_second": 9.973,
-    "train_steps_per_second": 0.624
+    "epoch": 8.0,
+    "total_flos": 5.945238728048148e+17,
+    "train_loss": 0.42277156077325345,
+    "train_runtime": 658.9186,
+    "train_samples_per_second": 11.643,
+    "train_steps_per_second": 0.728
 }

trainer_state.json

@@ -1,187 +1,349 @@
 {
-  "best_metric": 0.5519602298736572,
+  "best_metric": 0.7650650143623352,
   "best_model_checkpoint": "./vit-base-renovation/checkpoint-200",
-  "epoch": 4.0,
-  "global_step": 240,
+  "epoch": 8.0,
+  "global_step": 480,
   "is_hyper_param_search": false,
   "is_local_process_zero": true,
   "is_world_process_zero": true,
   "log_history": [
     {
       "epoch": 0.17,
-      "learning_rate": 0.00019166666666666667,
-      "loss": 1.0207,
+      "learning_rate": 0.00019583333333333334,
+      "loss": 1.0402,
       "step": 10
     },
     {
       "epoch": 0.33,
-      "learning_rate": 0.00018333333333333334,
-      "loss": 0.9553,
+      "learning_rate": 0.00019166666666666667,
+      "loss": 0.9827,
       "step": 20
     },
     {
       "epoch": 0.5,
-      "learning_rate": 0.000175,
-      "loss": 0.9262,
+      "learning_rate": 0.0001875,
+      "loss": 0.9183,
       "step": 30
     },
     {
       "epoch": 0.67,
-      "learning_rate": 0.0001666666666666667,
-      "loss": 1.0583,
+      "learning_rate": 0.00018333333333333334,
+      "loss": 1.0276,
       "step": 40
     },
     {
       "epoch": 0.83,
-      "learning_rate": 0.00015833333333333332,
-      "loss": 0.9631,
+      "learning_rate": 0.0001791666666666667,
+      "loss": 1.0298,
       "step": 50
     },
     {
       "epoch": 1.0,
-      "learning_rate": 0.00015000000000000001,
-      "loss": 1.0413,
+      "learning_rate": 0.000175,
+      "loss": 1.0427,
       "step": 60
     },
     {
       "epoch": 1.17,
-      "learning_rate": 0.00014250000000000002,
-      "loss": 0.8439,
+      "learning_rate": 0.00017083333333333333,
+      "loss": 0.9752,
       "step": 70
     },
     {
       "epoch": 1.33,
-      "learning_rate": 0.00013416666666666666,
-      "loss": 0.8593,
+      "learning_rate": 0.0001666666666666667,
+      "loss": 0.9352,
       "step": 80
     },
     {
       "epoch": 1.5,
-      "learning_rate": 0.00012583333333333335,
-      "loss": 0.7704,
+      "learning_rate": 0.00016250000000000002,
+      "loss": 0.9524,
       "step": 90
     },
     {
       "epoch": 1.67,
-      "learning_rate": 0.00011833333333333334,
-      "loss": 0.7677,
+      "learning_rate": 0.00015833333333333332,
+      "loss": 0.9092,
       "step": 100
     },
     {
       "epoch": 1.67,
-      "eval_accuracy": 0.7666666666666667,
-      "eval_loss": 0.677022397518158,
-      "eval_runtime": 2.0668,
-      "eval_samples_per_second": 14.515,
-      "eval_steps_per_second": 1.935,
+      "eval_accuracy": 0.5686274509803921,
+      "eval_loss": 0.828122615814209,
+      "eval_runtime": 2.4102,
+      "eval_samples_per_second": 21.16,
+      "eval_steps_per_second": 2.904,
       "step": 100
     },
     {
       "epoch": 1.83,
-      "learning_rate": 0.00011000000000000002,
-      "loss": 0.869,
+      "learning_rate": 0.00015416666666666668,
+      "loss": 1.0012,
       "step": 110
     },
     {
       "epoch": 2.0,
-      "learning_rate": 0.00010166666666666667,
-      "loss": 0.713,
+      "learning_rate": 0.00015000000000000001,
+      "loss": 0.8633,
       "step": 120
     },
     {
       "epoch": 2.17,
-      "learning_rate": 9.333333333333334e-05,
-      "loss": 0.516,
+      "learning_rate": 0.00014625,
+      "loss": 0.8039,
       "step": 130
     },
     {
       "epoch": 2.33,
-      "learning_rate": 8.5e-05,
-      "loss": 0.436,
+      "learning_rate": 0.00014208333333333334,
+      "loss": 0.6671,
       "step": 140
     },
     {
       "epoch": 2.5,
-      "learning_rate": 7.666666666666667e-05,
-      "loss": 0.4567,
+      "learning_rate": 0.00013791666666666667,
+      "loss": 0.7614,
       "step": 150
     },
     {
       "epoch": 2.67,
-      "learning_rate": 6.833333333333333e-05,
-      "loss": 0.3406,
+      "learning_rate": 0.00013375,
+      "loss": 0.7356,
       "step": 160
     },
     {
       "epoch": 2.83,
-      "learning_rate": 6e-05,
-      "loss": 0.3733,
+      "learning_rate": 0.00012958333333333336,
+      "loss": 0.7792,
       "step": 170
     },
     {
       "epoch": 3.0,
-      "learning_rate": 5.166666666666667e-05,
-      "loss": 0.3386,
+      "learning_rate": 0.00012541666666666666,
+      "loss": 0.7458,
       "step": 180
     },
     {
       "epoch": 3.17,
-      "learning_rate": 4.3333333333333334e-05,
-      "loss": 0.2098,
+      "learning_rate": 0.00012124999999999999,
+      "loss": 0.5359,
       "step": 190
     },
     {
       "epoch": 3.33,
-      "learning_rate": 3.5e-05,
-      "loss": 0.13,
+      "learning_rate": 0.00011708333333333335,
+      "loss": 0.3809,
       "step": 200
     },
     {
       "epoch": 3.33,
-      "eval_accuracy": 0.9,
-      "eval_loss": 0.5519602298736572,
-      "eval_runtime": 1.3933,
-      "eval_samples_per_second": 21.532,
-      "eval_steps_per_second": 2.871,
+      "eval_accuracy": 0.6666666666666666,
+      "eval_loss": 0.7650650143623352,
+      "eval_runtime": 2.3488,
+      "eval_samples_per_second": 21.713,
+      "eval_steps_per_second": 2.98,
       "step": 200
     },
     {
       "epoch": 3.5,
-      "learning_rate": 2.6666666666666667e-05,
-      "loss": 0.1127,
+      "learning_rate": 0.00011291666666666667,
+      "loss": 0.3832,
       "step": 210
     },
     {
       "epoch": 3.67,
-      "learning_rate": 1.8333333333333333e-05,
-      "loss": 0.0929,
+      "learning_rate": 0.00010875,
+      "loss": 0.4645,
       "step": 220
     },
     {
       "epoch": 3.83,
-      "learning_rate": 1e-05,
-      "loss": 0.1072,
+      "learning_rate": 0.00010458333333333335,
+      "loss": 0.4131,
       "step": 230
     },
     {
       "epoch": 4.0,
-      "learning_rate": 1.6666666666666667e-06,
-      "loss": 0.1091,
+      "learning_rate": 0.00010041666666666666,
+      "loss": 0.5098,
       "step": 240
     },
     {
-      "epoch": 4.0,
-      "step": 240,
-      "total_flos": 2.972619364024074e+17,
-      "train_loss": 0.5838068192203839,
-      "train_runtime": 384.6439,
-      "train_samples_per_second": 9.973,
-      "train_steps_per_second": 0.624
+      "epoch": 4.17,
+      "learning_rate": 9.625000000000001e-05,
+      "loss": 0.2046,
+      "step": 250
+    },
+    {
+      "epoch": 4.33,
+      "learning_rate": 9.208333333333333e-05,
+      "loss": 0.1603,
+      "step": 260
+    },
+    {
+      "epoch": 4.5,
+      "learning_rate": 8.791666666666667e-05,
+      "loss": 0.1362,
+      "step": 270
+    },
+    {
+      "epoch": 4.67,
+      "learning_rate": 8.375e-05,
+      "loss": 0.1255,
+      "step": 280
+    },
+    {
+      "epoch": 4.83,
+      "learning_rate": 7.958333333333333e-05,
+      "loss": 0.1471,
+      "step": 290
+    },
+    {
+      "epoch": 5.0,
+      "learning_rate": 7.541666666666667e-05,
+      "loss": 0.1873,
+      "step": 300
+    },
+    {
+      "epoch": 5.0,
+      "eval_accuracy": 0.6666666666666666,
+      "eval_loss": 1.0181704759597778,
+      "eval_runtime": 2.4305,
+      "eval_samples_per_second": 20.983,
+      "eval_steps_per_second": 2.88,
+      "step": 300
+    },
+    {
+      "epoch": 5.17,
+      "learning_rate": 7.125000000000001e-05,
+      "loss": 0.0605,
+      "step": 310
+    },
+    {
+      "epoch": 5.33,
+      "learning_rate": 6.708333333333333e-05,
+      "loss": 0.0432,
+      "step": 320
+    },
+    {
+      "epoch": 5.5,
+      "learning_rate": 6.291666666666667e-05,
+      "loss": 0.0339,
+      "step": 330
+    },
+    {
+      "epoch": 5.67,
+      "learning_rate": 5.8750000000000005e-05,
+      "loss": 0.0386,
+      "step": 340
+    },
+    {
+      "epoch": 5.83,
+      "learning_rate": 5.458333333333333e-05,
+      "loss": 0.0371,
+      "step": 350
+    },
+    {
+      "epoch": 6.0,
+      "learning_rate": 5.041666666666667e-05,
+      "loss": 0.0353,
+      "step": 360
+    },
+    {
+      "epoch": 6.17,
+      "learning_rate": 4.6250000000000006e-05,
+      "loss": 0.0223,
+      "step": 370
+    },
+    {
+      "epoch": 6.33,
+      "learning_rate": 4.208333333333334e-05,
+      "loss": 0.0215,
+      "step": 380
+    },
+    {
+      "epoch": 6.5,
+      "learning_rate": 3.791666666666667e-05,
+      "loss": 0.0214,
+      "step": 390
+    },
+    {
+      "epoch": 6.67,
+      "learning_rate": 3.375000000000001e-05,
+      "loss": 0.019,
+      "step": 400
+    },
+    {
+      "epoch": 6.67,
+      "eval_accuracy": 0.6470588235294118,
+      "eval_loss": 1.2346100807189941,
+      "eval_runtime": 2.3302,
+      "eval_samples_per_second": 21.886,
+      "eval_steps_per_second": 3.004,
+      "step": 400
+    },
+    {
+      "epoch": 6.83,
+      "learning_rate": 2.9583333333333335e-05,
+      "loss": 0.0191,
+      "step": 410
+    },
+    {
+      "epoch": 7.0,
+      "learning_rate": 2.5416666666666667e-05,
+      "loss": 0.0189,
+      "step": 420
+    },
+    {
+      "epoch": 7.17,
+      "learning_rate": 2.125e-05,
+      "loss": 0.0179,
+      "step": 430
+    },
+    {
+      "epoch": 7.33,
+      "learning_rate": 1.7083333333333333e-05,
+      "loss": 0.0174,
+      "step": 440
+    },
+    {
+      "epoch": 7.5,
+      "learning_rate": 1.2916666666666668e-05,
+      "loss": 0.0173,
+      "step": 450
+    },
+    {
+      "epoch": 7.67,
+      "learning_rate": 8.75e-06,
+      "loss": 0.017,
+      "step": 460
+    },
+    {
+      "epoch": 7.83,
+      "learning_rate": 4.583333333333333e-06,
+      "loss": 0.0168,
+      "step": 470
+    },
+    {
+      "epoch": 8.0,
+      "learning_rate": 4.1666666666666667e-07,
+      "loss": 0.0168,
+      "step": 480
+    },
+    {
+      "epoch": 8.0,
+      "step": 480,
+      "total_flos": 5.945238728048148e+17,
+      "train_loss": 0.42277156077325345,
+      "train_runtime": 658.9186,
+      "train_samples_per_second": 11.643,
+      "train_steps_per_second": 0.728
     }
   ],
-  "max_steps": 240,
-  "num_train_epochs": 4,
-  "total_flos": 2.972619364024074e+17,
+  "max_steps": 480,
+  "num_train_epochs": 8,
+  "total_flos": 5.945238728048148e+17,
   "trial_name": null,
   "trial_params": null
 }