vit-finetune-kidney-stone-Michel_Daudon_-w256_1k_v1-_MIX-pretrain

README.md

@@ -0,0 +1,94 @@
+---
+library_name: transformers
+license: apache-2.0
+base_model: google/vit-base-patch16-224-in21k
+tags:
+- generated_from_trainer
+datasets:
+- imagefolder
+metrics:
+- accuracy
+- precision
+- recall
+- f1
+model-index:
+- name: vit-finetune-kidney-stone-Michel_Daudon_-w256_1k_v1-_MIX-pretrain
+  results:
+  - task:
+      name: Image Classification
+      type: image-classification
+    dataset:
+      name: imagefolder
+      type: imagefolder
+      config: default
+      split: test
+      args: default
+    metrics:
+    - name: Accuracy
+      type: accuracy
+      value: 0.84625
+    - name: Precision
+      type: precision
+      value: 0.884106022518103
+    - name: Recall
+      type: recall
+      value: 0.84625
+    - name: F1
+      type: f1
+      value: 0.8469228019366851
+---
+
+<!-- This model card has been generated automatically according to the information the Trainer had access to. You
+should probably proofread and complete it, then remove this comment. -->
+
+# vit-finetune-kidney-stone-Michel_Daudon_-w256_1k_v1-_MIX-pretrain
+
+This model is a fine-tuned version of [google/vit-base-patch16-224-in21k](https://huggingface.co/google/vit-base-patch16-224-in21k) on the imagefolder dataset.
+It achieves the following results on the evaluation set:
+- Loss: 0.5559
+- Accuracy: 0.8462
+- Precision: 0.8841
+- Recall: 0.8462
+- F1: 0.8469
+
+## Model description
+
+More information needed
+
+## Intended uses & limitations
+
+More information needed
+
+## Training and evaluation data
+
+More information needed
+
+## Training procedure
+
+### Training hyperparameters
+
+The following hyperparameters were used during training:
+- learning_rate: 0.0002
+- train_batch_size: 32
+- eval_batch_size: 8
+- seed: 42
+- optimizer: Use adamw_torch with betas=(0.9,0.999) and epsilon=1e-08 and optimizer_args=No additional optimizer arguments
+- lr_scheduler_type: linear
+- num_epochs: 1
+- mixed_precision_training: Native AMP
+
+### Training results
+
+| Training Loss | Epoch  | Step | Validation Loss | Accuracy | Precision | Recall | F1     |
+|:-------------:|:------:|:----:|:---------------:|:--------:|:---------:|:------:|:------:|
+| 0.2482        | 0.3333 | 100  | 0.6577          | 0.7796   | 0.7999    | 0.7796 | 0.7806 |
+| 0.0618        | 0.6667 | 200  | 0.5559          | 0.8462   | 0.8841    | 0.8462 | 0.8469 |
+| 0.0682        | 1.0    | 300  | 0.5754          | 0.8608   | 0.8893    | 0.8608 | 0.8625 |
+
+
+### Framework versions
+
+- Transformers 4.48.2
+- Pytorch 2.6.0+cu126
+- Datasets 3.2.0
+- Tokenizers 0.21.0

all_results.json

@@ -0,0 +1,16 @@
+{
+    "epoch": 1.0,
+    "eval_accuracy": 0.84625,
+    "eval_f1": 0.8469228019366851,
+    "eval_loss": 0.5559307932853699,
+    "eval_precision": 0.884106022518103,
+    "eval_recall": 0.84625,
+    "eval_runtime": 19.265,
+    "eval_samples_per_second": 124.578,
+    "eval_steps_per_second": 15.572,
+    "total_flos": 7.43949770489856e+17,
+    "train_loss": 0.28470630645751954,
+    "train_runtime": 153.6917,
+    "train_samples_per_second": 62.463,
+    "train_steps_per_second": 1.952
+}

config.json

@@ -0,0 +1,40 @@
+{
+  "_name_or_path": "google/vit-base-patch16-224-in21k",
+  "architectures": [
+    "ViTForImageClassification"
+  ],
+  "attention_probs_dropout_prob": 0.0,
+  "encoder_stride": 16,
+  "hidden_act": "gelu",
+  "hidden_dropout_prob": 0.0,
+  "hidden_size": 768,
+  "id2label": {
+    "0": "MIX-Subtype_IVa",
+    "1": "MIX-Subtype_IVa2",
+    "2": "MIX-Subtype_IVc",
+    "3": "MIX-Subtype_IVd",
+    "4": "MIX-Subtype_Ia",
+    "5": "MIX-Subtype_Va"
+  },
+  "image_size": 224,
+  "initializer_range": 0.02,
+  "intermediate_size": 3072,
+  "label2id": {
+    "MIX-Subtype_IVa": "0",
+    "MIX-Subtype_IVa2": "1",
+    "MIX-Subtype_IVc": "2",
+    "MIX-Subtype_IVd": "3",
+    "MIX-Subtype_Ia": "4",
+    "MIX-Subtype_Va": "5"
+  },
+  "layer_norm_eps": 1e-12,
+  "model_type": "vit",
+  "num_attention_heads": 12,
+  "num_channels": 3,
+  "num_hidden_layers": 12,
+  "patch_size": 16,
+  "problem_type": "single_label_classification",
+  "qkv_bias": true,
+  "torch_dtype": "float32",
+  "transformers_version": "4.48.2"
+}

model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:6f0ba34ce82d72cb125e8b9fd6d3041974bce3b1c13e67ad619108aa1d6d8269
+size 343236280

preprocessor_config.json

@@ -0,0 +1,23 @@
+{
+  "do_convert_rgb": null,
+  "do_normalize": true,
+  "do_rescale": true,
+  "do_resize": true,
+  "image_mean": [
+    0.5,
+    0.5,
+    0.5
+  ],
+  "image_processor_type": "ViTFeatureExtractor",
+  "image_std": [
+    0.5,
+    0.5,
+    0.5
+  ],
+  "resample": 2,
+  "rescale_factor": 0.00392156862745098,
+  "size": {
+    "height": 224,
+    "width": 224
+  }
+}

test_results.json

@@ -0,0 +1,11 @@
+{
+    "epoch": 1.0,
+    "eval_accuracy": 0.84625,
+    "eval_f1": 0.8469228019366851,
+    "eval_loss": 0.5559307932853699,
+    "eval_precision": 0.884106022518103,
+    "eval_recall": 0.84625,
+    "eval_runtime": 19.265,
+    "eval_samples_per_second": 124.578,
+    "eval_steps_per_second": 15.572
+}

train_results.json

@@ -0,0 +1,8 @@
+{
+    "epoch": 1.0,
+    "total_flos": 7.43949770489856e+17,
+    "train_loss": 0.28470630645751954,
+    "train_runtime": 153.6917,
+    "train_samples_per_second": 62.463,
+    "train_steps_per_second": 1.952
+}

trainer_state.json

@@ -0,0 +1,498 @@
+{
+  "best_metric": 0.5559307932853699,
+  "best_model_checkpoint": "vit-finetune-kidney-stone-Michel_Daudon_-w256_1k_v1-_MIX-pretrain\\checkpoint-200",
+  "epoch": 1.0,
+  "eval_steps": 100,
+  "global_step": 300,
+  "is_hyper_param_search": false,
+  "is_local_process_zero": true,
+  "is_world_process_zero": true,
+  "log_history": [
+    {
+      "epoch": 0.016666666666666666,
+      "grad_norm": 1.4179848432540894,
+      "learning_rate": 0.00019666666666666666,
+      "loss": 1.714,
+      "step": 5
+    },
+    {
+      "epoch": 0.03333333333333333,
+      "grad_norm": 1.9304280281066895,
+      "learning_rate": 0.00019333333333333333,
+      "loss": 1.4884,
+      "step": 10
+    },
+    {
+      "epoch": 0.05,
+      "grad_norm": 2.225105047225952,
+      "learning_rate": 0.00019,
+      "loss": 1.2053,
+      "step": 15
+    },
+    {
+      "epoch": 0.06666666666666667,
+      "grad_norm": 2.4343421459198,
+      "learning_rate": 0.0001866666666666667,
+      "loss": 1.0324,
+      "step": 20
+    },
+    {
+      "epoch": 0.08333333333333333,
+      "grad_norm": 2.346322536468506,
+      "learning_rate": 0.00018333333333333334,
+      "loss": 0.808,
+      "step": 25
+    },
+    {
+      "epoch": 0.1,
+      "grad_norm": 2.257009506225586,
+      "learning_rate": 0.00018,
+      "loss": 0.8625,
+      "step": 30
+    },
+    {
+      "epoch": 0.11666666666666667,
+      "grad_norm": 2.1560170650482178,
+      "learning_rate": 0.00017666666666666666,
+      "loss": 0.6244,
+      "step": 35
+    },
+    {
+      "epoch": 0.13333333333333333,
+      "grad_norm": 2.3126962184906006,
+      "learning_rate": 0.00017333333333333334,
+      "loss": 0.5893,
+      "step": 40
+    },
+    {
+      "epoch": 0.15,
+      "grad_norm": 1.8004573583602905,
+      "learning_rate": 0.00017,
+      "loss": 0.4622,
+      "step": 45
+    },
+    {
+      "epoch": 0.16666666666666666,
+      "grad_norm": 2.819410562515259,
+      "learning_rate": 0.0001666666666666667,
+      "loss": 0.4573,
+      "step": 50
+    },
+    {
+      "epoch": 0.18333333333333332,
+      "grad_norm": 2.2983713150024414,
+      "learning_rate": 0.00016333333333333334,
+      "loss": 0.4021,
+      "step": 55
+    },
+    {
+      "epoch": 0.2,
+      "grad_norm": 2.6218581199645996,
+      "learning_rate": 0.00016,
+      "loss": 0.3694,
+      "step": 60
+    },
+    {
+      "epoch": 0.21666666666666667,
+      "grad_norm": 2.648026704788208,
+      "learning_rate": 0.00015666666666666666,
+      "loss": 0.2777,
+      "step": 65
+    },
+    {
+      "epoch": 0.23333333333333334,
+      "grad_norm": 2.6357874870300293,
+      "learning_rate": 0.00015333333333333334,
+      "loss": 0.2628,
+      "step": 70
+    },
+    {
+      "epoch": 0.25,
+      "grad_norm": 3.158283233642578,
+      "learning_rate": 0.00015000000000000001,
+      "loss": 0.3337,
+      "step": 75
+    },
+    {
+      "epoch": 0.26666666666666666,
+      "grad_norm": 5.21614933013916,
+      "learning_rate": 0.00014666666666666666,
+      "loss": 0.3956,
+      "step": 80
+    },
+    {
+      "epoch": 0.2833333333333333,
+      "grad_norm": 2.671994924545288,
+      "learning_rate": 0.00014333333333333334,
+      "loss": 0.37,
+      "step": 85
+    },
+    {
+      "epoch": 0.3,
+      "grad_norm": 2.011404514312744,
+      "learning_rate": 0.00014,
+      "loss": 0.2296,
+      "step": 90
+    },
+    {
+      "epoch": 0.31666666666666665,
+      "grad_norm": 1.9885761737823486,
+      "learning_rate": 0.00013666666666666666,
+      "loss": 0.2728,
+      "step": 95
+    },
+    {
+      "epoch": 0.3333333333333333,
+      "grad_norm": 1.5279067754745483,
+      "learning_rate": 0.00013333333333333334,
+      "loss": 0.2482,
+      "step": 100
+    },
+    {
+      "epoch": 0.3333333333333333,
+      "eval_accuracy": 0.7795833333333333,
+      "eval_f1": 0.7806179277793751,
+      "eval_loss": 0.6576546430587769,
+      "eval_precision": 0.7999354429920874,
+      "eval_recall": 0.7795833333333333,
+      "eval_runtime": 19.7967,
+      "eval_samples_per_second": 121.232,
+      "eval_steps_per_second": 15.154,
+      "step": 100
+    },
+    {
+      "epoch": 0.35,
+      "grad_norm": 2.1997885704040527,
+      "learning_rate": 0.00013000000000000002,
+      "loss": 0.4241,
+      "step": 105
+    },
+    {
+      "epoch": 0.36666666666666664,
+      "grad_norm": 3.4247164726257324,
+      "learning_rate": 0.00012666666666666666,
+      "loss": 0.187,
+      "step": 110
+    },
+    {
+      "epoch": 0.38333333333333336,
+      "grad_norm": 2.9750123023986816,
+      "learning_rate": 0.00012333333333333334,
+      "loss": 0.3264,
+      "step": 115
+    },
+    {
+      "epoch": 0.4,
+      "grad_norm": 2.9790356159210205,
+      "learning_rate": 0.00012,
+      "loss": 0.1827,
+      "step": 120
+    },
+    {
+      "epoch": 0.4166666666666667,
+      "grad_norm": 1.8905974626541138,
+      "learning_rate": 0.00011666666666666668,
+      "loss": 0.165,
+      "step": 125
+    },
+    {
+      "epoch": 0.43333333333333335,
+      "grad_norm": 4.040646076202393,
+      "learning_rate": 0.00011333333333333334,
+      "loss": 0.2466,
+      "step": 130
+    },
+    {
+      "epoch": 0.45,
+      "grad_norm": 0.6521934866905212,
+      "learning_rate": 0.00011000000000000002,
+      "loss": 0.2282,
+      "step": 135
+    },
+    {
+      "epoch": 0.4666666666666667,
+      "grad_norm": 2.284358263015747,
+      "learning_rate": 0.00010666666666666667,
+      "loss": 0.1581,
+      "step": 140
+    },
+    {
+      "epoch": 0.48333333333333334,
+      "grad_norm": 0.49103227257728577,
+      "learning_rate": 0.00010333333333333334,
+      "loss": 0.1934,
+      "step": 145
+    },
+    {
+      "epoch": 0.5,
+      "grad_norm": 1.3040047883987427,
+      "learning_rate": 0.0001,
+      "loss": 0.1119,
+      "step": 150
+    },
+    {
+      "epoch": 0.5166666666666667,
+      "grad_norm": 1.6007143259048462,
+      "learning_rate": 9.666666666666667e-05,
+      "loss": 0.0865,
+      "step": 155
+    },
+    {
+      "epoch": 0.5333333333333333,
+      "grad_norm": 0.6166821122169495,
+      "learning_rate": 9.333333333333334e-05,
+      "loss": 0.1555,
+      "step": 160
+    },
+    {
+      "epoch": 0.55,
+      "grad_norm": 2.3195834159851074,
+      "learning_rate": 9e-05,
+      "loss": 0.1275,
+      "step": 165
+    },
+    {
+      "epoch": 0.5666666666666667,
+      "grad_norm": 0.710364043712616,
+      "learning_rate": 8.666666666666667e-05,
+      "loss": 0.088,
+      "step": 170
+    },
+    {
+      "epoch": 0.5833333333333334,
+      "grad_norm": 1.3730980157852173,
+      "learning_rate": 8.333333333333334e-05,
+      "loss": 0.0854,
+      "step": 175
+    },
+    {
+      "epoch": 0.6,
+      "grad_norm": 0.7241602540016174,
+      "learning_rate": 8e-05,
+      "loss": 0.1393,
+      "step": 180
+    },
+    {
+      "epoch": 0.6166666666666667,
+      "grad_norm": 3.2363064289093018,
+      "learning_rate": 7.666666666666667e-05,
+      "loss": 0.1338,
+      "step": 185
+    },
+    {
+      "epoch": 0.6333333333333333,
+      "grad_norm": 1.0160473585128784,
+      "learning_rate": 7.333333333333333e-05,
+      "loss": 0.0984,
+      "step": 190
+    },
+    {
+      "epoch": 0.65,
+      "grad_norm": 0.2477673441171646,
+      "learning_rate": 7e-05,
+      "loss": 0.0561,
+      "step": 195
+    },
+    {
+      "epoch": 0.6666666666666666,
+      "grad_norm": 0.2991069555282593,
+      "learning_rate": 6.666666666666667e-05,
+      "loss": 0.0618,
+      "step": 200
+    },
+    {
+      "epoch": 0.6666666666666666,
+      "eval_accuracy": 0.84625,
+      "eval_f1": 0.8469228019366851,
+      "eval_loss": 0.5559307932853699,
+      "eval_precision": 0.884106022518103,
+      "eval_recall": 0.84625,
+      "eval_runtime": 20.5047,
+      "eval_samples_per_second": 117.046,
+      "eval_steps_per_second": 14.631,
+      "step": 200
+    },
+    {
+      "epoch": 0.6833333333333333,
+      "grad_norm": 0.15350663661956787,
+      "learning_rate": 6.333333333333333e-05,
+      "loss": 0.0543,
+      "step": 205
+    },
+    {
+      "epoch": 0.7,
+      "grad_norm": 1.7129825353622437,
+      "learning_rate": 6e-05,
+      "loss": 0.0677,
+      "step": 210
+    },
+    {
+      "epoch": 0.7166666666666667,
+      "grad_norm": 2.104109525680542,
+      "learning_rate": 5.666666666666667e-05,
+      "loss": 0.0893,
+      "step": 215
+    },
+    {
+      "epoch": 0.7333333333333333,
+      "grad_norm": 5.767698764801025,
+      "learning_rate": 5.333333333333333e-05,
+      "loss": 0.1437,
+      "step": 220
+    },
+    {
+      "epoch": 0.75,
+      "grad_norm": 3.647834062576294,
+      "learning_rate": 5e-05,
+      "loss": 0.1503,
+      "step": 225
+    },
+    {
+      "epoch": 0.7666666666666667,
+      "grad_norm": 0.184550940990448,
+      "learning_rate": 4.666666666666667e-05,
+      "loss": 0.0744,
+      "step": 230
+    },
+    {
+      "epoch": 0.7833333333333333,
+      "grad_norm": 1.2284187078475952,
+      "learning_rate": 4.3333333333333334e-05,
+      "loss": 0.072,
+      "step": 235
+    },
+    {
+      "epoch": 0.8,
+      "grad_norm": 5.161174297332764,
+      "learning_rate": 4e-05,
+      "loss": 0.1732,
+      "step": 240
+    },
+    {
+      "epoch": 0.8166666666666667,
+      "grad_norm": 0.4599807560443878,
+      "learning_rate": 3.6666666666666666e-05,
+      "loss": 0.0408,
+      "step": 245
+    },
+    {
+      "epoch": 0.8333333333333334,
+      "grad_norm": 0.9615724682807922,
+      "learning_rate": 3.3333333333333335e-05,
+      "loss": 0.0557,
+      "step": 250
+    },
+    {
+      "epoch": 0.85,
+      "grad_norm": 0.1104474663734436,
+      "learning_rate": 3e-05,
+      "loss": 0.064,
+      "step": 255
+    },
+    {
+      "epoch": 0.8666666666666667,
+      "grad_norm": 0.5136594772338867,
+      "learning_rate": 2.6666666666666667e-05,
+      "loss": 0.0332,
+      "step": 260
+    },
+    {
+      "epoch": 0.8833333333333333,
+      "grad_norm": 0.2807674705982208,
+      "learning_rate": 2.3333333333333336e-05,
+      "loss": 0.0511,
+      "step": 265
+    },
+    {
+      "epoch": 0.9,
+      "grad_norm": 0.11207906901836395,
+      "learning_rate": 2e-05,
+      "loss": 0.0321,
+      "step": 270
+    },
+    {
+      "epoch": 0.9166666666666666,
+      "grad_norm": 1.635079264640808,
+      "learning_rate": 1.6666666666666667e-05,
+      "loss": 0.0359,
+      "step": 275
+    },
+    {
+      "epoch": 0.9333333333333333,
+      "grad_norm": 3.3569858074188232,
+      "learning_rate": 1.3333333333333333e-05,
+      "loss": 0.0801,
+      "step": 280
+    },
+    {
+      "epoch": 0.95,
+      "grad_norm": 0.09712553024291992,
+      "learning_rate": 1e-05,
+      "loss": 0.0307,
+      "step": 285
+    },
+    {
+      "epoch": 0.9666666666666667,
+      "grad_norm": 1.7963075637817383,
+      "learning_rate": 6.666666666666667e-06,
+      "loss": 0.0354,
+      "step": 290
+    },
+    {
+      "epoch": 0.9833333333333333,
+      "grad_norm": 0.11726801097393036,
+      "learning_rate": 3.3333333333333333e-06,
+      "loss": 0.0687,
+      "step": 295
+    },
+    {
+      "epoch": 1.0,
+      "grad_norm": 0.5698795318603516,
+      "learning_rate": 0.0,
+      "loss": 0.0682,
+      "step": 300
+    },
+    {
+      "epoch": 1.0,
+      "eval_accuracy": 0.8608333333333333,
+      "eval_f1": 0.8625159015933601,
+      "eval_loss": 0.5754431486129761,
+      "eval_precision": 0.889319369142825,
+      "eval_recall": 0.8608333333333333,
+      "eval_runtime": 19.3194,
+      "eval_samples_per_second": 124.228,
+      "eval_steps_per_second": 15.528,
+      "step": 300
+    },
+    {
+      "epoch": 1.0,
+      "step": 300,
+      "total_flos": 7.43949770489856e+17,
+      "train_loss": 0.28470630645751954,
+      "train_runtime": 153.6917,
+      "train_samples_per_second": 62.463,
+      "train_steps_per_second": 1.952
+    }
+  ],
+  "logging_steps": 5,
+  "max_steps": 300,
+  "num_input_tokens_seen": 0,
+  "num_train_epochs": 1,
+  "save_steps": 100,
+  "stateful_callbacks": {
+    "TrainerControl": {
+      "args": {
+        "should_epoch_stop": false,
+        "should_evaluate": false,
+        "should_log": false,
+        "should_save": true,
+        "should_training_stop": true
+      },
+      "attributes": {}
+    }
+  },
+  "total_flos": 7.43949770489856e+17,
+  "train_batch_size": 32,
+  "trial_name": null,
+  "trial_params": null
+}

training_args.bin

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f5c0a15ad866eb039d9f18f5a22a9046f238bfdb3810ed1594e8af2a12136532
+size 5432