alex-abb commited on
Commit
f1313dd
1 Parent(s): b8f0356

Create app.py

Browse files
Files changed (1) hide show
  1. app.py +41 -0
app.py ADDED
@@ -0,0 +1,41 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ from transformers import AutoModelForSequenceClassification, AutoTokenizer, Trainer, TrainingArguments
2
+ from datasets import load_dataset
3
+ import os
4
+
5
+ # Charger le jeu de données SST-2
6
+ dataset = load_dataset("glue", "sst2")
7
+
8
+ # Charger le modèle BERT pré-entraîné et le tokenizer associé
9
+ model_name = "bert-base-uncased"
10
+ tokenizer = AutoTokenizer.from_pretrained(model_name)
11
+ model = AutoModelForSequenceClassification.from_pretrained(model_name, num_labels=2) # 2 classes : positif et négatif
12
+
13
+ # Prétraitement des données
14
+ def preprocess_function(examples):
15
+ return tokenizer(examples["sentence"], padding="max_length", truncation=True)
16
+
17
+ encoded_dataset = dataset.map(preprocess_function, batched=True)
18
+
19
+ # Configuration des arguments d'entraînement
20
+ training_args = TrainingArguments(
21
+ per_device_train_batch_size=8,
22
+ evaluation_strategy="epoch",
23
+ logging_dir="./logs",
24
+ output_dir="./results",
25
+ num_train_epochs=3,
26
+ )
27
+
28
+ # Entraînement du modèle
29
+ trainer = Trainer(
30
+ model=model,
31
+ args=training_args,
32
+ train_dataset=encoded_dataset["train"],
33
+ eval_dataset=encoded_dataset["validation"],
34
+ )
35
+
36
+ # Entraîner le modèle
37
+ trainer.train()
38
+
39
+ # Sauvegarder le modèle fine-tuné et le tokenizer
40
+ model.save_pretrained("./fine_tuned_model")
41
+ tokenizer.save_pretrained("./fine_tuned_model")