telodigoensergio
commited on
Commit
•
4a80f2d
1
Parent(s):
acf3bc3
Update README.md
Browse files
README.md
CHANGED
@@ -22,15 +22,15 @@ ajuste se han extraído multitud de textos de índole administrativa de las prin
|
|
22 |
|
23 |
Para la carga y ajuste del modelo se han utilizado técnicas de cuantización con la siguiente configuración:
|
24 |
|
25 |
-
|
26 |
-
bnb_config = BitsAndBytesConfig(load_in_4bit=True,
|
27 |
bnb_4bit_quant_type='nf4',
|
28 |
bnb_4bit_compute_dtype='float16',
|
29 |
-
bnb_4bit_use_double_quant=True)
|
|
|
30 |
|
31 |
|
32 |
|
33 |
-
'''
|
34 |
y se ha aplicado LoRA a las capas lineales para el fine-tunning.
|
35 |
|
36 |
|
|
|
22 |
|
23 |
Para la carga y ajuste del modelo se han utilizado técnicas de cuantización con la siguiente configuración:
|
24 |
|
25 |
+
|
26 |
+
'''bnb_config = BitsAndBytesConfig(load_in_4bit=True,
|
27 |
bnb_4bit_quant_type='nf4',
|
28 |
bnb_4bit_compute_dtype='float16',
|
29 |
+
bnb_4bit_use_double_quant=True)'''
|
30 |
+
|
31 |
|
32 |
|
33 |
|
|
|
34 |
y se ha aplicado LoRA a las capas lineales para el fine-tunning.
|
35 |
|
36 |
|