dominguesm commited on
Commit
61e1a2b
1 Parent(s): 0cd10c2

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +72 -1
README.md CHANGED
@@ -18,4 +18,75 @@ datasets:
18
 
19
  <hr>
20
 
21
- # Canarim-7B-Instruct
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
18
 
19
  <hr>
20
 
21
+ # Canarim-7B-Instruct
22
+
23
+ Canarim-7B-Instruct é um modelo de linguagem de 7 bilhões de parâmetros inicializado a partir do modelo [Canarim-7B](https://huggingface.co/dominguesm/canarim-7b) e treinado em uma variedade de conjuntos de dados de instruções disponíveis publicamente.
24
+
25
+ ## Usage
26
+
27
+ ```python
28
+ from transformers import AutoTokenizer, pipeline
29
+ import torch
30
+
31
+ model_id = "dominguesm/canarim-7b-vestibulaide"
32
+
33
+ tokenizer = AutoTokenizer.from_pretrained(model_id)
34
+ pipe = pipeline(
35
+ "text-generation",
36
+ model=model_id,
37
+ torch_dtype=torch.float16,
38
+ device_map="auto",
39
+ )
40
+
41
+
42
+ def make_prompt(instruction, input=None):
43
+ if input:
44
+ return f"""Abaixo está uma instrução que descreve uma tarefa, emparelhada com uma entrada que fornece mais contexto. Escreva uma resposta que conclua adequadamente a solicitação.
45
+
46
+ ### Instruções:
47
+ {instruction}
48
+
49
+ ### Entrada:
50
+ {input}
51
+
52
+ ### Resposta:"""
53
+ else:
54
+ return f"""Abaixo está uma instrução que descreve uma tarefa. Escreva uma resposta que conclua adequadamente a solicitação.
55
+
56
+ ### Instruções:
57
+ {instruction}
58
+
59
+ ### Resposta:"""
60
+
61
+ instruction = "Faça um resumo conciso do seguinte texto."
62
+ context = """
63
+ No início da obra, o narrador Bentinho explica como escolheu o título para o seu livro. Assim, ele conta que conheceu um poeta em uma viagem de trem. O jovem recitou alguns versos, mas Bentinho, já velho, fechou os olhos algumas vezes. O poeta, então, achou que ele estava cochilando e, ofendido, lhe chamou de Dom Casmurro.
64
+
65
+ Em seguida, o narrador inicia a narrativa de suas memórias, que começa quando ele tem 15 anos. Nessa época, Capitu, uma jovem de 14 anos, é sua vizinha. Os adolescentes têm uma forte amizade, o que incomoda o agregado da família, o amante de superlativos José Dias.
66
+
67
+ Desconfiado da relação entre os jovens, ele sugere à D. Glória, mãe de Bentinho, que já é hora de enviar o rapaz para o seminário. Isso porque, quando o menino nasceu, sua mãe fez uma promessa de que ele seria padre. Dessa forma, se apresenta um obstáculo ao amor do jovem casal, o que, enganosamente, faz parecer que o livro é um romance romântico.
68
+ """
69
+
70
+ prompt = make_prompt(question)
71
+
72
+ sequences = pipe(
73
+ prompt,
74
+ do_sample=True,
75
+ num_return_sequences=1,
76
+ eos_token_id=tokenizer.eos_token_id,
77
+ max_length=2048,
78
+ temperature=0.9,
79
+ top_p=0.6,
80
+ repetition_penalty=1.15
81
+ )
82
+ ```
83
+
84
+ ### Model Result
85
+
86
+ ```
87
+ O trabalho retrata as memórias de Bentinho, um jovem de 15 anos. Ele conta
88
+ sobre sua infância na casa de seus pais, onde vive com sua mãe, a dona
89
+ Glória, e sua governanta, a governanta Josefa. No entanto, no outono de
90
+ 1860, sua vida mudará drasticamente. Durante essa temporada, ele conhece
91
+ Capitu, uma moça de 14 anos, que se tornará sua companheira por muitos anos.
92
+ ```