Update README.md
Browse files
README.md
CHANGED
@@ -23,10 +23,19 @@ It has been finetuned on a the machine translated instruct dataset [OpenHermes2.
|
|
23 |
## How to use:
|
24 |
```python
|
25 |
from transformers import pipeline
|
26 |
-
|
27 |
-
|
28 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
29 |
```
|
|
|
30 |
```html
|
31 |
Du har 8 ägg. Här är resonemanget:
|
32 |
1. Du börjar med 10 ägg
|
|
|
23 |
## How to use:
|
24 |
```python
|
25 |
from transformers import pipeline
|
26 |
+
|
27 |
+
pipe = pipeline(
|
28 |
+
"text-generation",
|
29 |
+
"timpal0l/Mistral-7B-v0.1-flashback-v2-instruct",
|
30 |
+
device_map="auto"
|
31 |
+
)
|
32 |
+
text = """
|
33 |
+
Hur många ägg har jag? Jag hade 10 ägg, sen gav jag bort 5 ägg. Sen fick jag 3 ägg av en kompis.
|
34 |
+
"""
|
35 |
+
generated = pipe(f"USER:{text}ASSISTANT:", max_length=512, temperature=0.6)
|
36 |
+
print(generated[0]["generated_text"].split("ASSISTANT: ")[1:][0])
|
37 |
```
|
38 |
+
Output:
|
39 |
```html
|
40 |
Du har 8 ägg. Här är resonemanget:
|
41 |
1. Du börjar med 10 ägg
|