Update README.md
Browse files
README.md
CHANGED
@@ -30,3 +30,17 @@ Viking modellen kan åbenbart finde ud af at overføre træning fra engelsk til
|
|
30 |
## Original
|
31 |
|
32 |
- [trollek/Holger-7B-v0.1](https://huggingface.co/trollek/Holger-7B-v0.1)
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
30 |
## Original
|
31 |
|
32 |
- [trollek/Holger-7B-v0.1](https://huggingface.co/trollek/Holger-7B-v0.1)
|
33 |
+
|
34 |
+
## Noter
|
35 |
+
|
36 |
+
Hvis du vil undgå den øjebæ som \<\/s\> kan være, kan du med Ollama gøre følgende:
|
37 |
+
|
38 |
+
```bash
|
39 |
+
ollama run hf.co/trollek/Holger-7B-v0.1-GGUF:<kvant>
|
40 |
+
|
41 |
+
/set parameter stop "</s>"
|
42 |
+
/set parameter num_ctx 4096
|
43 |
+
/save <whatever> # det kommer ikke til at optage mange kB
|
44 |
+
```
|
45 |
+
|
46 |
+
I LM studio kan du tilføje \<\/s\> som en extra stop token. Er mit bud. Jeg kan ikke teste det før i morgen; jeg er ved at YOLO Danoia-v02 med Holger. Jeg har heller ikke testet om man kan bruge den til at lave instruktioner med Magpie-align metoden, men det virker til at den giver ret fornuftige svar i det mindste, selvom 20% af dem ikke er på dansk. Oh well.
|