trollek commited on
Commit
3d1ce06
1 Parent(s): b579166

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +14 -0
README.md CHANGED
@@ -30,3 +30,17 @@ Viking modellen kan åbenbart finde ud af at overføre træning fra engelsk til
30
  ## Original
31
 
32
  - [trollek/Holger-7B-v0.1](https://huggingface.co/trollek/Holger-7B-v0.1)
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
30
  ## Original
31
 
32
  - [trollek/Holger-7B-v0.1](https://huggingface.co/trollek/Holger-7B-v0.1)
33
+
34
+ ## Noter
35
+
36
+ Hvis du vil undgå den øjebæ som \<\/s\> kan være, kan du med Ollama gøre følgende:
37
+
38
+ ```bash
39
+ ollama run hf.co/trollek/Holger-7B-v0.1-GGUF:<kvant>
40
+
41
+ /set parameter stop "</s>"
42
+ /set parameter num_ctx 4096
43
+ /save <whatever> # det kommer ikke til at optage mange kB
44
+ ```
45
+
46
+ I LM studio kan du tilføje \<\/s\> som en extra stop token. Er mit bud. Jeg kan ikke teste det før i morgen; jeg er ved at YOLO Danoia-v02 med Holger. Jeg har heller ikke testet om man kan bruge den til at lave instruktioner med Magpie-align metoden, men det virker til at den giver ret fornuftige svar i det mindste, selvom 20% af dem ikke er på dansk. Oh well.