MTSmash commited on
Commit
9813e3e
1 Parent(s): 3eacaf3

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +49 -0
README.md CHANGED
@@ -1,3 +1,52 @@
1
  ---
2
  license: apache-2.0
 
 
 
 
 
 
3
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
  license: apache-2.0
3
+ language:
4
+ - de
5
+ - en
6
+ pipeline_tag: text-generation
7
+ library_name: transformers
8
+ model_type: llama
9
  ---
10
+ Dieses Sprach Model kann mit folgender Software genutzt werden (CPU Version/Community Edition):
11
+
12
+ Ollama = https://ollama.com/
13
+
14
+ LM Studio = https://lmstudio.ai/
15
+
16
+
17
+ Hier die Ollama Config:
18
+
19
+
20
+ ############################EVAConfig###############################################
21
+
22
+ FROM /home/mtsmash/gguf/EVA-GPT-Middle-V5.5-q8-hf.gguf
23
+ # sets the temperature to 1 [higher is more creative, lower is more coherent]
24
+ PARAMETER temperature 0
25
+ # sets the context window size to 4096, this controls how many tokens the LLM can use as context to generate the next token
26
+ PARAMETER num_ctx 4096
27
+
28
+ TEMPLATE """ {{ .System }} ###Chat:
29
+
30
+ <|>Nachricht:
31
+ Nachricht des Benutzer: USER: {{.Prompt}}
32
+
33
+ Antwort der Assistentin: EVA:
34
+ """
35
+
36
+ SYSTEM """Du bist EVA eine echte weibliche Assistentin der TMP-SYSTEM-SERVICE GmbH, du gibst hilfreiche Antworten und bist immer Hilfsbereit."""
37
+
38
+ PARAMETER stop ###Chat:
39
+
40
+
41
+ ############################EVAConfig###############################################
42
+
43
+ Die Trainingswerte sind sehr gut und es ist unter MAC/Windows/Linux ohne Probleme nutzbar.
44
+
45
+ Kontext erfassung funktioniert bisher auch ganz gut.
46
+
47
+
48
+ (c) by TMP-Networks - 2024 - Zum Testen ohne Download: https://ai.tmp-networks.de
49
+
50
+ Info: Falls ein Fehler erscheint wird das Model gerade weiter Trainiert.
51
+
52
+ https://www.facebook.com/groups/1356910801463873