Update README.md
Browse files
README.md
CHANGED
@@ -24,13 +24,13 @@ language:
|
|
24 |
git clone --branch mmnga-dev https://github.com/mmnga/llama.cpp.git
|
25 |
cd llama.cpp
|
26 |
make -j
|
27 |
-
./main -m
|
28 |
~~~~
|
29 |
|
30 |
**CUBLAS**
|
31 |
~~~~bash
|
32 |
LLAMA_CUBLAS=1 make -j
|
33 |
-
./main -m
|
34 |
~~~~
|
35 |
|
36 |
|
|
|
24 |
git clone --branch mmnga-dev https://github.com/mmnga/llama.cpp.git
|
25 |
cd llama.cpp
|
26 |
make -j
|
27 |
+
./main -m 'rinna-bilingual-gpt-neox-4b-instruction-ppo-q4_0.gguf' -n 128 -p 'ユーザー: 吾輩って猫ですか? システム: ' --top_p 0.9 --temp 0.7 --repeat-penalty 1.1
|
28 |
~~~~
|
29 |
|
30 |
**CUBLAS**
|
31 |
~~~~bash
|
32 |
LLAMA_CUBLAS=1 make -j
|
33 |
+
./main -m 'rinna-bilingual-gpt-neox-4b-instruction-ppo-q4_0.gguf' -n 128 -p 'ユーザー: 吾輩って猫ですか? システム: ' -ngl 32
|
34 |
~~~~
|
35 |
|
36 |
|