Update README.md
Browse files
README.md
CHANGED
|
@@ -28,12 +28,6 @@ make -j
|
|
| 28 |
./main -m 'line-corp-japanese-large-lm-1.7b-q4_0.gguf' -n 128 -p '犬「吾輩は猫である。」猫「' --top_p 0.9 --temp 0.7 --repeat-penalty 1.1
|
| 29 |
```
|
| 30 |
|
| 31 |
-
**CUBLAS**
|
| 32 |
-
```
|
| 33 |
-
LLAMA_CUBLAS=1 make -j
|
| 34 |
-
./main -m 'line-corp-japanese-large-lm-1.7b-q4_0.gguf' -n 128 -p '犬「吾輩は猫である。」猫「' -ngl 24
|
| 35 |
-
```
|
| 36 |
-
|
| 37 |
**従来のCPU実行**
|
| 38 |
~~~~bash
|
| 39 |
git clone --branch mmnga-dev https://github.com/mmnga/llama.cpp.git
|
|
|
|
| 28 |
./main -m 'line-corp-japanese-large-lm-1.7b-q4_0.gguf' -n 128 -p '犬「吾輩は猫である。」猫「' --top_p 0.9 --temp 0.7 --repeat-penalty 1.1
|
| 29 |
```
|
| 30 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 31 |
**従来のCPU実行**
|
| 32 |
~~~~bash
|
| 33 |
git clone --branch mmnga-dev https://github.com/mmnga/llama.cpp.git
|