mmnga
/

stockmark-gpt-neox-japanese-1.4b-gguf

Inference Endpoints

Model card Files Files and versions Community

mmnga commited on Sep 8, 2023

Commit

1a37208

•

1 Parent(s): 963e812

Update README.md

Files changed (1) hide show

README.md +1 -1

README.md CHANGED Viewed

@@ -24,5 +24,5 @@ make -j
 **CUBLAS**
 ```
 LLAMA_CUBLAS=1 make -j
-./main -m 'stockmark-gpt-neox-japanese-1.4b-q4_0.gguf' -n 128 -p '吾輩は猫である。名前は実を言うと、' -ngl 32
 ```

 **CUBLAS**
 ```
 LLAMA_CUBLAS=1 make -j
+./main -m 'stockmark-gpt-neox-japanese-1.4b-q4_0.gguf' -n 128 -p '吾輩は猫である。名前は実を言うと、' -ngl 27
 ```