mmnga commited on
Commit
5f562eb
1 Parent(s): 5ea661f

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +17 -0
README.md CHANGED
@@ -17,7 +17,24 @@ GPT-2
17
 
18
  *注意:こちらはブランチで試用になります。llama.cpp本家にgptneox, gpt2が実装された時に、このggufファイルが使用できない可能性があります。*
19
 
 
 
20
  ## Usage (試用)
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
21
  ~~~~bash
22
  git clone --branch mmnga-dev https://github.com/mmnga/llama.cpp.git
23
  cd llama.cpp
 
17
 
18
  *注意:こちらはブランチで試用になります。llama.cpp本家にgptneox, gpt2が実装された時に、このggufファイルが使用できない可能性があります。*
19
 
20
+ ***[GitHubリポジトリの readme はこちら](https://github.com/mmnga/llama.cpp/tree/mmnga-dev)***
21
+
22
  ## Usage (試用)
23
+
24
+ ```
25
+ git clone --branch mmnga-dev https://github.com/mmnga/llama.cpp.git
26
+ cd llama.cpp
27
+ make -j
28
+ ./main -m 'line-corp-japanese-large-lm-3.6b-instruction-sft-q4_0.gguf' -n 128 -p '吾輩は猫である。名前は実を言うと、' --top_p 0.9 --temp 0.7 --repeat-penalty 1.1
29
+ ```
30
+
31
+ **CUBLAS**
32
+ ```
33
+ LLAMA_CUBLAS=1 make -j
34
+ ./main -m 'line-corp-japanese-large-lm-3.6b-instruction-sft-q4_0.gguf' -n 128 -p '吾輩は猫である。名前は実を言うと、' -ngl 32
35
+ ```
36
+
37
+ **従来のCPU実行**
38
  ~~~~bash
39
  git clone --branch mmnga-dev https://github.com/mmnga/llama.cpp.git
40
  cd llama.cpp