mmnga commited on
Commit
f26bff9
1 Parent(s): 7fff05a

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +18 -2
README.md CHANGED
@@ -17,11 +17,27 @@ GPT-2
17
 
18
  *注意:こちらはブランチで試用になります。llama.cpp本家にgptneox, gpt2が実装された時に、このggufファイルが使用できない可能性があります。*
19
 
 
 
20
  ## Usage (試用)
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
21
  ~~~~bash
22
  git clone --branch mmnga-dev https://github.com/mmnga/llama.cpp.git
23
  cd llama.cpp
24
  make -j gpt2
25
- ./gpt2 -m 'line-corp-japanese-large-lm-1.7b-q4_0.gguf' -n 128 -p '北海道の平均気温は' --top_p 0.9 --temp 0.7 --repeat-penalty 1.2
26
  ~~~~
27
-
 
17
 
18
  *注意:こちらはブランチで試用になります。llama.cpp本家にgptneox, gpt2が実装された時に、このggufファイルが使用できない可能性があります。*
19
 
20
+ ***[GitHubリポジトリの readme はこちら](https://github.com/mmnga/llama.cpp/tree/mmnga-dev)***
21
+
22
  ## Usage (試用)
23
+
24
+ ```
25
+ git clone --branch mmnga-dev https://github.com/mmnga/llama.cpp.git
26
+ cd llama.cpp
27
+ make -j
28
+ ./main -m 'line-corp-japanese-large-lm-1.7b-q4_0.gguf' -n 128 -p '犬「吾輩は猫である。」猫「' --top_p 0.9 --temp 0.7 --repeat-penalty 1.1
29
+ ```
30
+
31
+ **CUBLAS**
32
+ ```
33
+ LLAMA_CUBLAS=1 make -j
34
+ ./main -m 'line-corp-japanese-large-lm-1.7b-q4_0.gguf' -n 128 -p '犬「吾輩は猫である。」猫「' -ngl 24
35
+ ```
36
+
37
+ **従来のCPU実行**
38
  ~~~~bash
39
  git clone --branch mmnga-dev https://github.com/mmnga/llama.cpp.git
40
  cd llama.cpp
41
  make -j gpt2
42
+ ./gpt2 -m 'line-corp-japanese-large-lm-1.7b-q4_0.gguf' -n 128 -p '犬「吾輩は猫である。」猫「'
43
  ~~~~