Commit
•
7de802b
1
Parent(s):
703959b
Update README_ja.md
Browse files- README_ja.md +1 -0
README_ja.md
CHANGED
|
@@ -262,6 +262,7 @@ CUDA_VISIBLE_DEVICES=0 python demo/text_generation_base.py --model OrionStarAI/O
|
|
| 262 |
# チャットモデル
|
| 263 |
CUDA_VISIBLE_DEVICES=0 python demo/text_generation.py --model OrionStarAI/Orion-14B-Chat --tokenizer OrionStarAI/Orion-14B-Chat --prompt hi
|
| 264 |
```
|
|
|
|
| 265 |
## 4.4. vLLMを使用した推論
|
| 266 |
|
| 267 |
- プロジェクトのアドレス<br>
|
|
|
|
| 262 |
# チャットモデル
|
| 263 |
CUDA_VISIBLE_DEVICES=0 python demo/text_generation.py --model OrionStarAI/Orion-14B-Chat --tokenizer OrionStarAI/Orion-14B-Chat --prompt hi
|
| 264 |
```
|
| 265 |
+
<a name="vllm"></a><br>
|
| 266 |
## 4.4. vLLMを使用した推論
|
| 267 |
|
| 268 |
- プロジェクトのアドレス<br>
|