Commit
•
c1efd8b
1
Parent(s):
9e82f6a
Update README_ja.md
Browse files- README_ja.md +1 -0
README_ja.md
CHANGED
|
@@ -261,6 +261,7 @@ CUDA_VISIBLE_DEVICES=0 python demo/text_generation_base.py --model OrionStarAI/O
|
|
| 261 |
# チャットモデル
|
| 262 |
CUDA_VISIBLE_DEVICES=0 python demo/text_generation.py --model OrionStarAI/Orion-14B-Chat --tokenizer OrionStarAI/Orion-14B-Chat --prompt hi
|
| 263 |
```
|
|
|
|
| 264 |
## 4.4. vLLMを使用した推論
|
| 265 |
|
| 266 |
- プロジェクトのアドレス<br>
|
|
|
|
| 261 |
# チャットモデル
|
| 262 |
CUDA_VISIBLE_DEVICES=0 python demo/text_generation.py --model OrionStarAI/Orion-14B-Chat --tokenizer OrionStarAI/Orion-14B-Chat --prompt hi
|
| 263 |
```
|
| 264 |
+
<a name="vllm"></a><br>
|
| 265 |
## 4.4. vLLMを使用した推論
|
| 266 |
|
| 267 |
- プロジェクトのアドレス<br>
|