Commit
•
cc68d05
1
Parent(s):
57b2c60
Update README_ja.md
Browse files- README_ja.md +1 -0
README_ja.md
CHANGED
@@ -262,6 +262,7 @@ CUDA_VISIBLE_DEVICES=0 python demo/text_generation_base.py --model OrionStarAI/O
|
|
262 |
# チャットモデル
|
263 |
CUDA_VISIBLE_DEVICES=0 python demo/text_generation.py --model OrionStarAI/Orion-14B-Chat --tokenizer OrionStarAI/Orion-14B-Chat --prompt hi
|
264 |
```
|
|
|
265 |
## 4.4. vLLMを使用した推論
|
266 |
|
267 |
- プロジェクトのアドレス<br>
|
|
|
262 |
# チャットモデル
|
263 |
CUDA_VISIBLE_DEVICES=0 python demo/text_generation.py --model OrionStarAI/Orion-14B-Chat --tokenizer OrionStarAI/Orion-14B-Chat --prompt hi
|
264 |
```
|
265 |
+
<a name="vllm"></a><br>
|
266 |
## 4.4. vLLMを使用した推論
|
267 |
|
268 |
- プロジェクトのアドレス<br>
|