RangiLyu commited on
Commit
70b026c
1 Parent(s): 9dc8536

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +2 -2
README.md CHANGED
@@ -268,7 +268,7 @@ print(response)
268
  或者你可以使用以下命令启动兼容 OpenAI API 的服务:
269
 
270
  ```bash
271
- lmdeploy serve api_server internlm/internlm2_5-7b-chat --server-port 23333
272
  ```
273
 
274
  然后你可以向服务端发起一个聊天请求:
@@ -296,7 +296,7 @@ pip install vllm
296
  ```
297
 
298
  ```bash
299
- python -m vllm.entrypoints.openai.api_server --model internlm/internlm2_5-7b-chat --trust-remote-code
300
  ```
301
 
302
  然后你可以向服务端发起一个聊天请求:
 
268
  或者你可以使用以下命令启动兼容 OpenAI API 的服务:
269
 
270
  ```bash
271
+ lmdeploy serve api_server internlm/internlm2_5-7b-chat --model-name internlm2_5-7b-chat --server-port 23333
272
  ```
273
 
274
  然后你可以向服务端发起一个聊天请求:
 
296
  ```
297
 
298
  ```bash
299
+ python -m vllm.entrypoints.openai.api_server --model internlm/internlm2_5-7b-chat --served-model-name internlm2_5-7b-chat --trust-remote-code
300
  ```
301
 
302
  然后你可以向服务端发起一个聊天请求: