ldwang commited on
Commit
3cb8073
1 Parent(s): 5fd4dea

Update README_zh.md

Browse files
Files changed (1) hide show
  1. README_zh.md +8 -17
README_zh.md CHANGED
@@ -8,41 +8,32 @@ license: other
8
 
9
  <h4 align="center">
10
  <p>
11
- <a href="https://huggingface.co/BAAI/AquilaChat2-7B/blob/main/README.md">English</a>
12
  <b>简体中文</b> |
13
  </p>
14
  </h4>
15
 
16
  # 悟道·天鹰(Aquila2)
17
 
18
- 我们开源了我们的 **Aquila2** 系列,现在包括基础语言模型 **Aquila2-7B** 和 **Aquila2-34B** ,对话模型 **AquilaChat2-7B** 和 **AquilaChat2-34B**,长文本对话模型**AquilaChat2-7B-16k** 和 **AquilaChat2-34B-16k**
19
 
20
  悟道 · 天鹰 Aquila 模型的更多细节将在官方技术报告中呈现。请关注官方渠道更新。
21
 
22
- ## 对话模型性能
23
-
24
- <br>
25
- <p align="center">
26
- <img src="chat_metrics_CN.jpeg" width="1024"/>
27
- <p>
28
- <br>
29
-
30
- ## 快速开始使用 AquilaChat2-7B
31
-
32
 
33
  ## 使用方式/How to use
34
 
35
  ### 1. 推理/Inference
36
 
37
  ```python
38
- from transformers import AutoTokenizer, AutoModelForCausalLM
39
  import torch
40
- device = torch.device("cuda")
41
- model_info = "BAAI/AquilaChat2-7B"
 
 
42
  tokenizer = AutoTokenizer.from_pretrained(model_info, trust_remote_code=True)
43
  model = AutoModelForCausalLM.from_pretrained(model_info, trust_remote_code=True)
44
  model.eval()
45
- model.to(device)
46
  text = "请给出10个要到北京旅游的理由。"
47
  tokens = tokenizer.encode_plus(text)['input_ids']
48
  tokens = torch.tensor(tokens)[None,].to(device)
@@ -56,4 +47,4 @@ with torch.no_grad():
56
 
57
  ## 证书/License
58
 
59
- Aquila2系列开源模型使用 [智源Aquila系列模型许可协议](https://huggingface.co/BAAI/AquilaChat2-7B/blob/main/BAAI-Aquila-Model-License%20-Agreement.pdf)
 
8
 
9
  <h4 align="center">
10
  <p>
11
+ <a href="https://huggingface.co/BAAI/Aquila2-70B/blob/main/README.md">English</a>
12
  <b>简体中文</b> |
13
  </p>
14
  </h4>
15
 
16
  # 悟道·天鹰(Aquila2)
17
 
18
+ 我们开源了我们的 **Aquila2** 系列,现在包括基础语言模型 **Aquila2-7B**,**Aquila2-34B** 和 **Aquila2-70B** ,对话模型 **AquilaChat2-7B**,**AquilaChat2-34B** 和**AquilaChat2-70B** ,长文本对话模型**AquilaChat2-7B-16k** 和 **AquilaChat2-34B-16k**
19
 
20
  悟道 · 天鹰 Aquila 模型的更多细节将在官方技术报告中呈现。请关注官方渠道更新。
21
 
22
+ ## 快速开始使用
 
 
 
 
 
 
 
 
 
23
 
24
  ## 使用方式/How to use
25
 
26
  ### 1. 推理/Inference
27
 
28
  ```python
 
29
  import torch
30
+ from transformers import AutoTokenizer, AutoModelForCausalLM
31
+ from transformers import BitsAndBytesConfig
32
+
33
+ model_info = "BAAI/Aquila2-70B"
34
  tokenizer = AutoTokenizer.from_pretrained(model_info, trust_remote_code=True)
35
  model = AutoModelForCausalLM.from_pretrained(model_info, trust_remote_code=True)
36
  model.eval()
 
37
  text = "请给出10个要到北京旅游的理由。"
38
  tokens = tokenizer.encode_plus(text)['input_ids']
39
  tokens = torch.tensor(tokens)[None,].to(device)
 
47
 
48
  ## 证书/License
49
 
50
+ Aquila2系列开源模型使用 [智源Aquila系列模型许可协议](https://huggingface.co/BAAI/Aquila2-70B/blob/main/BAAI-Aquila-Model-License-Agreement.pdf)