zxdu20 commited on
Commit
bcb053b
2 Parent(s): d4832e8 534e8b7

Merge branch 'main' of https://huggingface.co/THUDM/chatglm-6b

Browse files
Files changed (1) hide show
  1. README.md +25 -17
README.md CHANGED
@@ -9,7 +9,7 @@ tags:
9
  ---
10
  # ChatGLM-6B
11
  ## 介绍
12
- ChatGLM-6B 是一个开源的、支持中英双语问答和对话的预训练语言模型,基于 [General Language Model (GLM)](https://github.com/THUDM/GLM) 架构,具有 62 亿参数。ChatGLM-6B 使用了和 [ChatGLM]((https://chatglm.cn)) 相同的技术面向中文问答和对话进行优化。结合模型量化技术,用户可以在消费级的显卡上进行本地部署(INT4 量化级别下最低只需 6GB 显存)。在经过了约 1T 标识符的中英双语训练,并辅以监督微调、反馈自助、人类反馈强化学习等技术的加持,62 亿参数的模型已经能生成相当符合人类偏好的回答。
13
 
14
  ## 软件依赖
15
 
@@ -19,30 +19,38 @@ pip install protobuf==3.20.0 transformers==4.26.1 icetk cpm_kernels
19
 
20
  ## 代码调用
21
 
22
- 可以通过如下代码调用 ChatGLM-6B 模型来生成对话。
23
 
24
- ```python
25
- from transformers import AutoTokenizer, AutoModel
 
 
 
 
 
 
 
 
26
 
27
- tokenizer = AutoTokenizer.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True)
28
- model = AutoModel.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True).half().cuda()
29
- model = model.eval()
 
 
 
30
 
31
- history = []
32
- query = "你好"
33
- response, history = model.chat(tokenizer, query, history=history)
34
- print(response)
35
-
36
- query = "晚上睡不着应该怎么办"
37
- response, history = model.chat(tokenizer, query, history=history)
38
- print(history)
39
  ```
40
 
41
- 关于更多的使用说明,包括如何运行命令行和网页版本的 DEMO,以及使用模型量化以节省显存,请参考我们的 [Github repo](https://github.com/THUDM/ChatGLM-6B)。
 
 
 
 
42
 
43
  ## 引用
44
 
45
- 如果你觉得我们的工作有帮助的话,请考虑引用下列论文
46
 
47
  ```
48
  @inproceedings{
 
9
  ---
10
  # ChatGLM-6B
11
  ## 介绍
12
+ ChatGLM-6B 是一个开源的、支持中英双语问答的对话语言模型,基于 [General Language Model (GLM)](https://github.com/THUDM/GLM) 架构,具有 62 亿参数。结合模型量化技术,用户可以在消费级的显卡上进行本地部署(INT4 量化级别下最低只需 6GB 显存)。ChatGLM-6B 使用了和 [ChatGLM](https://chatglm.cn) 相同的技术,针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练,辅以监督微调、反馈自助、人类反馈强化学习等技术的加持,62 亿参数的 ChatGLM-6B 已经能生成相当符合人类偏好的回答。
13
 
14
  ## 软件依赖
15
 
 
19
 
20
  ## 代码调用
21
 
22
+ 可以通过如下代码调用 ChatGLM-6B 模型来生成对话:
23
 
24
+ ```ipython
25
+ >>> from transformers import AutoTokenizer, AutoModel
26
+ >>> tokenizer = AutoTokenizer.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True)
27
+ >>> model = AutoModel.from_pretrained("THUDM/chatglm-6b", trust_remote_code=True).half().cuda()
28
+ >>> response, history = model.chat(tokenizer, "你好", history=[])
29
+ >>> print(response)
30
+ 你好👋!我是人工智能助手 ChatGLM-6B,很高兴见到你,欢迎问我任何问题。
31
+ >>> response, history = model.chat(tokenizer, "晚上睡不着应该怎么办", history=history)
32
+ >>> print(response)
33
+ 晚上睡不着可能会让你感到焦虑或不舒服,但以下是一些可以帮助你入睡的方法:
34
 
35
+ 1. 制定规律的睡眠时间表:保持规律的睡眠时间表可以帮助你建立健康的睡眠习惯,使你更容易入睡。尽量在每天的相同时间上床,并在同一时间起床。
36
+ 2. 创造一个舒适的睡眠环境:确保睡眠环境舒适,安静,黑暗且温度适宜。可以使用舒适的床上用品,并保持房间通风。
37
+ 3. 放松身心:在睡前做些放松的活动,例如泡个热水澡,听些轻柔的音乐,阅读一些有趣的书籍等,有助于缓解紧张和焦虑,使你更容易入睡。
38
+ 4. 避免饮用含有咖啡因的饮料:咖啡因是一种刺激性物质,会影响你的睡眠质量。尽量避免在睡前饮用含有咖啡因的饮料,例如咖啡,茶和可乐。
39
+ 5. 避免在床上做与睡眠无关的事情:在床上做些与睡眠无关的事情,例如看电影,玩游戏或工作等,可能会干扰你的睡眠。
40
+ 6. 尝试呼吸技巧:深呼吸是一种放松技巧,可以帮助你缓解紧张和焦虑,使你更容易入睡。试着慢慢吸气,保持几秒钟,然后缓慢呼气。
41
 
42
+ 如果这些方法无法帮助你入睡,你可以考虑咨询医生或睡眠专家,寻求进一步的建议。
 
 
 
 
 
 
 
43
  ```
44
 
45
+ 关于更多的使用说明,包括如何运行命令行和网页版本的 DEMO,以及使用模型量化以节省显存,请参考我们的 [Github Repo](https://github.com/THUDM/ChatGLM-6B)。
46
+
47
+ ## 协议
48
+
49
+ 本仓库的代码依照 [Apache-2.0](LICENSE) 协议开源,ChatGLM-6B 模型的权重的使用则需要遵循 [Model License](MODEL_LICENSE)。
50
 
51
  ## 引用
52
 
53
+ 如果你觉得我们的工作有帮助的话,请考虑引用下列论文:
54
 
55
  ```
56
  @inproceedings{