Create README.md
Browse files
README.md
ADDED
@@ -0,0 +1,97 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
目前通过对mamaba中文基础模型进行SFT和DPO后,对指令遵循有了提高,现在release出来
|
2 |
+
|
3 |
+
How to consume it ?
|
4 |
+
``` Python
|
5 |
+
from transformers import MambaForCausalLM, LlamaTokenizer, TextStreamer
|
6 |
+
import sys
|
7 |
+
import torch
|
8 |
+
|
9 |
+
device = "cuda:0" if torch.cuda.is_available() else "cpu"
|
10 |
+
print(f'using device:{device}')
|
11 |
+
model_path = sys.argv[1]
|
12 |
+
tokenizer = LlamaTokenizer.from_pretrained(model_path)
|
13 |
+
model = MambaForCausalLM.from_pretrained(model_path).to(device)
|
14 |
+
streamer = TextStreamer(tokenizer)
|
15 |
+
while True:
|
16 |
+
input_txt = input('###:')
|
17 |
+
input_txt = f"### 任务:\n{input_txt}\n### 回复:\n"
|
18 |
+
input_ids = tokenizer(input_txt, return_tensors= "pt").to(device)["input_ids"]
|
19 |
+
_ = model.generate(input_ids, streamer=streamer, max_length=1000,
|
20 |
+
#penalty_alpha =0.8, top_k=5,
|
21 |
+
do_sample=True,
|
22 |
+
temperature=0.3,
|
23 |
+
top_k=50,top_p=0.9,
|
24 |
+
repetition_penalty=1.1,
|
25 |
+
)
|
26 |
+
|
27 |
+
|
28 |
+
```
|
29 |
+
|
30 |
+
#一些输出
|
31 |
+
|
32 |
+
```
|
33 |
+
### 任务:
|
34 |
+
以《中共中央国务院关于促进民营经济发展壮大的意见》为题写一篇社论,观点新颖,内容丰富
|
35 |
+
### 回复:
|
36 |
+
|
37 |
+
|
38 |
+
当今世界正经历着前所未有的变革,经济全球化成为时代发展的潮流。然而,对于我国民营经济的发展而言,政策制定者和企业家有着举足轻重的作用。
|
39 |
+
|
40 |
+
我坚信,民营经济的发展不仅可以为国家带来巨大的贡献,而且还可以为社会创造更多的就业机会和提高国家的竞争力。因此,我坚信,民营经济发展是一个国家重要的支柱产业,其发展前景是光明的。
|
41 |
+
|
42 |
+
为了推动这一发展,我深信,必须加强民营经济发展的基础设施建设。首先,政府应该出台相关政策,鼓励民间资本进入非公有制企业,提供税收优惠、信贷支持等支持措施。其次,政府应当加强对民营经济发展项目的监管,确保其合法合规、透明度,避免对民营经济发展造成负面影响。最后,政府还应该积极推进民营经济发展,鼓励民间企业在市场竞争中发挥重要作用,促进经济增长和社会进步。
|
43 |
+
|
44 |
+
此外,民营经济发展也需要政府提供强有力的支持和保障。政府应该与民间组织合作,共同推进民营经济发展,提供必要的政策支持和技术支持,确保民营经济发展能够顺利进行。同时,政府还应该加强民营经济发展与政府之间的沟通,建立良好的工作机制,实现政府与民间之间的有效沟通和协调。
|
45 |
+
|
46 |
+
总之,我认为,民营经济发展是国家繁荣昌盛的重要基石,也是国家赋予公民的一项基本权利。因此,我坚信,民营经济发展必将得到充分的支持和发展,为国家繁荣昌盛做出贡献。
|
47 |
+
|
48 |
+
谢谢!
|
49 |
+
|
50 |
+
此致
|
51 |
+
|
52 |
+
敬礼
|
53 |
+
|
54 |
+
张三
|
55 |
+
|
56 |
+
党组成员
|
57 |
+
|
58 |
+
XXX (单位)
|
59 |
+
|
60 |
+
2019年8月14日
|
61 |
+
|
62 |
+
【文章链接】
|
63 |
+
|
64 |
+
《人民日报》发表题为《民营经济发展是振兴国家经济的新引擎》的署名文章,文章分析了民营经济发展在国民经济中不可或缺的重要地位,指出民营经济发展是国民经济的重要组成部分,是国民经济的重要组成部分。文章还强调了民营经济发展对国民经济的影响,指出民营经济发展将有助于推动国民经济的发展,增强国家的综合实力和竞争力。
|
65 |
+
|
66 |
+
为了进一步支持民营经济发展,政府应该强化民营经济发展项目监管,制定全面的政策和法规,确保民营经济发展符合国家和社会的利益。政府应该加强民营经济发展与政府之间的沟通,建立有效的监管机制,确保民营经济发展与国家的战略目标相符合。政府还应该加强对民营经济发展的社会监督,鼓励民间组织参与民营经济发展,推动社会主义核心价值观和社会公正的传播。
|
67 |
+
|
68 |
+
总之,政府应该继续加强民营经济发展,推动国家经济的可持续发展。只有这样,才能让人民共享发展成果,实现国家的长治久安。
|
69 |
+
|
70 |
+
(理由简明扼要,符合题目要求,语言简洁,逻辑严密。)
|
71 |
+
```
|
72 |
+
|
73 |
+
```
|
74 |
+
### 任务:
|
75 |
+
写一首歌颂祖国大好河山的七言律诗
|
76 |
+
### 回复:
|
77 |
+
万丈巍巍万丈峰,耸立千尺壮大理。
|
78 |
+
江山如画来年少,黄河如练带长流。
|
79 |
+
自古青史谁第一,只今臂上拏龙兵。
|
80 |
+
临风一笑扬长舍,看取苍生一鞭栖。
|
81 |
+
(节选)
|
82 |
+
### 回复:
|
83 |
+
我在七言律诗中写这首诗的引言,表达我对祖国大好河山的热爱和钦佩之情。
|
84 |
+
|
85 |
+
我站在巍峨的群峰之上,目光盯着浩荡的长江,感受着这江山美景的美丽。我的眼中闪烁着坚定的信念和对国家的忠诚,这是中华民族最宝贵的财富。
|
86 |
+
|
87 |
+
我昂首挺胸,展现出自己年轻的气势,目光如龙似凤般彰显着自信和勇气。我挥动着手臂,像飞鸟一样腾空而起,欣赏这壮观的景色。我深知,要留下自己的足迹,必须承担起国家繁荣昌盛的责任。
|
88 |
+
|
89 |
+
然而,当今社会,我们面临的问题却是多方��的。一方面,我们的经济正在快速发展,但我们却没有关注环境保护的重要性;另一方面,我们的社会面临着种种问题,但我们的社会却缺乏责任感和担当。我们需要一个更加开放、包容和公正的社会体系,以便更好地应对挑战和机遇。
|
90 |
+
|
91 |
+
因此,我要坚定地站在黄河边,用我的双手沾染祖国的荣耀和壮丽。我相信,只有我们共同努力,才能让祖国变得更加美好,为人民带来真正的幸福和繁荣。
|
92 |
+
|
93 |
+
最后,我想说,我们的国家,已经变得强大而巍峨,拥有着更加广阔和强大的实力。虽然我们的道路并不平坦,但我们仍然坚定不移地前行,相信我们会在未来取得更大的成就。
|
94 |
+
|
95 |
+
我相信,只要我们共同努力,就一定能够创造出一个更加美好的明天。让我们一起努力,让我们的祖国更加繁荣昌盛,充满希望和梦想。
|
96 |
+
```
|
97 |
+
|