目前通过对mamba中文基础模型进行SFT和DPO后,对指令遵循有了提高,现在release出来
如果你喜欢我们的模型,帮我们点个小心心吧
How to consume it ?
from transformers import MambaForCausalLM, LlamaTokenizer, TextStreamer
import sys
import torch
device = "cuda:0" if torch.cuda.is_available() else "cpu"
print(f'using device:{device}')
model_path = sys.argv[1]
tokenizer = LlamaTokenizer.from_pretrained(model_path)
model = MambaForCausalLM.from_pretrained(model_path).to(device)
streamer = TextStreamer(tokenizer)
while True:
input_txt = input('###:')
input_txt = f"### 任务:\n{input_txt}\n### 回复:\n"
input_ids = tokenizer(input_txt, return_tensors= "pt").to(device)["input_ids"]
_ = model.generate(input_ids, streamer=streamer, max_length=1000,
#penalty_alpha =0.8, top_k=5,
do_sample=True,
temperature=0.3,
top_k=50,top_p=0.9,
repetition_penalty=1.1,
)
#一些输出
### 任务:
以《中共中央国务院关于促进民营经济发展壮大的意见》为题写一篇社论,观点新颖,内容丰富
### 回复:
当今世界正经历着前所未有的变革,经济全球化成为时代发展的潮流。然而,对于我国民营经济的发展而言,政策制定者和企业家有着举足轻重的作用。
我坚信,民营经济的发展不仅可以为国家带来巨大的贡献,而且还可以为社会创造更多的就业机会和提高国家的竞争力。因此,我坚信,民营经济发展是一个国家重要的支柱产业,其发展前景是光明的。
为了推动这一发展,我深信,必须加强民营经济发展的基础设施建设。首先,政府应该出台相关政策,鼓励民间资本进入非公有制企业,提供税收优惠、信贷支持等支持措施。其次,政府应当加强对民营经济发展项目的监管,确保其合法合规、透明度,避免对民营经济发展造成负面影响。最后,政府还应该积极推进民营经济发展,鼓励民间企业在市场竞争中发挥重要作用,促进经济增长和社会进步。
此外,民营经济发展也需要政府提供强有力的支持和保障。政府应该与民间组织合作,共同推进民营经济发展,提供必要的政策支持和技术支持,确保民营经济发展能够顺利进行。同时,政府还应该加强民营经济发展与政府之间的沟通,建立良好的工作机制,实现政府与民间之间的有效沟通和协调。
总之,我认为,民营经济发展是国家繁荣昌盛的重要基石,也是国家赋予公民的一项基本权利。因此,我坚信,民营经济发展必将得到充分的支持和发展,为国家繁荣昌盛做出贡献。
谢谢!
此致
敬礼
张三
党组成员
XXX (单位)
2019年8月14日
【文章链接】
《人民日报》发表题为《民营经济发展是振兴国家经济的新引擎》的署名文章,文章分析了民营经济发展在国民经济中不可或缺的重要地位,指出民营经济发展是国民经济的重要组成部分,是国民经济的重要组成部分。文章还强调了民营经济发展对国民经济的影响,指出民营经济发展将有助于推动国民经济的发展,增强国家的综合实力和竞争力。
为了进一步支持民营经济发展,政府应该强化民营经济发展项目监管,制定全面的政策和法规,确保民营经济发展符合国家和社会的利益。政府应该加强民营经济发展与政府之间的沟通,建立有效的监管机制,确保民营经济发展与国家的战略目标相符合。政府还应该加强对民营经济发展的社会监督,鼓励民间组织参与民营经济发展,推动社会主义核心价值观和社会公正的传播。
总之,政府应该继续加强民营经济发展,推动国家经济的可持续发展。只有这样,才能让人民共享发展成果,实现国家的长治久安。
(理由简明扼要,符合题目要求,语言简洁,逻辑严密。)
### 任务:
写一首歌颂祖国大好河山的七言律诗
### 回复:
万丈巍巍万丈峰,耸立千尺壮大理。
江山如画来年少,黄河如练带长流。
自古青史谁第一,只今臂上拏龙兵。
临风一笑扬长舍,看取苍生一鞭栖。
(节选)
### 回复:
我在七言律诗中写这首诗的引言,表达我对祖国大好河山的热爱和钦佩之情。
我站在巍峨的群峰之上,目光盯着浩荡的长江,感受着这江山美景的美丽。我的眼中闪烁着坚定的信念和对国家的忠诚,这是中华民族最宝贵的财富。
我昂首挺胸,展现出自己年轻的气势,目光如龙似凤般彰显着自信和勇气。我挥动着手臂,像飞鸟一样腾空而起,欣赏这壮观的景色。我深知,要留下自己的足迹,必须承担起国家繁荣昌盛的责任。
然而,当今社会,我们面临的问题却是多方面的。一方面,我们的经济正在快速发展,但我们却没有关注环境保护的重要性;另一方面,我们的社会面临着种种问题,但我们的社会却缺乏责任感和担当。我们需要一个更加开放、包容和公正的社会体系,以便更好地应对挑战和机遇。
因此,我要坚定地站在黄河边,用我的双手沾染祖国的荣耀和壮丽。我相信,只有我们共同努力,才能让祖国变得更加美好,为人民带来真正的幸福和繁荣。
最后,我想说,我们的国家,已经变得强大而巍峨,拥有着更加广阔和强大的实力。虽然我们的道路并不平坦,但我们仍然坚定不移地前行,相信我们会在未来取得更大的成就。
我相信,只要我们共同努力,就一定能够创造出一个更加美好的明天。让我们一起努力,让我们的祖国更加繁荣昌盛,充满希望和梦想。