Text Generation
Transformers
Safetensors
Chinese
English
qwen
conversational
custom_code
yuyijiong commited on
Commit
2a6f563
1 Parent(s): 58ccbe2

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +9 -0
README.md CHANGED
@@ -51,6 +51,15 @@ print(response)
51
 
52
  * 更多训练细节会在未来的技术报告中介绍。
53
 
 
 
 
 
 
 
 
 
 
54
  <br>
55
 
56
  # 问答例子
 
51
 
52
  * 更多训练细节会在未来的技术报告中介绍。
53
 
54
+ # 历史版本
55
+ # 版本区别
56
+ |发布时间| 模型 | 基座模型 | 位置插值 | 训练方式 | 训练数据 |
57
+ |:-------------------------:|:-------------------------:|:-----------:|:------------:|:--:|:--:|
58
+ |2023.10.20| LongAlpaca-7b-16k-chinese | atom-7b | 8k->16k PI |指令微调 | 长度16k以内的多文档问答、论文总结、论文问答数据 |
59
+ |2023.10.25 |LongAlpaca-7b-32k-chinese | atom-7b | 8k->32k PI | 指令微调 | 长度32k以内的多文档问答、论文总结、论文问答、sharegpt数据 |
60
+ |2023.11.20 |LongAlpaca-7b-32k-chinese-v2 | CausalLM-7b | 8k->32k Yarn | 增量预训练+指令微调 |长度32k的中文预训练数据 + 长度32k以内的多文档多轮问答、论文多任务多轮问答、sharegpt、中英翻译数据 |
61
+ |2023.12.14 |Qwen-14b-chat-yarn-32k| Qwen-14b-chat | 动态 Yarn | 增量预训练+指令微调 |长度32k的中英文预训练数据 + 长度32k以内的改进版多文档多轮问答、论文多任务多轮问答、sharegpt、中英翻译数据 |
62
+
63
  <br>
64
 
65
  # 问答例子