golaxy
/

gogpt-math-560m

Text Generation Transformers PyTorch

Chinese bloom Inference Endpoints text-generation-inference

Model card Files Files and versions Community

Edit model card

GoGPT

基于中文指令数据微调BLOOM $img.png$

训练第一轮足够了，后续第二轮和第三轮提升不大

🚀多样性指令数据
🚀筛选高质量中文数据

模型名字	参数量	模型地址
gogpt-560m	5.6亿参数	🤗golaxy/gogpt-560m
gogpt-3b	30亿参数	🤗golaxy/gogpt-3b
gogpt-7b	70亿参数	🤗golaxy/gogpt-7b
gogpt-math-560m	5.6亿参数	🤗gogpt-math-560m

测试效果

$img.png$ $img.png$ $img.png$ $img.png$ $img.png$ $img.png$

TODO

进行RLFH训练
后续加入中英平行语料

感谢

Downloads last month: 4

Datasets used to train golaxy/gogpt-math-560m