由于LLaMA权重的许可限制,该模型不能用于商业用途,请严格遵守LLaMA的使用政策。 考虑到LLaMA权重的许可证限制,我们无法直接发布完整的模型权重。 因此,我们使用了FastChat开源工具作为基础,并对其进行了进一步的优化。 我们计算并发布了Ziya-LLaMA-13B-v1权重与原始LLaMA权重之间的差值。
合并方法见如下 ipynb:
其中 ggml-model-q5-1.bin 为经过 llama.cpp 量化后的模型。
License Non-commercial bespoke license
- Downloads last month
- 14
This model does not have enough activity to be deployed to Inference API (serverless) yet. Increase its social
visibility and check back later, or deploy to Inference Endpoints (dedicated)
instead.