|
--- |
|
developers: [https://huggingface.co/FlagAlphaAI] |
|
license: apache-2.0 |
|
language: |
|
- zh |
|
- en |
|
pipeline_tag: question-answering |
|
library_name: transformers |
|
--- |
|
# Llama2中文社区 |
|
|
|
--- |
|
## Llama2中文微调参数 |
|
由于Llama2本身的中文对齐较弱，我们采用中文指令集，对meta-llama/Llama-2-7b-chat-hf进行LoRA微调，使其具备较强的中文对话能力。 |
|
|
|
🎯 **该版本为LoRA中文微调参数FlagAlpha/Llama2-Chinese-7b-Chat-LoRA和meta-llama/Llama-2-7b-chat-hf参数结合后的版本，可直接使用** |
|
|
|
--- |
|
|
|
|
|
## 🚀 社区地址： |
|
|
|
Github：[**Llama2-Chinese**](https://github.com/FlagAlpha/Llama2-Chinese) |
|
|
|
在线体验链接：[**llama.family**](https://llama.family/) |
|
|
|
## 🔥 社区介绍 |
|
欢迎来到Llama2中文社区！ |
|
|
|
我们是一个专注于Llama2模型在中文方面的优化和上层建设的高级技术社区。 |
|
|
|
**基于大规模中文数据，从预训练开始对Llama2模型进行中文能力的持续迭代升级**。 |
|
|
|
我们热忱欢迎对大模型LLM充满热情的开发者和研究者加入我们的行列。 |
|
|
|
## 🐼 社区资源 |
|
- Llama2在线体验链接[**llama.family**](https://llama.family/)，同时包含Meta原版和中文微调版本！ |
|
- Llama2 Chat模型的[中文问答能力评测](https://github.com/FlagAlpha/Llama2-Chinese/tree/main#-%E6%A8%A1%E5%9E%8B%E8%AF%84%E6%B5%8B)！ |
|
- [社区飞书知识库](https://chinesellama.feishu.cn/wiki/space/7257824476874768388?ccm_open_type=lark_wiki_spaceLink)，欢迎大家一起共建！ |
|
|
|
|
|
# [Open LLM Leaderboard Evaluation Results](https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard) |
|
Detailed results can be found [here](https://huggingface.co/datasets/open-llm-leaderboard/details_FlagAlpha__Llama2-Chinese-7b-Chat) |
|
|
|
| Metric | Value | |
|
|-----------------------|---------------------------| |
|
| Avg. | 48.62 | |
|
| ARC (25-shot) | 52.39 | |
|
| HellaSwag (10-shot) | 77.52 | |
|
| MMLU (5-shot) | 47.72 | |
|
| TruthfulQA (0-shot) | 46.87 | |
|
| Winogrande (5-shot) | 74.27 | |
|
| GSM8K (5-shot) | 8.04 | |
|
| DROP (3-shot) | 33.53 | |
|
|
