---
language:
- zh
---

文件夹结构：
```
export
├─dataset
├─launch
├─models
│  ├─chinese-alpaca-2-7b-64k
│  └─sft_lora_model
├─results
└─scripts
    └─inference
```

1. 请在 `https://huggingface.co/hfl/chinese-alpaca-2-7b-64k` 下载Chinese-alpaca-2-7b-64K到 `models/chinese-alpaca-2-7b-64k`；
2. 将本仓库的delta权重下载至 `models/sft_lora_model`；
3. 调用 `launch/inference_batch.sh` 进行inference。