概述
在微调完成后，我们通过以下方法对数据进行了测试
数据集1：Cosmos QA（包含35.6K个问题的多项选择阅读理解数据集）
▪ 下载地址：https://wilburone.github.io/cosmos/
▪ 测评⽅法：将测试结果上传到 https://leaderboard.allenai.org/cosmosqa/submission/create ◦
数据集2：TrivailQA （基于维基百科和⽹络收集的阅读理解问答数据集）
▪ 下载地址：Download TriviaQA version 1.0 for RC (2.5G)
▪ 测评⽅法：使⽤官⽅仓库中的triviaqa_evaluation.py
(由于官方仓库的测试集形式和本人的不太一样，因此代码上做了专门的修改，不过核心metrics保持不变，仍是Exact完全匹配数与F1参数)
CosmosQA 实验结果
消融研究
| Model | Score | Comment |
|---|---|---|
| Fewshot MiniCPM | 0.3251 | 原模型，Fewshot |
| Fewshot LoRA MiniCPM | 0.7773 | 微调模型，Fewshot |
| Fewshot CoT LoRA MiniCPM | 0.7790 | 微调模型，Fewshot，思维链 |
| CoT LoRA MiniCPM | 0.8211 | 微调模型，ZeroShot，思维链 |
| ZH LoRA MiniCPM | 0.8215 | 微调模型，ZeroShot，中文提示词 |
| LoRA MiniCPM | 0.8291 | 微调模型，ZeroShot |
- 我们可以看到基础的MiniCPM基本不具备阅读理解选择能力，在ZeroShot的情况下根本无法完成任务，即使是在Fewshot中也只比纯随机好一点。
- LoRA微调过后的MiniCPM基本可以实现不错的效果，在测评榜单上的成绩是Top36。
- LoRA微调过的在使用中文提示词的情况下，效果基本只有微小的减损，可以达到Top42。
- 也许是小模型对于提示词和Fewshot的接收能力较低，实验结果，加入Fewshot和CoT，都会让效果得到减损。
对比实验
| Model | Score | Comment |
|---|---|---|
| ChatGPT3.5 | 0.7233 | gpt-3.5-Turbo-0125，FewShot |
| LoRA MiniCPM | 0.8291 | LoRA微调MiniCPM-2b，ZeroShot |
| QLoRA Chatglm3 | 0.8416 | QLoRA微调chatglm3-6b，ZeroShot |
- 我们将微调过后的MiniCPM分别与QLoRA微调的ChatGLM3和ChatGPT3.5进行了对比，事实证明小参数的模型通过指令微调后能够在特定任务上达到超越ChatGPT3.5的效果。
实验截图
TriviaQA 实验结果
实验反复尝试了Fewshot，Zeroshot的LoRA微调MiniCPM-2B，MiniCPM-2B原模型，QLoRA微调ChatGLM3-6B,ChatGLM3-6B，总共八种情况结果都无法得到实际能用的内容。以下是四类模型情况的结果
MiniCPM-2B LoRA
ChatGLM3-6B QLoRA
ChatGLM3-6B 原模型
MiniCPM-2B 原模型
推测是TriviaQA的输入token过多，由于受限于显存大小，我将max_line设置在了512，因此基本无法得到好的效果。
不过本人还是测试了ChatGPT3.5-Turbo的效果，平均F1在0.377,完全匹配率在0.153,1000条的完全错误数只有73个，可以看到在长文阅读理解能力方面还是远超开源小模型的，只是答案不够凝练。
