Quwan/MoodBench

🚀 欢迎来到 MoodBench

项目地址：https://github.com/QuwanAI/MoodBench

为了能够科学、系统地评估大语言模型的情感陪伴能力，趣丸科技&北京大学-软件工程国家工程研究中心联合推出了MoodBench评测基准和数据集。

我们严格基于PQAEF 框架的“四维”理念（能力 -> 三级任务 -> 数据 -> 方法），对我们选取的一系列数据集进行了适配，数据集介绍见dataset_intro.md，如果你想测评垂域社交场景大语言模型的情感能力，相信MoodBench都能让这个过程变得轻而易举。

🤖 数据集介绍见`dataset_intro

1、基础能力

①、自然语言理解（Natural Language Understand，NLU）：主要考察大模型是否能够有效解析和理解人类语言的含义和上下文内容。

②、自然语言生成（Natural Language Generation，NLG）：主要考察大模型是否能够根据给定的提示或条件自主生成连贯、符合语境的文本内容。

③、自然语言推理（Natural Language Inference，NLI）：主要考察大模型是否能够基于已有的信息进行逻辑推断和合理推测，以生成连贯且有意义的输出。

④、常识能力：主要考察模型是否能够理解并运用日常生活中的常见知识，包括物理世界的现象、社会规范、人类行为等。

2、情感能力

①、情感识别：

②、情感理解：

③、情感管理：

④、情感回复：

⑤、角色扮演：

⑥、对话能力：

3、长期陪伴能力

①、记忆管理能力：

②、个性化能力：

③、情感一致性：

④、用户满意度：

4、外部知识获取能力

①、外部知识库：

②、智能体：https://github.com/CLUEbenchmark/SuperCLUE-Agent?tab=readme-ov-file

5、跨文化能力

①、跨文化理解能力：

②、方言理解能力：

③、网络爆梗理解能力：

6、多模态能力

7、价值观与安全

①、价值观：

②、安全

能力维度	能力名称	任务难度	评价任务	数据集
基础能力	自然语言理解	初级	文本分类	AGNews
				THUCNews
			文本匹配	LCQMC
				QQP
		中级	阅读理解（抽取式）	CMRC
			词义消歧（多义词）	WiC
		高级	阅读理解	C3
				MultiRC
				ReCoRD
	自然语言推理	初级	文本蕴含	OCNLI
				MNLI
				RTE
		中级	共指消解与常识推理	WSC
			多轮对话推理	Mutual
		高级	因果推理	COPA
			一阶逻辑推理	FOLIO
			复杂逻辑推理	LogicNLI
	自然语言生成	初级	摘要	lcsts
				SAMSum
				CNewSum
				VCSUM
	常识能力	初级	日常场景常识	HellaSwag
			常识问答	Cosmos
			物理常识	PIQA
		中级	人类认知与应试能力	AGIEval
			多任务知识广度	CMMLU
				MMLU-pro
				CEval
		高级	真实性问答	TruthfulQA
情感能力	情感识别	初级	情感极性识别	IMDb
				SST-2
				Dianping
		中级	细粒度情感识别	GoEmotions
				CPED
				EDOS
				PQEmotion1
			反讽识别	SemEval-2018_Task_3
			隐喻识别	VUA20
		高级	复杂情感识别	EmoBench
	情感理解	初级	情感强度理解	SemEval-2018_Task_1
		中级	情感原因分析	PQEmotion2
				EmoBench
	情感管理	中级	情感策略选择	PQEmotion3
	情感回复	中级	共情表达	EmoBench
				PQEmotion4
		高级	特定场景下情感回复	PQEmotion5
			个性化情感回复	CPED
	综合情感智能	初级	有效沟通能力测试	liangbiao2 有效沟通测试
		中级	人际关系处理能力测试	liangbiao1 人际关系测试
		高级	情商测试	liangbiao8 EQ-60 共情商量表
				liangbiao9 IRI30 项情商问卷
陪伴能力	记忆管理能力	初级	序列顺序回忆	BookSort
		高级	长期对话回忆	LongMemEval
	个性化能力	初级	个性化程度	PersonaFeedback
		中级	个性化情感回复	CPED
价值观与安全	价值观	初级	偏见检测	CrowS-Pairs
				StereoSet
				BBQ
				SafetyBench7-Unfairness and Bias
		中级	道德检测	SafetyBench1-Ethics and Morality
	安全	初级	内容安全	SafetyBench3-Offensiveness
		中级	信息安全	SafetyBench4-Privacy and Property
			用户安全	SafetyBench2-Mental Health
				SafetyBench6-Physical Health
			高风险危害行为	SafetyBench5-Illegal Activities

🛠️ 快速上手

只需三步，即可开始你的大模型情感能力评估之旅！

1. 下载代码

   Bash

   git clone https://github.com/QuwanAI/MoodBench.git
   cd /path/to/MoodBench
   

2. 配置环境 ⚙️

   Bash

   # 安装核心依赖
   pip install -r requirements.txt
   
   # 安装框架本身
   pip install -e .
   

3. 准备运行！

   🤖 配置待评估的模型

   在 model_configs.json 文件中，你可以配置任意数量的模型。脚本会自动逐一调用它们来接受评估。

   JSON

   [
       {
           "model_type": "api",
           "model_name": "openai_evaluator",
           "class": "ApiModel",
           "config": {
               "provider": "openai",
               "model_identifier": "YOUR_MODEL",
               "api_key": "YOUR_API_KEY",
               "base_url": "YOUR_BASE_URL",
               "concurrency": 1
           }
       }
   ]
   

   ▶️ 运行！

   一切准备就绪，运行下面的脚本！

   Bash

   sh ./run_all_tests_with_multi_models.sh
   

   🎉 结果出炉：你可以在 result_analyze/results/ 目录下找到详细的评估报告。

---

🧩 新数据集集成指南

参考PQAEF

👏🏻 License

This dataset is licensed under the Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License, the text of which can be found at https://creativecommons.org/licenses/by-nc-sa/4.0. Please note that this dataset incorporates third-party open-source datasets; users are advised to consult the original licenses (available via the list below) of those datasets for compliance.

🤝 贡献

发现了一个 bug？有一个绝妙的想法？或者开发了一个很酷的新功能？

请通过提交 GitHub Issue 来分享你的想法、建议或报告 bug。让我们共同努力，建设一个更好的 MoodBench！