lizhuojun/chhallu-src-v1

中国历史事实幻觉 + 出处溯源评测集 v1 (CHHallu-Src)

A closed-book benchmark probing large language models for historical-fact hallucination and source attribution over the pre-Qin → Han–Wei–Three-Kingdoms Chinese classics. 400 questions, answer keys 100% derived from the primary sources, adversarially validated. Reputation asset, not a commercial product.

一句话发现：前沿大模型仍会把史事安到纪年上根本不可能的典籍里（例如把春秋事件说成见于《资治通鉴》——通鉴起于公元前 403 年）。横评报告见 REPORT.md。

数据集内容

400 道闭卷题（题面不含原文，测模型的参数化历史知识 / 幻觉），三类型：

类型	数量	探测什么	判分
sourcing 出处指认	160	某史事在《某书》记于哪一篇（本纪/世家/列传/卷）	书名精确 + 篇名去序号模糊子串
crossbook 跨书混淆	160	某史事见于 9 部典籍中的哪几部	recall==1 且 无「纪年不可能」臆造
attribution 张冠李戴	80	事迹属于同名/同号/同字易混者中的哪一位（裸人名、无消歧提示）	选项字母精确（含"两者皆非"逃逸项）

覆盖 9 部公版传世典籍：史记 / 汉书 / 后汉书 / 三国志 / 左传 / 吕氏春秋 / 资治通鉴 / 论语 / 孟子。

数据格式（questions.jsonl，逐行一题）

⚠ options / answer / grounding 三个字段是 JSON 字符串（各题结构不同，扁平化以让 HF 在线 查看器正常渲染）。用 datasets 或 json 读取后，对这三个字段再 json.loads 一次即得结构化对象。 参考判分脚本 eval_score.py 已内置 parse-if-string 容错。

{
  "id": "src-257", "type": "sourcing", "scoring": "chapter",
  "stem": "「韩信灭魏之战」这一史事，在《史记》中主要记载于哪一篇……？",
  "answer": "{\"book\": \"史记\", \"chapters\": [\"淮阴侯列传\"]}",
  "grounding": "{\"event_slug\": \"...\", \"book\": \"史记\", \"chapter_seq\": 92, \"gold_from\": \"raw_texts.chapter ...\"}"
}

解析后：

• sourcing：answer = {"book": "史记", "chapters": ["淮阴侯列传"]}。
• attribution：额外含 options（{"A":…,"B":…,"C":…}）；answer = {"choice": "A", "entity": "…"}。
• crossbook：answer = {"books": [...]}；grounding.era_window = 事件纪年区间 [lo, hi]（负=公元前），判分据此识别"纪年不可能"的臆造来源。
• grounding 记录每题答案键的语料出处（event_sources / entities.anchors / entities.disambig_note / raw_texts.chapter）——答案键 100% 语料派生，无 LLM 生成。

读取示例：

import json
rows = [json.loads(l) for l in open("questions.jsonl", encoding="utf-8")]
for r in rows:
    for k in ("options", "answer", "grounding"):
        if isinstance(r.get(k), str):
            r[k] = json.loads(r[k])

判分

参考实现 = 独立零依赖脚本 scripts/eval_score.py（python scripts/eval_score.py --dir bench/eval_v1）。要点：

• 跨书判据 = recall + 纪年不可能（不用 exact-set）。recall＝答出的已知来源占比（正证、权威）；"纪年不可能"＝断言某书记载某事、而该书历史覆盖区间根本装不下此事件。该判据对语料 gold 欠完整天然鲁棒（漏收某书不影响 recall、合理多答不罚、只罚纪年不可能的臆造）。
• 书覆盖区间：史记≤前90 / 汉书前206–后23 / 后汉书25–220 / 三国志184–280 / 左传前722–前468 / 资治通鉴前403–后959 / 吕氏春秋≤前239 / 论语前551–前479 / 孟子前372–前289。

构造与质检（可复现）

1. 确定性抽取 + 模板成题（固定随机种子）：python scripts/eval_build.py --profile v1。
2. 对抗性 LLM 质检（多智能体，逐题独立核泄题/区分性/知名度/纪年/破损对；只标记不覆盖语料键）。
3. 人工终选 + 均衡配比。全程留痕：candidates.jsonl / validation.json / dropped.json。

许可

• 题库与答案键：CC BY 4.0（源自公版语料 + 本项目派生标注）。
• 建题/判分代码：MIT。

局限（诚实披露）

见 REPORT.md §效度与局限。要点：跨书 precision 有语料完整性天花板（故头条判据用 recall + 纪年不可能）；张冠李戴含少量半歧义题，已逐题在报告注明；机译白话一律回避，只用原文与人审元数据；定位为一次性精品声誉集，规模够横评与幻觉信号、不做细粒度厂商排名。

作者 / 署名

Li Zhuojun, Beijing Yubei Technology Co., Ltd. 联系：info@zhuojun.li · 相关项目：https://github.com/lizhuojunx86/chinese-history-mcp

引用

@misc{li2026chhallusrc,
  author = {Li Zhuojun},
  title  = {中国历史事实幻觉 + 出处溯源评测集 (CHHallu-Src) v1},
  year   = {2026},
  note   = {Beijing Yubei Technology Co., Ltd. Closed-book benchmark for historical-fact
            hallucination and source attribution over the pre-Qin to Three-Kingdoms
            Chinese classics.},
  howpublished = {\url{https://huggingface.co/datasets/lizhuojun/chhallu-src-v1}}
}