Dataset Preview
Duplicate
The full dataset viewer is not available (click to read why). Only showing a preview of the rows.
The dataset generation failed
Error code:   DatasetGenerationError
Exception:    CastError
Message:      Couldn't cast
id: string
source: string
author: string
era: string
category: string
volume: int64
chapter: string
content: string
volume_suffix: string
_source: string
section: string
to
{'id': Value('string'), 'source': Value('string'), 'author': Value('string'), 'era': Value('string'), 'category': Value('string'), 'volume': Value('int64'), 'volume_suffix': Value('string'), 'chapter': Value('string'), 'content': Value('string'), '_source': Value('string')}
because column names don't match
Traceback:    Traceback (most recent call last):
                File "/usr/local/lib/python3.12/site-packages/datasets/builder.py", line 1779, in _prepare_split_single
                  for key, table in generator:
                                    ^^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/datasets/packaged_modules/json/json.py", line 299, in _generate_tables
                  self._cast_table(pa_table, json_field_paths=json_field_paths),
                  ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/datasets/packaged_modules/json/json.py", line 128, in _cast_table
                  pa_table = table_cast(pa_table, self.info.features.arrow_schema)
                             ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/datasets/table.py", line 2321, in table_cast
                  return cast_table_to_schema(table, schema)
                         ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/datasets/table.py", line 2249, in cast_table_to_schema
                  raise CastError(
              datasets.table.CastError: Couldn't cast
              id: string
              source: string
              author: string
              era: string
              category: string
              volume: int64
              chapter: string
              content: string
              volume_suffix: string
              _source: string
              section: string
              to
              {'id': Value('string'), 'source': Value('string'), 'author': Value('string'), 'era': Value('string'), 'category': Value('string'), 'volume': Value('int64'), 'volume_suffix': Value('string'), 'chapter': Value('string'), 'content': Value('string'), '_source': Value('string')}
              because column names don't match
              
              The above exception was the direct cause of the following exception:
              
              Traceback (most recent call last):
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 1347, in compute_config_parquet_and_info_response
                  parquet_operations = convert_to_parquet(builder)
                                       ^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/src/services/worker/src/worker/job_runners/config/parquet_and_info.py", line 980, in convert_to_parquet
                  builder.download_and_prepare(
                File "/usr/local/lib/python3.12/site-packages/datasets/builder.py", line 882, in download_and_prepare
                  self._download_and_prepare(
                File "/usr/local/lib/python3.12/site-packages/datasets/builder.py", line 943, in _download_and_prepare
                  self._prepare_split(split_generator, **prepare_split_kwargs)
                File "/usr/local/lib/python3.12/site-packages/datasets/builder.py", line 1646, in _prepare_split
                  for job_id, done, content in self._prepare_split_single(
                                               ^^^^^^^^^^^^^^^^^^^^^^^^^^^
                File "/usr/local/lib/python3.12/site-packages/datasets/builder.py", line 1832, in _prepare_split_single
                  raise DatasetGenerationError("An error occurred while generating the dataset") from e
              datasets.exceptions.DatasetGenerationError: An error occurred while generating the dataset

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

id
string
source
string
author
string
era
string
category
string
volume
int64
volume_suffix
string
chapter
string
content
string
_source
string
beiqishu#1
北齐书
李百药
1
北齐书‧卷一 帝纪第一 神武上
齐高祖神武皇帝,姓高名欢,字贺六浑,渤海蓨人也。六世祖隐,晋玄菟太守。隐生庆,庆生泰,泰生湖,三世仕慕容氏。及慕容宝败,国乱,湖率众归魏,为右将军。湖生四子,第三子谧,仕魏位至侍御史,坐法徙居怀朔镇。谧生皇考树,性通率,不事家业。住居白道南,数有赤光紫气之异,邻人以为怪,劝徙居以避之。皇考曰:「安知非吉?」居之自若。及神武生而皇妣韩氏殂,养于同产姊壻镇狱队尉景家。 神武既累世北边,故习其俗,遂同鲜卑。长而深沉有大度,轻财重士,为豪侠所宗。目有精光,长头高颧,齿白如玉,少有人杰表。家贫,及聘武明皇后,始有马,得给镇为队主。镇将辽西段长常奇神武貌,谓曰:「君有康济才,终不徒然。」便以子孙为托。及贵,追赠长司空,擢其子宁用之。神武自队主...
chtxt (繁→简)
beiqishu#2
北齐书
李百药
2
北齐书‧卷二 帝纪第二 神武下
天平元年正月壬辰,神武西伐费也头虏纥豆陵伊利于河西,灭之,迁其部于河东。 二月,永宁寺九层浮图灾。既而人有从东莱至,云及海上人咸见之于海中,俄而雾起乃灭。说者以为天意若曰,永宁见灾,魏不宁矣,飞入东海,渤海应矣。 魏帝既有异图,时侍中封隆之与孙腾私言,隆之丧妻,魏帝欲妻以妹。腾亦未之信,心害隆之,泄其言于斛斯椿。椿以白魏帝。又孙腾带仗入省,擅杀御史。并亡来奔。称魏帝檛舍人梁续于前,光禄少卿元子干攘臂击之,谓腾曰:「语尔高王,元家儿拳正如此。」领军娄昭辞疾归晋阳。魏帝于是以斛斯椿兼领军,分置督将及河南、关西诸刺史。华山王鸷在徐州,神武使邸珍夺其管籥。建州刺史韩贤、济州刺史蔡俊皆神武同义,魏帝忌之。故省建州以去贤,使御史中尉綦俊察俊...
chtxt (繁→简)
beiqishu#3
北齐书
李百药
3
北齐书‧卷三 帝纪第三 文襄
世宗文襄皇帝讳澄,字子惠,神武长子也,母曰娄太后。生而岐嶷,神武异之。魏中兴元年,立为渤海王世子。就杜询讲学,敏悟过人,询甚叹服。二年,加侍中、开府仪同三司,尚孝静帝妹冯翊长公主,时年十二,神情俊爽,便若成人。神武试问以时事得失,辨析无不中理,自是军国筹策皆预之。 天平元年,加使持节、尚书令、大行台、并州刺史。三年,入辅朝政,加领左右、京畿大都督。时人虽闻器识,犹以少年期之,而机略严明,事无凝滞,于是朝野振肃。元象元年,摄吏部尚书。魏自崔亮以后,选人常以年劳为制,文襄乃厘改前式,铨擢唯在得人。又沙汰尚书郎,妙选人地以充之。至于才名之士,咸被荐擢,假有未居显位者,皆致之门下,以为宾客,每山园游燕,必见招携,执射赋诗,各尽其所长,...
chtxt (繁→简)
beiqishu#4
北齐书
李百药
4
北齐书‧卷四 帝纪第四 文宣
显祖文宣皇帝讳洋,字子进,高祖第二子,世宗之母弟。后初孕,每夜有赤光照室,后私尝怪之。初,高祖之归尒朱荣,时经危乱,家徒壁立,后与亲姻相对,共忧寒馁。帝时尚未能言,欻然应曰「得活」,太后及左右大惊而不敢言。鳞身,重踝,不好戏弄,深沉有大度。晋阳曾有沙门,乍愚乍智,时人不测,呼为阿秃师。帝曾与诸童共见之,历问禄位,至帝,举手再三指天而已,口无所言。见者异之。高祖尝试观诸子意识,各使治乱丝,帝独抽刀斩之,曰:「乱者须斩。」高祖是之。又各配兵四出,而使甲骑伪攻之。世宗等怖挠,帝乃勒众与彭乐敌,乐免胄言情,犹擒之以献。后从世宗行过辽阳山,独见天门开,余人无见者。内虽明敏,貌若不足,世宗每嗤之,云:「此人亦得富贵,相法亦何由可解。」唯高祖异之...
chtxt (繁→简)
beiqishu#5
北齐书
李百药
5
北齐书‧卷五 帝纪第五 废帝
废帝殷,字正道,文宣帝之长子也,母曰李皇后。天保元年,立为皇太子,时年六岁。性敏慧。初学反语,于「迹」字下注云自反。时侍者未达其故,太子曰:「迹字,足傍亦为『迹』,岂非自反耶?」常宴北宫,独令河间王勿入。左右问其故,太子曰:「世宗遇贼处,河间王复何宜在此。」文宣每言太子得汉家性质,不似我,欲废之,立太原王。初诏国子博士李宝鼎傅之,宝鼎卒,复诏国子博士邢峙侍讲。太子虽富于春秋,而温裕开朗,有人君之度,贯综经业,省览时政,甚有美名。七年冬,文宣召朝臣文学者及礼学官于宫宴会,令以经义相质,亲自临听。太子手笔措问,在坐莫不叹美。九年,文宣在晋阳,太子监国,集诸儒讲孝经。令杨愔传旨,谓国子助教许散愁曰:「先生在世何以自资?」对曰:「散愁自少以...
chtxt (繁→简)
beiqishu#6
北齐书
李百药
6
北齐书‧卷六 帝纪第六 孝昭
孝昭皇帝演,字延安,神武皇帝第六子,文宣帝之母弟也。幼而英特,早有大成之量,武明皇太后早所爱重。魏元象元年,封常山郡公。及文襄执政,遣中书侍郎李同轨就霸府为诸弟师。帝所览文籍,源其指归而不好辞彩。每叹云:「虽盟津之师,左骖震而不衄。」以为能。遂笃志读汉书,至李陵传,恒壮其所为焉。聪敏过人,所与游处,一知其家讳,终身未尝误犯。同轨病卒,又命开府长流参军刁柔代之,性严褊,不适诱训之宜,中被遣出。帝送出合,惨然敛容,泪数行下,左右莫不歔欷。其敬业重旧也如此。 天保初,进爵为王。五年,除并省尚书令。帝善断割,长于文理,省内畏服。七年,从文宣还邺。文宣以尚书奏事,多有异同,令帝与朝臣先论定得失,然后敷奏。帝长于政术,剖断咸尽其理,文宣叹重之...
chtxt (繁→简)
beiqishu#7
北齐书
李百药
7
北齐书‧卷七 帝纪第七 武成
世祖武成皇帝讳湛,神武皇帝第九子,孝昭皇帝之母弟也。仪表瑰杰,神武尤所钟爱。神武方招怀荒远,乃为帝聘蠕蠕太子庵罗辰女,号「邻和公主」。帝时年八岁,冠服端严,神情闲远,华戎叹异。元象中,封长广郡公。天保初,进爵为王,拜尚书令,寻兼司徒,迁太尉。干明初,杨愔等密相疏忌,以帝为大司马,领并州刺史。帝既与孝昭谋诛诸执政,迁太傅、录尚书事、领京畿大都督。皇建初,进位右丞相。孝昭幸晋阳,帝以懿亲居守邺,政事咸见委托。二年,孝昭崩,遗诏征帝入统大位。及晋阳宫,发丧于崇德殿。皇太后令所司宣遗诏,左丞相斛律金率百僚敦劝,三奏,乃许之。 大宁元年冬十一月癸丑,皇帝即位于南宫,大赦,改皇建二年为大宁。乙卯,以司徒、平秦王归彦为太傅,以尚书右仆射、赵郡王...
chtxt (繁→简)
beiqishu#8
北齐书
李百药
8
北齐书‧卷八 帝纪第八 后主 幼主
后主讳纬,字仁纲,武成皇帝之长子也。母曰胡皇后,梦于海上坐玉盆,日入裙下,遂有娠,天保七年五月五日,生帝于并州邸。帝少美容仪,武成特所爱宠,拜王世子。及武成入纂大业,大宁二年正月丙戌,立为皇太子。河清四年,武成禅位于帝。 天统元年夏四月丙子,皇帝即位于晋阳宫,大赦,改河清四年为天统。丁丑,以太保贺拔仁为太师,太尉侯莫陈相为太保,司空、冯诩王润为司徒,录尚书事、赵郡王叡为司空,尚书左仆射、河间王孝琬为尚书令。戊寅,以瀛州刺史尉粲为。太尉斛律光为大将军,东安王娄叡为太尉,尚书右仆射赵彦深为左仆射。 六月壬戌,彗星出文昌东北,其大如手,后稍长,乃至丈余,百日乃灭。己巳,太上皇帝诏兼散骑常侍王季高使于陈。 秋七月乙未,太上皇帝诏增置都...
chtxt (繁→简)
beiqishu#9
北齐书
李百药
9
北齐书‧卷九 列传第一 后宫
神武娄后 文襄元后 文宣李后 孝昭元后 武成胡后 后主斛律后 胡后 穆后 神武明皇后娄氏,讳昭君,赠司徒内干之女也。少明悟,彊族多聘之,并不肯行。及见神武于城上执役,惊曰:「此真吾夫也。」乃使婢通意,又数致私财,使以聘己,父母不得已而许焉。神武既有澄清之志,倾产以结英豪,密谋秘策,后恒参预。及拜渤海王妃,阃闱之事悉决焉。 后高明严断,雅遵俭约,往来外舍,侍从不过十人。性宽厚,不妒忌,神武姬侍,咸加恩待。神武尝将西讨出师,后夜孪生一男一女,左右以危急,请追告神武。后弗听曰:「王出统大兵,何得以我故轻离军幕。死生命也,来复何为!」神武闻之,嗟叹良久。沙苑败后,侯景屡言请精骑二万,必能取之。神武悦,以告于后。后曰:「若如其言,岂有还理...
chtxt (繁→简)
beiqishu#10
北齐书
李百药
10
北齐书‧卷十 列传第二 高祖十一王
永安简平王浚 平阳靖翼王淹 彭城景思王浟 上党刚肃王涣 襄城景王淯 任城王湝 高阳康穆王湜 博陵文简王济 华山王凝 冯翊王润 汉阳王洽 神武皇帝十五男:武明娄皇后生文襄皇帝、文宣皇帝、孝昭皇帝、襄城景王淯、武成皇帝、博陵文简王济,王氏生永安简平王浚,穆氏生平阳靖翼王淹,大尒朱氏生彭城景思王浟、华山王凝,韩氏生上党刚肃王涣,小尒朱氏生任城王湝,游氏生高阳康穆王湜,郑氏生冯翊王润,冯氏生汉阳敬怀王洽。 永安简平王浚,字定乐,神武第三子也。初神武纳浚母,当月而有孕,及产浚,疑非己类,不甚爱之。而浚早慧,后更被宠。年八岁时,问于博士卢景裕曰:「『祭神如神在。』为有神邪,无神邪?」对曰:「有。」浚曰:「有神当云祭神神在,何烦『如』字?」...
chtxt (繁→简)
beiqishu#11
北齐书
李百药
11
北齐书‧卷十一 列传第三 文襄六王
河南康舒王孝瑜 广宁王孝珩 河间王孝琬 兰陵武王孝瓘 安德王延宗 渔阳王绍信 文襄六男:文敬元皇后生河间王孝琬,宋氏生河南王孝瑜,王氏生广宁王孝珩,兰陵王长恭不得母氏姓,陈氏生安德王延宗,燕氏生渔阳王绍信。 河南康舒王孝瑜,字正德,文襄长子也。初封河南郡公,齐受禅,进爵为王。历位中书令、司州牧。 初,孝瑜养于神武宫中,与武成同年相爱。将诛杨愔等,孝瑜预其谋。及武成即位,礼遇特隆。帝在晋阳,手𠡠之曰:「吾饮汾清二杯,劝汝于邺酌两杯。」其亲爱如此。孝瑜容貌魁伟,精彩雄毅,谦慎宽厚,兼爱文学,读书敏速,十行俱下,覆棋不失一道。初,文襄于邺东起山池游观,时俗眩之。孝瑜遂于第作水堂、龙舟,植幡矟于舟上,数集诸弟宴射为乐。武成幸其第,见...
chtxt (繁→简)
beiqishu#12
北齐书
李百药
12
北齐书‧卷十二 列传第四 文宣四王 孝昭六王 武成十二王
文宣四王太原王绍德 范阳王绍义 西河王绍仁 陇西王绍廉 孝昭六王乐陵王百年 始平王彦德 城阳王彦基 定阳王彦康 汝阳王彦忠 汝南王彦理 武成十二王南阳王绰 琅邪王俨 齐安王廓 北平王贞 高平王仁英 淮南王仁光 西河王仁几 乐平王仁邕 颖川王仁俭 安阳王仁雅 丹阳王仁直 东海王仁谦 文宣五男:李后生废帝及太原王绍德,冯世妇生范阳王绍义,裴嫔生西河王绍仁,颜嫔生陇西王绍廉。 太原王绍德,文宣第二子也。天保末,为开府仪同三司。武成因怒李后,骂绍德曰:「你父打我时,竟不来救!」以刀环筑杀之,亲以土埋之游豫园。武平元年,诏以范阳王子辨才为后,袭太原王。 范阳王绍义,文宣第三子也。初封广阳,后封范阳。历位侍中、清都尹。好与群小同饮,擅...
chtxt (繁→简)
End of preview.

Chinese Classical Corpus

🔗 源码 & 构建脚本: github.com/gujilab/chinese-classical-corpus — 完整抽取 pipeline、14 个 Python 脚本、验证套件 🎯 配套评测基准: gujilab/chinese-classical-bench — 500 道题 × 5 任务,测 LLM 古典文献能力(题目均从本语料抽样)

中国古典文献结构化语料集,含完整十三经 + 说文解字 + 资治通鉴 + 二十四史前 15 部,以及 197 万条古译今/今译古/断句指令对。

全部 CC0 公有领域,可商用、可改用、无附加限制。

为什么做这个

中文(尤其文言文)常被说成"高密度优势"。本语料集 + 配套评测想把这个论点变成可验证的数字 —— 包括它在哪些场景成立、在哪些场景不成立

Tokenizer 层面 —— 真成立

7 个主流 tokenizer 横评(tokenizer_study):

  • DeepSeek-V3 / Qwen2.5 / Qwen3 上文言文 ≈ 英文 0.57×
  • 老 GPT-3.5/4 (cl100k_base) 对中文比英文还费 19% token

Prompt / 任务层面 —— 有 nuance

3 组实验(experiments/):

场景 Token 节省 准确率 / 质量 结论
英文 prompt → 文言文 prompt −74% 字符 +2pp 准确率 大赢
现代中文 prompt → 文言文 prompt(同任务) −4.7% −11.3pp 不是 free lunch
典故 prompt vs 字面展开(盲评 140 对) −25% token 字面赢 49% > 典故 38% 省 token,质量有代价

校准结论

中文高密度 = 真的 tokenizer-level 优势,≠ LLM-task-level free lunch。 替换英文 prompt 大赢;替换现代中文或用典故压缩则 token 省了、质量有代价。

但目前 LLM 训练语料里中文古典占比极低,公开评测几乎只关心白话能力。本语料集提供统一 schema 的清洁古典文本 + 197 万条指令对,希望让任何想补强中文古典能力的模型(开源或商业)都有一个可直接喂的训练材料底盘。

配套评测 gujilab/chinese-classical-bench:6 任务 × 100 题 + 4 个论点验证实验。两个仓库目标一致:让中文古典文献成为 LLM 时代可量化、可对比、可训练的能力维度

Quick Start

from datasets import load_dataset

# 源语料 (12,005 条章节级记录, 17.2M 字)
corpus = load_dataset("gujilab/chinese-classical-corpus", "corpus", split="train")

# 古译今 / 今译古 双向指令数据 (1,924,378 条)
translate = load_dataset("gujilab/chinese-classical-corpus", "translate", split="train")

# 断句加标点指令 (46,546 条)
punctuate = load_dataset("gujilab/chinese-classical-corpus", "punctuate", split="train")

print(corpus[0])
# {'id': 'shuowen#1', 'source': '说文解字', 'author': '许慎', 'era': '汉',
#  'category': '字书', 'char': '一', 'radical': '一部', ...}

Configs

corpus — 源语料

12,005 条章节/篇/卷级别的清洁文本,覆盖 30 部典籍:

类别 文献 备注
字书 说文解字 (9,831 字头) 21% 字头修复至 3.6% (CJK Ext B-G 通过 shuowenjiezi/shuowen 交叉补全)
经 (十三经) 论语、孟子、大学、中庸、诗经、尚书、礼记、周易、春秋左传/公羊传/穀梁传、孝经、尔雅 完整
史记、汉书、后汉书、三国志、晋书、宋书、南齐书、梁书、陈书、魏书、北齐书、周书、南史、北史、隋书 (二十四史前 15 部)
编年 资治通鉴 294 卷 完整

通用字段id source author era category content 类型特定:字书加 char/radical/pinyin/fanqie,经类加 chapter/section,史类加 volume

translate — 古译今 / 今译古

1,924,378 条指令记录,覆盖 97 部典籍。来源:NiuTrans/Classical-Modern (MIT) 双语数据。

{
  "id": "instruct#1",
  "task": "c2m",
  "instruction": "将下列古文翻译成现代汉语:",
  "input": "子曰:学而时习之,不亦说乎?",
  "output": "孔子说:学了知识然后按一定的时间复习它,不也是很愉快吗?",
  "source": "论语·学而篇",
  "category": "经"
}
  • task: c2m (古→今) 或 m2c (今→古)
  • 6 种 c2m 指令 + 4 种 m2c 指令模板,轮换使用
  • 798 条记录有 _has_box: true flag — 含古籍散佚 □ 占位符(参见下方说明)

punctuate — 断句加标点

46,546 条记录,从 corpus 中抽取章节段,去掉标点作为输入,原文作为输出。覆盖 14 部正史 + 经传。

{
  "id": "punct#1",
  "task": "punctuate",
  "instruction": "为下列古文添加标点:",
  "input": "夫天地者万物之逆旅也光阴者百代之过客也",
  "output": "夫天地者,万物之逆旅也;光阴者,百代之过客也。",
  "source": "晋书",
  "category": "史"
}

关于 □ 字符

NiuTrans 源中 1,266 条记录含 □(占指令数据 0.06%),分两类:

  1. 可恢复(678 条已修复) — 通过 chtxt 繁体版交叉补全。例:营昭阳殿,□令监造营昭阳殿,𠡠令监造(𠡠 是 CJK Ext B U+2086D 的"敕"异体字)
  2. 不可恢复(798 条加 _has_box: true — 古籍散佚(逸周书)、出土文献残损(孙膑兵法竹简)、帛书重建(黄帝四经)、礼乐符号(礼记节奏记号)

训练时按需过滤:ds.filter(lambda x: not x.get("_has_box", False))

数据来源

已知数据问题

  • 说文 356 字仍为 □ (3.6%):跨参考源也无法消歧
  • 资治通鉴 卷 258:源文中作者属字误为 (cǎi),实为 (sòng)
  • 南史 76/80 卷:NiuTrans 上游缺最末 4 卷 已修复 (v1.3) — 缺的卷 2/7/68/74 从 wikisource 补全;现 80/80 卷完整
  • 生僻字 ASCII 化:极个别 CJK Ext G 字符在转换中可能丢失

路线图

  • v1.3 — 加二十四史下 9 部(旧/新唐书、旧/新五代史、宋史、辽金元明史 + 清史稿)
  • v1.x — 部首/字形分解维度(cjkvi-ids 整合,做表意建模辅助数据)
  • v2.0 — 古文阅读理解 Q&A(GPT 辅助生成)

引用

@misc{chinese-classical-corpus,
  title  = {Chinese Classical Corpus},
  author = {gujilab},
  year   = {2026},
  url    = {https://huggingface.co/datasets/gujilab/chinese-classical-corpus}
}

代码仓库:https://github.com/gujilab/chinese-classical-corpus

License

CC0 1.0 Universal — 公有领域,无附加限制。源典籍本就是公有领域;本数据集对它们的结构化处理也以 CC0 释出。

底层依赖各自的 license 详见 LICENSE.

Downloads last month
194

Space using gujilab/chinese-classical-corpus 1