jiyee/zhang-xuefeng-data

张雪峰风格 SFT 语料（merged_turn）

把张雪峰高考升学直播/连麦录音经 角色感知 ASR → 多阶段清洗 → episode 构建 后整理成的 对话式 SFT 语料，用于 风格/人设 微调（如数字人直播底座的 LoRA）。

目标是风格保真，不是事实准确。 模型作为数字人直播底座，输出经 TTS/数字人播出； 事实应由下游 RAG/台本注入，本数据只负责"说话像他"和长程连贯。因此有意保留口语语域 （口头禅、各位朋友/对吧、中英夹杂、修辞性反复）；只清理真噪声（ASR 同音字错误、病理性结巴）。

⚠️ 数据来源与合规声明（务必先读）

• 本数据集是对公开直播内容的自动语音识别转写经清洗整理而成，底层内容版权/肖像权属于原作者本人。
• 仅供学术研究与技术交流。是否可用于训练、再分发、商用，请使用者自行评估并遵守当地法律与平台条款； 因使用本数据产生的任何责任由使用者承担。
• 转写经 ASR + LLM 多阶段处理，可能存在识别/纠错错误，不代表当事人真实言论；请勿据此对个人作事实性判断。
• 如权利人提出异议，请联系仓库维护者下线。

数据规模

split	行数
train	4823
validation	241
test	347
合计	5411

• 按直播场次切分（无泄漏）：train/valid/test 不共享同一场直播，跨 split 重复行 = 0。
• 两类样本：qa_merged_turn（家长/学生提问 → 张雪峰回答，碎轮次已合并）与 host_monologue_completion（独白补全）。
• 文件格式：parquet（schema 显式锁定，HF Data Studio 直接可视化）。

字段格式

字段	类型	说明
id	string	样本唯一 id
type	string	qa_merged_turn / host_monologue_completion
messages	list<{role, content}>	OpenAI messages 格式（system / user / assistant 多轮）
meta.register	string|null	livestream_selling（带货话术）/ standard / null
meta.diarization_confidence	float	说话人分离置信度
meta.sample_weight	float	建议的样本权重（= 置信度）
meta.source_run_key	string	直播场次标识（split 溯源用）

messages[0] 是 system："你是张雪峰，按张雪峰本人风格回答升学规划、专业选择、就业和考研相关问题。" 训练时建议只对最后一个 assistant turn 计 loss，之前轮次作上下文。

使用建议（重要）

• 带货语域：约 57% 的行 meta.register == "livestream_selling"（直播带货话术，报链接/催单）。 这是直播人设的一部分，有意保留；若要训练纯问答模型，请按该标签过滤或降权。
• 置信度加权：meta.sample_weight（= diarization 置信度）可用于按行加权 loss；低置信度行 （<0.7，约 1.3%）可能有角色串扰，建议降权或丢弃。

from datasets import load_dataset
ds = load_dataset("england-lobster/zhang-xuefeng-data")

# 纯问答子集（过滤带货）
qa = ds["train"].filter(lambda r: r["meta"].get("register") != "livestream_selling")

已知局限

1. 带货话术占多数（见上，按 register 过滤）。
2. 独白 prompt 坍缩：独白样本多用同一句无主题 system/user prompt，条件化弱。
3. ASR 同音长尾：已用确定性专家词典修正已知高频错词（央国企←杨国旗、赋分←负分、APP←阿婆婆 等）， 但低频、零散的同音误识别仍可能残留——这是 ASR 语料的天花板。
4. 风格 ≠ 规整：口语口头禅是特征不是噪声，请勿按书面语标准"洗干净"。

数据构建流程（简述）

角色感知 ASR（NeMo diarization 区分 host→assistant / caller→user）→ 角色清洗 → 保守术语纠错 → episode 构建 + LLM 评审 → 最终 ASR 语义纠错 → 控场/带货抢救 → 对话结构分段 → merged_turn 视图。 最后一道 确定性专家同音词典 作为后处理施加在成品上（与上游概率管线解耦，可复现、可审计）。

引用

@misc{zhang_xuefeng_style_sft,
  title  = {张雪峰风格 SFT 语料 (merged_turn)},
  author = {england-lobster},
  year   = {2026},
  howpublished = {\url{https://huggingface.co/datasets/england-lobster/zhang-xuefeng-data}}
}