Weidows/baguwen-technical-qa

---

language:

• zh license:
• other license_name: bestjavaer-upstream-noncommercial # 上游声明仅供学习，商业用途联系作者(微信 lx252279279)；本数据集仅做格式整理，保留署名，不主张版权 task_categories:
• question-answering
• text-generation tags:
• baguwen
• interview
• mindmap
• chinese
• technical-qa
• backend pretty_name: 八股文技术面试题库 (Baguwen Technical Interview QA) size_categories:
• "1K<n<10K" dataset_info: features:
  • name: id dtype: string description: 全局唯一 id，格式 {source}_{index}
  • name: source dtype: string description: 数据来源标识 learning_mind_map 或 bestJavaer
  • name: source_repo dtype: string description: 上游仓库名
  • name: source_url dtype: string description: 上游仓库地址
  • name: doc_title dtype: string description: 所属文档/篇名
  • name: category dtype: string description: 主题分类（os/network/java/jvm/mysql/linux/cloud-native 等）
  • name: question dtype: string description: 八股问题（支持 markdown）
  • name: answer dtype: string description: 八股答案（支持 markdown，含代码块/表格/行内代码）
  • name: raw_markdown dtype: string description: 该条对应的原始 markdown 片段，便于溯源
  • name: language dtype: string description: 语言，固定 zh

八股文技术面试题库 · Baguwen Technical Interview QA

一套面向中文技术八股/面试的问答数据集，收集并整理自两个公开 GitHub 仓库，统一为 (问题, 答案) 结构化格式，适合检索增强（RAG）、SFT 微调、面试题库等场景。

数据来源（已标注）

来源	仓库	类型	处理方式	状态
bestJavaer	crisxuan/bestJavaer	手写 Markdown 笔记（168 篇）	直接解析原始 Markdown（## 问题 + 答案），按篇拆分，并剔除作者主观/营销干扰文本	✅ 已收录（680 条）
learning_mind_map	0voice/learning_mind_map	扫描版思维导图 PDF（74 个）	PyMuPDF 渲染每页为图片 → qwen3.8-27b-awq-int4 视觉 OCR → 层级 Markdown → LLM 改写为问答对	🟡 收集中（当前 32/74 已入库，视觉 OCR 服务不稳定，剩余自动补齐）

当前版本含 bestJavaer 全量（680 条）+ learning_mind_map 部分（32 条，共 712 条）。learning_mind_map 剩余 PDF 将在视觉 OCR 服务恢复后自动补录并重新发布。

字段说明

每条记录包含以下字段（详见 YAML 元数据）：

• id：全局唯一标识
• source / source_repo / source_url：来源追溯
• doc_title / category：所属文档与主题分类
• question / answer：核心问答（Markdown 格式）
• raw_markdown：原始 Markdown 片段，便于溯源与二次清洗
• language：固定 zh

文件

• data/brainwash_zh.parquet —— 主格式（HuggingFace datasets 原生加载）
• data/brainwash_zh.jsonl —— 镜像（人类可读，便于其他框架）
• data/raw_learning_mind_map/ —— 溯源用原始 PDF（仅 learning_mind_map）
• data/md_learning_mind_map/ —— 视觉 OCR 得到的中间 Markdown
• data/md_bestjavaer/ —— 解析后的 bestJavaer 中间产物

使用方法

from datasets import load_dataset

ds = load_dataset("Weidows/baguwen-technical-qa")  # 替换为实际上传仓库名
print(ds["train"][0])

或本地读取：

import pandas as pd
df = pd.read_parquet("data/brainwash_zh.parquet")
# 或
df = pd.read_json("data/brainwash_zn.jsonl", lines=True)

构建流程

1. python scripts/ocr_learning_mind_map.py —— 74 个 PDF 视觉 OCR 为 Markdown
2. python scripts/parse_bestjavaer.py —— bestJavaer 168 篇解析为问答
3. python scripts/convert_lmm_to_qa.py —— learning_mind_map 的 Markdown 改写为问答对
4. python scripts/build_dataset.py —— 合并两源，生成 Parquet + JSONL

所有配置集中在 scripts/config.py。

局限与说明

• learning_mind_map 原始为图片型思维导图，经视觉模型 OCR，可能存在个别小字识别误差；raw_markdown 保留原始层级结构，建议下游做人工抽检。
• 思维导图天然不是一问一答，已用 LLM 改写为问答对，改写视角可能不同于原始导图脉络。
• 本数据集仅供学习研究，不构成任何面试保证。