eduzrh/mamba-2

HEA-MD 数据提取流水线（高熵合金 MD 文献 → 结构化数据集）

本轮版本：10.23（依据 inputs/original/10.23 all 提示词.docx 与 改进地方.docx 全面重跑） 主产物：**outputs/HEA_MD_dataset.xlsx** —— Sheet1 = 11 个样本 × 62 列； Sheet2 = 11 个横向数据块 × 401 个应变点。 发布仓库（数据集）：https://huggingface.co/datasets/eduzrh/mamba-2 纯 CPU 全流程 < 1 分钟，无需 GPU。

---

0. 10.23 的五项需求变更 → 实现 → 证据

#	需求（10.23 / 改进地方）	本仓库实现	可核验证据
1	系综不再作为筛选条件，改为记录	stage1_screening.detect_ensemble()（优先加载从句 → 全模拟 → 弛豫/预处理段声明）；configs/screening.yaml 中 ensemble 段标注 “RECORDED, never screened”；run_all.py 把记录值注入各论文配置的 sheet1.ensemble	outputs/screening_report.json 的 ensembles 直方图（未声明 51 / NVE 2 / NPT 2）；合格文献清单 的“系综（记录值）”列并附原文证据；Sheet1 第 20 列
2	首尾数据必须补全，不允许空白单元格	新增 stage3_fill.py：应力 = 从 (strain 0, 0) 线性 ramp 到首个可见点；相分数/位错密度/辅助量 = 最近可见值常数外推；内部断裂 = 线性插值；pipeline.assemble_samples() 在装配末尾统一补全并复核相分数和	补全记录 sheet（41 行 = 每样本每物理量，含头/尾/内部补全点数与首末可见应变）；Sheet2 中“有数据的列”均为 401/401 点；workbook_verification.json 检查 S6
3	Sheet2 必须“横向分列”，严禁纵向堆叠	excel_export._write_sheet2()：每 sample_id 一个 17 列块、块间空 1 列、每块第 1 行标题、sample_id 只写在块内首个数据行	outputs/layout_check_vs_reference.json：块表头 17/17 与示范表一致、11 块、每块 401 行、间隔 1 空列、间隔列全空、sample_id 仅首行
4	带 Marker 的线图只取线条轨迹（剔除 Marker 边缘轮廓，保留其代表的真实采样点）	stage3_digitize.detect_marker_cores()（圆盘腐蚀 + 连通核心）→ 以“核心中心列处线条墨迹的上/下沿中点”为唯一数据坐标 → 该跨度内按“左未污染列 → 锚点 → 右未污染列”分段线性重建	QC 记录 marker 数（Ju 2022 共 221 个：fig2 38 / fig3 59 / fig7 28 / fig11 60 / fig15 36）；code/tests/test_stage3.py 合成图用例（markers=off 平台误差 >2 px → auto <2 px 且保留斜率）；与参考表对比 MAD 0.0375→0.0307 GPa
5	表格新增列（元素占比、Ensemble、crystalline、Shape、尺寸、initial dislocation …）	Sheet1 逐字采用 10.23 示范表 60 列（含表尾 20 个元素 at%），并按提示词授权在表尾追加 双晶间距 λ (nm)、备注 两列	layout_check_vs_reference.json：Sheet1 表头 60/60 列与示范表一致（顺序一致）

---

1. 任务与规则（严格按 10.23 提示词执行）

阶段一：文献检索与筛选

维度	接收	排除
材料	HEA 全体系（RHEA / 3d 过渡族 / 轻质 / 双相 …）：主元数 ≥ 4；或 ≥ 3 且单主元 < 50 at%	纯金属、二元、传统合金；高熵陶瓷/氧化物/氮化物等非金属；梯度结构、纳米粒、纳米多孔
方法	含 MD 仿真且加载段数据可提取（尤其应力应变曲线）	纯实验（SHPB、准静态、原位压/拉、Taylor 撞击）、有限元
加载	一维应力（单轴拉伸/压缩/剪切；横向应力为零或侧表面自由）	冲击/NEMD、飞片、层裂、激光冲击、斜坡压缩、侧向约束、纳米压痕、纯静水压、剪切带局部化
主题	—	辐照损伤、催化/电化学/磁学/储氢/超导/热物性、纯 DFT、无原始数据的综述
系综	只记录，不筛选：记录论文正文出现的 NVE/NVT/NPT（优先“加载从句”→“全模拟”→“弛豫/预处理段声明”）；未声明则留空，不做任何推定	系综不再构成排除条件

筛选结果：55 条候选 → 9 条合格、46 条淘汰（淘汰原因逐条写入 淘汰记录 sheet，不静默丢弃）。 候选来源：inputs/records/*.json（含 OpenAlex 检索记录 + 两篇目标论文的全文记录）。

阶段二：图表定位与上下文解析

在合格文献中定位 4 类 MD 输出图（应力应变 / 位错密度 / 孪晶体积分数 / 相占比演化）， 逐图给出坐标轴物理量、单位、子图位置与工况关联（应变率、温度、取向、成分、尺寸 …）。

阶段三：数据点数字化与物理校验

坐标轴自动标定（刻度识别 + 最小二乘 + 残差 RMS）→ 曲线数字化（颜色/alpha 混合模型匹配、 子像素质心、包络极值恢复、Marker 轮廓剔除）→ 首尾补全 → 物理校验（相分数和 = 1、 分数 ∈ [0,1]、位错密度非负、各类位错密度 ≤ 总量的量级关系）→ 单位统一（GPa / 10^19 m⁻² / K / 小数分数）。

---

2. 交付物总览

outputs/HEA_MD_dataset.xlsx（10 个工作表，全部可复算、可追溯）：

工作表	规模	内容
Sheet1	11 行 × 62 列	每个“材料—工况”一行：60 列示范表字段（描述符、加载条件、Ensemble、crystalline、Shape、尺寸、initial 相占比与 initial 位错、初始相结构、势函数、20 个元素 at%）+ 双晶间距 λ + 备注
Sheet2	401 行 × 197 列	横向分列：11 个 sample_id × 17 列块，块间空 1 列；每块内含 strain（0→0.2，步长 0.0005）、Y_sigma_GPa、Twin Nucleation Stress、BCC/FCC/HCP/other、ρ_total、5 类分位错、1/2⟨111⟩、⟨100⟩
样本索引	11 行	sample_id（整数）↔ 内部编号（J22_S1…Z22_S6）↔ 工况条件 ↔ Ensemble ↔ 已提取物理量
合格文献清单	9 行	题目、DOI、成分、初始相、加载方式、系综（记录值）+ 原文证据、形状、尺寸、加载段描述
淘汰记录	46 行	逐条淘汰原因
补全记录	41 行	每个物理量的补全规则、头/尾/内部补全点数、首个/末个可见应变、补全后是否完整
辅助物理量	2406 行	模板外物理量（Zhang 2022 平面孪晶密度 nm⁻¹ × 6 样本 × 401 点）
元素占比（长表）	60 行	sample_id × 元素 × at%（便于作图）
待人工处理清单	0 行	读不出的图/线单独列示（本次为空：42/42 条目标曲线均自动追踪成功）
备注说明	102 条	模板对齐、补全规则、Marker 处理、系综记录、单位、数字化细节、诚实事項
物理校验	11 行	相分数和最大偏差、位错密度非负、覆盖率、补全点数合计、补全后是否完整、未补齐物理量

样本矩阵（11 个 sample_id）

sample_id	内部编号	论文	材料	工况	已提取物理量
1–3	J22_S1–S3	Ju 2022 (MTComm)	Al20.4Mo10.5Nb22.4Ta10.1Ti17.8Zr18.8	单轴压缩 300 K，1.4×10⁹ s⁻¹，[001]/[110]/[111]，φ13 nm 纳米柱	应力（Fig.3 + Fig.4 右轴交叉校验）、BCC/FCC/HCP/other、1/2⟨111⟩
4–5	J22_S4–S5	同上	同上	同取向 [001]，φ9 / φ6 nm	应力（Fig.2）
6–11	Z22_S1–S6	Zhang 2022 (Front. Mater.)	Al2.4Co24.4Cr24.4Fe24.4Ni24.4（纳米孪晶）	单轴拉伸 300 K，1.0×10⁹ s⁻¹，[111]，双晶间距 λ = 0.61/1.84/3.08/4.31/5.55/6.78 nm	应力（Fig.2）、ρ_total（Fig.4A）、平面孪晶密度（Fig.4B，辅助表）

预览副本

文件	说明
data/processed/Sheet1_samples.csv	Sheet1 原样 CSV（UTF-8-BOM，Excel 直接打开）
data/processed/Sheet2_horizontal_blocks.csv	Sheet2 原样（横向分列、间隔列保留），与工作簿逐格一致
data/processed/Sheet2_long_tidy.csv	Sheet2 的 tidy 长表（sample_id, strain, quantity, value）——便于 pandas/绘图；注意工作簿中的横向布局才是交付格式
figures/*_overlay.png	11 张追踪叠加图（轴标定、质心连线、Marker 锚点），人工核对用

---## 3. 目录结构

hf_repo/
├── README.md                     # 本文件（任务要求 → 实现 → 证据）
├── REPORT.md                     # 运行报告（筛选/数字化/校验的实际数字）
├── inputs/
│   ├── original/                 # 10.23 原始材料：提示词 docx、改进说明 docx、示范表 xlsx、论文 PDF
│   ├── papers/<key>/             # 每篇论文：全文 txt + figures/embedded/*.png（从 PDF 无损提取）
│   └── records/                  # 阶段一候选记录（含全文记录）
├── code/
│   ├── configs/
│   │   ├── screening.yaml        # 纳排规则（含“系综仅记录”的显式声明）
│   │   ├── llm.yaml              # 可选 LLM 判官配置
│   │   └── papers/*.yaml         # 每篇论文：图配置、样本矩阵、sheet1 元数据、整数编号偏移
│   ├── hea_pipeline/
│   │   ├── stage1_screening.py   # 筛选 + 系综记录（detect_ensemble）
│   │   ├── stage2_figures.py     # 图表定位与子图裁剪
│   │   ├── stage3_digitize.py    # 标定 / 追踪 / Marker 轮廓剔除 / 包络
│   │   ├── stage3_fill.py        # 首尾补全（ramp / constant / 内部线性插值）
│   │   ├── validation.py         # 物理校验（相分数和、非负性、覆盖率）
│   │   ├── material_features.py  # 描述符（VEC、δ、ΔH_mix、ΔS_mix、χ̄、δ_μ、T̄m、ρ …）
│   │   ├── excel_export.py       # 10.23 模板导出（Sheet1 60+2 列、Sheet2 横向块）
│   │   ├── pipeline.py           # 单篇论文装配（含补全与初始值取用）
│   │   └── llm.py                # 可选 LLM 客户端（缓存、脱敏、用量统计）
│   ├── scripts/
│   │   ├── run_all.py            # 一键全流程（筛选 → 数字化 → 校验 → 导出 → 合规检查）
│   │   ├── validate_pilot.py     # 与示范表逐列对比 + 结构合规（check_layout）
│   │   ├── verify_workbook.py    # 工作簿 20 项合规门禁（不通过即非 0 退出）
│   │   ├── sync_records.py       # 刷新 records/、data/processed/、figures/ 预览副本
│   │   ├── fetch_candidates.py   # OpenAlex 候选检索（可选）
│   │   └── llm_draft_config.py   # 为新论文起草 YAML 草稿（需人工复核）
│   └── tests/                    # test_stage1（16）、test_stage3（29）、test_llm（43）
├── outputs/                      # 主产物：HEA_MD_dataset.xlsx + 每篇论文的数字化细节与叠加图
├── records/                      # 运行留档：筛选报告、校验报告、合规报告、运行日志、LLM 用量
├── data/processed/               # CSV 预览副本（见上）
├── figures/                      # 叠加图预览副本
└── deployment/                   # 上传脚本与部署说明

---

4. 快速开始 / 复现

pip install -r code/requirements.txt          # numpy / openpyxl / PyYAML / Pillow（CPU 即可）

python3 code/scripts/run_all.py               # 全量：筛选 → 数字化 → 补全 → 校验 → 导出 → 合规检查
python3 code/scripts/verify_workbook.py       # 工作簿 20 项合规门禁（应 20/20，退出码 0）
python3 code/scripts/sync_records.py          # 刷新 records/ 与 CSV/图片预览副本

python3 code/tests/test_stage1.py             # 16/16
python3 code/tests/test_stage3.py             # 29/29（含 Marker 剔除与补全的合成图用例）
python3 code/tests/test_llm.py                # 43/43（mock，不联网）

常用参数：

参数	说明
--skip-digitize	复用 outputs/<paper>/digitization.json，仅重跑装配/导出（结果与全量一致，已核对 sha256）
--ref <path>	指定示范表做逐列校验（默认 inputs/original/论文提取data 1023.xlsx）
--llm / --llm-config <path>	启用 LLM 辅助筛选（不可用时自动回退规则引擎）
--outdir <dir>	输出目录（默认 outputs/）

可复现性：outputs/HEA_MD_dataset.xlsx 的 sha256 在“全量重跑 / 二次重跑 / --skip-digitize”三种路径下完全一致 （工作簿时间戳已固定在 1980-01-01）： ce3581c30a8f51520d7954df2d660cd753401fd2904ac42a9b5ae26ad711dd67。

---

5. 结果与验证

5.1 与示范表逐列对比（inputs/original/论文提取data 1023.xlsx，其收录 sample_id = 1，即 J22_S1）

统一单位后逐点对比（401 个应变点，100% 覆盖）：

Sheet2 列	我们的来源	MAD	max|Δ|	覆盖率
Y_sigma_GPa	Fig.3 [001]	0.0307 GPa	0.242	100%
BCC / FCC / HCP / other	Fig.4 左轴	0.0030–0.0041（分数）	≤0.0154	100%
1/2⟨111⟩ (10¹⁹ m⁻²)	Fig.7	1.999	13.06	100%
ρ_total / ⟨100⟩	论文未给出	—（示范表同样为空）	—	—

位错密度列的残差集中在“曲线紧贴 x 轴”的低应变段：该图 y 轴 0–800、曲线主体 ≤130， 低应变段曲线距轴 <1 px，两位数字化者在亚像素尺度不可分辨；对标记轮廓的处理使该列 MAD 由 2.14 降至 1.999、max 由 19.4 降至 13.1（与 markers=off 的对照实验）。

Sheet1 描述符对比（同一试样）：

列	示范表	本仓库	偏差
价电子浓度 VEC	4.33	4.331	+0.001
原子半径差 δ (%)	5	4.9804	−0.0196
平均原子半径 (Å)	1.4614	1.46137	−3.1×10⁻⁵
ΔH_mix (kJ/mol)	（空）	−16.785	示范表未填
ΔS_mix (J·mol⁻¹·K⁻¹)	14.5	14.542	+0.042
电负性 χ̄	1.589	1.5893	+0.0003
Mavg (g·mol⁻¹)	80.34	80.336	−0.004
剪切模量失配 δ_μ (%)	58	58.515	+0.515
T̄m (K)	2188	2188.36	+0.36
ρ_mass (g/cm³)	7.64	7.64	0（论文自报值，覆盖混合法则 7.26）
Ensemble	NPT	NPT	一致
crystalline / Shape / diameter	s / c / 13 nm	s / c / 13 nm	一致

元素占比列：示范表的数值是按“合金名书写顺序”错位填入其表头（Al Ti Zr Nb Mo Ta …）的 （仅 Al 恰好一致，其余 5 个元素相互错位）；本仓库按表头元素逐一正确对应填写， 逐元素 ref/ours/match 记录在 outputs/ju2022_mtcomm/validation_vs_reference_J22_S1.json。

5.2 合规门禁（verify_workbook.py，20/20 通过）

Sheet1 表头逐字一致（60 列）、62 列结构、整数 sample_id 1..11、load_mode/η 自洽、 元素列合计 100 at%、Sheet2 每块 17 列 / 401 行 / 块头一致 / 间隔 1 空列 / sample_id 仅首行、 应变网格 0→0.2 步长 0.0005、有数据的列无空白单元格、数值有限、 相分数 ∈ [0,1] 且和为 1（±0.02）、应力与位错密度非负、Sheet1 initial 列与 Sheet2 首行逐格一致、 补全记录 覆盖所有可数字化物理量且标记为完整。

5.3 数字化 QC（标定精度与追踪）

论文	图	类别	曲线数	Marker 剔除	X 标定 RMS	Y 标定 RMS
Ju 2022	Fig.2 (p03)	应力应变	3	38	7.4×10⁻⁵	2.3×10⁻³
	Fig.3 (p04)	应力应变	3	59	8.0×10⁻⁵	3.7×10⁻³
	Fig.4 / 8 / 12	相分数+右轴应力	5×3	0	8×10⁻⁵	2.8×10⁻² / 3.4×10⁻³
	Fig.7 / 11 / 15	位错密度 1/2⟨111⟩	1×3	28 / 60 / 36	0	0 / 0.11
Zhang 2022	Fig.2	应力应变	6	0	6.1×10⁻⁵	2.3×10⁻³
	Fig.4A	总位错密度 ρ	6	0	0	5.9×10⁻⁴
	Fig.4B	平面孪晶密度（辅助）	6	0	6.6×10⁻⁵	8.9×10⁻⁴

合计 42/42 条目标曲线自动追踪成功，待人工处理清单 为空。

5.4 首尾补全统计（补全记录）

共补 720 个格点（11 个样本，全部 complete=True）：

sample_id	补全点数	涉及物理量数	主要来源
1 / 2 / 3	29 / 31 / 24	7	曲线端部被图框截断（1–9 点）+ 应力弹性段 ramp
4 / 5	6 / 6	1	应力弹性段 ramp
6–11（Zhang）	92 / 116 / 128 / 110 / 125 / 53	3	Fig.2 低应变段被灰黑曲线遮挡（60–118 点）+ 位错密度/孪晶密度端部

规则：应力 = 由 (0, 0) 线性 ramp；相分数/位错密度/辅助量 = 最近可见值常数外推； 内部断裂 = 线性插值；完全没有可见点的物理量保持为空（不编造）。

---

6. 诚实性与可复现性

• 论文未直接给出、也无法可靠计算的字段留空并在备注说明（如 Ju 2022 未给纳米柱高度与长径比 → Sheet1 第 23、25 列留空；两篇论文均未给 5 类分位错的初始值 → 第 31–36 列整列留空）。
• 不把推测当作实测：系综未声明即留空；Twin Nucleation Stress (MPa) 论文未给 → 整列留空。
• 单位统一：应力 GPa、位错密度 10¹⁹ m⁻²（Zhang 源图 nm⁻² ×0.1）、温度 K、分数为 0–1 小数。
• 一切数字化细节（刻度像素、标定残差、QC 警告、全部曲线数值）保存在 outputs/<paper>/digitization.json， 并可用 figures/*_overlay.png 逐图人工复核。
• 读不出的内容单独列 待人工处理清单，不猜测填充（本次为空）。

7. 扩展新论文

1. 把论文全文/图放入 inputs/papers/<key>/（图建议从 PDF 无损提取到 figures/embedded/）；
2. 复制一份 code/configs/papers/*.yaml，填写图配置（刻度值、轴范围、配色、图例框）、样本矩阵 （取向、直径/尺寸、孪晶间距、初始相占比）与 sheet1 元数据、sample_id_offset； 可先用 llm_draft_config.py 起草再人工核对像素；
3. 运行 run_all.py，检查 outputs/<key>/overlays/*.png 是否贴合原曲线，必要时微调配色的 tol；
4. verify_workbook.py 必须 20/20 通过后才算交付。