FaFa1116/PI-Research-Bench

PI Research Bench

聚酰亚胺科研任务评测基准

PI Research Bench 面向聚酰亚胺（Polyimide，PI）科研助手，评估大语言模型在领域问答、工具调用、文献证据提取和科研方案设计中的表现。它将科研任务组织为三个层次，共 936 个评测单元，用于比较模型能力、检验领域微调效果，并分析科研工作流中的表现差异。

基准提供统一题目、参考答案、评分代码、研究规划量表和文献来源，支持按同一套条件开展模型对照与结果复现。

评测什么

层次	子集	数量	任务内容	评价重点
基础任务	generation	772	领域问答、原文事实提取、表格处理、结构化输出与工具调用	输出格式、字段完整性、参考匹配、工具选择与参数
证据溯源	source	152	76 张研究证据卡与 76 条引用定位，覆盖 19 篇文献	来源定位、原文区间、逐字引用与带单位数值
科研工作流	workflow	12	根据给定文献设计研究方向、材料与工艺方案、实验验证计划	交付完整性、证据支持、假设与对照、测量设计

生成子集包含 732 条 JSON、32 条工具调用和 8 条文本任务，来自 716 个原始样本。工作流子集每题提供 4 段原文，覆盖透明 PI 气凝胶、摩擦磨损涂层、复合材料、分离膜和电池隔膜等研究主题。

题目是什么样的

领域知识

二胺与二酐制备线性 PI 时，为什么高转化率还不足以保证高分子量？

工具调用

给定候选材料身份、结构与目标性能，组织性能预测工具调用，填写工具名称、结构输入、预测属性和测试条件。

文献证据

根据给定 PI 论文原文建立研究证据卡，提取支持语句、带单位数值、样品与实验条件，并附上 DOI、段落和字符区间。

引用定位

在给定原文中定位指定引用，返回 Unicode 码点的 [start, end) 区间。

科研工作流

根据给定文献提出两个有差异的研究方向，包含原文体系的经典对照和可检验假设，形成材料设计、工艺建议、能力核对、风险分析、综合评价与实验验证计划。

可以用来做什么

• 比较微调前后的变化：在相同题目、提示、解码和预算下，评估领域训练带来的收益。
• 比较不同模型：使用共同任务合同、工具协议和评分器，对齐模型间的评测条件。
• 分析能力环节：分别查看结构化生成、证据定位和完整科研规划的表现。
• 复现与审查实验：通过题目 ID、文献来源、逐题评分和文件哈希追踪结果。

当前对照实验包含 Qwen 与 Gemma 的原版模型、104+40 步最终 LoRA，以及生成子集上的 104 步阶段适配器。具体配置见评测方法。

快速使用

安装数据读取依赖：

python -m pip install datasets

读取题目：

import json
from datasets import load_dataset

dataset = load_dataset(
    "FaFa1116/PI-Research-Bench",
    "generation",  # 可选 generation、source、workflow
    split="test",
)

example = dataset[0]
task = json.loads(example["input_json"])
messages = task["messages"]
reference = json.loads(example["reference_json"])

在下载的仓库目录中运行评分：

python -m pip install -r requirements.txt
python scripts/validate_package.py
python scripts/score.py --suite generation --predictions predictions.jsonl --output scores.json

评分程序输出逐题结果和按题型汇总的指标。预测文件格式、来源子集评分与工作流复现步骤见使用指南。

数据与文档

资源	内容
题目与参考答案	三个子集的评测输入与生成、来源任务参考
评分代码	generation 与 source 的程序评分器
工作流量表	科研交付与科学内容审查标准
评测方法	模型对照、生成预算、评分口径与统计方案
数据说明	来源、样本分组、标注状态与已记录的题目问题
来源与许可	原始材料的来源记录与许可状态

版本：v0.1 · 2026-10-21。 本版本提供完整题库、参考答案、评分工具和复现说明。