PatentAgentBench
Collection
PatentAgentBench (PAB) is a benchmark comprising 8 professional patent-related tasks for evaluating LLM agents. • 8 items • Updated
document_fields dict | general_rubrics listlengths 15 15 | differential_rubrics listlengths 0 4 |
|---|---|---|
{
"case_id": "PD-0005",
"task_instruction": "请根据提供的技术交底书，撰写面向中国的权利要求书和说明书，使用中文。需要附图的，请一并绘制并放入文档中。内容应以交底书为依据，不要编造技术细节。最终交付一份包含权利要求书、说明书及必要附图的 Word 文档（.docx）。",
"jurisdiction": "CN",
"output_language": "zh",
"input_file": "asset/PD-0005_input.docx",
"input_text": "# 技术交底书｜PD-0005\n\n## 发明名称\n**[P1]** 一种具有微孔二氧... | [
{
"rubric_name": "权利要求书是否存在客体问题",
"weight": 5,
"tiers": [
{
"score": 1,
"description": "权利要求符合《专利法》第 5 条、第 25 条、第 2 条第 2 款、第3款的规定，属于可授予专利权的客体"
},
{
"score": 0,
"description": "权利要求不符合《专利法》第 5 条、第 25 条、第 2 条第 2 款、第3款的规定，不属于可授予专利权的客体"
}
],
"s... | [] |
{
"case_id": "PD-0012",
"task_instruction": "Based on the provided technical disclosure, draft patent claims and a specification in English for the European Patent Office (EPO). Where drawings are needed, prepare them and include them in the document. Base the content on the disclosure and do not invent technical d... | [
{
"rubric_name": "权利要求书是否存在客体问题",
"weight": 5,
"tiers": [
{
"score": 1,
"description": "权利要求符合EPC Art.52、53，属于可授予专利权的客体。"
},
{
"score": 0,
"description": "权利要求不符合EPC Art.52、53，不属于可授予专利权的客体。"
}
],
"scoring_responsibility": "采用专家20261013版本第1项... | [] |
{
"case_id": "PD-0014",
"task_instruction": "请根据提供的技术交底书，撰写面向中国的权利要求书和说明书，使用中文。需要附图的，请一并绘制并放入文档中。内容应以交底书为依据，不要编造技术细节。最终交付一份包含权利要求书、说明书及必要附图的 Word 文档（.docx）。",
"jurisdiction": "CN",
"output_language": "zh",
"input_file": "asset/PD-0014_input.docx",
"input_text": "# 技术交底书｜PD-0014\n\n## 技术方案交底书\n**[P1]** 发明名称：... | [
{
"rubric_name": "权利要求书是否存在客体问题",
"weight": 5,
"tiers": [
{
"score": 1,
"description": "权利要求符合《专利法》第 5 条、第 25 条、第 2 条第 2 款、第3款的规定，属于可授予专利权的客体"
},
{
"score": 0,
"description": "权利要求不符合《专利法》第 5 条、第 25 条、第 2 条第 2 款、第3款的规定，不属于可授予专利权的客体"
}
],
"f... | [
{
"rubric_name": "是否对方案进行了合适的扩充概括，以寻求更大的保护范围",
"weight": 18,
"tiers": [
{
"score": 1,
"description": "在交底允许的范围内进行了合理概括，保护范围适当，且说明书有对应支撑。"
},
{
"score": 0.5,
"description": "有合理概括的意识，但部分特征概括不足、过宽，或概括范围的说明书支撑不充分，需局部调整。"
},
{
"score": 0,... |
{
"case_id": "PD-0017",
"task_instruction": "请根据提供的技术交底书，撰写面向中国的权利要求书和说明书，使用中文。需要附图的，请一并绘制并放入文档中。内容应以交底书为依据，不要编造技术细节。最终交付一份包含权利要求书、说明书及必要附图的 Word 文档（.docx）。",
"jurisdiction": "CN",
"output_language": "zh",
"input_file": "asset/PD-0017_input.docx",
"input_text": "# 技术交底书｜PD-0017\n\n## 一、专利技术交底稿及表单信息\n**[P1]*... | [
{
"rubric_name": "权利要求书是否存在客体问题",
"weight": 5,
"tiers": [
{
"score": 1,
"description": "权利要求符合《专利法》第 5 条、第 25 条、第 2 条第 2 款、第3款的规定，属于可授予专利权的客体"
},
{
"score": 0,
"description": "权利要求不符合《专利法》第 5 条、第 25 条、第 2 条第 2 款、第3款的规定，不属于可授予专利权的客体"
}
],
"s... | [] |
{
"case_id": "PD-0019",
"task_instruction": "请根据提供的技术交底书，撰写面向中国的权利要求书和说明书，使用中文。需要附图的，请一并绘制并放入文档中。内容应以交底书为依据，不要编造技术细节。最终交付一份包含权利要求书、说明书及必要附图的 Word 文档（.docx）。",
"jurisdiction": "CN",
"output_language": "zh",
"input_file": "asset/PD-0019_input.docx",
"input_text": "# 技术交底书｜PD-0019\n\n## 专利申请技术交底书\n**[P1]** 项目名... | [
{
"rubric_name": "权利要求书是否存在客体问题",
"weight": 5,
"tiers": [
{
"score": 1,
"description": "权利要求符合《专利法》第 5 条、第 25 条、第 2 条第 2 款、第3款的规定，属于可授予专利权的客体"
},
{
"score": 0,
"description": "权利要求不符合《专利法》第 5 条、第 25 条、第 2 条第 2 款、第3款的规定，不属于可授予专利权的客体"
}
],
"s... | [
{
"rubric_name": "药品类申请，在交底书中有成分范围限定，在说明书中是否给出不同范围实施例",
"weight": 16,
"tiers": [
{
"score": 1,
"description": "说明书中针对不同成分范围给出3个及以上实施例"
},
{
"score": 0.5,
"description": "说明书中针对不同成分范围给出1～2个实施例"
},
{
"score": 0,
"description": "... |
{
"case_id": "PD-0023",
"task_instruction": "Based on the provided technical disclosure, draft patent claims and a specification in English for the European Patent Office (EPO). Where drawings are needed, prepare them and include them in the document. Base the content on the disclosure and do not invent technical d... | [
{
"rubric_name": "权利要求书是否存在客体问题",
"weight": 5,
"tiers": [
{
"score": 1,
"description": "权利要求符合EPC Art.52、53，属于可授予专利权的客体。"
},
{
"score": 0,
"description": "权利要求不符合EPC Art.52、53，不属于可授予专利权的客体。"
}
],
"facts": [
"《专利法》第 5 条、第 25 条、第 2 条第 2... | [
{
"rubric_name": "独立权利要求是否包含非必要技术特征",
"weight": 20,
"tiers": [
{
"score": 1,
"description": "独立权利要求包含0个非必要技术特征。"
},
{
"score": 0.5,
"description": "独立权利要求包含1-2个非必要技术特征，不当缩小保护范围。"
},
{
"score": 0,
"description": "独立权利要求包含3个以上（含... |
{"case_id":"PD-0025","task_instruction":"Based on the provided technical disclosure, draft patent cl(...TRUNCATED) | [{"rubric_name":"权利要求书是否存在客体问题","weight":5,"tiers":[{"score":1,"descriptio(...TRUNCATED) | [{"rubric_name":"交底书为具有工艺参数限定的装置类申请，在权利要求和说明(...TRUNCATED) |
{"case_id":"PD-0028","task_instruction":"Based on the provided technical disclosure, draft patent cl(...TRUNCATED) | [{"rubric_name":"权利要求书是否存在客体问题","weight":5,"tiers":[{"score":1,"descriptio(...TRUNCATED) | [{"rubric_name":"实施例中是否缺少具体的参数值","weight":26,"tiers":[{"score":1,"descri(...TRUNCATED) |
{"case_id":"PD-0031","task_instruction":"Based on the provided technical disclosure, draft patent cl(...TRUNCATED) | [{"rubric_name":"权利要求书是否存在客体问题","weight":5,"tiers":[{"score":1,"descriptio(...TRUNCATED) | [] |
{"case_id":"PD-0036","task_instruction":"Based on the provided technical disclosure, draft patent cl(...TRUNCATED) | [{"rubric_name":"权利要求书是否存在客体问题","weight":5,"tiers":[{"score":1,"descriptio(...TRUNCATED) | [{"rubric_name":"本案为生产方法或装置类案件，在交底书中有参数限定，在权(...TRUNCATED) |
End of preview. Expand in Data Studio
patent-drafting-bench
中文 | English
patent-drafting-bench 是一个评估大模型及智能体专利撰写能力的数据集，包含 60 个测试任务。模型需要依据技术交底书，按指定法域和语言撰写权利要求书、说明书及必要附图，最终交付一份 Word（.docx）文档。
评测关注模型能否将交底中的技术方案转化为完整、合理且有依据的专利申请文本，包括权利要求的完整性、清楚性、保护范围和从属布局，说明书的支持与公开，以及是否编造技术内容。每个任务包含通用评分标准与案例特异评分标准，可用于逐项人工审阅或 LLM judge 评分。
目录结构
patent-drafting-bench/
├── README.md
├── README.en.md
├── data/
│ └── test.jsonl
└── asset/
├── PD-0005_input.docx
└── ...（共 60 份技术交底书）
test.jsonl 使用 UTF-8 编码，每行一个任务，共 60 行。document_fields.input_file 是相对于本数据集根目录的路径，例如 asset/PD-0005_input.docx，不是相对于 data/ 的路径。
数据规模与分布
技术领域
按每个任务的 ipc 字段统计，分类层级为 IPC 部，每个任务计数一次。
| IPC 部 | 技术领域 | 任务数 | 占比 |
|---|---|---|---|
| A | 人类生活必需 | 5 | 8.33% |
| B | 作业；运输 | 11 | 18.33% |
| C | 化学；冶金 | 5 | 8.33% |
| D | 纺织；造纸 | 5 | 8.33% |
| E | 固定建筑物 | 4 | 6.67% |
| F | 机械工程；照明；加热；武器；爆破 | 5 | 8.33% |
| G | 物理 | 13 | 21.67% |
| H | 电学 | 12 | 20.00% |
| 合计 | 8 个 IPC 部 | 60 | 100% |
百分比保留两位小数。
法域与输出语言
| 目标法域 | 任务数 | 占比 |
|---|---|---|
| 中国（CN） | 31 | 51.67% |
| 美国（US） | 15 | 25.00% |
| 欧洲（EP） | 14 | 23.33% |
| 合计 | 60 | 100% |
要求使用中文（zh）输出的任务有 31 个，英文（en）输出的任务有 29 个。
交底书有图 / 无图
| 输入交底书类型 | 任务数 | 占比 |
|---|---|---|
| 含嵌入图片 | 15 | 25.00% |
| 不含嵌入图片 | 45 | 75.00% |
| 合计 | 60 | 100% |
按交底书 DOCX 正文是否含嵌入图片统计，15 份含图交底书合计包含 17 处图片引用。
所有任务均要求在必要时绘制附图并放入最终文档。图片信息保存在原始 DOCX 中。
评分标准
每个任务提供通用评分标准和案例特异评分标准。通用标准评价权利要求的客体、单一性、清楚性、完整性、保护范围、从属布局及说明书支持，以及说明书的结构、实施例、公开充分性、表达和技术一致性。特异标准评价当前交底书中的技术特征、参数、实施方式和保护主题。
| 评分标准 | 全部任务的条目总数 | 每个任务的条目数 |
|---|---|---|
| 通用标准 | 900 | 15 |
| 案例特异标准 | 77 | 0～4 |
| 合计 | 977 | 15～19 |
每条标准包含判定条件、评分档位和正整数权重。档位分为 0、0.5、1，部分标准采用 0、1 两档。评审者根据产物选择对应档位，按权重计算百分制得分：
得分 = 100 × Σ（权重 × 档位分）÷ Σ（权重）
- Downloads last month
- 145