TW-IndictGenBench（臺灣起訴書生成評測）v0.1.1

臺灣檢察書類（起訴書、聲請簡易判決處刑書）LLM 評測方法與資料集。

它評量的是「起訴書寫得好不好」。品質拆成六層：

1. 法定記載
2. 犯罪事實
3. 證據
4. 法律適用
5. 跨段一致
6. 文字

主指標是可簽率，也就是書類中沒有任何擋簽級錯誤的比例。

A benchmark for evaluating LLMs on drafting, proofreading, and comparing Taiwanese prosecutorial indictments (Traditional Chinese). Cases are synthetic; the corrections subset collects court corrections of real indictments from public judgments as a reference for real-world error distribution.

子集

config	題數	輸入 → 輸出	主要指標
draft 撰寫	130（full 73、given 57）	逐頁合成卷證 → 書類全文	可簽率、L1–L6 剖面、評分點總分、要件覆蓋率、法條 F1、陷阱命中率、捏造率
proofread 核稿	179（含 48 份乾淨稿；49 題為真實錯誤類型子集）	卷證＋書類稿 → 錯誤清單＋可否簽發	P／R／F1、F0.5、更正正確率、擋簽級召回、乾淨稿誤報率、不安全放行率
pairwise 兩稿優劣	80（P1／P1R／P2／P3／P4）	卷證＋兩稿 → 較佳者	兩種順序正確率、位置一致率、流暢偏誤、長度偏誤
corrections 真實更正紀錄	90（52 份判決、18 個地方法院，民國112–115年）	—	真實錯誤分布基準，不直接計分

案件分四類：

類別	draft 題數	內容
高量簡單案	59	竊盜、不能安全駕駛、傷害、毀損、侵占
詐欺／洗錢	30	幫助詐欺＋幫助洗錢、車手、網路詐欺
毒品	19	施用一、二級毒品；持有第二級毒品
妨害名譽／其他	22	加重誹謗、公然侮辱、恐嚇、未經同意散布性影像

另附：

• data/taxonomy.json：33 類錯誤分類學。
• data/law/law_refs.json：58 筆法條與實務見解，依 2026-10 現行條文查證。

欄位規格見 DATASET.md。方法與文獻對應見 docs/METHOD.md。

使用

只讀資料：

from datasets import load_dataset

draft = load_dataset("<repo_id>", "draft", split="test")
print(draft[0]["dossier"][:500])

評分需要用到附帶的評測程式。評分方式：

• 確定性規則
• LLM 評審：多位評審逐項取最嚴
• 兩種順序成對比較

先下載整個 repo：

huggingface-cli download <repo_id> --repo-type dataset --local-dir tw-indictgenbench
cd tw-indictgenbench && pip install -r requirements.txt && cd src

python -m twib.run --model mock:gold --judge mock:gold        # 管線自檢，主要指標應為 1.0
python -m twib.run --model openai:gpt-4.1 \
    --judge anthropic:claude-sonnet-4-5 --out ../results/gpt41   # 評審應與受測模型不同家族
python -m twib.run --preds my_answers.jsonl --tasks draft --judge anthropic:claude-sonnet-4-5   # 離線作答

資料可重新產生：python scripts/build_tasks.py --seed 202610。回歸檢查：python scripts/validate.py。

建構方式

• 合成卷證：17 種案件規格、24 個模板，由程式依 seed 產生。
  • 人名、地址、案號皆虛構，門牌以「○○」遮蔽。
  • 參考書類須通過自身全部確定性檢查。
  • 變體包括：被告否認、累犯、未到案、告訴乃論、多被害人附表、沒收。
• 注入錯誤（proofread、pairwise）：33 類錯誤，各有可逐字定位的錯誤片段、正確內容與更正檢查字串。
  • 其中 49 題依真實更正紀錄的「罪名＋錯誤類型」注入。
• 真實更正紀錄：取自司法院裁判書系統公開判決中，法院對起訴書或聲請簡易判決處刑書所為的更正、補充或變更。
  • 原記載與更正後均為改寫或極短摘錄。
  • 人名改為甲、乙、丙。
  • 收集方式見 data/real/README.md。
• 品質檢查：
  • 三份獨立複審報告，共 106 項，處理情形見 docs/review/。
  • 自洽性檢查 validate.py。
  • 表面線索稽核：不看卷證的 n-gram 分類器正確率 0.62，低於多數類基準 0.73。

限制

• 合成卷證比真卷短。簡單罪名對頂尖模型可能已飽和。
• 注入錯誤的擋簽比例刻意偏高：約 44%，真實紀錄約 10%。
• 40 題涉及實務見解分歧，標為 expert_review，正式使用前應由實務人員確認。
• corrections 未逐字核對判決原文：
  • 每筆都有 needs_manual_check: true，正式引用前請開啟 url 逐筆核對。
  • 樣本限於搜尋引擎收錄者，並非隨機樣本。
• 不得作為法律意見。本資料集用於評測模型，不代表任何檢察機關的書類標準。

授權

授權待 APMIC 決定，正式公開前會更新本節與 YAML 的 license 欄位。

法條引用解析改寫自 TW-LegalBench（MIT License）與 TW-JusticeBench。

引用

@misc{twindictgenbench2026,
  title  = {TW-IndictGenBench: Evaluating LLM Generation of Taiwanese Prosecutorial Indictments},
  author = {APMIC},
  year   = {2026},
  note   = {v0.1.1}
}