APMIC/tw_fin_eval_basic_v0.1

台灣金融評測集基礎能力版 v0.1（tw_fin_eval_basic）

這份評測集包含兩部分，統一成同一套 JSONL 格式，共 4,958 題，可以用同一支程式跑分：

• 翻譯版（4,508 題）：把 4 個國外公開的金融評測轉成台灣繁體中文。
• 自製題（450 題）：APMIC 與銀行團的「FinLLM 450 評測訓練題」，依台灣法規與實務出題。

版本定位

台灣金融評測集分成兩個版本，各自有版本號、各自報分數：

版本	代號	測什麼	題目特性
基礎能力版（本版）	tw_fin_eval_basic	金融專業知識、財務計算、表格數值推理、法規與實務問答	題目自帶所需資訊，單題或短對話即可作答，不需要讀長文件或呼叫工具
進階版（規劃中）	tw_fin_eval_advanced	長文件分析、文件檢索、工具與 Agent 操作	需要讀完整年報或財報、從大量文件中找資料，或呼叫真實／模擬的金融工具

• 「基礎」指的是能力類型，不是難度。本版也有 FinChain 進階題和案例題這類難題。
• FinanceAgent-TW 原基準需要搜尋與 EDGAR 工具，依上表定位應屬進階版。進階版建立前暫時收錄在本版，以 closed-book 方式評測；進階版完成後會移出，屆時本版題數會減少 50 題。
• 進階版預計納入以台灣資料自製的年報分析題（參考 SECQUE）、文件檢索題（參考 FinAgentBench）、工具呼叫題（參考 FinToolBench、FinMCP-Bench）。

狀態：翻譯版為機器翻譯，已通過規則檢查和一輪抽樣審查，尚未經過人工全面審閱。正式對外使用前，請先用 人工抽審表_review_sample.csv 做人工抽審。

收錄內容

資料集	來源論文	題數	類別	題型	翻譯範圍
FinQA-TW	FinQA（arXiv 2109.00122）測試集	1,147	C_財報數值推理	單題數值	題目、表格、關鍵證據句（gold evidence 設定）
ConvFinQA-TW	ConvFinQA（arXiv 2210.03849）開發集	421 段對話／1,490 輪	C_財報數值推理	多輪對話數值	每輪問題、表格、關鍵證據句
FinChain-TW	FinChain（arXiv 2506.02515）	2,890	C_財務計算推理	逐步計算（2,670 題數值答案＋220 題結論答案）	模板在地化後由程式生成
FinanceAgent-TW	Finance Agent Benchmark（arXiv 2508.00828）公開集	50	G_工具與Agent	開放題＋評分要點	題目、參考答案、評分要點
FinLLM450	自製（FinLLM 450 評測訓練題.xlsx）	450	四大能力	選擇 211／短答 137／案例 102	原為繁中，未翻譯

• FinChain-TW：涵蓋 12 個領域、58 個主題，難度分為基礎 1,160 題、中級 1,150 題、進階 580 題。領域包括會計、公司理財、加密資產、金融法規、金融市場、財務比率、金融科技、投資分析、併購、個人理財、風險管理、永續金融。
• ConvFinQA-TW：分成兩種對話。「單題拆解」有 300 段，「雙題組合」有 121 段。
• FinanceAgent-TW：分 9 種題型，例如簡單檢索、數值推理、優於／低於預期、財務模型與預測。
• FinLLM450：category 是四大能力（財富規劃與退休理財 137、授信與財務分析 131、法規判讀與合規 99、金融知識查詢 83），subcategory 是 20 個專業科目。

檔案

路徑	說明
data/*.jsonl	題目本體，一行一題
finchain_tw_templates/	FinChain 在地化模板（58 個主題）。generate.py 可以用不同種子產生新題，NOTES.md 記錄翻譯例外與修正
tools/run.py	對 OpenAI 相容 API（vLLM、llama.cpp server 等）跑題。只用標準函式庫
tools/score.py	評分並輸出逐題結果與彙總 CSV
tools/check_zh.py	檢查簡體字和中國用語。新增或修改題目後執行（需 pip install opencc）
tools/convert_finllm450.py	把 FinLLM 450 Excel 轉成 data/finllm450.jsonl。Excel 更新後重跑即可（需 pip install openpyxl）
FinLLM450_資料問題清單.csv	轉檔時發現的資料問題，供修正 Excel
hf_release/	要上傳到 HuggingFace 的內容：翻譯版 4 個子集、資料集說明卡、授權說明、評分程式、FinChain 模板。不含 FinLLM450 與內部審閱檔案
push_to_hf.py	把 hf_release/ 上傳成 HuggingFace 私人資料集（使用方式見檔案開頭說明）
術語表_glossary_zh-TW.md	翻譯規範、英中術語表、禁用的中國用語
人工抽審表_review_sample.csv	分層抽出 346 筆中英對照，給人工審閱用（Excel 可直接開啟）

統一格式（主要欄位）

{
  "id": "finqa_tw-test-0001",
  "dataset": "FinQA-TW",
  "source": {"name": "FinQA", "paper": "...", "orig_id": "...", "url": "...", "license": "..."},
  "category": "C_財報數值推理", "subcategory": "...", "task_type": "numeric",
  "difficulty": null, "lang": "zh-TW",
  "question": "...",
  "context": {"table": [[...]], "evidence": ["..."], "setting": "gold_evidence"},
  "answer": "94", "answer_value": 94.0, "program": "subtract(5829, 5735)",
  "messages": [{"role": "system", "content": "..."}, {"role": "user", "content": "..."}],
  "original_en": {"question": "...", "table": [[...]], "evidence": {...}},
  "meta": {"translation": "...", "review_status": "unreviewed", "version": "0.1"}
}

各資料集的 task_type 和專屬欄位：

• **numeric**（FinQA-TW）：answer_value 是程式算出的標準答案。20 題是 yes／no 題，這些題目的 answer_value 為空值，答案放在 answer_text。
• **conversation_numeric**（ConvFinQA-TW）：turns[] 裡每一輪有 question、answer_value（yes／no 題改放 answer_text）、program 和英文原題。另有 system、first_user_prefix 用來組對話。
• **numeric_cot**（FinChain-TW）：solution 是標準逐步解答。answer_type 為 numeric 時看 answer_value；為 categorical 時看 answer_text，例如 KYC 風險等級、是否須申報。
• **open_rubric_agent**（FinanceAgent-TW）：有 answer（參考答案）、rubric[]（逐條評分要點）和 requires_tools。
• **mcq**（FinLLM450 選擇題）：options 是選項代號，option_format 為 letter（A–D）或 number（1–4），answer 是正確選項清單（有 1 題複選）。
• **short_answer／case_study**（FinLLM450 短答與案例題）：reference_answer 是正確答案。reference 另存 APMIC 最終回覆與訓練思維鏈，只供參考，不參與評分。

messages 已經組好提示詞，要求模型最後一行以「答案：<數值>」作答。

使用方式

# 1. 跑題（先各取 100 題試跑）
python tools/run.py --data data/finqa_tw_test.jsonl data/convfinqa_tw_dev.jsonl data/finchain_tw.jsonl \
  --base-url http://localhost:8000/v1 --model my-model --out runs/my_model.jsonl --limit 100
#   關閉思考模式：--extra '{"chat_template_kwargs": {"enable_thinking": false}}'
#   中斷後重跑同一指令，會跳過已完成的題目

# 2. 評分（建議用與受測模型不同的模型當評審）
python tools/score.py --data data/*.jsonl --runs runs/my_model.jsonl --out reports/my_model \
  --judge-base-url http://judge-host:8080/v1 --judge-model judge-model

計分規則：

• 數值題：取最後一個「答案：」後的數值。相對誤差 ≤1% 或絕對誤差 ≤0.005 算對。百分比題同時接受 0.141 和 14.1% 兩種寫法，也支援「萬」「億」單位。
• ConvFinQA-TW：依原論文設定逐輪評測。第 k 輪會把前面各輪的標準答案放進對話歷史。
• FinChain-TW：除了最終答案正確率，另算 step_recall，也就是標準解答的中間數值有多少出現在模型輸出中。這是 ChainEval 的簡化版。原版 ChainEval 依賴英文嵌入模型，不適用中文，所以不採用。
• FinLLM450 選擇題：取「答案：」或 \boxed{} 內的選項，必須和正確選項完全相同（複選題要全對）。
• FinLLM450 短答與案例題：由 LLM 評審對照參考答案打 0–10 分，結論正確且 ≥7 分算通過。沒有設定評審模型時標為 pending。報表會另外列出各能力、各題型的通過率與平均分數。
• 結論題和 FinanceAgent-TW：
  • 設定評審模型時，結論題由 LLM 判定，FinanceAgent-TW 逐條檢查 rubric。
  • 沒有評審模型時，結論題改用關鍵詞比對，準確度較低；FinanceAgent-TW 則標為 pending，不計分。

驗證結果：把標準答案當成模型輸出跑評分，FinQA-TW、ConvFinQA-TW、FinChain-TW 都是 100%。把答案改錯 10% 後再跑，FinQA-TW 只剩約 1% 判對。

FinLLM450 的轉檔處理

• 全部 450 題都當評測題：依使用者決定。若之後要把這些題目拿去訓練，評測結果就只能代表「看過的題目」，需要另外切出保留題。
• 題號重複：有 9 組題號重複（18 題，內容不同），改用「序號」產生唯一 id（finllm450-0001…），原題號保留在 source.orig_qid。
• 答案格式：6 題（序號 131–136）選項是 (1)–(4)，答案欄卻寫成字母，已依 A→1、B→2 轉換，並確認與 APMIC 回覆的結論一致。其餘選擇題的標準答案也都和 APMIC 回覆結論逐題比對過，沒有不一致。
• 能力標籤：「銀行契約、擔保與支付法務能力」15 題歸入法規判讀與合規能力，「國際貿易與金融」2 題歸入金融知識查詢能力，原始標籤保留在 ability_original。
• 銀行團審題：25 題有審題意見，其中 9 題勾選「須修正」（Excel 內已是修正後內容），記錄在 meta.review_status。
• 評分重點欄全部空白：短答與案例題目前改用參考答案比對；之後補上評分重點，可再改成逐條評分。
• APMIC 回覆的文字問題：12 題的 APMIC 最終回覆或訓練思維鏈含簡體字，另有「杠杆」等中國用語。題目和正確答案本身沒有這個問題，但這些欄位若用於訓練，建議先修正。明細見 FinLLM450_資料問題清單.csv。

翻譯方式與品質檢查

1. 譯者與規範：由 Claude 分批翻譯，依 術語表_glossary_zh-TW.md 用台灣 IFRS 用語，例如籌資活動、本益比、選擇權、權益。
2. 規則檢查：每一題都通過以下檢查。
   • 原文每個阿拉伯數字都保留在譯文中。日期例外，例如 december 31 改寫成「12 月 31 日」也算通過。
   • 表格行列數不變。
   • 沒有簡體字，也沒有禁用的中國用語。
   • 沒有殘留整句英文。
3. FinChain 的驗證方式：原版和台灣版模板用同一組亂數種子生成題目，逐題比對題目和解答裡的所有數字，58 個主題全數一致。
4. 抽樣審查修正：抽樣審查 63 題後修正了以下問題。
   • 題意被改掉的題目，例如 FinanceAgent 的 MU 毛利率題。
   • million／billion 沒有翻譯。
   • long-term debt 原本一律譯成「長期負債」，改為「長期債務」。
   • 月份寫法改成「1 月 1 日」。
   • 表格中的 to 改成「至」。
   • 個別用語，例如「按市價評價」「流通在外」「暢貨中心」。

已知限制

• 內容仍是美國的：FinQA／ConvFinQA／FinanceAgent 的題目都來自美國上市公司財報和 SEC 文件，所以這份資料測的是「繁中環境下的財報推理能力」，不是台灣法規或台灣市場知識。台灣在地題目請搭配 finance_eval_v1 和後續自製題庫。
• 原文雜訊保留：FinQA 原始資料有 OCR 雜訊，例如把破折號誤轉成 2013／2014，或出現 201c。表格中這類雜訊照原樣保留，和英文版一致。少數自動產生的證據句原文就不通順，例如表頭只有一列的表格。
• FinChain 只換幣別、沒有換算金額：為了逐題驗證數值，金額只把 $ 改成 NT$，量級和原版相同，例如債券面額 NT$1,000、手續費 NT$0.08，不完全符合台灣實況。KYC／AML 這類有門檻的題目，門檻數字也沿用原版。公司名稱是虛構的台式名稱，和產業是隨機配對。
• FinChain 的模板修正與排除：
  • 原版有 3 個模板無法執行，台灣版已修正。這 30 題沒有英文原題可以對照。
  • bond_pricing 的 template_bp_medium2 原版公式有誤，會算出 −104% 的殖利率，這 10 題已排除。用 generate.py 重新產生時仍會包含這個模板，需要手動略過。
• FinanceAgent-TW 需要工具：原基準讓模型使用網路搜尋和 EDGAR 查詢。run.py 只做 closed-book 測試，分數僅供參考。部分金額保留 $6.8 billion 這類原文寫法，以配合題目要求的作答格式。
• 授權：FinQA／ConvFinQA 程式為 MIT，FinChain 為 Apache-2.0，FinanceAgent 資料依論文為 CC BY 4.0。翻譯版屬衍生作品，對外發布或商用前請先確認原始授權。
• 尚未收錄：FinBen（CFA、信用評分）和 FinMCP-Bench 的資料放在 HuggingFace 上，這次沒有下載。在上層資料夾執行 download_hf_datasets.sh 下載後，可以用同樣流程補做。