Hugging Face's logo

Datasets:
lianghsun
/
tw-vac-corpus

Tasks:
Text Generation
Modalities:
Tabular
Text
Formats:
parquet
Languages:
Chinese
Size:
1K - 10K
Tags:
government
veterans
traditional-chinese
taiwan
pretraining
Libraries:
Datasets
pandas
Polars
License:
Dataset card Data Studio Files
xet
 Community

You need to agree to share your Hugging Face information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

Dataset Card for tw-vac-corpus

🎖️ tw-vac-corpus 是把國軍退除役官兵輔導委員會全球資訊網（www.vac.gov.tw）整站有意義的內容—— 新聞稿、最新消息、重大政策、就學／就業／就醫／就養／服務照顧等業務說明、提問彙編與常見問答、法律服務案例與法律常識、 施政計畫、研究報告、出版品、立法院業務報告等——連同頁面上的 PDF／DOCX／ODT 附件， 整理成可直接用於語言模型持續預訓練（continued pretraining）的繁體中文語料。 欄位格式比照 lianghsun/fineweb-edu-zhtw，可直接與其混合使用。

  • 文件數：2,787
  • token 數：2,098,412（tiktoken cl100k_base）
  • 最近建置：2026-10-04
  • 本版只含網頁正文：附件（PDF OCR／DOCX／ODT）處理目前暫停（尚有 766 份 PDF 未處理），恢復後的同步會自動發布含附件的完整版本

Dataset Details

Dataset Description

本資料集以爬蟲走訪輔導會全球資訊網（Hyweb GipOpen 版型）的完整導覽樹：每個導覽頁（np-*）、每個列表頁（lp-*）翻到最後一頁， 取得所有內容頁（cp-*）與列表上直接掛載的檔案（dl-*），內容頁正文裡連到的站內頁面也一併追蹤； 再把內容頁正文與附件分別轉為純文字：

  • 網頁：只取正文區塊（section.cp article），去掉導覽列、頁尾、發布資訊列、點閱數、分享列、附件清單、圖片圖說等版面元素； 表格轉為以「 | 」分隔的列；編輯器以 <br> 硬換行切斷的句子會接回。每篇以標題為第一行。
  • PDF：一律逐頁以 150 DPI 轉圖後送 dots.ocr OCR API， 丟棄 Page-header／Page-footer／Picture 區塊，表格 HTML 轉為以「 | 」分隔的列，中文語境的半形標點轉全形。 不使用 PDF 內嵌文字層，避免掃描檔與字型編碼錯亂造成的亂碼。
  • DOCX／ODT／TXT：直接解析文件結構取出段落與表格。

一份網頁與其每個附件各自為一筆；附件若與所屬網頁內容重複（附件 5-gram 有 80% 以上已出現在網頁正文，典型例子是新聞稿 PDF），只保留網頁版； 有文字層的 PDF 會先用文字層做這個判斷，重複者不送 OCR（extracts.status = dup_of_page）。

Dataset Sources

收錄範圍與排除

只收輔導會本部網站 www.vac.gov.tw；所屬機構（榮民服務處、榮家、榮民醫院、農場、訓練中心等）與附屬系統 （law.vac.gov.tw 法規系統、job.vac.gov.tw、edu.vac.gov.tw 等子網站）不在本資料集範圍，站外連結一律不追。 依需求不收全國法規資料庫與判決書。另外排除個資密集、轉載或無語料價值的區塊（節點編號，其下所有內容與附件一併排除）：

節點 排除理由
2141（https://www.vac.gov.tw/np-2141-1.html） 廉政表揚（每筆僅為受表揚人員單位、職稱、姓名的名冊）
2454（https://www.vac.gov.tw/np-2454-1.html） 性別平等專案小組委員名冊（名冊）
3530（https://www.vac.gov.tw/np-3530-1.html） 委員名冊（名冊）
3578（https://www.vac.gov.tw/np-3578-1.html） 委員名冊（名冊）
1791（https://www.vac.gov.tw/np-1791-1.html） 榮民遺留不動產標售（亡故榮民遺產標售／決標公告，含個人與地號資料，無語料價值）
1792（https://www.vac.gov.tw/np-1792-1.html） 安養機構床位資訊（各榮家床位數字表）
2407（https://www.vac.gov.tw/np-2407-1.html） 預算及決算（數字報表）
2408（https://www.vac.gov.tw/np-2408-1.html） 公務預決算（數字報表）
2409（https://www.vac.gov.tw/np-2409-1.html） 安置基金預算（數字報表）
2410（https://www.vac.gov.tw/np-2410-1.html） 醫療基金預算（數字報表）
2411（https://www.vac.gov.tw/np-2411-1.html） 榮工公司預決算（數字報表）
2413（https://www.vac.gov.tw/np-2413-1.html） 公務會計月報（數字報表）
2414（https://www.vac.gov.tw/np-2414-1.html） 安置基金決算（數字報表）
2415（https://www.vac.gov.tw/np-2415-1.html） 醫療基金決算（數字報表）
3166（https://www.vac.gov.tw/np-3166-1.html） 前瞻基礎建設計畫特別預算（數字報表）
2418（https://www.vac.gov.tw/np-2418-1.html） 支付或接受之補(捐)助（表格清單）
2421（https://www.vac.gov.tw/np-2421-1.html） 政策宣導相關廣告（經費支用彙整表）
2482（https://www.vac.gov.tw/np-2482-1.html） 國家賠償事件統計（統計表）
3683（https://www.vac.gov.tw/np-3683-1.html） 因公派員出國計畫考察費用執行情形（表格清單）

影音、圖片、試算表（xls/xlsx/ods/csv）、簡報、壓縮檔附件不處理；.doc（舊版 Word）目前不處理。 超過 400 頁的 PDF 不送 OCR（本版共 1 份）。

Uses

Direct Use

  • 繁體中文、台灣政府／社會福利領域的持續預訓練語料；可與 fineweb-edu-zhtw 等通用語料混合。
  • 退除役官兵輔導、榮民就醫就養、職業訓練、退除給付、軍人年金等主題的領域適應（domain-adaptive pretraining）。

Out-of-Scope Use

  • 不應作為權益、給付或法規現行規定的依據：網站內容有時效性，請以輔導會公告與全國法規資料庫為準。
  • 本資料集不含指令－回應結構，不直接適用於 SFT；「提問彙編」「常見問答」類文件雖為問答體，仍以原文形式收錄。
  • 不得用於識別、追蹤或評價特定個人。

Dataset Structure

一筆一份文件，單一 train split。前 13 欄與 fineweb-edu-zhtw 的同名欄位定義相同，其後為本資料集特有欄位。

欄位 說明
text 文件全文（網頁以標題為首行）
id <urn:vac:cp:NNN>（內容頁，NNN 為站方內容編號）或 <urn:vac:dl:NNN>（附件）
dump 抓取批次，VAC-YYYY-MM
url 內容頁網址或附件下載網址
date 本筆最近一次抓取時間
file_path 內容頁：本地原始 HTML 封存路徑；附件：檔案網址
language / language_score / language_script / top_langs GlotLID 語言辨識結果（同 fineweb 系列）
avg_words_per_line / word_count 詞數（CJK 逐字 + 英數逐詞，與 fineweb-edu-zhtw 同算法）
token_count tiktoken cl100k_base token 數
title 標題；附件為「所屬頁標題｜檔名」
section 網站麵包屑路徑，例如 訊息公告 > 最新消息
list_title 所在列表頁名稱
doc_type html / pdf / docx / odt / txt
extraction html / ocr:dots.ocr / docx / odt / txt
parent_url 附件所屬內容頁網址（網頁本身與列表直掛檔案為 null）
published_date / updated_date 網站標示的發布日期、最後更新日期（ISO，民國年已轉西元）
ocr_pages OCR 的 PDF 頁數
content_sha1 去空白後全文的 SHA-1（用於增量同步比對）

各區塊分布

網站大類 文件數 token 數
訊息公告 1,636 973,241
法律服務 449 558,562
一般服務 244 211,194
資訊公開 160 152,682
便民服務 141 50,224
主要服務 94 69,253
關於本會 21 10,983
分眾導覽 14 4,735
重大政策 9 6,605
主題專區 9 47,141
所屬機構 4 3,706
首頁資訊 4 2,600
年金專區 2 7,486
第二層區塊（前 40）
區塊 文件數
訊息公告 > 「退除役官兵懇談會」及「服務區座談會」專區 1,073
法律服務 > 法律服務案例暨法律常識專題 410
訊息公告 > 最新消息 325
一般服務 > 廉政專區 171
訊息公告 > 新聞資訊 137
便民服務 > 常見問答 122
資訊公開 > 本會出版品 67
訊息公告 > 就業資訊 63
一般服務 > 國際聯絡 47
資訊公開 > 永續發展專區(測試) 46
法律服務 > 法制作業規定及範例 25
主要服務 > 服務照顧 22
訊息公告 > 即時新聞澄清 21
關於本會 > 職掌與電話 17
主要服務 > 就業服務 16
一般服務 > 業務統計 16
便民服務 > 申辦表單下載 14
主要服務 > 就學服務 14
主要服務 > 就醫服務 13
主要服務 > 退除給付 12
一般服務 > 人事服務 10
資訊公開 > 消保專區 10
重大政策 9
主要服務 > 就養服務 9
主題專區 > 「我們一起寫榮民」徵文比賽 9
資訊公開 > 性別主流化專區 8
分眾導覽 > 榮民(第一類退除役官兵) 8
主要服務 > 職業訓練 8
訊息公告 > 影音專區 8
訊息公告 > 榮民節活動專區 7
法律服務 > 人權保障專區 7
資訊公開 > 員工協助方案(EAP)專區 7
資訊公開 > 研究報告 7
分眾導覽 6
便民服務 > 各項權益優惠懶人包 4
資訊公開 > 施政計畫 4
資訊公開 > 遊說法資訊專區 4
法律服務 > 國家賠償服務 4
法律服務 > 訴願及訴訟服務 3
首頁資訊 > 網站宣告 3

抽取方式

extraction 文件數 token 數
html 2,787 2,098,412

語言辨識

language_script 文件數
cmn_Hani 2,784
anp_Deva 1
eng_Latn 1
nan_Hani 1

發布年份

年份 文件數
???? 887
2016 431
2026 254
2021 183
2023 158
2019 149
2020 148
2025 142
2022 129
2024 119
2018 83
2017 65
2008 11
2014 10
2015 4
2011 3
2012 3
2013 3
2009 2
2010 2
2006 1

Dataset Creation

Curation Rationale

輔導會網站累積十年以上的新聞稿、政策說明、各項服務照顧措施、問答與出版品，是台灣退除役官兵、榮民照護與相關社會福利領域 少見的大量、權威、以正體中文書寫的公開文本，但散落在數千個網頁與 PDF 中。本資料集把它整理成可直接訓練的形式，並以增量同步維持更新。

Source Data

Data Collection and Processing

  1. 探索：自首頁開始 BFS 走訪所有 np-*（導覽）與 lp-*（列表）頁，列表頁以每頁 60 筆逐頁翻完（lp-<節點>-1-<頁>-60.html）； 導覽頁轉址到單篇內容者直接收為內容頁；站方 sitemap.xml 列出而導覽樹沒走到的節點再補走一次。
  2. 抓取：內容頁存原始 HTML，解析標題、發布／更新日期、麵包屑、附件（dl-*，檔名取自 Content-Disposition）；附件下載原檔。
  3. 抽取：如上節所述（HTML 正文 / dots.ocr / 文件結構）。OCR 逐頁快取，失敗頁會在下一次同步重試。
  4. 過濾：去掉少於 40 字或只有標題的空殼頁、中文字占比低於 20% 的文件（幾乎都是數字統計表）、與所屬網頁重複的附件、全文完全相同的文件（保留發布日期最早者）。
  5. 增量同步：每日 cron 只翻列表頁前段抓新項目；每週日完整重走並重抓所有內容頁，以正文雜湊判定是否更新、以「本輪未再出現」判定下架。 每次建置與上一版 manifest 比對，只有內容有增刪改時才產生新版本。

Who are the source data producers?

中華民國國軍退除役官兵輔導委員會及其各處室。

Personal and Sensitive Information

網站為公開資訊，但仍包含公務員姓名與職稱、新聞稿聯絡人電話、活動與表揚報導中的人名，以及遮蔽後的陳情人／訴願人姓名。 個資密集的名冊類區塊已整區排除（見上表）。使用時請勿據以識別或評價特定個人。

Bias, Risks, and Limitations

  • 內容為政府機關觀點與用語，具官方立場；「即時新聞澄清」類文件代表機關說法。
  • OCR 可能有錯字、表格結構失真或閱讀順序錯誤，尤其是掃描品質差的舊文件；extraction 欄可用來區分。
  • 網站內容有時效性，舊的政策、法規說明可能已不適用。
  • 抓取當下失敗或 OCR 未完成的項目不會出現在該版本中。

Recommendations 

from datasets import load_dataset
ds = load_dataset("lianghsun/tw-vac-corpus", split="train")
# 只要網頁正文
html = ds.filter(lambda r: r["doc_type"] == "html")
# 只要提問彙編
qa = ds.filter(lambda r: "提問彙編" in (r["section"] or "") or r["list_title"] == "提問彙編")

抓取狀態（最近一次同步）

  • 內容項目狀態：excluded 876, gone 22, new 10, ok 3,603
  • 文字抽取狀態：dup_of_page 26, error 17, ok 5,702, partial 1, skipped_too_many_pages 1
  • 過濾：drop_short 525, drop_exact_dup 18, drop_title_only 37, drop_low_cjk_table 2

Changelog

建置時間 文件數 token 數 新增 更新 移除
2026-10-04 18:17 2,787 2,098,412 +9 ~4 -15
2026-09-30 11:52 2,793 2,104,122 +2793 ~0 -0

Dataset Card Authors

Liang Hsun Huang

Dataset Card Contact

Liang Hsun Huang
Downloads last month
9
Total file size:
2.17 MB