Datasets:
Dataset Card for tw-dgbas-corpus
📊 tw-dgbas-corpus 是把行政院主計總處全球資訊網（www.dgbas.gov.tw）整站有意義的內容—— 新聞稿（國民所得、物價、就業失業、薪資等統計結果與預決算說明）、公告事項、施政計畫與績效報告、年報、政府預算與會計制度說明、 解釋彙編與問答、內部控制與稽核教材、委託／自行研究報告、出國報告、性別平等與人權教育資料等—— 連同頁面上的 PDF／DOCX／ODT 附件，整理成可直接用於語言模型持續預訓練（continued pretraining）的繁體中文語料。 欄位格式比照 lianghsun/fineweb-edu-zhtw，可直接與其混合使用。
- 文件數：2,108
- token 數：1,503,929（tiktoken
cl100k_base） - 最近建置：2026-10-04
- 本版只含網頁正文：附件 PDF 仍有 858 份在 OCR 中，全部完成後的下一次同步會自動發布含附件的完整版本（屆時
doc_type會出現pdf／docx／odt）
Dataset Details
Dataset Description
本資料集以爬蟲走訪主計總處全球資訊網的完整導覽樹（cl.aspx 節點頁 → News*.aspx 列表逐頁翻完 → News_Content.aspx／cp.aspx 內容頁），
並以站方 sitemap.xml 補導覽樹沒連到的節點；內容頁正文與附件分別轉為純文字：
- 網頁：只取正文區塊（
#CCMS_Content），去掉導覽列、頁尾、點閱數、分享列、發布單位／新聞聯絡人欄、只寫「PDF／EXCEL／ODS」的附件連結等版面元素；表格轉為以「 | 」分隔的列。每篇以標題為第一行。 - PDF：一律逐頁以 150 DPI 轉圖後送 dots.ocr OCR API（layout prompt），
丟棄
Page-header／Page-footer／Picture區塊，表格 HTML 轉為以「 | 」分隔的列。不使用 PDF 內嵌文字層，避免掃描檔與字型編碼錯亂造成的亂碼。 - DOCX／ODT／TXT：直接解析文件結構取出段落與表格。
一份網頁與其每個附件各自為一筆；附件若與所屬網頁內容重複（附件 5-gram 有 80% 以上已出現在網頁正文），只保留網頁版；
有文字層的 PDF 會先用文字層做這個判斷，重複者不送 OCR（extracts.status = dup_of_page）。
預決算頁常把同一份文件同時提供成 PDF／WORD／ODT 或 PDF／EXCEL／ODS：同頁有同名 ODT／DOCX 時直接取可編輯版的文字、PDF 不送 OCR（dup_of_text_sibling）；
同名只有試算表版本的 PDF 視為數字報表、不收（table_pdf，本版 7,851 份；有同名文字版而免 OCR 的 524 份）。
數字報表頁也不送 OCR：有文字層的 PDF 逐頁檢查，文字層有 40% 以上字元是數字的頁（預決算表、統計新聞稿附表）略過，只 OCR 其餘頁；
掃描檔先 OCR 第 1 頁與中間頁當探針，兩頁都是數字報表就整份不收；OCR 結果中是數字報表的頁也不放進文字。整份都是數字報表的 PDF 記為 numeric_report（本版 499 份）。
- Curated by: Liang Hsun Huang
- Language(s) (NLP): Traditional Chinese
- License: 政府資料開放授權條款－第 1 版（依主計總處政府網站資料開放宣告）
Dataset Sources
- Source: https://www.dgbas.gov.tw/
- Repository: lianghsun/tw-dgbas-corpus
收錄範圍與排除
只收 www.dgbas.gov.tw 本站。中華民國統計資訊網（www.stat.gov.tw）、主計法規資料庫（law.dgbas.gov.tw）、總預算查詢、統計資料庫、電子書平台等 獨立網站與查詢系統不在本資料集範圍；全國法規資料庫與判決書依需求不收。另外排除個資密集、轉載或無語料價值的區塊：
| 範圍 | 排除理由 |
|---|---|
節點 n=1777 |
內部稽核教師名單（名冊） |
節點 n=1972 |
公職人員及關係人身分關係揭露公開專區（個人身分揭露） |
節點 n=1798 |
招標資訊（採購公告） |
節點 n=1826 |
本總處會計月報資料（數字報表） |
節點 n=1827 |
原電子處理資料中心會計月報資料（數字報表） |
節點 n=1831 |
本總處單位預算（數字報表） |
節點 n=1832 |
本總處單位決算（數字報表） |
節點 n=1833 |
原電子處理資料中心單位預算（數字報表） |
節點 n=1834 |
原電子處理資料中心決算資料（數字報表） |
節點 n=1837 |
政策宣導相關廣告（表格清單） |
節點 n=4699 |
因公派員出國考察費用執行情形（表格清單） |
節點 n=1839 |
發文代字表（代碼清單） |
節點 n=1562 |
重要網站連結（外部連結清單） |
節點 n=1902 |
相關網站（外部連結清單） |
節點 n=1903 |
主題連結（外部連結清單） |
節點 n=1898 |
線上服務（外部連結清單） |
節點 n=1767 |
內部控制聲明書（制式聲明） |
節點 n=1970 |
跨機關流用情形（數字報表） |
節點 n=1528 |
中央政府總預算第二預備金動支數額表（數字報表） |
節點 n=1888 |
第二預備金動支情形（數字報表） |
節點 n=1887 |
救災經費（數字報表） |
節點 n=4513 |
各中央機關總預算編列電力相關設備之修繕、養護及更換情形表（數字報表） |
節點 n=3603 |
資訊安全政策（網站管理頁） |
節點 n=3604 |
隱私權宣告（網站管理頁） |
節點 n=3605 |
政府網站資料開放宣告（網站管理頁） |
節點 n=3607 |
無障礙宣告（網站管理頁） |
節點 n=1974 |
著作權聲明（網站管理頁） |
節點 n=3744 |
訂閱 RSS（網站管理頁） |
節點 n=3597 |
機關聯絡資訊（電話地址） |
節點 n=3598 |
網站服務電話（電話地址） |
節點 n=3599 |
通訊地址（電話地址） |
節點 n=3740 |
電話總機（電話地址） |
頁型 News_hyperlink.aspx |
各機關預決算、宣導經費等連結平台（外部連結清單） |
頁型 News_SP_Budget.aspx |
特別預算查詢（動態查詢表） |
頁型 News_Photo3.aspx |
視覺化查詢專區（圖表） |
頁型 News_Video3.aspx |
多媒體影像（影音） |
頁型 News_Video_Content.aspx |
多媒體影像（影音） |
頁型 Advanced_Search.aspx |
站內搜尋 |
頁型 Message_dgbas.aspx |
主計長信箱（表單） |
頁型 Epaper.aspx |
電子報訂閱（表單） |
頁型 SiteMap.aspx |
網站導覽 |
頁型 Rss.aspx |
RSS |
影音、圖片、試算表（xls/xlsx/ods/csv）、壓縮檔附件不處理；.doc（舊版 Word）目前不處理。
扣掉數字報表頁後仍超過 100 頁的 PDF（多為整本預算書／決算書彙編）不送 OCR（本版共 2 份），之後可能分批補上。
中文字占比低於 20% 的文件（幾乎都是數字統計表）在建置時濾掉。
Uses
Direct Use
- 繁體中文、台灣政府預算／會計／統計領域的持續預訓練語料；可與 fineweb-edu-zhtw 等通用語料混合。
- 政府財政、主計制度、官方統計解讀（國民所得、物價、就業、薪資、家庭收支、普查）等主題的領域適應（domain-adaptive pretraining）。
Out-of-Scope Use
- 不應作為統計數字或預算金額的權威來源：數字請以主計總處統計資料庫與正式出版品為準；OCR 可能讀錯數字。
- 本資料集不含指令－回應結構，不直接適用於 SFT；「答客問」類文件雖為問答體，仍以原文形式收錄。
- 不得用於識別、追蹤或評價特定個人。
Dataset Structure
一筆一份文件，單一 train split。前 13 欄與 fineweb-edu-zhtw 的同名欄位定義相同，其後為本資料集特有欄位。
| 欄位 | 說明 |
|---|---|
text |
文件全文（網頁以標題為首行） |
id |
<urn:dgbas:news:S>（新聞／列表內容頁）、<urn:dgbas:cp:N>（單頁內容）或 <urn:dgbas:media:ID>（附件） |
dump |
抓取批次，DGBAS-YYYY-MM |
url |
內容頁網址或附件下載網址 |
date |
本筆最近一次抓取時間 |
file_path |
內容頁：本地原始 HTML 封存路徑；附件：檔案網址 |
language / language_score / language_script / top_langs |
GlotLID 語言辨識結果（同 fineweb 系列） |
avg_words_per_line / word_count |
詞數（CJK 逐字 + 英數逐詞，與 fineweb-edu-zhtw 同算法） |
token_count |
tiktoken cl100k_base token 數 |
title |
標題；附件為「所屬頁標題｜檔名（或附件說明）」 |
section |
網站麵包屑路徑，例如 公告資訊 > 新聞稿及即時新聞澄清專區 |
list_title |
所在列表頁名稱 |
doc_type |
html / pdf / docx / odt / txt |
extraction |
html / ocr:dots.ocr / docx / odt / txt |
parent_url |
附件所屬內容頁網址（網頁本身與列表直掛檔案為 null） |
published_date / updated_date |
網站標示的發布日期、最後更新日期（ISO，民國年已轉西元） |
ocr_pages |
OCR 的 PDF 頁數 |
content_sha1 |
去空白後全文的 SHA-1（用於增量同步比對） |
各區塊分布
| 網站大類 | 文件數 | token 數 |
|---|---|---|
| 公告資訊 | 1,237 | 699,229 |
| 主要業務 | 656 | 597,649 |
| 關於主計總處 | 84 | 150,350 |
| 機關業務資訊 | 72 | 36,764 |
| 資訊公開 | 59 | 19,937 |
第二層區塊（前 40）
| 區塊 | 文件數 |
|---|---|
| 公告資訊 > 新聞稿及即時新聞澄清專區 | 1,048 |
| 主要業務 > 政府預算 | 403 |
| 主要業務 > 預算執行及決算 | 245 |
| 公告資訊 > 公告事項 | 188 |
| 機關業務資訊 > 答客問 | 72 |
| 關於主計總處 > 主計故事 | 54 |
| 資訊公開 > 兩公約人權教育專區 | 26 |
| 資訊公開 > 性別平等專區 | 16 |
| 關於主計總處 > 本總處單位 | 13 |
| 關於主計總處 > 主計總處簡介 | 12 |
| 資訊公開 > 主計廉政 | 7 |
| 主要業務 > 資訊管理 | 4 |
| 關於主計總處 > 首長、副首長簡介 | 3 |
| 主要業務 > 政府會計 | 2 |
| 資訊公開 > 政府資訊公開 | 2 |
| 資訊公開 > 出版品及普(抽)查資料 | 2 |
| 資訊公開 > 永續發展專區 | 2 |
| 主要業務 > 政府內稽 | 2 |
| 關於主計總處 > 施政願景 | 1 |
| 資訊公開 > 遊說資訊專區 | 1 |
| 資訊公開 > 行政業務 | 1 |
| 資訊公開 > 行政院及所屬各主管機關對民間團體補(捐)助案件資訊平台 | 1 |
| 公告資訊 > 個資保護專區 | 1 |
| 資訊公開 > 性騷擾防治專區 | 1 |
| 關於主計總處 > 本總處性別平等專案小組 | 1 |
抽取方式
| extraction | 文件數 | token 數 |
|---|---|---|
| html | 2,108 | 1,503,929 |
語言辨識
| language_script | 文件數 |
|---|---|
| cmn_Hani | 2,016 |
| jpn_Jpan | 34 |
| kor_Hang | 19 |
| tir_Ethi | 16 |
| yue_Hani | 13 |
| amh_Ethi | 4 |
| azj_Latn | 3 |
| deu_Latn | 1 |
發布年份
| 年份 | 文件數 |
|---|---|
| 2022 | 1,323 |
| 2024 | 183 |
| 2025 | 137 |
| 2023 | 127 |
| 2026 | 114 |
| 2004 | 45 |
| ???? | 40 |
| 2010 | 36 |
| 2021 | 13 |
| 2019 | 11 |
| 2015 | 9 |
| 2006 | 8 |
| 2018 | 8 |
| 2008 | 7 |
| 2011 | 7 |
| 2012 | 7 |
| 2013 | 7 |
| 2007 | 5 |
| 2005 | 4 |
| 2009 | 4 |
| 2017 | 4 |
| 2020 | 4 |
| 2014 | 3 |
| 2016 | 2 |
Dataset Creation
Curation Rationale
主計總處網站累積多年的統計新聞稿、預決算說明、會計制度與內部控制教材、研究報告，是台灣政府財政與官方統計領域少見的大量、權威、以正體中文書寫的公開文本， 但散落在上萬個網頁與 PDF 中。本資料集把它整理成可直接訓練的形式，並以增量同步維持更新。
Source Data
Data Collection and Processing
- 探索：自首頁開始 BFS 走訪所有
cl.aspx節點頁與News*.aspx列表頁（分類篩選參數_CSN一律去掉，整張列表逐頁翻完），再以sitemap.xml補孤兒節點；正文內連到的其他內容頁也一併補抓。 - 抓取：內容頁存原始 HTML，解析標題、發布日期（
DC.Date）、更新日期、麵包屑、附件；附件（ws.dgbas.gov.tw）下載原檔。 - 抽取：如上節所述（HTML 正文 / dots.ocr / 文件結構）。OCR 逐頁快取，失敗頁會在下一次同步重試。
- 過濾：去掉少於 60 字或只有標題的空殼頁、中文字占比低於 20% 的文件、與所屬網頁重複的附件、全文完全相同的文件（保留發布日期最早者）。
- 增量同步：每日 cron 只翻列表頁前段抓新項目；每週一次完整重走並重抓所有內容頁，以正文雜湊判定是否更新、以「本輪未再出現」判定下架。 每次建置與上一版 manifest 比對，只有內容有增刪改時才產生新版本。
Who are the source data producers?
中華民國行政院主計總處及其各處室。
Personal and Sensitive Information
網站為公開資訊，但仍包含公務員姓名與職稱、新聞稿聯絡人電話等。新聞稿的「主辦單位／新聞聯絡人／電話」欄已自網頁正文移除； 名冊、公職人員身分關係揭露等個資密集區塊已整區排除。使用時請勿據以識別或評價特定個人。
Bias, Risks, and Limitations
- 內容為政府機關觀點與用語，具官方立場；「即時新聞澄清」類文件代表機關說法。
- 統計與預算文件數字密集；OCR 可能有錯字、數字誤讀、表格結構失真或閱讀順序錯誤，
extraction欄可用來區分。 - 網站內容有時效性，舊的統計結果、預算數字與制度說明可能已修正或不再適用。
- 抓取當下失敗或 OCR 未完成的項目不會出現在該版本中。
Recommendations
from datasets import load_dataset
ds = load_dataset("lianghsun/tw-dgbas-corpus", split="train")
# 只要網頁正文
html = ds.filter(lambda r: r["doc_type"] == "html")
# 只要新聞稿
pr = ds.filter(lambda r: "新聞稿" in (r["section"] or ""))
抓取狀態（最近一次同步）
- 內容項目狀態：gone 68, nocp 370, ok 4,045, skipped 242
- 文字抽取狀態：dup_of_page 3, dup_of_text_sibling 250, error 1, numeric_report 499, ok 7,907, partial 126, skipped_too_many_pages 2, table_pdf 341
- 過濾：drop_short 1,052, drop_exact_dup 213, drop_low_cjk_table 1, drop_title_only 16, drop_excluded_section 9
Changelog
| 建置時間 | 文件數 | token 數 | 新增 | 更新 | 移除 |
|---|---|---|---|---|---|
| 2026-10-04 12:44 | 2,108 | 1,503,929 | +2 | ~0 | -0 |
| 2026-10-02 19:43 | 2,106 | 1,502,445 | +1 | ~0 | -0 |
| 2026-10-01 16:30 | 2,105 | 1,502,080 | +1 | ~0 | -0 |
| 2026-09-30 15:28 | 2,104 | 1,501,916 | +2104 | ~0 | -0 |
Dataset Card Authors
Dataset Card Contact
- Downloads last month
- 12