📈 tw-ndc-corpus 是把國家發展委員會全球資訊網（www.ndc.gov.tw）整站有意義的內容—— 新聞稿、委員會議紀錄、重大政策與國家發展計畫、經濟／社會／產業／人力／國土規劃等主要業務說明、景氣指標與經濟情勢說明、施政計畫與立法院業務報告、委託研究報告、出版品、常見問答等——連同頁面上的 PDF／DOCX／ODT／PPTX 附件，整理成可直接用於語言模型持續預訓練（continued pretraining）的繁體中文語料。欄位格式比照 lianghsun/fineweb-edu-zhtw，可直接與其混合使用。

文件數：3,695
token 數：6,026,996（tiktoken cl100k_base）
最近建置：2026-10-04
本版只含網頁正文：附件 PDF 仍有 3,088 份在 OCR 中，全部完成後的下一次同步會自動發布含附件的完整版本（屆時 doc_type 會出現 pdf／docx／odt／pptx）

Dataset Details

Dataset Description

本資料集以爬蟲走訪國發會網站的完整網站導覽樹（SiteMap.aspx，約兩千個節點）與 sitemap.xml：每個節點頁（Content_List／Content_NoList／cp）本身收為一筆，每個列表頁（News*.aspx）以 GET 分頁翻到最後一頁，取得所有內容頁（nc_* 短網址、News_Content*.aspx、Active_Content.aspx）與列表上直接掛載的檔案，再把正文與附件分別轉為純文字：

網頁：只取正文區塊（#data_midlle），去掉頁首選單、左側選單、頁尾、分享列、子節點清單、分頁列、相關檔案／相關連結清單等版面元素；排版用的 <table> 依段落展開，資料表格轉為以「 | 」分隔的列。每篇以標題為第一行。
PDF：一律逐頁以 150 DPI 轉圖後送 dots.ocr OCR API，丟棄 Page-header／Page-footer／Picture 區塊，表格 HTML 轉為以「 | 」分隔的列。不使用 PDF 內嵌文字層，避免掃描檔與字型編碼錯亂造成的亂碼。
DOCX／ODT／PPTX／ODP／TXT：直接解析文件結構取出段落與表格。
同一份文件的多種格式：國發會常把同一份文件同時以 ODT、PDF、DOCX 發布；同一頁面下檔名相同者只處理一份，優先順序為 docx > odt > pptx > odp > txt > pdf（能直接取文字者優先，減少 OCR）。

一份網頁與其每個附件各自為一筆；附件若與所屬網頁內容重複（附件 5-gram 有 80% 以上已出現在網頁正文），只保留網頁版；有文字層的 PDF 會先用文字層做這個判斷，重複者不送 OCR（extracts.status = dup_of_page）。

Curated by: Liang Hsun Huang
Language(s) (NLP): Traditional Chinese
License: 政府資料開放授權條款－第 1 版（政府網站公開資訊）

Dataset Sources

Source: https://www.ndc.gov.tw/
Repository: lianghsun/tw-ndc-corpus

收錄範圍與排除

只收國發會全球資訊網（www.ndc.gov.tw 與其附件主機 ws.ndc.gov.tw）本身的內容；不收全國法規資料庫與判決書，也不收所屬機關與專題網站（檔案管理局、地方創生、外國專業人才延攬、景氣指標查詢系統、重要性別統計資料庫、政府出版品、英文版網站等獨立網站）。網站功能頁（全文檢索、民意信箱、電子報訂閱、RSS、影音、法規鬆綁建言系統）不收。另外依網站導覽樹整個子樹排除個資密集、轉載或無語料價值的區塊：

網站導覽節點	排除理由
資訊專區 > 政府資訊公開 > 預算資訊（`n=152BE6866927E087`）	預算資訊（預算書數字報表）
資訊專區 > 政府資訊公開 > 決算資訊（`n=67844849603A785A`）	決算資訊（決算書數字報表）
主要業務 > 促進產業發展 > 精進新創發展環境 > 相關政府創業資源連結 > 國家發展委員會強化創新創業國際鏈結補助作業要點（`n=17E5A1FA758E2C0E`）	補助資訊（表格清單）
資訊專區 > 政府資訊公開 > 招標及促參資訊（`n=CBE15870BB9C7B22`）	招標及促參資訊（採購公告）
資訊專區 > 政府資訊公開 > 決標資訊（`n=7627FAFB7484A9B6`）	決標資訊（採購公告）
資訊專區 > 政府資訊公開 > 政策宣導相關廣告預算（`n=F3AA55AD8C01F9D7`）	政策宣導相關廣告預算（表格清單）
資訊專區 > 政府資訊公開 > 派員出國計畫及旅費預算表（`n=D84E7647954D6FDD`）	派員出國計畫及旅費預算表（數字報表）
資訊專區 > 政府資訊公開 > 因公派員出國考察費用執行情形（`n=F5B8E49CB4548C60`）	因公派員出國考察費用執行情形（表格清單）
資訊專區 > 政府資訊公開 > 辦理國家賠償事件統計（`n=DBA323A55631B425`）	辦理國家賠償事件統計（數字報表）
資訊專區 > 政府資訊公開 > 辦理人民申請提供政府資訊案件統計專區（`n=0EEE11D049B78706`）	辦理人民申請提供政府資訊案件統計（數字報表）
資訊專區 > 法制及行政救濟 > 訴願決定書查詢（`n=5EF7D4A97BA1D613`）	訴願決定書（載有訴願人等當事人資料，比照判決書不收）
服務園地 > 徵才資訊（`n=3CB321F1D5D4616A`）	徵才資訊（職缺公告與甄選結果名單，個資）
服務園地 > 人權及兩公約教育訓練專區 > 兩公約人權教育訓練種子教師名單（`n=25BC41A72EE3B492`）	兩公約人權教育訓練種子教師名單（名冊）
服務園地 > 廉政園地 > 國發會與民間團體合作身分自主檢視聲明書及身分揭露表（`n=CD3CEF1487178D5F`）	與民間團體合作身分自主檢視聲明書及身分揭露表（表單）
服務園地 > 相關連結（`n=AAA85B9492F854A1`）	相關連結（外部網站連結清單）
資訊專區 > 性別平等專區 > 會外相關連結（`n=1548C55E3AB0950B`）	性別平等會外相關連結（外部網站連結清單）
服務園地 > 退休人員服務專區 > 好站連結（`n=22C3979E4EC1D3CF`）	退休人員好站連結（外部網站連結清單）
服務園地 > 相關連結 > 行政院政策櫥窗（`n=B1AF174857832893`）	行政院政策櫥窗（轉載行政院內容，非本會內容）
資訊專區 > 雙語查詢對照（`n=C526D22344F1DACE`）	雙語查詢對照（中英詞彙對照表）
關於本會 > 院長施政報告（`n=7F220D7E656BE749`）	院長施政報告（連到行政院網站，非本會內容）

影音、圖片、試算表（xls/xlsx/ods/csv）、壓縮檔附件不處理；.doc（舊版 Word）若無其他格式可用則不處理。 PDF 分兩階段 OCR：共用 OCR 端點產能有限，全站 PDF 約 20 萬頁。第一輪只 OCR 不超過 20 頁的 PDF；較長的 PDF（研究報告、計畫書等）之後每次同步依頁數由小到大補上，每有進度就發布新版。本版尚待補 OCR 的長 PDF：663 份；超過 400 頁不處理：0 份。

Uses

Direct Use

繁體中文、台灣總體經濟、國家發展規劃、產業／人力／國土政策與政府績效管考領域的持續預訓練語料；可與 fineweb-edu-zhtw 等通用語料混合。
經濟、公共政策領域的領域適應（domain-adaptive pretraining）。

Out-of-Scope Use

不應作為現行政策或統計數字的依據：網站內容有時效性，最新數據請以國發會與主計總處公布為準。
本資料集不含指令－回應結構，不直接適用於 SFT；「常見問答」類文件雖為問答體，仍以原文形式收錄。
不得用於識別、追蹤或評價特定個人。

Dataset Structure

一筆一份文件，單一 train split。前 13 欄與 fineweb-edu-zhtw 的同名欄位定義相同，其後為本資料集特有欄位。

欄位	說明
`text`	文件全文（網頁以標題為首行）
`id`	`<urn:ndc:nc:A_B>`（新聞類內容頁）、`<urn:ndc:news:S>`、`<urn:ndc:node:N>`（節點頁）、`<urn:ndc:cp:S>`（單頁）、`<urn:ndc:media:M>`（附件）
`dump`	抓取批次，`NDC-YYYY-MM`
`url`	內容頁網址或附件下載網址
`date`	本筆最近一次抓取時間
`file_path`	內容頁：本地原始 HTML 封存路徑；附件：檔案網址
`language` / `language_score` / `language_script` / `top_langs`	GlotLID 語言辨識結果（同 fineweb 系列）
`avg_words_per_line` / `word_count`	詞數（CJK 逐字 + 英數逐詞，與 fineweb-edu-zhtw 同算法）
`token_count`	tiktoken `cl100k_base` token 數
`title`	標題；附件為「所屬頁標題｜檔名」
`section`	網站導覽路徑，例如 `主要業務 > 經濟發展規劃 > 景氣指標`
`list_title`	所在列表／節點頁名稱
`doc_type`	`html` / `pdf` / `docx` / `odt` / `pptx` / `odp` / `txt`
`extraction`	`html` / `ocr:dots.ocr` / `docx` / `odt` / `pptx` / `odp` / `txt`
`parent_url`	附件所屬內容頁網址（網頁本身與列表直掛檔案為 null）
`published_date` / `updated_date`	網站標示的發布日期、最後更新日期（ISO）
`ocr_pages`	OCR 的 PDF 頁數
`content_sha1`	去空白後全文的 SHA-1（用於增量同步比對）

各區塊分布

網站大類	文件數	token 數
關於本會	2,573	3,751,850
主要業務	1,104	2,263,423
委託研究	11	7,557
服務園地	4	820
（未分類）	2	2,489
資訊專區	1	857

第二層區塊（前 40）

區塊	文件數
關於本會 > 新聞稿	1,652
主要業務 > 經濟發展規劃	652
關於本會 > 本會動態	561
主要業務 > 社會發展規劃	209
關於本會 > 即時新聞澄清專區	155
關於本會 > 委員會決議	144
主要業務 > 績效管考	103
主要業務 > 人力資源發展	43
主要業務 > 法制協調	39
關於本會 > 政策報乎您知	38
主要業務 > 國土空間規劃與發展	32
主要業務 > 國家發展規劃	23
關於本會 > 認識本會	18
委託研究	11
關於本會 > 認識正副首長	4
服務園地 > 活動報名	2
主要業務 > 促進產業發展	2
	2
服務園地 > 常見問答	1
主要業務 > 國家發展基金	1
關於本會 > 本會社群	1
資訊專區 > 性別平等專區	1
服務園地 > 廉政園地	1

抽取方式

extraction	文件數	token 數
html	3,695	6,026,996

語言辨識

language_script	文件數
cmn_Hani	3,675
yue_Hani	11
eng_Latn	6
jpn_Jpan	2
anp_Deva	1

發布年份

年份	文件數
2023	357
????	354
2014	296
2026	273
2015	255
2022	254
2024	246
2025	232
2018	224
2017	212
2016	199
2019	172
2021	163
2020	139
2013	46
2003	33
2009	33
2010	28
2012	26
2008	24
2011	24
2007	22
2001	18
2004	18
2002	16
2005	14
2006	14
2000	3

Dataset Creation

Curation Rationale

國發會是台灣國家發展規劃、總體經濟與景氣判斷、公共建設審議與政府績效管考的樞紐機關，網站累積了大量新聞稿、委員會議紀錄、中長期國家發展計畫、景氣指標說明、委託研究報告等權威正體中文文本，但散落在數千個網頁與附件中。本資料集把它整理成可直接訓練的形式，並以增量同步維持更新。

Source Data

Data Collection and Processing

探索：讀取網站導覽頁建立節點樹（用於分類路徑與整子樹排除），自首頁、導覽樹與 sitemap.xml 出發 BFS 走訪所有節點頁與列表頁；列表頁以 page=／PageSize= 逐頁翻完；Common/HitCount.ashx 計數轉址在下載時解析為實際檔案。網站前有 Cloudflare，以 curl_cffi 模擬瀏覽器連線。
抓取：內容頁存原始 HTML，解析標題、發布／更新日期（頁面 JSON-LD）、發布單位、附件；附件下載原檔。
抽取：如上節所述（HTML 正文 / dots.ocr / 文件結構）。OCR 逐頁快取，失敗頁會在下一次同步重試。
過濾：去掉少於 60 字或只有標題的空殼頁（多數節點頁只是子目錄或附件清單）、中文字占比低於 20% 的文件（幾乎都是數字統計表或英文版文件）、與所屬網頁重複的附件、全文完全相同的文件（保留發布日期最早者）。
增量同步：每日 cron 只翻列表頁前段抓新項目；每週一次完整重走並重抓所有內容頁，以正文雜湊判定是否更新、以「本輪未再出現」判定下架。每次建置與上一版 manifest 比對，只有內容有增刪改時才產生新版本。

Who are the source data producers?

中華民國國家發展委員會及其各處室。

Personal and Sensitive Information

網站為公開資訊，但仍包含首長與公務員姓名、職稱，委員會議出列席人員名單，新聞稿聯絡人與電話等。訴願決定書、甄選結果名單、種子教師名單等個資密集區塊已整區排除。使用時請勿據以識別或評價特定個人。

Bias, Risks, and Limitations

內容為政府機關觀點與用語，具官方立場；「即時新聞澄清」類文件代表機關說法。
OCR 可能有錯字、表格結構失真或閱讀順序錯誤，尤其是圖表多的簡報與掃描品質差的舊文件；extraction 欄可用來區分。
景氣指標、經濟統計類文件含大量數字，時效性強。
抓取當下失敗或 OCR 未完成的項目不會出現在該版本中。

Recommendations

from datasets import load_dataset
ds = load_dataset("lianghsun/tw-ndc-corpus", split="train")
# 只要網頁正文
html = ds.filter(lambda r: r["doc_type"] == "html")
# 只要新聞稿
pr = ds.filter(lambda r: (r["list_title"] or "") == "新聞稿")

抓取狀態（最近一次同步）

內容項目狀態：new 15, ok 6,749
文字抽取狀態：deferred_long 663, dup_of_page 25, error 16, ok 11,948, partial 610
過濾：drop_short 2,436, drop_exact_dup 212, drop_title_only 11, drop_low_cjk_table 11

Changelog

建置時間	文件數	token 數	新增	更新	移除
2026-10-04 07:05	3,695	6,026,996	+2	~0	-0
2026-10-02 13:49	3,693	6,024,144	+2	~0	-0
2026-10-01 17:05	3,691	6,015,897	+2	~0	-0
2026-09-30 16:44	3,689	6,014,026	+3689	~0	-0

Dataset Card Authors

Liang Hsun Huang

Dataset Card Contact

Liang Hsun Huang

Downloads last month: 9

Total file size:

5.16 MB