🛡️ tw-mnd-corpus 是把國防部全球資訊網（www.mnd.gov.tw）整站有意義的內容—— 新聞稿與新聞澄清、本部新聞、區域動態（共軍臺海周邊活動）、行政公告、常見問答、重要政策、施政計畫與施政績效、立法院業務報告、國防報告書、國防總檢討（QDR）、業務統計及研究報告、人權／性平／廉政專區、國防創新等—— 連同頁面上的 PDF／DOCX／ODT 附件，整理成可直接用於語言模型持續預訓練（continued pretraining）的繁體中文語料。欄位格式比照 lianghsun/fineweb-edu-zhtw，可直接與其混合使用。

文件數：11,602
token 數：5,604,764（tiktoken cl100k_base）
最近建置：2026-10-04
本版只含網頁正文：附件 PDF 仍有 179 份在 OCR 中，全部完成後的下一次同步會自動發布含附件的完整版本（屆時 doc_type 會出現 pdf／docx／odt）

Dataset Details

Dataset Description

本資料集以爬蟲走訪國防部全球資訊網的完整導覽樹：首頁與網站導覽的每個導覽頁、每個列表頁翻到最後一頁，取得所有內容頁與列表上直接掛載的檔案；站上內容 ID 是全站共用的流水號，完整同步時另外把整段 ID 區間逐一打開，當作覆蓋率的對照組並補回列表已不再連結、但仍在線上的孤兒頁（本版有 7,007 筆內容項目是這樣補回的）。再把內容頁正文與附件分別轉為純文字：

網頁：只取正文區塊（.maincontent；少數靜態頁取正文區並去掉卡片、按鈕等版面元素），去掉導覽列、頁尾、分享列、點閱／下載次數、關鍵字標籤、附件清單等；表格轉為以「 | 」分隔的列。每篇以標題為第一行。
PDF：一律逐頁以 150 DPI 轉圖後送 dots.ocr OCR API，丟棄 Page-header／Page-footer／Picture 區塊，表格 HTML 轉為以「 | 」分隔的列。不使用 PDF 內嵌文字層，避免掃描檔與字型編碼錯亂造成的亂碼。
DOCX／ODT／TXT：直接解析文件結構取出段落與表格。

一份網頁與其每個附件各自為一筆；附件若與所屬網頁內容重複（附件 5-gram 有 80% 以上已出現在網頁正文，典型例子是新聞稿 PDF），只保留網頁版；有文字層的 PDF 會先用文字層做這個判斷，重複者不送 OCR（extracts.status = dup_of_page）。英文版 PDF（檔名標明英文，或文字層幾乎全是拉丁字母）不送 OCR。

Curated by: Liang Hsun Huang
Language(s) (NLP): Traditional Chinese
License: 政府資料開放授權條款－第 1 版（依國防部網站政府網站資料開放宣告）

Dataset Sources

Source: https://www.mnd.gov.tw/
Repository: lianghsun/tw-mnd-corpus

收錄範圍與排除

依需求不收全國法規資料庫與國防法規資料庫（law.mnd.gov.tw）、判決書（本站「軍法案件裁判書」）；所屬機關（陸海空軍司令部、全民防衛動員署、國防大學、軍醫局、政治作戰局等）的獨立網站不在本資料集範圍。另外排除個資密集、非中文或無語料價值的區塊：

規則	排除理由
路徑 `/en`	英文版網站（非中文語料）
路徑 `/tag/`	關鍵字彙整頁（與內容頁重複）
路徑 `/search`	站內搜尋
路徑 `/relatedlinks`	相關連結（外站連結清單）
路徑 `/news/medialist`	影音專區（YouTube 影片）
路徑 `/informationservices/bilingualglossary`	中英詞彙對照（逐條詞彙表，非連續文本）
路徑 `/informationservices/budgetandfinalaccounts`	預算及決算書、會計月報（數字報表）
路徑 `/informationservices/publicworksprocurementcontracts`	公共工程採購契約（表格清單）
路徑 `/informationservices/subsidiesgrantedorreceived`	支付或接受之補助（表格清單）
路徑 `/informationservices/militaryjusticecaseinformation/c/561391`	軍法案件裁判書（判決書，依需求不收）
路徑 `/informationservices/militaryjusticecaseinformation/c/561392`	刑事補償決定書（裁判書類，含當事人資訊）
路徑 `/informationservices/administrativeremedies/c/561429`	軍事法院公示送達（當事人姓名與案號，個資且無語料價值）
路徑 `/informationservices/administrativeremedies/c/561430`	軍事法院主文公告（裁判主文，判決書類）
路徑 `/about/minister/`	長官個別頁（與「部長」頁內容相同）
路徑 `/informationservices/militarybooks`	軍事書籍（連到政府出版品網的外站書目）
麵包屑「News Channel」	英文版網站（非中文語料）
麵包屑「Information Service」	英文版網站（非中文語料）
麵包屑「新聞與公告 > Defense News」	英文版新聞稿（非中文語料）
麵包屑「新聞與公告 > 影音專區」	影音專區（YouTube 影片）
麵包屑「資訊服務 > 資訊公開 > 預算及決算書」	預算及決算書、會計月報（數字報表）
麵包屑「資訊服務 > 資訊公開 > 公共工程採購契約」	公共工程採購契約（表格清單）
麵包屑「資訊服務 > 資訊公開 > 支付或接受之補助」	支付或接受之補助（表格清單）
麵包屑「資訊服務 > 資訊公開 > 軍法案件資訊 > 軍法案件裁判書」	軍法案件裁判書（判決書，依需求不收）
麵包屑「資訊服務 > 資訊公開 > 軍法案件資訊 > 刑事補償決定書」	刑事補償決定書（裁判書類，含當事人資訊）
麵包屑「資訊服務 > 資訊公開 > 軍事法院公告 > 公示送達」	軍事法院公示送達（個資）
麵包屑「資訊服務 > 資訊公開 > 軍事法院公告 > 主文公告」	軍事法院主文公告（判決書類）
麵包屑「政府資料開放」	政府資料開放資料集（結構化資料檔）
麵包屑「政府資訊公開 > 預算及決算書」	預算及決算書（數字報表，舊版區塊）
麵包屑「政府資訊公開 > 預算及決算」	預算及決算書（數字報表，舊版區塊）
麵包屑「政府資訊公開 > 會計月報」	會計月報（數字報表，舊版區塊）
麵包屑「政府資訊公開 > 公共工程採購契約」	公共工程採購契約（表格清單，舊版區塊）
麵包屑「政府資訊公開 > 支付或接受之補助」	支付或接受之補助（表格清單，舊版區塊）
標題符合 `錄取名[單冊]	錄取人員

OCR 暫緩的區塊（網頁仍收錄，附件先記錄不下載、不 OCR；本版共 17,711 個附件）：

路徑	說明
`/informationservices/militaryjournals`	軍事期刊（33 種、約 2,300 期學術期刊全文 PDF，估計逾 25 萬頁，超出共用 OCR 端點容量，暫緩）

Uses

Direct Use

繁體中文、台灣國防／政府領域的持續預訓練語料；可與 fineweb-edu-zhtw 等通用語料混合。
國防政策、兩岸軍事情勢、兵役與軍人權益、國防採購與產業、全民防衛等主題的領域適應（domain-adaptive pretraining）。

Out-of-Scope Use

不應作為法律意見或法規現行條文的依據：網站內容有時效性，法規請以全國法規資料庫與國防法規資料庫為準。
本資料集不含指令－回應結構，不直接適用於 SFT；「常見問答」類文件雖為問答體，仍以原文形式收錄。
不得用於識別、追蹤或評價特定個人。

Dataset Structure

一筆一份文件，單一 train split。前 13 欄與 fineweb-edu-zhtw 的同名欄位定義相同，其後為本資料集特有欄位。

欄位	說明
`text`	文件全文（網頁以標題為首行）
`id`	`<urn:mnd:node:NNN>`（內容頁，NNN 為站上內容 ID）、`<urn:mnd:page:/path>`（靜態頁）或 `<urn:mnd:media:ID>`（附件）
`dump`	抓取批次，`MND-YYYY-MM`
`url`	內容頁網址或附件下載網址
`date`	本筆最近一次抓取時間
`file_path`	內容頁：本地原始 HTML 封存路徑；附件：檔案網址
`language` / `language_score` / `language_script` / `top_langs`	GlotLID 語言辨識結果（同 fineweb 系列）
`avg_words_per_line` / `word_count`	詞數（CJK 逐字 + 英數逐詞，與 fineweb-edu-zhtw 同算法）
`token_count`	tiktoken `cl100k_base` token 數
`title`	標題；附件為「所屬頁標題｜檔名」
`section`	網站麵包屑路徑，例如 `新聞與公告 > 新聞稿 > 本部`
`list_title`	所在列表頁名稱
`doc_type`	`html` / `pdf` / `docx` / `odt` / `txt`
`extraction`	`html` / `ocr:dots.ocr` / `docx` / `odt` / `txt`
`parent_url`	附件所屬內容頁網址（網頁本身與列表直掛檔案為 null）
`published_date` / `updated_date`	網站標示的發布日期（ISO，民國年已轉西元）；本站未標示更新日期
`ocr_pages`	OCR 的 PDF 頁數
`content_sha1`	去空白後全文的 SHA-1（用於增量同步比對）

各區塊分布

網站大類	文件數	token 數
新聞與公告	5,706	2,606,914
未分類舊頁	5,278	2,579,959
資訊服務	243	144,952
國防創新	129	98,928
便民服務	101	30,113
輪播暫存	26	25,407
重要政策	21	19,500
服務項目	20	3,667
政府資訊公開	13	10,715
召訓次數	12	17,848
特展介紹	9	12,479
輪播	6	7,992
（未分類）	5	7,134
本館訊息	4	1,697
其他	4	2,708
本部簡介	4	4,935
網站政策及聲明	4	4,861
召訓構想	2	473
訓練內容	2	1,825
業務機關	2	1,545
部本部	2	2,848
本館介紹	1	915
重點展覽	1	432
下載專區	1	144
法源依據	1	11,742
軍事機關	1	1,750
軍事學校	1	817
參謀本部	1	943
網站導覽	1	447
最新國防消息	1	1,074

第二層區塊（前 40）

區塊	文件數
未分類舊頁	5,278
新聞與公告 > 新聞稿	3,068
新聞與公告 > 區域動態	1,460
新聞與公告 > 行政公告	1,128
資訊服務 > 資訊公開	130
資訊服務 > 出版品	101
便民服務 > 常見問答	100
國防創新 > 國防創新最新消息	99
新聞與公告 > 本部新聞	50
輪播暫存	26
國防創新 > 國防創新少量採購	24
服務項目 > 軍史館FAQ答客問	19
資訊服務 > 人才招募	11
特展介紹 > 軍種特展	9
重要政策 > 國防施政要項	9
重要政策	8
政府資訊公開 > 研究報告	7
國防創新 > 國防創新原型開發	6
輪播	6
召訓次數 > 多媒體專區	5
召訓次數 > 志願士兵答客問	5
	5
本館訊息	4
其他	4
本部簡介	4
網站政策及聲明	4
重要政策 > 敵情威脅及國軍戰備應處	4
政府資訊公開 > 業務統計	3
政府資訊公開 > 施政計畫	2
召訓構想	2
訓練內容	2
業務機關	2
部本部	2
政府資訊公開 > 解釋性規定及裁量基準	1
本館介紹	1
重點展覽	1
下載專區 > 學習單	1
資訊服務 > 法規專區	1
召訓次數	1
法源依據	1

抽取方式

extraction	文件數	token 數
html	11,602	5,604,764

語言辨識

language_script	文件數
cmn_Hani	11,159
eng_Latn	417
anp_Deva	5
yue_Hani	4
zxx_Latn	4
jpn_Jpan	4
und_Bamu	2
gle_Latn	2

發布年份

年份	文件數
2016	2,908
2015	2,887
2022	754
2025	743
2023	722
2026	719
2017	676
2021	542
2018	475
2020	437
2019	416
2024	288
2013	22
????	9
2012	3
2011	1

Dataset Creation

Curation Rationale

國防部網站累積十年以上的新聞稿、政策說明、國會報告、國防報告書與問答，是台灣國防與兩岸安全領域少見的大量、權威、以正體中文書寫的公開文本，但散落在數萬個網頁與 PDF 中。本資料集把它整理成可直接訓練的形式，並以增量同步維持更新。

Source Data

Data Collection and Processing

探索：自首頁與網站導覽頁 BFS 走訪所有導覽頁、分類頁與列表頁，列表頁依 .pagination 的最後一頁逐頁翻完；常見問答在列表上直接展開，以按鈕上的內容 ID 取完整頁。站前有 Azure Front Door／WAF，以 curl_cffi 模擬 Chrome 連線；CDN 偶爾快取到空回應，會帶 cache-buster 重抓。
ID 掃描：完整同步時把內容 ID 區間（約 55,000 起到目前最大 ID）逐一以 /publication/<id> 開啟：不存在的會轉址回首頁；存在但導覽樹沒走到的即為孤兒頁，依麵包屑判斷所屬區塊後補收；麵包屑只有「首頁」的舊頁（約 2015–2017 年本部與各軍種的軍事新聞、活動報導，同站同 CMS）不屬於現行導覽任何區塊，section 標為「未分類舊頁」照收。
抓取：內容頁存原始 HTML，解析標題、發布日期、麵包屑、附件（/File/<id>、/NewUpload/... 等）；附件下載原檔（以 Content-Disposition 判定副檔名）。
抽取：如上節所述（HTML 正文 / dots.ocr / 文件結構）。OCR 逐頁快取，失敗頁會在下一次同步重試。
過濾：去掉少於 60 字或只有標題的空殼頁、中文字占比低於 20% 的文件（幾乎都是數字統計表或英文）、與所屬網頁重複的附件、全文完全相同的文件（保留發布日期最早者）。
增量同步：每日 cron 只翻列表頁前段抓新項目、並掃最新 ID 附近；每週一次完整重走並重抓所有內容頁、掃完整 ID 區間，以正文雜湊判定是否更新、以「本輪未再出現」判定下架。每次建置與上一版 manifest 比對，只有內容有增刪改時才產生新版本。

Who are the source data producers?

中華民國國防部及其幕僚單位、參謀本部與各軍種司令部（新聞稿多由各軍種發布、經國防部網站刊載）。

Personal and Sensitive Information

網站為公開資訊，但仍包含官員與軍官姓名職稱、新聞稿與常見問答的業管聯絡人電話，以及新聞稿中涉案官兵的姓氏（如「黃姓少將」）。公示送達、裁判書、錄取／成績名單等個資密集內容已排除。使用時請勿據以識別或評價特定個人。

Bias, Risks, and Limitations

內容為政府機關觀點與用語，具官方立場；「新聞澄清」類文件代表機關說法，涉及中共的描述亦為我方立場。
「區域動態」為每日共軍活動通報，格式高度重複，混合訓練時可視需要降採樣。
OCR 可能有錯字、表格結構失真或閱讀順序錯誤，尤其是掃描品質差的舊文件；extraction 欄可用來區分。
網站內容有時效性，舊的政策、制度說明可能已不適用。
抓取當下失敗或 OCR 未完成的項目不會出現在該版本中。

Recommendations

from datasets import load_dataset
ds = load_dataset("lianghsun/tw-mnd-corpus", split="train")
# 只要網頁正文
html = ds.filter(lambda r: r["doc_type"] == "html")
# 只要新聞稿
pr = ds.filter(lambda r: (r["section"] or "").startswith("新聞與公告 > 新聞稿"))

抓取狀態（最近一次同步）

內容項目狀態：excluded 5,221, gone 20, new 17,971, ok 13,937
文字抽取狀態：dup_file 77, dup_of_page 16, english 472, ok 16,828, partial 14, skipped_numeric 33, skipped_too_many_pages 1
過濾：drop_low_cjk_table 928, drop_exact_dup 134, drop_short 1,223, drop_title_only 35

Changelog

建置時間	文件數	token 數	新增	更新	移除
2026-10-04 18:27	11,602	5,604,764	+5	~0	-7
2026-10-04 13:07	11,604	5,608,648	+1	~0	-0
2026-10-03 15:34	11,603	5,608,461	+6	~0	-0
2026-10-02 19:08	11,597	5,604,972	+5	~0	-0
2026-10-01 16:01	11,592	5,602,624	+5465	~0	-28
2026-09-30 12:12	6,155	2,875,443	+6155	~0	-0

Dataset Card Authors

Liang Hsun Huang

Dataset Card Contact

Liang Hsun Huang

Downloads last month: 10

Total file size:

5.97 MB