Datasets:
Dataset Card for tw-mol-corpus
👷 tw-mol-corpus 是把勞動部全球資訊網（www.mol.gov.tw）整站有意義的內容—— 新聞稿與歷史新聞、即時新聞澄清、公布欄、勞動條件／勞動關係／勞動保險／勞工退休等業務說明與函釋、常見問答、 「便民服務」各情境專區（失業、職災、退休、懷孕育兒、移工聘僱、職場霸凌與性騷擾等）、施政計畫與績效、研究報告與出版品、 人權／性別平等／廉政專區、勞動統計調查結果等——連同頁面上的 PDF／DOCX／ODT 附件， 整理成可直接用於語言模型持續預訓練（continued pretraining）的繁體中文語料。 欄位格式比照 lianghsun/fineweb-edu-zhtw，可直接與其混合使用。
- 文件數：6,715
- token 數：7,296,543（tiktoken
cl100k_base） - 最近建置：2026-10-03
- 本版只含網頁正文：附件 PDF 仍有 156 份在 OCR 中，全部完成後的下一次同步會自動發布含附件的完整版本（屆時
doc_type會出現pdf／docx／odt）
Dataset Details
Dataset Description
本資料集以爬蟲走訪勞動部全球資訊網的完整導覽樹：每個導覽頁、每個列表頁（含常見問答 nodeListSearch）翻到最後一頁，
取得所有內容頁（/post）與列表上直接掛載的檔案；再以站方每日更新的 sitemap（/sitemap?id=1607）當對照組，
把導覽樹沒走到、但仍在線上的節點（孤兒頁）補進來。接著把內容頁正文與附件分別轉為純文字：
- 網頁：只取正文區塊（
section.cp）加上頁面標題，去掉導覽列、左側選單、頁尾、發布資訊、點閱數、附件清單、相關圖片等版面元素；表格轉為以「 | 」分隔的列。每篇以標題為第一行。 - PDF：一律逐頁以 150 DPI 轉圖後送 dots.ocr OCR API，
丟棄
Page-header／Page-footer／Picture區塊，表格 HTML 轉為以「 | 」分隔的列，中文語境的半形標點轉全形。不使用 PDF 內嵌文字層，避免掃描檔與字型編碼錯亂造成的亂碼。 - DOCX／ODT／TXT：直接解析文件結構取出段落與表格。
一份網頁與其每個附件各自為一筆；附件若與所屬網頁內容重複（附件 5-gram 有 80% 以上已出現在網頁正文，典型例子是新聞稿 PDF），只保留網頁版；
有文字層的 PDF 會先用文字層做這個判斷，重複者不送 OCR（extracts.status = dup_of_page）。
- Curated by: Liang Hsun Huang
- Language(s) (NLP): Traditional Chinese
- License: 政府資料開放授權條款－第 1 版（依勞動部政府網站資料開放宣告；使用時應註明出處：勞動部）
Dataset Sources
- Source: https://www.mol.gov.tw/
- Repository: lianghsun/tw-mol-corpus
收錄範圍與排除
依需求不收全國法規資料庫與判決書；本部的「勞動法令查詢系統」（laws.mol.gov.tw）以法規條文與函釋資料庫為主，也不在範圍內。
只收勞動部本部網站（www.mol.gov.tw 的 /1607/ 中文網）；所屬機關（勞動力發展署、職業安全衛生署、勞工保險局、勞動基金運用局、
勞動及職業安全衛生研究所等）的獨立網站，以及勞動統計查詢網（statdb.mol.gov.tw）、英文網等子網站不在本資料集範圍。
另外排除個資密集、名冊性質、純數字報表或轉載他機關的區塊：
| 節點路徑 | 排除理由 |
|---|---|
/1607/28162/28166/28246 |
違反勞動法令公布專區（違法事業單位名單，名冊性質） |
/1607/28752/28754 |
預算、決算書及會計月報（數字報表） |
/1607/28752/28774/28784 |
勞動部捐補助情形（表格清單） |
/1607/28752/28820/28838 |
公職人員財產申報專區（申報人姓名與財產資料） |
/1607/28752/28820/28844 |
公職人員利益衝突迴避專區（身分關係揭露表，個資） |
/1607/28752/28862 |
書面之公共工程及採購契約（表格清單） |
/1607/28752/28866 |
公共設施維護管理資訊（表格清單） |
/1607/28752/28872 |
辦理政策宣導相關廣告執行情形（表格清單） |
/1607/28752/86364 |
因公派員出國計畫考察費用執行情形（表格清單） |
/1607/28752/28744/28748 |
國家賠償案件統計（數字報表） |
/1607/28752/28712 |
檔案應用申請區（空白申請表件） |
/1607/28752/28732 |
個人資料管理（空白表件與個資檔案清冊） |
/1607/28752/28726/28730 |
遊說法相關表件（空白表件） |
/1607/28752/54697/54700 |
主管勞動財團法人相關資料區（財團法人預決算書與董監事名冊） |
/1607/2566/2570 |
消費者保護（轉載行政院及各部會公告，非本部內容） |
/1607/2566/2567 |
國外勞工業務網站（外部連結清單） |
/1607/71771/72772 |
統計專刊（勞動統計月報/年報等數字報表，檔案放在 statdb 子網域） |
/1607/71771/73363/73424 |
國際性別統計（各國比較數字表） |
影音、圖片、試算表（xls/xlsx/ods/csv）、壓縮檔附件不處理；.doc（舊版 Word）目前不處理。
超過 400 頁的 PDF 不送 OCR（本版共 0 份），之後可能分批補上。
Uses
Direct Use
- 繁體中文、台灣勞動法令與勞動政策領域的持續預訓練語料；可與 fineweb-edu-zhtw 等通用語料混合。
- 勞動條件、勞資關係、勞工保險、勞工退休、職業安全衛生、就業服務與職業訓練、移工政策等主題的領域適應（domain-adaptive pretraining）。
Out-of-Scope Use
- 不應作為法律意見或勞動法規現行規定的依據：網站內容有時效性（例如基本工資、保險費率、給付標準會逐年調整），法規請以全國法規資料庫為準。
- 本資料集不含指令－回應結構，不直接適用於 SFT；「常見問答」類文件雖為問答體，仍以原文形式收錄。
- 不得用於識別、追蹤或評價特定個人。
Dataset Structure
一筆一份文件，單一 train split。前 13 欄與 fineweb-edu-zhtw 的同名欄位定義相同，其後為勞動部特有欄位。
| 欄位 | 說明 |
|---|---|
text |
文件全文（網頁以標題為首行） |
id |
<urn:mol:node:NNN>（內容頁）或 <urn:mol:media:XXXXXXXX>（附件，站方媒體代碼） |
dump |
抓取批次，MOL-YYYY-MM |
url |
內容頁網址或附件下載網址 |
date |
本筆最近一次抓取時間 |
file_path |
內容頁：本地原始 HTML 封存路徑；附件：檔案網址 |
language / language_score / language_script / top_langs |
GlotLID 語言辨識結果（同 fineweb 系列） |
avg_words_per_line / word_count |
詞數（CJK 逐字 + 英數逐詞，與 fineweb-edu-zhtw 同算法） |
token_count |
tiktoken cl100k_base token 數 |
title |
標題；附件為「所屬頁標題｜檔名」 |
section |
網站麵包屑路徑，例如 便民服務 > 常見問答 > 勞動條件、就業平等 |
list_title |
所在列表頁名稱 |
doc_type |
html / pdf / docx / odt / txt |
extraction |
html / ocr:dots.ocr / docx / odt / txt |
parent_url |
附件所屬內容頁網址（網頁本身與列表直掛檔案為 null） |
published_date / updated_date |
網站標示的發布日期、最後更新日期（ISO，民國年已轉西元） |
ocr_pages |
OCR 的 PDF 頁數 |
content_sha1 |
去空白後全文的 SHA-1（用於增量同步比對） |
各區塊分布
| 網站大類 | 文件數 | token 數 |
|---|---|---|
| 新聞公告 | 6,038 | 6,812,491 |
| 便民服務 | 327 | 208,536 |
| 業務專區 | 293 | 209,750 |
| 政府資訊公開 | 43 | 56,665 |
| 本部簡介 | 13 | 6,252 |
| 勞動統計專網 | 1 | 2,849 |
第二層區塊（前 40）
| 區塊 | 文件數 |
|---|---|
| 新聞公告 > 歷史新聞 | 5,197 |
| 新聞公告 > 公布欄 | 348 |
| 便民服務 > 常見問答 | 305 |
| 新聞公告 > 新聞稿 | 285 |
| 新聞公告 > 即時新聞澄清 | 208 |
| 業務專區 > 勞動條件、就業平等 | 154 |
| 業務專區 > 勞動保險 | 52 |
| 政府資訊公開 > 捐補助專區 | 30 |
| 業務專區 > 勞動關係 | 30 |
| 業務專區 > 勞動福祉、退休 | 22 |
| 業務專區 > 勞動政策、國際事務 | 19 |
| 便民服務 > 我不服勞動法令之行政處分，如何提起救濟？ | 16 |
| 業務專區 > 其他重要專區 | 15 |
| 本部簡介 > 職掌及組織 | 8 |
| 政府資訊公開 > 廉政專區 | 7 |
| 本部簡介 > 正副首長介紹 | 4 |
| 便民服務 > 發生勞資爭議怎麼辦？ | 3 |
| 政府資訊公開 > 研究報告與出版品 | 2 |
| 便民服務 > 發生職場霸凌怎麼辦? | 2 |
| 本部簡介 > 聯絡資訊 | 1 |
| 政府資訊公開 > 開放資料 | 1 |
| 政府資訊公開 > 內部控制聲明書 | 1 |
| 政府資訊公開 > 性別平等專區 | 1 |
| 勞動統計專網 > 關於勞動統計 | 1 |
| 政府資訊公開 > 勞動部因應美國關稅我國出口供應鏈支持方案 | 1 |
| 業務專區 > 就業服務、職業訓練、外國人才事務 | 1 |
| 便民服務 > 部分工時／工讀生，我該瞭解的權益有哪些? | 1 |
抽取方式
| extraction | 文件數 | token 數 |
|---|---|---|
| html | 6,715 | 7,296,543 |
語言辨識
| language_script | 文件數 |
|---|---|
| cmn_Hani | 6,712 |
| yue_Hani | 2 |
| und_Sgnw | 1 |
發布年份
| 年份 | 文件數 |
|---|---|
| 2015 | 435 |
| 2025 | 406 |
| 2023 | 391 |
| 2014 | 369 |
| 2024 | 369 |
| 2016 | 368 |
| 2021 | 365 |
| 2022 | 346 |
| 2019 | 322 |
| 2020 | 320 |
| 2026 | 314 |
| 2018 | 308 |
| 2009 | 304 |
| 2010 | 304 |
| 2017 | 303 |
| 2011 | 298 |
| 2008 | 260 |
| 2013 | 239 |
| 2007 | 204 |
| 2006 | 178 |
| 2012 | 159 |
| 2005 | 114 |
| 2004 | 39 |
Dataset Creation
Curation Rationale
勞動部網站累積十多年（含前身行政院勞工委員會時期的歷史新聞）的新聞稿、勞動法令說明、函釋、常見問答與政策資料， 是台灣勞動法與勞動政策領域少見的大量、權威、以正體中文書寫的公開文本，但散落在上萬個網頁與 PDF 中。 本資料集把它整理成可直接訓練的形式，並以增量同步維持更新。
Source Data
Data Collection and Processing
- 探索：自首頁開始 BFS 走訪所有
nodelist／normalnodelist／lpsimplelist／nodeListSearch等導覽與列表頁，列表頁逐頁翻完（站方每頁上限 40 筆）；CountAndRedirectUrl轉址只收仍指向本站的。之後以站方 sitemap 補上導覽樹沒走到的節點。 - 抓取：內容頁存原始 HTML，解析標題、發布／更新日期、麵包屑、附件；附件下載原檔。
- 抽取：如上節所述（HTML 正文 / dots.ocr / 文件結構）。OCR 逐頁快取，失敗頁會在下一次同步重試。
- 過濾：去掉少於 60 字或只有標題的空殼頁、中文字占比低於 20% 的文件（幾乎都是數字統計表）、與所屬網頁重複的附件、全文完全相同的文件（保留發布日期最早者）。
- 增量同步：每日 cron 只翻列表頁前段抓新項目；每週一次完整重走並重抓所有內容頁，以正文雜湊判定是否更新、以「本輪未再出現」判定下架。 每次建置與上一版 manifest 比對，只有內容有增刪改時才產生新版本。
Who are the source data producers?
中華民國勞動部（含前身行政院勞工委員會）及其各司處。
Personal and Sensitive Information
網站為公開資訊，但仍包含公務員姓名與職稱、新聞稿業務單位與聯絡電話、表揚與得獎名單等。 違反勞動法令事業單位名單、公職人員財產申報與利益衝突身分揭露等名冊性質區塊已整區排除。使用時請勿據以識別或評價特定個人。
Bias, Risks, and Limitations
- 內容為政府機關觀點與用語，具官方立場；「即時新聞澄清」類文件代表機關說法。
- OCR 可能有錯字、表格結構失真或閱讀順序錯誤，尤其是掃描品質差的舊文件；
extraction欄可用來區分。 - 網站內容有時效性，舊的政策、給付標準與法規說明可能已不適用。
- 抓取當下失敗或 OCR 未完成的項目不會出現在該版本中。
Recommendations
from datasets import load_dataset
ds = load_dataset("lianghsun/tw-mol-corpus", split="train")
# 只要網頁正文
html = ds.filter(lambda r: r["doc_type"] == "html")
# 只要常見問答
qa = ds.filter(lambda r: "常見問答" in (r["section"] or ""))
抓取狀態（最近一次同步）
- 內容項目狀態：new 54, ok 7,616
- 文字抽取狀態：dup_of_page 5, error 1, ok 9,874, partial 28
- 過濾：drop_short 205, drop_exact_dup 55, drop_low_cjk_table 4, drop_title_only 2
Changelog
| 建置時間 | 文件數 | token 數 | 新增 | 更新 | 移除 |
|---|---|---|---|---|---|
| 2026-10-03 20:07 | 6,715 | 7,296,543 | +2 | ~0 | -0 |
| 2026-10-02 13:18 | 6,713 | 7,294,015 | +1 | ~0 | -0 |
| 2026-10-01 16:49 | 6,712 | 7,293,001 | +1 | ~0 | -0 |
| 2026-09-30 13:31 | 6,711 | 7,287,961 | +6711 | ~0 | -0 |
Dataset Card Authors
Dataset Card Contact
- Downloads last month
- 8