Datasets:
Dataset Card for tw-moc-corpus
🎭 tw-moc-corpus 是把文化部全球資訊網（www.moc.gov.tw）整站有意義的內容—— 文化新聞稿、業務說明（文化資產、文創、影視音、人文出版、藝術發展、文化交流等）、施政計畫與績效、重大政策與立法院報告、 文化法規說明與函釋、廉政與性別平等專區、申請表格與說明等——連同頁面上的 PDF／DOCX／ODT 附件， 整理成可直接用於語言模型持續預訓練（continued pretraining）的繁體中文語料。 欄位格式比照 lianghsun/fineweb-edu-zhtw，可直接與其混合使用。
- 文件數：17,745
- token 數：26,210,233（tiktoken
cl100k_base） - 最近建置：2026-10-04
- 本版只含網頁正文：附件 PDF 仍有 404 份在 OCR 中，全部完成後的下一次同步會自動發布含附件的完整版本（屆時
doc_type會出現pdf／docx／odt）
Dataset Details
Dataset Description
本資料集以爬蟲走訪文化部全球資訊網（CCMS 版型）的完整導覽樹：自「網站導覽」與首頁出發，走訪所有單元目錄（cl.aspx）、
列表頁（News.aspx、download_table.aspx，每頁 500 筆翻到最後一頁），取得所有內容頁（News_Content.aspx、cp.aspx）
與列表上直接掛載的檔案，再把內容頁正文與附件分別轉為純文字：
- 網頁：只取正文區塊（
.group.page-content內的.essay／.info-box），去掉導覽列、頁尾、日期列、點閱數、分享列、相關圖片與附件清單等版面元素； 表格轉為以「 | 」分隔的列。每篇以標題為第一行。 - PDF：一律逐頁以 150 DPI 轉圖後送 dots.ocr OCR API，
丟棄
Page-header／Page-footer／Picture區塊，表格 HTML 轉為以「 | 」分隔的列。不使用 PDF 內嵌文字層，避免掃描檔與字型編碼錯亂造成的亂碼。 - DOCX／ODT／TXT：直接解析文件結構取出段落與表格。同一份文件同時提供 pdf／docx／odt 時只取 docx（或 odt），不重複收錄。
一份網頁與其每個附件各自為一筆；附件若與所屬網頁內容重複（附件 5-gram 有 80% 以上已出現在網頁正文，典型例子是新聞稿 PDF），只保留網頁版；
有文字層的 PDF 會先用文字層做這個判斷，重複者不送 OCR（extracts.status = dup_of_page）。
- Curated by: Liang Hsun Huang
- Language(s) (NLP): Traditional Chinese
- License: 依文化部網站著作權聲明：新聞稿等依著作權法第 9 條不得為著作權標的者得自由利用； 其餘內容受著作權法保護，本資料集僅供研究用途之合理使用，不公開散布。
Dataset Sources
- Source: https://www.moc.gov.tw/
- Repository: lianghsun/tw-moc-corpus
收錄範圍與排除
依需求不收全國法規資料庫與判決書；主管法規查詢系統（law.moc.gov.tw）、文化資產法規（nchdb.boch.gov.tw）等站外系統不收；
所屬機關（構）（文化資產局、影視及流行音樂產業局、各博物館、國家表演藝術中心、文化內容策進院等）的獨立網站不在本資料集範圍，
列表中連到站外的項目一律略過。另外排除個資密集或無語料價值的區塊（n= 為網址中的節點編號）：
| 節點 | 排除理由 |
|---|---|
n=106 |
文化影音（影片） |
n=1045 |
活動推廣影片（影片） |
n=1038 |
獎補助名單（受補助個人與團體名冊） |
n=143 |
預算、決算、會計報告（數字報表） |
n=161 |
政策及業務宣導報表（表格清單） |
n=1053 |
政策及業務宣傳費預算分析報告（數字報表） |
n=153 |
採購決標資料（決標金額與廠商表格） |
n=9348 |
因公派員出國考察費用執行情形（表格清單） |
n=208 |
工程施工查核專區（查核結果表格與空白表單） |
n=9031 |
公職人員及關係人身分關係揭露公開（個人姓名與身分關係） |
n=165 |
公職人員及關係人身分關係揭露（舊列表，個人姓名與身分關係） |
n=4467 |
公職人員財產申報專區（空白申報表與法務部的填表說明、系統手冊，轉載他機關內容） |
n=3225 |
廉政宣導（多為轉載法務部廉政署、調查局及其他機關的宣導訊息） |
n=3226 |
聯合國反貪腐公約專區（轉載法務部廉政署資料與連結） |
n=9914 |
公益揭弊者保護專區（轉載法規全文與法務部廉政署宣導資料） |
n=141 |
業務統計（統計報表） |
n=1044 |
最新公告－統計（統計報表） |
n=218 |
性別統計（統計報表） |
n=1075 |
本部聯絡窗口（承辦人姓名與電話） |
影音、圖片、試算表（xls/xlsx/ods/csv）、壓縮檔附件不處理；.doc（舊版 Word）目前不處理。
超過 400 頁的 PDF 不送 OCR（本版共 0 份），之後可能分批補上。
Uses
Direct Use
- 繁體中文、台灣文化政策／政府領域的持續預訓練語料；可與 fineweb-edu-zhtw 等通用語料混合。
- 文化資產、博物館、文創產業、影視音、出版、表演與視覺藝術、社區營造、國家語言、轉型正義等主題的領域適應（domain-adaptive pretraining）。
Out-of-Scope Use
- 不應作為法規現行條文或補助資格的依據：網站內容有時效性，法規請以主管法規查詢系統為準。
- 本資料集不含指令－回應結構，不直接適用於 SFT。
- 不得用於識別、追蹤或評價特定個人。
Dataset Structure
一筆一份文件，單一 train split。前 13 欄與 fineweb-edu-zhtw 的同名欄位定義相同，其後為本資料集特有欄位。
| 欄位 | 說明 |
|---|---|
text |
文件全文（網頁以標題為首行） |
id |
<urn:moc:node:sNNN>（News_Content 內容頁，NNN 為網址的 s=）、<urn:moc:node:cpNNN>（cp.aspx 內容頁，NNN 為 n=）或 <urn:moc:media:ID>（附件，ID 為檔案 GUID） |
dump |
抓取批次，MOC-YYYY-MM |
url |
內容頁網址或附件下載網址 |
date |
本筆最近一次抓取時間 |
file_path |
內容頁：本地原始 HTML 封存路徑；附件：檔案網址 |
language / language_score / language_script / top_langs |
GlotLID 語言辨識結果（同 fineweb 系列） |
avg_words_per_line / word_count |
詞數（CJK 逐字 + 英數逐詞，與 fineweb-edu-zhtw 同算法） |
token_count |
tiktoken cl100k_base token 數 |
title |
標題；附件為「所屬頁標題｜附件名稱」 |
section |
網站麵包屑路徑，例如 新聞與公告 > 文化新聞 |
list_title |
所在列表頁名稱 |
doc_type |
html / pdf / docx / odt / txt |
extraction |
html / ocr:dots.ocr / docx / odt / txt |
parent_url |
附件所屬內容頁網址（網頁本身與列表直掛檔案為 null） |
published_date / updated_date |
網站標示的日期（ISO） |
ocr_pages |
OCR 的 PDF 頁數 |
content_sha1 |
去空白後全文的 SHA-1（用於增量同步比對） |
各區塊分布
| 網站大類 | 文件數 | token 數 |
|---|---|---|
| 新聞與公告 | 17,377 | 25,275,796 |
| 文化法規 | 208 | 689,473 |
| 業務說明 | 103 | 166,747 |
| 政府資訊公開 | 36 | 36,553 |
| 便民服務 | 9 | 11,958 |
| 關於本部 | 5 | 24,263 |
| 廉政專區 | 2 | 1,689 |
| 雙語詞彙 | 2 | 1,397 |
| 隱私權及資訊安全政策宣示 | 1 | 1,505 |
| 著作權聲明 | 1 | 708 |
| 網站資料開放宣告 | 1 | 144 |
第二層區塊（前 40）
| 區塊 | 文件數 |
|---|---|
| 新聞與公告 > 文化新聞 | 17,298 |
| 文化法規 > 行政規則 | 83 |
| 業務說明 > 2020-2023.6 文化藝術事業防疫及紓困振興專區 | 81 |
| 文化法規 > 法規命令 | 75 |
| 新聞與公告 > 外館活動總覽 | 60 |
| 文化法規 > 法律 | 31 |
| 新聞與公告 > 最新公告 | 19 |
| 政府資訊公開 > 重大政策 | 19 |
| 文化法規 > 本部函釋 | 19 |
| 政府資訊公開 > 財團法人專區 | 13 |
| 業務說明 > 文化資源 | 6 |
| 業務說明 > 綜合規畫 | 4 |
| 業務說明 > 人文及出版 | 3 |
| 政府資訊公開 > 即時新聞澄清 | 3 |
| 便民服務 > 檔案應用申請 | 3 |
| 業務說明 > 藝術發展 | 2 |
| 業務說明 > 前瞻基礎建設計畫專區 | 2 |
| 雙語詞彙 | 2 |
| 便民服務 > 藝文服務 | 2 |
| 關於本部 > 歷任首長 | 1 |
| 業務說明 > 文化發展基金 | 1 |
| 關於本部 > 成立沿革 | 1 |
| 關於本部 > 組織職掌 | 1 |
| 關於本部 > 施政理念 | 1 |
| 隱私權及資訊安全政策宣示 | 1 |
| 著作權聲明 | 1 |
| 網站資料開放宣告 | 1 |
| 業務說明 > 文創發展 | 1 |
| 業務說明 > 影視及流行音樂 | 1 |
| 業務說明 > 文化交流 | 1 |
| 業務說明 > 蒙藏文化中心 | 1 |
| 便民服務 > 圖書銷售免徵營業稅專區 | 1 |
| 便民服務 > 文化藝術相關勞動法規指引及契約指導原則專區 | 1 |
| 廉政專區 > 公職人員利益衝突迴避法宣導專區 | 1 |
| 便民服務 > 文化部人民申請案類別暨處理時限表 | 1 |
| 關於本部 > 正副首長 | 1 |
| 政府資訊公開 > 施政績效 | 1 |
| 廉政專區 > 廉政會報 | 1 |
| 便民服務 > 消費者保護專區 | 1 |
抽取方式
| extraction | 文件數 | token 數 |
|---|---|---|
| html | 17,745 | 26,210,233 |
語言辨識
| language_script | 文件數 |
|---|---|
| cmn_Hani | 17,727 |
| zxx_Latn | 6 |
| eng_Latn | 3 |
| jpn_Jpan | 3 |
| und_Samr | 2 |
| fra_Latn | 2 |
| tha_Thai | 1 |
| kiu_Latn | 1 |
發布年份
| 年份 | 文件數 |
|---|---|
| 2014 | 1,536 |
| 2016 | 1,452 |
| 2015 | 1,408 |
| 2017 | 1,364 |
| 2023 | 1,262 |
| 2013 | 1,231 |
| 2022 | 1,128 |
| 2021 | 1,127 |
| 2018 | 1,125 |
| 2024 | 1,117 |
| 2025 | 1,108 |
| 2019 | 1,010 |
| 2026 | 903 |
| 2020 | 822 |
| 2012 | 690 |
| ???? | 132 |
| 2005 | 74 |
| 2006 | 50 |
| 2008 | 33 |
| 2010 | 30 |
| 2002 | 27 |
| 2009 | 26 |
| 2001 | 25 |
| 2003 | 22 |
| 2011 | 22 |
| 2007 | 21 |
Dataset Creation
Curation Rationale
文化部（含前身文建會）網站累積自 2009 年起的文化新聞稿、施政計畫與報告、文化政策與業務說明， 是台灣文化政策與藝文領域少見的大量、以正體中文書寫的公開文本，但散落在上萬個網頁與 PDF 中。 本資料集把它整理成可直接訓練的形式，並以增量同步維持更新。
Source Data
Data Collection and Processing
- 探索：自網站導覽（
SiteMap.aspx）與首頁 BFS 走訪所有單元目錄與列表頁，列表頁以每頁 500 筆翻完（站方超出末頁時會重複回傳末頁，以分頁列最大頁碼為準）； 內容頁正文裡連到的其他內容頁也一併收錄。 - 抓取：內容頁存原始 HTML，解析標題、日期、麵包屑、附件；附件（
file.moc.gov.tw/Download.ashx）下載原檔。已下架的內容頁站方以 302 導回首頁，記為下架。 - 抽取：如上節所述（HTML 正文 / dots.ocr / 文件結構）。OCR 逐頁快取，失敗頁會在下一次同步重試。
- 過濾：去掉少於 60 字或只有標題的空殼頁、中文字占比低於 20% 的文件（幾乎都是數字統計表）、與所屬網頁重複的附件、全文完全相同的文件（保留日期最早者）。
- 增量同步：每日 cron 只翻列表頁前段抓新項目；每週日完整重走並重抓所有內容頁，以正文雜湊判定是否更新、以「本輪未再出現」判定下架。 每次建置與上一版 manifest 比對，只有內容有增刪改時才產生新版本。
Who are the source data producers?
中華民國文化部及其各司處（新聞稿中也有所屬機關提供的內容）。
Personal and Sensitive Information
網站為公開資訊，但仍包含公務員與出席來賓姓名、新聞稿聯絡人電話、得獎者名單等。 補助名單、公職人員身分關係揭露、財產申報、聯絡窗口等個資密集區塊已整區排除。使用時請勿據以識別或評價特定個人。
Bias, Risks, and Limitations
- 內容為政府機關觀點與用語，具官方立場；「即時新聞澄清」類文件代表機關說法。
- OCR 可能有錯字、表格結構失真或閱讀順序錯誤，尤其是掃描品質差的舊文件；
extraction欄可用來區分。 - 網站內容有時效性，舊的政策、補助說明可能已不適用。
- 抓取當下失敗或 OCR 未完成的項目不會出現在該版本中。
Recommendations
from datasets import load_dataset
ds = load_dataset("lianghsun/tw-moc-corpus", split="train")
# 只要網頁正文
html = ds.filter(lambda r: r["doc_type"] == "html")
# 只要文化新聞
news = ds.filter(lambda r: "文化新聞" in (r["section"] or ""))
抓取狀態（最近一次同步）
- 內容項目狀態：excluded 75, gone 160, new 3, nocp 2, ok 19,776
- 文字抽取狀態：dup_of_page 3, error 5, ok 22,071, partial 87
- 過濾：drop_exact_dup 1,045, drop_low_cjk_table 31, drop_short 35
Changelog
| 建置時間 | 文件數 | token 數 | 新增 | 更新 | 移除 |
|---|---|---|---|---|---|
| 2026-10-04 05:59 | 17,745 | 26,210,233 | +130 | ~0 | -0 |
| 2026-10-03 08:56 | 17,615 | 25,867,733 | +36 | ~0 | -0 |
| 2026-10-02 12:48 | 17,579 | 25,782,171 | +745 | ~0 | -0 |
| 2026-09-30 17:12 | 16,834 | 24,128,061 | +16834 | ~0 | -0 |
Dataset Card Authors
Dataset Card Contact
- Downloads last month
- 10