📡 tw-ncc-corpus 是把國家通訊傳播委員會全球資訊網（www.ncc.gov.tw，NCC）整站有意義的內容—— 新聞稿與即時新聞澄清、一般公告、本會公報（法規命令／行政規則／法規草案預告）、公開說明會與聽證會資料、委員會議議程與紀錄、委託研究與出國報告、施政計畫與年度報告、消費者保護與防詐宣導、媒體素養與性平教材、常見問答、業務介紹等—— 連同頁面上的 PDF／DOCX／ODT／DOC 附件，整理成可直接用於語言模型持續預訓練（continued pretraining）的繁體中文語料。欄位格式比照 lianghsun/fineweb-edu-zhtw，可直接與其混合使用。

文件數：6,688
token 數：12,728,533（tiktoken cl100k_base）
最近建置：2026-10-04
本版只含網頁正文：附件 PDF 仍有 4,585 份在 OCR 中，全部完成後的下一次同步會自動發布含附件的完整版本（屆時 doc_type 會出現 pdf／docx／odt）

Dataset Details

Dataset Description

NCC 網站前端是 Angular 單頁應用，資料由 api.ncc.gov.tw/api/… 的 JSON 介面提供。本資料集自導覽樹（menuData）出發，走訪每個資料夾、每個列表（翻到最後一頁）、每個單頁（artwebsite），並探測導覽樹沒有、但仍在線上的列表 id（孤兒列表）；列表介面直接帶有每筆內容的正文（detailContent）與附件清單，再把正文與附件分別轉為純文字：

網頁：只取正文 HTML，去掉導覽列、頁尾、瀏覽人次、分享列與附件清單等版面元素；表格轉為以「 | 」分隔的列。每篇以標題為第一行。
PDF：一律逐頁以 150 DPI 轉圖後送 dots.ocr OCR API（layout prompt），丟棄 Page-header／Page-footer／Picture 區塊，表格 HTML 轉為以「 | 」分隔的列。
文字層例外（extraction = pdftext）：共用 OCR 端點吞吐有限（實測約 2–9 頁／分），而本站 PDF 估計達數十萬頁（委託研究報告單份常達 150–500 頁），因此 6 頁以上的 PDF 若內嵌文字層通過品質閘門——有字頁 ≥80%、替換／私用區字元 <0.2%、並抽 2 頁送 OCR 對照、字元 F1 ≥ 0.85——才採用文字層（去除重複頁首頁尾與頁碼、接回斷行）；未通過者照常 OCR。文字層的表格會失去欄位結構，可用 extraction 欄排除；共用 OCR 端點有空檔時，後續同步會逐步把這些文件改為 OCR 版本。
DOCX／ODT／DOC／TXT：直接解析文件結構取出段落與表格（DOC 以 Word 97 piece table 解析；ODT 略過註解與修訂追蹤）。

一份網頁與其每個附件各自為一筆；以下情況只保留一份：

同一篇內容以多種格式提供同一文件（常見 PDF＋ODT＋DOC 三版）：依 DOCX > ODT > DOC > TXT > PDF 保留一份，有同名文字檔的 PDF 不送 OCR（extracts.status = sibling_text）；
附件與所屬網頁內容重複（附件 5-gram 有 80% 以上已出現在網頁正文，典型例子是新聞稿 PDF）：保留網頁版，有文字層的 PDF 會先用文字層做這個判斷，重複者不送 OCR（extracts.status = dup_of_page）。
Curated by: Liang Hsun Huang
Language(s) (NLP): Traditional Chinese
License: 政府資料開放授權條款－第 1 版（依 NCC 網站「政府網站資料開放宣告」）

Dataset Sources

Source: https://www.ncc.gov.tw/
Repository: lianghsun/tw-ncc-corpus

收錄範圍與排除

不收全國法規資料庫與判決書；NCC 的法規查詢系統（ncclaw.ncc.gov.tw）、訴願決定書查詢（opweb.ncc.gov.tw）、陳情網、通訊傳播市場脈動等獨立子網站、英文版網站均不在本資料集範圍。另外排除個資密集、轉載或純數字報表的區塊：

節點 id	區塊	排除理由
130	預算與決算書	預決算書與會計報告（數字報表）
131	支付或接受之補助	補捐助經費彙總（表格清單）
132	媒體廣告月(季)報表	廣告經費報表（表格清單）
133	民間捐助之財團法人資訊公開專區	各財團法人財務報表（他單位報表）
143	非營業特種基金出國及赴大陸地區計畫執行情形	經費執行表（表格清單）
1234	因公派員出國考察費用執行情形	經費執行表（表格清單）
1178	經濟部公告「在臺灣地區從事商業行為禁止事項項目表」	轉載經濟部公告，非本會內容
435	其他政府機關宣導區	轉載他機關宣導，非本會內容
1180	主題網站	外部網站連結清單
1181	會外網站	外部網站連結清單
182	開放資料集	開放資料集清單（資料檔另於 data.gov.tw 提供）
180	政府資料開放諮詢小組成員清冊	成員名冊（個資）
492	即時災損查詢	各次颱風地震通訊災損統計表（數字報表）
491	地震告警訊息發布資訊及其時序圖	告警發布時序圖表
1161	無線廣播電視節目表	節目表
249	衛星電視及無線電視本國自製節目播送情形	節目時數統計（數字報表）
250	廣電事業播出臺語、客語及原住民族語言等節目時數統計資料	節目時數統計（數字報表）
25	業務統計 > 通訊類	電信業者家數、營運概況等統計（數字報表）
26	業務統計 > 傳播類	廣電業者家數、訂戶數等統計（數字報表）
27	業務統計 > 行政業務類	監理、裁處件數等統計（數字報表）
29	業務統計 > 其他類	性別統計、行政救濟統計等（數字報表）
30	業務統計 > 圖像統計區	統計圖表
64	違反衛生法規核處紀錄	他機關（衛福部等）移送之核處一覽表（表格）
1237	已登記電信事業清單	業者名單（表格清單）
225	查詢電信事業申請作業進度	業者申請進度清單（表格清單）
1212	IASP 配合限制接取清單	限制接取網址清單（表格清單）
1179	型式認證審驗合格資料透明化	審驗合格設備清單（表格）
421	本會員工性別統計	數字報表
422	本會主管業者性別統計	數字報表
426	性別統計專區 > 其他	數字報表
139	辦理人民申請提供政府資訊案件季年統計總表	數字報表
128	訴願業務統計	數字報表
779	委員簡介	人員介紹（個資）
75	活動報名	報名系統
—	標題含「公示送達」者	公示送達（公告受送達公司代表人姓名與案號，個資且無語料價值）

影音、圖片（含 TIF 掃描圖）、試算表（xls/xlsx/ods/csv）、簡報、壓縮檔附件不處理。超過 400 頁的 PDF 不送 OCR（本版共 0 份），之後可能分批補上。

Uses

Direct Use

繁體中文、台灣通訊傳播監理與政府領域的持續預訓練語料；可與 fineweb-edu-zhtw 等通用語料混合。
電信、廣播電視、網路治理、頻譜管理、消費者保護、防詐與媒體素養等主題的領域適應（domain-adaptive pretraining）。

Out-of-Scope Use

不應作為法律意見或法規現行條文的依據：網站內容有時效性，法規請以全國法規資料庫與 NCC 法規系統為準。
本資料集不含指令－回應結構，不直接適用於 SFT；「常見問答」類文件雖為問答體，仍以原文形式收錄。
不得用於識別、追蹤或評價特定個人。

Dataset Structure

一筆一份文件，單一 train split。前 13 欄與 fineweb-edu-zhtw 的同名欄位定義相同，其後為本資料集特有欄位。

欄位	說明
`text`	文件全文（網頁以標題為首行）
`id`	`<urn:ncc:<module>:<serno>>`（列表內容）、`<urn:ncc:art:<id>>`（單頁）或 `<urn:ncc:file:<hash>>`（附件）
`dump`	抓取批次，`NCC-YYYY-MM`
`url`	內容頁網址或附件下載網址
`date`	本筆最近一次抓取時間
`file_path`	內容：本地原始 JSON 封存路徑；附件：檔案網址
`language` / `language_score` / `language_script` / `top_langs`	GlotLID 語言辨識結果（同 fineweb 系列）
`avg_words_per_line` / `word_count`	詞數（CJK 逐字 + 英數逐詞，與 fineweb-edu-zhtw 同算法）
`token_count`	tiktoken `cl100k_base` token 數
`title`	標題；附件為「所屬頁標題｜檔名」
`section`	網站麵包屑路徑，例如 `澄清＆施政公告 > 公告訊息 > 新聞稿`
`list_title`	所在列表頁名稱
`doc_type`	`html` / `pdf` / `docx` / `odt` / `doc` / `txt`
`extraction`	`html` / `ocr:dots.ocr` / `pdftext`（驗證過的 PDF 文字層） / `docx` / `odt` / `doc` / `txt`
`parent_url`	附件所屬內容頁網址（網頁本身與選單直掛檔案為 null）
`published_date` / `updated_date`	網站標示的發布日期、最後更新日期（ISO，民國年已轉西元）
`ocr_pages`	OCR 的 PDF 頁數
`content_sha1`	去空白後全文的 SHA-1（用於增量同步比對）

各區塊分布

網站大類	文件數	token 數
澄清＆施政公告	4,863	5,182,491
首頁隱藏項目	1,258	7,191,415
服務與推廣	444	249,513
業務申辦	60	15,410
政府公開資料	28	44,081
關於本會	25	22,252
業務統計	7	21,485
法規查詢	2	576
陳情&申訴	1	1,310

第二層區塊（前 40）

區塊	文件數
澄清＆施政公告 > 公告訊息	3,067
首頁隱藏項目 > 法規命令	1,257
澄清＆施政公告 > 本會公報	807
澄清＆施政公告 > 活動訊息	795
服務與推廣 > 專區彙集	303
澄清＆施政公告 > 公開意見討論	179
業務申辦 > 常見問答	55
服務與推廣 > 打擊詐欺專區	43
服務與推廣 > 災防告警服務	39
服務與推廣 > 性別平等專區	35
服務與推廣 > 消費者專區	19
政府公開資料 > 研究及出國報告	17
澄清＆施政公告 > 施政績效	15
關於本會 > 業務職掌	14
關於本會 > 重要政策	9
業務統計 > 民眾申訴類	7
業務申辦 > 申請文件總覽	5
服務與推廣 > 媒體素養	5
政府公開資料 > 本會出版品	4
政府公開資料 > 內控聲明書	4
政府公開資料 > 政府資訊公開法及相關規定	3
關於本會 > 本會簡介	2
法規查詢 > 本會法令查詢資源	2
首頁隱藏項目 > 特別資料	1
陳情&申訴 > 陳情與申訴	1

抽取方式

extraction	文件數	token 數
html	6,688	12,728,533

語言辨識

language_script	文件數
cmn_Hani	6,669
anp_Deva	5
eng_Latn	4
kiu_Latn	3
glg_Latn	2
und_Egyp	2
yue_Hani	1
und_Cans	1

發布年份

年份	文件數
2017	518
2016	436
2020	422
2007	419
2018	385
2013	384
2008	379
2014	364
2011	357
2010	328
2012	323
2019	299
2015	286
2009	273
2024	237
2022	187
2021	170
2023	160
2006	154
2025	96
2026	87
2003	79
2004	57
2002	52
2005	52
2000	47
2001	41
1999	28
1997	26
1998	15
1996	7
1993	6
1994	4
1977	2
1995	2
1958	1
1970	1
1976	1
1982	1
1988	1
1992	1

Dataset Creation

Curation Rationale

NCC 網站累積二十年的新聞稿、公報、法規草案說明、委員會議紀錄、委託研究報告與消費者宣導，是台灣電信與廣電監理領域少見的大量、權威、以正體中文書寫的公開文本，但散落在上萬筆列表資料與附件中。本資料集把它整理成可直接訓練的形式，並以增量同步維持更新。

Source Data

Data Collection and Processing

探索：自導覽樹（menuData）取得所有資料夾、列表、單頁與直掛檔案節點；列表逐頁翻完（每頁 200 筆）；正文內連回本站的列表／單頁／內容連結也一併走訪；另探測導覽樹沒有、但仍在線上的列表 id。站前有 Cloudflare，以瀏覽器 TLS 指紋存取。
抓取：保存每筆原始 JSON（標題、正文、發布／更新日期、麵包屑、附件清單）；附件下載原檔（依檔頭判斷實際格式）。
抽取：如上節所述（HTML 正文 / dots.ocr / 文件結構）。OCR 逐頁快取，失敗頁會在下一次同步重試。
過濾：去掉少於 60 字或只有標題的空殼頁、中文字占比低於 20% 的文件（幾乎都是數字統計表）、與所屬網頁重複的附件、同一內容的同名多格式附件、全文完全相同的文件（保留發布日期最早者）。
增量同步：每日 cron 只翻列表前段抓新項目與內容變更；每週一次完整重走並重寫所有內容，以正文雜湊判定是否更新、以「本輪未再出現」判定下架。每次建置與上一版 manifest 比對，只有內容有增刪改時才產生新版本。

Who are the source data producers?

國家通訊傳播委員會及其各處室。

Personal and Sensitive Information

網站為公開資訊，但仍包含公務員姓名與職稱、新聞稿聯絡人電話、委託研究主持人姓名、裁處對象（多為業者名稱）等。公示送達公告、成員名冊、委員簡介等個資密集內容已排除。使用時請勿據以識別或評價特定個人。

Bias, Risks, and Limitations

內容為政府機關觀點與用語，具官方立場；新聞稿中「澄清媒體報導」類文件代表機關說法。
pdftext 文件的表格欄位會錯位（文字層依版面輸出）；OCR 可能有錯字、表格結構失真或閱讀順序錯誤，尤其是掃描品質差的舊文件；extraction 欄可用來區分。
網站內容有時效性，舊的政策、法規說明可能已不適用。
抓取當下失敗或 OCR 未完成的項目不會出現在該版本中。

Recommendations

from datasets import load_dataset
ds = load_dataset("lianghsun/tw-ncc-corpus", split="train")
# 只要網頁正文
html = ds.filter(lambda r: r["doc_type"] == "html")
# 只要新聞稿
news = ds.filter(lambda r: "新聞稿" in (r["section"] or ""))

抓取狀態（最近一次同步）

內容項目狀態：excluded 62, gone 26, ok 13,882
文字抽取狀態：dup_file 368, dup_of_page 126, error 17, ok 26,119, sibling_text 1,349
過濾：drop_exact_dup 295, drop_short 6,666, drop_title_only 209, drop_low_cjk_table 10

Changelog

建置時間	文件數	token 數	新增	更新	移除
2026-10-04 18:04	6,688	12,728,533	+1	~0	-2
2026-09-30 09:19	6,689	12,730,659	+6689	~0	-0

Dataset Card Authors

Liang Hsun Huang

Dataset Card Contact

Liang Hsun Huang

Downloads last month: 7

Total file size:

7.92 MB