Hugging Face's logo

Datasets:
lianghsun
/
tw-ey-corpus

Tasks:
Text Generation
Modalities:
Tabular
Text
Formats:
parquet
Languages:
Chinese
Size:
10K - 100K
Tags:
government
policy
traditional-chinese
taiwan
pretraining
Libraries:
Datasets
pandas
Polars
License:
Dataset card Data Studio Files
xet
 Community

You need to agree to share your Hugging Face information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

Dataset Card for tw-ey-corpus

🏛️ tw-ey-corpus 是把行政院全球資訊網（www.ey.gov.tw）整站有意義的內容—— 本院新聞、即時新聞澄清、行政院會議決議與院會議案、重要政策與政策櫥窗、施政方針與施政報告、國情簡介、 消費者保護、食品安全、能源及減碳、人權、廉政、法規與行政事務說明、常見問題等—— 連同頁面上的 PDF／DOCX／ODT 附件，整理成可直接用於語言模型持續預訓練（continued pretraining）的繁體中文語料。 欄位格式比照 lianghsun/fineweb-edu-zhtw，可直接與其混合使用。

  • 文件數：19,961
  • token 數：27,322,140（tiktoken cl100k_base）
  • 最近建置：2026-10-04
  • 本版只含網頁正文：附件 PDF 仍有 3,425 份在 OCR 中，全部完成後的下一次同步會自動發布含附件的完整版本（屆時 doc_type 會出現 pdf／docx／odt）

Dataset Details

Dataset Description

本資料集以爬蟲走訪行政院全球資訊網的完整導覽樹（含同網域下的院內單位子站：國情簡介 /state/、食品安全辦公室 /ofs/、 能源及減碳辦公室 /oecr/、人權及轉型正義 /hrtj/、重要施政成果 /achievement/、推動轉型正義會報 /tjb/）： 每個導覽頁、每個列表頁以 ?page=N&PS=200 翻到最後一頁，取得所有內容頁（/<站>/<模組>/<GUID>）、單頁內容（/Page/<節點>） 與列表上直接掛載的檔案（/File/…?A=C），再把網頁正文與附件分別轉為純文字：

  • 網頁：只取正文區塊（.words），去掉導覽列、頁尾、日期與資料來源列、相片、相關連結／附件清單、最新新聞、分享列等版面元素； 表格轉為以「 | 」分隔的列。每篇以標題為第一行。正文六成以上是連結文字的單頁節點視為導覽清單，不收。
  • PDF：一律逐頁以 150 DPI 轉圖後送 dots.ocr OCR API， 丟棄 Page-header／Page-footer／Picture 區塊，表格 HTML 轉為以「 | 」分隔的列。不使用 PDF 內嵌文字層，避免掃描檔與字型編碼錯亂造成的亂碼。
  • DOCX／ODT／TXT：直接解析文件結構取出段落與表格。

一份網頁與其每個附件各自為一筆；附件若與所屬網頁內容重複（附件 5-gram 有 80% 以上已出現在網頁正文，典型例子是新聞稿 PDF），只保留網頁版； 有文字層的 PDF 會先用文字層做這個判斷，重複者不送 OCR（extracts.status = dup_of_page）。

Dataset Sources

收錄範圍與排除

依需求不收全國法規資料庫與判決書；所屬機關（各部會、行政院消費者保護會 cpc.ey.gov.tw、性別平等處 gender.ey.gov.tw、 中央災害防救會報等）的獨立網站、院史館（history.ey.gov.tw）、訴願系統、院長信箱等外部系統不在本資料集範圍。 另外排除轉載他機關內容、個資密集或無語料價值的區塊：

範圍 排除理由
節點 /Page/B31C61707D4FEEEF 部會新聞（連到各部會網站的轉載連結，非本院內容）
節點 /Page/76C5EF383759A748 法規資料庫（全國法規資料庫，依需求不收）
節點 /Page/5A7F8FAD44D52F5D 遺失物招領專區（拾得物與招領人資料，無語料價值）
節點 /Page/5AC44DE3213868A9 RSS 頻道服務（訂閱清單）
節點 /Page/DAD883AAD1555692 行政院打詐新聞專區（轉載各部會新聞，標題前綴〔法務部〕等）
節點 /Page/765B534C71E9D7CF 網站導覽（只作為探索起點，本身是連結清單）
區塊「新聞與公告 > 部會新聞」 部會新聞（轉載各部會新聞）
區塊「新聞與公告 > 首長行程」 首長行程（逐日行程條目，僅時間地點）
區塊「資訊與服務 > 廉政園地 > 遺失物招領專區」 遺失物招領（無語料價值）
區塊「資訊與服務 > 主動公開之政府資訊 > 行政院院本部主動公開之政府資訊 > 預算與決算」 預算、決算書（純數字報表）
區塊「資訊與服務 > 主動公開之政府資訊 > 行政院院本部主動公開之政府資訊 > 會計報告」 會計報告（純數字報表）
區塊「資訊與服務 > 公益資源（限公部門）」 公益資源（燈箱、短片、廣播檔案清單，影音素材）

影音頁（影音快遞、97 年前影音資料）的影片說明常是講稿或記者會問答全文，予以收錄（YouTube 連結行已去除），但與本院新聞重複者捨棄。 依站方 robots.txt 不抓 /Upload 路徑。影音、圖片、試算表（xls/xlsx/ods/csv）、壓縮檔附件不處理；.doc（舊版 Word）目前不處理。 超過 400 頁的 PDF 不送 OCR（本版共 0 份），之後可能分批補上。

Uses

Direct Use

  • 繁體中文、台灣政府與公共政策領域的持續預訓練語料；可與 fineweb-edu-zhtw 等通用語料混合。
  • 施政方針、預算與施政報告、院會決議、跨部會重大政策、國情簡介、消費者保護、食品安全、能源轉型等主題的領域適應（domain-adaptive pretraining）。

Out-of-Scope Use

  • 不應作為法律意見或法規現行條文的依據：網站內容有時效性，法規請以全國法規資料庫為準。
  • 本資料集不含指令－回應結構，不直接適用於 SFT；「常見問題」類文件雖為問答體，仍以原文形式收錄。
  • 不得用於識別、追蹤或評價特定個人。

Dataset Structure

一筆一份文件，單一 train split。前 13 欄與 fineweb-edu-zhtw 的同名欄位定義相同，其後為本資料集特有欄位。

欄位 說明
text 文件全文（網頁以標題為首行）
id <urn:ey:post:GUID>（內容頁）、<urn:ey:node:HEX>（單頁節點）或 <urn:ey:file:GUID>（附件）
dump 抓取批次，EY-YYYY-MM
url 內容頁網址或附件下載網址
date 本筆最近一次抓取時間
file_path 內容頁：本地原始 HTML 封存路徑；附件：檔案網址
language / language_score / language_script / top_langs GlotLID 語言辨識結果（同 fineweb 系列）
avg_words_per_line / word_count 詞數（CJK 逐字 + 英數逐詞，與 fineweb-edu-zhtw 同算法）
token_count tiktoken cl100k_base token 數
title 標題；附件為「所屬頁標題｜檔名」
section 網站麵包屑路徑，例如 新聞與公告 > 本院新聞
list_title 所在列表頁名稱
doc_type html / pdf / docx / odt / txt
extraction html / ocr:dots.ocr / docx / odt / txt
parent_url 附件所屬內容頁網址（網頁本身與列表直掛檔案為 null）
published_date / updated_date 網站標示的日期（ISO，民國年已轉西元）
ocr_pages OCR 的 PDF 頁數
content_sha1 去空白後全文的 SHA-1（用於增量同步比對）

各區塊分布

網站大類 文件數 token 數
新聞與公告 17,172 24,140,806
政策與計畫 1,309 1,711,903
資訊與服務 773 734,289
社群與多媒體 436 96,983
認識行政院 92 43,497
食品知識家 27 33,824
社會 23 75,545
人權保障 22 7,949
經濟 20 153,784
文教與休閒 13 100,796
活動專區 9 17,834
政治、國防、外交 8 55,129
政策辦理現況 7 22,266
土地與人民 7 23,630
最新消息 7 5,431
培訓、宣導與研究 6 1,549
便民服務 5 4,883
關於我們 5 5,913
行政院打擊詐欺指揮中心 2 3,766
任務 1 6,055
政府網站資料開放宣告 1 736
全社會防衛韌性工作小組 1 1,021
常見問題集 1 9,125
辦公室簡介 1 1,643
推動成果 1 23,039
階段性成果 1 1,377
隱私權及網站安全政策 1 2,140
重點工作 1 734
組織架構 1 854
緣起 1 8,470
無障礙網頁宣告 1 3,293
食添安心購 1 881
願景 1 1,689
聯絡我們 1 275
轉型正義 1 1,401
任務編組 1 1,663
召集人與委員名單 1 17,967
第二層區塊（前 40）
區塊 文件數
新聞與公告 > 本院新聞 15,769
新聞與公告 > 行政院會議 1,403
政策與計畫 > 院會議案 965
資訊與服務 > 消費者保護 728
社群與多媒體 > 影音快遞 436
政策與計畫 > 重要政策 341
認識行政院 > 歷任政府首長 56
資訊與服務 > 廉政園地 38
食品知識家 > 食安報馬仔 27
認識行政院 > 組織與職掌 23
經濟 > 交通運輸 8
人權保障 > 人權影響評估 7
認識行政院 > 政務委員 7
最新消息 7
社會 > 衛生醫療保健 7
社會 > 社會福利 7
人權保障 > 人權指標 6
活動專區 > 食安共識營 6
便民服務 > 檔案服務專區 5
政治、國防、外交 > 政治 5
資訊與服務 > 主動公開之政府資訊 4
人權保障 > 國家人權行動計畫 4
土地與人民 > 土地 4
社會 > 環境保護 4
文教與休閒 > 社會教育 4
培訓、宣導與研究 > 美國國務院各國人權實施報告 3
人權保障 > 人權教育 3
活動專區 > 研討會/會議/工作坊 3
資訊與服務 > 行政事務 3
文教與休閒 > 觀光 3
社會 > 居家及都市發展 3
經濟 > 勞工事務 3
土地與人民 > 人民 3
經濟 > 對外貿易與投資 3
文教與休閒 > 文化 3
政治、國防、外交 > 國防與外交 3
政策辦理現況 > 獎勵地方政府強化食品安全 2
社會 > 宗教 2
認識行政院 > 副秘書長 2
文教與休閒 > 學校教育 2

抽取方式

extraction 文件數 token 數
html 19,961 27,322,140

語言辨識

language_script 文件數
cmn_Hani 19,702
yue_Hani 79
zxx_Latn 60
jpn_Jpan 48
und_Xsux 11
und_Tang 8
und_Yiii 7
und_Hira 6

發布年份

年份 文件數
2025 1,206
2026 1,077
2023 1,075
2016 1,073
2017 987
2018 985
2010 983
2011 968
2012 952
2024 920
2015 847
2014 843
2013 763
2009 740
2022 734
2019 715
2021 657
2020 599
2008 544
2006 344
2005 313
2003 312
2007 296
2001 284
2002 226
2004 196
1999 163
???? 161
2000 156
1997 149
1995 112
1994 102
1998 101
1996 73
1993 53
1991 30
1984 25
1986 19
1962 18
1985 17
1978 15
1979 13
1982 11
1977 9
1989 9
1969 8
1987 8
1990 8
1974 7
1992 7
1963 6
1973 6
1964 5
1975 5
1980 5
1981 5
1967 3
1988 3
1965 2
1968 2
1983 2
1966 1
1971 1
1972 1
1976 1

Dataset Creation

Curation Rationale

行政院是國家最高行政機關，網站累積二十餘年的院會決議、施政報告、重大政策說明與新聞稿， 是台灣公共政策與政府施政領域少見的大量、權威、以正體中文書寫的公開文本，但散落在數萬個網頁與 PDF 中。 本資料集把它整理成可直接訓練的形式，並以增量同步維持更新。

Source Data

Data Collection and Processing

  1. 探索：自首頁、網站導覽與各子站首頁開始 BFS 走訪所有導覽與列表頁，列表頁逐頁翻完；PageRedirect.aspx 站內轉址只收仍指向本站的。
  2. 抓取：內容頁存原始 HTML，解析標題、日期、麵包屑、附件；附件下載原檔（站方對已移除檔案回傳錯誤頁，記為 gone）。
  3. 抽取：如上節所述（HTML 正文 / dots.ocr / 文件結構）。OCR 逐頁快取，失敗頁會在下一次同步重試。
  4. 過濾：去掉少於 60 字或只有標題的空殼頁、影音頁（影音快遞、97 年前影音資料）中全文 80% 以上已見於同源新聞稿者、中文字占比低於 20% 的文件（幾乎都是數字統計表）、與所屬網頁重複的附件、全文完全相同的文件（保留發布日期最早者）。
  5. 增量同步：每日 cron 只翻列表頁前段抓新項目；每週一次完整重走並重抓所有內容頁，以正文雜湊判定是否更新（每天變動的「最新新聞」「相關政策」區塊不列入雜湊）、以「本輪未再出現」判定下架。 每次建置與上一版 manifest 比對，只有內容有增刪改時才產生新版本。

Who are the source data producers?

中華民國行政院及其院本部各處室、辦公室。

Personal and Sensitive Information

網站為公開資訊，但仍包含政務官與公務員姓名與職稱、新聞稿中陪同人員與受訪民眾姓名、聯絡人電話等。 遺失物招領等個資密集區塊已整區排除。使用時請勿據以識別或評價特定個人。

Bias, Risks, and Limitations

  • 內容為政府機關觀點與用語，具官方立場；「即時新聞澄清」類文件代表機關說法。
  • OCR 可能有錯字、表格結構失真或閱讀順序錯誤，尤其是掃描品質差的舊文件；extraction 欄可用來區分。
  • 網站內容有時效性，舊的政策、預算與施政說明可能已不適用。
  • 抓取當下失敗或 OCR 未完成的項目不會出現在該版本中。

Recommendations 

from datasets import load_dataset
ds = load_dataset("lianghsun/tw-ey-corpus", split="train")
# 只要網頁正文
html = ds.filter(lambda r: r["doc_type"] == "html")
# 只要行政院會議
ey_meeting = ds.filter(lambda r: "行政院會議" in (r["section"] or ""))

抓取狀態（最近一次同步）

  • 內容項目狀態：gone 20, nocp 58, ok 27,782
  • 文字抽取狀態：dup_of_page 27, error 16, link_list 135, ok 30,232, partial 380
  • 過濾：drop_short 4,655, drop_exact_dup 52, drop_dup_of_news 2,288, drop_title_only 15, drop_excluded_section 40, drop_low_cjk_table 5

Changelog

建置時間 文件數 token 數 新增 更新 移除
2026-10-04 08:54 19,961 27,322,140 +0 ~0 -12
2026-10-04 05:55 19,973 27,333,934 +1 ~0 -0
2026-10-02 17:13 19,972 27,331,706 +5 ~0 -1
2026-10-02 00:50 19,968 27,325,570 +15 ~0 -0
2026-10-01 16:54 19,953 27,304,997 +25 ~0 -2
2026-09-30 16:41 19,930 27,268,746 +3194 ~479 -10
2026-09-30 16:36 16,746 25,903,276 +15801 ~0 -11
2026-09-30 12:17 956 2,366,379 +956 ~0 -0

Dataset Card Authors

Liang Hsun Huang

Dataset Card Contact

Liang Hsun Huang
Downloads last month
15
Total file size:
32 MB