Hugging Face's logo

Datasets:
lianghsun
/
tw-moenv-corpus

Tasks:
Text Generation
Modalities:
Tabular
Text
Formats:
parquet
Languages:
Chinese
Size:
10K - 100K
Tags:
environment
climate
government
traditional-chinese
taiwan
pretraining
Libraries:
Datasets
pandas
Polars
License:
Dataset card Data Studio Files
xet
 Community

You need to agree to share your Hugging Face information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

Dataset Card for tw-moenv-corpus

🌏 tw-moenv-corpus 是把環境部全球資訊網（www.moenv.gov.tw，前行政院環境保護署）整站有意義的內容—— 新聞稿與即時新聞澄清（環境部新聞專區 enews.moenv.gov.tw）、政策與施政計畫、業務報告、環境白皮書、各業務（大氣、水質、氣候變遷、資源循環、 化學物質、環境管理、環境研究）說明、政策懶人包、訴願決定、環境統計刊物等——連同頁面上的 PDF／DOCX／ODT 附件， 整理成可直接用於語言模型持續預訓練（continued pretraining）的繁體中文語料。 欄位格式比照 lianghsun/fineweb-edu-zhtw，可直接與其混合使用。

  • 文件數：13,154
  • token 數：15,858,166（tiktoken cl100k_base）
  • 最近建置：2026-10-04
  • 本版只含網頁正文：附件 PDF 仍有 1,731 份在 OCR 中，全部完成後的下一次同步會自動發布含附件的完整版本（屆時 doc_type 會出現 pdf／docx／odt）

Dataset Details

Dataset Description

本資料集以爬蟲走訪環境部全球資訊網的完整導覽樹：每個導覽頁、每個列表頁（經站方分頁 API）翻到最後一頁，取得所有內容頁與列表上直接掛載的檔案； 新聞發布、即時新聞澄清、首長行程、資訊圖卡等則取自環境部新聞專區（enews.moenv.gov.tw），並以其逐年 sitemap 補齊列表未連結的舊稿。 再把網頁正文與附件分別轉為純文字：

  • 網頁：只取正文區塊（全球資訊網 div.words、新聞專區 div.article-content），去掉導覽列、頁尾、分享列、發布資訊、照片圖說、附件清單表格等版面元素； 表格轉為以「 | 」分隔的列。每篇以標題為第一行。正文幾乎全是子頁連結的導覽節點頁不收。
  • PDF：一律逐頁以 150 DPI 轉圖後送 dots.ocr OCR API， 丟棄 Page-header／Page-footer／Picture 區塊，表格 HTML 轉為以「 | 」分隔的列。不使用 PDF 內嵌文字層，避免掃描檔與字型編碼錯亂造成的亂碼。
  • DOCX／ODT／TXT：直接解析文件結構取出段落與表格。

一份網頁與其每個附件各自為一筆；附件若與所屬網頁內容重複（附件 5-gram 有 80% 以上已出現在網頁正文，典型例子是新聞稿 PDF），只保留網頁版； 有文字層的 PDF 會先用文字層做這個判斷，重複者不送 OCR（extracts.status = dup_of_page）。

Dataset Sources

收錄範圍與排除

依需求不收全國法規資料庫與判決書（本站「主管法規查詢系統」oaout.moenv.gov.tw 為法規資料庫，亦不收）； 所屬機關（氣候變遷署、資源循環署、化學物質管理署、環境管理署、國家環境研究院等）與各業務系統的獨立網站不在本資料集範圍。 另外排除下列個資密集、數字報表或無語料價值的區塊：

路徑 排除理由
/en/ 英文版網站（本資料集以正體中文為主）
/sti-en/ 永續貿易指數專區英文版
/greengrowthinvest/ robots.txt 禁止抓取
/retired/ 退休人員專區（登入後服務）
/edf/ 財團法人環境與發展基金會網站（非本部）
/ier/ 財團法人環境資源研究發展基金會網站（非本部）
/erf/ 財團法人環境權保障基金會網站（非本部）
/search 站內搜尋結果頁
/sitemap/ 網站導覽（純連結）
/links/ 相關連結（純外部連結清單）
/announcement/ 網站政策及宣告（各機關網站通用樣板文字）
/aboutus/contact-us/ 聯絡資訊、樓層配置、諮詢專線（電話與姓名表）
/press/procurement/ 招標資訊（標案公告欄位表，含承辦人姓名電話 Email）
/press/recruitment/ 徵才公告（職缺與承辦人聯絡資料，時效性強）
/information-service/appeal/moenv-penalties/ 環境部裁罰處分（受處分者名稱與裁處金額清單）
/information-service/appeal/epa-penalties/ 環保署裁罰處分（受處分者名稱與裁處金額清單）
/information-service/govinfo/budget-implementation-status/ 預算會計經費執行情形（數字報表）
/information-service/govinfo/case-statistics/ 人民申請提供政府資訊案件統計（數字報表）
/information-service/govinfo/FBA844F/ 職場互助教保服務中心財務資訊（數字報表）
/information-service/electronic-payment/ 電子付費（線上繳費服務入口）

影音、圖片、試算表（xls/xlsx/ods/csv）、壓縮檔、簡報附件不處理；.doc（舊版 Word）目前不處理。 超過 100 頁的 PDF 暫不送 OCR（本版共 0 份），由每日同步逐步補上。 文字層顯示為數字統計表（數字占 30% 以上、中文不到 20%）的 PDF 不送 OCR（本版共 111 份；OCR 後也會被上述中文比例過濾掉）。

Uses

Direct Use

  • 繁體中文、台灣環境／政府領域的持續預訓練語料；可與 fineweb-edu-zhtw 等通用語料混合。
  • 空氣品質、水質、氣候變遷與淨零、碳費、資源循環、化學物質、環境影響評估、環境教育等主題的領域適應（domain-adaptive pretraining）。

Out-of-Scope Use

  • 不應作為法規現行條文或環境數據的依據：網站內容有時效性，法規請以全國法規資料庫、即時數據請以環境部各資料平台為準。
  • 本資料集不含指令－回應結構，不直接適用於 SFT。
  • 不得用於識別、追蹤或評價特定個人。

Dataset Structure

一筆一份文件，單一 train split。前 13 欄與 fineweb-edu-zhtw 的同名欄位定義相同，其後為本資料集特有欄位。

欄位 說明
text 文件全文（網頁以標題為首行）
id <urn:moenv:page:NNN>（全球資訊網內容頁）、<urn:moenv:enews:NNN>（新聞專區）或 <urn:moenv:file:ID>（附件）
dump 抓取批次，MOENV-YYYY-MM
url 內容頁網址或附件下載網址
date 本筆最近一次抓取時間
file_path 內容頁：本地原始 HTML 封存路徑；附件：檔案網址
language / language_score / language_script / top_langs GlotLID 語言辨識結果（同 fineweb 系列）
avg_words_per_line / word_count 詞數（CJK 逐字 + 英數逐詞，與 fineweb-edu-zhtw 同算法）
token_count tiktoken cl100k_base token 數
title 標題；附件為「所屬頁標題｜檔名」
section 網站麵包屑路徑，例如 重要業務 > 氣候變遷 > 碳費專區；新聞專區為 新聞專區 > 新聞發布
list_title 所在列表頁名稱
doc_type html / pdf / docx / odt / txt
extraction html / ocr:dots.ocr / docx / odt / txt
parent_url 附件所屬內容頁網址（網頁本身與列表直掛檔案為 null）
published_date / updated_date 網站標示的發布日期、最後更新日期（ISO，民國年已轉西元）
ocr_pages OCR 的 PDF 頁數
content_sha1 去空白後全文的 SHA-1（用於增量同步比對）

各區塊分布

網站大類 文件數 token 數
新聞專區 12,457 15,048,948
資訊與服務 230 197,302
訊息與公告 219 385,790
重要業務 162 138,520
認識環境部 53 48,214
政策與法規 19 24,099
社區環保行動網 6 4,554
永續長聯盟專區 5 7,186
前瞻基礎建設專區 2 1,770
Facebook 1 1,783
第二層區塊（前 40）
區塊 文件數
新聞專區 > 新聞發布 11,342
新聞專區 > 即時新聞澄清 688
新聞專區 > 環境直達車 Podcast 204
訊息與公告 > 環境直達車 Podcast 204
新聞專區 > 資訊圖卡 156
資訊與服務 > 業務網站系統 112
新聞專區 > 多媒體影音 67
資訊與服務 > 政府資訊公開 61
認識環境部 > 組織職掌 30
重要業務 > 策略規劃 27
重要業務 > 化學物質管理 26
重要業務 > 水質保護 25
重要業務 > 大氣環境 23
資訊與服務 > 便民服務 20
政策與法規 > 重要會議與活動紀要 19
認識環境部 > 歷史沿革 18
重要業務 > 環境研究 17
重要業務 > 資源循環 14
資訊與服務 > 環境統計 13
資訊與服務 > 頒發獎項專區 12
資訊與服務 > 訴願裁決裁罰處分國家賠償 11
重要業務 > 議題專區 11
訊息與公告 > 其他消息 9
重要業務 > 環境保護 8
重要業務 > 環境資訊科技 7
訊息與公告 > 首長行程 6
認識環境部 > 正副首長 4
社區環保行動網 > 影音專區 3
重要業務 > 環境管理 2
認識環境部 > 環境部簡介 1
社區環保行動網 > 社區環境調查及培力計畫 1
前瞻基礎建設專區 > 數位建設介紹 1
前瞻基礎建設專區 > 水環境建設介紹 1
社區環保行動網 > 環保小學堂推廣計畫 1
永續長聯盟專區 > 成立緣由 1
永續長聯盟專區 > 優先推動項目 1
永續長聯盟專區 > 政府永續長簡介 1
永續長聯盟專區 > 活動 1
永續長聯盟專區 > 永續發展推動成果 1
資訊與服務 > 環境部參訪預約專區 1

抽取方式

extraction 文件數 token 數
html 13,154 15,858,166

語言辨識

language_script 文件數
cmn_Hani 13,146
eng_Latn 4
yue_Hani 2
lvs_Latn 1
glg_Latn 1

發布年份

年份 文件數
2026 903
2005 902
2025 862
2007 623
2024 623
2009 615
2023 607
2006 589
2011 581
2010 565
2008 553
2012 516
2019 475
2013 463
2016 458
2014 443
2015 404
2020 401
2004 400
2017 400
2018 396
2021 352
2001 297
2022 284
2002 237
2003 186
???? 19

Dataset Creation

Curation Rationale

環境部（前環保署）網站累積自 2001 年以來的新聞稿、政策與施政計畫、業務說明、環境白皮書、宣導教材與研究報告， 是台灣環境、氣候與資源循環領域少見的大量、權威、以正體中文書寫的公開文本，但散落在上萬個網頁與 PDF 中。本資料集把它整理成可直接訓練的形式，並以增量同步維持更新。

Source Data

Data Collection and Processing

  1. 探索：自首頁與站方 sitemap 開始 BFS 走訪所有導覽頁與列表頁；列表頁以站方分頁 API（WebsiteList/NewsList）逐頁翻完。 新聞專區以列表連結與逐年 sitemap 取得全部 News/<N>。
  2. 抓取：內容頁存原始 HTML，解析標題、發布／更新日期、麵包屑、附件；附件（service.moenv.gov.tw/File/Get/…）下載原檔。
  3. 抽取：如上節所述（HTML 正文 / dots.ocr / 文件結構）。OCR 逐頁快取，失敗頁會在下一次同步重試。
  4. 過濾：去掉少於 60 字或只有標題的空殼頁、中文字占比低於 20% 的文件（幾乎都是數字統計表）、與所屬網頁重複的附件、全文完全相同的文件（保留發布日期最早者）。
  5. 增量同步：每日 cron 只翻列表頁前段抓新項目；每週一次完整重走並重抓所有內容頁，以正文雜湊判定是否更新、以「本輪未再出現」判定下架。 每次建置與上一版 manifest 比對，只有內容有增刪改時才產生新版本。

Who are the source data producers?

中華民國環境部（2023 年 8 月前為行政院環境保護署）及其各司處、所屬機關提供之新聞稿。

Personal and Sensitive Information

網站為公開資訊，但仍包含公務員姓名與職稱、新聞稿聯絡人電話、表揚與得獎名單、訴願決定書中的事業名稱等。 裁罰處分清單、招標公告、徵才公告、聯絡資訊等個資或聯絡資料密集的區塊已整區排除。使用時請勿據以識別或評價特定個人或事業。

Bias, Risks, and Limitations

  • 內容為政府機關觀點與用語，具官方立場；「即時新聞澄清」類文件代表機關說法。
  • OCR 可能有錯字、表格結構失真或閱讀順序錯誤，尤其是掃描品質差的舊文件；extraction 欄可用來區分。
  • 網站內容有時效性，舊的政策、法規說明可能已不適用。
  • 抓取當下失敗或 OCR 未完成的項目不會出現在該版本中。

Recommendations 

from datasets import load_dataset
ds = load_dataset("lianghsun/tw-moenv-corpus", split="train")
# 只要網頁正文
html = ds.filter(lambda r: r["doc_type"] == "html")
# 只要新聞稿
press = ds.filter(lambda r: (r["section"] or "").startswith("新聞專區 > 新聞發布"))

抓取狀態（最近一次同步）

  • 內容項目狀態：gone 8, new 2,878, nocp 1, ok 18,523
  • 文字抽取狀態：dup_of_page 1, error 5, numeric_table 111, ok 17,422, partial 5
  • 過濾：drop_exact_dup 53, drop_low_cjk_table 18, drop_short 518, drop_title_only 4

Changelog

建置時間 文件數 token 數 新增 更新 移除
2026-10-04 00:53 13,154 15,858,166 +2 ~0 -0
2026-10-03 02:17 13,152 15,855,283 +3 ~0 -0
2026-10-02 19:11 13,149 15,851,863 +2 ~0 -0
2026-10-02 02:12 13,147 15,850,040 +1 ~0 -0
2026-10-01 21:51 13,146 15,849,035 +1 ~0 -0
2026-10-01 00:03 13,145 15,847,858 +4 ~0 -0
2026-09-30 16:34 13,141 15,843,584 +13141 ~0 -0

Dataset Card Authors

Liang Hsun Huang

Dataset Card Contact

Liang Hsun Huang
Downloads last month
8
Total file size:
16.9 MB