🏔️ tw-cip-corpus 是把原住民族委員會全球資訊網（www.cip.gov.tw）整站有意義的內容—— 新聞稿、原住民族 16 族簡介、各處業務說明、重大政策、施政計畫與績效、常見問答、轉型正義專區、歲時祭儀、委託研究報告、出版品電子全文、法規命令草案說明、宣導資料等——連同頁面上的 PDF／DOCX／ODT 附件，整理成可直接用於語言模型持續預訓練（continued pretraining）的繁體中文語料。欄位格式比照 lianghsun/fineweb-edu-zhtw，可直接與其混合使用。

文件數：1,104
token 數：769,794（tiktoken cl100k_base）
最近建置：2026-10-04
本版只含網頁正文：附件 PDF 仍有 256 份在 OCR 中，全部完成後的下一次同步會自動發布含附件的完整版本（屆時 doc_type 會出現 pdf／docx／odt）

Dataset Details

Dataset Description

本資料集以爬蟲走訪原民會全球資訊網的完整導覽樹（含同網域、同版型的人事室專區、性別平等專區、馬太鞍溪災後重建專區、兒童網），每個列表頁翻到最後一頁，取得所有內容頁（*-info.html）與列表上直接掛載的檔案，再把內容頁正文與附件分別轉為純文字：

網頁：只取正文區塊（section.inside_bg 內的 .l_box2），去掉導覽列、頁尾、上線日期／點閱數、社群分享、影片嵌入、附件清單等版面元素；表格轉為以「 | 」分隔的列。每篇以標題為第一行。
PDF：一律逐頁以 150 DPI 轉圖後送 dots.ocr OCR API（layout prompt），丟棄 Page-header／Page-footer／Picture 區塊，表格 HTML 轉為以「 | 」分隔的列。不使用 PDF 內嵌文字層，避免掃描檔與字型編碼錯亂造成的亂碼。
DOCX／ODT／TXT：直接解析文件結構取出段落與表格。本站同一份附件常同時提供 docx／odt／pdf 三種格式，只取一種（docx > odt > pdf）。

一份網頁與其每個附件各自為一筆；附件若與所屬網頁內容重複（附件 5-gram 有 80% 以上已出現在網頁正文，典型例子是新聞稿 PDF），只保留網頁版；有文字層的 PDF 會先用文字層做這個判斷，重複者不送 OCR（extracts.status = dup_of_page）。

Curated by: Liang Hsun Huang
Language(s) (NLP): Traditional Chinese（部分文件夾雜原住民族語羅馬拼寫）
License: 政府資料開放授權條款－第 1 版（依原民會網站「政府網站資料開放宣告」）

Dataset Sources

Source: https://www.cip.gov.tw/
Repository: lianghsun/tw-cip-corpus

收錄範圍與排除

依需求不收全國法規資料庫與本會法規檢索系統（law.cip.gov.tw）、判決書；所屬機關（原住民族文化發展中心等）與本會其他獨立網站（原住民族土地、族語、部落旅遊等另設網域的系統）不在本資料集範圍。另外排除個資密集、轉載或無語料價值的區塊：

規則	排除理由
路徑 `^/(?:[a-z]+/)?en/`	英文版（非中文語料）
路徑 `/footer/`	頁尾的隱私權、資安、資料開放宣告等制式聲明（各政府網站通用）
路徑 `/village/`	55 個原住民族地區簡介（只有互動地圖，沒有文字）
路徑 `/(?:ecard	wallpaper
路徑 `/(?:opinion	epaper
路徑 `/bid/`	招標公告（標案資訊，政府電子採購網另有完整來源）
路徑 `/chart/`	統計圖表（互動圖表的數字資料）
列表 `940F9579765AC6A0`	原住民人口數統計資料（每月數字報表）
列表 `9834B5B2797FB0CB`	國民年金原住民給付統計資料（每月數字報表）
列表 `B54B5C7E1E0F9940CC8BBDC44ABCA211`	公務統計（數字報表）
列表 `B1A681D22552BA47`	預算及決算書（數字報表）
列表 `0104F010C378C672`	附屬單位預算（數字報表）
列表 `7DB7ACB90A760EEE`	附屬單位預算（數字報表）
列表 `4EE2B3DA4C14EFCF`	附屬單位預算（數字報表）
列表 `1FC27E17B0AA7916`	特別預算（數字報表）
列表 `AEC15C4CFE95DE38`	特別預算（數字報表）
列表 `079C20CDB28CCF5B`	單位預算（數字報表）
列表 `AD87E77E23958BA0`	單位預算（數字報表）
列表 `ACDEE1C387301766`	單位預算（數字報表）
列表 `2C5B87C44F111087`	會計報告（數字報表）
列表 `1DBF9228B388688D`	獎補(捐)助情形（受補助對象與金額清單）
列表 `6B6832164B6AF84A`	補助地方政府情形報表（金額清單）
列表 `A0B9313839EF53DE`	補助團體私人情形報表（受補助團體與個人清單）
列表 `B98C677E7822D5F9`	政策宣導相關廣告（經費表格清單）
列表 `AAB4AFF2BB846E35`	辦理人民申請提供政府資訊案件統計表（數字報表）
列表 `B54B5C7E1E0F99403DEBB8200CDE8258`	因公派員出國考察費用執行情形（經費表格）
列表 `20F91CBB11230C0F`	公部門未足額進用原住民明細表（機關名單與數字）
列表 `EF33C0A18B5B5623`	消費者保護專區（轉載行政院消保處及各部會新聞，非本會內容）
列表 `3B254362EFCDC7AB`	原民特考（考試分配結果名單等轉知資料）
列表 `B54B5C7E1E0F9940E4E3AE3D15E2450A`	人權工作小組委員名單（名冊）
列表 `B54B5C7E1E0F99401DC460DFDD23B9B5`	原役采光剪影（照片）
列表 `71784F383EC659FB`	公共工程生態檢核（檢核表單與現場照片，OCR 成本高、語料價值低）
區塊「為民服務 > 主動公開資訊 > 預算及決算書」	預算及決算書（數字報表）
區塊「為民服務 > 主動公開資訊 > 會計報告」	會計報告（數字報表）
區塊「為民服務 > 主動公開資訊 > 獎補(捐)助情形」	獎補(捐)助情形（受補助對象與金額清單）
區塊「為民服務 > 消費者保護專區」	消費者保護專區（轉載，非本會內容）

影音、圖片、試算表（xls/xlsx/ods/csv）、壓縮檔附件不處理；.doc（舊版 Word）目前不處理。超過 60 MB 的附件不下載（本版共 23 份）；超過 400 頁的 PDF 不送 OCR（本版共 7 份），之後可能分批補上。

Uses

Direct Use

繁體中文、台灣政府／原住民族事務領域的持續預訓練語料；可與 fineweb-edu-zhtw 等通用語料混合。
原住民族文化、族群知識、土地與保留地、教育文化、社會福利、經濟發展、轉型正義等主題的領域適應（domain-adaptive pretraining）。

Out-of-Scope Use

不應作為法律意見或法規現行條文的依據：網站內容有時效性，法規請以全國法規資料庫為準。
本資料集不含指令－回應結構，不直接適用於 SFT；「常見問答」類文件雖為問答體，仍以原文形式收錄。
族群文化介紹為機關出版的概述，不能代表各族群內部的多元觀點。
不得用於識別、追蹤或評價特定個人。

Dataset Structure

一筆一份文件，單一 train split。前 13 欄與 fineweb-edu-zhtw 的同名欄位定義相同，其後為本資料集特有欄位。

欄位	說明
`text`	文件全文（網頁以標題為首行）
`id`	`<urn:cip:info:HEX>`（內容頁）或 `<urn:cip:media:模組_YYYYMM_T-NNNNNNNN>`（附件）
`dump`	抓取批次，`CIP-YYYY-MM`
`url`	內容頁網址或附件下載網址
`date`	本筆最近一次抓取時間
`file_path`	內容頁：本地原始 HTML 封存路徑；附件：不含簽章參數的檔案路徑（實際下載須用 `url`）
`language` / `language_score` / `language_script` / `top_langs`	GlotLID 語言辨識結果（同 fineweb 系列）
`avg_words_per_line` / `word_count`	詞數（CJK 逐字 + 英數逐詞，與 fineweb-edu-zhtw 同算法）
`token_count`	tiktoken `cl100k_base` token 數
`title`	標題；附件為「所屬頁標題｜檔名」
`section`	網站麵包屑路徑，例如 `業務專區 > 各處業務 > 教育文化`
`list_title`	所在列表頁名稱
`doc_type`	`html` / `pdf` / `docx` / `odt` / `txt`
`extraction`	`html` / `ocr:dots.ocr` / `docx` / `odt` / `txt`
`parent_url`	附件所屬內容頁網址（網頁本身與列表直掛檔案為 null）
`published_date` / `updated_date`	網站標示的發布日期、最後更新日期（ISO，民國年已轉西元）
`ocr_pages`	OCR 的 PDF 頁數
`content_sha1`	去空白後全文的 SHA-1（用於增量同步比對）

各區塊分布

網站大類	文件數	token 數
為民服務	521	340,122
業務專區	430	229,784
FAQ	49	36,177
人事室專區	18	5,939
兒童網	17	16,059
原住民族16族簡介	16	115,893
認識本會	15	5,922
馬太鞍溪災後重建專區	11	4,881
性別平等專區	11	5,024
活動訊息	10	2,833
原住民族介紹	6	7,160

第二層區塊（前 40）

區塊	文件數
為民服務 > 最新消息	442
業務專區 > 各處業務	417
FAQ	49
為民服務 > 主動公開資訊	45
原住民族16族簡介	16
兒童網 > 神話傳說	16
為民服務 > 歲時祭儀專區	14
人事室專區 > 專區	12
為民服務 > 原住民族就業代金常見問答	12
認識本會 > 組織與職掌	11
活動訊息	10
業務專區 > 平埔原住民業務專區	8
馬太鞍溪災後重建專區 > 重要工作執行進度	6
為民服務 > 原住民族部落役	6
性別平等專區 > 性別意識培力	5
馬太鞍溪災後重建專區 > 相關會議記錄	4
人事室專區 > 公務倫理與法制宣導專區	3
原住民族介紹 > 平埔族群及南島語族簡介	3
人事室專區 > 退休人員福利宣導	2
業務專區 > 重大政策	2
性別平等專區 > 性別分析	2
為民服務 > 諮商同意專區	2
業務專區 > 總統府原住民族歷史正義與轉型正義委員會	2
原住民族介紹 > 原住民族地區	1
人事室專區 > 其他網站連結	1
原住民族介紹 > 8月1日原住民族日	1
性別平等專區 > 相關連結	1
性別平等專區 > 政策與法令	1
性別平等專區 > 性別統計專區	1
馬太鞍溪災後重建專區 > 最新消息	1
性別平等專區 > 性別主流化	1
原住民族介紹 > 原住民族分布區域	1
認識本會 > 谷縱‧喀勒芳安 Qucung Qalavangan 政務副主任委員	1
認識本會 > 曾智勇 Ljaucu‧Zingrur 主任委員	1
認識本會 > 陳義信政務副主任委員	1
認識本會 > 杜張梅莊 Adralriw Abaliusu 常務副主任委員	1
業務專區 > 戰後原住民族轉型正義專區	1
兒童網 > 工藝DIY	1

抽取方式

extraction	文件數	token 數
html	1,104	769,794

語言辨識

language_script	文件數
cmn_Hani	1,102
und_Linb	1
nan_Hani	1

發布年份

年份	文件數
2026	285
2025	188
2013	110
2024	104
????	100
2023	77
2019	71
2022	37
2014	32
2016	27
2020	27
2018	10
2021	9
2017	8
2011	7
2012	5
2015	5
2007	1
2010	1

Dataset Creation

Curation Rationale

原民會網站累積了原住民族各族簡介、歲時祭儀、政策說明、研究報告與出版品，是台灣原住民族事務領域少見的權威、以正體中文書寫的公開文本，但散落在數千個網頁與 PDF 中。本資料集把它整理成可直接訓練的形式，並以增量同步維持更新。

Source Data

Data Collection and Processing

探索：自首頁、網站導覽頁與各子站首頁開始 BFS 走訪所有 data-list／sub-list／grid-list 列表頁（pageSize=1000 逐頁翻完）；內容頁正文裡連到的站內頁也會追；另以站方 sitemap.xml 補孤兒頁。
抓取：內容頁存原始 HTML，解析標題、上線／更新日期、麵包屑、附件；附件以帶簽章參數的網址下載原檔。
抽取：如上節所述（HTML 正文 / dots.ocr / 文件結構）。OCR 逐頁快取，失敗頁會在下一次同步重試。
過濾：去掉少於 60 字或只有標題的空殼頁、中文字占比低於 20% 的文件（幾乎都是數字統計表）、與所屬網頁重複的附件、全文完全相同的文件（保留發布日期最早者）。
增量同步：每日 cron 重走所有列表頁、只抓新項目；每週一次重抓所有內容頁，以正文雜湊判定是否更新、以「本輪未再出現」判定下架。每次建置與上一版 manifest 比對，只有內容有增刪改時才產生新版本。

Who are the source data producers?

中華民國原住民族委員會及其各處室。

Personal and Sensitive Information

網站為公開資訊，但仍包含公務員與委員姓名、職稱與經歷、新聞稿聯絡人電話、活動得獎名單等。名冊、錄取／分配名單等個資密集區塊已整區排除（見上表）。使用時請勿據以識別或評價特定個人。

Bias, Risks, and Limitations

內容為政府機關觀點與用語，具官方立場；新聞稿中「澄清媒體報導」類文件代表機關說法。
OCR 可能有錯字、表格結構失真或閱讀順序錯誤，尤其是掃描品質差的舊文件；extraction 欄可用來區分。
網站內容有時效性，舊的政策、法規說明可能已不適用。
抓取當下失敗或 OCR 未完成的項目不會出現在該版本中。

Recommendations

from datasets import load_dataset
ds = load_dataset("lianghsun/tw-cip-corpus", split="train")
# 只要網頁正文
html = ds.filter(lambda r: r["doc_type"] == "html")
# 只要原住民族介紹
intro = ds.filter(lambda r: (r["section"] or "").startswith("原住民族介紹"))

抓取狀態（最近一次同步）

內容項目狀態：excluded 1,643, gone 160, ok 2,842
文字抽取狀態：dup_of_page 183, error 2, ok 5,954, partial 9, skipped_too_many_pages 7
過濾：drop_short 1,710, drop_exact_dup 11, drop_title_only 16, drop_low_cjk_table 1

Changelog

建置時間	文件數	token 數	新增	更新	移除
2026-10-04 18:15	1,104	769,794	+5	~0	-12
2026-09-30 10:02	1,111	769,725	+1111	~0	-0

Dataset Card Authors

Liang Hsun Huang

Dataset Card Contact

Liang Hsun Huang

Downloads last month: 12

Total file size:

899 kB