Datasets:
Dataset Card for tw-ocac-corpus
🌏 tw-ocac-corpus 是把僑務委員會全球資訊網（www.ocac.gov.tw）整站有意義的內容—— 新聞稿與僑社動態、施政計畫與施政報告、僑民／僑教／僑商／僑生各項業務說明、證照服務與答客問、僑生常見問答、 僑務研究與典藏、年鑑與電子書，以及各駐外僑務據點子網站的活動報導—— 連同頁面上的 PDF／DOCX／ODT 附件，整理成可直接用於語言模型持續預訓練（continued pretraining）的繁體中文語料。 欄位格式比照 lianghsun/fineweb-edu-zhtw，可直接與其混合使用。
- 文件數：4,820
- token 數：4,149,042（tiktoken
cl100k_base） - 最近建置：2026-10-04
- 本版只含網頁正文：附件 PDF 仍有 204 份在 OCR 中，全部完成後的下一次同步會自動發布含附件的完整版本（屆時
doc_type會出現pdf／docx／odt）
Dataset Details
Dataset Description
本資料集以爬蟲走訪僑委會全球資訊網的完整導覽樹（含 /OCAC/SubSites/ 下各駐外僑務據點子網站）：每個導覽頁、每個列表頁翻到最後一頁，
取得所有內容頁（Detail.aspx／VDetail.aspx）、FAQ 題目與列表上直接掛載的檔案，再把正文與附件分別轉為純文字：
- 網頁：只取正文區塊（主站
#h_content、子網站#content-info-detail），去掉導覽列、頁尾、點閱數、分享列、圖片與圖說、附件清單、 「其它資訊」相關文章等版面元素；表格轉為以「 | 」分隔的列。每篇以標題為第一行。 - FAQ（證照服務答客問、僑生常見問答等）：由站方
getFAQ.ashx取回全部題目，一題一筆（題目為第一行，其後為答案）。 - PDF：一律逐頁以 150 DPI 轉圖後送 dots.ocr OCR API，
丟棄
Page-header／Page-footer／Picture區塊，表格 HTML 轉為以「 | 」分隔的列。不使用 PDF 內嵌文字層，避免掃描檔與字型編碼錯亂造成的亂碼。 - DOCX／ODT／TXT：直接解析文件結構取出段落與表格。
一份網頁與其每個附件各自為一筆；附件若與所屬網頁內容重複（附件 5-gram 有 80% 以上已出現在網頁正文），只保留網頁版；
有文字層的 PDF 會先用文字層做這個判斷，重複者不送 OCR（extracts.status = dup_of_page）。
同一篇新聞常同時刊在「僑委會最新訊息」「全球僑社動態」與駐外子網站（各有不同 pid），全文完全相同者只保留一筆。
- Curated by: Liang Hsun Huang
- Language(s) (NLP): Traditional Chinese
- License: 政府資料開放授權條款－第 1 版（依僑務委員會政府網站資料開放宣告）
Dataset Sources
- Source: https://www.ocac.gov.tw/
- Repository: lianghsun/tw-ocac-corpus
收錄範圍與排除
依需求不收全國法規資料庫與判決書（本站「僑務法規」只連到僑務法規查詢系統，一併不收）； 獨立網域的網站（宏觀僑務新聞網 ocacnews.net、全球華文網 huayuworld.org、海外僑胞服務平台 taiwan-world.net 各子站等）不在本資料集範圍。 另外排除個資密集、轉載他機關或無語料價值的區塊：
| 範圍 | 排除理由 |
|---|---|
節點 nodeid=3214 |
臺灣相關新聞（全部連到宏觀僑務新聞網 ocacnews.net，非本網站） |
節點 nodeid=15 |
僑務法規（連到僑務法規查詢系統，法規資料庫另有來源，依需求不收） |
節點 nodeid=27 |
僑務法規查詢系統（法規資料庫） |
節點 nodeid=4677 |
全球商機資訊（轉載經濟部國際貿易署資訊，非本會內容） |
節點 nodeid=2253 |
獎章名人錄（受獎人姓名名冊） |
節點 nodeid=71 |
公職人員財產申報專區（申報人姓名與財產資料） |
節點 nodeid=8003 |
僑務委員會月曆（圖片月曆） |
路徑 /ocac/eng/ |
英文版網站（非中文語料） |
路徑 /ocac/photo/ |
活動相簿（圖片集） |
路徑 /ocac/serviceemail/ |
民意信箱（表單） |
路徑 /ocac/poll/ |
線上調查（表單） |
路徑 /ocac/link/ |
相關連結（連結清單） |
路徑 /ocac/search |
站內搜尋 |
| 英文子網站 | 英文版駐外子網站（麵包屑根節點為 Home，內容為英文） |
影音、圖片、試算表（xls/xlsx/ods/csv）、壓縮檔附件不處理；.doc（舊版 Word）目前不處理。
超過 400 頁的 PDF 不送 OCR（本版共 1 份），超過 150 MB 的檔案不下載。
Uses
Direct Use
- 繁體中文、台灣政府／僑務領域的持續預訓練語料；可與 fineweb-edu-zhtw 等通用語料混合。
- 僑民服務、華僑身分與證照、僑民教育與華語文教學、僑生來臺就學、僑臺商經貿等主題的領域適應（domain-adaptive pretraining）。
Out-of-Scope Use
- 不應作為申辦規定或法規現行條文的依據：網站內容有時效性，請以僑委會網站與全國法規資料庫為準。
- 本資料集不含指令－回應結構，不直接適用於 SFT；FAQ 類文件雖為問答體，仍以原文形式收錄。
- 不得用於識別、追蹤或評價特定個人。
Dataset Structure
一筆一份文件，單一 train split。前 13 欄與 fineweb-edu-zhtw 的同名欄位定義相同，其後為本資料集特有欄位。
| 欄位 | 說明 |
|---|---|
text |
文件全文（網頁以標題為首行） |
id |
<urn:ocac:pid:NNN>（內容頁）、<urn:ocac:faq:NNN>（FAQ 題目）或 <urn:ocac:media:fNNN>／<urn:ocac:media:ebNNN>（附件／電子書） |
dump |
抓取批次，OCAC-YYYY-MM |
url |
內容頁網址或附件下載網址 |
date |
本筆最近一次抓取時間 |
file_path |
內容頁：本地原始 HTML 封存路徑；附件：檔案網址 |
language / language_score / language_script / top_langs |
GlotLID 語言辨識結果（同 fineweb 系列） |
avg_words_per_line / word_count |
詞數（CJK 逐字 + 英數逐詞，與 fineweb-edu-zhtw 同算法） |
token_count |
tiktoken cl100k_base token 數 |
title |
標題；附件為「所屬頁標題｜檔名」 |
section |
網站麵包屑路徑，例如 僑生服務 > 僑生常見問答集Q&A > 居留 |
list_title |
所在列表頁名稱 |
doc_type |
html / pdf / docx / odt / txt |
extraction |
html / ocr:dots.ocr / docx / odt / txt |
parent_url |
附件所屬內容頁網址（網頁本身與列表直掛檔案為 null） |
published_date / updated_date |
網站標示的發布日期、最後更新日期（ISO） |
ocr_pages |
OCR 的 PDF 頁數 |
content_sha1 |
去空白後全文的 SHA-1（用於增量同步比對） |
各區塊分布
| 網站大類 | 文件數 | token 數 |
|---|---|---|
| 全球僑社動態 | 1,260 | 1,387,994 |
| 僑社采風 | 1,121 | 1,108,718 |
| 訊息總覽 | 482 | 326,481 |
| FAQ | 425 | 114,454 |
| 僑委會最新訊息 | 370 | 507,711 |
| 僑民聯繫 | 250 | 85,891 |
| 證照服務 | 155 | 58,645 |
| 僑商經貿 | 142 | 115,206 |
| 開放資料 | 138 | 44,202 |
| 僑務研究 | 72 | 69,920 |
| 僑生服務 | 69 | 50,948 |
| 資訊公開 | 57 | 61,983 |
| （未分類） | 49 | 13,769 |
| 公告事項 | 38 | 26,552 |
| 廉政園地 | 38 | 21,324 |
| 關於本會 | 37 | 25,590 |
| 僑民教育 | 33 | 52,089 |
| 訊息導覽 | 19 | 7,629 |
| 服務項目 | 14 | 26,063 |
| 各地僑情簡介 | 13 | 17,684 |
| 其他參考資訊 | 10 | 2,516 |
| 中心簡介 | 9 | 12,508 |
| 服務據點簡介 | 4 | 2,110 |
| 網站資訊 | 3 | 2,962 |
| 僑務統計 | 2 | 473 |
| 僑務新聞 | 2 | 2,051 |
| 僑務組簡介 | 2 | 1,111 |
| 僑臺商會會務輔導及簡介 | 1 | 555 |
| Line專線 | 1 | 230 |
| 僑務課簡介 | 1 | 447 |
| 其他相關資訊 | 1 | 316 |
| 地區僑情簡介 | 1 | 385 |
| 回國研習 | 1 | 525 |
第二層區塊（前 40）
| 區塊 | 文件數 |
|---|---|
| 全球僑社動態 | 1,260 |
| 僑社采風 | 1,121 |
| 訊息總覽 > 重要活動 | 482 |
| 僑委會最新訊息 | 370 |
| FAQ | 318 |
| 開放資料 | 138 |
| 僑民聯繫 > 國內僑民暨歸僑團體 | 126 |
| 證照服務 > 答客問 | 83 |
| 僑商經貿 > 交流活動 | 69 |
| FAQ > 公職人員財產申報問答集 | 66 |
| 證照服務 > 服務項目 | 65 |
| 49 | |
| 僑商經貿 > 美食觀光 | 49 |
| 僑民聯繫 > 海外青年文化大使 | 44 |
| 僑民聯繫 > 急難救助團體 | 37 |
| 公告事項 > 活動 | 35 |
| 僑生服務 > 僑生常見問答集Q&A | 34 |
| 關於本會 > 本會介紹 | 34 |
| 資訊公開 > 即時新聞澄清專區 | 28 |
| 僑務研究 > 僑務課程 | 27 |
| 僑民聯繫 > 僑社重要活動 | 24 |
| 僑務研究 > 僑務學術研討會 | 24 |
| 訊息導覽 > 重要活動 | 19 |
| 僑商經貿 > 僑商培訓 | 17 |
| 廉政園地 > 補助資訊 | 17 |
| FAQ > 申請華僑身分證明書（檢具國籍或華裔證明）答客問 | 17 |
| FAQ > 申請護照加簽僑居身分答客問 | 15 |
| 服務項目 | 14 |
| 資訊公開 > 性別主流化專區 | 13 |
| 僑民教育 > 僑教輔助 | 13 |
| 各地僑情簡介 | 13 |
| 廉政園地 > 廉政會報 | 12 |
| 僑生服務 > 僑生聯繫 | 11 |
| 其他參考資訊 | 10 |
| 中心簡介 | 9 |
| 僑務研究 > 臺灣青年搭僑交流 | 9 |
| FAQ > i僑卡特約商店/醫療機構常見問題問答集 | 8 |
| 僑生服務 > 青年研習 | 7 |
| 僑民聯繫 > 僑團(胞)服務 | 6 |
| 僑民聯繫 > 非洲專區 | 5 |
抽取方式
| extraction | 文件數 | token 數 |
|---|---|---|
| html | 4,820 | 4,149,042 |
語言辨識
| language_script | 文件數 |
|---|---|
| cmn_Hani | 4,799 |
| eng_Latn | 8 |
| jpn_Jpan | 3 |
| kiu_Latn | 3 |
| ban_Latn | 1 |
| yue_Hani | 1 |
| glg_Latn | 1 |
| ltg_Latn | 1 |
發布年份
| 年份 | 文件數 |
|---|---|
| 2026 | 2,380 |
| 2025 | 616 |
| ???? | 557 |
| 2023 | 331 |
| 2017 | 188 |
| 2014 | 166 |
| 2019 | 134 |
| 2016 | 114 |
| 2024 | 84 |
| 2015 | 60 |
| 2018 | 60 |
| 2022 | 52 |
| 2020 | 41 |
| 2021 | 36 |
| 2013 | 1 |
Dataset Creation
Curation Rationale
僑委會網站累積二十年以上的新聞稿、海外僑社報導、僑務政策與施政報告、僑教與僑生業務說明及問答， 是台灣僑務與海外華人社群領域少見的大量、權威、以正體中文書寫的公開文本，但散落在數萬個網頁與 PDF 中。 本資料集把它整理成可直接訓練的形式，並以增量同步維持更新。
Source Data
Data Collection and Processing
- 探索：自首頁開始 BFS 走訪所有
List.aspx導覽／列表頁（含駐外子網站SubSites），依頁面隱藏欄位的總筆數以idx逐頁翻完；Redirect.ashx轉址直接解開目標、只收仍指向本站的；/japan/之類短網址與電子書頁以 HTTP 轉址解析；另以站方sitemap.xml補孤兒頁。 - 抓取：內容頁存原始 HTML，解析標題、發布／更新日期、麵包屑、附件；附件下載原檔。
- 抽取：如上節所述（HTML 正文 / FAQ / dots.ocr / 文件結構）。OCR 逐頁快取，失敗頁會在下一次同步重試。
- 過濾：去掉少於 60 字或只有標題的空殼頁、中文字占比低於 20% 的文件（幾乎都是數字統計表或外文）、與所屬網頁重複的附件、全文完全相同的文件（保留發布日期最早者）。
- 增量同步：每日 cron 只翻列表頁前段抓新項目；每週一次完整重走並重抓所有內容頁，以正文雜湊判定是否更新、以「本輪未再出現」判定下架。 每次建置與上一版 manifest 比對，只有內容有增刪改時才產生新版本。
Who are the source data producers?
中華民國僑務委員會及其各處室、駐外僑務人員（駐外館處僑務組／僑務秘書、海外華僑文教服務中心）。
Personal and Sensitive Information
網站為公開資訊，但仍包含公務員與僑界人士姓名、職稱，活動報導中的出席者名單，以及得獎、錄取名單。 獎章名人錄、公職人員財產申報等個資密集區塊已整區排除。使用時請勿據以識別或評價特定個人。
Bias, Risks, and Limitations
- 內容為政府機關觀點與用語，具官方立場；僑社活動報導多為正面表述。
- OCR 可能有錯字、表格結構失真或閱讀順序錯誤，尤其是掃描品質差的舊文件；
extraction欄可用來區分。 - 網站內容有時效性，舊的申辦規定、計畫簡章可能已不適用。
- 抓取當下失敗或 OCR 未完成的項目不會出現在該版本中。
Recommendations
from datasets import load_dataset
ds = load_dataset("lianghsun/tw-ocac-corpus", split="train")
# 只要網頁正文
html = ds.filter(lambda r: r["doc_type"] == "html")
# 只要 FAQ
faq = ds.filter(lambda r: r["id"].startswith("<urn:ocac:faq:"))
抓取狀態（最近一次同步）
- 內容項目狀態：excluded 3,728, gone 132, new 13, nocp 321, ok 6,229
- 文字抽取狀態：dup_of_page 13, error 1, ok 11,523, partial 21, skipped_too_many_pages 1
- 過濾：drop_short 323, drop_exact_dup 540, drop_low_cjk_table 36
Changelog
| 建置時間 | 文件數 | token 數 | 新增 | 更新 | 移除 |
|---|---|---|---|---|---|
| 2026-10-04 21:50 | 4,820 | 4,149,042 | +403 | ~0 | -3 |
| 2026-10-04 20:11 | 4,420 | 3,859,448 | +84 | ~1 | -535 |
| 2026-10-04 15:38 | 4,871 | 4,215,196 | +3 | ~0 | -0 |
| 2026-10-03 18:06 | 4,868 | 4,212,407 | +19 | ~0 | -0 |
| 2026-10-02 21:28 | 4,849 | 4,189,086 | +83 | ~0 | -0 |
| 2026-10-01 16:20 | 4,766 | 4,113,403 | +27 | ~0 | -0 |
| 2026-09-30 13:59 | 4,739 | 4,085,769 | +0 | ~1385 | -1 |
| 2026-09-30 13:51 | 4,740 | 4,116,035 | +4740 | ~0 | -0 |
Dataset Card Authors
Dataset Card Contact
- Downloads last month
- 9