subset	筆數	字元數	平均長度	來源
`law_judgment`	5,000	4,386,700	877	司法院判決書
`web_translated`	5,000	4,178,890	836	ACE-2 翻譯繁中網頁
`gov_news`	5,000	3,849,201	770	政府新聞稿
`encyclopedia`	5,000	2,047,872	410	中文維基
`law_statute`	4,294	3,976,977	926	法規全文

law_statute 不足 5,000 筆是因為來源在長度與中文密度篩選後只剩這麼多，沒有重複抽樣補齊。

欄位

{"id": "law_statute-00000", "subset": "law_statute", "text": "...", "char_count": 1298}

id 全域唯一（24,294 個唯一鍵，上傳前已強制斷言）。

指標

主指標：tokens/char，越低越好。 與 PangolinBench 同一套定義，數字可直接對照。

往返正確性要分兩種報

這是本 benchmark 與既有作法最大的差異，也是建置過程中實測到的問題。

評測時發現我們的詞表與 Qwen3.8 各有 62 筆嚴格往返失敗 （decode(encode(x)) != x ），而 Pangolin 與 DeepSeek 是 0。逐筆查完，根因是來源文本含 CJK 相容表意文字 （U+F900–FAFF 區，例如 U+F98E「年」、U+FA 區的「館」「立」「行」「理」），集中在 gov_news 61 筆、web_translated 1 筆。

NFC 正規化的定義就是要把這些字折疊成標準碼位 （U+F98E → U+5E74）。所以：

tokenizer	normalizer	嚴格往返失敗	NFC 往返失敗
TwinkleTokenizer	NFC	62	0
Qwen3.8-27B	NFC	62	0
PangolinTokenizer	無	0	0
DeepSeek-V4	Sequence	0	0
gemma-4-31B	—	1	1

有做 NFC 的全部「失敗」，沒做的全部「通過」。 但不做 NFC 才是缺陷—— 那會讓「年」(U+F98E) 和「年」(U+5E74) 佔兩個不同的 token，白白浪費詞表名額。

把嚴格往返設為硬性關卡，等於懲罰有正確做正規化的 tokenizer 。本 benchmark 兩種都報，以 NFC 版為準 。

輔助指標

單字 token 率 ：中文 token 中只含一個漢字的比例。高代表詞表在逐字處理中文。
chars/token ：tokens/char 的倒數，比較直觀。

基準結果

以下為本地實測，tokenizer 版本與路徑見〈重現〉。

subset	TwinkleTokenizer	Pangolin	Qwen3.8-27B	DeepSeek-V4	gemma-4-31B
law_judgment	0.3380	0.7622	0.7570	0.7924	0.8395
law_statute	0.4355	0.7267	0.7316	0.7681	0.7767
web_translated	0.4403	0.6780	0.6496	0.6711	0.7152
gov_news	0.4967	0.7055	0.7020	0.7327	0.7771
encyclopedia	0.5557	0.7292	0.7239	0.7298	0.7835
OVERALL	0.4395	0.7200	0.7120	0.7402	0.7785
vocab	201,069	114,688	248,044	128,000	262,144
單字 token 率	18.0%	46.0%	44.4%	52.5%	60.6%
往返失敗（NFC）	0	0	0	0	1

利益揭露 ：本 benchmark 由 TwinkleTokenizer 的作者建置，而該詞表也在受測名單內，且在全部 5 個 subset 領先。請把上表當作「作者自評」而非第三方評測來讀。建置過程中為此做的防範措施列在下一節；資料與評測腳本全部公開，歡迎複驗。

建置原則

固定字元窗格（300–1,500 字元）。 tokenizer 評測若讓不同 tokenizer 看到不同長度的文本，壓縮率就不可比。這個坑在自家詞表的下游驗證上踩過：初版以 token 數截斷而非字元數，兩個模型因此預測了不同長度的文本（100 萬字 vs 84 萬字），結論方向是反的 。

排除訓練污染。 web_translated 的來源共 1,288 個分片，其中 300 個被 TwinkleTokenizer 的訓練語料用過。benchmark 只從剩下的 988 個抽 ，並逐篇做指紋比對確認零重疊。不做這件事，作者自己的詞表會在自家 benchmark 上不公平地佔優。

不做正規化。 benchmark 要測 tokenizer 面對真實文本的表現，包含異體字、全形符號、繁簡混雜、以及上面提到的 CJK 相容表意文字。先幫文本正規化等於替 tokenizer 把難題解掉了。

去重。 以首尾各 300 字（去空白後）的 SHA-1 指紋比對，subset 內去重。 gov_news 因此丟掉 39,471 筆、encyclopedia 丟掉 140,319 筆。

中文密度門檻 ≥ 0.5。 濾掉表格、程式碼、純英文夾雜的低中文密度片段。

抽樣種子固定為 20260828 ，可完整重現。

重現

from datasets import load_dataset
from transformers import AutoTokenizer

subsets = ["law_statute", "law_judgment", "gov_news", "encyclopedia", "web_translated"]
tok = AutoTokenizer.from_pretrained("twinkle-ai/TwinkleTokenizer")

tc = cc = 0
for s in subsets:
    ds = load_dataset("twinkle-ai/tw-tokenizer-bench", s, split="train")
    for x in ds["text"]:
        tc += len(tok(x, add_special_tokens=False)["input_ids"])
        cc += len(x)
print(f"tokens/char = {tc/cc:.4f}")

完整評測腳本（含雙重往返、單字 token 率）見 repo 內的 evaluate.py ：

python evaluate.py --tokenizer twinkle-ai/TwinkleTokenizer

已知限制

v0.1 只涵蓋正式文體。 目前沒有以下 subset，它們都是台灣中文的重要組成：

口語／社群（PTT、Dcard 風格）
台灣專有名詞（地名、機構、人名）
中英夾雜（code-switching）
台語漢羅、客語、注音符號
語音轉錄、結構化標記

領域比重不等於使用比重。 5 個 subset 各佔約 1/5，但真實文本中法律文書的比例遠低於此。 OVERALL 是字元加權平均，若你的用途有特定領域偏重，請直接看該 subset 的數字。

單一評測維度。 只量壓縮效率與切分粒度，不量下游模型品質。近年文獻對「壓縮率 = 品質」是存疑的（Schmidt et al., EMNLP 2024； Lotz et al., 2025 量到 ρ = −0.59）。壓縮率是必要不充分條件。

來源集中。 每個 subset 來自單一或少數來源，不是該領域的隨機抽樣。 gov_news 來自特定政府網站集合，encyclopedia 來自中文維基單一 dump。

授權

cc-by-nc-sa-4.0 ，取上游各來源中最嚴格者。文本內容的原始權利歸各來源所有；本 repo 提供的是抽樣、切窗與格式整理的結果。

法規全文與判決書為政府公開資訊；維基百科內容依 CC BY-SA 授權；政府新聞稿為政府公開資訊；翻譯網頁為機器翻譯產出。

Citation

@misc{twtokenizerbench2026,
  title = {tw-tokenizer-bench: A Traditional Chinese (Taiwan) Tokenizer Benchmark},
  author = {Liang Hsun Huang},
  year = {2026},
  howpublished = {\url{https://huggingface.co/datasets/twinkle-ai/tw-tokenizer-bench}},
  note = {v0.1, formal register, 24,294 samples across 5 domains.}
}

Models trained or fine-tuned on twinkle-ai/tw-tokenizer-bench

twinkle-ai/TwinkleTokenizer

Updated 3 days ago

You need to agree to share your contact information to access this dataset

tw-tokenizer-bench v0.1

Subsets

欄位

指標