steven0226/formosa-nlu-synth-v1

FormosaNLU Synth

FormosaNLU Synth 是一份以正體中文（台灣，zh-TW）為主的口語 NLU synthetic training dataset，涵蓋 60 種 intent 與 55 種 slot type。資料由 本機 open-weight teacher 產生，經 deterministic F1–F6 filters 與不同家族 independent judge（F7）稽核後，發布 3,754 筆 training rows。

本資料集對應的完整程式碼、決策紀錄與實驗報告： kuotunyu/FormosaNLU-Synth。

內容

data/train.jsonl       3,754 rows
schema.json            JSON Schema
release_manifest.json  來源 artifact、SHA-256、筆數與版本

每筆資料包含：

欄位	說明
id	穩定 synthetic sample ID
utt	正體中文（台灣）utterance
intent	MASSIVE intent label
slots	{type, value} slot spans
style	massive_like 或 tw_colloquial
recipe	synthetic recipe
teacher_model	生成模型
prompt_version	prompt recipe version
seed_sample_id	來源 MASSIVE seed identifier
generation_params	frozen generation parameters
filter_scores	F5/F6 contamination 與 similarity evidence

載入方式：

from datasets import load_dataset

dataset = load_dataset("steven0226/formosa-nlu-synth-v1")
train = dataset["train"]
print(train.num_rows)  # 3754

資料來源與生成

• Upstream seed data：Amazon Science MASSIVE zh-TW
• Seed sampling：約每 intent 20-shot，共 1,176 筆
• Teacher：qwen3.6:27b，本機 Ollama、open-weight
• 原始生成：11,264 筆
• F1–F6 accepted：3,760 筆
• F7 release：3,754 筆

過濾包含 schema、label／slot span、script／language、duplicate、seed-copy、 Test contamination、embedding outlier 與 independent judge audit。Frozen thresholds、hashes、漏檢率與完整 funnel 見 GitHub repository 的 README、 reports/generation_report.json 與 reports/m6_f7_release.json。

下游證據

在完全未參與生成或訓練的 2,974-row MASSIVE zh-TW Test 上，Gemma 4 E4B QLoRA 三個 paired seeds（42–44）顯示：

• Intent accuracy：filtered 相較 real-only 平均 +4.14 ± 1.39 個百分點
• Exact match：平均 +3.86 ± 0.73 個百分點
• Seed-42 robustness：filtered adapter 在 ASR-noise、colloquial、lexical 三種 probes 的 intent accuracy、slot F1、exact match 均高於 real-only

n=3 intervals 是 descriptive uncertainty，不代表廣泛統計顯著性。

使用 frozen row-level predictions 執行 5,000 次 hierarchical paired bootstrap 後，intent accuracy 的平均提升為 +4.14 個百分點（95% CI [+2.60, +5.59]），exact match 為 +3.86（[+2.75, +4.92]）。每個 seed 的 intent accuracy 與 exact match exact McNemar tests 經 Holm correction 後均 p ≤ 0.00017。

第二個 student family 的複製

同一份 corpus 以完全相同的 prompt、500 steps、seeds 與 strict evaluator， 在 microsoft/Phi-4-mini-instruct 上重跑一次三種子 paired 比較：

Metric	Gemma Δ [95% CI]	Phi Δ [95% CI]
Intent accuracy	+4.14 [+2.60, +5.59]	+5.09 [+1.83, +9.02]
Exact match	+3.86 [+2.75, +4.92]	+4.71 [+1.36, +7.59]

判準在看到 Phi 結果之前就凍結：兩項 metric 在兩個 family 都必須是正向平均 提升，且 hierarchical 95% CI 下界都大於零。該判準通過，因此這份 corpus 的 效益不是單一 student model 的特性。

未達標的部分一併說明：json_valid_rate 沒有通過同一條門檻（Gemma 側 CI 跨越零），Phi 的 exact_match_seed_42 在 Holm 校正後 p = 0.141 不顯著。 兩者都不在預先登記的判準內。

同樣的複製在 robustness probe 上也成立。以 8,922 筆擾動 probe、兩個 family 各三個 seed 評測，paired delta（百分點）：

Metric	Gemma Δ ± SD	Phi Δ ± SD
Intent accuracy	+3.63 ± 1.72	+6.22 ± 3.46
Exact match	+3.58 ± 2.05	+6.98 ± 3.29

十項全部為正，但強度不同：Phi 的五項 mean 都大於各自的 SD，Gemma 只有這兩項 如此。十個正數不等於十個已確立的效果。

範圍：兩個 family、一份 frozen dataset、一種 training contract；兩個 family 分別彙總、不 pooling，不宣稱推廣到其他 dataset、任務或任意 model。

適合用途

• 正體中文 intent classification／slot filling 研究
• Synthetic-data filtering、distillation 與 low-resource augmentation
• NLU pipeline、schema-constrained output 與 robustness 實驗

限制與不適合用途

• zh-TW seed 源自翻譯型 MASSIVE，無法代表所有自然台灣口語。
• Synthetic records 可能保留 teacher bias 或未偵測品質問題。
• F7 random stratum 觀察漏檢率為 6.0%，但樣本只有 50 筆，interval 很寬。
• Robustness 是 deterministic probes，不是真實 ASR log。
• 不應把 intent／slot predictions 當作醫療、法律、金融或安全決策。
• 未發布 MASSIVE Test／validation；使用者應自行依 MASSIVE 授權取得評估資料。

授權與 Attribution

本發布資料使用 CC BY 4.0。上游 seed data 為 Amazon Science MASSIVE zh-TW，亦採 CC BY 4.0。使用或再發布時請：

1. 標示 MASSIVE 與 FormosaNLU Synth；
2. 連結 CC BY 4.0；
3. 說明資料經 synthetic generation 與 filtering 修改。

MASSIVE：

Jack FitzGerald et al. MASSIVE: A 1M-Example Multilingual Natural Language Understanding Dataset with 51 Typologically-Diverse Languages. ACL 2023.

FormosaNLU Synth：

kuotunyu. FormosaNLU Synthetic Data Distillation for Traditional Chinese
(Taiwan) NLU, version 1.0.0. 2026.
https://github.com/kuotunyu/FormosaNLU-Synth

可重現性

release_manifest.json 提供發布檔 SHA-256、原始 release artifact SHA-256、 Git source commit 與確切筆數。完整生成、過濾與評估程式位於 GitHub。