OpenVoiceOS/pathumma-whisper-th-large-v3-onnx

Pathumma-whisper-th-large-v3 — ONNX

ONNX export of nectec/Pathumma-whisper-th-large-v3 (Whisper large-v3 fine-tuned for Thai by NECTEC) for onnx-asr (standard whisper model type — works with stock onnx-asr, no patches needed). fp32 and int8 variants included.

License: apache-2.0, inherited from the source model.

First specialized ONNX ASR model for Thai in this collection.

Usage

import onnx_asr
model = onnx_asr.load_model("whisper", "path/to/this/repo")  # or quantization="int8"
print(model.recognize("audio_16khz.wav", language="th"))

Verified on a FLEURS Thai (th_th) test clip:

• Reference: "danielle lantagne ผู้เชี่ยวชาญด้านโรคภัยประจำสหประชาชาติแถลงว่า เป็นไปได้ที่การระบาดของโรคในครั้งนี้เกิดจากเจ้าหน้าที่รักษาความสงบ"
• fp32: "แดเนียล เลนเทิล ผู้เชี่ยวชาญด้านโรคภัยประจำสหประชาชาติแถลงว่าเป็นไปได้ที่การระบาดของโรคในครั้งนี้เกิดจากเจ้าหน้าที่รักษาความสงบ" (RTF 2.85)
• int8: "แจเนียล เลนเติล ผู้เชี่ยวชาญด้านโรคภัยประจำสหประชาชาติแถลงว่าเป็นไปได้ที่การระบาดของโรคในครั้งนี้เกิดจากเจ้าหน้าที่รักษาความสงบ" (RTF 1.08)

Both fluent Thai, matching the reference apart from the transliteration of the English proper name ("Danielle Lantagne"), which varies slightly between fp32 and int8. RTF measured on an AMD Ryzen 5 7600 (CPU, 4 OMP threads, shared/loaded box — not a clean benchmark number).

Int8 decoder was produced by quantizing the pre-merge decoders separately and re-merging (merge_decoders(..., strict=False)); direct quantization of the merged decoder graph does not shrink it (its If subgraphs are skipped by onnxruntime's dynamic quantizer).