Datasets:

qwer-asdfzxcv
/

tts-baselines_opensource

Name: tts-baselines_opensource
Creator: asdf

Dataset card Files Files and versions

xet

Community

You need to agree to share your contact information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

YAML Metadata Warning:empty or missing yaml metadata in repo card

Check out the documentation for more information.

Baseline TTS — Model Versions

seed-tts-eval zero-shot 推理所用的模型版本汇总。所有 baseline 均读取同一套 meta 格式：

utt_id|prompt_text|prompt_wav_rel|infer_text

Meta 文件：

Split	路径	条数
en	`/scratch-data/mydata/hier_data/seed-tts-eval/seedtts_testset/en/meta.lst`	1088
zh	`.../zh/meta.lst`	2020
zh_hardcase	`.../zh/hardcase.lst`	400

输出目录：<baseline>/output/seedtts_{en,zh,zh_hardcase}/<utt_id>.wav

总览

Baseline	目录	模型	HuggingFace 权重	推理 split
XTTS-v2	`xtts/`	XTTS-v2	coqui/XTTS-v2	en / zh / zh_hardcase
VoiceCraft	`voicecraft/`	830M_TTSEnhanced	pyp1/VoiceCraft_830M_TTSEnhanced	en only
Spark-TTS	`sparktts/`	Spark-TTS-0.5B	SparkAudio/Spark-TTS-0.5B	en / zh / zh_hardcase
FireRedTTS	`fireredtts/`	FireRedTTS-1S	FireRedTeam/FireRedTTS-1S	en / zh / zh_hardcase
MaskGCT	`maskgct/`	MaskGCT	amphion/MaskGCT	en / zh / zh_hardcase
F5-TTS	`f5tts/`	F5TTS_v1_Base	SWivid/F5-TTS	en / zh / zh_hardcase
E2-TTS	`e2tts/`	E2TTS_Base	SWivid/E2-TTS	en / zh / zh_hardcase
CosyVoice2	`cosyvoice/`	CosyVoice2-0.5B	FunAudioLLM/CosyVoice2-0.5B	en / zh / zh_hardcase
LLaSA	`llasa/`	LLaSA-1B	本地 `/scratch-data/checkpoint/HKUSTAudio/Llasa-1B` + xcodec2	en / zh / zh_hardcase
MOSS-TTS	`mosstts/`	MOSS-TTS-Local-Transformer-v1.5	OpenMOSS-Team/MOSS-TTS-Local-Transformer-v1.5	en / zh / zh_hardcase
IndexTTS2	`indextts2/`	IndexTTS-2	IndexTeam/IndexTTS-2	en / zh / zh_hardcase
ZipVoice	`zipvoice/`	ZipVoice	k2-fsa/ZipVoice	en / zh / zh_hardcase

评测结果（seed-tts-eval）

指标由 baseline_metrics/ 脚本计算（conda 环境 eval），与官方 seed-tts-eval 流程一致：WER（en: Whisper-large-v3；zh: paraformer-zh）+ SIM（WavLM-large speaker verification）。原始汇总见 baseline_metrics/summary.tsv。

Baseline	en WER%	en SIM	zh WER%	zh SIM	zh_hardcase WER%	zh_hardcase SIM	n (en / zh / hc)
XTTS-v2	3.964	0.467	2.821	0.634	17.611	0.622	1088 / 2020 / 400
VoiceCraft	12.035	0.514	—	—	—	—	1088 / — / —
Spark-TTS	2.882	0.571	1.577	0.659	13.664	0.645	1072 / 2010 / 400
FireRedTTS	2.518	0.631	1.216	0.741	7.657	0.739	1088 / 2020 / 400
MaskGCT	2.717	0.714	2.465	0.772	10.075	0.743	1088 / 2020 / 400
F5-TTS	2.084	0.668	1.64	0.76	7.171	0.737	1088 / 2020 / 400
E2-TTS	2.237	0.724	1.883	0.774	10.426	0.755	1088 / 2020 / 400
CosyVoice2	2.772	0.658	1.285	0.751	9.606	0.726	1088 / 2020 / 400
LLaSA	8.633	0.525	9.035	0.592	25.874	0.53	1080 / 2019 / 400
MOSS-TTS	3.226	0.647	2.301	0.727	10.51	0.699	1088 / 2020 / 400
IndexTTS2	2.068	0.707	1.036	0.765	7.859	0.749	1088 / 2020 / 400
ZipVoice	1.513	0.694	1.329	0.749	6.27	0.706	1088 / 2020 / 400

样本数说明：n 列为实际参与计分的 wav 数量。Spark-TTS en/zh 有少量缺口（视为已完成）；LLaSA en/zh 各有 8 / 1 条推理失败；VoiceCraft 仅评测 en。

复现指标计算：

cd baselines_opensource/baseline_metrics
bash run_all.sh              # 5 路并行，每路 1 卡
bash collect_summary.sh      # 汇总到 summary.tsv

1. XTTS-v2 (`xtts/`)

项	值
模型名称	Coqui XTTS-v2
权重	`coqui/XTTS-v2` → `models/XTTS-v2/`
推理 API	`coqui-tts` `Synthesizer` + `tts_to_file(speaker_wav=...)`
语言	en → `language=en`；zh / zh_hardcase → `language=zh-cn`
输出采样率	XTTS 默认（脚本未重采样）

环境与依赖

包	版本
Python	3.11
coqui-tts	0.27.5
torch	2.5.1+cu124
transformers	4.57.6

上游代码：pip 包 coqui-tts（无独立 repo clone）

2. VoiceCraft (`voicecraft/`)

项	值
模型名称	VoiceCraft 830M_TTSEnhanced
权重	`pyp1/VoiceCraft_830M_TTSEnhanced`（`VoiceCraft.from_pretrained`）
Codec	Encodec `encodec_4cb2048_giga.th`（pyp1/VoiceCraft）
推理 API	`inference_one_sample`（espeak 音素，仅英语）
默认超参	top_k=40, top_p=0.8, temperature=1.0, stop_repetition=3

环境与依赖

包	版本
Python	3.9.16
torch	2.0.1+cu118
transformers	4.40.2
audiocraft	git @ `c5157b5`

上游代码：jasonppy/VoiceCraft @ f0a7a97 (master)

zh / zh_hardcase 默认跳过；仅 en (1088) 参与评测。

3. Spark-TTS (`sparktts/`)

项	值
模型名称	Spark-TTS-0.5B
权重	`SparkAudio/Spark-TTS-0.5B` → `models/Spark-TTS-0.5B/`
推理 API	`SparkTTS.inference(text, prompt_speech_path, prompt_text)`
输出采样率	24 kHz（`model.sample_rate`）

环境与依赖

包	版本
Python	3.11
torch	2.5.1+cu124
transformers	4.46.2

上游代码：SparkAudio/Spark-TTS @ 2f1ea90 (main)

4. FireRedTTS-1S (`fireredtts/`)

项	值
模型名称	FireRedTTS-1S
权重	`FireRedTeam/FireRedTTS-1S` → `pretrained_models.zip` → `models/pretrained_models/`
配置	`repo/configs/config_24k.json`
推理 API	`FireRedTTS.synthesize(text, prompt_wav, ...)`
中文	zh / zh_hardcase 自动启用 `--use_tn`（文本归一化）
输出采样率	24 kHz

环境与依赖

包	版本
Python	3.10
torch	2.5.1+cu124
transformers	4.44.2
fairseq	0.12.2
omegaconf	2.0.6

上游代码：FireRedTeam/FireRedTTS 分支 fireredtts-1s @ 942c798

5. MaskGCT (`maskgct/`)

项	值
模型名称	MaskGCT（Masked Generative Codec Transformer）
权重 repo	`amphion/MaskGCT`（首次运行自动下载）

子模块 checkpoint

组件	HF 路径
Semantic Codec	`semantic_codec/model.safetensors`
Acoustic Codec (encoder)	`acoustic_codec/model.safetensors`
Acoustic Codec (decoder)	`acoustic_codec/model_1.safetensors`
T2S 模型	`t2s_model/model.safetensors`
S2A 1-layer	`s2a_model/s2a_model_1layer/model.safetensors`
S2A full	`s2a_model/s2a_model_full/model.safetensors`

辅助模型

组件	来源
语义特征提取	`facebook/w2v-bert-2.0`
语义统计量	`models/tts/maskgct/ckpt/wav2vec2bert_stats.pt`（Amphion repo 内）

项	值
推理 API	`MaskGCT_Inference_Pipeline.maskgct_inference(...)`
语言	en → `lang=en`；zh → `lang=zh`
输出采样率	24 kHz

环境与依赖

包	版本
Python	3.10
torch	2.0.1+cu118
torchaudio	2.0.2+cu118
transformers	4.41.2

上游代码：open-mmlab/Amphion @ 26f6883 (main, sparse checkout: models/tts/maskgct, models/codec, utils)

6. F5-TTS (`f5tts/`)

项	值
模型名称	F5TTS_v1_Base
Checkpoint	`SWivid/F5-TTS/F5TTS_v1_Base/model_1250000.safetensors`（1.25M step）
Vocoder	charactr/vocos-mel-24khz（Vocos）
配置	pip 包内 `configs/F5TTS_v1_Base.yaml`
推理 API	`preprocess_ref_audio_text` + `infer_process`
默认超参	nfe_step=32, cfg_strength=2.0, speed=1.0
输出采样率	24 kHz

环境与依赖

包	版本
Python	3.11
f5-tts	1.1.21
torch	2.5.1+cu124
transformers	5.13.1

上游代码：pip 包 SWivid/F5-TTS（f5-tts==1.1.21）

切换模型：MODEL=F5TTS_Base bash run_infer.sh en（默认 F5TTS_v1_Base）

7. E2-TTS (`e2tts/`)

项	值
模型名称	E2TTS_Base
Checkpoint	`SWivid/E2-TTS/E2TTS_Base/model_1200000.safetensors`（1.2M step）
Vocoder	同 F5-TTS（`charactr/vocos-mel-24khz`）
配置	pip 包内 `configs/E2TTS_Base.yaml`
推理 API	与 F5-TTS 相同（共用 `f5tts/scripts/infer_meta.py --model E2TTS_Base`）
输出采样率	24 kHz

环境：共用 f5tts/env（f5-tts==1.1.21）

上游代码：同 SWivid/F5-TTS 仓库中的 E2-TTS 分支权重

8. CosyVoice2 (`cosyvoice/`)

项	值
模型名称	CosyVoice2-0.5B
权重	`FunAudioLLM/CosyVoice2-0.5B` → `models/CosyVoice2-0.5B/`
LLM 底座	`CosyVoice-BlankEN/`（模型目录内）
主要文件	`llm.pt`, `flow.pt`, `hift.pt`, `campplus.onnx`, `speech_tokenizer_v2.onnx`, `cosyvoice2.yaml`
推理 API	`AutoModel` → `inference_zero_shot(tts_text, prompt_text, prompt_wav)`
文本前端	wetext（未安装 ttsfrd 时自动 fallback）
输出采样率	`cosyvoice.sample_rate`（模型配置决定）

环境与依赖

包	版本
Python	3.10
torch	2.5.1+cu124
transformers	4.51.3
onnxruntime-gpu	1.18.0

上游代码：FunAudioLLM/CosyVoice @ 074ca6d (main)，含 third_party/Matcha-TTS

9. LLaSA (`llasa/`)

项	值
模型名称	LLaSA-1B
权重	`/scratch-data/checkpoint/HKUSTAudio/Llasa-1B`（本地）
Codec	`/scratch-data/checkpoint/HKUSTAudio/xcodec2`（本地）
推理 API	prompt 编码为 speech token prefix + `model.generate` → XCodec2 `decode_code`
输入拼接	`prompt_text + infer_text` 作为生成文本（in-context zero-shot）
输出采样率	16 kHz

环境与依赖

包	版本
Python	3.10
conda env	`llasa_seedtts`（默认；可通过 `LLASA_ENV` 覆盖）
torch	2.4.1
transformers	4.45.2
torchao	0.5.0
torchtune	0.3.1
xcodec2	0.1.3

xcodec2 / torchtune 版本耦合较紧；install_env.sh 优先复用已有 llasa_seedtts 环境。

10. MOSS-TTS (`mosstts/`)

项	值
模型名称	MOSS-TTS-Local-Transformer-v1.5
权重	`OpenMOSS-Team/MOSS-TTS-Local-Transformer-v1.5`（首次运行自动下载）
Audio Tokenizer	`OpenMOSS-Team/MOSS-Audio-Tokenizer-v2`
推理 API	`AutoProcessor.build_user_message(text, reference=[prompt_wav], language=...)` + `model.generate`
语言标签	en → `English`；zh / zh_hardcase → `Chinese`
输出采样率	48 kHz（保存时 downmix 为 mono）

环境与依赖

包	版本
Python	3.12
moss-tts[torch-runtime]	torch 2.9.1+cu128, transformers 5.0.0

上游代码：OpenMOSS/MOSS-TTS

11. IndexTTS2 (`indextts2/`)

项	值
模型名称	IndexTTS-2
权重	`IndexTeam/IndexTTS-2` → `models/checkpoints/`
推理 API	`IndexTTS2.infer(spk_audio_prompt, text, output_path)`
默认	`use_fp16=True`

环境与依赖

包	版本
Python	3.11
indextts	2.0.0（repo `pip install -e`）
torch	2.8.* (cu128)

上游代码：index-tts/index-tts

12. ZipVoice (`zipvoice/`)

项	值
模型名称	ZipVoice（默认 `zipvoice`，可选 `zipvoice_distill`）
权重	`k2-fsa/ZipVoice/zipvoice/model.pt` 等（首次运行自动下载）
Vocoder	`charactr/vocos-mel-24khz`
推理 API	`generate_sentence(prompt_text, prompt_wav, text)`
默认超参	zipvoice: num_step=16, guidance_scale=1.0
输出采样率	24 kHz

环境与依赖

包	版本
Python	3.11
torch	2.5.1+cu124
lhotse	1.33.0
vocos	0.1.0
zipvoice	repo（`PYTHONPATH=repo`，editable install 因 flat-layout 失败）

上游代码：k2-fsa/ZipVoice

推理方式说明

所有 baseline 均为 zero-shot TTS：使用 meta 中的 prompt_wav 克隆音色，用 infer_text 合成目标语音。未使用固定 speaker ID 或 SFT 说话人列表。

Baseline	prompt_text 是否必需
XTTS	否（仅用 prompt wav）
VoiceCraft	是
Spark-TTS	是
FireRedTTS	否（仅用 prompt wav）
MaskGCT	是
F5-TTS / E2-TTS	是
CosyVoice2	是
LLaSA	是（与 infer_text 拼接作为上下文）
MOSS-TTS	否（reference 仅用 prompt wav；language tag 辅助）
IndexTTS2	否（仅用 prompt wav 克隆音色）
ZipVoice	是

运行命令

# 单 split 推理
cd baselines_opensource/<name>
bash run_infer.sh en          # 或 zh / zh_hardcase

# 常用环境变量
GPU=0 MAX_UTTS=-1 bash run_infer.sh en   # 指定 GPU；-1 表示全量

各 baseline 详细安装步骤见对应子目录下的 README.md 与 install_env.sh。

Downloads last month: 6

Total file size:

180 GB

You need to agree to share your contact information to access this dataset

Baseline TTS — Model Versions

总览

评测结果（seed-tts-eval）

1. XTTS-v2 (xtts/)

2. VoiceCraft (voicecraft/)

3. Spark-TTS (sparktts/)

4. FireRedTTS-1S (fireredtts/)

5. MaskGCT (maskgct/)

6. F5-TTS (f5tts/)

7. E2-TTS (e2tts/)

8. CosyVoice2 (cosyvoice/)

9. LLaSA (llasa/)

10. MOSS-TTS (mosstts/)

11. IndexTTS2 (indextts2/)

12. ZipVoice (zipvoice/)

推理方式说明

运行命令

1. XTTS-v2 (`xtts/`)

2. VoiceCraft (`voicecraft/`)

3. Spark-TTS (`sparktts/`)

4. FireRedTTS-1S (`fireredtts/`)

5. MaskGCT (`maskgct/`)

6. F5-TTS (`f5tts/`)

7. E2-TTS (`e2tts/`)

8. CosyVoice2 (`cosyvoice/`)

9. LLaSA (`llasa/`)

10. MOSS-TTS (`mosstts/`)

11. IndexTTS2 (`indextts2/`)

12. ZipVoice (`zipvoice/`)