Spaces:
Runtime error
A newer version of the Gradio SDK is available:
5.6.0
デモ動画をチェック！
https://github.com/RVC-Boss/GPT-SoVITS/assets/129054828/05bee1fa-bdd8-4d85-9350-80c060ab47fb
機能:
ゼロショット TTS: 5 秒間のボーカルサンプルを入力すると、即座にテキストから音声に変換されます。
数ショット TTS: わずか 1 分間のトレーニングデータでモデルを微調整し、音声の類似性とリアリズムを向上。
多言語サポート: 現在、英語、日本語、中国語をサポートしています。
WebUI ツール: 統合されたツールには、音声伴奏の分離、トレーニングセットの自動セグメンテーション、中国語 ASR、テキストラベリングが含まれ、初心者がトレーニングデータセットと GPT/SoVITS モデルを作成するのを支援します。
環境の準備
Windows ユーザーであれば（win>=10 にてテスト済み）、prezip 経由で直接インストールできます。prezip をダウンロードして解凍し、go-webui.bat をダブルクリックするだけで GPT-SoVITS-WebUI が起動します。
Python と PyTorch のバージョン
- Python 3.9, PyTorch 2.0.1, CUDA 11
- Python 3.10.13, PyTorch 2.1.2, CUDA 12.3
- Python 3.9, PyTorch 2.3.0.dev20240122, macOS 14.3 (Apple silicon, GPU)
注記: numba==0.56.4 は py<3.11 が必要です
Mac ユーザーへ
如果あなたが Mac ユーザーである場合、GPU を使用してトレーニングおよび推論を行うために以下の条件を満たしていることを確認してください：
- Apple シリコンまたは AMD GPU を搭載した Mac コンピューター
- macOS 12.3 以降
xcode-select --installを実行してインストールされた Xcode コマンドラインツール
その他の Mac は CPU のみで推論を行うことができます。
次に、以下のコマンドを使用してインストールします：
環境作成
conda create -n GPTSoVits python=3.9
conda activate GPTSoVits
Pip パッケージ
pip install -r requirements.txt
pip uninstall torch torchaudio
pip3 install --pre torch torchaudio --index-url https://download.pytorch.org/whl/nightly/cpu
注記: UVR5 を使用して前処理を行う場合は、オリジナルプロジェクトの GUI をダウンロードして、「GPU Conversion」を選択することをお勧めします。さらに、特に推論時にメモリリークの問題が発生する可能性があります。推論 webUI を再起動することでメモリを解放することができます。
Conda によるクイックインストール
conda create -n GPTSoVits python=3.9
conda activate GPTSoVits
bash install.sh
手動インストール
Pip パッケージ
pip install -r requirementx.txt
FFmpeg
Conda ユーザー
conda install ffmpeg
Ubuntu/Debian ユーザー
sudo apt install ffmpeg
sudo apt install libsox-dev
conda install -c conda-forge 'ffmpeg<7'
MacOS ユーザー
brew install ffmpeg
Windows ユーザー
ffmpeg.exe と ffprobe.exe をダウンロードし、GPT-SoVITS のルートディレクトリに置きます。
Docker の使用
docker-compose.yaml の設定
イメージのタグについて：コードベースの更新が速く、イメージのパッケージングとテストが遅いため、Docker Hub で現在パッケージされている最新のイメージをご覧になり、ご自身の状況に応じて選択するか、またはご自身のニーズに応じて Dockerfile を使用してローカルで構築してください。
環境変数：
is_half：半精度／倍精度の制御。"SSL 抽出"ステップ中に4-cnhubert/5-wav32kディレクトリ内の内容が正しく生成されない場合、通常これが原因です。実際の状況に応じて True または False に調整してください。
ボリューム設定：コンテナ内のアプリケーションのルートディレクトリは
/workspaceに設定されます。デフォルトのdocker-compose.yamlには、アップロード／ダウンロードの内容の実例がいくつか記載されています。shm_size：Windows の Docker Desktop のデフォルトの利用可能メモリが小さすぎるため、異常な動作を引き起こす可能性があります。状況に応じて適宜設定してください。deployセクションの GPU に関連する内容は、システムと実際の状況に応じて慎重に設定してください。
docker compose で実行する
docker compose -f "docker-compose.yaml" up -d
docker コマンドで実行する
上記と同様に、実際の状況に基づいて対応するパラメータを変更し、次のコマンドを実行します：
docker run --rm -it --gpus=all --env=is_half=False --volume=G:\GPT-SoVITS-DockerTest\output:/workspace/output --volume=G:\GPT-SoVITS-DockerTest\logs:/workspace/logs --volume=G:\GPT-SoVITS-DockerTest\SoVITS_weights:/workspace/SoVITS_weights --workdir=/workspace -p 9870:9870 -p 9871:9871 -p 9872:9872 -p 9873:9873 -p 9874:9874 --shm-size="16G" -d breakstring/gpt-sovits:xxxxx
事前訓練済みモデル
GPT-SoVITS Models から事前訓練済みモデルをダウンロードし、GPT_SoVITSpretrained_models に置きます。
中国語 ASR（追加）については、Damo ASR Model、Damo VAD Model、Damo Punc Model からモデルをダウンロードし、tools/damo_asr/models に置いてください。
UVR5 (Vocals/Accompaniment Separation & Reverberation Removal, additionally) の場合は、UVR5 Weights からモデルをダウンロードして tools/uvr5/uvr5_weights に置きます。
データセット形式
TTS アノテーション .list ファイル形式:
vocal_path|speaker_name|language|text
言語辞書:
- 'zh': 中国語
- 'ja': 日本語
- 'en': 英語
例:
D:\GPT-SoVITS\xxx/xxx.wav|xxx|en|I like playing Genshin.
Todo リスト
優先度 高:
- 日本語と英語でのローカライズ。
- ユーザーガイド。
- 日本語データセットと英語データセットのファインチューニングトレーニング。
機能:
- ゼロショット音声変換（5 秒）／数ショット音声変換（1 分）。
- TTS スピーキングスピードコントロール。
- TTS の感情コントロールの強化。
- SoVITS トークン入力を語彙の確率分布に変更する実験。
- 英語と日本語のテキストフロントエンドを改善。
- 小型と大型の TTS モデルを開発する。
- Colab のスクリプト。
- トレーニングデータセットを拡張する（2k→10k）。
- より良い sovits ベースモデル（音質向上）
- モデルミックス
クレジット
以下のプロジェクトとコントリビューターに感謝します:
- ar-vits
- SoundStorm
- vits
- TransferTTS
- Chinese Speech Pretrain
- contentvec
- hifi-gan
- Chinese-Roberta-WWM-Ext-Large
- fish-speech
- ultimatevocalremovergui
- audio-slicer
- SubFix
- FFmpeg
- gradio