Dify x Open Audio：Fish AudioプラグインでTTSと音声クローニングを簡単に実現

DifyとOpen Audioのコラボレーションを始めました。Open Audioの多機能なFish Audioプラグインが、今、Dify Marketplaceで利用可能になりました。この統合により、DifyのユーザーはAIアプリに高品質なテキスト読み上げ（TTS）とボイスクローニング（Voice Cloning）をシームレスに組み込むことができます。

![ezgif-13c28946fa62b1.gif](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3924419/244ff0bb-a95d-4c1e-9ead-c13fcb862559.gif)

## Fish Audioの主な機能

[Fish Audio](https://fish.audio/ja/)は音声生成とボイスクローニングを提供しています：

![fish_audio_2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3924419/99aa2587-9f83-4952-b1f5-eaa5b1e87d1d.png)

* **音声生成（TTS）**: Fish Audio は、リアルタイムのテキスト音声変換を提供する強力なツールです。WebSocket API を使用したストリーミング音声出力に対応し、速度や音量などのパラメーターを制御可能です。Opus、MP3、WAV などの主要な音声形式をサポートしています。

* **ボイスクローニング（Voice Cloning）**: このツールは2つのオプションがあります：
  * **高速クローニング**：30-45秒の音声サンプルで可能；
  * **高精度クローニング**：高品質な音声データを30-180分使用し、より自然な結果を生成；多言語と感情表現をサポートし、最高品質の出力を保証するためには入力音声品質を厳格く設定しています。

## 事前準備

1. DifyでFish Audioツールを使用するには、[Dify Marketplace](https://cloud.dify.ai/plugins?category=discover) から「Fish Audio」プラグインを探し、インストールします。
![fishaudio_3.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3924419/cb11b2cd-b18a-4c1a-afc4-bdd5c882665c.png)

2. Fish Audio からAPIキーを作成する。
![fish_audio_1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3924419/bfc64da2-9286-4444-b68f-0ef78e11744a.png)

3. プラグインを設定します。Fish Audio APIキーとエンドポイントURLを入力し、バランスモードを選択します。これらの情報はこちらから取得できます。
![fa_4.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3924419/6c1d163b-c2b4-4126-b07a-2362dbf8e178.png)

## 使用手順

このユースケースでは、Difyのチャットフローを紹介します。このフローにおいて、大規模言語モデル（LLM）がテキストを生成すると、その出力テキストはFish AudioのTTSツールノードを通じて自動的に音声セグメントへ変換可能です。

Fish Audio TTSノードをワークフロー内で設定するには：

* **入力テキスト**: 音声に変換したいテキストを指定します。この場合、LLMノードからのテキスト出力をTTSノードの入力フィールドにリンクします。

* **ボイスの選択**: 適切な[Voice ID](https://qiita.com/DifyJapan/items/8648e11090e25ad9ba9f#voice-id%E3%81%A8%E3%81%AF)を選択する、もしくは[望むボイス](https://qiita.com/DifyJapan/items/8648e11090e25ad9ba9f#%E3%82%AB%E3%82%B9%E3%82%BF%E3%83%A0%E3%83%9C%E3%82%A4%E3%82%B9%E3%81%AB%E3%81%A4%E3%81%84%E3%81%A6)を作成する。

* **出力形式**: 好みのオーディオファイル形式を設定します。

この設定により、ワークフローがLLMの書き出された応答を、選択したボイスと形式で音声として生成することができます。

![7.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3924419/d15490ae-bd97-4bba-b2ac-642f2663280a.png)

### Voice IDとは

Voice ID（音声ID）は、Fish Audioプラットフォーム上の特定の音声モデルに割り当てられる一意の識別子です。テキストを音声に変換する際に選択・生成するための独立した音声プロファイルを指します。

![5.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3924419/a451bd5c-943d-4bfe-b432-f6fd78e8651f.png)

### カスタムボイスについて

提供されだボイスに限らず、Fish Audioの「ボイスクローン」機能を使用して、独自の音声モデルをトレーニングできます。トレーニングが完了すると、カスタムトレーニングした音声が「私の声のライブラリ」にリストされます。そこからカスタム音声に関連するVoice IDをコピーし、Difyのワークフローで使用できます。

![6.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3924419/79c029b3-d035-47af-a998-62111bda113c.png)

## 活用事例

#### **多言語対応の顧客サービス担当者**
Fish Audioは、ASR（自動音声認識）とTTS（テキスト音声変換）技術を統合し、多言語カスタマーサポートを実現します。優れた担当者の音声をクローン化し、顧客の言語を自動検知して適切な音声・言語に切り替え、テキスト応答を自然な音声に変換。多言語対応の一貫性とパーソナライズを確保します。


#### **教育およびトレーニングコンテンツ**
Fish Audioは、ネイティブスピーカーの音声をクローン化して発音例を提供し、ASR技術で学習者の発音にリアルタイムフィードバックを行い、TTSで教材の一貫した音声解説を生成。教育コンテンツの効率的な作成と配信を実現し、標準化を確保します。


#### **ポッドキャストとメディアコンテンツ**
Fish Audioは、ポッドキャストやメディアコンテンツ制作を効率化します。自身の音声サンプルからデジタル音声を生成し、原稿を音声に変換。ASRで字幕や文字起こしを自動生成し、話速や感情表現を調整してクリエイティブなニーズに合わせた音声を制作可能です。


## 参考
**Fish Audio**
[公式サイト](https://openaudio.com/) | [Github](https://github.com/fishaudio) | [FishAudio](https://fish.audio/) | [X](https://x.com/FishAudio) | [Discord](https://discord.gg/wXekgq4J)

**Dify**
[公式サイト](https://dify.ai/jp) | [Github](https://github.com/langgenius/dify) | [Docs](https://docs.dify.ai/) | [X](https://x.com/DifyJapan) | [Discord](https://discord.gg/bHc2rYXf) | [Linkedin](https://www.linkedin.com/company/langgenius) | [Youtube](https://www.youtube.com/@dify_ai)