Datasets:

joujiboi
/

japanese-anime-speech

# Japanese Anime Speech (日本語のアニメ音声データセット)

[**English**](https://huggingface.co/datasets/joujiboi/japanese-anime-speech)

**japanese-anime-speech** は、自動音声認識モデルの訓練用に設計された音声テキストデータセットです。このデータセットは、異なるビジュアルノベルからの数千の音声クリップとそれに対応する書き起こしで構成されています。

このデータセットの目的は、OpenAIの[Whisper](https://huggingface.co/openai/whisper-large-v2)のような自動音声認識システムの精度を高めることで、アニメやその他の類似した日本のメディアからの対話を正確に書き起こせるようにすることです。このジャンルは、従来の日本語の話し言葉とは異なるユニークな言語的特徴と話し方を特徴としています。

すべての音声ファイルと書き起こしのリストは[**こちら**](https://huggingface.co/datasets/joujiboi/japanese-anime-speech/raw/main/audio_transcription_list.txt)にあります。

<div class="course-tip course-tip-orange bg-gradient-to-br dark:bg-gradient-to-r before:border-orange-500 dark:before:border-orange-800 from-orange-50 dark:from-gray-900 to-white dark:to-gray-950 border border-orange-50 text-orange-700 dark:text-gray-400">
  <p><b>コンテンツに関する警告:</b> このデータセットの大部分の音声はビジュアルノベルから取得されており、全ての視聴者に適していない内容、例えば示唆に富む音声や成人向けの話題を含む場合があります。可能な限りこれらの内容を最小限にする努力をしています。</p>
</div>


# 変更履歴

* V1 - このバージョンには、ビジュアルノベル `IxSHE Tell` からの**16,143**の音声テキストペアが含まれています。行の開始と終了にある望ましくない文字を取り除くためにいくらかの清掃が行われましたが、第二版ではさらに多くの作業を行う予定です。

* V2 - このバージョンには、3つの異なるビジュアルノベルからの**23,422**の音声テキストペアが含まれています。特に言葉ではない音声、特にNSFW（成人向け）の行をほとんど除去するための清掃が行われました。音声は、wav形式ではなくmp3形式になりました。このバージョンには**32.6時間**の音声が含まれています。

* V3 - データセットには、5つの異なるビジュアルノベルからの**38,325**の音声テキストペアが含まれています。徹底的な清掃が行われ、ほとんどのNSFWまたは低品質の音声ファイルを除去しました。書き起こしは、劇的に重複する文字（例えば「ああああーーー」）をはるかに少なく含むようにフォーマットされ、引用符のタイプを統一するなど、はるかに一貫性があります。このバージョンには**52.5時間**の音声が含まれています。

* **V4** - データセットには、6つの異なるビジュアルノベルからの**47,844**の音声テキストペアが現在含まれています。ほぼすべてのNSFWまたは低品質の音声ファイルを取り除くために徹底的なクリーニングが行われました。書き起こしは、劇的に重複した文字(例えば「ああああーーー」)をはるかに少なくするようにフォーマットされました。このバージョンには**63.4時間**の音声が含まれています。

# データセット情報

* **47,844** の音声テキストペア
* **63.4時間** の音声（OpenAIは、有効な[Whisper](https://huggingface.co/openai/whisper-large-v2)のファインチューニングのために[5時間](https://huggingface.co/blog/fine-tune-whisper)以上の音声を推奨しています）。
* 平均音声長は**4.8秒**。
* 書き起こしは、**ビジュアルノベル**のゲームファイルから直接スクレイピングしたものです。

# 今後の予定

* [X] 1万件以上のアイテムを含むデータセットを作成する
* [X] 2万件以上のアイテムを含むデータセットを作成する
* [X] 音質を最小限に損なってオーディオを圧縮する
* [X] 3万件以上のアイテムを含むデータセットを作成する
* [X] 4万件以上のアイテムを含むデータセットを作成する
* [] 5万件以上のアイテムを含むデータセットを作成する
* [ ] Artemis以外のエンジンを使用しているビジュアルノベルからオーディオをスクレイピングするためのワークフローを作成する
* [ ] 書き起こしの中の名前をカタカナに変換する？
* [ ] YouTubeからオーディオと書き起こしをスクレイピングする

# 利用とクレジット

このデータセットは、商用または非商用利用のために公開されています。誰でも適切と判断するようにこのリソースを使用することを歓迎します。しかし、その使用の結果については、作成者は一切の責任を負いません。必須ではありませんが、派生作品でこのデータセットにハイパーリンクでのクレジットを与えることが非常に感謝されます。

このデータセットを共有することで、我々（オープンソースコミュニティ）がアニメコンテンツの自動音声認識を改善することを願っています。