Datasets:
Update README_JA.md
Browse files- README_JA.md +14 -25
README_JA.md
CHANGED
@@ -12,35 +12,24 @@
|
|
12 |
<p><b>コンテンツに関する警告:</b> このデータセットの大部分の音声はビジュアルノベルから取得されており、全ての視聴者に適していない内容、例えば示唆に富む音声や成人向けの話題を含む場合があります。可能な限りこれらの内容を最小限にする努力をしています。</p>
|
13 |
</div>
|
14 |
|
|
|
15 |
|
16 |
-
|
17 |
-
|
18 |
-
*
|
19 |
-
|
20 |
-
*
|
21 |
-
|
22 |
-
* V3 - データセットには、5つの異なるビジュアルノベルからの**38,325**の音声テキストペアが含まれています。徹底的な清掃が行われ、ほとんどのNSFWまたは低品質の音声ファイルを除去しました。書き起こしは、劇的に重複する文字(例えば「ああああーーー」)をはるかに少なく含むようにフォーマットされ、引用符のタイプを統一するなど、はるかに一貫性があります。このバージョンには**52.5時間**の音声が含まれています。
|
23 |
|
24 |
-
|
25 |
-
|
26 |
-
# データセット情報
|
27 |
-
|
28 |
-
* **47,844** の音声テキストペア
|
29 |
-
* **63.4時間** の音声(OpenAIは、有効な[Whisper](https://huggingface.co/openai/whisper-large-v2)のファインチューニングのために[5時間](https://huggingface.co/blog/fine-tune-whisper)以上の音声を推奨しています)。
|
30 |
-
* 平均音声長は**4.8秒**。
|
31 |
-
* 書き起こしは、**ビジュアルノベル**のゲームファイルから直接スクレイピングしたものです。
|
32 |
|
33 |
-
|
|
|
|
|
|
|
|
|
34 |
|
35 |
-
|
36 |
-
|
37 |
-
* [X] 音質を最小限に損なってオーディオを圧縮する
|
38 |
-
* [X] 3万件以上のアイテムを含むデータセットを作成する
|
39 |
-
* [X] 4万件以上のアイテムを含むデータセットを作成する
|
40 |
-
* [] 5万件以上のアイテムを含むデータセットを作成する
|
41 |
-
* [ ] Artemis以外のエンジンを使用しているビジュアルノベルからオーディオをスクレイピングするためのワークフローを作成する
|
42 |
-
* [ ] 書き起こしの中の名前をカタカナに変換する?
|
43 |
-
* [ ] YouTubeからオーディオと書き起こしをスクレイピングする
|
44 |
|
45 |
# 利用とクレジット
|
46 |
|
|
|
12 |
<p><b>コンテンツに関する警告:</b> このデータセットの大部分の音声はビジュアルノベルから取得されており、全ての視聴者に適していない内容、例えば示唆に富む音声や成人向けの話題を含む場合があります。可能な限りこれらの内容を最小限にする努力をしています。</p>
|
13 |
</div>
|
14 |
|
15 |
+
# データセットの情報
|
16 |
|
17 |
+
* **73,004** 個の音声-テキストペア
|
18 |
+
* **110時間**の音声データ (OpenAIは生産的な[Whisper](https://huggingface.co/openai/whisper-large-v2)のファインチューニングには最低[5時間](https://huggingface.co/blog/fine-tune-whisper)を推奨しています)
|
19 |
+
* 平均音声の長さは**5.4秒**
|
20 |
+
* 書き起こしは**ビジュアルノベル**のファイルから直接抽出されています
|
21 |
+
* 最新バージョン: **V5 - 2024年3月22日**
|
|
|
|
|
22 |
|
23 |
+
# 変更履歴
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
24 |
|
25 |
+
* V1 - このバージョンには、ビジュアルノベル「IxSHE Tell」からの**16,143**個の音声-テキストペアが含まれています。書き起こしの行頭と行末の不要な文字を取り除くためのクリーニングが行われています。
|
26 |
+
* V2 - このバージョンには、3つの異なるビジュアルノベルからの**23,422**個の音声-テキストペアが含まれています。ほとんどのNSFWの行、特に言葉ではないノイズを取り除くためのクリーニングが行われました。音声はwav形式ではなく、mp3形式になっています。このバージョンには**32.6時間**の音声が含まれています。
|
27 |
+
* V3 - このバージョンには、5つの異なるビジュアルノベルからの**38,325**個の音声-テキストペアが含まれています。ほとんどのNSFWまたは低品質の音声ファイルを取り除くための徹底的なクリーニングが行われました。書き起こしは、劇的に重複した文字(例えば「ああああーーー」)を大幅に減らすようにフォーマットされ、書き起こしがはるかに一貫性のあるものになりました。このバージョンには**52.5時間**の音声が含まれています。
|
28 |
+
* V4 - このデータセットには、6つの異なるビジュアルノベルからの**47,844**個の音声-テキストペアが含まれています。ほとんどのNSFWまたは低品質の音声ファイルを取り除くための徹底的なクリーニングが行われました。このバージョンには**63.4時間**の音声が含まれています。
|
29 |
+
* **V5** - このデータセットには、8つの異なるビジュアルノベルからの**73,004**��の音声-テキストペアが含まれています。ほとんどのNSFWまたは低品質の音声ファイルを取り除くための徹底的なクリーニングが行われました。このバージョンには**110時間**の音声が含まれています。
|
30 |
|
31 |
+
# バイアスと限界
|
32 |
+
このデータセットは、アニメ風の日本語音声認識の訓練に役立ちますが、いくつかの固有のバイアスと限界があります。音声は主にビジュアルノベルから取得されているため、女性の声へのジェンダーバイアスや、恋愛、人間関係、ファンタジーなどのトピックを中心とした領域固有の語彙があります。さらに、プロが制作した音声であるため、明瞭でゆっくりとした話し方になっており、実世界の話し方のパターンを完全に反映していない可能性があります。
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
33 |
|
34 |
# 利用とクレジット
|
35 |
|