Datasets:

YukiTomita-CC
/

AKU-d_ms-0.5B-v0.1_dataset

Tasks:

Text Generation

Modalities:

Formats:

Languages:

Size:

Libraries:

License:

Dataset card Viewer Files Files and versions Community

YukiTomita-CC commited on Sep 9, 2024

Commit

95d7584

·

verified ·

1 Parent(s): 27258b8

Update README.md

Files changed (1) hide show

README.md +1 -1

README.md CHANGED Viewed

@@ -15,7 +15,7 @@ language:
 これには次で説明するように複数の公開データセットから作成したテキストファイルが含まれており、それぞれのライセンスや著作権は各データセットに従います。\
 また、各データセットに対する処理スクリプトは、上記[GitHubリポジトリ内](https://github.com/YukiTomita-CC/AKU/tree/main/aku/dataset)にて公開しています。
-合計トークン数は **1.56 B tokens**となります。([モデルに使用しているTokenizer](YukiTomita-CC/AKU-d_ms_tokenizer)による計算)
 ## Each Dataset Description
 | Dataset Name                                           | License      | URL or Repository                                                                                                                         | token count   |

 これには次で説明するように複数の公開データセットから作成したテキストファイルが含まれており、それぞれのライセンスや著作権は各データセットに従います。\
 また、各データセットに対する処理スクリプトは、上記[GitHubリポジトリ内](https://github.com/YukiTomita-CC/AKU/tree/main/aku/dataset)にて公開しています。
+合計トークン数は **1.56 B tokens**となります。([モデルに使用しているTokenizer](https://huggingface.co/YukiTomita-CC/AKU-d_ms_tokenizer)による計算)
 ## Each Dataset Description
 | Dataset Name                                           | License      | URL or Repository                                                                                                                         | token count   |