Datasets:

hotchpotch
/

ms_marco_japanese

Modalities:

Formats:

Languages:

Size:

Libraries:

License:

Dataset card Viewer Files Files and versions Community

hotchpotch commited on Feb 17

Commit

af457ab

•

1 Parent(s): 3f93a67

Update README.md

Files changed (1) hide show

README.md +1 -0

README.md CHANGED Viewed

@@ -52,6 +52,7 @@ configs:
 - 翻訳には、[google/madlad400-3b-mt](https://huggingface.co/google/madlad400-3b-mt)を利用しています。
 - HuggingFace で公開されている、ms_marco と同等の構造で保存しています。
 - 翻訳品質はそれほど高くありません。繁体字などが含まれるデータもあります。Google Translate API を用いて翻訳された、マルチリンガルms_marcoデータセットである、[mMARCO](https://github.com/unicamp-dl/mMARCO)の方が品質が高いです。そのため、このデータセットを利用の際は、他の翻訳データセットとの比較をお勧めします。
 - 翻訳にかかった時間は、高速化のため[santhosh/madlad400-3b-ct2](https://huggingface.co/santhosh/madlad400-3b-ct2)を利用し、対象のデータ約1000万文に対して RTX3090 で8日ほどでした。
 ## 利用方法

 - 翻訳には、[google/madlad400-3b-mt](https://huggingface.co/google/madlad400-3b-mt)を利用しています。
 - HuggingFace で公開されている、ms_marco と同等の構造で保存しています。
 - 翻訳品質はそれほど高くありません。繁体字などが含まれるデータもあります。Google Translate API を用いて翻訳された、マルチリンガルms_marcoデータセットである、[mMARCO](https://github.com/unicamp-dl/mMARCO)の方が品質が高いです。そのため、このデータセットを利用の際は、他の翻訳データセットとの比較をお勧めします。
+- wellFormedAnswers カラムは翻訳していません
 - 翻訳にかかった時間は、高速化のため[santhosh/madlad400-3b-ct2](https://huggingface.co/santhosh/madlad400-3b-ct2)を利用し、対象のデータ約1000万文に対して RTX3090 で8日ほどでした。
 ## 利用方法