hotchpotch commited on
Commit
d31727f
1 Parent(s): 1a6abba

update README

Browse files
Files changed (1) hide show
  1. README.md +8 -6
README.md CHANGED
@@ -50,18 +50,20 @@ language:
50
 
51
  # jaqket_v1_qa_wikija_context
52
 
53
- [JAQKET v1 (AI王第一回)のデータセット](https://sites.google.com/view/project-aio/dataset?authuser=0)へ、Wikipedia のコンテキストを追加したデータセットです。
54
 
55
- JAQKET のうちライセンスが[CC BY-SA 4.0 DEED](https://creativecommons.org/licenses/by-sa/4.0/deed.ja) のデータをもとに、質問の回答が含まれる Wikipedia の passage をコンテキスト追加し HuggingFace Dataset を作成した物です。Q&A タスクにコンテキスト入れて学習させたいときや、質問 + コンテキストから回答をきちんと抽出できるのか、といったタスクの利用が想定されます。
56
 
57
- データセットの context には、wikipedia の関連 Passage の Top-3 が格納されていて、このTop-3のうちのどこかの文字列に answer が含まれています。データはtrain 2939件、validation 980件に split しました。
58
 
59
  wikipedia passage には [singletongue/wikipedia-utils の passages-c400-jawiki-20230403](https://huggingface.co/datasets/singletongue/wikipedia-utils/viewer/passages-c400-jawiki-20230403)を、質問から関連する passage の取得には [hotchpotch/wikipedia-passages-jawiki-embeddings](https://huggingface.co/datasets/hotchpotch/wikipedia-passages-jawiki-embeddings)の `multilingual-e5-large-query` を使って類似ベクトル検索し抽出しています。
60
 
 
 
 
 
 
61
  ## ライセンス
62
 
63
  - [CC BY-SA 4.0 DEED](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)
64
 
65
- ## 作成スクリプト
66
-
67
- - https://huggingface.co/datasets/hotchpotch/jaqket_v1_qa_wikija_context/blob/main/create_dataset.ipynb
 
50
 
51
  # jaqket_v1_qa_wikija_context
52
 
53
+ [AI王 公式配布データセット(JAQKET)](https://sites.google.com/view/project-aio/dataset?authuser=0)へ、Wikipedia のコンテキストを追加したデータセットです。
54
 
55
+ JAQKET で公開されていて、かつライセンスが[CC BY-SA 4.0 DEED](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)のデータをもとに、質問の回答が含まれる Wikipedia の passage をコンテキスト追加し HuggingFace Dataset を作成した物です。Q&A タスクにコンテキスト入れて学習させたいときや、質問 + コンテキストから回答をきちんと抽出できるのか、といったタスクの利用が想定されます。
56
 
57
+ データセットの context には、wikipedia の関連 Passage の Top-3 が格納されていて、このTop-3のうちのどこかの文字列に answer が含まれています。データはtrain 2939件、validation 980件に split しています。
58
 
59
  wikipedia passage には [singletongue/wikipedia-utils の passages-c400-jawiki-20230403](https://huggingface.co/datasets/singletongue/wikipedia-utils/viewer/passages-c400-jawiki-20230403)を、質問から関連する passage の取得には [hotchpotch/wikipedia-passages-jawiki-embeddings](https://huggingface.co/datasets/hotchpotch/wikipedia-passages-jawiki-embeddings)の `multilingual-e5-large-query` を使って類似ベクトル検索し抽出しています。
60
 
61
+
62
+ ## データセットの作成スクリプト
63
+
64
+ - https://huggingface.co/datasets/hotchpotch/jaqket_v1_qa_wikija_context/blob/main/create_dataset.ipynb
65
+
66
  ## ライセンス
67
 
68
  - [CC BY-SA 4.0 DEED](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)
69