Commit
•
d31727f
1
Parent(s):
1a6abba
update README
Browse files
README.md
CHANGED
@@ -50,18 +50,20 @@ language:
|
|
50 |
|
51 |
# jaqket_v1_qa_wikija_context
|
52 |
|
53 |
-
[
|
54 |
|
55 |
-
JAQKET
|
56 |
|
57 |
-
データセットの context には、wikipedia の関連 Passage の Top-3 が格納されていて、このTop-3のうちのどこかの文字列に answer が含まれています。データはtrain 2939件、validation 980件に split
|
58 |
|
59 |
wikipedia passage には [singletongue/wikipedia-utils の passages-c400-jawiki-20230403](https://huggingface.co/datasets/singletongue/wikipedia-utils/viewer/passages-c400-jawiki-20230403)を、質問から関連する passage の取得には [hotchpotch/wikipedia-passages-jawiki-embeddings](https://huggingface.co/datasets/hotchpotch/wikipedia-passages-jawiki-embeddings)の `multilingual-e5-large-query` を使って類似ベクトル検索し抽出しています。
|
60 |
|
|
|
|
|
|
|
|
|
|
|
61 |
## ライセンス
|
62 |
|
63 |
- [CC BY-SA 4.0 DEED](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)
|
64 |
|
65 |
-
## 作成スクリプト
|
66 |
-
|
67 |
-
- https://huggingface.co/datasets/hotchpotch/jaqket_v1_qa_wikija_context/blob/main/create_dataset.ipynb
|
|
|
50 |
|
51 |
# jaqket_v1_qa_wikija_context
|
52 |
|
53 |
+
[AI王 公式配布データセット(JAQKET)](https://sites.google.com/view/project-aio/dataset?authuser=0)へ、Wikipedia のコンテキストを追加したデータセットです。
|
54 |
|
55 |
+
JAQKET で公開されていて、かつライセンスが[CC BY-SA 4.0 DEED](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)のデータをもとに、質問の回答が含まれる Wikipedia の passage をコンテキスト追加し HuggingFace Dataset を作成した物です。Q&A タスクにコンテキスト入れて学習させたいときや、質問 + コンテキストから回答をきちんと抽出できるのか、といったタスクの利用が想定されます。
|
56 |
|
57 |
+
データセットの context には、wikipedia の関連 Passage の Top-3 が格納されていて、このTop-3のうちのどこかの文字列に answer が含まれています。データはtrain 2939件、validation 980件に split しています。
|
58 |
|
59 |
wikipedia passage には [singletongue/wikipedia-utils の passages-c400-jawiki-20230403](https://huggingface.co/datasets/singletongue/wikipedia-utils/viewer/passages-c400-jawiki-20230403)を、質問から関連する passage の取得には [hotchpotch/wikipedia-passages-jawiki-embeddings](https://huggingface.co/datasets/hotchpotch/wikipedia-passages-jawiki-embeddings)の `multilingual-e5-large-query` を使って類似ベクトル検索し抽出しています。
|
60 |
|
61 |
+
|
62 |
+
## データセットの作成スクリプト
|
63 |
+
|
64 |
+
- https://huggingface.co/datasets/hotchpotch/jaqket_v1_qa_wikija_context/blob/main/create_dataset.ipynb
|
65 |
+
|
66 |
## ライセンス
|
67 |
|
68 |
- [CC BY-SA 4.0 DEED](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)
|
69 |
|
|
|
|
|
|