Datasets:
Update README.md
Browse files
README.md
CHANGED
@@ -128,6 +128,61 @@ pretty_name: Japanese StackOverflow
|
|
128 |
size_categories:
|
129 |
- 10K<n<100K
|
130 |
---
|
131 |
-
# Dataset Card for "ja-stackoverflow"
|
132 |
|
133 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
128 |
size_categories:
|
129 |
- 10K<n<100K
|
130 |
---
|
|
|
131 |
|
132 |
+
# ja-stackoverflow
|
133 |
+
|
134 |
+
日本語版 Stack Overflow の [スタック・オーバーフロー](https://ja.stackoverflow.com/) の[データダンプ](https://archive.org/download/stackexchange) をもとにデータを加工し、質問文と回答文のペアになるように調整した QA データセット。
|
135 |
+
|
136 |
+
## データ構造
|
137 |
+
|
138 |
+
投稿本文は `html2text` を使ってマークダウン化されています。その際、
|
139 |
+
|
140 |
+
- コードブロックは \`\`\` で囲まれるように変更されています。
|
141 |
+
- 画像 URL に base64 エンコードされた画像が含まれる場合、 `[unk]` に置き換えています。
|
142 |
+
|
143 |
+
### `default` サブセット
|
144 |
+
|
145 |
+
- `id`: 質問投稿の ID
|
146 |
+
- `question`: 質問投稿
|
147 |
+
- `answers`: 質問に対する回答投稿のリスト
|
148 |
+
- `accepted_answer_id`: 質問者に選ばれた回答のID。`null` の可能性がある
|
149 |
+
- `popular_answer_id`: もっともスコアが高かった回答のID。`null` の可能性がある
|
150 |
+
|
151 |
+
|
152 |
+
### `simple` サブセット
|
153 |
+
|
154 |
+
`default` サブセットから、 `question` と `answers` の辞書を展開しシンプルにしたもの。
|
155 |
+
|
156 |
+
- `id`: 質問投稿の ID
|
157 |
+
- `accepted_answer_id`: 質問者に選ばれた回答のID。`null` の可能性がある
|
158 |
+
- `popular_answer_id`: もっともスコアが高かった回答のID。`null` の可能性がある
|
159 |
+
- `title`: 質問のタイトル
|
160 |
+
- `question_body`: 質問本文
|
161 |
+
- `question_score`: 質問のスコア
|
162 |
+
- `tags`: 質問に関連付けられたタグ
|
163 |
+
- `accepted_answer_body`: 質問者に選ばれた回答の本文。`null` の可能性がある
|
164 |
+
- `accepted_answer_score`: 質問者に選ばれた回答のスコア。`null` の可能性がある
|
165 |
+
- `popular_answer_body`: もっともスコアが高かった回答の本文。`null` の可能性がある
|
166 |
+
- `popular_answer_score`: もっともスコアが高かった回答のスコア。`null` の可能性がある
|
167 |
+
|
168 |
+
## 使い方
|
169 |
+
|
170 |
+
datasets ライブラリを用いて簡単に利用できます。
|
171 |
+
|
172 |
+
```py
|
173 |
+
from datasets import load_dataset
|
174 |
+
|
175 |
+
dataset = load_dataset("p1atdev/ja-stackoverflow", config_name="simple" split="train")
|
176 |
+
|
177 |
+
print(dataset)
|
178 |
+
#Dataset({
|
179 |
+
# features: ['id', 'accepted_answer_id', 'popular_answer_id', 'title', 'question_body', 'question_score', 'accepted_answer_body', 'accepted_answer_score', 'popular_answer_body', 'popular_answer_score', 'tags'],
|
180 |
+
# num_rows: 30551
|
181 |
+
#})
|
182 |
+
```
|
183 |
+
|
184 |
+
|
185 |
+
|
186 |
+
## ライセンス
|
187 |
+
|
188 |
+
StackOverflow に基づき、[CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)
|