p1atdev commited on
Commit
f8a3f33
1 Parent(s): a4ee478

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +57 -2
README.md CHANGED
@@ -128,6 +128,61 @@ pretty_name: Japanese StackOverflow
128
  size_categories:
129
  - 10K<n<100K
130
  ---
131
- # Dataset Card for "ja-stackoverflow"
132
 
133
- [More Information needed](https://github.com/huggingface/datasets/blob/main/CONTRIBUTING.md#how-to-contribute-to-the-dataset-cards)
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
128
  size_categories:
129
  - 10K<n<100K
130
  ---
 
131
 
132
+ # ja-stackoverflow
133
+
134
+ 日本語版 Stack Overflow の [スタック・オーバーフロー](https://ja.stackoverflow.com/) の[データダンプ](https://archive.org/download/stackexchange) をもとにデータを加工し、質問文と回答文のペアになるように調整した QA データセット。
135
+
136
+ ## データ構造
137
+
138
+ 投稿本文は `html2text` を使ってマークダウン化されています。その際、
139
+
140
+ - コードブロックは \`\`\` で囲まれるように変更されています。
141
+ - 画像 URL に base64 エンコードされた画像が含まれる場合、 `[unk]` に置き換えています。
142
+
143
+ ### `default` サブセット
144
+
145
+ - `id`: 質問投稿の ID
146
+ - `question`: 質問投稿
147
+ - `answers`: 質問に対する回答投稿のリスト
148
+ - `accepted_answer_id`: 質問者に選ばれた回答のID。`null` の可能性がある
149
+ - `popular_answer_id`: もっともスコアが高かった回答のID。`null` の可能性がある
150
+
151
+
152
+ ### `simple` サブセット
153
+
154
+ `default` サブセットから、 `question` と `answers` の辞書を展開しシンプルにしたもの。
155
+
156
+ - `id`: 質問投稿の ID
157
+ - `accepted_answer_id`: 質問者に選ばれた回答のID。`null` の可能性がある
158
+ - `popular_answer_id`: もっともスコアが高かった回答のID。`null` の可能性がある
159
+ - `title`: 質問のタイトル
160
+ - `question_body`: 質問本文
161
+ - `question_score`: 質問のスコア
162
+ - `tags`: 質問に関連付けられたタグ
163
+ - `accepted_answer_body`: 質問者に選ばれた回答の本文。`null` の可能性がある
164
+ - `accepted_answer_score`: 質問者に選ばれた回答のスコア。`null` の可能性がある
165
+ - `popular_answer_body`: もっともスコアが高かった回答の本文。`null` の可能性がある
166
+ - `popular_answer_score`: もっともスコアが高かった回答のスコア。`null` の可能性がある
167
+
168
+ ## 使い方
169
+
170
+ datasets ライブラリを用いて簡単に利用できます。
171
+
172
+ ```py
173
+ from datasets import load_dataset
174
+
175
+ dataset = load_dataset("p1atdev/ja-stackoverflow", config_name="simple" split="train")
176
+
177
+ print(dataset)
178
+ #Dataset({
179
+ # features: ['id', 'accepted_answer_id', 'popular_answer_id', 'title', 'question_body', 'question_score', 'accepted_answer_body', 'accepted_answer_score', 'popular_answer_body', 'popular_answer_score', 'tags'],
180
+ # num_rows: 30551
181
+ #})
182
+ ```
183
+
184
+
185
+
186
+ ## ライセンス
187
+
188
+ StackOverflow に基づき、[CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/deed.ja)