Update README.md
Browse files
README.md
CHANGED
@@ -1,3 +1,42 @@
|
|
1 |
-
---
|
2 |
-
license: mit
|
3 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
---
|
2 |
+
license: mit
|
3 |
+
language:
|
4 |
+
- zh
|
5 |
+
size_categories:
|
6 |
+
- 1M<n<10M
|
7 |
+
---
|
8 |
+
|
9 |
+
# 台灣正體中文維基百科 (zh-tw Wikipedia)
|
10 |
+
|
11 |
+
截至 2023 年 5 月,中文維基百科 2,533,212 篇條目的台灣正體文字內容。每篇條目為一列 (row),包含 HTML 以及 Markdown 兩種格式。
|
12 |
+
|
13 |
+
A nearly-complete collection of 2,533,212 Traditional Chinese (`zh-tw`) Wikipedia pages, gathered between May 1, 2023, and May 7, 2023. Includes both the original HTML format and an auto-converted Markdown version, which has been processed using [vinta/pangu.py](https://github.com/vinta/pangu.py).
|
14 |
+
|
15 |
+
於 2023 年 5 月 1 日至 5 月 7 日間取自維基百科 [`action=query`](https://zh.wikipedia.org/w/api.php?action=help&modules=query) & [`prop=extracts`](https://zh.wikipedia.org/w/api.php?action=help&modules=query%2Bextracts) API,內容皆與維基百科網站之台灣正體版本一致,沒有繁簡體混雜的問題。
|
16 |
+
|
17 |
+
For development usage, checkout [`zetavg/zh-tw-wikipedia-dev`](https://huggingface.co/datasets/zetavg/zh-tw-wikipedia-dev), which is a subset that contains only 1,000 randomly picked items.
|
18 |
+
|
19 |
+
|
20 |
+
|
21 |
+
## 資料集結構
|
22 |
+
|
23 |
+
```json
|
24 |
+
{
|
25 |
+
"text": "1996 年夏季奧林匹克運動會烏克蘭代表團是烏克蘭所派出的第 26 屆夏季奧林匹克運動會代表團。這是烏克蘭獨立後首次參加夏季奧運。"
|
26 |
+
}
|
27 |
+
```
|
28 |
+
|
29 |
+
## 資料欄位
|
30 |
+
|
31 |
+
- `text`: (string) 維基百科文本內容
|
32 |
+
|
33 |
+
## 如何使用
|
34 |
+
|
35 |
+
```python
|
36 |
+
from datasets import load_dataset
|
37 |
+
dataset = load_dataset("yuhuanstudio/wikipedia-pretrain-zh-tw", split="train")
|
38 |
+
```
|
39 |
+
|
40 |
+
## 許可資訊
|
41 |
+
|
42 |
+
[MIT]
|