Update README.md
Browse files
README.md
CHANGED
@@ -59,13 +59,20 @@ configs:
|
|
59 |
|
60 |
Wikipediaの[HTML形式のダンプファイル](https://dumps.wikimedia.org/other/enterprise_html/)から抽出したテキストデータセットです。
|
61 |
Wikiextractorによって抽出したテキストデータと異なり、段落などの文書構造を維持したまま、不要なマークアップのないテキストが利用できます。
|
|
|
62 |
ダンプファイルは、2024年1月1日に公開されたものを利用しています。
|
|
|
|
|
63 |
|
64 |
各種前処理スクリプトは[GitHubのリポジトリ](https://github.com/hppRC/jawiki)をご参照ください。
|
65 |
|
66 |
|
67 |
## データ構造
|
68 |
|
|
|
|
|
|
|
|
|
69 |
- id (int)
|
70 |
- title (str)
|
71 |
- 記事タイトルです。
|
@@ -77,13 +84,14 @@ Wikiextractorによって抽出したテキストデータと異なり、段落
|
|
77 |
- 記事中で何番目の段落かを示す番号です。
|
78 |
- tag (str)
|
79 |
- 当該段落をマークアップしていたHTMLタグの名称です。
|
80 |
-
- title (str)
|
81 |
- 当該段落を含むセクションのタイトルです。
|
82 |
- 存在しない場合もあります。
|
83 |
- text (str)
|
84 |
- 段落のテキスト本文です。
|
85 |
-
- abstract (str)
|
86 |
- 記事の要約です。
|
|
|
87 |
- wikitext (str)
|
88 |
- wikitextによって抽出された記事本文です。比較・解析精度向上に資する目的で`text`と併存しています。
|
89 |
- date_created (str)
|
|
|
59 |
|
60 |
Wikipediaの[HTML形式のダンプファイル](https://dumps.wikimedia.org/other/enterprise_html/)から抽出したテキストデータセットです。
|
61 |
Wikiextractorによって抽出したテキストデータと異なり、段落などの文書構造を維持したまま、不要なマークアップのないテキストが利用できます。
|
62 |
+
|
63 |
ダンプファイルは、2024年1月1日に公開されたものを利用しています。
|
64 |
+
また、各種NLPタスクに利用しやすいよう、様々なデータを同梱しています。
|
65 |
+
|
66 |
|
67 |
各種前処理スクリプトは[GitHubのリポジトリ](https://github.com/hppRC/jawiki)をご参照ください。
|
68 |
|
69 |
|
70 |
## データ構造
|
71 |
|
72 |
+
各レコードはWikipediaの記事一つに対応しています。
|
73 |
+
大まかなデータ構造と説明を以下に示します。
|
74 |
+
|
75 |
+
|
76 |
- id (int)
|
77 |
- title (str)
|
78 |
- 記事タイトルです。
|
|
|
84 |
- 記事中で何番目の段落かを示す番号です。
|
85 |
- tag (str)
|
86 |
- 当該段落をマークアップしていたHTMLタグの名称です。
|
87 |
+
- title (str | None)
|
88 |
- 当該段落を含むセクションのタイトルです。
|
89 |
- 存在しない場合もあります。
|
90 |
- text (str)
|
91 |
- 段落のテキスト本文です。
|
92 |
+
- abstract (str | None)
|
93 |
- 記事の要約です。
|
94 |
+
- ない場合もあります。
|
95 |
- wikitext (str)
|
96 |
- wikitextによって抽出された記事本文です。比較・解析精度向上に資する目的で`text`と併存しています。
|
97 |
- date_created (str)
|