Datasets:

Languages:
Japanese
Tags:
License:
hpprc commited on
Commit
9ead863
1 Parent(s): 691dc93

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +10 -2
README.md CHANGED
@@ -59,13 +59,20 @@ configs:
59
 
60
  Wikipediaの[HTML形式のダンプファイル](https://dumps.wikimedia.org/other/enterprise_html/)から抽出したテキストデータセットです。
61
  Wikiextractorによって抽出したテキストデータと異なり、段落などの文書構造を維持したまま、不要なマークアップのないテキストが利用できます。
 
62
  ダンプファイルは、2024年1月1日に公開されたものを利用しています。
 
 
63
 
64
  各種前処理スクリプトは[GitHubのリポジトリ](https://github.com/hppRC/jawiki)をご参照ください。
65
 
66
 
67
  ## データ構造
68
 
 
 
 
 
69
  - id (int)
70
  - title (str)
71
  - 記事タイトルです。
@@ -77,13 +84,14 @@ Wikiextractorによって抽出したテキストデータと異なり、段落
77
  - 記事中で何番目の段落かを示す番号です。
78
  - tag (str)
79
  - 当該段落をマークアップしていたHTMLタグの名称です。
80
- - title (str)
81
  - 当該段落を含むセクションのタイトルです。
82
  - 存在しない場合もあります。
83
  - text (str)
84
  - 段落のテキスト本文です。
85
- - abstract (str)
86
  - 記事の要約です。
 
87
  - wikitext (str)
88
  - wikitextによって抽出された記事本文です。比較・解析精度向上に資する目的で`text`と併存しています。
89
  - date_created (str)
 
59
 
60
  Wikipediaの[HTML形式のダンプファイル](https://dumps.wikimedia.org/other/enterprise_html/)から抽出したテキストデータセットです。
61
  Wikiextractorによって抽出したテキストデータと異なり、段落などの文書構造を維持したまま、不要なマークアップのないテキストが利用できます。
62
+
63
  ダンプファイルは、2024年1月1日に公開されたものを利用しています。
64
+ また、各種NLPタスクに利用しやすいよう、様々なデータを同梱しています。
65
+
66
 
67
  各種前処理スクリプトは[GitHubのリポジトリ](https://github.com/hppRC/jawiki)をご参照ください。
68
 
69
 
70
  ## データ構造
71
 
72
+ 各レコードはWikipediaの記事一つに対応しています。
73
+ 大まかなデータ構造と説明を以下に示します。
74
+
75
+
76
  - id (int)
77
  - title (str)
78
  - 記事タイトルです。
 
84
  - 記事中で何番目の段落かを示す番号です。
85
  - tag (str)
86
  - 当該段落をマークアップしていたHTMLタグの名称です。
87
+ - title (str | None)
88
  - 当該段落を含むセクションのタイトルです。
89
  - 存在しない場合もあります。
90
  - text (str)
91
  - 段落のテキスト本文です。
92
+ - abstract (str | None)
93
  - 記事の要約です。
94
+ - ない場合もあります。
95
  - wikitext (str)
96
  - wikitextによって抽出された記事本文です。比較・解析精度向上に資する目的で`text`と併存しています。
97
  - date_created (str)