shunk031 commited on
Commit
6d84ffa
1 Parent(s): dd6e699

update README (#8)

Browse files
Files changed (1) hide show
  1. README.md +156 -0
README.md CHANGED
@@ -31,3 +31,159 @@ metrics:
31
  # Dataset Card for JSNLI
32
 
33
  [![CI](https://github.com/shunk031/huggingface-datasets_jsnli/actions/workflows/ci.yaml/badge.svg)](https://github.com/shunk031/huggingface-datasets_jsnli/actions/workflows/ci.yaml)
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
31
  # Dataset Card for JSNLI
32
 
33
  [![CI](https://github.com/shunk031/huggingface-datasets_jsnli/actions/workflows/ci.yaml/badge.svg)](https://github.com/shunk031/huggingface-datasets_jsnli/actions/workflows/ci.yaml)
34
+
35
+ ## Table of Contents
36
+ - [Table of Contents](#table-of-contents)
37
+ - [Dataset Description](#dataset-description)
38
+ - [Dataset Summary](#dataset-summary)
39
+ - [Dataset Preprocessing](#dataset-preprocessing)
40
+ - [Supported Tasks and Leaderboards](#supported-tasks-and-leaderboards)
41
+ - [Languages](#languages)
42
+ - [Dataset Structure](#dataset-structure)
43
+ - [Data Instances](#data-instances)
44
+ - [Data Fields](#data-fields)
45
+ - [Data Splits](#data-splits)
46
+ - [Dataset Creation](#dataset-creation)
47
+ - [Curation Rationale](#curation-rationale)
48
+ - [Source Data](#source-data)
49
+ - [Annotations](#annotations)
50
+ - [Personal and Sensitive Information](#personal-and-sensitive-information)
51
+ - [Considerations for Using the Data](#considerations-for-using-the-data)
52
+ - [Social Impact of Dataset](#social-impact-of-dataset)
53
+ - [Discussion of Biases](#discussion-of-biases)
54
+ - [Other Known Limitations](#other-known-limitations)
55
+ - [Additional Information](#additional-information)
56
+ - [Dataset Curators](#dataset-curators)
57
+ - [Licensing Information](#licensing-information)
58
+ - [Citation Information](#citation-information)
59
+ - [Contributions](#contributions)
60
+
61
+ ## Dataset Description
62
+
63
+ - Homepage: https://nlp.ist.i.kyoto-u.ac.jp/?%E6%97%A5%E6%9C%AC%E8%AA%9ESNLI%28JSNLI%29%E3%83%87%E3%83%BC%E3%82%BF%E3%82%BB%E3%83%83%E3%83%88
64
+ - Repository: https://github.com/shunk031/huggingface-datasets_jsnli
65
+
66
+ ### Dataset Summary
67
+
68
+ [日本語 SNLI(JSNLI) データセット - KUROHASHI-CHU-MURAWAKI LAB](https://nlp.ist.i.kyoto-u.ac.jp/?%E6%97%A5%E6%9C%AC%E8%AA%9ESNLI%28JSNLI%29%E3%83%87%E3%83%BC%E3%82%BF%E3%82%BB%E3%83%83%E3%83%88 ) より:
69
+
70
+ > 本データセットは自然言語推論 (NLI) の標準的ベンチマークである [SNLI](https://nlp.stanford.edu/projects/snli/) を日本語に翻訳したものです。
71
+
72
+ ### Dataset Preprocessing
73
+
74
+ ### Supported Tasks and Leaderboards
75
+
76
+ ### Languages
77
+
78
+ 注釈はすべて日本語を主要言語としています。
79
+
80
+ ## Dataset Structure
81
+
82
+ > データセットは TSV フォーマットで、各行がラベル、前提、仮説の三つ組を表します。前提、仮説は JUMAN++ によって形態素分割されています。以下に例をあげます。
83
+
84
+ ```
85
+ entailment 自転車 で 2 人 の 男性 が レース で 競い ます 。 人々 は 自転車 に 乗って います 。
86
+ ```
87
+
88
+ ### Data Instances
89
+
90
+ ```python
91
+ from datasets import load_dataset
92
+ load_dataset("shunk031/jsnli", "without-filtering")
93
+ ```
94
+
95
+ ```json
96
+ {
97
+ 'label': 'neutral',
98
+ 'premise': 'ガレージ で 、 壁 に ナイフ を 投げる 男 。',
99
+ 'hypothesis': '男 は 魔法 の ショー の ため に ナイフ を 投げる 行為 を 練習 して い ます 。'
100
+ }
101
+ ```
102
+
103
+ ### Data Fields
104
+
105
+ ### Data Splits
106
+
107
+ | name | train | validation |
108
+ |-------------------|--------:|-----------:|
109
+ | without-filtering | 548,014 | 3,916 |
110
+ | with-filtering | 533,005 | 3,916 |
111
+
112
+ ## Dataset Creation
113
+
114
+ ### Curation Rationale
115
+
116
+ ### Source Data
117
+
118
+ #### Initial Data Collection and Normalization
119
+
120
+ #### Who are the source language producers?
121
+
122
+ ### Annotations
123
+
124
+ #### Annotation process
125
+
126
+ > SNLI に機械翻訳を適用した後、評価データにクラウドソーシングによる正確なフィルタリング、学習データに計算機による自動フィルタリングを施すことで構築されています。
127
+ > データセットは学習データを全くフィルタリングしていないものと、フィルタリングした中で最も精度が高かったものの 2 種類を公開しています。データサイズは、フィルタリング前の学習データが 548,014 ペア、フィルタリング後の学習データが 533,005 ペア、評価データは 3,916 ペアです。詳細は参考文献を参照してください。
128
+
129
+ #### Who are the annotators?
130
+
131
+ ### Personal and Sensitive Information
132
+
133
+ ## Considerations for Using the Data
134
+
135
+ ### Social Impact of Dataset
136
+
137
+ ### Discussion of Biases
138
+
139
+ ### Other Known Limitations
140
+
141
+ ## Additional Information
142
+
143
+ > 本データセットに関するご質問は nl-resource あっと nlp.ist.i.kyoto-u.ac.jp 宛にお願いいたします。
144
+
145
+ ### Dataset Curators
146
+
147
+ ### Licensing Information
148
+
149
+ > このデータセットのライセンスは、SNLI のライセンスと同じ [CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/) に従います。SNLI に関しては参考文献を参照してください。
150
+
151
+ ### Citation Information
152
+
153
+ ```bibtex
154
+ @article{吉越卓見 2020 機械翻訳を用いた自然言語推論データセットの多言語化,
155
+ title={機械翻訳を用いた自然言語推論データセットの多言語化},
156
+ author={吉越卓見 and 河原大輔 and 黒橋禎夫 and others},
157
+ journal={研究報��自然言語処理 (NL)},
158
+ volume={2020},
159
+ number={6},
160
+ pages={1--8},
161
+ year={2020}
162
+ }
163
+ ```
164
+
165
+ ```bibtex
166
+ @inproceedings{bowman2015large,
167
+ title={A large annotated corpus for learning natural language inference},
168
+ author={Bowman, Samuel and Angeli, Gabor and Potts, Christopher and Manning, Christopher D},
169
+ booktitle={Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing},
170
+ pages={632--642},
171
+ year={2015}
172
+ }
173
+ ```
174
+
175
+ ```bibtex
176
+ @article{young2014image,
177
+ title={From image descriptions to visual denotations: New similarity metrics for semantic inference over event descriptions},
178
+ author={Young, Peter and Lai, Alice and Hodosh, Micah and Hockenmaier, Julia},
179
+ journal={Transactions of the Association for Computational Linguistics},
180
+ volume={2},
181
+ pages={67--78},
182
+ year={2014},
183
+ publisher={MIT Press}
184
+ }
185
+ ```
186
+
187
+ ### Contributions
188
+
189
+ JSNLI データセットを公開してくださった吉越 卓見さま,河原 大輔さま,黒橋 禎夫さまに心から感謝します。