Datasets:
Tasks:
Text Classification
Sub-tasks:
sentiment-classification
Languages:
German
Multilinguality:
monolingual
Size Categories:
10K<n<100K
Language Creators:
crowdsourced
Annotations Creators:
expert-generated
Source Datasets:
original
Tags:
License:
Update files from the datasets library (from 1.10.0)
Browse filesRelease notes: https://github.com/huggingface/datasets/releases/tag/1.10.0
README.md
CHANGED
@@ -1,4 +1,5 @@
|
|
1 |
---
|
|
|
2 |
annotations_creators:
|
3 |
- expert-generated
|
4 |
language_creators:
|
@@ -120,7 +121,51 @@ Austrian German
|
|
120 |
|
121 |
### Data Instances
|
122 |
|
123 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
124 |
|
125 |
### Data Fields
|
126 |
|
@@ -153,7 +198,13 @@ For each article, the data set contains the following data:
|
|
153 |
|
154 |
### Data Splits
|
155 |
|
156 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
157 |
|
158 |
## Dataset Creation
|
159 |
|
1 |
---
|
2 |
+
pretty_name: One Million Posts
|
3 |
annotations_creators:
|
4 |
- expert-generated
|
5 |
language_creators:
|
121 |
|
122 |
### Data Instances
|
123 |
|
124 |
+
An example from the `posts_labeled` config:
|
125 |
+
```json
|
126 |
+
{
|
127 |
+
"ID_Post": "79",
|
128 |
+
"ID_Parent_Post": "",
|
129 |
+
"ID_Article": "1",
|
130 |
+
"ID_User": "12071",
|
131 |
+
"CreatedAt": "2015-06-01 08:58:32.363",
|
132 |
+
"Status": "online",
|
133 |
+
"Headline": "",
|
134 |
+
"Body": "ich kann keinen hinweis finden, wo man sich hinwenden muss, sollte man als abonnent des standard, die zeitung nicht bekommt, ist dass bewusst so arrangiert?",
|
135 |
+
"PositiveVotes": 0,
|
136 |
+
"NegativeVotes": 0,
|
137 |
+
"Category": 5,
|
138 |
+
"Value": 1,
|
139 |
+
"Fold": 1
|
140 |
+
}
|
141 |
+
```
|
142 |
+
|
143 |
+
An example from the `posts_unlabeled` config:
|
144 |
+
```json
|
145 |
+
{
|
146 |
+
"ID_Post": "51",
|
147 |
+
"ID_Parent_Post": "",
|
148 |
+
"ID_Article": "1",
|
149 |
+
"ID_User": "11125",
|
150 |
+
"CreatedAt": "2011-05-15 08:37:11.313",
|
151 |
+
"Status": "online",
|
152 |
+
"Headline": "Ich würde es sehr begrüßen, wenn",
|
153 |
+
"Body": "Antworten erst beim Erscheinen als e-Mail dem Poster zugestellt würden.\r\n\r\nEs gibt User, die ihre Kommentare sofort nach Mail-Eingang irgendwo hinposten. Dadurch wird \r\n1. vor allem für andere Unser die Lesbarkeit wesentlich beeinträchtigt,\r\n2. kann das Post verdreht wiedergegeben werden,\r\n3. man ist immer wieder gezwungen die Antwort richtig zu stellen.\r\n\r\nPrivatfehden von Usern sollten, wenn schon zugelassen, für alle User nachvollziehbar sein.\r\n\r\nDanke!",
|
154 |
+
"PositiveVotes": 1,
|
155 |
+
"NegativeVotes": 0
|
156 |
+
}
|
157 |
+
```
|
158 |
+
|
159 |
+
An example from the `articles` config:
|
160 |
+
```json
|
161 |
+
{
|
162 |
+
"ID_Article": "41",
|
163 |
+
"Path": "Newsroom/Wirtschaft/Wirtschaftpolitik/Energiemarkt",
|
164 |
+
"publishingDate": "2015-06-01 12:39:35.00",
|
165 |
+
"Title": "Öl- und Gas-Riesen fordern weltweite CO2-Preise",
|
166 |
+
"Body": '<div class="section" id="content-main" itemprop="articleBody"><div class="copytext"><h2 itemprop="description">Brief von BP, Total, Shell, Statoil, BG Group und Eni unterzeichnet</h2><p>Paris/London/La Defense - Sechs große Öl- und Gaskonzerne haben mit Blick auf die Verhandlungen über einen neuen Welt-Klimavertrag ein globales Preissystem für CO2-Emissionen gefordert. Wenn der Ausstoß von CO2 Geld kostet, sei dies ein Anreiz für die Nutzung von Erdgas statt Kohle, mehr Energieeffizienz und Investitionen zur Vermeidung des Treibhausgases, heißt es in einem am Montag veröffentlichten Brief.</p>\n<p>Das Schreiben ist unterzeichnet von BP, Total, Shell, Statoil, BG Group und Eni. Die Unternehmen versicherten, sie seien bereit, ihren Teil zum Kampf gegen den <a href="/r1937/Klimawandel">Klimawandel</a> beizutragen. Dafür sei aber ein klarer und verlässlicher Politik-Rahmen nötig. (APA, 1.6.2015)</p> </div></div>'
|
167 |
+
}
|
168 |
+
```
|
169 |
|
170 |
### Data Fields
|
171 |
|
198 |
|
199 |
### Data Splits
|
200 |
|
201 |
+
Training split only.
|
202 |
+
|
203 |
+
| name | train |
|
204 |
+
|-----------------|------:|
|
205 |
+
| posts_labeled | 40567|
|
206 |
+
| posts_unlabeled |1000000|
|
207 |
+
| articles | 12087|
|
208 |
|
209 |
## Dataset Creation
|
210 |
|
omp.py
CHANGED
@@ -249,20 +249,9 @@ class Omp(datasets.GeneratorBasedBuilder):
|
|
249 |
"""Yields examples."""
|
250 |
|
251 |
if self.config.name in ["posts_labeled", "posts_unlabeled"]:
|
252 |
-
|
253 |
-
filepath,
|
254 |
-
compression=None,
|
255 |
-
dtype={"ID_Post": str, "ID_Parent_Post": str, "ID_Article": str, "ID_User": str},
|
256 |
-
)
|
257 |
-
posts_labeled.fillna("", inplace=True)
|
258 |
-
for i, row in posts_labeled.iterrows():
|
259 |
-
yield row["ID_Post"], row.to_dict()
|
260 |
elif self.config.name == "articles":
|
261 |
-
|
262 |
-
|
263 |
-
|
264 |
-
|
265 |
-
)
|
266 |
-
posts_labeled.fillna("", inplace=True)
|
267 |
-
for i, row in posts_labeled.iterrows():
|
268 |
-
yield row["ID_Article"], row.to_dict()
|
249 |
"""Yields examples."""
|
250 |
|
251 |
if self.config.name in ["posts_labeled", "posts_unlabeled"]:
|
252 |
+
dtype = {"ID_Post": str, "ID_Parent_Post": str, "ID_Article": str, "ID_User": str}
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
253 |
elif self.config.name == "articles":
|
254 |
+
dtype = {"ID_Article": str, "Path": str, "publishingDate": str, "ID_User": str}
|
255 |
+
data = pd.read_csv(filepath, compression=None, dtype=dtype).fillna("")
|
256 |
+
for id_, row in data.iterrows():
|
257 |
+
yield id_, row.to_dict()
|
|
|
|
|
|
|
|