Datasets:

Languages:
German
Multilinguality:
monolingual
Size Categories:
10K<n<100K
Language Creators:
crowdsourced
Annotations Creators:
expert-generated
Source Datasets:
original
Tags:
License:
system HF staff commited on
Commit
7d87c32
1 Parent(s): ffead4a

Update files from the datasets library (from 1.10.0)

Browse files

Release notes: https://github.com/huggingface/datasets/releases/tag/1.10.0

Files changed (2) hide show
  1. README.md +53 -2
  2. omp.py +5 -16
README.md CHANGED
@@ -1,4 +1,5 @@
1
  ---
 
2
  annotations_creators:
3
  - expert-generated
4
  language_creators:
@@ -120,7 +121,51 @@ Austrian German
120
 
121
  ### Data Instances
122
 
123
- [More Information Needed]
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
124
 
125
  ### Data Fields
126
 
@@ -153,7 +198,13 @@ For each article, the data set contains the following data:
153
 
154
  ### Data Splits
155
 
156
- [More Information Needed]
 
 
 
 
 
 
157
 
158
  ## Dataset Creation
159
 
1
  ---
2
+ pretty_name: One Million Posts
3
  annotations_creators:
4
  - expert-generated
5
  language_creators:
121
 
122
  ### Data Instances
123
 
124
+ An example from the `posts_labeled` config:
125
+ ```json
126
+ {
127
+ "ID_Post": "79",
128
+ "ID_Parent_Post": "",
129
+ "ID_Article": "1",
130
+ "ID_User": "12071",
131
+ "CreatedAt": "2015-06-01 08:58:32.363",
132
+ "Status": "online",
133
+ "Headline": "",
134
+ "Body": "ich kann keinen hinweis finden, wo man sich hinwenden muss, sollte man als abonnent des standard, die zeitung nicht bekommt, ist dass bewusst so arrangiert?",
135
+ "PositiveVotes": 0,
136
+ "NegativeVotes": 0,
137
+ "Category": 5,
138
+ "Value": 1,
139
+ "Fold": 1
140
+ }
141
+ ```
142
+
143
+ An example from the `posts_unlabeled` config:
144
+ ```json
145
+ {
146
+ "ID_Post": "51",
147
+ "ID_Parent_Post": "",
148
+ "ID_Article": "1",
149
+ "ID_User": "11125",
150
+ "CreatedAt": "2011-05-15 08:37:11.313",
151
+ "Status": "online",
152
+ "Headline": "Ich würde es sehr begrüßen, wenn",
153
+ "Body": "Antworten erst beim Erscheinen als e-Mail dem Poster zugestellt würden.\r\n\r\nEs gibt User, die ihre Kommentare sofort nach Mail-Eingang irgendwo hinposten. Dadurch wird \r\n1. vor allem für andere Unser die Lesbarkeit wesentlich beeinträchtigt,\r\n2. kann das Post verdreht wiedergegeben werden,\r\n3. man ist immer wieder gezwungen die Antwort richtig zu stellen.\r\n\r\nPrivatfehden von Usern sollten, wenn schon zugelassen, für alle User nachvollziehbar sein.\r\n\r\nDanke!",
154
+ "PositiveVotes": 1,
155
+ "NegativeVotes": 0
156
+ }
157
+ ```
158
+
159
+ An example from the `articles` config:
160
+ ```json
161
+ {
162
+ "ID_Article": "41",
163
+ "Path": "Newsroom/Wirtschaft/Wirtschaftpolitik/Energiemarkt",
164
+ "publishingDate": "2015-06-01 12:39:35.00",
165
+ "Title": "Öl- und Gas-Riesen fordern weltweite CO2-Preise",
166
+ "Body": '<div class="section" id="content-main" itemprop="articleBody"><div class="copytext"><h2 itemprop="description">Brief von BP, Total, Shell, Statoil, BG Group und Eni unterzeichnet</h2><p>Paris/London/La Defense - Sechs große Öl- und Gaskonzerne haben mit Blick auf die Verhandlungen über einen neuen Welt-Klimavertrag ein globales Preissystem für CO2-Emissionen gefordert. Wenn der Ausstoß von CO2 Geld kostet, sei dies ein Anreiz für die Nutzung von Erdgas statt Kohle, mehr Energieeffizienz und Investitionen zur Vermeidung des Treibhausgases, heißt es in einem am Montag veröffentlichten Brief.</p>\n<p>Das Schreiben ist unterzeichnet von BP, Total, Shell, Statoil, BG Group und Eni. Die Unternehmen versicherten, sie seien bereit, ihren Teil zum Kampf gegen den <a href="/r1937/Klimawandel">Klimawandel</a> beizutragen. Dafür sei aber ein klarer und verlässlicher Politik-Rahmen nötig. (APA, 1.6.2015)</p> </div></div>'
167
+ }
168
+ ```
169
 
170
  ### Data Fields
171
 
198
 
199
  ### Data Splits
200
 
201
+ Training split only.
202
+
203
+ | name | train |
204
+ |-----------------|------:|
205
+ | posts_labeled | 40567|
206
+ | posts_unlabeled |1000000|
207
+ | articles | 12087|
208
 
209
  ## Dataset Creation
210
 
omp.py CHANGED
@@ -249,20 +249,9 @@ class Omp(datasets.GeneratorBasedBuilder):
249
  """Yields examples."""
250
 
251
  if self.config.name in ["posts_labeled", "posts_unlabeled"]:
252
- posts_labeled = pd.read_csv(
253
- filepath,
254
- compression=None,
255
- dtype={"ID_Post": str, "ID_Parent_Post": str, "ID_Article": str, "ID_User": str},
256
- )
257
- posts_labeled.fillna("", inplace=True)
258
- for i, row in posts_labeled.iterrows():
259
- yield row["ID_Post"], row.to_dict()
260
  elif self.config.name == "articles":
261
- posts_labeled = pd.read_csv(
262
- filepath,
263
- compression=None,
264
- dtype={"ID_Article": str, "Path": str, "publishingDate": str, "ID_User": str},
265
- )
266
- posts_labeled.fillna("", inplace=True)
267
- for i, row in posts_labeled.iterrows():
268
- yield row["ID_Article"], row.to_dict()
249
  """Yields examples."""
250
 
251
  if self.config.name in ["posts_labeled", "posts_unlabeled"]:
252
+ dtype = {"ID_Post": str, "ID_Parent_Post": str, "ID_Article": str, "ID_User": str}
 
 
 
 
 
 
 
253
  elif self.config.name == "articles":
254
+ dtype = {"ID_Article": str, "Path": str, "publishingDate": str, "ID_User": str}
255
+ data = pd.read_csv(filepath, compression=None, dtype=dtype).fillna("")
256
+ for id_, row in data.iterrows():
257
+ yield id_, row.to_dict()