configs:
- config_name: default
data_files:
- split: train
path: data/train-*
- split: validation
path: data/validation-*
- split: test
path: data/test-*
dataset_info:
features:
- name: text
dtype: string
- name: title
dtype: string
- name: description
dtype: string
- name: keywords
sequence: string
- name: url
dtype: string
- name: authors
sequence: string
- name: date
dtype: string
- name: kmonitor_description
dtype: string
- name: kmonitor_title
dtype: string
- name: kmonitor_tags
sequence: string
- name: kmonitor_institutes
sequence: string
- name: kmonitor_people
sequence: string
- name: kmonitor_places
sequence: string
- name: kmonitor_collections
sequence: string
splits:
- name: train
num_bytes: 119255330.97944729
num_examples: 26661
- name: validation
num_bytes: 14101536.626250379
num_examples: 3410
- name: test
num_bytes: 6913376.462133775
num_examples: 1720
download_size: 107190768
dataset_size: 140270244.06783143
language:
- hu
pretty_name: K-Monitor sajtóadatbázis
size_categories:
- 10K<n<100K
Forrás: https://adatbazis.k-monitor.hu/
Használat
from datasets import load_dataset
dataset = load_dataset('boapps/kmdb_base')
# írjuk ki egy cikk címét
print(dataset['train'][0]['title'])
Oszlopok magyarázata
text: cikk törzse
title: hírportál által adott cím
description: hírportál által adott lead (kis bevezető/összefoglaló az elején)
keywords: hírportál címkék (nem mindig van és nem mindig értelmes)
url: cikk url-je
authors: cikk szerzői, címkékhez hasonlóan, nem minden esetben van meg
date: cikk megjelenésének ideje, változó pontossággal és ritkán értelmetlen
kmonitor_description: csak korrupciós cikkek esetében, k-monitor adatbázisában tárolt leírás (sokszor egyezik a rendes leírással)
kmonitor_title: ugyanez címmel
kmonitor_tags: ez a keywords-el ellentétben K-Monitoros önkéntesek általi címkézés, meghatározott "címke halmazból" (ebben vannak még helyszínek, amiket people-höz és institutes-hoz hasonlóan szét lehetne (kéne) szedni egy places oszlopba)
institutes: cikkben megjelenő intézmények, K-Monitoros gyűjtés
people: ugyanez személyekkel