kmdb_base / README.md
boapps's picture
Upload README.md with huggingface_hub
fb01d1c
|
raw
history blame
2.07 kB
metadata
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
      - split: validation
        path: data/validation-*
      - split: test
        path: data/test-*
dataset_info:
  features:
    - name: text
      dtype: string
    - name: title
      dtype: string
    - name: description
      dtype: string
    - name: keywords
      sequence: string
    - name: url
      dtype: string
    - name: date
      dtype: string
    - name: score
      dtype: float64
    - name: title_score
      dtype: float64
  splits:
    - name: train
      num_bytes: 108686306.38101701
      num_examples: 26534
    - name: test
      num_bytes: 6409967.018030513
      num_examples: 1710
    - name: validation
      num_bytes: 13040463.908496732
      num_examples: 3397
  download_size: 97056304
  dataset_size: 128136737.30754426
language:
  - hu
pretty_name: K-Monitor sajtóadatbázis
size_categories:
  - 10K<n<100K

Forrás: https://adatbazis.k-monitor.hu/

Használat

from datasets import load_dataset

dataset = load_dataset('boapps/kmdb_base')
# írjuk ki egy cikk címét
print(dataset['train'][0]['title'])

Oszlopok magyarázata

text: cikk törzse

title: hírportál által adott cím

description: hírportál által adott lead (kis bevezető/összefoglaló az elején)

keywords: hírportál címkék (nem mindig van és nem mindig értelmes)

url: cikk url-je

authors: cikk szerzői, címkékhez hasonlóan, nem minden esetben van meg

date: cikk megjelenésének ideje, változó pontossággal és ritkán értelmetlen

kmonitor_description: csak korrupciós cikkek esetében, k-monitor adatbázisában tárolt leírás (sokszor egyezik a rendes leírással)

kmonitor_title: ugyanez címmel

kmonitor_tags: ez a keywords-el ellentétben K-Monitoros önkéntesek általi címkézés, meghatározott "címke halmazból" (ebben vannak még helyszínek, amiket people-höz és institutes-hoz hasonlóan szét lehetne (kéne) szedni egy places oszlopba)

institutes: cikkben megjelenő intézmények, K-Monitoros gyűjtés

people: ugyanez személyekkel