ru_news / README.md
IlyaGusev's picture
Meta fix
d85158a
metadata
dataset_info:
  features:
    - name: url
      dtype: string
    - name: text
      dtype: string
    - name: title
      dtype: string
    - name: source
      dtype: string
    - name: timestamp
      dtype: uint64
  splits:
    - name: train
      num_bytes: 12858731888
      num_examples: 4137525
  download_size: 3669747077
  dataset_size: 12858731888
task_categories:
  - text-generation
language:
  - ru
size_categories:
  - 1M<n<10M

RuNews dataset

Table of Contents

Description

Summary: Dataset of news from several sources:

Script: create_ru_news.py

Point of Contact: Ilya Gusev

Languages: Russian.

Usage

Prerequisites:

pip install datasets zstandard jsonlines pysimdjson

Dataset iteration:

from datasets import load_dataset
dataset = load_dataset('IlyaGusev/ru_news', split="train", streaming=True)
for example in dataset:
    print(example["text"])

Data Instances

{
  "title": "Заместитель главы района в Якутии пожаловался на пьянство начальника",
  "text": "Заместитель главы Нерюнгринского района Якутии Геннадий Ленц пожаловался руководителю республики Егору Борисову на своего начальника. Как рассказал Ленц 'Интерфаксу', Андрей Фитисов пьет на рабочем месте и 'уходит в многодневные загулы'...",
  "timestamp": 1346284800,
  "url": "https://lenta.ru/news/2012/08/30/alco/",
  "source": "lenta"
}

Personal and Sensitive Information

The dataset is not anonymized, so individuals' names can be found in the dataset. Information about the original authors is included in the dataset where possible.