README.md

metadata

task_categories:
  - text-generation
license: mit
language:
  - ru
dataset_info:
  features:
    - name: text
      dtype: string
configs:
  - config_name: lenta
    data_files:
      - split: train
        path: 01-lenta/train-*
  - config_name: gazeta
    data_files:
      - split: train
        path: 02-gazeta/train-*
  - config_name: health
    data_files:
      - split: train
        path: 03-health/train-*
  - config_name: wiki
    data_files:
      - split: train
        path: 04-wiki/train-*

Это общие знания для духовного обогощения тренируемой модели:

1. data-silence[lenta.ru_2-extended]

14.31% of data after filtering. Всего в train["input"] - input_ids: 82589 | Наибольшая длинна: 5449 | Количество overflow при ctx(2048): 184 Всего в train["input"] - input_ids: 82589 | Наибольшая длинна: 5449 | Количество overflow при ctx(4096): 11

2. data-silence[gazeta.ru-merged]

33.03% of data after filtering. Всего в train["input"] - input_ids: 45431 | Наибольшая длинна: 3455 | Количество overflow при ctx(2048): 6697

3. TopicNet[ICD-10]

100% of data after filtering. Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(2048): 574 Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(4096): 235 Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(8192): 66 Всего в train["input"] - input_ids: 2036 | Наибольшая длинна: 31856 | Количество overflow при ctx(16384): 13

4. Den4ikAI[russian_cleared_wikipedia]

100% of data after filtering. Всего в train["input"] - input_ids: 6284 | Наибольшая длинна: 49204 | Количество overflow при ctx(8192): 301 Всего в train["input"] - input_ids: 6284 | Наибольшая длинна: 49204 | Количество overflow при ctx(16384): 108