README.md

metadata

dataset_info:
  features:
    - name: genre
      dtype: string
    - name: book_title
      dtype: string
    - name: fpath
      dtype: string
    - name: book_json
      dtype: string
    - name: author.first_name
      dtype: string
    - name: author.last_name
      dtype: string
    - name: author.middle_name
      dtype: string
    - name: langs.lang
      dtype: string
    - name: doc_info.nickname
      dtype: string
    - name: doc_info.email
      dtype: string
    - name: doc_info.date
      dtype: string
    - name: doc_info.doc_id
      dtype: string
    - name: doc_info.version
      dtype: string
    - name: doc_info.program_used
      dtype: string
    - name: langs.src_lang
      dtype: string
    - name: doc_info.src_url
      dtype: string
    - name: pub_info.book_name
      dtype: string
    - name: pub_info.publisher
      dtype: string
    - name: pub_info.city
      dtype: string
    - name: pub_info.year
      dtype: string
    - name: title_info.annotation
      dtype: string
    - name: pub_info.isbn
      dtype: string
    - name: pub_info.sequence
      dtype: string
    - name: title_info.keywords
      dtype: string
  splits:
    - name: train
      num_bytes: 351264228651
      num_examples: 493378
  download_size: 175655957118
  dataset_size: 351264228651
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*

Librusec

Books mostly in Russian from Librusec library. With original metadata.

DatasetDict({
    train: Dataset({
        features: ['genre', 'book_title', 'fpath', 'book_json', 'author.first_name', 'author.last_name', 'author.middle_name', 'langs.lang', 'doc_info.nickname', 'doc_info.email', 'doc_info.date', 'doc_info.doc_id', 'doc_info.version', 'doc_info.program_used', 'langs.src_lang', 'doc_info.src_url', 'pub_info.book_name', 'pub_info.publisher', 'pub_info.city', 'pub_info.year', 'title_info.annotation', 'pub_info.isbn', 'pub_info.sequence', 'title_info.keywords'],
        num_rows: 493378
    })
})

JSON

Books are in JSON format:

[
    {
        "body_title": [
            "Жюльетта Бенцони",
            "Манчжурская принцесса"
        ],
        "epigraph": {
            "author": "Лао Цзы",
            "text": [
                "«Нельзя идтии любоваться звездами, когда в твоем ботинке камень»."
            ]
        },
        "sections": [
            {
                "data": {
                    "pars": [
                        "Июль 1918",
                        "Вокзал в Шалон-сюр-Марн...",
                        "Вдоль платформы длинной лентой вытянулись двадцать три вагона санитарного поезда, который вот-вот должен был тронуться. Занимавшиеся погрузкой раненых санитары оказывали им последние услуги, прежде чем передать на попечение медицинского персонала поезда, где позаботятся о них до Лиона.",
                        "Весь день стояла жара, все вокруг было налито тяжестью. К пяти часам вечера разразившаяся гроза принесла долгожданную прохладу, с облегчением воспринятую всеми.

Format JSON as you need

Example:

def format_book(doc):
    res = ""
    for body in doc:
        if 'body_title' in body:
            title = '\n\n'.join(body['body_title'])
            res += title
            res += '\n\n'
        
        if 'sections' in body:
            for section in body['sections']:
                if 'title' in section:
                    sec_title = '\n\n'.join(section['title'])
                    res += sec_title
                    res += '\n\n'
    
                if 'data' in section and 'pars' in section['data']:
                    for par in section['data']['pars']:
                        res += f'{par}\n'
                else:
                    # print('no pars', section)
                    pass

    return res