File size: 1,057 Bytes
d76420a
5b2ef41
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
d76420a
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
---
configs:
  - config_name: all
    data_files:
    - split: train
      path:
        - data/ArXiv/train/*.parquet
        - data/BookCorpus2/train/*.parquet
        - data/Books3/train/*.arrow
        - data/DM Mathematics/train/*.parquet
        - data/Enron Emails/train/*.parquet
        - data/EuroParl/train/*.parquet
        - data/FreeLaw/train/*.parquet
        - data/Github/train/*.parquet
        - data/Gutenberg (PG-19)/train/*.parquet
        - data/HackerNews/train/*.parquet
        - data/NIH ExPorter/train/*.parquet
        - data/OpenSubtitles/train/*.parquet
        - data/OpenWebText2/train/*.parquet
        - data/PhilPapers/train/*.parquet
        - data/Pile-CC/train/*.parquet
        - data/PubMed Abstracts/train/*.parquet
        - data/PubMed Central/train/*.parquet
        - data/StackExchange/train/*.parquet
        - data/UPSTO Backgrounds/train/*.parquet
        - data/Ubuntu IRC/train/*.parquet
        - data/Wikipedia (en)/train/*.parquet
        - data/YoutubeSubtitles/train/*.parquet
      default : true
---