100b tokens Việt, Anh, Code để tiếp tục pre-train LLMs Được trộn đều và chia làm 100 phần. Giải nén `xz -d *.lzma` Phân bố dữ liệu: ``` 75.4G 100_book 34.8G 100_code 66.7G 100_slimpajama - - - - - - - - - - - - 176.8G English (40%) 118.9G 100_c4-vi 11.3G 100_news_2020-2021 15.1G 100_news_2022-2023 2.6G 100_others 2.0G 500_wiki 20.3G 600_laws 78.3G 800_epub 11.3G 999_gov - - - - - - - - - - 259.8G Vietnamese (60%) Total 436.6GB, 100b tokens (Bloom tokenizer) Theo thể loại: 43% 187.6G slimpajama, c4_vi, wiki 35% 153.7G book, epub 8% 34.7G code 6% 26.4G news 5% 20.3G laws 3% 11.4G gov ```