YAML Metadata
Warning:
empty or missing yaml metadata in repo card
(https://huggingface.co/docs/hub/datasets-cards)
Lọc theo từng domain ưu tiên từ lớn tới bé (size)
Dedup giữa các domain cùng thể loại (truyen)
Nối các chương còn lại (ở trong từng domain) thành một doc lớn.
Gom các hàm hay dùng vào
utils.py
+ viết unit testsLọc content theo loại truyện dịch vs convert, build classifier để phân loại
Lọc hết tên truyện / chapter + urls để dedup trên toàn bộ tập dataset truyện
Note: domain nào được chọn có +
ở trước, domain nào bị loại -
, còn lại là đang xử lý và cân nhắc.
- Downloads last month
- 9