update

README.md

@@ -0,0 +1,42 @@
+## Steps
+- Download parquet from:
+  - https://huggingface.co/datasets/wikimedia/wikipedia/tree/main/20231101.vi
+  - https://huggingface.co/datasets/wikimedia/wikisource/tree/main/20231201.vi
+- Convert parquet to jsonl
+- Split and convert to xz file (maximum compression -9) so each file < 50MB
+
+## Tại sao lại dùng jsonl và xz? 
+- Với định dạng text jsonl rất dễ thao tác trên terminal (`jq`, `wc`, `head`, `tail` ...) và python (`import json`)
+- Với định dạng xz có thể nén file rất nhỏ chỉ còn 1/2 - 1/3 so với parquet
+- Python có thể đọc định dạng xz dễ dàng mà không phải cài thêm thư viện `lzma.open("file.jsonl.xz","rt")` (`import lzma`)
+- xz có thể đọc được dễ dàng trên terminal với `xzcat` tool, khi kết hợp với `jq` và `head`, `tail`, `wc` thì làm được nhiều thứ:
+  - Đếm số sample `xzcat file.jsonl.xz | wc -l`
+  - Xem nội dung sample từ 100 tới 120 `xzcat file.jsonl.xz | head -n 1200 | tail -n 20 | jq`
+
+Như vậy với các tools có sẵn của linux terminal và python có thể thao tác trực tiếp trên `.jsonl.xz`
+
+## Tại sao lại giữ cho mỗi file < 50MB
+- Có thể upload lên github mà không gặp warning file quá to
+- Khi chia nhỏ dễ dàng xử lý song song với code tuần tự
+  - Chỉ cần gọi lặp lại 1 pipepine xử lý với từng file đầu vào một
+
+```sh
+https://huggingface.co/datasets/wikimedia/wikipedia/tree/main/20231101.vi
+
+wget https://huggingface.co/datasets/wikimedia/wikipedia/resolve/main/20231101.vi/train-00000-of-00004.parquet
+wget https://huggingface.co/datasets/wikimedia/wikipedia/resolve/main/20231101.vi/train-00001-of-00004.parquet
+wget https://huggingface.co/datasets/wikimedia/wikipedia/resolve/main/20231101.vi/train-00002-of-00004.parquet
+wget https://huggingface.co/datasets/wikimedia/wikipedia/resolve/main/20231101.vi/train-00003-of-00004.parquet
+
+https://huggingface.co/datasets/wikimedia/wikisource/tree/main/20231201.vi
+
+wget https://huggingface.co/datasets/wikimedia/wikisource/resolve/main/20231201.vi/train-00000-of-00001.parquet
+```
+```
+{
+  "id": "2841",
+  "url": "https://vi.wikisource.org/wiki/%C3%81o%20b%C3%B4ng%20che%20b%E1%BA%A1n",
+  "title": "Áo bông che bạn",
+  "text": "Ai ơi, còn nhớ ai không?\nTrời mưa một mảnh áo bông che đầu \n    Nào ai có tiếc ai đâu?\nÁo bông ai ướt khăn đầu ai khô?\n    Người đi Tam Đảo, Ngũ hồ\nKẻ về khóc trúc than ngô một mình\n    Non non nước nước tình tình\nVì ai ngơ ngẩn cho mình ngẩn ngơ…\n\nThơ Việt Nam\nLục bát"
+}
+```

wikipedia__20231101.vi__train-00a.jsonl.xz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:317fbc8cb7ece39a3693defca8b6c5684152e71b3dcb195cc21687e248c0902b
+size 45262784

wikipedia__20231101.vi__train-00b.jsonl.xz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:d6d38b446a5ac87c802e438d916e4a18924d21f778465b5a99f97219fc009ee6
+size 45722008

wikipedia__20231101.vi__train-00c.jsonl.xz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:c6b51df5c75bcd6f5c530814e23e8302c88e423bb6647e1271c7e2b29a8742e1
+size 43129372

wikipedia__20231101.vi__train-01.jsonl.xz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:17c762a2d2f903039c949ff91697eb70f8bd1348955b03a0fb71d6fc0124f5e6
+size 29493764

wikipedia__20231101.vi__train-02.jsonl.xz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:c6ce94060dd471dac4cd923b99097e6345755677e285c72a311d736818fb3486
+size 20548712

wikipedia__20231101.vi__train-03a.jsonl.xz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:9235d23ff4f57b2a1a0d21fbdf2f764daa2ebc6ffd4581098a66a54bc8fdb408
+size 46766960

wikipedia__20231101.vi__train-03b.jsonl.xz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:b94322c94ba5119c398a01215e365abb9f2586a69f253fedb60a7a5d63bd33aa
+size 47028804

wikipedia__20231101.vi__train-03c.jsonl.xz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:65d1b05994ce049c36575b3765a456ef0a95ae81823759c125209bd70734ad70
+size 47034184

wikisource__20231201.vi__train-00.jsonl.xz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:b41ea05c47be47069a1f722b52389ba4149889e5f427c28416ba770cd0d2ba65
+size 6324360