anhnam26/AgentContentVietnamese-data

AgentContentVietnamese — tải source và dữ liệu để pretrain tiếng Việt

Kho bàn giao cho train một base language model mới từ đầu, không phải chatbot đã instruction-tune. Source và dữ liệu được đóng cùng một snapshot để người nhận không cần máy gốc, token cá nhân của người bàn giao hay chạy lại crawler.

1. Nơi tải và phiên bản

Thành phần	Địa chỉ
Source GitHub	https://github.com/anhnam26/AgentContentVietnamese
Dataset public	https://huggingface.co/datasets/anhnam26/AgentContentVietnamese-data
Snapshot bàn giao cố định	https://huggingface.co/datasets/anhnam26/AgentContentVietnamese-data/tree/handoff-20261002
Source snapshot tương ứng dữ liệu	https://huggingface.co/datasets/anhnam26/AgentContentVietnamese-data/resolve/handoff-20261002/source.zip

Ưu tiên source.zip tại revision handoff-20261002: đây là source thực tế đã đóng gói cùng dataset, có cả công cụ download và tài liệu này. Nhánh main trên GitHub có thể cũ hơn hoặc thay đổi sau bàn giao. Không lấy tùy tiện source mới để resume một checkpoint cũ. Tag được tạo sau upload và kiểm tra remote; nếu tag chưa tồn tại, bản phát hành chưa hoàn tất, không thay bằng main để đoán.

Repo public nên download không cần token. Nếu sau này chuyển private, người nhận dùng tài khoản/token read của chính mình và được cấp quyền truy cập repo. Không chuyển giao .env hoặc token của người upload. Việc public là lựa chọn của chủ dữ liệu; không tự suy ra giấy phép mở cho nội dung báo chí hay assets.

2. Dữ liệu và model

Thống kê từ manifest/báo cáo kiểm chứng của snapshot:

Chỉ số	Giá trị
Tổng bài sạch	2.971.948
Train / validation	2.957.076 / 14.872 bài
Token train / validation (có EOS, chưa tính padding)	1.888.682.483 / 9.533.045
Tổng token	1.898.215.528
Binary shards	128
Train / validation sequences	461.136 / 2.361
Tokenizer	SentencePiece BPE 32.000 token, byte fallback
Context	4.096
Model	Decoder-only, 12 layers, hidden 768, 12 heads, SwiGLU 2048
Số tham số	109.529.856, embedding/output head tied
Cấu hình train	BF16, micro-batch 1, accumulation 32, AdamW, 1 epoch

Tập này thiên về báo chí tiếng Việt. Có lọc chất lượng/ngôn ngữ, exact/near dedup, che một số PII bằng regex và kiểm tra trùng benchmark; không bảo đảm loại bỏ mọi PII, nội dung có hại hoặc mọi trường hợp trùng. Metadata/raw/audit có thể còn thông tin gốc. Benchmark assets có nguồn và điều kiện sử dụng riêng.

Hai chế độ download

• all (mặc định): toàn bộ dữ liệu hiện có, source ZIP và metadata trong gói, khoảng 28,43 GiB (xem dung lượng chính xác trong handoff-manifest.json). Bao gồm intermediate filtered, sketch, DuckDB, rejected/audit và một số log DataRaw còn lại.
• train: binary, tokenizer, corpus clean, checkpoint metadata của pipeline và reports, khoảng 7,4 GiB. Đủ train và chạy kiểm chứng độc lập; không phải checkpoint weights/optimizer của model cũ.

Không còn toàn bộ raw corpus: DataRaw hiện chủ yếu còn log crawler; inventory/normalized không còn đầy đủ shard nguồn. Gói all nghĩa là toàn bộ file dữ liệu hiện còn trên máy bàn giao, không phải phục hồi các file đã mất. Có thể train trực tiếp từ pretrain_ready, nhưng không thể tái chạy toàn bộ pipeline từ raw bằng gói này. Không chạy crawler hoặc prepare_pretrain.py để bắt đầu train với snapshot đã sẵn sàng.

3. Yêu cầu máy nhận

• Windows hoặc Linux, Git nếu lấy source bằng Git; Python 3.13 được dùng trên máy gốc (3.13.14), môi trường ảo riêng. Môi trường gốc là Windows 11. Linux/máy khác cần chạy test và benchmark lại, chưa được mặc định coi là đã chứng nhận.
• NVIDIA GPU hỗ trợ CUDA và BF16; cấu hình thiết kế cho GPU 8 GB. CPU chỉ phù hợp unit test; lệnh train mặc định BF16 không chạy CPU.
• RAM khuyến nghị 16 GB trở lên cho train/kiểm chứng, SSD khuyến nghị. Đây là khuyến nghị, không phải RAM tối thiểu đã đo trên mọi máy.
• Dành ít nhất khoảng 30 GiB trống nếu tải train, 55–60 GiB nếu tải all, cộng dung lượng Python/PyTorch/cache tùy máy. Riêng checkpoints/logs nên có 10–15 GiB dự phòng; mỗi checkpoint full khoảng 1,3 GB.
• Driver NVIDIA tương thích PyTorch CUDA 11.8; kiểm tra bằng nvidia-smi. PyTorch wheel kèm CUDA runtime, không bắt buộc cài CUDA Toolkit để chạy.

4. Download toàn bộ source code

Các lệnh dưới đây chạy ở thư mục gốc project, không cần đường dẫn ổ D của máy người bàn giao. Khi di chuyển project, scripts tìm root từ vị trí file.

Cách A — source snapshot khuyến nghị (Windows PowerShell)

Chọn thư mục cha bạn muốn lưu dự án, rồi chạy:

New-Item -ItemType Directory -Force AgentContentVietnamese | Out-Null
Set-Location AgentContentVietnamese
Invoke-WebRequest -Uri "https://huggingface.co/datasets/anhnam26/AgentContentVietnamese-data/resolve/handoff-20261002/source.zip" -OutFile source.zip
Expand-Archive -LiteralPath source.zip -DestinationPath . -Force

ZIP có scripts/, configs/, README.md ngay ở gốc, không thêm một thư mục lồng. Trên Linux/macOS, tương đương:

mkdir -p AgentContentVietnamese && cd AgentContentVietnamese
curl -fL --retry 5 -o source.zip 'https://huggingface.co/datasets/anhnam26/AgentContentVietnamese-data/resolve/handoff-20261002/source.zip'
unzip source.zip

Cách B — GitHub

git clone https://github.com/anhnam26/AgentContentVietnamese.git
cd AgentContentVietnamese

Hoặc dùng Code → Download ZIP trên GitHub rồi giải nén. Kiểm tra có scripts/hf_handoff.py, configs/handoff.json và README này. Nếu thiếu, hoặc muốn source khớp tuyệt đối với snapshot, dùng Cách A trong thư mục mới. Clone GitHub không tự tải dữ liệu vì dữ liệu không nằm trong Git.

5. Tạo môi trường và cài dependency

Windows PowerShell (không cần activate nên không vướng execution policy):

py -3.13 -m venv .venv
$Python = (Resolve-Path ".\.venv\Scripts\python.exe").Path
& $Python -m pip install --upgrade pip
& $Python -m pip install -r scripts/requirements-pretrain.txt -r scripts/requirements-handoff.txt
& $Python -m pip install torch==2.7.1 --index-url https://download.pytorch.org/whl/cu118
& $Python -m pip check
& $Python -c "import torch; print('torch:', torch.__version__); print('CUDA:', torch.cuda.is_available()); print('BF16:', torch.cuda.is_available() and torch.cuda.is_bf16_supported()); print(torch.cuda.get_device_name() if torch.cuda.is_available() else 'No CUDA GPU')"

Linux:

python3.13 -m venv .venv
source .venv/bin/activate
python -m pip install --upgrade pip
python -m pip install -r scripts/requirements-pretrain.txt -r scripts/requirements-handoff.txt
python -m pip install torch==2.7.1 --index-url https://download.pytorch.org/whl/cu118
python -m pip check
python -c "import torch; print(torch.__version__, torch.cuda.is_available()); print(torch.cuda.is_available() and torch.cuda.is_bf16_supported())"

Máy gốc dùng PyTorch 2.7.1+cu118, NumPy 2.2.6, SentencePiece 0.2.1, PyArrow 23.0.1, Numba 0.64.0, DuckDB 1.5.6, fasttext-predict 0.9.2.4; phiên bản dữ liệu ghi ở DataProcessed/pretrain_ready/reports/environment.json. Các file requirements có một số khoảng phiên bản, không phải lockfile đầy đủ. Train mới tạo contract theo môi trường máy nhận; resume cùng run không được tùy tiện đổi Python/PyTorch/CUDA, device type, config, code hoặc tokenizer.

6. Download toàn bộ data và kiểm tra checksum

Windows, sau khi có $Python ở bước 5:

# Toàn bộ data, có thể chạy lại nếu mạng gián đoạn:
& $Python -B -X utf8 scripts/hf_handoff.py download --profile all

Nếu chỉ cần train và kiểm chứng, thay bằng:

& $Python -B -X utf8 scripts/hf_handoff.py download --profile train

Linux: thay & $Python bằng python. Luôn giữ -X utf8: manifest có tên nguồn tiếng Việt và một số scripts đọc bằng encoding mặc định của Python.

Công cụ resolve tag thành một commit cố định, tải về gốc project, rồi đối chiếu SHA-256 của mọi file đã chọn. Nếu tải chưa xong hoặc hash sai, lệnh báo lỗi; không bắt đầu train. Chạy lại cùng lệnh để tiếp tục, giảm tải bằng --workers 2 nếu đường truyền không ổn định. File receipt ghi commit thực tế tại .cache/handoff-download-receipt.json.

Có thể lưu data ở ổ khác:

& $Python -B -X utf8 scripts/hf_handoff.py download --profile all --destination "E:\VietnameseData"
& $Python -B -X utf8 scripts/verify_pretrain_ready.py --output "E:\VietnameseData\DataProcessed\pretrain_ready"
& $Python -B -X utf8 scripts/train_pretrain.py --data "E:\VietnameseData\DataProcessed\pretrain_ready" --run-dir "E:\VietnameseRuns\pretrain_110m"

--destination là gốc chứa DataProcessed, không phải chính thư mục pretrain_ready. Nếu repo private, đăng nhập hf auth login bằng token riêng hoặc đặt HF_TOKEN/hugging_key trong .env local; không commit file đó.

Sau download tại project, cấu trúc cần có:

AgentContentVietnamese/
  README.md
  configs/pretrain_110m.json
  configs/handoff.json
  scripts/train_pretrain.py
  scripts/hf_handoff.py
  handoff-manifest.json
  DataProcessed/pretrain_ready/
    binary/manifest.json           # complete: true
    binary/*.bin
    binary/*.documents.parquet
    clean/manifest.json
    clean/split=.../*.parquet
    tokenizer/tokenizer.model
    checkpoints/*.json            # Metadata pipeline, không phải weights
    reports/verification.json
  runs/                           # Sinh ra trên máy nhận, không download run cũ

Không sửa manifest/tokenizer để vượt lỗi. Binary là token stream little-endian; targets từ DataLoader đã shift, không shift thêm. Đây là custom PyTorch trainer, không dùng trực tiếp datasets.load_dataset() hay Transformers Trainer.

7. Kiểm chứng trước train

# SHA-256 toàn bộ gói (nếu đã tải profile all):
& $Python -B -X utf8 scripts/hf_handoff.py verify --profile all
# Nếu chỉ tải train, dùng verify --profile train thay dòng trên.

# Unit tests dùng dữ liệu giả/thư mục tạm:
& $Python -B -X utf8 -m unittest discover -s scripts -p "test_*.py"

# Hash corpus sạch, binary, offsets, tokenizer; decode mẫu và kiểm tra DataLoader:
& $Python -B -X utf8 scripts/verify_pretrain_ready.py

# Benchmark model thật, không tạo run/checkpoint train chính:
& $Python -B -X utf8 scripts/benchmark_pretrain.py --steps 3 --warmup-steps 1

# Smoke train 2 optimizer updates trong một run riêng:
& $Python -B -X utf8 scripts/train_pretrain.py --run-dir runs/handoff_smoke --session-steps 2

Kiểm chứng độc lập phải báo passed: true, 128 shards và DataLoader của cả train/validation; báo cáo tại reports/independent_verification.json. Lệnh kiểm chứng này ghi lại báo cáo local; checksum báo cáo đó sẽ khác snapshot. Nếu muốn kiểm tra lại toàn bộ checksum gói sau khi audit, download lại để khôi phục báo cáo gốc hoặc dùng bản tải sạch riêng để kiểm tra. Kiểm chứng decode là lấy mẫu, không decode toàn bộ corpus.

Benchmark ngắn không đủ suy ra thời gian hoàn tất hoặc độ ổn định nhiệt. Máy gốc từng đo khoảng 10.679 valid tokens/s, không bảo đảm máy nhận đạt vậy. Chạy benchmark dài hơn trước khi lập lịch. Không chạy benchmark/train đồng thời với workload GPU khác.

8. Train chính thức từ đầu, dừng và resume

& $Python -B -X utf8 scripts/train_pretrain.py --run-dir runs/pretrain_110m

Nếu thư mục run chưa có, trainer khởi tạo model mới; nếu đã có checkpoint hợp lệ thì tự resume, không reset optimizer/LR/cursor. Nếu muốn một run mới khác, đổi --run-dir, không xóa/ghi đè checkpoint cũ. Script hiện là single GPU; không dùng torchrun hay DDP khi chưa triển khai thêm.

Giới hạn phiên (không thay tổng budget train):

& $Python -B -X utf8 scripts/train_pretrain.py --run-dir runs/pretrain_110m --session-minutes 240
# Hoặc chạy thêm 10 optimizer updates rồi tự lưu/dừng:
& $Python -B -X utf8 scripts/train_pretrain.py --run-dir runs/pretrain_110m --session-steps 10

Muốn dừng: Ctrl+C một lần, giữ terminal mở đến khi có thông báo lưu checkpoint và kết thúc an toàn. Hoặc từ terminal khác:

New-Item -ItemType File -Force runs/pretrain_110m/STOP | Out-Null

Linux: touch runs/pretrain_110m/STOP. Trainer dừng ở ranh giới update và xóa STOP sau khi lưu thành công. Nếu STOP còn lại sau sự cố, chỉ xóa khi đã kiểm tra và muốn chạy tiếp. Kill process/mất điện có thể mất phần sau checkpoint đã commit gần nhất; phải train lại phần đó. Không có bảo đảm chống mất điện.

Checkpoint lưu mỗi 250 updates hoặc 30 phút (điều kiện nào đến trước), lúc dừng và cuối epoch. Giữ 3 bản gần nhất, có thể thêm best/final. Snapshot bàn giao không chứa checkpoint model của run trước; không dùng để resume run máy gốc. Khi chuyển run giữa máy khác, contract có thể từ chối môi trường khác; không chỉnh hash để bỏ qua kiểm tra.

Xuất báo cáo khi trainer đã dừng:

& $Python -B -X utf8 scripts/pretrain_report.py --run-dir runs/pretrain_110m

Theo dõi metrics.jsonl (append-only), metrics.csv, summary.json, report.md và checkpoints/ trong run. Backup run ra ổ khác; log không thay thế checkpoint. Xem chi tiết tại scripts/TRAINING.md. Các đường dẫn ổ D trong tài liệu cũ là ví dụ máy gốc; README này dùng root project để chạy trên máy nhận.

9. Lỗi thường gặp

Lỗi	Cách xử lý
404 ở tag/source ZIP	Snapshot chưa publish xong hoặc repo/revision sai; kiểm tra tab Files trên Hub. Không tự chọn revision khác để resume.
401/403	Public không cần token; nếu token local hết hạn, bỏ token đó hoặc dùng token read riêng có quyền repo. Upload cần token write.
CUDA is unavailable	Kiểm tra driver, nvidia-smi, wheel CUDA của PyTorch và đúng interpreter .venv.
BF16 unsupported	GPU không phù hợp cấu hình; dùng máy BF16. Muốn cấu hình khác phải lập run mới và tự benchmark, không sửa run đang resume.
CUDA OOM	Dừng workload GPU khác; restart process. Không tùy tiện đổi config của run cũ.
UnicodeDecodeError	Giữ -X utf8 trong mọi lệnh scripts.
Hash sai/thiếu file	Chạy lại download; nếu cache giữ file lỗi, chuyển file lỗi ra ngoài dataset rồi download lại. Không sửa checksum.
Xet I/O os error 183 hoặc mạng CAS lỗi	Công cụ bàn giao mặc định tắt Xet trên Windows và dùng HTTP/LFS. Nếu gọi Hub trực tiếp: PowerShell đặt $env:HF_HUB_DISABLE_XET="1" trước khi chạy Python; Linux dùng HF_HUB_DISABLE_XET=1 python ....
Hết đĩa	Dọn file không liên quan; giữ đủ dự phòng checkpoint. Không xóa checkpoint cuối duy nhất.
Resume contract mismatch	Dùng đúng source/config/data/runtime của run; hoặc tạo run mới. Không chỉnh source hashes/manifest.
Train dừng ngay	Kiểm tra STOP còn sót và session limits; xóa STOP chỉ khi muốn tiếp tục.

10. Dành cho người duy trì / upload lại

Không sửa các script pipeline/training đã bị khóa hash chỉ để upload. Công cụ scripts/hf_handoff.py độc lập; thêm release mới bằng cách đổi revision trong configs/handoff.json, không di chuyển tag đã phát hành.

& $Python -B -X utf8 scripts/verify_pretrain_ready.py
& $Python -B -X utf8 scripts/hf_handoff.py package
& $Python -B -X utf8 scripts/hf_handoff.py upload --workers 4

Package nằm ở runs/hf_handoff/staging, dùng hardlink dữ liệu nếu có thể nên không cần thêm một bản sao 28 GiB. Không thay đổi data trong lúc package/upload. Upload lớn có cache để tiếp tục; nếu đứt mạng, chạy lại upload cùng staging. Công cụ kiểm tra remote file sizes và SHA-256 LFS trước khi tạo tag; receipt tại runs/hf_handoff/upload_receipt.json chứa commit thực tế. Không package lại giữa một lượt upload đang chạy. Không upload các thư mục .env, .git, .crawler_trash, .vscode, môi trường ảo hay runs model. Một số file nhỏ có thể được Hub lưu như Git blob; checksum toàn bộ được kiểm tra khi download, còn kiểm tra remote SHA-256 dùng metadata LFS nơi có sẵn.

Tài liệu bổ sung: chuẩn bị dữ liệu, normalization, training. Ghi chú resume cũ là lịch sử, không phải trạng thái live của snapshot mới.