loihuynh/vietnamese-reliable-qa-models

Hỏi–đáp tiếng Việt có kiểm tra bằng chứng

Bốn checkpoint của đề tài hỏi–đáp tiếng Việt dựa trên tài liệu. Cả bốn run có smoke=false; thông tin huấn luyện, dữ liệu và revision gốc được giữ trong run.json của từng thư mục.

Thư mục	Mô hình	Cách huấn luyện
s_ed_seed42	Transformer encoder–decoder, 17.45M tham số	Khởi tạo ngẫu nhiên, 20 epoch
s_do_seed42	GPT decoder-only, 17.29M tham số	Khởi tạo ngẫu nhiên, 20 epoch
p_ed_seed42	VietAI/vit5-base	LoRA, 5 epoch; cần model gốc
p_do_seed42	Qwen/Qwen3-1.7B	QLoRA, 3 epoch; cần model gốc
selective_logits_v2	Gate thăm dò	Chỉ dành cho P-DO, checker và revision khớp manifest

Không phát hành lại dataset hoặc nhãn trong repository này. Dữ liệu nguồn: ViRHE4QA/R2GQA. Quyền sử dụng các model pretrained tuân theo giấy phép của từng model gốc; kho này không tự cấp lại giấy phép cho chúng.

Tái sử dụng

S-ED có thể nạp trực tiếp bằng Transformers:

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
repo = "loihuynh/vietnamese-reliable-qa-models"
tokenizer = AutoTokenizer.from_pretrained(repo, subfolder="s_ed_seed42", use_fast=False)
model = AutoModelForSeq2SeqLM.from_pretrained(repo, subfolder="s_ed_seed42")

Với adapter, dùng reuse.py để tải model gốc đúng revision trong run.json rồi gắn adapter. Hai cấu hình đối chứng pretrained gốc dùng cùng tokenizer/revision và with model.disable_adapter(): ....

from reuse import load_model
tokenizer, model, config = load_model("p_do")  # p_ed, s_ed, s_do

AI service dùng Python 3.10, torch 2.8.0, transformers 4.57.1, peft 0.17.1 và Hugging Face ZeroGPU, suy luận float32. Frontend/API nhẹ chạy riêng trên Coolify. Prompt gốc và quy tắc cắt ngữ cảnh được giữ trong mã AI service. Giới hạn nguồn 768 token; mặc định demo sinh tối đa 128 token, có thể chọn 256.

Demo và API

• Giao diện: https://nlp.loygenics.com/
• AI service: https://huggingface.co/spaces/loihuynh/vietnamese-reliable-qa-ai
• API bất đồng bộ: tạo POST /api/jobs, theo dõi GET /api/jobs/{id}.

ZeroGPU cấp GPU theo từng lượt, có hàng đợi và hạn mức miễn phí. Các lượt qua Coolify chia sẻ hạn mức ẩn danh của máy chủ; khi hết lượt, mở Space trực tiếp và đăng nhập Hugging Face để dùng hạn mức tài khoản. Space có thể ngủ khi không dùng. Demo trên kho tài liệu cố định, không phải đánh giá trên tài liệu hoàn toàn mới. Không công bố độ chính xác từ việc thử vài câu. Gate đã học từ logits GPU 4-bit; điểm khi suy luận float32 có thể khác và không phải xác suất đúng đã kiểm định.

Đã kiểm tra sinh câu trả lời thật cho cả sáu cấu hình (bốn checkpoint và hai đối chứng pretrained), gate P-DO và luồng giao diện công khai qua Coolify. Đây là kiểm tra vận hành, không phải kết quả đánh giá độ chính xác.