text stringclasses 3
values |
|---|
openai>=1.40 |
datasets>=2.20 |
numpy |
Sampling Config Benchmark: code / fix bug / toán
Tìm cấu hình sampling tốt nhất (temperature, top_p, top_k, repetition_penalty) cho một LLM cho các việc hằng ngày: viết code, sửa bug, giải toán (mức dễ đến trung bình). Không cần chat thử bằng tay.
Ví dụ output:
temp = 1.0
top p = 0.95
top k = 40
rep p (repetition_penalty) = 1.05
Bộ đề
| Loại | Task | Cách chấm |
|---|---|---|
| code | HumanEval, MBPP | chạy unit test |
| fix | HumanEvalFix (Python) | model sửa code lỗi, chạy unit test |
| math | GSM8K, MATH-500 (chỉ level 1-3) | so đáp án trong \boxed{} |
Cách hoạt động
- Lấy mẫu ngẫu nhiên (seed cố định)
--n-per-taskcâu mỗi task. - Chạy từng cấu hình sampling (grid hoặc random), mỗi câu sample
--n-sampleslần để giảm nhiễu. - Đo accuracy từng loại, tỉ lệ lặp 4-gram (
Rep4), tỉ lệ bị cắt vì hết token (Trunc). - Bootstrap phân tầng theo loại (2000 lần) để ra khoảng tin cậy 95%, P(best), và đánh dấu cấu hình không khác biệt có ý nghĩa với cấu hình tốt nhất (
Tied). - Xuất cấu hình tốt nhất tổng hợp và riêng cho code / fix / math (có thể khác nhau).
Cài đặt
pip install -r requirements.txt
⚠️ Script chạy code do model sinh ra (có timeout và giới hạn RAM, nhưng không phải sandbox thật). Hãy chạy trong Docker hoặc VM.
Chạy
vllm serve Qwen/Qwen3-8B --port 8000
# Nhanh: random 40 cấu hình
python benchmark.py --model Qwen/Qwen3-8B --mode random --n-random 40
# Grid đầy đủ (~200 cấu hình)
python benchmark.py --model Qwen/Qwen3-8B
# Chính xác hơn
python benchmark.py --model Qwen/Qwen3-8B --n-per-task 150 --n-samples 8
# Ưu tiên math gấp đôi
python benchmark.py --model Qwen/Qwen3-8B --weights "code=1,fix=1,math=2"
# Chỉ chạy vài task
python benchmark.py --model Qwen/Qwen3-8B --tasks humaneval humanevalfix gsm8k
Có thể ngắt giữa chừng rồi chạy lại: các cấu hình đã xong được lưu trong results/raw_results.jsonl và được bỏ qua (chỉ khi tham số giống hệt).
Phân tích lại: thêm --analyze-only.
Output
results/results.md: cấu hình tốt nhất, bảng theo loại, xếp hạng, ảnh hưởng từng tham sốresults/best_config.json: kết quả cho máy đọcresults/raw_results.jsonl: điểm từng câu của từng cấu hình
Lưu ý
temperature = 0là greedy nêntop_p/top_kđược gộp.top_k = 0là tắt.- Model reasoning (có
<think>): tăng--max-tokens(4096+); phần<think>được bỏ khi chấm. - Nếu nhiều cấu hình "hòa", chọn cái có
Rep4vàTruncthấp. - Cần server hỗ trợ
top_kvàrepetition_penaltyquaextra_body(vLLM, SGLang đều có). - Kết quả phụ thuộc model, prompt, và mẫu câu hỏi; hãy ghi rõ khi đăng.
Mẫu bảng kết quả
| Model | Loại | temp | top_p | top_k | rep_p | Acc | 95% CI |
|---|---|---|---|---|---|---|---|
| ... |
- Downloads last month
- 22