Dataset Viewer
Auto-converted to Parquet Duplicate
text
stringclasses
3 values
openai>=1.40
datasets>=2.20
numpy

Sampling Config Benchmark: code / fix bug / toán

Tìm cấu hình sampling tốt nhất (temperature, top_p, top_k, repetition_penalty) cho một LLM cho các việc hằng ngày: viết code, sửa bug, giải toán (mức dễ đến trung bình). Không cần chat thử bằng tay.

Ví dụ output:

temp = 1.0
top p = 0.95
top k = 40
rep p (repetition_penalty) = 1.05

Bộ đề

Loại Task Cách chấm
code HumanEval, MBPP chạy unit test
fix HumanEvalFix (Python) model sửa code lỗi, chạy unit test
math GSM8K, MATH-500 (chỉ level 1-3) so đáp án trong \boxed{}

Cách hoạt động

  1. Lấy mẫu ngẫu nhiên (seed cố định) --n-per-task câu mỗi task.
  2. Chạy từng cấu hình sampling (grid hoặc random), mỗi câu sample --n-samples lần để giảm nhiễu.
  3. Đo accuracy từng loại, tỉ lệ lặp 4-gram (Rep4), tỉ lệ bị cắt vì hết token (Trunc).
  4. Bootstrap phân tầng theo loại (2000 lần) để ra khoảng tin cậy 95%, P(best), và đánh dấu cấu hình không khác biệt có ý nghĩa với cấu hình tốt nhất (Tied).
  5. Xuất cấu hình tốt nhất tổng hợp và riêng cho code / fix / math (có thể khác nhau).

Cài đặt

pip install -r requirements.txt

⚠️ Script chạy code do model sinh ra (có timeout và giới hạn RAM, nhưng không phải sandbox thật). Hãy chạy trong Docker hoặc VM.

Chạy

vllm serve Qwen/Qwen3-8B --port 8000

# Nhanh: random 40 cấu hình
python benchmark.py --model Qwen/Qwen3-8B --mode random --n-random 40

# Grid đầy đủ (~200 cấu hình)
python benchmark.py --model Qwen/Qwen3-8B

# Chính xác hơn
python benchmark.py --model Qwen/Qwen3-8B --n-per-task 150 --n-samples 8

# Ưu tiên math gấp đôi
python benchmark.py --model Qwen/Qwen3-8B --weights "code=1,fix=1,math=2"

# Chỉ chạy vài task
python benchmark.py --model Qwen/Qwen3-8B --tasks humaneval humanevalfix gsm8k

Có thể ngắt giữa chừng rồi chạy lại: các cấu hình đã xong được lưu trong results/raw_results.jsonl và được bỏ qua (chỉ khi tham số giống hệt). Phân tích lại: thêm --analyze-only.

Output

  • results/results.md: cấu hình tốt nhất, bảng theo loại, xếp hạng, ảnh hưởng từng tham số
  • results/best_config.json: kết quả cho máy đọc
  • results/raw_results.jsonl: điểm từng câu của từng cấu hình

Lưu ý

  • temperature = 0 là greedy nên top_p/top_k được gộp. top_k = 0 là tắt.
  • Model reasoning (có <think>): tăng --max-tokens (4096+); phần <think> được bỏ khi chấm.
  • Nếu nhiều cấu hình "hòa", chọn cái có Rep4 và Trunc thấp.
  • Cần server hỗ trợ top_k và repetition_penalty qua extra_body (vLLM, SGLang đều có).
  • Kết quả phụ thuộc model, prompt, và mẫu câu hỏi; hãy ghi rõ khi đăng.

Mẫu bảng kết quả

Model Loại temp top_p top_k rep_p Acc 95% CI
...
Downloads last month
22