NotoriousH2/countdown-rlvr

Countdown RLVR

Qwen3-4B의 검증 가능한 추론 학습에 사용하는 Countdown 데이터셋입니다. 주어진 숫자를 각각 한 번 사용하여 목표값을 만드는 수식을 생성합니다.

1. 데이터 구성

분할	개수	숫자 개수	목표값	SHA-256
train	1,024	4	10~100	aa7abb6242d8ada72e55a6d8d0917e3618473ddf2f0f880b288814394b231131
validation	128	4	10~100	b06a1be3604d637aa19bd61af57aadf98fbbffcb8ef4db8d477fe8535c617497
test	256	4	10~100	416c02076321875cccfeed19f742e56048269b4b9d24112f6a2bee82ba301815

demo.jsonl에는 검증 흐름을 확인하는 숫자 3개 문제를 둡니다.

2. 데이터 필드

필드	의미
problem_id	문제 식별자
split	train, validation, test 분할
number_count	문제에 사용하는 숫자 개수
numbers	각각 한 번 사용할 숫자 목록
target	수식의 목표값
prompt	모델에 전달하는 한국어 문제 문자열

문제 생성기는 solver로 해답 존재 여부를 확인한 뒤 solution을 저장하지 않습니다. 따라서 RLVR 학습 입력에는 정답 수식이나 reasoning 궤적이 포함되지 않습니다.

3. 생성과 검증

문제 생성기는 다음 조건을 적용합니다.

• 허용 연산: 두 수 사이의 +, -, *, /와 괄호
• 숫자 사용: 입력 숫자를 각각 정확히 한 번 사용
• 목표값 일치: 수식 계산 결과와 target 비교
• 해답 존재: 결정적 solver로 확인

보상은 형식 0.3, 수식 규칙 0.2, 목표값 일치 0.5의 가중합입니다. 형식 보상은 마지막으로 완결된 answer 태그의 내용 존재 여부를 검사합니다. 태그 안에 허용하지 않는 문자가 있으면 형식 보상은 유지되고 수식 규칙 보상은 0이 됩니다.

4. 사용 예

from src.artifacts import load_jsonl, resolve_artifact

path = resolve_artifact(
    "data/countdown/test.jsonl",
    "NotoriousH2/countdown-rlvr",
    filename="test.jsonl",
)
test_rows = load_jsonl(path)

revision을 생략하면 프로젝트의 publish manifest에 기록된 commit을 사용합니다.

5. 생성 계보

Countdown 문제와 해답 존재 여부는 src/countdown.py가 결정적으로 생성합니다. Teacher 모델은 이 데이터셋 생성에 사용하지 않습니다.

6. 제한

이 데이터셋은 숫자 4개와 사칙연산으로 범위를 제한합니다. 수학적 추론 능력 전반이나 자유 형식 증명을 평가하지 않습니다. 평가 수치는 공개 모델의 실행 결과 JSON과 model card에서 확인합니다.