Instructions to use VALOR0316/sn92-ra-9b-a with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use VALOR0316/sn92-ra-9b-a with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="VALOR0316/sn92-ra-9b-a")

# pip install -U transformers accelerate
# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("VALOR0316/sn92-ra-9b-a")
model = AutoModelForCausalLM.from_pretrained("VALOR0316/sn92-ra-9b-a", device_map="auto")

Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use VALOR0316/sn92-ra-9b-a with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "VALOR0316/sn92-ra-9b-a"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "VALOR0316/sn92-ra-9b-a",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Use Docker

docker model run hf.co/VALOR0316/sn92-ra-9b-a

SGLang

How to use VALOR0316/sn92-ra-9b-a with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "VALOR0316/sn92-ra-9b-a" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "VALOR0316/sn92-ra-9b-a",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "VALOR0316/sn92-ra-9b-a" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "VALOR0316/sn92-ra-9b-a",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Docker Model Runner
How to use VALOR0316/sn92-ra-9b-a with Docker Model Runner:
```
docker model run hf.co/VALOR0316/sn92-ra-9b-a
```

sn92-ra-9b-a

Bittensor SN92(REAX) 스페셜리스트 트랙 risk_assessment용으로 미세조정한 Qwen3.5-9B text-only 모델입니다. 실험 결과를 공유하기 위한 저장소이고, 체인에 제출한 모델이 아닙니다(reax-specialist.json 매니페스트 없음).

기반 모델

Qwen/Qwen3.5-9B@c202236235762e1c871ad0ccb60c8ee5ba337b9a (Apache-2.0)
비전 타워와 MTP를 뺀 text-only Qwen3_5ForCausalLM (8,953,803,264 파라미터, 텐서 이름은 원본의 model.language_model.*, lm_head 그대로)

학습

방식: 전체 미세조정입니다. 입력 임베딩과 lm_head는 고정했습니다.
손실: 검증자 판독과 같은 형식입니다. 고정 Qwen 템플릿에 빈 think 블록을 붙이고, 첫 생성 위치의 선택지 글자 logit을 T=2 softmax로 바꾼 뒤 목표 분포와 교차 엔트로피를 계산합니다.
noul 기권 방지 손실: 검증자는 0.2 < p(yes) < 0.8을 기권(오답)으로 처리합니다. 그래서 판독 로그 오즈가 ln 4 + 0.5 미만이면 힌지 벌점을 줍니다(가중치 0.5).
학습 단계
1. v1: 생성 데이터 ra_v2로 600스텝, 학습률 1e-5
2. v2: ra_v3 데이터(템플릿 생성기 noul·score·choice와 절차형 변형, 공개 train)로 1,830스텝, 학습률 1e-5
3. 이 모델(A): v2에서 ra_v4b 데이터로 450스텝, 학습률 5e-6
  - 공개 RA train을 난이도별로 8~10배 반복했습니다.
  - 공개 판정 기준과 어긋나는 생성 가족은 줄였습니다.
  - 생성 문항의 정답 비율을 공개 train 분포에 맞췄습니다.
  - noul 목표는 0.97, choice·score 목표는 난이도별로 두었습니다.
데이터, 생성기, 학습 코드, 로그는 VALOR0316/sn92-ra-work에 있습니다.

평가 (공개 dev 443문항, 레포의 채점 코드)

모델	S	choice 능력/보정	noul 능력/보정	score 능력/보정
학습 전 (text-only 변환본)	약 26	–	0	–
v2	68.28	92.3 / 89.0	48.4 / 18.6	77.2 / 57.8
A (이 모델)	70.24	94.1 / 89.4	48.4 / 27.3	79.3 / 60.7

A와 v2의 차이는 +1.97 ± 2.83(검증자 방식의 짝지은 bootstrap 표준오차)으로, 통계적으로 유의하지 않습니다.
학습 순전파로 잰 값입니다. v2에서는 검증자와 같은 vLLM 0.30.0 판독(68.28)과 일치했습니다.
sealed 평가는 받지 않았습니다. dev를 학습에 쓰지 않은 모델은 sealed가 dev보다 몇 점 낮은 경향이 있습니다.

사용법

프롬프트: 검증자 프롬프트(reax-decide-prompt/1)를 고정 Qwen 템플릿에 넣고, <think>\n\n</think>\n\n 뒤 첫 생성 위치에서 선택지 글자(A, B, …)의 logit을 읽습니다.
판독: T=2 softmax로 확률을 냅니다.

데이터 출처와 라이선스

모델: Apache-2.0입니다(기반 모델 Qwen3.5-9B의 LICENSE를 유지).
공개 데이터셋: 학습 데이터에 "REAX / decisionmodels, SN92 specialists dataset"(decisionmodels/sn92-specialists, CC-BY-4.0)의 train 문항이 들어 있습니다.
- 공개 dev는 학습에 쓰지 않았습니다.
- 공개 문항은 프롬프트 형식으로 렌더링하고, 목표 분포를 바꿔 사용했습니다.
생성 문항: 코드 규칙으로 만든 생성 문항은 Apache-2.0입니다.

Downloads last month: 33

Safetensors

Model size

9B params

Tensor type

BF16

Model tree for VALOR0316/sn92-ra-9b-a

Base model

Qwen/Qwen3.5-9B-Base

Finetuned

Qwen/Qwen3.5-9B

Finetuned

(1136)

this model

VALOR0316
/

sn92-ra-9b-a

sn92-ra-9b-a

기반 모델

학습

평가 (공개 dev 443문항, 레포의 채점 코드)

사용법

데이터 출처와 라이선스

Model tree for VALOR0316/sn92-ra-9b-a

Datasets used to train VALOR0316/sn92-ra-9b-a