StatePlay 正式 Qwen3.5-9B LoRA Reward Model selected

仓库根目录对应正式 study_v1/reward_model/versions/a-002280/selected/ 的完整内容。 版本 28befdbd2782031fe8d67975,验证集选择 epoch 2 / step 132,smoke=false。 adapter 权重及 processor 文件与原始 selected 逐字节一致。

这是 LoRA adapter,需要完整多模态 Qwen/Qwen3.5-9B 基座,固定 revision c202236235762e1c871ad0ccb60c8ee5ba337b9a。本仓库不重复上传 Qwen 基座。 视觉和语言分支均须加载,模型、processor、tokenizer 从本地加载,local_files_only=True。 项目默认目录为 base_model/Qwen/Qwen3.5-9B。 显式加载本地完整基座后使用 PeftModel.from_pretrained(base, selected / 'adapter'); 配置保留来源机器路径,迁移时映射到本地项目。不可作为独立基座或仅文本模型使用。

采用 mechanics-reward-v2-24x832-124images 协议:一次输入完整四候选组,按项目 prompt/collator 提供参考、动作和上下文,输出四个分数。协议及 prompt 哈希见 manifest。

training_state.pt 用于可选续训;冻结评分只需要 adapter、processor、manifest 等身份文件。 training_state 和 manifest 中 API/本地评分地址已替换为 .invalid 占位地址,并同步更新配置和文件哈希。 所有参数、优化器、随机状态保持一致;模型版本与 adapter SHA256 不变。 旧转移包固定的原 manifest 哈希需要在包复制件中更新公开元数据映射,不能删除身份校验。

自动数值质量门槛已通过;人工候选审核、来源/泄漏与 shortcut 审核仍待完成。 此发布不表示人工审核通过,也不授权绕过正式 Stage C 的质量门槛。

代码:lupele/stateplay-test 的 rl_posttrain/。 数据:StatePlay-Reward-2280。 配套模型:SFT、transition tokenizer、Stage A 更新、Reward Model。

身份与发布处理见 PUBLICATION.json,公开文件 SHA256 见 SHA256SUMS。 原始本地文件保持原位且未修改。仓库不包含 API 凭据或真实服务地址。

Downloads last month
-
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for lupele/rewardmodel

Finetuned
Qwen/Qwen3.5-9B
Adapter
(977)
this model

Dataset used to train lupele/rewardmodel