Instructions to use lupele/rewardmodel with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- PEFT
How to use lupele/rewardmodel with PEFT:
Task type is invalid.
- Notebooks
- Google Colab
- Kaggle
StatePlay 正式 Qwen3.5-9B LoRA Reward Model selected
仓库根目录对应正式 study_v1/reward_model/versions/a-002280/selected/ 的完整内容。
版本 28befdbd2782031fe8d67975,验证集选择 epoch 2 / step 132,smoke=false。
adapter 权重及 processor 文件与原始 selected 逐字节一致。
这是 LoRA adapter,需要完整多模态 Qwen/Qwen3.5-9B 基座,固定 revision
c202236235762e1c871ad0ccb60c8ee5ba337b9a。本仓库不重复上传 Qwen 基座。
视觉和语言分支均须加载,模型、processor、tokenizer 从本地加载,local_files_only=True。
项目默认目录为 base_model/Qwen/Qwen3.5-9B。
显式加载本地完整基座后使用 PeftModel.from_pretrained(base, selected / 'adapter');
配置保留来源机器路径,迁移时映射到本地项目。不可作为独立基座或仅文本模型使用。
采用 mechanics-reward-v2-24x832-124images 协议:一次输入完整四候选组,按项目
prompt/collator 提供参考、动作和上下文,输出四个分数。协议及 prompt 哈希见 manifest。
training_state.pt 用于可选续训;冻结评分只需要 adapter、processor、manifest 等身份文件。
training_state 和 manifest 中 API/本地评分地址已替换为 .invalid 占位地址,并同步更新配置和文件哈希。
所有参数、优化器、随机状态保持一致;模型版本与 adapter SHA256 不变。
旧转移包固定的原 manifest 哈希需要在包复制件中更新公开元数据映射,不能删除身份校验。
自动数值质量门槛已通过;人工候选审核、来源/泄漏与 shortcut 审核仍待完成。 此发布不表示人工审核通过,也不授权绕过正式 Stage C 的质量门槛。
代码:lupele/stateplay-test 的 rl_posttrain/。
数据:StatePlay-Reward-2280。
配套模型:SFT、transition tokenizer、Stage A 更新、Reward Model。
身份与发布处理见 PUBLICATION.json,公开文件 SHA256 见 SHA256SUMS。
原始本地文件保持原位且未修改。仓库不包含 API 凭据或真实服务地址。
- Downloads last month
- -