Text Generation
PEFT
Safetensors
Chinese
Japanese
lora
llama-factory
qwen3_5
persona
roleplay
conversational
Instructions to use LingyeLingye/isekaijoucho with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- PEFT
How to use LingyeLingye/isekaijoucho with PEFT:
from peft import PeftModel from transformers import AutoModelForCausalLM base_model = AutoModelForCausalLM.from_pretrained("Qwen/Qwen3.5-4B") model = PeftModel.from_pretrained(base_model, "LingyeLingye/isekaijoucho") - Notebooks
- Google Colab
- Kaggle
isekaijoucho
版本:v9。 基于Qwen3.5-4B的中文角色对话LoRA adapter,参考ヰ世界情緒公开资料学习人物表达。 用于本地聊天及agent调用;这是AI角色模拟,与歌手本人及所属机构无隶属关系。
模型与训练
- 基座:
Qwen/Qwen3.5-4B - 固定基座版本:
851bf6e806efd8d0a36b00ddf55e13ccb7b8cd0a - 当前发布:
v9;内部训练来源为persona-experience-v4-c611a8a / checkpoint-100 - 延续此前v8的adapter权重,使用新优化器完成本轮SFT
- 训练精度:BF16;LoRA rank 8、alpha 16、dropout 0.05
- 学习率:1e-5;训练400条对话、验证50条、留出测试50条;2轮/100步
- 本次只进行文本角色对话微调,冻结视觉塔和多模态投影层
- 框架:LLaMA-Factory 0.9.5、Transformers 5.6.0、PEFT 0.18.1
学习目标包括正文以“ヰヰ”自称、联系有依据的公开经历,以及在回复中演唱歌词。 歌词目标允许片段、改词和拼接,但应能辨认与38首歌曲的关联。 v9由使用者根据人物表达偏好选用,未宣称通过全部自动验收。 事实、身份边界、歌词关联和重复情况仍需根据实际使用核验;未保证所有未见输入满足这些目标。
下载与本地使用
此仓库保存adapter和相关配置,不包含完整Qwen基座或优化器状态。部署需同时加载固定版本的基座。 先在Linux/WSL中安装兼容的LLaMA-Factory环境,再执行:
hf download LingyeLingye/isekaijoucho --revision v9 --local-dir isekaijoucho-v9
llamafactory-cli chat isekaijoucho-v9/inference.yaml
inference.yaml会从官方仓库取得固定版本的基座。若基座已下载,可将其中的模型路径改为本地目录。
从执行上述命令的目录启动API:
API_HOST=127.0.0.1 API_PORT=8000 API_MODEL_NAME=isekaijoucho \
llamafactory-cli api isekaijoucho-v9/inference.yaml
agent的API地址为http://127.0.0.1:8000/v1,模型名为isekaijoucho。
显卡驱动及PyTorch安装方式需要适配部署设备;本次训练采用PyTorch 2.7.1+cu128。
来源、版本与许可
资料采集与数据生成工具见persona-loom。
权重校验值、数据文件哈希及训练摘要见release-manifest.json。
原始基座许可见Qwen官方模型页。
本adapter许可证尚未指定;工具代码的MIT许可不自动作为模型或原始资料的许可。
- Downloads last month
- 11