神里绫华 LLM 模型

Train on RTX 3090x2

Based on Qwen2-7b-Instruct

Datasets are collected by @zzc想睡觉觉觉觉觉

使用方式

下载后

ollama create akaya -f ./Modelfile
ollama run akaya

除了 Q4_0 量化以外，还提供了 Q8_0 量化的模型，请自己更改配置

GGUF

Model size

7.62B params

Architecture

qwen2

4-bit

8-bit

Inference API

Unable to determine this model's library. Check the docs .