theteha/dorina-v4-instruct

Dorina-V4 Instruct & Mobil OS Ajanı (144.7M) 🤖📱

Dorina-V4 Instruct, Dorina-V4 kristal temel modeli üzerine ChatML standardında eğitilmiş Türkçe/İngilizce talimat ve çok turlu sohbet modelidir.

Aynı zamanda Samsung Galaxy ve Android ekosistemini (Wi-Fi, batarya, ses seviyesi, parlaklık, el feneri, uygulama açma vb.) cihaz içi doğrudan kontrol edebilen Dorina-V4 Android OS Agent ve GGUF f16 formatlarını bünyesinde barındırır.

---

📦 Model İçeriği

1. dorina_v4_gold_sft_final.pt: ChatML formatında diyalog ve talimat modeli (32.832 vocab).
2. dorina_v4_clean_agent.pt / dorina_v4_android_agent.pt: Android OS eylemlerini yapılandırılmış JSON formatında çağıran ajan ağırlıkları.
3. dorina_v4_android_agent_f16.gguf (340 MB): Telefon ve edge cihazlarda llama.cpp / Termux üzerinde doğrudan koşan kuantize/optimize motor.
4. dorina_tokenizer_v4_sft.json: Genişletilmiş ChatML ve Tool-Call özel belirteçlerini içeren tokenizer.

---

💬 ChatML Şablonu & Kullanım

import torch
from tokenizers import Tokenizer
from dorina_v4_architecture import DorinaDenseV4, DenseConfig

device = "cuda" if torch.cuda.is_available() else "cpu"
tok = Tokenizer.from_file("dorina_tokenizer_v4_sft.json")

cfg = DenseConfig(vocab_size=32832, max_seq_len=2048)
model = DorinaDenseV4(cfg)

ckpt = torch.load("dorina_v4_gold_sft_final.pt", map_location="cpu", weights_only=False)
sd = ckpt["model"] if "model" in ckpt else ckpt
model.load_state_dict({k.replace("module.", ""): v for k, v in sd.items()})
model.to(device).eval()

user_msg = "Merhaba Dorina, bana Python ile iki sayıyı toplayan bir fonksiyon yazar mısın?"
prompt = f"<|im_start|>user\n{user_msg}<|im_end|>\n<|im_start|>assistant\n"

inp = torch.tensor([tok.encode(prompt).ids], device=device)
im_end_id = tok.token_to_id("<|im_end|>")

with torch.no_grad():
    for _ in range(120):
        logits, _ = model(inp)
        next_tok = torch.argmax(logits[:, -1, :], dim=-1, keepdim=True)
        inp = torch.cat([inp, next_tok], dim=1)
        if next_tok.item() == im_end_id:
            break

reply = tok.decode(inp[0].tolist()).split("<|im_start|>assistant\n")[-1].replace("<|im_end|>", "").strip()
print("Dorina:", reply)