TDAsistani/tda-qwen-7b-v3

Türk Dünyası Asistanı Anka (TDA) - 7B v3

TDA (Türk Dünyası Asistanı Anka), Türk tarihi, kültürü ve genel sohbet kabiliyetleri üzerine Unsloth ve LoRA teknikleri kullanılarak ince ayar yapılmış gelişmiş Türkçe dil modelidir.

---

📌 Model Detayları

• Geliştiren: TDAsistani
• Temel Model (Base Model): Qwen/Qwen2.5-7B-Instruct
• Eğitim Yöntemi: LoRA (r=16, alpha=16) & Unsloth 4-bit Quantization
• Lisans: Apache 2.0
• Dil: Türkçe (tr)

---

🚀 Hızlı Kullanım (Inference)

Modeli transformers ve unsloth kütüphaneleri ile doğrudan çağırıp çalıştırabilirsiniz:

from unsloth import FastLanguageModel

# 1. Modeli yükle
model, tokenizer = FastLanguageModel.from_pretrained(
    model_name = "TDAsistani/tda-qwen-7b-v3",
    max_seq_length = 2048,
    load_in_4bit = True,
)
FastLanguageModel.for_inference(model)

# 2. Mesaj formatı
messages = [
    {"role": "user", "content": "Selam, sen kimsin?"}
]

# 3. Yanıt üret
inputs = tokenizer.apply_chat_template(
    messages,
    tokenize = True,
    add_generation_prompt = True,
    return_tensors = "pt"
).to("cuda")

outputs = model.generate(input_ids = inputs, max_new_tokens = 128, use_cache = True)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))