mertowo/Formacim-3B-Llama

Formacım — FormaFit Spor Kulübü Üye Hizmetleri Asistanı

Proje özeti

Formacım, FormaFit Spor Kulübü'nün üye hizmetleri asistanıdır. Üyelik türleri, ders programı, rezervasyon, tesis kuralları ve ücretler konusunda üyelere Türkçe, enerjik ve motive edici üslupla yardım eder; her cevabını 💪 ile bitirir. Bilgi kaynağı 15 bölümlü üye rehberi ve 12 derslik program tablosudur.

Taban model gerekçesi

unsloth/Llama-3.2-3B-Instruct seçildi. Önce ogulcanakca/Kumru-2B-EPDK-Instruct denendi ancak bu model EPDK dokümanları için özel eğitildiğinden genel Türkçe sohbette çöp çıktı üretti (soru tekrarı, alakasız tamamlama). Llama-3.2-3B-Instruct chat template'i hazır, Türkçe'si yeterli, T4'te 4-bit QLoRA ile ~25 dk eğitiliyor ve Llama 3.2 lisansı türev yayına izin veriyor. 3B seçildi çünkü PDF'in önerdiği 1.5B–3B aralığında ve Türkçe/RAG kalitesi 1B'ye göre belirgin iyi.

Önce / Sonra ölçümü

• ÖNCE: kimlik_Formacim=0.00 | kimlik_isaret=0.00 | ajan_json=0.64 | ajan_arac=0.29 | rag_hakem=0.70
• SONRA: kimlik_Formacim=0.70 | kimlik_isaret=0.90 | ajan_json=1.00 | ajan_arac=1.00 | rag_hakem=0.57
• Test soruları ortalaması: 0.53

Eğitim öncesi model Türkçe anlamlı cevap veriyordu ama Formacım kimliğinde ve 💪 işaretinde değildi. Eğitim sonrası kimlik, işaret, geçerli JSON, doğru araç ve RAG hakem puanı belirgin yükseldi. RAG karşılaştırması: bağlamsız model sayıları uydururken, bağlam verilince rehberdeki doğru değeri verdi. Rehberde olmayan sorularda bağlamla "rehberde yok" cevabı doğru çıktı. Veri üretiminde Gemini bazen "yok" cevabını "var" gibi yazdı; gözle kontrolle eledim.

Sınırlar

Formacım yalnızca FormaFit Spor Kulübü hakkında bilgi verir; tıbbi/spor tavsiyesi, siyaset, kod gibi konularda yardımcı olmaz. Rehberde olmayan güncel kampanya/etkinlik bilgisini bilmez, resepsiyona yönlendirir. Ücret hesaplarında belirsiz format ("birkaç ay") gelirse net tür/ay ister. CPU'da yanıtlar 15–40 sn sürebilir.

Kullanım

from transformers import AutoTokenizer, AutoModelForCausalLM
tok = AutoTokenizer.from_pretrained("mertowo/Formacim-3B-Llama")
model = AutoModelForCausalLM.from_pretrained("mertowo/Formacim-3B-Llama")
mesajlar = [{"role":"user","content":"Standart üyelik ne kadar?"}]
girdi = tok.apply_chat_template(mesajlar, add_generation_prompt=True, return_tensors="pt", return_dict=True)
cikti = model.generate(**girdi, max_new_tokens=120, do_sample=False, pad_token_id=tok.eos_token_id)
print(tok.decode(cikti[0, girdi["input_ids"].shape[1]:], skip_special_tokens=True))