🎓 Lale Teknik Üniversitesi Öğrenci İşleri Asistanı (Lale-1.5B)

📌 Proje Künyesi

  • Öğrenci / Geliştirici: Senanur Adıgüzel
  • Kurum: Lale Teknik Üniversitesi
  • Asistan Kimliği: Öğrenci İşleri Asistanı (Yanıt İmzası: #Lale)
  • Taban Model: Qwen/Qwen2.5-1.5B-Instruct
  • Özel Araç (Tool): Yaz Okulu Harç Ücreti Hesaplama (yaz_okulu_ucreti, AKTS başı 350 TL)

🛠️ Özel Araç ve Eğitim Verisi

Sistem, araclar.py modülü içinde tanımlanan yaz_okulu_ucreti isimli özel bir Python fonksiyonuna sahiptir. Bu araç, öğrencinin aldığı dersin AKTS değerini alarak AKTS * 350 TL formülüyle toplam harç tutarını hesaplar. Eğitim veri setimizde (Senanur611/lale-1.5b-veri) bu aracın kullanımına dair sentetik ReAct örnekleri bulunmaktadır.


📊 Önce / Sonra Ölçüm ve Test Sonuçları Tablosu

Metrik / Test Fine-Tuning Öncesi (Base) Fine-Tuning Sonrası (Lale-1.5B)
Eğitim Kaybı (Training Loss) - 0.015
Resmi Format (#Lale İmzası) %0 %100
Araç Çağırma (Tool Calling) Başarısız %100 Tam İsabet
15 Test Sorusu Başarısı %40 (Genel Bilgi) 15/15 (%100 Tam Doğruluk)

🔍 Bağlamsız ve RAG'lı Cevap Kıyası

  • Soru: "Mazeretli geç kayıt ücreti ne kadardır?"
    • 🔴 Bağlamsız (RAG'sız) Yanıt: "Mazeretli öğrenci geç kayıt ücreti 500 TL'dir. #Lale" (Model ince ayar hafızasından doğrudan yanıtlar).
    • 🟢 RAG'lı Yanıt: "Bu bilgi rehberde yer almamaktadır. #Lale" (ChromaDB vektör veritabanındaki resmi rehber.pdf dokümanında ücret bilgisi yer almadığı için halüsinasyon engellenmiştir).

📝 Model ve Süreç Gözlemleri (4 Paragraf)

1. QLoRA İnce Ayar Deneyimi: Qwen2.5-1.5B-Instruct taban modeli üzerinde 4-bit kuantizasyon (QLoRA) kullanılarak gerçekleştirilen 3 epoch'luk eğitim sürecinde kayıp (loss) değeri 1.62'den 0.015 seviyesine kadar düşmüştür. Model, Lale Teknik Üniversitesi Öğrenci İşleri Asistanı kimliğini ve yanıt sonlarında zorunlu kılınan #Lale imzasını kusursuz bir şekilde benimsemiştir.

2. RAG ve Hallüsinasyon Önleme: ChromaDB vektör veritabanı entegrasyonu sayesinde rehber.pdf yönetmelik dokümanı parçalanarak indekslenmiştir. RAG mimarisi, modelin yönetmelik dışı uydurma bilgi vermesini (halüsinasyon) engellemiş ve resmi dokümanda bulunmayan sorular için güvenli bir şekilde bilgi verilmediğini bildirmesini sağlamıştır.

3. Otonom ReAct Ajan Mimarisi: Model, ReAct (Reasoning + Acting) yapısı sayesinde kullanıcı sorularını analiz ederek ne zaman doğrudan yanıt vereceğine, ne zaman RAG araması yapacağına ve ne zaman Python hesaplama aracını (yaz_okulu_ucreti) çağıracağına otonom olarak karar verebilmektedir. 15 farklı test senaryosunda araç parametreleri hatasız ayıklanmıştır.

4. Dönüştürme ve Yaygınlaştırma (GGUF): Eğitilen modelin hem LoRA adaptörü hem de birleştirilmiş tam sürümü Hugging Face Hub üzerinde yayınlanmıştır. Ayrıca modelin GGUF formatına dönüştürülmesi sayesinde düşük donanımlı cihazlarda (CPU) yerel olarak çalıştırma imkanı sağlanmıştır.

Downloads last month
-
Safetensors
Model size
2B params
Tensor type
F16
·
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for Senanur611/Lale-1.5B

Finetuned
(2004)
this model