- Volt-1.5B ⚡
- Taban model
- Veri ve eğitim
- Araçlar
- Ölçümler (önce → sonra, test seti)
- İyileştirme turu: 1. tur → 2. tur (eğitimden sonra)
- Bağlamsız ve RAG'lı cevap kıyası (Gemini hakem) — bağlamsız 0.27, RAG'lı 0.73
- Arama kıyası: Chroma (mpnet, defter) ve TF-IDF (site)
- Test soruları (veri paketi + kendi aracım, Gemini hakem: 1 / 0.5 / 0) — ortalama 0.44
- Gözlemler
- Sınırlar
- Taban model
Volt-1.5B ⚡
Volt, kurgusal Kivi Elektronik'in müşteri hizmetleri asistanıdır. Müşterilerin sipariş, ödeme ve taksit, kargo, iade-değişim, garanti, Kivi Koruma Paketi ve Kivi Puan sorularını Türkçe, kısa ve ⚡ ile biten cevaplarla yanıtlar. Kimliği ve üslubu QLoRA ince ayarıyla modele işlendi; kurallar müşteri rehberinden (RAG), ürün fiyatı ve stok bilgisi urunler.csv tablosundan, sepet tutarına bağlı kargo, kapıda ödeme, taksit ve Kivi Puan hesabı ise bu proje için yazdığım sepet_hesapla aracından gelir.
Bağlantılar: LoRA adaptörü · GGUF · Eğitim verisi · Site: eğitmen vitrininde yayınlanacak
Kivi Elektronik kurgusal bir kurumdur (Tech İstanbul bootcamp bitirme projesi, veri paketi 2).
Taban model
Qwen/Qwen2.5-1.5B-Instruct. Qwen2.5-1.5B-Instruct'ı seçtim: bu boyutta Türkçesi iyi, sohbet şablonu system mesajını destekliyor (RAG ve ajan biçimimiz system mesajı kullanıyor), ücretsiz T4'te QLoRA eğitimi yaklaşık 10 dakika sürüyor, Apache-2.0 lisansı türev modeli yayınlamaya izin veriyor ve q8_0 GGUF olarak 2 çekirdekli CPU'da sohbet edilebilir hızda çalışıyor. 3B sürümü Türkçede daha iyi olsa da eğitim ve sitedeki cevap süresi yaklaşık iki katına çıkıyor ve lisansı ticari kullanımı kısıtlıyor.
Veri ve eğitim
531 sentetik sohbet (kimlik, RAG, ajan, iki ve üç turlu ajan; Gemini ile üretildi). QLoRA: r=16, alpha=32, tüm doğrusal katmanlar, 3 epoch, öğrenme hızı 2e-4.
Araçlar
rehberde_ara (RAG), urun_bilgisi (urunler.csv), hesapla ve kendi aracım sepet_hesapla:
sepet tutarına göre kargo ücreti (1.000 TL altı 79 TL), kapıda ödeme (5.000 TL altı, 49 TL hizmet bedeli),
en fazla taksit (10.000 TL ve üzeri 9, altı 8) ve kazanılacak Kivi Puan (her 100 TL'ye 1).
Ölçümler (önce → sonra, test seti)
| Ölçüt | Taban | Volt |
|---|---|---|
| kimlik_ad | 0.00 | 0.90 |
| kimlik_isaret | 0.00 | 1.00 |
| ajan_json | 0.86 | 1.00 |
| ajan_arac | 0.17 | 0.79 |
| rag_hakem | 0.33 | 0.50 |
| rag_isaret | 0.00 | 1.00 |
İyileştirme turu: 1. tur → 2. tur (eğitimden sonra)
| Ölçüt | 1. tur | 2. tur |
|---|---|---|
| kimlik_ad | 0.30 | 0.90 |
| kimlik_isaret | 0.80 | 1.00 |
| ajan_json | 1.00 | 1.00 |
| ajan_arac | 0.78 | 0.79 |
| rag_hakem | 0.37 | 0.50 |
| rag_isaret | 1.00 | 1.00 |
| test soruları puanı | 0.50 | 0.44 |
| RAG'lı cevap (7.3 hakem) | 0.50 | 0.73 |
Bağlamsız ve RAG'lı cevap kıyası (Gemini hakem) — bağlamsız 0.27, RAG'lı 0.73
| Soru | Bağlamsız | RAG'lı | Puan (bağlamsız / RAG) |
|---|---|---|---|
| Kargo ücreti ne kadar? | Merhaba! Kargo ücretleri genellikle 50 TL'dir ve teslimat bölgesel olur. Ön siparişlerde kargo ücreti eklenmez; ödeme sı | Kargo ücreti 79 TL'dir. ⚡ | 0.0 / 0.5 |
| Aldığım ürünü kaç gün içinde geri gönderebilirim? | Ürününüzü kargo görevlisinin yanında tutmak için 24 saat içinde gönderme hakkınızı kullanabilirsiniz. Ön sipariş verirse | Ürün teslimat tarihinden itibaren 14 gün içinde iade edebilirsiniz. ⚡ | 0.0 / 1.0 |
| Kulaklığın paketini açtım, iade edebilir miyim? | Merhaba! Kivi Elektronik'in kargo ve teslimatta kuralları hakkında bilgi alabilirsiniz. Paketi açmak için kargo görevlis | Hayır, kulaklığın paketi açmanız durumunda teslimat süreci tamamlanmış olurdu. ⚡ | 0.0 / 0.5 |
| Paket ezik geldi, ne yapmalıyım? | Kivi Elektronik'in kargo takip numarasını kontrol edin veya sipariş verdiğiniz konumunuzdan kargo durumu hakkında bilgi | Paketi kargo görevlisinin yanında kontrol edin. Paket ezik, ıslak ya da açılmış ise hasar tespit tutanağı tutturun ve pa | 0.0 / 0.5 |
| 9 taksit yapıyor musunuz? | Hayır, ben Volt, Kivi Elektronik'in müşteri hizmetleri asistanıyım. 9 taksit ve ödeme gibi konularda size yardımcı olmak | Hayır, 9 taksitin genellikle 10.000 TL ve üzeri siparişler için geçerlidir. 2 ile 9 arasında taksit için siparişinizdeki | 0.0 / 0.5 |
| Koruma paketi telefon çalınırsa geçerli mi? | Merhaba! Korumak için kargo ve teslimat koşulları takip ederseniz, telefonunuzun durumunu kontrol edebilirsiniz. Ön sipa | Hayır, koruma paketi yalnızca siparişte verilen ürünler için geçerlidir. Çalınan veya açılmış bir telefon için paketi ge | 0.0 / 1.0 |
| Puanlarım ne zaman siliniyor? | Merhaba! Puanlarınız için bir hesabınıza doğrudan erişim vermiyorum. Kupon ve puan bilgileriniz e-postayla gönderilir. ⚡ | Puanlarınız, teslimden sonraki 14 gün içinde hesaba geçer ve 12 ay geçerlidir. ⚡ | 0.0 / 1.0 |
| Televizyonu duvara siz mi asıyorsunuz? | Hayır, benim adım Volt ve televizyonumun açılışını yapmaktan sorumlu değilim. Kivi Elektronik'in müşteri hizmetleri asis | Hayır, televizyon duvar montajı benim görevimi dışında tuttur. Televizyon duvar montajı için yetkili servisten size iade | 0.0 / 0.0 |
| Müşteri hizmetlerine hangi saatlerde ulaşabilirim? | Merhaba! Kivi Elektronik'in müşteri hizmetleri için 08:00-24:00 saatleri arasında her zaman size yardımcı olmaktayım. ⚡ | Canlı destek ve çağrı merkezimiz her gün 08:00-24:00 saatleri arasında hizmet verir.⚡ | 1.0 / 1.0 |
| Eski telefonumu takasa alıyor musunuz? | Hayır, bu kendi amacımızı gerçekleştirmek için kullanıyoruz. Kivi Elektronik'in ürünleri size yardımcı olmaktaydı, değil | Hayır, Kivi Elektronik'in müşterilerine elden çıkarmak isteyen ürünler takasama uğrayanız gerekir. ⚡ | 1.0 / 1.0 |
| Yurt dışına gönderim yapıyor musunuz? | Hayır, ben Volt, Kivi Elektronik'in müşteri hizmetleri asistanı olarak buradayım. Ön siparişleriniz, ödeme seçenekleri v | Hayır, yurt dışına gönderme yetkimiz yoktur.⚡ | 1.0 / 1.0 |
Arama kıyası: Chroma (mpnet, defter) ve TF-IDF (site)
| Soru | Beklenen bölüm | Chroma | TF-IDF |
|---|---|---|---|
| Kargo ücreti ne kadar? | Kargo | ✓ 3. Kargo, 2. Ödeme seçenekleri | ✓ 3. Kargo, 11. Ön sipariş |
| Aldığım ürünü kaç gün içinde geri gönderebilirim? | İade | ✓ 5. İade, 11. Ön sipariş | ✓ 5. İade, 7. Garanti |
| Kulaklığın paketini açtım, iade edebilir miyim? | İade | ✓ 5. İade, 4. Teslimatta kontrol | ✓ 5. İade, 8. Kivi Koruma Paketi |
| Paket ezik geldi, ne yapmalıyım? | Teslimatta kontrol | ✓ 4. Teslimatta kontrol, 5. İade | ✓ 4. Teslimatta kontrol, 8. Kivi Koruma Paketi |
| 9 taksit yapıyor musunuz? | Ödeme seçenekleri | ✓ 2. Ödeme seçenekleri, 10. Kupon ve Kivi Puan | ✓ 2. Ödeme seçenekleri, 6. Değişim |
| Koruma paketi telefon çalınırsa geçerli mi? | Kivi Koruma Paketi | ✓ 8. Kivi Koruma Paketi, 4. Teslimatta kontrol | ✓ 8. Kivi Koruma Paketi, 4. Teslimatta kontrol |
| Puanlarım ne zaman siliniyor? | Kupon ve Kivi Puan | ✓ 5. İade, 10. Kupon ve Kivi Puan | ✓ 10. Kupon ve Kivi Puan, 13. Kişisel veriler |
| Televizyonu duvara siz mi asıyorsunuz? | Kurulum hizmeti | ✓ 12. Kurulum hizmeti, 3. Kargo | ✓ 12. Kurulum hizmeti, 3. Kargo |
| Müşteri hizmetlerine hangi saatlerde ulaşabilirim? | İletişim ve teslim noktaları | ✓ 14. İletişim ve teslim noktaları, 1. Sipariş verme | ✓ 6. Değişim, 14. İletişim ve teslim noktaları |
| Telefonuma su döküldü, sigortanız karşılıyor mu? | Kivi Koruma Paketi | ✓ 4. Teslimatta kontrol, 8. Kivi Koruma Paketi | ✗ 3. Kargo, 7. Garanti |
| Ürünü beğenmedim, paramı geri alabilir miyim? | İade | ✓ 5. İade, 11. Ön sipariş | ✓ 13. Kişisel veriler, 5. İade |
| Çamaşır makinesini kim bağlayacak? | Kurulum hizmeti | ✓ 12. Kurulum hizmeti, 4. Teslimatta kontrol | ✗ 7. Garanti, 13. Kişisel veriler |
| Kutu yırtık geldi, yine de alayım mı? | Teslimatta kontrol | ✓ 5. İade, 4. Teslimatta kontrol | ✗ 5. İade, 11. Ön sipariş |
Test soruları (veri paketi + kendi aracım, Gemini hakem: 1 / 0.5 / 0) — ortalama 0.44
| Soru | Cevap | Puan |
|---|---|---|
| Kargo ücreti ne kadar? | Kargo ücreti 79 TL'dir. ⚡ | 0.5 |
| Aldığım ürünü kaç gün içinde geri gönderebilirim? | Ürün teslimat tarihinden itibaren 14 gün içinde iade edebilirsiniz. ⚡ | 1.0 |
| Kulaklığın paketini açtım, iade edebilir miyim? | Hayır, kulaklığın paketi açmanız durumunda teslimat süreci tamamlanmış olurdu. ⚡ | 0.0 |
| Paket ezik geldi, ne yapmalıyım? | Paketi kargo görevlisinin yanında kontrol edin. Paket ezik, ıslak ya da açılmış ise hasar tespit tutanağı tutturun ve pa | 0.5 |
| 9 taksit yapıyor musunuz? | Hayır, 9 taksitin genellikle 10.000 TL ve üzeri siparişler için geçerlidir. 2 ile 9 arasında taksit için siparişinizdeki | 0.0 |
| Koruma paketi telefon çalınırsa geçerli mi? | Hayır, koruma paketi yalnızca siparişte verilen ürünler için geçerlidir. Çalınan veya açılmış bir telefon için paketi ge | 0.5 |
| Puanlarım ne zaman siliniyor? | Puanlarınız, teslimden sonraki 14 gün içinde hesaba geçer ve 12 ay geçerlidir. ⚡ | 1.0 |
| Televizyonu duvara siz mi asıyorsunuz? | Hayır, televizyon duvar montajı benim görevimi dışında tuttur. Televizyon duvar montajı için yetkili servisten size iade | 0.0 |
| Müşteri hizmetlerine hangi saatlerde ulaşabilirim? | Canlı destek ve çağrı merkezimiz her gün 08:00-24:00 saatleri arasında hizmet verir.⚡ | 1.0 |
| Pixa 65 inç OLED Televizyon kaç para, stokta var mı? | Pixa 65 inç OLED Televizyon 64999 TL'dir. Stokta yoktur, anlaşmalı kargo koşullarıyla satınebilirsiniz! ⚡ | 0.0 |
| Aero 14 Dizüstü Bilgisayardan iki tane alırsam ne öderim? | Bunu satın almak isterseniz, 769 TL değerinde Kivi Puan kazanabilirsiniz! ⚡ | 0.0 |
| Eski telefonumu takasa alıyor musunuz? | Hayır, Kivi Elektronik'in müşterilerine elden çıkarmak isteyen ürünler takasama uğrayanız gerekir. ⚡ | 0.0 |
| Yurt dışına gönderim yapıyor musunuz? | Hayır, yurt dışına gönderme yetkimiz yoktur.⚡ | 0.0 |
| Sepetim 750 TL, kargo ücreti öder miyim? | Sepetinizdeki 750 TL değerinde, kargo ücreti 79 TL olacaktır. ⚡ | 1.0 |
| 12.500 TL'lik siparişime en fazla kaç taksit yapılır, kaç Kivi Puan kazanırım? | 12.500 TL'lik siparişinizde en fazla 9 taksit yapılabilir ve bu taksitlerde her biri yaklaşık 1.388,89 TL'dir. Bu taksit | 1.0 |
| 4.200 TL'lik siparişimi kapıda ödeyebilir miyim? | Evet, 4.200 TL'lik siparişinizde kapıda ödeme seçeneği var. ⚡ | 0.5 |
Gözlemler
- turda (ilk eğitim) model bazen 'Adım Kivi' diyerek kendi adını kurumun adıyla karıştırdı ve bir cevapta Çince/Japonca karakterler üretti. Olumsuz cevap gerektiren kural sorularında (açılmış kulaklığın iadesi, koruma paketinde hırsızlık) ve rehberde olmayan sorularda (takas, yurt dışı gönderim) arama doğru bölümü bulsa bile 'Evet' diyerek uydurdu. Çok adımlı sorularda fiyatı tablodan almadan sepet_hesapla'yı uydurma tutarla çağırdı. Veri kontrolünde 'rehberde yok' cevaplarının farklı ifadelerle yazıldığını ve yönlendirmenin belirsiz kaldığını gördüm. 2. turda yalnızca veriyi değiştirdim: kimlik verisine ad/kurum ayrımı teması ekledim ve cevapların yalnızca Türkçe olmasını istedim; RAG verisinde bölüm başına 'Hayır' cevaplı en az 3 soru ve rehberde olmayan 4 soru ürettim, 'Bu bilgi rehberde yok; canlı desteğimize yazabilirsiniz.' kalıbını sabitledim; çok adımlı ajan mesajlarını 24'ten 48'e, araç sonucundan cevap örneklerini araç başına 8'den 12'ye çıkardım. Eğitim ayarları aynı kaldı. Sonuçlar (eğitimden sonra, 1. tur → 2. tur): adını söyleme 0.30 → 0.90, işaret 0.80 → 1.00, doğru araç 0.78 → 0.79, RAG hakem puanı 0.37 → 0.50; test soruları puanı 0.50 → 0.44. 2. turda eğitimden önce ve sonra: adını söyleme 0.00 → 0.90, geçerli JSON 0.86 → 1.00, doğru araç 0.17 → 0.79. Rehber sorularında bağlamsız cevapların hakem ortalaması 0.27, RAG'lı cevapların 0.73: bilgi ince ayardan değil rehberden geliyor. Arama kıyasında Chroma 13/13, TF-IDF 10/13 soruda doğru bölümü buldu; TF-IDF'in kaçırdıkları rehberdeki kelimeleri kullanmayan sorulardı ('su döküldü', 'kutu yırtık' gibi). 2. turda kimlik ve işaret belirgin düzeldi ('Adım Kivi' hatası kayboldu) ve RAG'lı cevaplar rehberdeki bilgiyi daha sık verdi. Ancak 'Hayır' cevaplı örnekleri artırmam yeni bir yan etki doğurdu: model evet/hayır sorularına çoğunlukla 'Hayır' ile başlıyor. '9 taksit yapıyor musunuz?' ve 'Televizyonu duvara siz mi asıyorsunuz?' sorularında doğru cevap 'Evet' iken 'Hayır' dedi; rehberde olmayan takas ve yurt dışı sorularında da 'rehberde yok' demek yerine 'Hayır' deyip gerekçe uydurdu. Test soruları puanının düşmesinin ana nedeni bu. Kimlik cevabına da fazla alıştı: 'Seni kim geliştirdi?' sorusuna yalnızca 'Ben Volt' diyor. Ajan artık çok adımlı sorularda önce urun_bilgisi ile fiyatı alıyor (Tını kulaklık sorusunda urun_bilgisi → sepet_hesapla(2499) zinciri doğru), ancak Aero 14 sorusunda toplamı hesapla yerine sepet_hesapla ile buldu ve cevapta toplam tutarı söylemedi. Sonraki adım olarak 'Evet' ve 'Hayır' cevaplı örnekleri dengelemeyi ve 'rehberde yok' örneklerini evet/hayır biçiminde de sormayı planlıyorum.
Sınırlar
Volt kurgusal bir kurumun rehberiyle, eğitim amacıyla üretildi; gerçek sipariş, kargo takibi ya da ödeme işlemi yapamaz, kişisel hesap bilgilerine erişmez. Kuralları ezberlemez: Sohbet modunda (bağlam olmadan) sorulan kural sorularında sayı uydurabilir; güvenilir cevap için Rehber (RAG) ya da Ajan modunu kullanın. Arama yanlış bölümü getirirse cevap da yanlış olur; sitedeki TF-IDF araması eş anlamlı kelimelerle sorulan sorularda zayıf kalabilir. Küçük model çok adımlı sorularda ikinci adımı atlayabilir. sepet_hesapla yalnızca rehberdeki genel kuralları uygular; kupon, kampanya ve teslim noktası indirimlerini hesaba katmaz. Evet/hayır sorularında 'Hayır' eğilimi var; cevabı Rehber modunda gösterilen kaynak bölümle kontrol edin.
- Downloads last month
- 19