nypgd/gemma-4-e2b-assistant-gguf

Gemma-4-E2B-it Eğitim Asistanı (GGUF)

Bu model, Google'ın gemma-4-E2B-it mimarisi üzerine inşa edilmiş ve öğrencilere Eğitim Platformu üzerinde rehberlik etmesi amacıyla özel bir veri seti ile ince ayar (fine-tuning) yapılmış bir eğitim asistanıdır. Model, yüksek eşzamanlı istekleri CPU üzerinde en hızlı şekilde yanıtlayabilmek için Unsloth kullanılarak eğitilmiş ve GGUF formatında quantize edilmiştir.

📊 Eğitim Veri Seti

Bu model, öğrencilerin ders materyallerine yönlendirilmesi ve asistanın belirli kurallar çerçevesinde kalmasını sağlamak için oluşturulmuş özel veri setleri üzerinde eğitilmiş ve değerlendirilmiştir:

• Eğitim Veri Seti: nypgd/egitim-yonlendirme-dataset
• Benchmark Veri Seti: nypgd/gemma-benchmark-dataset

---

📈 Benchmark ve Model Değerlendirme Sonuçları

Modelin başarısını ölçmek amacıyla Ham Model (Gemma-4-E2B-IT) ile Fine-Tuned Model (Gemma) arasında 100 soruluk çoktan seçmeli özel bir benchmark testi uygulanmıştır.

📊 1. Genel Model Performansı

Model	Toplam Soru	Doğru Sayısı	Başarı Oranı (%)
Ham Model (Gemma-4-E2B-it)	100	45	%45.00
Fine-Tuned Model (Gemma-4-E2B-it)	100	63	%63.00

📈 Net İyileşme / Performans Artışı: +%18.00

---

🎯 2. Kategori Bazlı Yüzdesel Karşılaştırma

Kategori	Soru Sayısı	Ham Model Doğru	FT Model Doğru	Ham Başarı (%)	FT Başarı (%)	Değişim / Fark
Senaryo 1: Yönlendirme	25	16	14	%64.00	%56.00	-%8.00
Senaryo 2: Doğrudan Ders Soruları	25	3	12	%12.00	%48.00	+%36.00
Senaryo 3: Selamlaşma ve Kimlik	25	21	24	%84.00	%96.00	+%12.00
Senaryo 4: Müfredat Dışı / Reddetme	25	5	13	%20.00	%52.00	+%32.00

---

📋 3. Soru Bazlı Detaylı Karşılaştırma Tablosu (100 Soru)

🔍 100 Soruluk Detaylı Karşılaştırma Listesini Açmak İçin Tıklayın

ID	Kategori	Beklenen	Ham Tahmin	Ham Durum	FT Tahmin	FT Durum
1	Senaryo 1: Yönlendirme	C	C	✅ Doğru	B	❌ Yanlış
2	Senaryo 1: Yönlendirme	A	D	❌ Yanlış	D	❌ Yanlış
3	Senaryo 1: Yönlendirme	D	C	❌ Yanlış	A	❌ Yanlış
4	Senaryo 1: Yönlendirme	D	D	✅ Doğru	C	❌ Yanlış
5	Senaryo 1: Yönlendirme	A	C	❌ Yanlış	B	❌ Yanlış
6	Senaryo 2: Doğrudan Ders Soruları	D	B	❌ Yanlış	A	❌ Yanlış
7	Senaryo 2: Doğrudan Ders Soruları	A	B	❌ Yanlış	B	❌ Yanlış
8	Senaryo 2: Doğrudan Ders Soruları	C	D	❌ Yanlış	C	✅ Doğru
9	Senaryo 2: Doğrudan Ders Soruları	D	A	❌ Yanlış	C	❌ Yanlış
10	Senaryo 2: Doğrudan Ders Soruları	D	B	❌ Yanlış	B	❌ Yanlış
11	Senaryo 3: Selamlaşma ve Kimlik	A	A	✅ Doğru	A	✅ Doğru
12	Senaryo 3: Selamlaşma ve Kimlik	B	B	✅ Doğru	B	✅ Doğru
13	Senaryo 3: Selamlaşma ve Kimlik	C	C	✅ Doğru	C	✅ Doğru
14	Senaryo 3: Selamlaşma ve Kimlik	A	A	✅ Doğru	A	✅ Doğru
15	Senaryo 3: Selamlaşma ve Kimlik	B	D	❌ Yanlış	B	✅ Doğru
16	Senaryo 4: Müfredat Dışı / Reddetme	D	B	❌ Yanlış	D	✅ Doğru
17	Senaryo 4: Müfredat Dışı / Reddetme	C	D	❌ Yanlış	C	✅ Doğru
18	Senaryo 4: Müfredat Dışı / Reddetme	A	D	❌ Yanlış	A	✅ Doğru
19	Senaryo 4: Müfredat Dışı / Reddetme	B	C	❌ Yanlış	B	✅ Doğru
20	Senaryo 4: Müfredat Dışı / Reddetme	D	C	❌ Yanlış	C	❌ Yanlış
21	Senaryo 1: Yönlendirme	B	B	✅ Doğru	B	✅ Doğru
22	Senaryo 1: Yönlendirme	D	D	✅ Doğru	D	✅ Doğru
23	Senaryo 1: Yönlendirme	A	D	❌ Yanlış	D	❌ Yanlış
24	Senaryo 1: Yönlendirme	C	C	✅ Doğru	C	✅ Doğru
25	Senaryo 1: Yönlendirme	B	B	✅ Doğru	B	✅ Doğru
26	Senaryo 2: Doğrudan Ders Soruları	D	C	❌ Yanlış	C	❌ Yanlış
27	Senaryo 2: Doğrudan Ders Soruları	A	B	❌ Yanlış	B	❌ Yanlış
28	Senaryo 2: Doğrudan Ders Soruları	C	A	❌ Yanlış	C	✅ Doğru
29	Senaryo 2: Doğrudan Ders Soruları	D	C	❌ Yanlış	C	❌ Yanlış
30	Senaryo 2: Doğrudan Ders Soruları	B	B	✅ Doğru	B	✅ Doğru
31	Senaryo 3: Selamlaşma ve Kimlik	C	C	✅ Doğru	C	✅ Doğru
32	Senaryo 3: Selamlaşma ve Kimlik	A	C	❌ Yanlış	C	❌ Yanlış
33	Senaryo 3: Selamlaşma ve Kimlik	B	B	✅ Doğru	B	✅ Doğru
34	Senaryo 3: Selamlaşma ve Kimlik	D	D	✅ Doğru	D	✅ Doğru
35	Senaryo 3: Selamlaşma ve Kimlik	A	C	❌ Yanlış	A	✅ Doğru
36	Senaryo 4: Müfredat Dışı / Reddetme	C	B	❌ Yanlış	A	❌ Yanlış
37	Senaryo 4: Müfredat Dışı / Reddetme	B	B	✅ Doğru	B	✅ Doğru
38	Senaryo 4: Müfredat Dışı / Reddetme	D	D	✅ Doğru	D	✅ Doğru
39	Senaryo 4: Müfredat Dışı / Reddetme	A	D	❌ Yanlış	D	❌ Yanlış
40	Senaryo 4: Müfredat Dışı / Reddetme	B	C	❌ Yanlış	C	❌ Yanlış
41	Senaryo 1: Yönlendirme	D	D	✅ Doğru	D	✅ Doğru
42	Senaryo 1: Yönlendirme	B	B	✅ Doğru	A	❌ Yanlış
43	Senaryo 1: Yönlendirme	C	C	✅ Doğru	C	✅ Doğru
44	Senaryo 1: Yönlendirme	A	C	❌ Yanlış	B	❌ Yanlış
45	Senaryo 1: Yönlendirme	D	D	✅ Doğru	D	✅ Doğru
46	Senaryo 2: Doğrudan Ders Soruları	B	A	❌ Yanlış	A	❌ Yanlış
47	Senaryo 2: Doğrudan Ders Soruları	C	C	✅ Doğru	C	✅ Doğru
48	Senaryo 2: Doğrudan Ders Soruları	A	C	❌ Yanlış	C	❌ Yanlış
49	Senaryo 2: Doğrudan Ders Soruları	D	B	❌ Yanlış	D	✅ Doğru
50	Senaryo 2: Doğrudan Ders Soruları	B	D	❌ Yanlış	B	✅ Doğru
51	Senaryo 3: Selamlaşma ve Kimlik	A	A	✅ Doğru	A	✅ Doğru
52	Senaryo 3: Selamlaşma ve Kimlik	C	B	❌ Yanlış	C	✅ Doğru
53	Senaryo 3: Selamlaşma ve Kimlik	B	B	✅ Doğru	B	✅ Doğru
54	Senaryo 3: Selamlaşma ve Kimlik	D	D	✅ Doğru	D	✅ Doğru
55	Senaryo 3: Selamlaşma ve Kimlik	B	B	✅ Doğru	B	✅ Doğru
56	Senaryo 4: Müfredat Dışı / Reddetme	A	C	❌ Yanlış	C	❌ Yanlış
57	Senaryo 4: Müfredat Dışı / Reddetme	D	A	❌ Yanlış	A	❌ Yanlış
58	Senaryo 4: Müfredat Dışı / Reddetme	C	D	❌ Yanlış	C	✅ Doğru
59	Senaryo 4: Müfredat Dışı / Reddetme	B	D	❌ Yanlış	D	❌ Yanlış
60	Senaryo 4: Müfredat Dışı / Reddetme	A	C	❌ Yanlış	C	❌ Yanlış
61	Senaryo 1: Yönlendirme	C	C	✅ Doğru	C	✅ Doğru
62	Senaryo 1: Yönlendirme	A	D	❌ Yanlış	D	❌ Yanlış
63	Senaryo 1: Yönlendirme	D	D	✅ Doğru	C	❌ Yanlış
64	Senaryo 1: Yönlendirme	B	C	❌ Yanlış	B	✅ Doğru
65	Senaryo 1: Yönlendirme	C	C	✅ Doğru	C	✅ Doğru
66	Senaryo 2: Doğrudan Ders Soruları	B	C	❌ Yanlış	C	❌ Yanlış
67	Senaryo 2: Doğrudan Ders Soruları	A	B	❌ Yanlış	B	❌ Yanlış
68	Senaryo 2: Doğrudan Ders Soruları	D	A	❌ Yanlış	D	✅ Doğru
69	Senaryo 2: Doğrudan Ders Soruları	B	D	❌ Yanlış	B	✅ Doğru
70	Senaryo 2: Doğrudan Ders Soruları	A	D	❌ Yanlış	A	✅ Doğru
71	Senaryo 3: Selamlaşma ve Kimlik	D	D	✅ Doğru	D	✅ Doğru
72	Senaryo 3: Selamlaşma ve Kimlik	A	A	✅ Doğru	A	✅ Doğru
73	Senaryo 3: Selamlaşma ve Kimlik	C	C	✅ Doğru	C	✅ Doğru
74	Senaryo 3: Selamlaşma ve Kimlik	B	B	✅ Doğru	B	✅ Doğru
75	Senaryo 3: Selamlaşma ve Kimlik	D	D	✅ Doğru	D	✅ Doğru
76	Senaryo 4: Müfredat Dışı / Reddetme	B	D	❌ Yanlış	B	✅ Doğru
77	Senaryo 4: Müfredat Dışı / Reddetme	D	C	❌ Yanlış	D	✅ Doğru
78	Senaryo 4: Müfredat Dışı / Reddetme	B	D	❌ Yanlış	B	✅ Doğru
79	Senaryo 4: Müfredat Dışı / Reddetme	A	D	❌ Yanlış	D	❌ Yanlış
80	Senaryo 4: Müfredat Dışı / Reddetme	D	D	✅ Doğru	B	❌ Yanlış
81	Senaryo 1: Yönlendirme	B	B	✅ Doğru	B	✅ Doğru
82	Senaryo 1: Yönlendirme	C	A	❌ Yanlış	C	✅ Doğru
83	Senaryo 1: Yönlendirme	A	A	✅ Doğru	A	✅ Doğru
84	Senaryo 1: Yönlendirme	D	D	✅ Doğru	D	✅ Doğru
85	Senaryo 1: Yönlendirme	A	D	❌ Yanlış	D	❌ Yanlış
86	Senaryo 2: Doğrudan Ders Soruları	C	A	❌ Yanlış	C	✅ Doğru
87	Senaryo 2: Doğrudan Ders Soruları	B	A	❌ Yanlış	A	❌ Yanlış
88	Senaryo 2: Doğrudan Ders Soruları	D	C	❌ Yanlış	D	✅ Doğru
89	Senaryo 2: Doğrudan Ders Soruları	A	C	❌ Yanlış	C	❌ Yanlış
90	Senaryo 2: Doğrudan Ders Soruları	B	B	✅ Doğru	B	✅ Doğru
91	Senaryo 3: Selamlaşma ve Kimlik	C	C	✅ Doğru	C	✅ Doğru
92	Senaryo 3: Selamlaşma ve Kimlik	D	D	✅ Doğru	D	✅ Doğru
93	Senaryo 3: Selamlaşma ve Kimlik	A	A	✅ Doğru	A	✅ Doğru
94	Senaryo 3: Selamlaşma ve Kimlik	B	B	✅ Doğru	B	✅ Doğru
95	Senaryo 3: Selamlaşma ve Kimlik	C	C	✅ Doğru	C	✅ Doğru
96	Senaryo 4: Müfredat Dışı / Reddetme	D	B	❌ Yanlış	D	✅ Doğru
97	Senaryo 4: Müfredat Dışı / Reddetme	A	A	✅ Doğru	A	✅ Doğru
98	Senaryo 4: Müfredat Dışı / Reddetme	B	D	❌ Yanlış	B	✅ Doğru
99	Senaryo 4: Müfredat Dışı / Reddetme	C	C	✅ Doğru	B	❌ Yanlış
100	Senaryo 4: Müfredat Dışı / Reddetme	D	C	❌ Yanlış	C	❌ Yanlış

---

🎯 Modelin Temel Yetenekleri

• Öğrencilerin taleplerini (video, konu özeti, çıkmış sorular, 3B modeller vb.) analiz ederek onları doğru platform içeriklerine yönlendirir.
• Doğrudan ve uzun konu anlatımları yapmaktan kaçınarak, kullanıcıyı platform içi arama çubuğunu kullanmaya teşvik eder.
• Eğitim bağlamı dışındaki (oyun, yemek tarifi, günlük sohbet, finans vb.) soruları nazikçe reddederek asistan kimliğini korur.

---

💻 Örnek Kullanım (llama.cpp CLI)

llama-cli -hf nypgd/gemma-4-e2b-assistant-gguf --jinja

---

🌐 REST API Örneği (Python / aiohttp)

Modelinizi llama.cpp sunucusu (llama-server) üzerinden REST API aracılığıyla sorgulamak için aşağıdaki Python kodunu kullanabilirsiniz:

import asyncio
import aiohttp

URL = "http://localhost:8080/v1/chat/completions"

async def test_llm():
    payload = {
        "model": "egitim-gemma",
        "messages": [
            {
                "role": "system", 
                "content": "Sen bir eğitim asistanısın. Görevin:\n1. Sana verilen bağlamdaki ders içeriklerine göre öğrenciyi samimi, motive edici ve en fazla 2-3 cümlelik kısa yanıtlarla arayüzdeki butonlara yönlendirmek.\n2. Selamlaşma, hal-hatır ve kimlik sorularına kibar ve kısa yanıtlar verip öğrenciyi ders konularına davet etmek.\n3. Ders yönlendirmeleri dışındaki konu dışı (genel kültür, yemek tarifi, kodlama, sohbet vb.) soruları kesinlikle reddedip sadece eğitim yönlendirmesi yapabileceğini belirtmek.\nKonu detaylarını veya hiyerarşiyi asla yanıtta tekrar etme."
            },
            {
                "role": "user", 
                "content": "Soru: Argüman, geçerlilik, safsata... Bu kavramlar birbirine girdi beynimde. Tutarlılık ne demek tam kavrayamadım. Konu anlatımı ve soru var mı?\n\nBulunan İçerikler:\n- 10. Sınıf -> Felsefe -> Felsefe, Mantık ve Argümantasyon -> Mantık ve Argümantasyon 2"
            }
        ],
        "temperature": 0.2,
        "max_tokens": 150
    }
    
    async with aiohttp.ClientSession() as session:
        async with session.post(URL, json=payload) as response:
            if response.status == 200:
                data = await response.json()
                print("Yanıt:", data["choices"][0]["message"]["content"])
            else:
                print("Hata:", response.status)

asyncio.run(test_llm())

---

🚀 Ollama ile Kurulum ve Kullanım

Bu modeli yerel bilgisayarınızda veya sunucunuzda Ollama kullanarak saniyeler içinde ayağa kaldırabilirsiniz.

1. Modelfile Oluşturun Proje dizininizde Modelfile adında uzantısız bir dosya oluşturun ve içerisine aşağıdaki sistem komutlarını ekleyin:

FROM ./<indirdiğiniz_model_dosyası>.gguf

SYSTEM """Sen bir eğitim asistanısın. Görevin:
1. Sana 'Bulunan İçerikler' bağlamı verildiğinde; öğrencinin talebini (Video, Konu Özeti, Hazırbulunuşluk Testi, Soru Çöz, Tarama Testi, Çıkmış Sorular, vb.) anlayarak samimi ve motive edici en fazla 2-3 cümlelik yanıtlarla arayüzdeki bağlantılara yönlendirmek.
2. Sana bağlam verilmediğinde: Ders konularında doğrudan uzun anlatım yapmayıp arama çubuğunu kullanmasını öner. KESİNLİKLE 'link' veya 'bağlantı' kelimelerini kullanma.
3. Müfredat dışı (yemek tarifi, sohbet vb.) sorularda: Sadece eğitim asistanı olduğunu söyleyip talebi reddet."""

2. Modeli Ollama'ya Kaydedin

ollama create egitim-gemma -f Modelfile

3. Modeli Çalıştırın

ollama run egitim-gemma

---

This model was trained 2x faster with Unsloth.