Norovox Alpha
"Her zerresi Norovox — hiçbir modelden baz alınmadı."
Norovox Alpha, sıfırdan (random-init) eğitilen, tamamen özgün bir Türkçe yapay zeka çekirdeğidir. Hiçbir açık modelin ağırlığı alınmaz, wrapper değildir — mimari de tokenizer da ağırlık da Norovox'undur.
🧬 Özgün Çekirdek — NorovoxAlphaCore
Kendi forward kodumuz: RoPE + RMSNorm + SwiGLU + GQA + MTP (çok-token başlığı) + kimlik çıpası. Kaynak kod bu repoda (norovox_alpha_core.py) — Qwen/Llama sınıfı DEĞİL, tamamen kendi implementasyonumuz.
- Tokenizer: korpustan sıfırdan eğitilmiş kendi 32k BPE'miz
- Eğitim: free multi-session (Kaggle T4/P100), checkpoint zinciriyle, public Türkçe+İngilizce metin
- Durum: aktif eğitim — tutarlı Türkçe üretimi kanıtlandı (ör. "Türkiye'nin başkenti Ankara'dır")
⚡ Yerleşik Yetenekler (modelden bağımsız, doğrulanmış çerçeve)
| Yetenek | Dosya | Ne yapar |
|---|---|---|
| 🌱 Kendini genişletme | norovox_alpha_growth.py |
Net2Net — fonksiyon-koruyarak parametre ekler (0.00 hata) |
| 🛠️ Agentic + self-correction | norovox_alpha_agent.py |
Kod yaz → çalıştır → hata gör → düzelt |
| 📚 Kendi kendine öğrenme | norovox_alpha_learn.py |
Oku → bilgi tabanına yaz → geri çağır (RAG) |
| 🌐 Web araştırma | norovox_alpha_web.py |
Ara + sayfa oku + sentezle |
| 🧩 Bütünleşik sistem | norovox_alpha_system.py |
Hepsi tek NorovoxAlpha arayüzünde |
🎯 Konum (dürüst)
Alpha sıfırdan özgün olduğu için erken aşamadadır. Free donanım tavanı gereği şu an küçük ama tutarlı bir Türkçe modeldir; frontier iddiası taşımaz. Hedef: aynı özgün çekirdeğin compute arttıkça büyümesi. Sahte benchmark verilmez.
Kullanım (ağırlık YAYINDA — step 38.800)
import torch
from huggingface_hub import hf_hub_download
from norovox_alpha_core import NorovoxAlphaCore, CoreConfig
from tokenizers import Tokenizer
ck = torch.load(hf_hub_download("emrevrg/Norovox-Alpha", "norovox_alpha.pt"), map_location="cpu")
cfg = CoreConfig(**ck["cfg"]); core = NorovoxAlphaCore(cfg); core.load_state_dict(ck["model"]); core.eval()
tk = Tokenizer.from_file(hf_hub_download("emrevrg/Norovox-Alpha", "tokenizer.json"))
# akıcı Türkçe üretir (pretrain base) — sohbet için SFT sonra
Ağırlık:
norovox_alpha.pt(252MB, fp16) · step 38.800 · ppl ~30 · akıcı Türkçe (ör. "Türkiye'nin başkenti Ankara'dır"). Base pretrain checkpoint; sohbet/SFT sürümü sonra gelecek.
🔗 Tanıtım: Norovox · Aile: N1 · Nythos · Alpha
- Downloads last month
- 1,111
