HunMamba2-780M (WSD Scheduler)

Ez egy magyar nyelvre optimalizált, 780 millió paraméteres kauzális nyelvi modell, amely a Mamba2 (State Space Model) architektúrán alapul. A modellt egy magas minőségű, előfeldolgozott magyar korpuszon (Europarl és FineWeb-HQ keveréke) tanítottuk, Warmup-Stable-Decay (WSD) ütemező használatával.