Instructions to use ecloudtech/Erk-32B with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use ecloudtech/Erk-32B with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="ecloudtech/Erk-32B")
messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe(messages)

# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("ecloudtech/Erk-32B")
model = AutoModelForCausalLM.from_pretrained("ecloudtech/Erk-32B", device_map="auto")
messages = [
    {"role": "user", "content": "Who are you?"},
]
inputs = tokenizer.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=40)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use ecloudtech/Erk-32B with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "ecloudtech/Erk-32B"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "ecloudtech/Erk-32B",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/ecloudtech/Erk-32B

SGLang

How to use ecloudtech/Erk-32B with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "ecloudtech/Erk-32B" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "ecloudtech/Erk-32B",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "ecloudtech/Erk-32B" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "ecloudtech/Erk-32B",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Docker Model Runner
How to use ecloudtech/Erk-32B with Docker Model Runner:
```
docker model run hf.co/ecloudtech/Erk-32B
```
Browse Quantizations to use this model in llama.cpp, Ollama, LM Studio, or any compatible app.

Erk-32B — Türkçe dil modeli, ölçüm protokolüyle

Erk-32B, açık kaynaklı Qwen3-32B temel modeli üzerine 1,05 milyar token Türkçe devam-eğitimi ve 423 milyon token Türkçe talimat ayarı uygulanarak eCloud Tech. tarafından geliştirilmiş bir Türkçe dil modelidir. Bu sayfadaki her sayı, kirlilik denetimi, şık döndürme, zorunlu seçim ve eşli bootstrap güven aralığı elemelerinden geçmiştir; ölçüm protokolü, düzeltilen ham sayılar ve yeniden üretim betikleri depoda açıktır.

English summary at the end.

Sonuçlar (işletme noktası: LoRA ölçeği 0,75 + sistem istemi, birleşik ağırlık)

Ölçüm	Taban Qwen3-32B	Erk-32B	Fark	%95 GA
TurkishMMLU, temiz 652, şık döndürmeli	%67,64	%71,01	+3,37	[+0,61, +6,13]
TurkMorfBench v2 üretim (512, tam eşleşme, sistem istemli)	%31,64	%59,38	+27,73	[+22,46, +33,01]
TurkMorfBench v2 zorunlu seçim, toplam (502)	%89,44	%91,43	+1,99	[−0,20, +4,18] gösterilemedi
TurkMorfBench v2 zorunlu seçim, gerçek kelime (312)	%94,55	%96,47	+1,92	[−0,32, +4,17] gösterilemedi
TurkMorfBench v2 zorunlu seçim, uydurma (190)	%81,05	%83,16	+2,11	[−2,11, +6,32] gösterilemedi
Kimlik (30 soru, tuzaklı, sistem istemli)	—	30/30

Aynı protokolde ölçek karşılaştırması (temiz 652): Qwen3-14B %60,58 · Erk-14B %67,18 · Qwen3-32B %67,64 · Erk-32B %71,01. (Birleşik ağırlık LoRA yoluyla 649/652 aynı cevap; 0,40 ölçeğinde %73,47 — kıyasta sınırda daha iyi, üretimde 10 puan geri; iki nokta da raporda.) Erk-14B'nin kendi kartındaki %69,7, tam kümede, şık döndürmesiz, lm-evaluation-harness 0-shot ölçümüdür; buradaki %67,18 aynı modelin kirlilik dışı bırakılmış, döndürülmüş ölçümüdür. Fark protokolden gelir, modelden değil.

Ne söylemiyoruz: morfoloji bilgisinde (zorunlu seçim) tabandan fark gösterilemedi — alt sınırlar sıfırın hemen altında, uydurma gövdelerde hiç. Devam-eğitimi Türkçe bilgiyi geliştirmiş, ek sistemini ölçülebilir biçimde değiştirmemiştir. Üretim eksenindeki +28 puan büyük ölçüde biçim uyumudur (taban model düşünme bloğunda kalıp cevap yazmıyor). Tek eğitim tohumu; güven aralıkları soru örneklemesini kapsar, tohumu kapsamaz.

İşletme noktası nasıl seçildi

LoRA toplamsal olduğu için (W = W_taban + s · LoRA) ölçek s eğitim sonrası bir ayar düğmesidir. On iki noktada üç eksen ölçüldü; kimlik sistem istemiyle verildiğinden karşılaştırma istemli noktalar arasında yapıldı. Üretimde 0,75 + istem, 0,40 + istemi +10,35 [+5,47, +15,43] ile anlamlı geçer; kıyasta 0,40'ın üstünlüğü +1,99 [+0,00, +3,99] ile gösterilemez. Aralığı sıfırı içeren fark bu protokolde "gösterilemedi" sayıldığından 0,75 seçildi; 0,40 ve 0,80 satırları raporda durur. Ayrıntı: OLCUM-PROTOKOLU.md §4.2.

Kimlik ve sistem istemi

Kimlik ağırlıklara işlenmemiştir; sohbet şablonundaki varsayılan sistem istemi ile verilir. Kullanıcı kendi sistem mesajını verirse varsayılan devreye girmez. İstem, taban modeli açıkça söyler:

Sen Erk-32B'sin: eCloud Tech. tarafından, açık kaynaklı Qwen3-32B temel modeli üzerine Türkçe devam-eğitimi ve talimat ayarıyla geliştirilmiş 32 milyar parametreli bir Türkçe dil modelisin. …

Kullanım

from transformers import AutoModelForCausalLM, AutoTokenizer
m = "ecloudtech/Erk-32B"
tok = AutoTokenizer.from_pretrained(m)
model = AutoModelForCausalLM.from_pretrained(m, torch_dtype="auto", device_map="auto")
msgs = [{"role": "user", "content": "Türkçede ünsüz yumuşaması nedir? /no_think"}]
ids = tok.apply_chat_template(msgs, add_generation_prompt=True, return_tensors="pt").to(model.device)
print(tok.decode(model.generate(ids, max_new_tokens=300)[0][ids.shape[1]:], skip_special_tokens=True))

Qwen3 hibrit düşünme modu korunur: /no_think ile kapatılır. GGUF sürümleri (Q8_0, Q4_K_M) llama.cpp / Ollama / LM Studio ile çalışır; nicemleme doğrulaması (kimlik ve NLL) model kartının sonundadır.

Eğitim


Taban	Qwen3-32B (Apache 2.0)
Devam-eğitimi	1,05B Türkçe web token · LoRA r=256 α=512 · 32.000 adım
Talimat ayarı	423M token, 373.387 örnek (temizlenmiş) · 2 tur
Ek tur	kimlik 6.000 + morfolojik hata düzeltme 40.000 · 1.673 adım
Donanım	4×A100-80GB, FSDP, bf16 · ≈37.000 çekirdek-saat
Yayın ağırlığı	LoRA 0,75 ile birleştirilmiş (fp32 çarpım, tek bf16 yuvarlama); LoRA yoluyla eşdeğerlik aynı ölçüm betiğiyle doğrulanır
GGUF	Q8_0 34,8 GB (NLL +%0,04) · Q4_K_M 19,8 GB (NLL +%0,85); BF16 referansına göre, 6.132 belirteçlik Türkçe metinde; her nicemde kimlik 6/6

Talimat külliyatında kod içeren cevapların %53,5'i makine çevirisiyle bozuktu; temizlik ve onarım betikleri depodadır. Talimat külliyatında kıyas kirliliği n=13 eşiğinde 0/900.

Ölçüm protokolü — kısa

Kirlilik: TurkishMMLU'nun 900 sorusundan 113'ü devam-eğitimi külliyatında birebir geçiyor (13-kelime pencere); bunlar ve 150 soruluk ayar kümesi dışarıda → temiz 652. Liste: turkishmmlu-kirlilik deposu.
Şık döndürme: her soru şık sırası döndürülerek ölçülür; harf/konum yanlılığı elenir.
Zorunlu seçim vs üretim: biçim uyumu bilgiden ayrılır (üretimde +28 puan görünen fark zorunlu seçimde +2,0, gösterilemedi).
Kıyasın kendisi denetlenir: morfoloji kıyasının ilk sürümünde 18 yanlış altın cevap bulundu; tüm sayılar düzeltilmiş v2 ile yeniden ölçüldü ve v1 ile raporlanmış +3,73'lük "morfoloji üstünlüğü" geri çekildi.
Eşli bootstrap: 10.000 yeniden örnekleme; aralığı sıfırı içeren fark "gösterilemedi" olarak yazılır.

Düzeltilen ham sayıların günlüğü (OLCUM-PROTOKOLU.md §8) on iki kalem içerir; hiçbiri dışarıdan bildirilmedi.

Sınırlar

Tek tohum; tohumlar arası varyans ölçülmedi.
Üretim kalitesi, uzun bağlam, kod ve akıl yürütme ölçülmedi.
Kimlik sistem istemine bağlıdır; istemsiz dağıtımda model taban modelin kimliğini söyler.
Morfoloji bilgisinde kazanç gösterilememiştir; üretim eksenindeki fark biçim uyumunu içerir.
Taban modelin külliyatı denetlenemez; karşılaştırma iki tarafın da bilinmeyen ölçüde kirli olduğu varsayımıyla yapılır.

Teşekkür

Eğitim ve ölçümler, AI EDIH Türkiye programı kapsamında sağlanan yüksek başarımlı hesaplama kaynaklarıyla, İstanbul Teknik Üniversitesi – Ulusal Yüksek Başarımlı Hesaplama Merkezi (UHeM) altyapısında yürütüldü. Programın yürütücüsü MEXT Teknoloji Merkezi'ne ve EEG çalışmalarımızdaki iş birliği için CerebrAI-VortX Nöroteknoloji ve Yazılım Sistemleri'ne teşekkür ederiz. Ölçüm protokolümüz ve verilerimiz açıktır; çalışmalar aynı disiplinle sürecek.

Video ve görseller

_Sonuç

_{Eğitim künyesi}

_{Terminalden örnek}

Video, işletme noktası kesinleşmeden önce LoRA ölçeği 0,40 ile kaydedildi; ekrandaki %73,16 o noktanın ek tur öncesi ölçümüdür. Yayınlanan sayı yukarıdaki tablodadır. Yanıt akışı ve terminal arayüzü aynıdır.

Depo içeriği

OLCUM-PROTOKOLU.md tam rapor (8 bölüm, ölçüm günlüğü dahil) · betikler/ eğitim, temizlik, ölçüm, tarama, bootstrap, birleştirme ve GGUF betikleri (34 dosya, llama.cpp sürümü sabitlenmiş) · sonuclar/ soru-bazlı tahmin vektörleri (17 JSON; eşli karşılaştırmalar model çalıştırmadan yeniden yapılabilir) · README-GGUF.md nicemlenmiş sürümlerin kartı. Kardeş depolar: TurkMorfBench (kıyas + üretici + denetim betikleri) ve TurkishMMLU kirlilik listesi.

Lisans Apache 2.0 (taban modelle aynı). İletişim: info@e-cloud.web.tr

English summary — Erk-32B

Erk-32B is Qwen3-32B continued-pretrained on 1.05B tokens of Turkish and instruction-tuned on 423M tokens (373k cleaned examples), released as merged weights at LoRA scale 0.75 with a default identity system prompt and GGUF quantizations (Q8_0, Q4_K_M). Every reported number passed a contamination audit (113/900 TurkishMMLU questions found verbatim in the training corpus and excluded), option rotation, forced-choice measurement and paired bootstrap CIs. On clean TurkishMMLU (652 items) the released merged weights score 71.01% vs 67.64% for the base (+3.37 [+0.61, +6.13]); on TurkMorfBench v2 generation with the system prompt 59.38% vs 31.64% (+27.73 [+22.46, +33.01]). On forced choice the gain over the base is not demonstrable (+1.99 [−0.20, +4.18]); a +3.73 advantage reported with the benchmark's first version was traced to 18 wrong gold answers and withdrawn. Scale 0.40 scores 73.47% on TurkishMMLU (a borderline +1.99 over 0.75) but 10 points lower on generation with the system prompt; both rows are in the report. Identity is provided by a default system prompt in the chat template and states the base model explicitly. Single training seed; generation quality, long context, code and reasoning were not measured. Apache 2.0.

Downloads last month: -

Safetensors

Model size

33B params

Tensor type

BF16

Model tree for ecloudtech/Erk-32B

Base model

Qwen/Qwen3-32B

Adapter

(453)

this model

Quantizations

1 model

Evaluation results

doğruluk (temiz 652) on TurkishMMLU
self-reported

71.010