SATRI-1B (Generasi 1 · Arsip Resmi Qwen/Qwen3-1.7B DARE-TIES Multi-Specialist Merge)

  • Nama Model: SATRI-1B (Generasi 1 — v2.0)
  • Pembuat: Pilus (PILUSATRIO / Satri)
  • Model Dasar: Qwen/Qwen3-1.7B (28 Layer, GQA 16/8, Konteks 32.768, Apache-2.0)
  • Generasi Penerus Terbaru: PILUSATRIO/satri-4.0 (Qwen/Qwen3-4B, 36 Layer)
  • Koleksi Adapter Spesialis 1.7B: PILUSATRIO/satri-1b-adapters

Ringkasan Perkembangan

Repositori ini merupakan arsip resmi generasi pertama proyek SATRI pada skala 1,7 miliar parameter (Qwen/Qwen3-1.7B). Model ini menggabungkan 4 adapter spesialis domain (spec_A Bahasa Indonesia & Nusantara, spec_B Penalaran Matematika CoT, spec_C Coding & Web, spec_D Tool Calling) menggunakan metode DARE-TIES Merge (density=0.5).

Gugus Evaluasi Qwen/Qwen3-1.7B Baseline Kontrol Multi-Task 1.7B SATRI-1B Final (DARE-TIES)
Set DEV (15 Soal, L1–L5) 66,67% 86,67% 100,00% (15/15)
Set TEST (16 Soal, L1–L5) 62,50% 81,25% 93,75% (15/16)
Konteks Panjang 32k (Needle) 95,00% 95,00% 95,00% (19/20)

Untuk versi produksi terbaru dengan arsitektur 36 layer (Qwen/Qwen3-4B), stabilisasi rsLoRA + NEFTune, kurikulum Multi-Turn Self-Repair, dan SATRI-Runtime v2, gunakan PILUSATRIO/satri-4.0.

Downloads last month
1
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for PILUSATRIO/satri-1b

Finetuned
Qwen/Qwen3-1.7B
Adapter
(810)
this model