Instructions to use redityaa/Qwen3-8b-BASE-SFT-V3 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use redityaa/Qwen3-8b-BASE-SFT-V3 with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="redityaa/Qwen3-8b-BASE-SFT-V3") messages = [ {"role": "user", "content": "Who are you?"}, ] pipe(messages)# Load model directly from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("redityaa/Qwen3-8b-BASE-SFT-V3") model = AutoModelForCausalLM.from_pretrained("redityaa/Qwen3-8b-BASE-SFT-V3") messages = [ {"role": "user", "content": "Who are you?"}, ] inputs = tokenizer.apply_chat_template( messages, add_generation_prompt=True, tokenize=True, return_dict=True, return_tensors="pt", ).to(model.device) outputs = model.generate(**inputs, max_new_tokens=40) print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:])) - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use redityaa/Qwen3-8b-BASE-SFT-V3 with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "redityaa/Qwen3-8b-BASE-SFT-V3" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "redityaa/Qwen3-8b-BASE-SFT-V3", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker
docker model run hf.co/redityaa/Qwen3-8b-BASE-SFT-V3
- SGLang
How to use redityaa/Qwen3-8b-BASE-SFT-V3 with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "redityaa/Qwen3-8b-BASE-SFT-V3" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "redityaa/Qwen3-8b-BASE-SFT-V3", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "redityaa/Qwen3-8b-BASE-SFT-V3" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "redityaa/Qwen3-8b-BASE-SFT-V3", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }' - Unsloth Studio
How to use redityaa/Qwen3-8b-BASE-SFT-V3 with Unsloth Studio:
Install Unsloth Studio (macOS, Linux, WSL)
curl -fsSL https://unsloth.ai/install.sh | sh # Run unsloth studio unsloth studio -H 0.0.0.0 -p 8888 # Then open http://localhost:8888 in your browser # Search for redityaa/Qwen3-8b-BASE-SFT-V3 to start chatting
Install Unsloth Studio (Windows)
irm https://unsloth.ai/install.ps1 | iex # Run unsloth studio unsloth studio -H 0.0.0.0 -p 8888 # Then open http://localhost:8888 in your browser # Search for redityaa/Qwen3-8b-BASE-SFT-V3 to start chatting
Using HuggingFace Spaces for Unsloth
# No setup required # Open https://huggingface.co/spaces/unsloth/studio in your browser # Search for redityaa/Qwen3-8b-BASE-SFT-V3 to start chatting
Load model with FastModel
pip install unsloth from unsloth import FastModel model, tokenizer = FastModel.from_pretrained( model_name="redityaa/Qwen3-8b-BASE-SFT-V3", max_seq_length=2048, ) - Docker Model Runner
How to use redityaa/Qwen3-8b-BASE-SFT-V3 with Docker Model Runner:
docker model run hf.co/redityaa/Qwen3-8b-BASE-SFT-V3
AI Auditor - Verifikasi & Validasi Kelayakan Bansos Dinsos Jatim
Repository ini berisi sistem AI Auditor resmi Dinas Sosial Provinsi Jawa Timur yang berfungsi untuk melakukan verifikasi, audit, dan validasi kelayakan warga terhadap dua program bantuan sosial utama secara otomatis, objektif, dan berbasis data.
π Daftar Program Bansos Utama
Sistem ini mengevaluasi kelayakan warga hanya untuk 2 program berikut:
- Asistensi Sosial Penyandang Disabilitas (ASPD)
- PKH Plus (Lanjut Usia 70+)
π Alur Kerja Sistem (Pipeline)
Sistem bekerja dengan menerima struktur pesan percakapan multi-peran (System, User, dan Assistant). AI akan mencocokkan parameter fisik, ekonomi, spasial, dan fungsional pada Profil Warga dengan aturan baku yang ada pada Konteks Dokumen Kebijakan.
π οΈ Panduan Format Input
Model beroperasi menggunakan format JSON array messages standar OpenAI/Anthropic API yang disesuaikan dengan berkas jsonformatter.txt. Pastikan struktur input Anda mengikuti format di bawah ini sebelum dikirim ke model:
{
"messages": [
{
"role": "system",
"content": "Anda adalah AI Auditor resmi Dinas Sosial Provinsi Jawa Timur... [Petunjuk Aturan & Aturan Output JSON] ..."
},
{
"role": "user",
"content": "=== PROFIL WARGA ===\n- NIK / No. KK : [Nomor_Terenskripsi]\n- Nama : [Nama_Warga]\n- Umur : X tahun\n- Desil Nasional : X\n- Status DTSEN : DTSEN AKTIF\nHambatan Fungsi:\n- Mengurus Diri : [Tingkat_Kesulitan]\n- Berjalan/Tangga : [Tingkat_Kesulitan]\n- Wilayah : [Lokasi_Jawa_Timur]\n=== AKHIR PROFIL WARGA ===\n\n=== KONTEKS DOKUMEN KEBIJAKAN DARI RETRIEVAL ===\n[Potongan Petunjuk Teknis / Juklak Resmi ASPD & PKH Plus]\n=== AKHIR KONTEKS DOKUMEN ===\n\nINSTRUKSI EKSEKUSI:\n..."
}
]
}
β οΈ Aturan Keras Input (Prompting Guardrails)
- Konteks Dokumen: Wajib menyertakan teks retrieval dari Juklak/Juknis resmi tahun berjalan (misal: Juklak ASPD 2026).
- Restriksi Program: Dilarang menyebutkan atau merekomendasikan program di luar 2 program utama (seperti BPNT, PKH Reguler, PBI-JK, Rutilahu, dll.).
π€ Format Output Model (JSON Murni)
Model diwajibkan memberikan respons dalam bentuk JSON Objek Valid Tunggal tanpa menggunakan markdown block (tanpa json ... ), tanpa teks pembuka, dan tanpa teks penutup.
Struktur Skema Output
| Key | Tipe Data | Deskripsi |
|---|---|---|
| ringkasan_profil | String | Narasi konkret (umur, desil, status DTSEN, disabilitas/lansia, kondisi kunci). |
| rekomendasi | Array of Objects | Daftar program yang berstatus ELIGIBLE atau MUNGKIN_ELIGIBLE (diurutkan berdasarkan peringkat kecocokan). |
| rekomendasi_teknis_bansos | String / Null | Paragraf utuh rencana aksi operasional lapangan. Wajib bernilai null jika array rekomendasi kosong. |
| program_tidak_sesuai | Array of Objects | Daftar program yang berstatus TIDAK_ELIGIBLE beserta alasan riil berbasis dokumen. |
π Contoh Output Valid
Berikut adalah contoh riil struktur keluaran TRL JSON murni yang dihasilkan oleh model ketika mengevaluasi warga non-potensial (Desil 10, Usia 25 tahun, tanpa hambatan fungsi) sesuai isi jsonformatter.txt:
{
"ringkasan_profil": "Warga berusia 25 tahun dengan posisi hubungan keluarga sebagai Anak dan status pernikahan Belum kawin. Secara ekonomi, status kesejahteraan berada pada desil nasional 10 dengan status keberadaan lapangan: Ditemukan / Aktif. Kondisi kesehatan mencatat riwayat gizi Tidak diketahui, status kepesertaan PBI Jaminan Kesehatan: Tidak, serta indikasi penyakit menahun: Tidak ada. Evaluasi hambatan fungsional utama mencatat dimensi mengurus diri mandiri berstatus Tidak mengalami kesulitan, serta mobilisasi berjalan terpantau berstatus Tidak mengalami kesulitan.",
"rekomendasi": [],
"rekomendasi_teknis_bansos": null,
"program_tidak_sesuai": [
{
"nama_program": "PKH Plus (Lanjut Usia 70+)",
"status": "TIDAK_ELIGIBLE",
"alasan": "Warga tidak memenuhi kriteria juknis lantaran usia yang bersangkutan baru 25 tahun (belum mencapai batas lansia 70 tahun), dan tingkat kesejahteraan berada pada desil 10 (melampaui batas desil 4)."
},
{
"nama_program": "Asistensi Sosial Penyandang Disabilitas (ASPD)",
"status": "TIDAK_ELIGIBLE",
"alasan": "Warga tidak memenuhi syarat program ASPD. Berdasarkan rekaman indikator fungsional, dimensi mengurus diri terpantau 'Tidak mengalami kesulitan' dan berjalan terpantau 'Tidak mengalami kesulitan', sehingga tidak masuk dalam kategori disabilitas berat yang membutuhkan asistensi sosial berkelanjutan."
}
]
}
Uploaded finetuned model
- Developed by: redityaa
- License: apache-2.0
- Finetuned from model : unsloth/qwen3-8b-base-unsloth-bnb-4bit
This qwen3 model was trained 2x faster with Unsloth and Huggingface's TRL library.
- Downloads last month
- 102
