Instructions to use OpenPathAI/Orbit-3-VL-Flash with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use OpenPathAI/Orbit-3-VL-Flash with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="OpenPathAI/Orbit-3-VL-Flash") messages = [ {"role": "user", "content": "Who are you?"}, ] pipe(messages)# Load model directly from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("OpenPathAI/Orbit-3-VL-Flash") model = AutoModelForCausalLM.from_pretrained("OpenPathAI/Orbit-3-VL-Flash", device_map="auto") messages = [ {"role": "user", "content": "Who are you?"}, ] inputs = tokenizer.apply_chat_template( messages, add_generation_prompt=True, tokenize=True, return_dict=True, return_tensors="pt", ).to(model.device) outputs = model.generate(**inputs, max_new_tokens=40) print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:])) - PEFT
How to use OpenPathAI/Orbit-3-VL-Flash with PEFT:
Task type is invalid.
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use OpenPathAI/Orbit-3-VL-Flash with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "OpenPathAI/Orbit-3-VL-Flash" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "OpenPathAI/Orbit-3-VL-Flash", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker
docker model run hf.co/OpenPathAI/Orbit-3-VL-Flash
- SGLang
How to use OpenPathAI/Orbit-3-VL-Flash with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "OpenPathAI/Orbit-3-VL-Flash" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "OpenPathAI/Orbit-3-VL-Flash", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "OpenPathAI/Orbit-3-VL-Flash" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "OpenPathAI/Orbit-3-VL-Flash", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }' - Docker Model Runner
How to use OpenPathAI/Orbit-3-VL-Flash with Docker Model Runner:
docker model run hf.co/OpenPathAI/Orbit-3-VL-Flash
# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM
tokenizer = AutoTokenizer.from_pretrained("OpenPathAI/Orbit-3-VL-Flash")
model = AutoModelForCausalLM.from_pretrained("OpenPathAI/Orbit-3-VL-Flash", device_map="auto")
messages = [
{"role": "user", "content": "Who are you?"},
]
inputs = tokenizer.apply_chat_template(
messages,
add_generation_prompt=True,
tokenize=True,
return_dict=True,
return_tensors="pt",
).to(model.device)
outputs = model.generate(**inputs, max_new_tokens=40)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:]))Orbit-3-VL-Flash
Model Bahasa Hukum Indonesia berbasis Qwen3 yang di-fine-tune untuk menjawab pertanyaan seputar hukum, peraturan di Indonesia, dan pertanyaan umum.
Ringkasan
Orbit-3-VL-Flash adalah model bahasa yang di-fine-tune dari Qwen/Qwen3-4B-Instruct-2507 menggunakan dataset tanya jawab hukum Indonesia. Model ini dirancang untuk memberikan jawaban yang informatif dan terstruktur seputar topik hukum, peraturan perundang-undangan, dan permasalahan legal yang umum di Indonesia.
Model ini dikembangkan untuk membantu:
- Menjawab pertanyaan hukum umum
- Memberikan penjelasan tentang peraturan perundang-undangan
- Membantu memahami istilah-istilah hukum
- Memberikan referensi awal terkait permasalahan hukum
- Membantu penyelesaian dan penalaran masalah umum
Arsitektur Model
| Komponen | Detail |
|---|---|
| Model Dasar | Qwen/Qwen3-4B-Instruct-2507 |
| Jenis Model | Causal Language Model (Decoder-only) |
| Total Parameter | 4 Miliar |
| Metode Fine-tuning | LoRA (Low-Rank Adaptation) |
| Presisi | FP16 |
| Panjang Konteks | 512 token (saat pelatihan) |
| Bahasa | Indonesia, Inggris |
Konfigurasi Pelatihan
| Parameter | Nilai |
|---|---|
| Dataset | biznetgio/indonesia-law-qa-embeddings |
| Epoch Pelatihan | 3 |
| Learning Rate | 2e-4 |
| Ukuran Batch | 2 (per perangkat) |
| Akumulasi Gradien | 16 |
| Optimizer | AdamW |
| Maksimal Sequence Length | 512 token |
Konfigurasi LoRA
| Parameter | Nilai |
|---|---|
| LoRA Rank (r) | 16 |
| LoRA Alpha | 32 |
| LoRA Dropout | 0.05 |
| Bias | Tidak ada |
| Modul Target | q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj |
Panduan Penggunaan
Instalasi
pip install transformers torch accelerate
Penggunaan Dasar
from transformers import AutoModelForCausalLM, AutoTokenizer
import torch
MODEL_NAME = "OpenPathAI/Orbit-3-VL-Flash"
# Muat tokenizer dan model
tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME)
model = AutoModelForCausalLM.from_pretrained(
MODEL_NAME,
torch_dtype=torch.float16,
device_map="auto",
)
# Format prompt
pertanyaan = "Apa saja syarat sah sebuah perjanjian menurut hukum Indonesia?"
prompt = f"### Instruction:\n{pertanyaan}\n\n### Response:\n"
# Tokenisasi
inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
# Generate jawaban
with torch.no_grad():
outputs = model.generate(
**inputs,
max_new_tokens=256,
temperature=0.7,
top_p=0.9,
do_sample=True,
pad_token_id=tokenizer.eos_token_id,
)
response = tokenizer.decode(outputs[0], skip_special_tokens=True)
response = response.replace(prompt, "").strip()
print(response)
Format Percakapan
Format Standar :
### Instruction:
[Pertanyaan hukum Anda]
### Response:
[Jawaban dari model]
Contoh
Masukan:
### Instruction:
Bagaimana proses pembuatan PT di Indonesia?
### Response:
Keluaran:
Proses pembuatan PT (Perseroan Terbatas) di Indonesia meliputi beberapa tahap:
1. Persiapan dokumen
2. Pengajuan nama PT ke Kemenkumham
3. Pembuatan akta notaris
4. Pengesahan dari Kemenkumham
5. Pendaftaran NPWP
...
Kasus Penggunaan
Penggunaan yang Disarankan
- Edukasi dan pembelajaran hukum
- Asisten penelitian hukum awal
- Penjelasan istilah dan konsep hukum
- Referensi awal peraturan perundang-undangan
Keterbatasan
Keterbatasan Deskripsi Bukan Pengganti Konsultasi Hukum Model ini tidak menggantikan nasihat hukum profesional Akurasi Informasi Mungkin menghasilkan informasi yang tidak akurat atau usang Perubahan Regulasi Hukum dan peraturan dapat berubah sewaktu-waktu Cakupan Terbatas Mungkin tidak mencakup semua aspek hukum yang spesifik
Pertimbangan Etis
Pedoman Penggunaan yang Bertanggung Jawab
Pedoman Deskripsi Edukasi Gunakan untuk tujuan pembelajaran dan penelitian Verifikasi Selalu verifikasi jawaban dengan sumber hukum resmi Profesional Konsultasikan dengan ahli hukum untuk keputusan penting Tidak Menyalahgunakan Jangan gunakan untuk memberikan nasihat hukum ilegal
Disclaimer
Model ini dikembangkan untuk tujuan edukasi dan penelitian. Jawaban yang dihasilkan oleh model ini bukan merupakan nasihat hukum resmi. Selalu konsultasikan permasalahan hukum Anda dengan advokat atau konsultan hukum yang berkompeten.
Lisensi
Model ini dilisensikan di bawah Apache License 2.0. Lihat LICENSE untuk detail lebih lanjut.
Sitasi
Jika Anda menggunakan model ini dalam penelitian, silakan sitasi:
@misc{orbit-qwen3-4b-law-indonesia,
author = {Tim OpenPathAI},
title = {Orbit-Qwen3-4B-Law-Indonesia: Model Bahasa Hukum Indonesia berbasis Qwen3},
year = {2026},
publisher = {Hugging Face},
howpublished = {\url{https://huggingface.co/OpenPathAI/Orbit-Qwen3-4B-Law-Indonesia}}
}
Kontak
Saluran Detail Organisasi OpenPathAI Repositori Model Hugging Face Model Dasar Qwen3-4B-Instruct-2507 Dataset indonesia-law-qa-embeddings
Dikembangkan oleh OpenPathAI
Model ini di-fine-tune menggunakan LoRA dan di-merge dengan model dasar untuk kemudahan penggunaan.
- Downloads last month
- 98
Model tree for OpenPathAI/Orbit-3-VL-Flash
Base model
Qwen/Qwen3-4B-Instruct-2507
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="OpenPathAI/Orbit-3-VL-Flash") messages = [ {"role": "user", "content": "Who are you?"}, ] pipe(messages)