osmanozaydin/opendec-multi-256m

⚡ OpenDec Multi 256M

Ultra-Fast Multimodal Decision Intelligence Model (System One Model)

🌐 Language / Dil: English | 🇹🇷 Türkçe Açıklama İçin Tıklayın

---

🌟 What is OpenDec Multi?

OpenDec Multi is fundamentally different from conversational chatbots (LLMs) or traditional image captioning models.

It is an open-source "System One" Decision Intelligence Model (inspired by TypeSafe AI's Jev concept, but fully open-source and natively multimodal). Its sole purpose is to evaluate images, texts, or both, and produce typed, probabilistic, and calibrated decisions in milliseconds (<100ms) without slow, token-by-token autoregressive text decoding.

Unlike generative models that try to output verbose JSON character-by-character, OpenDec Multi produces decisions directly from dedicated neural decision heads into tensors. This guarantees zero JSON syntax errors, minimal hallucination risk, and 3x to 5x faster inference speeds.

---

⚡ Speed & Latency (RTX 4060 Ti)

• Text-Only Decisions: ~75 - 85 ms
• Multimodal (Image + Text) Decisions: ~90 - 100 ms (GPU Forward Pass)
• High Decision Certainty:
  • 99.12% confidence on real-time traffic junction decisions.
  • 98.74% accuracy on critical system incident triage.
• Safety & Selective Prediction:
  • When presented with ambiguous or conflicting inputs, the model does not guess randomly. It triggers needs_review: true to alert human operators.

---

📥 Supported Input Formats

1. Images: Autonomous dashcam footage, documents, invoices, industrial camera frames, UI screenshots.
2. Text: System logs, user instructions, sensor telemetry, state descriptions.
3. Multimodal (Image + Text): Both visual and textual context processed together.
4. Multiple Questions at Once: Evaluates multiple independent questions across the same shared multimodal state simultaneously in a single forward pass.

---

📤 Typed Decision Primitives

• Choice: Selects the best option among candidates with a full calibrated probability distribution.
  • Example: ['red', 'yellow', 'green'] $\rightarrow$ red (99.12% confidence)
• Binary / Noul (Yes / No): Evaluates whether a proposition holds true with exact calibrated probability.
  • Example: "Is it safe to proceed without stopping?" $\rightarrow$ False (98.7% certainty, 1.3% True)
• Score (Rubric Rating): Computes expected continuous score across rating scales (1 to 5 or 1 to 10).
  • Example: "Urgency of emergency braking" $\rightarrow$ 4.94 / 5
• Confidence & Uncertainty: Normalized entropy and probability margin to measure true decision reliability.

---

🛠️ Real-World Use Cases & Applications

• 🚗 Autonomous Driving & Robotics: Sub-100ms traffic light recognition, obstacle crossing safety, and reflexive braking urgency decisions.
• 🖥️ SRE & Cloud Incident Triage: Instantly analyze error spikes, classify incident priority (Critical vs Low), and decide whether to page on-call engineers.
• 📄 Document & Financial Verification: Check approval stamps, signature matching, and authorize invoice payments.
• 🏭 Industrial Quality Control: Inspect manufacturing components on conveyor belts in real-time to flag defective parts.
• 🛡️ Cybersecurity & Threat Isolation: Inspect server attack signatures and trigger instant IP blocking decisions.

---

💻 Quickstart (Python)

from PIL import Image
from opendec.inference.engine import OpenDecInferenceEngine

# 1. Initialize Engine (Runs seamlessly on GPU or CPU)
engine = OpenDecInferenceEngine(
    model_id="osmanozaydin/opendec-multi-256m",
    device="cuda"
)

# 2. Define State & Decision Questions
image = Image.open("intersection_camera.jpg")
state_text = "Autonomous vehicle approaching urban junction. Speed: 50 km/h. Distance: 35m."

questions = {
    "traffic_light": {
        "type": "choice",
        "text": "What is the active traffic light color signal?",
        "options": ["red", "yellow", "green", "unknown"]
    },
    "safe_to_proceed": {
        "type": "binary",
        "text": "Is it safe for vehicle to proceed through junction without stopping?"
    },
    "braking_urgency": {
        "type": "score",
        "levels": 5,
        "text": "Emergency braking urgency score (1: Free flow, 5: Maximum stop)"
    }
}

# 3. Obtain Typed Decisions in Sub-100ms
results = engine.infer(state=state_text, image_input=image, questions=questions)

print(results["decisions"])
# Output:
# 'traffic_light': {'value': 'red', 'confidence': 0.9912}
# 'safe_to_proceed': {'decision': False, 'probability': 0.013}
# 'braking_urgency': {'score': 4.94, 'confidence': 0.974}

---

🇹🇷 Türkçe Model Kartı (Tıklayarak Genişletin / Click to Expand)

⚡ OpenDec Multi 256M

Ultra Hızlı Çok Modlu Karar Zekâsı Modeli (System One Model)

OpenDec Multi, klasik metin üreten sohbet botlarından (LLM) veya uzun hikayeler anlatan vision modellerinden çok farklıdır.

Bu model bir "System One" Hızlı Karar Modelidir (TypeSafe AI'ın Jev konseptinin açık kaynaklı ve multimodal karşılığı). Amacı; kamera görüntüleri, taranmış evraklar, sistem logları veya telemetri verilerini alıp saniyenin onda birinden kısa sürede (sub-100ms) doğrudan tip güvenli, olasılıksal ve net kararlar üretmektir.

Klasik modeller gibi kelime kelime (token-by-token) metin veya JSON üretmeye çalışmaz; kararları doğrudan özel yapay zeka karar başlıklarından tensör olarak çıkarır. Bu sayede JSON bozulması yaşanmaz, halüsinasyon riski minimize edilir ve 3-5 kat daha hızlı çalışır.

---

🚀 Öne Çıkan Özellikler ve Hız

• ⚡ Ultra Düşük Gecikme (Latency):
  • Yalnızca Metin Kararları: ~75 - 85 ms (RTX 4060 Ti)
  • Görsel + Metin (Multimodal) Kararları: ~90 - 100 ms (GPU Forward)
• 🎯 Karar Kesinliği (Doğruluk):
  • Kırmızı ışık & kritik kavşak senaryolarında %99.12 karar güveni.
  • Kritik sistem arızalarında %98.74 öncelik sınıflandırma kesinliği.
• 🛡️ Güvenli Karar Alma (Abstention / Needs Review):
  • Belirsiz, gürültülü veya aşırı çelişkili durumlarda model rastgele tahmin yapmak yerine otomatik olarak needs_review: true uyarısı vererek insan denetimine yönlendirir.

---

📥 Hangi Girdileri Kabul Eder?

1. Görsel: Fotoğraflar, otonom araç kamera kareleri, taranmış resmi evraklar, fabrika üretim parçaları.
2. Metin: Sunucu hata logları, sensör telemetri verileri, kullanıcı komutları, JSON durumları.
3. Görsel + Metin: Görsel ile onu açıklayan durum bilgisinin birlikte verildiği çok modlu bağlam.
4. Çoklu Karar Soruları: Tek bir görseli yalnızca bir kez işleyerek aynı anda 5 farklı bağımsız soruya eşzamanlı yanıt verebilir.

---

📤 Hangi Karar Türlerini Üretir?

• Choice (Seçenek Kararı): Verilen seçenekler arasından en doğrusunu ve tüm seçeneklerin kalibre edilmiş olasılıklarını seçer.
  • Örnek: ['kirmizi', 'sari', 'yesil'] $\rightarrow$ kirmizi (%99.1)
• Binary / Noul (Evet / Hayır): Bir durumun geçerli olup olmadığını ve net olasılığını hesaplar.
  • Örnek: "Kavşaktan durmadan geçmek güvenli mi?" $\rightarrow$ False (%1.3 Evet / %98.7 Kesinlikle Hayır)
• Score (Puanlama & Derecelendirme): 1 ile 5 veya 1 ile 10 arasında beklenen şiddet derecesini hesaplar.
  • Örnek: "Frenleme aciliyeti" $\rightarrow$ 4.94 / 5
• Probabilistic Distribution: Softmax ve Brier skoru ile doğrulanmış gerçek olasılık değerleri.

---

🛠️ Nerelerde ve Hangi Alanlarda Kullanılabilir?

• 🚗 Otonom Sürüş & Robotik: Trafik lambası rengi tespiti, kavşak geçiş güvenliği, acil fren şiddetinin saniyenin onda birinde karara bağlanması.
• 🖥️ SRE & Bulut Sistem Yönetimi: Veritabanı ve CPU loglarındaki çökmeleri anında fark edip "Olay önceliği: Acil", "Nöbetçi mühendisi ara: Evet" kararlarını otomatik verme.
• 📄 Evrak & Finans Onayı: Taranmış faturalarda mühür/imza doğrulaması yapıp "Ödeme onayı ver: Evet/Hayır" kararı alma.
• 🏭 Endüstriyel Kalite Kontrol: Fabrika üretim bandından geçen parçaların fotoğraflarından "Hatalı parça ayır: Evet", "Kusur derecesi: 5" tespiti yapma.
• 🛡️ Siber Güvenlik & Tehdit Algılama: Anormal sunucu trafiklerinde anında "IP'yi engelle: Evet" komutu üretme.

---

💻 Türkçe Hızlı Başlangıç

from PIL import Image
from opendec.inference.engine import OpenDecInferenceEngine

# 1. Modeli Başlat
engine = OpenDecInferenceEngine(
    model_id="osmanozaydin/opendec-multi-256m",
    device="cuda"
)

# 2. Durum ve Soruları Tanımla
image = Image.open("kavsak_kamerasi.jpg")
state_text = "Otonom araç kavşağa yaklaşıyor. Hız: 50 km/s."

questions = {
    "aktif_isik": {
        "type": "choice",
        "text": "Trafik ışığında aktif yanan renk hangisidir?",
        "options": ["kirmizi", "sari", "yesil", "belirsiz"]
    },
    "gecis_guvenli_mi": {
        "type": "binary",
        "text": "Aracın durmadan geçmesi güvenli mi?"
    },
    "fren_aciliyeti": {
        "type": "score",
        "levels": 5,
        "text": "Fren yapma aciliyeti (1: Düşük, 5: Maksimum)"
    }
}

# 3. Milisaniyeler İçinde Karar Al
sonuclar = engine.infer(state=state_text, image_input=image, questions=questions)
print(sonuclar["decisions"])

---

📜 License

This model is distributed under the Apache 2.0 license. Free for both commercial and research use.