Instructions to use rdvt/GLiNER2.5-Decide-ONNX with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- GLiNER
How to use rdvt/GLiNER2.5-Decide-ONNX with GLiNER:
from gliner import GLiNER model = GLiNER.from_pretrained("rdvt/GLiNER2.5-Decide-ONNX") text = "Cristiano Ronaldo dos Santos Aveiro was born on 5 February 1985 in Funchal, Madeira, Portugal." labels = ["person", "date", "location"] entities = model.predict_entities(text, labels) for entity in entities: print(entity["text"], "=>", entity["label"]) - Notebooks
- Google Colab
- Kaggle
GLiNER2.5-Decide (ONNX Mirror)
English
This repository is a mirror and backup of the official ONNX export of GLiNER2.5-Decide, optimized and verified for local neural inference in game engines and edge environments (including the GLiNER Decide for Unity plugin).
Origin and Attribution
- Original Base Model: fastino/GLiNER2.5-Decide by Fastino Labs.
- Original ONNX Export: onnx-community/GLiNER2.5-Decide-ONNX by Hugging Face ONNX Community.
- License: Apache 2.0 (Commercial and Non-Commercial use permitted).
Why this Mirror Exists
Weights and model artifacts in upstream repositories can occasionally be updated, moved, or deleted. This mirror ensures long-term availability of the exact FP16 computational graph and external weight tensors required by Unity Inference Engine (Sentis) and ONNX Runtime.
Repository Contents
.
├── onnx/
│ ├── model_fp16.onnx # FP16 computational graph (~282 KB)
│ ├── model_fp16.onnx_data # External tensor weight file (~831 MB, managed by Git LFS)
│ └── tokenizer.json # Hugging Face fast tokenizer definition
├── tokenizer.json # Root-level copy of the tokenizer for convenience
└── README.md # Documentation and usage guide
Usage in Unity 3D (via GLiNER Decide Plugin)
- Download the following 3 files:
onnx/model_fp16.onnxonnx/model_fp16.onnx_datatokenizer.json
- Place all 3 files in the same directory under your Unity project (e.g.
Assets/Models/GlinerDecide/).Note:
model_fp16.onnx_dataMUST reside in the same folder asmodel_fp16.onnxso Unity's ONNX importer can construct theModelAsset. - In Unity:
- Create a Model Spec: Assets > Create > GLiNER Decide > Inference Engine Model Spec.
- Set Model =
model_fp16.onnx. - Set TokenizerJson =
tokenizer.json. - Set Backend =
CPU(orGPU/Burst).
- Set Model =
- Create an Engine Config: Assets > Create > GLiNER Decide > Config.
- Set
BackendId=inference-engine. - Link
ModelSpecto the spec created above.
- Set
- Create a Model Spec: Assets > Create > GLiNER Decide > Inference Engine Model Spec.
Español
Este repositorio es una copia espejo (mirror y respaldo) de la exportación oficial en formato ONNX de GLiNER2.5-Decide, verificada y optimizada para inferencia neuronal local en motores de videojuegos y entornos de borde (incluyendo el plugin GLiNER Decide para Unity).
Origen y Atribución
- Modelo base original: fastino/GLiNER2.5-Decide desarrollado por Fastino Labs.
- Exportación ONNX original: onnx-community/GLiNER2.5-Decide-ONNX por Hugging Face ONNX Community.
- Licencia: Apache 2.0 (Permite uso comercial y no comercial).
Propósito de este Respaldo
Los repositorios upstream pueden sufrir cambios de versión, reestructuraciones o eliminaciones imprevistas. Este espejo garantiza la disponibilidad permanente de la versión específica FP16 con pesos externos desacoplados que requiere Unity Inference Engine (Sentis) y Microsoft ONNX Runtime.
Estructura de Archivos
.
├── onnx/
│ ├── model_fp16.onnx # Grafo de cómputo en media precisión FP16 (~282 KB)
│ ├── model_fp16.onnx_data # Archivo de pesos tensoriales externos (~831 MB, gestionado por Git LFS)
│ └── tokenizer.json # Definición del tokenizador rápido de Hugging Face
├── tokenizer.json # Copia en raíz del tokenizador para mayor comodidad
└── README.md # Documentación y guía de uso
Uso en Unity 3D (con el Plugin GLiNER Decide)
- Descarga los 3 archivos:
onnx/model_fp16.onnxonnx/model_fp16.onnx_datatokenizer.json
- Coloca los 3 archivos juntos en la misma carpeta dentro de tu proyecto Unity (por ejemplo:
Assets/Models/GlinerDecide/).Importante: El archivo
model_fp16.onnx_dataDEBE estar al lado demodel_fp16.onnxpara que el importador de Unity genere correctamente el assetModelAsset. - En Unity:
- Crea el Model Spec: Assets > Create > GLiNER Decide > Inference Engine Model Spec.
- Asigna Model =
model_fp16.onnx. - Asigna TokenizerJson =
tokenizer.json. - Elige Backend =
CPU(oGPU/Burst).
- Asigna Model =
- Crea la Configuración: Assets > Create > GLiNER Decide > Config.
- Establece
BackendId=inference-engine. - Enlaza
ModelSpeccon el spec creado en el paso anterior.
- Establece
- Crea el Model Spec: Assets > Create > GLiNER Decide > Inference Engine Model Spec.
- Downloads last month
- -