NOVA PRIME
Capacidad y razonamiento
Una nueva dimensión de inteligencia bajo Moderno Tech.
Nova Prime es un modelo de lenguaje de arquitectura Mixture of Experts (MoE), diseñado para tareas avanzadas de comprensión, razonamiento, programación, análisis y procesamiento multimodal.
Forma parte de la familia Nova AI, el ecosistema de inteligencia artificial desarrollado y distribuido bajo la identidad de Moderno Tech.
- Organización: Moderno Tech
- Familia: Nova AI
- Modelo: Nova Prime
- Versión de distribución: 2.0
- Arquitectura: Mixture of Experts (MoE)
- Modalidades: texto, imagen y video
- Parámetros totales: 35 mil millones
- Parámetros activos: aproximadamente 3 mil millones
- Contexto nativo: 262.144 tokens
Sitio oficial: https://moderno.com.ar
1. Visión general
Nova Prime está orientado a ofrecer capacidades avanzadas de inteligencia artificial mediante una arquitectura especializada que activa selectivamente sus expertos durante la inferencia.
Su diseño combina:
- Razonamiento avanzado.
- Comprensión de instrucciones complejas.
- Programación y desarrollo de software.
- Análisis de documentos.
- Procesamiento de imágenes.
- Comprensión de video.
- Interacción con herramientas y agentes.
- Manejo de contextos extensos.
- Resolución de problemas matemáticos y científicos.
Su arquitectura MoE permite seleccionar una parte de los expertos disponibles para cada token, en lugar de activar todos los expertos simultáneamente.
Esto no significa que el modelo ocupe solamente la memoria correspondiente a sus parámetros activos: los pesos completos, los componentes compartidos, la caché KV y los buffers también requieren memoria.
2. Arquitectura del modelo
| Característica | Especificación |
|---|---|
| Arquitectura | Causal Language Model con Vision Encoder |
| Diseño | Mixture of Experts |
| Parámetros totales | 35B |
| Parámetros activos | 3B |
| Dimensión oculta | 2048 |
| Embeddings | 248.320 |
| Capas | 40 |
| Expertos totales | 256 |
| Expertos activados | 8 routed + 1 shared |
| Dimensión intermedia de expertos | 512 |
| Predicción multietapa | Multi-Token Prediction |
| Contexto nativo | 262.144 tokens |
| Contexto extendido | Hasta 1.010.000 tokens mediante configuración compatible |
Estructura interna
La arquitectura combina dos mecanismos de procesamiento:
- Gated DeltaNet.
- Gated Attention.
Distribución de bloques:
10 × (3 × (Gated DeltaNet → MoE) + 1 × (Gated Attention → MoE))
Gated DeltaNet
- 32 cabezas lineales para V.
- 16 cabezas para QK.
- Dimensión de cabeza: 128.
Gated Attention
- 16 cabezas Q.
- 2 cabezas KV.
- Dimensión de cabeza: 256.
- Dimensión RoPE: 64.
Mixture of Experts
- 256 expertos disponibles.
- 8 expertos routed por token.
- 1 experto compartido.
- Dimensión intermedia: 512.
La arquitectura también incorpora entrenamiento con Multi-Token Prediction (MTP).
3. Capacidades principales
Razonamiento y análisis
Nova Prime está diseñado para abordar problemas complejos, análisis estructurados, comprensión contextual y tareas que requieren múltiples etapas de procesamiento.
Programación
Capacidades documentadas en el modelo de referencia:
- Desarrollo de aplicaciones.
- Comprensión de repositorios.
- Generación y modificación de código.
- Resolución de problemas de programación.
- Flujos de trabajo de desarrollo asistidos por agentes.
- Uso de herramientas de terminal y edición de archivos.
Inteligencia multimodal
La arquitectura incorpora un codificador visual y admite:
- Comprensión de imágenes.
- Reconocimiento de texto en imágenes.
- Análisis de documentos.
- Comprensión de contenido visual.
- Procesamiento de video mediante frameworks compatibles.
Agentes y herramientas
El modelo admite escenarios de uso con herramientas, llamadas a funciones y sistemas de agentes.
La integración concreta depende del framework de inferencia y de la implementación del sistema de herramientas.
4. Contexto extendido
Nova Prime dispone de una longitud de contexto nativa de 262.144 tokens.
Con configuraciones compatibles de escalado RoPE mediante YaRN, puede extenderse hasta 1.010.000 tokens.
La extensión requiere configuración específica del framework. No debe considerarse una capacidad automáticamente habilitada en cualquier implementación.
Para preservar las capacidades de razonamiento en tareas extensas, la documentación de referencia recomienda mantener al menos 128K tokens cuando los recursos disponibles lo permitan.
5. Evaluaciones y benchmarks
Los siguientes resultados corresponden a las evaluaciones publicadas por los desarrolladores del checkpoint de referencia. No son benchmarks realizados por Moderno Tech ni resultados de una evaluación independiente de Nova Prime.
Coding Agent
| Benchmark | Resultado publicado |
|---|---|
| SWE-bench Verified | 73.4 |
| SWE-bench Multilingual | 67.2 |
| SWE-bench Pro | 49.5 |
| Terminal-Bench 2.0 | 51.5 |
| Claw-Eval Avg | 68.7 |
| SkillsBench Avg | 28.7 |
| QwenClawBench | 52.6 |
| NL2Repo | 29.4 |
| QwenWebBench | 1397 |
General Agent
| Benchmark | Resultado publicado |
|---|---|
| TAU3-Bench | 67.2 |
| VITA-Bench | 35.6 |
| DeepPlanning | 25.9 |
| Tool Decathlon | 26.9 |
| MCPMark | 37.0 |
| MCP-Atlas | 62.8 |
| WideSearch | 60.1 |
Conocimiento y razonamiento
| Benchmark | Resultado publicado |
|---|---|
| MMLU-Pro | 85.2 |
| MMLU-Redux | 93.3 |
| SuperGPQA | 64.7 |
| C-Eval | 90.0 |
| GPQA | 86.0 |
| HLE | 21.4 |
| LiveCodeBench v6 | 80.4 |
| AIME26 | 92.7 |
Visión y comprensión multimodal
| Benchmark | Resultado publicado |
|---|---|
| MMMU | 81.7 |
| MMMU-Pro | 75.3 |
| MathVista Mini | 86.4 |
| RealWorldQA | 85.3 |
| MMBench EN | 92.8 |
| SimpleVQA | 58.9 |
| HallusionBench | 69.8 |
| OmniDocBench 1.5 | 89.9 |
| CC-OCR | 81.9 |
| VideoMMMU | 83.7 |
Los resultados dependen del protocolo, el entorno, los parámetros de generación y las herramientas utilizadas. Consultar la documentación de evaluación del modelo de referencia para conocer las condiciones específicas.
6. Uso e inferencia
Nova Prime utiliza el formato de modelos compatible con Hugging Face Transformers.
La compatibilidad con otros motores depende de sus versiones y del soporte de la arquitectura.
Frameworks documentados para el checkpoint de referencia:
- Hugging Face Transformers.
- vLLM.
- SGLang.
- KTransformers.
Para despliegues de alto rendimiento, los requisitos de hardware y memoria deben evaluarse antes de seleccionar el motor.
Parámetros de generación
Razonamiento general
- Temperature: 1.0
- Top P: 0.95
- Top K: 20
- Min P: 0.0
- Presence Penalty: 1.5
- Repetition Penalty: 1.0
Programación precisa
- Temperature: 0.6
- Top P: 0.95
- Top K: 20
- Min P: 0.0
- Presence Penalty: 0.0
- Repetition Penalty: 1.0
Modo directo / Instruct
- Temperature: 0.7
- Top P: 0.80
- Top K: 20
- Min P: 0.0
- Presence Penalty: 1.5
- Repetition Penalty: 1.0
Los parámetros disponibles pueden variar según el framework.
7. Modo de razonamiento
Nova Prime opera con razonamiento habilitado por defecto en la configuración de referencia.
El modelo puede generar bloques de razonamiento identificados mediante las etiquetas internas correspondientes.
Para obtener respuestas directas sin activar el modo de razonamiento, los frameworks compatibles permiten deshabilitarlo mediante sus parámetros de plantilla de chat.
La configuración de preservación de razonamiento histórico también puede utilizarse para conservar el contexto de razonamiento entre mensajes en escenarios de agentes.
Estas funciones dependen del soporte de la implementación utilizada.
8. Procesamiento multimodal
Entrada de imágenes
El modelo puede recibir imágenes junto con instrucciones de texto mediante una API compatible con su arquitectura multimodal.
Entrada de video
La comprensión de video está disponible mediante frameworks compatibles que implementen el procesamiento de fotogramas y la preparación de datos multimodales.
La frecuencia de muestreo y la cantidad de fotogramas afectan el consumo de recursos.
Documentos
El modelo incluye capacidades de comprensión visual y reconocimiento de texto, útiles para analizar documentos, imágenes y contenido estructurado.
9. Uso con agentes
Nova Prime está preparado para integrarse en flujos de trabajo con agentes y herramientas externas.
Los posibles escenarios incluyen:
- Agentes de programación.
- Automatización de tareas.
- Análisis de repositorios.
- Interacción con sistemas de archivos.
- Herramientas MCP.
- Ejecución de flujos de trabajo.
- Asistencia técnica y desarrollo de software.
Las herramientas deben ser configuradas y autorizadas por la aplicación que ejecuta el modelo. El modelo no obtiene acceso automático al sistema operativo ni a los archivos del usuario.
10. Integración con el ecosistema Moderno Tech
Nova Prime forma parte de la familia Nova AI.
Su integración futura puede contemplar:
- Nova Home: interacción y asistencia inteligente.
- Nova Creative: generación y creación multimedia.
- Moderno OS: ejecución de modelos y agentes.
- Moderno Neural Engine: inferencia local y gestión de modelos MoE.
- Moderno Model Factory: entrenamiento, ajuste, evaluación y conversión de modelos.
Estas integraciones requieren sus respectivas implementaciones. Su mención en este documento no implica que todas estén habilitadas dentro del repositorio actual.
Sitio oficial: https://moderno.com.ar
11. Licencia, procedencia y atribución
Importante: esta distribución utiliza como base un checkpoint preentrenado de terceros.
La identidad de producto, presentación y distribución corresponde a Moderno Tech, pero los pesos originales no deben presentarse como entrenados desde cero por Moderno Tech.
Se deben conservar la licencia original, los avisos de copyright, la atribución y los términos de uso aplicables al repositorio de origen.
Consultar el archivo LICENSE y los avisos legales incluidos en este repositorio antes de utilizar o redistribuir el modelo.
La documentación técnica y los resultados publicados por los desarrolladores originales deben atribuirse a sus respectivas fuentes.
12. Referencias técnicas
- Documentación del checkpoint de referencia: Qwen3.6-35B-A3B.
- Arquitectura y especificaciones técnicas: documentación original del modelo.
- Frameworks de inferencia: Transformers, vLLM, SGLang y KTransformers.
- Referencias de evaluación: documentación y resultados publicados por los desarrolladores del checkpoint.
13. Identidad
NOVA AI
Desarrollado y distribuido bajo la identidad de:
MODERNO TECH
Inteligencia que evoluciona. Tecnología que transforma.
- Downloads last month
- -