Erik1228/EAI.TinyAI

🚀 EAI v1.2 (Lua & Roblox Specialist)

EAI v1.2 — это кастомная дообученная модель на базе Qwen2.5-0.5B-Instruct, специализирующаяся на генерации кода на Lua и создании скриптов для Roblox Studio. Модель создана для локального использования и работы в офлайн-режиме без задержек сети.

📊 Детали обучения

Модель была обучена с нуля (Fine-Tuning) на ограниченных вычислительных ресурсах, что делает её отличным примером эффективного QLoRA-тюнинга.

• Базовая модель: Qwen 2.5 0.5B Instruct
• Метод: QLoRA (4-битное квантование) с использованием библиотеки Unsloth (обучено всего 1.75% параметров).
• Железо: Обучено на ноутбуке с одной видеокартой NVIDIA RTX 4050 Laptop GPU (6 GB VRAM).
• Датасет: 20 000 уникальных примеров с кодом Lua, Roblox API и агентскими рассуждениями (в формате <think>).
• Контекстное окно: 4096 токенов.
• Формат: GGUF (Q4_K_M, Q8_0 и др.), сконвертирован через llama.cpp.

⚡ Производительность

При запуске локально (например, в LM Studio или через llama.cpp) на RTX 4050 модель выдает ~180 токенов в секунду. Она занимает менее 400 МБ памяти в квантовании Q4 и работает в 10 раз быстрее облачных API за счет отсутствия сетевых задержек.

🧠 Пример использования (System Prompt)

Для получения наилучших результатов обязательно используйте системный промпт, так как модель специализирована на коде:

Ты — EAI v1.2, профессиональный эксперт по программированию на Lua и Roblox Studio. 
Твоя главная задача — писать чистый и рабочий код. 
Отвечай кратко, по делу, используя блоки кода ```lua. 
Не пиши длинных объяснений, если тебя об этом не просят.