YAML Metadata Warning:empty or missing yaml metadata in repo card
Check out the documentation for more information.
🤖 Модель: Jacob-v0.1
Базовая архитектура: YandexGPT-5-lite
Версия: 0.1 (Alpha)
Разработчик: AkulaF
Лицензия: Apache 2.0
Языки: Русский (основной), Английский
📖 Описание
Jacob-v0.1 — это легковесная языковая модель, дообученная на базе YandexGPT-5-lite. Модель оптимизирована для задач креативного письма, генерации кода и ролевого взаимодействия (Roleplay).
В отличие от базовой версии, Jacob прошел дополнительный этап тонкой настройки (Fine-tuning) на высококачественных диалоговых датасетах и литературных текстах, что делает его ответы более "человечными", эмпатичными и стилистически богатыми. Благодаря архитектуре lite, модель сохраняет высокую скорость инференса при низких требованиях к вычисл resources.
🔑 Ключевые особенности
- 🚀 Скорость: Оптимизирована для работы на потребительских GPU (от 8GB VRAM) и CPU.
- 🇷🇺 Русский язык: Глубокое понимание культурного контекста, идиом и сленга.
- 🎭 Ролевая игра: Улучшенные способности к удержанию персонажа и стиля общения.
- 💻 Кодинг: Базовая поддержка Python, JS, SQL и HTML/CSS с комментариями на русском.
🛠 Технические характеристики
| Параметр | Значение |
|---|---|
| Базовая модель | YandexGPT-5-lite |
| Параметры | ~3.5 Миллиарда (оценочно, дистиллированная версия) |
| Контекстное окно | 8,192 токена |
| Архитектура | Transformer Decoder-only |
| Квантование | Поддержка FP16, INT8, INT4 (GGUF) |
| Токенизатор | Собственный токенизатор Yandex (Byte-Pair Encoding) |
📚 Данные для обучения
Модель Jacob-v0.1 была дообучена с использованием следующих методов:
- Supervised Fine-Tuning (SFT):
- Датасет из 50,000+ пар "инструкция-ответ" на русском языке.
- Примеры художественной литературы (классика и современная проза).
- Сниппеты кода с открытым исходным кодом (лицензии MIT/Apache).
- RLHF (Reinforcement Learning from Human Feedback):
- Ранжирование ответов по критериям: полезность, безопасность, креативность.
- Фокус на снижение токсичности и галлюцинаций.
🎯 Рекомендуемые сценарии использования (Use Cases)
✅ Идеально подходит для:
- Написания постов для соцсетей и блогов.
- Генерации идей для сюжетов книг или сценариев.
- Написания простых скриптов и объяснения чужого кода.
- Чат-ботов поддержки с "дружелюбным" тоном.
- Локального запуска на ноутбуках.
❌ Не рекомендуется для:
- Медицинских или юридических консультаций (высокий риск галлюцинаций).
- Критических задач, требующих 100% точности фактов.
- Генерации вредоносного кода или обхода фильтров безопасности.
📊 Оценка качества (Benchmarks)
Тестирование проводилось на внутреннем валидационном наборе данных (RuBench-Lite).
| Метрика | YandexGPT-5-lite (Base) | Jacob-v0.1 |
|---|---|---|
| MMLU (RU) | 62.4% | 64.1% |
| Creative Writing | 58.0% | 78.5% |
| Code Generation (HumanEval) | 45.2% | 48.0% |
| Скорость (токенов/сек на RTX 3060) | 45 t/s | 42 t/s |
💻 Пример использования (Python)
Для работы с моделью рекомендуется использовать библиотеку transformers или API провайдер, поддерживающий формат GGUF.
⚠️ Ограничения и предвзятость (Limitations & Biases)
Как и любая модель версии v0.1, Jacob имеет ряд ограничений:
- Галлюцинации: Может выдумывать факты, особенно в узкоспециализированных темах (история, наука).
- Контекст: При длине контекста более 6000 токенов может "забывать" начало диалога.
- Предвзятость: Поскольку базовая модель обучалась на данных из интернета, она может воспроизводить стереотипы, присутствующие в обучающей выборке.
- Математика: Способности к сложным математическим вычислениям ограничены архитектурой
lite.