File size: 553 Bytes
38b5050 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 |
---
library_name: exllamav2
language:
- ru
- en
license: apache-2.0
tags: [instruct]
---
# Релиз вихря 0.5*
Долили сильно больше данных в sft, теперь стабильнее работает json и multiturn, слегка подточили параметры претрена модели, добавили RoPE на 32к контекста
Added a lot more data to sft, now json and multiturn work more stable on long context and hard prompts
- [HF model](https://huggingface.co/Vikhrmodels/it-5.3-fp16-32k)
|