library_name: exllamav2 | |
language: | |
- ru | |
- en | |
license: apache-2.0 | |
tags: [instruct] | |
# Релиз вихря 0.5* | |
Долили сильно больше данных в sft, теперь стабильнее работает json и multiturn, слегка подточили параметры претрена модели, добавили RoPE на 32к контекста | |
Added a lot more data to sft, now json and multiturn work more stable on long context and hard prompts | |
- [HF model](https://huggingface.co/Vikhrmodels/it-5.3-fp16-32k) | |