InkMic: русский LoRA-адаптер «Причесать» (Gemma 3 1B)
Небольшой LoRA-адаптер (r=16) к Gemma 3 1B IT, который расставляет знаки препинания, убирает слова-паразиты и повторы в русском тексте после распознавания речи, не меняя смысла. Используется в приложении InkMic (кнопка «Причесать» и правка при диктовке). Только русский: на других языках адаптер портит слова, поэтому приложение такие блоки не причёсывает.
- Файл:
adapter-g1b_v1.gguf(52 МБ, F32), версияg1b_v1, sha256fbd5d25c6150c6ef76a7a5f838583bfb67bd3049fb9286576a55be3a17cb489e. - База:
gemma-3-1b-it-Q4_K_M.gguf(например,ggml-org/gemma-3-1b-it-GGUF). Адаптер без базы не работает, база без адаптера отвечает хуже. - Запуск (llama.cpp b11064 и новее):
llama-server -m gemma-3-1b-it-Q4_K_M.gguf --lora adapter-g1b_v1.gguf --jinja, температура 0. - Скорость: ≈0,35 с на блок текста на видеокарте (Vulkan), ≈1,2 с на процессоре.
Ограничения
- Иногда (около 2% ответов, чаще на обрезанных на полуслове входах) модель зацикливается («все, все…»): результат нужно проверять охранником и ограничивать длину ответа.
- Это не стенограмма и не подтверждение чьих-либо слов; текст может содержать ошибки. Проверяйте результат.
- Обучающие данные не публикуются.
Лицензия
Адаптер является производным от Gemma. Использование регулируется Gemma Terms of Use (https://ai.google.dev/gemma/terms) и Gemma Prohibited Use Policy (https://ai.google.dev/gemma/prohibited_use_policy). Gemma is provided under and subject to the Gemma Terms of Use. При дальнейшем распространении сохраняйте эти условия и донесите запреты политики до получателей.
- Downloads last month
- 23
We're not able to determine the quantization variants.