Fine-tune
#7
by
Korap
- opened
Подскажите, а есть код того как обучали эту модель, хочется сделать fine-tune поверх нее. Может есть какие-либо отличия с кодом fine-tune llama модели?
Привет, отличий нет, надо только поверх слитой версии учить (https://huggingface.co/IlyaGusev/saiga_mistral_7b_merged).
А код всё там же: https://github.com/IlyaGusev/rulm/blob/master/self_instruct/src/train.py
Korap
changed discussion status to
closed