اشکال در اجرای مدل با LM Studio
#2
by
sanaweb
- opened
با سلام
ضمن تشکر جهت آماده سازی این مدل عرض شود که در تست به عمل آمده این مدل با نرم افزار
LM Studio
اجرا نمیشود و خطای زیر را ارسال میکند لطفاً راهنمایی کنید
"llama.cpp error: 'error loading model vocabulary: unknown pre-tokenizer type: 'smaug-bpe''"
سلام
من خودم فقط با Kobold و روی Colab تست کردم
اما LM Studio شما آپدیت هست و مدل های دیگه Llama 3 رو اجرا میکنه؟
البته به نظر میاد به طور کلی مشکلی از سمت llama.cpp باشه:
https://github.com/ggerganov/llama.cpp/issues/7724