اشکال در اجرای مدل با LM Studio

#2
by sanaweb - opened

با سلام
ضمن تشکر جهت آماده سازی این مدل عرض شود که در تست به عمل آمده این مدل با نرم افزار
LM Studio
اجرا نمیشود و خطای زیر را ارسال میکند لطفاً راهنمایی کنید
"llama.cpp error: 'error loading model vocabulary: unknown pre-tokenizer type: 'smaug-bpe''"

سلام
من خودم فقط با Kobold و روی Colab تست کردم
اما LM Studio شما آپدیت هست و مدل های دیگه Llama 3 رو اجرا میکنه؟
البته به نظر میاد به طور کلی مشکلی از سمت llama.cpp باشه:
https://github.com/ggerganov/llama.cpp/issues/7724

Sign up or log in to comment