beomi/llama-2-ko-7b conver gguf 방법에 대해 문의 드립니다.

#3
by aVOccaDo - opened

안녕하세요. beomi/llama-2-ko-7b 모델을 gguf로 변환하는 과정에서 실패하던 중
만들어주신 이 모델을 발견했습니다. 먼저 감사의 말씀 드립니다.

llama.cpp를 이용하여 convert 하려는 도중 다음 에러를 해결하지 못하고 있습니다.

image.png

tokenizer 파일의 손상이 문제라고 하여 다운로드를 여러가지 방법으로 시도해도 같은 결과를 얻었습니다.
혹시 이 해결방법을 알려주실 수 있을까요?

같은 파일로 transformers Autotokenizer는 잘 로드 됩니다.

Sign up or log in to comment