Spaces:
Sleeping
Sleeping
3b에서 1b로 변경
Browse files
app.py
CHANGED
@@ -12,7 +12,7 @@ login(os.getenv("ACCESS_TOKEN")) # ACCESS_TOKEN을 환경 변수에서 불러
|
|
12 |
prompt_template = Template("Human: ${inst} </s> Assistant: ")
|
13 |
|
14 |
# 모델과 토크나이저 로드
|
15 |
-
model_name = "meta-llama/Llama-3.2-
|
16 |
tokenizer = AutoTokenizer.from_pretrained(model_name, use_fast=False)
|
17 |
model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.float16, device_map="cpu").eval()
|
18 |
|
|
|
12 |
prompt_template = Template("Human: ${inst} </s> Assistant: ")
|
13 |
|
14 |
# 모델과 토크나이저 로드
|
15 |
+
model_name = "meta-llama/Llama-3.2-1b-instruct" # 모델 경로
|
16 |
tokenizer = AutoTokenizer.from_pretrained(model_name, use_fast=False)
|
17 |
model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.float16, device_map="cpu").eval()
|
18 |
|