StevenChen16 commited on
Commit
60ddc45
·
verified ·
1 Parent(s): 2f677c5

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +3 -2
app.py CHANGED
@@ -31,8 +31,9 @@ def process_paragraph(paragraph, progress=gr.Progress()):
31
 
32
 
33
  args = dict(
34
- model_name_or_path="princeton-nlp/Llama-3-Instruct-8B-SimPO", # 使用量化的 Llama-3-8B-Instruct 模型
35
- adapter_name_or_path="StevenChen16/llama3-8b-compliance-review-adapter", # 加载保存的 LoRA 适配器
 
36
  template="llama3", # 与训练时使用的模板相同
37
  finetuning_type="lora", # 与训练时使用的微调类型相同
38
  quantization_bit=8, # 加载 4-bit 量化模型
 
31
 
32
 
33
  args = dict(
34
+ # model_name_or_path="princeton-nlp/Llama-3-Instruct-8B-SimPO", # 使用量化的 Llama-3-8B-Instruct 模型
35
+ model_name_or_path="StevenChen16/llama3-8b-compliance-review",
36
+ # adapter_name_or_path="StevenChen16/llama3-8b-compliance-review-adapter", # 加载保存的 LoRA 适配器
37
  template="llama3", # 与训练时使用的模板相同
38
  finetuning_type="lora", # 与训练时使用的微调类型相同
39
  quantization_bit=8, # 加载 4-bit 量化模型