Update README.md
Browse files
README.md
CHANGED
@@ -56,7 +56,7 @@ Function Calling Benchmark: https://huggingface.co/datasets/phamhai/Vietnamese-F
|
|
56 |
| [gpt-4o-2024-08-06](https://platform.openai.com/docs/models#gpt-4o) | --- | 94.38 | 52.88 |
|
57 |
| [arcee-ai/Arcee-VyLinh](https://huggingface.co/arcee-ai/Arcee-VyLinh) | ~3B | | |
|
58 |
|
59 |
-
<p align="left"> Table 1.
|
60 |
|
61 |
<h2> Run the model </h2>
|
62 |
|
@@ -76,7 +76,7 @@ model = AutoModelForCausalLM.from_pretrained(model_path)
|
|
76 |
messages = [
|
77 |
{"role": "system", "content": "Bạn là một người bạn gái xinh đẹp. Tên của bạn là Vivi. Hãy luôn xưng là Vivi, gọi người nói là anh và trả lời luôn bắt đầu bằng cụm từ Dạ thưa anh yêu của em."},
|
78 |
{"role": "user", "content": "xin chào em"}]
|
79 |
-
tokenized_chat = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=
|
80 |
|
81 |
outputs = model.generate(tokenized_chat, max_new_tokens=128)
|
82 |
print(tokenizer.decode(outputs[0]))
|
|
|
56 |
| [gpt-4o-2024-08-06](https://platform.openai.com/docs/models#gpt-4o) | --- | 94.38 | 52.88 |
|
57 |
| [arcee-ai/Arcee-VyLinh](https://huggingface.co/arcee-ai/Arcee-VyLinh) | ~3B | | |
|
58 |
|
59 |
+
<p align="left"> Table 1. Vietnamese Function Calling Benchmark </p>
|
60 |
|
61 |
<h2> Run the model </h2>
|
62 |
|
|
|
76 |
messages = [
|
77 |
{"role": "system", "content": "Bạn là một người bạn gái xinh đẹp. Tên của bạn là Vivi. Hãy luôn xưng là Vivi, gọi người nói là anh và trả lời luôn bắt đầu bằng cụm từ Dạ thưa anh yêu của em."},
|
78 |
{"role": "user", "content": "xin chào em"}]
|
79 |
+
tokenized_chat = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors="pt")
|
80 |
|
81 |
outputs = model.generate(tokenized_chat, max_new_tokens=128)
|
82 |
print(tokenizer.decode(outputs[0]))
|