Update README.md

README.md

@@ -25,6 +25,47 @@ You can access the fine-tuning code below.
 ## Example Usage
 You can use the adapter model with PEFT.
 
+`from peft import PeftModel, PeftConfig
+from transformers import AutoModelForCausalLM, AutoTokenizer
+
+base_model = AutoModelForCausalLM.from_pretrained("unsloth/llama-3-8b-bnb-4bit")
+model = PeftModel.from_pretrained(base_model, "myzens/llama3-8b-tr-finetuned")
+tokenizer = AutoTokenizer.from_pretrained("myzens/llama3-8b-tr-finetuned")
+
+alpaca_prompt = """
+Instruction:
+{}
+
+Input:
+{}
+
+Response:
+{}"""
+
+inputs = tokenizer([
+    alpaca_prompt.format(
+        "",
+        "Ankara'da gezilebilecek 3 yeri söyle ve ne olduklarını kısaca açıkla.",
+        "",
+)], return_tensors = "pt").to("cuda")
+
+
+outputs = model.generate(**inputs, max_new_tokens=256)
+print(tokenizer.decode(outputs[0], skip_special_tokens=True))`
+
+Output:
+
+`Instruction:
+
+
+Input:
+Ankara'da gezilebilecek 3 yeri söyle ve ne olduklarını kısaca açıkla.
+
+Response:
+1. Anıtkabir - Mustafa Kemal Atatürk'ün mezarı
+2. Gençlik ve Spor Sarayı - spor etkinliklerinin yapıldığı yer
+3. Kızılay Meydanı - Ankara'nın merkezinde bulunan bir meydan`
+
 ### **Important Notes** 
-- You should use an Alpaca Prompt Template or another template, otherwise you can see generations with no meanings or repeating the same sentence constantly. 
+- We recommend you to use an Alpaca Prompt Template or another template, otherwise you can see generations with no meanings or repeating the same sentence constantly. 
 - Use the model with a CUDA supported GPU.