Update README.md

README.md

@@ -69,6 +69,7 @@ prompt = """Below is an instruction that describes a task, paired with an input
 ```
 ### Inference
 ```
+#sample 1
 FastLanguageModel.for_inference(model)
 inputs = tokenizer(
 [
@@ -82,7 +83,33 @@ inputs = tokenizer(
 outputs = model.generate(**inputs, max_new_tokens = 1000, use_cache = True)
 tokenizer.batch_decode(outputs)
 
+#sample 2
 
+# prompt = Copied from above
+FastLanguageModel.for_inference(model) # Enable native 2x faster inference
+inputs = tokenizer(
+[
+    prompt.format(
+        "मानिसहरू किन मर्छन्?", # instruction
+        "रोग, बृद्धावस्था, आत्महत्या, दुर्घटना", # input
+        "", # output - leave this blank for generation!
+    )
+], return_tensors = "pt").to("cuda")
+
+from transformers import TextStreamer
+text_streamer = TextStreamer(tokenizer)
+_ = model.generate(**inputs, streamer = text_streamer, max_new_tokens = 1000)
+
+#output
+मानिसहरू मर्छन् धेरै कारणहरूको लागि, जसमा समावेश छन्:
+
+१. रोग: मानिसहरू मर्छन् किनभने उनीहरूले प्राप्त गर्न सक्ने विभिन्न रोगहरूको कारण हुन सक्छ। यी रोगहरूमा क्यान्सर, स्ट्रोक, मधुमेह, र हृदय रोग समावेश छन्।
+
+२. बृद्धावस्था: बृद्धिको समयमा मानिसहरू मर्छन् किनभने उनीहरूको शरीरले प्राकृतिक रूपमा परिवर्तन हुन्छ र उनीहरूको स्वास्थ्यमा कमी आउन सक्छ। यसले उनीहरूलाई अन्य रोगहरू वा अन्य कारणहरूको कारण मृत्यु हुन सक्छ।
+
+३. आत्महत्या: मानिसहरू आत्महत्या गर्छन् किनभने उनीहरूले आफ्नो जीवनको अन्त्य गर्न चाहन्छन् वा उनीहरूको स्वास्थ्य वा समाजमा अन्य कारणहरूको कारण मृत्यु हुन सक्छ।
+
+४. दुर्घटना: मानिसहरू दुर्घटनाको कारण मृत्यु हुन सक्छन्, जस्तै सडक दुर्घटना, पानीको दुर्घटना, वा अन्य दुर्घटनाहरू। यी दुर्घटनाहरू अक्सर अन्तर्निहित कारणहरूको कारण हुन्छन्, जस्तै अन्तर्निहित कार्यहरू वा अन्य कारणहरूको कारण हुन सक्छ।
 ```
 
 ### Citation Information