haha1
from transformers import AutoModelForCausalLM, AutoTokenizer
def run_inference(model_path, input_text, max_length=200):
# Load tokenizer and model from the local path
tokenizer = AutoTokenizer.from_pretrained(model_path)
model = AutoModelForCausalLM.from_pretrained(model_path)
# Encode the input text
inputs = tokenizer(input_text, return_tensors="pt")
# Generate a response with specified max length
output = model.generate(**inputs, max_length=max_length)
# Decode the output
decoded_output = tokenizer.decode(output[0], skip_special_tokens=True)
return decoded_output
# Example usage
model_path = "./merged_model" # Replace with the path to your model
input_text = "ಬೆಂಗಳೂರಿನಲ್ಲಿ ಒಂದು ಸುಂದರವಾದ ದಿನವಿತ್ತು. ಬೆಳಗ್ಗೆಯ ಸೂರ್ಯ ಪ್ರಖರವಾಗಿದ್ದು"
output_length = 100 # You can specify the desired output length here
print(run_inference(model_path, input_text, output_length))
ಬೆಂಗಳೂರಿನಲ್ಲಿ ಒಂದು ಸುಂದರವಾದ ದಿನವಿತ್ತು. ಬೆಳಗ್ಗೆಯ ಸೂರ್ಯ ಪ್ರಖರವಾಗಿದ್ದುದರಿಂದ, ನಾನು ಒಂದು ಕಪ್ಪು ಬಟ್ಟೆಯ ಶರ್ಟು ಮತ್ತು ಒಂದು ಕಪ್ಪು ಬಣ್ಣದ ಟೀಶರ್ಟ್ ಧರಿಸಿ, ನನ್ನ ಬೈಕಿನಲ್ಲಿ ಕುಳಿತು, ನನ್ನ ಸ್ನೇಹಿತರ ಮನೆಗೆ ಹೋದೆ. ಅವರು ನಮ್ಮ ಮನೆಗೆ ಬಂದು, ನನ್ನ ಸ್ನೇಹಿತರು ನನಗೆ ಪರಿಚಯವಾದರು. ನಾನು ಅವರ ಮನೆಗೆ ಬಂದು, ನಾನು ಅವರ ಮನೆಯಲ್ಲಿ ಒಂದು ಸುಂದರವಾದ ದಿನವನ್ನು ಕಳೆದೆ
ಬೆಂಗಳೂರಿನಲ್ಲಿ ಒಂದು ಸುಂದರವಾದ ದಿನವಿತ್ತು. ಬೆಳಗ್ಗೆಯ ಸೂರ್ಯ ಪ್ರಖರವಾಗಿದ್ದು, ಬೆಂಗಳೂರಿನಲ್ಲಿ ಮೋಡ ಮುಸುಕಿದ್ದು, ರಸ್ತೆಗಳ ಮೇಲೆ ಮಳೆ ಹನಿಗಳು ಬಿದ್ದವು.
ಬೆಂಗಳೂರಿನಲ್ಲಿ ಒಂದು ಸುಂದರವಾದ ದಿನವಿತ್ತು. ಬೆಳಗ್ಗೆಯ ಸೂರ್ಯ ಪ್ರಖರವಾಗಿದ್ದು, ಮೋಡಗಳು ಕರಗಿ, ಸೂರ್ಯನ ಕಿರಣಗಳು ಭೂಮಿಗೆ ಬಿದ್ದಿದ್ದವು. ಆ ದಿನ, ಆ ಕ್ಷಣ, ಆ ಕ್ಷಣದ ಆ ಕ್ಷಣದ ಆ ಕ್ಷಣದ ಆ ಕ್ಷಣದ ಆ ಕ್ಷಣದ ಆ ಕ್ಷಣದ ಆ ಕ್ಷಣದ ಆ ಕ್ಷಣದ ಆ ಕ್ಷಣದ ಆ ಕ್ಷಣದ ಆ ಕ್ಷಣದ ಆ ಕ್ಷಣದ ಆ ಕ್ಷಣದ ಆ ಕ್ಷಣದ ಆ ಕ್ಷಣದ ಆ ಕ್ಷಣದ ಆ
ಬೆಂಗಳೂರಿನಲ್ಲಿ ಒಂದು ಸುಂದರವಾದ ದಿನವಿತ್ತು. ಬೆಳಗ್ಗೆಯ ಸೂರ್ಯ ಪ್ರಖರವಾಗಿದ್ದು, ಆ ಬೆಳಕಿನಲ್ಲಿ, ನಮ್ಮ ಮನೆಯ ಮುಂದೆ, ಮನೆಯ ಜಗಲಿಯ ಮೇಲೆ, ನಮ್ಮ ಮನೆಯೊಳಗಡೆಯ ತೂಗುಯ್ಯಾಲೆಯಂತಿದ್ದ ಈ ದೀಪದಲ್ಲಿ, ಒಂದು ಸಂಜೆ...
ಬೆಂಗಳೂರಿನಲ್ಲಿ ಒಂದು ಸುಂದರವಾದ ದಿನವಿತ್ತು. ಬೆಳಗ್ಗೆಯ ಸೂರ್ಯ ಪ್ರಖರವಾಗಿದ್ದು. ಆ ದಿನ ನಾಲ್ಕು ಗಂಟೆ ಆಸು ಪಾಸಿನಲ್ಲಿತ್ತು. ಆಫೀಸಿಗೆ ಹೊರಡುತ್ತಿದ್ದ ಹಾಗೆ, ನಾನು ಮನೆಯಿಂದ ಹೊರಗೆ ಬಂದು, ನನ್ನ ಬೈಕ್ ಹತ್ತಿ, ಮನೆ ಮುಂದೆ ಬಂದು, ಬೈಕ್ ಸ್ಟಾರ್ಟ್ ಮಾಡಿ, ನಾನು ಮನೆಯಿಂದ ಹೊರಟೆ. ನನ್ನ ಬೈಕ್ ರಸ್ತೆಯ ಮಧ್ಯದಲ್ಲಿ ಹೋಗುತ್ತಿತ್ತು. ನಾನು ಆಫೀಸಿಗೆ ಹೋಗುತ್ತಿದ್ದೆ. ನನ್ನ ಬೈಕ್ ರಸ್ತೆಯ ಮಧ್ಯದಲ್ಲಿ ಹೋಗುತ್ತಿತ್ತು.
ಬೆಂಗಳೂರಿನಲ್ಲಿ ಒಂದು ಸುಂದರವಾದ ದಿನವಿತ್ತು. ಬೆಳಗ್ಗೆಯ ಸೂರ್ಯ ಪ್ರಖರವಾಗಿದ್ದು, ಮೋಡ ಮುಸುಕಿದ ವಾತಾವರಣವಿತ್ತು. ಆ ದಿನ ನಾನು ಸ್ನೇಹಿತರೊಂದಿಗೆ ಲಾಲ್‌ಬಾಗ್‌ಗೆ ಭೇಟಿ ಕೊಟ್ಟಿದ್ದೆವು. ಸಂಜೆ ನಾಲ್ಕು ಗಂಟೆಯ ಹೊತ್ತಿಗೆ ಲಾಲ್‌ಬಾಗ್‌ನ ರಸ್ತೆಗಳು ಜನಜಂಗುಳಿಯಿಂದ ತುಂಬಿ ತುಳುಕುತ್ತಿದ್ದವು.