Update README.md

README.md

@@ -52,26 +52,21 @@ pip install git+https://github.com/HazyResearch/flash-attention.git@v2.1.1#subdi
 ```
 Then load the model in transformers:
 ```python
-from transformers import AutoModelForCausalLM, AutoTokenizer
-import torch
-
-model = AutoModelForCausalLM.from_pretrained(
-    "LeoLM/leo-hessianai-7b-chat",
-    torch_dtype=torch.float16,
-    trust_remote_code=True              # True for flash-attn, else False
-)
-tokenizer = AutoTokenizer.from_pretrained("LeoLM/leo-hessianai-7b-chat")
+from transformers import pipeline
 
 system_prompt = """<|im_start|>system
 Dies ist eine Unterhaltung zwischen einem intelligenten, hilfsbereitem KI-Assistenten und einem Nutzer.
 Der Assistent gibt ausführliche, hilfreiche und ehrliche Antworten.<|im_end|>
 
 """
-
 prompt_format = "<|im_start|>user\n{prompt}<|im_end|>\n<|im_start|>assistant\n"
 prompt = "Erkläre mir wie die Fahrradwegesituation in Hamburg ist."
 
-response, history = model.chat(tokenizer, prompt_format.format(prompt=prompt), history=None)
+generator = pipeline(model="LeoLM/leo-hessianai-7b-chat", device="cuda", torch_dtype=torch.float16, trust_remote_code=True) # True for flash-attn2 else False
+print(generator(prompt_format.format(prompt=prompt), do_sample=True, top_p=0.95, max_length=8192))
+> Als KI kann ich keine persönlichen Beobachtungen teilen, aber ich kann einige allgemeine Informationen zur Fahrradwegesituation in Hamburg liefern. Im Vergleich zu vielen anderen großen Städten hat Hamburg eine hohe Anzahl von Fahrradfahrern und nimmt seine Verantwortung für nachhaltige Verkehrsmittel sehr ernst. Es gibt viele Fahrradwege und separate Fahrspuren, die Radfahrern ermöglichen, zusammen mit dem Autoverkehr zu fahren. Diese Fahrradspuren sind oft mit Markierungen gekennzeichnet und durch physische Trennungen von anderen Fahrspuren abgegrenzt. Darüber hinaus gibt es viele Fahrradstraßen, auf denen Radfahrer Vorfahrt haben und Autos langsamer fahren müssen.
+>
+> In einigen städtischen Gebieten können Fahrradwege jedoch eng oder überfüllt sein, besonders während der Stoßzeiten. Es gibt auch viele Kreuzungen, an denen Radfahrer anhalten und auf Grün warten müssen, ähnlich wie Autofahrer. Insgesamt ist die Fahrradinfrastruktur in Hamburg ziemlich gut, aber wie überall gibt es immer Raum für Verbesserungen.
 ```
 
 ## Prompting / Prompt Template
@@ -110,6 +105,12 @@ perform safety testing and tuning tailored to their specific applications of the
 
 Please see Meta's [Responsible Use Guide](https://ai.meta.com/llama/responsible-use-guide/).
 
+## Finetuning Details
+```
+Examples per epoch131214
+
+```
+
 ## Dataset Details
 ```
 ## Stats for 'Subset of OpenAssistant/OASST-DE' (3534 samples (100.0%))