Update app.py

app.py

@@ -14,7 +14,7 @@ DEFAULT_MAX_NEW_TOKENS = 1024
 MAX_INPUT_TOKEN_LENGTH = int(os.getenv("MAX_INPUT_TOKEN_LENGTH", "8192"))
 
 if torch.cuda.is_available():
-    model_id = "Rijgersberg/GEITje-7B-chat-v2"
+    model_id = "BramVanroy/GEITje-ultra"
     model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype=torch.float16, device_map="auto")
     tokenizer = AutoTokenizer.from_pretrained(model_id)
 
@@ -64,7 +64,7 @@ def generate(
 chat_interface = gr.ChatInterface(
     fn=generate,
     chatbot=gr.Chatbot(height=450,
-                      label="GEITje-chat-v2",
+                      label="GEITje-ultra",
                       show_share_button=True,
                       avatar_images=(None, 'geitje-logo.jpg')),
     # textbox=gr.Textbox(value="Typ een bericht…"),
@@ -133,12 +133,20 @@ Twee van de wortelbedrijven werkten mee door meer informatie over de ongeoorloof
 ```
 Vat bovenstaand artikel samen"""]
     ],
-    title="🐐 GEITje 7B chat-v2 🐐",
-    description="""Een ~eerste~ tweede chatbot op basis van GEITje 7B: een groot open Nederlands taalmodel. Gemaakt voor demonstratiedoeleinden.
+    title="🐐 GEITje ultra 🤖",
+    description="""\
+
+    GEITje ultra is een geavanceerde versie van GEITje, verder getraind op uitgebreide chat datasets en ook op preferentiedatasets om beter te aligneren met het gedrag van een gewenste chatbot, in dit geval gpt-4-turbo.
     
-    Generatieve taalmodellen maken fouten, controleer daarom feiten voordat je ze overneemt. GEITje-chat is niet uitgebreid getraind om _gealigned_ te zijn met menselijke waarden. Het is daarom mogelijk dat het problematische output genereert, zeker als het daartoe _geprompt_ wordt.
+    Dit model is een verderzetting op basis van "GEITje 7B: een groot open Nederlands taalmodel." Deze demo is ook enorm sterk gebaseerd op de originele <a href="https://huggingface.co/spaces/Rijgersberg/GEITje-7B-chat">Geitje Chat</a> demo.
     
-    Voor meer info over GEITje: zie de <a href="https://github.com/Rijgersberg/GEITje">📄 README op GitHub</a>.""",
+    Hoewel dit model gealigneerd is met AI feedback (gpt-4-turbo), kan en zal het nog steeds fouten maken, leugens vertellen, redeneringsfouten maken, en misschien wel stoute dingen vertellen. Gebruik dit model dus op eigen risico en controleer de output zelf!
+
+    Meer info:
+    - <a href="https://github.com/Rijgersberg/GEITje">📄 basismodel GEITje op GitHub</a>
+    - <a href="https://huggingface.co/BramVanroy/GEITje-ultra-sft">GEITje ultra SFT</a>: Chat-tuned versie van GEITje met uitgebreidere chat datasets dan de originele GEITje chat. Niet echt aangeraden voor gebruik - het is een tussenversie om tot de DPO versie (geitje-ultra) te komen
+    - <a href="https://huggingface.co/BramVanroy/GEITje-ultra">GEITje ultra</a>: Het model in deze demo, gebaseerd op GEITje ultra SFT en verder gealigneerd met AI feedback (gpt-4-turbo)
+    """,
     submit_btn="Genereer",
     stop_btn="Stop",
     retry_btn="🔄 Opnieuw",